JPH0362690A - 動き補正付きテレビジョン信号方式変換器 - Google Patents

動き補正付きテレビジョン信号方式変換器

Info

Publication number
JPH0362690A
JPH0362690A JP2110811A JP11081190A JPH0362690A JP H0362690 A JPH0362690 A JP H0362690A JP 2110811 A JP2110811 A JP 2110811A JP 11081190 A JP11081190 A JP 11081190A JP H0362690 A JPH0362690 A JP H0362690A
Authority
JP
Japan
Prior art keywords
motion vector
motion
block
frame
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2110811A
Other languages
English (en)
Other versions
JP3298104B2 (ja
Inventor
Samatsudo Rafuaeru
ラファエル サマッド
Henrii Giraado Kuriibu
クリーブ ヘンリー ギラード
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPH0362690A publication Critical patent/JPH0362690A/ja
Application granted granted Critical
Publication of JP3298104B2 publication Critical patent/JP3298104B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • G06T7/231Analysis of motion using block-matching using full search
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/521Processing of motion vectors for estimating the reliability of the determined motion vectors or motion vector field, e.g. for smoothing the motion vector field or for correcting motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/523Motion estimation or motion compensation with sub-pixel accuracy
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/55Motion estimation with spatial constraints, e.g. at image or region borders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/553Motion estimation dealing with occlusions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/57Motion estimation characterised by a search window with variable size or shape
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/012Conversion between an interlaced and a progressive signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0125Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level one of the standards being a high definition standard
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 [産業上の利用分野〕 本発明は、動き適応型のビデオ信号処理に関し、より詳
しくは、そのような信号処理を使用する動き補正付きテ
レビジョン信号方式変換器に関する。
[発明の概要] 本発明は、動き適応型のビデオ信号処理を用いる動き補
正付きテレビジョン信号方式変換器に関し、ビデオ信号
の第1のフィールド又はフレームのブロックとそのビデ
オ信号の次のフィールド又はフレームの複数のブロック
とを比較して、その第1のフィールド又はフレームとそ
の次のフィールド又はフレームとの間のそれらブロック
の夫々の内容の動きを表わす動きベクトルを導出する手
段と、そのフィールド又はフレームの境界領域の近傍の
それらブロックの夫々に対して、対象となっているその
ブロックの近傍に存在すると共にその境界領域には存在
しないそのブロック用として導出された動きベクトルの
中から選別した動きヘクトルを割り当てる手段と、その
動きベクトルに依存して制御される補間手段とを設ける
ことにより、そのフィールド又はフレームの境界領域の
近傍のブロックの動きベクトルとその境界領域には存在
しない他のブロックの動きベクトルとの間に大きな変化
が生しることを防止して、得られる画像にブロック処理
の影響が表われるのを防止するようにしたものである。
[従来の技術] テレビジョン信号方式(ビデオ信号の標準方式)の変換
器は、例えばビデオ信号を50フィールド/秒且つ62
5ライン/フレームの標準方式から60フィールド/秒
且つ525ライン/フレームの標準方式に変換する如く
、ビデオ信号を−の標準方式から他の標準方式へ変換す
る装置として周知である。
ビデオ信号に付随する時間方向及び垂直方向の折り返し
歪により、単純な線形補間技術を使用するだけでは高画
質のビデオ信号の標準方式の変換は達成されない。この
ため、単純な線形補間を行ったのでは処理結果としての
画像に不要な人工的なノイズが混入し、特にその画像は
垂直方向にボケると共に時間方向に振動する。
これらの問題を解決するため、ビデオ信号の標準方式の
変換装置に入力ビデオ信号により表される画像の動きの
程度に応じて線形補間回路のパラメータを切り換える適
応制御技術を用いることが提案されている。
また、例えばビデオ信号処理におけるデータ圧縮のため
、ブロック整合技術により入力されるビデオ信号から動
きベクトルを生成することも提案されている。このブロ
ック整合技術においては、成るフィールド又はフレーム
のサーチブロックの内容がそれに続くフィールド又はフ
レームのサーチエリア内の複数のサーチブロックの夫々
の内容と比較され、そのように比較される内容の間の最
小偏差ひいては(仮に存在するならば)その原サーチブ
ロックの内容の動きの方向及び距離が決定される。
[発明が解決しようとする課題] しかしながら、その場合ブロック整合を行う場合、その
フィールド又はフレームの周辺部の境界領域に隣接する
サーチブロックについては、ブロック整合を行うのに充
分な広さのサーチエリアを確保することができないので
、良好な動きベクトルを求めることができない不都合が
ある。
本発明は斯かる点に鑑み、そのフィールド又はフレーム
の周辺部の境界領域の近傍のサーチブロックに対しても
良好な動きベクトルを割り当てることができる動き補正
付きテレビジョン信号方式変換器を提供することを目的
とする。
[課題を解決するための手段] 本発明による動き補正付きテレビジョン方式変換器は、
ビデオ信号の第1のフィールド又はフレームのブロック
とそのビデオ信号の次のフィールド又はフレームの複数
のブロックとを比較して、その第1のフィールド又はフ
レームとその次のフィールド又はフレームとの間のそれ
らブロックの夫々の内容の動きを表わす動きベクトルを
導出する手段と、そのフィールド又はフレームの境界領
域の近傍の(例えば境界領域に隣接する)それらブロッ
クの夫々に対して、対象となっているそのブロックの近
傍に存在すると共にその境界領域には存在しないそのブ
ロック用として導出された動きベクトルの中から選別し
た動きベクトルを割り当てる手段と、その動きベクトル
に依存して制御される補間手段とを有するものである。
〔作用〕
斯かる本発明によれば、そのフィールド又はフレームの
境界領域の近傍のブロックに対してはそのブロックの近
傍に存在すると共にその境界領域には存在しないブロッ
ク用として導出された動きベクトルの中から選別した動
きベクトルが割り当てられるので、その境界領域の近傍
のブロックの動きベクトルの値とその他のブロックの動
きベクトルの値との間に大きな不連続性が発生すること
がない。従って、最終的に得られる画像にブロック処理
に起因する画質劣化が発生することがない。
[実施例] 以下、本発明の一実施例につき図面を参照して説明しよ
う。本例は、60フイ一ルド/秒且っ1125ライン/
フレームの高品位ビデオ信号(HDVS)を24フレ一
ム/秒の35mmフィルム用のビデオ信号に変換するビ
デオ信号の標準方式の変換装置に本発明を適用したもの
である。しかしながら、本発明はこれに限定されず容易
に他の標準方式間の変換装置にも適用することができる
第1図は本例の標準方式の変換装置のブロック図であり
、この第1図において、入力端子(1)に入力ビデオ信
号を供給する。その入力端子(1)を順次走査変換手段
(2)に接続し、この手段で人力ビデオフィールドをビ
デオフレームに変換し、このビデオフレームを相関面を
生成するための直接ブロック整合手段(3)に供給する
。動きベクトル評価手段(4)がこれらの相関面を解析
して生成した動きベクトルを動きベクトル減少手段(5
)ムこ供給し、この動きベクトル減少手段(5)が個々
の画素の動きベクトルの数を減少させた後に、これら動
きベクトル及び順次走査変換手段(2)の出力を動きベ
クトル選別手段(6)に供給する。その動きベグトル選
別手段(6)による動きベクトルの選別において発見さ
れた如何なる不規則性も動きベクトル後処理手段(7)
により除去され、この動きベクトル後処理手段(7)は
処理後の動きベクトルを補間手段(8)に供給すると共
にこの補間手段(8)を制御し、この補間手段(8)に
は順次走査変換手段(2)の出力をも供給する。標準方
式が変換され且つ動き補償のなされたビデオ信号である
補間手段(8)の出力を出力端子(9)に供給する。本
例の標準方式の変換装置の各構成部及びそれらの動作に
つき以下で詳細に説明する。
順次走査変換手段(2)は入力フィールドと同し周波数
で出力フレームを生成する。従って、一連の連続したフ
ィールドにおける一連の連続したライン(水平走査ライ
ン)を図示する第2図において、入力フィールドに存在
するライン(水平走査ライン)を十字形で示し補間され
たラインを正方形で示すように、個々の出力フレームは
人力フィールドのラインの2倍の数のラインを含み、そ
れらのラインは人力ビデオ信号のラインと下記の方法の
内の何れかの方法により補間されたラインとが互い違い
になっている。それら補間されたラインは人力フィール
ドに対して同じ時間軸上の且つ逆極性の補間フィールド
と考えることができる。
順次走査変換を実行するのは主に2つの理由による。第
■に、それに続く直接ブロック整合処理を容易にするた
めであり、第2に最終的に出力されるビデオ信号のフォ
ーマットを考慮したものである。これら2つの理由をよ
り詳細に説明する。
直接ブロック整合処理は次に詳細に述べるように、2つ
の連続するビデオフィールド間の水平方向及び垂直方向
の動きの正確な評価を行うために用いられる。しかしな
がら、直接ブロック整合が施されるビデオ信号のインタ
ーレース構造により、問題が生じ得る。
第3図により表される画像につき考えるに、この第3図
は一連の連続するフィールドにおける一連の連続するラ
インにおいて、白レベルの画素を白い正方形で、黒レベ
ルの画素を黒い正方形で、更にグレイレベルの画素を斜
線が施された正方形で表す。この場合は垂直方向の周波
数が)IDVS方式%式% イクル/像高)に相当する垂直方向の構造が微細な静止
画が表示されている。この画像を通常のインターレース
走査処理でサンプルすると、個々のフィールドは第4図
に示す如く何れも垂直方向の周波数が1125/6 c
phの静止している輝度成分Yを含んでいる如く見える
。しかしながら、個々のフィールドの周波数成分の位相
は逆相である。これらのフィールド間で直接ブロック整
合を実施すると、垂直方向の動き成分として多数の不正
確な且つ異なった値が得られる。この状態が第5図に示
され、この第5図において短縮語のLPFはライン/フ
ィールド(lines per field)を意味す
る。
第4図例の動き成分の値は実際には0であるべきである
が、第5図によれば、直接ブロック整合はその垂直方向
の動き成分について正確な答えを与えないことが明かで
ある。このことは、その直接ブロック整合は実際には現
実の動きではなくそのビデオ信号の異なる成分を追跡し
ていることに起因する。
第3図と同様な静止画を表示する第6図について考える
に、この場合各人カフイールドは順次走査に変換されて
フレームを形威し、三角形が補間された画素を表す。こ
の例では各フレームは原人カフイールドと同し静止状態
の垂直方向の周波数成分、即ち周波数1125/3 c
phの成分を含む。従って、本例では2個の連続するフ
レーム間の直接ブロック整合により垂直方向の動きに対
する正確な値即ちOが得られ、垂直方向の異なる位置の
値を比較することが回避される。更に、順次走査に変換
されたフレームに直接ブロック整合処理を施すと、その
直接ブロック整合処理が2倍のラインを有するフレーム
に施されることになるため、より正確に垂直方向の動き
の評価ができるようになることが重要である。
この実施例において最終的に得られるビデオ信号のフォ
ーマットを考慮すると、この変換されたビデオ信号はテ
ープを介して電子ビーム式の記録装置に供給されるので
、24フレ一ム/秒の動画フィルム用の周波数のフレー
ムから構成する必要がある。このため、順次走査に変換
されたフレームの生成が必要であり、更に、例えば動き
の状態が多様すぎて満足に解析できない場合のように動
き補償のなされた標準方式の変換が受は入れられない結
果を生じる虞がある場合にも、その順次走査に変換され
たフレームは極めて有効に使用される。
この場合には、必要とされる出力フレームとしてほとん
ど順次走査に変換されたフレームを使用すると充分に受
は入れられる結果が得られる。
順次走査への変換は多くの方法で実行でき、その方法に
は例えば前フィールドによる置換、3木の空間的に連続
するライン(これら3本のラインは時間的には2個の連
続するフィールドに属する)のメジアンを求めるメジア
ンフィルター又は多段階の動き検出に続いて多方向の線
形補間を行う動き補償のなされた技術がある。しかし、
この実施例には第7図に各ステップが示されている動き
適応型の順次走査変換が好適である。この変換では、完
全な静止画領域では垂直方向の情報をできるだけ保つた
めにフィールド間補間を使用し、動きが大きいときには
フィールド内袖間を使用する。これにより更に動きが滑
らかに表現される。動きの程度がこれら両極端の間であ
るときには、その画像の中に存在する局所的な動きの評
価がなされ、この評価結果によりフィールド間補間とフ
ィールド内袖間とが夫々異なる割合で混合される。
更に詳しく述べるに、第8図に示す如く、前フィールド
と次フィールドとのフレーム差の係数が先ず生成される
。必要とされる評価量を生成するためには、前フィール
ド及び次フィールドからの次式により定義されるフレー
ム間の差分係数配列が各点毎に生成される。
ΔU (画素、現ライン、現フィールド)=Y(画素、
現ライン、次フィールド)−Y(画素、現ライン、前フ
ィールド) この式において、Δ、は正規化されていない差分係数配
列、Yは3次元画像に対応する輝度配列である。
その差分係数はその後低輝度領域の変化の大きさを調整
するために次のように正規化される。
ΔN (画素、現ライン、現フィールド)−F (Y 
(画素、現ライン))* ΔU (画素、現ライン、現フィールド)この式におい
て、Δ8は正規化された差分係数配列、Yはフレーム間
の平均輝度レベルであり、Y(画素、現ライン)− (Y (画素、現ライン、前フィールド)+Y(画素、
現ライン、次フィールド))/2が成立し、F(Y)(
正規化関数)はYに対して第9図に示すような関数とな
る。
その差分配列Δにはその次のフィールドの差分配列と共
に3タツプフイルタ(タップ係数が例えば1/4.1/
2.1/4又は0.1. O)により垂直方向のフィル
タリングが施され、垂直方向の折り返し歪が減少される
と共に、特に時間方向の折り返し歪が最小になされる。
従って、 ΔF (画素5現ライン、現フィールド)−ΔN (画
素、現ラインー1.前フィールド)*C1+ΔN (画
素、現ライン、現フィールド)*C2+ΔN (画素、
現ライン+1.前フィールド)*C1 が成立し、この式において、Δ、はフィルタ通過後の正
規化された差分配列、C1及びC2はフィルタ係数であ
り、直流ゲインが1に維持されるように2C1+C2=
1に設定される。
その後5タップ×15タップ程度までの垂直方向及び水
平方向のフィールド内フィルタにより現フイールド内の
差分値が平滑化される。実際には、3タツプ×3タツプ
のフィルタで充分である。最後に、実際の動きの評価を
行うために、次式で定義される動き評価量(ME)を表
す関数を使用して非線形関数が適用される。
ME(画素、現ライン)= T(空間周波数領域でフィルタがかけられたΔF (画
素、現ライン)) その非線形関数γは第10図に示す如く導出され、静止
画に対してはMEの値は0、完全な動画に対してはME
の値は1、中間領域の画像に対してはMEの値は過渡的
な値となる。
補間された画素を生成するために、第11図に示す如く
、周辺のラインの加重平均をとることによりその欠けて
いる(未完成)のラインの画素が生成される。それから
動き評価量MEがフレーム内で補間された値(2,4,
6又は好ましくは8タツプフイルタにより生成される)
に適用され、評価fit(1−ME)がフィールド間の
平均値(又はより複雑な補間値)に適用され、これらの
結果が加算されて次式で定義される順次走査の画素の評
価量が導出される。
Yout (画素、現ライン)= ME(画素、現ライン)* ルド)+Yin(画素、現ライン+1+2n、現フィー
ルド))*Cn) + (1−ME)(画素、現ライン
)*(Yin(画素、現ライン、前フィールド)十Yi
n(画素、現ライン、次フィールド))/2ここに、C
O,CI、C2及びC3はフレーム内のフィルタ係数で
あり、直流ゲインをlに維持するために2 (CO+C
1+C2+C3)=1に設定される。
この順次走査変換の方法によれば入力フィールドより高
品質のフレームが生成されるが、これは主に動体が分離
されて静止している背景とは異なる方法で補間されるこ
とによる。
第1図に戻り、順次走査変換手段(2)により導出され
たビデオ信号のフレームを動きベクトルを導出するため
に使用する。動きヘクトルの評価は2つのステップより
構成される。第1に、連続するフレームから選ばれたサ
ーチブロックの相関を取ることにより相関面が生成され
る。これら相関面が得られた後に、これらは相関が最も
良好な1個又は複数の位置を決定するために検査される
相関面を得る方法には数種類の方法があるが、その内の
主な2個の方法は位相相関法及び直接ブロック整合法で
ある。しかしながら、位相相関法の使用には多くの問題
があり、これらの問題は手短かに言うと変換メカニズム
、ウィンドウ関数、ブロックの大きさ及び生成される相
関面の輪郭の変動し易い性質に関連する。そのため、こ
の実施例では直接ブロック整合法を使用する。
直接ブロック整合手段(3)は次のように動作する。こ
の場合、順次走査に変換されたビデオ信号の連続するフ
レームの画素の矩形の配列よりなる2個のブロックの相
関をとることにより、相関面が生成され、この相関面よ
り動きベクトルが導出される。
第12図に示す如く、先ず1フレームより32画素×2
3ラインの大きさのサーチブロックと称する小さなブロ
ックを取り出す。それから、その次のフレームより12
8画素×69ラインの大きさのサーチエリアと称するよ
り大きなブロックを取り出す。
そのサーチブロック(SB)を第13図に示す如くサー
チエリア(SA)中の可能な位置(全部で96×46の
位置がある)の夫々に配し、夫々の位置でそれら2個の
ブロック間の画素の輝度レベルの差分の絶対値の和を計
算する。この計算結果がこの結果が導出された位置にお
ける相関面の高さとして使用される。この計算結果をサ
ーチエリア内のサーチブロックの可能な位置の夫々につ
いて導出された結果と共に使用することにより、第14
図に一例を示すような相関面が得られる。理解を容易に
するためその相関面は反転して示してあり、実際に必要
とされるのは最小値であるため、第14図において必要
とされる点は最も大きなピークである。
サーチブロックの大きさは動き補償が必要とされる物体
の最小の大きさを調べることにより選択される。625
ライン/フレーム且つ50フイ一ルド/秒のPAL方式
の信号に対しては、16画素×8ラインのサーチブロッ
クが小さな物体の追跡に適していることが分かっており
、この場合にはその物体の中には存在しないがそのサー
チブロックの中には存在する如何なる周囲の情報もその
物体の追跡を妨害することがない。このため、本例では
その方法が採用されたが、HDVS方式では62515
0のPAL方式に比べて有効画素数/ライン、有効ライ
ン数/フレーム及びアスペクト比が異なることに鑑みて
修正が加えられている。+1 D V S方式の場合を
最初にして両者の値を示すと、有効画素数/ラインは1
920 (720) 、有効ライン数/フレームは10
35(575)及びアスペクト比は3:5.33(3:
4)となる。
より大きな物体を追跡するために、より大きなサーチブ
ロックを使用する方法もある。一方、大きな物体又は背
景の効果により小さな物体が覆い隠されてしまうことを
防ぐため、より小さなサーチブロックを使用する方法も
考えられる。しかしながら、小さなサーチブロックを使
用した場合には、個々のサーチブロックについて1個を
超える動きベクトルを導出する必要がないという利点が
ある。1個の動きベクトルを導出するのはそれを超える
数の動きベクトルを導出するよりも極めて容易であるた
め、本例では上述の小さなサーチブロックを先ず使用し
、満足な結果が得られなかった場合にそのサーチブロッ
クをより大きなサーチブロックに成長させる。これによ
り小さなサーチブロック及び大きなサーチブロックの両
方の利点を享受できる。満足な結果か否かの判定条件は
次に詳細に説明する動きベクトル評価手段(4)(第1
図)により設定され、この動きベクトル評価手段(4)
が与えられた相関面より動きベクトルを決定する。
サーチブロックを次第に大きくする技術はより大きな物
体を追跡するためにのみ有効であるのではない。それに
よれば周期的な規則的パターンの形状を有する物体の動
きの追跡にも役立つ。従って、第15図に示す如く、サ
ーチブロックAがサーチエリアBに対して位置Vl、 
V2及びv3で整合し、夫々の位置で一見正確な動き量
が得られる場合を考慮する。しかしながら、この場合実
際に相関面を解析するプロセスである動きベクトルの評
価により、同一直線上に存在する3箇所の位置で相関が
良好になることが分かる。従って、そのサーチブロック
は水平方向に元の幅の3倍の長さになるまで成長させら
れ、この方向はこの例で多重の良好な相関が発生した方
向である。サーチエリアもそれに対応して水平方向に拡
大される。第16図に示す如く、その拡大したサーチブ
ロック(3A)を使用すれば、相関が良好な点は1点の
みとなり、それによりその物体の動きが正確に検出され
る。
この特別な場合には、多重相関の方向が水平方向である
ため、サーチブロック及びサーチエリアの両方を水平方
向に成長させる必要がある。しかしながら相関面の状態
によっては、サーチブロック及びサーチエリアを垂直方
向に成長させなければならない場合もあり、実際に水平
方向及び垂直方向の両方に成長させなければならない場
合もある。
境界領域にはサーチエリアを切り出す充分な余地がない
ため、ブロック整合は必ずしもそのフレーム中の全ての
サーチブロックに適用できるとは限らない。従って、ブ
ロック整合はそのフレームの第17図に斜線で示す境界
領域では実行することができない。この問題点は以下に
説明する動きベクトル減少手段(5)(第1図)により
処理され、この動きベクトル減少手段(5)はその斜線
を施した領域のサーチブロックに適当な動きベクトルを
供給する。
1フレーム中の個々のサーチブロックに対して生成され
る相関面(第14図)より、動きベクトル評価手段(4
)(第1図)はそのサーチブロックとそれに対応するサ
ーチエリアとの間のフレーム間の動きらしき量を推定す
る。再度述べるに、理解を容易にするため相関面の全て
の図は反転して示され、最小値がピークとして示されて
いる。
動きベクトル評価手段(4)(第1図)は動きベクトル
の評価アルゴリズムを使用して各相関面上の最小値の点
(相関が最大の点)を検出する。この点がサーチブロッ
クとサーチエリアとの間の相関が最大となる点を示し、
ひいてはこの点により略それらブロック間の動きと認め
られる量が示される。その相関面上の原点(本例ではそ
の面の中央に存在する)に対するこの最小値の変位が、
画素/フレームを単位とするその動きの直接的な測定値
になる。その相関面が唯一の孤立した最小値を有すると
いう最も単純な場合には、その相関面上の最小値の点を
検出するだけでサーチブロックとサーチエリアとの間の
動き量を正確に決定することができる。前に述べた如く
、小さなサーチブロックを使用すれば動き検出及び動き
評価の精度を改善することができるが、小さな1個のサ
ーチブロックでは次に述べる多くの場合に動きを検出す
ることができない。
動きベクトルを(水平方向の画素単位の動き。
垂直方向の画素単位の動き)で表した場合、第18図は
動きベクトル(5,0)を有し成るフレーム(1)内で
サーチブロック(14)、 (2A)及び(3A)にま
たがる物体を示す。サーチブロック(IA)及び(3A
)とその次のフレーム(t+1)の対応するサーチエリ
ア((IB)及び(3B) )との相関をとると、第1
9図に示す相関面には(5,0)の位置に最小値(図面
上では反転)が現れる。(但し、ビデオソースにノイズ
は含まれていないと仮定している。)しかしながら、サ
ーチブロック(2A)とそれに対応するサーチエリア(
2B)との相関をとると、第20図に示す相関面が生成
され、この相関面においてサーチブロック(2A)とサ
ーチエリア(2B)とはy方向の全ての点で相関が高く
なる。従って、その相関面には唯一の最小値の点は存在
せず、そのサーチブロック(2A)とサーチエリア(2
B)との間の動きを決定することができない。
しかしながら、サーチブロック(2A)が成長して元の
サーチブロック(1^)、 (2A)及び(3A)を覆
う場合を考えてみる。その成長後のサーチブロック(2
A)と元のサーチエリア(IB)、 (2B)及び(3
B)を覆うサーチエリアとの相関をとることにより、第
21図に示すような相関面が得られる。これにより位置
(5,0)に元のサーチブロック(2A)の正確な動き
を示す唯一の最小点が存在することが分かる。この例に
より、正確に動きを検出するためにはソースビデオ信号
に何らかの特徴がなければならないことが分かる。即ち
、サーチブロック(1八)及び(3A)には垂直方向及
び水平方向にその物体のエツジが存在するという特徴が
あるため、動きが検出できる。それに対して、サーチブ
ロック(2A)には垂直方向に特徴的な形態が存在して
も水平方向には特徴がないため、水平方向の動きを検出
することができない。しかしながら、そのサーチブロッ
クを水平方向及び垂直方向の両方向に特徴を有するよう
になるまで成長させることにより、そのサーチブロック
の完全な動きが決定できるようになる。更に、ソースビ
デオ信号中のノイズを考慮するとそのサーチブロックを
成長させることには別の利点がある。
第22図を参照して他の例について検討する。この例は
動きベクトルが(5,3)であるサーチブロックに対す
る相関面を示す。しかしながら、そのサーチブロックと
そのサーチエリアとの間の他の多くの相関が良好な点に
より、真の動きが検出し難くなっている。そのような相
関面を生成するソースビデオ信号の例は例えば風で揺れ
ている低コントラストの木であろう。これからそのサー
チブロック及びサーチエリアが成長するものと仮定する
その成長は先の例のように水平方向に生してもよく、又
は垂直方向に生してもよく、又は両方向に生してもよい
。隣合うサーチブロックが同し動きをする場合には、そ
の結果生じる相関面に対する平均的な効果により他の相
関が良好なピークの大きさに比べて位置(5,3)の最
小ピークの大きさがずっと大きな割合で増加する。この
状態を第23図に示し、これにより正確な動きベクトル
をより容易に検出できることが分かる。
サーチブロックが成長する状態について第18図を参照
して更に検討する。本例ではサーチブロック(2A)の
領域を成長させてサーチブロック(IA)及び(3A)
の領域を覆い、それに対応する相関面を生成することが
必要である。実際に、対応する相関面はサーチブロック
(IA)、 (2A)及び(3A)に対応する3個の相
関面の個々の要素を加算することにより直接生成される
実際には、各相関面を複数の点の値のマトリックスであ
ると考えると、その拡大されたサーチブロック(2A)
の相関面は元のサーチブロック(IA)。
(2八)及び(3A)の相関面のマトリックスの加算に
相当する。
そのサーチブロック(2^)の領域は上下のサーチブロ
ックの相関面を加算することにより垂直方向にも成長さ
せることができる。一方、そのサーチブロック(2八)
を水平方向及び垂直方向の両方向に成長させるには、4
個の対角線方向の相関面をも同様に加算しなければなら
ない。このことより成るサーチブロックを隣りのサーチ
ブロックを覆うように成長させる実際のプロセスは比較
的容易であることが分かるが、より困難なプロセスはい
っその成長を起こせるかを決定すること及び近傍のどの
サーチブロックまでその成長を行わせるかを決定するこ
とである。基本的には、その答えは良好な最小値即ち良
好な動きベクトルが検出されるまでそのサーチブロック
の領域を成長させなければならないということである。
従って、成る動きベクトルが良好なベクトルとして検出
されたときを特定することが必要となり、これは実際に
上述の例より推定することができる。
第18図〜第21図を参照して述べた例においては、そ
の物体の水平方向の唯一の特徴を捉えて唯一の最小値を
得るためにそのサーチブロックを水平方向に成長させる
必要があった。この状況は第20図の相関面上には同一
の最小値の列が存在すること及び第21図の相関面上に
は唯一の最小値のみが存在することによって理解するこ
とができる。このことより良好な最小値の判定条件が得
られ、それら良好な最小値の点とはその相関面上の最も
値が小さい点であり、その点の値とその次に最も値が小
さい点の値との差が成る与えられた値を超えるというこ
とである。この成る与えられた値は闇値として知られ、
この判定条件を充足するか否かの検査をここでは闇値テ
ストと言う。
その次に最も値が小さい点は、以下に述べるリングテス
トと称される別のテストにおいては生じることがない点
に注意すべきである。3個のリング(輪)を使用するリ
ングテストの場合には、最良の最小値の点の候補として
の3個の画素の中にはその次に最も値が小さい点は存在
しない。第18図〜第21図の例では、第20図の相関
面の良好な最小値は闇値テストでは特定することができ
ない。
従って、サーチエリア(2A)は成長させられ、成る適
当な闇値の下で第21図の相関面の良好な最小値が闇値
テストにより特定される。
そのrA値テストは、第22図及び第23図を参照して
上述した例において領域を成長させる場合にも使用する
ことができる。サーチブロックを成長させる前には、周
囲に同程度の値の点が存在するため正確な最小値を検出
することができない。従って、成る適当な闇値が与えら
れても、その相関面は闇値テストをクリアすることがで
きないので、そのサーチブロックは成長することになる
。その結果として、他の見せかけの最小点の中から真の
最ノド値の点を検出することが可能になる。
闇値の使用は主観的なテストであると思われるかもしれ
ないが、検査対象の相関面の内部における値の変動範囲
の一部に収まるようにその闇値を正規化することにより
、その相関面の正確な闇値を選択することができる。こ
れにより例えばビデオソースのコントラストの影響を軽
減することができる。
上述のリングテストは主観的な傾向はずっと少なく、以
下その内容を詳細に説明する。そのリングテストの前提
は、良好な最小(! (又は最大値)の点にはその点を
囲む次第に大きさが減少する(又は増大する)複数の点
が存在するということである。この前提を図示する第2
4図において、原点(0,0)の最小値を囲むように夫
々平均の大きさが次第に減少する複数の点よりなる3個
のリングがある。これは第25図に示す相関面とは異な
っており、この第25図例では複数のリング、特に中心
から2番目のリングの平均の大きさが次第に減少しては
いない。
この場合、そのリングテストにより定義される良好な最
小値を得るための判断条件は、平均の傾きが単調である
ことである。従って、問題となっている最小値を囲む点
の予め定められた数のリングに対して、内側から外側に
向かう個々のリングの平均の大きさは前のリングの大き
さよりも大きくなければならない(図面上では小さくな
る)。
第18図〜第21図を参照して述べた例に再び戻り、第
20図及び第21図より第20図の相関面はそのリング
テストをクリアすることができない(最小値が特定でき
ない)が、第21図の相関面はそのリングテストをクリ
アできることが分かる。そのリングテストは絶対値では
なく平均値を比較するため、闇値テストに比べてずっと
主観的ではなく、実際にそのリングテストにおける唯一
の変数は考慮すべきリングの数である。
サーチブロックを成長させるメカニズムについて述べた
後は、相関面の形状の検査によって如何にそのサーチブ
ロックを成長させる最も効果的な方向を決定することが
できるかを検討することが必要である。
第20図に戻り、その相関面には垂直方向には唯一の特
徴部があるが水平方向には何等特徴部がない。これは、
水平方向に相関の良好な部分が多く存在するために、そ
の相関面にはその相関面を水平方向に横切るように一列
の最小点が存在することに反映されている。この事実よ
りそのサーチブロックは水平方向に成長させるべきこと
が推定できる。逆に垂直方向に相関の良好な一列の点が
存在する場合には、そのサーチブロックは垂直方向に成
長させる必要があることを示し、一方゛、相関の良好な
点が円周状に存在するときにはそのサーチブロックは水
平方向及び垂直方向の両方向に成長させる必要があるこ
とを示す。
この判断条件を使用することにより、そのサーチブロッ
クを成長させる方向を決定するためにその相関面の形状
の定量的な測定値が必要となる。
この測定値は次のように決定される。先ず、閾値が決定
される。それからその闇値より小さいその相関面上の如
何なる点も考慮される。この闇値は闇値テストで使用さ
れたものと同様に、その相関面内の値の変動範囲に収ま
るように正規化される。
この闇値を使用してその相関面上の各点が順番に4段階
のシーケンスに従って検査される。各シーケンスにおい
て、その相関面の値がその闇値より小さくなる点が注目
される。第26図を参照してこれら4段階のシーケンス
につき説明するに、この第26図において、上端部、下
端部、左端部及び右端部に夫々存在する数値1,2.3
及び4はそれら4段階のシーケンスを示し、斜線を施し
た領域がその闇値よりも値が小さな点を示す。各シーケ
ンスの動作は以下のとおりである。
シーケンス1 その相関面の上端部から下方に向かって値がその闇値よ
りも小さくなる点Aを捜す。
シーケンス2 その相関面の下端部から上方に向かって値がその闇値よ
りも小さくなる点Cを捜す。
シーケンス3 その相関面の左端部から右方向に向かって値がその闇値
よりも小さくなる点りを捜す。
シーケンス4 その相関面の右端部から左方向に向かって値がその闇値
よりも小さくなる点Bを捜す。
その結果生じる4点A、B、C及びDは第26図に示す
2箇所の長さX及びYの計算に使用され、これらの長さ
X及びYがその閾値よりも値が小さい点を含む斜線を施
した領域の大きさを示す。従って、それらの長さX及び
Yより、その形状がX方向よりX方向に長いか、その逆
か又は略円形かが推定できる。例えばlO%程度の小さ
な差はその形状を推定する上で許容され、その形状をX
方向に長いと判断するためにはその長さXは少なくとも
その長さYよりも10%以上長くなければならない。X
方向についても同様である。それらの長さX及びYの差
が互いに10%以内に収まっているならば、その形状は
円形であると判定されてそのサーチブロックは両方向に
成長させられる。第26図例では長さχが長さYよりも
長いので、そのサーチブロックはX方向即ち水平方向に
成長させられる。
そのサーチブロックの成長は1個又はそれを超える成長
限界に達するまで続く。これら限界とは次のようなもの
である。即ち、その相関面の最小値が闇値テスト及びリ
ングテストの両方をクリアすること、そのビデオフレー
ムのエツジに達すること又はそのサーチブロックが既に
水平方向及び垂直方向に予め定められた回数だけ成長し
たことである。この最後の限界はハードウェアに依存す
る。即ち、最後の限界は許容時間内に実行できる処理の
量によって定まる。本発明の一実施例においては、その
限界は水平方向には2回、垂直方向には1回に設定され
ている。
その相関面の最小点が闇値テスト及びリングテストの両
方をクリアする場合には、良好な動きベクトルが決定さ
れたものとみなされ、この動きベクトルは動きベクトル
減少手段(5)(第1図)に供給される。しかしながら
、フレームのエツジに到達するか又はサーチブロックが
水平方向及び垂直方向に予め定められた回数だけ成長し
た場合には、その特別なサーチブロックについては良好
な動きベクトルが決定されなかったものとみなされて、
1個の良好な動きベクトルを決定する代わりに重み付け
により最も有益な動きベクトルが決定される。
その最も有益な動きベクトルが定常的な即ち中心の動き
ベクトルとして重み付けされるように、その相関面には
重み付けがなされる。これには2つの理由があり、第1
にそのサーチブロックが、成長後でさえもソースビデオ
画像の広い平面領域の一部であるならば、1個の良好な
動きベクトルを検出するのは不可能である。しかしなが
ら、そのソースビデオ画像は1個の平面領域の画像であ
るため、1個の定常的な動きベクトルによってそれに続
く処理において正確な結果が得られる。第2に、動きベ
クトル減少手段(5)(第1図)に対して大きく誤った
動きベクトルが供給される可能性を減少するためにその
重み付けの係数が設計される。これは、1個の良好な動
きベクトルが決定できないときには、1個の大きく誤っ
た動きベクトルよりも1個の小さく誤った動きベクトル
の方が好ましいことによる。
第27図はその相関面に対して重み付は関数をどのよう
に適用するかの一例を示す。この例では、その相関面上
の成る与えられた点に対する重みはその点のその定常的
即ち中心の動きベクトルからの距離にそのまま比例する
。その相関面のその点の値にはその重み係数が乗算され
る。例えば、その重み付は関数の傾きはその中心の定常
的な動きベクトルからプラス又はマイナス32画素離れ
た位置にある点に係数3が乗算されるように定められる
。言い替えると、第27図に示す如くその中心の定常的
な動きベクトルを黒い丸で表した場合、その重み付は関
数はその中心の定常的な動きベクトルを中心として上下
が反転した円錐のような形状になる。
その相関面の重み付けが終わった後に、その相関面には
再び闇値テスト及びリングテストを施す。
これら両テストをクリアする1個の最小値が決定される
と、これは良好な動きベクトルであるとみなされ、それ
が良好な動きベクトルであると共に重み付けが適用され
たことを示す情報(フラッグ)が付加される。このフラ
ッグはその動きベクトルと共に動きベクトル減少手段(
5)(第1図)に供給される。一方、重み付けを適用し
た後でさえ良好な動きベクトルも最も有益な動きベクト
ルも決定できない場合には、このサーチブロックに関し
て動きベクトル減少手段(5)(第1図)に供給される
如何なる動きベクトルも悪い動きベクトルであることを
示す情報(フラッグ)がセットされる。これを行うのは
、悪い動きベクトルは動きベクトル減少の処理において
は使用してはならず以下で述ベるように他の動きベクト
ルで代用されなければならないことによる。
従って要約すると、動きベクトル評価手段(4)(第1
図)の動作は直接ブロック整合手段(3)(第1図)に
より生成された相関面から最も相関が良好な点、即ち最
小値の点を導出することである。
この最小値にはそれから闇値テスト及びリングテストが
施され、その最小値の点がそのサーチブロックの動きを
代表するとみなされるためにはその最小値はそれら両方
のテストをクリアしなければならない。ところで、闇値
テスト及びリングテストで使用される闇値は絶対的な値
又は規格化された相対的な値の何れでもよいことに注意
すべきである。その最小値がどちらかのテストをクリア
することができなければ、そのサーチブロックは成長さ
せられて新たな最小値が決定され、闇値テスト及びリン
グテストが再び適用される。そのサーチブロックを成長
させる最も有効な方向はその相関面の形状から決定され
る。
第1図に戻り、動きベクトル減少のプロセスについて説
明する。HDVS方式を使用すると、各サーチブロック
の大きさは32画素×23ラインであると仮定され、こ
の場合は最大で2451個の動きベクトルが存在しえる
ことが示される。サーチプロ・ンクの大きさは適度な分
解能を維持することとハードウェアをあまり大きくしな
いこととのバランスに鑑みて選択される。これら動きベ
クトルを全て動きベクトル選別手段(6)に供給するな
らば、要求される処理が多量であるため動きベクトル選
別の動作は実用的ではない。この問題を克服するため動
きベクトル評価手段(4)と動きベクトル選別手段(6
)との間に動きベクトル減少手段(5)を配しである。
動きベクトル減少手段(5)は動きベクトル評価手段(
4)により生成された動きベクトルを受取り、そのフレ
ーム用に導出された全ての動きベクトルではなくそのフ
レームの夫々のサーチブロック(境界領域のサーチブロ
ックを含む)について4個の動きベクトルを動きベクト
ル選別手段(6)に供給する。この効果は2つある。先
ず、正しい動きベクトルが動きベクトル選別手段(6)
に供給される4個の動きベクトルのグループの中に含ま
れている限り、それによりその正しい動きベクトルを選
別するのがずっと容易になる。しかしながら、次にこの
ことは、もしその正しい動きベクトルがその4個の内の
1個として供給されない場合には、動きベクトル選別手
段(6)は正しい動きベクトルを選別することができな
いことをも意味する。従って、動きベクトル減少手段(
5)は動きベクトル選別手段(6)に供給する動きベク
トルの中にその正しい動きベクトルを含むことを保障す
るように努める必要がある。また、動きベクトル減少手
段(5)により動きベクトル選別手段(6)に対して4
個の動きベクトルが供給されても、これらの内で3個だ
けが実際に動きを表し、第4の動きベクトルは常に定常
的な動きベクトルであることに注意すべきである。その
定常的な動きベクトルにより、動きベクトル選別手段(
6)が定常的な画素に対して強制的に動きを表す動きベ
クトルを割り当てることを防止することが保障される。
その動きベクトル選別手段(6)には異なる数の動きベ
クトルを伝達することもでき、例えば、別の実施例では
動きを表す4個の動きベクトルとその定常的な動きベク
トルとを伝達するようにしてもよい。
これ以後は“サンプルブロック”という言葉は、ビデオ
信号の1フレーム中のブロックであってその中の個々の
画素に動きベクトル減少手段(5)より同じ4個の動き
ベクトルが供給されているブロックを意味する。従って
、1個のサンプルブロックはサーチブロックが成長する
前にはその1個のサーチブロックと同じである。第28
図に示す如く、ビデオ信号のlフレーム中ではサンプル
ブロック及びサーチブロックの初期位置は同じである。
動きベクトル減少手段(5)(第1図)は動きベクトル
評価手段(4)(第1図)より動きベクトル及びフラッ
グを受取り、そのフラッグを調べることによりその動き
ベクトルの品質を決定する。その動きベクトルが曖昧な
面から導出されたものではなくそれに高い信頼性がある
場合には、それは良好な動きベクトルと呼ばれるが、仮
にある程度の曖昧さが存在するとその動きベクトルは悪
い動きべクトルと呼ばれる。動きベクトル減少のプロセ
スにおいて、悪い動きベクトルであると分類された動き
ベクトルは全て無視される。というのは、動きベクトル
選別手段(6)において悪い動きベクトルが選別されな
いためには、その動きベクトル選別手段(6)に不正確
な動きベクトルを伝達しないようにすることが重要であ
るからである。そのような悪い選別により一般に最終的
に得られる画像において極めて目障りなノイズ状のドツ
トが生ずる。
動きベクトル減少手段(5)(第1図)に供給される動
きベクトルの夫々は成る特別なサーチブロックひいては
成る特別なサンプルブロック(第28図)より得られた
ものであり、その動きベクトルと共にこれらブロックの
位置も記録される。悪い動きベクトルであると分類され
た如何なる動きベクトルも無視されるため、全てのサン
プルブロックがその位置にあるサーチブロックから導出
された動きベクトルを持つとは限らない。良好な動きベ
クトルであるとして分類され、成る特別なサーチブロッ
クひいては成る特別なサンプルブロックに関係する動き
ベクトルは局所的な(ローカル)動きベクトルと呼ばれ
る。というのは、それらはそのサンプルブロックが得ら
れた領域で導出されたからである。これに加えて、他の
動きベクトルの減少プロセスでは個々の良好な動きベク
トルが生ずる頻度を計数し、それら良好な動きベクトル
を導出するために使用されたサーチブロックの実際の位
置を考慮することがない。これら動きベクトルは頻度が
小さくなる順序で分類され、この場合の動きベクトルを
共通な動きベクトルと称する。最悪の場合には、3個の
共通な動きベクトルだけが利用でき、これらが定常的な
動きベクトルと共に動きベクトル選別手段(6)(第1
図)に伝達される4個の動きベクトルを構成する。しか
しながら、3個を超える数の共通な動きベクトルが存在
することもよくあるので、その数を減少させて1組の減
少した数の共通な動きベクトルを構威しなければならな
い。これら1組の減少した数の共通な動きベクトルをグ
ローバルな(global)動きベクトルと称する。
共通な動きベクトルの数を減少させる最も単純な方法は
、3個の最も出現頻度の高い動きベクトルを使用して他
の動きベクトルを無視することである。しかしながら、
これら3個の最も出現頻度の高い共通な動きベクトルは
、初期状態では垂直方向及び/又は水平方向に互いに夫
々プラス又はマイナス1画素以内の動きである3個の動
きベクトルであることが多い。言い替えると、これら共
通な動きベクトルは全て同じ動きをわずかな違いで追跡
していたものであり、無視されていた他の共通な動きベ
クトルは実際に異なる動きを追跡していたものである。
成る場面の中の全ての又は大部分の動きを表す共通な動
きベクトルを選択するためには、同じ動きを表す複数の
グローバルな動きベクトルを選択するのを避ける必要が
ある。従って、実際に採用された方法は、先ず3個の最
も頻繁に出現する共通な動きベクトルを取り、それら3
個の内の最も頻度が小さい動きベクトルが他の2個の共
通な動きベクトルの何れかに対して垂直方向及び/又は
水平方向に夫々プラス又はマイナス1画素の動き以内で
あるかどうかを調べる。それが正しいならば、その動き
ベクトルは排除されて、この排除された動きベクトルの
次に最も頻度の高い共通な動きベクトルが選ばれてその
動きベクトルの代わりにチエツクを受ける。このプロセ
スは全ての最も出現頻度の高い共通な動きベクトルにつ
いて継続され、最後に互いに同程度ではない3個の共通
な動きベクトルが残るか、又は3個若しくはそれより少
ない数の共通な動きベクトルが残るまでそのプロセスは
継続される。しかしながら、そのプロセスが収束せず互
いに同程度ではない3個を超える数の共通な動きベクト
ルが残った場合には、それらの中で最も頻度の小さい動
きベクトルが他の動きベクトルに対して垂直方向及び/
又は水平方向に夫々プラス又はマイナス2画素の動き以
内であるかどうかを調べるプロセスが反復され、必要に
応じてその距離を増加させながらそのプロセスが反復さ
れる。これら3個の共通な動きベクトルが要求されてい
るグローバルな動きベクトル減少り、これらはまだ出現
頻度の順に並べられてぃZことが重要である。
動きベクトル減少のプロセス及びlフレームeビデオ画
像中のサンプルフロックを考慮する場途3個の異なるタ
イプのサンプルブロックに注目スる必要がある。これら
のタイプは1フレームのビデオ画像中のその実際の位置
によって定まり、第29図において異なる領域として表
されている。領域Aは全体が他のサンプルブロックに囲
まれると共に画像の境界に近くないサンプルブロックよ
り構成サレル。領域Bは部分的に他のサンプルブロック
に囲まれると共に画像の境界に近くないサンプルブロッ
クを含む。最後に領域Cは、その画像の境界に近いサン
プルブロックを含む。これらの各領域に適用される動き
ベクトル減少のアルゴリズムは夫々異なる。これらのア
ルゴリズムにつき説明するに、先ずその1フレームのビ
デオ画像中のサンプルブロックの中には良好な動きベク
トルを有するものが存在し、更にその場面の主要な動き
の大部分を表すべき3個のグローバルな動きベクトルが
存在することが前提となっている。各サンプルブロック
について3個の動きベクトルと共に定常的な動きベクト
ルを伝達するために、これら動きベクトルの選別が行わ
れる。
第30図は領域Aにおける動きベクトル減少の手順を示
す。この領域にはチエツクすべき動きベクトルが最も多
く存在するため、この領域が扱うのに最も複雑な領域で
ある。第30図において、斜線を施された中央のサンプ
ルブロックが他のサンプルブロックa −hに囲まれて
いる。先ず局所的に導出された動きベクトルが良好な動
きベクトルとして分類されるかどうがが調べられる。そ
れが良好であり且つ定常的な動きベクトルと同一でない
ときには、その動きベクトルは伝達される。しかしなが
ら、これらの条件の内の一方でも充足されないときには
、その動きベクトルは無視される。
それから、そのサンプルブロックdに対応する動きベク
トルが良好な動きベクトルとして分類されるかどうかが
調べられる。それが良好であり、更にその動きベクトル
が既に選別されたどの動きベクトルとも同しではなく且
つその定常的な動きベクトルとも同しでないときには、
その動きベクトルは伝達される。これらの条件の内の一
方でも充足されないときには、その動きベクトルも無視
される。このプロセスはそれから同様にサンプルフロッ
クe、  b、  g、  a、  h、  c及びf
の順序で継続される。定常的な動きベクトルを含まない
3個の動きベクトルが得られると、そのアルゴリズムは
終了する。というのは、それらがそのサンプルフロック
についての動きベクトルの選別で要求される全てである
からである。しかしながら、上述の必ずしも全てのチエ
ツクにおいて3個の良好な動きベクトルが得られなけれ
ばならないというものではない。3個の良好な動きベク
(・ルが得られない場合には、残りの空間にはグローバ
ルな動きベクトルが割当てられ、より出現頻度の高いグ
ローバルな動きベクトルが優先的に割当てられる。
第31図は領域Bにおける動きベクトルの減少手順を示
す。領域Bのサンプルブロックは他のサンプルブロック
により全体には囲まれていない点を除いて、領域Aのサ
ンプルブロックと同じである。
従って、これらのサンプルブロックに適用されるプロセ
スは領域A用のプロセスと、全ての周辺のサンプルブロ
ックの中ではチエツクを行うことができない点を除いて
全く同じである。従って、第31図に示す如く、サンプ
ルブロックa〜eに対して動きベクトルをチエツクする
ことができるだけであり、動きベクトル用に残されてい
る空間には何れも前と同様にグローバルな動きベクトル
が割当てられる。同様に、第31図の斜線を施したサン
プルブロックを左へ2単位移動させると、それらグロー
バルな動きベクトルを割当てる前にチエツクすべき隣接
する周辺のブロックの数は3個だけになる。
第32図は領域Cにおける動きベクトルの減少手順を示
す。そのサンプルブロックには局所的に導出された動き
ベクトルもなく、動きベクトルが利用できる多くの周辺
のサンプルブロックもないので、この場合が最も厳しい
場合である。この問題を処理する最も単純な方法は、単
にその領域Cのサンプルブロックにグローバルな動きベ
クトルと共に定常的な動きベクトルを割当てることであ
る。
しかしながら、この場合には、領域Bの隣接するサンプ
ルブロックと比較した場合に、その領域Cのサンプルブ
ロックに割当てられた動きベクトルの値が突然変化する
ことにより、最終的に得られる画像にブロック処理によ
る影響が生じることが分かっている。従って、より好適
な方法は、領域Cのサンプルブロックに対しては領域B
のサンプルブロックに対して用いられるものと同じ動き
ベクトルを使用して、動きベクトルの突然の変化を防ぐ
ことである。より好ましくは、領域Cの各サンプルブロ
ックにはそのサンプルブロックに物理的に最も近い領域
Bのサンプルブロックの動きベクトルと同じものを割当
てるのがよい。従ってこの場合には第32図例では、領
域Cの個々の斜線を施したサンプルブロックには領域B
のサンプルブロックaと同じ動きベクトルが割当てられ
、これにより良好な結果が得られることが確認された。
本発明が特に関係する(但し、関係するのはこれだけで
はない)その領域B上のサンプルブロックへの動きベク
トルの割り当てについて第33図〜第35図を参照して
詳細に説明する。しかしながらその説明の前提として次
の2点を繰り返し述べておく。第1に、領域Cに存在す
るサンプルブロックにはブロック整合を行うためのそれ
らサンプルブロックを囲むサンプルエリアが存在しない
ため、そのようなサンプルブロックには局所的に導出さ
れた動きベクトルは存在しない。第2に、そのフレーム
の全ての他のサンプルブロックに動きベクトルが割り当
てられた後に初めて、その領域Cのサンプルブロックへ
の動きベクトルの割り当てが実行される。
第33図は領域Bで必要とされる割り当てを実行するた
めの回路構成の一例を示す。この回路は、カウンタ(2
1)〜(24)を含む計数システム(20)、バッファ
(25) 、 (26) 、 (28) 、 (29)
 、 (32)及び(33)、マイクロプロセッサ(2
7)、ランダムアクセスメモリ(RAM)(30)並び
にマイクロプロセッサ(27)用のプログラムを保持す
るリードオンリーメモリ(ROM)(31)を図示の如
く接続して構成され、次のように動作する。
計数システム(20)は1フレームの始めにリセットさ
れ、それからそのフレーム用の動きベクトルがバッファ
(32)を介してロードされる。その動きベクトルがロ
ードされている間はその動きベクトルが最終的にバッフ
ァ(33)を介して読出される間と同じく、そのマイク
ロプロセッサ(27)は動作しない。
その動きベクトルが供給されている間、カウンタ(21
)はその入力動きベクトルの数を計数し、更にバッファ
(25)を介してサンプルブロックのアドレスをRA 
M (30)に供給することによりそのRAM (30
)への動きベクトルの入力を制御する。一方、カウンタ
(23)はそのフレームの水平方向のサンプルブロック
の数を計数し、カウンタ(24)はそのフレームの垂直
方向のサンプルブロックの数を計数する。そのフレーム
の処理の終了時にそのカウンタ(24)の指令によりカ
ウンタ(22)は、バッファ(26)を介してRA M
 (30)にサンプルブロックのアドレスを供給するこ
とによりそのRA M (30)からの動きベクトルの
出力を制御する。
RA M (30)には3つの領域がある。第1の領域
は元の動きベクトル、即ち領域Cにはないサンプルブロ
ックに関連する動きベクトルを記憶するために確保され
る。この領域はマイクロプロセッサ(27)によって読
取られるだけであり、そのマイクロプロセッサ(27)
によって書込まれることはない。
第2の領域は出力用の動きベクトルを記憶するために確
保され、これにより読出しが容易になる。
第3の領域はデータ処理に使用される。
初期状態では、そのRA M (30)に入力された動
きベクトルが書込まれている間、そのマイクロプロセッ
サ(27)及びその動きベクトルの出力部は動作しない
。以下で述べるアルゴリズムに基いた処理が実行されて
いる間はその動きベクトルの人力及び出力部は動作しな
い。その後、バッファ(33)を介して動きベクトルの
出力部によりRA M (30)から動きベクトルが読
出されている間、その動きベクトルの入力部及びマイク
ロプロセッサ(27)は動作しない。
第34図を参照して説明するに、この第34図は1フレ
ームのビデオ画像及び特に境界領域Cに直接に接するが
実際にはその境界領域Cの中には存在しない領域である
領域Bに対応するサンプルブロックを示す。
最初にサンプルブロックaを考える。仮にそのサンプル
ブロックaのために生成された局所的な動きベクトルが
良好で且つ非零であるときには、そのベクトルはそのサ
ンプルブロックaのための4個の動きベクトルの1つと
して保持される。次に、サンプルブロックdのために生
成された局所的な動きベクトルがサンプルブロックaの
ために既に保持されているベクトルと比較される。その
ベクトルがそのサンプルブロックaの局所的な動きベク
トルと同じであるか、又はOであるときには、そのベク
トルは排除される。しかし、そのベクトルが良好である
と共に非零であり、且つそのサンプルブロックaの局所
的な動きベクトルと同じではないときには、そのベクト
ルもそのサンプルブロックa用に保持される。それから
、サンプルブロックbについての局所的な動きベクトル
がそのサンプルブロックrのために既に保持されている
ベクトルと比較される。そのベクトルが既に保持されて
いる動きベクトルと同じであるか、又は0であるときに
は、そのベクトルは排除される。しかし、そのベクトル
が良好であると共に非零であり、且つ既に保持されてい
る動きベクトルと同じでないときには、そのベクトルも
そのサンプルブロックa用に保持される。それから、サ
ンプルブロックCのための局所的な動きベクトルが同様
に検査されるが、この場合、その動きベクトルは(もし
保持されているならば)サンプルブロックa、d及びb
のための局所的な動きベクトルに対して検査される。
その境界領域Cに隣接する残りのサンプルブロックにつ
いても同様に動きベクトルの減少又は割り当てが行われ
る。しかしながら、保持されるべき動きベクトルの選別
に使用されるサンプルブロックはその境界領域Cに対し
て相対的なその元のサンプルブロックの位置に依存する
。次のリストは本例のアルゴリズムが処理しなければな
らない種々の異なった位置を例示すると共に、その冬場
台について、考慮しなければならないサンプルブロック
及びこの考慮の順序を示す。
処理対象の位置:考慮するサンプルブロックサンプルブ
ロックa:サンプルブロックd、b。
サンプルブロックl:サンプルブロックf、h。
サンプルブロックl:サンプルブロックr、f。
s、t、g サンプルブロック積:サンプルブロックv、h。
w、  g、  x サンプルブロックl:サンプルブロック1.h。
サンプルブロックl:サンプルブロックy、ik、z、
j サンプルブロックm:サンプルブロックp、n3個の動
きベクトルが保持されるか又は検査すべきサンプルブロ
ックが残っていないときに、動きベクトルの減少又は割
り当てが停止する。サンプルブロックに対して3個の動
きベクトルが保持されていないときには、残りの空間は
グローバルな動きベクトルを出現頻度の高い順に使用す
ることによって充填される。このようにして、各サンプ
ルブロックには3個の異なる非零の動きベル及びO即ち
常に供給される定常な動きベクトルが割り当てられる。
このアルゴリズムに従う第33図例の動作を第35図の
フローチャートの形で示す。
再び第1図を参照して、動きベクトル選別手段(6)の
目的はそこへ供給された4個の動きベクトルの内の1個
をそのサンプルブロック内の個々の画素に夫々割当てる
ことである。これにより、それら動きベクトルは物体の
輪郭に正確に割当てることができる。この割当てを実行
するには特に、微細な構造を囲む背景画像によりその正
しい動きベクトルにより生成される実際の構造が置き換
えられる可能性を無くすようにする必要がある。これを
達成するために、その動きベクトルの選別プロセスは2
個の主な段階に分割される。第1段階では入力フレーム
の各画素について動きベクトルが生成される。言い替え
ると、出力フレームの各画素に対する動きベクトルの値
を直接決定することはない。第2段階では出力フレーム
中の各画素に対する動きベクトルの値を決定するために
、その第1段階で生成された動きベクトルの値が使用さ
れる。
第36図において、入力フレーム(2)の各画素は供給
される4個の動きベクトルの夫々を使用することにより
、前フレーム(1)及び次のフレーム(3)のビデオデ
ータの中で最も良く輝度の値が合致する画素を求めるた
めに調べられる。画素の輝度の差分は次のように決定さ
れる。
この場合、 Plnmは、フレーム(2)で検査対象となっている画
素の位置から検査対象となっている動きベクトルの座標
を差し引いて得られる位置に存在する画素を囲む4×4
個の画素よりなるブロックの中のフレーム(1)の画素
の輝度値であり、P2nmは、検査対象となっている画
素を囲む4×4個の画素よりなるブロックの中のフレー
ム(2)の画素の輝度値であり、 P3nmは、フレーム(2)で検査対象となっている画
素の位置に検査対象となっている動きベクトルの座標を
加算して得られる位置に存在する画素を囲む4×4個の
画素よりなるブロックの中のフレーム(3)の画素の輝
度値である。
その画素の差分が最小になる条件により輝度が最も良く
合致する所が求められ、従って、検査対象となっている
画素に適用すべき正しい動きベクトルが求められる。正
しい動きベクトルが適用できない場合又は以下で詳細に
述べるように露出されたエリア若しくは被覆されたエリ
アが存在する場合には、その輝度の良好な合致は起こら
ない。
良好な合致が起こらない場合とは、使用されている複数
の画素内の平均的な画素の輝度の差分が成る所定の闇値
を超えているときに生じる。正しい動きベクトルが検査
されているときでさえ、空間周波数の高い微細な構造で
は良好な合致が生じないことがあるので、その闇値が重
要である。闇値が如何なる値のときに良好な合致が起こ
らないことが示されるかを決定するためには、動きベク
トルが要求されている画素を囲むブロック内の画像の周
波数成分にその闇値を関連づける必要がある。これを達
成するため、検査対象の画素についての水平方向又は垂
直方向の画素の輝度の差分の最大値の半分に等しい闇値
を自己闇値とする。このようにして得られた闇値が比較
対象となっている全体のブロックデータの代表的な値で
あることを保障するために、使用される4個の中央部の
夫々4×4個の画素よりなるブロックを対象として平均
値が求められる。
4×4のブロックを示す第38図を参照して、必要とさ
れる閾値Tは次式で与えられる。
T = (T1+T2+T3+T4)/8この式におい
て例えばT3は、第39図に示すように4個の画素の輝
度の差分値の中の最大値に等しい値として決定され、こ
れら4個の差分値とは2個の垂直方向の差分値の絶対値
I F!2−831 、  l 84B31及び2個の
水平方向の差分値の絶対値lA3B3  、  C3−
B3  である。
このようにして入力フレーム(2)に対して1フレ一ム
分の動きベクトルが得られ、同様にして第37図に示す
如く入力フレーム(3)に対して1フレ一ム分の動きベ
クトルが得られる。
場面の変化は別として、動きベクトル選別の上述の第1
段階において発生する不適合(ミスマツチ)の原因は露
出面及び被覆面の現象である。成る物体、例えば自動車
がトンネルに入るときには、その自動車は被覆されて、
一方それが出て来るときにはその自動車は露出される。
その自動車のフレーム(1)及び(2)で露出された部
分がフレーム(3)及び(4)で被覆されるときには、
その基本的なべクトル選別プロセスではその正しいベク
トルを決定することができない。更に、そのトンネルの
中に入る自動車が被覆される一方で、その自動車の後ろ
の道路及び物体は露出される。同様にそのトンネルを離
れる自動車は露出されるが、その自動車の後ろの道路及
び物体は被覆される。従って、一般に被覆される物体と
露出される物体とが同時に存在する。成る場面の終わり
もまた被覆される物体と同様に動きの不連続性を有する
。斯かる状況下でさえも動きベクトルを決定する試みに
おいては、その輝度値のブロック毎の合致の程度を調べ
る方法は、第36図及び第37図の3フレ一ム間の合致
の程度を調べる方法から2フレ一ム間の合致の程度を調
べる方法に変えられる。即ち、動きベクトルが要求され
ているフレーム(例えばフレーム(2))は供給される
4個の動きベクトルを使用することにより、前フレーム
及び次フレームに対して(フレーム(2)の場合には夫
々フレーム(1)及び(3)に対して)個別にブロック
毎の合致の程度が調べられる。最も良好な合致を生ずる
動きベクトルが検査対称となる画素に適用される動きベ
クトルとして選別される。しかしながら、この場合には
2フレ一ム間の合致の程度だけを調べる方法が使用され
たことを示す情報(フラッグ)がセットされる。
特に積分型のテレビカメラを用いた場合には、良好な合
致が起こらないという状況が生じる。物体が微細構造を
有する背景の上を動くときには、積分型のカメラによる
とその物体の先端及び後端のエツジがその背景の微細構
造と混合されて独特の部分を有する画像が生成される。
そのような状況では、2フレ一ム間の合致を調べる方法
でさえも平均的な画素間の差分がその闇値を超えること
がある。こような場合には、動きベクトルの値は0に設
定され、エラーフラッグもセットされる。
動きベクトル選別の第2段階では第1段階で導出された
2フレ一ム分の動きベクトルを利用する。
最初の(入力フレーム(2)の)1フレ一ム分の動きベ
クトルは基準フレームであるとみなされ、これに続<(
入力フレーム(3)の)1フレ一ム分も使用される。出
力フレームの位置はこれら2個のフレームの動きベクト
ルの間の何れかに存在する。
第40図を参照して説明するに、個々の出力画素の位i
1に対して入力フレーム(2)のサンプルブロックに関
連する4個の可能な動きベクトルが検査される。検査対
象である動きベクトルの角度でその出力画素の位置を通
って引かれた線は入力フレーム(2)及び人力フレーム
(3)の両方の上に存在する位置を指し示す。動きベク
トルの値が奇数(例えば1.3及び5)である場合には
、出力フレームが人力フレーム(1)と(2)との間の
正確に中央にあるとすると、入力フレームの2個の画素
の間の(画素の中心ではない)成る点が指し示されるで
あろう。この不正確さを考慮し更に感度を画素単位まで
低下させるために、各フレームに対して最も近い画素の
位置を中心として1組の3×3ブロツクの動きベクトル
が得られる。実際には、2組の3×3ブロツクの動きベ
クトルの夫々と検査対象である動きベクトルを含むブロ
ックとの間でブロック間の合致の程度を調べる動作が実
行される。
使用される動きベクトルの差分は次式により与えられる
2個の動きベクトルの値の空間的な差分を表す。
この場合、にI及びylはそれらブロックの1つにおけ
るその動きベクトルの直交座標であり、×2及びy2は
検査対象となる動きベクトルの直交座標である。
3個の入力フレーム、即ち入力フレーム(2)(第36
図)に対しては入力フレーム(1) 、 (2)及び(
3)を使用して計算された動きベクトルだけを使用する
ことにより、上述のように先ず最も良好に合致する動き
ベクトルが生成される。それら3個の入力フレームは人
力フレーム(3)(第37図)に対しては入力フレーム
(2) 、 (3)及び(4)となり、その結果はそれ
に応じて段階的に変化する。その9個のブロックには少
なくとも4個の使用可能な動きベクトルがあるのが好ま
しい。フレーム(2)及びフレーム(3)の両方の動き
ベクトルのブロックが使用できるときには、その動きベ
クトルの差分値はフレーム(2)による動きベクトルの
差分値の半分及びフレーム(3)による動きベクトルの
差分値の半分を加算して構成される。上述の方法を使用
して動きベクトルの最小の差分値を生成する動きベクト
ルであれば、検査対象となる出力画素に適用できる動き
ベクトルであると考えることができる。3個のフレーム
間の入力動きベクトルの整合(第36図及び第37図)
により生成された動きベクトルの差分値が1より大きい
ときには、被覆面又は露出面が検出されたことになる。
そして、同じプロセスが繰り返されるが今度はエラーフ
ラッグが無視される。即ち、2個の入力フレームを用い
て計算された動きベクトルが使用される。理論的にはこ
れは露出面又は被覆面だけに必要であるが、実際にはよ
り一般的な領域の画像に適用しても画質が改善される。
上述の両方の検査が実行された後に、良好に合致すると
判定された最小の動きベクトルの値が2を超えている場
合には、その動きベクトルの値はOに設定され、動きベ
クトル後処理手段(7)(第1図)の使用に供するため
エラーフラッグがセットされる。
動きベクトルの選別に伴い、如何なる実際の画像の状況
においてもほぼ確実に成る画素に関連して疑似的な動き
ベクトルが残存する。第41図〜第46図は疑似的な動
きベクトルであると見なされる場合を示し、これらの各
図において、三角形は同じ動きベクトルが割当てられた
画素を示し、一方、星は周囲の画素に割り当てられた動
きベクトルと異なる動きベクトルが割り当てられた画素
を示し、円は検査対象の動きベクトルを示す。
第41図は1個の特異点を示し、この場合1個の画素だ
けが全ての周囲の画素の動きベクトルとは異なる動きベ
クトルを有する。
第42図は水平方向の動きベクトルのインパルスを示し
、この場合3個の水平方向に並んだ画素だけが周囲の画
素の動きベクトルとは異なる同一の動きベクトルを有す
る。
第43図は垂直方向の動きベクトルのインパルスを示し
、この場合3個の垂直方向に並んだ画素だけが周囲の画
素の動きベクトルとは異なる同一の動きベクトルを有す
る。
第44図は対角方向の動きベクトルのインパルスを示し
、この場合3個の対角方向に並んだ画素だけが全ての周
囲の画素の動きベクトルとは異なる同一の動きベクトル
を有する。
第45図は水平方向及び垂直方向の動きベクトルのイン
パルスを示し、この場合縦十字型に配列された5個の画
素だけが全ての周囲の画素の動きベクトルとは異なる同
一の動きベクトルを有する。
第46図は2対角方向の動きベクトルのインパルスを示
し、この場合対角方向の十字型に配列された5個の画素
だけが全ての周囲の画素の動きベクトルとは異なる同一
の動きベクトルを有する。
上述の6個の範躊に分類される画素の動きベクトルは実
際には現実の画像について生じることはなく、更にそれ
らは不正確な動きベク(−ルの選別により直接生じた結
果でもある。そのような動きベクトルが補間プロセスの
途中で使用されると、最終的に得られる出力画像にはド
ツト妨害が生じることがある。従って、そのような動き
ベクトルを特定して#i #、するのが望ましい。これ
は上述の動きベクトルの全てのグループ分けを行うと共
に、各グループに応じてフラッグを割当てるアルゴリズ
ムを使用することにより実行される。
そのアルゴリズムは2回繰り返すプロセスを使用し、1
回毎の処理は同一である。2回繰り返すことの必要性に
つき説明する。画素の配列を示す第47図を参照して説
明するに、三角形が付された全ての画素は夫々同一の動
きベクトルを有する。
中央の9個の画素よりなるブロックは、夫々ベクトル1
〜ベクトル9として各画素に割り当てられた動きベクト
ルを有し、これら動きベクトルは同一でも同一でなくと
もよい。ベクトル5が検査対象の動きベクトル(被検ベ
クトル)である。
第1回目の処理では、ベクトル5がチエツクされ、最初
にそのベクトルが正確に又は所定の許容値内でベクトル
l、ベクトル3.ベクトル7又はベクトル9と同じであ
るかどうかが決定され、その次にそのベクトルが正確に
又は所定の許容値内でベクトル2.ベクトル4.ベクト
ル6又はベクトル8と同じであるかどうかが決定される
このチエツクは、そのベクトル5が少なくとも水平方向
又は垂直方向に隣接するベクトルの1つと同じであり、
且つ少なくとも対角方向に隣接するベクトルの1つと同
じであるかどうかを調べるものである。これが否定的な
らば、その画素5が不良であることを示すフラッグがセ
ットされる。
言い替えると、水平方向(又は垂直方向)及び対角方向
の隣接画素に夫々少なくとも1個の、即ち少なくとも合
計2個の同程度の動きベクトルが存在しない場合には、
その画素に不良であることを示すフラッグがセットされ
る。
この第1回目の処理によれば、特異点、水平方向の動き
ベクトルのインパルス、垂直方向の動きベクトルのイン
パルス、対角方向の動きベクトルのインパルス及び対角
方向の動きベクトルのインパルス(第41図〜第44図
及び第46図)に対応する動きベクトルには全て不良で
あることを示すフラッグが付加されるが、水平方向及び
垂直方向の動きベクトルのインパルス(第45図)に対
応する動きベクトルの内で中央のベクトルを除く4隅の
ベクトルは良いベクトルであると判断され、このベクト
ルには2回目の処理が必要になる。例えば、第45図例
において、その縦十字形の4隅の動きベクトルは夫々水
平方向(又は垂直方向)及び対角方向に1個づつ同一の
動きベクトルを有するため、良いベクトルであると判定
される。
2回目の処理は第1回目の処理と正確に同じ条件を調べ
るものであるが、今回は既に不良であるとしてフラッグ
を付加された動きベクトルはその計算から除外される。
従って、第45図例において、第1回目の処理後には中
央の動きベクトルだけに不良のフラッグが立てられるが
、第2回目の処理後には縦十字形に配列された5個の動
きベクトルの全てに不良のフラッグが立てられる。
不良の動きベクトルを特定した後には、それらを修正す
ることが必要になり、この修正もまた動きベクトル後処
理手段(7)(第1図)により実行される。補間又は高
頻度の動きベクトルによる置換などの種々の方法を使用
することができるが、実際には単純な置換により良好な
結果が生じることが分かった。これは次のように実行さ
れる。(但し、この場合は符号r=、は正確に等しいだ
けではなく、予め定められた許容値内に収まっているこ
とをも意味する。)即ち、ベクトル5が不良であると判
定されたときには、そのベクトルは(ベクトル4=ベク
トル6)が成立するならばベクトル4により置き換えら
れ、それが成立せず(ベクトル2=ベクトル8)が成立
するならばベクトル2により置き換えられ、それが成立
せず(ベクトルl−ベクトル9)が成立するならばベク
トル1により置き換えられ、それが成立せず(ベクトル
3−ベクトル7)が成立するならばベクトル7により置
き換えられ、それも成立しない場合には置換は行われな
い。
再び第1図において、各画素について最終的に選択され
た動きベクトルが動きベクトル後処理手段(7)より補
間手段(8)に供給されると共に、60フレ一ム/秒で
順次走査変換されたフレームが順次走査変換手段(2)
から補間手段(8)に供給される。
その補間手段(8)は第48図に示す如く、2個の順次
走査変換されたフレームを使用するだけの比較的単純な
構造である。出力フレームの連続する入力フレームであ
るフレーム(1)及びフレーム(2)に対して相対的な
時間軸上の位置、及びその出力フレーム上の画素に対す
る動きベクトルを使用することにより、周知の方法でそ
の補間手段(8)は第1フレームのどの部分と第2フレ
ームのどの部分とを結合するべきかを決定し、更に正確
な出力フレームの画素の値を生成するための重み付けの
値を決定する。言い替えると、補間手段(8)は動きベ
クトルを用いて動きの方向に沿って適応的に補間を行い
、24フレ一ム/秒に対応する動き補償のなされた順次
走査フレームを生成する。その動きベクトルは各画素の
輝度の値だけを使用して導出されていたが、その同じ動
きベクトルは要求される出力フレームの画素の色成分の
値を導出するために使用される。その要求される出力を
生成するためには、各フレームにたいして8X8個の画
素よりなるアレイが使用される。従って、その補間手段
(8)は2次元の垂直方向/水平方向の補間手段であり
、その補間手段(8)で使用される係数はレメツ(Re
mez)の交換アルゴリズムを使用して導出することが
できる。このアルゴリズムは’Theory and 
application of signal pro
cessing’+Lawrence RRabine
r、Bernard Gold、 Prentice−
11allInC,+pp136−140,227.に
て詳細に説明されている。
第48図は3個の異なる場合についてその補間手段(8
)(第1図)により実行される補間を模式的に示す。左
側の第1の場合は露出面も被覆面もない場合、中央の第
2の場合は1個の被覆面がある場合、右側の第3の場合
は1個の露出面がある場合である。被覆された面の場合
にはその補間でフレーム(1)だけが使用され、露出さ
れた面の場合にはその補間でフレーム(2)だけが使用
される。
その補間手段(8)においては動き補償を行わない補間
を行うこともでき、この場合には時間的に最も近い順次
走査変換されたフレームが補間フレームとして使用され
る。
尚、本発明は上述実施例に限定されず本発明の要旨を逸
脱しない範囲で種々の構成を採り得ることは勿論である
[発明の効果] 本発明によれば、境界領域の近傍のブロックの動きベク
トルとその境界領域には存在しない他のブロックの動き
ベクトルとの間に大きな変化(不連続性)が生じること
が防止され、得られる画像にブロック処理の影響が表わ
れることが防止される利益がある。
【図面の簡単な説明】
第1図は本発明の一実施例のビデオ標準方式の変換装置
を示すブロック図、第2図は順次走査変換の説明図、第
3図〜第6図は夫々順次走査変換時の連続するフィール
ド及び連続するラインを示す説明図、第7図は動き適応
順次走査変換における各ステップを示すブロック図、第
8図は連続するフィールド間の差分等を示す線図、第9
図及び第10図は夫々順次走査正規化関数及び順次走査
の非線形関数を示す線図、第1Iは順次走査変換におけ
る未完成のラインの画素を示す線図、第12図及び第1
3図は夫々サーチブロックとサーチエリア及びそれらの
相互の関係を示す線図、第14図は相関面を示す線図、
第15図及び第16図は夫々サーチブロックの成長を示
す線図、第17図はサーチブロックの整合ができない1
フレームの領域を示す線図、第18図は3個のサーチブ
ロックにまたがる動体を示す線図、第19図〜第21図
は夫々生成される相関面を示す線図、第22図及び第2
3図は夫々闇値テストの説明に供する相関面の他の例を
示す線図、第24図及び第25図は夫々リングテストの
説明に供する相関面の更に他の例を示す線図、第26図
はサーチブロックが成長する方向の決定方法の説明図、
第27図は相関面の重み付けの方法の説明図、第28図
はサンプルブロック及びサーチブロックと1フレームの
ビデオ画像との関係を示す線図、第29図は1フレーム
のビデオ画像の動きベクトルの領域を示す線図、第30
図〜第32図は夫々1フレームのビデオ画像の個々の領
域における動きベクトルの説明に供する線図、第33図
は実施例の要部のより詳細な構成国、第34図は1フレ
ームの境界領域の近傍のサーチブロックへの動きベクト
ルの割り当ての説明に供する線図、第35図は第33図
例の動作を示すフローチャート図、第36図及び第37
図は動きベクトル選別の第1段階の説明図、第38図及
び第39図は夫々闇値の決定方法の説明に供する線図、
第40図は動きベクトル選別の第2段階の説明図、第4
1図〜第47図は夫々動きベクトルの後処理時における
動きベクトルが属する画像の配列を示す線図、第48図
は補間動作の説明に供する線図である。 (2)は順次走査変換手段、(3)は直接ブロック整合
手段、(4)は動きベクトル評価手段、(5)は動きベ
クトル評価手段、(6)は動きベクトル選別手段、(7
)は動きベクトルの後処理手段、(8)は補間手段であ
る。

Claims (1)

  1. 【特許請求の範囲】 ビデオ信号の第1のフィールド又はフレームのブロック
    と上記ビデオ信号の次のフィールド又はフレームの複数
    のブロックとを比較して、上記第1のフィールド又はフ
    レームと上記次のフィールド又はフレームとの間の上記
    ブロックの夫々の内容の動きを表わす動きベクトルを導
    出する手段と、上記フィールド又はフレームの境界領域
    の近傍の上記ブロックの夫々に対して、対象となってい
    る上記ブロックの近傍に存在すると共に上記境界領域に
    は存在しない上記ブロック用として導出された動きベク
    トルの中から選別した動きベクトルを割り当てる手段と
    、 上記動きベクトルに依存して制御される補間手段とを有
    する動き補正付きテレビジョン信号方式変換器。
JP11081190A 1989-04-27 1990-04-26 動き補正付きテレビジョン信号の方式変換器 Expired - Fee Related JP3298104B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
GB8909651A GB2231749B (en) 1989-04-27 1989-04-27 Motion dependent video signal processing
GB8909651.5 1989-04-27

Publications (2)

Publication Number Publication Date
JPH0362690A true JPH0362690A (ja) 1991-03-18
JP3298104B2 JP3298104B2 (ja) 2002-07-02

Family

ID=10655823

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11081190A Expired - Fee Related JP3298104B2 (ja) 1989-04-27 1990-04-26 動き補正付きテレビジョン信号の方式変換器

Country Status (5)

Country Link
US (1) US5005077A (ja)
EP (1) EP0395271B1 (ja)
JP (1) JP3298104B2 (ja)
DE (1) DE69031055T2 (ja)
GB (1) GB2231749B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6393711A (ja) * 1986-10-09 1988-04-25 Kao Corp 入浴剤

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5166788A (en) * 1990-06-29 1992-11-24 Samsung Electronics Co., Ltd. Motion signal processor
EP0474287B1 (en) 1990-09-03 1995-11-22 Koninklijke Philips Electronics N.V. Method and apparatus for processing a picture signal
DE4104067C2 (de) * 1991-02-11 1994-08-25 Telefonbau & Normalzeit Gmbh Verfahren zur Verbesserung der Qualität von Bewegungsvektoren für digitale Bildübertragung
US5337088A (en) * 1991-04-18 1994-08-09 Matsushita Electric Industrial Co. Ltd. Method of correcting an image signal decoded in block units
US5347309A (en) * 1991-04-25 1994-09-13 Matsushita Electric Industrial Co., Ltd. Image coding method and apparatus
USRE39279E1 (en) * 1991-11-08 2006-09-12 Matsushita Electric Industrial Co., Ltd. Method for determining motion compensation
US5369449A (en) * 1991-11-08 1994-11-29 Matsushita Electric Industrial Co., Ltd. Method for predicting move compensation
USRE39276E1 (en) * 1991-11-08 2006-09-12 Matsushita Electric Industrial Co., Ltd. Method for determining motion compensation
GB2263601B (en) * 1992-01-24 1995-05-24 Sony Broadcast & Communication Motion compensated video signal processing
JPH05236465A (ja) * 1992-02-24 1993-09-10 Sony Corp ビデオ信号の伝送方法
GB2265065B (en) * 1992-03-02 1995-08-16 Sony Broadcast & Communication Motion compensated image processing
GB2265516B (en) * 1992-03-24 1996-04-10 Sony Broadcast & Communication Motion analysis of moving images
GB2266023B (en) * 1992-03-31 1995-09-06 Sony Broadcast & Communication Motion dependent video signal processing
GB2268658B (en) * 1992-07-06 1995-12-13 Sony Broadcast & Communication Video signal processing
GB2308774B (en) * 1993-04-08 1997-10-08 Sony Uk Ltd Motion compensated video signal processing
GB2312806B (en) * 1993-04-08 1998-01-07 Sony Uk Ltd Motion compensated video signal processing
US5436666A (en) * 1993-05-21 1995-07-25 Intel Corporation Limited-domain motion estimation/compensation for video encoding/decoding
GB2278972B (en) * 1993-06-09 1997-06-04 Sony Uk Ltd Motion vector generation
US5598514A (en) * 1993-08-09 1997-01-28 C-Cube Microsystems Structure and method for a multistandard video encoder/decoder
GB2283385B (en) * 1993-10-26 1998-04-01 Sony Uk Ltd Motion compensated video signal processing
US5471252A (en) * 1993-11-03 1995-11-28 Matsushita Electric Industrial Corporation Of America Method and apparatus for estimating motion vector fields by rejecting local outliers
GB2283633B (en) * 1993-11-05 1997-10-29 Sony Uk Ltd Anti-alias filter control for a split picture
US5537155A (en) * 1994-04-29 1996-07-16 Motorola, Inc. Method for estimating motion in a video sequence
EP0697788A3 (en) 1994-08-19 1997-03-26 Eastman Kodak Co Adaptive and global motion compensated cancellation of the interlacing of successive video images with post-processing
US5687097A (en) * 1995-07-13 1997-11-11 Zapex Technologies, Inc. Method and apparatus for efficiently determining a frame motion vector in a video encoder
US5910909A (en) * 1995-08-28 1999-06-08 C-Cube Microsystems, Inc. Non-linear digital filters for interlaced video signals and method thereof
KR100223205B1 (ko) * 1996-08-05 1999-10-15 윤종용 디지탈 비디오 디스크의 영상신호 재생장치 및 그 제어방법
EP1075147A1 (en) * 1999-08-02 2001-02-07 Koninklijke Philips Electronics N.V. Motion estimation
FR2809917B1 (fr) * 2000-05-30 2002-08-30 Cit Alcatel Codage d'image par segments avec prediction du mouvement
US20030189980A1 (en) * 2001-07-02 2003-10-09 Moonlight Cordless Ltd. Method and apparatus for motion estimation between video frames
DE10236207A1 (de) * 2002-08-07 2004-02-26 Micronas Gmbh Verfahren zur bewegungsvektorgestützten Interpolation eines Bildpunktes eines Zwischenbildes einer Bildfolge
EP1422928A3 (en) 2002-11-22 2009-03-11 Panasonic Corporation Motion compensated interpolation of digital video signals
US7620254B2 (en) * 2003-08-07 2009-11-17 Trident Microsystems (Far East) Ltd. Apparatus and method for motion-vector-aided interpolation of a pixel of an intermediate image of an image sequence
CN100588253C (zh) 2003-10-28 2010-02-03 Nxp股份有限公司 跟踪快速移动的小物体的运动矢量场求精法
FR2882160B1 (fr) 2005-02-17 2007-06-15 St Microelectronics Sa Procede de capture d'images comprenant une mesure de mouvements locaux
WO2008091207A1 (en) * 2007-01-26 2008-07-31 Telefonaktiebolaget Lm Ericsson (Publ) Border region processing in images
JP5187266B2 (ja) * 2009-04-21 2013-04-24 株式会社Jvcケンウッド 動きベクトル検出装置及び方法
US8692933B1 (en) 2011-10-20 2014-04-08 Marvell International Ltd. Method and apparatus for buffering anchor frames in motion compensation systems
US9213901B2 (en) * 2013-09-04 2015-12-15 Xerox Corporation Robust and computationally efficient video-based object tracking in regularized motion environments
GB2522663B (en) * 2014-01-31 2020-02-12 Apical Ltd A method of selecting a region of interest

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4942466A (en) * 1985-12-24 1990-07-17 British Broadcasting Corporation Bandwidth compression for television signals
JPH01500236A (ja) * 1986-03-19 1989-01-26 ブリティッシュ・ブロードキャスティング・コーポレーション 帯域巾圧縮ビデオ信号の受信再生装置
EP0261137B1 (en) * 1986-03-19 1991-10-16 British Broadcasting Corporation Tv picture motion measurement
DE3853554T2 (de) * 1987-06-09 1995-08-24 Sony Corp Bewegungsvektorabschätzung in Fernsehbildern.
DE3850709T2 (de) * 1987-06-09 1994-11-24 Sony Corp Reduzierung der Bewegungsvektoren in Fernsehbildern.
GB8722612D0 (en) * 1987-09-25 1987-11-04 British Telecomm Motion estimator

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6393711A (ja) * 1986-10-09 1988-04-25 Kao Corp 入浴剤
JPH0362692B2 (ja) * 1986-10-09 1991-09-26 Kao Corp

Also Published As

Publication number Publication date
EP0395271A3 (en) 1992-01-08
GB8909651D0 (en) 1989-06-14
GB2231749A (en) 1990-11-21
GB2231749B (en) 1993-09-29
DE69031055D1 (de) 1997-08-21
JP3298104B2 (ja) 2002-07-02
DE69031055T2 (de) 1998-01-15
EP0395271B1 (en) 1997-07-16
EP0395271A2 (en) 1990-10-31
US5005077A (en) 1991-04-02

Similar Documents

Publication Publication Date Title
JPH0362690A (ja) 動き補正付きテレビジョン信号方式変換器
JP3154255B2 (ja) 動きベクトル導出方法
JP3047429B2 (ja) 動き補償映像信号フォーマット変換装置
JPH0362691A (ja) 動き補償映像信号標準変換器
JPH02290387A (ja) 動き補正付きテレビジョン信号方式変換器
JPH02290384A (ja) 動き補正付きテレビジョン信号方式変換器
JPH02290382A (ja) ビデオ信号をフィルム画像に変換する方法
US5027205A (en) Motion dependent video signal processing
JPH02290383A (ja) 動き補正付きテレビジョン信号方式変換器
JPH0362689A (ja) 動き補正付きテレビジョン方式変換器
JPH02290381A (ja) 動き補正付きテレビジョン信号方式変換器
EP0395268B1 (en) Motion dependent video signal processing
EP0395270A2 (en) Motion dependent video signal processing
US5016102A (en) Motion dependent video signal processing
JPH02290386A (ja) 動き補正付きテレビジョン信号方式変換器

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees