JPH0795593A - 動き補償ビデオ信号処理方式 - Google Patents

動き補償ビデオ信号処理方式

Info

Publication number
JPH0795593A
JPH0795593A JP6071067A JP7106794A JPH0795593A JP H0795593 A JPH0795593 A JP H0795593A JP 6071067 A JP6071067 A JP 6071067A JP 7106794 A JP7106794 A JP 7106794A JP H0795593 A JPH0795593 A JP H0795593A
Authority
JP
Japan
Prior art keywords
motion
pixel
image
output image
motion vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP6071067A
Other languages
English (en)
Other versions
JP3469626B2 (ja
Inventor
Morgan W A David
ウィリアム エイモス デービッド モーガン
Simon M Manze
マシュー マンズ サイモン
Martin Rex Dorricott
レックス ドリコット マーチン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Europe BV United Kingdom Branch
Original Assignee
Sony United Kingdom Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony United Kingdom Ltd filed Critical Sony United Kingdom Ltd
Publication of JPH0795593A publication Critical patent/JPH0795593A/ja
Application granted granted Critical
Publication of JP3469626B2 publication Critical patent/JP3469626B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/012Conversion between an interlaced and a progressive signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Television Systems (AREA)
  • Color Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【目的】 動きを補償するビデオ信号処理方式におい
て、垂直方向の画像の動き、特に奇数番と偶数番のライ
ン間に画像の動きがあるとき顕著になる画像情報の損失
を補償すること。 【構成】 実質的に動きのないことを示すゼロ動きベク
トルによって指し示された入力画像の信号ブロック間の
相関度を検出する手段と、このゼロ動きベクトルによっ
て指し示された試験ブロック間の相関度が所定の相関し
きい値を上回るかどうかを検出することにより、出力画
像のピクセルが出力画像の動的部分にあるのか靜的部分
にあるのかを検出する手段とを具え、この検出結果に応
じて補間のための入力画像のペア間での中間ピクセルの
形成方法を選択するようにする。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は動き補償ビデオ信号処理
方式に関する。
【従来の技術】動きが補償されたビデオ信号の処理はテ
レビジョン方式変換、フィルム方式変換及びビデオとフ
ィルムとの間の方式変換などの応用に用いられる。
【0002】動き補償テレビジョン方式変換器では、例
えば英国特許出願番号GB−A−2231749に開示
されている変換器では、一連の入力画像のペアが処理さ
れ、この入力画像のペア間の画像の動きを表す動きベク
トルの組を生成させる。この処理は、画像ブロックごと
に個別に行われ、各動きベクトルが、夫々のブロックの
内容の画像間の動きを表すようにする。
【0003】動きベクトルの各組は動きベクトル削減器
に供給され、各ブロックに関する動きベクトルの組のサ
ブセット(subset)を生成させる。このサブセットは動
きベクトル選択器に送られ、ここで動きベクトルのサブ
セットの1つを画像の各ブロックの画素(ピクセル)に
割り当てる。各ピクセルに割り当てられて選択された動
きベクトルは、動き補償された補間器に送られ、ここで
入力画像から出力画像を補間し、入力画像間の動きを考
慮に入れる。
【0004】
【発明が解決しようとする課題】この場合、入力画像が
インターレースされたビデオ信号の一連のフィールドか
ら成るとき、連続するフィールド間で奇数個のビデオラ
イン分だけ画像が垂直に動くと、垂直方向の情報が損失
する。更に、これによって奇数番と偶数番のラインにお
ける垂直方向の画像の動きに、雑音的な食い違い(主観
的な混乱を招く)が起こる。この点については、またあ
とで述べる。
【0005】そこで本発明の目的は、動きを補償するビ
デオ信号処理方式において、垂直方向の画像の動き、特
に奇数番と偶数番のライン間にわたる画像の動きがある
とき顕著になる画像情報の損失をうまく補償し、滑らか
に画像の変換等を行うことのできるビデオ信号処理方式
を提供することにある。
【0006】
【問題を解決するための手段及び作用】本発明は、入力
画像のペアの間での画像の動きを表す動きベクトルを生
成し、動きを補償するための補間によって出力画像を形
成する動き補償ビデオ信号処理装置であって、実質的に
動きのないことを示すゼロ動きベクトルによって指し示
された入力画像の信号ブロック間の相関度を検出する手
段と、このゼロ動きベクトルによって指し示された被試
験ブロック間の相関度が所定の相関しきい値を超過して
いるかどうかを検出することにより、出力画像のピクセ
ルが出力画像の動的部分にあるのか靜的部分にあるのか
を検出する手段とを具える装置である。
【0007】本発明によれば、出力画像の各ピクセル
が、この出力画像の動的部分を表しているか靜的部分を
表しているかを検出する手段を具えている。この情報
は、例えばこのピクセルを生成させる補間方法の適合
化、又は後続の出力画像の格下げ変換で用いられる。
【0008】出力画像のピクセルが動的部分にあるか靜
的部分にあるかに関する検出結果を装置の他の部分とも
交信するためには、装置は出力画像の各ピクセルと関連
付けられた動きフラグを生成する手段を設け、このフラ
グにより、このピクセルが出力画像の動的部分と靜的部
分のどちらにあると検出されたかを示すのが好ましい。
【0009】装置の複雑さを減少させるために、出力ピ
クセルの動きの検出は、動きベクトル選択処理の一部に
て行うのが望ましい。このために、装置は出力画像の各
ピクセルに対してゼロ動きベクトルを含む複数の動きベ
クトルを生成させる手段と、この動きベクトルを試験し
て出力画像のピクセルの補間に用いる動きベクトルを選
択する、1つの試験中の動きベクトルによって指し示さ
れた入力画像の被試験ブロック間の相関度を検出する手
段を具える手段と、この複数の動きベクトルからその動
きベクトルによって指し示されている被試験ブロック間
のうちで最大相関度をもつ動きベクトルを選択する手段
とを具える。
【0010】好適実施例の装置では、そのピクセルの補
間に用いるために選択した動きベクトルに従って、入力
画像の夫々のペアから出力画像の各ピクセルを生成させ
る動き補償補間器を具える。
【0011】出力ピクセルの動きの検出は、補間器の動
作を変えることに用いることができる。特に、動き補償
補間器は2個のピクセル補間器と、この2個のピクセル
補間器のうちの一方を選択する手段とを具え、そのピク
セルが出力画像の動的部分にあるのか靜的部分にあるの
かの検出結果に応じて出力画像のピクセルの補間を行う
のが望ましい。
【0012】例えば、入力画像がインターレースされた
ビデオ信号の一連のフィールドから成るときは、一連の
フィールド間で奇数個のビデオライン分だけ画像が垂直
に動くと、垂直方向の情報が失われる。この状況は、出
力ピクセルの補間のために選択された動きベクトルの奇
数垂直成分を検出することによって検出できる。ただ
し、これによって雑音的な(また主観上目障りな)食い
違い(差)が奇数番ラインと偶数番ラインとの間の画像
の垂直方向の動きに現れる。従って、動的ピクセルと非
動的ピクセルとを区別することが望ましい。この場合、
画像の動きが検出されない場合のために、ピクセル補間
器の1つは、2個の入力画像からピクセルをインターリ
ーブ(間挿)してインターリーブされたピクセル値のブ
ロックを生成させる手段と、インターリーブされたピク
セル値のブロックのブロック内補間によって出力画像の
ピクセルを生成させる手段とを具えることが望ましい。
同様に、画像の動きが検出されたときのために、ピクセ
ル補間器の1つは、入力画像の各ペアの画像内補間によ
って夫々の中間ピクセル値を2個生成する手段と、この
2個の中間ピクセル値を結合させて出力画像のピクセル
を生成させる手段とを具えるのが望ましい。
【0013】この結合手段は、入力画像のペアに関する
出力画像の時間上の位置に応じた結合比に従い、2個の
中間ピクセル値を結合するように動作する。1つの好適
実施例では、結合比が入力画像のペアに関する出力画像
の位置時間上の位置に比例するように線形関係を用い
る。
【0014】この装置がインタレースされた入力ビデオ
信号の一連のフィールドから成る入力画像のペアに関し
て動作し、出力画像がインターレースされた出力ビデオ
信号のフィールドから成ることが望ましい。インターレ
ースされた入力画像を用いることによって、入力ビデオ
信号のプログレッシブ(順次)走査変換を行う必要がな
くなり、必要な処理が著しく削減される。
【0015】本発明の第2の観点によれば、入力画像の
ペアの間での画像の動きの検出に応じて、動きが補償さ
れた補間によって出力画像を形成する動き補償ビデオ信
号処理装置であって、複数の動き補償ピクセル補間器
と、この複数のピクセル補間器から1つを選択し、この
入力画像のペア間の画像の動き検出に応じて、この入力
画像のペアから出力画像のピクセル補間を行う手段とを
具える装置である。
【0016】本発明による装置は、テレビジョン方式変
換装置に用いるのが特に有利である。
【0017】本発明の第3の観点では、動き補償補間に
よって出力画像を形成する入力画像のペア間の画像の動
きを表す動きベクトルを形成するための方法であって、
画像の動きが実質ゼロであることを示すゼロ動きベクト
ルによって指し示された入力画像の被試験ブロック間の
相関度を検出すること、このゼロ動きベクトルによって
指し示された被試験ブロック間の相関度が所定の相関度
しきい値を超過しているかどうかを検出することによ
り、出力画像のピクセルが出力画像の動的部分にあるか
靜的部分にあるかを検出することの各ステップを含む方
法である。
【0018】本発明の第4の観点によれば、入力画像の
ペア間の画像の動きの検出結果に応じて、動き補償され
た補間によって出力画像を形成させる動き補償ビデオ信
号処理方法であって、複数のピクセル補間器から1つを
選択し、入力画像のペア間の画像の動きの検出結果に応
じて、入力画像のペアから出力画像のピクセルを補間す
るステップを含む方法である。
【0019】本発明の実施例は、添付の図面を参照しな
がら例によってのみ説明するが、これらを通じて同一の
部分には同一の参照符号を付す。
【0020】
【実施例】図1は、動き補償テレビジョン方式変換装置
の概略を示すブロック図である。この装置は、インター
レース・デジタルビデオ信号50の入力(例えば112
5/60、2:1高精細ビデオ信号(HDVS))を受
信し、インターレース・デジタルビデオ信号60(例え
ば1250/50、2:1、HDVS))の出力を生成
させる。
【0021】入力ビデオ信号50は、まず入力バッファ
/パッカ110に供給される。通常精細度入力信号の場
合は、この入力バッファ/パッカ110が入力画像を高
精細(16:9のアスペクト比)のフォーマットに変換
し、黒ピクセルを必要な箇所に充填する。HDVS入力
に関しては、入力バッファ/パッカ110は、データの
一時記憶を行うのみである。
【0022】データは入力バッファ/パッカ110から
マトリクス回路120に送られ、ここで(必要であれ
ば)入力ビデオ信号のフォーマットを標準的な「CCI
R推薦601」(Y,Cr,Cb)フォーマットに変換
する。マトリクス回路120から入力ビデオ信号はタイ
ムベース変換(TBC)遅延器130に送信され、ある
いはサブサンプラ170を介してサブ(ダウン)サンプ
ルされたタイムベース変換遅延器180に送信される。
タイムベース変換遅延器130は、出力ビデオ信号の各
フィールドの時間上の位置を決定し、当該出力フィール
ドに時間上最も近い入力ビデオ信号の2フィールドを選
択し、この出力フィールドの補間に用いる。出力ビデオ
信号の各フィールドに対して、タイムベース変換器によ
って選択された2個の入力フィールドは、適度の遅延を
付与されてから補間器140に供給され、ここでこの出
力フィールドが補間される。2個の選択された入力フィ
ールドに対する各出力フィールドの時間位置を示す制御
信号tは、タイムベース変換遅延器130から補間器1
40へと送られる。
【0023】サブサンプル・タイムベース変換遅延器1
80も同様の方法で動作するが、サブサンプラ170か
ら供給される空間的にサブサンプルされたビデオ信号を
使用する。入力フィールドのペア(対)がサブサンプル
されたビデオ信号からサブサンプル・タイムベース変換
遅延器180によって選択され、動きベクトルの生成に
用いられる。
【0024】タイムベース変換器130及び180は入
力ビデオ信号又は出力ビデオ信号もしくはこの両者と関
連した同期信号に従って動作する。同期信号が1つしか
供給されない場合は、2個のビデオ信号の他方のフィー
ルドのタイミングがタイムベース変換器130及び18
0内で決定的なものとして生成される。
【0025】サブサンプルタイムベース変換遅延器18
0によって選択されたサブサンプル入力ビデオ信号のフ
ィールドのペアは、直接ブロック突合せ器190、デー
タストリッパ200、動きベクトル推定器210、動き
ベクトル削減器220、動きベクトル選択器230及び
ベクトル後処理器240から成る動き処理器185に供
給される。入力フィールドのペアは、まず直接ブロック
突合せ器190に供給され、ここで2個の選択された入
力フィールドのうち時間上先のサーチブロックと、この
2個の入力フィールドのうち時間上後の(より大きな)
サーチエリアとの空間的相関性を表す相関面を計算す
る。これらの相関面を表すデータは、データストリッパ
200によって再度フォーマット化され、動きベクトル
推定器に送信される。動きベクトル推定器210は、相
関面の中の相関が最大となる点を検出する。(相関面は
実際には2個の入力フィールドのブロック間の差値を表
す。このことは、相関が最大となる点は、実際上は相関
面では最小値をとることを意味し、以下「最小値」と称
する。)1つの最小値を検出するために、相関面上で点
を付加して補間し、該面生成のためサブサンプルされた
ビデオ信号を用いることによって生じた解像度の損失を
ある程度補償する。各相関面の検出された最小値から、
動きベクトル推定器210は動きベクトルを生成させ、
これを動きベクトル削減器220に供給する。
【0026】動きベクトル推定器210はこの動きベク
トルが一般的なノイズレベルよりもかなり上回っている
かどうかを確認するための確認試験を、生成した各運動
ベクトルに対して行ない、この確認試験の結果を示す確
認フラグを各動きベクトルに関連させる。しきい値試験
と称されるこの確認試験は英国特許出願GB−A−22
31749号に(図1の装置の特徴と共に)説明されて
いる。
【0027】動きベクトル推定器210によって試験が
更に行われ、各ベクトルが真性のものであるかどうかを
検出する。この試験では、相関面(ただし検出された最
小値の周囲の除外領域除いた部分)が調べられ、次の最
小値を検出する。この2番目の最小値が除外領域の境界
部分には存在しないのであれば、元の最小値から導出し
た動きベクトルには、潜在的に偽のベクトルの可能性が
あるものとしてフラグが立てられる。
【0028】動きベクトル削減器220は、出力フィー
ルドの各ピクセルに対する考えられる動きベクトルの選
択枝を削減する動作を行い、後に動きベクトルを動きベ
クトル選択器230に供給する。出力フィールドは仮想
的に複数のピクセルのブロックに分割され、各ブロック
は、出力フィールド内に、選択された入力フィールドの
より先のほうのサーチブロックの位置と対応する位置を
付与されるようにする。動きベクトル削減器は、4個の
動きベクトルのグループを編成し、出力フィールドの各
ブロックと関連付け、このブロック内の各ピクセルを、
この4個の動きベクトルのグループの中から選択された
1個を用いて最終的に補間する。
【0029】「偽のベクトル」としてフラグが立てられ
たベクトルは、これらが隣接するブロックのフラグが立
てられていないベクトルと同一であるときは、ベクトル
削減過程で再度適格性を付与される。
【0030】この機能の一部として、動きベクトル削減
器220は「適格」な動きベクトル(即ち、確認試験及
び偽可能性試験を通過した動きベクトル、もしくは偽の
可能性なしとして再度適格性を付与された動きベクト
ル)の生成頻度を計数し、これらの動きベクトルを得る
のに用いた入力フィールドのブロック位置は考慮に入れ
ないものとする。適格な動きベクトルは、頻度の高い方
から低い方へと順に格付けされる。相互に明確に異なっ
ている適格な動きベクトルのうち最も共通性の高いベク
トルを「グローバル(広域)」動きベクトルとして分類
する。確認試験を通過した3個の動きベクトルを、出力
ピクセルの各ブロック用に選択し、ゼロ動きベクトルと
共に動きベクトル選択器320に供給し、更に処理され
る。これら3個の選択された動きベクトルは、下記の所
定の優先順位に従って選択される。 (1)対応するサーチブロックから生成した動きベクト
ル (2)周辺のサーチブロックから生成した動きベクトル
(ローカル(局所的)動きベクトル) (3)グローバル動きベクトル
【0031】動きベクトル選択器230は、サブサンプ
ル・タイムベース変換(TBC)遅延器180によって
選択され、動きベクトルを導出するのに用いられた2個
の入力フィールドを入力として受信する。これらのフィ
ールドに適度な遅延を与え、これらのフィールドから生
成するベクトルと同時に動きベクトル選択器230に供
給されるようにする。動きベクトル選択器230は、出
力フィールドのピクセルあたり1個の動きベクトルが対
応する出力を供給する。この動きベクトルは、動きベク
トル削減器220によって供給されるこのブロックに対
する4個の動きベクトルの中から選択される。
【0032】ベクトルの選択過程(詳細はあとで説明す
る)は、試験中動きベクトルによって特定される2個の
入力フィールドの被試験ブロック間の相関度を検出する
ことを含む。試験ブロック間で最大の相関度を有する動
きベクトルが選択され、出力ピクセルの補間に用いられ
る。「動きフラグ」が同様にベクトル選択器230によ
って生成される。ゼロの動きベクトルによって特定され
るブロック間の相関度が所定のしきい値よりも大きいと
きは、このフラグは「靜止」(動きのない)として設定
される。
【0033】ベクトル後処理器240は、動きベクトル
選択器230によって選択された動きベクトルを再度フ
ォーマットし、画像の垂直方向の尺度が反映されるよう
にし、この再度フォーマットされたベクトルを補間器1
40に供給する。動きベクトルを用いることにより、補
間器140は、タイムベース変換遅延器130によって
選択された対応する2個の(サブサンプルされていな
い)補間された入力フィールドから出力フィールドを補
間して生成し、現在補間器140に供給されている動き
ベクトルによって示される画像の動きを考慮に入れる。
【0034】動きフラグが、現在の出力ピクセルが画像
の動く部分にあることを示すときは、この補間器に供給
される2個の選択されたフィールドからのピクセルは、
2個の入力信号(制御信号tによって示す)に関する出
力フィールドの時間上の位置に応じた相対比率にて結合
され、より出力フィールドに近い入力フィールドが大き
な比率が用いられる。動きフラグの示すものが「靜止」
に設定されていれば、時間上の比重配分は行なわない。
補間器140の出力は、出力バッファ150に供給さ
れ、HDVS出力信号として出力すると共に、ダウンコ
ンバータ160にも供給されて、ここで動きフラグを用
いて通常精細度の出力信号165を生成させる。
【0035】サブサンプラ170は、マトリクス回路1
20から受信した入力フィールドの水平及び垂直空間サ
ブサンプリングを行う。この水平サブサンプリングで
は、入力フィールドがまず帯域が半分のローパスフィル
タによって前ろ波されて(本実施例の場合、2:1の水
平間引き)、次に各ビデオラインに沿った1つおきのビ
デオサンプルが廃棄され、各ビデオライン上のサンプル
数を半分に削減する。
【0036】入力フィールドの垂直サブサンプリング
は、入力ビデオ信号がインターレースされるため複雑で
ある。このことは、各インターレースフィールドのビデ
オサンプルの一連のラインは、完成したフレームにおけ
る2本のビデオライン分だけ分離されているのと同一の
効果があり、各フィールドのラインは完成フレームのビ
デオラインにおける直前又は直後のフィールドのライン
から垂直に位置がずれる。実際に用いられる垂直サンプ
リングの方法は、垂直方向に低域通過ろ波する最初の段
階(エイリアシングを回避するため)と、これに続く各
ピクセルを垂直方向にビデオライン半分だけ下方に移動
させるか(偶数フィールドの場合)又は上方に移動させ
る(奇数フィールドの場合)ろ波動作とを含む。結果と
して生ずるフィールドは、2をファクタとして垂直方向
にサブサンプルされたプログレッシブ(順次)走査フレ
ームと大ざっぱに等価である。
【0037】図2は、動きベクトル選択器230の動作
の概略を示す図である。
【0038】上述したように、動きベクトル選択器23
0は動きベクトル削減器220からのローカル及びグロ
ーバル動きベクトルと、動きベクトルを生成させる2個
のサブサンプルされた入力フィールドと、タイムベース
変換遅延器180から制御信号tとを受信する。現在の
出力フィールド310の各ピクセル300に対して動き
ベクトル選択器230は、先行及び後続の各入力フィー
ルド320、330動きベクトルによって指示されてい
るピクセルのブロック340を比較することによって、
当該ピクセルに関する4個の考えられる動きベクトルの
各々を試験する。
【0039】被試験ブロック340の比較動作は、2個
のブロック内の対応するピクセル間の輝度の差の絶対値
の和を計算することによって行われ、和が小さい方がブ
ロック間に高い相関度があることになる。この比較動作
は、動きベクトル選択器230に供給される4個の動き
ベクトルの各々に対して行われるが、図の明瞭さのため
に、図2では、4個のうちの2個のみ(ゼロ動きベクト
ル350ともう1つの非ゼロ動きベクトル360)を示
す。
【0040】図3は、動きベクトル選択器230の概略
ブロック図である。出力ピクセルの各ブロックに関する
4個の動きベクトルは、動きベクトル削減器220によ
って動きベクトル選択器230へと供給される。これら
4個の動きベクトル、即ちゼロ動きベクトルとv1、v
2、v3によって示される3個の他のベクトルは、4個
の各処理ユニット400、410、420及び430に
供給される。処理ユニット440、410、420、4
30の各々は、アドレスオフセット演算器440、タイ
ムベース変換遅延器180によって選択された入力フィ
ールドのペアの各1個の関連部分を夫々記憶する2個の
ランダムアクセスメモリ(RAM)450、460及び
ブロック突合せ比較器470を具える。
【0041】各処理ユニットの中では、アドレスオフセ
ット演算器440が、タイムベース変換遅延器180に
よって生成する時間オフセット制御信号(t)と共に、
この処理ユニットに割り当てられた動きベクトルを受信
する。これら2個の値からアドレスオフセット演算器
は、その動きベクトルによって指し示されたピクセルの
被試験ブロックにアクセスするために、RAM450、
460に記憶されるべき複数のメモリアドレスを生成さ
せる。アドレスオフセット演算器によって供給されたア
ドレスに応じて、各RAM450、460は、試験ブロ
ックを表すピクセル値のアレイをブロック突合せ比較器
470に供給する。
【0042】ブロック突合せ比較器470は、2個の試
験ブロックの対応する位置におけるピクセル値(特にピ
クセル値の輝度成分)を比較する。各ピクセルペア間の
輝度の差値の絶対値が計算され、輝度差の絶対値の全合
算値(SAD)を生成させて、2個の試験ブロック間の
全体的な相関を表す。特定の動きベクトルに関するSA
D値が低いときは、この動きベクトルによって指し示さ
れた試験ブロック間の相関度が高いことを示している。
【0043】処理ユニット430は動きベクトルv3を
受信し、この動きベクトルによって指し示された被試験
ブロックに関するSAD値を計算する。処理ユニット4
30はそこでSAD値及びベクトルv3の識別子を処理
ユニット420に供給する。
【0044】処理ユニット420の中では、ベクトルv
2に関するSAD値は、夫々のブロック突合せ比較器4
70から生成する。そのSAD値は、そこで処理ユニッ
ト430から受信したv3に関するSAD値と比較され
る。このSAD値が低いときは、動きベクトル(v2又
はv3)は、この動きベクトルによって指し示される試
験ブロック間の相関度が高いことを示す。従って、処理
ユニット420は、SAD値の低い方475及びこの低
い方のSAD値が生成されたベクトルを特定するベクト
ル識別子480を出力する。
【0045】処理ユニット410は、ベクトルv1を受
信し、このベクトルからSAD値を計算する。v1に関
するSAD値を、処理ユニット420から供給されたベ
クトルv2及びv3の低い方のSAD値475と比較す
る。処理ユニット410は、ここでベクトルv1、v
2、v3のうちの最も低いSAD値477を、このSA
D値が生成されるベクトル識別子485と共に出力す
る。
【0046】処理ユニット400は、ゼロ動きベクトル
に関するSAD値を生成し、これを処理ユニット410
から受信したベクトルv1,v2,v3に関する現在の
最小のSAD値と比較する。この比較処理によって、4
個のベクトルのうち最小のSAD値を生成する1つを表
す選択されたベクトル識別子490を、処理ユニット4
00内のブロック突合せ比較器470から出力する。
【0047】ゼロ動きベクトルに関するSAD値(処理
ユニット400内のブロック突合せ比較器470によっ
て生成する)を、比較器500に供給し、ここであらか
じめ設定されたしきい値510と比較する。ゼロ動きベ
クトルに関するSAD値は、4個のベクトル(ゼロ、v
1、v2、v3)のどれが出力ピクセル300の補間に
用いるべく選択されたかに関わりなく、比較器500に
供給される。
【0048】比較器500は、ゼロ動きベクトルに関す
るSAD値がしきい値510よりも大きいとき、(画像
の動きありを示す)動きフラグ520をセットする。ゼ
ロ動きベクトルに関するSAD値がしきい値510より
も小さいときは、動きフラグはセットされず、現在の出
力ピクセルが実質的に画像の靜止部分に存在することを
示す。
【0049】上述のように、補間器140の動作は、動
きフラグが補間中の出力ピクセルに関してセットされた
かどうかに従って変化する。この変化の理由を図4、
5、6、7及び図8を参照して説明する。
【0050】図4はひし形のプログレッシブ(順次)走
査されたビデオフレームの部分を示す概略図である。画
像が2個の連続するインターレース・ビデオフィールド
として示されているときは、図5のa(奇数ビデオフィ
ールド)及び図5のb(次の偶数ビデオフィールド)に
示すように、2個のビデオフィールドは再び結合されて
完全なひし形パターンが生成されるため、垂直方向の情
報損失はない。
【0051】しかし、2個の連続するビデオフィールド
間に垂直方向の奇数番のラインだけの垂直な画像の動き
があるとき、情報は補間過程で損失する。この状態は図
6のa及びbに示される。図6aは図4に示すパターン
に由来する奇数番ビデオフィールドを表し、図6bは、
画像が1ライン分だけ垂直方向に移動したのちの次の
(偶数)ビデオフィールドを表す。図6a及び図6bに
示す図は同一であり、言い替えればこの場合画像情報の
半分は損失される。
【0052】上述の問題を解決するために、補間器14
0が、動きフラグがセットされたかどうかに応じて2つ
の動作モードの間にて切り替えを行なう。動きフラグが
セットされたときは、現在の出力ピクセルが画像の動き
のある部分を形成していることを示し、入力フィールド
のペアの各々のフィールド内補間によって、2個の中間
ピクセル値を生成する。これらの中間値を結合して出力
ピクセルを生成する。これに対して動きフラグがセット
されないときは、現在の出力ピクセルが画像の動きのあ
る部分を形成していないことを示し、2個の入力フィー
ルドからのピクセルをインターリーブ(間挿)し、この
インターリーブしたピクセルに対して単一フィルタリン
グ動作を行い、出力ピクセルを生成する。
【0053】図7は、動きフラグがセットされたときの
補間器の動作を示す図である。半帯域幅(half-bandwid
th)補間フィルタ600が2個の入力フィールド32
0、330に夫々個別に適用され、夫々の中間ピクセル
値610、620を生成する。半帯域幅フィルタは垂直
エイリアス問題を避けるために用いられる。
【0054】ここでは、2個の中間ピクセル値610、
620を、現在の出力フィールドに時間上最も近いフィ
ールドから大きな比率で用いて中間ピクセルを形成する
という時間重み付けに従って結合し、出力ピクセルを生
成する。実際、2個の入力フィールド間における出力フ
ィールドの時間上の位置(t)に従い、結合比率が線形
に変化する。もしtが0と1との間の値であれば、これ
は、出力フィールドと先行する入力フィールドとの間の
時間的距離が1入力フィールド周期の一部であることを
示すので、2個の中間ピクセルが次のように結合され
る。 出力ピクセル=(1−t)×(先行する入力フィールド
からの中間ピクセル)+t×(後続する入力フィールド
からの中間ピクセル)
【0055】図8は、動きフラグがセットされないとき
の補間器140の動作の概略を示す図である。この場
合、現在出力されているピクセルが画像の動きのある部
分を形成しておらず、従って垂直方向の周波数帯域が
(図5のa及びbに示すように)すべて使えると判断さ
れる。従って全帯域幅(full-bandwidth)補間フィルタ
630を2個の入力フィールド320及び330のイン
ターリーブされたピクセルに適用し、出力ピクセルを生
成させることになる。
【0056】図8に示すフィルタ構成に時間上の重み付
けを用いることが考えられるが、いくつかの理由により
本実施例では実際に採用していない。 (1)2組のピクセルの重み付けが変化しても、フィル
タは全体で1の利得を保つために空間的には変形されな
ければならない。このように変形させることは可能では
あるが、フィルタの設計上に新たな制約が加わり、フィ
ルタの性能(例えば帯域幅など)が低下する。 (2)時間上の重み付けを行うと、出力フィールドの時
間上の位置が2個の入力フィールドの一方に近づくにつ
れ、ピクセル値の半分の値がフィルタを凌ぐようにな
る。この結果フィルタの帯域幅が半減してしまう。 (3)更に、入力フィールドに対する出力フィールドの
時間位置が変化するので、上記の(2)で述べたように
帯域幅が周期的に減少する。これによって(60Hzか
ら50Hzへの変換の場合)10Hzの周期で靜的な物
体の外見上の明瞭さが周期的に変化する。
【0057】図9は、補間器140の概略ブロック図で
ある。ビデオフィールドの組は2個の補間器700、7
10に供給され、現在の出力フィールドは、先行及び後
続する入力フィールドから夫々補間する。各補間器70
0、710は図7及び図8のフィルタ構成に従い、選択
的に動作する。
【0058】各出力ピクセルの動きフラグを「靜的」係
数メモリ720に供給し、また反転ゲート730を通じ
て「動的」係数メモリ740に供給する。フィルタ係数
の適当な組を係数メモリ720、740の1つから出力
し、動きフラグの状態に応じて出力ピクセルの補間に用
いる。選択された係数の組は並直列変換器750を介し
て補間器700、710に供給される。
【0059】各補間器700、710は、選択されたフ
ィルタ係数の組に従って夫々の入力フィールドからの多
数のピクセルを結合させる。補間器の出力は2個の乗算
器760、770の重み付け係数を乗算され、ここから
の出力が加算器800によって加算される。0.5又は
t(出力フィールドの時間的な位置)のいずれかの重み
付け係数が、動きフラグの制御に従って並直列変換器7
80より乗算器760に供給される。同様に、0.5又
は(1−t)のいずれかの重み付け係数が、ここでも動
きフラグの制御に従って並直列変換器790より乗算器
770に供給される。
【0060】重み付け係数としてt及び(1−t)を使
用するときは、動きフラグがセットされた係数との関連
から、補間器140が図7に示すフィルタリング構成に
従って動作し、2個の中間ピクセルを生成させ、時間的
重み付けを用いて結合させる。夫々の0.5の重み付け
をもつ「靜的」係数を使用するときは、図8に示すイン
ターリーブされた全帯域幅のフィルタ構成と等価にな
る。補間器140は、ゆえに動きフラグに応じて2個の
異なる補間器の一方として選択的に動作する。
【0061】上述の実施例の様々な改良型によって、全
帯域幅フィルタ630が動作状態に切り替えられたと
き、静止に向かう運動物体が突然焦点状態に持ち込まれ
るという潜在的問題を軽減できるであろう。例えば、 (1)一方が「静的」(全帯域幅)補間器を用いて形成
され、他方が「動的」(半帯域幅)補間器を用いて形成
された2個の出力フィールド間にて、クロスフェード
(cross-fade:編集点で信号を滑らかに接続すること)
を行うことができる。 (2)全帯域幅フィルタを用いる前に、動きがゼロに定
着した後に1つ又は2つの中間帯域幅(全帯域幅と半帯
域幅との間)フィルタを用いることができる。
【0062】
【発明の効果】本発明によれば、出力画像の各ピクセル
が、この出力画像の動的部分を表しているか靜的部分を
表しているかを検出する手段を具え、この手段を通じて
得た情報を、例えばこのピクセルを生成させる補間方法
の適合化に用いている。従って、入力画像がインターレ
ースされたビデオ信号の一連のフィールドから成る場
合、連続するフィールド間で奇数個のビデオラインだけ
画像が垂直に動くときの情報損失をうまく補償すること
ができる。
【図面の簡単な説明】
【図1】動き補償テレビジョン方式変換装置の概略を示
すブロック図である。
【図2】動きベクトル選択器の動作の概略を示すブロッ
ク図である。
【図3】動きベクトル選択器の概略を示すブロック図で
ある。
【図4】順次走査ビデオフレームの概略を示す図であ
る。
【図5】インターレースの関係にある2個の連続ビデオ
フィールドの例1を示す。
【図6】インターレースの関係にある2個の連続ビデオ
フィールドの例2を示す図である。
【図7】動きフラグがセットされたときの動き補償補間
器の動作の概略を示す図である。
【図8】動きフラグがセットされないときの動き補償補
間器の動作の概略を示す図である。
【図9】動き補償補間器の概略を示すブロック図であ
る。
【符号の説明】
140 動き補償補間器 210 ベクトル推定器 220 ベクトル削減器 230 動きベクトル選択器(ベクトル選択手段) 240 ベクトル後処理器(動きフラグ生成手段) 470 ブロック突合せ比較器(ブロック間相関度検出
手段) 500 比較器(靜動検出手段) 780,790 並直列変換器(ピクセル選択手段)
───────────────────────────────────────────────────── フロントページの続き (72)発明者 サイモン マシュー マンズ イギリス国 サリー,ギルドフォード デ ンジル ロード 2 (72)発明者 マーチン レックス ドリコット イギリス国 ハンプシャー,ベーシングス トーク,ベーシング,リングフィールド クロース 6

Claims (15)

    【特許請求の範囲】
  1. 【請求項1】 入力画像のペアの間での画像の動きを表
    す動きベクトルを生成し、動きを補償する補間によって
    出力画像を形成する動き補償ビデオ信号処理装置であっ
    て、 実質的に動きのないことを示すゼロ動きベクトルによっ
    て指し示された入力画像の信号ブロック間の相関度を検
    出する手段と、 このゼロ動きベクトルによって指し示された被試験ブロ
    ック間の相関度が所定の相関しきい値を超過しているか
    どうかを検出することにより、出力画像のピクセルが出
    力画像の動的部分にあるのか靜的部分にあるのかを検出
    する手段とを具える装置。
  2. 【請求項2】 このピクセルが出力画像の動的部分と靜
    的部分のどちらにあると検出されたかを示す、出力画像
    の各ピクセルと関連付けられた動きフラグを生成する手
    段を具える請求項1の装置。
  3. 【請求項3】 出力画像の各ピクセルに対してゼロ動き
    ベクトルを含む複数の動きベクトルを生成させる手段
    と、 出力画像のピクセルの補間に用いる動きベクトルを選択
    するためにこの動きベクトルを試験する手段、及び1つ
    の試験中の動きベクトルによって指し示された入力画像
    の被試験ブロック間の相関度を検出する手段を含む手段
    と、 上記複数の動きベクトルからその動きベクトルによって
    指し示されている被試験ブロック間のうちで最大相関度
    をもつ動きベクトルを選択する手段とを具える請求項1
    又は2の装置。
  4. 【請求項4】 入力画像の夫々のペアから当該ピクセル
    の補間に用いるために選択した動きベクトルに従って、
    出力画像の各ピクセルを生成させる動き補償補間器を具
    える請求項3の装置。
  5. 【請求項5】 上記動き補償補間器は、 2個のピクセル補間器と、 該2個のピクセル補間器のうちの一方を選択する手段と
    を具え、当該ピクセルが出力画像の動的部分にあるのか
    靜的部分にあるのかの検出結果に応じて出力画像のピク
    セルの補間を行う請求項4の装置。
  6. 【請求項6】 上記ピクセル補間器の一方は、 2個の入力画像からピクセルをインターリーブしてイン
    ターリーブされたピクセル値のブロックを生成させる手
    段と、 上記インターリーブされたピクセル値のブロックのブロ
    ック内補間によって出力画像のピクセルを生成させる手
    段とを具える請求項5の装置。
  7. 【請求項7】 上記ピクセル補間器の一方は、 入力画像の各ペアの画像内補間によって夫々の中間ピク
    セル値を2個生成する手段と、 上記2個の中間ピクセル値を結合させて出力画像のピク
    セルを生成させる結合手段とを具えた請求項5又は6の
    装置。
  8. 【請求項8】 上記結合手段は、入力画像のペアに対す
    る出力画像の時間上の位置に応じた結合比に従い、2個
    の中間ピクセル値を結合するように動作する請求項7の
    装置。
  9. 【請求項9】 上記結合比を入力画像のペアに対する出
    力画像の位置時間上の位置に比例するように定めた請求
    項8の装置。
  10. 【請求項10】 上記入力画像のペアが、インタレース
    された入力ビデオ信号の連続する2フィールドから成る
    請求項1〜9の装置。
  11. 【請求項11】 上記出力画像が、インターレースされ
    た出力ビデオ信号のフィールドから成る請求項1〜10
    の装置。
  12. 【請求項12】 入力画像のペアの間での画像の動きの
    検出に応じて、動きが補償された補間によって出力画像
    を形成する動き補償ビデオ信号処理装置であって、 複数の動き補償ピクセル補間器と、 該複数のピクセル補間器から1つを選択し、この入力画
    像のペア間の画像の動き検出に応じて、この入力画像の
    ペアから出力画像のピクセル補間を行う手段とを具える
    装置。
  13. 【請求項13】 請求項1〜12のいずれかの装置を適
    用した、テレビジョン方式変換装置。
  14. 【請求項14】 動き補償補間によって出力画像を生成
    するために、入力画像のペア間の画像の動きを表す動き
    ベクトルを生成する方法であって、 画像の動きが実質ゼロであることを示すゼロ動きベクト
    ルによって指し示された入力画像の被試験ブロック間の
    相関度を検出すること、 上記ゼロ動きベクトルによって指し示された被試験ブロ
    ック間の相関度が所定の相関度しきい値を超過している
    かどうかを検出することにより、出力画像のピクセルが
    出力画像の動的部分にあるか靜的部分にあるかを検出す
    ることの各ステップを含む方法。
  15. 【請求項15】 入力画像のペア間の画像の動きの検出
    結果に応じて、動き補償された補間によって出力画像を
    形成させる動き補償ビデオ信号処理方法であって、 複数のピクセル補間器から1つを選択し、入力画像のペ
    ア間の画像の動きの検出結果に応じて、入力画像のペア
    から出力画像のピクセルを補間するステップを含む方
    法。
JP07106794A 1993-04-08 1994-04-08 動き補償ビデオ信号処理装置及びビデオ信号処理方法 Expired - Fee Related JP3469626B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
GB9307473A GB2277004B (en) 1993-04-08 1993-04-08 Motion compensated video signal processing
GB9307473:0 1993-04-08

Publications (2)

Publication Number Publication Date
JPH0795593A true JPH0795593A (ja) 1995-04-07
JP3469626B2 JP3469626B2 (ja) 2003-11-25

Family

ID=10733640

Family Applications (1)

Application Number Title Priority Date Filing Date
JP07106794A Expired - Fee Related JP3469626B2 (ja) 1993-04-08 1994-04-08 動き補償ビデオ信号処理装置及びビデオ信号処理方法

Country Status (2)

Country Link
JP (1) JP3469626B2 (ja)
GB (2) GB2312806B (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1999067952A1 (en) * 1998-06-25 1999-12-29 Hitachi, Ltd. Method and device for converting number of frames of image signals
JP2003512749A (ja) * 1999-08-02 2003-04-02 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 動き推定方法及びその装置
JP2011070568A (ja) * 2009-09-28 2011-04-07 Fujitsu Ltd 画像処理装置、画像処理方法及びプログラム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19509418A1 (de) * 1995-03-16 1996-09-19 Thomson Brandt Gmbh Verfahren und Schaltungsanordnung zur Unterabtastung bei Bewegungsschätzung
KR100467625B1 (ko) * 2003-02-03 2005-01-24 삼성전자주식회사 프레임 레이트 변환을 이용하는 영상 처리 장치 및 방법
US8405769B2 (en) * 2009-12-22 2013-03-26 Intel Corporation Methods and systems for short range motion compensation de-interlacing

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2045574B (en) * 1979-03-22 1983-04-20 Quantel Ltd Video movement detection
GB2231749B (en) * 1989-04-27 1993-09-29 Sony Corp Motion dependent video signal processing
JP2507138B2 (ja) * 1990-05-21 1996-06-12 松下電器産業株式会社 動きベクトル検出装置及び画像揺れ補正装置
GB2313514B (en) * 1993-08-03 1998-02-25 Sony Uk Ltd Motion compensated video signal processing

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1999067952A1 (en) * 1998-06-25 1999-12-29 Hitachi, Ltd. Method and device for converting number of frames of image signals
US6611294B1 (en) * 1998-06-25 2003-08-26 Hitachi, Ltd. Method and device for converting number of frames of image signals
JP2003512749A (ja) * 1999-08-02 2003-04-02 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 動き推定方法及びその装置
JP2011070568A (ja) * 2009-09-28 2011-04-07 Fujitsu Ltd 画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
GB2312806A (en) 1997-11-05
GB9307473D0 (en) 1993-06-02
JP3469626B2 (ja) 2003-11-25
GB2277004A (en) 1994-10-12
GB2312806B (en) 1998-01-07
GB2277004B (en) 1998-01-07
GB9715329D0 (en) 1997-09-24

Similar Documents

Publication Publication Date Title
US5600377A (en) Apparatus and method for motion compensating video signals to produce interpolated video signals
US5631706A (en) Converter and method for converting video signals of interlace format to video signals of progressive format
US5943099A (en) Interlaced-to-progressive conversion apparatus and method using motion and spatial correlation
JP2832927B2 (ja) 走査線補間装置及び走査線補間用動きベクトル検出装置
US5526053A (en) Motion compensated video signal processing
US5386248A (en) Method and apparatus for reducing motion estimator hardware and data transmission capacity requirements in video systems
US5485224A (en) Motion compensated video signal processing by interpolation of correlation surfaces and apparatus for doing the same
JP2000050212A (ja) 画像表示装置及び画像表示方法
GB2263602A (en) Motion compensated video signal processing
JP3469626B2 (ja) 動き補償ビデオ信号処理装置及びビデオ信号処理方法
JP3875286B2 (ja) 動きベクトル発生方式
JPH06326980A (ja) 動き補償映像信号処理方式
JP2000092455A (ja) 画像情報変換装置および画像情報変換方法
GB2277006A (en) Generating motion vectors; subsampling video signals, interpolating correlation surfaces
JP2938677B2 (ja) 動き補償予測方法
GB2281167A (en) Motion compensated video signal processing
JP4346327B2 (ja) 順次走査変換装置及び順次走査変換方法
JP2770300B2 (ja) 画像信号処理処置
JP3800638B2 (ja) 画像情報変換装置および方法
KR20000061568A (ko) 비디오 신호의 프레임 율 변환 방법
EP0474272B1 (en) Method and apparatus for reducing motion estimator hardware and data transmission capacity requirements in video systems
JP3201344B2 (ja) インターレース動画像信号の動き補償予測方法及び符号化装置
JPH04505079A (ja) 信号処理装置
JPH0715700A (ja) 動き補正映像信号処理装置及び方法
JPH0730861A (ja) 映像信号変換装置、映像信号内挿装置及び飛越し走査変換装置

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees