JPS62131383A - 画像列における動き推定方法及び装置 - Google Patents

画像列における動き推定方法及び装置

Info

Publication number
JPS62131383A
JPS62131383A JP61278538A JP27853886A JPS62131383A JP S62131383 A JPS62131383 A JP S62131383A JP 61278538 A JP61278538 A JP 61278538A JP 27853886 A JP27853886 A JP 27853886A JP S62131383 A JPS62131383 A JP S62131383A
Authority
JP
Japan
Prior art keywords
pixels
pixel
image
classification
displacement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP61278538A
Other languages
English (en)
Other versions
JPH0724071B2 (ja
Inventor
モハマッド−レザ・ハギリ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Philips Gloeilampenfabrieken NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Philips Gloeilampenfabrieken NV filed Critical Philips Gloeilampenfabrieken NV
Publication of JPS62131383A publication Critical patent/JPS62131383A/ja
Publication of JPH0724071B2 publication Critical patent/JPH0724071B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Color Television Systems (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 本発明は画像列における動きを評1dliする方法及び
装置に関するものである。
1、W +、套な方法は木来情fI圧縮や、画像品質の
改良や、目標物の追跡等に対するディンタル悟す゛ひ浬
の分野及び例えばマグネットスコープに閏ずろような場
合に、伝送したり又は記↑Jk したりずべき[I′1
報の速度を下げるためのディジタル画1象符号比装置に
適用することができる。
米国の雑誌「ザ ベル システム テクニカルジャーナ
ルJ (The Be1l System Techr
++calJournal)にニー・エヌ・ネットラハ
リ(A、  N。
Netravali)及びジェー・ディー・ロビンス(
、J、 D。
Robbins)  により発表された論文「モーンヨ
ノーコンペンセーティソド テレビジョン コーディン
グ:パート[j (”Mot+on−Compensa
ted Te1ev+s+onCoding: Par
tビ″)には、本来画素の分類を固定画素及び移動画素
について行い、しかも先行画像の画素を利用し、これら
の画素を現行画像の画素と位置及び光度について比1校
する適応性の予測法によって動きを評価する動き評価方
法について記載されている。しかし斯かる方法にはまだ
かなりの欠点がある。先ず動きに関して言えば、斯かる
方法は近傍画素間の相互関係を全く考慮していない。
さらに、画素を分類するのに、所定画素に関連する画素
の分類かつぎの画素の分類に及ぼず影習についても河等
考LBしていない。
本発明の目的は上述したような欠点を除去して画像列に
おける動きを適切に評価する方法を提供することにある
本発明は、各画素の光度をディジタル形態にて表わし、
かつこれらの各画素を2つの座標(m。
n)によって規定し、ここにmは各画素が存在している
画像ラインの行を示し、かつnは前記m番目の画像ライ
ンにおける画素列を示すものとして画1象列における動
きを評価する方法において、該方法が: (A)基準画像を作成するために現行画像に対する先行
画像を保存する工程と: (B)固定画素、移動画翠及び出現画素と[4J:され
る画素に分類される3つの画素グループを規定し、これ
らのグループでは当面の現行画素X lこ後続するL個
の画素が取り得る所定数のグループ列を調べることによ
り画像の走査に応じ、しかも所定の分類規準に基づいて
画素をL個の遅延側5携で類別し、固定及び移動画素に
対する前記分顕現・(Jiは、成る画像の池の画像に対
する画素の変位を移動画素に対して考慮しての2つの連
続画像間の光度差とし、また出現画素に対する前記分類
規準は2つの隣接する画像ライン間の光度差とするよう
にして画素に対する3つのグループを規定する工程と; (C)分類トリーを作成し、該トリーの各連続レベルに
おける3I一本の枝路の数を画素が取りi)グループの
故に等しくシ、この数を分類トリーの第1レベルからL
番目のレベルまて;よ画像列のL個の当面の連続画素が
取ゆ升るグループ列に対応さけるように分類トリーを作
成する工程と;(D)各レベルの各枝路につぎの2つの
パラメータ、即し、 (aJ  画素が先行画素又は先行画1象ラインに対し
て取1.) irj、る変位を表わすパラメータで、し
かも巡回式の変位計1+lIi法によって決定される変
位ベクトルと称する第1パラメータと; Cb)  先行画素の分類誤差の累算用を表わす累′!
、7びずみどF3J:される第2パラメータにあって、
mI記先71画素のグループは現行[支路に到達するま
でに通過したトリー枝路のグループとし、各公印誤添は
、成る画素に対して評価した変位が該画素に((続する
L個の画素に対して評価した変位に及ぼす冨響を考慮し
て最小となるようにし、前記影響11トリーが取り得る
3ヒ本の枝路の内で、生存枝路と称する累算ひずみの最
も弱いM本の枝路に対してのみ調べ、ここにMの値を枝
路の最大数3Lよりら1缶かに小さ=)L4R定攻とし
た第2バラ、メー++ :とを関連付けろ工程と; (E)L個の画素に関連する前記処置に従って、現71
画素に対してL画素分以前に位置した画素の仔効グルー
プについて、及び変位ベクトルにつ・、1て多数決の1
:す定を行い、該判定は生存(支路を調べることによっ
て、及びこれらの生(′f−を支路の1シフ′uに:二
対応するグループにおけるL画界分以前に位;1qした
各画素を類別することによって行い、従って対応する変
位ベクトルはL画零分層萌に位置した斯かる画素の変位
吉見なされるようにし、11fI記刊定処置を、この判
定を行わない画像列のL番[°1の最終画素以外の画素
について全く回りように繰り返す1′11定王程:を含
むことを′IS徴とする。
上述した本発明による方法によれば、出現画素と称され
るカテフリを包含している画素について従来とは異なる
非常に正確な分類を行い、移動物体の輪郭個所にて動き
評価法を初期設定し直すことができると言う利点がある
。さらに、画素のクラスについて判定をするための所定
数の21直素子の出現を侍って画素間のト目閏を考芯す
ることができる。
以下図面につき本発明を説明する。
多数の用途、特に前述したような用途にとっては、番号
付けしだ画像列を取扱う、特に成る画像とつぎの画像と
の間の動きの(7在を検出する必要がある。後に詳述す
るヨJきを評f+11iするための方法及び1υ置は、
その評1lIIi装:jりを初期設定し、かつそのパー
ホーマンスを改善するために遅延判定で変(ケを評1i
11iする巡回式の方法に基づくものである。
(4連続画像に対して、各画、姑の輝度性をディジタク
ル1ヒし、かつこれらの各回ぶを2つの座標(m。
n )によって規定し、ここにmを画像ラインの行とし
、かつnを斯かるn番目の画1象ラインにおける画素列
とすることになっている。
本発明によれば、画像の走査中にこの画像の画素をつぎ
の3つのグループの内の1つのグループにてL個の面木
を遅延さけて分類する。
(a)固定画素グループ (b)移動画素グループ (C)出現(exposed)画素グループこの分類の
正確な意味については後に詳♀Illに説明する。また
、上記分類が各画素に対して行われ、これが当面の画素
に後続するL個の画素について飄える所定数の連続グル
ープを調べることによって行われることも確かめること
ができる。
また、本発明によれば各当面の画素に変位ベクトルを関
連させ、成る画素からつぎの画素への斯かる変位ベクト
ルの方向及び振幅を1個又:まルに個の先行画素のグル
ープ及び斯かる又はこれらの先行画素によって生ずる分
類誤差の関数として浦正けしめるようにする。この分類
誤差は3一つのグループに対して同じようには規定され
ず、前述した最明の2つのグループに対する誤差は当面
の画素と、先行画像について行った変位を各週しての先
行画像における同じ箇所のく同族)画素の光度差に等し
く、また第3グループの画素に対する評filli誤差
は当面の画像の垂直方向、叩ら成る画像ラインから他の
画像ラインへの光度変化によって決定される。
上述したようにして行う分′!’、Qは一つぎのような
考察に仄つくものである。画像中にて成る物体が変位す
る場合に(ま、つぎの3つのタイプの画崇ヲ区別するこ
とができる。即ち、 (a)  画1象の固定部分に位置する固定画素;(b
)2つの連続する画1象中てはあるが、異なる個所に見
える移動画素; (C)  物体の変位後に見えるようになった出現画素
と称する画素。
先行画1象の画素に対応しない出現画素は強力な空間的
ト目関をとり、例えばそれらの光度は先行画像ラインの
光度に近い幀を有する。
この場合に採用する客観的な分類規準は、3つのカテコ
リの画素への斯かる分配方法から、即ち移動画素に対す
る画素の変位と、第3タイプの画素に対する2つの隣接
する画像ライン間の光度差とを考慮しての最初の2つの
タイプの画素に対する2つの連続画像間の光度差から推
論する。
効率の点からして上述した巡回式の変位評価は、mj記
3つの規定した画素タイプを区別し、かっこれろを適当
なh ’r人でト目互jこl’r IT]さけろも・7
)−二56ろっ1神1i11i処置の初期設定は、移動
物体の輪郭を追)4・する画素に対しての七口評fil
liかろ出発ずろこと(二上って物体の変位を最終的に
再生し占るようにする必要がある。即ら斯かる輪郭を形
成する画素j二対する変位ベクトルは、その11月用設
定時:こは千n1されないため、斯トlな画素は第3カ
テコリの画、外、即ら出現画素のカデゴIJ lこ分類
すべきである。
本発明によれば、分類用(Mを1見定する−と1=よっ
て、成る画素に対して計11i 1.た変泣かL j[
、’、l 、、ニー)後続する画素に対して評!+tl
i した変位に檗ぼ才影、1;1ゝを匣宜上所定の限度
内で調べろことによjつ斯かる規準の非最適時匹による
分類誤差も1′に小にずろ一所かる影響は、この目的の
ために分類トリーを111立てることによって観察する
ことができ、この分類トリーの連続枝路は3つの取り得
るグループ:てマ1応し、これらのグループには画像の
く走査方向における)L個の連続画素を関連付ける。背
髄なトリーは理論的には3’本の枝路を具えるが、カイ
の簡素比のために、以後生q枝路と称する観測枝路の本
数は制限すること明らかである。
従って分類トリーはつぎのように、叩ち腫々の枝路の交
点をノードとし、かつトリーが各々成る画素に対応する
L個のレベルを具えるものとして現定して簡単に組立て
る。第1画素から出発する場合に:ま、その第1画素を
3つの現定グループ(固定画素グループ、移動画素グル
ープ、出現画一シホグループ)の内の1つ:こ関連さけ
て没先付けることができる。従って第1図に示した分類
トリーでは、これら3つのグループに関連する3つの[
支路を作り、これらの各1支路に2つのパラメータを関
連させる。
]二記2つのパラメータの内の最初のパラメータはDに
て示す変位ベクトル(トリーレベル;画素がj1]する
グループ)であり、トリーレベルは0とLとの間にあり
、グループはf、m又はd(それぞれ固定画素グループ
、移動画素グループ、出現画素グループ)によって示し
である。2つの最初の画素グループに対する斯かる変位
ベクトルは先行ノード(この場合には当面のし個の画素
の内の最初の画素に対するゼロノード)に関連するぐj
1☆:ベクトルに依存し、また斯かる先行ベクトル;二
対しての最ン刀の2つの画素グループに対ずろ変位ベク
トルは分類誤差を区別するための評1dn誤差りによっ
て再更新される。第3画にグループに対する変位ベクト
ルは前記註11I[i 、誤差に等しく、このことはこ
の場合(先行変位ベクトルがない場合の) !I’、l
Jき評1dli %すjiffを初期設定することを意
味し、従ってこれは方法が同じ原理では、巡回式の評1
+Ili特性に断絶個所があることを意味する。評価誤
差そのものは、先行画像における変位を考慮しての七に
と同じ個所の画素の空間的光邸変(ヒによるものに比例
すると共に、現行画素と先ij゛画素におけるそれと同
じ個所の画素との光度差に比例する。
前記パラメータの内の2番目のパラメータはl>Q述し
たようにdistにて示す累算ひずみ(トリーレベル;
画素が居するグループ)である。なお、この説明では先
行側窓の分類誤差の累算和を二乗したものを用い、これ
らの画素のグループを現在の枝路に到達するまでに分類
トリーの枝路をJ+ったグループとずろっ)T目図では
ベクトルI)(・1.)反ひびずみdisj(・、・)
を各1支路に関連イ・jけるが、図面が(、l”i i
:I¥とならないようにずろためにこれらのすべて:ま
図示してない。その理由はトリーの1111分、!;す
はおびj二だしい?!1こなるからである。
例えば取扱う画1象列の第1EgJ零に注目する場合、
1mかるひずみ:ま第1トリーレベルの枝路の二乗誤;
ρに等しくなる。、第2画素に到達ずろと、トリーには
光のレベルの各枝路の先端に3つの枝路が形成さり、新
1.(lの対応するパラメータ(変位ベクトル、累算ひ
ずみ)が計算される。この処置は各折tl、lの画素に
対して操り返され、枝路の数は3倍になるも、この(支
路総数は指定枝路の制限数り、1以下であり、その指定
(支路の故は各画素がとりi4)る最大枝路よりも血か
に少ない数である。斯かる制限数は装置をmSlにしな
いようにするために一定にする。斯かる枝路数が制限値
を越すと直ちに最弱ひずみの〜1本の枝路(生存枝路と
称する)は実際上1− IJ−の作成用に保留されるが
、3L−M木の池の枝路は例えばそれらのひずみを無限
大とすること?こま、、て除去されろ。
斯[lな処置はL?l;l−]の画翠まて続行さσるっ
このような処置jこ1、(つき、最弱ひずみのX・・1
本の枝路を保留さけた後jこ、第1画素の実際のグルー
プ及び変位ベクトルに関しての多数決を採る。この判定
は多少遅みせる。その理由は、L個の画素:こ先行する
当面の画素について上述してような1:す定を行う[)
L1にL個の追加画素についての情+fjに2.tする
侍し時間があるからである。上記判定はつぎのようにし
て行う。即ち、生(F Lで5)ろ枝路を調べ、これろ
の生17枝路の最大数が対応して′、)るグループに第
1画素を類別し、かつ対応する変位ベクトルを、第1画
Q;等の変位てあろと見なすようjこして行う。L番日
の画素から;よ、各新規の画、)なの到来時に、L個の
画素によりこの新規の画素に先行している画素に対応す
る画素グループ及び変(ケベククルを決定し得るように
する。L個の最新の画素、或いは成る全体の画像ノーケ
ンスを選定する(例えば1沙間に取り扱う画像を25画
像とする)場合の画像列に対しては多数決を採ることは
ない。
4、−H; t)図は」二連したような:1リノきを計
1111iする方法を実施する評f+Ili装置の一例
を示すブロック線図である。図示の評価装置は人力結線
Eを具えており、これには人力画像を構成するディジク
ルサンプルを(例えばビデオ画像の場合には13.5 
Mtlzのサンプリング周液数で)供給する。人ノJ画
像は一方では画像遅延回路20を介して画像メモリ団に
供給する。画像メモ1月0は現行画像の処11q中先行
画像を(1コ什する代能を有している。画像遅延回路2
0は入力語I8Eと画像メモ1月0の人力・1子との間
に配置−4−ろ。人力画像は他方ではライン6延回路3
0に供給し、この遅延回路は(第3グループの出現画素
の場合に)現行画像の先の画1象ラインに係わる対応面
木にアクセスする。人力画像は巡回式の変位7)ヱ11
1′Ii皆1δ40にも供給し、この評blli装置は
分類トリーの各ステップでトリーのノードに関連する変
位ベクトルを更新する。これらMi[lSlの変位ベク
トルは遅延判定回路50に供給する。この判定回路50
は、当面の画素の変位を評価するように前述した多数決
処置に従ってM個の変位ベクトルから最箸のベタトルを
選定し、1追って判定回路50は画1象列の各画素に対
するグループ及び変位ベクトルを決定するも、この判定
はし個の画累分だ(y遅れて行われる。変位ベクトルを
考慮して先行画像の画素にアクセスする画像メモリ10
は、巡回式の変位計1i11ii置110から分類トリ
ー〇M個の連続ノードに関連するM個の変位ベクトル(
これらの変位ベクトルは回路50に供給されるものと同
じものである)を受信すると共に、lサンプリンク周期
後で、しかも新規の現行画9Xの同族画素の光度を間接
的にアドレスした後には上記〜1個の変位ベクトルを変
位計1+li持置110に供給する。なお、ここにXは
画素、叩ら先の画像の画素X−DεPi、 X−DfE
P2.−−−、X−叶)L ’、1の座標m、nを表わ
す。メモ1月Oは上記同族画一・蕗の斯かる光度を回路
50にも供給する。
第3図は巡回式の変位計fITli装置40の一例を示
すブロック線図である。この評価装置40は画像メモ1
月りのM個の出力の内の1″つの出力で各々作動するM
個の同髄な回路を具えており、従ってそれぞれ素子ζ1
o1i〜415i (iは1とMとの間で変化する)か
ら成る\、・1個の回路の内の1つの回路だけを示しで
ある。減算器401+は、例えばその正の入力端子ンこ
て人力結線Eに現れる人力画像を受信し、かつ負の入力
端子にて画像メモ1月Oの出力信号、即ち1番目の光度
を受信して、現行画素Xと先の画像における同族画素X
−D[EPiとの光度差を差信号として供給する。減算
器401iの出力信号は画素X−DεP1:こおける光
度の空間的勾配(変化度〉によって債を1′「る2つの
乗算a5402+及びl112iに供給する。空間的勾
配そのものは勾配回路403Lによってベクトル形態(
方向mの勾配と、方向nの勾配〉で供給され、勾配回路
を印3Lは画像メモリ10にて読取られる画素X−DE
P +の近傍の画素の光度にて作用する。
第・1図は先の画像における画素X−DEP+のまわり
の4つの画素△、B、C,Dを示し、上記空間的勾配:
ま次式によって与えられる。
ついで前述したような計画誤差である乗算器のベクトル
的な出力信号を重み付けすることなく2つの巡回式フィ
ルタで処理する。これろの巡回式フィルタは減算器・団
41及び4111と、側窓遅延回路4(15!及び41
5+とてil、+7成ずろ。画累遅延回路405i (
又は1115i) は減算器404+ (又は4111
1)からの出力信号を受信し、この信号を減算器10=
11(又はll l 4 + )の負の入力端子に遅延
させて再び供給する。、に1(算器11041 (又は
41 =I i )の正の人力ぐ;ル:子はI’+?j
記評1111誤差を受信する。斯くして減算器104+
 (又は111・11)は当面の現行画素Xに関連する
新規の変位ベクl−ルを供給する。
上述した。ようにして古史゛訴されたベクトルD i:
 P 1 。
Dεp2.−−−、 o+:、plxは一方ではアドレ
ス指定ずろために画像メモ1月0に供給されて、ここに
てこI″1ろのベクトルは先のベクトルに取って代わり
、油力では本発明による特定例における第5図に示す遅
延判定回路50に供給される。この遅延i′lJ定回路
50は先ず第1に(M+2)個の減算回路501.50
2及び50(1)〜50 (M)を具えており、これら
の回路は減算器502以外は先の画像の画素と現行画像
の画素との間の光度差を評価することによる分類誤差を
計算し、減算器502では斯かる光度差を先の画1象ラ
インの画素と現行画像ラインの画素から評価し、減算回
路の参照符号50(1)〜50(1,1)  における
カッコ内の’Jil faは分類トリーの7−ドを示し
ている。ついて各減算回路にて得た光度差の1直を(1
2)個の二乗回路511.512及び51(1)〜51
(M)  にて二乗する。
これらの二乗回路の出力信号1ま3M個の第1加算器5
2H1)〜521(λ1)、522 (1)〜522 
(M)、523 (1)〜523(!、1)につぎのよ
うにして、叩ち511から521(1)〜521(M)
、512  から522 (1)〜522(’J)、5
1(1)  〜51(!、Dから523 (1)〜52
3(λ1)へとそれぞれ供給する。3M個のυ[1算器
はそれるの池の入力端子にてX・1個の遅延回路54(
1)〜54()υ の出ノj端子に存在するノードのひ
ずみを受信する。遅延回路54(1)〜54(!、1)
の前段にはM個の加算器53(1)〜53(!、l)を
設ける。
これらの加算器及び遅延回路の役割については下記に説
明する。
3M個の第1加算器の出力信号は、最強ひずみを有して
いる2〜1木の枝路を除去する前の3M木の枝路につい
ての累涼ひずみを表し、これらの出力信号は分類(ソー
ト)回路590に供給する。この分類回路590は上記
3M個の受信信号Q)内から累算ひずみのM個の最弱1
直を表わす信号を分類して、これらの信号を〜1個の加
算9S53(1)〜53(M)の第1入力端子に供給し
、かつこれらのM個のひずみ(直及びこれらの各ひずみ
1直とF目(臭って、こ1′l。
らのひずみ暁が分類回路の入力端子にて有している分1
nに対応する指[tを迫り旧′IJ:Jに供給する。
上記\、・1個の指標は分類トリーの促存兼更新用の回
路600によって利用される。第6図の特定例に示す斯
かる回路600は本例の場合iM番号路6(〕lを具え
ており、このiM番号路は例えばlと3Mとの間の各ア
ドレスに対して後!=示すように4算される商及び余り
を提供すべくプログラムした読取専用メモリを用いて[
支路番号(これからグループをflL論する)及びノー
ド番号に関する2つのデータを抽出する。各指標を2倍
し、これらの乗算した各指標を3で割った後に商を求め
る(a)と共に余り(b)も求める。斯かる商は分類ト
リーの=itレベルに関するノード(1と〜1との間)
の番号を示し、余りはひずみが関係している枝路のグル
ープ、叩ら固定画素の第1グループ、移動画窓の第2グ
ループ又は出現画譜の第3グループにそれぞれ対応させ
た1直である1/3 、O又は2/3にト目等する。
促6Y兼更新回路は2M個の主レジスタ602(1)。
602(2)、   −−−、60201)、   6
03(1)、    603(2)、  −−−。
603 (M)及び2〜・1個の補助レジスタ612(
1)、 612(2)。
−−−、612(ゝ、I)、 613(1)、 613
(2)、−、613(Wl)も具えているっこれら4M
個の/フトレジスクの各々は分類トリーの長さく即ち、
レベルの番号)に1;:I してのし個のワードに対す
るI−個の位置を具えている。これらのレジスタ(即し
、2M個の主しジス7り)の内の最明のレジスタは」l
新しベルに関するデータ(即ち、画像の現行画素Xのデ
ータ)を記憶し、以下同様に第2.第3.−m−レジス
タも順次最゛折レベルに関するデータを記1.へする。
M個の主レジスタ602(1)〜602(!J)及びM
個の補助レジスタ612(1)〜612(M)は分類ト
リーのL個連続するレベルに対する変位ベクトルを記憶
し、またM個の主レジスタ603 (1)〜6[)3(
M)及びM個の補助レジスタ61″)(1)〜’3D(
M)iまl7個の連続ずろレベル2こ2[する生i′?
:枝路グループのデータを記憶、ずろ。これらレジスタ
の内′各jこよって)−ドがそれるのひずみの低ド順j
こ配列されるように分類トリーを再1117成すること
がてきる。この分類トリーの再ii’l’j 成は後に
詳述するように実施される。
第6図で、乗算器62[と主レジスタ602(1)〜(
j1〕2C1Dとの間及び補助レジスタ612(1)〜
612(M)と乗算2);6211の間にはそれぞれ池
のトラックと区別するように大口の矢印によって示ず転
を結線を示しであるっ乗算器622と主レジスタ603
 (1)〜lj03Ql)  との間及び浦曲レジスタ
G12<1)〜613(曳、1)と電算:!9622と
の間にも上述したN1木の結線と全く同じように示され
るN1木の同様な結線を設けて、N4木の最初の結線に
より実施されるのと同じ記憶、1呆存及び更新筬能を実
行させる。第6図では図面を見易く、しかも理解し易く
するために、乗算器622、レジスタ603 (1)〜
603(+、1)及び613(1)〜613(!J)の
各崇子を適当に省き、またこれらの米子を実線で示す代
わりに破線にて示してあり、同様にf’、i 号116
01 カラ1/ ’;’ スフ603 (1) 〜60
3 (、’J) ヘノM 木の結線、レジスタ603(
1)〜603(jDからレジスタfi13(1)〜61
30J)へのMXL本の結線及びレジスタ613(1)
〜613(M)から多数決回路630へのM本の結線も
破線にて示しである。
トリーを再構成する第1段階では、2M個の主レジスタ
602(1)〜602(!、l)及び603(1)〜6
03(M)の内容を、それぞれ分類トリーの再構成以前
に分類トリーを保存しておく2M個の補助レジスタ61
2(1)〜613(’、I)及び613(1)〜613
(λ1)に転送する。この転送によって2M(I!の主
レジスタは、斯かる転送によって旧のトリーを失うこと
なく新規(、■成の分類トリーを受IJするようになる
。第2段階では、主レジスタにひずみが低下する順序で
前記内容を記憶させるために2MI固の1市助レジスタ
612(1)〜612(λ1)及び613(1)〜61
3(1,1)の内容を乗算器621及び622(621
は変位ベクトルに対するものであり、623はグループ
データに対するものである)によっつで2M個の主レジ
スタ602 (1)〜602(1,1)及び603(1
)〜603(M)に供給する。主レジスタ602 (K
)及び603(K) +ま例えばこれらの転送燥作後に
は変位ベクトル及びトリーの枝路のグループデータを含
み、この場合のひずみはその低下順序でに番目のもので
ある。
現行画素Xに関するレベルXのデータを導入するには実
際」二つぎのような操作が必要である。即ち、 (a)  M個の主レジスタ603 (1) 〜603
 E) ノ第17−トは復号回路601から到来するレ
ベルX〈このレベルは現行画素Xに関連する)の枝路グ
ループの番号を表わす。実際」ニ斯かるi夏号回路60
[は最弱ひずみを酢しているM個のノード孜を3で割っ
た余りを供給する。
(b)  対応する枝路が固定画窓グループ又は移動側
窓グループに関連する場合には、乗算回路620によっ
て回路40から到来する変位ベクトルD[EPl。
DEP2.−−−、 DEP(λ1)をM個の主レジス
タ602 (1)〜602(!、I)の第1ワードに保
存させる。これらの第1ワードは逆の場合(初期設定の
場合)にはゼロとする。
ついで多数決回路63f) !こまって遅延判定を行う
この多数決回路は実際には〜1個の主レジスタ603(
1)〜6030.DのL番目のワードを調べて、発生番
号が最も大きいグループ(即ち、最も頻繁に戻るグルー
プ)を決定する。これが再びレジスタ603(k)であ
り、例えばこのレジスタが斯かるグループを記憶してい
る場合には主レジスタ603 (K)及び602<K)
の14=目のワードの内容は、画RX  Lに係4つる
グループt”;(X−L)反び変位ベクトルであると見
なされる。これら2つのデータは多Ek決回路630の
出力、%iai子、叩ぢ実際には第2図に示したような
回路50の出力端子に現れる。画1象の画素X−Lに対
する斯かるグループに至らない枝路をなくすために、L
番目のワードの内容が判定グループの内容(この内容自
体はレジスタ603 (K)のL番目のワードで示され
る)とは異なる場合に、累算ひずみは無限大1直にする
か、又は例えば番号付けした画像の最大光度よりも高い
値を加えることによって極めて大きな値とする。
除去すべき枝路に対しては最大光度に等しく、また1m
の枝路jこ対して:ま上口j二等しり)回路6 D (
lの出力信号615(1)〜615CI):ま遅延回路
5・1(1)〜)・1(“、1)が後続するM個のυ1
1算2H5,3(i)  〜:+3<M)の各第2入力
端子に供給する。遅延回路5・1(1)〜54(!、D
  は、これらを通る信号をlザンプリンタ期間だけ遅
延させる。最終判定をjlつだ場合、2〜1個の主レジ
スタ602 (1)及び602 (M)のワードは下ノ
jにソフトされ、これらのレジスタ(ま訴り見の遅延1
′11定操(乍の・す(+iiをし、各判定は主レジス
タと袖助レジスタとから成るlユニットづつ順次〉・フ
トされることは力論である。
【図面の簡単な説明】
第1図は各画素が第1グループの固定画景、第2グルー
プの移動画素又は第3グループの出現画素と称する画素
に関連するか4区別する画素分類トリーの一例を示す線
図; 第2図は本発明による動き評価装置の一例を示すブロッ
ク線図; 第3図は第2図の装置に用いられる巡回式の変位評価装
置の一例を示ずブ07タ線図;第4図は画素X−DEP
iの光度を決定するのに利用する4つの画素△、B、C
,Dを示す説明図;第5図は第2図の装置に用いる遅延
判定回路の一例を示すブロック線図; 第6図は第5図の回路に用いる分類トリーの保存兼更新
用回路の一例を示すブ0.7り線図である。 10・・画像メモIJ     20・・・画像遅延回
路30・・・ライン遅延回路  40・・・変位計1+
ITi i買50・・・遅延判定回路 401、〜401.4・・・減算器 402i、 41
2i・・・乗算器1103i・・・勾配回路    4
04+、 4141・・減算:(K・105i、 41
5i・・・画素遅延回路501、 ’、)02.50(
1)〜50(!、0 ・・・減算回路511、512.
51(1)〜51にわ・・・二乗回路521(1)〜5
21(M)、 522(1)〜522(M)、 523
(1)〜523(M)・・・第1加算器 53(1)〜53(1,1)・・・加算器54(1)〜
54(M)・・・遅延回路590・・・分類回路 600・・・分類トリー保存兼更新用回路601・・・
復号回路 602(1)、  602(2)〜602(’わ、  
603(1)、  603(2) 〜603fjl)・
・・主レジスタ 6)2(1)、 612(2)〜612(M)、 61
3(1)、 613(2)〜61:3(!、D・・7市
助レジスタ 621、622・・・乗算器   630・・・多数決
回路f!r +:’l出願人   エヌ・べ−・フィリ
ップス・フルーイランベンファブリケン

Claims (1)

  1. 【特許請求の範囲】 1、各画素の光度をディジタル形態にて表わし、かつこ
    れらの各画素を2つの座標(m、n)によって規定し、
    ここにmは各画素が存在している画像ラインの行を示し
    、かつnは前記m番目の画像ラインにおける画素列を示
    すものとして画像列における動きを評価する方法におい
    て、該方法が: (A)基準画像を作成するために現行画像 に対する先行画像を保存する工程と: (B)固定画素、移動画素及び出現画素と 称される画素に分類される3つの画素グループを規定し
    、これらのグループでは当面の現行画素Xに後続するL
    個の画素が取り得る所定数のグループ列を調べることに
    より画像の走査に応じ、しかも所定の分類規準に基づい
    て画素をL個の遅延画素で類別し、固定及び移動画素に
    対する前記分類規準は、或る画像の他の画像に対する画
    素の変位を移動画素に対して考慮しての2つの連続画像
    間の光度差とし、また出現画素に対する前記分類規準は
    2つの隣接する画像ライン間の光度差とするようにして
    画素に対する3つのグループを規定する工程と; (C)分類トリーを作成し、該トリーの各 連続レベルにおける3^L本の枝路の数を画素が取り得
    るグループの数に等しくし、この数を分類トリーの第1
    レベルからL番目のレベルまでは画像列のL個の当面の
    連続画素が取り得るグループ列に対応させるように分類
    トリーを作成する工程と; (D)各レベルの各枝路につぎの2つのパ ラメータ、即ち、 (a)画素が先行画像又は先行画像ライン に対して取り得る変位を表わすパラメータで、しかも巡
    回式の変位評価法によって決定される変位ベクトルと称
    する第1パラメータと;(b)先行画素の分類誤差の累
    算和を表わ す累算ひずみと称される第2パラメータにあって、前記
    先行画素のグループは現行枝路に到達するまでに通過し
    たトリー枝路のグループとし、各分類誤差は、或る画素
    に対して評価した変位が該画素に後続するL個の画素に
    対して評価した変位に及ぼず影響を考慮して最小となる
    ようにし、前記影響はトリーが取り得る3^L本の枝路
    の内で、生存枝路と称する累算ひずみの最も弱いM本の
    枝路に対してのみ調べ、ここにMの値を枝路の最大数3
    ^Lよりも遥かに小さい限定数とした第2パラメータ; とを関連付ける工程と; (E)L個の画素に関連する前記処置に従 って、現行画素に対してL画素分以前に位置した画素の
    有効グループについて、及び変位ベクトルについて多数
    決の判定を行い、該判定は生存枝路を調べることによっ
    て、及びこれらの生存枝路の最大数に対応するグループ
    におけるL画素分以前に位置した各画素を類別すること
    によって行い、従って対応する変位ベクトルはL画素分
    以前に位置した斯かる画素の変位と見なされるようにし
    、前記判定処置を、この判定を行わない画像列のL番目
    の最終画素以外の画素について全く同じように繰り返す
    判定工程; を含むことを特徴とする画像列における動き評価方法。 2、画像列における動き評価装置において、該装置が入
    力結線から画像遅延回路を介して番号付けした画像列を
    受信する画像メモリと、前記番号付けした画像列を受信
    するライン遅延回路と、同じく前記番号付けした画像列
    を受信して分類トリーの各延長線にて該トリーのノード
    に関する変位ベクトルを更新すると共に、これらの更新
    変位ベクトルを遅延判定回路に供給するための巡回式変
    位評価装置とを具え、前記更新ベクトルを前記画像メモ
    リにも供給し、該画像メモリが先行画像における現行画
    素Xと同じ個所の同族画素の光度を前記評価装置及び前
    記判定回路に戻すようにしたことを特徴とする画像列に
    おける動き評価装置。 3、前記遅延判定回路が: (A)減算回路にあって、第1及びM個の 減算回路は先行画像の画素と現行画像の画素との間の光
    度差を評価することによって分類誤差を計算し、第2減
    算回路は先行画像ラインの画素と現行画像ラインの画素
    との間の光度差を評価することによって前記分類誤差を
    計算する(M+2)個の減算回路と; (B)前記減算回路の出力信号を二乗する (M+2)個の二乗回路と; (C)出力信号が分類トリーの3M本の枝 路の累算ひずみを表わす3M個の加算器と;(D)前記
    3M個の出力信号を受信して、 これらの信号からM個の累算ひずみの最も弱い値を表わ
    す出力信号を取出し、これらM個の選択信号に前記3M
    個の加算器からの出力信号の類別に対応する指標を付け
    るようにする分類回路と; (E)一方では前記M個の選択指標を受信 し、他方では分類トリーのL個連続するレベルに対する
    変位ベクトルを受信し、かつ現行画素XにL画素先行す
    る画素に該画素のグループ及び該画素の変位ベクトルに
    関するデータを供給する分類トリー保存兼更新用回路;
    とを具えることを特徴とする特許請求の範囲第2項に記
    載の装置。 4、前記保存兼更新用回路が: (A)いずれもL個の位置を有しているM 個の主レジスタとM個の補助レジスタとから成る第1組
    のレジスタにあって、主レジスタには乗算回路によって
    巡回式変位評価装置から到来する変位ベクトルを記憶さ
    せ、前記補助レジスタには前記変位ベクトルをトリーの
    再編成以前に保存させると共に、ひずみが低下している
    順にトリーを再編成した後に前記変位ベクトルを第1乗
    算器によって前記主レジスタに戻すようにする第1組の
    レジスタと;(B)いずれもL個の位置を有しているM 個の主レジスタとM個の補助レジスタとから成る第2組
    のレジスタにあって、主レジスタにはL個の連続レベル
    に対する復号器によって前記分類回路から到来する生存
    枝路グループからのデータを記憶させ、前記補助レジス
    タには再編成する前にグループに関する前記データを保
    存させると共に再編成後にひずみの低くなる順に前記主
    レジスタに第2乗算器によって前記データを戻すように
    する第2組のレジスタと; (C)前記各レジスタのL番目のワードの 内容を受信し、かつ発生回数が最大のグループを決定す
    る多数決回路にあって、該グループを記憶するレジスタ
    のL番目のワードの内容を現行画素XよりもL個の画素
    だけ先行している画素のグループG(X−L)と見なし
    、かつ対応する主レジスタにおける変位ベクトルも現行
    画素XよりもL個の画素だけ先行している前記画素の変
    位ベクトルD(X−L)と見なすようにする多数決回路
    ; とを具え、前記多数決回路が行った各判定を主レジスタ
    と補助レジスタとによる1ユニットづつ順次シフトさせ
    るようにしたことを特徴とする特許請求の範囲第3項に
    記載の装置。
JP61278538A 1985-11-22 1986-11-21 画像列における動き推定方法及び装置 Expired - Lifetime JPH0724071B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR8517303 1985-11-22
FR8517303A FR2590701B1 (fr) 1985-11-22 1985-11-22 Procede et dispositif d'estimation de mouvement dans une sequence d'images

Publications (2)

Publication Number Publication Date
JPS62131383A true JPS62131383A (ja) 1987-06-13
JPH0724071B2 JPH0724071B2 (ja) 1995-03-15

Family

ID=9325082

Family Applications (1)

Application Number Title Priority Date Filing Date
JP61278538A Expired - Lifetime JPH0724071B2 (ja) 1985-11-22 1986-11-21 画像列における動き推定方法及び装置

Country Status (9)

Country Link
US (1) US4766490A (ja)
EP (1) EP0224957B1 (ja)
JP (1) JPH0724071B2 (ja)
KR (1) KR940011597B1 (ja)
CN (1) CN1008874B (ja)
AT (1) ATE50877T1 (ja)
AU (1) AU6551686A (ja)
DE (1) DE3669408D1 (ja)
FR (1) FR2590701B1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2613892A1 (fr) * 1987-04-10 1988-10-14 Labo Electronique Physique Procede et dispositif d'estimation de mouvement dans une sequence d'images
DE3851655T2 (de) * 1987-06-09 1995-02-09 Sony Corp Verarbeitung des Bewegungsvektors in Fernsehbildern.
FR2623955B1 (fr) * 1987-11-27 1990-04-27 Labo Electronique Physique Procede et dispositif d'estimation et de compensation de mouvement dans une sequence d'images et leur application dans un systeme de transmission d'images de television a haute definition
FR2648254B2 (fr) * 1988-09-23 1991-08-30 Thomson Csf Procede et dispositif d'estimation de mouvement dans une sequence d'images animees
US4963961A (en) * 1989-06-16 1990-10-16 Burle Technologies, Inc. Vertical motion detector
US5008745A (en) * 1989-12-21 1991-04-16 Burle Technologies, Inc. Clock synchronized digital TV motion detector
JP2569219B2 (ja) * 1990-01-31 1997-01-08 富士通株式会社 動画像予測方式
DE69121627T2 (de) * 1990-04-27 1997-01-23 Canon Kk Vorrichtung zur Detektion von Bewegungsvektor
US5309237A (en) * 1992-03-31 1994-05-03 Siemens Corporate Research, Inc. Apparatus and method of compensating image-sequences for motion
CN101610516B (zh) * 2009-08-04 2011-12-21 华为技术有限公司 自组织网络中的入侵检测方法与设备

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4218703A (en) * 1979-03-16 1980-08-19 Bell Telephone Laboratories, Incorporated Technique for estimation of displacement and/or velocity of objects in video scenes
US4245248A (en) * 1979-04-04 1981-01-13 Bell Telephone Laboratories, Incorporated Motion estimation and encoding of video signals in the transform domain
US4371895A (en) * 1980-01-18 1983-02-01 Nippon Electric Co., Ltd. Coded video signal transmitting and receiving system
JPS60158786A (ja) * 1984-01-30 1985-08-20 Kokusai Denshin Denwa Co Ltd <Kdd> 画像動き量検出方式
JPS61200789A (ja) * 1985-03-04 1986-09-05 Kokusai Denshin Denwa Co Ltd <Kdd> 画面上の物体の動きベクトル検出方式
US4703350A (en) * 1985-06-03 1987-10-27 Picturetel Corporation Method and apparatus for efficiently communicating image sequences

Also Published As

Publication number Publication date
CN1008874B (zh) 1990-07-18
EP0224957A1 (fr) 1987-06-10
US4766490A (en) 1988-08-23
AU6551686A (en) 1987-05-28
CN86107779A (zh) 1987-07-15
FR2590701A1 (fr) 1987-05-29
KR940011597B1 (ko) 1994-12-22
EP0224957B1 (fr) 1990-03-07
ATE50877T1 (de) 1990-03-15
DE3669408D1 (de) 1990-04-12
KR870005551A (ko) 1987-06-09
FR2590701B1 (fr) 1988-01-15
JPH0724071B2 (ja) 1995-03-15

Similar Documents

Publication Publication Date Title
CN111161277B (zh) 一种基于深度学习的自然图像抠图方法
CN111062951B (zh) 一种基于语义分割类内特征差异性的知识蒸馏方法
CN107945204B (zh) 一种基于生成对抗网络的像素级人像抠图方法
CN110570371B (zh) 一种基于多尺度残差学习的图像去雾方法
CN111145116B (zh) 一种基于生成对抗网络的海面雨天图像样本增广方法
CN107861938B (zh) 一种poi文案生成方法及装置,电子设备
CA1180438A (en) Method and apparatus for lightness imaging
CN108304755A (zh) 用于图像处理的神经网络模型的训练方法和装置
CN110751649B (zh) 视频质量评估方法、装置、电子设备及存储介质
CN113313810B (zh) 一种透明物体的6d姿态参数计算方法
JPS62131383A (ja) 画像列における動き推定方法及び装置
CN113554032A (zh) 基于高度感知的多路并行网络的遥感图像分割方法
CN111222519A (zh) 一种层次化彩绘文物线稿提取模型构建、方法及装置
EP0069542B1 (en) Data processing arrangement
CN110751157B (zh) 图像显著性分割、图像显著性模型训练方法及装置
Wang et al. Lightweight multiple scale-patch dehazing network for real-world hazy image.
CN113379606B (zh) 一种基于预训练生成模型的人脸超分辨方法
CN115115549A (zh) 多支路融合注意力机制的图像增强模型、方法、设备及存储介质
Peng et al. Single image reflection removal based on knowledge-distilling content disentanglement
CN113935917A (zh) 一种基于云图运算和多尺度生成对抗网络的光学遥感影像薄云去除方法
CN114339030A (zh) 一种基于自适应可分离卷积的网络直播视频稳像方法
US4875094A (en) Method of and device for estimating motion in a sequence of pictures
Zhang et al. Underwater single-image restoration based on modified generative adversarial net
CN117078656A (zh) 一种新型基于多模态提示学习的无监督图像质量评估方法
CN116433525A (zh) 一种基于边缘检测函数变分模型的水下图像去雾方法