JP3103169B2 - 二次元動画像のオプティカルフロー生成方式 - Google Patents

二次元動画像のオプティカルフロー生成方式

Info

Publication number
JP3103169B2
JP3103169B2 JP03315083A JP31508391A JP3103169B2 JP 3103169 B2 JP3103169 B2 JP 3103169B2 JP 03315083 A JP03315083 A JP 03315083A JP 31508391 A JP31508391 A JP 31508391A JP 3103169 B2 JP3103169 B2 JP 3103169B2
Authority
JP
Japan
Prior art keywords
equation
optical flow
phase
frequency
velocity vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP03315083A
Other languages
English (en)
Other versions
JPH05151355A (ja
Inventor
雄二 長谷川
二郎 大熊
康弘 近藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP03315083A priority Critical patent/JP3103169B2/ja
Publication of JPH05151355A publication Critical patent/JPH05151355A/ja
Application granted granted Critical
Publication of JP3103169B2 publication Critical patent/JP3103169B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Complex Calculations (AREA)
  • Image Analysis (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、二次元平面に投影され
た動画像からその二次元平面上の見かけの速度ベクトル
(オプティカルフロー)を推定する動画像のオプティカ
ルフロー生成方式に関する。
【0002】
【発明の技術的背景および先行技術】従来から、TVカ
メラ等から得られる2次元画像から、その3次元構造を
認識、復元する方法は種種考えられている。
【0003】この2次元画像から、3次元構造の認識、
復元を行う基本技術として、2次元動画像のオプティカ
ルフロー推定法が知られている。
【0004】この2次元動画像のオプティカルフロー推
定法は、動画像シーケンスから2次元の見かけの速度ベ
クトル(オプティカルフロー)を生成するものであり、
代表的なものとしてグラジエント法がある。
【0005】グラジエント法とは、画像の濃淡(輝度)
の勾配と、各点の明るさの変化からオプティカルフロー
を求める方法である。
【0006】図8に、時間t=0及びt=1における輝
度分布の例を示す。この例では、t=0の時のx=0の
輝度は2で、t=1の時のx=の輝度は2.5であ
る。そして、x=0における輝度の勾配が0.5である
から、(2.5−2)/0.5=1より、x=0におい
て、画像は左に1だけ移動したことになる。この例のよ
うに、輝度の勾配が一定の部分は良いのであるが、ある
点の輝度を比較する時点において、輝度分布の勾配が変
化した場合は、その点における画像の正確な移動量が求
められない。
【0007】これに対して、局所的フーリエ変換を用い
る方法では、ある点において、(1)輝度分布の局所的
な周波数毎のsin 成分及びcos 成分を求め、(2)その
2つの成分から位相を求め、(3)更に、時間毎に差を
取り、その値を移動量に変換する。従って、グラジエン
ト法と違い輝度分布パターンには影響されない。また、
グラジエント法では、二次元のオプチカルフローを求め
る際に、画像の明るさは移動に関して一定という仮定か
ら次の式を得る。
【0008】
【数1】
【0009】ここで、点(x,y)における移動ベクト
ルを、(u,v)とし、Ix,Iy,Itは、時間tに
おける点(x,y)の明るさI(x,y,t)のx,
y,tについての偏微分とする。(1)式は、2個の未
知数u,vを含むので一義的に速度ベクトルを決定する
ことはできない。そこで、速度場は滑らかに変化すると
いう拘束条件、
【0010】
【数2】
【0011】を設定し、次の関数を得る。
【0012】
【数3】
【0013】ここでλは、最小化の度合を支配する重み
係数である。E(u,v)の値を最小化することによっ
て、速度ベクトル(u,v)を求める。
【0014】また、ガボールフィルタを用いてオプティ
カルフローを求める方法としてHeegerのモデルがある
(例えば、USP4、980、762または「J.Op
t.Soc.Am.A」Vol.4,No.8 Aug
ust 1987 P1455−1471 David
J.Heeger著”Model for thee
xtraction of image flow”参
照。)。そのモデルは、画像の輝度信号に対して、空
間、及び時間方向に振動面を持つ3次元のガボールフィ
ルタをかける。例えば、そのガボールフィルタは次の通
りである。
【0015】
【数4】
【0016】但し、ωxo、ωyo、ωtoは空間及び時間の
周波数を示し、σx、σy、σzは広がり係数を示す。連
続画像において、ある点の3次元ガボールフィルタの出
力は、特定のωxo、ω yo、ωtoの組で最大値を示す。し
かしながら、その組が、その点の速度ベクトルを示すの
であるが、全ての組のフィルタを用意することは現実的
に不可能である。
【0017】また、未知の速度ベクトル成分(u,v)
を含むフィルタの出力は、 ωt=uωx−vωy の関係から
【0018】
【数5】
【0019】κは定数 と、求めることが出来る。よって、(数4)の出力と
(数5)で求めた値の差の2乗和が最小になるu、vを
求めることで、速度ベクトルが予測できる。
【0020】
【発明が解決しようとする問題点】上記のような従来技
術においては、(数3)式の最小化には繰り返し計算を
必要とするので、速度ベクトルを得るにはかなりの時間
を要するし、グラジエント法では、速度ベクトルは滑ら
かに変化するという拘束条件を用いているため、対象物
の輪郭が不鮮明になってしまうという問題があった。さ
らに、Heegerのモデルでは3次元のフィルタを用いなけ
れば速度ベクトルを求めることが出来ないし、速度ベク
トルの予測に最小2乗和を繰り返し計算で求めなければ
ならないため、計算時間がかかるという問題があった。
【0021】そこで、本発明は、オプティカルフローを
求めるために、繰り返し計算をせずに、1度の計算で速
度ベクトルを求めることを目的とする。
【0022】
【課題を解決するための手段】前記の目的を達成するた
めに、本発明は、動画像から見かけの速度ベクトルを算
出する動画像のオプティカルフロー生成方式において、
任意のサンプリング点で空間的な局所性を与え、更に、
所定の周波数を中心とした帯域通過型フィルタリングを
行う手段と、該帯域通過型フィルタリングを行なう手段
の出力より複数の周波数の位相を検出する手段と、前記
複数の周波数の中から前記動画像の水平軸及び垂直軸で
最適となる周波数を選択し、その最適周波数の位相の時
間変化より速度ベクトルを生成する手段とから構成され
ることを特徴とする。
【0023】
【作用】上記のように、二次元動画像より見かけの速度
ベクトルを算出するに当たり、任意のサンプリング点で
空間的な局所性を与え、更に、所定の周波数を中心とし
た帯域通過型フィルタリング手段の出力より周波数の位
相を求め、複数の周波数の位相と比較することにより、
x軸y軸共に最適な周波数を求め、その位相の変化によ
り速度ベクトルを求める。
【0024】
【実施例】本発明に係る二次元動画像のオプティカルフ
ロー生成方式について、以下図面を参照して説明する。
【0025】図1は、本発明に係るオプティカルフロー
生成装置の構成の一例を示すブロック図である。図1に
おいて、カメラ10により撮影した被写体の動画像信号
を得、この信号を、任意に設定されたサンプリング点
(x,y)のある時間tにおける、画像の輝度変化を表
す波形(以後、単に輝度分布と呼ぶ)の局所的な位相を
求める。このために、図1に示す速度ベクトル生成装置
12において、画像信号に夫々次のような4種類の空間
フィルタ22XC、22XS、22YC、22YSを介
して処理を施す。この速度ベクトル生成装置12の詳細
構成図は図2に示す。
【0026】
【数6】
【0027】
【数7】
【0028】
【数8】
【0029】
【数9】
【0030】ここで、
【0031】
【数10】
【0032】
【数11】
【0033】
【数12】
【0034】この場合のサンプリング間隔Tは、タイマ
カウンタ20によって任意に選択される。上記(数6)
乃至(数9)式は、本発明の任意のサンプリング点で空
間的な局所性を与え、更に、所定の周波数を中心とした
帯域通過型フィルタリングを行なう手段に相当し、x及
びy方向の広がりσに応じた空間的な局所性を持ってい
る。また、周波数においても局所性を持っており、図6
に示すように、周波数uSを中心とした帯域通過型フィ
ルタになっている。従って、局所領域において、(数
6)、(数7)のフィルタは、x軸方向に周波数uS
変化する成分を抽出し、(数8)、(数9)のフィルタ
は、y軸方向に周波数uSで変化する成分を抽出する
【0035】
【0036】そこで、ある点(X,Y)における(数
6)乃至(数9)式のフィルタ出力 ocx t (X Y), osx
t (X,Y), ocy t (X,Y), osy t (X,Y)を考えると、ocxt(X、
Y), osxt(X,Y)は、(X,Y)を中心とした局所的な輝度分
布の関数 cos(2πusx)と sin(2πusx)への射影成分と
考えることが出来る。また、 ocyt(X,Y), osyt(X,Y)
は、関数 cos(2πusy)と sin(2πusy)への射影成分と
考えることが出来る。それらの比から、次の様にx軸方
向、及び、y軸方向における、周波数usの位相px
us,t (X,Y),py us,t (X,Y)を、位相検出回路24X、24
Yで計算することができる。この位相検出回路のPAD
図を図3に示す。図3は、位相検出回路24X(x軸方
向)のPAD図と位相検出回路24Y(y軸方向)のP
AD図をまとめて示したものであり、位相検出回路24
Xでは、 oc us,t , os us,t , p us,t はそれぞれ ocx
t (X Y), osx t (X,Y), px us,t (X,Y)に対応する。また、
位相検出回路24Yでは、oc us,t , os us,t , p us,t
それぞれ ocy t (X Y), osy t (X,Y), py us,t (X,Y)に対応
する。x軸方向:
【0037】
【数14】
【0038】y軸方向:
【0039】
【数15】
【0040】(数14)、(数15)式で、sin成分
と、cos成分の符号で場合分けして位相の補正を行なう
ことによって、関数tan-1()の性質で制限されてしま
う出力の範囲(−π/2〜π/2)を、(−π〜π)に
拡大し、次のステップで求める位相差を幅広くとること
が出来る。この時、点(X,Y)の局所領域における輝
度パターンによっては空間フィルターの周波数が異なれ
ば位相も異なった値を示すことが予想される。この問題
を解決するため、位相差検出回路28X、28Yで、局
所領域における輝度分布に対して、最も大きいフーリエ
係数を持つ周波数を選択する。この位相差検出回路のP
AD図を図4に示す。図4は、位相差検出回路28X
(x軸方向)のPAD図と位相差検出回路28Y(y軸
方向)のPAD図をまとめて示したものであり、位相差
検出回路28Xでは、 oc us,t , os us,t ,f', p us',t
はそれぞれ ocx t (X Y), osx t (X,Y), mx us,t (X,Y),
px us,t (X,Y)に対応する。また、位相差検出回路28Y
では、oc us,t , os us, t , f',p us',t はそれぞれ ocy
t (X Y), osy t (X,Y), my us,t (X,Y), py us,t (X,Y)に対
応する。
【0041】先ず、周波数毎に、sin成分をcos成分の2
乗和の平方根 mx us,t (X,Y),my us,t (X,Y)を比較する。
【0042】
【数16】
【0043】
【数17】
【0044】(数16)式は、x軸方向、(数17)式
は、y軸方向の周波数を選択する式となる。また、各周
波数によってフィルタの受容野の大きさが広がり係数σ
によって異なるので、σ2で割ることによって補正を行
う。各サンプリング点(X,Y)において、mx us,t (X,
Y)及び、my us,t (X,Y)が、夫々最大値をとる周波数us
選択することにうよって、各サンプリング点の輝度分布
の位相が一義的に決定できる。ここで、メモリ26X、
26Yで保持してあった1フレーム前の位相 px
us,t-1(X,Y )及び py us,t-1(X,Y)との差を取ることによ
って、点(X,Y)における輝度分布の位相の時間変化
dpxt(X,Y)及び dpyt(X,Y)が次のように求まる。
【0045】
【数18】
【0046】
【数19】
【0047】最後に、速度ベクトル算出回路30X、3
0Yで、タイマカウンタのサンプリング間隔Tの補正を
行なうことによって、速度ベクトルvxt(X,Y)及びvyt(X,
Y)を求める。速度ベクトル算出回路のPDA図を図5に
示す。図5は、速度ベクトル算出回路30X(x軸方
向)のPAD図と速度ベクトル算出回路30Y(y軸方
向)のPAD図をまとめて示したものであり、速度ベク
トル算出回路30Xでは、v, dp, us'はそれぞれ vx t
(X Y), dpx t (X,Y),x軸方向に付いて選択された周波
数u s に対応する。また、速度ベクトル算出回路30Y
では、v, dp, us'はそれぞれ vy t (X Y), dpy t (X,
Y),y軸方向に付いて選択された周波数u s に対応す
る。
【0048】
【数20】
【0049】
【数21】
【0050】ここで、λは、各サンプリング点におい
て、x軸方向、y軸方向に付いて選択された周波数us
に対する波長(1/us)である。
【0051】このように、時間毎に、各サンプル点にお
ける速度ベクトルを求め、オプティカルフローを推定す
る。参考として、出力例を図7に示す。
【0052】
【発明の効果】以上のように、本発明の二次元動画像の
オプティカルフロー生成方式によれば、画像信号の各サ
ンプリング点の輝度分布の位相が一義的に決定できるの
で、これから求める速度ベクトルも一義的に決定できる
ので、オプティカルフローを求めるための処理時間が短
くて済む。
【図面の簡単な説明】
【図1】本発明に係るオプティカルフロー生成装置のブ
ロック図である。
【図2】速度ベクトル生成装置のブロック図である。
【図3】位相検出回路のPAD図である。
【図4】位相差検出回路のPAD図である。
【図5】速度ベクトル算出回路のPAD図である。
【図6】空間フィルタの特性を示す図である。
【図7】オプティカルフローの出力例を示す図である。
【図8】グラジエント法の原理を説明する図である。
【符号の説明】
10…カメラ 12…速度ベクトル生成装置 14…速度ベクトル表示部 22…空間フィルタ 24…位相検出回路 28…位相差検出回路 30…速度ベクトル算出回路
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平3−140069(JP,A) 特開 平2−238366(JP,A) 特開 平3−140070(JP,A) 特開 平2−206294(JP,A) (58)調査した分野(Int.Cl.7,DB名) G06T 7/00 - 7/60 G06F 17/10 G06F 17/14 JICSTファイル(JOIS)

Claims (1)

    (57)【特許請求の範囲】
  1. 【請求項1】動画像から見かけの速度ベクトルを算出す
    る動画像のオプティカルフロー生成方式において、 任意のサンプリング点で空間的な局所性を与え、更に、
    所定の周波数を中心とした帯域通過型フィルタリングを
    行う手段と、 該帯域通過型フィルタリングを行なう手段の出力より
    数の周波数の位相を検出する手段と、前記複数の周波数の中から前記動画像の水平軸及び垂直
    軸で最適となる周波数を選択し、その最適 周波数の位相
    の時間変化より速度ベクトルを生成する手段とから構成
    される動画像のオプティカルフロー生成方式。
JP03315083A 1991-11-29 1991-11-29 二次元動画像のオプティカルフロー生成方式 Expired - Fee Related JP3103169B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP03315083A JP3103169B2 (ja) 1991-11-29 1991-11-29 二次元動画像のオプティカルフロー生成方式

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP03315083A JP3103169B2 (ja) 1991-11-29 1991-11-29 二次元動画像のオプティカルフロー生成方式

Publications (2)

Publication Number Publication Date
JPH05151355A JPH05151355A (ja) 1993-06-18
JP3103169B2 true JP3103169B2 (ja) 2000-10-23

Family

ID=18061213

Family Applications (1)

Application Number Title Priority Date Filing Date
JP03315083A Expired - Fee Related JP3103169B2 (ja) 1991-11-29 1991-11-29 二次元動画像のオプティカルフロー生成方式

Country Status (1)

Country Link
JP (1) JP3103169B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3979894B2 (ja) * 2002-07-22 2007-09-19 本田技研工業株式会社 物体検出装置及び方法
JP4743048B2 (ja) * 2006-08-31 2011-08-10 カシオ計算機株式会社 撮像装置及びプログラム

Also Published As

Publication number Publication date
JPH05151355A (ja) 1993-06-18

Similar Documents

Publication Publication Date Title
LaViola A comparison of unscented and extended Kalman filtering for estimating quaternion motion
Negahdaripour et al. A generalized brightness change model for computing optical flow
Chen et al. Detection, localization, and estimation of edges
Gokstorp Computing depth from out-of-focus blur using a local frequency representation
CN113140011A (zh) 一种红外热成像单目视觉测距方法及相关组件
Soatto et al. Recursive motion and structure estimation with complete error characterization
Rajagopalan et al. Space-variant approaches to recovery of depth from defocused images
JP3103169B2 (ja) 二次元動画像のオプティカルフロー生成方式
Al Ismaeil et al. Real-time enhancement of dynamic depth videos with non-rigid deformations
Heel Direct dynamic motion vision
Tan et al. Structure from motion using the ground plane constraint
Sevcenco et al. Seamless stitching of images based on a Haar wavelet 2D integration method
JPH04500420A (ja) 参照画像と現在画像との間の運動を推定するための反復法および、この方法を実施するための装置
CN114170109A (zh) 基于mems的条纹结构光的图像降噪方法和装置
Meskine et al. Blind image deblurring by game theory
JPS62107386A (ja) 画像マツチング方法
Hu et al. Camera self-calibration from ellipse correspondences
Chang et al. On recursive calibration of cameras for robot hand-eye systems
JPH06131463A (ja) 画像処理方法および画像プロセッサ
JP2741888B2 (ja) 階層的画像マッチング処理方法および装置
Chann Recursive estimation of 3-D motion and structure in image sequences based on measurement transformations.
JP2551319B2 (ja) 動画像処理方法
JPH02206294A (ja) 画像マッチング装置
Henkel Constructing the cyclopean view
Hajder An iterative improvement of the Tomasi-Kanade factorization

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080825

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090825

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100825

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees