JPH0561975A - 信号マツチング装置 - Google Patents
信号マツチング装置Info
- Publication number
- JPH0561975A JPH0561975A JP3246641A JP24664191A JPH0561975A JP H0561975 A JPH0561975 A JP H0561975A JP 3246641 A JP3246641 A JP 3246641A JP 24664191 A JP24664191 A JP 24664191A JP H0561975 A JPH0561975 A JP H0561975A
- Authority
- JP
- Japan
- Prior art keywords
- motion
- resolution
- amount
- equation
- input signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004364 calculation method Methods 0.000 abstract description 35
- 239000013598 vector Substances 0.000 abstract description 25
- 230000008859 change Effects 0.000 abstract description 3
- 238000001914 filtration Methods 0.000 abstract 1
- 230000003287 optical effect Effects 0.000 description 22
- 230000006870 function Effects 0.000 description 16
- 238000011156 evaluation Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 238000000034 method Methods 0.000 description 6
- 230000015654 memory Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000004800 variational method Methods 0.000 description 1
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
Abstract
(57)【要約】
【目的】本発明は信号マツチング装置において、2信号
間の動きが大きい場合にも、一段と高精度で2信号間の
動き量を求めることができるようにする。 【構成】複数段のフイルタ手段を介して入力信号を順次
階層的に間引いて解像度を低下させ、各解像度に対応す
る動き量演算手段に入力し、解像度の低い階層の動き量
演算手段で求めた動き量を順次解像度の高い階層の動き
量演算手段に動き補償量として与え、この動き補償量に
基づいて当該階層における動き量を求めて出力すること
により、入力信号の単位時間当たりの変化量が大きい場
合にも従来に比して一段と精度良く動きベクトルを求め
ることができる。
間の動きが大きい場合にも、一段と高精度で2信号間の
動き量を求めることができるようにする。 【構成】複数段のフイルタ手段を介して入力信号を順次
階層的に間引いて解像度を低下させ、各解像度に対応す
る動き量演算手段に入力し、解像度の低い階層の動き量
演算手段で求めた動き量を順次解像度の高い階層の動き
量演算手段に動き補償量として与え、この動き補償量に
基づいて当該階層における動き量を求めて出力すること
により、入力信号の単位時間当たりの変化量が大きい場
合にも従来に比して一段と精度良く動きベクトルを求め
ることができる。
Description
【0001】
【目次】以下の順序で本発明を説明する。 産業上の利用分野 従来の技術 発明が解決しようとする課題(図7〜図9) 課題を解決するための手段(図1〜図4) 作用(図5及び図6) 実施例(図1〜図6) 発明の効果
【0002】
【産業上の利用分野】本発明は信号マツチング装置に関
し、例えば画像処理、画像認識、音声認識等において利
用されるパターンマツチングに適用して好適なものであ
る。
し、例えば画像処理、画像認識、音声認識等において利
用されるパターンマツチングに適用して好適なものであ
る。
【0003】
【従来の技術】画像認識の対象は静止画像から手振り又
は身振り等の動画像に移行しつつある。このような動画
像を認識するには時間差分により動いた領域を検出する
ことが必要であるが、より正確に検出するためにオプテ
イカルフローを使用することが考えられる(特願平 3-9
0817号、特願平 3-92330号)。
は身振り等の動画像に移行しつつある。このような動画
像を認識するには時間差分により動いた領域を検出する
ことが必要であるが、より正確に検出するためにオプテ
イカルフローを使用することが考えられる(特願平 3-9
0817号、特願平 3-92330号)。
【0004】ここでオプテイカルフローとは、時間方向
に不変な輝度を有する画素を追跡した軌跡であり、2次
元画像内での物体の動きベクトルに対応する。すなわ
ち、1フレームの画像内の輝度をI(x,y,t)、2
個のフレーム間の時間差分をΔtとして、
に不変な輝度を有する画素を追跡した軌跡であり、2次
元画像内での物体の動きベクトルに対応する。すなわ
ち、1フレームの画像内の輝度をI(x,y,t)、2
個のフレーム間の時間差分をΔtとして、
【数1】 を満足するような軌跡(x,y)が求められた場合に、
オプテイカルフローを示すベクトル(u,v)は次のよ
うに定義される。
オプテイカルフローを示すベクトル(u,v)は次のよ
うに定義される。
【数2】
【0005】また、そのオプテイカルフローを用いて、
動きベクトル〈d〉を次のように定義することができ
る。
動きベクトル〈d〉を次のように定義することができ
る。
【数3】 そして、オプテイカルフロー(u,v)の算出は次の数
式を最小値にするベクトル(u,v)の算出と等価であ
ることが分かつている。なお、次の数式の第2項はu,
vを滑らかにする拘束条件であり、λはその拘束条件の
強さを示す定数である。
式を最小値にするベクトル(u,v)の算出と等価であ
ることが分かつている。なお、次の数式の第2項はu,
vを滑らかにする拘束条件であり、λはその拘束条件の
強さを示す定数である。
【0006】
【数4】 そのようなオプテイカルフローの算出の手法は、例えば
2つの音声信号の時間軸上のずれに関するマツチング及
び2つの画像データのマツチング等にも応用することが
できる。その(4)式の条件を一般化するために、n次
元ユークリツド空間〈R〉n 上で定義される2つの関数
f1(〈x〉)及びf2(〈x〉)を考える。
2つの音声信号の時間軸上のずれに関するマツチング及
び2つの画像データのマツチング等にも応用することが
できる。その(4)式の条件を一般化するために、n次
元ユークリツド空間〈R〉n 上で定義される2つの関数
f1(〈x〉)及びf2(〈x〉)を考える。
【0007】これらの関数の変数である空間〈R〉n 上
のベクトル〈x〉のn個の要素を(x1,x2,……,
xn)として、その空間〈R〉n 上の動きベクトルを
〈d〉とすると、その動きベクトル〈d〉はベクトル
〈x〉の関数としてベクトル〈d(〈x〉)〉と表現す
ることができる。この場合、(4)式に対応する条件
は、次式のノルムの二乗の和により定義される関数A
(〈x〉,〈d〉)を最小にする条件と等価である。
のベクトル〈x〉のn個の要素を(x1,x2,……,
xn)として、その空間〈R〉n 上の動きベクトルを
〈d〉とすると、その動きベクトル〈d〉はベクトル
〈x〉の関数としてベクトル〈d(〈x〉)〉と表現す
ることができる。この場合、(4)式に対応する条件
は、次式のノルムの二乗の和により定義される関数A
(〈x〉,〈d〉)を最小にする条件と等価である。
【0008】
【数5】 この(5)式の第2項の関数P(〈d〉)は(4)式の
第2項に対応する付帯条件であり、この付帯条件により
その動きベクトル〈d〉の振る舞いが拘束される。ま
た、λはその付帯条件の強さを示す定数である。本来の
導出対象はその(5)式の第1項を最小にする動きベク
トル〈d〉であるが、そのままではその動きベクトル
〈d〉が複数求められる場合があるため、その動きベク
トル〈d〉を一意的に求めるためにその付帯条件が付加
されている。そして、その(5)式のノルムの二乗を、
ノルムの二乗積分又はノムルの二乗の総和とすることに
より、その(5)式の最小値問題は最小二乗法と等価に
なるが、そのようにノルムの二乗積分を採用したものが
(4)式の積分式である。
第2項に対応する付帯条件であり、この付帯条件により
その動きベクトル〈d〉の振る舞いが拘束される。ま
た、λはその付帯条件の強さを示す定数である。本来の
導出対象はその(5)式の第1項を最小にする動きベク
トル〈d〉であるが、そのままではその動きベクトル
〈d〉が複数求められる場合があるため、その動きベク
トル〈d〉を一意的に求めるためにその付帯条件が付加
されている。そして、その(5)式のノルムの二乗を、
ノルムの二乗積分又はノムルの二乗の総和とすることに
より、その(5)式の最小値問題は最小二乗法と等価に
なるが、そのようにノルムの二乗積分を採用したものが
(4)式の積分式である。
【0009】その(5)式には付帯条件が付加されては
いるが、その(5)式を最小にする条件で求めようとす
る対象は、あくまでその(5)式の第1項を最小にする
動きベクトル〈d〉であるため、その(5)式における
マツチング誤差ε(〈x〉,〈d〉)は次のように定義
される。
いるが、その(5)式を最小にする条件で求めようとす
る対象は、あくまでその(5)式の第1項を最小にする
動きベクトル〈d〉であるため、その(5)式における
マツチング誤差ε(〈x〉,〈d〉)は次のように定義
される。
【数6】
【0010】この(6)式の導出には次の近似式が使用
されている。
されている。
【数7】
【0011】その(5)式の第1項は(6)式を二乗積
分した形となり動きベクトル〈d〉に関して二次式にな
るので、その(5)式の第2項も動きベクトル〈d〉で
表される場合に、極小解が最小解と等しくなり、最小二
乗法及び変分法により線形法定式に直して解くことが可
能であつた。例えばオプテイカルフローを算出するため
の(4)式において(6)式の近似を用いることによ
り、その(4)式は次のように変形することができる。
分した形となり動きベクトル〈d〉に関して二次式にな
るので、その(5)式の第2項も動きベクトル〈d〉で
表される場合に、極小解が最小解と等しくなり、最小二
乗法及び変分法により線形法定式に直して解くことが可
能であつた。例えばオプテイカルフローを算出するため
の(4)式において(6)式の近似を用いることによ
り、その(4)式は次のように変形することができる。
【数8】
【0012】この(8)式はu,vに関しては二次式と
なるので、極小解を求めるべくこれをオイラー方程式に
直して線形微分方程式を得て、解(u,v)としての動
きベクトル〈d〉を一意に求めることができる。言い換
えれば、(6)式の近似は関数f2(〈x〉)を〈x〉
において接平面近似して微小領域のマツチング誤差を表
したものである。
なるので、極小解を求めるべくこれをオイラー方程式に
直して線形微分方程式を得て、解(u,v)としての動
きベクトル〈d〉を一意に求めることができる。言い換
えれば、(6)式の近似は関数f2(〈x〉)を〈x〉
において接平面近似して微小領域のマツチング誤差を表
したものである。
【0013】
【発明が解決しようとする課題】ところがフレーム間で
画像が大きく動き、移動量が大きい場合、(8)式第1
の(I( x,y,t+Δt) −I( x,y,t) )の値
は、輝度Iの時間偏微分値It を十分近似することがで
きなくなり、動きベクトル〈d〉を正確に計算できない
領域が生じる問題があつた。
画像が大きく動き、移動量が大きい場合、(8)式第1
の(I( x,y,t+Δt) −I( x,y,t) )の値
は、輝度Iの時間偏微分値It を十分近似することがで
きなくなり、動きベクトル〈d〉を正確に計算できない
領域が生じる問題があつた。
【0014】例えば図7に示すように、フレーム上の正
方形の物体1(左上隅から右下隅に段階的に黒色から白
色に着色された物体)が第1フレームの位置(図7にお
いて破線で示す)から第2フレームの位置(図7におい
て実線で示す)に水平及び垂直方向に対して右斜め下方
に10画素ほど大きく移動する場合には正確に計算でき
ない領域があつた。すなわち図8及び図9に示すよう
に、2フレーム間で物体1が重なり合う領域A1のうち
左上方から右下方への対角線上では正しくオプテイカル
フローを求められ、このオプテイカルフローを1/5倍
で表示すると、領域A1に位置する各画素(i,j)か
ら右斜め下方に動きベクトルが表示される。
方形の物体1(左上隅から右下隅に段階的に黒色から白
色に着色された物体)が第1フレームの位置(図7にお
いて破線で示す)から第2フレームの位置(図7におい
て実線で示す)に水平及び垂直方向に対して右斜め下方
に10画素ほど大きく移動する場合には正確に計算でき
ない領域があつた。すなわち図8及び図9に示すよう
に、2フレーム間で物体1が重なり合う領域A1のうち
左上方から右下方への対角線上では正しくオプテイカル
フローを求められ、このオプテイカルフローを1/5倍
で表示すると、領域A1に位置する各画素(i,j)か
ら右斜め下方に動きベクトルが表示される。
【0015】しかし第1フレームで正方形領域に入り、
第2フレームで背景になる左上の領域A2ではオプテイ
カルフローが逆方向に求まつたり、2フレーム間で物体
1が重なり合う領域A1でもその周辺部分ではオプテイ
カルフローが正しく求められないという問題があつた。
第2フレームで背景になる左上の領域A2ではオプテイ
カルフローが逆方向に求まつたり、2フレーム間で物体
1が重なり合う領域A1でもその周辺部分ではオプテイ
カルフローが正しく求められないという問題があつた。
【0016】本発明は以上の点を考慮してなされたもの
で、2信号間の動きが大きい場合にも、一段と高精度で
2信号間の動き量を求めることができる信号マツチング
装置を提案しようとするものである。
で、2信号間の動きが大きい場合にも、一段と高精度で
2信号間の動き量を求めることができる信号マツチング
装置を提案しようとするものである。
【0017】
【課題を解決するための手段】かかる課題を解決するた
め本発明においては、第1及び第2の入力信号S1、S
2を一致させるための動き量(u,v)を求める信号マ
ツチング装置1において、入力信号S1、S2を順次階
層的に間引いて高位の解像度σ0 から低位の解像度
σ1 、σ2 ……に順次低下させる複数段のフイルタ手段
F1、F2……と、各解像度σk に対応する入力信号V
(σk )を入力すると共に、当該入力信号V(σk )に
対して低位の解像度σk+1 の入力信号V(σk+1 )から
求められた動き量(u(σk+1 ),v(σk+1 ))を動
き補償量(pk ,qk )として入力し、当該動き補償量
(pk ,qk )に基づいて当該高位の解像度σk の入力
信号V(σk )についての動き量(u(σk ),v(σ
k ))を求める動き量演算手段20、21……とを備え
るようにする。
め本発明においては、第1及び第2の入力信号S1、S
2を一致させるための動き量(u,v)を求める信号マ
ツチング装置1において、入力信号S1、S2を順次階
層的に間引いて高位の解像度σ0 から低位の解像度
σ1 、σ2 ……に順次低下させる複数段のフイルタ手段
F1、F2……と、各解像度σk に対応する入力信号V
(σk )を入力すると共に、当該入力信号V(σk )に
対して低位の解像度σk+1 の入力信号V(σk+1 )から
求められた動き量(u(σk+1 ),v(σk+1 ))を動
き補償量(pk ,qk )として入力し、当該動き補償量
(pk ,qk )に基づいて当該高位の解像度σk の入力
信号V(σk )についての動き量(u(σk ),v(σ
k ))を求める動き量演算手段20、21……とを備え
るようにする。
【0018】
【作用】複数段のフイルタ手段F1、F2……を介して
入力信号S1、S2の解像度σ0 を順次低位の解像度σ
1 、σ2 ……に間引き、最下位の解像度σL の入力信号
V(σL )について動き量演算手段2Lで求められた動
き量(u(σL ),v(σL ))を順に高位の解像度σ
L-1 の動き量演算手段2(L−1)に動き補償量(p
L-1 ,qL-1 )として与え、当該動き補償量(pL-1 ,
qL-1 )に基づいてより高位の解像度σL-1 の動き量
(u(σL-1 ),v(σL-1 ))を求め、これを最上位
の解像度σ0 の入力信号Vinまで繰り返すことにより、
第1及び第2の入力信号S1、S2の動き量が大きい場
合にも原入力信号に対する動き量(u,v)の精度を一
段と向上することができる。
入力信号S1、S2の解像度σ0 を順次低位の解像度σ
1 、σ2 ……に間引き、最下位の解像度σL の入力信号
V(σL )について動き量演算手段2Lで求められた動
き量(u(σL ),v(σL ))を順に高位の解像度σ
L-1 の動き量演算手段2(L−1)に動き補償量(p
L-1 ,qL-1 )として与え、当該動き補償量(pL-1 ,
qL-1 )に基づいてより高位の解像度σL-1 の動き量
(u(σL-1 ),v(σL-1 ))を求め、これを最上位
の解像度σ0 の入力信号Vinまで繰り返すことにより、
第1及び第2の入力信号S1、S2の動き量が大きい場
合にも原入力信号に対する動き量(u,v)の精度を一
段と向上することができる。
【0019】
【実施例】以下図面について、本発明の一実施例を詳述
する。
する。
【0020】図1においてオプテイカルフロー演算装置
1は、直列接続されたL段の間引きフイルタF1〜FL
を有し、初段のフイルタF1に入力した入力画像Vinを
順に次段のフイルタF2、F3……に供給するようにな
されている。各フイルタFk (k=1、2……L)は、
順次入力される間引き画像V(σ)の画素数をx方向及
びy方向に間引いて次段のフイルタFk+1 に出力する。
1は、直列接続されたL段の間引きフイルタF1〜FL
を有し、初段のフイルタF1に入力した入力画像Vinを
順に次段のフイルタF2、F3……に供給するようにな
されている。各フイルタFk (k=1、2……L)は、
順次入力される間引き画像V(σ)の画素数をx方向及
びy方向に間引いて次段のフイルタFk+1 に出力する。
【0021】このとき各フイルタFk から出力される間
引き画像V(σk )の画像の粗さは、各フイルタFk に
対応する間引き率σk (k=1、2……L)で表され
る。すなわち入力画像Vinの画素数(m×n)に対し
て、各フイルタFk (k=1、2……L)から出力され
る間引き画像V(σk )の関係は、図2に示すように階
層構造になり、各フイルタFk から出力される間引き画
像V(σk )の画素数は、次式
引き画像V(σk )の画像の粗さは、各フイルタFk に
対応する間引き率σk (k=1、2……L)で表され
る。すなわち入力画像Vinの画素数(m×n)に対し
て、各フイルタFk (k=1、2……L)から出力され
る間引き画像V(σk )の関係は、図2に示すように階
層構造になり、各フイルタFk から出力される間引き画
像V(σk )の画素数は、次式
【数9】 で表される。
【0022】この実施例の場合、各フイルタFk(k=
1、2……L)は順次入力される入力画像V(σk )を
x方向及びy方向にそれぞれ1/2に間引き、間引き画
像V(σk+1 )として次段のフイルタF(k+1)に出
力するようになされている。
1、2……L)は順次入力される入力画像V(σk )を
x方向及びy方向にそれぞれ1/2に間引き、間引き画
像V(σk+1 )として次段のフイルタF(k+1)に出
力するようになされている。
【0023】オプテイカルフロー演算装置1は、初段の
フイルタF1に入力される入力画像Vinを動量演算回路
20に供給すると共に、各フイルタFk から出力される
間引き画像V(σk )をそれぞれ対応する動量演算回路
21〜2Lに供給するようになされている。各階層に対
応する動量演算回路2kは、一段低い階層における解像
度で求まる動き量(u(σk+1 ),v(σk+1 ))に基
づいて、対応する階層の動き量(u(σk ),v
(σk ))を求め、出力するようになされている。
フイルタF1に入力される入力画像Vinを動量演算回路
20に供給すると共に、各フイルタFk から出力される
間引き画像V(σk )をそれぞれ対応する動量演算回路
21〜2Lに供給するようになされている。各階層に対
応する動量演算回路2kは、一段低い階層における解像
度で求まる動き量(u(σk+1 ),v(σk+1 ))に基
づいて、対応する階層の動き量(u(σk ),v
(σk ))を求め、出力するようになされている。
【0024】各動量演算回路2kは、図3に示すよう
に、一段粗い階層で求められた動き量(u(σk+1 ),
v(σk+1 ))を補償値演算回路3kに入力すると、当
該動き量が一段精細な階層において何画素分の動きに相
当するかを示す動き補償値(p k , qk )を、次式
に、一段粗い階層で求められた動き量(u(σk+1 ),
v(σk+1 ))を補償値演算回路3kに入力すると、当
該動き量が一段精細な階層において何画素分の動きに相
当するかを示す動き補償値(p k , qk )を、次式
【数10】
【数11】 に基づいて求める。
【0025】ここで動量演算回路2kは、(10)式及び
(11)式で求めた値を丸め処理し、動き補償値(pk ,
qk )を整数値として動量演算回路部4k及び加算回路
5kに出力するようになされている。因みに最も解像度
の低い間引き画像V(σL )の動き量(u(σL ),v
(σL ))を求める動量演算回路2Lには(0,0)が
入力される。
(11)式で求めた値を丸め処理し、動き補償値(pk ,
qk )を整数値として動量演算回路部4k及び加算回路
5kに出力するようになされている。因みに最も解像度
の低い間引き画像V(σL )の動き量(u(σL ),v
(σL ))を求める動量演算回路2Lには(0,0)が
入力される。
【0026】動量演算回路部4kは、動き補償値(p
k , qk)により一段粗い階層で求めた動き分、格子点
の位置を補正してフレーム間での画像の動きを減少さ
せ、この補正後の格子点(i+p,j+q)の輝度I
i+p,j+q と格子点(i,j)の輝度Ii,j との差分を間
引き画像V(σk )における輝度Iの時間偏微分値It
( σk ) として用いることにより、一段階精細な解像度
で動き量(uk,vk )を求めて加算回路5kに出力する
ようになされている。
k , qk)により一段粗い階層で求めた動き分、格子点
の位置を補正してフレーム間での画像の動きを減少さ
せ、この補正後の格子点(i+p,j+q)の輝度I
i+p,j+q と格子点(i,j)の輝度Ii,j との差分を間
引き画像V(σk )における輝度Iの時間偏微分値It
( σk ) として用いることにより、一段階精細な解像度
で動き量(uk,vk )を求めて加算回路5kに出力する
ようになされている。
【0027】加算回路5kは、当該動量演算回路部4k
で求められた動き量(uk,vk )を動き補償値(pk ,
qk )に加算し、間引き画像V(σk )での動き量(u
(σk ),v(σk ))として次段の動量演算回路2
(k−1)に出力するようになされている。ここで動量
演算回路部4kは、図4に示すように、間引き画像V
(σk )を遅延回路6kを介することにより1フレーム
前の間引き画像V(σk )を前フレームメモリ7kに格
納すると共に、現フレームメモリ8kに現フレームの間
引き画像V(σk )を格納するようになされている。
で求められた動き量(uk,vk )を動き補償値(pk ,
qk )に加算し、間引き画像V(σk )での動き量(u
(σk ),v(σk ))として次段の動量演算回路2
(k−1)に出力するようになされている。ここで動量
演算回路部4kは、図4に示すように、間引き画像V
(σk )を遅延回路6kを介することにより1フレーム
前の間引き画像V(σk )を前フレームメモリ7kに格
納すると共に、現フレームメモリ8kに現フレームの間
引き画像V(σk )を格納するようになされている。
【0028】偏微分フイルタ回路9kは、前及び現フレ
ームメモリ7k及び8kから画像信号S1及びS2を入
力すると共に動き補償値(pk , qk )を入力すると、
輝度Iのx,y,tに関する各偏微分Ix ( σk ),I
y ( σk ) ,It ( σk )を順次求め、評価関数生成
回路10kに出力する。ここで偏微分フイルタ回路9k
は、間引き画像V(σk )における輝度Iの格子点
(i,j)についての時間偏微分値Itij (σk )を(1
0)式及び(11)式で表される動き補償値(p
k , qk )を用いて、次式
ームメモリ7k及び8kから画像信号S1及びS2を入
力すると共に動き補償値(pk , qk )を入力すると、
輝度Iのx,y,tに関する各偏微分Ix ( σk ),I
y ( σk ) ,It ( σk )を順次求め、評価関数生成
回路10kに出力する。ここで偏微分フイルタ回路9k
は、間引き画像V(σk )における輝度Iの格子点
(i,j)についての時間偏微分値Itij (σk )を(1
0)式及び(11)式で表される動き補償値(p
k , qk )を用いて、次式
【数12】 に基づいて求めるようになされている。
【0029】このように偏微分フイルタ回路9kは、動
き補償値(pk ,qk )分、現フレーム画像をずらして
時間偏微分値Itijを求めることにより、時間偏微分値
Itij の近似精度の劣化を回避するようになされてい
る。
き補償値(pk ,qk )分、現フレーム画像をずらして
時間偏微分値Itijを求めることにより、時間偏微分値
Itij の近似精度の劣化を回避するようになされてい
る。
【0030】評価関数生成回路10kは、偏微分フイル
タ回路9kから入力されるx,y,tに関する各偏微分
Ix ( σk ),Iy ( σk ),It ( σk )に基づい
て、次式
タ回路9kから入力されるx,y,tに関する各偏微分
Ix ( σk ),Iy ( σk ),It ( σk )に基づい
て、次式
【数13】 で表される評価関数を求めると差分方程式に変換し、制
御回路11kに出力するようになされている。
御回路11kに出力するようになされている。
【0031】ここでux ,uy ,vx ,vy は、それぞ
れ∂u/∂x,∂u/∂y,∂v/∂x,∂v/∂yで
ある。制御回路11kは、(13)式を最小とする解を間
引き画像V(σk)における動き量(uk,vk )として
出力する。
れ∂u/∂x,∂u/∂y,∂v/∂x,∂v/∂yで
ある。制御回路11kは、(13)式を最小とする解を間
引き画像V(σk)における動き量(uk,vk )として
出力する。
【0032】以上の構成において、オプテイカルフロー
演算装置1は、初段の間引きフイルタF1に例えば96×
96画素の入力画像Vin(図示せず)を入力すると、x方
向及びy方向にそれぞれ1/2に間引いて解像度を落と
してなる48×48画素の間引き画像V(σ1 )(図5
(A))を次段のフイルタF2及び動量演算回路21に
出力する。同様にオプテイカルフロー演算装置1は、第
2段めの間引きフイルタF2、第3段めの間引きフイル
タF3……を順次介するに従つて間引き画像V
(σ2 )、V(σ3 )……の大きさを24×24画素、12×
12画素……と解像度を落として出力する(図5(B)、
図5(C))。
演算装置1は、初段の間引きフイルタF1に例えば96×
96画素の入力画像Vin(図示せず)を入力すると、x方
向及びy方向にそれぞれ1/2に間引いて解像度を落と
してなる48×48画素の間引き画像V(σ1 )(図5
(A))を次段のフイルタF2及び動量演算回路21に
出力する。同様にオプテイカルフロー演算装置1は、第
2段めの間引きフイルタF2、第3段めの間引きフイル
タF3……を順次介するに従つて間引き画像V
(σ2 )、V(σ3 )……の大きさを24×24画素、12×
12画素……と解像度を落として出力する(図5(B)、
図5(C))。
【0033】この実施例の場合、オプテイカルフロー演
算装置1は4段の間引きフイルタF1〜F4でなるとす
ると、フイルタF4は6×6画素の間引き画像V
(σ4 )(図5(D))を動量演算回路24に出力する
(図1)。ここで補償値演算回路34は、動き量(u
(σ4 ),v(σ4))が共に(0,0)であることに
より(10)式及び(11)式に基づいて動き補償値(p
4 , q4 )=(0,0)を動量演算回路部44に出力す
る(図3)。
算装置1は4段の間引きフイルタF1〜F4でなるとす
ると、フイルタF4は6×6画素の間引き画像V
(σ4 )(図5(D))を動量演算回路24に出力する
(図1)。ここで補償値演算回路34は、動き量(u
(σ4 ),v(σ4))が共に(0,0)であることに
より(10)式及び(11)式に基づいて動き補償値(p
4 , q4 )=(0,0)を動量演算回路部44に出力す
る(図3)。
【0034】動量演算回路部44は、前フレームメモリ
74及び現フレームメモリ84を介して入力される間引
き画像V(σ4 )の前フレーム画像S1と現フレーム画
像S2を偏微分フイルタ回路94に入力すると、動き補
償値が(0,0)であることにより動き補償することな
くx,y,tについての各偏微分値Ix ,Iy ,It を
求める。
74及び現フレームメモリ84を介して入力される間引
き画像V(σ4 )の前フレーム画像S1と現フレーム画
像S2を偏微分フイルタ回路94に入力すると、動き補
償値が(0,0)であることにより動き補償することな
くx,y,tについての各偏微分値Ix ,Iy ,It を
求める。
【0035】評価関数生成回路104は、かかる各偏微
分値Ix ,Iy ,It を入力すると、観測誤差に拘束条
件を付加してなる(13)式の評価関数を生成して制御回
路114に出力する。加算回路54は、制御回路114
から当該(13)式を最小とする動き量(u4,v4 )を入
力するとそのまま6×6画素の間引き画像V(σ4 )で
の動き量(u(σ4 ),v(σ4 ))として次段の動量
演算回路23に出力する。
分値Ix ,Iy ,It を入力すると、観測誤差に拘束条
件を付加してなる(13)式の評価関数を生成して制御回
路114に出力する。加算回路54は、制御回路114
から当該(13)式を最小とする動き量(u4,v4 )を入
力するとそのまま6×6画素の間引き画像V(σ4 )で
の動き量(u(σ4 ),v(σ4 ))として次段の動量
演算回路23に出力する。
【0036】続いて動量演算回路23は、解像度の最も
粗い階層で求められた動き量(u(σ4 ),v
(σ4 ))を補償値演算回路33に入力すると、当該動
き量(u(σ4 ),v(σ4 ))が一階層解像度の細か
い12×12画素の間引き画像V(σ3 )で何画素分に相当
するかを求め、演算結果を動量演算回路部43の偏微分
フイルタ回路93に出力する。
粗い階層で求められた動き量(u(σ4 ),v
(σ4 ))を補償値演算回路33に入力すると、当該動
き量(u(σ4 ),v(σ4 ))が一階層解像度の細か
い12×12画素の間引き画像V(σ3 )で何画素分に相当
するかを求め、演算結果を動量演算回路部43の偏微分
フイルタ回路93に出力する。
【0037】偏微分フイルタ回路93は、当該動き補償
値(p3 , q3 )に基づき一階層低い間引き画像V(σ
4 )について求めた動き量分ずらした現フレーム画像S
2によつて輝度Iの時間偏微分It を(12)式により近
似すると評価関数生成回路103を介して制御回路11
3に出力し、より細かい量子化サイズでオプテイカルフ
ロー(u3,v3 )を求める。
値(p3 , q3 )に基づき一階層低い間引き画像V(σ
4 )について求めた動き量分ずらした現フレーム画像S
2によつて輝度Iの時間偏微分It を(12)式により近
似すると評価関数生成回路103を介して制御回路11
3に出力し、より細かい量子化サイズでオプテイカルフ
ロー(u3,v3 )を求める。
【0038】動量演算回路23は、このオプテイカルフ
ロー(u3,v3 )に動き補償値(p 3 , q3 )を加算し
て12×12画素の間引き画像V(σ3 )の全画面について
の動き量(u(σ3 ),v(σ3 ))を求め、さらに24
×24画素とより精細な間引き画像V(σ2 )を処理する
動量演算回路22に出力する。同様に動量演算回路2
2、21は、それぞれ下位の動量演算回路23、22で
求められた動き量(u(σ3 ),v(σ3 ))、(u
(σ2 ),v(σ2 ))に基づいて24×24画素の間引き
画像V(σ2 )、48×48画素の間引き画像V(σ1 )に
ついての動き量(u(σ2 ),v(σ2 ))、(u(σ
1 ),v(σ1))を求め、原入力画像Vinのオプテイ
カルフローを求める動量演算回路20に出力する。
ロー(u3,v3 )に動き補償値(p 3 , q3 )を加算し
て12×12画素の間引き画像V(σ3 )の全画面について
の動き量(u(σ3 ),v(σ3 ))を求め、さらに24
×24画素とより精細な間引き画像V(σ2 )を処理する
動量演算回路22に出力する。同様に動量演算回路2
2、21は、それぞれ下位の動量演算回路23、22で
求められた動き量(u(σ3 ),v(σ3 ))、(u
(σ2 ),v(σ2 ))に基づいて24×24画素の間引き
画像V(σ2 )、48×48画素の間引き画像V(σ1 )に
ついての動き量(u(σ2 ),v(σ2 ))、(u(σ
1 ),v(σ1))を求め、原入力画像Vinのオプテイ
カルフローを求める動量演算回路20に出力する。
【0039】さらに動量演算回路20は上述と同様の演
算処理を繰り返すことにより、96×96画素の原入力画像
Vin上での物体の動き量(u,v)を求めることがで
き、この各画素ごとの動き量(u,v)を1/5倍の長
さで表示すると、図6に示すように、2フレーム間で物
体1の動きが大きいために動き量(u,v)を正しく求
めることができなかつた領域に対しても正しい方向に動
き量(u,v)を求めることができる。
算処理を繰り返すことにより、96×96画素の原入力画像
Vin上での物体の動き量(u,v)を求めることがで
き、この各画素ごとの動き量(u,v)を1/5倍の長
さで表示すると、図6に示すように、2フレーム間で物
体1の動きが大きいために動き量(u,v)を正しく求
めることができなかつた領域に対しても正しい方向に動
き量(u,v)を求めることができる。
【0040】すなわち第1フレームでの物体1(図6に
おいて細線で示す)と第2フレームでの物体1(図6に
おいて太線で示す)が重なり合う領域A1においては対
角線方向の他その周辺部でも各画素から左上方から右斜
め下方へのオプテイカルフローが求められる。また第1
フレームで正方形領域に入り、第2フレームで背景にな
る左上の領域A2においてもオプテイカルフローが従来
のように逆方向に求まることなく、領域A1と同様に右
斜め下方へのオプテイカルフローが正しく求めることが
でき、動き量(u,v)の演算精度を一段と向上するこ
とができる。
おいて細線で示す)と第2フレームでの物体1(図6に
おいて太線で示す)が重なり合う領域A1においては対
角線方向の他その周辺部でも各画素から左上方から右斜
め下方へのオプテイカルフローが求められる。また第1
フレームで正方形領域に入り、第2フレームで背景にな
る左上の領域A2においてもオプテイカルフローが従来
のように逆方向に求まることなく、領域A1と同様に右
斜め下方へのオプテイカルフローが正しく求めることが
でき、動き量(u,v)の演算精度を一段と向上するこ
とができる。
【0041】以上の構成によれば、複数段の間引きフイ
ルタを介して入力画像Vinを順次階層的に間引いて解像
度を低下させ、解像度の最も低い階層で求められた動き
量(u(σk+1 ),v(σk+1 ))を解像度のより高い
階層に動き補償値(pk , q k )として与え、この動き
補償値(pk , qk )に基づいて与えられる輝度の時間
偏微分値It により一段と解像度の高い動き量(uk,v
k )を求めて動き補償値(pk , qk )に加算し、加算
結果を当該階層における全体の動き量(u(σk ),v
(σk-1 ))として解像度のより高い階層に与えること
により、輝度Iの時間偏微分値It の精度を一段と向上
でき、動きが大きくなる場合にも動き量を従来に比して
一段と精度良く検出することができる。
ルタを介して入力画像Vinを順次階層的に間引いて解像
度を低下させ、解像度の最も低い階層で求められた動き
量(u(σk+1 ),v(σk+1 ))を解像度のより高い
階層に動き補償値(pk , q k )として与え、この動き
補償値(pk , qk )に基づいて与えられる輝度の時間
偏微分値It により一段と解像度の高い動き量(uk,v
k )を求めて動き補償値(pk , qk )に加算し、加算
結果を当該階層における全体の動き量(u(σk ),v
(σk-1 ))として解像度のより高い階層に与えること
により、輝度Iの時間偏微分値It の精度を一段と向上
でき、動きが大きくなる場合にも動き量を従来に比して
一段と精度良く検出することができる。
【0042】なお上述の実施例においては、4段の間引
きフイルタF1〜F4を接続する場合について述べた
が、本発明はこれに限らず、入力画像Vinを1段以上の
間引きフイルタを介して階層的に処理する場合に広く適
用し得る。
きフイルタF1〜F4を接続する場合について述べた
が、本発明はこれに限らず、入力画像Vinを1段以上の
間引きフイルタを介して階層的に処理する場合に広く適
用し得る。
【0043】また上述の実施例においては、各間引きフ
イルタFは入力画像をx方向及びy方向にそれぞれ1/
2に間引いて出力する場合について述べたが、本発明は
これに限らず、1/4、1/8等種々の割合で間引く場
合に広く適用し得る。
イルタFは入力画像をx方向及びy方向にそれぞれ1/
2に間引いて出力する場合について述べたが、本発明は
これに限らず、1/4、1/8等種々の割合で間引く場
合に広く適用し得る。
【0044】さらに上述の実施例においては、入力画像
Vinとして96×96画素の大きさでなる画像を入力する場
合について述べたが、本発明はこれに限らず、 512× 5
12画素の大きさの画像を入力する場合等にも広く適用し
得る。
Vinとして96×96画素の大きさでなる画像を入力する場
合について述べたが、本発明はこれに限らず、 512× 5
12画素の大きさの画像を入力する場合等にも広く適用し
得る。
【0045】さらに上述の実施例においては、(13)式
で与えられる評価関数を一次近似式を用いて各階層にお
ける動き量を求める場合について述べたが、本発明はこ
れに限らず、二次近似式等を用いて動き量を求める場合
にも広く適用し得る。
で与えられる評価関数を一次近似式を用いて各階層にお
ける動き量を求める場合について述べたが、本発明はこ
れに限らず、二次近似式等を用いて動き量を求める場合
にも広く適用し得る。
【0046】さらに上述の実施例においては、(13)式
で与えられる評価関数を用いて各階層における動き量を
求める場合について述べたが、本発明はこれに限らず、
画像と背景との境界部を確率変数を用いて表し、(13)
式にかかる拘束条件を付加してなる評価関数等から動き
量を求める場合にも適用し得る。このようにすれば、従
来動き量が大きい場合に正確に認識できなかつた境界を
一段と精度良く認識することができる。
で与えられる評価関数を用いて各階層における動き量を
求める場合について述べたが、本発明はこれに限らず、
画像と背景との境界部を確率変数を用いて表し、(13)
式にかかる拘束条件を付加してなる評価関数等から動き
量を求める場合にも適用し得る。このようにすれば、従
来動き量が大きい場合に正確に認識できなかつた境界を
一段と精度良く認識することができる。
【0047】さらに上述の実施例においては、正方形形
状の物体の動き量を求める場合について述べたが、本発
明はこれに限らず、種々の画像の認識及び信号処理に用
いても良い。
状の物体の動き量を求める場合について述べたが、本発
明はこれに限らず、種々の画像の認識及び信号処理に用
いても良い。
【0048】
【発明の効果】上述のように本発明によれば、複数段の
フイルタ手段を介して入力信号を順次階層的に間引いて
解像度を低下させ、各解像度に対応する動き量演算手段
に入力し、解像度の低い階層の動き量演算手段で求めた
動き量を順次解像度の高い階層の動き量演算手段に動き
補償量として与え、この動き補償量に基づいて当該階層
における動き量を求めて出力することにより、入力信号
の単位時間当たりの変化量が大きい場合にも従来に比し
て一段と精度良く動きベクトルを求めることができる。
フイルタ手段を介して入力信号を順次階層的に間引いて
解像度を低下させ、各解像度に対応する動き量演算手段
に入力し、解像度の低い階層の動き量演算手段で求めた
動き量を順次解像度の高い階層の動き量演算手段に動き
補償量として与え、この動き補償量に基づいて当該階層
における動き量を求めて出力することにより、入力信号
の単位時間当たりの変化量が大きい場合にも従来に比し
て一段と精度良く動きベクトルを求めることができる。
【図1】本発明によるオプテイカルフロー演算装置の一
実施例を示すブロツク図である。
実施例を示すブロツク図である。
【図2】入力画像の間引きによる解像度の階層構造を示
す略線的斜視図である。
す略線的斜視図である。
【図3】各解像度の画像の動き量を求める動量演算回路
の説明に供するブロツク図である。
の説明に供するブロツク図である。
【図4】動量演算回路部の説明に供するブロツク図であ
る。
る。
【図5】階層処理により得られる動きベクトルの演算結
果を示す略線図である。
果を示す略線図である。
【図6】階層処理の結果得られる動きベクトルの説明に
供する略線図である。
供する略線図である。
【図7】動き量の説明に供する略線図である。
【図8】従来の処理により得られる動きベクトルの演算
結果を示す略線図である。
結果を示す略線図である。
【図9】その動きベクトルの説明に供する略線図であ
る。
る。
1……オプテイカルフロー演算装置、2k……動量演算
回路、3k……補償値演算回路、4k……動量演算回路
部、5k……加算回路、9k……偏微分フイルタ回路、
10k……評価関数生成回路、11k……制御回路、V
(σ)……間引き画像。
回路、3k……補償値演算回路、4k……動量演算回路
部、5k……加算回路、9k……偏微分フイルタ回路、
10k……評価関数生成回路、11k……制御回路、V
(σ)……間引き画像。
Claims (1)
- 【請求項1】第1及び第2の入力信号を一致させるため
の動き量を求める信号マツチング装置において、 上記入力信号を順次階層的に間引いて高位の解像度から
低位の解像度に順次低下させる複数段のフイルタ手段
と、 上記各解像度に対応する上記入力信号を入力すると共
に、当該入力信号に対して低位の解像度の入力信号から
求められた上記動き量を動き補償量として入力し、当該
動き補償量に基づいて当該高位の解像度の入力信号につ
いての動き量を求める動き量演算手段とを具えることを
特徴とする信号マツチング装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP3246641A JPH0561975A (ja) | 1991-08-31 | 1991-08-31 | 信号マツチング装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP3246641A JPH0561975A (ja) | 1991-08-31 | 1991-08-31 | 信号マツチング装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPH0561975A true JPH0561975A (ja) | 1993-03-12 |
Family
ID=17151436
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP3246641A Pending JPH0561975A (ja) | 1991-08-31 | 1991-08-31 | 信号マツチング装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JPH0561975A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007286690A (ja) * | 2006-04-12 | 2007-11-01 | Nippon Telegr & Teleph Corp <Ntt> | 移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム |
JP2008181187A (ja) * | 2007-01-23 | 2008-08-07 | Nippon Telegr & Teleph Corp <Ntt> | 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム |
JP2010079375A (ja) * | 2008-09-24 | 2010-04-08 | Fujifilm Corp | 画像処理装置、方法及びプログラム |
JP2012514419A (ja) * | 2008-12-30 | 2012-06-21 | インテル・コーポレーション | ビデオに含まれるノイズを低減する方法および装置 |
WO2016185598A1 (ja) * | 2015-05-21 | 2016-11-24 | オリンパス株式会社 | 撮像装置、画像処理装置、画像処理方法、画像処理プログラムおよび記憶媒体 |
-
1991
- 1991-08-31 JP JP3246641A patent/JPH0561975A/ja active Pending
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007286690A (ja) * | 2006-04-12 | 2007-11-01 | Nippon Telegr & Teleph Corp <Ntt> | 移動ベクトル検出装置、移動ベクトル検出方法および移動ベクトル検出プログラム |
JP2008181187A (ja) * | 2007-01-23 | 2008-08-07 | Nippon Telegr & Teleph Corp <Ntt> | 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム |
JP4486974B2 (ja) * | 2007-01-23 | 2010-06-23 | 日本電信電話株式会社 | 動きベクトル検出装置、動きベクトル検出方法、及び、動きベクトル検出プログラム |
JP2010079375A (ja) * | 2008-09-24 | 2010-04-08 | Fujifilm Corp | 画像処理装置、方法及びプログラム |
US8428365B2 (en) | 2008-09-24 | 2013-04-23 | Fujifilm Corporation | Image processing apparatus, method and computer program product |
JP2012514419A (ja) * | 2008-12-30 | 2012-06-21 | インテル・コーポレーション | ビデオに含まれるノイズを低減する方法および装置 |
US8903191B2 (en) | 2008-12-30 | 2014-12-02 | Intel Corporation | Method and apparatus for noise reduction in video |
WO2016185598A1 (ja) * | 2015-05-21 | 2016-11-24 | オリンパス株式会社 | 撮像装置、画像処理装置、画像処理方法、画像処理プログラムおよび記憶媒体 |
JPWO2016185598A1 (ja) * | 2015-05-21 | 2018-03-15 | オリンパス株式会社 | 撮像装置、画像処理装置、画像処理方法、画像処理プログラムおよび記憶媒体 |
US10477236B2 (en) | 2015-05-21 | 2019-11-12 | Olympus Corporation | Image acquisition device, image processing device, image processing method, image processing program, and storage medium for generating high resolution image from low resolution images |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101485193B (zh) | 图像生成装置以及图像生成方法 | |
KR100320063B1 (ko) | 패턴인식장치 | |
US5610658A (en) | Motion vector detection using hierarchical calculation | |
JP3734829B2 (ja) | 電子画像安定化システム及び方法 | |
GB2162018A (en) | Moving picture frame rate conversion system | |
US5635994A (en) | Method of making a hierarchical estimate of image motion in a television signal | |
US6980237B2 (en) | Image processing method | |
JP2007000205A (ja) | 画像処理装置及び画像処理方法並びに画像処理プログラム | |
CN110428466A (zh) | 一种非均匀性校正的方法和设备 | |
JP5082856B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置 | |
KR19990031413A (ko) | 그래디언트 패턴 정합에 의한 영상 움직임 검출장치 및 그 방법 | |
JPH0561975A (ja) | 信号マツチング装置 | |
US5943450A (en) | Apparatus and method for compensating for camera vibration during video photography | |
JPH07154801A (ja) | 階層型動きベクトル検出方法 | |
EP0454483B1 (en) | Movement vector detection device | |
JP2017055229A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP4541335B2 (ja) | 画像処理装置 | |
JP2913846B2 (ja) | 動画像の符号化方式 | |
JP3225598B2 (ja) | 画像の手振れ検出装置 | |
JPH02118888A (ja) | 画像の動きベクトル検出装置 | |
JPH0549023A (ja) | 動画像の動き情報検出方式 | |
JPH07222158A (ja) | 動き量検出方法及び動き量検出装置 | |
JP3126998B2 (ja) | 動きベクトル検出装置 | |
JPH03253180A (ja) | 画像生成方法 | |
JP3286345B2 (ja) | 動きベクトル検出回路 |