JP2000322582A - 移動物体追跡方法 - Google Patents
移動物体追跡方法Info
- Publication number
- JP2000322582A JP2000322582A JP11133482A JP13348299A JP2000322582A JP 2000322582 A JP2000322582 A JP 2000322582A JP 11133482 A JP11133482 A JP 11133482A JP 13348299 A JP13348299 A JP 13348299A JP 2000322582 A JP2000322582 A JP 2000322582A
- Authority
- JP
- Japan
- Prior art keywords
- moving object
- tracking
- block
- motion
- processing step
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
することで、移動物体を追跡する移動物体追跡方法に関
し、照度変動や移動物体に変形・部分隠れが生じても追
跡が外れないようにすることを目的とする。 【解決手段】ある時間間隔で起動されて、画像全体から
分割される局所ブロック毎に、動きがあるのか否かを検
出する第1の処理過程と、第1の処理過程で検出された
局所ブロックの重心位置を算出することで、移動物体を
追跡する第2の処理過程とを備える構成を採る。この構
成に従って、動きのある局所ブロックの重心を使って移
動物体を追跡していくことを実現し、これにより、移動
物体のテンプレートを必要としないので、照度変動が生
じた場合や、移動物体が変形した場合や、移動物体が部
分的に隠れた場合にも、追跡を継続できるようになる。
Description
される画像を処理することで、移動物体を追跡する移動
物体追跡方法に関し、特に、照度変動や移動物体に変形
・部分隠れが生じても追跡が外れないようにする移動物
体追跡方法に関する。
に、カメラにより撮像される画像を処理することで移動
物体を追跡する追跡システムが広く使用されつつある。
この追跡システムを実用的なものとするためには、照度
変動や移動物体に変形・部分隠れが生じても追跡が外れ
ないようにする技術を構築していく必要がある。
を処理することで移動物体を追跡する方法として、相関
演算に基づくテンプレート追跡法が広く用いられてい
る。
フレームfにおける局所画像(参照ブロック)と、次の
フレーム(f+1)における局所画像(候補ブロック)
との間の相関演算を、候補ブロックの位置を変えながら
繰り返すもので、相関値が最大となる候補ブロックの位
置から、両フレーム間での動きベクトルを求めることが
できる。
v+y)| 但し、−p≦h,v≦qの式で表される。
はフレーム(f+1)の画像であり、参照ブロックのサ
イズをm×n画素、動きベクトルの探索範囲(探索ブロ
ック)を水平垂直方向共に−p〜+q画素としている。
また、便宜上、参照ブロックの左上を座標原点としてい
る。
ような2次元の相関値配列D(h,v)が得られ、相関値D
(h,v)が最小となる(h,v)が動きベクトルとなる。
は、移動物体のテンプレート画像を参照ブロックとして
相関演算を行う。この場合、参照ブロックは時間によら
ず固定的な画像となる。
ム、探索ブロックをずらしていけば、画像内の移動物体
の位置を逐次求めることができる。
に基づくテンプレート追跡法を用いて、画像内の移動物
体を追跡する方法を採っていた。
大きさで動きがあるのか否かを判定するのではなくて、
最小相関値D(h,v)と、動きベクトル0の場合の相関値
D(0,0)とを比較し、適当な閾値Tを使って、「D(0,
0)−D(h,v)>T」の場合に動きがあると判定する相関
値判定法が用いられている。
像に顕著なパターンがない場合(例えば真っ白な場合)
に、動きベクトルが不安定となる問題点を回避すべく考
案されたものである。
関値D(h,v)は一様に小さな値となることから、動きベ
クトルを一意に定めることができない。従って、最小相
関値D(h,v)から単純に求めた動きベクトルは、実際の
物体の移動に対応しない。これに対して、相関値判定法
では、一様な相関値D(h,v)に対しては、「D(0,0)−
D(h,v)」は必ず小さな値になるので、閾値Tを越える
ことはない。従って、顕著なパターンがない場合には、
動きなしと検知され、誤った動きベクトルを出力するこ
とがないという効果を生む。
レート追跡法では、固定のテンプレート画像を用いるた
めに、追跡対象が変形したり部分的に隠れたりした場合
に、追跡が外れるという問題点がある。また、照度変動
にも弱く、追跡対象が日向から日陰に移動するだけで、
追跡が外れることが多い。
特開平9-214945 号で、追跡対象の特徴点を利用した新
たな追跡法を開示した。
抽出し、特徴点位置が常に中心になるようにと補正する
ことで、照度変動や追跡対象の変形・部分隠れによる影
響を受けないようにする構成を採っている。
跡法は、照度変動や追跡対象の変形・部分隠れに影響を
受けないようになるものの、追跡対象が特徴点を持たな
い場合には適用できないという問題点が残されている。
であって、照度変動や移動物体に変形・部分隠れが生じ
ても追跡が外れないようにする新たな移動物体追跡方法
の提供を目的する。
に、本発明の第1の発明では、カメラにより撮像される
画像を処理することで、移動物体を追跡する移動物体追
跡方法において、ある時間間隔で起動されて、画像全体
から分割される局所ブロック毎に、動きがあるのか否か
を検出する第1の処理過程と、第1の処理過程で検出さ
れた局所ブロックの重心位置を算出することで、移動物
体を追跡する第2の処理過程とを備える構成を採る。
では、第1の処理過程で、例えば周期的に、画像全体か
ら分割される局所ブロック毎に、動きがあるのか否かを
検出すると、第2の処理過程で、その検出された局所ブ
ロックの重心位置を算出して、それを移動物体の重心位
置とすることで、移動物体を追跡する。
ブロックの重心を使って移動物体を追跡していく構成を
採っており、移動物体のテンプレートを必要としないの
で、照度変動が生じた場合や、移動物体が変形した場合
や、移動物体が部分的に隠れた場合にも、追跡を継続で
きるようになる。
瞬に画像の外に移動物体が移動してしまわない限り、次
の瞬間に移動物体を再度捕捉できることから、極めて安
定な追跡を実現できる。そして、追跡対象が人などの柔
軟物体であることで、角などの特徴点を安定に抽出でき
ない場合であっても、動きの有無は検出できることか
ら、移動物体を正確に追跡できるようになる。
より撮像される画像を処理することで、移動物体を追跡
する移動物体追跡方法において、ある時間間隔で起動さ
れて、画像内に設定される追跡ブロックから分割される
局所ブロック毎に、動きがあるのか否かを検出する第1
の処理過程と、第1の処理過程で検出された動きのある
局所ブロックの重心位置を求めて、追跡ブロック中心か
らの偏差を算出する第2の処理過程と、第1の処理過程
で検出された局所ブロックの動きの平均値を検出する第
3の処理過程と、第2の処理過程で算出された偏差と、
第3の処理過程で検出された動きの平均値とから、追跡
ブロックの位置を更新する第4の処理過程とを備える構
成を採る。
では、第1の処理過程で、例えば周期的に、追跡ブロッ
クから分割される局所ブロック毎に、動きがあるのか否
かを検出し、第2の処理過程で、その検出された局所ブ
ロックの重心位置を求めて、追跡ブロック中心からの偏
差を算出するとともに、第3の処理過程で、その検出さ
れた局所ブロックの動きの平均値を算出する。
出された偏差と、その算出された動きの平均値とから、
追跡ブロックの位置を更新することで、移動物体を追跡
する。
出された局所ブロックを検出対象とするか、前回動きあ
りと検出された局所ブロックと、その近傍に位置する局
所ブロックとを検出対象として、局所ブロックに動きが
あるのか否かを検出することで、追跡ブロックの中に別
の移動物体が入り込んできたときにも、それまで追跡し
て移動物体をそのまま正確に追跡できるようにする構成
を採っている。
な追跡を実現できるものの、画像内に複数の移動物体が
ある場合には対応できないという問題点が残されてい
る。そこで、本発明の第2の発明では、画像内に、特定
の大きさの1つ又は複数の追跡ブロックを設け、その追
跡ブロック内だけを処理することで、その追跡ブロック
内に存在する特定の移動物体のみを追跡できることを実
現している。
より撮像される画像を処理することで、移動物体を追跡
する移動物体追跡方法において、ある時間間隔で起動さ
れて、画像内に設定される追跡ブロックから分割される
局所ブロック毎に、動きがあるのか否かを検出する第1
の処理過程と、第1の処理過程で検出された動きのある
局所ブロックの重心位置を求めて、追跡ブロックの位置
をその重心位置に更新する第2の処理過程と、第2の処
理過程で更新された追跡ブロックから分割される局所ブ
ロック毎に、動きがあるのか否かを検出する第3の処理
過程と、第3の処理過程で検出された動きのある局所ブ
ロックの動きの平均値を検出する第4の処理過程と、第
4の処理過程で検出された動きの平均値から、第2の処
理過程で更新された追跡ブロックの位置を更新する第5
の処理過程とを備える構成を採る。
では、第1の処理過程で、例えば周期的に、追跡ブロッ
クから分割される局所ブロック毎に、動きがあるのか否
かを検出し、第2の処理過程で、その検出された局所ブ
ロックの重心位置を求めて、追跡ブロックの位置をその
重心位置に更新する。
れた追跡ブロックから分割される局所ブロック毎に、動
きがあるのか否かを検出し、第4の処理過程で、その検
出された動きのある局所ブロックの動きの平均値を検出
し、第5の処理過程で、その検出された動きの平均値か
ら、第2の処理過程で更新された追跡ブロックの位置を
更新することで、移動物体を追跡する。
出された局所ブロックを検出対象とするか、前回動きあ
りと検出された局所ブロックと、その近傍に位置する局
所ブロックとを検出対象として、局所ブロックに動きが
あるのか否かを検出することで、追跡ブロックの中に別
の移動物体が入り込んできたときにも、それまで追跡し
て移動物体をそのまま正確に追跡できるようにする構成
を採っている。
で検出された動きのある局所ブロックの重心位置を求め
るとともに、それらの局所ブロックの動きの平均値を求
めて、その重心位置とその動きの平均値とに従って追跡
ブロックの位置を更新していくのに対して、本発明の第
3の発明では、その重心位置に従ってとりあえず追跡ブ
ロックの位置を更新することで、移動物体部分をより多
く含む追跡ブロックに更新して、その更新した追跡ブロ
ックの持つ動きのある局所ブロックの動きの平均値を求
めて、その動きの平均値に従って最終的に追跡ブロック
の位置を更新していくことで、更に正確に移動物体を追
跡できることを実現している。
明では、カメラの振動やパンチルト移動による画像の動
きを考慮して、画像全体の並進的な動きを検出すること
でカメラの動きを検出して、それによる画像の動きを考
慮しつつ、局所ブロックに動きがあるのか否かというこ
とを検出するとともに、局所ブロックの動きを検出する
構成を採ることで、カメラの振動やパンチルト移動の影
響を受けることなく移動物体を追跡できるようにするこ
とを実現している。
ルト移動による画像の動きと、カメラのレンズズームに
よる画像の動きを考慮して、画像全体の並進的及び放射
状的な動きを検出することで、カメラの動きとカメラの
レンズズームとを検出して、それによる画像の動きを考
慮しつつ、局所ブロックに動きがあるのか否かというこ
とを検出するとともに、局所ブロックの動きを検出する
構成を採ることで、カメラの振動やパンチルト移動やレ
ンズズームの影響を受けることなく移動物体を追跡でき
るようにすることを実現している。
を詳細に説明する。
置1の一実施例を図示する。
跡装置1は、カメラ2の撮像する画像を入力として、そ
の入力画像を処理することで、移動物体を追跡するもの
であって、第1の画像メモリ10と、第2の画像メモリ
11と、デマルチプレクサ12と、相関演算器13と、
移動物体追跡プログラム14とを備える。
1→フレーム3→フレーム5→・・・」という順番に従
ってカメラ2の撮像する画像を格納していく。第2の画
像メモリ11は、「フレーム2→フレーム4→フレーム
6→・・・」という順番に従ってカメラ2の撮像する画
像を格納していく。デマルチプレクサ12は、カメラ2
の撮像する画像を入力として、それを第1の画像メモリ
10と第2の画像メモリ11とに振り分けていく。
れ、第1の画像メモリ10に格納される画像と第2の画
像メモリ11に格納される画像とを処理対象として、移
動物体追跡プログラム14の指示する画像領域に対して
相関演算を実行して、図17に示したような相関値配列
と、その相関値配列に含まれる最小相関値とを求めて、
移動物体追跡プログラム14に渡す。
器13を使って規定の追跡処理を実行することで、カメ
ラ2の撮像する画像の中に含まれる移動物体を追跡す
る。
行する処理フローの一実施例を図示する。次に、この処
理フローに従って、本発明について詳細に説明する。
ると、図2の処理フローに示すように、先ず最初に、ス
テップ1で、画像全体を複数の矩形ブロックに分割す
る。続いて、ステップ2で、規定の追跡周期に到達した
のか否かをチェックし、規定の追跡周期に到達していな
いことを判断するときには、ステップ3に進んで、終了
要求が発行されたのか否かを判断して、終了要求が発行
されたことを判断するときには、処理を終了し、終了要
求が発行されていないことを判断するときには、ステッ
プ2に戻って、追跡周期に到達したのか否かをチェック
していく。
リ10or第2の画像メモリ11に格納される画像が新
たなものに更新される時点と同期している。すなわち、
追跡周期に到達すると、前回がフレームfの画像とフレ
ーム(f+1)の画像とを使って以下に述べる追跡処理
を行った場合には、今回はフレーム(f+1)の画像と
フレーム(f+2)の画像とを使って以下に述べる追跡
処理を行い、前回がフレーム(f+1)の画像とフレー
ム(f+2)の画像とを使って以下に述べる追跡処理を
行った場合には、今回はフレーム(f+2)の画像とフ
レーム(f+3)の画像とを使って以下に述べる追跡処
理を行うという形態に従って、以下に述べる追跡処理を
行うことになる。
断すると、ステップ4に進んで、未処理の矩形ブロック
の中から矩形ブロックを1つ選択し、続くステップ5
で、全ての矩形ブロックの選択を終了したのか否かを判
断する。
の選択を終了していないことを判断するとき、すなわ
ち、ステップ4で矩形ブロックを選択できたことを判断
するときには、ステップ6に進んで、選択した矩形ブロ
ックを指定して、相関演算器13に演算を指示する。
3は、第1の画像メモリ10or第2の画像メモリ11
に格納されるフレームfの画像から、指定された矩形ブ
ロックの画像部分を参照ブロック(図16に示したも
の)として切り出すとともに、第1の画像メモリ10o
r第2の画像メモリ11に格納されるフレーム(f+
1)の画像から、それに対応する候補ブロック/探索ブ
ロック(図16に示したもの)の画像部分を切り出して
相関演算を実行し、その演算結果となる相関値配列/最
小相関値を出力する。
器13に演算を指示した後、その演算指示に応答して相
関演算器13から出力される相関値配列/最小相関値を
受け取る。
ら受け取った最小相関値D(h0,v0)と、相関演算器13
から受け取った相関値配列の持つ動きがない場合の相関
値D(0,0) とから、「D(0,0) −D(h0,v0) 」を算出し
て、その値が規定の閾値T以上を示すときには、選択し
た矩形ブロックに動きがあったことを判断し、閾値T以
上を示さないときには、選択した矩形ブロックに動きが
なかったことを判断して、ステップ4に戻っていく。
プ7の処理を繰り返していくことで、画像全体から分割
された各矩形ブロックに動きがあったのか否かを判断し
ていくことで、ステップ4で、全ての矩形ブロックに対
する処理の終了を判断すると、ステップ8に進んで、動
きのあった矩形ブロックの重心を計算する。
ならば、 ig =Σi 〔i×B(i,j)〕/iN jg =Σj 〔j×B(i,j)〕/jM 但し、iN : 画像の水平方向の大きさ jM : 画像の垂直方向の大きさ B(i,j) =1 : 動きあり =0 : 動きなし という算出式に従って、動きのあった矩形ブロックの重
心(ig,jg )を計算するのである。
ブロックの重心の位置(ig,jg )を、移動物体の重心
の位置(hg,vg )と設定してから、ステップ2に戻っ
て、次のフレームにおける移動物体の位置を求めてい
く。
14は、図3に示すように、動きのあった矩形ブロック
の重心の位置を移動物体の重心の位置とみなして移動物
体を追跡していくように処理する。
としないので、照度変動が生じた場合や、移動物体が変
形した場合や、移動物体が部分的に隠れた場合にも、追
跡を継続できるようになる。また、万が一追跡が外れて
しまっても、一瞬に画像の外に移動物体が移動してしま
わない限り、次の瞬間に移動物体を再度捕捉できること
から、極めて安定な追跡を実現できる。そして、追跡対
象が人などの柔軟物体であることで、角などの特徴点を
安定に抽出できない場合であっても、動きの有無は検出
できることから、移動物体を正確に追跡できるようにな
る。
理フローに従う場合、安定な追跡を実現できるものの、
画像内に複数の移動物体がある場合には、それらの移動
物体の中心を追跡してしまうという問題点が残されてい
る。
画像内に複数の移動物体が存在する可能性がある場合に
は、画像内にある大きさを持つ1つ又は複数の追跡ブロ
ックを設定して、その追跡ブロック毎に、図4及び図5
の処理フローを実行することで、1つの移動物体を追跡
するように処理する。
は、図4及び図5の処理フローに従う場合には、先ず最
初に、ステップ1で、追跡ブロックの図形中心として定
義される初期中心(h,v)を求める。
数の矩形ブロックに分割する。続いて、ステップ3で、
上述した意味を持つ規定の追跡周期に到達したのか否か
をチェックし、規定の追跡周期に到達していないことを
判断するときには、ステップ4に進んで、終了要求が発
行されたのか否かを判断して、終了要求が発行されたこ
とを判断するときには、処理を終了し、終了要求が発行
されていないことを判断するときには、ステップ3に戻
って、追跡周期に到達したのか否かをチェックしてい
く。
断すると、ステップ5に進んで、1つ用意する相関値バ
ッファをクリアする。続いて、ステップ6で、未処理の
矩形ブロックの中から矩形ブロックを1つ選択し、続く
ステップ7で、全ての矩形ブロックの選択を終了したの
か否かを判断する。
の選択を終了していないことを判断するとき、すなわ
ち、ステップ6で矩形ブロックを選択できたことを判断
するときには、ステップ8に進んで、選択した矩形ブロ
ックを指定して、相関演算器13に演算を指示する。
3は、第1の画像メモリ10or第2の画像メモリ11
に格納されるフレームfの画像から、指定された矩形ブ
ロックの画像部分を参照ブロックとして切り出すととも
に、第1の画像メモリ10or第2の画像メモリ11に
格納されるフレーム(f+1)の画像から、それに対応
する候補ブロック/探索ブロックの画像部分を切り出し
て相関演算を実行し、その演算結果となる相関値配列/
最小相関値を出力する。
器13に演算を指示した後、その演算指示に応答して相
関演算器13から出力される相関値配列/最小相関値を
受け取る。
ら受け取った最小相関値D(h0,v0)と、相関演算器13
から受け取った相関値配列の持つ動きがない場合の相関
値D(0,0) とから、「D(0,0) −D(h0,v0) 」を算出し
て、その値が規定の閾値T以上を示すときには、選択し
た矩形ブロックに動きがあったことを判断し、閾値T以
上を示さないときには、選択した矩形ブロックに動きが
なかったことを判断して、選択した矩形ブロックに動き
があったことを判断するときには、相関演算器13から
受け取った相関値配列を相関値バッファに累積加算(配
列要素毎に累積加算する)してから、ステップ6に戻っ
ていく。
つであり、従って、移動物体を構成する動きのある全て
の矩形ブロックは、同一方向に同一速度で移動すること
から、それらの矩形ブロックの示す相関値配列は、基本
的に同一のものとなる。そこで、このステップ9では、
ステップ7で選択した矩形ブロックに動きがあったこと
を判断すると、相関演算器13から受け取った相関値配
列を相関値バッファに累積加算していくのである。
プ9の処理を繰り返していくことで、追跡ブロックから
分割された各矩形ブロックに動きがあるのか否かを判断
して、動きのあった矩形ブロックの示す相関値配列を相
関値バッファに累積加算していくことで、ステップ7
で、全ての矩形ブロックに対する処理の終了を判断する
と、ステップ10(図5の処理フロー)に進んで、動き
のあった矩形ブロックの重心の位置を計算することで、
移動物体の重心の位置を求める。
ならば、 ig =Σi 〔i×B(i,j)〕/iN jg =Σj 〔j×B(i,j)〕/jM 但し、iN : 画像の水平方向の大きさ jM : 画像の垂直方向の大きさ B(i,j) =1 : 動きあり =0 : 動きなし という算出式に従って、動きのあった矩形ブロックの重
心の位置(ig,jg )を計算して、それを移動物体の重
心の位置(hg,vg )とすることで、移動物体の重心の
位置を求めるのである。
に累積加算した相関値配列から、動きのあった矩形ブロ
ックの動きベクトルの平均値(hm,vm )を特定する。
上述したように、相関値バッファには、移動物体を構成
する矩形ブロックの示す相関値配列が累積加算されてい
ることで、追跡ブロックに含まれる移動物体の示す相関
値配列の平均値に相当するものが格納されているので、
この累積加算された相関値配列の最小相関値D(hm,v
m )の位置(hm,vm )を特定することで、動きのあっ
た矩形ブロックの動きベクトルの平均値(hm,vm )を
特定するのである。
中心(h,v)を、 h=h+hg +hm v=v+vg +vm という算出式に従って更新してから、ステップ2に戻っ
ていくことで、次のフレームにおける追跡ブロックの位
置を求めていく。
14は、図4及び図5の処理フローに従う場合には、移
動物体を中心とした位置に、追跡ブロックを位置決めし
ていくことで移動物体を追跡していくように処理する。
において図のように車が走行している場合に、太線で示
した追跡ブロックを複数の矩形ブロックに分割し動きの
有無を計測すると、車の上に位置する矩形ブロックが動
きありと判定される。なお、この図では、見やすくする
ために、動きなしと判定された矩形ブロックについては
図示していない。
クの重心を追跡ブロックの中心からの偏差(hg,vg )
で表すと、図中の短い矢印となる。次に、動きありと判
定された矩形ブロックについて、フレームfの画像とフ
レーム(f+1)の画像とで動きベクトルを求めた結果
が図中に示す(hm,vm )となる。このとき、追跡ブロ
ックを水平方向に「hg +hm 」、垂直方向に「vg +
vm 」移動させることで、移動物体を中心とした位置に
追跡ブロックを位置決めし、これにより移動物体の追跡
が実現されることになる。
うな瞬間には、移動物体の一部しか追跡ブロックに含ま
れないことが起こり、このよう場合に、図4及び図5の
処理フローに従っていると、動きベクトルが正確に得ら
れないことで追跡が外れてしまうことが起こるという問
題点が残されている。
移動物体の動きが速い場合には、図7及び図8の処理フ
ローを実行することで、移動物体の追跡が外れないよう
に処理する。
は、図7及び図8の処理フローに従う場合には、先ず最
初に、ステップ1で、追跡ブロックの図形の中心として
定義される初期中心(h,v)を求める。
数の矩形ブロックに分割する。続いて、ステップ3で、
上述した意味を持つ規定の追跡周期に到達したのか否か
をチェックし、規定の追跡周期に到達していないことを
判断するときには、ステップ4に進んで、終了要求が発
行されたのか否かを判断して、終了要求が発行されたこ
とを判断するときには、処理を終了し、終了要求が発行
されていないことを判断するときには、ステップ3に戻
って、追跡周期に到達したのか否かをチェックしてい
く。
断すると、ステップ5に進んで、未処理の矩形ブロック
の中から矩形ブロックを1つ選択し、続くステップ6
で、全ての矩形ブロックの選択を終了したのか否かを判
断する。
の選択を終了していないことを判断するとき、すなわ
ち、ステップ5で矩形ブロックを選択できたことを判断
するときには、ステップ7に進んで、選択した矩形ブロ
ックを指定して、相関演算器13に演算を指示する。
3は、第1の画像メモリ10or第2の画像メモリ11
に格納されるフレームfの画像から、指定された矩形ブ
ロックの画像部分を参照ブロックとして切り出すととも
に、第1の画像メモリ10or第2の画像メモリ11に
格納されるフレーム(f+1)の画像から、それに対応
する候補ブロック/探索ブロックの画像部分を切り出し
て相関演算を実行し、その演算結果となる相関値配列/
最小相関値を出力する。
器13に演算を指示した後、その演算指示に応答して相
関演算器13から出力される相関値配列/最小相関値を
受け取る。
ら受け取った最小相関値D(h0,v0)と、相関演算器13
から受け取った相関値配列の持つ動きがない場合の相関
値D(0,0) とから、「D(0,0) −D(h0,v0) 」を算出し
て、その値が規定の閾値T以上を示すときには、選択し
た矩形ブロックに動きがあったことを判断し、閾値T以
上を示さないときには、選択した矩形ブロックに動きが
なかったことを判断して、ステップ5に戻っていく。
プ8の処理を繰り返していくことで、追跡ブロックから
分割された各矩形ブロックに動きがあったのか否かを判
断していくことで、ステップ6で、全ての矩形ブロック
に対する処理の終了を判断すると、ステップ9に進ん
で、動きのあった矩形ブロックの重心の位置を計算する
ことで、移動物体の重心の位置を求める。
ならば、 ig =Σi 〔i×B(i,j)〕/iN jg =Σj 〔j×B(i,j)〕/jM 但し、iN : 画像の水平方向の大きさ jM : 画像の垂直方向の大きさ B(i,j) =1 : 動きあり =0 : 動きなし という算出式に従って、動きのあった矩形ブロックの重
心の位置(ig,jg )を計算して、それを移動物体の重
心の位置(hg,vg )とすることで、移動物体の重心の
位置を求めるのである。
ー)で、追跡ブロックの中心(h,v)を、 h=h+hg v=v+vg という算出式に従って更新する。
した追跡ブロックを複数の矩形ブロックに分割し、続く
ステップ12で、1つ用意する相関値バッファをクリア
する。続いて、ステップ13で、未処理の矩形ブロック
(中心位置を更新した追跡ブロックから生成される矩形
ブロック)の中から矩形ブロックを1つ選択し、続くス
テップ14で、全ての矩形ブロックの選択を終了したの
か否かを判断する。
の選択を終了していないことを判断するとき、すなわ
ち、ステップ13で矩形ブロックを選択できたことを判
断するときには、ステップ15に進んで、選択した矩形
ブロックを指定して、相関演算器13に演算を指示す
る。
3は、第1の画像メモリ10or第2の画像メモリ11
に格納されるフレームf(ステップ7でのフレームと同
一フレーム)の画像から、指定された矩形ブロックの画
像部分を参照ブロックとして切り出すとともに、第1の
画像メモリ10or第2の画像メモリ11に格納される
フレーム(f+1)(ステップ7でのフレームと同一フレ
ーム)の画像から、それに対応する候補ブロック/探索
ブロックの画像部分を切り出して相関演算を実行し、そ
の演算結果となる相関値配列/最小相関値を出力する。
算器13に演算を指示した後、その演算指示に応答して
相関演算器13から出力される相関値配列/最小相関値
を受け取る。
から受け取った最小相関値D(h0,v0) と、相関演算器1
3から受け取った相関値配列の持つ動きがない場合の相
関値D(0,0) とから、「D(0,0) −D(h0,v0) 」を算出
して、その値が規定の閾値T以上を示すときには、選択
した矩形ブロックに動きがあったことを判断し、閾値T
以上を示さないときには、選択した矩形ブロックに動き
がなかったことを判断して、選択した矩形ブロックに動
きがあったことを判断するときには、相関演算器13か
ら受け取った相関値配列を相関値バッファに累積加算し
てから、ステップ13に戻っていく。
つであり、従って、移動物体を構成する動きのある全て
の矩形ブロックは、同一方向に同一速度で移動すること
から、それらの矩形ブロックの示す相関値配列は、基本
的に同一のものとなる。そこで、このステップ16で
は、ステップ13で選択した矩形ブロックに動きがあっ
たことを判断すると、相関演算器13から受け取った相
関値配列を相関値バッファに累積加算していくのであ
る。
ップ16の処理を繰り返していくことで、追跡ブロック
から分割された各矩形ブロックに動きがあるのか否かを
判断して、動きのあった矩形ブロックの示す相関値配列
を相関値バッファに累積加算していくことで、ステップ
14で、全ての矩形ブロックに対する処理の終了を判断
すると、ステップ17に進んで、相関値バッファに累積
加算した相関値配列から、動きのあった矩形ブロックの
動きベクトルの平均値(hm,vm )を特定する。
動物体を構成する矩形ブロックの示す相関値配列が累積
加算されていることで、追跡ブロックに含まれる移動物
体の示す相関値の平均値に相当するものが格納されてい
るので、この累積加算された相関値配列の最小相関値D
(hm,vm )の位置(hm,vm )を特定することで、動
きのあった矩形ブロックの動きベクトルの平均値(hm,
vm )を特定するのである。
中心(h,v)を、 h=h+hm v=v+vm という算出式に従って更新してから、ステップ2に戻っ
ていくことで、次のフレームにおける追跡ブロックの位
置を求めていく。
14は、図7及び図8の処理フローに従う場合には、追
跡ブロックを先ず(hg,vg )だけ移動させた上で、再
度、同じフレーム画像を使って、追跡ブロックを分割す
る矩形ブロックの動きの検出を行い、それにより検出さ
れる動きのあった矩形ブロックに対して動きベクトルの
平均値(hm,vm )を求めて、それに従って追跡ブロッ
クを(hm,vm )だけ移動させていくことで、移動物体
を中心とした位置に、追跡ブロックを位置決めしていく
ことで移動物体を追跡していくように処理する。
跡が外れそうな瞬間には、図9の追跡ブロック1のよう
な状態になり、移動物体の一部しか追跡ブロックに含ま
れないことが起こる。このようなときに、図4及び図5
の処理フローに従っていると、移動物体の一部しか追跡
ブロックに含まれないことから、移動物体の動きベクト
ルが正確に得られないことで追跡が外れてしまうことが
起こる。
だけ移動させた上で、再度、同じフレーム画像を使って
追跡ブロックを分割する矩形ブロックの動きの検出を行
い、それらの動きのある矩形ブロックの動きベクトルを
求める構成を採ることで、図9の追跡ブロック2のよう
に、移動物体の多くの部分が含まれた状態で動きベクト
ルを求めるようにし、これにより、追跡ブロック3で示
すように、移動物体の確実な追跡を実現するのである。
きのある矩形ブロックを検出した際に、再度、その重心
(hg', vg')を求めて、追跡ブロックの中心(h,
v)を、 h=h+hm v=v+vm と更新していくのではなくて、 h=h+hm +hg' v=v+vm +vg' と更新していくように処理してもよい。
図5の処理フローに従う場合と、図7及び図8の処理フ
ローに従う場合には、1つの移動物体の追跡を実行する
ために、画像全体を処理するのではなくて、画像内に設
定されるある大きさを持つ追跡ブロックを処理すること
で、移動物体を追跡するという構成を採った。
グラム14は、追跡ブロックに別の移動物体が入り込ん
でくる可能性があることを考慮して、図10及び図11
の処理フローを実行することで、そのようなことが起き
ても、1つの移動物体を正確に追跡していくように処理
することになる。
7及び図8の処理フローの改善を図ったものであり、そ
の違いは、図10及び図11の処理フローでは、ステッ
プ16で、動きのあった矩形ブロックを記録する構成を
採って、ステップ5で、次のフレーム画像を使って追跡
処理に入るときに、前回の追跡処理で動きがあったと検
出した矩形ブロックのみを使って、移動物体の重心の位
置(hg,vg )を求めていく構成を採っている点であ
る。
別の移動物体が入り込んでくるようなことがあっても、
それが追跡中の移動物体に接触しない限り、その追跡が
可能となる。
出した矩形ブロックのみを使って、移動物体の重心の位
置(hg,vg )を求めていくのではなくて、その矩形ブ
ロックの近傍に位置する矩形ブロックをも含めて、移動
物体の重心の位置(hg,vg)を求めていく構成を採っ
てもよい。
の動きを考慮していなかった。カメラ2は、固定されて
いても風などの影響により振動することがあるし、ま
た、旋回台によりパンチルト移動することがある。
有無の検出や、矩形ブロックの動きベクトルの検出に誤
りがでる。
矩形ブロックの動きの有無の検出処理を実行する際と、
矩形ブロックの動きベクトルの検出処理を実行する際
に、カメラ2の動きに相当する画像全体の動きベクトル
(hc,vc )を求めて、 D(h,v)=Σx=1 m Σy=1 n |If (x,y) −If+1(hc+h
+x,vc+v+y)| 但し、−p≦h,v≦qという式に従って相関演算を実
行していくことで、図12に示すように、カメラ2の動
きを差し引いて、その動きに影響を受けない形で、矩形
ブロックの動きの有無の検出と、矩形ブロックの動きベ
クトルの検出とを実行するように処理する。
ローに示すように、相関演算器13に対して、外枠部分
を取り除いたフレームfの画像全体と、フレーム(f+
1)の画像全体との相関演算を指示することで、相関値
配列を受け取り、その相関値配列の持つ最小相関値D(h
0,v0) の規定する動きベクトル(h0,v0 )を特定する
ことで行う。すなわち、図13(b)に示すような外枠
部分を取り除いた画像全体を参照ブロックとして指定し
て相関演算を行うことで、画像全体の動きベクトルを求
めて、それをカメラ2の動きとして特定することで行う
のである。
参照ブロックとするのではなくて、画像全体を参照ブロ
ックとしてもカメラ2の動きを求めることは可能であ
り、また、画像の四隅などを参照ブロックとしてもカメ
ラ2の動きを求めることは可能である。
ンズズームにより画像全体が放射状に動く。これから、
カメラ2のレンズズームが発生すると、矩形ブロックの
動きの有無の検出や、矩形ブロックの動きベクトルの検
出に誤りがでる。
は、移動物体追跡プログラム14は、矩形ブロックの動
きの有無の検出処理を実行する際と、矩形ブロックの動
きベクトルの検出処理を実行する際に、図14の処理フ
ローを実行することで、レンズズーム量Cと画像全体の
動きベクトル(hc,vc )とを求めて、それに従って、
矩形ブロックの動きの有無の検出と、矩形ブロックの動
きベクトルの検出とを実行する。
は、図14の処理フローに示すように、先ず最初に、ス
テップ1で、レンズズーム量Cを設定する。
うに、ズーム中心O(xo,yo) と矩形ブロックR(xr,yr)
との距離z z=((xo −xr )2 +(yo −yr )2 )1/2 と、ズーム中心から放射状に変位するオフセット量dz
との間を、「dz=C×z」という関係式に従って定義
付けるものである。
てのレンズズーム量Cの設定を終了したのか否かを判断
して、全てのレンズズーム量Cの設定を終了していない
ことを判断するとき、すなわち、ステップ1でレンズズ
ーム量を設定できたことを判断するときには、ステップ
3に進んで、未処理の矩形ブロック(画像全体を分割す
ることで設定されている)の中から矩形ブロックを1つ
選択し、続くステップ4で、全ての矩形ブロックの選択
を終了したのか否かを判断する。
の選択を終了していないことを判断するとき、すなわ
ち、ステップ3で矩形ブロックを選択できたことを判断
するときには、ステップ5に進んで、相関演算器13に
対して、その選択した矩形ブロックを参照ブロック(フ
レームfの画像)とし、その選択した矩形ブロックをオ
フセット量移動した矩形ブロックを候補ブロック(フレ
ーム(f+1)の画像)として指定して相関演算を指示
することで、相関値配列を受け取る。
値バッファ(設定されるレンズズーム量に合わせて用意
する)に、その受け取った相関値配列を累積加算してか
ら、ステップ3に戻っていく。
プ6の処理を繰り返していくことで、設定されたレンズ
ズーム量における画像全体の相関値配列を累積加算して
いくことで、ステップ4で、全ての矩形ブロックの選択
の終了を判断すると、ステップ7に進んで、その累積加
算した相関値配列を保存してから、ステップ1に戻って
いくことで、次のレンズズーム量における画像全体の相
関値配列の累積加算値を求めていく。
ム量Cの設定の終了を判断すると、ステップ8に進ん
で、レンズズーム量Cに対応付けて保存した複数の累積
加算の相関値配列を検索することで、最小の相関値を示
すレンズズーム量Cを求めるとともに、そのときの動き
ベクトル(hc,vc )を求める。
カメラ2のレンズズーム量(C=0ならばズームしてい
ないことを表し、C>0ならばズームアップしているこ
とを表す)を表しており、動きベクトル(hc,vc )が
カメラ2の動きを表している。
出処理を実行する際と、矩形ブロックの動きベクトルの
検出処理を実行する際に、参照ブロックが与えられる
と、ズーム中心を中心として放射状に、この求めたレン
ズズーム量Cの規定するオフセット量dz(=C×z)
だけずらし、次に、動きベクトル(hc,vc )だけずら
した位置に、候補ブロックを設定するとともに、その周
囲に探索ブロックを設定することで、カメラ2の動きや
レンズズームに影響されずに、矩形ブロックの動きの有
無の検出と、矩形ブロックの動きベクトルの検出とを実
行できるようになる。
本発明はこれに限定されるものではない。例えば、実施
例では、矩形ブロックの動きの有無の検出や動きベクト
ルの検出に、相関演算を用いる方法を採ったが、別の方
法を用いることでもよい。
レーム(f+1)の画像とを処理することで、矩形ブロ
ックの動きの有無を検出したり、矩形ブロックの動きベ
クトルを検出する方法を採ったが、フレームfの画像と
フレーム(f+Δ)(但し、Δ>1)の画像とを処理する
ことでもよい。
していくことで、移動物体を追跡する方法を採ったが、
周期的である必要はなく、ある時間間隔をもって処理を
繰り返していくことでもよい。
関演算器13を用いる構成を採ったが、ソフトウェア構
成の相関演算器を用いることも可能である。
もって設定される追跡ブロックを使って移動物体を追跡
する方法を採ったが、従来技術で用いられている背景差
分法や動き差分法を使って移動物体の存在する位置を検
出して、それを取り囲む形態で追跡ブロックを設定して
いくことでもよい。
のある局所ブロックの重心を使って移動物体を追跡して
いく構成を採っており、移動物体のテンプレートを必要
としないので、照度変動が生じた場合や、移動物体が変
形した場合や、移動物体が部分的に隠れた場合にも、追
跡を継続できるようになる。
ることで、角などの特徴点を安定に抽出できない場合で
あっても、動きの有無は検出できることから、移動物体
を正確に追跡できるようになる。
レンズズームに影響されることなく、移動物体を正確に
追跡できるようになる。
る。
る。
る。
る。
る。
る。
Claims (7)
- 【請求項1】 カメラにより撮像される画像を処理する
ことで、移動物体を追跡する移動物体追跡方法におい
て、 ある時間間隔で起動されて、画像全体から分割される局
所ブロック毎に、動きがあるのか否かを検出する第1の
処理過程と、 第1の処理過程で検出された局所ブロックの重心位置を
算出することで、移動物体を追跡する第2の処理過程と
を備えることを、 特徴とする移動物体追跡方法。 - 【請求項2】 カメラにより撮像される画像を処理する
ことで、移動物体を追跡する移動物体追跡方法におい
て、 ある時間間隔で起動されて、画像内に設定される追跡ブ
ロックから分割される局所ブロック毎に、動きがあるの
か否かを検出する第1の処理過程と、 第1の処理過程で検出された動きのある局所ブロックの
重心位置を求めて、追跡ブロック中心からの偏差を算出
する第2の処理過程と、 第1の処理過程で検出された局所ブロックの動きの平均
値を検出する第3の処理過程と、 第2の処理過程で算出された偏差と、第3の処理過程で
検出された動きの平均値とから、追跡ブロックの位置を
更新する第4の処理過程とを備えることを、 特徴とする移動物体追跡方法。 - 【請求項3】 カメラにより撮像される画像を処理する
ことで、移動物体を追跡する移動物体追跡方法におい
て、 ある時間間隔で起動されて、画像内に設定される追跡ブ
ロックから分割される局所ブロック毎に、動きがあるの
か否かを検出する第1の処理過程と、 第1の処理過程で検出された動きのある局所ブロックの
重心位置を求めて、追跡ブロックの位置をその重心位置
に更新する第2の処理過程と、 第2の処理過程で更新された追跡ブロックから分割され
る局所ブロック毎に、動きがあるのか否かを検出する第
3の処理過程と、 第3の処理過程で検出された動きのある局所ブロックの
動きの平均値を検出する第4の処理過程と、 第4の処理過程で検出された動きの平均値から、第2の
処理過程で更新された追跡ブロックの位置を更新する第
5の処理過程とを備えることを、 特徴とする移動物体追跡方法。 - 【請求項4】 請求項3記載の移動物体追跡方法におい
て、 第3の処理過程で検出された動きのある局所ブロックの
重心位置を求めて、追跡ブロック中心からの偏差を算出
する処理過程を備え、 第5の処理過程で、上記処理過程で算出された偏差と、
第4の処理過程で検出された動きの平均値とから、追跡
ブロックの位置を更新することを、 特徴とする移動物体追跡方法。 - 【請求項5】 請求項2〜4に記載されるいずれかの移
動物体追跡方法において、 前回動きありと検出された局所ブロックを検出対象とす
るか、前回動きありと検出された局所ブロックと、その
近傍に位置する局所ブロックとを検出対象として、局所
ブロックに動きがあるのか否かを検出することを、 特徴とする移動物体追跡方法。 - 【請求項6】 請求項1〜5に記載されるいずれかの移
動物体追跡方法において、 画像全体の並進的な動きを検出することでカメラの動き
を検出して、それによる画像の動きを考慮しつつ、局所
ブロックに動きがあるのか否かということを検出すると
ともに、局所ブロックの動きを検出することを、 特徴とする移動物体追跡方法。 - 【請求項7】 請求項1〜5に記載されるいずれかの移
動物体追跡方法において、 画像全体の並進的及び放射状的な動きを検出することで
カメラの動きとカメラのレンズズームとを検出して、そ
れによる画像の動きを考慮しつつ、局所ブロックに動き
があるのか否かということを検出するとともに、局所ブ
ロックの動きを検出することを、 特徴とする移動物体追跡方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP13348299A JP4402764B2 (ja) | 1999-05-14 | 1999-05-14 | 移動物体追跡装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP13348299A JP4402764B2 (ja) | 1999-05-14 | 1999-05-14 | 移動物体追跡装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000322582A true JP2000322582A (ja) | 2000-11-24 |
JP4402764B2 JP4402764B2 (ja) | 2010-01-20 |
Family
ID=15105812
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP13348299A Expired - Fee Related JP4402764B2 (ja) | 1999-05-14 | 1999-05-14 | 移動物体追跡装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4402764B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007188269A (ja) * | 2006-01-12 | 2007-07-26 | Univ Of Tokyo | 画像上移動物体追跡方法及び装置 |
WO2008038606A1 (fr) | 2006-09-25 | 2008-04-03 | Panasonic Corporation | Dispositif de suivi automatique du corps d'un animal |
JP2015108941A (ja) * | 2013-12-04 | 2015-06-11 | 株式会社デンソー | 車両用の画像認識装置 |
-
1999
- 1999-05-14 JP JP13348299A patent/JP4402764B2/ja not_active Expired - Fee Related
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007188269A (ja) * | 2006-01-12 | 2007-07-26 | Univ Of Tokyo | 画像上移動物体追跡方法及び装置 |
JP4734568B2 (ja) * | 2006-01-12 | 2011-07-27 | 国立大学法人 東京大学 | 画像上移動物体計測点決定方法及び装置 |
WO2008038606A1 (fr) | 2006-09-25 | 2008-04-03 | Panasonic Corporation | Dispositif de suivi automatique du corps d'un animal |
US8144199B2 (en) | 2006-09-25 | 2012-03-27 | Panasonic Corporation | Moving object automatic tracking apparatus |
JP2015108941A (ja) * | 2013-12-04 | 2015-06-11 | 株式会社デンソー | 車両用の画像認識装置 |
Also Published As
Publication number | Publication date |
---|---|
JP4402764B2 (ja) | 2010-01-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8170277B2 (en) | Automatic tracking apparatus and automatic tracking method | |
US7400344B2 (en) | Object tracking method and object tracking apparatus | |
US9514541B2 (en) | Image processing apparatus and image processing method | |
KR101071352B1 (ko) | 좌표맵을 이용한 팬틸트줌 카메라 기반의 객체 추적 장치 및 방법 | |
KR20180112090A (ko) | 카메라의 포즈를 판단하기 위한 장치 및 방법 | |
JP2008009849A (ja) | 人物追跡装置 | |
US20110249862A1 (en) | Image display device, image display method, and image display program | |
JP2002290962A (ja) | 侵入者自動追尾方法および装置並びに画像処理装置 | |
JP2001076156A (ja) | 画像監視装置 | |
JP2002374521A (ja) | 移動体の監視方法および装置 | |
US20220004748A1 (en) | Video display method, device and system, and video camera | |
JP4578864B2 (ja) | 自動追尾装置及び自動追尾方法 | |
JP2007158649A (ja) | 映像メタデータ補正装置及びプログラム | |
JP5449980B2 (ja) | 動き補正装置およびその方法 | |
JP2017147689A (ja) | 映像編集装置、映像編集方法及び映像編集用コンピュータプログラム | |
JP6954367B2 (ja) | 計測システム、補正処理装置、補正処理方法、及びプログラム | |
JP4343325B2 (ja) | 移動物体検知装置 | |
US20240005517A1 (en) | Apparatus and method for monitoring moving target based on complementary gimbal control through displacement partitioning | |
JP2000322582A (ja) | 移動物体追跡方法 | |
CN109146916B (zh) | 一种运动物体跟踪方法及装置 | |
JPH08237536A (ja) | 被写体追尾装置および被写体追尾方法 | |
JP6602089B2 (ja) | 画像処理装置及びその制御方法 | |
CN112601021A (zh) | 一种网络摄像机监控视频的处理方法及系统 | |
JP3615970B2 (ja) | 移動体の検知方法 | |
CN115546876B (zh) | 一种瞳孔追踪方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060510 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090408 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090421 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090619 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20090619 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20090619 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090721 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090924 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091027 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091030 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121106 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121106 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131106 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |