JP4444583B2 - 物体検出装置及びプログラム - Google Patents
物体検出装置及びプログラム Download PDFInfo
- Publication number
- JP4444583B2 JP4444583B2 JP2003142808A JP2003142808A JP4444583B2 JP 4444583 B2 JP4444583 B2 JP 4444583B2 JP 2003142808 A JP2003142808 A JP 2003142808A JP 2003142808 A JP2003142808 A JP 2003142808A JP 4444583 B2 JP4444583 B2 JP 4444583B2
- Authority
- JP
- Japan
- Prior art keywords
- template
- moving
- correlation calculation
- sub
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、カメラ等で取得した動画像に対して、抽出した動画像の移動領域を元に、動的に生成したテンプレートを用いたテンプレートマッチングによって、物体の個別識別処理を行なう物体検出装置及びプログラムに関する。特に、カメラ等で取得した動画像に対して、設定した色分布を持つ移動領域の抽出と、移動領域を元に動的に生成したテンプレートを用いたテンプレートマッチングによって、移動/静止物体の追跡処理や、重なりのある物体の個別識別処理を行って、手振り等の動作を検出する物体検出装置及びプログラムに関する。
【0002】
【従来の技術】
従来から、動画列中の移動物体を検出する方法として、局所相関法が知られている。例えば、従来の「局所相関演算による動きの検知と追跡」に関する論文では、監視を目的として、カメラ視野内から移動物体を検出・追跡するために、局所相関法を用いている。同論文では、誤検出を低減するために、木の葉の動きを無視したり、カメラのパン・チルト・ズーム操作時に背景を補償したり、追跡対象の拡縮・隠れへの対応などを実現している。しかしながら,同手法では、基本的に、フレーム間の差分の違いによって移動物体を検出するため、物体が静止した場合は、追跡が一旦停止するという問題がある(非特許文献1参照。)。
【0003】
また、カメラにより撮影された画像を処理することで、動きのある物体を追跡中に、複数の移動物体が交差した場合でも、動きベクトルの相違によって、それぞれを追跡する方法が記載されたものがある(例えば、特許文献1参照。)。しかしながら、一方が静止していたり、複数の静止物体が重なっている場合には、それぞれを分離して検出・追跡することはできない。
【0004】
更に、カラー画像を入力画像とした場合の局所相関法として、RGB(赤成分、緑成分、青成分)画像の相関の総和で物体を追跡する方法が示されたものがある(例えば、特許文献2参照。)。しかし、この物体を追跡する方法では、テンプレートの1点に対応するRGB値は、それぞれ1個ずつしか与えられず、色の広がりを持つ領域(例えば肌色領域)を追跡することはできない。
【0005】
また、予め与えたテンプレートの形状を処理中に動的に変更することで、移動物体の一部が隠れた場合でも、追跡を継続する方法が述べられているものがある(例えば、特許文献3参照。)。しかし、この追跡を継続する方法では、テンプレートの初期形状を予め与える必要があるため、どのような形状で現れるかの予想がつかない物体(人間の手など)の追跡を行なうことができないものであった。
【0006】
【非特許文献1】
森田 俊彦、“局所相関演算による動きの検知と追跡”[online]、2001年2月、電子情報通信学会論文誌、D−11、Vol.J84-D-11、No.2、p.299-309 、[平成15年4月7日検索]、インターネット<URL:http://search.ieice.org/jpn/2001/pdf/j84-d2_2_299.
pdf >
【特許文献1】
特開2002−27480号公報
【特許文献2】
特開平8−167029号公報
【特許文献3】
特開2000−259838号公報
【0007】
【発明が解決しようとする課題】
上記従来の方法では、顔と手の位置関係や、それぞれの相対的な動きによって表現する身振り・ 手振り動作を、検出することは困難であった。例えば、手を挙げると発言の意思があると判定したり、口に人差し指を当てる(「しっ」という身振り)ことでパソコンのスピーカ音量を下げたりできるようにする場合は、移動/静止物体の追跡処理や、重なりのある物体の個別識別処理が必要となるが、上記従来の手法を組み合わせるだけでは、手振り等の動作を認識することはできないものであった。
【0008】
本発明はこのような従来の課題を解決し、カメラ等で取得した動画像に対して、設定した色分布を持つ移動領域の抽出と、移動領域を元に動的に生成したテンプレートを用いたテンプレートマッチングによって、移動/静止物体の追跡処理や、重なりのある物体の個別識別処理を行なうことで、手振り等の物体検出を確実に行うことを目的とする。
【0009】
【課題を解決するための手段】
図1は本発明の原理説明図である。図1において、1aは入力手段、2aは移動検出手段、3aは局所相関演算手段、4aは動的テンプレート生成手段、5aはテンプレート相関演算手段、6aはマージ処理手段である。
【0010】
本発明は、上記従来の課題を解決するため次のような手段を有する。
【0011】
(1):動画像を入力する入力手段1aと、前記動画像の移動領域を検出する移動検出手段2aと、前記検出した移動領域を取り囲むように設定した追跡ブロックの中で相関演算を行い移動領域を検出する局所相関演算手段3aと、前記動画像の予め設定したフレームの間、前記移動領域の速さと方向を検出して前記移動領域のテンプレートを生成する動的テンプレート生成手段4aと、前記生成したテンプレートを用いてマッチング処理を行うテンプレート相関演算手段5aとを備える。このため、移動領域を元に動的に生成したテンプレートを用いたテンプレートマッチングによって、移動/静止物体の追跡処理や、重なりのある物体の個別識別処理を行なうことができ、手振り等の物体検出を確実に行うことができる。
【0012】
(2):前記(1)の物体検出装置において、前記局所相関演算手段3aは、前記追跡ブロックの中での相関演算の際、色ヒストグラムを用いてある特定色を持つ移動領域のみを追跡する。このため、肌色等の色の広がりのある(肌色等の場所により色分布の異なる)領域を確実に追跡することができる。
【0013】
(3):前記(1)又は(2)の物体検出装置において、複数の追跡ブロックを1つに結合するマージ処理手段6aを備え、前記マージ処理手段6aは、2つの追跡ブロックの速さ及び方向の相違が一定値以下の場合、1つのテンプレートとして結合する。このため、例えば、顔の上半分と下半分に追跡ブロックが1個づつ設定される等の同一物体に複数の追跡ブロックが設定されても、単一の追跡ブロックに結合することができる。
【0014】
(4):前記(1)〜(3)のいずれかの物体検出装置において、前記局所相関演算手段3aと前記テンプレート相関演算手段5aで、顔と手の領域を検出し、前記顔と手の位置関係から手の動きを検知して、記録中の映像にマーキング処理を行う。このため、議会などにおいて議員が壇上で発言する際、発言者が手を挙げる等の手振り動作を検出し、撮影中の動画へマーキングを行なうことで、発言終了直後に発言者の動画部分の切り出し処理を行なうことが可能になり、直ちにオンデマンド再生等を実行できる。
【0015】
【発明の実施の形態】
本発明の手振り等の物体検出装置では、下記(a)〜(c)の手法を組み合わせることによって手振り等の動作を認識する。
【0016】
(a)背景差分法
(b)色重み局所相関法
(c)動的テンプレート生成法
§1:手振り動作の認識の説明
まず、(a)〜(c)の手法を組み合わせる利点について述べ、次に手振り動作の認識システム全体の動作概要について説明する。
【0017】
画像処理による手振り認識を実現するには、画像の中から顔と手が占める領域を抽出する必要がある。顔・手領域の抽出方法として、よく用いられている手法として、色抽出法がある。この色抽出法は、例えば、画像のRGB値に対し、肌色を表す範囲の閾値を設け、条件に合致する画素のみを抽出する方法である。この方法は、対象が静止・移動の場合に関係なく領域抽出可能であるが、ユーザの肌色の状態(例えば、日焼けしているなど)、カメラの個体差などに左右される。また、多人数に対応するために閾値条件を広く取ると、肌色以外の領域を抽出することが欠点である。
【0018】
そこで、肌色条件を満たし、かつ、動きのある領域を顔・手領域と考えることにする。今回は、手振り認識を目的としているため、こうした限定は大きな制約にはならない。動きのある領域を抽出する方法の一つに、背景差分法がある。例えば、LMedS 推定を用いた適応的な背景差分法は、背景の明るさが変動する場合でも対応可能であり、昼夜にわたる交通量調査実験への適用例がある。背景差分法では、背景推定によって背景画像を求め、次に、直近に獲得したフレームとの差分を計算することによって、動きのある領域を抽出する。しかし、移動物体が静止状態へ移行すると、対象とする物体が次第に背景に埋もれていくため、物体が、移動→静止→移動のような動作を行うと追跡を継続できない。もし、物体の移動速度が一定であれば、背景推定の時定数を調整することで、ある程度抽出可能であるが、速度が変化する場合には対応できない。
【0019】
他の移動領域の抽出方法として、局所相関法がある。本方法は、まず、画像を格子状のブロック(例えば、8×8画素)に分割する。次に、あるサンプリング時刻のフレームと次のサンプリング時刻のフレームとの間で、近傍にあるブロック同士の相関値求め、その大小によって、ブロックが移動したかどうかを判定する。本処理は、計算量が多いため、画像サイズを大きくできない、相関計算を実施するブロック間の距離が制限され、動きの早い物体に追従できないなどの欠点があるが、背景差分法のように移動速度に依存するパラメータがないという利点がある。しかしながら、局所相関法においても、背景差分法と同様に、物体が静止状態へ移行すると、背景領域との切り分けができなくなるため、追跡動作が中断されるという欠点がある。
【0020】
そこで、本発明では、局所相関法をベースにした動的テンプレート生成法を提案するものである。この手法は、局所相関法で検出した移動ブロックの中から、同一物体の移動ブロックを推定し、物体が静止状態へ移行する際に、複数のブロックの固まりをテンプレートとして登録し、静止状態にある間は、テンプレート全体を用いた相関演算を行うことによって物体の追跡を行う方法である。動的テンプレート法を用いることで、移動/静止物体の追跡に加え、複数の物体に重なりがある場合に、分離して検出することができる。これは、複数の物体のテンプレートを動的に生成しておき、物体が重なったときに、物体の隠れていない部分をテンプレートと照合することで、それぞれの物体の領域を切り分けることができるためである。
【0021】
そこで、本発明では、背景差分法・色重み付き局所相関法・動的テンプレート法を組み合わせて、顔・手領域の抽出処理を実現するものである。まず、カメラで取得した動画列に対し背景差分法を適用して、動きのあるサブ区画を検出する。尚、今回は、背景画像を推定する際、ローパスフィルタを用いた。つまり、時間変化する各画素値に、カットオフ周波数の低いローパスフィルタを適用することで、動きの速い物体を除くことができるため、背景を推定することができる。背景画像と現フレームで取得した画像との差分を計算することで、動きのあるサブ区画のみを検出できる。
【0022】
次に、動きのあるサブ区画を、局所相関法を用いて追跡する。つまり、動きのある区画の中から、一定方向へ一定速度以上で移動する物体を移動物体として扱う。また、逆進したり、速度が遅い場合には、背景として扱う。局所相関法で移動物体と判定したサブ区画に対し、更に色抽出法を適用し、肌色でかつ動きのあるサブ区画のみを抽出する。具体的には、各画素の色を適当な色空間(本発明では、HSV表色系のH成分を使用)で数値化し、色空間を適当な間隔で分割したときの各分割部分における肌領域のヒストグラムを計数する。予め肌色領域のヒストグラム分布を肌色分布として登録しておき、局所相関法によって検出した各サブ区画の色分布との類似度を求めることによって肌色区画かどうかを判定する。
【0023】
物体が静止したり、複数物体が重なっている場合には、動的テンプレート法を使用する。まず、物体の速度が低速になり静止状態へ移行した判定すると、上述の処理で検出した動きのある肌色区画において、同じ方向へ同じ速度で移動している区画同士を結合し、1つのテンプレートとして登録する。このように、テンプレートは、予め定義したものではなく、動的に生成される。一旦、テンプレートが生成されると、通常のテンプレートマッチングと同様に、テンプレート全体を用いた相関演算を行なうことで、物体を追跡する。つまり、前フレームで生成したテンプレートを、現フレーム画像上で上下左右に走査し、最も相関の高い位置を、物体の移動先であると考える。物体の移動量が大きくなり、移動状態になると、再び、局所相関法によって物体を追跡する。
【0024】
以上のような、顔・手領域の抽出処理と追跡処理を繰り返し、それぞれの位置関係や軌跡の意味付けを行なうことで、手振り認識を実現する。
【0025】
§2:手振り動作の認識の具体的な説明
(1):手振り検出装置の説明
図2は手振り検出装置の説明図である。図2において、手振り動作の認識システムである手振り検出装置には、撮像部1、背景差分演算部2、局所相関演算部3、動的テンプレート生成部4、動的テンプレート相関演算部5、マージ処理部6が設けてある。
【0026】
手振り検出装置の動作は、まず、背景差分演算部2により、背景差分法によって、撮像部1からの取得画像の中から動きのある領域を検出する。次に、局所相関演算部3により、色重み付き局所相関法で、前述した背景差分法によって動きがあると判定したサブ区画が、前フレーム画像の、どのサブ区画から移動してきたのかを、肌色との類似度および相関計算によって探し出す。
【0027】
物体が静止したり、複数物体が重なっている場合には、動的テンプレート生成部4による、動的テンプレート法で、処理中にテンプレートを生成したり、テンプレートの形状を変化する。動的テンプレート相関演算部5により、動的テンプレートを用い、物体を追跡する。マージ処理部6により、追跡物体が複数ブロックに分かれた場合、各ブロックを結合して同一物体に対する追跡物体を1つに設定し直す。以下、各処理部の動作を詳細に説明する。
【0028】
(2):撮像部1の説明
撮像部1には、CCDカメラ等のテレビカメラを使用する。画像は、一定のサンプリング時間間隔(例えば、33ms)で取得し、動画像を生成するものである。
【0029】
(3):背景差分演算部2の説明
まず、背景差分演算部2が行う背景差分法によって、撮像部1からの取得画像の中から動きのある領域を検出する。図3は背景差分演算部の処理の流れの説明図である。以下、図3の処理S1〜S5に従って説明する。
【0030】
S1:背景差分演算部2は、まず最初に、カメラ等の撮像部1で撮影した画像(ビットマップ形式)を取り込み、フレーム単位の画像を記憶する領域に格納する。
【0031】
S2:背景差分演算部2は、取得した画像から、例えば、縦方向・横方向の画素値を1個置きに取得し、縮小した画像を得る。画像サイズを縮小することで、以降の計算を高速化できる。
【0032】
S3:背景差分演算部2は、各画素の時系列データをローパスフィルタに通す、この処理を行なうことで、例えば、低いカットオフ周波数を持つローパスフィルタを用いると、動きのない物体の画像、つまり、背景画像を得ることができる。また、カットオフ周波数を上記に比べて高くする(但し、蛍光灯のちらつき周波数より低くする)と、動きのある物体を残したまま、蛍光灯のちらつきの影響を除いた画像を取得できる。そこで、以降の処理では,低いカットオフ周波数を適用したものを背景画像として使用し、高いカットオフ周波数を適用した画像を現サンプリングの画像(現画像)として用いる。ローパスフィルタには、例えば、2次のバターワース型フィルタを使用することができる。もちろん、他のローパスフィルタを用いても良い。
【0033】
S4:背景差分演算部2は、現画像と背景画像を正方形の格子状に区切る。以下の処理では、この正方形をサブ区画と呼ぶことにする。それぞれの両サブ区画内の同位置にある画素間の差の総和Tを,各サブ区画に対して計算する。計算式を次に示す。
【0034】
【数1】
【0035】
尚、IC (x,y) は現画像における画素位置(x,y)の白黒濃淡値、IB (x,y) は背景画像における画素位置(x,y)の白黒濃淡値、Rsub はサブ区画を表わす。
【0036】
S5:背景差分演算部2は、算出した値Tが設定値以上のときは、背景画像と異なる物体が存在していることを示しており、動きがあると判定する。サブ区画同士の比較を、画像の全領域において実施することで、動きのある領域を検出することができる。
【0037】
(4):局所相関演算部3の説明
局所相関演算部3が行う色重み付き局所相関法では、前述した背景差分法によって動きがあると判定したサブ区画が、前フレーム画像の、どのサブ区画から移動してきたのかを、肌色との類似度および相関計算によって探し出す。詳細な説明の前に、サブ区画、同一物体のサブ区画の集まりであるサブ区画テンプレート、追跡ブロックについて説明する。
【0038】
図4は追跡ブロック、サブ区画、サブ区画テンプレートの関係の説明図である。図4において、サブ区画Sは、縦n(例えば、4)画素、横n画素の正方形から成る。サブ区画テンプレートSTは、サブ区画の集まりであり、肌色物体等の領域を示している。追跡ブロックTBは、サブ区画テンプレートSTを取り囲むように設定(追跡ブロックの境界線がm(例えば、20〜30)画素外側になるように配置)する領域であり、局所相関法による探索を追跡ブロックで囲まれた領域の中で実行する。なお、図4の単位は画素であり、取得画像の縦は120画素、横は160画素である。
【0039】
図5は局所相関演算部の処理の流れの説明図である。以下、図5の処理S11〜S18に従って、色重み付き局所相関法によって、肌色かつ動きのあるサブ区画を検出するときの処理の流れを説明する。
【0040】
S11:局所相関演算部3は、色重み付き局所相関法で、背景差分法で検出した移動サブ区画のみを対象とする。
【0041】
S12:局所相関演算部3は、次に、現フレーム画像の注目しているサブ区画Sp (x,y) が、前フレーム画像のどのサブ区画Sq (x',y') から移動してきたのかを、相関演算を用いて探索する。サブ区画Sp とSq との相関値Cは、次式によって算出する.
【0042】
【数2】
【0043】
上式において、Ip (x,y) 、Iq (x',y') は各サブ区画の画素の白黒濃淡値、Rp 、Rq はサブ区画領域内であることを表している。ξp は注目しているサブ区画pの色が、どの程度、肌色と類似しているかを示す色重み係数である。色重み係数ξp は、0から1までの値を取り、色ヒストグラム法を用いて算出する。通常、画素の色を表わすときは、R(赤)、G(緑)、B(青)を用いるが、今回は、撮影場所の照明の影響をできるだけ排除するため、HSV表色系のH成分を用いて色を数値化した。
【0044】
図6はHSV表色系の説明図であり、図6(a)は明度と色空間の説明、図6(b)はH成分の説明である。図6(a)において、HSV表色系では、6角錐によって色空間を表現し、上方向は明度となる。図6(b)において、H(Hue )成分は、Red(赤)からの角度であり、色合いの種別を表現する。
【0045】
図7は色ヒストグラム法を用いる色重み係数の算出手順の説明図である。以下、図7の手順(i) 〜(l) に従って局所相関演算部が行う色重み係数の算出手順を説明する。
【0046】
(i) :肌色ヒストグラムを予め算出しておき、対象とするサブ区画との肌色の類似度によって重み係数を算出する。そこで、肌色ヒストグラムを求めるため、顔や手が映っている画像を取得し、肌色領域を手動で切出す(図8参照)。
【0047】
図8は色ヒストグラム算出方法の説明図であり、図8(a)は肌色領域の指定の説明、図8(b)は肌色ヒストグラムの説明である。図8(a)において、顔の肌色領域を手動で指定する。
【0048】
(j) :切出した領域の各画素のH成分を算出し、ヒストグラムを作成する。更に、切出した領域の全画素数で、求めた色ヒストグラム値を除算し、正規化ヒストグラムを求める。求めた正規化ヒストグラムを肌色ヒストグラムHd として登録する。図8(b)において、図8(a)で指定した領域の肌色ヒストグラムを作成する。
【0049】
(k) :次に、移動サブ区画Sp に対して、(j) と同様の手順を用いて正規化ヒストグラムHp を作成する。
【0050】
(l) :肌色ヒストグラムHd とサブ区画ヒストグラムHp との重なり部分の面積が、色重み係数ξp に相当する(図9の斜線部の面積に相当)。
【0051】
【数3】
【0052】
図9は色重み係数の算出の説明図である。図9において、肌色ヒストグラムHd とサブ区画ヒストグラムHp が重なった斜線部の面積に相当するものが色重み係数ξp となる。
【0053】
S13:局所相関演算部3は、ゼロ比較法によって、前記S12で求めた候補が、移動サブ区画か否かを判定する。ゼロ比較法では、まず、注目しているサブ区画と同位置にある前フレームのサブ区画との相関値C0と、走査範囲内の全サブ区画との相関計算から求めた相関値の最小値C1、との差Qを求める。
【0054】
Q=C0−C1
次に、移動を判定するための設定値Mと比較し、
Q>M
であれば、注目しているサブ区画Sp (x,y) が、移動サブ区画であると判定する。
【0055】
S14:局所相関演算部3は、移動サブ区画と判定された区画を有効領域として設定する。
【0056】
S15:局所相関演算部3は、前フレームの移動元のサブ区画と注目している現フレームのサブ区画の位置関係から、移動の速さ及び方向を算出する。算出した速さと方向を隣接している上下左右のサブ区画と比較する。このとき、速さ及び方向の相違が一定値以下であるかどうかを調べる(即ち、一定値以下であれば速さ及び方向が一致する)。
【0057】
S16:局所相関演算部3は、一定値以下のときは、同一速度で進んでいると判断し、隣接サブ区画と結合し、1つの追跡ブロックを割り当てる。
【0058】
S17:局所相関演算部3は、一定値以上の時は、それぞれのサブ区画は異なる物体の領域であると判断し、注目しているサブ区画が中心位置になるような新規の追跡ブロックを作成する。
【0059】
S18:局所相関演算部3は、隣接サブ区画同士の集合(以下、サブ区画テンプレート)に対し、追跡ブロックを1個定義する。追跡ブロックの範囲は、サブ区画テンプレートの上下左右端から一定の大きさ(m画素、例えば20〜30画素)になるように設定する。追跡ブロックの中心位置は、サブ区画テンプレートSTの中心位置に一致するように求める。次に、追跡ブロックTBの速さvt と移動方向(dtx,dty)を、前フレームと現フレームの中心位置の位置関係から算出する。前フレームの追跡ブロックの速さとの差を求め、差が閾値以下(急に停止する)の場合、あるいは、前フレームの移動方向ベクトルとの内積が一定値以下(移動方向が急に変わる;なお、移動方向ベクトルの内積は方向が一致すれば「1」となり一致しなければ「1」以下となる)のときは、追跡ブロックとサブ区画を追跡対象から外す。追跡ブロックが、連続したfokフレームの間、追跡対象となった場合、追跡ブロックを確定状態へ移行する。なお、確定した追跡ブロックを、追跡対象から除外する方法については、後述する。
【0060】
以上のような手順を踏むことによって、取得した画像の中から、動きがあり、かつ、肌色条件を満たす領域を抽出することができる。
【0061】
(5):動的テンプレート生成部4と動的テンプレート相関演算部5の説明
通常のテンプレートマッチングでは、予め用意したテンプレートの形状は動作中に変化しない。つまり、静的であるのに対し、動的テンプレート法では、処理中にテンプレートを生成したり、形状が変化する。この発明では、前述したサブ区画テンプレート(隣接サブ区画同士の集合)を動的テンプレートとして用い、物体を追跡する。
【0062】
図10は動的テンプレート法の処理の流れの説明図である。以下、図10の処理S21〜S29に従って、動的テンプレート法を用いて物体を追跡するときの処理の流れを説明する。
【0063】
S21:動的テンプレート生成部4は、追跡ブロックが、予め設定したfokフレームの間、設定速さで、かつ、一定方向へ移動しているかどうかをチェックし、処理S22に移る。この条件を満たさないときは、追跡対象から除外する。
【0064】
S22:動的テンプレート生成部4は、処理S21の条件を満たした追跡ブロックにリンクされているサブ区画の集合を、サブ区画テンプレートとして確定し、処理S23に移る。以降の処理は、サブ区画テンプレートを動的テンプレートとして使用するテンプレートマッチングによって、対象物体を追尾する。
【0065】
S23:動的テンプレート相関演算部5は、次サンプリングにおいて、新たなフレーム画像を取得したときは、サブ区画テンプレートを用いてマッチングを行ない、処理S24に移る。すなわち、テンプレートマッチングにより、現フレーム画像と前フレーム画像との間で対応する領域を見つけ出す。マッチング処理は、前フレームで確定したサブ区画テンプレートを、現フレームの適当な画素位置に設定し、両フレーム間で対応するサブ区画同士の相関値Ctempを求め、その総和を類似度とする。
【0066】
【数4】
【0067】
上式において、Ip (x,y) 、Iq (x',y') は各サブ区画内の画素の白黒濃淡値、Rptemp 、Rqtemp はテンプレート領域内であることを示している。この式を用いて、サブ区画テンプレートを現フレームの追跡ブロック内で走査し、最も類似度の高い位置を見つけ出すようにする。
【0068】
S24:動的テンプレート相関演算部5は、処理S23で検出した最も高い類似度を与える追跡ブロックの類似度と位置を用いて、追跡ブロックが移動しているか静止しているかを、次の▲1▼〜▲3▼の条件を調べることによって判定し、移動している場合は処理S25に移り、静止している場合は処理S27に移る。
【0069】
▲1▼ゼロ比較法による移動判定
▲2▼前フレームで求めた追跡ブロックの速さ・方向が、現フレームで検出した追跡ブロックと一致するかを判定
▲3▼サブ区画テンプレートを構成するサブ区画数が設定した個数以上あるかどうかを判定。なお、設定個数以下のときは、追跡対象から除外する。
【0070】
S25:動的テンプレート相関演算部5は、処理S24の▲1▼から▲3▼を全て満たすと、移動ブロックと判定する。移動と判定すると、追跡ブロックの状態をMOVEモード(移動)に設定し、処理S26に移る。
【0071】
S26:動的テンプレート相関演算部5は、注目しているサブ区画テンプレートが、他のサブ区画テンプレートと重なる場合は、テンプレートを構成するサブ区画毎に相関値の大小を比較し、置換するか否か(どちらのテンプレートにするか)を判定し、処理S29に移る。
【0072】
S27:動的テンプレート相関演算部5は、処理S24の▲1▼と▲2▼を満たさなければ、静止ブロックと判定する。動きなしと判定した場合には、STILLモード(静止)に設定し、処理S28に移る。
【0073】
S28:動的テンプレート相関演算部5は、テンプレートを構成するサブ区画が肌色区画であるかどうかを再度調査し、処理S29に移る。なお、肌色でない場合はサブ区画テンプレートから外す。
【0074】
S29:動的テンプレート相関演算部5は、テンプレートの形状が変化した場合、変形後のサブ区画テンプレート形状に応じて追跡ブロックを設定する。追跡ブロックが、MOVEモードのときは次のサンプリング時に、色重み付き局所相関法を実行する。STILLモードのときは、処理S23に戻る。
【0075】
以上のように、テンプレート形状は、対象の形状変化に応じて動的に変更されるため、例えば、手の姿勢が変化し、カメラからの見え方が変わった場合でも、追跡を継続することが可能である。また、テンプレートを用いて対象物の移動先を探索するため、対象が静止したり、対象物体に重なりが有る場合にも、追跡可能である。
【0076】
(6):マージ処理部6の説明
取得した画像の映り具合によっては、同一物体であるにも関わらず、追跡ブロックが複数設定される場合が有る(例えば、顔の上半分と下半分に追跡ブロックが1個ずつ設定されるなど)。追跡ブロックが複数に分かれた場合、各ブロックを結合して同一物体に対する追跡ブロックを1つに設定し直す必要がある。
【0077】
図11はマージ処理の流れの説明図である。以下、図11の処理S31、S32に従って、複数のブロックを1つにマージするときの処理の流れを説明する。
【0078】
S31:マージ処理部6は、2つの追跡ブロックを選択し、次の▲1▼、▲2▼のマージ条件をチェックし、処理S32に移る。
【0079】
▲1▼両ブロックの速さの差が、設定値vm 以内、かつ、速度ベクトルの内積がpm 以上(移動方向が同じ)である
▲2▼接しているサブ区画の個数が、Nm 個(例えば、2個)以上である
S32:マージ処理部6は、処理S31の条件を満たしているときは、両者をマージする。このマージ処理では、両ブロックのサブ区画の集合を1つのサブ区画テンプレートとして扱い、サブ区画テンプレートの上下左右端からmピクセル外側に追跡ブロックの境界を設定する。
【0080】
上記処理を繰り返し実行することによって、同一物体に複数の追跡ブロックが設定されているときは、単一の追跡ブロックに設定することが可能となる。
【0081】
(7):動画マーキングの説明
開発した手振り認識システム(手振り検出装置)の応用として、動画へのマーキングを行う処理が考えられる。通常、撮影した動画から必要な箇所を抜き出すには、撮影が終了した後に、例えば、ノンリニア編集処理などによって、人手で、切り出し範囲を指定する等の作業が必要である。従って、撮影中に切り出し箇所をオンラインで指定することができれば、編集にかかる手間とコストを大幅に削減することができる。
【0082】
以下では、動画議事録システムへ手振り認識システムを適用することを考える。動画議事録システムは、議会などにおいて議員が壇上で発言する際、発言を始めた時から終了するまでの映像を動画ファイルへ格納し、後日、インターネット上でオンデマンド再生するシステムである。この発明では、発言者が手を挙げる手振り動作を検出し、撮影中の動画へマーキングを行なうことで、撮影後の編集作業を省略できるようにする。これにより、発言終了直後に切り出し処理を行なうことが可能になり、直ちにオンデマンド再生を実行できる。
【0083】
図12は動画議事録システムの説明図である。動画議事録システム(装置)には、手振り認識用カメラ11、手振り認識装置(PC:パーソナルコンピュータ)12、動画記録用カメラ13、エンコード装置(PC)14、Webサーバ15、メディアサーバ16、クライアントPC17が設けてある。
【0084】
この動画議事録システムでは、発言者の挙手動作は、手振り認識用カメラ11で取得した映像を元に、手振り認識処理を搭載したPC(手振り認識装置12)により検出する。検出した挙手タイミングは、エンコード装置(エンコードPC)14へ通知され、動画記録用カメラ13で撮影した動画へのマーキングを行なう。エンコード装置14は、発言開始と発言終了のマーキングが揃うと、マーキングしたフレーム情報(例えば、録画開始からのフレームのカウント番号)を元に、必要部分を動画ファイルとして切り出し、メディアサーバ16へアップロードする。更に、エンコード装置14では、切り出した動画ファイル名、発言者名(なお、動画ファイル名、発言者名は人が書き込むこともできる)、表示レイアウト(例えば、発言者を中央にする)などの属性を生成し、Webサーバ15へ登録し、HTML(HyperText Markup Language )ファイルを自動的に生成する。クライアントPC17は、ユーザからのリクエストがあると、メディアサーバ16から動画議事録を再生する。なお、図12では手振り認識用カメラ11と動画記録用カメラ13の2つのカメラを用いる説明をしたが、手振り認識用カメラ11のみを用い(図12の点線)、手振り認識用カメラ11からの動画をエンコード装置14に入力して記録するようにすることもできる。
【0085】
図13は動画議事録システムの処理の流れの説明図である。以下、図13の処理S41〜S47に従って、動画議事録システム(装置)の処理を説明する。
【0086】
動画記録用カメラ13で撮影が開始しエンコード装置14に録画が開始し、発言者が登壇(S41)すると、手振り認識用カメラ11からの画像から手振り認識装置12で発言者が挙手(S42)をした瞬間を検出(S43)し、動画へのマーキングを行う。切り出しの開始と終了は、例えば、1回目の挙手は、切り出し開始、2回目の挙手は、切り出し終了のように定義しておく。エンコード装置14は、発言者の発言が終了(S44)すると、該当箇所の動画を、録画中の動画から切り出し(S45)、議事録を作成し(S46)する。更に、エンコード装置14は、切り出した動画をサーバへアップロードして、オンデマンド配信を開始する(S47)。
【0087】
図14は挙手検出手順の説明図である。以下、図14の挙手動作(a) 〜 (e)に従って、手振り認識装置14による手振り認識処理によって、発言者の挙手を検出する手順を説明する。
【0088】
(a):まず、手振り認識装置14は、手振り認識用カメラ11の視野内に人物がいない状態で、手振り認識を開始する。
【0089】
(b):手振り認識装置14は、手振り認識用カメラ11のカメラ視野内に発言者が入ってくると、肌色でかつ動きのある領域を追跡するという条件によって、顔領域の追跡を開始する。
【0090】
(c):手振り認識装置14は、顔領域に設定した追跡ブロックが図10の条件を満たすと、サブ区画テンプレートと追跡ブロックを確定する。確定した追跡ブロックによって、発言者の顔が静止している間も、顔領域の追跡が行なわれる。
【0091】
(d):手振り認識装置14は、発言者が手を挙げると、肌色でかつ動きのある領域を追跡するという条件によって、手領域の追跡を開始する。
【0092】
(e):手振り認識装置14は、手領域に設定した追跡ブロックが図10の条件を満たすと、サブ区画テンプレートと追跡ブロックを確定する。追跡ブロックの確定状態が3フレーム以上継続すると、挙手動作があったと判定し、手振り認識装置14からエンコード14への挙手信号が送出される。
【0093】
上述のように、挙手を検知する前に、まず、被験者の顔領域を追跡し、次に、顔領域の側方にある肌色領域(及び上下方向の移動)を手領域と見做して挙手と判定する。
【0094】
このように、この発明は、カメラで取得した動画像に対して、設定した色分布を持つ移動領域の抽出と、移動領域を元に動的に生成したテンプレートを用いたテンプレートマッチングによって、移動/静止物体の追跡処理や、重なりのある物体の個別識別処理を行なう手振り検出装置を実現できる。また、顔と手の位置関係や軌跡によって、動画へマーキングすることが可能となり、撮影中の動画から、必要な部分を切り出して、直ちに配信することができる。
【0095】
なお、上記実施の形態では、カメラからの動画像の手振り等の物体を検出したが、録画した再生画像から手振り等の物体を検出することもできる。
【0096】
(8):プログラムインストールの説明
入力手段1a、背景差分演算部2、移動検出手段2a、局所相関演算部3、局所相関演算手段3a、動的テンプレート生成部4、動的テンプレート生成手段4a、動的テンプレート相関演算部5、テンプレート相関演算手段5a、マージ処理部6、6aはマージ処理手段等はプログラムで構成でき、主制御部(CPU)が実行するものであり、主記憶に格納されているものである。このプログラムは、コンピュータで処理されるものである。このコンピュータは、主制御部、主記憶、ファイル装置、表示装置や印刷装置等の出力装置、入力装置などのハードウェアで構成されている。
【0097】
このコンピュータに、本発明のプログラムをインストールする。このインストールは、フロッピィ、光磁気ディスク等の可搬型の記録(記憶)媒体に、これらのプログラムを記憶させておき、コンピュータが備えている記録媒体に対して、アクセスするためのドライブ装置を介して、或いは、LAN等のネットワークを介して、コンピュータに設けられたファイル装置にインストールされる。
【0098】
【発明の効果】
以上説明したように、本発明によれば次のような効果がある。
【0099】
(1):移動検出手段で入力手段から入力された動画像の移動領域を検出し、局所相関演算手段で前記検出した移動領域を取り囲むように設定した追跡ブロックの中で相関演算を行い移動領域を検出し、動的テンプレート生成手段で前記動画像の予め設定したフレームの間、前記移動領域の速さと方向を検出して前記移動領域のテンプレートを生成し、テンプレート相関演算手段で前記生成したテンプレートを用いてマッチング処理を行うため、移動領域を元に動的に生成したテンプレートを用いたテンプレートマッチングによって、移動/静止物体の追跡処理や、重なりのある物体の個別識別処理を行なうことができ、手振り等の物体検出を確実に行うことができる。
【0100】
(2):局所相関演算手段で追跡ブロックの中での相関演算の際、色ヒストグラムを用いてある特定色を持つ移動領域のみを追跡するため、肌色等の色の広がりのある領域を確実に追跡することができる。
【0101】
(3):マージ処理手段で、2つの追跡ブロックの速さ及び方向の相違が一定値以下の場合、1つのテンプレートとして結合するため、例えば、顔の上半分と下半分に追跡ブロックが1個づつ設定される等の同一物体に複数の追跡ブロックが設定されても、単一の追跡ブロックに設定することができる。
【0102】
(4):局所相関演算手段とテンプレート相関演算手段で、顔と手の領域を検出し、前記顔と手の位置関係から手の動きを検知して、記録中の映像にマーキング処理を行うため、議会などにおいて議員が壇上で発言する際、発言者が手を挙げる等の手振り動作を検出し、撮影中の動画へマーキングを行なうことで、発言終了直後に発言者の動画部分の切り出し処理を行なうことが可能になり、直ちにオンデマンド再生等を実行できる。
【0103】
(5):動画像を入力する入力手段と、前記動画像の移動領域を検出する移動検出手段と、前記検出した移動領域を取り囲むように設定した追跡ブロックの中で相関演算を行い移動領域を検出する局所相関演算手段と、前記動画像の予め設定したフレームの間、前記移動領域の速さと方向を検出して前記移動領域のテンプレートを生成する動的テンプレート生成手段と、前記生成したテンプレートを用いてマッチング処理を行うテンプレート相関演算手段として、コンピュータを機能させるためのプログラム又はプログラムを記録したコンピュータ読取可能な記録媒体とするため、このプログラムをコンピュータにインストールすることで、手振り等の物体検出を確実に行うことができる物体検出装置を容易に提供することができる。
【図面の簡単な説明】
【図1】本発明の原理説明図である。
【図2】実施の形態における手振り検出装置の説明図である。
【図3】実施の形態における背景差分演算部の処理の流れの説明図である。
【図4】実施の形態における追跡ブロック、サブ区画、サブ区画テンプレートの関係の説明図である。
【図5】実施の形態における局所相関演算部の処理の流れの説明図である。
【図6】実施の形態におけるHSV表色系の説明図である。
【図7】実施の形態における色ヒストグラム法を用いる色重み係数の算出手順の説明図である。
【図8】実施の形態における色ヒストグラム算出方法の説明図である。
【図9】実施の形態における色重み係数の算出の説明図である。
【図10】実施の形態における動的テンプレート法の処理の流れの説明図である。
【図11】実施の形態におけるマージ処理の流れの説明図である。
【図12】実施の形態における動画議事録システムの説明図である。
【図13】実施の形態における動画議事録システムの処理の流れの説明図である。
【図14】実施の形態における挙手検出手順の説明図である。
【符号の説明】
1a 入力手段
2a 移動検出手段
3a 局所相関演算手段
4a 動的テンプレート生成手段
5a テンプレート相関演算手段
6a マージ処理手段
Claims (5)
- 動画像を入力する入力手段と、
前記動画像のフレーム間の差分の違いによって移動領域を検出する移動検出手段と、
前記検出した移動領域を取り囲むように設定した追跡ブロックの中で相関演算を行い移動領域を検出する局所相関演算手段と、
前記動画像の予め設定したフレームの間、前記局所相関演算手段で検出した移動領域が予め設定された速さと方向であることを検出して前記移動領域のテンプレートを生成する動的テンプレート生成手段と、
前記生成したテンプレートを用いてマッチング処理を行うテンプレート相関演算手段とを備えることを特徴とした物体検出装置。 - 前記局所相関演算手段は、前記追跡ブロックの中での相関演算の際、色ヒストグラムを用いてある特定色を持つ移動領域のみを追跡することを特徴とした請求項1記載の物体検出装置。
- 複数の追跡ブロックを1つに結合するマージ処理手段を備え、
前記マージ処理手段は、2つの追跡ブロックの速さ及び方向の相違が一定値以下の場合、1つのテンプレートとして結合することを特徴とした請求項1又は2記載の物体検出装置。 - 前記局所相関演算手段と前記テンプレート相関演算手段で、顔と手の領域を検出し、前記顔と手の位置関係から手の動きを検知して、記録中の映像にマーキング処理を行うことを特徴とした請求項1〜3のいずれかに記載の物体検出装置。
- 動画像を入力する入力手段と、
前記動画像のフレーム間の差分の違いによって移動領域を検出する移動検出手段と、
前記検出した移動領域を取り囲むように設定した追跡ブロックの中で相関演算を行い移動領域を検出する局所相関演算手段と、
前記動画像の予め設定したフレームの間、前記局所相関演算手段で検出した移動領域が予め設定された速さと方向であることを検出して前記移動領域のテンプレートを生成する動的テンプレート生成手段と、
前記生成したテンプレートを用いてマッチング処理を行うテンプレート相関演算手段として、コンピュータを機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003142808A JP4444583B2 (ja) | 2003-05-21 | 2003-05-21 | 物体検出装置及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003142808A JP4444583B2 (ja) | 2003-05-21 | 2003-05-21 | 物体検出装置及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004348303A JP2004348303A (ja) | 2004-12-09 |
JP4444583B2 true JP4444583B2 (ja) | 2010-03-31 |
Family
ID=33530767
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003142808A Expired - Fee Related JP4444583B2 (ja) | 2003-05-21 | 2003-05-21 | 物体検出装置及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4444583B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109410243A (zh) * | 2018-10-16 | 2019-03-01 | 中电科新型智慧城市研究院有限公司 | 基于区域交叠与模板匹配的多目标跟踪方法 |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007018340A (ja) * | 2005-07-08 | 2007-01-25 | Victor Co Of Japan Ltd | 障害物検出装置 |
JP2007034735A (ja) * | 2005-07-27 | 2007-02-08 | Open Firm:Kk | バイオメトリクス認証サーバ、事業提供者端末、プログラム、バイオメトリクス認証サービス提供方法 |
JP4304528B2 (ja) | 2005-12-01 | 2009-07-29 | ソニー株式会社 | 画像処理装置および画像処理方法 |
JP4717701B2 (ja) * | 2006-04-24 | 2011-07-06 | キヤノン株式会社 | 撮像システム、撮影方向制御方法、及びプログラム |
SG150527A1 (en) * | 2006-07-11 | 2009-03-30 | Agency Science Tech & Res | Method and system for multi-object tracking |
JP4607836B2 (ja) * | 2006-09-15 | 2011-01-05 | 富士通株式会社 | 画像領域へのメタデータ自動付与装置,メタデータ自動付与方法およびメタデータ自動付与プログラム |
JP4752918B2 (ja) * | 2009-01-16 | 2011-08-17 | カシオ計算機株式会社 | 画像処理装置、画像照合方法、および、プログラム |
JP2010267029A (ja) * | 2009-05-13 | 2010-11-25 | Nippon Hoso Kyokai <Nhk> | 特定動作検出装置 |
CN103946863A (zh) | 2011-11-01 | 2014-07-23 | 英特尔公司 | 基于动态姿态的短距离人机交互 |
JP6229554B2 (ja) | 2014-03-07 | 2017-11-15 | 富士通株式会社 | 検出装置および検出方法 |
JP2016038504A (ja) * | 2014-08-08 | 2016-03-22 | シャープ株式会社 | 携帯端末装置、およびその制御方法 |
CN111565300B (zh) * | 2020-05-22 | 2020-12-22 | 深圳市百川安防科技有限公司 | 基于对象的视频文件处理方法、设备及系统 |
CN115063741B (zh) * | 2022-06-10 | 2023-08-18 | 嘉洋智慧安全科技(北京)股份有限公司 | 目标检测方法、装置、设备、介质及产品 |
-
2003
- 2003-05-21 JP JP2003142808A patent/JP4444583B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109410243A (zh) * | 2018-10-16 | 2019-03-01 | 中电科新型智慧城市研究院有限公司 | 基于区域交叠与模板匹配的多目标跟踪方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2004348303A (ja) | 2004-12-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7003135B2 (en) | System and method for rapidly tracking multiple faces | |
JP4444583B2 (ja) | 物体検出装置及びプログラム | |
JP6561830B2 (ja) | 情報処理システム、情報処理方法及びプログラム | |
JP5247356B2 (ja) | 情報処理装置およびその制御方法 | |
JP6184271B2 (ja) | 撮像管理装置、撮像管理システムの制御方法およびプログラム | |
JP4085959B2 (ja) | 物体検出装置、物体検出方法、および記録媒体 | |
JP2009539273A (ja) | ビデオクリップからのキーフレーム候補の抽出 | |
JP5959923B2 (ja) | 検出装置、その制御方法、および制御プログラム、並びに撮像装置および表示装置 | |
KR101552600B1 (ko) | 영상분할을 이용한 복수의 보행자 객체를 동시에 추적하는 방법 | |
JP4373840B2 (ja) | 動物体追跡方法、動物体追跡プログラムおよびその記録媒体、ならびに、動物体追跡装置 | |
KR20090037275A (ko) | 인체 부분 검출 장치 및 그 방법 | |
JP2010009425A (ja) | 画像処理装置、画像処理方法、及びコンピュータプログラム | |
WO2016031573A1 (ja) | 画像処理装置、画像処理方法、プログラムおよび記録媒体 | |
KR20110074107A (ko) | 카메라를 이용한 오브젝트 검출 방법 | |
JP2010057105A (ja) | オブジェクトの3次元追跡方法およびシステム | |
JP2007052609A (ja) | 手領域検出装置及び手領域検出方法、並びにプログラム | |
JP2010244207A (ja) | 移動物体追跡装置、移動物体追跡方法および移動物体追跡プログラム | |
JP4913801B2 (ja) | 遮蔽物映像識別装置及び方法 | |
JP2007233544A (ja) | 対象物位置追跡方法、装置、およびプログラム | |
JP4702015B2 (ja) | 画像表示装置及びプログラム | |
JP3607440B2 (ja) | ジェスチャー認識方法 | |
JP2004140693A (ja) | 画像処理装置 | |
JP6540445B2 (ja) | 同一判定プログラム、同一判定装置、および同一判定方法 | |
CN117561540A (zh) | 使用帧序列执行计算机视觉任务的系统和方法 | |
JP4909315B2 (ja) | 映像処理装置及び方法及びプログラム及びコンピュータ読取可能な記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060510 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090710 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090728 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20090928 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20090928 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091027 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091210 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100112 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100114 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130122 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130122 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140122 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |