JPH07249127A - Traveling object detection device - Google Patents

Traveling object detection device

Info

Publication number
JPH07249127A
JPH07249127A JP6076272A JP7627294A JPH07249127A JP H07249127 A JPH07249127 A JP H07249127A JP 6076272 A JP6076272 A JP 6076272A JP 7627294 A JP7627294 A JP 7627294A JP H07249127 A JPH07249127 A JP H07249127A
Authority
JP
Japan
Prior art keywords
optical flow
image
moving
traveling
moving object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP6076272A
Other languages
Japanese (ja)
Other versions
JP3364771B2 (en
Inventor
Yuji Hasegawa
雄二 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP07627294A priority Critical patent/JP3364771B2/en
Publication of JPH07249127A publication Critical patent/JPH07249127A/en
Application granted granted Critical
Publication of JP3364771B2 publication Critical patent/JP3364771B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

PURPOSE:To securely detect an object which travels so that it crosses a traveling direction under a situation that an image input-side travels by detecting the traveling object from the polarity of a speed vector component in the horizontal direction of optical flow with an infinite far point direction as a reference. CONSTITUTION:An image input part 1 continuously image-picks up an area in the traveling direction of a vehicle by a video camera and obtains an animation image. An optical flow operation part 2 samples the respective images in an image element unit, obtains data on density and calculates optical flow showing the distribution state of a speed vector on the image, which follows the spatial density gradent and the timewise density gradent of the moving image. A smoothing processing part 3 spatially smooths the vector of optical flow. An infinite far point direction extraction part 4 obtains the minimum value of the size of the speed vector component in the horizontal direction from optical flow and detects the infinite far point direction. A detection part 5 detects the traveling object from the porality of the speed vector component in the horizontal direction of optical flow with the infinite far point direction as the reference.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【産業上の利用分野】本発明は、動画像のなかに存在す
る移動物体を検出する移動物体検出装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a moving object detecting device for detecting a moving object existing in a moving image.

【0002】[0002]

【従来の技術】従来、動画像のなかから移動物体を検出
する方法として、動画像のフレーム間における濃度の差
分をとり、そのフレーム間を差分した画像のなかから、
予め設定された濃度のしきい値を用いて濃度の変化領域
を抽出して、その抽出領域に対応するものが移動物体で
あるとしてそれを検出するようにしている。
2. Description of the Related Art Conventionally, as a method for detecting a moving object in a moving image, a difference in density between frames of a moving image is calculated, and the difference between the frames is detected.
A density change area is extracted using a preset density threshold value, and the area corresponding to the extracted area is detected as a moving object.

【0003】しかし、このような方法によるのでは、フ
レーム間の濃度の差分によって画像中の移動物体を検出
するためには移動物体を撮像する側が静止状態にある必
要があり、撮像側が移動している状態では背景の動きに
も濃度変化が生じて背景と移動物体との分離ができない
ものとなっている。
However, according to such a method, in order to detect a moving object in an image based on a difference in density between frames, the side capturing the moving object needs to be stationary, and the image capturing side moves. In the state where the background is moving, the density of the background also changes and the background and the moving object cannot be separated.

【0004】また、従来、移動体に搭載されたカメラに
よって外界を撮像することによって得られる動画像か
ら、空間的な濃度勾配と時間的な濃度勾配とを用いて速
度ベクトルの分布状態を示すオプティカルフローを算出
し、その得られたオプティカルフローから画像の三次元
的な動きを認識する方法が提案されている(U.S.P
atent No.4,980,762参照)。
Further, conventionally, from a moving image obtained by imaging the outside world with a camera mounted on a moving body, an optical showing a distribution state of velocity vectors using a spatial concentration gradient and a temporal concentration gradient is used. A method of calculating a flow and recognizing a three-dimensional movement of an image from the obtained optical flow has been proposed (USP).
attend No. 4,980,762).

【0005】しかし、この方法は動画像の入力側である
移動体の移動にともなう画像全体の平行移動または回転
移動を検出するものであり、画像中に存在する移動物体
を検出することができないものとなっている。
However, this method detects a parallel movement or a rotation movement of the entire image due to the movement of the moving body which is the input side of the moving image, and cannot detect a moving object existing in the image. Has become.

【0006】また、従来、動画像のなかから移動物体を
検出する方法として、フレーム画像を小領域に分割し、
各小領域ごとに速度ベクトルを算出して速度ベクトル分
布図を作成し、その分布図からカメラ操作による速度ベ
クトルの分布パターンの成分を除去して、残った速度ベ
クトルの成分に相当するフレーム画像中の小領域を移動
物体領域として抽出するようにしている(特開平4−3
28689号参照)。
Further, conventionally, as a method for detecting a moving object in a moving image, a frame image is divided into small areas,
The velocity vector is calculated for each small area to create a velocity vector distribution map, the components of the velocity vector distribution pattern are removed from the distribution map, and the remaining velocity vector components in the frame image are removed. Is extracted as a moving object area (Japanese Patent Laid-Open No. 4-3).
28689).

【0007】しかし、このような方法によるものでは、
予め速度ベクトル分布のパターンを登録しておく必要が
ある。また、このように各小領域ごとに速度ベクトルを
算出しても、やはりノイズの混入により精度良く移動体
のみを検出するのは困難である。例えば、このような装
置を車両に搭載した場合、ノイズの影響で移動していな
いものまで移動体として検出することがあり、信頼性の
悪いものになる。
However, according to such a method,
It is necessary to register the velocity vector distribution pattern in advance. Further, even if the velocity vector is calculated for each small area in this way, it is still difficult to detect only the moving body with high accuracy due to the inclusion of noise. For example, when such a device is mounted on a vehicle, even a device that is not moving may be detected as a moving body due to the influence of noise, resulting in poor reliability.

【0008】[0008]

【発明が解決しようとする課題】解決しようとする問題
点は、動画像のなかから移動物体を検出する場合、画像
入力側が移動している状況下で、その移動方向とは反対
の方向に移動する物体またはその移動方向に対して横切
るように移動する物体を検出する方法が確実に確立され
ていないことである。
The problem to be solved is that when a moving object is detected in a moving image, it moves in the direction opposite to the moving direction when the image input side is moving. That is, the method of detecting the moving object or the object moving transversely with respect to the moving direction is not surely established.

【0009】[0009]

【課題を解決するための手段】本発明は、画像入力側が
移動している状況下で、特にその移動方向に対して横切
るように移動する物体を検出できるようにするべく、動
画像を入力する手段と、その入力された動画像から画像
上での速度ベクトルの分布状態を示すオプティカルフロ
ーを算出するオプティカルフロー演算手段と、その算出
されたオプティカルフローから水平方向の速度ベクトル
成分の大きさの最小値を求めて無限遠点方向をわり出す
無限遠点方向抽出手段と、そのわり出された無限遠点方
向を基準にして、オプティカルフローの水平方向におけ
る速度ベクトル成分の極性から移動物体を検出する移動
物体検出手段とをとるようにしている。
According to the present invention, a moving image is input so that an object moving transversely to the moving direction can be detected under the condition that the image input side is moving. Means, an optical flow calculating means for calculating an optical flow indicating the distribution state of the velocity vector on the image from the input moving image, and a minimum of the magnitude of the velocity vector component in the horizontal direction from the calculated optical flow. An infinity point direction extracting means for obtaining a value and finding the infinity point direction, and a moving object is detected from the polarity of the velocity vector component in the horizontal direction of the optical flow with reference to the extracted infinity point direction. The moving object detecting means is used.

【0010】[0010]

【実施例】本発明による移動物体検出装置は、図1に示
すように、車両に搭載され、その進行方向の領域をビデ
オカメラにより連続的に撮像して動画像を得る画像入力
部1と、その連続的に撮像される各画像を画素単位でサ
ンプリングして濃度に関するデータを得て、動画像の空
間的な濃度勾配と時間的な濃度勾配とにしたがう、画像
上での速度ベクトルの分布状態を示すオプティカルフロ
ーを算出するオプティカルフロー演算部2と、その算出
されたオプティカルフローのベクトル場を空間的に平滑
化する平滑化処理部3と、その平滑化されたオプティカ
ルフローから水平方向の速度ベクトル成分の大きさの最
小値を求めて無限遠点方向をわり出す無限遠点方向抽出
部4と、そのわり出された無限遠点方向を基準にして、
オプティカルフローの水平方向における速度ベクトル成
分の極性から移動物体を検出する移動物体検出部5とに
よって構成されている。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS As shown in FIG. 1, a moving object detecting apparatus according to the present invention is mounted on a vehicle, and an image input section 1 for continuously obtaining a moving image by continuously picking up an area in the traveling direction by a video camera. Each continuously captured image is sampled on a pixel-by-pixel basis to obtain density-related data, and the distribution state of velocity vectors on the image according to the spatial density gradient and temporal density gradient of the moving image. , An optical flow calculation unit 2 for calculating an optical flow, a smoothing processing unit 3 for spatially smoothing the vector field of the calculated optical flow, and a horizontal velocity vector from the smoothed optical flow. Based on the infinity point direction extraction unit 4 that finds the minimum value of the component size and finds the infinity point direction, and the calculated infinity point direction,
The moving object detection unit 5 detects a moving object from the polarity of the velocity vector component in the horizontal direction of the optical flow.

【0011】オプティカルフロー演算部2におけるオプ
ティカルフローの算出としては、例えば、文献「Art
ifical Inteligence」 Vol.1
7.No.1−3(1981).pp.185〜20
3.Berthold K.P.Horn and B
rian G.Schunck「Determinin
g Optical Flow」に記載されている、従
来の手法がそのまま用いられる。
The calculation of the optical flow in the optical flow calculation unit 2 is performed, for example, in the document “Art.
"optical Intelligence" Vol. 1
7. No. 1-3 (1981). pp. 185-20
3. Berthold K. P. Horn and B
rian G. Schunkk "Determinin
The conventional method described in “g Optical Flow” is used as it is.

【0012】図3はオプティカルフローの一例を示すも
ので、図2に示すように、車両の走行方向の領域を撮像
することによって得られる入力画像中に、その車両の走
行方向に対して横切るように移動する物体Oがあるとき
の動画像における局所的な2次元の速度ベクトルの場と
なっている。図中、Pは車両の進行方向に応した無限遠
点を示している。
FIG. 3 shows an example of the optical flow. As shown in FIG. 2, an input image obtained by imaging a region in the traveling direction of the vehicle is shown to cross the traveling direction of the vehicle. It is a field of a local two-dimensional velocity vector in a moving image when there is an object O moving in the direction. In the figure, P indicates an infinite point corresponding to the traveling direction of the vehicle.

【0013】平滑化処理部3は、例えば、ガウスフィル
タのような空間フィルタによってオプティカルフローの
ベクトル場を平滑化して、そのベクトル場に含まれるノ
イズ成分を減少させる。
The smoothing processing section 3 smoothes the vector field of the optical flow with a spatial filter such as a Gaussian filter to reduce the noise component contained in the vector field.

【0014】そのガウスフィルタf(r)は、中心から
の距離r,標準偏差σにしたがって次式(1)によって
あらわされる。
The Gaussian filter f (r) is represented by the following equation (1) according to the distance r from the center and the standard deviation σ.

【0015】[0015]

【数1】 [Equation 1]

【0016】無限遠点方向抽出部4は、オプティカルフ
ローのベクトル場V(X,Y)において、次式(2)に
よって、垂直(Y)方向の任意の範囲において、水平
(X)方向における速度ベクトルのx成分の二乗和E
(x)を計算し、E(x)が最少になるx=xを求め
て、図4に示すように、無限遠点方向Dをわり出す。
The infinity point direction extraction unit 4 calculates the velocity in the horizontal (X) direction in an arbitrary range in the vertical (Y) direction by the following equation (2) in the vector field V (X, Y) of the optical flow. Sum of squares of x component of vector E
(X) is calculated, x = x C that minimizes E (x) is obtained, and the infinity point direction D is determined as shown in FIG.

【0017】[0017]

【数2】 [Equation 2]

【0018】移動物体検出部5は、次式(3)によって
与えられる搭載車両が走行することによる自己運動によ
って生ずる背景の速度ベクトルVと、次式(4)によ
って与えられる車両の走行方向に対して横切るように移
動する物体Oの速度ベクトルVとのx成分の極性が異
なることを利用して、その移動物体Oを検出する。
The moving object detecting unit 5 detects the background velocity vector V B given by the following equation (3), which is generated by the self-motion of the mounted vehicle traveling, and the traveling direction of the vehicle given by the following equation (4). the polarity of the x component of the velocity vector V O of the object O to be moved across for by using the difference, to detect the moving object O.

【0019】[0019]

【数3】 [Equation 3]

【0020】[0020]

【数4】 [Equation 4]

【0021】その際、例えば、車両走行中の速度ベクト
ルVが、 V<0 x<x または V>0 x>x の条件であれば、あるしきい値ν(ν>0)を基準
に、 x<x かつ V>0 または x>x かつ V<0 の条件をみたす(x,y)を求め、図5に示すように、
移動物体Oの位置を検出する。
At this time, for example, if the velocity vector V B while the vehicle is traveling is a condition of V B <0 x <x C or V B > 0 x> x C , a certain threshold value ν OO > 0) relative to, satisfy the condition of x <x C and V O> 0 or x> x C and V O <0 seek (x, y), as shown in FIG. 5,
The position of the moving object O is detected.

【0022】このように、本発明によれば、車両の走行
方向の領域を撮像することによって得られる図2に示す
入力画像のなかから、車両の走行方向に対して横切るよ
うに移動する物体Oの検出を行うことができるようにな
る。
As described above, according to the present invention, the object O moving transversely to the traveling direction of the vehicle is selected from the input images shown in FIG. 2 obtained by imaging the region in the traveling direction of the vehicle. Will be able to be detected.

【0023】なお、この実施例においては、車両の走行
方向に対して平行に移動する物体を検出することができ
ないが、車両の運転者に対する情報としては車両に接近
してくる移動体の検出が重要であり、この情報により、
例えば、衝突回避を迅速に行うことが可能となる。
In this embodiment, it is not possible to detect an object moving parallel to the traveling direction of the vehicle, but the information for the driver of the vehicle is to detect a moving body approaching the vehicle. It ’s important that this information
For example, it is possible to quickly avoid a collision.

【0024】[0024]

【発明の効果】以上、本発明による移動物体検出装置に
あっては、入力画像から得られたオプティカルフローか
ら水平方向の速度ベクトル成分の大きさの最小値を求め
て無限遠点方向をわり出して、そのわり出された無限遠
点方向を基準にして、オプティカルフローの水平方向に
おける速度ベクトル成分の極性から移動物体を検出する
ようにしたもので、画像入力側が移動している状況下
で、その移動方向に対して横切るように移動する物体を
確実に検出できるという利点を有している。
As described above, in the moving object detecting device according to the present invention, the minimum value of the magnitude of the velocity vector component in the horizontal direction is obtained from the optical flow obtained from the input image, and the infinity point direction is determined. Then, the moving object is detected based on the polarity of the velocity vector component in the horizontal direction of the optical flow with reference to the direction of the infinity point thus extracted, and under the condition that the image input side is moving, It has an advantage that an object that moves so as to cross the moving direction can be reliably detected.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明による移動物体検出装置の一実施例を示
すブロック構成図である。
FIG. 1 is a block diagram showing an embodiment of a moving object detection device according to the present invention.

【図2】入力画像の一例を示す図である。FIG. 2 is a diagram showing an example of an input image.

【図3】入力画像に対応したオプティカルフローを示す
図である。
FIG. 3 is a diagram showing an optical flow corresponding to an input image.

【図4】入力画像における無限遠点方向を示す図であ
る。
FIG. 4 is a diagram showing an infinity point direction in an input image.

【図5】入力画像のなかから検出される移動物体の位置
を示す図である。
FIG. 5 is a diagram showing a position of a moving object detected from an input image.

【符号の説明】[Explanation of symbols]

1 画像入力部 2 オプティカルフロー演算部 3 平滑化処理部 4 無限遠点方向抽出部 5 移動物体検出部 O 移動物体 P 無限遠点 D 無限遠点方向 1 Image Input Section 2 Optical Flow Calculation Section 3 Smoothing Processing Section 4 Infinity Point Direction Extraction Section 5 Moving Object Detection Section O Moving Object P Infinity Point D Infinity Point Direction

Claims (1)

【特許請求の範囲】[Claims] 【請求項1】 動画像を入力する手段と、その入力され
た動画像から画像上での速度ベクトルの分布状態を示す
オプティカルフローを算出するオプティカルフロー演算
手段と、その算出されたオプティカルフローから水平方
向の速度ベクトル成分の大きさの最小値を求めて無限遠
点方向をわり出す無限遠点方向抽出手段と、そのわり出
された無限遠点方向を基準にして、オプティカルフロー
の水平方向における速度ベクトル成分の極性から移動物
体を検出する移動物体検出手段とによって構成された移
動物体検出装置。
1. A means for inputting a moving image, an optical flow calculating means for calculating an optical flow indicating a distribution state of velocity vectors on the image from the inputted moving image, and a horizontal direction from the calculated optical flow. Direction of the optical flow in the horizontal direction based on the infinity point direction extraction means that finds the minimum value of the velocity vector component in the direction and finds the infinity point direction. A moving object detecting device comprising a moving object detecting means for detecting a moving object from the polarities of vector components.
JP07627294A 1994-03-09 1994-03-09 Moving object detection device Expired - Fee Related JP3364771B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP07627294A JP3364771B2 (en) 1994-03-09 1994-03-09 Moving object detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP07627294A JP3364771B2 (en) 1994-03-09 1994-03-09 Moving object detection device

Publications (2)

Publication Number Publication Date
JPH07249127A true JPH07249127A (en) 1995-09-26
JP3364771B2 JP3364771B2 (en) 2003-01-08

Family

ID=13600619

Family Applications (1)

Application Number Title Priority Date Filing Date
JP07627294A Expired - Fee Related JP3364771B2 (en) 1994-03-09 1994-03-09 Moving object detection device

Country Status (1)

Country Link
JP (1) JP3364771B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006072638A (en) * 2004-09-01 2006-03-16 Nissan Motor Co Ltd Apparatus for detecting moving body
US7062071B2 (en) 2001-12-28 2006-06-13 Honda Giken Kogyo Kabushiki Kaisha Apparatus, program and method for detecting both stationary objects and moving objects in an image using optical flow
US7295684B2 (en) 2002-07-22 2007-11-13 Honda Giken Kogyo Kabushiki Kaisha Image-based object detection apparatus and method
JP2009217680A (en) * 2008-03-12 2009-09-24 Omron Corp Transverse object detection device and transverse object detecting method, and program
JP2012198857A (en) * 2011-03-23 2012-10-18 Denso It Laboratory Inc Approaching object detector and approaching object detection method
CN107764271A (en) * 2017-11-15 2018-03-06 华南理工大学 A kind of photopic vision dynamic positioning method and system based on light stream
JP2021531525A (en) * 2018-03-21 2021-11-18 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh Fast detection of secondary objects that can intersect the trajectory of a moving primary object

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103065329B (en) * 2013-01-15 2015-05-06 西北工业大学 Space rope tying robot camera automatic motion detection and compensation method

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7062071B2 (en) 2001-12-28 2006-06-13 Honda Giken Kogyo Kabushiki Kaisha Apparatus, program and method for detecting both stationary objects and moving objects in an image using optical flow
US7295684B2 (en) 2002-07-22 2007-11-13 Honda Giken Kogyo Kabushiki Kaisha Image-based object detection apparatus and method
JP2006072638A (en) * 2004-09-01 2006-03-16 Nissan Motor Co Ltd Apparatus for detecting moving body
JP2009217680A (en) * 2008-03-12 2009-09-24 Omron Corp Transverse object detection device and transverse object detecting method, and program
JP2012198857A (en) * 2011-03-23 2012-10-18 Denso It Laboratory Inc Approaching object detector and approaching object detection method
CN107764271A (en) * 2017-11-15 2018-03-06 华南理工大学 A kind of photopic vision dynamic positioning method and system based on light stream
CN107764271B (en) * 2017-11-15 2023-09-26 华南理工大学 Visible light visual dynamic positioning method and system based on optical flow
JP2021531525A (en) * 2018-03-21 2021-11-18 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh Fast detection of secondary objects that can intersect the trajectory of a moving primary object

Also Published As

Publication number Publication date
JP3364771B2 (en) 2003-01-08

Similar Documents

Publication Publication Date Title
US7062071B2 (en) Apparatus, program and method for detecting both stationary objects and moving objects in an image using optical flow
KR100630088B1 (en) Apparatus and method for supervising vehicle using optical flow
JP4157620B2 (en) Moving object detection apparatus and method
Wang et al. Overtaking vehicle detection using dynamic and quasi-static background modeling
US7295684B2 (en) Image-based object detection apparatus and method
US20060133785A1 (en) Apparatus and method for distinguishing between camera movement and object movement and extracting object in a video surveillance system
JP2006268097A (en) On-vehicle object detecting device, and object detecting method
KR101825687B1 (en) The obstacle detection appratus and method using difference image
KR20170124299A (en) A method and apparatus of assisting parking by creating virtual parking lines
US9098750B2 (en) Gradient estimation apparatus, gradient estimation method, and gradient estimation program
JPH07249127A (en) Traveling object detection device
Dhulavvagol et al. Vehical tracking and speed estimation of moving vehicles for traffic surveillance applications
JP5107154B2 (en) Motion estimation device
JPH06180749A (en) Device for monitoring object on road
McLauchlan et al. Coarse image motion for saccade control
JPH05312819A (en) Speed detecting device for moving object
WO2019085929A1 (en) Image processing method, device for same, and method for safe driving
JP2006322892A (en) Three-dimensional position measuring device and three-dimensional position measuring program
JP2003322522A (en) Inter-vehicle distance detection device and detection method
EP3287948B1 (en) Image processing apparatus, moving body apparatus control system, image processing method, and program
JP2001074415A (en) Method for measuring mobile body using image correlation
JPH07162845A (en) Mobile object detector
JP2006317328A (en) On-vehicle object detection device and object detection method
JP2001209804A (en) Dynamic image processor and dynamic image processing method
JP2004343737A (en) Image correction method, program, and device

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071101

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081101

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081101

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091101

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091101

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101101

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees