JPS62145991A - 画像の位置ずれ補正装置 - Google Patents

画像の位置ずれ補正装置

Info

Publication number
JPS62145991A
JPS62145991A JP60285821A JP28582185A JPS62145991A JP S62145991 A JPS62145991 A JP S62145991A JP 60285821 A JP60285821 A JP 60285821A JP 28582185 A JP28582185 A JP 28582185A JP S62145991 A JPS62145991 A JP S62145991A
Authority
JP
Japan
Prior art keywords
image
picture
corrected
positional deviation
correlation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP60285821A
Other languages
English (en)
Other versions
JP2528826B2 (ja
Inventor
Shigeto Ikeda
茂人 池田
Junpei Tsujiuchi
辻内 順平
Toshio Honda
本田 捷夫
Nagaaki Ooyama
永昭 大山
Takashi Kanai
隆 金井
Osamu Kaneko
収 金子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ikegami Tsushinki Co Ltd
Original Assignee
Ikegami Tsushinki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ikegami Tsushinki Co Ltd filed Critical Ikegami Tsushinki Co Ltd
Priority to JP60285821A priority Critical patent/JP2528826B2/ja
Publication of JPS62145991A publication Critical patent/JPS62145991A/ja
Application granted granted Critical
Publication of JP2528826B2 publication Critical patent/JP2528826B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Color Television Image Signal Generators (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 (産業上の利用分野) 本発明は、多色に分光して撮影した画像に生ずる各色相
圧の画像の位置ずれの補正等に使用する画像の位置ずれ
補正装置に関するものである。
(従来の技術) 従来、一般の多色分解した画像で像の色相圧のずれを補
正する場合、位置合わせ用の特別な図を撮影してその図
上のマークを利用して補正を行う方式が一般的であった
また、一部のテレビカメラで行われている一般画像での
位置ずれ補正は色の差信号をとり、その誤差が最小にな
る様にする方法で画面中央での補正しか行われず、また
差をとるために異なる色の画像を交互に表示するなどの
手法がとられていた。
上述したように一部の特殊分野において画像間の位置ず
れ補正が行われていたが、一般的な画像特に面順次方式
やインターレース方式における欠点を解消する方式は存
在しないのが現状であった。
(発明が解決しようとする問題点) すなわち、面順次方式カラーカメラ等の順次方式撮像方
法においては、各色(赤、緑、青)の撮像に時間差があ
るので被写体が静止画の場合は問題ないが、被写体又は
カメラが動いている場合は各色画像間に位置ずれ(色ず
れ)を生じ、各色を重ね合わせたカラー画像として見る
と位置ずれが小さい場合は色のにじみとして見え、位置
ずれか大きい場合は異なった色の画像が互いに重なり合
い、被写体が明確に見えない欠点があった。
また、インターレース方式のカメラにより1最像した画
像においては奇数、偶数フィールド間で撮像に時間差が
あるので画像のずれがフリ・2カーとして画面上で観察
され明瞭な画像とならない欠点があった。
本発明の目的は上述した不具合を解消して、一般カラー
カメラの各色画像上の各部での位置ずれ(色ずれ)補正
、面順次等の順次方式カラーカメラの位置ずれ補正およ
びインターレース方式のカラーカメラの奇数、偶数フィ
ールド間の画像の位置ずれ補正等を好適に行なうことが
できる画像の位置ずれ補正装置を提供しようとするもの
である。
(問題点を解決するための手段) 本発明の画像の位置ずれ補正装置は、基準となる画像と
対応する補正すべき画像との間の位置ずれを補正する装
置において、前記基準画像と被補正画像との間の相関を
求め、その相関に基づき前記基準画像に対する被補正画
像の位置ずれを求める手段と、求めた位置ずれに基づき
前記補正すべき画像を再構成する手段とを具えることを
特徴とするものである。
(作 用) 上述した構成において、一部が互いに重なり合った分光
特性を持つカラーフィルタにより分光し撮像するか、又
はカラーフィルタを通した白色光により照明し撮像する
場合や、一般の物体や生体などを撮影した場合は、それ
ら被写体の反射分光特性はなだらかであり、異なった波
長域の画像をとっても相関があるのでこれを利用して位
置ずれを求めている。その後、求めた位置ずれの量およ
び方向に基づき補正すべき画像の再構成を例えば内挿や
補間等の方法で行ない画像の位置ずれを補正している。
ここで異なった色のフレーム間に相関が生ずる理由は以
下の通りである。すなわち、今・物体 :O(+r、 
 λ)、ここでlr i場所、λ;波長 ・照明光:L、(tr);物体上にできる照明むらLX
 (λ);照明光の強度スペクトル・カメラ又は照明光
に装着されている各色フィルターの透過率分布:1.(
λ)、1.(λ)、tb(λ)と仮定すると、通常用い
られているNTSC方弐では第1図に示すように各透過
率分布は互いに重なり合っている。以上より、得られる
l?、G、8画像は以下の(11〜(3)式で与えられ
る。
1M(1r)= SO(”+λ)L、 (1r)LX(
λ)t、(A)dλ・(111c(tr)−5Q(+r
、λ)L+(lr)Lx(λ)t9(λ)dλ・f2)
1、(tr)= ’)O(+r、λ)L+(tr)LX
(λ)tb(λ)dλ・(3)例えばR,Gの相関をと
ると、 1*(1r)☆Ic (Ir) = SO(tr 、λ
+)L+ (1r)Lz (λ1)tr(λ1)dλ☆ LX(λ1)LX(λ2) ×tr(λ+)tg(λ2)dλ、dλz−(41とな
る。ここで(4)式において、λ1−λ2ではtr(λ
l) X t9(λ2)NOにおいて透過率分布は互い
に重なっているため自己相関となり強い相関がある。λ
l々λ2では被写体が強い反射特性をもたない分子であ
れば(この仮定は生体や通常のものでは正しい)O(+
r、λI) Z O(tr 、λ2)であり、十分な相
関がある。以上のことより、■8とI6および■。
と■8に相関が存在する。
また、インターレース画像の補正においては、偶数フィ
ールドと奇数フィールドの画像に分けて一方の画像を基
準として他方の画像の位置ずれを補正しているが、この
場合は同一色であるので十分な相関が存在する。
本発明では画像間の位置ずれを求めるために画像間の相
関をとっている。以下本発明で使用したPhase m
atch法について簡単に説明する。Phasema 
tch法というのは、2つの画像関数f、(tr)と「
2(tr)のそれぞれのフーリエ変換を[?1(ω)、
pg(ω)と仮定すると以下の(5)式を計算すること
に対応している。
ここで*は共役を表わす。このPhase match
法の利点は以下の点にある。
■)フーリエ変換(FFT)であるので計算が高速にで
きる。
2)パラレル演算が可能である。
3)自己相関に対して非常にするどい(δ関数)ピーク
を与える。
4)位相のかけ算値をルックアンプテーブル方式で求め
ることができる。
5)高速演算法が存在する。
なお、上述したPhase match法の詳細につい
ては、例えばJ、L、tlorner″Phase −
only matchedfiltering  ”^
pplied 0ptics、 Vol、23. tI
&16に記載がある。
(実施例) 第2図は本発明の画像の位置ずれ補正装置の一実施例を
光源制御形面順次方式の人力装置と組み合わせた例を示
す線図である。光源1から出射した光はI?G11フィ
ルタ2を介してライトガイド3により導かれ、被写体4
に照射する。このRGBフィルタ2は所望の色フィルタ
に例えばテレビ走査に同期して切替えて使用する。被写
体4より反射した光は光学系5により例えばCCDより
なる白黒撮像板6に結像する。
白黒撮像板6により撮像された画像はカメラ側電子回路
7によりlil、G、Bの画像信号として面順次−標準
テレビ変換処理器8に送られ、R,G、B各画像を重ね
合わせたカラー画像としてモニター9で観察する。この
とき、画像の位置ずれが生じている画像については、本
発明の画像の位置ずれ装置10にR,G、 B画像信号
を送って位置ずれ補正を行なう。
まず相関比較回路1[では、送られてきた各画像のうち
基準とする色(通常はG)の画像と位置ずれの補正を行
う色(例えばR)の画像にある一定間隔でサンプリング
点を設定する。それぞれのサンプリング点を含むウィン
ドウを設定し、基準画像のウィンドウと対応する補正画
像のウィンドウとの間の相関をとり、基準画像に対する
被補正画像の位置ずれを求める。この処理をすべてのウ
ィンドウに対して実施して各サンプリング点における基
準画像に対する被補正画像の位置ずれを求めている。
次に画像再構成回路12では、相関比較回路11で求め
た基準画像に対する被補正画像の位置ずれに基づいて被
補正画像を再構成して補正した色画像(例えばR”)を
作り出す。他の色画像(B)に対しても同様の処理を行
い、補正した色画像(Bo)を作り出す。この結果得ら
れた3色の画像(R’、G。
B’)を重ねてモニター13上に表示して補正後の画像
を観察している。なお、これらカメラ側型子回路71回
顧次−標準テレビ変換処理器8.相関比較回路112画
像再構成回路11.モニター13はすべて制御回路14
により制御されている。
第3図は本発明の画像の位置ずれ装置における位置ずれ
を求める方法および画像再構成の方法を説明するための
フローチャートである。本フローチャートに示した実施
例は、その−例として3色赤、緑、青(Il、G、B)
に色分解した320 x 320画素から構成される画
像の位置ずれの補正についての例であり、以下フローチ
ャートの順に説明する。
1) R,G、8画像に例えば10点×10点のある間
隔をもったサンプリング点を設定する。
2)このサンプリング点を含み、例えば64 X 64
の大きさのウィンドウを各画像上に設定する。
3)各ウィンドウ内の基準となる0画像の関数をg(x
、y)、被補正画像であるR画像の関数をr(x、y)
として、これらの関数のフーリエ変換を計算してG(ξ
、η)およびR(ξ、η)を得る。
4)このフーリエ変換関数から0画像とR画像との相関
を以下の(6)式を計算することにより求めて相関のピ
ークを検出する。
5)被補正画像であるR11Lii像の上述した計算で
使用したサンプリング点をピークを示す位置に移動して
、そのピークを示す位置により小さなウィンドウ(X、
 Y共半分)を設定すると共に、基準画像である0画像
上にはもとのサンプリング点に対しこの小さなウィンド
ウを設定する。
6)上述した3)〜5)のステップを例えばウィンドウ
の大きさが8×8になるまで操り返して、このサンプリ
ング点におけるR画像の0画像に対する位置ずれ(X、
Y)を求めて、シフトマツプとして記jQする。
7)設定したサンプリング点全てについて、2)〜6)
のステップを実施する。
8)8画像の6画像に対する位置ずれを示すシフトマツ
プにより8画像の各サンプリング点で補正を行ない、こ
の補正した各サンプリング点の値に基づき8画像を再構
成してR゛画像作成する。
9)G、8画像間についても1)〜8)のステップを繰
り返しR°両画像作成する。
上述した説明中最初のウィンドウの大きさは画像全体の
大きさと考えられる位置ずれの量を考慮して決定される
。例えば上述した例で説明した320 X 320画素
からなる画像においては、考えられる位置すれが最大で
も30画素程度であるため、64 X 64のウィンド
ウを設定した。
第4図(a)〜(i)は上述したステップのうち位置ず
れを検出する方法を説明するための線図である。
基準となる画像のウィンドウを第4図(a)に、また被
補正画像のウィンドウを第4図(b)にそれぞれ示す。
ウィンドウの大きさは64 X 64であり、(xo、
yo)がサンプリグ点である。これらの画像間で相関を
とりピークを求めると第4図(C)のようにサンプリン
グ点を原点として(α、β)の位置にピークが検出され
たものとすると、この(α、β)が64×64のウィン
ドウに対する位置ずれ量となる。次に、ウィンドウの大
きさを32 X 32としてさらに相関を求める。すな
わち、基準画像については第4図(dlに示すようにサ
ンプリング点(xo+yo)からウィンドウを設定する
と共に、被補正画像に対しては第4図(81に示すよう
に上述した64 X 64のウィンドウで求めた位置ず
れ量を考慮して(xo+α+yo+β)からウィンドウ
を設定して同様な相関を求める。その結果第4図(fl
に示すように(α”、β゛)だけ位置ずれしていると検
知された場合は、基準画像については第4図(g)に示
すウィンドウを、また被補正画像については、第4図(
hlに示すウィンドウをそれぞれ設定して相関を求める
。求めたずれ量が(0,O)かほとんどこれに近い場合
、第4図(11に示すようにこのサンプリング点の位置
ずれ盪を(α+α′、β+β″)として決定している。
この第4図に示す処理をすべてのサンプリング点に対し
て行ない、シフトマツプを求めている。
また、上述した8)ステップで行なった画像の再構成の
方法としては、各サンプリング点(上述した実施例では
l0XIOの100点)についてのシフトマツプに基づ
き画像を再びサンプリングして非補正画像を作成してい
る。この際、例えばβスプラインを使用したキュービッ
ク・コンボリューションや5inC関数を使用した補間
法を利用して画像の再構成を行なっている。
第5図は本発明の画像の位置ずれ補正装置の一実施例を
示すブロック図である。本実施例では、I?、G、8画
像に対して6画像を基準として位置ずれ(色ずれ)を補
正する例を示している。まず、8画像と6画像との間の
位置ずれ補正について説明すると、被補正画像である8
画像、基準画像である6画像は、ディジタル人力の場合
はインターフェイス回路21r、 21gを介してまた
アナログ人力の場合ばA/D変換回路22r、 22g
を介してそれぞれフレームメモリ23r、 23gに記
憶する。フレームメモリ23r、 23gに記憶された
8画像と6画像に対してサンプル点設定回路24r、 
24gにおいて対応する所望の数のサンプル点を設定し
、次に各サンプル点に対し所定のウィンドウをウィンド
ウ設定回路25r、 25gにおいて設定する。対応す
るウィンドウ内の8画像と6画像はそれぞれフーリエ変
換計算回路26r、 26gにおいてフーリエ変換され
、その値に基づいて対応点検出回路27aにおいて両者
の間の相関を求め、そのウィンドウ内の基準となる6画
像に対する8画像の位置ずれ量を求める。求めた位置ず
れ星は各サンプル点に対応させてX、 Y誤差記憶回路
28a内に記憶して、シフトマツプを作成する。このシ
フトマツプに基づいて、Rリサンプリング回路29aに
おいてキュービックコンボリューション等の手法を用い
て8画像を再構成して、R゛フレームメモリ30a補正
後のR′両画像記憶する。上述した処理を8画像に対し
て実施してもB゛フレームメモリ30b補正後のB′両
画像記・11!する。これらI?″フレームメモリ30
a中のR゛画像フレームメモリ23g中の0画像および
B゛フレームメモリ30b中3画像を、それぞれD/A
変換回路31r、31gおよび31bを介して同時に表
示モニター32上に表示すれば、補正された明瞭な画像
を観察することができる。また、R’、G、[1′の画
像をディジタルで外部へ供給する場合は、インターフェ
イヌ回路33r、 33gおよび33bを介して外部へ
供給している。
第6図(al、 (bl、 (C1は本発明の画像の位
置ずれ補正装置を実際の画像に応用した場合の状態を説
明するための線図である。第6図(al、 (blはカ
ラー画像の色ずれ補正に本発明を適用した例を示すもの
で、補正前1?、G、Bの画像がそれぞれ第6図(a)
に示すようにずれていたものが、補正後第6図(blに
示すようにR,Bの画像がGの画像と重なり位置ずれが
補正されている。また、第6図(C1はインターレース
方式で生ずる位置ずれによるフリッカ−の補正に本発明
を適用した例であり、奇数フィールド画像に発生した実
線で示すフリッカ−を点線に示すよう補正することがで
きる。
(発明の効果) 以上詳細に説明したところから明らかなように、本発明
の画像の位置ずれ補正装置によれば、基串となる画像に
対する被補正画像の相関をとることにより位置ずれ量を
検出して、その位置ずれ量に基づき画像の再構成をして
被補正画像を得ているため、−iカラーカメラの各色画
像上の各部の位置ずれ補正1回顧次等の順次方式カラー
カメラの位置ずれ補正およびインターレース方式のカラ
ーカメラの奇数、偶数フィールド間の画像の位置ずれ補
正等を好適に実施することができる。
【図面の簡単な説明】
第1図はNTSC方式における各色の波長と透過率との
関係を示すグラフ、 第2図は本発明の画像の位置ずれ補正装置を面順次方式
の入力装置と組み合わせた例を示す線図、第3図は本発
明における位置ずれを求める方法を示すフローチャート
、 第4図(fil〜(1)はそれぞれ位置ずれを検出する
方法を説明するための線図、 第5図は本発明の位置ずれ補正装置の一実施例を示すブ
ロック図、 第6図(al、 (bl、 (clは本発明を実際の画
像に応用した例を示す線図である。 l・・・光源        2・・・RGBフィルタ
3・・・ライ1〜ガイド   4・・・被写体5・・・
光学系      6・・・白黒撮像板7・・・カメラ
側電子回路 8・・・面順次−標準テレビ変換処理器9・・・モニタ
ー     IO・・・画像の位置ずれ装置11・・・
相関比較回路   12・・・画像再構成回路13・・
・モニター 21r、 21g、 21b・・・インターフェイス回
路22r、22g、22h =・A/D変換回路23r
、23g、23b −フレームメモリ24r、 24g
、 24b・・・ナンプル点設定回路25r、 25g
、 25b・・・ウィンドウ設定回路26r、 26g
、 26b・・・フーリエ変換計算回路27a、 27
b・・・対応点検出回路28a、 28b・・・X、’
 Y誤差記憶回路29a・・・Rリサンプリング回路 29b・・・Bリサンプリング回路 30a・・・R゛フレームメモ リ0b・・・B°フレームメモリ 31r、31g、31b −D/八へ換回路32・・・
表示モニタ 33r、 33g、 33b・・・インターフェイス回
路特許出願人 池上通信機株式会社 第3図 第4図 (a)    (b>   (c) 第6図

Claims (1)

    【特許請求の範囲】
  1. 1、基準となる画像と対応する補正すべき画像との間の
    位置ずれを補正する装置において、前記基準画像と被補
    正画像との間の相関を求め、その相関に基づき前記基準
    画像に対する被補正画像の位置ずれを求める手段と、求
    めた位置ずれに基づき前記補正すべき画像を再構成する
    手段とを具えることを特徴とする画像の位置ずれ補正装
    置。
JP60285821A 1985-12-20 1985-12-20 画像の位置ずれ補正装置 Expired - Fee Related JP2528826B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP60285821A JP2528826B2 (ja) 1985-12-20 1985-12-20 画像の位置ずれ補正装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP60285821A JP2528826B2 (ja) 1985-12-20 1985-12-20 画像の位置ずれ補正装置

Publications (2)

Publication Number Publication Date
JPS62145991A true JPS62145991A (ja) 1987-06-30
JP2528826B2 JP2528826B2 (ja) 1996-08-28

Family

ID=17696519

Family Applications (1)

Application Number Title Priority Date Filing Date
JP60285821A Expired - Fee Related JP2528826B2 (ja) 1985-12-20 1985-12-20 画像の位置ずれ補正装置

Country Status (1)

Country Link
JP (1) JP2528826B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8233710B2 (en) 2005-07-14 2012-07-31 Nikon Corporation Image processing device and image processing method
JP2013540286A (ja) * 2010-09-29 2013-10-31 アプライド プレシジョン インコーポレイテッド 顕微鏡画像化用の較正目標

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1746846B1 (en) 2004-04-12 2019-03-20 Nikon Corporation Image processing device having color shift-correcting function, image processing program, and electronic camera

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS58147289A (ja) * 1982-02-26 1983-09-02 Hitachi Denshi Ltd オ−トセンタリング装置
JPS5997284A (ja) * 1982-11-26 1984-06-05 Nec Corp 動画像信号の動き内插方式およびその装置
JPS59210773A (ja) * 1984-04-20 1984-11-29 Hitachi Ltd テレビジヨン信号処理回路
JPS6171791A (ja) * 1984-09-14 1986-04-12 Olympus Optical Co Ltd 内視鏡装置
JPS6189790A (ja) * 1984-10-08 1986-05-07 Sony Corp 固体カラ−撮像装置
JPS6189791A (ja) * 1984-10-08 1986-05-07 Sony Corp 固体カラ−撮像装置
JPS61243441A (ja) * 1985-04-20 1986-10-29 Fuji Photo Film Co Ltd カラ−画像情報の検出処理方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS58147289A (ja) * 1982-02-26 1983-09-02 Hitachi Denshi Ltd オ−トセンタリング装置
JPS5997284A (ja) * 1982-11-26 1984-06-05 Nec Corp 動画像信号の動き内插方式およびその装置
JPS59210773A (ja) * 1984-04-20 1984-11-29 Hitachi Ltd テレビジヨン信号処理回路
JPS6171791A (ja) * 1984-09-14 1986-04-12 Olympus Optical Co Ltd 内視鏡装置
JPS6189790A (ja) * 1984-10-08 1986-05-07 Sony Corp 固体カラ−撮像装置
JPS6189791A (ja) * 1984-10-08 1986-05-07 Sony Corp 固体カラ−撮像装置
JPS61243441A (ja) * 1985-04-20 1986-10-29 Fuji Photo Film Co Ltd カラ−画像情報の検出処理方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8233710B2 (en) 2005-07-14 2012-07-31 Nikon Corporation Image processing device and image processing method
US8509533B2 (en) 2005-07-14 2013-08-13 Nikon Corporation Image processing device and image processing method
JP2013540286A (ja) * 2010-09-29 2013-10-31 アプライド プレシジョン インコーポレイテッド 顕微鏡画像化用の較正目標
US10802261B2 (en) 2010-09-29 2020-10-13 Global Life Sciences Solutions Usa Llc Calibration targets for microscope imaging

Also Published As

Publication number Publication date
JP2528826B2 (ja) 1996-08-28

Similar Documents

Publication Publication Date Title
JP3704238B2 (ja) 撮像装置
JPS5919515B2 (ja) ホワイトバランス調整回路
JPS6118912B2 (ja)
JPH0724422B2 (ja) カラーテレビカメラの輝度信号作成回路
JPS62145991A (ja) 画像の位置ずれ補正装置
JP3690159B2 (ja) 時分割カラー表示装置用の画像処理装置および画像処理方法
JP2005167444A (ja) 分光特性推定を行なう画像処理装置
JP2836158B2 (ja) スチル画像撮影装置
JPS6124876B2 (ja)
JPH0584989B2 (ja)
JPS61247187A (ja) 色差補正装置
JP2006146033A (ja) 画像表示装置におけるキャリブレーション方法および装置
JP2656929B2 (ja) 経内視鏡分光診断装置
JP3525445B2 (ja) ディジタル信号処理カメラ
JPH089394A (ja) 撮像方法および撮像装置
JPS6253586A (ja) カラ−固体撮像装置
JP2846317B2 (ja) カラー撮像装置
JPS6243398B2 (ja)
JP2655436B2 (ja) カラー固体撮像装置
JPS63164589A (ja) 固体撮像装置
JPH0324513A (ja) 電子内視鏡装置
Badiqué et al. Compensation of motion related blur in ccd color endoscope images
JPH0139273B2 (ja)
JPS63136787A (ja) 電子内視鏡装置
JPS61234686A (ja) カラ−固体撮像装置

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees