JPH09218941A - 画像入力装置 - Google Patents

画像入力装置

Info

Publication number
JPH09218941A
JPH09218941A JP8026350A JP2635096A JPH09218941A JP H09218941 A JPH09218941 A JP H09218941A JP 8026350 A JP8026350 A JP 8026350A JP 2635096 A JP2635096 A JP 2635096A JP H09218941 A JPH09218941 A JP H09218941A
Authority
JP
Japan
Prior art keywords
image
partial
image pickup
pickup device
partial image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP8026350A
Other languages
English (en)
Other versions
JP3191659B2 (ja
Inventor
Toshiyasu Nakao
敏康 中尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP02635096A priority Critical patent/JP3191659B2/ja
Priority to US08/799,456 priority patent/US5909521A/en
Publication of JPH09218941A publication Critical patent/JPH09218941A/ja
Application granted granted Critical
Publication of JP3191659B2 publication Critical patent/JP3191659B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Input (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Facsimile Scanning Arrangements (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

(57)【要約】 【課題】 撮像装置を移動することで対象の部分画像を
撮像し画像合成処理により所望の画像を得る画像入力装
置において、従来よりも処理精度を向上させかつ処理コ
ストを削減可能とする。 【解決手段】 支持装置2により、撮像装置10と位置
検出装置11を一体化することにより、部分画像取得時
の撮像装置10の位置を検出するとともに、撮像装置1
0が対象との距離を保ったまま安定して移動するように
支持する。位置検出装置11により検出された位置に基
づいて、部分画像の合成画像上における位置を決定する
処理の対象領域を候補領域設定装置16により限定する
ことで、処理コストの削減と処理精度の向上を図る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は計算機に撮像装置を
用いて画像を入力する画像入力装置のうち、撮像装置に
より取得した対象の部分画像群から画像合成により一枚
の合成画像を生成することでユーザ所望の画像が入力可
能な画像入力装置に関するものである。
【0002】
【従来の技術】従来、静止画像を計算機に入力するため
の画像入力装置は、電子スチルカメラとスキャナに大別
される。
【0003】電子スチルカメラは撮像作業が一瞬で終了
し、対象を走査するための機械的な機構も不要なことか
ら、携帯性・操作性において優れている反面、撮像範囲
を広くすると解像度が低くなり必要な情報を読みとるこ
とができず、逆に、情報を十分に読みとることが可能な
解像度で撮像すると撮像範囲が狭くなり必要な範囲を撮
像することができない、という問題を抱えている。この
問題は、電子スチルカメラに利用されているエリアセン
サの画素数不足から生じるものであり、文書や図面など
特に精密な画像を必要とするとき、電子スチルカメラは
適しているとは言えなかった。
【0004】一方スキャナは、走査線を移動させる機構
(走査機構)により、さらに、フラットベッド型、空間
走査型、ハンディ型に分類できる。フラットベッド型や
空間走査型では走査機構が大きくなるため携帯は難し
く、入力サイズが制限されるという欠点があった。ハン
ディ型は携帯は可能であるが、撮像範囲が装置の幅に限
定されてしまうため、広範囲を撮像することができなか
った。いずれの形式においても、スキャナは解像度の面
では文書や画像の入力に適しているものの、入力作業に
かなりの手間を必要とするなど操作性の面で問題があっ
た。
【0005】さらには、電子スチルカメラおよびスキャ
ナとも、ユーザが対象上の本当に必要とする部分だけを
取得するためには、撮像作業後にさらに編集作業が必要
であり、ユーザが望み通りの画像を得ることが非常に難
しかった。
【0006】従来の画像入力装置が抱える上記の問題を
解決する手法として、安価なエリアセンサを利用しなが
ら、必要な解像度で対象を複数に分割して部分画像を撮
像し、撮像範囲の不足を得られた部分画像の合成処理に
より補う装置が考案されている。この装置は対象の部分
画像の取得法により、次の4種に分類できる。
【0007】分類1:複数のカメラを組み合わせて対象
を分割して撮像し、得られた部分画像を合成する 分類2:単一の光学系から入力した画像を複数のCCD
により受光し、得られた部分画像を合成する 分類3:対象物を移動して対象の部分画像を撮像し、得
られた部分画像を合成する 分類4:カメラを移動して対象の部分画像を撮像し、得
られた複数の画像を合成する 上記分類1の手法は、「相澤他、“超高精細画像取得の
ための基礎検討”、信学技報IE90−54」にあるよ
うに、あらかじめ配置された複数のカメラにより対象を
分割して撮像し、得られた部分画像を組み合わせるもの
である。この手法はカメラ間の位置合わせや調整が難し
く、それぞれが独立した光学系を持っているため、合成
するためには光学系による歪を除去する必要がある。
【0008】上記分類2の手法は、「上平、“光学接続
型静止画カメラ”、画像電子学会誌、Vol.20、N
o.3、pp.203−208、1991」や「関口
他、“広視野モザイクCCDカメラの開発と観測的宇宙
論の展望”、日本物理学会誌、Vol.47、No.
5、pp.376−381、1992」にあるように、
単一のレンズを経由した光を、複数のエリアセンサによ
り分割して受光し、得られた部分画像を合成することで
全体の解像度を向上させるものである。光学系が共通で
あることから、ピントや光量の調整、撮像作業も通常の
カメラと同様となる。
【0009】上記分類1および分類2の手法は複数のエ
リアセンサを利用して解像度を向上させるものである。
しかしながら、エリアセンサの数が有限であるため、解
像度と撮像範囲の問題は完全に解消されるわけではな
い。また、撮像する領域が矩形に限られており、撮像作
業後に編集作業が必要になるという問題も依然残ったま
まである。
【0010】上記分類3および分類4の手法は対象の分
割像を一台のカメラで取得することに特徴がある。
【0011】上記分類3の手法は、対象の部分画像を得
る際にカメラを固定して対象を移動させるものであり、
「特開平3−96081、『静止画入力装置及び静止画
記録再生方式』」などがある。この手法は対象を移動さ
せる機構が必要なため装置全体が大きくなり、携帯性が
損なわれるという問題がある。
【0012】上記分類4の手法は「岡田他、“実時間画
像貼り合わせ機能を持つハンドスキャン型文書画像入力
装置”、信学技法IE81−17」や「特開平6−25
9557、『画像入力装置』」のように、部分画像取得
の際、対象を固定してカメラを移動させるものである。
カメラを移動させることから、ユーザは必要とする部分
だけを選択的に入力可能であり、解像度と撮像範囲の問
題だけではなく、撮像作業後の編集作業が不要になると
いう特徴を持つ。
【0013】
【発明が解決しようとする課題】しかしながら従来の上
記分類4の手法を採用した画像入力装置では、カメラか
ら得られた部分画像を合成する処理を画像から得られる
情報のみを参照して行うため、計算量が膨大になり処理
コストが高くなるという問題があった。さらには繰り返
し模様など、対象が一様なテクスチャを持つ場合には、
画像間の位置関係を正しく再現できず誤って合成する問
題が発生した。例えば、図12(A)のような同様のテ
クスチャを含む二つの画像、画像401と画像402の
合成を考えた場合、画像情報のみでは図12(B)と図
12(C)など画像401と画像402の重複部分が同
じテクスチャを持っている場合は、どちらが正しく対象
を再現しているのかを判断することができなかった。
【0014】また、カメラなどの撮像装置を人が手で保
持して移動させる場合には、撮像装置と対象の位置関係
の変動が大きいため部分画像毎に異なったスキューや拡
大・縮小などの歪みが含まれてしまい、これらの歪みが
さらに合成処理を困難にしていた。
【0015】本発明は上記のような、従来の撮像装置を
移動して得た複数の部分画像を合成する形態の画像入力
装置が持つ課題を解消すべく行われたものであり、広範
囲かつ高解像度の画像を簡単に入力可能でありながら、
携帯性に優れ、安価な画像入力装置を提供することを目
的とする。
【0016】
【課題を解決するための手段】本発明は上記の課題を、
撮像装置の位置を検出する位置検出装置と、撮像装置を
対象と一定の距離を保ったまま移動するように固定する
とともに位置検出装置と撮像装置を一体化する支持装置
と、撮像した部分画像の合成画像上における合成位置を
決定する際に位置検出装置より得られた情報から合成位
置の候補を限定する装置とを備えることで解決する。
【0017】さらに詳しくは、撮像装置により撮像した
対象の部分画像を前記撮像装置の移動によって複数取得
し、前記部分画像群から画像合成処理により合成画像を
生成する画像入力装置において、部分画像取得時の撮像
装置の位置情報を取得する位置検出装置と、前記撮像装
置と前記対象とを一定の距離を保ったまま移動するよう
に固定するとともに、前記位置検出装置と前記撮像装置
を一体化する支持装置と、前記撮像装置により撮像した
部分画像を記憶するための部分画像メモリと、前記部分
画像の撮像時の位置情報と、前記部分画像の位置情報の
補正の結果を含む属性情報を記憶する画像属性テーブル
と、前記撮像装置より得られた部分画像を前記部分画像
メモリに記憶すると共に、前記位置検出装置により得ら
れた撮像装置の位置情報から部分画像の前記属性情報の
合成画像上における位置情報を生成し、前記位置情報を
前記画像属性テーブルに記憶させる画像取得装置と、前
記画像属性テーブルに記憶されている属性情報と、前記
位置検出装置と前記撮像装置の特性を参照して、前記画
像合成処理における部分画像の前記位置情報の補正量の
候補を限定した位置補正量候補集合を設定する補正量候
補設定装置と、前記部分画像メモリに記憶されている部
分画像、前記画像属性テーブルに記憶されている属性情
報、および前記補正量候補設定装置により設定された位
置補正量候補集合を参照して、画像間で位置合わせを行
い最適な補正量を決定し、画像属性テーブルの該当する
部分画像の位置情報の補正の結果を更新する位置補正装
置と、前記部分画像メモリに記憶されている部分画像お
よび前記位置補正装置により更新された画像属性テーブ
ルに記憶されている属性情報を参照して部分画像の合成
処理を行う合成装置とを備えることで前述した課題を解
決している。
【0018】
【発明の実施の形態】以下、本発明の実施の形態を図面
に従い説明する。
【0019】図1は、本発明の実施の形態の構成例を示
すブロック図である。
【0020】図1において、本発明による画像入力装置
1は、撮像装置10を対象との距離を一定に保ったまま
移動可能とすると共に位置検出装置11と撮像装置10
を一体化する支持装置2と、対象の部分画像を撮像する
撮像装置10と、部分画像取得時の撮像装置10の位置
情報を取得する位置検出装置11と、定められた手順に
従い各装置を制御する制御装置12と、撮像装置10に
より撮像した部分画像を記憶するための部分画像メモリ
18と、部分画像の撮像時の位置および位置補正装置1
4による位置補正の結果を属性情報として記憶するため
の画像属性テーブル19と、撮像装置10より得られた
部分画像を部分画像メモリ18に記憶すると共に、位置
検出装置11により得られた撮像装置の位置情報から部
分画像の属性情報を生成し、画像属性テーブル19に記
憶させる画像取得装置13と、画像属性テーブル19に
記憶されている属性情報を参照して、部分画像の位置補
正量の候補の集合(位置補正量候補集合)を設定する補
正量候補設定装置16と、部分画像メモリ18に記憶さ
れている部分画像、画像属性テーブル19に記憶されて
いる属性情報、および補正量候補設定装置16により設
定された位置補正量候補集合を参照して、部分画像の位
置合わせを行い最適な補正量を決定し、画像属性テーブ
ル19の属性情報を更新する位置補正装置14と、部分
画像メモリ18に記憶されている部分画像および位置補
正装置14により更新された画像属性テーブル19に記
憶されている属性情報を参照して部分画像を合成し、合
成画像メモリ20に記憶する合成装置15と、合成装置
15により部分画像を合成して得られた合成画像を格納
するための合成画像メモリ20と、制御装置12にユー
ザの指示を伝えるための制御ボタン21と、合成画像メ
モリ20に格納されている合成画像を外部装置23に送
信するための通信装置22と、から構成されている。
【0021】次に、本発明の実施の形態の動作の概略を
説明する。
【0022】支持装置2は、位置検出装置11と撮像装
置10を一体化し、撮像装置10が対象との距離を一定
に保ったまま移動可能とするとともに、部分画像取得時
の撮像装置10の位置を位置検出装置11が検出可能と
するものである。
【0023】ユーザは、支持装置2により位置検出装置
11と撮像装置10が一体化された筐体を持ち、対象上
を滑らかに移動させる。この筐体の移動に伴い、位置検
出装置11は撮像装置10の位置を検出している。
【0024】画像取得装置13は、撮像装置10により
撮像された対象の部分画像を部分画像メモリ18に記憶
する。そして、位置検出装置11の出力から部分画像取
得時の部分画像の位置を求め、この位置を含む部分画像
の属性情報を生成し、画像属性テーブル19に記憶す
る。
【0025】画像取得装置13により生成された部分画
像の位置には誤差が含まれているため、位置補正装置1
4はこの誤差を補正する処理を行う。
【0026】まず、補正量候補設定装置16により、画
像属性テーブル19に格納されている部分画像取得時の
位置および位置検出装置11の特性から、部分画像の位
置補正量の候補集合を設定する。この集合は、部分画像
の合成画像上における位置を決定するパラメータ空間の
部分集合であり、位置補正装置14は、画像間の位置合
わせ処理によりこの集合の一要素を選択することで部分
画像の合成画像上における位置を決定する。さらに位置
補正装置14は、部分画像の位置を決定後、その結果に
したがって画像属性テーブル19を更新する。
【0027】合成装置15は、部分画像メモリ18内の
部分画像を、画像属性テーブル19内の各部分画像の位
置情報を参照して合成画像上に配置し、合成画像メモリ
20に記憶することで合成画像を生成する。
【0028】生成された合成画像は、通信装置22を経
由して外部装置23に送信される。
【0029】
【実施例】次に、本発明の一実施例の動作を図面を用い
て詳細に説明する。
【0030】図2は、本実施例の動作を説明するための
イメージ図である。
【0031】図2において、支持装置2は撮像装置10
を対象との距離を保ったまま鉛直下向きに固定し、位置
検出装置11と撮像装置10を一体化している。また、
制御ボタン21も同じく一体化されている。なお、以下
の説明では、撮像装置10、位置検出装置11、制御ボ
タン21が支持装置2により一体化された装置を撮像筐
体と呼ぶ。この撮像筐体を対象上で移動させることによ
り、撮像装置10、撮像装置10の撮像範囲302も移
動し対象303の部分画像を撮像する。このとき、撮像
装置10は、支持装置2により対象303との距離を保
ったまま安定して移動可能ため、各部分画像にはスキュ
ーや拡大・縮小などの、撮像装置10と対象303の距
離が変動することにより発生する歪みは含まれないとい
う効果がある。
【0032】本実施例における位置検出装置11は、図
4のように、撮像筐体の移動に伴って生じるボールの回
転をX方向ロータリエンコーダ111とY方向ロータリ
エンコーダ112によりパルスに変換し、カウンタ11
3により計数することで位置を検出するものである。こ
の位置検出装置11は、ある時点における撮像装置10
の位置を原点とする、部分画像とX座標、Y座標の向き
が同じである位置検出装置座標系304で撮像装置10
の対象上に投影した位置を表現する。なお本実施例にお
いては、ロータリエンコーダを利用した位置検出装置1
1について説明するが、あくまで一実施例であって、磁
気センサや超音波センサや加速度センサなどを利用した
位置検出装置11を用いることが可能である。
【0033】本実施例における制御ボタン21は撮像ボ
タン211、合成ボタン212、通信ボタン213の3
つの制御ボタンから構成されており、ユーザはこれらの
ボタンを押下することにより制御装置12に指示を与え
る。また、本例はあくまで例であり、制御ボタンの数に
はこだわらない。
【0034】図6は制御装置12における処理の流れを
表す図である。
【0035】本実施例においては撮像した部分画像には
撮像順に番号が付加されておりこれを画像番号と呼ぶ。
なお、画像番号は便宜的に設定するものであり、各部分
画像を特定できるものであればどのようなものでもかま
わない。制御装置12は、次に撮像する部分画像の画像
番号をあらわす変数iを保持しており、変数iを初期化
した(ステップA1)後、制御ボタン21の入力を監視
している。制御装置12は、部分画像の画像番号を指定
する変数iから、 i−1 (式1) により現在までに撮像された部分画像の枚数を知ること
ができる。
【0036】ユーザは、必要部分が撮像装置10により
撮像されるように、撮像装置10が水平方向に回転しな
いように撮像筐体を対象上を平行に移動させながら、撮
像ボタン211押下により制御装置12に部分画像の取
得を指示する。
【0037】制御装置12は、撮像ボタン211の押下
を検出すると(ステップA2)、画像取得装置13に部
分画像iの取得と部分画像iの属性情報の生成および記
憶を指示する(ステップB0)。
【0038】図7は画像取得装置13における撮像処理
(ステップB0)の処理の流れを説明するための図であ
る。
【0039】画像取得装置13は、まず、撮像装置10
が撮像した画像を部分画像iとして部分画像メモリ18
に記憶する(ステップB1)。
【0040】次に、撮像と同時に位置検出装置11から
撮像装置10の位置を取得し(ステップB2)、部分画
像iの画像の属性情報を生成する(ステップB3)。図
5に属性情報の例を説明するための図を示す。属性情報
は、部分画像i取得時の位置(初期位置)およびその補
正量から構成されており、補正量は(0,0)に初期化
される。初期位置は、位置検出装置座標系304と原点
および各軸の方向が同じであり単位距離が部分画像の1
画素に相当する合成画像座標系305で表現されてい
る。以下の処理はすべてこの合成画像座標系305上に
て行われる。
【0041】初期位置(X′,Y′)は、位置検出装置
11の解像度L、画像の解像度M、カウンタ113内で
計数された位置検出装置11の出力(X,Y)、および
位置補正装置14における補正結果に基づいて設定され
る出力補正値(Dx,Dy)を用いて、 X′=M÷L×X+Dx (式2−1) Y′=M÷L×Y+Dy (式2−2) により計算する。生成された画像属性情報は画像属性テ
ーブル19に記憶される(ステップB4)。
【0042】本実施例のようにロータリエンコーダを利
用した位置検出装置11では移動距離に応じて誤差が蓄
積されていくという性質がある。そのため、撮像作業が
進むにつれて初期位置に含まれる誤差が増大していくと
いう問題が発生する。出力補正値は、新しく取得した部
分画像の初期位置に含まれる誤差を低く押さえるための
ものであり、位置補正装置14における初期位置の補正
結果に基づいて更新される。なお、磁気センサや超音波
センサを利用したもの等、信号源からの絶対位置を検出
する形態の位置検出装置11では、検出された位置の誤
差が常に絶対的な値以内に収まるため、このような出力
補正値の更新処理は必要としない。
【0043】画像取得装置13による画像処理(ステッ
プB0)が終了すると、すでに撮像されている部分画像
が存在するかどうかを変数iの値が2以上かどうかで確
認し(ステップA5)、2以上である場合は、補正量候
補設定装置16により部分画像iの位置補正量候補集合
を設定し(ステップF0)、部分画像iの位置の補正量
を部分画像i−1を基準として位置補正装置14にて決
定する(ステップC0)。
【0044】位置検出装置11から出力される情報には
いくらかの誤差が含まれており、また、撮像装置10お
よび位置検出装置11の解像度の測定誤差も存在するこ
とから、部分画像取得時の初期位置には誤差が含まれる
と考えられる。この誤差を解消するために位置検出装置
11の精度を向上させる手法や、撮像装置10および位
置検出装置11の解像度を正確に測定する手法がある
が、これらの手法では装置コストや計算量の増大という
問題が発生する。本発明においては、位置補正処理(ス
テップC0)により、部分画像の初期位置に含まれるこ
の誤差を補正し合成処理の精度を向上させる。
【0045】図8は位置補正装置14における位置補正
処理(ステップC0)の処理手順を説明するための図で
ある。また、図3は補正量候補設定処理(ステップF
0)および位置補正処理(ステップC0)を説明するた
めの図であり、位置補正の対象となる部分画像i201
と基準となる部分画像i−1202の位置関係の例を示
している。これらの図に基づいて補正量候補設定処理1
6および位置補正装置14における処理を説明する。
【0046】本実施例においては、部分画像i201の
初期位置204から合成画像上における位置への補正量
は、X方向補正量およびY方向補正量から構成されるベ
クトル(補正ベクトル207)で表現される。初期位置
204周辺の領域を考えた場合、初期位置204からこ
の領域内の各点へのベクトルが部分画像i201の補正
量の候補であり、初期位置204周辺の領域内の各点が
部分画像i201の位置補正量候補集合の要素に1対1
に対応している。すなわち、位置補正量候補集合を設定
する処理はこの周辺領域を設定する手続きに相当し、位
置補正量候補集合の中から補正量を決定する処理はこの
周辺領域内の1点を決定する手続きに相当する。この周
辺領域を候補領域203と呼ぶ。以下、各処理の詳細な
手順を示す。
【0047】まず、補正量候補設定装置16は、画像属
性テーブル19から、部分画像i201の初期位置20
4を取得する。そして、この初期位置204の周辺領域
を、部分画像i201の正しい位置が含まれる候補の領
域(候補領域203)とする(ステップC1)。候補領
域203の範囲および形状は、位置検出装置14の特
性、精度、および撮像装置10の解像度により決定され
る。例えば、位置検出装置11のロータリエンコーダの
解像度が400dpi、部分画像の解像度が200dp
iの場合、位置検出装置の誤差および解像度の測定誤差
から生じる初期位置の誤差が±10%程度であれば、初
期位置204を中心とした一辺40画素程度の矩形領域
とすればよい。
【0048】補正量候補設定装置16により設定された
候補領域203を用いて、位置補正装置14は部分画像
iの位置補正量を決定する。
【0049】次に、部分画像i201の位置を候補領域
203内のいずれに移動しても位置合わせの基準となる
部分画像i−1202と重ならない場合には、部分画像
i201と部分画像i−1202が対象上の離れた地点
を撮像した画像であることを示しており、部分画像i2
01の位置補正を行わずに、位置補正処理を終了する
(ステップC4)。従来の技術では画像情報のみに基づ
いて位置合わせを行うため、部分画像が対象上の離れた
地点を撮像した画像であるかどうかを識別不可能であっ
た。そのため、このような本来相関が存在しない画像間
にも誤って位置合わせ処理を施してしまい、得られる合
成画像の品質が大きく劣化するという問題が発生した。
本発明は位置検出装置11の情報を利用するため、合成
画像の品質劣化を防ぐことが可能となる。
【0050】この候補領域203内において、部分画像
i201の位置の補正量を、部分画像i−1202を基
準とした位置合わせ処理により決定する(ステップC
2)。詳細には、候補領域203内の各点に部分画像i
201を移動したときに形成される部分画像i−120
2と部分画像i201の重複領域205において相互相
関係数を計算し、最も高い相互相関係数を与える位置
(最良位置206)を求め、初期位置から最良位置20
6へのベクトル(補正ベクトル207)を部分画像i2
01の位置の補正量とする。
【0051】従来、このような位置合わせ処理は膨大な
計算を要し、処理時間を短縮するためには、高速なハー
ドウェアを利用するなど、装置コストの増大という問題
が生じた。しかしながら、本発明においては、補正量候
補設定装置16により位置合わせ処理の処理対象領域を
候補領域203内に限定するため、位置合わせ処理に要
する計算量を削減可能である。また、候補領域203内
に位置合わせ処理の処理対象領域を限定するため、対象
が一様なテクスチャを持つ場合にも正しい位置補正結果
を生成することが可能となる。
【0052】なお、上記の候補領域203の大きさおよ
び形状は位置検出装置11の特性に応じてさまざまに設
定可能である。例えば、位置検出装置11の精度が高け
れば候補領域の大きさをより小さくすることが可能であ
り、上記の場合よりもさらに計算量を削減できる。位置
検出装置11の誤差の大きさが、移動距離に応じて変化
する場合には、前回の部分画像取得時からの撮像装置1
0の移動距離に応じて設定してもよい。位置検出装置1
1の出力特性に応じて候補領域203の形状を矩形に限
らず円形や扇形にすることも可能である。
【0053】位置合わせ処理には、上記の相互相関係数
を利用した処理以外に残差を利用するものなど、従来の
技術を利用可能である。従来の位置合わせ処理技術につ
いては、「共立出版、bit別冊『コンピュータ・サイ
エンス』,エーシーエム・コンピューティング・サーベ
イズ’92、77〜119頁」に詳しく述べられている
ため、詳細は割愛する。いずれの位置合わせ処理技術を
利用したとしても、補正量候補設定装置16により位置
合わせ処理の処理対象領域を候補領域203内に限定す
ることによる本発明の効果は失われない。
【0054】また、本実施例においては、位置合わせの
基準として部分画像iの直前に取得した部分画像i−1
を利用したが、位置合わせの基準はこれに限るものでは
なく、すでに撮像されている部分画像のうち、部分画像
iと相関のあるものならばいずれの画像を利用してもよ
い。このとき、初期位置の情報から部分画像間の相関存
在有無を判断することが可能となることも本発明におけ
る大きな特徴である。また、基準画像を1枚だけではな
く、複数の画像とすることも可能である。この場合、部
分画像iの位置補正量は各基準毎に生成された位置補正
量の平均とすればよい。また、相関をあらわす指標が正
規化されているならば、最も良い相関を与えた基準画像
による位置補正量を採用することも可能である。
【0055】このようにして得られた部分画像iの補正
量は、画像属性テーブル19内の部分画像iの属性情報
に反映される(ステップC3)。
【0056】次に制御装置12は、部分画像iの補正量
にもとづいて位置検出装置11の出力補正値を更新する
(ステップD0)。この出力補正値は0に初期化されて
いるが、位置補正処理(ステップC0)により得られた
部分画像iの位置補正量を(Cx,Cy)、現在の出力
補正値(Dx′,Dy′)から Dx=Dx′+Cx (式3−1) Dy=Dy′+Cy (式3−2) により更新される。
【0057】本実施例のようにロータリエンコーダを利
用した位置検出装置11では移動距離に応じて誤差が蓄
積されていく。この誤差の蓄積を上記の出力補正値によ
り解消することで、初期位置に含まれる誤差を低く押さ
える効果を発生させるのである。なお、磁気センサや超
音波センサを利用した位置検出装置11など、移動距離
に関係なく位置検出装置11の誤差が常に絶対的な値以
内に収まる場合は、このような出力補正値の更新処理は
必要ない。
【0058】位置補正処理(ステップC0)が終了する
と、変数iの値を1増やし(ステップA6)、制御装置
12は再びユーザからの指示を待つ。ユーザは、撮像筐
体の移動、撮像ボタン211押下による撮像作業を、対
象上の必要部分すべてを部分画像により撮像するまで繰
り返すことで、所望の画像を入力できるのである。そし
てユーザは、対象上の必要部分すべてを撮像したなら
ば、合成ボタン212を押下し、制御装置12に合成画
像の生成を指示する。
【0059】制御装置12は合成ボタン212が押下さ
れると、合成装置15に部分画像の合成を指示する(ス
テップE0)。図9に合成装置15における処理の流れ
を示す。
【0060】合成装置15は、まず、合成する部分画像
の画像番号を指定する変数jを1に初期化する(ステッ
プE1)。合成装置15は、変数jと制御装置12に保
持されている次に撮像する部分画像番号を示す変数iを
比較することですべての部分画像の合成が終了したかど
うかを判断し(ステップE2)、まだ合成されていない
部分画像が存在するならば、それらの部分画像を合成す
る。詳細には、画像属性テーブル19内の部分画像jの
初期位置および位置補正量から部分画像jの合成画像上
における位置を計算し(ステップE3)、部分画像メモ
リ18から読み出した部分画像jを計算された位置に基
づいて合成画像メモリ20に書き込む(ステップE4)
のである。部分画像jの合成画像上における位置(X
m,Ym)は、部分画像jの初期位置(X,Y)および
位置補正装置14により決定された補正量(Cx,C
y)から、 Xm=X+Cx (式4−1) Ym=Y+Cy (式4−2) で生成される。部分画像jを合成画像上に書き込んだ
後、変数jが次に撮像した部分画像を示すように、変数
jの値を1増加させる(ステップE5)。すべての部分
画像の合成が終われば合成装置15は処理を終了する。
【0061】なお、位置補正済みの部分画像から合成画
像を生成する手法には、従来の手法を適用することが可
能である。この手法は「東京大学出版会、『画像解析ハ
ンドブック』、pp.462〜467」や「総研出版、
『コンピュータ画像処理:応用実践編2』、pp.15
7〜182」に述べられているため、詳細は割愛する。
【0062】ユーザは、合成装置15により生成され、
合成画像メモリ20に記憶されている画像を、通信ボタ
ン213を押下することで外部装置23に送信すること
が可能である。
【0063】上記の実施例では、画像入力装置の動作を
すべてユーザが制御ボタン21により指示しているが、
制御装置12が独自に判断して動作を行うように構成す
ることも可能である。例えば、撮像ボタン211押下の
かわりに、位置検出装置11の出力を監視し、撮像装置
の移動量が閾値を越えれば画像取得装置13に部分画像
の取得を指示することが可能である。この場合、閾値が
部分画像の大きさよりも小さくなるようにすれば、連続
して撮像した部分画像間に必ず相関が存在するような部
分画像群を取得できる。また、合成ボタン212押下の
かわりに、取得した部分画像の枚数が閾値をこえれば合
成処理を行うように制御することも可能である。
【0064】さらには、本実施例における撮像筐体は、
支持装置2により計算機やワードプロセッサの周辺機器
である小型カメラおよびマウス装置を一体化することで
も実現可能である。図10は、マウス装置41と小型カ
メラ40を支持装置2により一体化することを説明する
ための図であり、(A)は一体化する前の小型カメラ4
0とマウス装置41を示している。(B)は、支持装置
2により小型カメラ40とマウス装置41を一体化する
ことで、小型カメラ40を撮像装置10として、マウス
装置41のロータリエンコーダおよびカウンタを位置検
出装置11として、マウス装置41のボタンを制御ボタ
ン21としてそれぞれ利用されることを示している。こ
の場合、通常の計算機の使用においては、それぞれ小型
カメラ40およびマウス装置41として単独に利用可能
であり、高解像度・広範囲の画像を入力する必要が生じ
た場合のみ支持装置2により本発明による画像入力装置
を実現可能となる。
【0065】また、上記の実施例では、撮像筐体は水平
方向にも回転せず同じ姿勢を保ったまま平行に移動する
場合について説明したが、本発明は撮像筐体の移動をこ
れだけに限定するものではない。撮像筐体が水平方向に
回転するような場合には、部分画像の合成画像上におけ
る位置を決定するためには回転量および平行移動量が必
要となるが、位置検出装置11として撮像装置10の回
転角を検出可能なものを使用すれば、上記実施例と同様
に部分画像の位置補正量候補集合を設定することで計算
量を削減することが可能である。たとえ、位置検出装置
11が撮像装置10の回転角を検出不可能であっても、
部分画像の位置を決定するパラメータのうち平行移動に
関する補正量の候補を限定することが可能であることか
ら、上記実施例で述べた効果は失われない。
【0066】次に、本発明の第2の実施例を説明する。
【0067】図11は、本発明の第2の実施例のうち、
第1の実施例の支持装置2に相当する部分の構成を説明
するための図である。
【0068】第2の実施の形態では、第1の実施例にお
ける支持装置2を、撮像装置10を保持する撮像装置保
持装置30と、撮像装置10と撮像装置保持装置30を
介して接続され、撮像装置10と対象の距離を変更可能
とする高さ調節装置31と、撮像装置10および撮像装
置保持装置30および高さ調節装置31を保持し、位置
検出装置11と一体化する撮像部支持装置32と、によ
り構成する。
【0069】ユーザは、高さ調節装置31を調節して対
象と撮像装置10の距離を変更することが可能であり、
必要に応じて部分画像の解像度を変更することができ
る。高解像度の画像が必要ならば、対象と撮像装置10
の距離を短くし、逆に解像度が低くとも一度の撮像で得
られる範囲を広くしたい場合には対象と撮像装置10の
距離を広くすることができるため、ユーザが必要とする
解像度および撮像範囲を持った画像を提供できる画像入
力装置となる。
【0070】
【発明の効果】本発明による第1の効果は、撮像装置が
対象に対して平行移動することに起因する歪み以外は含
まれないことである。これは、支持装置により撮像装置
を支持することで対象との距離を一定に保ったまま安定
して撮像装置を移動可能であることから生じるものであ
り、各部分画像にはスキューや拡大・縮小など撮像装置
の不安定な移動により生じる歪みが含まれないため、こ
れらの歪みを取り除く処理が不要となり、処理を簡略化
できるのである。
【0071】以下、第2から第5の効果は、支持装置に
より撮像装置と位置検出装置を一体化することで、部分
画像取得時の撮像装置の位置から各部分画像における初
期位置を付加可能となることにより生じるものである。
【0072】本発明による第2の効果は、本来相関が存
在しない画像間には位置合わせ処理を施さないため、得
られる合成画像の品質が大きく劣化しないということで
ある。これは支持装置により撮像装置と位置検出装置を
一体化することで、部分画像取得時の撮像装置の位置か
ら各部分画像に付加される初期位置により、部分画像が
対象上の離れた地点を撮像した画像であるかどうかを識
別可能であることから生じるものである。
【0073】本発明による第3の効果は、撮像装置の移
動量を検出し移動量が閾値を越えれば部分画像を自動的
に取得することが可能なことである。これは、支持装置
により撮像装置と位置検出装置を一体化することにより
生じる効果であり、その結果、閾値が部分画像の大きさ
よりも小さくなるようにすれば、連続して撮像した部分
画像間に必ず相関が存在するような部分画像群を取得で
きる。
【0074】本発明による第4の効果は、計算機やワー
ドプロセッサの周辺機器である小型カメラおよびマウス
を撮像装置および位置検出装置として利用可能なことで
ある。これは、第3の効果と同じく、支持装置により撮
像装置と位置検出装置を一体化することにより生じる効
果であり、通常はそれぞれ小型カメラおよびマウスとし
て独立に使用しながら、高解像度・広範囲の画像を入力
する必要が生じた場合には支持装置により一体化するこ
とで本発明による画像入力装置として利用することがで
きる。そのため、手軽かつ安価に本発明による画像入力
装置を実現可能となる。
【0075】本発明による第5の効果は、部分画像が合
成画像上で取り得る位置の候補を位置検出装置の情報か
ら限定できることから、従来の画像情報のみにより合成
処理を行う装置に比べて大幅に計算量を削減可能なこと
である。これは、各部分画像に付加された位置検出装置
の情報および位置検出装置の特性から位置補正量候補集
合を設定する候補領域設定装置による効果である。
【0076】本発明による第6の効果は、部分画像の補
正量の候補を位置検出装置から得られた値の周辺要素に
限定することから、対象が一様なテクスチャを持つ場合
にも正しい合成画像を生成可能なことである。これは、
第5の効果と同様に、各部分画像に付加された位置検出
装置の情報および位置検出装置の特性から位置補正量候
補集合を設定する候補領域設定装置による効果である。
【0077】本発明による第7の効果は、移動距離に応
じて誤差が蓄積されていく性質を持つような安価な位置
検出装置を利用しても、初期位置に含まれる誤差を低く
押さえることが可能なことである。これは、以前の初期
位置補正結果に応じて位置検出装置の出力を補正するこ
とにより生じる効果であり、結果として、計算コストを
削減できる。
【0078】本発明による第8の効果は、ユーザが必要
とする解像度および撮像範囲を持った画像を提供できる
画像入力装置を提供可能なことである。これは第2の実
施例において、撮像装置と対象との距離を可変にする装
置を設けたことにより、高解像度の画像が必要ならば、
対象と撮像装置の距離を短くし、逆に解像度が低くとも
一度の撮像で得られる範囲を広くしたい場合には対象と
撮像装置の距離を広くすることが可能な構成としたこと
による効果である。
【図面の簡単な説明】
【図1】本発明による画像入力装置の構成を説明するた
めの図である。
【図2】本発明による画像入力装置の利用イメージおよ
び位置検出装置から出力される位置の座標系を説明する
ための図である。
【図3】本実施例における位置補正処理を説明するため
の図である。
【図4】本実施例における位置検出装置の構成を説明す
るための図である。
【図5】本実施例における画像属性テーブルの例を表わ
すための図である。
【図6】本実施例における制御装置における処理の流れ
を説明するための図である。
【図7】本実施例における画像取得処理の処理の流れを
説明するための図である。
【図8】本実施例における位置補正処理の処理の流れを
説明するための図である。
【図9】本実施例における合成処理の処理の流れを説明
するための図である。
【図10】マウス装置および小型カメラを利用して本発
明による画像入力装置を構成可能なことを説明するため
の図である。
【図11】第2の実施例の構成を説明するための図であ
る。
【図12】従来の手法の問題点を説明するための図であ
る。
【符号の説明】
1 本発明による画像入力装置 2 支持装置 10 撮像装置 11 位置検出装置 12 制御装置 13 画像取得装置 14 位置補正装置 15 合成装置 16 補正量候補設定装置 18 部分画像メモリ 19 画像属性テーブル 20 合成画像メモリ 21 制御ボタン 22 通信装置 23 外部装置 30 撮像装置保持装置 31 高さ調節装置 32 撮像部支持装置 40 小型カメラ 41 マウス装置 111 X方向ロータリエンコーダ 112 Y方向ロータリエンコーダ 113 カウンタ 201 部分画像i 202 部分画像i−1 203 候補領域 204 初期位置 205 重複領域 211 撮像ボタン 212 合成ボタン 213 通信ボタン 302 撮像装置10による部分画像の撮像範囲 303 撮像の対象 304 位置検出装置座標系 305 合成画像座標系

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】撮像装置により撮像した対象の部分画像を
    前記撮像装置の移動によって複数取得し、前記部分画像
    群から画像合成処理により合成画像を生成する画像入力
    装置において、 部分画像取得時の前記撮像装置の位置を検出する位置検
    出装置と、 前記撮像装置と前記対象とを一定の距離を保ったまま移
    動するように固定するとともに、前記位置検出装置と前
    記撮像装置を一体化する支持装置とを備えることを特徴
    とする画像入力装置。
  2. 【請求項2】撮像装置により撮像した対象の部分画像を
    前記撮像装置の移動によって複数取得し、前記部分画像
    群から画像合成処理により合成画像を生成する画像入力
    装置において、 部分画像取得時の前記撮像装置の位置情報を取得する位
    置検出装置と、 前記撮像装置と前記対象とを一定の距離を保ったまま移
    動するように固定するとともに、前記位置検出装置と前
    記撮像装置を一体化する支持装置と、 前記画像合成処理において、前記位置情報を参照して前
    記部分画像の合成画像上における位置を決定する処理の
    計算範囲を限定する補正量候補設定装置を備えることを
    特徴とする画像入力装置。
  3. 【請求項3】撮像装置により撮像した対象の部分画像を
    前記撮像装置の移動によって複数取得し、前記部分画像
    群から画像合成処理により合成画像を生成する画像入力
    装置において、 部分画像取得時の前記撮像装置の位置情報を取得する位
    置検出装置と、 前記撮像装置と前記対象とを一定の距離を保ったまま移
    動するように固定するとともに、前記位置検出装置と前
    記撮像装置を一体化する支持装置と、 前記位置情報と、前記位置検出装置の特性および前記撮
    像装置の特性を参照して前記部分画像の合成画像上にお
    ける位置を決定する処理の対象範囲を位置補正量候補集
    合に限定する補正量候補設定装置と、 前記位置補正量候補集合の中から、前記部分画像の最良
    補正量を前記部分画像間の位置合わせ処理により決定
    し、前記位置検出装置が検出した前記部分画像の位置情
    報を補正する位置補正装置とを備え、 前記画像合成処理において、前記位置補正装置により補
    正された位置情報から、前記部分画像を合成画像上に合
    成することを特徴とする画像入力装置。
  4. 【請求項4】前記特性が、前記位置検出装置の精度と、
    前記撮像装置の解像度であることを特徴とする請求項3
    に記載の画像入力装置。
  5. 【請求項5】撮像装置により撮像した対象の部分画像を
    前記撮像装置の移動によって複数取得し、前記部分画像
    群から画像合成処理により合成画像を生成する画像入力
    装置において、 部分画像取得時の前記撮像装置の位置情報を取得する位
    置検出装置と、 前記撮像装置と前記対象とを一定の距離を保ったまま移
    動するように固定するとともに、前記位置検出装置と前
    記撮像装置を一体化する支持装置と、 前記撮像装置により撮像した部分画像を記憶するための
    部分画像メモリと、 前記部分画像の撮像時の位置情報と、前記部分画像の位
    置情報の補正の結果を含む属性情報を記憶する画像属性
    テーブルと、 前記撮像装置より得られた部分画像を前記部分画像メモ
    リに記憶すると共に、前記位置検出装置により得られた
    撮像装置の位置情報から部分画像の前記属性情報の合成
    画像上における位置情報を生成し、前記位置情報を前記
    画像属性テーブルに記憶させる画像取得装置と、 前記画像属性テーブルに記憶されている属性情報と、前
    記位置検出装置と前記撮像装置の特性を参照して、前記
    画像合成処理における部分画像の前記位置情報の補正量
    の候補を限定した位置補正量候補集合を設定する補正量
    候補設定装置と、 前記部分画像メモリに記憶されている部分画像、前記画
    像属性テーブルに記憶されている属性情報、および前記
    補正量候補設定装置により設定された位置補正量候補集
    合を参照して、部分画像間で位置合わせを行い最適な補
    正量を決定し、画像属性テーブルの該当する部分画像の
    位置情報の補正の結果を更新する位置補正装置と、 前記部分画像メモリに記憶されている部分画像および前
    記位置補正装置により更新された画像属性テーブルに記
    憶されている属性情報を参照して部分画像の合成処理を
    行う合成装置とを備えることを特徴とする画像入力装
    置。
  6. 【請求項6】前記支持装置が、前記撮像装置と対象との
    距離を変更可能であることを特徴とする請求項1、2、
    3、4または5に記載の画像入力装置。
JP02635096A 1996-02-14 1996-02-14 画像入力装置 Expired - Fee Related JP3191659B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP02635096A JP3191659B2 (ja) 1996-02-14 1996-02-14 画像入力装置
US08/799,456 US5909521A (en) 1996-02-14 1997-02-13 Multi-shot still image reader

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP02635096A JP3191659B2 (ja) 1996-02-14 1996-02-14 画像入力装置

Publications (2)

Publication Number Publication Date
JPH09218941A true JPH09218941A (ja) 1997-08-19
JP3191659B2 JP3191659B2 (ja) 2001-07-23

Family

ID=12191022

Family Applications (1)

Application Number Title Priority Date Filing Date
JP02635096A Expired - Fee Related JP3191659B2 (ja) 1996-02-14 1996-02-14 画像入力装置

Country Status (1)

Country Link
JP (1) JP3191659B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6459819B1 (en) 1998-02-20 2002-10-01 Nec Corporation Image input system
US6625332B1 (en) 1999-10-05 2003-09-23 Nec Corporation Computer-implemented image registration
JP2006031552A (ja) * 2004-07-20 2006-02-02 Sony Corp 画像入力装置
JP2008278143A (ja) * 2007-04-27 2008-11-13 Toshiba Corp 構造物の目視検査装置およびその検査方法
JP2012156984A (ja) * 2011-01-27 2012-08-16 Seiko Epson Corp 画像フレームを位置合わせする方法、スキャニング装置、およびコンピューター読み取り可能な媒体
JP2014529922A (ja) * 2011-08-02 2014-11-13 ビューズアイキュー インコーポレイテッドViewsIQ Inc. デジタル顕微鏡撮像の装置及び方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6459819B1 (en) 1998-02-20 2002-10-01 Nec Corporation Image input system
US6625332B1 (en) 1999-10-05 2003-09-23 Nec Corporation Computer-implemented image registration
JP2006031552A (ja) * 2004-07-20 2006-02-02 Sony Corp 画像入力装置
JP4595420B2 (ja) * 2004-07-20 2010-12-08 ソニー株式会社 画像入力装置
JP2008278143A (ja) * 2007-04-27 2008-11-13 Toshiba Corp 構造物の目視検査装置およびその検査方法
WO2008136348A1 (ja) * 2007-04-27 2008-11-13 Kabushiki Kaisha Toshiba 外観検査装置および外観検査方法
US8379081B2 (en) 2007-04-27 2013-02-19 Kabushiki Kaisha Toshiba Appearance inspection apparatus and appearance inspection method
JP2012156984A (ja) * 2011-01-27 2012-08-16 Seiko Epson Corp 画像フレームを位置合わせする方法、スキャニング装置、およびコンピューター読み取り可能な媒体
JP2014529922A (ja) * 2011-08-02 2014-11-13 ビューズアイキュー インコーポレイテッドViewsIQ Inc. デジタル顕微鏡撮像の装置及び方法

Also Published As

Publication number Publication date
JP3191659B2 (ja) 2001-07-23

Similar Documents

Publication Publication Date Title
US10547833B2 (en) Camera calibration system, target, and process
US7123292B1 (en) Mosaicing images with an offset lens
US7001024B2 (en) Image input apparatus using projected light
JP3817119B2 (ja) 画像入力装置
US7733404B2 (en) Fast imaging system calibration
JP4164703B2 (ja) 広視野画像入力方法及び装置
JP3109469B2 (ja) 画像入力装置
JP2002152485A (ja) 撮像装置、撮像画像の合成方法、画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体及び撮像システム
JP2003015218A (ja) 投影型表示装置
US5909521A (en) Multi-shot still image reader
US11196929B2 (en) Signal processing device, imaging device, and signal processing method
JP3191659B2 (ja) 画像入力装置
JP3109580B2 (ja) 画像入力装置および画像入力装置の画像処理プログラムを記録したコンピュータが読み取り可能な記録媒体
JP2007065669A (ja) イメージ・ブロックを合成し顕微鏡スライドのシームレスな拡大イメージを作成するシステム及び方法
US20010031099A1 (en) Image processing system, image sensing device, and computer program
JP4145014B2 (ja) 画像処理装置
JP6980480B2 (ja) 撮像装置および制御方法
JP4324271B2 (ja) 画像処理装置およびその方法
CN115684012A (zh) 视觉检测系统、校准方法、装置和可读存储介质
JPH0865567A (ja) 撮像装置
JP2004220371A (ja) 画像処理方法および画像処理装置ならびに画像処理プログラムおよび画像処理プログラムを記録した記録媒体
JP2008235958A (ja) 撮像装置
JP4993686B2 (ja) 対応点探索方法および3次元位置計測方法
JP2004274254A (ja) 画像入力装置
JP2006179031A (ja) 画像入力装置

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20010424

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090525

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100525

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110525

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110525

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120525

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120525

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130525

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140525

Year of fee payment: 13

LAPS Cancellation because of no payment of annual fees