JP3814322B2 - データ入力装置及びデータ入力方法 - Google Patents

データ入力装置及びデータ入力方法 Download PDF

Info

Publication number
JP3814322B2
JP3814322B2 JP01003896A JP1003896A JP3814322B2 JP 3814322 B2 JP3814322 B2 JP 3814322B2 JP 01003896 A JP01003896 A JP 01003896A JP 1003896 A JP1003896 A JP 1003896A JP 3814322 B2 JP3814322 B2 JP 3814322B2
Authority
JP
Japan
Prior art keywords
pupil
data input
display unit
detected
cursor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP01003896A
Other languages
English (en)
Other versions
JPH09204260A (ja
Inventor
博司 細川
敏彦 河島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP01003896A priority Critical patent/JP3814322B2/ja
Publication of JPH09204260A publication Critical patent/JPH09204260A/ja
Application granted granted Critical
Publication of JP3814322B2 publication Critical patent/JP3814322B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Position Input By Displaying (AREA)

Description

【0001】
本発明は、データ入力装置及びデータ入力方法、特に、表示装置上の位置を示すカーソル移動のためのデータ入力装置及びデータ入力方法に関する。
【0002】
【従来の技術】
従来のポインティングデバイスは、例えば、マウスやタブレットのように、手でポインティングデバイスを掴み、移動させることによって、その移動方向や移動量のデータをコンピュータなどに送信し、コンピュータ側で、表示画面に対応するカーソルを表示させて移動させていた。
【0003】
【発明が解決しようとする課題】
しかしながら、上記従来例では、手でポインティングデバイスを移動させて、カーソル位置の移動を行うコンピュータシステム構成であったため、カーソルを移動させる目的の位置を目で確認した後、目的位置と異なる位置にあるカーソルをその目的位置まで移動するようにポインティングデバイスを操作する必要があった。
【0004】
本発明は上記従来例に鑑みてなされたもので、手を使わなくてもカーソル表示を高速かつ正確に移動設定できるデータ入力装置及びデータ入力方法を提供することを目的とする。
【0005】
上記目的を達成するため、本発明のデータ入力装置及びデータ入力方法は以下の構成を備える。即ち、
本発明のデータ入力装置は、表示部の一部を見る瞳の位置を検出する検出手段と、前記検出された位置に対応する前記表示部での座標を計算する計算手段と、前記表示手段の前記座標位置にカーソルを表示する表示手段と、前記表示部の所定の領域内に前記瞳の位置があるか否かによって、前記検出手段と前記計算手段と前記表示手段とでの処理を活性化するか否かを切換える切換え手段とを備える。
【0006】
また、本発明のデータ入力方法は、表示部の一部を見る瞳の位置を検出する検出工程と、前記検出された位置に対応する前記表示部での座標を計算する計算工程と、前記表示部の前記座標位置にカーソルを表示する表示工程と、前記表示部の所定の領域内に前記瞳の位置があるか否かによって、前記検出工程と前記計算工程と前記表示工程とでの処理を活性化するか否かを切換える切換え工程と
を備える
【0009】
まず、本実施の形態のデータ入力方法とその装置の構成の一つのポイント要約した後に、詳細な説明に入る。本実施の形態は、光を検知する媒体を用意し、その媒体に映された瞳の画像を検知する機能を持ち、検知した瞳からその座標を演算し、表示装置の演算された座標にカーソルを表示する。この構成において、表示装置を見る目の視線方向に追従してカーソルを自動的に移動・表示する。
【0010】
また、別の実施の形態では、視線方向によって、ポインテイングデバイスのボタン動作を指示する処理構成を有する。
(第1の実施の形態)
図1は、本発明の特徴を最も良く表す図面である。
【0011】
同図において、101はハーフミラー、102は視線検知用チャージ・カップルド・デバイス(以下CCD)マトリクス、103は表示装置、104は目、105は表示装置上の位置を示すカーソル、106は表示装置103の原点座標、107は視線検知用CCDマトリクス102の原点座標である。
表示装置103の原点106から108の方向をX座標方向、109の方向をY座標方向とし、座標値が増加する。
【0012】
視線検知用CCDマトリクスの原点107から110の方向をX座標方向、111の方向をY座標方向とし、座標値が増加する。
また、表示装置と視線検知用CCDマトリクスの座標は1対1に対応している。
視線検知用CCDマトリクス102は、光入力により電荷を発生するCCDを2次元平面に敷き詰めた媒体であり、電荷の分布を検知することにより目の位置112を検知し、視線方向を検出する。
【0013】
104の目から表示装置103上の画面を見る場合、ハーフミラー101から反射された光(目104の像を含む)が視線検知用CCDマトリクス102にぶつかる。そして、その光量の分布に対応して視線検知用CCDマトリクス102に目104の像に対応した電荷の分布を発生させる。その分布を解析することによって、CCDマトリクス102上での目104に対応する位置112が検知され、検知された視線位置に対応する表示装置103上での位置にカーソル105を表示する。
【0014】
視線検知用CCDマトリクス102は、CCDデータ入力制御部によって制御され、CCDマトリクス102からのデータを入力し、CPU122やRAM124に転送する。
表示ドライバ121は、表示装置103を駆動を行い、CPU122やRAM124から転送される表示データを表示装置103に表示させる。
【0015】
ROMには、後述する各種フローチャートの処理に対応するプログラムが格納されており、CPU122によって、逐次読み出され実行される。
CPU122は、上述の各部の処理全体を制御する。
図2は、CCDにより視線を検知する機構を示した図である。
図2を参照して、102は視線検知用CCDマトリクス、112は視線検知用CCDマトリクス上に投影された目の瞳孔の画像である。
【0016】
また、201は瞳のX,Y座標の最小座標(Xmin,Ymin)であり、202は瞳のX,Y座標の最大座標(Xmax,Ymax)である。
瞳の最小座標201と最大座標202から、瞳の中心の座標:
(Xmax−Xmin,Ymax−Ymin)
を求める。求められた瞳の中心の座標に対応する表示装置103上の位置にカーソル105を移動/表示する。
【0017】
図3は、本実施の形態のカーソル移動表示処理のアルゴリズムを示す。
まず、ステップS301で電源投入されると、ステップS302で、視線検知用CCDマトリクスに投影された瞳の最小座標及び最大座標を検知する。
ステップS303では、ステップS302で検知された座標より、瞳の中心座標を算出する。
【0018】
ステップS304では、瞳の中心座標に対応する表示装置上の位置にカーソルを移動する。
ステップS305では、電源がオフにされたかどうかチェックし、オフでなければ、ステップS302に戻り、同様の処理を繰り返す。オフであれば、処理を終了する。
【0019】
以上説明したように、本実施の形態によれば、従来の手動のポインテイングデバイスを用いることなく、所要の位置に視線を移動させるだけで、カーソルの位置を設定することができる。
(第2の実施の形態)
次に、第2の実施の形態のデータ入力方法とその装置は、特に、手が不自由等の身体障害者向きの装置であって、カーソルの移動設定を容易に行うことができる。
【0020】
図4は、第2の実施の形態の特徴を最も良く表しており、401は第1の実施の形態(図1参照)と同じ構成の装置、402はスイッチ、403は防水カバーである。
第1の実施の形態の装置により移動したカーソル位置において、402のスイッチを押すことで、ポインテイングデバイスのボタンのエミュレーション、即ち、ボタンのオンオフに対応してカーソル移動処理を行うかどうかの指示を行う。
【0021】
このスイッチには、防水カバー403または、スイッチに防水機構が装備されており、人間は口の中でそのスイッチのオンオフを容易に制御できる。
図5は、第2の実施の形態の処理アルゴリズムを示す。
まず、ステップS501で電源投入されると、ステップS502で、スイッチのオン・オフを検知する。そして、スイッチがオンの場合は、ステップS503へ進み、視線の移動に対応したカーソルの移動処理である、上述したステップS302からステップS304と同じ処理を行う。
【0022】
ステップS504では、電源がオフにされたかどうかチェックし、オフでなければ、ステップS502に戻り、同様の処理を繰り返す。オフであれば、処理を終了する。
本実施の形態によれば、ポインテイングデバイスのクリックボタンに対応するスイッチを備え、視線の移動によるカーソルの移動の実行、非実行の指示を容易に行うことができる。また特に、そのスイッチは、人間は口の中でオンオフを容易に制御できるため、身体障害者等にとっても、容易にカーソルの移動を操作することができる。
(第3の実施の形態)
図6は、第3の実施の形態の特徴を最も良く表しており、601は第1の実施の形態のデータ入力装置であり、602は、視線の移動によりカーソルの移動処理を行うか否かを制御するスイッチである。
【0023】
第3の実施の形態のデータ入力装置は、第2の実施の形態で説明したデータ処理を同じ処理を行う。
(第4の実施の形態)
第4の実施の形態は、第1の実施の形態のデータ入力装置を、撮像装置に適用した応用例である。
【0024】
図7は、第4の実施の形態の特徴を最も良く表しており、701は、第1の実施の形態のデータ入力装置の機能を内蔵した撮像装置(以下スチルビデオカメラ)、702はポインテイングデバイスのクリックボタンに対応するスイッチ、703はそのデータ入力装置の機能とスチルビデオカメラの機能を切り替えるスイッチである。
【0025】
本実施の形態での視点の移動に対するカーソルの移動設定処理結果に基づいて、スチルビデオカメラ701はフォーカシングの調整等を行ことができる。視線の移動だけで撮像対象にたいするフォーカシングが可能なため、ユーザの別の手段による調整を不要とすることができ便利である。
図8は第4の実施の形態の処理アルゴリズムを示しており、
ステップS801で電源投入されると、ステップS802で機能切り替えスイッチ703のオンオフの状態を検出する。
【0026】
即ち、ユーザが、機能切り替えスイッチ703のオンオフを設定することにより、本発明に係る一実施の形態の視線移動によるカーソル移動処理モードを選択するか、または、設定されたカーソル一に基づきフォーカシングなどの処理を行って、通常の撮像処理を行うモードを選択する。
ステップS803で、この検出結果を判定し、オンであれば、ステップS805へ進み、オフであれば、ステップS804へ進む。
【0027】
ステップS805では、視線によるカーソル移動処理、即ち、上述したステップS302からステップS304と同じ処理を行う。
ステップS806では、電源がオフにされたかどうかチェックし、オフでなければ、ステップS802に戻り、同様の処理を繰り返す。オフであれば、処理を終了する。
【0028】
ステップS804では、ステップS805で設定されたカーソル位置に基づき、撮像対象に対するフォーカシングを行う。そして、実際の撮像に関する諸々の処理を行う。この処理は、通常のカメラでの処理と同様であるので説明を省略する。
以上説明したように、本実施の形態によれば、本発明に係る一実施の形態のデータ入力方法とその装置を撮像装置に適用することにより、人間の物理的操作が最小で、対象被写体の特定ができ、また、その結果を元に、フォーカシング等の処理を自動的に行うことができる。
(第5の実施の形態)
第5の実施の形態は、第4の実施の形態の撮像装置に対してさらに、内蔵する表示装置の一角に、第4の実施の形態で説明した視線によるカーソル移動処理かその他の撮像機能の処理を行うかの判定を、表示装置103の領域に”機能切り換え指定領域”を設け、ユーザの目がその領域を向くことにより、その領域のオンオフを検出することにより、さらにユーザの物理的操作を軽減した撮像方法とその装置に関する。
【0029】
図9は、第5の実施の形態の特徴を最も良く表しており、901は基本的に第4の実施の形態に示した機能と同じ機能を有する撮像装置(スチルビデオカメラ)であり、902はカーソル移動処理を実行するか否かを指定するスイッチである。
また、表示装置103は、スチルビデオカメラ901に内蔵されている表示装置の様子を説明するために、外に引き出して拡大した様子を示す。
【0030】
903は、上述した機能切り換え指示領域である。
また、105は、ユーザの視線が向いている位置を示すカーソルを意味する。
次に、図10は、第5の実施の形態の処理アルゴリズムを示す。以下、図10を参照して、本実施の形態の撮像装置の処理手順を説明する。
まず、ステップS1001で電源投入されると、ステップS1002は、機能切り換え指示領域903に視線があるかどうかを検出する。
【0031】
ステップS1003では、ステップS1001での検出結果、機能切り換え指示領域903に視線があれば、ステップS1004へ進む。逆に、なければステップS1006へ進む。
ステップS1004では、視線によるカーソル移動処理を行う。その詳細を図11に示す。まず、ステップS1101では、スイッチ902がオンかどうかチェックし、オンであれば、ステップS1102へ進み、視線方向によるカーソル移動を行う。この処理は、上述したステップS302からステップS304と同じ処理であるので説明を割愛する。他方、スイッチ902がオフであれば、何の処理も行わず、ステップS805の処理を終了する。
【0032】
ステップS1005では、電源がオフにされたかどうかチェックし、オフでなければ、ステップS1002に戻り、同様の処理を繰り返す。オフであれば、処理を終了する。
ステップS1006では、ステップS1004で設定されたカーソル位置に基づき、撮像対象に対するフォーカシングを行う。そして、実際の撮像に関する諸々の処理を行う。この処理は、通常のカメラでの処理と同様であるので説明を省略する。
【0033】
以上説明したように、本実施の形態によれば、表示装置内に表示した機能切り替え指示領域をユーザの視線が向くかどうかを判定することにより、さらにユーザの物理的操作を軽減することができる。
尚、本発明は、複数の機器から構成されるシステムに適用しても、1つの機器から成る装置に適用しても良い。また、本発明はシステム或は装置にプログラムを供給することによって達成される場合にも適用できることはいうまでもない。
【0034】
以上説明したように、以上説明した各実施の形態によれば、視線を移動するだけでカーソルを移動させることができ、また、視線の方向が所定の領域上にあるかどうかを判定することにより、従来のポインテイングデバイスのクリックボタンからの入力と同等の入力情報が得られるため、
・手を使わなくてもカーソルが移動できる
・高速にカーソルが移動できる
・正確にカーソルが移動できる
・ポインテイングデバイスのクリックボタンのエミュレーションが可能
・処理の種類の選択等を物理的操作なしで実現できる
等の顕著な効果がある。
【0035】
尚、上述した表示装置103の領域に”機能切り換え指定領域”を設け、ユーザの目がその領域を向くことにより、その領域のオンオフを検出することにより、さらにユーザの物理的操作を軽減した撮像方法とその装置では、カーソルの移動処理かその他の撮像処理を実行するかの選択スイッチとして用いることを説明したが、その領域のスイッチとしての用途は上述の用途に限られるものではなく、他の撮像処理のどの工程にでも適用できることは言うまでもない。
【0036】
【発明の効果】
以上説明したように本発明によれば、手を使わなくてもカーソル表示を高速にかつ正確に移動設定できる。
【図面の簡単な説明】
【図1】本実施の形態のデータ入力装置の構成図である。
【図2】本実施の形態のデータ入力装置でのCCDマトリクスで検出された瞳の電荷分布の様子を説明する図である。
【図3】本実施の形態のデータ入力装置のカーソル移動処理手順を示すフローチャートである。
【図4】口の中で操作可能なスイッチをさらに備えるデータ入力装置を説明する図である。
【図5】図4で示した実施の形態のデータ入力装置でのカーソル移動処理手順を示すフローチャートである。
【図6】本発明に係る他の実施の形態のデータ入力装置を説明する図である。
【図7】カーソル移動処理か撮像処理を選択するかを選択するスイッチを備えた本実施の形態の撮像装置を説明する図である。
【図8】図7で示した実施の形態のデータ入力装置での撮像処理手順を示すフローチャートである。
【図9】スイッチの機能を、表示装置の一部に所定の画像を表示して、視線がその領域上にあつことを検出することにより実現した撮像装置の構成を説明する図である。
【図10】図9で示した実施の形態のデータ入力装置での撮像処理手順を示すフローチャートである。
【図11】図10で示した実施の形態のデータ入力装置での撮像処理手順を示すフローチャートである。
【符号の説明】
101 ハーフミラー
102 視線検知用CCDマトリクス
103 表示装置
104 目
105 カーソル
402 スイッチ
403 防水カバー

Claims (10)

  1. 表示部を見る瞳の位置を検出する検出手段と、
    検出された前記瞳の位置に対応する前記表示部での座標を計算する計算手段と、
    前記表示にカーソルを表示する表示手段と、
    前記表示部の予め定めた領域内に前記瞳の位置があるか否かによって、カーソル移動処理とカメラ機能処理を切換える切換え手段と
    前記カーソル移動処理を実行するか否かを切り換える切り替えスイッチと、
    を備えることを特徴とする撮像装置のデータ入力装置。
  2. 前記検出手段は、
    前記瞳と前記表示部との間の予め定めた位置に配置されたハーフミラーと、
    前記瞳からの光が前記ハーフミラーで反射された反射光を受ける予め定めた位置に配置されたCCDマトリクスを含み、
    前記瞳の像とその位置を、前記CCDマトリクスに前記反射光に反応して充電された電荷パタンと前記瞳を代表する電荷パタンとの一致に基づき、検出することを特徴とする請求項1に記載の撮像装置のデータ入力装置。
  3. 前記CCDマトリクスの各CCDは、入力する光エネルギーを電荷量に変換する素子であり、
    前記CCDマトリクスは、前記素子をマトリクス状に配列させ、広い面積で入力する光を検出することを特徴とする請求項2に記載の撮像装置のデータ入力装置。
  4. 前記計算手段は、前記表示部と前記ハーフミラーと前記CCDマトリクスの各位置関係に基づいて、前記検出された位置に対応する前記表示部での座標を計算することを特徴とする請求項2に記載の撮像装置のデータ入力装置。
  5. 検出された前記瞳の位置の座標は、前記検出された瞳の像の最大座標と最小座標に基づき求められた前記瞳の像の中心座標であることを特徴とする請求項2に記載の撮像装置のデータ入力装置。
  6. 表示部を見る瞳の位置を検出する検出工程と、
    検出された前記瞳の位置に対応する前記表示部での座標を計算する計算工程と、
    前記表示部にカーソルを表示する表示工程と、
    前記表示部の予め定めた領域内に前記瞳の位置があるか否かによって、カーソル移動処理とカメラ機能処理を切換える切換え工程と
    前記カーソル移動処理を実行するか否かを切り換える切替え工程と、
    を備えることを特徴とする撮像装置のデータ入力方法。
  7. 前記検出工程は、
    前記瞳と前記表示部との間の予め定めた位置に配置されたハーフミラーで反射された前記瞳からの光を入力する、予め定めた位置に配置されたCCDマトリクスで生成される電荷パタンと、前記瞳を代表する電荷パタンとの一致に基づき、前記瞳の像とその位置を検出することを特徴とする請求項6に記載の撮像装置のデータ入力方法。
  8. 前記CCDマトリクスの各CCDは、入力する光エネルギーを電荷量に変換する素子であり、
    前記CCDマトリクスは、前記素子をマトリクス状に配列させ、広い面積で入力する光を検出することを特徴とする請求項7に記載の撮像装置のデータ入力方法。
  9. 前記計算工程は、前記表示部と前記ハーフミラーと前記CCDマトリクスの各位置関係に基づいて、前記検出された位置に対応する前記表示部での座標を計算することを特徴とする請求項7に記載の撮像装置のデータ入力方法。
  10. 検出された前記瞳の座標は、検出された前記瞳の像の最大座標と最小座標に基づき求められた前記瞳の像の中心座標であることを特徴とする請求項6に記載の撮像装置のデータ入力方法。
JP01003896A 1996-01-24 1996-01-24 データ入力装置及びデータ入力方法 Expired - Fee Related JP3814322B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP01003896A JP3814322B2 (ja) 1996-01-24 1996-01-24 データ入力装置及びデータ入力方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP01003896A JP3814322B2 (ja) 1996-01-24 1996-01-24 データ入力装置及びデータ入力方法

Publications (2)

Publication Number Publication Date
JPH09204260A JPH09204260A (ja) 1997-08-05
JP3814322B2 true JP3814322B2 (ja) 2006-08-30

Family

ID=11739234

Family Applications (1)

Application Number Title Priority Date Filing Date
JP01003896A Expired - Fee Related JP3814322B2 (ja) 1996-01-24 1996-01-24 データ入力装置及びデータ入力方法

Country Status (1)

Country Link
JP (1) JP3814322B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003196017A (ja) * 2001-12-25 2003-07-11 Gen Tec:Kk データ入力方法及び同装置等
KR100749033B1 (ko) * 2004-03-03 2007-08-13 학교법인 한국정보통신학원 두 눈에서 반사되는 빛을 추적하여 단말기를 조작하는방법, 및 그 장치
JP5387557B2 (ja) * 2010-12-27 2014-01-15 カシオ計算機株式会社 情報処理装置及び方法、並びにプログラム
JP6599176B2 (ja) * 2015-08-28 2019-10-30 三菱重工サーマルシステムズ株式会社 ターボ冷凍装置

Also Published As

Publication number Publication date
JPH09204260A (ja) 1997-08-05

Similar Documents

Publication Publication Date Title
JP3114813B2 (ja) 情報入力方法
JP4032404B2 (ja) 操作装置
CN107430278B (zh) 基于用户的上下文敏感全息图反应
JPH0844490A (ja) インターフェイス装置
EP1329838B1 (en) Pointing device using the image of the hand
JPH0749744A (ja) 頭部搭載型表示入力装置
JP6601402B2 (ja) 制御装置、制御方法およびプログラム
JP2008129775A (ja) 表示制御装置、表示装置、表示制御方法
JPH07135595A (ja) 位置指示装置
US20040189804A1 (en) Method of selecting targets and generating feedback in object tracking systems
KR20200144057A (ko) 전자기기, 그 제어 방법 및 기억매체
CN109992175B (zh) 用于模拟盲人感受的物体显示方法、装置及存储介质
JPH07271546A (ja) 画像表示制御方法
JP3814322B2 (ja) データ入力装置及びデータ入力方法
EP0921678A1 (en) Image generating device and image generating method
JP3792907B2 (ja) ハンドポインティング装置
KR20200125470A (ko) 전자기기, 제어 방법, 및 컴퓨터 판독 가능한 매체
GB2345538A (en) Optical tracker
JP2000276577A (ja) 画像感応型イベント発生装置
Ainasoja et al. Smartphone teleoperation for self-balancing telepresence robots
JPH07160412A (ja) 指示位置検出方法
JP2001145094A (ja) カメラ制御システムおよびその方法およびその動作処理プログラムを記憶した記憶媒体
JP2000101990A (ja) 監視カメラ装置
JP5951966B2 (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP3165824B2 (ja) 情報共有装置、その情報提示方法および記録媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050415

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050902

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060605

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090609

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100609

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110609

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120609

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120609

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130609

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees