JP3530647B2 - 視線検出装置及び光学装置 - Google Patents

視線検出装置及び光学装置

Info

Publication number
JP3530647B2
JP3530647B2 JP22860795A JP22860795A JP3530647B2 JP 3530647 B2 JP3530647 B2 JP 3530647B2 JP 22860795 A JP22860795 A JP 22860795A JP 22860795 A JP22860795 A JP 22860795A JP 3530647 B2 JP3530647 B2 JP 3530647B2
Authority
JP
Japan
Prior art keywords
line
observer
signal
sight
eyeball
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP22860795A
Other languages
English (en)
Other versions
JPH0951873A (ja
Inventor
良昭 入江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP22860795A priority Critical patent/JP3530647B2/ja
Publication of JPH0951873A publication Critical patent/JPH0951873A/ja
Priority to US08/900,398 priority patent/US5926655A/en
Application granted granted Critical
Publication of JP3530647B2 publication Critical patent/JP3530647B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、観察者が観察面の
どの位置を注視しているかを検出する視線検出装置及び
該装置を具備したカメラ等の光学装置の改良に関するも
のである。
【0002】
【従来の技術】従来より、撮影者(観察者)の視線方向
を検知し、撮影者がファインダ視野内のどの領域(位
置)を観察しているか、いわゆる撮影者の注視方向をカ
メラの一部に設けた視線検出手段で検知し、該視線検出
手段からの信号に基づいて自動焦点調節や自動露出等の
各種撮影機能を制御するようにしたカメラが種々提案さ
れている。
【0003】例えば本願出願人は、特開平1−2415
11号公報において、撮影者の注視方向を検出する視線
検出手段と、複数個の測光感度分布を持つ自動露出制御
手段とを有し、前記視線検出手段からの出力信号に基づ
いて焦点検出手段や自動露出制御手段の駆動を制御する
ようにしたカメラを提案している。
【0004】また、上記視線検出中に観察者の「瞬き」
あるいは「ウインク」を検出する手段、及び、該手段に
よって行われた判定に従って、各機器の制御を行う提案
も種々なされている。
【0005】特開平4−279143号公報において
は、被検者の眼球像信号の中に、被検者の瞳孔像信号が
有れば該眼球像信号の総和レベルが下がり、瞳孔像信号
が無ければ該眼球像信号総和レベルが上がることを利用
して、該眼球像信号総和レベルを所定の基準値と比較す
ることで、該被検者の「瞬き」を判定する眼球運動検査
装置が提案されている。
【0006】また、特開平6−208158及び特開平
6−308371公報においては、撮影者の眼球を照明
し、それによって生じる該眼球の角膜反射像の有無を検
出することで、該撮影者の「瞬き」あるいは「ウイン
ク」を検出するカメラが提案されている。
【0007】
【発明が解決しようとする課題】しかしながら、上記眼
球像信号総和レベルにおける瞳孔有無による該信号レベ
ルの変化から撮影者の「瞬き」を検知する方法は、照明
装置以外の光、つまり太陽光等の外光の影響を受ける環
境においては、撮影者の瞳孔自体が小さくなり、また視
線検出光学系と被検者の眼球の距離が離れると同じよう
に眼球像信号中に瞳孔像信号の占める割合が低下し、瞳
孔有無の判定が困難となる。
【0008】さらに、視線検出光学系と被検者の相対位
置が変化すると瞳孔有無の判定基準となる閾値が特定で
きなくなるという問題があり、また、外光の影響の無い
室内において単純に眼球像信号の最低値にのみ着目して
も、照明装置の照明むらや光学的要因によって、眼球像
を得るための撮像素子の周辺部の光量落ちが発生して、
該最低値が必ずしも瞳孔の信号であるとは限らないとい
う問題もある。
【0009】更に、角膜反射像の有無によって撮影者の
「瞬き」を検出する方法については、やはり外光の影響
下において、まつ毛やまぶたが強く光り、角膜反射像と
の区別がつきにくいという問題があった。
【0010】(発明の目的)本発明の目的は、観察者が
視線検出中に瞬きをしたことを正確に検出することので
きる視線検出装置及び光学装置を提供することにある。
【0011】
【課題を解決するための手段】上記目的を達成するため
に、請求項1又は8に記載の本発明は、視線情報を検出
中に観察者が瞬きを行ったか否かを、観察者の眼球像信
号中の複数の画素信号を平均化して求めた複数のブロッ
ク信号出力中の最低値と、観察者の眼球近傍や当該視線
検出装置の使用環境を測光する測光手段の出力信号に応
じて変化する閾値との比較により判定するようにした視
線検出装置又は該視線検出装置を具備した光学装置とす
るものであるまた、請求項2又は8に記載の本発明
は、視線情報を検出中に観察者が瞬きを行ったか否か
を、観察者の眼球像信号中の複数の画素信号を平均化し
て求めた複数のブロック信号出力中の最低値と、観察者
の眼球と当該視線検出装置の観察面との距離を測定する
距離検出手段の出力信号に応じて変化する閾値との比較
により判定するようにした視線検出装置又は該視線検出
装置を具備した光学装置とするものである。また、請求
項3又は8に記載の本発明は、視線情報を検出中に観察
者が瞬きを行ったか否かを、観察者の眼球像信号中の複
数の画素信号を平均化して求めた複数のブロック信号出
力中の最低値と、観察者が眼鏡を装着しているか否かの
判定を行う眼鏡判定手段の出力信号に応じて変化する閾
値との比較により判定するようにした視線検出装置又は
該視線検出装置を具備した光学装置とするものである。
【0012】
【発明の実施の形態】以下、本発明を図示の実施の形態
に基づいて詳細に説明する。
【0013】図1は本発明を一眼レフカメラに適用した
ときの実施の第1の形態を示す要部構成図、図2
(A),(B)は図1の一眼レフカメラの上面及び背面
を示す図、図3は同じく図1の一眼レフカメラのファイ
ンダ内を示す図である。
【0014】これらの図において、1は撮影レンズで、
便宜上2枚のレンズで示したが、実際はさらに多数のレ
ンズから構成されている。2は主ミラーで、ファインダ
系による被写体像の観察状態と被写体像の撮影状態に応
じて撮影光路へ斜設され或は退去される。3はサブミラ
ーで、主ミラー2を透過した光束をカメラボディの下方
の後述する焦点検出装置6へ向けて反射する。
【0015】4はシャッタ、5は感光部材で、銀塩フィ
ルム或はCCDやMOS型等の固体撮像素子、或は、ビ
ディコン等の撮像管より成っている。
【0016】6は焦点検出装置であり、結像面近傍に配
置されたフィールドレンズ6a,反射ミラー6b及び6
c,二次結像レンズ6d,絞り6e,複数のCCDから
成るラインセンサ6f等から構成されている。
【0017】本例における焦点検出装置6は、周知の位
相差方式にて焦点検出を行うものであり、図3に示すよ
うに、被写界内の複数の領域(測距点マーク70〜74
で示される5箇所)を測距点(焦点検出点)として、該
測距点が焦点検出可能となるように構成されている。
【0018】7は撮影レンズ1の予定結像面に配置され
たピント板、8はファインダ光路変更用のペンタプリズ
ムである。9,10は各々観察画面内の被写体輝度を測
定するための結像レンズと測光センサであり、結像レン
ズ9はペンタプリズム8内の反射光路を介してピント板
7と測光センサ10を共役に関係付けている。
【0019】11は、ペンタプリズム8の射出後方に配
置される、光分割器11aを備えた接眼レンズ11であ
り、撮影者の眼15によるピント板7の観察に使用され
る。光分割器11aは、例えば可視光を透過し赤外光を
反射するダイクロイックミラーより成っている。
【0020】上記の主ミラー2,ピント板7,ペンタプ
リズム8,接眼レンズ11によってファインダ光学系が
構成されている。
【0021】12は結像レンズ、14はCCD等の光電
変換素子であり、縦横それぞれ「60×80」画素から
成るイメージセンサで、結像レンズ12に関して所定の
位置にある撮影者の眼球15の瞳孔近傍と共役になるよ
うに配置されている。13a〜13fは各々照明光源で
あるところの赤外発光ダイオード(以下、IREDと記
す)で、図2(B)に示すように接眼レンズ11の回り
に配置されている。
【0022】これらと前述のダイロイックミラー11a
とによって視線検出装置が構成されている。
【0023】21は明るい被写体の中でも視認できる高
輝度のスーパーインポーズ用LEDで、ここから発光さ
れた光は投光用プリズム22を介し、主ミラー2で反射
されてピント板7の表示部に設けた微小プリズムアレイ
7aで垂直方向に曲げられ、ペンタプリズム8,接眼レ
ンズ11,接眼部の開口17を通って撮影者の眼15に
達する。
【0024】つまり、図3に示したファインダ視野から
判かるように、各々の測距点マーク70〜74がファイ
ンダ視野内で光り、焦点検出領域(検出点)を表示させ
ることができるものである(以下、これをスーパーイン
ポーズ表示という)。
【0025】図3において、左右の測距点マーク70,
74の内部には、ドットマーク70’、74’が刻印さ
れており、これは眼球の個人差による視線の検出誤差を
補正するための視線補正データを採取する(キャリブレ
ーションと称されている)際の視標を示すものである。
【0026】ここで、51はシャッタ速度表示、52は
絞り値表示のセグメント、50は視線入力状態であるこ
とを示す視線入力マーク、53は撮影レンズ1の合焦状
態を示す合焦マークである。24はファインダ視野外に
撮影情報を表示するためのファインダ内LCD(以下、
F−LCDとも記す)で、照明用LED25によって照
明される。
【0027】上記F−LCD24を透過した光は三角プ
リズム26によって、図3の24で示したようにファイ
ンダ視野外に導かれ、撮影者は各種の撮影情報を知るこ
とができる。
【0028】図1に戻って、31は撮影レンズ1内に設
けた絞り、32は絞り駆動回路111を含む絞り駆動装
置、33はレンズ駆動用モータ、34は駆動ギヤ等から
成るレンズ駆動部材である。35はフォトカプラで、前
記レンズ駆動部材34に連動するパルス板36の回転を
検知してレンズ焦点調節回路110に伝えており、該焦
点調節回路110は、この情報とカメラ側からのレンズ
駆動量の情報に基づいて前記レンズ駆動用モータ33を
所定量駆動させ、撮影レンズ1を合焦位置に移動させる
ようになっている。37は公知のカメラとレンズとのイ
ンターフェイスとなるマウント接点である。
【0029】27は水銀スイッチ等の姿勢検出スイッチ
でカメラが横位置で構えられたか、縦位置で構えられた
かを検出するものである。
【0030】図2(a),(b)において、41はレリ
ーズ釦である。42は外部モニタ表示装置としてのモニ
タ用LCDで、予め決められたパターンを表示する固定
セグメント表示部と、可変数値表示用の7セグメント表
示部とから成っている。
【0031】 44はモードダイヤルで、撮影モード等
の選択を行うためのものである。カメラ本体に刻印され
た指標43を表示に合わせる事によって、その表示内容
で撮影モードが設定される。例えば、カメラを不作動
するロックポジション、予め設定した撮影プログラムに
よって制御される自動撮影モードのポジション、撮影者
が撮影内容を認定できるマニュアル撮影モードで、プロ
グラムAE、シャッタ優先AE,絞り優先AE,被写体
深度優先AE,マニュアル露出の各撮影モードが設定可
能である。また、視線入力用の「CAL」ポジションも
モードダイヤル44中にあり、「CAL」ポジションに
して、後述の電子ダイヤル45を操作する事により、視
線入力のON,OFF、そしてキャリブレーションの実
行及び選択を行うことができる。
【0032】 45は電子ダイヤルで、回転してクリッ
クパルスを発生させることによってモードダイヤル44
で選択されたモードの中でさらに選択し得る設定値を選
択する為のものである。例えば、モードダイヤル44に
てシャッタ優先の撮影モードを選択すると、ファインダ
内LCD24及びモニタ用LCD42には、現在設定さ
れているシャッタ速度が表示される。この表示を見て、
撮影者が電子ダイヤル45を回転させると、その回転方
向にしたがって現在設定されているシャッタ速度から順
次シャッタ速度が変化していくように構成されている。
【0033】その他の操作部材については、本発明とは
直接関係ないのでその説明は省略する。
【0034】図4は上記構成の一眼レフカメラに内蔵さ
れた電気的構成を示すブロック図であり、図1と同一の
ものは同一番号をつけている。
【0035】カメラ本体に内蔵されたマイクロコンピュ
ータの中央処理装置(以下、CPUと記す)100に
は、視線検出回路101,測光回路102,自動焦点検
出回路103,信号入力回路104,LCD駆動回路1
05,LED駆動回路106,IRED駆動回路10
7,シャッタ制御回路108,モータ制御回路109が
接続されている。また、撮影レンズ1内に配置された焦
点調節回路110,絞り駆動回路111とは、図1で示
したマウント接点37を介して信号の伝達がなされる。
【0036】CPU100に付随したEEPROM10
0aは記憶手段としての視線の個人差を補正する視線補
正データの記憶機能を有している。
【0037】前記視線検出回路101は、イメージセン
サ14(CCD−EYE)からの眼球像の信号をA/D
変換し、この像情報をCPU100に送信する。CPU
100は視線検出に必要な眼球像の各特徴点を所定のア
ルゴリズムにしたがって抽出し、さらに各特徴点の位置
から撮影者の視線を算出する。また同時に、前記眼球像
をA/D変換した出力をもとに、撮影者が「瞬き」をし
たか否かの判定もCPU100内で行われる。
【0038】前記測光回路102は、測光センサ10か
らの信号を増幅後、対数圧縮,A/D変換し、各センサ
の輝度情報としてCPU100に送信する。測光センサ
10は、ファインダ画面内の4つの領域を測光するSP
C−L,SPC−C,SPC−R,SPC−Aから成る
4つのフォトダイオードから構成されており、いわゆる
分割測光が可能である。
【0039】ラインセンサ6fは、前述の図3に示し
た、画面内の5つの測距点70〜74に対応した5組の
ラインセンサCCD−L2,CCD−L1,CCD−
C,CCD−R1,CCD−R2から構成される公知の
CCDラインセンサである。
【0040】前記自動焦点検出回路103は、上記のラ
インセンサ6fから得た電圧をA/D変換し、CPU1
00に送る。
【0041】SW1はレリーズ釦41の第1ストローク
でONし、測光,AF,視線検出動作等を開始させる為
のスイッチ、SW2はレリーズ釦41の第2ストローク
でONするレリーズスイッチである。SW−DIALI
とSW−DIAL2は、既に説明した電子ダイヤル45
内に設けられたダイヤルスイッチで、信号入力回路10
4のアップダウンカウンタに入力され、電子ダイヤル4
5の回転クリック量をカウントする。SW−HV1,S
W−HV2は姿勢検出スイッチ27に相当する姿勢検出
スイッチであり、この信号を基にカメラの姿勢状態が検
出される。
【0042】これらスイッチの状態信号入力回路104
に入力され、データバスによってCPU100に送信さ
れる。
【0043】前記LCD駆動回路105は、液晶表示素
子であるLCDを表示駆動させるための公知の構成より
成るもので、CPU100からの信号に従い、絞り値,
シャッタ秒時,設定した撮影モード等の表示をモニタ用
LCD42とファインダ内LCD(F−LCD)24の
両方に同時に表示させることができる。
【0044】前記LED駆動回路106は、照明用LE
D(F−LED)25とスーパーインポーズ用LED2
1を点灯,点滅制御する。前記IRED駆動回路107
は、CPU100の指示に従って赤外発光ダイオード
(IRED1〜6)13a〜13fを選択的に点灯させ
たり、赤外発光ダイオード(IRED1〜6)13a〜
13fへの出力電流値(あるいはパルス数)を変化させ
て照明パワーを制御する。
【0045】前記シャッタ制御回路108は、通電する
と先幕を走行させるマグネットMG−1と、後幕を走行
させるマグネットMG−2を制御し、感光部材に所定光
量を露光させる。前記モータ制御回路109は、フィル
ムの巻き上げ、巻き戻しを行うモータM1と主ミラー2
及びシャッタ4のチャージを行うモータM2を制御する
ためのものである。
【0046】上記シャッタ制御回路108とモータ制御
回路109によって、一連のカメラのレリーズシーケン
ス動作する。
【0047】次に、視線検出装置を有したカメラの動作
について、図5のフローチャートを用いて説明する。
【0048】モードダイヤル44を回転させてカメラを
不作動状態から所定の撮影モードに設定すると(この実
施の形態では、シャッタ優先AEに設定された場合をも
とに説明する)、カメラの電源がONされ(ステップ#
100)、CPU100のEEPROM100aに記憶
された視線のキャリブレーションデータ以外の視線検出
に使われる変数がリセットされる(ステップ#10
1)。そして、カメラはレリーズ釦41が押し込まれて
スイッチSW1がONされるまで待機する(ステップ#
102)。
【0049】レリーズ釦41が押し込まれてスイッチS
W1がONされたことを信号入力回路104が検出する
と、CPU100は視線検出を行う際にどのキャリブレ
ーションデータを使用するかを視線検出回路101に確
認する(ステップ#103)。この時、確認されたキャ
リブレーションデータナンバーのキャリブレーションデ
ータが初期値のままで変更されていなかったり、あるい
は、視線禁止モードに設定されていたら(ステップ#1
03)、視線検出は実行せずに、すなわち視線情報を用
いずに測距点自動選択サブルーチンによって特定の測距
点を選択する(ステップ#115)。そして、この測距
点において自動焦点検出回路103は焦点検出動作を行
う(ステップ#107)。
【0050】測距点自動選択のアルゴリズムとしてはい
くつかの方法が考えられるが、多点AFカメラでは公知
となっている中央測距点に重み付けを置いた近点優先ア
ルゴリズムが有効である。
【0051】また、前記キャリブレーションデータナン
バーに対応する視線のキャリブレーションデータが所定
の値に設定されていてそのデータが撮影者により入力さ
れたものであることが認識されると(ステップ#10
3)、視線検出回路101はそのキャリブレーションデ
ータにしたがって視線検出を実行され、視線はピント板
7上の注視点座標に変換される(ステップ#104)。
【0052】次に、上記ステップ#104で検出された
視線情報は成功か否かの判定にかけられる(ステップ#
105)。ここでの判定条件は、角膜反射像であるプル
キンエ像及び瞳孔中心位置の信頼性及び眼球の回転角等
である。この結果、不成功ならばステップ#115の
「測距点自動選択サブルーチン」に進む。また、視線検
出が成功ならば、CPU100は該注視点座標に近接し
た測距点を選択する(ステップ#106)。そして、自
動焦点検出回路103は検出された視線情報も用いて選
択がなされた測距点での焦点検出を実行する(ステップ
#107)。
【0053】次に、上記選択された測距点が測距不能で
あるかを判定し(ステップ#108)、不能であればC
PU100はLCD駆動回路105に信号を送ってファ
インダ内LCD24の合焦マーク79を点滅させ、測距
がNGであることを撮影者に警告し(ステップ#11
7)、スイッチSW1が離されるまでこの警告を続ける
(ステップ#118→#117→#118……)。
【0054】一方、測距が可能であり、所定のアルゴリ
ズムで選択された測距点の焦点調節状態が合焦でなけれ
ば(ステップ#109)、CPU100はレンズ焦点調
節回路110に信号を送って所定量撮影レンズ1を駆動
させる(ステップ#116)。レンズ駆動後は、自動焦
点検出回路103は再度焦点検出を行い(ステップ#1
07)、撮影レンズ1が合焦しているか否かの判定を行
う(ステップ#109)。
【0055】所定の測距点において撮影レンズ1が合焦
していたならば、CPU100はLCD駆動回路105
に信号を送ってファインダ内LCD24の合焦マーク5
3を点灯させるとともに、LED駆動回路106にも信
号を送って合焦している測距点に対応したスーパーイン
ポーズ用LED21を点灯させ、該測距点を光らせるこ
とで合焦表示させる(ステップ#110)。
【0056】合焦した測距点がファインダ内に表示され
たのを撮影者が見て、その測距点が正しくない、あるい
は撮影を中止すると判断してレリーズ釦41から手を離
し、スイッチSW1をOFFすると(ステップ#11
1)、引き続きカメラはスイッチSW1がONされるま
で待機するステップ#102へ戻る。
【0057】また撮影者が合焦表示された測距点を見
て、引き続きスイッチSW1をONし続けたならば(ス
テップ#111)、CPU100は測光回路102に信
号を送信して測光を行わせる(ステップ#112)。
【0058】この時、合焦した測距点を含む測光領域に
重み付けを行った露出値が演算される。本実施の形態の
場合、測光演算結果としてセグメントと小数点を用いて
絞り値(図3の52に示すF5.6)を表示している。
【0059】さらにレリーズ釦41が押し込まれてスイ
ッチSW2がONされているかどうかの判定を行い(ス
テップ#113)、スイッチSW2がOFF状態であれ
ば再びスイッチSW1の状態の確認を行う(ステップ#
111)。
【0060】また、スイッチSW2がONされたならば
CPU100はシャッタ制御回路108、モータ制御回
路109、及び、絞り駆動回路111にそれぞれ信号を
送信して、公知のシャッタレリーズ動作を行う(ステッ
プ#114)。
【0061】具体的には、まず、モータ制御回路109
を介してモータM2に通電して主ミラー2をアップさ
せ、絞り31を絞り込んだ後、マグネットMG−1に通
電し、シャッタ4の先幕を開放する。絞り31の絞り値
及びシャッタ4のシャッタスピードは、前記測光回路1
02にて検出された露出値とフィルム5の感度から決定
される。所定のシャッタ秒時(1/125秒)経過後、
マグネットMG−2に通電し、シャッタ4の後幕を閉じ
る。フィルム5への露光が終了すると、モータM2に再
度通電し、ミラーダウン、シャッタチャージを行うとと
もにフィルム給送用のモータM1にも通電し、フィルム
の駒送りを行い、一連のシャッタレリーズシーケンスの
動作が終了する。
【0062】その後カメラは再びスイッチSW1がON
されるまで待機する(ステップ#102)。
【0063】また、図5に示したカメラのシャッタレリ
ーズ動作(ステップ#114)以外の一連の動作中に、
モードダイヤル44によってモードが変更され、視線の
キャリブレーションモードに設定されたことを信号入力
回路104が検出すると、CPU100はカメラの動作
を一時停止し、視線検出回路101に送信して視線のキ
ャリブレーション(ステップ#115)が可能な状態に
設定する。
【0064】視線のキャリブレーション方法について
は、撮影者がファインダ視野内の測距点のドットマーク
右端74’、左端70’をそれぞれ一定時間固視するこ
とで行い、そこから得られた眼球像データから視線補正
データを採取するというもので、詳細は本発明と特に関
係が無いため省略する。
【0065】図6は、視線検出動作を示すフローチャー
トである。
【0066】図6において、前述のように視線検出回路
101は、CPU100より信号を受け取ると視線検出
を実行する(ステップ#104)。視線検出回路101
は撮影モードの中での視線検出かあるいは視線のキャリ
ブレーションモードの中での視線検出かの判定を行う
(ステップ#200)。同時に視線検出回路101はカ
メラが後述するどのキャリブレーションデータナンバー
に設定されているかを認識する。
【0067】視線検出回路101は、撮影モードでの視
線検出の場合はまず最初にカメラがどのような姿勢にな
っているかを信号入力回路104を介して検出する(ス
テップ#202)。信号入力回路104は水銀スイッチ
27(SW−ANG)の出力信号を処理してカメラが横
位置であるか縦位置であるか、また縦位置である場合は
例えばレリーズ釦41が天方向にあるか地(面)方向に
あるか判断する。
【0068】続いてCPU100を介して測光回路10
2から撮影領域の明るさの情報を入手する(ステップ#
203)。
【0069】次に、先に検出されたカメラの姿勢情報と
キャリブレーションデータに含まれる撮影者の眼鏡情報
より赤外発光ダイオード(以下、IREDと称す)13
a〜13fの選択を行う(ステップ#204)。
【0070】すなわち、カメラが横位置に構えられ、撮
影者が眼鏡をかけていなかったならば、図2(b)に示
すファインダ光軸よりのIRED13a,13bが選択
される。また、カメラが横位置で、撮影者が眼鏡をかけ
ていれば、ファインダ光軸から離れた13c,13dの
IREDが選択される。このとき撮影者の眼鏡で反射し
た照明光の一部は、眼球像が投影されるイメージセンサ
14上の所定の領域以外に達するため、眼球像の解析に
支障は生じない。
【0071】又カメラが縦位置で構えられていたなら
ば、撮影者の眼球を下方から照明するようなIREDの
組み合わせ、すなわち13a,13eもしくは13b,
13fのどちらかの組み合わせが選択される。
【0072】次にイメージセンサ14(以下、CCD−
EYEと称す)の蓄積時間及びIREDの照明パワーが
前記測光情報及び撮影者の眼鏡情報等に基づいて設定さ
れる(ステップ#205)。該CCD−EYE14の蓄
積時間及びIREDの照明パワーは前回の視線検出時に
得られた眼球像のコントラスト等から判断された値を基
にして設定を行っても構わない。
【0073】CCD−EYE14の蓄積時間及びIRE
Dの照明パワーが設定されると、CPU100はIRE
D駆動回路107を介してIRED13を所定のパワー
で点灯させるとともに、視線検出回路101はCCD−
EYE14の蓄積を開始する(ステップ#206)。ま
た、先に設定されたCCD−EYE14の蓄積時間にし
たがってここでの蓄積を終了し、それとともにIRED
13も消灯される。
【0074】また、ステップ#200において、キャリ
ブレーションの設定であると判断され、ステップ#20
1にて、今回の視線検出がキャリブレーションモードの
中で2回目以上の視線検出であると判定されると、CC
D−EYE14の蓄積時間およびIREDの照明パワー
は前回の値が採用され、直ちにIRED13の点灯とC
CD−EYE14の蓄積が開始される(ステップ#20
6)。
【0075】次に、CCD−EYE14にて蓄積された
像信号は順次読み出され、視線検出回路101でA/D
変換された後にCPU100にメモリされる(ステップ
#207)。
【0076】ここでメモリに得られた像信号を処理し
て、撮影者が「瞬き」をしたか否かの判定を行う(ステ
ップ#208)。
【0077】「瞬き」をしたか否かの判定は、CCD−
EYE14の像信号の中の瞳孔部の信号に着目して行う
ものであり、詳細は後述する。
【0078】ここで、撮影者が「瞬き」を行ったと判定
された時は、ステップ#206へ戻り、前回視線検出を
行った時と同じ条件のCCD−EYE14の蓄積制御
(この場合、蓄積時間及び信号増幅特性)とIRED1
3の制御(この場合、IREDの選択及び電流値)を再
び行い、撮影者が「瞬き」をしてしない状態の眼球像信
号を得る。この時、前回得られた像信号は新たなCCD
−EYE14にて蓄積された像信号に取って替わられ
る。
【0079】ステップ#208の「瞬き」判定によっ
て、撮影者が「瞬き」をしていないと判定された場合
は、公知であるところの視線検出処理が行われる(ステ
ップ#209)。
【0080】ここで、簡単に視線検出処理について説明
を行う。
【0081】図7(a)はCCD−EYE14の眼球像
信号を画像化したもので、眼球15の角膜においてIR
ED13の発光によって角膜反射像(以下、プルキンエ
像と記す)19が生じる。また、17は虹彩、18は瞳
孔である。
【0082】これらの像信号において、プルキンエ像1
9を含んだX−X′断面の像信号を表したのが図7
(b)であり、同図において縦軸はCCD−EYE14
のアナログ信号をデジタル信号化した値で、最大255
カウントとなり、横軸は図7(a)の水平方向の画素数
80個のデ−タがあることを意味している。
【0083】CPU100において、眼球の照明に使用
された一組のIRED13の虚像であるプルキンエ像1
9の位置が検出される。図7(b)からも判る通り、プ
ルキンエ像19は光強度の強い輝点として現れるため、
光強度に対する所定の閾値を設け、該閾値を超える光強
度のものをプルキンエ像19とすることにより検出可能
である。また、瞳孔の中心位置は、瞳孔18と虹彩17
の境界点を複数検出し、各境界点を基に円の最小二乗近
似を行うことにより算出される。
【0084】これらプルキンエ像位置と瞳孔中心位置と
から眼球の回転角度θが求まり、さらに二つのプルキン
エ像19の間隔からカメラの接眼レンズ11と撮影者の
眼球15との距離が算出され、CCD−EYE14に投
影された眼球像の結像倍率βを得ることができる。
【0085】以上のことから、眼球の回転角度θと結像
倍率β、さらにキャリブレーションで得られた個人差補
正情報を用いて、撮影者の視線方向のピント板7上の位
置座標を求めることができる。
【0086】図5に戻って、次に撮影者の視線位置を基
に視線情報の信頼性判定を行う(ステップ#105)。
ここでは、上記求めた撮影者の視線位置がピント板7の
視野外であれば、視線検出は何らか原因で失敗したと
みなしている。
【0087】視線検出が成功と判定された場合は、前述
の図5のステップ#106の測距点選択ヘリターンする
が、視線検出が失敗と判定されると、次に検出の失敗の
回数がチェックされる(ステップ#105)。ここで失
敗が視線検出の一回目であれば、一回目に失敗したCC
D−EYE14とIRED13の制御と異なった制御が
なされる。
【0088】例えば、一回目にカメラ横位置で裸眼用の
IRED13a,13bが選択、照明がなされたのであ
れば、二回目ではCCD−EYE14の蓄積時間、ゲイ
ンは一回目と同じで、IRED13は眼鏡用のIRED
13c,13dが選択される。また一回目が眼鏡用のI
RED13c,13dで制御されたのであれば、二回目
ではIREDの選択はそのままで、CCD−EYE14
の蓄積時間が2倍の時間に設定しなおされる(ステップ
#210)。
【0089】CCD−EYE14とIRED13の再設
定が終了すると、再びステップ#206にて、眼球像を
得るためのCCD−EYE14の蓄積制御が行われる。
ステップ#105’にて、視線検出が二回失敗(ステッ
プ#105において)と判定された場合には、図5のス
テップ#115の測距点自動選択へリターンする。
【0090】次に、撮影者が「瞬き」をしたか否かの判
定方法について、図8〜図12を用いて説明する。
【0091】この「瞬き」判定方法の基本的な考えとし
ては、撮影者の瞳孔が眼球像信号の最低値であるとし
て、この最低値を視線検出中の環境条件によって変化す
る閾値と比較することで、「瞬き」をしたか否かの判定
を行うものである。
【0092】図8は「瞬き」判定を行うフローチャート
であり、同図において、ステップ#207で得られた縦
横「60×80」画素に対応した画素信号は、縦横「4
×4」画素の平均出力信号を一つのブロック信号とした
縦横「15×20」のブロック信号に変換される(#4
00)。
【0093】図9(a),(b)は画素信号のブロック
化の効果を示したもので、図9(a)は撮影者が外光下
にて視線検出を行っているときのブロック化する前の瞳
孔中心における眼球像水平方向輝度信号の断面図であ
り、外光により眼球周辺のまぶたの信号が高くなり、黒
いまつ毛と相まってスパイク状の信号が多数発生し、場
合によっては瞳孔部よりも低い信号となることがあった
り、瞳孔部においてもまつ毛の影響で信号が一定となら
なくなったりする。
【0094】これに対して図9(b)は、図9(a)の
信号を前記「4×4」画素のブロック信号に変換したも
のであり、まぶた及び瞳孔部の信号が平滑化されている
ために、ある程度の面積を持っている瞳孔部の位置が特
定し易くなることがわかる。ここで、Dkは撮像素子の
暗中時の出力、いわゆるダーク値である。
【0095】次に、前記得られた「15×20」画素の
ブロック信号には、重み付けの値がCCD−EYE画素
平面上、中央近傍を0として周辺に行くに従って大きな
値が加算される(ステップ#401)。
【0096】図10(a)は撮影者が室内(外光の影響
のない環境下)にて視線検出を行っているときのプルキ
ンエ像水平断面における眼球像ブロック信号であり、眼
球15近傍を照明するIRED13の照明むら、及び、
視線検出を行うための光学系の特性等のために、CCD
−EYE画素平面上において周辺光量落ちが発生してお
り、左端のブロック出力はダーク値レベルまで低下して
しまっている。一方、瞳孔部は照明光によってそのブロ
ック出力D0はダーク値よりも僅かに高い値をとってい
るために、この状態ではブロック信号全体の中の最低値
が瞳孔部の信号とはならなくなっている。
【0097】これに対し図10(b)は、前記「15×
20」画素のブロックを同心状に3つの領域に分割し、
例えば中央近辺の領域を補正値:0カウント、その外の
領域を補正値:10カウント、最外周領域を補正値:3
0カウントとして、各領域に属するブロックの信号値に
該補正値を加算するという手法で図10(a)の信号を
補正したものであり、周辺光量落ちを見かけ上なくすこ
とにより、ブロック信号の最低値が撮影者の瞳孔部に相
当する信号値となるために補正を行うのである。
【0098】次に、「瞬き」判定の判定基準となる閾値
Vsが設定される(ステップ#402)。
【0099】図11(a),(b)はそれぞれ裸眼,眼
鏡装着の撮影者が室外(外光影響下)における視線検出
時のプルキンエ像水平断面の眼球像ブロック信号図であ
り、両図における瞳孔部の出力値D1及びD2は、前記
図10(a)の室内信号の瞳孔部出力D0よりも高くな
っており、外光の瞳孔部への漏れ込みが生じていること
がわかる。
【0100】さらに、図11(a),(b)における裸
眼,眼鏡装着時の瞳孔部出力比較では眼鏡装着時の方が
カメラ本体と撮影者の眼球との距離が大きくなって外光
の影響を受け易く、瞳孔部の持ち上がりがさらに大きい
ことがわかる。
【0101】そこで以上のことを踏まえ、外界の明るさ
である測光値とCCD−EYE14の蓄積制御に裸眼用
照明か眼鏡用照明のいずれかが用いられたかに応じて閾
値Vsが、図12に示す表から決定されるようになって
いる。
【0102】図12において、例えば外界の明るさが測
光センサ10にてBV7と測定され、撮影者がキャリブ
レーションにて裸眼照明が選択されていたとすると、図
12の表より、閾値Vs=38カウントが決定される。
【0103】閾値Vsの設定が終わると、前記「15×
20」画素のブロックの中からその輝度信号が最低とな
るブロックの値Bminが見つけ出され(ステップ#4
03)、「瞬き」の判定であるBmin値と前記Vsの
比較が行われる(ステップ#404)。撮影者が「瞬
き」をしていれば、撮影者の瞳孔は眼球像信号から無く
なり、当然前記求めた最低のブロック輝度信号は瞳孔以
外の例えばまぶたの信号であり、閾値Vsよりも大きく
なるため(Bmin>Vs)、カメラはこれを撮影者が
「瞬き」を行ったと判定し、前記ステップ#206のC
CD−EYE14の再蓄積等を行う。
【0104】一方、撮影者が「瞬き」をしていなけれ
ば、最低ブロック輝度信号は瞳孔の信号であり、閾値V
sよりも小さくなるので(Bmin≦Vs)、撮影者は
「瞬き」を行っていないとカメラは判定し、前記ステッ
プ#209の視線検出処理を行う。
【0105】以上、撮影者が「瞬き」を行ったか否かの
判定を行って、視線検出の成功率を向上させるための制
御方法について説明を行ったが、本発明である「瞬き」
を検知、判定を行う手段は、撮影者のウインクによるレ
リーズ等、カメラへの入力手段として用いても有効であ
る。
【0106】(実施の第2の形態)次に、本発明の実施
の第2の形態について説明する。
【0107】前記実施の第1の形態における図7の「瞬
き」判定のフローチャートの説明において、撮影者が
「瞬き」を行ったか否かの判定を行うための閾値Vsの
設定では、Vsを求めるのに図12の表を用いたが、こ
の実施の第2の形態では、撮影者の置かれている環境下
の明るさ、撮影者の眼球とカメラとの距離の関数として
閾値を以下の計算式を用いて算出し、精度の良い「瞬
き」を行おうとするものである。
【0108】 Vs=Dk+10×(Ds/15)1/3 ×(BV−4)1/2 (BV≧) Vs=Dk+10×(Ds/15)1/3 (BV<) ここで、Dkは撮像素子のダーク時(遮光時)の出力カ
ウント値、Dsは撮影者とカメラとの距離(mm)、B
Vは測光センサによって得られた被写界輝度値である。
もちろん距離Dsは「瞬き」をしたときの眼球像信号か
らは算出できないので、「瞬き」をした前回の値を用い
る。一方、測光センサによって被写体輝度:BVを算出
せずに、直接撮影者の眼球近傍の明るさを撮像素子の出
力を基に求めても良い。
【0109】以上の実施の各形態において、ファインダ
に接眼している該観察者が視線検出中に瞬きを行ったか
否かを判定する手段を設け、該「瞬き」判定手段を、該
観察者の眼球像信号中の複数の画素信号を平均化して求
めた複数のブロック信号出力中の最低値とある閾値との
比較を基に判定を行うものとすることにより、観察者が
カメラ等の光学機器に対して視線入力を行っている時に
「瞬き」をしたことを正確に検出することができる。
【0110】(発明と実施の形態の対応)本実施の形態
において、IRED駆動回路107及び赤外発光ダイオ
ード13a〜13fが本発明の照明手段に相当し、イメ
ージセンサ(CCD−EYE)14が受光手段に相当
し、CPU100内のプログラムを実行する部分が本発
明の制御手段,瞬き判定手段,視線検出手段に相当す
る。
【0111】以上が実施の形態の各構成と本発明の各構
成の対応関係であるが、本発明は、これら実施の形態の
構成に限定されるものではなく、請求項で示した機能、
又は実施の形態がもつ機能が達成できる構成であればど
のようなものであってもよいことは言うまでもない。
【0112】(変形例)本発明は、一眼レフカメラに適
用した場合を述べているが、レンズシャッタカメラ,ビ
デオカメラ等のカメラにも適用可能である。更に、その
他の光学装置、構成ユニットとしても適用することがで
きるものである。
【0113】
【発明の効果】以上説明したように、本発明によれば、
視線情報を検出中に観察者が瞬きを行ったか否かを、観
察者の眼球像信号中の複数の画素信号を平均化して求め
た複数のブロック信号出力中の最低値と、観察者の眼球
近傍や当該視線検出装置の使用環境を測光する測光手段
の出力信号、又は観察者の眼球と当該視線検出装置の観
察面との距離を測定する距離検出手段の出力信号、又は
観察者が眼鏡を装着しているか否かの判定を行う眼鏡判
定手段の出力信号に応じて変化する閾値との比較により
判定するようにしている。
【0114】よって、観察者が視線検出中に瞬きをした
ことを正確に検出することが可能になる。
【図面の簡単な説明】
【図1】本発明の実施の第1の形態に係る一眼レフカメ
ラの光学的配置を示す図である。
【図2】図1のカメラの上面及び背面を示す図である。
【図3】図1のカメラのファインダ内の表示例を示す図
である。
【図4】図1のカメラの電気的構成を示すブロック図で
ある。
【図5】図1のカメラの一連の動作を示すフローチャー
トである。
【図6】図1のカメラの視線検出動作を示すフローチャ
ートである。
【図7】図1のカメラにおいて瞬き判定時の説明を助け
る為の図である。
【図8】図6のステップ#207での動作を示すフロー
チャートである。
【図9】図8の動作説明を助けるための図である。
【図10】同じく図8の動作説明を助けるための図であ
る。
【図11】同じく図8の動作説明を助けるための図であ
る。
【図12】瞬き判定時に用いる閾値の一例を示す図であ
る。
【符号の説明】
13a〜13f 赤外発光ダイオード(IRED) 14 イメージセンサ(CCD−EYE) 100 CPU 101 視線検出回路 103 焦点検出回路 107 IRED駆動回路
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平6−138376(JP,A) 特開 平4−279143(JP,A) 特開 平4−242625(JP,A) 特開 平4−307506(JP,A) 特開 平2−209126(JP,A) 特開 平1−241511(JP,A) 特開 平6−208158(JP,A) 特開 平6−308371(JP,A) 特開 平3−214133(JP,A) (58)調査した分野(Int.Cl.7,DB名) A61B 3/00 - 3/16 G02B 7/28

Claims (8)

    (57)【特許請求の範囲】
  1. 【請求項1】視線情報を検出中に観察者が瞬きを行った
    か否かを、観察者の眼球像信号中の複数の画素信号を平
    均化して求めた複数のブロック信号出力中の最低値と
    観察者の眼球近傍や当該視線検出装置の使用環境を測光
    する測光手段の出力信号に応じて変化する閾値との比較
    により判定するようにしたことを特徴とする視線検出装
    置。
  2. 【請求項2】視線情報を検出中に観察者が瞬きを行った
    か否かを、観察者の眼球像信号中の複数の画素信号を平
    均化して求めた複数のブロック信号出力中の最低値と、
    観察者の眼球と当該視線検出装置の観察面との距離を測
    定する距離検出手段の出力信号に応じて変化する閾値と
    の比較により判定するようにしたことを特徴とする視線
    検出装置。
  3. 【請求項3】視線情報を検出中に観察者が瞬きを行った
    か否かを、観察者の眼球像信号中の複数の画素信号を平
    均化して求めた複数のブロック信号出力中の最低値と、
    観察者が眼鏡を装着しているか否かの判定を行う眼鏡判
    定手段の出力信号に応じて変化する閾値との比較により
    判定するようにしたことを特徴とする視線検出装置
  4. 【請求項4】観察者の眼球を照明する照明手段と、観察
    者の眼球像を検出する受光手段と、前記照明手段と前記
    受光手段のうちの少なくとも一方の動作状態を制御する
    制御手段と、前記眼球像を利用して観察者の視線情報を
    検出する視線検出手段とを備えた視線検出装置におい
    て、 視線検出中に観察者が瞬きを行ったか否かを判定する瞬
    き判定手段を設け、該瞬き判定手段は、観察者の眼球像
    信号中の複数の画素信号を平均化して求めた複数のブロ
    ック信号出力中の最低値と、観察者の眼球近傍や当該視
    線検出装置の使用環境を測光する測光手段の出力信号に
    応じて変化する閾値との比較により判定を行う ことを特
    徴とする視線検出装置
  5. 【請求項5】観察者の眼球を照明する照明手段と、観察
    者の眼球像を検出する受光手段と、前記照明手段と前記
    受光手段のうちの少なくとも一方の動作状態を制御する
    制御手段と、前記眼球像を利用して観察者の視線情報を
    検出する視線検出手段とを備えた視線検出装置におい
    て、 視線検出中に観察者が瞬きを行ったか否かを判定する瞬
    き判定手段を設け、該瞬き判定手段は、観察者の眼球像
    信号中の複数の画素信号を平均化して求めた複数のブロ
    ック信号出力中の最低値と、観察者の眼球と当該視線検
    出装置の観察面との距離を測定する距離検出手段の出力
    信号に応じて変化する閾値との比較により判定を行う
    とを特徴とする視線検出装置
  6. 【請求項6】観察者の眼球を照明する照明手段と、観察
    者の眼球像を検出する受光手段と、前記照明手段と前記
    受光手段のうちの少なくとも一方の動作状態を制御する
    制御手段と、前記眼球像を利用して観察者の視線情報を
    検出する視線検出手段とを備えた視線検出装置におい
    て、 視線検出中に観察者が瞬きを行ったか否かを判定する瞬
    き判定手段を設け、該瞬き判定手段は、観察者の眼球像
    信号中の複数の画素信号を平均化して求めた複数のブロ
    ック信号出力中の最低値と、観察者が眼鏡を装着してい
    るか否かの判定を行う眼鏡判定手段の出力信号に応じて
    変化する閾値との比較により判定を行う ことを特徴とす
    視線検出装置
  7. 【請求項7】前記複数のブロック信号は、該ブロック信
    号の基となる前記眼球像信号を与える受光手段の領域に
    応じて重み付けがなされることを特徴とする請求項4乃
    至6のいずれかに記載の視線検出装置。
  8. 【請求項8】上記請求項1乃至7のいずれかに記載の視
    線検出装置を具備したことを特徴とする光学装置。
JP22860795A 1995-08-15 1995-08-15 視線検出装置及び光学装置 Expired - Fee Related JP3530647B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP22860795A JP3530647B2 (ja) 1995-08-15 1995-08-15 視線検出装置及び光学装置
US08/900,398 US5926655A (en) 1995-08-15 1997-07-21 Line of sight detection device and an apparatus having a line of sight detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP22860795A JP3530647B2 (ja) 1995-08-15 1995-08-15 視線検出装置及び光学装置

Publications (2)

Publication Number Publication Date
JPH0951873A JPH0951873A (ja) 1997-02-25
JP3530647B2 true JP3530647B2 (ja) 2004-05-24

Family

ID=16879007

Family Applications (1)

Application Number Title Priority Date Filing Date
JP22860795A Expired - Fee Related JP3530647B2 (ja) 1995-08-15 1995-08-15 視線検出装置及び光学装置

Country Status (1)

Country Link
JP (1) JP3530647B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6346656B2 (ja) * 2012-02-20 2018-06-20 キヤノン株式会社 画像処理装置及び画像処理方法
JP6057621B2 (ja) * 2012-08-30 2017-01-11 キヤノン株式会社 眼科装置及びその制御方法

Also Published As

Publication number Publication date
JPH0951873A (ja) 1997-02-25

Similar Documents

Publication Publication Date Title
US6674964B2 (en) Visual axis detecting apparatus
JP3297481B2 (ja) 視線検出装置
US6507702B2 (en) Device having sight line detecting function
JPH08563A (ja) 光学装置及びカメラ
US5402199A (en) Visual axis detecting apparatus
JP3530647B2 (ja) 視線検出装置及び光学装置
JP2002301030A (ja) 視線検出機能付き機器
JP3184633B2 (ja) カメラ
JP3256294B2 (ja) 視線検出装置および視線検出方法
JP2003339642A (ja) 視線検出装置及びそれを有した光学装置
JP2003307774A (ja) 視線検出機能付き光学機器
JP3530648B2 (ja) 視線検出装置及び光学装置
JP3176147B2 (ja) 視線検出装置
JP3391892B2 (ja) 視線検出装置、光学装置及び視線検出方法
JP3184634B2 (ja) 視線検出装置を有する光学装置
JP3211427B2 (ja) 視線検出装置
JP2002341239A (ja) 視線検出装置
JP3219491B2 (ja) 視線検出装置
JP3605081B2 (ja) 視線検出装置
JP3605080B2 (ja) 視線検出装置
JPH0954234A (ja) 視線検出装置及びカメラ
JPH06138364A (ja) 視線検出装置を有するカメラ
JP2004012501A (ja) 視線検出装置及びそれを有した光学装置システム
JP2002186587A (ja) 視線検出装置
JPH0943680A (ja) 視線検出装置

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040301

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080305

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090305

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100305

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100305

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110305

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120305

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130305

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140305

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees