JP2003307774A - 視線検出機能付き光学機器 - Google Patents

視線検出機能付き光学機器

Info

Publication number
JP2003307774A
JP2003307774A JP2002115089A JP2002115089A JP2003307774A JP 2003307774 A JP2003307774 A JP 2003307774A JP 2002115089 A JP2002115089 A JP 2002115089A JP 2002115089 A JP2002115089 A JP 2002115089A JP 2003307774 A JP2003307774 A JP 2003307774A
Authority
JP
Japan
Prior art keywords
line
sight
calibration
detection
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2002115089A
Other languages
English (en)
Inventor
Shosuke Haraguchi
彰輔 原口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2002115089A priority Critical patent/JP2003307774A/ja
Publication of JP2003307774A publication Critical patent/JP2003307774A/ja
Withdrawn legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 キャリブレーション時に観察者の注視能力を
自分で認識できるようにすることで、学習効果として、
注視能力を向上させることを可能とすると同時に、観察
者が安心して使えるシステムを提供する。 【解決手段】 観察者の視線を検出する視線検出手段、
該視線検出手段で算出された視線位置を補正するための
補正値を算出するためのキャリブレーション手段、観察
者が同一個所を注視した時の複数の視線位置情報を得る
ための注視点分布採取手段、表示手段を有し、該キャリ
ブレーション手段実行と同時に、該注視点分布採取手段
も実行され、該注視点分布採取手段の出力に基づいて、
注視点分布のバラツキの程度を該表示手段に表示する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、被写体を観察して
いる撮影者の視線を検出する視線検出機能を有する光学
機器に関するものであり、例えば光学機器のファインダ
視野を観察者が覗き、該観察者の視線情報を用いて該フ
ァインダ内に表示された光学装置の機能を表すシンボル
を視線情報で選択し機能を実行するといったものに好適
である。具体的にはカメラのファインダ視野内に表示さ
れた複数の焦点検出領域を撮影者の視線情報を利用して
選択し、焦点検出を行うことや、ヘッドマウントディス
プレイ等の視線検出装置を身につけた被験者がTVモニ
タ等に表示されたメニューを選択して、ある種の機能を
実行するといった装置なども挙げられる。
【0002】
【従来の技術】従来より撮影者(観察者)の視線方向を
検知し、撮影者がファインダ視野内のどの領域(位置)
を観察しているか、いわゆる撮影者の注視方向をカメラ
の一部に設けた視線検出手段で検知し、該視線検出手段
からの信号に基づいて自動焦点調節や自動露出等の各種
撮影機能を制御するようにしたカメラが種々提案されて
いる。
【0003】例えば本出願人は、特開平1−24151
1号公報において、撮影者の注視方向を検出する視線検
出手段と複数個の測光感度分布を持つ自動露出制御手段
とを有し、このとき該視線検出手段からの出力信号に基
づいて焦点検出手段や自動露出制御手段の駆動を制御す
るようにしたカメラを提案している。
【0004】また、本出願人は、特開平6−34873
号広報において、キャリブレーションに関する技術を提
案している。更に、本出願人は、特開平8−19179
8号広報でキャリブレーションデータの消去法に関する
技術を提案している。
【0005】
【発明が解決しようとする課題】上記説明したカメラの
みならず視線検出機能を有する機器を使用する場合、観
察者は、機器の表示部にある選択すべき領域の表示を注
視することになる訳であるが、この注視するという行為
自体が視線検出を行う上で大きな誤差を生む要因となっ
ている。
【0006】つまり、一点、あるいは一方向を所定時間
注視する能力が個人によって異なっているために、前記
視線検出機能を持った機器の表示部にある選択すべき領
域の表示を注視しても、ある人は目的の領域を選択でき
るが、またある別の人は選択できないということが発生
してしまっていた。
【0007】つまり一点、あるいは一方向を所定時間注
視する能力のばらつきは、視線検出機能を誰もが使える
ようになるための大きな障害となっていた。
【0008】従来例においては、この注視能力を、観察
者が認識する手段は無かった。もし、この注視能力を観
察者が認識できれば、学習効果として、注視能力を向上
させることも可能となり、また、観察者が安心して使え
るシステムを提供することが可能となる。
【0009】
【課題を解決するための手段】上記課題を解決するため
に、観察者の視線を検出する視線検出手段、該視線検出
手段で算出された視線位置を補正するための補正値を算
出するためのキャリブレーション手段、観察者が同一個
所を注視した時の複数の視線位置情報を得るための注視
点分布採取手段、表示手段を有し、該キャリブレーショ
ン手段実行と同時に、該注視点分布採取手段も実行さ
れ、該注視点分布採取手段の出力に基づいて、注視点分
布のバラツキの程度を該表示手段に表示することを特徴
とする視線検出機能付き光学機器を提供することによっ
て上記問題の解決を図るものである。
【0010】
【発明の実施の形態】以下、本発明を図示の実施の形態
に基づいて詳細に説明する。
【0011】(実施例)まず本発明の実施例を図1から
図10を用いて説明する。
【0012】図1は本発明を一眼レフカメラに適用した
ときの実施の形態を示す要部構成図、図2(A),
(B)は図1の一眼レフカメラの上面及び背面を示す
図、図3は同じく図1の一眼レフカメラのファインダ内
を示す図である。
【0013】これらの図において、1は撮影レンズで、
便宜上2枚のレンズで示したが、実際はさらに多数のレ
ンズから構成されている。2は主ミラーで、ファインダ
系による被写体像の観察状態と被写体像の撮影状態に応
じて撮影光路へ斜設され或は退去される。3はサブミラ
ーで、主ミラー2を透過した光束をカメラボディの下方
の後述する焦点検出装置6へ向けて反射する。
【0014】4はシャッタ、5は感光部材で、銀塩フィ
ルム或はCCDやMOS型等の固体撮像素子、或は、ビ
ディコン等の撮像管より成っている。
【0015】6は焦点検出装置であり、結像面近傍に配
置されたフィールドレンズ6a,反射ミラー6b及び6
c,二次結像レンズ6d,絞り6e,複数のCCDから
成るラインセンサ6f等から構成されている。
【0016】本例における焦点検出装置6は、周知の位
相差方式にて焦点検出を行うものであり、図3に示すよ
うに、被写界内の複数の領域(焦点検出領域マーク70
〜74で示される5箇所)を焦点検出領域(焦点検出領
域)として、該焦点検出領域が焦点検出可能となるよう
に構成されている。
【0017】7は撮影レンズ1の予定結像面に配置され
たピント板、8はファインダ光路変更用のペンタプリズ
ムである。9,10は各々観察画面内の被写体輝度を測
定するための結像レンズと測光センサであり、結像レン
ズ9はペンタプリズム8内の反射光路を介してピント板
7と測光センサ10を共役に関係付けている。
【0018】11は、ペンタプリズム8の射出後方に配
置される、光分割器11aを備えた接眼レンズ11であ
り、撮影者の眼15によるピント板7の観察に使用され
る。光分割器11aは、例えば可視光を透過し赤外光を
反射するダイクロイックミラーより成っている。
【0019】上記の主ミラー2,ピント板7,ペンタプ
リズム8,接眼レンズ11によってファインダ光学系が
構成されている。
【0020】12は結像レンズ、14はCCD等の光電
変換素子列を縦、横それぞれ80画素、100画素の二
次元的に配したイメージセンサ(CCD−EYE)で、
結像レンズ12に関して所定の位置にある撮影者の眼球
15の瞳孔近傍と共役になるように配置されており、結
像レンズ12とイメージセンサ14(CCD−EYE)
にて視線検出を行うための受光手段を構成している。1
3a〜13hは各々撮影者の眼球15の瞳孔近傍を照明
するための発光素子からなる照明手段である。これら発
光素子には、赤外発光ダイオード(以下、IREDと記
す)が用いられ、図2(B)に示すように接眼レンズ1
1の回りに配置されており、一回の視線検出時に発光す
るのは13aから13hの内のいづれかの2個一組の照
明である。
【0021】以上、受光手段と照明手段と前述のダイロ
イックミラー11aとによって視線検出装置が構成され
ている。
【0022】21は明るい被写体の中でも視認できる高
輝度のスーパーインポーズ用LEDで、ここから発光さ
れた光は投光用プリズム22を介し、主ミラー2で反射
されてピント板7の表示部に設けた微小プリズムアレイ
7aで垂直方向に曲げられ、ペンタプリズム8,接眼レ
ンズ11を通って撮影者の眼15に達する。
【0023】つまり、図3に示したファインダ視野から
判かるように、各々の焦点検出領域マーク70〜74が
ファインダ視野内で光り、焦点検出領域を表示させるこ
とができるものである(以下、これをスーパーインポー
ズ表示という)。
【0024】図3において、左右の焦点検出領域マーク
70,74の内部には、ドットマーク70′、74′が
刻印されており、これは眼球の個人差による視線の検出
誤差を補正するための視線補正データを採取する(キャ
リブレーションと称されている)際の視標を示すもので
ある。
【0025】また、図3の破線で描かれた60から64
までの5つの領域は、視線検出によって演算された撮影
者の視線位置と前記5つの焦点検出領域を対応させるた
めに設定された視線有効領域であり、例えば演算された
視線位置が領域61内に存在していたら、領域61内の
焦点検出領域マーク71に対応したCCD−L1センサ
(後述)にて焦点検出が実行される。また視線有効領域
60から64は図1の測光センサ10の分割形状と概一
致しており、周辺領域65と合わせ測光センサ10は6
分割センサとなっている。
【0026】さらに、図3ファインダ画面下部におい
て、51はシャッタ速度表示、52は絞り値表示のセグ
メント、50は視線入力状態であることを示す視線入力
マーク、53は撮影レンズ1の合焦状態を示す合焦マー
クである。24はファインダ視野外に撮影情報を表示す
るためのファインダ内LCD(以下、F−LCDとも記
す)で、照明用LED25によって照明される。
【0027】上記F−LCD24を透過した光は三角プ
リズム26によって、図3の24で示したようにファイ
ンダ視野外に導かれ、撮影者は各種の撮影情報を知るこ
とができる。
【0028】図1に戻って、31は撮影レンズ1内に設
けた絞り、32は絞り駆動回路111を含む絞り駆動装
置、33はレンズ駆動用モータ、34は駆動ギヤ等から
成るレンズ駆動部材である。35はフォトカプラで、前
記レンズ駆動部材34に連動するパルス板36の回転を
検知してレンズ焦点調節回路110に伝えており、該焦
点調節回路110は、この情報とカメラ側からのレンズ
駆動量の情報に基づいて前記レンズ駆動用モータ33を
所定量駆動させ、撮影レンズ1を合焦位置に移動させる
ようになっている。37は公知のカメラとレンズとのイ
ンターフェイスとなるマウント接点である。
【0029】27は水銀スイッチ等の姿勢検出スイッチ
でカメラが横位置で構えられたか、縦位置で構えられた
かを検出するものである。
【0030】図2(a),(b)において、41はレリ
ーズ釦である。42は外部モニタ表示装置としてのモニ
タ用LCDで、予め決められたパターンを表示する固定
セグメント表示部と、可変数値表示用の7セグメント表
示部とから成っている。
【0031】44はモードダイヤルで、撮影モード等の
選択を行うためのものである。カメラ本体に刻印された
指標43を表示に合わせる事によって、その表示内容で
撮影モードが設定される。例えば、カメラを不作動とす
するロックポジション、予め設定した撮影プログラムに
よって制御される自動撮影モードのポジション、撮影者
が撮影内容を認定できるマニュアル撮影モードで、プロ
グラムAE、シャッタ優先AE,絞り優先AE,被写体
深度優先AE,マニュアル露出の各撮影モードが設定可
能である。また、視線入力用の「CAL」ポジションも
モードダイヤル44中にあり、「CAL」ポジションに
して、後述の電子ダイヤル45を操作する事により、視
線入力のON,OFF、そしてキャリブレーションの実
行及び選択を行うことができる。
【0032】45は電子ダイヤルで、回転してクリック
パルスを発生させることによってモードダイヤル44で
選択されたモードの中でさらに選択されたモードの中で
さらに選択し得る設定値を選択する為のものである。例
えば、モードダイヤル44にてシャッタ優先の撮影モー
ドを選択すると、ファインダ内LCD24及びモニタ用
LCD42には、現在設定されているシャッタ速度が表
示される。この表示を見て、撮影者が電子ダイヤル45
を回転させると、その回転方向にしたがって現在設定さ
れているシャッタ速度から順次シャッタ速度が変化して
いくように構成されている。
【0033】その他の操作部材については、本発明とは
直接関係ないのでその説明は省略する。
【0034】図4は上記構成の一眼レフカメラに内蔵さ
れた電気的構成を示すブロック図であり、図1と同一の
ものは同一番号をつけている。
【0035】カメラ本体に内蔵されたマイクロコンピュ
ータの中央処理装置(以下、CPUと記す)100に
は、視線検出回路101,測光回路102,自動焦点検
出回路103,信号入力回路104,LCD駆動回路1
05,LED駆動回路106,IRED駆動回路10
7,シャッタ制御回路108,モータ制御回路109が
接続されている。また、撮影レンズ1内に配置された焦
点調節回路110,絞り駆動回路111とは、図1で示
したマウント接点37を介して信号の伝達がなされる。
【0036】CPU100に付随したEEPROM10
0aは記憶手段としての視線の個人差を補正する視線補
正データの記憶機能を有している。
【0037】前記視線検出回路101は、イメージセン
サ14(CCD−EYE)からの眼球像の信号をA/D
変換し、この像情報をCPU100に送信する。CPU
100は視線検出に必要な眼球像の各特徴点を所定のア
ルゴリズムにしたがって抽出し、さらに各特徴点の位置
から撮影者の視線を算出する。
【0038】前記測光回路102は、測光センサ10か
らの信号を増幅後、対数圧縮,A/D変換し、各センサ
の輝度情報としてCPU100に送信する。測光センサ
10は、ファインダ画面内の6つの領域(図3の領域6
0から65に対応)を測光するSPC−L2,SPC−
L1、SPC−C,SPC−R1,SPC−R2、SP
C−Mから成る6つのフォトダイオードから構成されて
おり、いわゆる分割測光が可能である。
【0039】ラインセンサ6fは、前述の図3に示し
た、画面内の5つの焦点検出領域70〜74に対応した
5組のラインセンサCCD−L2,CCD−L1,CC
D−C,CCD−R1,CCD−R2から構成される公
知のCCDラインセンサである。
【0040】前記自動焦点検出回路103は、上記のラ
インセンサ6fから得た電圧をA/D変換し、CPU1
00に送る。
【0041】SW1はレリーズ釦41の第1ストローク
でONし、測光,AF,視線検出動作等を開始させる為
のスイッチ、SW2はレリーズ釦41の第2ストローク
でONするレリーズスイッチである。SW−DIALI
とSW−DIAL2は、既に説明した電子ダイヤル45
内に設けられたダイヤルスイッチで、信号入力回路10
4のアップダウンカウンタに入力され、電子ダイヤル4
5の回転クリック量をカウントする。SW−HV1,S
W−HV2は姿勢検出スイッチ27に相当する視線検出
スイッチであり、この信号を基にカメラの姿勢状態が検
出される。
【0042】これらスイッチの状態信号入力回路104
に入力され、データバスによってCPU100に送信さ
れる。
【0043】前記LCD駆動回路105は、液晶表示素
子であるLCDを表示駆動させるための公知の構成より
成るもので、CPU100からの信号に従い、絞り値,
シャッタ秒時,設定した撮影モード等の表示をモニタ用
LCD42とファインダ内LCD(F−LCD)24の
両方に同時に表示させることができる。
【0044】前記LED駆動回路106は、照明用LE
D(F−LED)25とスーパーインポーズ用LED2
1を点灯,点滅制御する。前記IRED駆動回路107
は、CPU100の指示に従って赤外発光ダイオード1
3a〜13hを選択的に点灯させたり、赤外発光ダイオ
ード13a〜13hへの出力電流値(あるいはパルス
数)を変化させて照明パワーを制御する。
【0045】前記シャッタ制御回路108は、通電する
と先幕を走行させるマグネットMG−1と、後幕を走行
させるマグネットMG−2を制御し、感光部材に所定光
量を露光させる。前記モータ制御回路109は、フィル
ムの巻き上げ、巻き戻しを行うモータM1と主ミラー2
及びシャッタ4のチャージを行うモータM2を制御する
ためのものである。
【0046】上記シャッタ制御回路108とモータ制御
回路109によって、一連のカメラのレリーズシーケン
ス動作する。
【0047】次に、本発明の内容となる視線検出装置を
有したカメラの動作について、図5のフローチャートを
用いて説明する。
【0048】モードダイヤル44を回転させてカメラを
不作動状態から所定の撮影モードに設定すると(この実
施の形態では、シャッタ優先AEに設定された場合をも
とに説明する)、カメラの電源がONされ(ステップ#
100)、CPU100のEEPROM100aに記憶
された視線のキャリブレーションデータ以外の視線検出
に使われる変数がリセットされる(ステップ#10
1)。そして、カメラはレリーズ釦41が押し込まれて
スイッチSW1がONされるまで待機する(ステップ#
102)。
【0049】レリーズ釦41が押し込まれてスイッチS
W1がONされたことを信号入力回路104が検出する
と、6秒間の測光タイマが作動し、その間カメラは連続
的に測光センサ10と測光回路102、CPU100は
カメラの被写界光の測光値取り込み及び演算を繰り返
し、ファインダ内F−LCD24と外部モニタ用LCD
42に常に最新の測光演算値、つまりシャッタ秒時の表
示51と撮影レンズの絞り値表示52を行う。
【0050】SW1がONし、測光タイマが作動すると
同時にCPU100は図2のモードダイヤル44の設定
が視線入力がONかOFFのいづれにセットされている
のかを信号入力回路104を通じて検知する(ステップ
#103)。ここで、視線入力OFFつまり視線禁止モ
ードに設定されているか、あるいは後述の視線検出が不
成功であった場合は視線情報を用いずに焦点検出領域自
動選択サブルーチンによって特定の焦点検出領域を選択
する(ステップ#116)。そして、この焦点検出領域
において自動焦点検出回路103は焦点検出動作を行う
(ステップ#107)。
【0051】焦点検出領域自動選択のアルゴリズムとし
てはいくつかの方法が考えられるが、多点AFカメラで
は公知となっている中央焦点検出領域に重み付けを置い
た近点優先アルゴリズムが有効である。
【0052】また、ステップ#103にてカメラの動作
モードが視線検出動作を実行する視線検出モードに設定
されている時は、視線検出を行う際にどのキャリブレー
ションデータを使用するかを視線検出回路101に確認
する。さらに、前記キャリブレーションデータナンバー
に対応する視線のキャリブレーションデータが所定の値
に設定されていてそのデータが撮影者により入力された
ものであることが認識されると、視線検出回路101は
そのキャリブレーションデータにしたがって視線検出を
実行し、視線はピント板7上の視線位置座標に変換され
る(ステップ#104)。
【0053】上記ステップ#104の視線検出動作につ
いての詳細は後述するとして、次にステップ#104で
検出された視線検出は成功か否かの判定にかけられる
(ステップ#105)。ここでの判定条件は、角膜反射
像であるプルキンエ像及び瞳孔中心位置の信頼性及び眼
球の回転角等である。この結果、不成功ならばステップ
#116の焦点検出領域自動選択サブルーチンに進む。
また、視線検出が成功ならば、CPU100は該視線位
置座標が属する視線有効領域に対応した焦点検出領域を
選択する(ステップ#106)。これが領域選択手段で
ある。そして、自動焦点検出回路103はステップ#1
06あるいはステップ#116にて選択がなされた焦点
検出領域での焦点検出を実行する(ステップ#10
7)。
【0054】次に、レンズ駆動を行う前の状態でCCD
ラインセンサの信号から、上記フローにより選択された
焦点検出領域の焦点検出が可能か否かの判定が行われ
(ステップ#108)、焦点検出が可能であれば、CP
U100はレンズ焦点調節回路110に信号を送って所
定量撮影レンズ1を駆動させる(ステップ#109)。
【0055】さらに撮影レンズ駆動後の所定の焦点検出
領域において撮影レンズ1が合焦しているか否かの判定
が行われ(ステップ#110)、合焦していたならば、
CPU100はLCD駆動回路105に信号を送ってフ
ァインダ内LCD24の合焦マーク53を点灯させると
ともに、LED駆動回路106にも信号を送って合焦し
ている焦点検出領域に対応したスーパーインポーズ用L
ED21を点灯させ、該焦点検出領域を光らせることで
合焦表示させる(ステップ#111)。
【0056】ステップ#108にて焦点検出判定にて不
能と判断されるか、あるいはステップ#110にてレン
ズ駆動後に合焦判定で合焦失敗と判断された場合は、C
PU100はLCD駆動回路105に信号を送ってファ
インダ内LCD24の合焦マーク53を点滅させ、被写
体にピントを合わせることができなかったことを知らし
め(ステップ#117)、再度SW1が一旦OFFし、
再度ONするのを待つ(ステップ#118)。
【0057】ここでステップ#111に戻ると、撮影レ
ンズ1の合焦表示がなされた後、CPU100はステッ
プ#102でONした測光タイマの状態が引き続きON
しているか否かの検知を行う(ステップ#112)。こ
こで合焦した焦点検出領域がファインダ内に表示された
のを撮影者が見て、その焦点検出領域が正しくない、あ
るいは撮影を中止すると判断してレリーズ釦41から手
を離し、スイッチSW1がOFFされるとステップ#1
02に戻りSW1ON待ちとなる。
【0058】一方、撮影者が合焦表示された焦点検出領
域を見て、引き続きスイッチSW1をONし続けられて
いるならば、CPU100は測光回路102に被写界輝
度の測定を実行させ、カメラの露出値を決定させる(ス
テップ#113)。さらにレリーズ釦41を押し込んで
スイッチSW2がONされたならば(ステップ#11
4)、CPU100はシャッタ制御回路108、モータ
制御回路109、及び、絞り駆動回路111にそれぞれ
信号を送信して、公知のシャッタレリーズ動作を行う
(ステップ#115)。
【0059】具体的には、まず、モータ制御回路109
を介してモータM2に通電して主ミラー2をアップさ
せ、絞り31を絞り込んだ後、マグネットMG−1に通
電し、シャッタ4の先幕を開放する。絞り31の絞り値
及びシャッタ4のシャッタスピードは、前記測光回路1
02にて検出された露出値とフィルム5の感度から決定
される。所定のシャッタ秒時(1/125秒)経過後、
マグネットMG−2に通電し、シャッタ4の後幕を閉じ
る。フィルム5への露光が終了すると、モータM2に再
度通電し、ミラーダウン、シャッタチャージを行うとと
もにフィルム給送用のモータM1にも通電し、フィルム
の駒送りを行い、一連のシャッタレリーズシーケンスの
動作が終了する。
【0060】その後カメラは再びスイッチSW1がON
されるまで待機する(ステップ#102)。
【0061】図6は、視線検出動作アルゴリズムを示す
フローチャートである。
【0062】図6において、前述のように視線検出回路
101は、CPU100より信号を受け取ると視線検出
を実行する(ステップ#104)。視線検出回路101
は撮影モードの中での視線検出かあるいは視線のキャリ
ブレーションモードの中での視線検出かの判定を行う
(ステップ#200)。
【0063】実際には、図2のモードダイヤル44が視
線検出動作のためのキャリブレーションモードに設定さ
れていた場合は、後述するキャリブレーション(CA
L)動作(ステップ#300)を実行する。
【0064】モードダイヤル44には視線検出モードの
設定があり、この設定位置で、3人分のキャリブレーシ
ョンデータを登録、実行が可能となるキャリブレーショ
ンデータナンバー1、2、3と視線検出を実行しないO
FFの計4つのポジション設定が図2の電子ダイヤル4
5の操作で可能である。
【0065】そこで、カメラがキャリブレーションモー
ドに設定されていない場合、視線検出回路101はカメ
ラが現在どのキャリブレーションデータナンバーに設定
されているかを認識する。
【0066】つづいて視線検出回路101は、撮影モー
ドでの視線検出の場合はまず最初にカメラがどのような
姿勢になっているかを信号入力回路104を介して検出
する(ステップ#201)。信号入力回路104は図1
中の水銀スイッチ27(SW−ANG)の出力信号を処
理してカメラが横位置であるか縦位置であるか、また縦
位置である場合は例えばレリーズ釦41が天方向にある
か地(面)方向にあるか判断する。
【0067】次に、先に検出されたカメラの姿勢情報と
キャリブレーションデータに含まれる撮影者の眼鏡情報
より赤外発光ダイオード(以下、IREDと称す)13
a〜13hの選択を行う(ステップ#202)。
【0068】すなわち、カメラが横位置に構えられ、撮
影者が眼鏡をかけていなかったならば、図2(b)に示
すIRED13a,13bが選択される。また、カメラ
が横位置で、撮影者が眼鏡をかけていれば、撮影者の眼
鏡反射光の影響が少なくなるように、IRED13a、
13bの間隔よりもさらに間隔の広い13c,13dの
IREDが選択される。
【0069】又カメラが、例えばレリーズ釦41が天方
向にあるか地(面)方向に縦位置で構えられていたなら
ば、撮影者の眼球を下方から照明するようなIREDの
組み合わせ、すなわち撮影者が眼鏡をかけていなかった
ならば、13a,13eを、撮影者が眼鏡をかけていれ
ば、13c,13gの組み合わせが選択される。次にC
CD−EYE14の本蓄積に先だって予備蓄積が行われ
る(ステップ#203)。
【0070】CCD−EYE14予備蓄積というのは、
本蓄積の直前に一定時間、たとえば1msと蓄積時間を
決めて常に像信号を取り込むことで、その信号レベルの
強弱に応じて実際の眼球像取り込みの蓄積時間を制御す
ることで、安定した眼球像信号を得ることが可能とな
る。
【0071】つまり予備蓄積の像信号出力に基づいて、
観察者の眼球近傍の明るさ(外光量)が測定される(ス
テップ#204)。
【0072】次にイメージセンサ14(以下、CCD−
EYEと称す)の蓄積時間及びIREDの照明パワー
が、ステップ#204の外光量あるいは眼鏡装着か否か
の情報等に基づいて設定される(ステップ#205)。
【0073】CCD−EYE14の蓄積時間及びIRE
Dの照明パワーが設定されると、CPU100はIRE
D駆動回路107を介してIRED13を所定のパワー
で点灯させるとともに、視線検出回路101はCCD−
EYE14の蓄積を開始する(ステップ#206)。ま
た、先に設定されたCCD−EYE14の蓄積時間にし
たがってここでの蓄積を終了し、それとともにIRED
13も消灯される。次に、CCD−EYE14にて蓄積
された像信号は順次読み出され、視線検出回路101で
A/D変換された後にCPU100にメモリされる(ス
テップ#207)。
【0074】ここで簡単に視線検出の原理について図1
1、図12を用いて説明する。
【0075】図11は、CCD−EYE14の眼球像信
号を画像化したもので、図12中の眼球15の角膜16
において、仮にIRED13aと13bが発光すること
で、図11に示す角膜反射像(以下、プルキンエ像と記
す)19a、19bが生じる。また、17は虹彩、18
は瞳孔である。
【0076】これらの像信号に対して公知であるところ
の視線検出処理が行われる(ステップ#208)。
【0077】すなわち、CPU100において、眼球の
照明に使用された1組のIRED13a、13bの虚像
であるプルキンエ像19a、19bの位置が検出され
る。
【0078】前述の通り、プルキンエ像19a、19b
は光強度の強い輝点として現れるため、光強度に対する
所定のしきい値を設け、該しきい値を超える光強度のも
のをプルキンエ像とすることにより検出可能である。ま
た、瞳孔の中心位置は瞳孔18と虹彩17の境界点を複
数検出し、各境界点を基に円の最小二乗近似を行うこと
により算出される。これらプルキンエ像位置と瞳孔中心
位置とから眼球における回転角度θが求まり、さらに二
つのプルキンエ像19の間隔からカメラの接眼レンズ1
1と撮影者の眼球15との距離が算出され、CCD−E
YE14に投影された眼球像の結像倍率βを得ることが
できる。
【0079】以上のことから、眼球の回転角度θと結像
倍率β、さらにキャリブレーションで得られた個人差補
正情報を用いて、撮影者の視線方向のピント板7上の位
置座標を求めることができる。
【0080】図6に戻って、ステップ#203からステ
ップ#208で行われた視線検出動作が何回行われたか
が判定され(ステップ#209)、後述するキャリブレ
ーション時に撮影者の注視点分布に基づいて決定された
視線検出実行回数:nに達していなければステップ#2
03に戻って再度視線検出を実行し、n回に達したなら
ば、n回の視線検出で得られた撮影者の視線方向のピン
ト板7上の位置座標のx、y値の各々の平均値を算出し
て最終的な視線位置として決定する(ステップ#21
0)。これが視線位置決定手段であり、ここで視線位置
が決まると図5のステップ#105の領域選択手段に戻
り、視線位置に対応した視線有効領域が決定し、さらに
該領域に対応した焦点検出領域が決定される。
【0081】つづいて、図7のフローチャートを用いて
キャリブレーション動作アルゴリズムの説明を行う。
【0082】前述したように、キャリブレーションとは
撮影者がファインダ視野内の焦点検出領域のドットマー
ク右端74′、左端70′をそれぞれ一定時間固視する
ことで行い、そこから得られた眼球像データから視線補
正データを採取するというものであり、本実施例ではこ
のキャリブレーション動作そのものが前記図6の視線検
出アルゴリズム中の視線検出実行回数:nを決める注視
点分布採取手段となっている。
【0083】モードダイヤル44が「CAL」ポジショ
ンに設定されることで、キャリブレーション動作がスタ
ートする(ステップ#300)。
【0084】まず最初にカメラがどのような姿勢になっ
ているかを水銀スイッチ27(SW−ANG)の出力信
号と信号入力回路104を介して検出する(ステップ#
301)。これは図6視線検出フローのステップ#20
1と同じ検出処理である。つぎに、ファインダ視野内の
焦点検出領域のドットマーク右端74′を点滅表示して
撮影者に固視すべき目標を表示する(ステップ#30
2)。
【0085】また同時に現在設定されているキャリブレ
ーションナンバからEEPROM100aにメモリされ
ているキャリブレーションデータの確認を行い、既に登
録済みの場合は、図2のモニタ用LCD42の「CA
L」表示をそのまま点灯に、未登録の場合には、「CA
L」表示を点滅させる。
【0086】つづいてカメラは、キャリブレーションを
行う際の撮影者の眼球を照明するIREDの選択動作を
行う(ステップ#303)。この場合のIREDの選択
動作は、図6中で説明した動作と多少異なり、カメラの
姿勢情報を用いるのは同様であるが、キャリブレーショ
ンを過去に行って、キャリブレーションデータが既にカ
メラに記憶されている場合には、記憶されているIRE
Dの組を、つまり、眼鏡装着時用か非装着時(裸眼)用
の組のいづれかを記憶情報に従って最初から選択する。
一方、初めてキャリブレーションを行う場合は、眼鏡装
着時用か非装着時用のIREDの組を選択する情報がな
いため、キャリブレーションの第一回目の眼球像照明は
眼鏡非装着時用のIREDの組を選択発光し、後述のC
CDの眼球像信号中に眼鏡の反射によるゴーストの有無
の判定に従って、眼鏡ゴースト発生が検知されれば、二
回目以降の照明は眼鏡用のIREDの組に変更される。
ステップ#303にて、発光を行うべきIREDの組が
決定され、カメラは撮影者のSW1のON信号待ちとな
り、SW1−ON信号を検知すると前記図6のフローチ
ャート説明で行ったステップ#203から#ステップ2
05と同じ眼球像取り込み動作が行われる。
【0087】つまり、CCD−EYE14の蓄積時間と
IRED13の照明パワーが設定され(ステップ#30
4)、実際にCCD−EYE14の蓄積とIRED13
の照明が実行され(ステップ#305)、CCD−EY
E14にて蓄積された像信号が順次読み出され、AD変
換後にCPU100にメモリされる(ステップ#30
6)。次にCPU100はメモリ上のAD変換された像
信号を定められた計算式に従って撮影者の眼球の回転角
度θを算出する(ステップ#307)。
【0088】なお、眼球像取り込み動作中はファインダ
視野内の焦点検出領域のドットマーク右端74′の点滅
は点灯表示に変わり、撮影者に眼球像取り込み動作を実
行している最中であることを知らしめている。
【0089】つづいて算出された回転角度θは、その値
が妥当か否かの判定にかけられる(ステップ#30
8)。
【0090】眼球光軸と視軸のズレが生体的に数十度も
ずれていることはほとんどないので、ここでは判定の閾
値を±10度に設定してある。ステップ#308では、
検出された眼球の回転角度OK、NGの判定を行ってい
るだけで、その結果がOKでもNGでも次のステップ#
309に進み、眼球の回転角度検出の総回数が10回未
満であればステップ#304にもどり、再度眼球像取り
込み動作が行われ、眼球の回転角度検出の総回数が10
回に達すると、今度はその10回のうちOKが何回発生
したかによってキャリブレーション(CAL)成功、失
敗の判定を行う(ステップ#310)。
【0091】ここでは5回以上の回転角度検出成功で右
端74′でのキャリブレーション成功となり、引き続
き、今度は左端70′でのキャリブレーション動作を開
始する。左端70′でのキャリブレーションが同様に成
功すると右端指標74′と左端指標70′それぞれにお
ける注視点(正確には注視回転角)の分布が得られる。
図8(a)と図8(b)にその一例を示す。
【0092】図8(a)と図8(b)は、撮影者:aと
撮影者:bという2人の本発明のカメラのキャリブレー
ション対象者に、各人右端指標74′を見てキャリブレ
ーションを行ってもらい、10回の回転角度検出に全て
成功したデータをθx、θy座標系にプロットしたもの
であり、便宜的にθx、θy座標系の原点に各θx、θ
y10個づつのデータの平均値を一致させてあるため、
原点を平均中心とした分布となっている。
【0093】図8(a)と図8(b)から明らかなよう
にaの人に対し、bの人は1点(この場合指標74′)
を注視していてもその注視点のばらつきが大きいことが
わかる。そこで、これら注視点分布を定量化するために
θx、θy各々に対して標準偏差を計算する(ステップ
#311)。
【0094】標準偏差:σは次式で算出する(式はθx
についてのもの)。
【0095】
【数1】
【0096】よって上式より指標47′を注視したとき
のX方向、y方向の標準偏差をそれぞれ、σRx、σR
y、また指標40′を注視したときのX方向、y方向の
標準偏差をそれぞれ、σLx、σLyと各々計算するこ
とができる。本説明のカメラでは視線検出で選択すべき
視線有効領域60から64が水平方向のみに並んでいる
ことから、ここではX方向のみの注視点分布を示す標準
偏差σx=(σRx+σLx)/2を定義して以下説明
を続ける。
【0097】次に、計算されたX方向の注視点分布の標
準偏差σxのバラツキ表示を行う(ステップ#31
2)。
【0098】図9は、視線検出キャリブレーション時の
ファインダー内表示図であり、24は、前述のファイン
ダー内LCDであり、ドットマトリクス液晶等、表示を
任意に変えられるよう構成されており、図3の表示と
は、全く別の表示が可能となっている。90は、キャリ
ブレーションの状態表示手段であり、CAL1〜CAL
3の表示を行う。91〜96は、注視点分布のバラツキ
の程度を表示する手段であり、6段階の表示が可能であ
る。
【0099】以下、注視点分布のバラツキの程度を表示
する方法を説明する。説明の便宜上、σx=σRxとし
て説明する。σxが1.3°以下であれば、表示部91
が点灯し、以下、σxが1.1°以下であれば、更に、
表示部92が点灯、σxが0.9°以下であれば、表示
部93が点灯、σxが0.7以下であれば、表示部94
が点灯、σxが0.5以下であれば、表示ぶ95が点
灯、σxが0.3以下であれば、表示部96が点灯す
る。
【0100】以上、説明したように、注視点分布のバラ
ツキを表示する表示手段91〜96は、バラツキが少な
い程、より多くの表示部が点灯し、撮影者の注視能力を
撮影者自身が認識することができる。
【0101】図9(a)と図9(b)は、前記、図8
(a)と図8(b)で説明した撮影者a、bが実際にキ
ャリブレーションを行ったときの表示手段の状態を示す
図である。
【0102】図9(a)において、撮影者aは、標準偏
差σx=0.39であることにより、表示部91,9
2,93,94,95が点灯する。図9(b)におい
て、撮影者bは、標準偏差σx=0.85であることよ
り、表示部91,92,93が点灯する。
【0103】次に、計算されたX方向の注視点分布の標
準偏差σxを閾値と比較する(ステップ#313)。閾
値はここでは0.7度としている。実際には視線検出で
選択すべき領域60から64を選択するためには隣接し
た各領域中心間の距離/2(ここでは視線角度にして約
2度)が分離できれば可能であるはずであるが、実際に
は注視時のばらつき以外にも撮影者のファインダの覗き
方の差、キャリブレーションでの誤差、視線検出時の誤
差等が視線検出の結果に影響するため、ここでの閾値は
厳しい値を設定してある。
【0104】説明の便宜上σx=σRxとすると、上記
撮影者aは標準偏差σx=0.39であることより閾値
0.7を下回っているので注視点分布のばらつきは少な
い人であると判断し、図6で説明したところの視線検出
動作実行為時における視線検出実行回数はn=1と決定
され、その回数がEEPROM100aにメモリされる
(ステップ#313)。一方、上記撮影者bは標準偏差
σx=0.85であることより閾値0.7を上回ってい
るので注視点分布のばらつきは大きい人であると判断
し、視線検出実行回数はn=3と決定され、その回数が
EEPROM100aにメモリされる(ステップ#31
5)。
【0105】図10(a)と図10(b)は、前記図8
(a)と図8(b)で説明した撮影者a、bが実際に視
線検出を行って、視線有効領域61が選択されることを
説明したものである。
【0106】図10(a)において、撮影者aはキャリ
ブレーション時の注視点分布採取手段によって注視点分
布のばらつきが少ない人と判断されているため、n=1
回のみの視線検出で検出されたピント板7上の座標80
がそのまま視線位置として決定され、その座標が属する
視線有効領域61が選択されている。
【0107】一方図10(b)においては、撮影者bは
注視点分布のばらつきが大きい人と判断されるため、視
線検出はn=3回実行され、それぞれピント板7上の座
標81、82、83が視線位置として検出される。そし
て最終的には座標81、82、83のそれぞれのX,Y
座標値が平均された84が視線位置として決定し、その
座標が属する視線有効領域61が選択されている。
【0108】図7に戻って、ステップ#314およびス
テップ#315にて視線検出実行回数が決定されると、
モニタ用LCD42の「CAL」表示はキャリブレーシ
ョン成功を意味する点灯表示となりキャリブレーション
データはCPU100にメモリされる。キャリブレーシ
ョンが成功すると、CPU100はキャリブレーション
によって得られた撮影者の眼球の個人差による視線の検
出誤差を補正するための視線補正データをCPU100
のEEPROM100aに記憶する。もし既にキャリブ
レーションデータが登録されていた場合、新たに採取さ
れたキャリブレーションデータは、メモリされていた過
去のデータと統合される(ステップ#317)。
【0109】またステップ#310にて回転角度の検出
成功回数が5回未満の場合にはCAL失敗となり、モニ
タ用LCD42の「CAL」表示は点滅表示にかわり、
撮影者にキャリブレーションが失敗したことを知らしめ
る(ステップ#316)。
【0110】上記説明において、注視点分布採取手段と
して、注視点座標の標準偏差を利用し、注視点分布のバ
ラツキの程度を表示したが、標準偏差以外にも、分散の
値等を利用しても良い。また、注視点分布のバラツキの
程度を表示する手段も、実施例に限らず、応用例が多数
あることも、言うまでも無い。
【0111】(変形例)本発明は、一眼レフカメラに適
用した場合を述べているが、レンズシャッタカメラ,ビ
デオカメラ等のカメラにも適用可能である。更に、ヘッ
ドマウント式の視線検出ユニットとディスプレイを組み
合わせた機器やその他の機器、構成ユニットとしても適
用することができるものである。
【0112】
【発明の効果】本発明は、観察者の視線を検出する視線
検出手段、該視線検出手段で算出された視線位置を補正
するための補正値を算出するためのキャリブレーション
手段、観察者が同一個所を注視した時の複数の視線位置
情報を得るための注視点分布採取手段、表示手段を有
し、該キャリブレーション手段実行と同時に、該注視点
分布採取手段も実行され、該注視点分布採取手段の出力
に基づいて、注視点分布のバラツキの程度を該表示手段
に表示することを特徴とする視線検出機能付き光学機器
を提供するものである。
【0113】この発明により、キャリブレーション時
に、観察者の注視能力を自分で認識することができ、学
習効果として、注視能力を向上させることも可能とな
り、また、観察者が、安心して使えるシステムを提供す
ることが可能となる。
【図面の簡単な説明】
【図1】一眼レフカメラの概略図。
【図2】一眼レフカメラの上面概観図および一眼レフカ
メラの後部外観図。
【図3】ファインダ視野図。
【図4】カメラの電気回路図。
【図5】カメラ動作のフローチャート。
【図6】視線検出動作のフローチャート。
【図7】視線検出キャリブレーションのフローチャー
ト。
【図8】注視点分布図。
【図9】視線検出キャリブレーション時のファインダー
内表示図。
【図10】視線選択領域説明図。
【図11】視線検出原理説明図。
【図12】視線検出原理説明図。
【符号の説明】
1 撮影レンズ 2 主ミラー 6 焦点検出装置 6f イメージセンサ 7 ピント板 10 測光センサ 11 接眼レンズ 13 赤外発光ダイオード(IRED) 14 イメージセンサ(CCD−EYE) 15 眼球 16 角膜 17 虹彩 18 瞳孔 24 ファインダー内LCD 27 水銀スイッチ 31 絞り 41 レリーズ釦 44 モードダイヤル 45 電子ダイヤル 50 視線入力マーク 53 合焦マーク 70〜74 焦点検出領域マーク 91〜96 表示手段 100 CPU 101 視線検出回路 103 焦点検出回路 104 信号入力回路 105 LCD駆動回路 106 LED駆動回路 107 IRED駆動回路 110 焦点調節回路
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G02B 7/34 G02B 7/11 C G03B 13/36 G03B 3/00 A Fターム(参考) 2H011 BA23 CA19 2H018 AA00 AA21 BE00 BE02 2H051 BA04 DA24 2H102 AA71 AB00 BA01 BA12 BB05 BB08 BB24 CA11 CA12 CA13 CA19 CA26 CA27

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 観察者の視線を検出する視線検出手段、
    該視線検出手段で算出された視線位置を補正するための
    補正値を算出するためのキャリブレーション手段、観察
    者が同一個所を注視した時の複数の視線位置情報を得る
    ための注視点分布採取手段、表示手段を有し、該キャリ
    ブレーション手段実行と同時に、該注視点分布採取手段
    も実行され、該注視点分布採取手段の出力に基づいて、
    注視点分布のバラツキの程度を該表示手段に表示するこ
    とを特徴とする視線検出機能付き光学機器。
  2. 【請求項2】 該注視点分布採取手段によって得られた
    観察者の複数の視線位置データは、統計処理によって数
    値化されることを特徴とする請求項1記載の視線検出機
    能付き光学機器。
  3. 【請求項3】 該表示手段は、カメラのファインダ内に
    配置されることを特徴とする請求項1記載の視線検出装
    置付き機器。
JP2002115089A 2002-04-17 2002-04-17 視線検出機能付き光学機器 Withdrawn JP2003307774A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002115089A JP2003307774A (ja) 2002-04-17 2002-04-17 視線検出機能付き光学機器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002115089A JP2003307774A (ja) 2002-04-17 2002-04-17 視線検出機能付き光学機器

Publications (1)

Publication Number Publication Date
JP2003307774A true JP2003307774A (ja) 2003-10-31

Family

ID=29396603

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002115089A Withdrawn JP2003307774A (ja) 2002-04-17 2002-04-17 視線検出機能付き光学機器

Country Status (1)

Country Link
JP (1) JP2003307774A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112987910A (zh) * 2019-12-17 2021-06-18 七鑫易维(深圳)科技有限公司 眼球追踪设备的测试方法、装置、设备及存储介质
JP7390297B2 (ja) 2018-01-17 2023-12-01 マジック リープ, インコーポレイテッド 眼の回転中心決定、深度平面選択、およびディスプレイシステム内のレンダリングカメラ位置付け
US11880043B2 (en) 2018-07-24 2024-01-23 Magic Leap, Inc. Display systems and methods for determining registration between display and eyes of user
US11880033B2 (en) 2018-01-17 2024-01-23 Magic Leap, Inc. Display systems and methods for determining registration between a display and a user's eyes

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7390297B2 (ja) 2018-01-17 2023-12-01 マジック リープ, インコーポレイテッド 眼の回転中心決定、深度平面選択、およびディスプレイシステム内のレンダリングカメラ位置付け
US11880033B2 (en) 2018-01-17 2024-01-23 Magic Leap, Inc. Display systems and methods for determining registration between a display and a user's eyes
US11883104B2 (en) 2018-01-17 2024-01-30 Magic Leap, Inc. Eye center of rotation determination, depth plane selection, and render camera positioning in display systems
US11880043B2 (en) 2018-07-24 2024-01-23 Magic Leap, Inc. Display systems and methods for determining registration between display and eyes of user
CN112987910A (zh) * 2019-12-17 2021-06-18 七鑫易维(深圳)科技有限公司 眼球追踪设备的测试方法、装置、设备及存储介质
CN112987910B (zh) * 2019-12-17 2023-04-07 七鑫易维(深圳)科技有限公司 眼球追踪设备的测试方法、装置、设备及存储介质

Similar Documents

Publication Publication Date Title
US6674964B2 (en) Visual axis detecting apparatus
JP3297481B2 (ja) 視線検出装置
JPH08563A (ja) 光学装置及びカメラ
US5402199A (en) Visual axis detecting apparatus
JPH07289517A (ja) 視線検出装置およびそれを備えた光学機器
JP2003307774A (ja) 視線検出機能付き光学機器
JP2002301030A (ja) 視線検出機能付き機器
JP3530647B2 (ja) 視線検出装置及び光学装置
JP2003339642A (ja) 視線検出装置及びそれを有した光学装置
JP3256294B2 (ja) 視線検出装置および視線検出方法
JP3176147B2 (ja) 視線検出装置
JP3530648B2 (ja) 視線検出装置及び光学装置
JP2002341239A (ja) 視線検出装置
JP3391892B2 (ja) 視線検出装置、光学装置及び視線検出方法
JP3211427B2 (ja) 視線検出装置
JPH0688935A (ja) 視線検出機能付光学装置
JP3184634B2 (ja) 視線検出装置を有する光学装置
JP3605080B2 (ja) 視線検出装置
JP3219491B2 (ja) 視線検出装置
JP3605081B2 (ja) 視線検出装置
JP2003084193A (ja) 光学機器
JP3492324B2 (ja) 光学装置
JP2002303782A (ja) 光学装置及びカメラ
JP3309439B2 (ja) 光学装置
JP2004004300A (ja) 視線検出装置及びそれを有した光学装置

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20050705