JP3135415B2 - 視線検出装置 - Google Patents

視線検出装置

Info

Publication number
JP3135415B2
JP3135415B2 JP05104925A JP10492593A JP3135415B2 JP 3135415 B2 JP3135415 B2 JP 3135415B2 JP 05104925 A JP05104925 A JP 05104925A JP 10492593 A JP10492593 A JP 10492593A JP 3135415 B2 JP3135415 B2 JP 3135415B2
Authority
JP
Japan
Prior art keywords
image
light
light receiving
image sensor
eyeball
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP05104925A
Other languages
English (en)
Other versions
JPH06294929A (ja
Inventor
秀和 高橋
守 宮脇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP05104925A priority Critical patent/JP3135415B2/ja
Priority to EP93310577A priority patent/EP0605246B1/en
Priority to DE69330709T priority patent/DE69330709T2/de
Publication of JPH06294929A publication Critical patent/JPH06294929A/ja
Priority to US08/955,279 priority patent/US5873003A/en
Application granted granted Critical
Publication of JP3135415B2 publication Critical patent/JP3135415B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2213/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B2213/02Viewfinders
    • G03B2213/025Sightline detection

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、例えばビデオカメラに
配置され、撮影者が撮影画面内のどの位置を見ているか
を検出する視線検出装置の改良に関するものである。
【0002】
【従来の技術】従来より、観察者(被検者)が観察面上
のどの位置を観察しているかを検出する、いわゆる視線
を検出する視線検出装置は種々提案されている。
【0003】例えば特開昭61−172552号公報に
おいては、光源からの平行光束を被検者の前眼部へ投射
し、角膜からの反射光に基づく角膜反射像(プルキンエ
像)と瞳孔の結像位置を利用して視軸(注視点)を求め
ている。
【0004】図11は視線検出方法の原理図である。
【0005】同図において、204は被検者に対して不
感の赤外光を放射する発光ダイオ−ド等の光源であり、
投光レンズ206の焦点面に配置されている。
【0006】この光源204より発せられた赤外光は、
投光レンズ206により平行光となり、ハーフミラー2
05で反射し、眼球200の角膜201を照明する。こ
の時、角膜201の表面で反射した赤外光の一部に基づ
くプルキンエ像dは、ハーフミラー205を通過し受光
レンズ207により集光され、イメージセンサ209上
の位置d’にプルキンエ像dを再結像する。また、虹彩
203の端部a,bからの光束は、ハーフミラー20
5,受光レンズ207を介してイメージセンサ209上
に導光され、その位置a’,b’に該端部a,bの像を
結像する。
【0007】前記受光レンズ207の光軸アに対する眼
球の光軸イの回転角θが小さい場合、虹彩203の端部
a,bのZ座標をZa,Zbとすると、虹彩203の中
心位置cの座標Zcは Zc≒(Za+Zb)/2 と表される。また、プルキンエ像の発生位置dのZ座標
をZd、角膜201の曲率中心oと虹彩203の中心c
までの距離をLocとすると、眼球光軸イの回転角θは Loc・sinθ≒Zc−Zd ………………(1) の関係式を略満足する。このため、イメージセンサ20
9上に投影された各特徴点(プルキンエ像の発生位置d
及び虹彩203の端部a,bのイメージセンサ209上
の像Za’,Zb’,Zd’)の位置を検出する事によ
り、眼球光軸イの回転角θを求める事ができる。この
時、上記(1)式は β・Loc・sinθ=(Za’−Zb’)/2−Zd’ ……(2) と書き換えられる。但し、βはプルキンエ像の発生位置
dと受光レンズ207との距離L1 と受光レンズ207
とイメージセンサ209との距離L0 で決る倍率で、通
常ほぼ一定の値となっている。
【0008】この様に、観察者の眼球200の視線の方
向(注視点)を検出することにより、例えば一眼レフカ
メラやビデオカメラにおいては撮影者がピント面上のど
の位置を観察しているかを知ることができる。
【0009】
【発明が解決しようとする課題】しかしながら、上記従
来例では、外からのファインダ内への漏れ込み光や照射
赤外光のまつ毛による反射光により、プルキンエ像以外
の位置にも出力のピーク値が現れることにより、該プル
キンエ像の検出が難しくなる場合があった。
【0010】上記現象を図12(a),(b)を用いて
説明する。
【0011】図12(a)は外光などの漏れ込み光のな
いイメージセンサ209の出力である。ここで、dはプ
ルキンエ像、a,bは瞳孔と虹彩203の境界、i,h
は虹彩203と強膜202の境界による出力である。
【0012】外光がイメージセンサ209に結像される
と、図12(b)のような出力状態になり、fの位置に
ピークをもつ出力となってしまう。従って、本来のプル
キンエ像dの出力との区別ができなくなり、視線検出が
不可能となってしまった。
【0013】(発明の目的)本発明の目的は、照明手段
よりの照明光以外の光が入射するような使用環境下であ
っても、常に適正な視線検出を行うことのできる視線検
出装置を提供することである。
【0014】
【課題を解決するための手段】 請求項1に係る発明
は、被検者あるいは観察者の眼球を照明する照明手段
と、前記眼球からの反射光を受光する第1および第2の
受光手段と、前記第1の受光手段から出力される信号の
ピーク位置と前記第2の受光手段から出力される信号の
ピーク位置より求めたプルキンエ像を用いて被験者ある
いは観察者の視線方向を算出する演算手段とを備えたこ
とを特徴としている。 請求項2に係る発明は、画像を表
示する画像表示装置と、前記画像表示装置を見る使用者
の眼球を照明する照明手段と、前記眼球からの反射光を
受光する第1および第2の受光手段と、前記第1の受光
手段から出力される信号のピーク位置と前記第2の受光
手段から出力される信号のピーク位置より求めたプルキ
ンエ像を用いて被験者あるいは観察者の視線方向を算出
する演算手段とを備えたことを特徴としている。
【0015】
【実施例】以下、本発明を図示の実施例に基づいて詳細
に説明する。
【0016】図1は本発明の第1の実施例における視線
検出装置の要部構成を示す図であり、この実施例では、
ビデオカメラにおけるファインダでの観察者の視線検出
に本発明を施したものである。
【0017】図1において、101は被検者の眼球、1
は被検者の眼球の角膜、2は強膜、3は虹彩である。4
a,4bは光源で、被検者に不感である赤外光を放射す
る発光ダイオードである。6a,6bは投光レンズであ
り、光源4a,4bからの光束により、角膜1面上を照
射している。尚、光源4a、投光レンズ6aは第1の照
明手段を、光源4b、投光レンズ6bは第2の照明手段
を、それぞれ構成している。
【0018】7,8は受光レンズであり、虹彩の端部点
a,bの像をイメージセンサ5,9面上に結像してい
る。尚、受光レンズ7,イメージセンサ5は第1の受光
手段を,受光レンズ8、イメージセンサ9は第2の受光
手段を、それぞれしている。
【0019】11は液晶表示パネル、12は液晶表示パ
ネル11を裏面から照明するバックライトであり、これ
らにより画像表示装置であるところの液晶ファインダを
構成しており、対物レンズ13,接眼レンズ14を通し
て被検者の眼球101の網膜上に液晶表示パネル11に
表示された像が結像される。
【0020】15は演算手段であり、上記イメージセン
サ5とイメージセンサ9の出力信号を利用して、被検者
の視線を演算し求める。
【0021】図2(a),(b)に外光の漏れ込み等の
無い理想状態のイメージセンサ5とイメージセンサ9の
出力信号を示す。
【0022】ここでは簡単のため1次元ラインセンサの
出力として示すが、2次元エリアセンサでも同様である
ことは言うまでもない。
【0023】図2(a),(b)において、eは第1の
照明手段によるプルキンエ像のイメージセンサ5よりの
ピーク出力、e’は第2の照明手段によるプルキンエ像
のイメージセンサ9よりのピーク出力である。
【0024】ここでは、各イメージセンサ5,9に対し
て、それぞれ1つの照明手段を用いているが、2つ以上
の照明手段を用いることも当然可能である。
【0025】図3(a),(b)にファインダ内に太陽
光などの外光が入射した場合の出力信号を示す。
【0026】ここでは、外光が入射し、受光レンズ7を
通してイメージセンサ5上に結像された場合を示してい
る。この外光により、fの位置にもピーク出力が現れ
る。
【0027】この様にイメージセンサ5からは疑似ピー
ク信号が出力されるが、第1の受光手段と第2の受光手
段の光軸がずれているため、イメージセンサ9には外光
が入射しにくく、該イメージセンサ9からは疑似ピーク
信号は出力されない。
【0028】従って、イメージセンサ5とイメージセン
サ9の出力を演算手段15に取り込み、ピーク出力が複
数現れていない、正常出力のイメージセンサ出力の判断
を行い、上記(1)式,(2)式、視軸の補正演算を行
うことにより、観察者の視線を検出することができる。
【0029】又、イメージセンサ5とイメージセンサ9
のピーク出力の位置を論理演算させることにより、正確
なプルキンエ像の位置を検出することもできる。
【0030】論理演算として、 1)論理積 2)排他的論理和 による検出方法があるが、これらについて以下に説明す
る。
【0031】1)の“論理積”を用いる場合 第1の照明手段によるプルキンエ像をイメージセンサ5
上に結像させ、第2の照明手段によるプルキンエ像をイ
メージセンサ9上に結像させる。イメージセンサ5で検
出したプルキンエ像のアドレスをA1とし、イメージセ
ンサ9で検出したアドレスをB1,B2とする。ここ
で、B1はプルキンエ像によるもので、B2は外光によ
るものとする。
【0032】プルキンエ像をイメージセンサ5とイメー
ジセンサ9の同一位置に結像するように光学系を設計し
ておけば、アドレスA1=アドレスB1となる。ここ
で、イメージセンサ5の出力とイメージセンサ9の出力
の論理積を計算することにより、アドレスB2(外光に
よるピーク)を除去させ、正式なプルキンエ像ピーク位
置を検出することができる。
【0033】又、2つのイメージセンサ5,9上の同一
位置に結像させなくても、位置のオフセット量を減算さ
せて、論理積を計算すれば同一の効果となる。
【0034】2)の“排他的論理和”を用いる場合 第1の照明手段によるプルキンエ像をイメージセンサ5
上に結像させるが、第2のイメージセンサ9上にはプル
キンエ像を結像させない光学配置とする。つまり、イメ
ージセンサ9上には外光しか結像しないので、イメージ
センサ5の出力の排他的論理和を計算することにより、
イメージセンサ5の出力において正式なプルキンエ像を
検出できる。
【0035】この実施例で述べた様に、複数のイメージ
センサを視線検出用センサとして用い、その出力を比較
演算を行うことにより、外光に影響されない視線検出を
行うことが可能となった。
【0036】なお、この実施例では、画像表示装置に液
晶ファインダを用いたが、ブラウン管を用いた画像表示
装置にも当然応用可能である。又、照明用光源を2つ用
いたが、2つ以上でも当然可能であり、逆に光学系の設
計により1つであっても良い。
【0037】(第2の実施例)図4は本発明の第2の実
施例における視線検出装置の要部構成を示す図であり、
図1と同じ部分は同一符号を付してある。
【0038】図4において、16は周辺領域にイメージ
センサを有する画像表示装置である。
【0039】図5に上記画像表示装置16の概略的平面
図を示す。
【0040】図5において、17はSOI基板、18は
液晶表示パネル(液晶表示領域)、19は液晶駆動回
路、20はイメージセンサである。
【0041】上記の第1の実施例では、半導体素子とし
て、イメージセンサを2チップ、液晶パネルを1チップ
の最低3チップ必要となるが、この第2の実施例では、
同一チップ内にイメージセンサ20と液晶表示パネル1
8を有するため、部品数が少なく、小型化できるといっ
た特徴をもつ。
【0042】又、イメージセンサ20は液晶表示パネル
18と比較して小型であるため、1チップ化してもあま
り面積の増大はなく、コスト的にも有利である。(本実
施例においては、液晶表示パネル18のサイズが「25
×27」mmに対してイメージセンサ20のサイズは「2
×3」mmである)また、イメージセンサ20は図6に示
す様な位置に設けても良い。
【0043】この第2の実施例においては、液晶表示パ
ネル18と複数のイメージセンサ20を1チップ化する
ようにしているため、装置の小型化,コスト低減が可能
となる。
【0044】(第3の実施例)図7は本発明の第3の実
施例に係るイメージセンサを具備した画像表示装置の構
成を示す図であり、図5と同じ部分は同一符号を付して
ある。なお、その他の構成は第2の実施例と同様である
ので、ここでは省略している。
【0045】上記第2の実施例においては、イメージセ
ンサ20は液晶表示パネル(液晶表示領域)18の上下
2ヶ所に設けられていたが、この実施例では、液晶表示
パネル18の左右の領域にもイメージセンサ20を設け
ている。又、イメージセンサの数も2つに限定されず、
これ以上であっても良い。
【0046】この第3の実施例においては、液晶表示パ
ネル(液晶表示領域)18の上下,左右にイメージセン
サ20を4個設ける構成にしている為、更に精度の良い
視線検出を行うことが可能となる。
【0047】(第4の実施例)図8は本発明の第4の実
施例に係るイメージセンサを具備した画像表示装置の構
成を示す図であり、図5等と同じ部分は同一符号を付し
てある。
【0048】この第4の実施例では、画像表示装置,視
線検出用イメージセンサ,演算手段15を1チップ化し
た構成にしている。なお、その他の構成は第2の実施例
と同様であるので、ここでは省略している。
【0049】ここで、演算手段15は例えばマイクロプ
ロセッサであり、アドレス補正,論理演算(論理積,排
他的論理和)、及び、上記(1)式,(2)式の演算を
行う。
【0050】このような構成にすることにより、更なる
装置の小型化,コスト低減が可能となる。
【0051】(第5の実施例)図9は本発明の第5の実
施例における視線検出装置の要部構成を示す図であり、
図1と同じ部分は同一符号を付してある。
【0052】図9において、21は赤外光を反射させる
ダイクロイックミラーである。
【0053】 光源4a,4bにより発せられた赤外光
は、投光レンズ6a,6bにより平行光となり、眼球1
01を照明する。眼球101で反射した赤外光は、ダイ
クロイックミラー21により反射され、受光レンズ7を
通してイメージセンサ5に結像される。同様に、図9で
は不図示の、受光レンズを通してイメージセンサ9
(図1参照)に結像される。
【0054】演算手段15は、上記イメージセンサ5と
イメージセンサ9の出力を取り込み、第1の実施例と同
様の演算を行い、被検者の視線検出を行う。
【0055】この第5の実施例は、イメージセンサ5,
9を画像表示装置の周辺に設けることができない場合に
有効となる。
【0056】(第6の実施例)図10は本発明の第6の
実施例における視線検出装置の要部構成を示す図であ
り、図1等と同じ部分は同一符号を付してある。
【0057】この第6の実施例では、画像表示装置とし
てTTLファインダを用いた一眼レフレックスカメラに
応用したものである。
【0058】図10において、22は対物レンズ、23
は主ミラーである。24は前記主ミラー23を透過した
光束を下方に反射させるサブミラー24であり、ここで
反射された光は焦点検出装置25に入射する。26はシ
ャッタ、27はピント板、28はペンタダハプリズム、
29は接眼レンズ、30はダイクロイックミラーであ
る。
【0059】主ミラー23で反射した光束は、ピント板
27に結像し、該ピント板27に結像した像はペンタダ
ハプリズム28,接眼レンズ29を通って、眼球101
の網膜上に結像される。
【0060】視線検出系の光路は、上記第5の実施例で
示した様に、光源4a,4bにて発せられた赤外光の角
膜反射像をダイクロイックミラー30を介して視線検出
用イメージセンサ5,9にそれぞれに結像させる。
【0061】このような構成にすることにより、外光に
強い視線検出能力を持つカメラを実現することができ
る。
【0062】
【発明の効果】 以上説明したように、請求項1に係る
発明は、被検者あるいは観察者の眼球を照明する照明手
と、前記眼球からの反射光を受光する第1および第2
の受光手段と、前記第1の受光手段から出力される信号
のピーク位置と前記第2の受光手段から出力される信号
のピーク位置より求めたプルキンエ像を用いて被験者
るいは観察者の視線方向を算出する演算手段とを備え
ことにより、照明手段によるプルキンエ像と照明光以外
の光によって生じる疑似プルキンエ像とを分離すること
ができる。
【0063】よって、照明手段よりの照明光以外の光が
入射するような使用環境下であっても、常に適正な視線
検出を行うことが可能となる。
【図面の簡単な説明】
【図1】本発明の第1の実施例における視線検出装置の
要部構成を示す図である。
【図2】外光が入射していない場合の図1の各イメージ
センサの出力状態を示す図である。
【図3】外光が入射している場合の図1の各イメージセ
ンサの出力状態を示す図である。
【図4】本発明の第2の実施例における視線検出装置の
要部構成を示す図である。
【図5】図4の画像表示装置の構成を示す図である。
【図6】図5の変形例を成すイメージセンサを含む画像
表示装置の構成を示す図である。
【図7】本発明の第3の実施例に係るイメージセンサを
含む画像表示装置の構成を示す図である。
【図8】本発明の第4の実施例に係るイメージセンサ及
び演算手段を含む画像表示装置の構成を示す図である。
【図9】本発明の第5の実施例における視線検出装置の
要部構成を示す図である。
【図10】本発明の第6の実施例における視線検出装置
を一眼レフレックスカメラに組み込んだ場合の要部構成
を示す図である。
【図11】従来の視線検出装置の要部構成を示す図であ
る。
【図12】外光が入射していない場合と入射している場
合の図11のイメージセンサの出力状態を示す図であ
る。
【符号の説明】
4a,4b 光源 5,9 イメージセンサ 7,8 受光レンズ 11 液晶表示パネル 12 バックライト 15 演算手段 16 画像表示装置 101 眼球
フロントページの続き (58)調査した分野(Int.Cl.7,DB名) G02B 7/28 - 7/40 A61B 3/113 G03B 13/00 - 13/28 G03B 13/36

Claims (5)

    (57)【特許請求の範囲】
  1. 【請求項1】 被検者あるいは観察者の眼球を照明する
    照明手段と、前記眼球からの反射光を受光する第1およ
    び第2の受光手段と、前記第1の受光手段から出力され
    る信号のピーク位置と前記第2の受光手段から出力され
    る信号のピーク位置より求めたプルキンエ像を用いて
    験者あるいは観察者の視線方向を算出する演算手段とを
    備えたことを特徴とする視線検出装置。
  2. 【請求項2】 画像を表示する画像表示装置と、前記
    像表示装置を見る使用者の眼球を照明する照明手段と、
    前記眼球からの反射光を受光する第1および第2の受光
    手段と、前記第1の受光手段から出力される信号のピー
    ク位置と前記第2の受光手段から出力される信号のピー
    ク位置より求めたプルキンエ像を用いて被験者あるいは
    観察者の視線方向を算出する演算手段とを備えたことを
    特徴とする視線検出装置。
  3. 【請求項3】 前記照明手段は複数の発光素子を有し、
    前記複数の発光素子はそれぞれ異なる位置から前記眼球
    を照明することを特徴とする請求項1又は2記載の視線
    検出装置。
  4. 【請求項4】 前記第1および第2の受光手段はそれぞ
    れ光電変換素子を有し、前記光電変換素子はそれぞれ前
    記画像表示装置の周辺に配置されることを特徴とする請
    求項2記載の視線検出装置。
  5. 【請求項5】 前記画像表示装置は液晶表示器を有し、
    前記液晶表示器と前記第1および第2の受光手段に含ま
    れるそれぞれの光電変換素子とは、同一の基板上に形成
    されていることを特徴とする請求項記載の視線検出装
    置。
JP05104925A 1992-12-28 1993-04-08 視線検出装置 Expired - Fee Related JP3135415B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP05104925A JP3135415B2 (ja) 1993-04-08 1993-04-08 視線検出装置
EP93310577A EP0605246B1 (en) 1992-12-28 1993-12-24 Sight line detector and camera with the detector
DE69330709T DE69330709T2 (de) 1992-12-28 1993-12-24 Blickrichtungsdetektor und Kamera mit diesem Detektor
US08/955,279 US5873003A (en) 1992-12-28 1997-10-21 Sight line detector, display unit, view finder and unit and camera with the same display unit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP05104925A JP3135415B2 (ja) 1993-04-08 1993-04-08 視線検出装置

Publications (2)

Publication Number Publication Date
JPH06294929A JPH06294929A (ja) 1994-10-21
JP3135415B2 true JP3135415B2 (ja) 2001-02-13

Family

ID=14393683

Family Applications (1)

Application Number Title Priority Date Filing Date
JP05104925A Expired - Fee Related JP3135415B2 (ja) 1992-12-28 1993-04-08 視線検出装置

Country Status (1)

Country Link
JP (1) JP3135415B2 (ja)

Also Published As

Publication number Publication date
JPH06294929A (ja) 1994-10-21

Similar Documents

Publication Publication Date Title
JP3166179B2 (ja) 視線検出装置
US5225862A (en) Visual axis detector using plural reflected image of a light source
JP3219534B2 (ja) 光学装置
US5598248A (en) Optical apparatus having visual point detection function
JP2803222B2 (ja) 視線検出装置
JP2920940B2 (ja) 視線検出手段を有した機器
JP3477279B2 (ja) 視線検出装置
JP2676870B2 (ja) 注視点検出手段を有した光学装置
JP2749818B2 (ja) 視線検出装置
JP3297504B2 (ja) 光学装置
JPH02264632A (ja) 視線検出装置
JP2861349B2 (ja) 視線検出手段を有した光学装置
JPH06230271A (ja) 視線検出装置
JP3135415B2 (ja) 視線検出装置
JP3109870B2 (ja) ビデオカメラ
JPH10307314A (ja) 観察光学装置
JP2754663B2 (ja) 視線検出方法及び視線検出装置
JP2939982B2 (ja) 視線検出装置
US5619739A (en) Diopter correcting apparatus
JP2803223B2 (ja) 視線検出装置
JP3225628B2 (ja) 視線検出装置
JP3352195B2 (ja) 視線検出装置、光学装置及び視線検出方法
JP2941847B2 (ja) 視線検出装置
JP3134320B2 (ja) 視線検出装置
JP2744417B2 (ja) 視線検出装置を有する機器

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees