JPH0846836A - 視線検出方法及び装置並びに撮像装置 - Google Patents

視線検出方法及び装置並びに撮像装置

Info

Publication number
JPH0846836A
JPH0846836A JP6178566A JP17856694A JPH0846836A JP H0846836 A JPH0846836 A JP H0846836A JP 6178566 A JP6178566 A JP 6178566A JP 17856694 A JP17856694 A JP 17856694A JP H0846836 A JPH0846836 A JP H0846836A
Authority
JP
Japan
Prior art keywords
information
calculation
point
gaze
pupil
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP6178566A
Other languages
English (en)
Inventor
Takashi Kobayashi
崇史 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP6178566A priority Critical patent/JPH0846836A/ja
Priority to US08/507,078 priority patent/US5737641A/en
Priority to CN95108695A priority patent/CN1039275C/zh
Priority to SG1995000971A priority patent/SG32427A1/en
Priority to DE69526885T priority patent/DE69526885D1/de
Priority to EP95305303A priority patent/EP0694281B1/en
Priority to KR1019950023070A priority patent/KR100224538B1/ko
Publication of JPH0846836A publication Critical patent/JPH0846836A/ja
Pending legal-status Critical Current

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/02Viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2213/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B2213/02Viewfinders
    • G03B2213/025Sightline detection

Abstract

(57)【要約】 【目的】 注視点の検出誤差を軽減する視線検出方法、
装置並びにこれを用いた撮像装置を得る。 【構成】 注視点検出回路406は、光源406の光を
眼405で角膜反射させ、その反射像から得られる情報
を用いてファインダ画面402上の注視点を検出する。
検出が正常に行われたときは、用いた情報をメモリ46
5に記憶しておく。次に注視点検出を行ったとき検出に
必要な情報が充分に得られなかったりあるいは検出した
注視点の誤差が大きいなど、正常な検出が行われなかっ
た場合は、メモリ465の情報を補正情報として用い注
視点検出を行う。 【効果】 検出に必要な情報が充分に得られない状況下
でも検出誤差を軽減することができる。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明はビデオカメラ等に備えら
れる視線検出方法及び装置並びにこの装置を用いた撮像
装置に関するものである。
【0002】
【従来の技術】従来より、ビデオカメラ等に備えられた
視線検出装置によって、ビデオカメラのファインダ画面
に表示されたズーム、フェード等の機能を意味する指標
を視線で選択して上記機能を働かせたり、上記ファイン
ダ画面の注視点にフォーカスを合わせたりするいわゆる
視線入力機能がある。その原理を以下に説明する。図8
(c)は視線検出方法の原理図(上面図)、図8(d)
は視線検出方法の原理図(側面図)である。図8におい
て、706a、706bは観察者に対して不感の赤外光
を放射するダイオード(以下IREDと言う)等の光源
であり、各光源706a、706bは結像レンズ711
の光軸に対してx方向(水平方向)に略対象に(図8
(c))、またy方向(垂直方向)にはやや下側に(図
8(d))配置され、観察者の眼球708を発散照明し
ている。眼球708で反射した照明光の一部は結像レン
ズ711によってイメージセンサ712に結像する。図
8(a)はイメージセンサ712に投影される眼球像の
概略図。図8(b)はイメージセンサ712の出力強度
図である。
【0003】以下各図を用いて視線の検出方法を説明す
る。まず水平面で考えると、図8において、光源706
bより放射された赤外光は図8(c)のように観察者の
眼球708の角膜710を照明する。このとき角膜71
0の表面で反射した赤外光により形成される角膜反射像
d(虚像)は結像レンズ711により集光され、イメー
ジセンサ712上の位置d′に結像する。同様に光源7
06aにより放射された赤外光は眼球の角膜710を照
明する。このとき角膜710の表面で反射した赤外光に
より形成された角膜反射像e(虚像)は、結像レンズ7
11により集光され、イメージセンサ712上の位置
e′に結像する。
【0004】また虹彩704(図8(a))で囲まれた
瞳孔701のエッヂa、bからの光束は結像レンズ71
1を介してイメージセンサ712上の位置a′、b′に
上記端部a、bの像を結像する。結像レンズ711の光
軸に対する眼球708の光軸の回転角θが小さい場合、
瞳孔701のエッヂa、bのx座標をxa、xbとする
と、xa、xbはイメージセンサ712上で多数点を求
めることができる(図8中の×印)。そこでまず円の最
小自乗法等によって瞳孔中心xcを算出する。一方角膜
710の曲率中心oのx座標をxoとすると、眼球70
8の光軸に対する回転角θxは、 oc*sinθx=xc−xo ………(1) となる。また、角膜反射像dとeの中点kに所定の補正
値δxを考慮してxoを求めると、 xk=(xd+xe)/2 xo=(xd+xe)/2+δx ………(2) ここでδxは装置の設置方法/眼球距離から幾何学的に
求められる数値であり、その算出方法は省略する。
【0005】よって、(1)式を(2)式へ代入しθx
を求めると、 θx=arcsin[[xc−{(xd+xe)/2+δx}]/oc] ………(3) さらにイメージセンサ上に投射された各々の特徴を、′
(ダッシュ)をつけて(4)式に書き換えると、 θx=arcsin[[xc′−{(xd′+xe′)/2+δx′}]/o c/β] ………(4) となる。ここでβは結像レンズ711に対する眼球の距
離szeにより決まる倍率で、実際は角膜反射像の間隔
|xd′−xe′| の関数として求められる。
【0006】次に垂直面で考えると、図8(d)の様な
構成となる。ここで2個のIRED706a、706b
により生じる角膜反射像は同じ垂直位置に発生し、この
座標をyiとする。眼球708の回転角θyの算出方法
は水平面の時とほぼ同一であるが(2)式のみ異なり、
角膜曲率中心oのy座標をyoとすると、 yo=yi+δy ………(5) ここでδyは装置の配置方法、眼球距離等から幾何学に
求められる数値であり、その算出法は省略する。よって
垂直方向の回転角θyは、 θy=arcsin[[yc′−(yi′+δy′)]/oc/β] ………(6) となる。yc′は瞳孔中心の垂直方向のイメージセンサ
上の座標である。
【0007】さらに、ビデオカメラのファインダ画面上
の位置座標(xn,yn)はファインダ光学系で決まる
定数mを用いると、水平面上、垂直面上それぞれ、 xn=m*arcsin[[xc′−{(xd′+xe′)/2+δx′}] /oc/β} ………(7) yn=m*arcsin[[yc′−{(yi′+δy′)]/oc/β} ………(8) となる。
【0008】図8(a)(b)で明らかなように、瞳孔
エッジの検出はイメージセンサ出力波形の立ち上がり
(xb′)、立ち下がり(xa′)を利用する。また、
角膜反射像の座標は鋭い立ち上がり部(xe′及びx
d′)を利用する。
【0009】次に上述の視線検出原理を用いた視線検出
装置の一例として視線スイッチの例を説明する。図9は
視線スイッチ機能を持つビデオカメラの一例を示す概略
構成図である。図9に示したビデオカメラは、ズームレ
ンズを備え被写体を撮像するレンズ撮像系401と、フ
ァインダ画面402を備えレンズ撮像系401により撮
像される被写体を観察するためのファインダ403と、
このファインダ403の前に配置された接眼レンズ40
4と、撮影者の眼405の視線を検出する視線検出手段
406と、フォーカスエリアの概略を表すAF枠、後述
する視線スイッチの指標、その他テープカウンタや撮影
モードなど撮影者に必要な情報等をファインダ画面40
2へ表示する表示回路407と、このカメラの各部を制
御するシステムコントロール手段408と、後述する視
線スイッチの指標を表示するファインダ画面402上の
座標を記憶しておくメモリ409と、レンズ撮像系40
1と表示回路407の各出力を加算する加算器410と
を有して概略構成されている。
【0010】上記視線検出手段406は、撮影者の眼4
05に赤外光を照射する赤外発光ダイオード460と、
可視光を透過し赤外光を反射するダイクロイックミラー
461と、このダイクロイックミラー461で反射され
た赤外光を集光する集光レンズ462と、この集光レン
ズ462により集光された赤外光を電気信号に変換する
光電変換素子463と、この光電変換素子463上の撮
影者の眼405の像を基に、撮影者のファインダ画面4
02上の注視点を求める注視点検出回路464とを具備
している。
【0011】ダイクロイックミラー461は、可視光を
透過するため、撮影者が接眼レンズ404を通してファ
インダ画面402を観察できるようになっている。ま
た、ダイクロイックミラー461は、赤外光を反射する
ため、赤外発光ダイオード460によって照射された眼
405の反射像を反射して、集光レンズ462で集光さ
れて光電変換素子463上に像を結ぶようになってい
る。
【0012】注視点検出回路464は、光電変換素子4
63上の撮影者の眼405の像を基に、前述した原理
や、特開平1−241511号公報、2−32312号
公報等によって開示されたアルゴリズムに従い撮影者の
ファインダ画面402上の注視点を求めるものである。
【0013】次に、本従来例のビデオカメラのファイン
ダ403に搭載されている視線スイッチの機能について
説明する。このファインダ画面402の表示例の模式図
を図10に示す。同図に示すように、アルファベット
「W」、「T」、「F」で示す互いに異なる動作機能を
意味する指標501(501a、501b、501c)
からなるメニューが表示されている。ここで例えば
「W」はワイド側へのズーミング、「T」はテレ側への
ズーミング、「F」はフェードの動作をそれぞれ示すも
のとする。また右下の数字502は視線スイッチの機能
ではなく例えば日付等である。
【0014】次にシステムコントロール手段408の動
作の一例を図11の流れ図に従って具体的に説明する。
それぞれの視線スイッチの指標を含む所定の範囲の座標
群はそれぞれメモリ409に記憶されており、各座標群
は各指標の図10に示した範囲の座標を全て含む。これ
らの座標群を例えばワイドはα、テレはβ、フェードは
γとする。まずビデオカメラのパワーがonされると
(ステップS601、以下ステップを省略する)、変数
l、m、nが0にリセットされ(S602)、視線スイ
ッチの準備ができる。変数l、m、nはそれぞれ撮影者
の注視点が座標群αのいずれかの座標、座標群βのいず
れかの座標、座標群γのいずれかの座標と一致した回数
をカウントする変数である。システムコントロール手段
408は、撮影者がファインダ403を覗き視線検出が
正常に行われている間(S603)、絶えず撮影者のフ
ァインダ画面402上の注視点座標を視線検出回路46
4から受け取っている。
【0015】いま、撮影者がワイドの指標‘W’を見た
時を例に説明する。注視点座標が座標群αの内のいずれ
かの座標に略一致すると(S604)、システムコント
ロール手段408はワイド以外の機能が動作していれば
それを停止させ(S636)、変数m,nを0にリセッ
トし(S605)、lが所定の回数(本実施例では5
回)より多いかどうか判断し(S606)、少なければ
lに1を加え(S608)た後、再びlが5より多いか
どうか判断し(S609)、少なければ(S603)に
戻り、再び視線検出回路464から注視点座標を受け取
る。
【0016】判断(S609)で5以上であればズーム
レンズ群を広角側に駆動させ、(S603)に戻り、再
び視線座標を受け取る。(S606)でlが5以上であ
れば(S611)まで飛ぶ。座標群αの内のいずれかの
座標と視線座標とが一致しても、一致した回数が5回に
満たないうちに座標群αの内のいずれかの座標から1度
でもはずれると変数1は0にリセットされる(S61
3、S621、S628)。また、ほかの指標‘T’
‘F’を見たときの動作も同様に行われる。
【0017】
【発明が解決しようとする課題】しかしながら上記従来
例の構成では撮影者の顔の傾け方や目の動き等によって
瞳孔がまぶたでおおわれる状態になった場合に、図8
(a)(b)に示した瞳孔701のエッジa、bの座標
を多数点求めることができず瞳孔中心座標(xc,y
c)を算出できない、または算出できても誤差が大きく
なってしまうという問題があった。以下これを図12で
説明する。
【0018】図12は一例として上まぶた804が瞳孔
部分に被さってしまい瞳孔エッジ801の特に下部分以
外の座標が得られない場合を示す。802、803は前
述の原理で示した光源の角膜反射像である。この様な状
態の眼球像から瞳孔エッジを求めた結果、例えば図13
の様に、瞳孔の下部に2点しか瞳孔エッジを検出できな
かった場合について説明する。この時実際の瞳孔が点線
の円901であったとしても瞳孔エッジが2点しか求ま
っていないので、この2点を通る円は線902や903
で示した円の様に多数存在し、瞳孔を特定できない。
【0019】また図14に示す様に、2点以上の瞳孔エ
ッジ(図14の×印)が得られたとしても、それが図1
4の様にばらついた場合には、上エッジが得られていな
いために実際の瞳孔1001より大きかったり(100
2の例)、小さかったりする瞳孔を算出してしまう。そ
してこの算出された瞳孔の情報を使って注視点の検出を
行うと、著しく大きな誤差を生じさせてしまうという問
題があった。
【0020】本発明は上記のような問題を解決するため
になされたもので、請求項1、2の発明の目的は、前述
した瞳孔の情報を補正し、注視点の検出誤差を軽減させ
ることのできる視線検出方法及び装置を得ることにあ
る。
【0021】請求項3の発明の目的は補正誤差の発生を
抑さえつつ注視点の検出誤差を軽減させることのできる
視線検出装置を得ることにある。
【0022】請求項4の発明の目的は、撮影者の瞳孔径
が頻繁に変化する状況下においても補正誤差の発生を抑
さえつつ注視点の検出誤差を軽減させることのできる撮
像装置を得ることにある。
【0023】請求項5の発明の目的は、撮影者に固有で
ある眼球の傾角度と視軸のずれ等の個人差を補正するた
めの個人差情報測定(キャリブレーション)の測定誤差
を軽減させることのできる、視線検出装置を得ることに
ある。
【0024】
【課題を解決するための手段】請求項1の発明において
は、光源からの光を使用者の眼球に照射し、その角膜反
射像と瞳孔又は虹彩との相対的な位置関係を検出し、こ
の位置関係を用いて上記使用者の視線の注視点を算出す
る視線検出方法において、上記注視点の算出が正常に行
われた場合に用いた上記位置関係を示す情報を記憶手段
に記憶するように成し、上記注視点の算出が正常に行わ
れなかった場合、その算出より以前の算出に用いた上記
情報を上記記憶手段から補正情報として読み出し、この
補正情報を用いて新たに注視点の算出を行うようにして
いる。
【0025】請求項2の発明においては、光源からの光
を使用者の眼球に照射し、その角膜反射像と瞳孔又は虹
彩との相対的な位置関係を検出し、この位置関係を用い
て上記使用者の視線の注視点を算出する視線検出装置に
おいて、上記注視点の算出が正常に行われた場合に用い
た上記位置関係を示す情報を記憶する記憶手段と、上記
注視点の算出が正常に行われなかった場合、その算出よ
り以前の算出に用いた上記情報を上記記憶手段から補正
情報として読み出し、この補正情報を用いて新たに注視
点の算出を行う算出手段とを設けている。
【0026】請求項3の発明においては、上記記憶手段
に常に最新の情報を記憶するように成し、上記算出手段
は上記最新の情報を上記補正情報として用いるよにして
いる。
【0027】請求項4の発明においては、光源からの光
を使用者の眼球に照射し、その角膜反射像と瞳孔又は虹
彩等との相対的な位置関係を検出し、この位置関係を用
いて上記使用者の視線の注視点を算出する視線検出装置
を備えた撮像装置において、上記注視点の算出が正常に
行われた場合に用いた上記位置関係を示す情報とそのと
きの撮像画像の明るさ情報とを記憶する記憶手段と、上
記撮像画像の明るさを検出する光量検出手段と、上記注
視点の算出が正常に行われなかった場合、上記光量検出
手段から得られる明るさ情報と対応する上記位置関係を
示す情報を上記記憶手段から補正情報として読み出し、
この補正情報を用いて新たに注視点の算出を行う算出手
段とを設けている。
【0028】請求項5の発明においては、上記使用者に
固有の眼球の傾角度と視軸のずれ等の個人差を補正する
ための個人差情報測定時に上記注視点の算出を行うよう
にしている。
【0029】
【作用】請求項1、2の発明の構成によれば、瞳孔もし
くは虹彩等の位置認識に必要な補正情報は注視点の検出
誤差を軽減させるように動作する。
【0030】請求項3の発明の構成によれば、瞳孔もし
くは虹彩等の位置認識に必要な補正情報は補正誤差の発
生を抑さえつつ注視点の検出誤差を軽減させるように動
作する。
【0031】請求項4の発明の構成によれば、瞳孔もし
くは虹彩等の位置認識に必要な補正情報は撮影者の瞳孔
径が頻繁に変化する様な状況下においても補正誤差の発
生を抑えつつ注視点の検出誤差を軽減させるように動作
する。
【0032】請求項5の発明の構成によれば前記瞳孔も
しくは虹彩等の位置認識に必要な補正情報は撮影者に固
有である眼球の傾角度と視軸のずれ等の個人差を補正す
るための個人差情報測定(キャリブレーション)の測定
誤差を軽減させるように動作する。
【0033】
【実施例】 (第1の実施例)図1は本発明の実施例であるビデオカ
メラの構成ブロックであり、図9の従来例と同様の構成
要素は同様の機能を有し、同一符号を付して説明を省略
する。以下注視点検出回路464の処理内容について述
べる。尚、図1ではメモリ465が追加されている。ま
ず、撮影者が視線入力機能をスタートさせると注視点の
検出動作が一定の時間間隔Tごとに繰り返される。メモ
リ465には、撮影者が視線入力機能をスタートさせた
後、最初に注視点の検出が可能であった時の瞳孔エッジ
座標から算出された瞳孔径の値が記憶される。ここで例
えば前述した問題点に示した様な原因によって瞳孔のエ
ッジが多数点得られなかったり、算出した注視点がエラ
ーと判断された場合は、上記メモリ465に記憶された
瞳孔径の値を補正情報として用いて再び注視点の検出を
行う。
【0034】この処理の流れを図2に示す。撮影者が視
線検出装置をスタート(S201)するとタイマがスタ
ート(S202)し、予め設定しておいた時間Tが経過
したら(S203)、タイマを止めてリセットし(S2
04)、注視点の検出を開始する(S205)。まず角
膜反射像の位置検出(S206)と瞳孔のエッジ検出
(S207)とを行い、瞳孔のエッジが予め設定してお
いたn点以上得られたかどうかを判断し(S208)、
得られていれば瞳孔位置を算出し(S209)、注視点
を算出する(S210)。
【0035】ここで算出した注視点がエラーであると判
断(S211)された場合は処理(S212)を行う。
注視点がエラーと判断されなかった場合は、処理(S2
15)に移り、メモリ465に記憶されていなければ記
憶する(S216)。処理(S208)で瞳孔のエッジ
が予め設定しておいたn点より少ないか、または処理
(S211)でエラーと判断された場合には、処理(S
212)に移り、メモリ465に瞳孔径の情報が記憶さ
れていなければ処理(S205)に戻り、再び検出動作
をやりなおす。メモリ465に瞳孔径の情報が記憶され
ていればそれを補正情報として用い、瞳孔位置の算出を
行い(S213)、注視点を算出する(S214)。そ
して視線検出装置の動作を続けるのであれば(S21
7)再び処理(S202)へ戻る。
【0036】処理(S211)で行われる注視点の検出
エラーの例としては、瞳孔位置を求める処理(S20
9)で算出された瞳孔径が人間の標準的な瞳孔径よりか
けはなれて大きかったり、小さかった時や処理(S21
0)で算出された注視点の座標がファインダ402の外
に相当してしまう時や、処理(S206)の角膜反射像
の測定によって算出できるファインダ402と眼球との
距離が予め設定しておいた値より長い時等によって判断
できる。
【0037】次にメモリ465の補正情報を使って瞳孔
の位置を算出する処理(S213)の例について述べ
る。例えば前述の問題点で述べた様に瞳孔の上部分がま
ぶたでおおわれてしまい、瞳孔のエッジが下部分しか得
られなかったとする。図3において、×印301、30
2、303がエッジ検出によって測定されたエッジであ
り、これらのエッジからの最小二乗法によって推定され
た円、つまり瞳孔が304になり、予め設定しておいた
瞳孔径の値より大きかったとする。この時はメモリ46
5に記憶されている値の長さの径を持つ瞳孔で×印30
1、302、303からの距離の二乗誤差が最小になる
位置に瞳孔を算出してやればよい。
【0038】算出方法の一例としては、測定された瞳孔
エッジの座標を(xi,yi)この例ではi=1、2、
3、算出する瞳孔の中心位置を(a,b)、メモリ46
5に記憶されている瞳孔径を2で割って得られる半径の
値をcとしてエッジ(xi,yi)に対する誤差eを、 e=(xi−a)2 +(yi−b)2 −c2 ………(9) と表す。全ての検出されたエッジに対する誤差の二乗和
Eを、 E=Σe2 =Σ[(xi−a)2 +(yi−b)2 −c2 2 ………(10) としてこの(10)式を変数a、bで偏微分して得られ
る連立方程式を解き、瞳孔の中心位置(a,b)を求め
る。
【0039】以上の様に、撮影者の顔の傾け方や目の動
き等によって瞳孔がまぶたでおおわれる状態になり、瞳
孔のエッジa、bの座標を多数点求めることができず、
瞳孔中心座標を算出できない、または算出できても算出
した注視点の誤差が大きくなってしまうといった時に、
それより以前に行った注視点算出の誤差が大きいと判断
されなかった検出処理時の瞳孔の位置認識に必要な情報
を補正情報として用いて注視点の算出をすることによ
り、検出エラーを軽減できる。
【0040】(第2の実施例)上述した第1の実施例で
述べた検出の繰り返し時間間隔Tが十分短い場合(例え
ばビデオ信号の垂直同期信号の周期等)は、上記ビデオ
カメラで撮像され、ファインダに表示される映像の1フ
ィールドごとの相関が高いため、時間的に前後の注視点
における撮影者の瞳孔径の相関も高い。そこで第1の実
施例で述べたメモリ465に記憶される瞳孔径の情報
を、注視点の検出エラーと判断される以前の最新の瞳孔
径の情報とする。図4にその場合の処理の流れを示す。
【0041】図4においてS201〜S214及びS2
17、S218は第1の実施例で説明した図2の処理と
同じ処理である。図4では図2のS215、S216が
省略され、S211Aが追加されている。S211Aで
は、すでにメモリ465に瞳孔径の情報が記憶されてい
るいないにもかかわらず注視点の検出にエラーが無いと
判断された場合は、常にメモリ465の情報を更新す
る。他の動作は第1の実施例と同様である。つまり注視
点の検出エラーと判断された以前の最新の前記瞳孔径の
情報を補正情報として用いる。
【0042】この第2の実施例のように構成すると、注
視点の検出エラーと判断した時の撮影者の瞳孔径の値と
相関の高い瞳孔径の値を補正情報として用い、注視点の
算出を行うことにより、補正誤差の発生を抑えつつ注視
点の検出エラーを軽減できる。
【0043】(第3の実施例)第1の実施例で述べたビ
デオカメラで撮影する場合、撮像される被写体によって
はその光量が頻繁に変化する。また撮影者によってはパ
ンやチルト等によって明るい場面の画角と暗い場面の画
角とを頻繁に変えて撮影する場合もある。そしてこの様
な時は撮像される映像の明るさに応じてファインダの映
像の明るさも変化するため、撮影者の瞳孔径も頻繁に変
化する。この様な場合は注視点の検出エラーが生じた時
に撮像された映像の明るさになるべく近い明るさを持つ
映像を撮像した時の注視点の検出に用いられた瞳孔径の
値を補正情報として用いる。
【0044】図5に本実施例の構成ブロックを示し、図
1の一部と対応部分には同一符号が付されている。新た
に追加した光量検出手段466はビデオカメラのAE
(自動露出制御)手段であっても良いし、別にフォトト
ランジスタやイメージセンサ等を使って被写体からビデ
オカメラに入射する光量を測定しても良い。メモリ46
5には注視点の検出が可能であった時に撮像された映像
の光量の値と瞳孔の径の値とが過去k回にわたって記憶
されている。
【0045】kは任意の回数で良い。注視点検出回路4
64は瞳孔位置の検出誤差による注視点の検出エラーを
確認すると、この時に撮像された映像の明るさを光量検
出手段466から得て、その光量の値に最も近い光量の
映像を撮像した時の瞳孔径の値をメモリ465から読み
取る。メモリ465の記憶内容は例えば図6に示す。領
域601の部分は映像の明るさを示す値として一画面の
平均IREの値が記憶されている。領域602にはそれ
ぞれの明るさの映像を撮像した時の瞳孔径の値(×0.
1mm)が記憶されている。今、上記エラーが確認され
た時に撮像された映像の明るさが37IREであったと
すると、図6より75(×0.1mm)という瞳孔径の
値が補正情報として用いられる。尚、図5の他の部分は
図1と同様の動作をする。
【0046】この第3の実施例のように構成すれば、撮
影者の瞳孔径が頻繁に変化するような状況下においても
補正誤差を軽減し注視点のエラーを軽減できる。
【0047】(第4の実施例)本実施例では上記注視点
の検出処理において、ビデオカメラの撮影者に固有であ
る眼球の傾角度と視軸のずれ等の個人差を補正するため
の個人差情報測定(キャリブレーション)を行うように
している。図7はキャリブレーションを行う時のファイ
ンダ画面402の表示例であり、この場合はファインダ
画面402上の2箇所に指標411、412が表示され
ている。撮影者は指標411と指標412とを順に注視
して注視点の検出を行わせる。そしてファインダ画面4
02上の指標の座標と測定された注視点の座標とのずれ
から個人差情報を得る。
【0048】ここで例えばファインダ画面402の下の
方に位置する指標412を注視した時に眼球が下を向く
ことにより、まぶた等で瞳孔の一部が隠され瞳孔位置の
特定ができなかったとする。この時指標411を注視し
た時の注視点検出に用いられた瞳孔径の値を補正情報と
して用いることにより、上記個人差情報測定(キャリブ
レーション)の測定誤差を軽減させるように動作する。
補正方法は前述の各実施例と同様である。
【0049】第4の実施例のように構成すれば、撮影者
に固有である眼球の傾角度と視軸のずれ等の個人差を補
正するための個人差情報測定(キャリブレーション)の
測定誤差を軽減できる。
【0050】
【発明の効果】以上説明したように、請求項1、2の発
明によれば、注視点算出に用いた情報を記憶し、瞳孔も
しくは虹彩等の位置の認識に必要な情報の測定が不可能
か又は算出した注視点の誤差が大きい等のように正常な
算が行なわれなかったと判断された場合は、記憶された
瞳孔もしくは虹彩等の位置認識に必要な情報を補正情報
として用いて注視点の算出をするように構成したことに
より、注視点の検出誤差を軽減させる効果がある。
【0051】また、請求項3の発明によれば、上記補正
情報は最新の情報を記憶するように成し、例えば瞳孔も
しくは虹彩等の位置の認識に必要な情報の測定が不可能
又は算出した注視点の誤差が大きい等のように正常な算
出が行われなかったと判断されたこの最新の補正情報を
用いて注視点の算出をするように構成したことにより、
補正誤差の発生を抑さえつつ注視点の検出誤差を軽減さ
せる効果がある。
【0052】請求項4の発明によれば、視点算出に用い
た情報と撮像画像の明るさ情報とを記憶し、例えば瞳孔
もしくは虹彩等の位置の認識に必要な情報の測定が不可
能か又は算出した注視点の誤差が大きい等のように正常
な算出が行われなかったと判断された場合は、撮像装置
で撮像された画像の明るさとに最も近い明るさの画像を
撮像した時の補正情報を用いて注視点の算出をするよう
に構成したことにより、撮影者の瞳孔径が頻繁に変化す
る様な状況下においても補正誤差の発生を抑さえつつ注
視点の検出誤差を軽減させる効果がある。
【0053】請求項5の発明によれば、注視点の算出を
使用者に固有である眼球の傾角度と視軸のずれ等の個人
差を補正するための個人差情報測定(キャリブレーショ
ン)時に行われるようにしたことにより、注視点の算出
を複数回行い、瞳孔もしくは虹彩等の位置の認識に必要
な情報の測定が不可能か又は注視点の誤差が大きい等の
ように正常な算出が行われなかったと判断された場合に
は、上記記憶された瞳孔もしくは位置認識に必要な情報
を補正情報として用いて注視点の算出をするように構成
したことにより、使用者に固有である眼球の傾角度と視
軸のずれ等の個人差を補正する個人差情報測定(キャリ
ブレーション)の測定誤差を軽減させる効果がある。
【図面の簡単な説明】
【図1】本発明の第1の実施例による視線検出装置のブ
ロック図である。
【図2】本発明の第1の実施例による視線検出装置の処
理の流れを説明するフローチャートである。
【図3】本発明の第1の実施例による注視点の算出処理
の説明図である。
【図4】本発明の第2の実施例による視線検出装置の処
理の流れを説明するフローチャートである。
【図5】本発明の第3の実施例による視線検出装置の一
部を示すブロック図である。
【図6】本発明の第3の実施例による視線検出装置にお
けるメモリの説明図である。
【図7】個人差情報測定の説明図である。
【図8】注視点の検出原理を説明する図である。
【図9】従来例の視線検出装置のブロック図である。
【図10】従来の視線スイッチの説明図である。
【図11】視線スイッチの処理の流れを説明するフロー
チャートである。
【図12】従来の問題点の説明図である。
【図13】従来の問題点の説明図である。
【図14】従来の問題点の説明図である。
【符号の説明】
402 ファインダ画面 405 眼 406 視線検出手段 408 システムコントロール手段 460 発光ダイオード 464 注視点検出回路 465 メモリ
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 庁内整理番号 FI 技術表示箇所 H04N 5/91 H04N 5/91 C

Claims (5)

    【特許請求の範囲】
  1. 【請求項1】 光源からの光を使用者の眼球に照射し、
    その角膜反射像と瞳孔又は虹彩との相対的な位置関係を
    検出し、この位置関係を用いて上記使用者の視線の注視
    点を算出する視線検出方法において、 上記注視点の算出が正常に行われた場合に用いた上記位
    置関係を示す情報を記憶手段に記憶するように成し、 上記注視点の算出が正常に行われなかった場合、その算
    出より以前の算出に用いた上記情報を上記記憶手段から
    補正情報として読み出し、この補正情報を用いて新たに
    注視点の算出を行うようにしたことを特徴とする視線検
    出方法。
  2. 【請求項2】 光源からの光を使用者の眼球に照射し、
    その角膜反射像と瞳孔又は虹彩との相対的な位置関係を
    検出し、この位置関係を用いて上記使用者の視線の注視
    点を算出する視線検出装置において、 上記注視点の算出が正常に行われた場合に用いた上記位
    置関係を示す情報を記憶する記憶手段と、 上記注視点の算出が正常に行われなかった場合、その算
    出より以前の算出に用いた上記情報を上記記憶手段から
    補正情報として読み出し、この補正情報を用いて新たに
    注視点の算出を行う算出手段とを備えた視線検出装置。
  3. 【請求項3】 上記記憶手段には常に最新の情報を記憶
    するように成し、上記算出手段は上記最新の情報を上記
    補正情報として用いることを特徴とする請求項2記載の
    視線検出装置。
  4. 【請求項4】 光源からの光を使用者の眼球に照射し、
    その角膜反射像と瞳孔又は虹彩等との相対的な位置関係
    を検出し、この位置関係を用いて上記使用者の視線の注
    視点を算出する視線検出装置を備えた撮像装置におい
    て、 上記注視点の算出が正常に行われた場合に用いた上記位
    置関係を示す情報とそのときの撮像画像の明るさ情報と
    を記憶する記憶手段と、 上記撮像画像の明るさを検出する光量検出手段と、 上記注視点の算出が正常に行われなかった場合、上記光
    量検出手段から得られる明るさ情報と対応する上記位置
    関係を示す情報を上記記憶手段から補正情報として読み
    出し、この補正情報を用いて新たに注視点の算出を行う
    算出手段とを設けたことを特徴とする撮像装置。
  5. 【請求項5】 上記使用者に固有の眼球の傾角度と視軸
    のずれの個人差を補正するための個人差情報測定時に上
    記注視点の算出が行われることを特徴とする請求項2記
    載の視線検出装置。
JP6178566A 1994-07-29 1994-07-29 視線検出方法及び装置並びに撮像装置 Pending JPH0846836A (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP6178566A JPH0846836A (ja) 1994-07-29 1994-07-29 視線検出方法及び装置並びに撮像装置
US08/507,078 US5737641A (en) 1994-07-29 1995-07-26 Viewpoint detecting device using stored information when detecting is improper
CN95108695A CN1039275C (zh) 1994-07-29 1995-07-28 视点检测器及视点检测方法及其应用
SG1995000971A SG32427A1 (en) 1994-07-29 1995-07-28 Viewpoint detecting device
DE69526885T DE69526885D1 (de) 1994-07-29 1995-07-28 Blickrichtungs-Erfassungsvorrichtung
EP95305303A EP0694281B1 (en) 1994-07-29 1995-07-28 Viewpoint detecting device
KR1019950023070A KR100224538B1 (ko) 1994-07-29 1995-07-29 시선검출장치(viewpoint detecting device)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP6178566A JPH0846836A (ja) 1994-07-29 1994-07-29 視線検出方法及び装置並びに撮像装置

Publications (1)

Publication Number Publication Date
JPH0846836A true JPH0846836A (ja) 1996-02-16

Family

ID=16050726

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6178566A Pending JPH0846836A (ja) 1994-07-29 1994-07-29 視線検出方法及び装置並びに撮像装置

Country Status (6)

Country Link
US (1) US5737641A (ja)
EP (1) EP0694281B1 (ja)
JP (1) JPH0846836A (ja)
KR (1) KR100224538B1 (ja)
CN (1) CN1039275C (ja)
DE (1) DE69526885D1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013215549A (ja) * 2012-03-16 2013-10-24 Fujitsu Ltd 画像処理装置、画像処理プログラムおよび画像処理方法

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5839000A (en) * 1997-11-10 1998-11-17 Sharp Laboratories Of America, Inc. Automatic zoom magnification control using detection of eyelid condition
WO2002003853A1 (fr) * 2000-07-07 2002-01-17 Hamamatsu Photonics K.K. Dispositif de mesure de la pupille
JP4914038B2 (ja) * 2004-11-04 2012-04-11 キヤノン株式会社 情報処理方法および装置
CN102779502A (zh) * 2011-05-11 2012-11-14 中兴通讯股份有限公司 一种控制终端屏幕的方法及终端
CN103246044B (zh) * 2012-02-09 2017-03-22 联想(北京)有限公司 一种自动对焦方法、系统及具有该系统的照相机和摄像机
US10514541B2 (en) 2012-12-27 2019-12-24 Microsoft Technology Licensing, Llc Display update time reduction for a near-eye display
US20140327755A1 (en) * 2013-05-06 2014-11-06 Delta ID Inc. Apparatus and method for positioning an iris for iris image capture
JP6717330B2 (ja) * 2018-03-15 2020-07-01 オムロン株式会社 視線検出装置、該視線検出装置の制御方法、角膜反射像位置の検出方法、及びコンピュータプログラム
CN109451236A (zh) * 2018-11-13 2019-03-08 深圳龙图腾创新设计有限公司 一种基于瞳位跟踪的相机聚焦方法
WO2020170915A1 (ja) 2019-02-18 2020-08-27 日本電気株式会社 画像処理装置、方法、システム、及びコンピュータ可読媒体
KR20230156477A (ko) 2022-05-06 2023-11-14 한용환 부고 알림 서비스 제공 시스템 및 방법

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1003972B (zh) * 1985-12-31 1989-04-19 长春邮电学院 一种新的电视摄象机自动聚焦装置
JP2505854B2 (ja) * 1988-03-23 1996-06-12 キヤノン株式会社 視線検出手段を備えるカメラ
JP2632941B2 (ja) * 1988-07-20 1997-07-23 キヤノン株式会社 カメラ
US4950069A (en) * 1988-11-04 1990-08-21 University Of Virginia Eye movement detector with improved calibration and speed
US5187585A (en) * 1989-08-19 1993-02-16 Canon Kabushiki Kaisha Image sensing apparatus with settable focus detection area
US5214466A (en) * 1990-04-11 1993-05-25 Canon Kabushiki Kaisha Camera having visual axis detecting apparatus
US5182443A (en) * 1990-09-29 1993-01-26 Canon Kabushiki Kaisha Optical apparatus having visual axis detector and determining whether eyeglasses are worn
US5386258A (en) * 1991-01-17 1995-01-31 Canon Kabushiki Kaisha Optical apparatus having a visual axis direction detecting device
JP3166179B2 (ja) * 1991-01-22 2001-05-14 キヤノン株式会社 視線検出装置
US5245371A (en) * 1991-02-08 1993-09-14 Canon Kabushiki Kaisha Camera provided with a visual axis direction detecting portion
US5541655A (en) * 1991-11-05 1996-07-30 Canon Kabushiki Kaisha Image pickup device
JPH05232373A (ja) * 1992-02-24 1993-09-10 Olympus Optical Co Ltd カメラの視線方向検出装置
JP3214057B2 (ja) * 1992-04-14 2001-10-02 キヤノン株式会社 瞳孔中心検出方法、瞳孔中心検出装置、瞳孔輪部検出方法および瞳孔輪部検出装置
JP3304408B2 (ja) * 1992-07-16 2002-07-22 キヤノン株式会社 視線検出装置および視線検出装置を有する機器
US5402199A (en) * 1992-10-16 1995-03-28 Canon Kabushiki Kaisha Visual axis detecting apparatus
JP3256294B2 (ja) * 1992-10-29 2002-02-12 キヤノン株式会社 視線検出装置および視線検出方法
US5543887A (en) * 1992-10-29 1996-08-06 Canon Kabushiki Kaisha Device for detecting line of sight
US5541400A (en) * 1992-10-29 1996-07-30 Canon Kabushiki Kaisha Accumulation control apparatus for photoelectric conversion element and visual axis detection apparatus using the element
JPH0731589A (ja) * 1993-05-13 1995-02-03 Keiichi Shioya ビデオを用いた自動眼球運動解析装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013215549A (ja) * 2012-03-16 2013-10-24 Fujitsu Ltd 画像処理装置、画像処理プログラムおよび画像処理方法

Also Published As

Publication number Publication date
DE69526885D1 (de) 2002-07-11
CN1039275C (zh) 1998-07-22
CN1119809A (zh) 1996-04-03
EP0694281B1 (en) 2002-06-05
KR100224538B1 (ko) 1999-10-15
KR960006505A (ko) 1996-02-23
EP0694281A1 (en) 1996-01-31
US5737641A (en) 1998-04-07

Similar Documents

Publication Publication Date Title
KR100228613B1 (ko) 시선검출장치를 구비한 촬상장치 및 조정장치
JP7358530B2 (ja) 被写体認識装置及び被写体認識装置の制御方法
JPH0846836A (ja) 視線検出方法及び装置並びに撮像装置
KR100224537B1 (ko) 시선검출장치를 지닌 전자기기
JPH08563A (ja) 光学装置及びカメラ
JP3297481B2 (ja) 視線検出装置
JPH08280628A (ja) 視線検出機能を備えた電子機器
JPH07289517A (ja) 視線検出装置およびそれを備えた光学機器
US5745174A (en) Viewpoint detection apparatus with selected correction coefficent generation
JP3109870B2 (ja) ビデオカメラ
JPH05328197A (ja) 撮影装置
JP2002301030A (ja) 視線検出機能付き機器
JP2870852B2 (ja) 光学機器
JPH0846833A (ja) 視線検出機能付カメラ
JP3184634B2 (ja) 視線検出装置を有する光学装置
JP3171698B2 (ja) カメラの焦点距離制御装置
JP3344757B2 (ja) フォーカスエリア設定装置
JP3219491B2 (ja) 視線検出装置
JPH06138373A (ja) 視線検出装置
JP2000229067A (ja) 視線検出装置およびそれを備えた光学機器
JPH04335607A (ja) 視線検出装置および視線検出手段を備えた光学機器
JP2002336202A (ja) 視線検出装置
JPH07313460A (ja) カメラの視線検出装置
JPH09262209A (ja) 視線検出手段,接眼検出手段を備えた撮像装置
JP3624030B2 (ja) 視線検出装置及び光学装置