JPH1099278A - Visual axis detecting device and optical instrument - Google Patents

Visual axis detecting device and optical instrument

Info

Publication number
JPH1099278A
JPH1099278A JP8279924A JP27992496A JPH1099278A JP H1099278 A JPH1099278 A JP H1099278A JP 8279924 A JP8279924 A JP 8279924A JP 27992496 A JP27992496 A JP 27992496A JP H1099278 A JPH1099278 A JP H1099278A
Authority
JP
Japan
Prior art keywords
pupil
edges
circle
pupil circle
edge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP8279924A
Other languages
Japanese (ja)
Inventor
Hiroshi Arita
浩 有田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP8279924A priority Critical patent/JPH1099278A/en
Publication of JPH1099278A publication Critical patent/JPH1099278A/en
Pending legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To reduce time required for one visual axis detection, by judging the reliability of calculated pupil circle by a calculation means and extracting a part of edges corresponding to the number of plural edges when the reliability is low. SOLUTION: A sequence controller checks whether a pupil circle correction is the first one or not (#101), and if it was the first one, the pupil circle estimation error CER is evacuated as CER0 (#103), and whether the total number of remaining edges is equal to or more than 10 or not is checked (#105). If it is equal to or larger than 10, the number is set as 'k=3' and k edges are extracted in the order (#110) to return to detection of the pupil center. If it is smaller than 10, whether it is equal to or larger than 5 is checked (#107), if it is equal to or larger than 5, the number is set as 'k=2' (#108) and k edges are extracted in order (#110) to return to detection of the pupil center.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、ディスプレイ等を
観察する観察者の視線を検出する視線検出装置及び該視
線検出装置を有するカメラ等の光学機器の改良に関する
ものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a line-of-sight detecting device for detecting the line of sight of an observer observing a display and the like, and to an improvement in an optical device such as a camera having the line-of-sight detecting device.

【0002】[0002]

【従来の技術】従来より、観察者がファインダ上のどの
位置を観察しているかを検出する、いわゆる視線検出装
置が種々提案されている。例えば特開平1−27473
6号公報においては、光源からの平行光束を観察者の眼
球に投射し、角膜からの反射像いわゆる角膜反射像(以
下、P像(プルキニエ像)とも記す)と瞳孔の結像位置
を利用して視軸を求めている。この視線検出装置の一例
を、図5〜図9を用いて説明する。
2. Description of the Related Art Hitherto, various so-called line-of-sight detection devices have been proposed which detect which position on a finder is observed by an observer. For example, JP-A-1-27473
In Japanese Patent Application Laid-Open No. 6-64, a parallel light beam from a light source is projected onto an eyeball of an observer, and a reflection image from a cornea, a so-called corneal reflection image (hereinafter also referred to as a P image (Purkinje image)) and an image forming position of a pupil are used. Looking for the visual axis. An example of this gaze detection device will be described with reference to FIGS.

【0003】図5は視線検出装置の電気的構成の要部を
示すブロック図であり、1はシステム全体のシーケンス
を司るシーケンスコントローラ、2,3は観察者の眼球
を照明する為に該観察者に対して水平方向に並置された
1対の赤外発光ダイオード(以下、IREDと記す)、
4は前記IRED2,3を駆動する為のIREDドライ
バ、5は前記IRED2,3にて照明された眼球像を読
み込む為のCCD等の撮像素子、6は前記撮像素子5で
読み込まれた画像信号を処理し易いようにA/D変換す
るA/Dコンバータ、7は視線検出の開始/停止を設定
する為のプッシュスイッチ、8はシステム全体に電源を
供給する電池である。
FIG. 5 is a block diagram showing a main part of the electrical configuration of the eye-gaze detecting device. 1 is a sequence controller for controlling the sequence of the entire system, and 2 and 3 are observers for illuminating the observer's eyeballs. A pair of infrared light emitting diodes (hereinafter, referred to as IRED) juxtaposed horizontally with respect to
Reference numeral 4 denotes an IRED driver for driving the IREDs 2 and 3, 5 denotes an image sensor such as a CCD for reading an eyeball image illuminated by the IREDs 2 and 3, and 6 denotes an image signal read by the image sensor 5. An A / D converter for A / D conversion for easy processing, 7 is a push switch for setting start / stop of line-of-sight detection, and 8 is a battery for supplying power to the entire system.

【0004】図6は上記視線検出装置の一連の動作の一
例を示すフローチャートであり、図7は観察者が視線検
出装置に近接した接眼状態の時に図5の撮像素子5に投
影される眼球像を示す図、図8は図5の撮像素子5上の
P像が存在するラインの画像出力を示す図である。
FIG. 6 is a flowchart showing an example of a series of operations of the above-mentioned eye-gaze detecting device. FIG. 7 is an eyeball image projected on the image sensor 5 of FIG. 5 when an observer is in an eyepiece state close to the eye-gaze detecting device. FIG. 8 is a diagram showing an image output of a line where a P image exists on the image sensor 5 in FIG.

【0005】図6において、シーケンスコントローラ1
は、まずIRED2,3を観察者の眼球に向けて点灯さ
せる(ステップ#1)。次に、その時の眼球像を撮像素
子5によって読み込み、A/Dコンバータ6を介してデ
ィジタル化して画像信号として内部のRAMに格納する
(ステップ#2)。そして、前記画像信号を処理して角
膜反射像を抽出する(ステップ#3)。
In FIG. 6, a sequence controller 1
First, the IREDs 2 and 3 are turned on toward the observer's eyeball (step # 1). Next, the eyeball image at that time is read by the image sensor 5, digitized via the A / D converter 6, and stored in the internal RAM as an image signal (step # 2). Then, the image signal is processed to extract a corneal reflection image (step # 3).

【0006】P像の抽出の仕方としては、P像は明る
く、その出力は急峻であることを利用して、信号が一定
レベル以上で、しかも傾きが大きいものをP像とみな
す。例えば眼球像が図7であったとする。この眼球像に
おいて、P像はaとbであるが、これらを検出する為に
P像条件を、信号レベルがL1 (図8参照)以上であ
り、傾きが一定値以上であるとすると、P像a,bは水
平ラインy1 で、図8の様に条件を満たし、それらの位
置はL1 を越える部分の重心演算等によってIPa,I
Pbとして求められる。
As a method of extracting the P image, the P image is considered to be a P image if the signal is at a certain level or more and has a large inclination, utilizing the fact that the P image is bright and its output is steep. For example, assume that the eyeball image is as shown in FIG. In this eyeball image, although P picture is a and b, and P picture condition to detect them, and the signal level is L 1 (see FIG. 8) above, and is the slope is equal to or greater than a predetermined value, P image a, b in the horizontal line y 1, satisfies the condition as in FIG. 8, their position is IPa by gravity calculation or the like of the portion exceeding L 1, I
It is obtained as Pb.

【0007】次に、シーケンスコントローラ1は画像信
号を処理して瞳孔エッジを抽出する(ステップ#4)。
Next, the sequence controller 1 processes the image signal to extract a pupil edge (step # 4).

【0008】瞳孔エッジの抽出の仕方としては、瞳孔部
分は暗く、虹彩部分がそれよりも明るいことを利用し
て、信号レベルが一定値レベル(これを図8に示す様に
2 とする)であり、しかも一定期間以上傾きが継続す
る場合のL2 との交点を瞳孔エッジとみなすものとす
る。
[0008] As the way of extraction of the pupil edges, the pupil portion is dark, using the fact that the iris portion brighter than the signal level (and L 2 as shown in FIG. 8 this) constant value level , and the addition of the intersection of the L 2 when the predetermined period or more slope continues shall be deemed to be the pupil edge.

【0009】例えば、眼球像が前述の様に図7であった
場合の水平ラインy1 におけるエッジは、図8に示すe
1 ,e6 が適正な瞳孔エッジとなる。しかしながら、P
像a,bの裾野も瞳孔エッジの条件を満たしてしまうの
で、e2 ,e3 、e4 ,e5も本当は瞳孔エッジで無い
にも拘らず瞳孔エッジとして処理される。従って、これ
を避ける為に、特開平6−148509号公報において
提案されている様に、瞳孔エッジ抽出後、P像周辺の一
定領域内にある瞳孔とみなしたエッジを取り除く(ステ
ップ#5)。
[0009] For example, an edge in the horizontal line y 1 when the eyeball image was 7 as described above, e shown in FIG. 8
1 and e 6 are proper pupil edges. However, P
Image a, since base of b may thus satisfy the conditions of the pupil edge, e 2, e 3, e 4, e 5 are processed as pupil edge despite not really a pupil edge. Therefore, in order to avoid this, as proposed in Japanese Patent Application Laid-Open No. 6-148509, after pupil edge extraction, edges regarded as pupils within a certain area around the P image are removed (step # 5).

【0010】ここで、このP像周辺の偽瞳孔エッジ(以
下、単に偽エッジと記す)以外にも、まつ毛やその他種
々のノイズによって偽エッジが発生する。図7の黒点
は、検出され得る偽エッジを含めた全てのエッジを表し
ている。
Here, in addition to the false pupil edge around the P image (hereinafter simply referred to as a false edge), a false edge is generated by eyelashes and various other noises. The black dots in FIG. 7 represent all edges including false edges that can be detected.

【0011】これら偽エッジを排除するために、システ
ムコントローラ1は、特開平4−347132号公報に
おいて提案されている様に、P像位置情報に基づいて、
確からしいエッジの座標範囲を限定し、この範囲外のエ
ッジを排除する(ステップ#6)。これにより、仮に図
7の範囲Fの様に限定範囲を設定したとすると、それ以
外のエッジ、例えばe10,e11などが排除されることに
なる。この排除の作業終了後、瞳孔中心の検出を行う
(ステップ#7)。ここでは瞳孔部が円形(楕円形を含
む)であることを利用して最小二乗法等を用いて瞳孔中
心を求める。この計算の後、計算値の確かさをチェック
するため、求めた瞳孔中心位置と各瞳孔エッジ位置を基
に瞳孔円推定誤差CERの計算を行う(ステップ#
8)。
In order to eliminate these false edges, the system controller 1 uses the P image position information based on the P image position information as proposed in Japanese Patent Laid-Open No. 4-347132.
The coordinate range of a probable edge is limited, and edges outside this range are excluded (step # 6). As a result, if a limited range is set as in the range F in FIG. 7, other edges, for example, e 10 and e 11 will be excluded. After the elimination work, the center of the pupil is detected (step # 7). Here, the center of the pupil is obtained by using the least square method or the like, utilizing the fact that the pupil portion is circular (including an elliptical shape). After this calculation, a pupil circle estimation error CER is calculated based on the obtained pupil center position and each pupil edge position in order to check the reliability of the calculated value (step #).
8).

【0012】上記瞳孔円推定誤差CERの計算の方法
は、特開平4−347131号公報において提案されて
いる様に、二乗誤差を用いて行う。
The method of calculating the pupil circle estimation error CER is performed using a square error, as proposed in Japanese Patent Application Laid-Open No. 4-347131.

【0013】次に、システムコントローラ1は、上記ス
テップ#8にて求めた瞳孔円推定誤差CERが確からし
いとするしきい値CT 以下かどうかをチェックし(ステ
ップ#9)、もしCT 以下ならば、求めた瞳孔中心位置
とP像位置に基づいて眼球回転角の計算を行い(ステッ
プ#11)、視線検出を終了する。
[0013] Next, the system controller 1 checks whether the following threshold C T pupil circle estimating error CER obtained in the step # 8 is the probable (step # 9), if C T below If so, the eyeball rotation angle is calculated based on the obtained pupil center position and P image position (step # 11), and the line-of-sight detection ends.

【0014】一方、瞳孔円推定誤差CERがCT よりも
大きかった場合は(ステップ#9のNO)、瞳孔エッジ
の中に未だ偽エッジが多く含まれていたとして、偽エッ
ジのさらなる排除、すなわち「瞳孔円修正」を行い(ス
テップ#10)、再び瞳孔中心の計算(ステップ#7)
に戻る。
On the other hand, if the pupil circle estimation error CER is larger than C T (NO in step # 9), it is determined that the pupil edge still contains many false edges, and the false edge is further eliminated, that is, Perform "pupil circle correction" (step # 10) and calculate the pupil center again (step # 7).
Return to

【0015】図9はこのステップ#10における「瞳孔
円修正」を説明するフローチャートであり、以下これに
したがって説明する。
FIG. 9 is a flow chart for explaining "pupil circle correction" in step # 10, and the description will be made in accordance with this.

【0016】図9において、シーケンスコントローラ1
は、まずこの瞳孔円修正が1回目(初めての修正)かど
うかをチェックする(ステップ#501)。1回目なら
ば、瞳孔円推定誤差CERを瞳孔円推定誤差CER0
して退避させ(ステップ#503)、エッジを1個抜く
(ステップ#505)。抜く順番はシーケンスコントロ
ーラ1内に保存されている順番となり、通常は抽出され
た順となる。
In FIG. 9, the sequence controller 1
First checks whether this pupil circle correction is the first time (first correction) (step # 501). If it is the first time, the pupil circle estimation error CER is retracted as the pupil circle estimation error CER 0 (step # 503), and one edge is removed (step # 505). The order of extraction is the order stored in the sequence controller 1, and is usually the order of extraction.

【0017】また、上記ステップ#501で瞳孔円修正
が1回目でないと判定した場合、すなわち1回目もしく
は2回目以降の瞳孔円修正後、再度図6のステップ#9
で瞳孔円推定誤差CERがしきい値CT 以下でなく、再
びステップ#10で「瞳孔円修正」を行う場合、求めた
最新の瞳孔円推定誤差CERがエッジを抜く前の瞳孔円
推定誤差CER、すなわち瞳孔円推定誤差CER0 より
も小さくなっている(これは抜いたエッジが偽エッジで
あり、真円に近づいていることを意味する)かどうかを
チェックする(ステップ#502)。ここで、「CER
<CER0 」でなければ、抜いたエッジは偽エッジでな
かったとして元に戻し(ステップ#504)、並び順に
次のエッジを抜く(ステップ#505)。
If it is determined in step # 501 that the correction of the pupil circle is not the first time, that is, after the correction of the pupil circle for the first time or the second or subsequent time, step # 9 of FIG.
If the pupil circle estimation error CER is not equal to or less than the threshold value C T and “pupil circle correction” is performed again in step # 10, the obtained latest pupil circle estimation error CER is the pupil circle estimation error CER before the edge is extracted. That is, it is checked whether the error is smaller than the pupil circle estimation error CER 0 (this means that the extracted edge is a false edge and is approaching a perfect circle) (step # 502). Here, "CER
If it is not <CER 0 ”, the extracted edge is not a false edge and is returned to the original (step # 504), and the next edge is extracted in the arrangement order (step # 505).

【0018】また、上記ステップ#502において、
「CER<CER0 」であった場合は、抜いたエッジは
抜いたままにして、瞳孔円推定誤差CERをCER0
して退避させ(ステップ#503)、並び順に次のエッ
ジを抜く(ステップ#505)。
In the above step # 502,
If “CER <CER 0 ”, the extracted edge is kept extracted, the pupil circle estimation error CER is saved as CER 0 (step # 503), and the next edge is extracted in the order of arrangement (step # 505). ).

【0019】[0019]

【発明が解決しようとする課題】しかしながら、上記従
来の視線検出装置においては、エッジの総数にかかわら
ず瞳孔円修正の動作1回につき、エッジを1個ずつしか
抜かないので、偽エッジが全て排除されて瞳孔円推定誤
差CERがCT 以下になる(つまり、瞳孔円修正が終了
する)までには、偽エッジの個数が少なく、かつ、都合
良く始めの頃に抜くエッジが偽エッジである場合を除い
ては、エッジの数が多い程、図6に示したステップ#7
における「瞳孔中心の検出」やステップ#8における
「瞳孔円推定誤差CERの計算」を行う回数も多くな
り、具体的には、ステップ#7→#8→#9→#10→
#7……の処理が繰り返され、これは視線検出1回当た
りの検出時間の長時間化につながるものであった。
However, in the above-mentioned conventional eye-gaze detecting apparatus, only one edge is removed per pupil circle correction operation regardless of the total number of edges, so that all false edges are eliminated. By the time the pupil-circle estimation error CER becomes equal to or less than C T (that is, the pupil-circle correction is completed), the number of false edges is small, and the edge to be conveniently extracted at the beginning is a false edge. Except for the number of edges, the larger the number of edges, the more the step # 7 shown in FIG.
The number of times "detection of pupil center" in step # 8 and "calculation of pupil circle estimation error CER" in step # 8 increases, and specifically, steps # 7 → # 8 → # 9 → # 10 →
The processing of # 7... Is repeated, which leads to a longer detection time per gaze detection.

【0020】(発明の目的)本発明の目的は、視線検出
1回に要する時間を短縮し、より効率的な視線検出を行
うことのできる視線検出装置及び光学機器を提供するこ
とにある。
(Object of the Invention) It is an object of the present invention to provide a visual axis detecting device and an optical apparatus which can reduce the time required for one visual axis detection and can perform more efficient visual axis detection.

【0021】[0021]

【課題を解決するための手段】上記目的を達成するため
に、請求項1〜3及び6記載の本発明は、観察者の眼球
を照明する複数の照明手段と、該照明手段による観察者
の眼球からの反射光を受光する受光手段と、該受光手段
で得られた画像信号に基づいて、眼球像中の瞳孔エッジ
とみなせるエッジと前記照明手段による複数の角膜反射
像の位置を抽出する抽出手段と、前記抽出された複数の
角膜反射像と複数のエッジ情報から瞳孔部を円形状とし
て扱って瞳孔円を算出し、この瞳孔円より瞳孔中心を求
め、該瞳孔中心と前記複数の角膜反射像の位置より観察
者の視線を検出する演算手段とを備えた視線検出装置に
おいて、前記演算手段に、算出した瞳孔円の信頼性を判
断し、信頼性が低い場合は、前記複数のエッジの数に応
じて一部のエッジを抜くことより、前記瞳孔円の修正を
行う瞳孔円修正手段を具備した構成にしている。
In order to achieve the above object, the present invention according to the first to third and sixth aspects of the present invention comprises a plurality of illumination means for illuminating an observer's eyeball, A light-receiving means for receiving light reflected from the eyeball, and an extraction for extracting, based on an image signal obtained by the light-receiving means, an edge which can be regarded as a pupil edge in the eyeball image and positions of a plurality of corneal reflection images by the lighting means Means for calculating a pupil circle by treating the pupil portion as a circular shape from the plurality of extracted corneal reflection images and the plurality of edge information, obtaining a pupil center from the pupil circle, and determining the pupil center and the plurality of corneal reflections. A gaze detecting apparatus comprising: a calculating unit configured to detect a line of sight of an observer from a position of an image; wherein the calculating unit determines the reliability of the calculated pupil circle, and when the reliability is low, the plurality of edges are determined. Some edges depending on the number Than to pull out, and the structure provided with the pupil circle correcting means for correcting the said pupil circle.

【0022】具体的には、算出した瞳孔円の信頼性が低
い場合は、前記複数のエッジの数に応じて、1回の瞳孔
円修正により抜くエッジの数を変化させる、つまり前記
複数のエッジの数が多い程、1回の瞳孔円修正により抜
くエッジの数を多くし、瞳孔円の修正を行うようにして
いる。
More specifically, if the calculated pupil circle has low reliability, the number of edges to be extracted by one pupil circle correction is changed in accordance with the number of the plurality of edges. As the number of pupil circles increases, the number of edges to be extracted by one pupil circle correction is increased to correct the pupil circle.

【0023】同じく上記目的を達成するために、請求項
4〜6記載の本発明は、観察者の眼球を照明する複数の
照明手段と、該照明手段による観察者の眼球からの反射
光を受光する受光手段と、該受光手段で得られた画像信
号に基づいて、眼球像中の瞳孔エッジとみなせるエッジ
と前記照明手段による複数の角膜反射像の位置を抽出す
る抽出手段と、前記抽出された複数の角膜反射像と複数
のエッジ情報から瞳孔部を円形状として扱って瞳孔円を
算出し、この瞳孔円より瞳孔中心を求め、該瞳孔中心と
前記複数の角膜反射像の位置より観察者の視線を検出す
る演算手段とを備えた視線検出装置において、前記演算
手段に、算出した瞳孔円の信頼性が低い場合は、前記複
数の角膜反射像の位置より推定される仮の瞳孔中心位置
からの各エッジ毎の距離情報に基づいて前記複数のエッ
ジを複数のグループに分け、1回の瞳孔円修正において
グループ単位で抜くことより、前記瞳孔円の修正を行う
瞳孔円修正手段を具備した構成にしている。
According to another aspect of the present invention, a plurality of illumination means for illuminating an eyeball of an observer, and receiving light reflected by the illumination means from the eyeball of the observer. Based on the image signal obtained by the light receiving unit, an extracting unit that extracts an edge that can be regarded as a pupil edge in the eyeball image and a position of a plurality of corneal reflection images by the lighting unit, and the extracted The pupil portion is calculated as a circular shape by treating the pupil portion as a circular shape from the plurality of corneal reflection images and the plurality of pieces of edge information, and the pupil center is obtained from the pupil circle. A gaze detecting apparatus comprising: a gaze detecting device, wherein, when the calculated pupil circle has low reliability, the calculated pupil circle is calculated from a temporary pupil center position estimated from the positions of the plurality of corneal reflection images. For each edge of Based on the distance information dividing the plurality of edges into a plurality of groups, than to pull out in groups in one pupil circle modifications, and the configuration provided with the pupil circle correcting means for correcting the said pupil circle.

【0024】具体的には、算出した瞳孔円の信頼性が低
い場合は、1回の瞳孔円修正において、遠い方のグルー
プから抜いていき、瞳孔円の修正を行うようにしてい
る。
More specifically, if the calculated pupil circle is unreliable, the pupil circle is corrected in one pupil circle correction by removing the pupil circle from a group farther away.

【0025】[0025]

【発明の実施の形態】以下、本発明を図示の実施の形態
に基づいて詳細に説明する。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, the present invention will be described in detail based on illustrated embodiments.

【0026】図1は本発明の実施の第1の形態に係る視
線検出装置の主要部分の動作を示すフローチャートであ
る。なお、該視線検出装置の電気的構成は、上記図5と
同様であり、又該視線検出装置の一連の動作は、図6の
ステップ#10での「瞳孔円修正」の為の処理以外は該
図10と同様であるので、ここではその説明は省略す
る。
FIG. 1 is a flowchart showing the operation of the main part of the eye-gaze detecting apparatus according to the first embodiment of the present invention. The electric configuration of the eye-gaze detecting device is the same as that of FIG. 5 described above, and a series of operations of the eye-gaze detecting device is the same as that of the process for “pupil circle correction” in step # 10 of FIG. Since it is the same as FIG. 10, the description is omitted here.

【0027】以下、瞳孔円修正の動作について、図1の
フローチャートにしたがって説明する。
The pupil circle correcting operation will be described below with reference to the flowchart of FIG.

【0028】図1において、シーケンスコントローラ1
は、まず瞳孔円修正が1回目(初めての修正)かどうか
をチェックする(ステップ#101)。1回目ならば、
瞳孔円推定誤差CERをCER0 として退避させ(ステ
ップ#103)、残りのエッジ総数が10個以上かどう
かをチェックする(ステップ#105)。10個以上で
あれば「k=3」として(ステップ#106)、並び順
にエッジをk個抜き(ステップ#110)、前述の図6
のステップ#7へリターンする。
In FIG. 1, a sequence controller 1
First, it is checked whether the pupil circle correction is the first time (first correction) (step # 101). For the first time,
The pupil circle estimation error CER is saved as CER 0 (step # 103), and it is checked whether the total number of remaining edges is 10 or more (step # 105). If the number is 10 or more, “k = 3” is set (step # 106), and k edges are extracted in the order of arrangement (step # 110).
To step # 7.

【0029】また、上記ステップ#105の判定で残り
のエッジ総数が10個以上でなければ、次に5個以上か
どうかをチェックする(ステップ#107)。ここで5
個以上であれば「k=2」として(ステップ#10
8)、並び順にエッジをk個抜き(ステップ#11
0)、図6のステップ#7へリターンする。
If it is determined in step # 105 that the total number of remaining edges is not 10 or more, it is checked whether it is 5 or more (step # 107). Where 5
If the number is equal to or more than "k = 2" (step # 10)
8), remove k edges in the arrangement order (step # 11)
0), and return to step # 7 in FIG.

【0030】また、上記ステップ#107の判定で残り
のエッジ総数が5個以上でなければ「k=1」として
(ステップ#109)、並び順にエッジをk個抜き(ス
テップ#110)、図6のステップ#7へリターンす
る。
If it is determined in step # 107 that the total number of remaining edges is not five or more, "k = 1" is set (step # 109), and k edges are removed in the arrangement order (step # 110). To step # 7.

【0031】上記ステップ#101で瞳孔円修正が1回
目でなっかたことを判定した場合、すなわち1回目もし
くは2回目以降の円修正後、図6のステップ#7に戻
り、その後再度ステップ#9で瞳孔円推定誤差CERが
しきい値CT 以下でなく、再びステップ#10で「瞳孔
円修正」を行う場合、求めた最新の瞳孔円推定誤差CE
Rがエッジを抜く前の瞳孔円推定誤差CER、すなわち
瞳孔円推定誤差CER0よりも小さくなっている(これ
は抜いた1個もしくは複数個のエッジが偽エッジであ
る、もしくは偽エッジを含んでいたことを意味してい
る)かどうかをチェックする(ステップ#102)。こ
こで、「CER<CER0 」でなければ(ステップ#1
02のNO)、抜いたエッジもしくはエッジ群は偽エッ
ジを含んでいなかったとして元に戻し(ステップ#10
4)、次のステップ#105へ進む。
If it is determined in step # 101 that the correction of the pupil circle has not been performed for the first time, that is, after the first or second or subsequent circle correction, the process returns to step # 7 in FIG. 6, and then returns to step # 9 again. in pupil circle estimating error CER is not less than the threshold C T, when performing "pupil circle correction" at step # 10 again, the obtained latest pupil circle estimating error CE
R is smaller than the pupil circle estimation error CER before the edge is extracted, that is, the pupil circle estimation error CER 0 (this is one or more of the extracted edges are false edges or include false edges). Is checked) (step # 102). Here, unless “CER <CER 0 ” (step # 1)
02 (NO at step # 10), the extracted edge or edge group is returned to the original as it does not include a false edge (step # 10).
4), proceed to the next step # 105.

【0032】ステップ#105以降は既に述べた通りで
あり、(抜いた後の)残りのエッジ総数に応じてエッジ
総数が10個以上なら3個、エッジ総数が5個以上,1
0個未満なら2個、エッジ総数が5個未満なら1個、そ
れぞれエッジを抜いて、図6のステップ#7へリターン
する。
Steps after step # 105 are as described above. According to the total number of remaining edges (after extraction), if the total number of edges is 10 or more, three, the total number of edges is five or more, and 1
If the number is less than 0, two edges are extracted, and if the total number of edges is less than five, one edge is extracted, and the process returns to step # 7 in FIG.

【0033】一方、上記ステップ#102において、
「CER<CER0 」であった場合は、抜いたエッジも
しくはエッジ群はそのままにして、瞳孔円推定誤差CE
RをCER0 として退避させ(ステップ#103)、や
はりステップ#105へ進み、以下同様に、残りのエッ
ジ総数に応じてエッジ総数が10個以上なら3個、エッ
ジ総数が5個以上,10個未満なら2個、エッジ総数が
5個未満なら1個、それぞれエッジを抜いて、図6のス
テップ#7へリターンする。
On the other hand, in step # 102,
If “CER <CER 0 ”, the extracted edge or edge group is left as it is and the pupil circle estimation error CE
R is saved as CER 0 (step # 103), and the process also proceeds to step # 105. Similarly, if the total number of edges is 10 or more, the number is 3 and the total number of edges is 5 or more and 10 in accordance with the total number of remaining edges. If it is less than 2, two edges are extracted, and if the total number of edges is less than 5, one edge is extracted, and the process returns to step # 7 in FIG.

【0034】上記の実施の第1の形態によれば、瞳孔円
修正を行う際、エッジ総数が多いほど瞳孔円修正の1回
毎に抜くエッジの数が多くなるような処理を行う構成に
したので、視線検出1回に要する時間を短縮することが
できる。
According to the first embodiment, when pupil circle correction is performed, processing is performed such that the greater the total number of edges, the greater the number of edges to be removed for each pupil circle correction. Therefore, the time required for one gaze detection can be reduced.

【0035】例えば、最初のエッジ総数が12個で、そ
のうち偽エッジが並び順で最後の3個であった場合、従
来例では瞳孔円修正を12回行う必要があるのに対し
て、この実施の形態では、4回で済むことになる。
For example, when the total number of initial edges is 12 and the false edges are the last 3 in the arrangement order, the conventional example requires pupil circle correction to be performed 12 times. In the embodiment, only four times are required.

【0036】この実施の形態では、瞳孔円修正を1回行
う毎に、メインルーチンへリターンした後の図6のステ
ップ#7における「瞳孔中心の検出」において最小二乗
法演算を1回行うことになるので、この回数を減らすこ
とはそのまま演算時間の短縮化に直結することにもつな
がり、その効果は絶大である。
In this embodiment, every time the pupil circle correction is performed once, the least square method calculation is performed once in "detection of pupil center" in step # 7 of FIG. 6 after returning to the main routine. Therefore, reducing the number of times leads directly to shortening of the operation time as it is, and the effect is enormous.

【0037】(実施の第2の形態)図2は本発明の実施
の第2の形態に係る視線検出装置の主要部分の動作を示
すフローチャートである。なお、該視線検出装置の電気
的構成は、上記図5と同様であり、又該視線検出装置の
一連の動作は、図6のステップ#10での「瞳孔円修
正」の為の処理以外は該図10と同様であるので、ここ
ではその説明は省略する。
(Second Embodiment) FIG. 2 is a flowchart showing the operation of the main part of the visual line detection device according to a second embodiment of the present invention. The electric configuration of the eye-gaze detecting device is the same as that of FIG. 5 described above, and a series of operations of the eye-gaze detecting device is the same as that of the process for “pupil circle correction” in step # 10 of FIG. Since it is the same as FIG. 10, the description is omitted here.

【0038】上記実施の第1の形態では、「残りのエッ
ジ総数」が10個以上なら3個抜く、5個以上10個未
満なら2個抜く、5個未満なら1個抜く、という様に決
めているが、これを「残りのエッジ総数」と「抜くエッ
ジ数」との関数式で表してもよく、この様にすることに
より、その時々の状況に応じたより適正な処理が可能に
なる。この実施の形態を示したのが図2のフローチャー
トであり、以下これにしたがって瞳孔円修正の動作につ
いて説明する。
In the first embodiment, it is determined that if the “total number of remaining edges” is 10 or more, 3 is removed, if 5 or more and less than 10, 2 is removed, and if it is less than 5, 1 is removed. However, this may be expressed by a functional expression of “the total number of remaining edges” and “the number of edges to be removed”. By doing so, more appropriate processing according to the situation at each time can be performed. FIG. 2 is a flowchart showing this embodiment, and the operation of correcting the pupil circle will be described below.

【0039】図2において、シーケンスコントローラ1
は、まずこの瞳孔円修正が1回目(初めての修正)かど
うかをチェックする(ステップ#201)。1回目なら
ば、瞳孔円推定誤差CERをCER0 として退避させ
(ステップ#203)、以下の(1)式に従って抜くエ
ッジ数kを決める(ステップ#205)。
In FIG. 2, the sequence controller 1
First checks whether this pupil circle correction is the first time (first correction) (step # 201). If it is the first time, the pupil circle estimation error CER is saved as CER 0 (step # 203), and the number k of edges to be extracted is determined according to the following equation (1) (step # 205).

【0040】 k←(残りのエッジ総数)/4+1 ………(1) そして、並び順にエッジをk個抜き(ステップ#20
6)、図6に示すステップ#7へリターンする。
K ← (total number of remaining edges) / 4 + 1 (1) Then, k edges are extracted in the arrangement order (step # 20)
6), and return to step # 7 shown in FIG.

【0041】また、ステップ#201で瞳孔円修正が1
回目でなかったと判定した場合、すなわち1回目もしく
は2回目以降の瞳孔円修正後、図6のステップ#7に戻
り、その後再度ステップ#9において瞳孔円推定誤差C
ERがしきい値CT 以下でなく、再びステップ#10の
「瞳孔円修正」を行う場合、求めた最新の瞳孔円推定誤
差CERがエッジを抜く前の瞳孔円推定誤差CER、す
なわち瞳孔円推定誤差CERよりも小さくなっている
(これは抜いた1個もしくは複数個のエッジが偽エッジ
である、もしくは偽エッジを含んでいたことを意味して
いる)かどうかをチェックする(ステップ#202)。
ここで「CER<CER0 」でなければ(ステップ#2
02のNO)、抜いたエッジもしくはエッジ群は偽エッ
ジを含んでいなかったとしてもとに戻し(ステップ#2
04)、上記(1)式に従い、抜くエッジ数kを決め
(ステップ#205)、並び順にエッジをk個抜き(ス
テップ#206)、図6に示すステップ#7へリターン
する。
In step # 201, pupil circle correction is 1
If it is determined that it is not the first time, that is, after correcting the pupil circle for the first or second time, the process returns to step # 7 of FIG.
If the ER is not less than the threshold value C T and the “pupil circle correction” of step # 10 is performed again, the obtained latest pupil circle estimation error CER is the pupil circle estimation error CER before the edge is extracted, ie, the pupil circle estimation. It is checked whether the error is smaller than the error CER (this means that one or more extracted edges are false edges or include false edges) (step # 202). .
Here, if not “CER <CER 0 ” (step # 2)
02 (NO in step # 2), the extracted edge or edge group is returned to the original state as not including the false edge (step # 2).
04), the number k of edges to be extracted is determined according to the above equation (1) (step # 205), k edges are extracted in the order of arrangement (step # 206), and the process returns to step # 7 shown in FIG.

【0042】一方、上記ステップ#202において、
「CER<CER0 」であった場合は、抜いたエッジも
しくはエッジ群はそのままにして、瞳孔円推定誤差CE
RをCER0 として退避させ(ステップ#203)、や
はりステップ#205へ進み、以下同様の処理を行う。
On the other hand, in step # 202,
If “CER <CER 0 ”, the extracted edge or edge group is left as it is and the pupil circle estimation error CE
R is saved as CER 0 (step # 203), the process also proceeds to step # 205, and the same processing is performed thereafter.

【0043】(実施の第3の形態)図3は本発明の実施
の第3の形態に係る視線検出装置の主要部分の動作を示
すフローチャートである。なお、該視線検出装置の電気
的構成は、上記図5と同様であり、又該視線検出装置の
一連の動作は、図6のステップ#10での「瞳孔円修
正」の為の処理以外は該図10と同様であるので、ここ
ではその説明は省略する。
(Third Embodiment) FIG. 3 is a flow chart showing the operation of the main part of a visual axis detection device according to a third embodiment of the present invention. The electric configuration of the eye-gaze detecting device is the same as that of FIG. 5 described above, and a series of operations of the eye-gaze detecting device is the same as that of the process for “pupil circle correction” in step # 10 of FIG. Since it is the same as FIG. 10, the description is omitted here.

【0044】上記実施の第1及び第2の形態では、瞳孔
円修正において「残りのエッジ総数」に対して「抜くエ
ッジ数」を一義的に決めていたが、これを残りのエッジ
総数が多い場合に限り、P像位置から推定される仮の瞳
孔中心位置からのエッジ毎の距離情報に基づいて、残り
の瞳孔エッジを仮の瞳孔中心位置から遠い方のグループ
と近い方のグループとに分け、そのうち遠い方のグルー
プを偽エッジの集団である可能性が高いとして、1回の
瞳孔円修正でグループ毎にごっそり抜くようにすれば、
より効率的な瞳孔円修正が可能となる。この実施の形態
を示すのが、図3に示すフローチャートであり、以下こ
れにしたがって瞳孔円修正の動作について説明する。
In the first and second embodiments, the "number of edges to be removed" is uniquely determined with respect to the "total number of remaining edges" in the correction of the pupil circle. However, the number of remaining edges is large. Only in the case, based on the distance information for each edge from the temporary pupil center position estimated from the P image position, the remaining pupil edges are divided into a group farther from the temporary pupil center position and a group closer thereto. , It is highly likely that the farthest group is a group of false edges, so that if one pupil circle correction is performed to sneak out for each group,
More efficient pupil circle correction becomes possible. FIG. 3 is a flowchart showing this embodiment, and the operation of correcting the pupil circle will be described below.

【0045】図3において、シーケンスコントローラ1
は、まずこの瞳孔円修正が1回目(初めての修正)かど
うかをチェックする(ステップ#301)。1回目なら
ば、まず残りのエッジ総数が5個以上であるかどうかを
チェックし(ステップ#306)、5個以上でなければ
瞳孔円推定誤差CERをCER0 として退避させ(ステ
ップ#303)、並び順にエッジを1個抜き(ステップ
#305)、図6に示すステップ#7へリターンする。
In FIG. 3, the sequence controller 1
First, it is checked whether this pupil circle correction is the first correction (first correction) (step # 301). If it is the first time, it is first checked whether the total number of remaining edges is 5 or more (step # 306). If not, the pupil circle estimation error CER is saved as CER 0 (step # 303). One edge is removed in the arrangement order (step # 305), and the process returns to step # 7 shown in FIG.

【0046】また、ステップ#306で残りのエッジ総
数が5個以上であれば、まずP像の位置を基に仮の瞳孔
中心位置C0 を決める。2個のP像座標のうち、左側を
(IP1 ,JP1 )、右側を(IP2 ,JP2 )とし
て、仮の瞳孔中心位置C0 (IC,JC)を IC←(IP1 +IP2 )/2 JC←(JP1 +JP2 )/2−10 とする(ステップ#307)。
[0046] If remaining edges total number of five or more in the step # 306, first determining the pupil center position C 0 tentative based on the position of the P images. Of the two P image coordinates, the left side is (IP 1 , JP 1 ) and the right side is (IP 2 , JP 2 ), and the temporary pupil center position C 0 (IC, JC) is given by IC ← (IP 1 + IP 2). ) / 2 JC ← (JP 1 + JP 2) / 2-10 to (step # 307).

【0047】次に、エッジ毎に瞳孔中心位置C0 との距
離を求める(ステップ#308)。例えば、あるエッジ
の座標が(IE1 ,JE1 )であったとすると、求める
距離EC1 は EC1 =√〔(IC−IE12 +(JC−JE12 〕 ……(2) となる。次に、求めた距離情報の平均値mを求める(ス
テップ#309)。そして、残りのエッジに対して以下
のようにして2つのグループに分ける(ステップ#31
0)。
Next, the distance from the pupil center position C 0 is determined for each edge (step # 308). For example, if the coordinates of a certain edge are (IE 1 , JE 1 ), the distance EC 1 to be obtained is EC 1 = IC [(IC-IE 1 ) 2 + (JC-JE 1 ) 2 ] (2) Becomes Next, an average value m of the obtained distance information is obtained (step # 309). Then, the remaining edges are divided into two groups as follows (step # 31)
0).

【0048】 Aグループ←(C0 との距離≧m)であるエッジ Bグループ←(C0 との距離<m)であるエッジ ここで、Aグループは仮の瞳孔中心位置C0 から遠い方
のグループ,Bグループは近い方のグループとなる。
Edge of group A ← (distance from C 0 ≧ m) Edge of group B ← (distance to C 0 <m) Here, group A is located farther from the provisional pupil center position C 0 . The group and the B group are closer groups.

【0049】図4に、残りのエッジをAグループとBグ
ループとに分けた場合の一例を示している。
FIG. 4 shows an example in which the remaining edges are divided into an A group and a B group.

【0050】経験的に、偽エッジは瞳孔中心から遠い方
に存在する可能性が高いので、シーケンスコントローラ
1は、これを利用してAグループを偽エッジとしてごっ
そり抜く(ステップ#311)。そして、瞳孔円推定誤
差CER(これは未だごっそり抜く前の値)をCER0
として退避させ(ステップ#312)、図6に示すステ
ップ#7へリターンする。
Empirically, since there is a high possibility that the false edge exists farther from the center of the pupil, the sequence controller 1 uses this to silently remove the A group as a false edge (step # 311). Then, the pupil circle estimation error CER (this is the value before still being extracted) is calculated as CER 0
(Step # 312), and returns to Step # 7 shown in FIG.

【0051】また、上記ステップ#301が1回目でな
っかたと判定した場合、求めた最新の瞳孔円推定誤差C
ERがエッジを抜く前の瞳孔円推定誤差CER、すなわ
ち瞳孔円推定誤差CER0 よりも小さくなっているかど
うかをチェックする(ステップ#302)。ここで「C
ER<CER0 」でなければ、抜いたエッジもしくはエ
ッジ群は偽エッジを含んでいなかったとしてもとに戻し
(ステップ#304)、並び順にエッジを1個抜き(ス
テップ#305)、図6に示すステップ#7へリターン
する。
If it is determined that step # 301 has failed for the first time, the latest estimated pupil circle estimation error C
It is checked whether or not the ER is smaller than the pupil circle estimation error CER before the edge is removed, that is, the pupil circle estimation error CER 0 (step # 302). Here "C
If ER <CER 0 is not satisfied, the extracted edge or edge group is returned as if it did not include a false edge (step # 304), and one edge is removed in the arrangement order (step # 305), and FIG. And returns to step # 7.

【0052】また、上記ステップ#302において、
「CER<CER0 」であった場合は、抜いたエッジも
しくはエッジ群は抜いたままにして、瞳孔円推定誤差C
ERをCER0 として退避させ(ステップ#303)、
並び順に次のエッジを1個抜き(ステップ#305)、
図6に示すステップ#7へリターンする。
In the above step # 302,
If “CER <CER 0 ”, the extracted pupil circle error C
ER is saved as CER 0 (step # 303),
One next edge is removed in the arrangement order (step # 305),
It returns to step # 7 shown in FIG.

【0053】なお、この実施の形態では、全エッジに対
して仮の瞳孔中心位置C0 から遠い方のグループと近い
グループとに分けているが、エッジがその抽出条件によ
り瞳孔中心から見た方向で、上エッジ,下エッジ,右エ
ッジ,左エッジ等、複数のグループに元々分けられてい
る場合、それら各グループ毎に仮の瞳孔中心位置座標C
0 から遠い方のグループと近い方のグループとに分ける
ようにしても良い。
[0053] The direction in this embodiment, are divided into a group and close groups farther from the pupil center position C 0 provisional for all edges, the edge is viewed from the center of the pupil by the extraction conditions When the original pupil is divided into a plurality of groups such as an upper edge, a lower edge, a right edge, a left edge, etc., the temporary pupil center position coordinates C
A group farther from 0 and a group closer to 0 may be divided.

【0054】以上の実施の各形態によれば、視線検出に
おける瞳孔円修正を行う際、エッジ総数が多い程、瞳孔
円修正の1回毎に抜くエッジの数を増やす(実施の第1
及び第2の形態)、若しくは、残りのエッジ総数が多い
場合に限り、P像位置から推定される仮の瞳孔中心位置
からエッジ毎の距離情報に基づいて、残りのエッジを瞳
孔中心位置から遠い方のグループと近い方のグループと
に分け、そのうち遠い方のグループを偽エッジの集団で
ある可能性が高いとして、1回の瞳孔円修正でグループ
毎にごっそり抜く(実施の第3の形態)ような処理を行
う構成にした(アルゴリムを構成した)ので、視線検出
1回に要する時間を従来に比べて大幅に短縮することが
可能となった。
According to each of the above embodiments, when performing pupil circle correction in gaze detection, the greater the total number of edges, the greater the number of edges to be extracted each time the pupil circle correction is performed (first embodiment).
And the second mode) or only when the total number of remaining edges is large, the remaining edges are far from the pupil center position based on the distance information for each edge from the temporary pupil center position estimated from the P image position. The third group is divided into a near group and a near group, and it is determined that the far group is likely to be a group of false edges, and one group is removed by one pupil circle correction (third embodiment). Since such a process is performed (the algorithm is configured), the time required for one gaze detection can be significantly reduced as compared with the related art.

【0055】(発明と実施の形態の対応)上記実施の各
形態において、IRED2,3及びIREDドライバ4
が本発明の照明手段に、撮像素子5が本発明の受光手段
に、シーケンスコントローラ1内の図6に示すステップ
#3,#4の動作を実行する部分が本発明の抽出手段
に、シーケンスコントローラ1内の図6に示すステップ
#7,#8,#9,#10,#11(図1,図2又は図
3の処理を行う部分)の動作を実行する部分が本発明の
演算手段及び瞳孔円修正手段に、それぞれ相当する。ま
た、請求項1又は4記載の円形状とは、円形のみなら
ず、楕円形も含むものである。
(Correspondence between the Invention and the Embodiment) In each of the above embodiments, the IREDs 2 and 3 and the IRED driver 4
Are the illumination means of the present invention, the imaging device 5 is the light receiving means of the present invention, and the portion of the sequence controller 1 for executing the operations of steps # 3 and # 4 shown in FIG. 1 is a section for executing the operations of steps # 7, # 8, # 9, # 10, and # 11 (the section for performing the processing of FIG. 1, FIG. 2 or FIG. 3) shown in FIG. Each corresponds to a pupil circle correcting unit. Further, the circular shape according to claim 1 or 4 includes not only a circular shape but also an elliptical shape.

【0056】以上が実施の形態の各構成と本発明の各構
成の対応関係であるが、本発明は、これら実施の形態の
構成に限定されるものではなく、請求項で示した機能、
又は実施の形態がもつ機能が達成できる構成であればど
のようなものであってもよいことは言うまでもない。
The correspondence between the components of the embodiment and the components of the present invention has been described above. However, the present invention is not limited to the configuration of the embodiment, and the functions and features described in the claims can be obtained.
Needless to say, any configuration may be used as long as the functions of the embodiment can be achieved.

【0057】(変形例)本発明は、銀塩カメラやビデオ
カメラ、更には電子スチルカメラ等、各種のカメラに適
用できるものである。さらには、ディスプレイを有する
機器や操作パネルを有する機器(ディスプレイや操作パ
ネルを注視するオペレータ等の視線検出に用いることが
可能なため)等にも適用可能である。その他の光学機器
や他の装置、更には構成ユニットとしても適用すること
ができるものである。
(Modification) The present invention can be applied to various cameras such as a silver halide camera, a video camera, and an electronic still camera. Further, the present invention can be applied to a device having a display, a device having an operation panel (because it can be used for detecting a line of sight of an operator who looks at the display and the operation panel), and the like. The present invention can be applied to other optical apparatuses and other devices, and further to a constituent unit.

【0058】また、本発明は、以上の実施の各形態、又
はそれらの技術を適当に組み合わせた構成にしてもよ
い。
Further, the present invention may have a configuration in which the above embodiments or their techniques are appropriately combined.

【0059】[0059]

【発明の効果】以上説明したように、本発明によれば、
視線検出における瞳孔円修正を行う際、瞳孔エッジの総
数が多い程、瞳孔円修正の1回毎に抜くエッジの数を増
やしたり、若しくは、角膜反射像の位置から推定される
仮の瞳孔中心位置から各エッジ毎の距離報に基づいて複
数のエッジを複数のグループに分け、そのうち遠い方の
グループを偽エッジの集団である可能性が高いとして、
1回の瞳孔円修正でグループ毎にごっそり抜くようにし
ているため、視線検出1回に要する時間を短縮すること
ができ、より効率的な視線検出が可能となった。
As described above, according to the present invention,
When performing pupil circle correction in gaze detection, as the total number of pupil edges increases, the number of edges to be extracted each time pupil circle correction is increased, or a temporary pupil center position estimated from the position of the corneal reflection image From divide multiple edges into multiple groups based on the distance report for each edge, and assuming that the more distant group is likely to be a group of false edges,
Since the pupil circle is removed one by one by one pupil circle correction, the time required for one gaze detection can be shortened, and more efficient gaze detection can be performed.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施の第1の形態に係る視線検出装置
の瞳孔円修正の動作を示すフローチャートである。
FIG. 1 is a flowchart showing an operation of correcting a pupil circle of a gaze detecting apparatus according to a first embodiment of the present invention.

【図2】本発明の実施の第2の形態に係る視線検出装置
の瞳孔円修正の動作を示すフローチャートである。
FIG. 2 is a flowchart illustrating an operation of correcting a pupil circle of a gaze detecting apparatus according to a second embodiment of the present invention.

【図3】本発明の実施の第3の形態に係る視線検出装置
の瞳孔円修正の動作を示すフローチャートである。
FIG. 3 is a flowchart showing an operation of correcting a pupil circle by a gaze detecting apparatus according to a third embodiment of the present invention.

【図4】図3の動作説明を助ける為の図である。FIG. 4 is a diagram for helping to explain the operation of FIG. 3;

【図5】本発明及び従来の視線検出装置の電気的構成の
要部を示すブロック図である。
FIG. 5 is a block diagram showing a main part of an electrical configuration of the present invention and a conventional visual line detection device.

【図6】図5の視線検出装置の一連の動作を示すフロー
チャートである。
FIG. 6 is a flowchart showing a series of operations of the visual line detection device of FIG. 5;

【図7】図5の撮像素子に投影される眼球像を示す図で
ある。
FIG. 7 is a diagram showing an eyeball image projected on the image sensor of FIG. 5;

【図8】図7に示した撮像素子上のP像が存在するライ
ンの画像出力及び瞳孔エッジの抽出について説明する為
の図である。
FIG. 8 is a diagram for explaining image output and extraction of a pupil edge of a line where a P image exists on the image sensor illustrated in FIG. 7;

【図9】従来の視線検出装置の瞳孔円修正の動作を示す
フローチャートである。
FIG. 9 is a flowchart showing an operation of correcting a pupil circle of the conventional eye gaze detecting device.

【符号の説明】[Explanation of symbols]

1 シーケンスコントローラ 2,3 IRED 4 IREDドライバ 5 撮像素子 DESCRIPTION OF SYMBOLS 1 Sequence controller 2, 3 IRED 4 IRED driver 5 Image sensor

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 観察者の眼球を照明する複数の照明手段
と、該照明手段による観察者の眼球からの反射光を受光
する受光手段と、該受光手段で得られた画像信号に基づ
いて、眼球像中の瞳孔エッジとみなせるエッジと前記照
明手段による複数の角膜反射像の位置を抽出する抽出手
段と、前記抽出された複数の角膜反射像と複数のエッジ
情報から瞳孔部を円形状として扱って瞳孔円を算出し、
この瞳孔円より瞳孔中心を求め、該瞳孔中心と前記複数
の角膜反射像の位置より観察者の視線を検出する演算手
段とを備えた視線検出装置において、 前記演算手段は、算出した瞳孔円の信頼性を判断し、信
頼性が低い場合は、前記複数のエッジの数に応じて一部
のエッジを抜くことより、前記瞳孔円の修正を行う瞳孔
円修正手段を有していることを特徴とする視線検出装
置。
A plurality of illuminating means for illuminating an observer's eye, a light receiving means for receiving light reflected from the observer's eye by the illuminating means, and an image signal obtained by the light receiving means. Extracting means for extracting an edge which can be regarded as a pupil edge in the eyeball image and positions of a plurality of corneal reflection images by the illuminating means; and treating the pupil portion as a circular shape from the extracted plurality of corneal reflection images and a plurality of edge information. To calculate the pupil circle,
A pupil center obtained from the pupil circle, and a sight line detection device comprising: a pupil center; and a calculation unit configured to detect a line of sight of an observer from the positions of the plurality of corneal reflection images, wherein the calculation unit calculates the calculated pupil circle Judgment of the reliability, and when the reliability is low, a pupil circle correcting means for correcting the pupil circle by extracting some edges according to the number of the plurality of edges is provided. Eye-gaze detecting device.
【請求項2】 前記瞳孔円修正手段は、算出した瞳孔円
の信頼性が低い場合は、前記複数のエッジの数に応じ
て、1回の瞳孔円修正により抜くエッジの数を変化させ
ることを特徴とする請求項1記載の視線検出装置。
2. The pupil circle correcting means, when the reliability of the calculated pupil circle is low, changes the number of edges to be removed by one pupil circle correction according to the number of the plurality of edges. The gaze detection device according to claim 1, wherein:
【請求項3】 前記瞳孔円修正手段は、算出した瞳孔円
の信頼性が低い場合は、前記複数のエッジの数が多い
程、1回の瞳孔円修正により抜くエッジの数を多くする
ことを特徴とする請求項2記載の視線検出装置。
3. The pupil circle correcting means, when the reliability of the calculated pupil circle is low, increases the number of edges to be removed by one pupil circle correction as the number of the plurality of edges increases. The gaze detection device according to claim 2, wherein
【請求項4】 観察者の眼球を照明する複数の照明手段
と、該照明手段による観察者の眼球からの反射光を受光
する受光手段と、該受光手段で得られた画像信号に基づ
いて、眼球像中の瞳孔エッジとみなせるエッジと前記照
明手段による複数の角膜反射像の位置を抽出する抽出手
段と、前記抽出された複数の角膜反射像と複数のエッジ
情報から瞳孔部を円形状として扱って瞳孔円を算出し、
この瞳孔円より瞳孔中心を求め、該瞳孔中心と前記複数
の角膜反射像の位置より観察者の視線を検出する演算手
段とを備えた視線検出装置において、 前記演算手段は、算出した瞳孔円の信頼性が低い場合
は、前記複数の角膜反射像の位置より推定される仮の瞳
孔中心位置からの各エッジ毎の距離情報に基づいて前記
複数のエッジを複数のグループに分け、1回の瞳孔円修
正においてグループ単位で抜くことより、前記瞳孔円の
修正を行う瞳孔円修正手段を有していることを特徴とす
る視線検出装置。
4. A plurality of illuminating means for illuminating an observer's eye, a light receiving means for receiving light reflected from the observer's eye by the illuminating means, and an image signal obtained by the light receiving means. Extracting means for extracting an edge which can be regarded as a pupil edge in the eyeball image and positions of a plurality of corneal reflection images by the illuminating means; and treating the pupil portion as a circular shape from the extracted plurality of corneal reflection images and a plurality of edge information. To calculate the pupil circle,
A pupil center obtained from the pupil circle, and a sight line detection device comprising: a pupil center; and a calculation unit configured to detect a line of sight of an observer from the positions of the plurality of corneal reflection images. If the reliability is low, the plurality of edges are divided into a plurality of groups based on distance information for each edge from a temporary pupil center position estimated from the positions of the plurality of corneal reflection images, and one pupil An eye gaze detecting apparatus comprising a pupil circle correcting means for correcting the pupil circle by removing the group in the circle correction.
【請求項5】 前記瞳孔円修正手段は、算出した瞳孔円
の信頼性が低い場合は、1回の瞳孔円修正において、遠
い方のグループから抜いていくことを特徴とする請求項
4記載の視線検出装置。
5. The pupil circle correcting unit according to claim 4, wherein when the calculated pupil circle has low reliability, the pupil circle correcting unit removes the pupil circle from a group farther away in one pupil circle correction. Eye gaze detection device.
【請求項6】 請求項1又は4記載の視線検出装置を具
備したことを特徴とする光学機器。
6. An optical apparatus comprising the line-of-sight detection device according to claim 1.
JP8279924A 1996-10-02 1996-10-02 Visual axis detecting device and optical instrument Pending JPH1099278A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP8279924A JPH1099278A (en) 1996-10-02 1996-10-02 Visual axis detecting device and optical instrument

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP8279924A JPH1099278A (en) 1996-10-02 1996-10-02 Visual axis detecting device and optical instrument

Publications (1)

Publication Number Publication Date
JPH1099278A true JPH1099278A (en) 1998-04-21

Family

ID=17617814

Family Applications (1)

Application Number Title Priority Date Filing Date
JP8279924A Pending JPH1099278A (en) 1996-10-02 1996-10-02 Visual axis detecting device and optical instrument

Country Status (1)

Country Link
JP (1) JPH1099278A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104814717A (en) * 2015-04-14 2015-08-05 赵桂萍 Detecting method and device for compensation type variation position error elimination nystagmus total graph
JP2015231458A (en) * 2014-06-10 2015-12-24 株式会社エンファシス Device for transmitting signal by detecting visual line

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015231458A (en) * 2014-06-10 2015-12-24 株式会社エンファシス Device for transmitting signal by detecting visual line
CN104814717A (en) * 2015-04-14 2015-08-05 赵桂萍 Detecting method and device for compensation type variation position error elimination nystagmus total graph

Similar Documents

Publication Publication Date Title
US10521683B2 (en) Glare reduction
EP2338416B1 (en) Line-of-sight direction determination device and line-of-sight direction determination method
US9355314B2 (en) Head-mounted display apparatus and login method thereof
JP4004634B2 (en) Face image eye position detection apparatus and method
JP2000083930A (en) Personal identifying device using iris
US20160210497A1 (en) Method and apparatus for eye detection from glints
JP2001340300A (en) Pupil detecting device and method, fixation point detecting device and method, and three-dimensional image display system
US11054659B2 (en) Head mounted display apparatus and distance measurement device thereof
JP3630880B2 (en) Gaze detection device and optical instrument
JP4701961B2 (en) Pedestrian detection device
CN1119809A (en) Viewpoint detecting device
US6036316A (en) Visual axis detecting device and apparatus including visual axis detecting device
JPH1099278A (en) Visual axis detecting device and optical instrument
JP2019046141A (en) Device to monitor drivers, method to monitor drivers, and program
JP4451195B2 (en) Gaze detection device
KR101122513B1 (en) Assuming system of eyeball position using 3-dimension position information and assuming method of eyeball position
JP2017138645A (en) Sight-line detection device
KR20140147748A (en) A method for stable eye-tracking even when wearing aids
Ascensão et al. Distance measurement system for medical applications based on the NanEye stereo camera
JP2017162233A (en) Visual line detection device and visual line detection method
JP3256294B2 (en) Eye gaze detection apparatus and eye gaze detection method
JPH1099277A (en) Visual axis detecting device and optical instrument
US20240037787A1 (en) Corneal reflected image identifying device and gaze detection device
JP7358130B2 (en) Electronic equipment and its control method
JP2952072B2 (en) Optical line-of-sight detecting device and optical apparatus having line-of-sight detecting means