JP2002102172A - 視線検出方法及びシステム - Google Patents
視線検出方法及びシステムInfo
- Publication number
- JP2002102172A JP2002102172A JP2001114581A JP2001114581A JP2002102172A JP 2002102172 A JP2002102172 A JP 2002102172A JP 2001114581 A JP2001114581 A JP 2001114581A JP 2001114581 A JP2001114581 A JP 2001114581A JP 2002102172 A JP2002102172 A JP 2002102172A
- Authority
- JP
- Japan
- Prior art keywords
- center
- pupil
- reflected light
- eyeball
- corneal curvature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Eye Examination Apparatus (AREA)
Abstract
が複数ある場合にも、誤り無く反射光重心位置を計測す
ることを目的としている。 【解決手段】 本発明は、複数の画像を取り込んで、反
射光形状及び瞳孔形状を計測して、反射光重心位置、及
び瞳孔を楕円近似することにより短軸の傾き、短軸長軸
比、及び瞳孔中心を計算する。反射光重心位置と角膜を
球の一部としたとき球の中心である角膜曲率中心の位置
関係及び眼球が回転する際の不動点である眼球回転中心
-角膜曲率中心距離を計測し、その後、反射位置を求め
る際に、瞳孔中心位置(xp,yp)、眼球回転中心位置(xo,y
o)、反射光重心位置と角膜を球の一部としたとき球の中
心である角膜曲率中心の位置との距離(alpha,beta)、瞳
孔中心回転半径(r)、角膜曲率中心回転半径(rr)か
ら反射光重心位置(rx,ry)を予測し、その近傍のみを探
すことにより反射光重心位置を計測する。
Description
線ベクトルを求める視線検出方法及びシステムに関す
る。特に、本発明は、反射光重心位置検出、反射光検
出、視線検出方法の自動切り替え、頭部のズレの自動補
正、NTSC信号による画像の処理、瞳孔検出、瞳孔を楕円
で近似する際の精度向上、目蓋のかかり具合の検出、検
出の精度の計測に関する。
線位置計測システムが求められている。このようなシス
テムを、より低価格で提供することができるならば、例
えば、以下のような分野に使用できると考えられる。 1)視覚に関する心理学的研究 2)医療検査 3)マンマシンインターフェース(視線入力装置) 4)3)と重なるが障害者に対する補助装置。 5)ヘッドマウントディスプレーに内蔵し、視線入力装置
として用いる。 6)装置を2台用い、カメラの位置を厳密に設定すること
により、両眼の視差を受動的な校正(視標を提示して、
凝視してもらうのでは無く、だだ、眼を動かすだけ)で
計測することができる。医療検査、心理実験、行動実験
などに用いることができる。
テムについての提案をした(特願2000−22816
3)。この提案について、図1〜図8を参照して説明す
る。CCDカメラにより、人もしくはサルの眼球を撮影す
る。瞳孔を暗く撮影するため、赤外線LEDにて照明を行
う。カメラ、光源、及び眼球の位置関係を、図1に示
す。カメラは、眼球の略水平方向の前方に位置するよう
図示しているが、カメラの位置は、瞳孔が撮影できる範
囲で任意の場所に設定することができる。光源も、反射
位置が角膜上になる場所ならば、任意の場所に配置させ
ることができる。CCDカメラには、図2のような映像が
撮影される。
心、眼球回転中心を書き入れた図を図3に示す。簡略化
した図3において、反射点が生ずる場所を図4に示す。
反射点は、光源、角膜曲率中心、カメラを結ぶ角の2等
分線と角膜の交わる位置に生じる。角膜曲率中心と反射
点を結ぶベクトルとを反射光ベクトルと名付ける。(光
源は、無限遠にあると仮定する。カメラには、平行投影
されると仮定する。)
位置関係を図5に記する。光源が、十分遠くにあれば、
角膜曲率中心への反射光ベクトルの角度は、眼球が回転
しても同一になる。そのため、眼球が回転しても、角膜
曲率中心と反射点の距離が一定に保たれる。図5は、x
方向の距離のみを表している。図6に、カメラ方向から
撮影された時の、角膜曲率中心と、反射点の位置関係を
表示する。反射点、角膜曲率中心、瞳孔中心、眼球回転
中心の位置関係は図7で表される。この図を、簡略化す
ると図8になる。
ぞれの画像について、反射光形状、瞳孔形状を計測し
て、反射光重心位置、瞳孔を楕円近似することにより短
軸の傾き、短軸長軸比、瞳孔中心を計算することができ
る。このような視線検出方法及びシステムには以下のよ
うな問題点があった。 i)反射光重心位置計測について 1)瞳孔中心を領域の中心とする120x90 pixelの画像を
3pixel置きに取り出し40x30の画像を生成する。 2)ある閾値以上の点を取り出し、それを塊毎にラベル
をつけてゆく。 3)一定以上の大きさがあり、かつ瞳孔中心に最も近い
塊の重心を測定する。という方法で行っていた。しか
し、この反射光重心位置計測方法には、以下の問題点が
あった。 1)反射点の大きさが小さいと、取りこぼされてしま
う。 2)反射点が複数ある場合、間違った反射点を選んでし
まう(角膜上には、n次プルキニエ反射が存在する。注
目しているのは、1次反射である)。
選別は行っていなかった。そのため、図9にあるよう
に、角膜上ではなく、強膜上で反射した場合の反射光を
検出して計算を行ってしまう。このような場合は、反射
点が角膜上にあるという前提がなくなり、計算結果が正
確でなくなってしまう。このような場合は、計算不能と
する必要がある。
と反射光重心から視線位置を求めることが可能である。
しかし、この方法は、頭部が動いても計測が可能という
利点があるが、反射点が角膜上から外れてしまうと計測
できなくなることになる。瞳孔中心のみから測定する場
合に比べ測定範囲が狭い。
測ができなかった。頭部を固定して計測している場合で
も、断続的なずれが生じる場合があり、その場合は再校
正を行わないといけなかった。
フィールドにわけて計算する場合、偶数フィールドと奇
数フィールドは、上下方向に互い違いになっている。先
に提案した方法のようにして、眼球回転中心-角膜曲率
中心距離を計測したり、或いは、カメラに対する視線ベ
クトルを求める場合に値(眼球回転中心位置、反射光重
心位置-角膜曲率中心位置関係、瞳孔中心位置、反射点
位置等)をフィールドの区別なく計算した場合、フィー
ルド毎に上下に振動した計測値を得ることになる。
ついて。 瞳孔の検出方法は、つぎの二段階で検出を行っている。 1)8pixelごとに画像をサンプルし、瞳孔のおおまかな
位置を検出する。 2)おおまかな楕円をもとめその近傍を探査し、瞳孔の
縁を検出する。 先に提案した方法は、この二段階共に同一の閾値を用い
ていた。ノイズが多い場合(瞳孔と同じくらい暗い場所
が多い場合)第一段階でおおまかな検出に失敗する場合
があった。そのような場合は、閾値を下げることにより
ノイズを減らすことが可能であるが、そのような処理を
行うと、瞳孔の縁を正確に検出できなくなってしまうこ
とがあった。
る。楕円には、次のような幾何学的な性質がある。図1
0に示すように、楕円と交わる3本の平行な直線l、m、
n を考える。l、n はm から等距離にあるとする。楕円
と直線l との交点をa、b 、直線n の交点をc、d とす
る。楕円と直線m の交点の中点をo とする。a、b の中
点とc、d の中点を結ぶ線の中点をo'とすると、o'はo
と重なるという性質がある。瞳孔の画像について瞳孔画
像のほぼ中央に引いた直線m から等距離にあるN 個の平
行線の組のo'i (i=1‐N)に当たる点を求める。求めら
れた点は、直線m の上に分布する。誤って検出された縁
が十分少ないときは、最も多くの点o'が集まった位置が
o の位置に相当する。その位置から離れている点は、楕
円の軌跡上にない点を含んでいることになるので、それ
らを除外する。どのくらい離れていたら、除外するか
は、プログラムで指定することにより、許容範囲の設定
が可能になる。4点が相補的に誤差を含んでしまった場
合には、除外されなくなるが、確率的にそのようなこと
は起こりにくい。o に十分近いo'iを持つ点a i ,b i ,c
i ,d i は、楕円の軌跡上の点なので、これらの点の座
標を[数1]に代入し正確な楕円近似を行うことができ
る。(電子情報通信学会技術研究報告書 vol.100 no.4
7 「視線位置計測システムの開発」 ISSN0913-5685、TL
2000-1-6「思考と言語」2000年5月12日 より抜粋)
以下の楕円の方程式[数2]の係数を求めることができ
る。
入ったノイズの割り合い)。反射光が瞳孔の縁に掛か
る、ピントがずれているため瞳孔の縁が明確に捕らえら
れていないなどの場合の、定量的な評価が無かった。
る問題点を解決して、反射点の大きさが小さい場合、或
いは反射点が複数ある場合にも、誤り無く反射光重心位
置を計測することを目的としている。また、本発明は、
校正時に、反射点の幅と高さの平均を求め、かつ、計測
時に、反射点の幅、高さと比較し大きく異なる物を排除
することにより、正確に計測を行うことを目的としてい
る。また、本発明は、瞳孔中心-反射点法で計算できな
くなった場合、自動的に瞳孔中心法に切り替えることに
より計測の中断をなくすことを目的としている。また、
本発明は、反射点が計測できない場合であっても、再校
正なしに、瞳孔中心のみで視線方向を計算することを目
的としている。また、本発明は、計測に用いる値をフィ
ールド毎に求めて、フィールド毎のばらつきをなくする
ことを目的としている。また、本発明は、瞳孔の縁を正
確に検出することを目的としている。また、本発明は、
高精度に、楕円を求めることを目的としている。また、
本発明は、どの程度目蓋がおりてきていたら、計測を中
断するかの定量的な評価を行うことを目的としている。
また、本発明は、反射光が瞳孔の縁に掛かる、ピントが
ずれているため瞳孔の縁が明確に捕らえられていないな
どの場合に、定量的な評価をすることを目的としてい
る。
びシステムは、頭部が固定された被験者において、反射
位置が角膜上に位置するように配置された光源により照
明された瞳孔を撮影可能のカメラによって、複数の画像
を取り込み、それぞれの画像について、反射光形状及び
瞳孔形状を計測して、反射光重心位置、及び瞳孔を楕円
近似することにより短軸の傾き、短軸長軸比、及び瞳孔
中心を計算する。反射光重心位置と角膜を球の一部とし
たとき球の中心である角膜曲率中心の位置関係及び眼球
が回転する際の不動点である眼球回転中心-角膜曲率中
心距離を計測し、その後、反射位置を求める際に、瞳孔
中心位置(xp,yp)、眼球回転中心位置(xo,yo)、反射光重
心位置と角膜を球の一部としたとき球の中心である角膜
曲率中心の位置との距離(alpha,beta)、瞳孔中心回転半
径(r)、角膜曲率中心回転半径(rr)から反射光重心
位置(rx,ry)を予測し、その近傍のみを探すことにより
反射光重心位置を計測する。
球の一部としたとき球の中心である角膜曲率中心の位置
関係及び眼球が回転する際の不動点である眼球回転中心
-角膜曲率中心距離を計測し、その校正時に、反射光の
幅、高さを記録し、以後の反射点計測の際に、幅高さの
値を比較することによって、不正な反射光を取り除く。
また、本発明は、反射光重心位置と角膜を球の一部とし
たとき球の中心である角膜曲率中心の位置関係及び眼球
が回転する際の不動点である眼球回転中心-角膜曲率中
心距離を計測し、計測された値と反射光重心と瞳孔中心
位置を用いて視線位置計測する方法と計測された値と瞳
孔中心位置を用いて視線位置計測する方法を自動的に切
り替えて視線位置計測を行う。
したとき球の中心である角膜曲率中心の位置関係及び眼
球が回転する際の不動点である眼球回転中心-角膜曲率
中心距離を計測し、瞳孔中心位置(xp,yp)、反射光重心
位置(rx,ry)、反射光重心位置と角膜を球の一部とした
とき球の中心である角膜曲率中心の位置との距離(alph
a,beta)、瞳孔中心回転半径(r)、角膜曲率中心回転半
径(rr)から眼球回転中心(xo,yo)を計算し、頭部の動き
を検出し、新たな眼球回転中心を設定することにより、
瞳孔中心位置を用いて視線位置計測を行う際に、頭部の
動きのズレを補正する。
孔を楕円近似することにより短軸の傾き、短軸長軸比、
及び瞳孔中心を計算して、反射光重心位置と角膜を球の
一部としたとき球の中心である角膜曲率中心の位置関係
及び眼球が回転する際の不動点である眼球回転中心-角
膜曲率中心距離を計測し、NTSCにおける入力の際は、前
述の計測値は、フィールド毎に独立に計測し、その値を
用いて視線位置計測を行う。
システムを例示に基づき説明する。 i)反射光重心位置計測について 1)図11は、反射光重心位置計測を説明するための図
であり、眼球をカメラ方向から見た図であり、また、図
12は、その眼球を横方向から見た図である。瞳孔中心
位置(xp,yp)、眼球回転中心位置(xo,yo)、反射光重心位
置と角膜を球の一部としたとき球の中心である角膜曲率
中心の位置との距離(alpha,beta)、瞳孔中心回転半径
(r)、角膜曲率中心回転半径(rr)が分かっている場合
には、以下の式より反射光重心位置(rx,ry)を予測する
ことができる。 rx=(xp-xo)*rr/r+xo+alpha ry=(yp-yo)*rr/r+yo+beta 2)予測点を中心とした、40x30pixelの画像を生成す
る。 3)ある閾値以上の点を取り出し、それを塊毎にラベル
をつけてゆく。 4)一定以上の大きさがあり、かつ予測に最も近い塊の
重心を測定する。
する例を考える。画面の十字は、瞳孔中心位置を表して
いる。十字の上の白い点が、第1プルキニエ像、右下の
白い点が第2プルキニエ像である。いずれも照明光の反
射であるが、眼球内の反射する場所が異なるため複数の
反射像が出現する。 1)瞳孔中心位置(xp,yp)、眼球回転中心位置(xo,y
o)、角膜曲率中心(α、β)、瞳孔中心回転半径r、角
膜曲率中心回転半径rrがすでにわかっている際、反射光
重心位置(rx,ry)を上記の式より予測する。 2)予測位置は図14のXの位置になる。Xを中心とした
四角で示した40x30pixelの画像より反射光重心を求め
る。 3)ある閾値以上の点を取り出だしラベリングをおこな
い、一定以上の大きさがあり、重心が予測値に最も近い
ものを選ぶ。図15において反射光重心を十字で表し
た。
反射点の幅、高さと比較し大きく異なる物を排除するこ
とにより、正確に計測を行うことが可能となる。図16
に示された反射点の大きさは、縦6pixel 横7pixelで
ある。これは、平均値からの差が十分に小さい。どの程
度の誤差を許容するかはプログラムによって設定可能で
ある。図17に示すように、反射光が強膜に存在すると
きは、大きさが大きく異なる(縦19pixel横50pixe
l)。この場合は、反射点を用いた計測は断念する。
に瞳孔中心法に切り替えることにより計測の中断をなく
すことができる。反射点が強膜上に存在すると、反射点
を用いた視線計測ができない。しかし、この状態でも、
瞳孔中心座標の計測は可能である。瞳孔中心-眼球回転
中心法により、視線方向を求めることが可能である。眼
球回転中心の動きについては、自動補正により、修正を
行うことにより対応する。
yo)瞳孔中心回転半径rより求めることができる。カメ
ラに対する視線方向は、以下の[数3]で表すことがで
きる。
値である。しかし、どのように頭部を固定しても、動い
てしまう場合がある。従来は、頭部が動いてしまった場
合は、再度校正を行っていたが、これを、反射点を用い
て自動的に校正を行う方法を提案する。瞳孔中心位置と
反射光重心から眼球回転中心を求めることができる。瞳
孔中心位置(xp,yp)、反射光重心位置(rx,ry)、反射光重
心位置と角膜を球の一部としたとき球の中心である角膜
曲率中心の位置との距離(alpha,beta)、瞳孔中心回転半
径(r)、角膜曲率中心回転半径(rr)から眼球回転中心
(xo,yo)とすると以下の式で求められる。 xo=(rx-alpha-xp*rr/r)/(1-rr/r) yo=(ry-beta-yp*rr/r)/(1-rr/r) 反射点は、計測できない場合がある、また、断続的なズ
レを想定しているので、計測時以前の何秒間(設定によ
り変更可能、20秒程度を規定値に想定)の眼球回転中心
(xo,yo)の平均値をその時点の眼球回転中心とする。
この値を用いることにより、再校正なしに、瞳孔中心の
みで視線方向を計算することができるようになる。ま
た、十分に短い時間ならば、頭部は動いていないと仮定
できるので、瞳孔中心-反射点法が使えない場合の、補
助として使用することが可能である。
体的には、偶数フィールドと奇数フィールド毎に、瞳孔
中心位置(xp,yp)、反射光重心位置(rx,ry)、反射光重心
位置と角膜を球の一部としたとき球の中心である角膜曲
率中心の位置との距離(alpha,beta)、瞳孔中心回転半径
(r)、角膜曲率中心回転半径(rr)、眼球回転中心(x
o,yo)を校正により計測する。視線を計算する場合に
は、奇数フィールドの画像については、奇数フィールド
の画像から求めた値、偶数フィールドの画像について
は、偶数フィールドの画像から求めた値を用いて計算す
る。これにより、フィールド毎に値が振動する現象を排
除できる。
ついて。 第一段階と第二段階で異なる閾値を用いることにより、
その問題を解決する。明るさが変わらない場合は、それ
ぞれ、独立な固定値設定し、自動的に閾値を変化させて
いる場合は、第一段階の閾値(th1)と第二段階の閾値(th
2)の比率(a),(th1=a*th2という関係)を設定すること
により、連続的な変化にも対応できるようにする。図1
8に示すように、輪郭を検出するのに必要な閾値(th2)
の場合は、周辺ノイズが多い。図19に示すように、閾
値(th1)を下げることにより、周辺ノイズを低減する
ことができる。
る。楕円には、次のような幾何学的な性質がある。楕円
と交わる3本の平行な直線l、m、n を考える。l、n はm
から等距離にあるとする。楕円と直線l との交点をa、
b 、直線n の交点をc、d とする。楕円と直線m の交点
の中点をo とする。a、b の中点とc、dの中点を結ぶ線
の中点をo'とすると、o'はo と重なるという性質がある
(図10)。瞳孔の画像について瞳孔画像のほぼ中央に
引いた直線m から等距離にあるN個の平行線の組のo'i
(i=1‐N)に当たる点を求める。求められた点は、直線
mの上に分布する。誤って検出された縁が十分少ないと
きは、最も多くの点o'が集まった位置がo の位置に相当
する。その位置から離れている点は、楕円の軌跡上にな
い点を含んでいることになるので、それらを除外する。
どのくらい離れていたら、除外するかは、プログラムで
指定することにより、許容範囲の設定が可能になる。4
点が相補的に誤差を含んでしまった場合には、除外され
なくなるが、確率的にそのようなことは起こりにくい。
o に十分近いo'i を持つ点a i ,b i ,c i ,d i は、楕
円の軌跡上の点なので、これらの点の座標を[数1]に
代入し正確な楕円近似を行うことができる。
らかの理由により楕円の軌跡上に無かったとする。する
と、b12,c12,d12が楕円の軌跡上に存在するにもかかわ
らず、楕円の軌跡を計算するのに用いられないことにな
る。そこで従来方法で楕円の軌跡を求めた後、再度検出
された瞳孔の縁の点について、求めた楕円軌跡との距離
を計算し、その距離が一定以下であれば、瞳孔の縁とす
る。 3)新たな点を加えて、最小自乗法により楕円を算出す
る。これにより、従来よりも高精度に、楕円を求めるこ
とが可能になる。
を近似し楕円の上下方向の距離(eh)を得る。 2)検出した瞳孔の縁(楕円近似に用いたもの)の、上
下方向の最大値と最小値の差(ph)を得る。 3)ph/eh*100を瞳孔検出率(%)とする。 瞳孔検出率を用いることにより、どの程度目蓋がおりた
時に計測を中断するか?といった定量的な評価を行うこ
とが可能になる。
入ったノイズの割合)。 1)楕円近似に用いた瞳孔の縁の上下方向の最大値と最
小値の差(ph)を得る。 2)楕円近似に用いた瞳孔の縁の数を得る(en)。 3)(en/2)/ph*100を縁検出率(%)とする。 enは、検出の際に左右の縁を検出しているので、二等分
する必要がある。縁検出率を用いることにより、どの程
度正確に縁を検出できているかを定量的に評価すること
ができる。比較的ノイズが少ない図21は、縁検出率7
0%である。また、ノイズが多い場合の図22は、縁検
出率40%である。
合、或いは反射点が複数ある場合にも、誤り無く反射光
重心位置を計測することができる。また、本発明は、校
正時に、反射点の幅と高さの平均を求め、かつ、計測時
に、反射点の幅、高さと比較し大きく異なる物を排除す
ることにより、正確に計測を行うことができる。また、
本発明は、瞳孔中心-反射点法で計算できなくなった場
合、自動的に瞳孔中心法に切り替えることにより計測の
中断をなくすことができる。また、本発明は、反射点が
計測できない場合であっても、再校正なしに、瞳孔中心
のみで視線方向を計算することができる。また、本発明
は、計測に用いる値をフィールド毎に求めて、フィール
ド毎のばらつきをなくすることができる。また、本発明
は、瞳孔の縁を正確に検出することができる。また、本
発明は、高精度に、楕円を求めることができる。また、
本発明は、どの程度目蓋がおりてきていたら、計測を中
断するかの定量的な評価を行うことができる。また、本
発明は、反射光が瞳孔の縁に掛かる、ピントがずれてい
るため瞳孔の縁が明確に捕らえられていないなどの場合
に、定量的な評価をすることができる。
中心の位置関係を示す図である。
心の位置関係が変化しないことを説明するための図であ
る。
の短軸の延長線上に存在することを説明するための図で
ある。
瞳孔中心、角膜曲率中心、眼球回転中心の位置関係を表
す図である。
光の検出を説明するための図である。
る。
り、眼球をカメラ方向から見た図である。
る。
る。
である。
明するための図である。
ある。
めの図である。
ズを低減する方法を説明するための図である。
図である。
する図である。
ある。
Claims (18)
- 【請求項1】 頭部が固定された被験者において、反射
位置が角膜上に位置するように配置された光源により照
明された瞳孔を撮影可能のカメラによって、複数の画像
を取り込み、それぞれの画像について、反射光形状及び
瞳孔形状を計測して、反射光重心位置、及び瞳孔を楕円
近似することにより短軸の傾き、短軸長軸比、及び瞳孔
中心を計算して、反射光重心位置と角膜を球の一部とし
たとき球の中心である角膜曲率中心の位置関係及び眼球
が回転する際の不動点である眼球回転中心-角膜曲率中
心距離を計測し、その後、反射位置を求める際に、瞳孔
中心位置(xp,yp)、眼球回転中心位置(xo,yo)、反射光重
心位置と角膜を球の一部としたとき球の中心である角膜
曲率中心の位置との距離(alpha,beta)、瞳孔中心回転半
径(r)、角膜曲率中心回転半径(rr)から反射光重心位
置(rx,ry)を予測し、その近傍のみを探すことにより反
射光重心位置を計測する方法。 - 【請求項2】 被験者において、反射位置が角膜上に位
置するように配置された光源により照明された瞳孔を撮
影可能のカメラによって、複数の画像を取り込み、それ
ぞれの画像について、反射光形状及び瞳孔形状を計測し
て、反射光重心位置、及び瞳孔を楕円近似することによ
り短軸の傾き、短軸長軸比、及び瞳孔中心を計算して、
反射光重心位置と角膜を球の一部としたとき球の中心で
ある角膜曲率中心の位置関係及び眼球が回転する際の不
動点である眼球回転中心-角膜曲率中心距離を計測し、
その校正時に、反射光の幅、高さを記録し、以後の反射
光重心計測の際に、幅高さの値を比較することによっ
て、不正な反射光を取り除く方法。 - 【請求項3】 被験者において、反射位置が角膜上に位
置するように配置された光源により照明された瞳孔を撮
影可能のカメラによって、複数の画像を取り込み、それ
ぞれの画像について、反射光形状及び瞳孔形状を計測し
て、反射光重心位置、及び瞳孔を楕円近似することによ
り短軸の傾き、短軸長軸比、及び瞳孔中心を計算して、
反射光重心位置と角膜を球の一部としたとき球の中心で
ある角膜曲率中心の位置関係及び眼球が回転する際の不
動点である眼球回転中心-角膜曲率中心距離を計測し、
計測された値と反射光重心と瞳孔中心位置を用いて視線
位置計測する方法と計測された値と瞳孔中心位置を用い
て視線位置計測する方法を自動的に切り替えて視線位置
計測を行う方法。 - 【請求項4】 被験者において、反射位置が角膜上に位
置するように配置された光源により照明された瞳孔を撮
影可能のカメラによって、複数の画像を取り込み、それ
ぞれの画像について、反射光形状及び瞳孔形状を計測し
て、反射光重心位置、及び瞳孔を楕円近似することによ
り短軸の傾き、短軸長軸比、及び瞳孔中心を計算して、
反射光重心位置と角膜を球の一部としたとき球の中心で
ある角膜曲率中心の位置関係及び眼球が回転する際の不
動点である眼球回転中心-角膜曲率中心距離を計測し、
瞳孔中心位置(xp,yp)、反射光重心位置(rx,ry)、反射光
重心位置と角膜を球の一部としたとき球の中心である角
膜曲率中心の位置との距離(alpha,beta)、瞳孔中心回転
半径(r)、角膜曲率中心回転半径(rr)から眼球回転中
心(xo,yo)を計算し、頭部の動きを検出し、新たな眼球
回転中心を設定することにより、瞳孔中心位置を用いて
視線位置計測を行う際に、頭部の動きのズレを補正する
方法。 - 【請求項5】 被験者において、反射位置が角膜上に位
置するように配置された光源により照明された瞳孔を撮
影可能のカメラによって、複数の画像を取り込み、それ
ぞれの画像について、反射光形状及び瞳孔形状を計測し
て、反射光重心位置、及び瞳孔を楕円近似することによ
り短軸の傾き、短軸長軸比、及び瞳孔中心を計算して、
反射光重心位置と角膜を球の一部としたとき球の中心で
ある角膜曲率中心の位置関係及び眼球が回転する際の不
動点である眼球回転中心-角膜曲率中心距離を計測し、N
TSCにおける入力の際は、前述の計測値は、フィールド
毎に独立に計測し、その値を用いて視線位置計測を行う
方法。 - 【請求項6】 請求項1〜5のいずれかに記載の方法に
おいて、被験者の眼球が撮影された画像から、瞳孔を検
出する際に、瞳孔の縁を検出する場合と異なった閾値を
用いて画像処理をする方法。 - 【請求項7】 請求項1〜5のいずれかに記載の方法に
おいて、瞳孔の縁を楕円で近似する際に、検出した楕円
の軌跡との距離を用いて、瞳孔の縁を再度検出し、その
値を組み込んで再度楕円で近似することにより、高精度
で瞳孔を楕円で近似する方法。 - 【請求項8】 請求項1〜5のいずれかに記載の方法に
おいて、瞳孔の縁を検出し、瞳孔を楕円で近似した後、
検出した瞳孔の縁の範囲と、楕円で近似した際の瞳孔の
範囲を比較し、どの程度目蓋が開いていたかを計測する
方法。 - 【請求項9】 請求項1〜5のいずれかに記載の方法に
おいて、楕円の縁を検出し、瞳孔を楕円で近似した後、
検出した瞳孔の範囲に対する、検出した縁の割り合いを
計算し、どのくらいの精度で検出できているかを計測す
る方法。 - 【請求項10】 頭部が固定された被験者において、反
射位置が角膜上に位置するように配置された光源により
照明された瞳孔を撮影可能のカメラによって、複数の画
像を取り込み、それぞれの画像について、反射光形状及
び瞳孔形状を計測して、反射光重心位置、及び瞳孔を楕
円近似することにより短軸の傾き、短軸長軸比、及び瞳
孔中心を計算して、反射光重心位置と角膜を球の一部と
したとき球の中心である角膜曲率中心の位置関係及び眼
球が回転する際の不動点である眼球回転中心-角膜曲率
中心距離を計測する手段と、反射位置を求める際に、瞳
孔中心位置(xp,yp)、眼球回転中心位置(xo,yo)、反射光
重心位置と角膜を球の一部としたとき球の中心である角
膜曲率中心の位置との距離(alpha,beta)、瞳孔中心回転
半径(r)、角膜曲率中心回転半径(rr)から反射光重
心位置(rx,ry)を予測し、その近傍のみを探す手段とか
ら成る反射光重心位置を計測するシステム。 - 【請求項11】 被験者において、反射位置が角膜上に
位置するように配置された光源により照明された瞳孔を
撮影可能のカメラによって、複数の画像を取り込み、そ
れぞれの画像について、反射光形状及び瞳孔形状を計測
して、反射光重心位置、及び瞳孔を楕円近似することに
より短軸の傾き、短軸長軸比、及び瞳孔中心を計算する
手段と、反射光重心位置と角膜を球の一部としたとき球
の中心である角膜曲率中心の位置関係及び眼球が回転す
る際の不動点である眼球回転中心-角膜曲率中心距離を
計測する手段とを備え、その校正時に、反射光の幅、高
さを記録し、以後の反射点計測の際に、幅高さの値を比
較することによって、不正な反射光を取り除くシステ
ム。 - 【請求項12】 被験者において、反射位置が角膜上に
位置するように配置された光源により照明された瞳孔を
撮影可能のカメラによって、複数の画像を取り込み、そ
れぞれの画像について、反射光形状及び瞳孔形状を計測
して、反射光重心位置、及び瞳孔を楕円近似することに
より短軸の傾き、短軸長軸比、及び瞳孔中心を計算する
手段と、反射光重心位置と角膜を球の一部としたとき球
の中心である角膜曲率中心の位置関係及び眼球が回転す
る際の不動点である眼球回転中心-角膜曲率中心距離を
計測し、計測された値と反射光重心と瞳孔中心位置を用
いて視線位置計測する手段と計測された値と瞳孔中心位
置を用いて視線位置計測する手段を自動的に切り替える
ことから成る視線位置計測を行うシステム。 - 【請求項13】 被験者において、反射位置が角膜上に
位置するように配置された光源により照明された瞳孔を
撮影可能のカメラによって、複数の画像を取り込み、そ
れぞれの画像について、反射光形状及び瞳孔形状を計測
して、反射光重心位置、及び瞳孔を楕円近似することに
より短軸の傾き、短軸長軸比、及び瞳孔中心を計算する
手段と、反射光重心位置と角膜を球の一部としたとき球
の中心である角膜曲率中心の位置関係及び眼球が回転す
る際の不動点である眼球回転中心-角膜曲率中心距離を
計測する手段と、瞳孔中心位置(xp,yp)、反射光重心位
置(rx,ry)、反射光重心位置と角膜を球の一部としたと
き球の中心である角膜曲率中心の位置との距離(alpha,b
eta)、瞳孔中心回転半径(r)、角膜曲率中心回転半径
(rr)から眼球回転中心(xo,yo)を計算する手段とを備
え、頭部の動きを検出し、新たな眼球回転中心を設定す
ることにより、瞳孔中心位置を用いて視線位置計測を行
う際に、頭部の動きのズレを補正するシステム。 - 【請求項14】 被験者において、反射位置が角膜上に
位置するように配置された光源により照明された瞳孔を
撮影可能のカメラによって、複数の画像を取り込み、そ
れぞれの画像について、反射光形状及び瞳孔形状を計測
して、反射光重心位置、及び瞳孔を楕円近似することに
より短軸の傾き、短軸長軸比、及び瞳孔中心を計算する
手段と、反射光重心位置と角膜を球の一部としたとき球
の中心である角膜曲率中心の位置関係及び眼球が回転す
る際の不動点である眼球回転中心-角膜曲率中心距離を
計測する手段とを備え、NTSCにおける入力の際は、前述
の計測値は、フィールド毎に独立に計測し、その値を用
いて視線位置計測を行うシステム。 - 【請求項15】 請求項10〜14のいずれかに記載の
システムにおいて、被験者の眼球が撮影された画像か
ら、瞳孔を検出する際に、瞳孔の縁を検出する場合と異
なった閾値を用いて画像処理をするシステム。 - 【請求項16】 請求項10〜14のいずれかに記載の
システムにおいて、瞳孔の縁を楕円で近似する際に、検
出した楕円の軌跡との距離を用いて、瞳孔の縁を再度検
出し、その値を組み込んで再度楕円で近似することによ
り、高精度で瞳孔を楕円で近似するシステム。 - 【請求項17】 請求項10〜14のいずれかに記載の
システムにおいて、瞳孔の縁を検出し、瞳孔を楕円で近
似した後、検出した瞳孔の縁の範囲と、楕円で近似した
際の瞳孔の範囲を比較し、どの程度目蓋が開いていたか
を計測するシステム。 - 【請求項18】 請求項10〜14のいずれかに記載の
システムにおいて、楕円の縁を検出し、瞳孔を楕円で近
似した後、検出した瞳孔の範囲に対する、検出した縁の
割り合いを計算し、どのくらいの精度で検出できている
かを計測するシステム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001114581A JP3726122B2 (ja) | 2000-07-28 | 2001-04-12 | 視線検出システム |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000228163 | 2000-07-28 | ||
JP2000-228163 | 2000-07-28 | ||
JP2001114581A JP3726122B2 (ja) | 2000-07-28 | 2001-04-12 | 視線検出システム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004236161A Division JP4055858B2 (ja) | 2000-07-28 | 2004-08-13 | 視線検出システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002102172A true JP2002102172A (ja) | 2002-04-09 |
JP3726122B2 JP3726122B2 (ja) | 2005-12-14 |
Family
ID=26596873
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001114581A Expired - Lifetime JP3726122B2 (ja) | 2000-07-28 | 2001-04-12 | 視線検出システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3726122B2 (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004167152A (ja) * | 2002-11-22 | 2004-06-17 | National Institute Of Advanced Industrial & Technology | 視線位置計測における頭部の動きのズレを補正する方法及びシステム |
JP2004248725A (ja) * | 2003-02-18 | 2004-09-09 | National Institute Of Advanced Industrial & Technology | 打球の解析装置及び方法 |
WO2005063114A1 (ja) * | 2003-12-25 | 2005-07-14 | National University Corporation Shizuoka University | 視線検出方法および装置ならびに三次元視点計測装置 |
JP2006123101A (ja) * | 2004-10-29 | 2006-05-18 | Advanced Telecommunication Research Institute International | 眼球制御装置、眼球制御方法および眼球制御プログラム |
KR100628921B1 (ko) * | 2004-07-20 | 2006-09-27 | 재단법인서울대학교산학협력재단 | 안구의 비틀림 운동 측정 방법 |
JP2011115460A (ja) * | 2009-12-04 | 2011-06-16 | Saga Univ | 視線制御装置、視線制御方法、及びそのプログラム |
JP2012187190A (ja) * | 2011-03-09 | 2012-10-04 | Fujitsu Ltd | 視線検出装置及び視線検出方法 |
CN103054548A (zh) * | 2012-07-05 | 2013-04-24 | 东北电力大学 | 凝视点测量装置及瞳孔、普尔钦亮斑识别方法 |
US8994654B2 (en) | 2012-12-12 | 2015-03-31 | Hyundai Motor Company | Apparatus and method for controlling gaze tracking |
JP2018101211A (ja) * | 2016-12-19 | 2018-06-28 | 矢崎総業株式会社 | 車載器 |
-
2001
- 2001-04-12 JP JP2001114581A patent/JP3726122B2/ja not_active Expired - Lifetime
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004167152A (ja) * | 2002-11-22 | 2004-06-17 | National Institute Of Advanced Industrial & Technology | 視線位置計測における頭部の動きのズレを補正する方法及びシステム |
JP2004248725A (ja) * | 2003-02-18 | 2004-09-09 | National Institute Of Advanced Industrial & Technology | 打球の解析装置及び方法 |
WO2005063114A1 (ja) * | 2003-12-25 | 2005-07-14 | National University Corporation Shizuoka University | 視線検出方法および装置ならびに三次元視点計測装置 |
US7533989B2 (en) | 2003-12-25 | 2009-05-19 | National University Corporation Shizuoka University | Sight-line detection method and device, and three-dimensional view-point measurement device |
KR100628921B1 (ko) * | 2004-07-20 | 2006-09-27 | 재단법인서울대학교산학협력재단 | 안구의 비틀림 운동 측정 방법 |
JP2006123101A (ja) * | 2004-10-29 | 2006-05-18 | Advanced Telecommunication Research Institute International | 眼球制御装置、眼球制御方法および眼球制御プログラム |
JP2011115460A (ja) * | 2009-12-04 | 2011-06-16 | Saga Univ | 視線制御装置、視線制御方法、及びそのプログラム |
JP2012187190A (ja) * | 2011-03-09 | 2012-10-04 | Fujitsu Ltd | 視線検出装置及び視線検出方法 |
CN103054548A (zh) * | 2012-07-05 | 2013-04-24 | 东北电力大学 | 凝视点测量装置及瞳孔、普尔钦亮斑识别方法 |
US8994654B2 (en) | 2012-12-12 | 2015-03-31 | Hyundai Motor Company | Apparatus and method for controlling gaze tracking |
JP2018101211A (ja) * | 2016-12-19 | 2018-06-28 | 矢崎総業株式会社 | 車載器 |
Also Published As
Publication number | Publication date |
---|---|
JP3726122B2 (ja) | 2005-12-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10878237B2 (en) | Systems and methods for performing eye gaze tracking | |
US7682026B2 (en) | Eye location and gaze detection system and method | |
US9149179B2 (en) | System and method for identifying eye conditions | |
JP4895797B2 (ja) | 瞼検出装置、瞼検出方法及びプログラム | |
US11026571B2 (en) | Method for processing pupil tracking image | |
KR100949743B1 (ko) | 고글 형태를 갖는 착용형 시선 추적 장치 및 방법 | |
EP2604180A1 (en) | Gaze point detection method and gaze point detection device | |
KR20140125713A (ko) | 카메라 어레이에 기반하여 시선을 추적하는 방법 및 장치 | |
JP3143819B2 (ja) | まぶたの開度検出装置 | |
US20220100268A1 (en) | Eye tracking device and a method thereof | |
CN111902070A (zh) | 左眼和右眼凝视追踪数据的可靠性 | |
JP5995217B2 (ja) | 瞳孔部分を近似する楕円の検出を行う方法 | |
JP3726122B2 (ja) | 視線検出システム | |
WO2010010926A1 (ja) | 特徴点追跡方法及び特徴点追跡装置 | |
CN105391998A (zh) | 微光夜视仪分辨率自动检测方法和装置 | |
JP4055858B2 (ja) | 視線検出システム | |
JP2002000567A (ja) | 瞳孔中心位置計測方法及び視点位置検出方法 | |
RU2352244C2 (ru) | Способ измерения быстрых движений глаз и отклонений бинокулярного зрения и устройство для его реализации | |
Arai et al. | Computer input with human eyes only using two Purkinje images which works in a real time basis without calibration | |
JP3834636B2 (ja) | 視線位置計測における頭部の動きのズレを補正する方法及びシステム | |
JP3376207B2 (ja) | 視線検出装置及びその方法 | |
JP2016057906A (ja) | 視点位置の計測方法及び計測システム | |
RU2815470C1 (ru) | Способ определения направления взгляда | |
Ebisawa et al. | Head-free, remote gaze detection system based on pupil-corneal reflection method with using two video cameras–one-point and nonlinear Calibrations | |
JPH09206279A (ja) | 眼球組織形状検出装置および視線検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040615 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040813 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20040914 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20041013 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041014 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041018 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050118 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20050228 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050830 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 3726122 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |