JP6651074B2 - 眼球の運動を検出する方法、そのプログラム、そのプログラムの記憶媒体、及び、眼球の運動を検出する装置 - Google Patents

眼球の運動を検出する方法、そのプログラム、そのプログラムの記憶媒体、及び、眼球の運動を検出する装置 Download PDF

Info

Publication number
JP6651074B2
JP6651074B2 JP2017522275A JP2017522275A JP6651074B2 JP 6651074 B2 JP6651074 B2 JP 6651074B2 JP 2017522275 A JP2017522275 A JP 2017522275A JP 2017522275 A JP2017522275 A JP 2017522275A JP 6651074 B2 JP6651074 B2 JP 6651074B2
Authority
JP
Japan
Prior art keywords
blood vessel
image
eye
vessel image
detecting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017522275A
Other languages
English (en)
Other versions
JPWO2016195066A1 (ja
Inventor
聖 星野
聖 星野
Original Assignee
聖 星野
聖 星野
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 聖 星野, 聖 星野 filed Critical 聖 星野
Publication of JPWO2016195066A1 publication Critical patent/JPWO2016195066A1/ja
Application granted granted Critical
Publication of JP6651074B2 publication Critical patent/JP6651074B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Description

本発明は、眼の近傍に配置された撮像装置(カメラ)により眼の周辺を含む所定領域を撮像した画像から、眼球の運動を検出する方法に関し、特に、眼の画像から眼の中の虹彩及び/又は瞳孔以外の特徴点を利用して間接的に瞳孔の位置又は視線の方向等を検出する方法に関する。
近年になり、ヘッドマウントディスプレイや眼鏡型のウェアラブルデバイスに、眼の動きを知るための装置が設置されたものが公知になっている。例えば、グーグルグラス(Google Glass:登録商標)では、赤外線センサにより眼が上を向くこと、まばたきやウインク、及び、装置の着脱を検知して、設定により眼をウインクさせて写真撮影や着脱や上向きでディスプレイをオンできることが知られている。
また、まばたきやウインクの検知の他にも、カメラで眼の領域を撮像した画像から眼の中の虹彩の位置を検出する方法が知られている。例えば、虹彩部分には濃淡の模様(虹彩紋理:虹彩の濃淡パターン)があるので、眼球の画像における虹彩部分から、テンプレートマッチング等の既存の技術を用いて、眼の中の虹彩の位置を検出している。
さらに、上記のような虹彩の位置の検出を、連続した眼球の画像から各々検出し、例えば、その各位置を2次元又は3次元の座標上に投影して比較するか又は各座標値の差をとることで、眼球の移動する方向や移動する速度を検出できる。さらに、この眼球の移動方向をトレースしたり、眼球の移動する方向や速度のパターンを検出し、それを既知の正常なパターンと比較して異なることを検出することで、身体の異常あるいは不調や疾病の発見等に利用することができる。例えば、眼球が視線の方向を回転軸として回転(眼球運動)する運動は、通常であれば、頭が傾いた時に元の状態に戻ろうとして発生する。この運動が頭を傾けない場合に発生する場合は、乗り物酔いや影像酔いの可能性がある(例えば、非特許文献1基準)。
また、眼球の画像を撮像する場合には、眼球の表面が曲面であるので、撮像目的の中心部と周辺部の各表面からカメラのレンズまでの光路の距離が異なり、同時にカメラで焦点(ピント)を合わせることが困難であり、眼球が運動すると焦点が合わなくなる場合がある。それを解決するための一案としては、焦点深度の深いレンズを用いて眼球の中心と周辺を含む全体で同時にピントが合うようにすることであるが、そのためには強い照明が必要になり眼に悪影響を及ぼすことがある。そこで、他の案として瞳孔の重心を検出し、その瞳孔の重心に合わせてフォーカス制御を行うことで、眼球が移動してもピントを合わせられるようにできるものがある(例えば、特許文献1基準)。
また、眼球の運動や視線の垂直・水平成分の高精度な計測には、眼球と角膜の回転中心が異なることを利用した角膜反射像(プルキンエ像)を利用する方法がある。
また、本願発明の発明者等は、上記した虹彩紋理を検出する場合の課題(後述)を解決するために、基準状態の眼の白目(強膜および結膜が露出している部分)中から虹彩近傍の所定パターンの血管を特定し、その特定の血管の端点の位置から虹彩の外縁端部を検出することで、眼球の回旋を測定する方法を提案した(例えば、特許文献2基準)。
橋本勉・牧孝郎・坂下祐輔・西山潤平・藤吉弘亘・平田豊、「瞳孔径変化による虹彩パターン伸縮のモデル化と眼球運動計測への応用」、電子情報通信学会論文誌、2010, Vol. J93-D, No.1, pp.39-46.
特開平02−164335号公報 国際公開WO2013/125707号パンフレット
しかしながら、非特許文献1等で利用する虹彩紋理は、濃淡のコントラストが不明瞭であり、見ているものや周辺(背景)の光量の変化により瞳孔径が変化するのに伴い、紋理の形状や位置や濃淡が変化するので、検出する際に背景光を一定に保つか、眼の周囲を覆うゴーグル等により背景光を遮断する必要がある。
また、特許文献1には、眼球に対して瞳孔の重心を用いてフォーカシング制御し、眼球が運動してもピントを合わせられる方法の一例が示されているが、その瞳孔の重心の情報は、フォーカシング制御のみに使用されている。従って、特許文献1では、本願発明のような、瞳孔の重心に基づく位置情報を、眼球の移動方向、移動量、移動速度等の計測に利用することについて開示していない。
また、眼球の角膜反射像(プルキンエ像)を利用する方法は、測定中の頭部とカメラのずれに弱く、ベルト等によりカメラを頭部に強固に固定する必要があった。また、この角膜反射像(プルキンエ像)を利用する方法では、眼球の回旋運動は計測できない。
また、特許文献2の眼球の回旋を測定する方法では、白目中の特定の血管の端点の位置から虹彩の外縁端部を検出する事で、上記したような非特許文献1、特許文献1及びプルキンエ像を利用する方法の課題(背景光によりコントラスト検出が困難、移動方向等を計測できない、頭部にカメラを強固に固定する必要があり長時間装用が困難)を解決できる可能性を有する。しかし、虹彩の外縁端部を検出しているため、使用できる血管の位置する領域が虹彩近傍に限られている。さらに「その血管の少なくとも一部に虹彩の外周端部で終端する部分を有する」という制約がある。また、その制約中で、上まぶたから突出する直線状のまつげと判別可能であるような複雑な形状(例えば、折れ曲がりが多いか、分岐している等)で、なるべく明確に検出できる「太さ寸法」を有する血管を特定する必要があるため、血管を特定することの難易度が高く処理に時間がかかっていた。
また、例えば、眼の上下幅が狭い人(眼が細い人)のように上まぶたで虹彩の上部が部分的に覆われる身体的特徴や、あるいは上まぶたのまつげが黒色等の強コントラストになる濃色であり虹彩の上部等に部分的に被さるように長く及び/又は太いような身体的特徴は、虹彩紋理を検出する際には好ましい結果を得られない場合があった。一般的に、東アジアの一部の地域の(一部の民族の)人には、上記したような身体的特徴を有することが多く、そのような身体的特徴を有する被測定者は、虹彩を計測する際に、眼を意図的に見開いたり、まばたきを我慢する必要があった。また、特許文献2の方法の場合も、上記したような身体的特徴を有する人の場合は、虹彩の端部で終端する血管を特定する領域が狭くなるため、好ましい結果が得られない場合があった。
従って、従来の眼球の運動を検出する方法では、(1)背景光が変化してもコントラスト検出でき、(2)頭部にカメラを強固に固定する必要が無く長時間装用が可能であり、さらに(3)眼の上下幅が狭く眼が細い場合、又は、上まぶたのまつげが濃色で長く虹彩の上部等に部分的に被さる場合でも、眼球の移動方向等の運動を検出しやすいことに加えて、(4)眼球の移動を検出するための血管を特定することが容易である、という全て満足できる方法を提供できなかった。
そこで本発明は、上記した課題を解決するために、(1)背景光の変化に強く、(2)カメラの位置ずれにも強く、頭部にカメラを強固に固定する必要が無いことから長時間装用が可能であり、(3)眼の上下幅が狭い人や上まぶたのまつげが濃色で長く虹彩に被さる場合でも、眼球の移動方向等の運動を検出しやすく、(4)さらに眼球の移動を検出するための血管を特定しやすい方法を提供することを目的とする。
上記した課題を解決するために、本発明に係る眼球の運動を検出する方法は、情報処理装置において、(a)少なくとも片眼の前面側の近傍領域内、もしくはone−way mirror等の併用により光学的に等価な位置に配置された撮像装置により撮像された、当該眼の周辺領域を含む所定領域の基準画像が入力するステップと、(b)基準画像から、少なくとも当該眼の目頭と目尻を検出するステップと、(c)基準画像の目頭と目尻の間の当該眼の領域から、当該眼の中の白目領域を検出するステップと、(d)白目領域から、識別可能な全ての血管像を抽出するステップと、(e)全ての血管像中から、テンプレートとなる血管像を決定するステップと、(f)白目領域中のテンプレート血管像の座標中の基準位置及び水平基準の基準角度を記録するステップと、(g)撮像装置により撮像された第n(nは1から始まり順次1ずつ漸増する1以上の整数)の血管像検出用画像が入力するステップと、(h)第nの血管像検出用画像から、テンプレートにマッチした第nのマッチ血管像を検出するステップと、(i)白目領域中の第nのマッチ血管像の座標中の第n検出位置及び第n検出角度を記録するステップと、(j)座標中の基準位置及び第n検出位置との差から眼球の第n移動量を演算し、基準角度と第n検出角度との差から眼球の第n回転角度を演算するステップと、(k)n=n+1として上記(g)〜(j)のステップを実行し、入力した第(n+1)血管像検出用画像から第(n+1)のマッチ血管像を検出し、さらに第(n+1)移動量及び第(n+1)回転角度を演算する処理を繰り返すステップと、 が実行される。
また、上記した方法における各ステップは、コンピュータ等の情報処理装置に記憶されたプログラムにより演算処理部で実行され、また、当該プログラムは、当該プログラムを記憶する記憶媒体から情報処理装置内部の処理作業用記憶部に伝送されて記憶された後、演算処理部で実行される。
好ましくは、本発明に係る眼球の運動を検出する方法の眼の目頭と目尻の検出するステップ(b)と、眼の中の白目領域を検出するステップ(c)では、画像における輝度を含む特徴ベクトルの値に対して2値化処理が実施され、当該2値化輝度値が閾値以上である領域が検出されるようにしてもよい。
好ましくは、本発明に係る眼球の運動を検出する方法のテンプレート血管像を決定するステップ(e)及び第nのマッチ血管像を検出するステップ(h)では、テンプレート血管像及び各第nの血管像検出用画像に対して、少なくとも一回の収縮処理と少なくとも一回の膨張処理が実行されるようにしてもよい。
好ましくは、本発明に係る眼球の運動を検出する方法の第nのマッチ血管像を検出するステップ(h)では、テンプレートに対して、第nのマッチ血管像を、垂直方向、水平方向、及び/又は、回旋方向の移動に対応させてマッチングさせる処理が実行されるようにしてもよい。
好ましくは、本発明に係る眼球の運動を検出する方法の基準画像から白目領域を検出するステップ(c)では、当該眼の中の白目領域に含まれない虹彩領域及び瞳孔の中心が検出され、テンプレート血管像の座標中の基準位置及び基準角度を記録するステップ(f)では、虹彩領域からテンプレート血管像までの座標中の距離及び瞳孔の中心を通過する水平基準線からの角度も記録し、テンプレート血管像を決定するステップ(e)及び前記第nのマッチ血管像を検出するステップ(h)では、当該眼の中の白目領域の中で、虹彩領域の耳側の近傍であり、且つ、水平基準線の近傍領域に存在するか、又は、当該水平基準線の下側領域であって且つ近傍領域に存在する血管像が選択されて決定又は検出されるようにしてもよい。
好ましくは、本発明に係る眼球の運動を検出する方法のテンプレート血管像を決定するステップ(e)及び第nのマッチ血管像を検出するステップ(h)では、各画像の眼の中の白目領域及び各血管像の各画素に対してラベリング処理を実施し、決定又は検出される当該血管像として、(1)各血管像中において、同一ラベルで連結された画素領域の長辺方向の連結数を演算し、該連結数が最大である血管像を選択するか、又は、(2)各血管像中において、同一ラベルで連結された画素領域の周囲長を演算し、該周囲長が最長である血管像を選択するか、又は、(3)直交する第1成分軸と第2成分軸を有する座標中の各血管像中において、同一ラベルで連結された画素領域の第1成分軸に対する変位幅を示す第1主成分、及び、第2成分軸に対する変位幅を示す第2主成分を各々求め、第1主成分の変位幅値と前記第2主成分の変位幅値との総和が最大となる血管像を選択するようにしてもよい。
上記した課題を解決するために、本発明に係る眼球の運動を検出する装置は、(A)少なくとも片眼の前面側の近傍領域内、もしくはone−way mirror等の併用により光学的に等価な位置に配置された撮像装置と、(B)撮像装置から入力する当該眼の周辺領域を含む所定領域の基準画像が入力するステップ(a)と、基準画像から少なくとも当該眼の目頭と目尻を検出するステップ(b)と、基準画像の目頭と目尻の間の当該眼の領域から当該眼の中の白目領域を検出するステップ(c)と、白目領域から識別可能な全ての血管像を抽出するステップ(d)と、全ての血管像中からテンプレートとなる血管像を決定するステップ(e)と、白目領域中のテンプレート血管像の座標中の基準位置及び水平基準の基準角度を記録するステップ(f)と、撮像装置により撮像された第n(nは1から始まり順次1ずつ漸増する1以上の整数)の血管像検出用画像が入力するステップ(g)と、第nの血管像検出用画像から、テンプレートにマッチした第nのマッチ血管像を検出するステップ(h)と、白目領域中の第nのマッチ血管像の座標中の第n検出位置及び第n検出角度を記録するステップ(i)と、座標中の基準位置及び第n検出位置との差から眼球の第n移動量を演算し、基準角度と第n検出角度との差から眼球の第n回転角度を演算するステップ(j)と、n=n+1として上記(g)〜(j)のステップを実行し、入力した第(n+1)血管像検出用画像から第(n+1)のマッチ血管像を検出し、さらに第(n+1)移動量及び第(n+1)回転角度を演算する処理を繰り返すステップ(k)と、を少なくとも実行する情報処理装置と、を有する。
上記した本発明の方法によれば、上記した課題を解決するために(1)背景光の変化に強く、(2)カメラの位置ずれにも強く、頭部にカメラを強固に固定する必要が無いことから長時間装用が可能であり、(3)眼の上下幅が狭い人や上まぶたのまつげが濃色で長く虹彩に被さる場合でも、眼球の移動方向等の運動を検出しやすく、(4)さらに眼球の移動を検出するための血管を特定しやすい方法を提供することができることから、より高精度に眼球の位置や角度及び運動を検出することができる。
なお、上記した眼球の位置や角度及び運動から虹彩の位置も検出でき、虹彩の中心には瞳孔があることから、被測定者が見ているものの方向(視線)についても、より高精度に検出できる。
例えば、視線が一定の方向に所定以上の時間留まる場合、見ているものが未知のものの場合には何であるか判別あるいは理解しようとしていることもあるが、既知のものである場合には、見ているものが興味度の高いものであったり、嗜好の上で好ましいものである確率が高くなる。
本発明の第一実施形態に係る眼球の運動を検出する装置の概略構成を示すブロック図である。 本発明の第一実施形態に係る動作フローチャートである。 (a)目頭と目尻の検出方法の一例のフローチャート、(b)目頭と目尻の矩形抜き出しの一例を示した図である。 (a)眼の白目中の血管の一例と、(b)選択されたテンプレート血管図の一例を示す図である。 (a)計測用補助光や強すぎる背景光でハレーションを起こしている眼球画像の一例と、(b)周囲が暗い場合に撮像される眼球画像の一例と、(c)非常に弱い光であっても十分に白目の血管像を認識できる濃淡コントラストが得られている眼球画像の一例を示す図である。
<第1の実施形態>
まず、本発明の第1の実施形態に係る眼球の運動を検出する装置、検出方法、及び、検出プログラムについて説明する。
[ハードウェア構成]
図1は、第1の実施形態に係る眼球の運動を検出する装置のハードウェア構成図である。
眼球運動検出装置の情報処理装置1は、例えば、プログラムを読み込んで各種処理を実行する演算ユニットであるCPU(Central Processing Unit)と、リード/ライトの処理速度が速い作業用RAMと各種プログラム等を格納する不揮発性記憶素子等の複数の記憶装置と、カメラ等の撮像装置100、ディスプレイ等の表示出力装置200、キーボード等の入力装置300等との電気信号及び電力の送受信を可能にする各種インターフェースとを含む。また、撮像装置100と、表示出力装置200と、入力装置300は、情報処理装置の外部に接続されても、情報処理装置の内部に備えられてもよい。これらの各構成要素は、バスやシリアル回線等を介して互いに接続される。
CPUは、例えば、プログラムカウンタ、命令デコーダ、各種演算器、LSU(Load Store Unit)、汎用レジスタ等を有する演算処理装置で構成される。プログラムやデータなどは、例えば、情報処理装置1の内部の補助記憶装置又は外部に接続された記憶媒体からドライブ装置により読み込むまれる。記憶媒体は、例えば、CD(Compact Disc)、DVD(Digital Versatile Disc)、USB(Universal Serial Bus)メモリ等の可搬型の記憶媒体であってもよい。また、補助記憶装置は、例えば、HDD(Hard Disk Drive)やフラッシュメモリなどで構成されてもよい。
プログラムをインストールする方法は、本実施形態には限定されず、記録された外部記憶媒体からドライブ装置で補助記憶装置にインストールしてもよいし、インターフェースとネットワークを介して、遠隔地のサーバーや他のコンピュータからプログラムをダウンロードして補助記憶装置にインストールしてもよい。ネットワークは、インターネット、LAN(Local Area Network)、無線ネットワーク等で構成されてもよい。また、例えば、プログラムが、眼球運動検出装置の出荷時に、補助記憶装置や図示しないROM(Read Only Memory)等に予め格納(実装)されていてもよい。
上述のようにしてインストールされた各種プログラム、又は、予め格納された各種プログラムをCPUが実行することにより、本実施形態の眼球運動検出装置における後述の各種機能(各種処理)が実現される。
メモリ装置は、例えば、RAM(Random Access Memory)やEEPROM(Electrically Erasable and Programmable Read Only Memory)などの記憶装置で構成される。また、インターフェースは、上述した各種ネットワーク等に接続され、該ネットワークを介して、外部の各種装置に対して所定のデータやプログラムなどの入出力動作を行う。
入力装置300は、例えば、キーボード、マウス、ボタン、タッチパッド、タッチパネル、マイク等の各種入力操作装置で構成される。また、表示出力装置200は、例えば、LCD(Liquid Crystal Display)やCRT(Cathode Ray Tube)等の表示装置で構成される。なお、眼球運動検出装置は、表示出力装置200以外では、例えば、プリンタ、スピーカ等の各種出力装置を備えていてもよい。
情報処理装置の画像入力インターフェースは、カメラ100に接続される。そして、画像入力インターフェースは、カメラ100から入力された画像データを、一旦、メモリ装置や補助記憶装置に出力する。
カメラ100は、例えばCCD(Charge Coupled Device)カメラやCMOS(Complementary Metal Oxide Semiconductor)カメラ等の撮像装置であり、撮影された画像のデータを画像入力インターフェースを介して出力する。なお、画像は、静止画像であってもよいし、動画像であってもよい。
本実施形態では、カメラ100により、被験体の眼球を撮影する。撮影時には、例えば、青色LEDから射出された光が眼球に照射されるようにしてもよい。青色LEDは、眼球内の結膜血管(以下、単に血管という)のコントラストを高めるため、眼球の白目領域(強膜及び結膜を含む領域)に青色光を照射する。青色LEDの照射範囲を眼球の白目領域に絞ることにより、眼球の撮影時に被験体に与える負担を軽減することができる。また、瞳孔を強調するため及び虹彩の濃淡パターンを精度よく撮像するためには、青色LEDと同時に赤外線LED(Light Emitting Diode)から射出された赤外線の光を眼球に照射してもよい。
ここで、従来の眼球運動計測装置には瞳孔法と呼ばれるものがあり、眼球に対して近赤外光を照射し、その反射光を赤外線カメラで計測して瞳孔の中心を算出する手法である。また、図5(b)に例示したように周囲が暗い場合、計測用補助光として比較的強い光が必要となるが、どちらも、カメラ100で映像した画像には図5(a)に示したようなハレーション66を起こしやすいという問題がある。とくに、計測用補助光として強い光を用いた場合は、眼球の運動を検出する装置の装着者が不快を感じたり、場合によっては、装着者の眼に有害となる可能性もある。それに対して図5(c)に示した本願発明で眼球の白目領域50に照射する青色LEDの光は、従来の眼球運動計測装置等と比較して非常に弱い光であっても、図5(c)に示したように、カメラ100で十分に白目の血管像(血管60)を認識できる濃淡コントラストを得られることが本願発明者の実験により確認されている。また、人間の色覚の特性上、中波長や長波長の光に比べ、青色光は眩しさも知覚しにくい。従って、本願発明の眼球の運動を検出する装置では、カメラ100でハレーションを起こす可能性を非常に低くでき、また、装置の装着者が眼球運動計測用の光により不快を感じることをほとんど無くすことができる。
[機能構成]
情報処理装置1は、CPUがプログラムを実行することにより機能する機能ブロックとして、目頭/目尻検出部11と、白目領域検出部12と、血管画像検出部13と、マッチ画像検出部14と、マッチが像位置補正部15と、画像位置/角度比較部16と、眼球移動量/回転角演算部17と眼球移動量/回転角記憶部18と、虹彩/瞳孔中心検出部21と、水平基準線検出部22と、テンプレート画像決定部23と、テンプレート画像記憶部24と、各種設定値記憶部71と、プログラム記憶部81と、制御部91とを備える。また、これらの各機能ブロックは、例えばメモリ装置や補助記憶装置に対して各種情報(データ)を入出力し、メモリ装置や補助記憶装置は、各機能ブロックから出力された各種情報を格納する。
これらの機能ブロックは、ソフトウェアで構成するこができる。この場合、各機能ブロックは、互いに明確に分離したプログラムによって実現されるブロックであってもよいし、例えば、サブルーチンや関数などのように、他のプログラムによって呼び出されるプログラムにより実現されるブロックであってもよい。また、これらの機能ブロックの一部又は全てが、例えば、LSI(Large Scale Integrated circuit)、IC(Integrated Circuit)、FPGA(Field Programmable Gate Array)等のハードウェアで構成されていてもよい。
[眼球運動検出方法の概要]
次に、図1に示す各機能ブロックで行われる各種処理を説明しながら、本実施形態における眼球運動検出方法の内容を具体的に説明するが、最初に、本実施形態における眼球運動検出方法の概要を説明する。
本実施形態の眼球運動検出方法では、まず、基準状態において、基準状態時の眼球画像内の白目領域に位置する所定のテンプレート血管(1つの血管)を選択し、該選択した血管を基準となるテンプレート血管像として、その位置情報と角度情報を取得する。次いで、眼球運動の実計測時において、実計測時の眼球画像(血管像検出用画像)に対して、テンプレート血管像を用いたテンプレートマッチング処理で一致するマッチ血管像を検出し、その位置情報と角度情報を取得する。
[テンプレート血管像の取得時の処理]
本実施形態の眼球運動検出方法において、テンプレート血管像の取得処理は、眼球運動の実計測時より前に行われ、眼球運動の測定に必要な各種基準情報を取得する。なお、テンプレート血管像の取得時に実行される各種基準情報の取得処理は、眼球運動の実計測時の処理よりも動きが制限された状態で取得される。
本実施形態では、テンプレート血管像と各種基準情報取得時に、基本的に上述した青色LEDを用いて眼球の血管の周辺(白目領域)に青色光を照射して撮影する。また、血管の位置データに加えて、虹彩や瞳孔中心のデータも利用する場合には赤外線LEDを同時に使用して、瞳孔領域及び虹彩領域に赤外線を照射してもよい。
次に、テンプレート血管像と各種基準情報の取得処理では、基準状態において取得された被験体の眼球画像を解析して、基準状態におけるテンプレート血管像のベクトルデータ、血管の位置情報等に関する情報を取得する。また、必要に応じて、瞳孔の楕円パラメータ(例えば、瞳孔輪郭の中心点、長軸値、短軸値、楕円の傾き(長軸の回転角度)等に関する情報)等の情報を取得する。
そして、テンプレート血管像と各種基準情報の取得時には、上述のようにして、テンプレート血管像と各種基準情報が取得され、該各種基準情報がメモリ装置あるいは補助記憶装置に出力されて格納される。なお、ここでテンプレート血管像の位置情報は、基準状態の眼球画像の横方向及び縦方向をそれぞれX軸方向及びY軸方向とするX−Y直交座標系の座標である。
[血管位置認識処理]
血管画像検出部13は、白目領域50における血管60等の位置を認識し、該認識した血管60の位置に関する情報を、例えばメモリ装置や補助記憶装置に出力する。白目領域50は、図1及び図4に示すように、眼球画像において、目頭/目尻検出部11により認識された目頭と目尻の間で、白目領域検出部12により認識された白目領域である。また、虹彩/瞳孔中心検出部21により認識された虹彩領域51よりも外側の領域であって、水平基準線検出部22により目頭と目尻等から検出された水平基準線の近傍又は下側近傍であってもよい。なお、実計測時の眼球運動検出の際には、血管画像検出部13で認識(特定)する血管60は、テンプレート血管像と各種基準情報取得時に選択された所定のテンプレート血管にテンプレートマッチングでマッチした血管(以下、マッチ血管ともいう)である。
より具体的に、実計測時の眼球運動検出の際には、血管画像検出部13は、メモリ装置や補助記憶装置に格納された基準情報を参照し、実計測時の眼球画像の白目領域において、水平基準線の近傍又は下側近傍で、所定距離虹彩領域51から所定距離離れた近傍で、虹彩中心52からも別の所定距離に存在するマッチ血管(マッチ血管像)の位置情報を取得する。そして、血管画像検出部13は、取得されたマッチ血管の位置情報(座標情報)を、例えばメモリ装置や補助記憶装置に出力する。以下、この血管画像検出部13で行う処理内容についてより詳細に説明する。
まず、血管画像検出部13は、テンプレート血管像と各種基準情報取得時に予め取得されている基準状態における所定のテンプレート血管の位置情報(座標情報)をメモリ装置や補助記憶装置から読み込む。次いで、血管画像検出部13は、読み込んだ基準状態における所定のテンプレート血管の位置情報に基づき、実計測時に取得された眼球画像において、マッチ血管の位置を特定するための探索領域を設定する。具体的には、血管画像検出部13は、基準状態における所定のテンプレート血管の眼球運動角度、回転させた点を中心とする所定形状(例えば、矩形形状)の探索領域を眼球の白目画像内に設定する。
次に、血管画像検出部13は、探索領域の画像に対して例えば平滑化処理を施し、ノイズ除去を行う。次いで、血管画像検出部13は、平滑化処理が施された探索領域の画像に対して、画素値に応じて二値化処理を施し、画素値が低い方の画素の集合部分を血管として認識する。この際、探索領域において、複数の血管が認識される。
更に、血管画像検出部13は、血管であると認識された画素の集合部分に対して、Hilditchの細線化アルゴリズムを適用してノイズ除去処理を施す。次いで、血管画像検出部13は、細線部分に対して深さ優先探索を行うことにより血管の長さを計測する。そして、血管画像検出部13は、認識された複数の血管の中から、長さが所定値以上の血管のみを抽出する。
Hilditchの細線化法では、探索領域内の注目画素とその周囲の8画素を参照する3×3のウィンドウ(画素領域)をノイズ除去処理の基本処理単位とする。そして、血管画像検出部13は、探索領域の画像データ全体をラスタ走査しながら、各画素を注目画素としてノイズ除去を行うことにより細線化処理を行う。
具体的には、まず、血管画像検出部13は、注目画素が3×3のウィンドウで予め定義した細線化による削除条件に合致するか否かの判定を行う。そして、注目画素が削除条件に合致する場合には、血管画像検出部13は、当該注目画素を削除する、すなわち、図形画素(血管領域の画素)を背景画素(白目領域の画素)に置き換える。一方、注目画素が削除条件に合致しない場合、血管画像検出部13は、ラスタ走査順で次の画素を注目画素とし、新たな3×3のウィンドウにおいて、注目画素の判定処理及び図形画素の置換処理を行う。
Hilditchの細線化法によるノイズ除去処理において、血管画像検出部13は、上述した一連の処理を探索領域内の全ての画素に対して繰り返す。次いで、血管画像検出部13は、1サイクルのラスタ走査において削除される画素が無くなるまで、探索領域をラスタ走査しながら上述した一連の処理を繰り返す。そして、血管画像検出部13は、1サイクルのラスタ走査において削除される画素が無くなった時点で、Hilditchの細線化法によるノイズ除去処理を終了する。
ここで血管画像検出部13から出力されるマッチ血管の位置情報は、実計測時の眼球画像(探索領域)の横方向及び縦方向をそれぞれX軸方向及びY軸方向とするX−Y直交座標系の座標である。
なお、本実施形態では、基準状態において選択された所定のテンプレート血管は、次のようにして求められる。まず、白目領域において、所定の探索領域を設定する。次いで、設定された所定の探索領域の画像データに対して、血管画像検出部13で実施された二値化処理からHilditchの細線化法によるノイズ除去処理に至る一連の上記処理を施し、探索領域内の複数の血管の端点を抽出する。そして、抽出された複数の血管から、テンプレート画像決定部23で基準状態における所定のテンプレート血管を選択する。これらの処理は、血管画像検出部13で行い、選択結果を血管画像検出部13から取得するようにしてもよい。
また、テンプレート血管像と各種基準情報取得時において所定のテンプレート血管を選択する際の探索領域の設定位置及びサイズ等は任意に設定することができる。また、探索領域において抽出された複数の血管から、所定のテンプレート血管を選択する基準も任意である。
しかしながら、本実施形態では、眼球の白目領域であって、水平基準線の近傍又は下側近傍で、虹彩領域51から所定距離離れた近傍で、虹彩中心52からも別の所定距離に存在するような血管を、所定のテンプレート血管として選択することが好ましい。また、血管のY軸方向の座標が、瞳孔中心のY軸方向の座標から上記した別の所定距離だけ離れた血管を所定のテンプレート血管として選択することが好ましい。このようにして所定のテンプレート血管として選択することにより、例えば、まつ毛の影響、瞼の動きや視線移動などの影響を受け難くなり(眼球画像中に血管の端点が写り込む可能性が高くなり)、血管のトラッキング精度(マッチ血管の認識(特定)精度)を高めることができ、眼球運動角度をより確実に精度良く計測することが可能になる。また、同様の理由から、基準状態における探索領域も、眼球の白目領域であって、水平基準線の近傍又は下側近傍で、所定距離虹彩領域51から所定距離離れた近傍で、虹彩中心52からも別の所定距離に存在し、かつ、探索領域の中心点のY軸方向の座標が、瞳孔中心のY軸方向の座標から上記した別の所定距離だけ離れるように探索領域を設定することが好ましい。
[角度算出部の処理]
眼球移動量/回転角演算部17は、基準状態において選択された所定のテンプレート血管の位置情報と、眼球運動の実計測時に特定(認識)されたマッチ血管(所定のテンプレート血管に対応する血管)の位置情報とに基づいて、眼球運動角度θを算出する。
[眼球運動検出処理のフローチャート]
次に、本実施形態の眼球運動検出装置により眼球運動検出を行う際の具体的な処理手順を、図2を参照しながら説明する。図2は、本実施形態の眼球運動検出装置によって実行される眼球運動検出方法の処理手順を示すフローチャートである。
まず、実際の眼球運動の検出を実施する前に照合用データベース(テンプレート画像記憶部24)を構築する(S1)。照合用データベースの構築には、所定のテンプレート血管像の画像特徴量等から照合用の画像データベースを作成する。
実際の眼球運動の検出では、撮像装置100からの新規に撮像された眼球の画像が情報処理装置1に入力され、画像データの記憶部に格納される(S2)。画像データの記憶部に格納された画像データの輝度値に対して2値化処理が実施される(S3)。2値化された画像から、目頭/目尻検出部11で、目頭と目尻が検出される(S4)。その画像の目頭と目尻の間の白目領域が、白目領域検出部12で検出される(S5)。
さらに、赤色光を照射した場合画像データから、虹彩/瞳孔中心検出部21で、目頭と目尻の間の虹彩と瞳孔の中心を検出する(S6)。また、検出した目頭と目尻の位置情報等から、水平基準線検出部22で、水平基準線を検出する(S7)。
検出された白目領域内の全ての血管画像に対して、所定回数の収縮処理と膨張処理を実施し(S8)、最初の基準画像であるか否かを判断する(S9)。基準画像である場合(S9:Yes)なら所定のルール、又は、マニュアル処理により、基準画像となる所定のテンプレート血管像を決定し(S10)、そのテンプレート血管像と位置及び角度を含む各種基準情報を記録する(S11)。
テンプレート血管像と各種基準情報を記録(S11)した後、あるいは、最初の基準画像でない場合(S9:No)、次の画像入力に対してテンプレートマッチングが実施され第n(nは1〜始まり順次1ずつ漸増する整数)のマッチ血管像の検出処理が実行され(S12)、検出できた場合(S12:Yes)には、その位置と角度等の各種基準情報が記録される(S13)。検出できない場合(S12:No)には、ステップS9に戻って最初の基準画像であるか否かの判断と、ステップS12の第nのマッチ血管像の検出処理が実行される。
ステップS12で第nのマッチ血管像が検出され、ステップS13でその各種基準情報が記録されると、画像位置/角度比較部16でテンプレート血管像の画像位置/角度と、第nのマッチ血管像の画像位置/角度とが比較され差が演算される(S14)。次に、眼球移動量/回転角演算部17でテンプレート血管像の画像位置/角度に対する、第nのマッチ血管像の画像位置/角度の差から移動量と回転角度が演算され、眼球移動量/回転角記憶部18に格納される(S15)。その後、次画像が無いか判断され(S16)、次画像が有れば(S16:No)ステップS2に戻って次の画像が入力され、次画像が無ければ(S16:Yes)、ステップS15で演算され眼球移動量/回転角記憶部18に格納された移動量と回転角度が表示出力装置200に出力され、処理を終了する。
本実施形態では、上述のようにして眼球運動の測定を行う。なお、本実施形態では、上述した眼球運動検出処理を、対応する眼球運動検出プログラムを眼球運動検出装置に実装し、該眼球運動検出プログラムが情報処理装置1により実行することにより実現してもよい。
上述した本実施形態の眼球運動検出技術では、周囲に対するコントラストが大きく、かつ、瞳孔収縮による影響がない白目部の血管の位置情報に基づいて眼球運動を算出するため、より高精度に眼球運動を計測することができる。
以下に基準情報(テンプレート)の取得について記載する。 本明細書において「白目領域」とは、強膜及び結膜を含む領域を意味し、「基準状態」とは、例えば、被験体の状態がストレスの無い健康な状態であり、眼球の回旋角度が零度とみなされる状態のことをいう。血管には、太いもの細いもの、曲線のもの、分岐など、さまざまなタイプが存在する。
(白目(強膜)領域の検出)
入力がカラー(RGB)なら、YCbCr(あるいはYIQ,HSV)表色系への変換を行う。
Y = 0.2989R + 0.5866G + 0.1145B
Cb = - 0.1687R - 0.3312G + 0.5000B
Cr = 0.5000R - 0.4183G - 0.0816B
ここで、Yは色の輝度、Crは赤の色差成分、Cbは青の色差成分である。
入力がモノクロなら、YCbCr表色系のY成分と同じである。いずれの場合も、輝度について2値化処理を行い、一定の閾値以上の領域を抽出し、白目領域とする。
(テンプレート血管像の決定)
一つの処理で、水平・垂直・回旋の眼球運動を測定する方法は、SIFTを用いて特徴点を追跡すればよい。他方、ヒトの回旋運動成分は±12°程度と、それほど大きくなく、かつ、強膜に付着する柔らかい結膜が、眼球運動量ほどには結膜血管を回旋させないため、垂直水平方向(すなわち回転を含まない)テンプレートマッチングでも、それなりの精度の測定も可能である。
比較的簡便な方法で、水平垂直眼球運動を測定する方法は、次の通りである:検出された白目領域に対して、収縮処理を1〜2回程度行って、細い血管や突起、ゴマ塩雑音を除去し、その後、膨張処理を1〜2回程度行って、太い血管や分岐点が残るようにする。
視線が、正面から水平垂直に動いた場合でも、注目する血管像が睫毛(まつげ)や瞼(まぶた)に遮蔽されにくいよう、黒目領域(角膜)から耳側で、なるべく黒目に近く、かつ、瞳孔中心か、瞳孔中心よりもやや下側の白目領域(強膜)に存在する血管像をテンプレート画像として選択する。
テンプレート画像の選択には、たとえば、(1)白目領域にラベリングを行い、画素数が最大の連結領域をテンプレート画像に選択する方法。(2)同じく、白目領域にラベリングを行い、周囲長が最長の連結領域をテンプレート画像にする方法。(3)同じく、白目領域にラベリングを行い、それぞれの連結領域で第一主成分と第二主成分とを求め、二つの主成分軸からの誤差の総和が最も多い連結領域(すなわち、複雑で特徴的な形の血管像)をテンプレート画像にする方法、などがある。
装着した装置が、ユーザの頭部や体の動き、あるいは装置の自重によりズレた場合でも正確な眼球運動計測が行えるよう、以下のような映像ブレ防止機能を搭載する。
カメラを設置したメガネフレームが正しく装着された状態で眼球画像を撮像し、これを基準画像とする。基準画像である1枚目の眼球画像に対して、目尻部分と目頭部分の矩形抜き出しを行って2つの特徴点を求め、かつ、後述する基準に従って3番目の特徴点を決定する。そして、2枚目以降の眼球画像に対しては、1枚目の画像から作成したテンプレート画像をもとに、目尻と目尻の位置と、3番目の点を求め、Affine matrixを計算する。基準画像と2枚目以降画像の2組の3点位置から、Affine変換により、2枚目以降の眼球画像を基準画像の位置に戻すようにした。
ここで、3番目の点については、目尻と目頭との2点間の距離が拡大・縮小するのに利用できるように、基準画像と変換画像(すなわち、2枚目以降の画像)の双方において、3点が作る三角形がなるべく相似形になるように設定した。また、この三角形は二等辺三角形で、3番目の点が目頭に近い側で決定するようにする。
特徴点抽出とテンプレートマッチングは、誤検出を少なくするため、また処理の高速化のため、目尻と目頭が存在すると推定される領域に処理範囲を限定する。特徴点抽出方法は、Harris エッジ検出器を使用する。さらに、テンプレートマッチングにおいて一致度が低い場合は、エラーとして処理するようにする。
(角度算出部の処理)
眼球移動量/回転角演算部17は、基準状態において選択された所定のテンプレート血管の位置情報と、眼球運動の実計測時に特定(認識)されたマッチ血管(所定のテンプレート血管に対応する血管)の位置情報とに基づいて、眼球運動角度を算出する。なお、これらの基準状態における各種パラメータは、テンプレート血管像と各種基準情報取得時に予め取得され、例えばメモリ装置や補助記憶装置に格納される。
上記したように、本実施形態の方法によれば、(1)背景光の変化に強く、(2)カメラの位置ずれにも強く、頭部にカメラを強固に固定する必要が無いことから長時間装用が可能であり、(3)眼の上下幅が狭い人や上まぶたのまつげが濃色で長く虹彩に被さる場合でも、眼球の移動方向等の運動を検出しやすく、(4)さらに眼球の移動を検出するための血管を特定しやすい方法を提供することができることから、より高精度に眼球の位置や角度及び運動を検出することができる。
<第2の実施形態>
以下に、第二の方法である水平垂直のテンプレートマッチングについて説明する。特徴ベクトルとして輝度値データを用いる。テンプレート画像の中心t[k,l]を、入力画像f[i,j]のある点(i,j)に置き、点(i,j)をラスタ走査しながら、重なっている局所領域の類似度を計算し、最大となる位置を決定する。類似度判定は、高速処理が可能な「差の二和」を用いるもの、「相互相関」を用いるもの、輝度変化に強い「相関係数」を用いるもの、および、それぞれに画像の大きさや輝度値で正規化したもの等がある。テンプレートマッチングの前処理として、大きさの不一致に対応するため、正規化処理を行っても良い。また、眼球に照射される照明光の輝度変化がある場合は、それぞれの画像の平均輝度をピクセル値から引くゼロ平均正規化相互相関(ZNCC)も有効であり、高精度測定が期待できるが、演算量が多く、処理速度が遅くなる。
カメラがカラーなら、第三に、輝度に変換せず、入力画像のRGBの各ヒストグラムに着目し、現フレームの画像中でテンプレート画像のヒストグラム特徴により近くなる位置にシフトさせるCamShift法(物体追跡)が利用できる。
[ビデオスタビライズ制御の概要]
装着した装置が、ユーザの頭部や体の動き、あるいは装置の自重によりずれた場合でも正確な眼球運動計測が行えるよう、図3に示す映像ブレ防止機能(ビデオスタビライズ制御)を搭載することができる。
カメラを設置したメガネフレームが正しく装着された状態で眼球画像を撮像し、これを基準画像とする。基準画像である1枚目の眼球画像に対して、目尻部分と目頭部分の矩形抜き出しを行って2つの特徴点を求め、かつ、後述する基準に従って3番目の特徴点を決定する。そして、2枚目以降の眼球画像に対しては、1枚目の画像から作成したテンプレート画像をもとに、目尻と目尻の位置と、3番目の点を求め、Affine matrixを計算する。基準画像と2枚目以降画像の2組の3点位置から、Affine変換により、2枚目以降の眼球画像を基準画像の位置に戻すようにする。
3番目の点については、目尻と目頭との2点間の距離が拡大・縮小するのに利用できるように、基準画像と変換画像(すなわち、2枚目以降の画像)の双方において、3点が作る三角形がなるべく相似形になるように設定する。また、この三角形は二等辺三角形で、3番目の点が目頭に近い側で決定するようにする。
特徴点抽出とテンプレートマッチングは、誤検出を少なくするため、また処理の高速化のため、目尻と目頭が存在すると推定される領域に処理範囲を限定する。特徴点抽出方法は、Harris エッジ検出器を使用する。さらに、テンプレートマッチングにおいて一致度が低い場合は、エラーとして処理するようにする。
図4は、眼の白目中の血管の一例と、選択されたテンプレート血管図の一例を示す図である。本実施形態の方法によれば、装置が固定されるメガネフレームが顔面からずれた場合でも、通常使用程度のフレームのずれなら、支障なく眼球運動が計測できる。
1…情報処理装置、
11…目頭/目尻検出部、
12…白目領域検出部、
13…血管画像検出部、
14…マッチ画像検出部、
15…マッチ画像位置補正部、
16…画像位置/角度比較部、
17…眼球移動量/回転角演算部、
18…眼球移動量/回転角記憶部、
21…虹彩/瞳孔中心検出部、
22…水平基準線検出部、
23…テンプレート画像決定部、
24…テンプレート画像記憶部、
50…白目領域、
51…虹彩領域、
52…瞳孔中心、
53…まつげ、
55…検出領域(マッチングエリア)、
60…血管、
65…水平基準線、
66…ハレーション、
71…各種設定値記憶部、
81…プログラム記憶部、
91…制御部、
100…撮像装置(カメラ)、
200…表示出力装置、
300…入力装置

Claims (10)

  1. 情報処理装置において、
    (a)少なくとも片眼の前面側の近傍領域内、もしくは光学的に等価な位置に配置された撮像装置により撮像された、当該眼の周辺領域を含む所定領域の基準画像が入力するステップと、
    (b)前記基準画像から、少なくとも当該眼の目頭と目尻を検出するステップと、
    (c)前記基準画像の前記目頭と目尻の間の当該眼の領域から、当該眼の中の白目領域を検出するステップと、
    (d)前記白目領域から、識別可能な全ての血管像を抽出するステップと、
    (e)前記全ての血管像中から、テンプレートとなる血管像を決定するステップと、
    (f)前記白目領域中の前記テンプレート血管像の座標中の基準位置及び水平基準の基準角度を記録するステップと、
    (g)前記撮像装置により撮像された第n(nは1から始まり順次1ずつ漸増する1以上の整数)の血管像検出用画像が入力するステップと、
    (h)前記第nの血管像検出用画像から、前記テンプレートにマッチした第nのマッチ血管像を検出するステップと、
    (i)前記白目領域中の前記第nのマッチ血管像の座標中の第n検出位置及び第n検出角度を記録するステップと、
    (j)前記座標中の基準位置及び第n検出位置との差から眼球の第n移動量を演算し、前記基準角度と前記第n検出角度との差から眼球の第n回転角度を演算するステップと、
    (k)前記n=n+1として上記(g)〜(j)のステップを実行し、入力した第(n+1)血管像検出用画像から第(n+1)のマッチ血管像を検出し、さらに第(n+1)移動量及び第(n+1)回転角度を演算する処理を繰り返すステップと、
    が実行される眼球の運動を検出する方法。
  2. 前記眼の目頭と目尻の検出するステップ(b)と、前記眼の中の白目領域を検出するステップ(c)では、
    画像における輝度を含む特徴ベクトルの値に対して2値化処理が実施され、当該2値化輝度値が閾値以上である領域が検出される
    請求項1に記載の眼球の運動を検出する方法。
  3. 前記テンプレート血管像を決定するステップ(e)及び前記第nのマッチ血管像を検出するステップ(h)では、
    前記テンプレート血管像及び各第nの血管像検出用画像に対して、少なくとも一回の収縮処理と少なくとも一回の膨張処理が実行される
    請求項1又は2に記載の眼球の運動を検出する方法。
  4. 前記第nのマッチ血管像を検出するステップ(h)では、
    前記テンプレートに対して、第nのマッチ血管像を、垂直方向、水平方向、及び/又は、回旋方向の移動に対応させてマッチングさせる処理が実行される
    請求項1〜3の何れか1項に記載の眼球の運動を検出する方法。
  5. 前記基準画像から白目領域を検出するステップ(c)では、
    当該眼の中の白目領域に含まれない虹彩領域及び瞳孔の中心が検出され、
    前記テンプレート血管像の座標中の基準位置及び基準角度を記録するステップ(f)では、
    前記虹彩領域から前記テンプレート血管像までの座標中の距離及び前記瞳孔の中心を通過する水平基準線からの角度も記録し、
    前記テンプレート血管像を決定するステップ(e)及び前記第nのマッチ血管像を検出するステップ(h)では、
    当該眼の中の白目領域の中で、前記虹彩領域の耳側の近傍であり、且つ、前記水平基準線の近傍領域に存在するか、又は、当該水平基準線の下側領域であって且つ近傍領域に存在する血管像が選択されて決定又は検出される、
    請求項1〜4の何れか1項に記載の眼球の運動を検出する方法。
  6. 前記テンプレート血管像を決定するステップ(e)及び前記第nのマッチ血管像を検出するステップ(h)では、
    前記各画像の眼の中の白目領域及び各血管像の各画素に対してラベリング処理を実施し、決定又は検出される当該血管像として、
    (1)各血管像中において、同一ラベルで連結された画素領域の長辺方向の連結数を演算し、該連結数が最大である血管像を選択するか、又は、
    (2)各血管像中において、同一ラベルで連結された画素領域の周囲長を演算し、該周囲長が最長である血管像を選択するか、又は、
    (3)直交する第1成分軸と第2成分軸を有する前記座標中の各血管像中において、同一ラベルで連結された画素領域の第1成分軸に対する変位幅を示す第1主成分、及び、第2成分軸に対する変位幅を示す第2主成分を各々求め、前記第1主成分の変位幅値と前記第2主成分の変位幅値との総和が最大となる血管像を選択する、
    請求項1〜5の何れか1項に記載の眼球の運動を検出する方法。
  7. 前記基準画像から少なくとも当該眼の目頭と目尻を2つの特徴点として求め、所定の三角形に従って3番目の特徴点を決定し、
    前記第nの血管像検出用画像において前記3個の特徴点が作る三角形が相似形になるように設定することにより前記第nの血管像検出用画像における映像のブレを抑制する、
    請求項1〜6の何れか1項に記載の眼球の運動を検出する方法。
  8. 請求項1〜7の何れか一つの眼球の運動を検出する方法における各ステップを実施するプログラム。
  9. 請求項8のプログラムを記憶する記憶媒体。
  10. (A)少なくとも片眼の前面側の近傍領域内、もしくは光学的に等価な位置に配置された撮像装置と、
    (B)前記撮像装置から入力する当該眼の周辺領域を含む所定領域の基準画像が入力するステップ(a)と、
    前記基準画像から少なくとも当該眼の目頭と目尻を検出するステップ(b)と、
    前記基準画像の前記目頭と目尻の間の当該眼の領域から当該眼の中の白目領域を検出するステップ(c)と、
    前記白目領域から識別可能な全ての血管像を抽出するステップ(d)と、
    前記全ての血管像中からテンプレートとなる血管像を決定するステップ(e)と、
    前記白目領域中の前記テンプレート血管像の座標中の基準位置及び水平基準の基準角度を記録するステップ(f)と、
    前記撮像装置により撮像された第n(nは1から始まり順次1ずつ漸増する1以上の整数)の血管像検出用画像が入力するステップ(g)と、
    前記第nの血管像検出用画像から、前記テンプレートにマッチした第nのマッチ血管像を検出するステップ(h)と、
    前記白目領域中の前記第nのマッチ血管像の座標中の第n検出位置及び第n検出角度を記録するステップ(i)と、
    前記座標中の基準位置及び第n検出位置との差から眼球の第n移動量を演算し、前記基準角度と前記第n検出角度との差から眼球の第n回転角度を演算するステップ(j)と、
    前記n=n+1として上記(g)〜(j)のステップを実行し、入力した第(n+1)血管像検出用画像から第(n+1)のマッチ血管像を検出し、さらに第(n+1)移動量及び第(n+1)回転角度を演算する処理を繰り返すステップ(k)と、
    を少なくとも実行する情報処理装置と、
    を有する眼球の運動を検出する装置。
JP2017522275A 2015-06-05 2016-06-03 眼球の運動を検出する方法、そのプログラム、そのプログラムの記憶媒体、及び、眼球の運動を検出する装置 Active JP6651074B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2015115287 2015-06-05
JP2015115287 2015-06-05
JP2016089759 2016-04-27
JP2016089759 2016-04-27
PCT/JP2016/066562 WO2016195066A1 (ja) 2015-06-05 2016-06-03 眼球の運動を検出する方法、そのプログラム、そのプログラムの記憶媒体、及び、眼球の運動を検出する装置

Publications (2)

Publication Number Publication Date
JPWO2016195066A1 JPWO2016195066A1 (ja) 2018-03-22
JP6651074B2 true JP6651074B2 (ja) 2020-02-19

Family

ID=57440482

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017522275A Active JP6651074B2 (ja) 2015-06-05 2016-06-03 眼球の運動を検出する方法、そのプログラム、そのプログラムの記憶媒体、及び、眼球の運動を検出する装置

Country Status (4)

Country Link
US (1) US10311583B2 (ja)
JP (1) JP6651074B2 (ja)
TW (1) TWI694809B (ja)
WO (1) WO2016195066A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6751324B2 (ja) * 2016-09-14 2020-09-02 株式会社デンソーアイティーラボラトリ 虹彩検出装置、虹彩検出方法、およびプログラム
JP2018092495A (ja) * 2016-12-07 2018-06-14 ソニーセミコンダクタソリューションズ株式会社 画像センサ
US20210286426A1 (en) * 2017-07-03 2021-09-16 Hewlett-Packard Development Company, L.P. Rotating micro led displays based on eye movements
JP7066123B2 (ja) * 2017-08-10 2022-05-13 ヤマハ発動機株式会社 視線移動関連値取得装置、それを備えた輸送機器及び視線移動関連値取得方法
KR101898414B1 (ko) 2018-04-24 2018-09-12 한림대학교 산학협력단 3차원 안구 움직임 측정 방법 및 전자동 딥러닝 기반 어지럼 진단 시스템
WO2019240157A1 (ja) * 2018-06-12 2019-12-19 国立大学法人筑波大学 眼球運動測定装置、眼球運動測定方法及び眼球運動測定プログラム
CN110638466B (zh) * 2019-09-17 2022-06-03 广东普洛宇飞生物科技有限公司 一种定位装置及方法
CN114761859A (zh) * 2019-11-26 2022-07-15 奇跃公司 用于增强或虚拟现实显示系统的增强眼睛跟踪
US20230386038A1 (en) 2020-10-20 2023-11-30 Nec Corporation Information processing system, eye state measurement system, information processing method, and non-transitory computer readable medium

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02164335A (ja) * 1988-12-16 1990-06-25 Konan Camera Kenkyusho:Kk 眼球運動解析装置
JP5092120B2 (ja) * 2006-10-17 2012-12-05 国立大学法人東京工業大学 眼球運動計測装置
FR2945435B1 (fr) * 2009-05-12 2012-12-14 Essilor Int Paire de lunettes ophtalmiques adaptee pour caracteriser une direction de regard d'un porteur.
DE102010032193A1 (de) * 2010-07-24 2012-01-26 Chronos Vision Gmbh Verfahren und Vorrichtung zur Bestimmung der Augentorsion
JP5590487B2 (ja) * 2010-07-30 2014-09-17 公立大学法人広島市立大学 視線計測方法及び視線計測装置
DE102011082901A1 (de) * 2011-09-16 2013-03-21 Carl Zeiss Meditec Ag Bestimmen der azimutalen Orientierung eines Patientenauges
EP2818677A4 (en) 2012-02-22 2015-11-25 Ngk Insulators Ltd ENGINE BURNER CHAMBER STRUCTURE AND FLOW PATH WITH AN INTERNAL WALL STRUCTURE
US9433345B2 (en) 2012-02-24 2016-09-06 University Of Tsukuba Cycloduction measurement device, cycloduction measurement method, and cycloduction measurement program
KR20160064978A (ko) * 2014-11-28 2016-06-08 가부시키가이샤 한도오따이 에네루기 켄큐쇼 표시 장치, 모듈, 표시 시스템, 및 전자 기기

Also Published As

Publication number Publication date
JPWO2016195066A1 (ja) 2018-03-22
US20180174309A1 (en) 2018-06-21
US10311583B2 (en) 2019-06-04
TW201701820A (zh) 2017-01-16
TWI694809B (zh) 2020-06-01
WO2016195066A1 (ja) 2016-12-08

Similar Documents

Publication Publication Date Title
JP6651074B2 (ja) 眼球の運動を検出する方法、そのプログラム、そのプログラムの記憶媒体、及び、眼球の運動を検出する装置
US10380421B2 (en) Iris recognition via plenoptic imaging
US10872272B2 (en) System and method using machine learning for iris tracking, measurement, and simulation
EP2975997B1 (en) System and method for on-axis eye gaze tracking
US20160162673A1 (en) Technologies for learning body part geometry for use in biometric authentication
EP3339943A1 (en) Method and system for obtaining optometric parameters for fitting eyeglasses
JP6048844B2 (ja) 眼球回旋測定装置、眼球回旋測定方法、及び、眼球回旋測定プログラム
US20150029322A1 (en) Method and computations for calculating an optical axis vector of an imaged eye
JP5776323B2 (ja) 角膜反射判定プログラム、角膜反射判定装置および角膜反射判定方法
US20220100268A1 (en) Eye tracking device and a method thereof
KR101748563B1 (ko) 양안기반 시선추적 방법
JP6822482B2 (ja) 視線推定装置、視線推定方法及びプログラム記録媒体
CN111933275A (zh) 一种基于眼动与面部表情的抑郁评估系统
JP2007114029A (ja) 顔中心位置検出装置、顔中心位置検出方法、及び、プログラム
WO2015008717A1 (en) Image processing device and imaging apparatus
WO2019061659A1 (zh) 人脸图像眼镜去除方法、装置及存储介质
Li Modeling intra-class variation for nonideal iris recognition
JP2004192552A (ja) 開閉眼判定装置
JP2003079577A (ja) 視線測定装置及びその方法と、視線測定プログラム及びそのプログラムを記録した記録媒体
KR102074977B1 (ko) 전자 장치 및 그의 제어 방법
WO2019240157A1 (ja) 眼球運動測定装置、眼球運動測定方法及び眼球運動測定プログラム
JP2015123262A (ja) 角膜表面反射画像を利用した視線計測方法及びその装置
García-Dopico et al. Precise Non-Intrusive Real-Time Gaze Tracking System for Embedded Setups.
WO2021095278A1 (ja) 画像処理方法、画像処理装置、及び画像処理プログラム
CN113658243A (zh) 眼底三维模型建立方法、眼底照相机、装置和存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190417

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191202

R150 Certificate of patent or registration of utility model

Ref document number: 6651074

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250