JP2016224597A - 瞬目計測方法、瞬目計測装置、及び瞬目計測プログラム - Google Patents

瞬目計測方法、瞬目計測装置、及び瞬目計測プログラム Download PDF

Info

Publication number
JP2016224597A
JP2016224597A JP2015108365A JP2015108365A JP2016224597A JP 2016224597 A JP2016224597 A JP 2016224597A JP 2015108365 A JP2015108365 A JP 2015108365A JP 2015108365 A JP2015108365 A JP 2015108365A JP 2016224597 A JP2016224597 A JP 2016224597A
Authority
JP
Japan
Prior art keywords
eyelid
light
blink
eye
feature amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015108365A
Other languages
English (en)
Other versions
JP6535223B2 (ja
Inventor
一隆 鈴木
Kazutaka Suzuki
一隆 鈴木
宅見 宗則
Munenori Takumi
宗則 宅見
直俊 袴田
Naotoshi Hakamata
直俊 袴田
豊田 晴義
Haruyoshi Toyoda
晴義 豊田
克宜 松井
Katsunori Matsui
克宜 松井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hamamatsu Photonics KK
Original Assignee
Hamamatsu Photonics KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hamamatsu Photonics KK filed Critical Hamamatsu Photonics KK
Priority to JP2015108365A priority Critical patent/JP6535223B2/ja
Priority to US15/163,921 priority patent/US20160345818A1/en
Priority to CN201610362538.6A priority patent/CN106175801B/zh
Publication of JP2016224597A publication Critical patent/JP2016224597A/ja
Application granted granted Critical
Publication of JP6535223B2 publication Critical patent/JP6535223B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/0016Operational features thereof
    • A61B3/0025Operational features thereof characterised by electronic signal processing, e.g. eye models
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1103Detecting eye twinkling
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2576/00Medical imaging apparatus involving image processing or analysis
    • A61B2576/02Medical imaging apparatus involving image processing or analysis specially adapted for a particular organ or body part
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Physics & Mathematics (AREA)
  • Ophthalmology & Optometry (AREA)
  • Pathology (AREA)
  • Dentistry (AREA)
  • Physiology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Social Psychology (AREA)
  • Psychology (AREA)
  • Educational Technology (AREA)
  • Developmental Disabilities (AREA)
  • Psychiatry (AREA)
  • Child & Adolescent Psychology (AREA)
  • Hospice & Palliative Care (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Image Analysis (AREA)
  • Eye Examination Apparatus (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】対象者の瞬きの動作に関する評価値を高速かつ高精度に得ること。
【解決手段】瞬目計測方法は、光検出器を用いて、対象者の眼瞼及び眼を含む部位からの反射光を検出し、当該反射光の画像信号を出力するステップと、画像信号に基づいて、その部位における眼に生じる角膜反射光の位置と、部位における眼瞼の位置とを算出するステップと、眼瞼の位置を角膜反射光の位置を基に補正するステップと、当該補正された眼瞼の位置の時間変化を基に、瞬きに関する特徴量を算出するステップと、を備える。
【選択図】図6

Description

本発明の一側面は、対象者の瞬きを計測する瞬目計測方法、瞬目計測装置、及び瞬目計測プログラムに関する。
従来から、ドライバーの眠気等を検出するために、ビデオカメラを用いて瞬きを検出して眠気を定量化する装置が開発されている。例えば、下記特許文献1に記載の装置では、CCDカメラによって得られた顔画像から目領域を検索し抽出位置を特定し、特定された抽出位置に基づいて目を含む小領域画像を目画像として抽出し、その目画像を基に瞼の開度を測定する。
特開平7−313459号公報
しかしながら、上記特許文献1に記載の装置によれば、複数の顔画像を連続して取得した場合には連続して目領域の抽出が必要となるため、高速な検出処理を行うには限界がある。そのため、対象者の瞬きの動作に関する評価値をリアルタイムに精度良く得ることは困難である。
そこで、本発明は、かかる課題に鑑みて為されたものであり、対象者の瞬きの動作に関する評価値を高速かつ高精度に得ることが可能な瞬目計測方法及び瞬目計測装置を提供することを目的とする。
上記課題を解決するため、本発明の一形態に係る瞬目計測方法は、光検出器を用いて、対象者の瞼及び眼を含む部位からの光を検出し、当該光の検出信号を出力するステップと、検出信号に基づいて、部位における眼に生じる角膜反射光の位置と、部位における瞼の位置とを算出するステップと、瞼の位置を角膜反射光の位置を基に補正するステップと、当該補正された瞼の位置の時間変化を基に、瞬きに関する特徴量を算出するステップと、を備える。
或いは、本発明の他の形態に係る瞬目計測装置は、対象者の瞼及び眼を含む部位からの光を検出し、当該光の検出信号を出力する光検出器と、検出信号に基づいて、部位における眼に生じる角膜反射光の位置と、部位における瞼の位置とを算出する位置算出部と、瞼の位置を角膜反射光の位置を基に補正する位置補正部と、当該補正された瞼の位置の時間変化を基に、瞬きに関する特徴量を算出する特徴量算出部と、を備える。
或いは、本発明の他の形態に係る瞬目計測プログラムは、対象者の瞼及び眼を含む部位の画像を用いて、対象者の瞬目を計測する瞬目計測装置に備えられるプロセッサを、画像に基づいて、部位における眼に生じる角膜反射光の位置と、部位における瞼の位置とを算出する位置算出部、瞼の位置を角膜反射光の位置を基に補正する位置補正部、及び当該補正された瞼の位置の時間変化を基に、瞬きに関する特徴量を算出する特徴量算出部、として機能させる。
上記形態の瞬目計測方法、瞬目計測装置、及び瞬目計測プログラムによれば、対象者の瞼及び眼を含む部位からの光の検出信号(画像)が生成され、その検出信号(画像)を基に当該部位における角膜反射光の位置と瞼の位置とが算出された後、その瞼の位置が角膜反射光の位置を基に補正され、その補正された瞼の位置の時間変化から、瞬きに関する特徴量が算出される。これにより、対象者の眼の装置に対する相対的位置が変化した場合であっても瞼自体の動きに対応した瞼位置の時間変化を簡易な計算で算出することができる。その結果、対象者の瞼の位置の時間変化から瞬きに関する特徴量を高速かつ高精度に得ることができる。
特徴量は、瞬目時の瞼の速度に関する特徴量を含む、ことが好適である。かかる特徴量を処理対象とすれば、対象者の瞼の速度に関する特徴量を高速かつ高精度に得ることができる。
本発明の一側面によれば、対象者の瞬きの動作に関する評価値を高速かつ高精度に得ることができる。
本発明の好適な一実施形態に係る瞬目計測システム1の概略構成を示すブロック図である。 図1の位置算出部11による上眼瞼の位置の算出イメージを示す図である。 図1の位置算出部11によって算出された眼瞼の位置の時間変化、及び図1の移動量算出部13によって算出された角膜反射光の位置の時間変化の一例を示すグラフである。 図3に示す時刻T1,T2,T3に対応するタイミングで取得される画像信号のイメージを示す図である。 図1の位置補正部15によって算出された眼瞼の位置の時間変化の一例を示すグラフである。 図1の瞬目計測システム1による瞬目特徴量の算出動作の手順を示すフローチャートである。
以下、図面を参照しつつ本発明に係る瞬目計測装置、瞬目計測方法、及び瞬目計測プログラムの好適な実施形態について詳細に説明する。なお、図面の説明においては同一又は相当部分には同一符号を付し、重複する説明を省略する。
図1は、本発明の好適な一実施形態に係る瞬目計測システム1の概略構成を示すブロック図である。図1に示す瞬目計測システム1は、所定のフレームレートで時間的に連続して被験者(対象者)の眼Eからの光を検出し、被験者の眼の瞬きに関する評価値を定量化して出力するように構成されている。この瞬目計測システム1は、対象者の眼Eに対して照明光を照射する光源3と、光源3を制御する照明制御装置5と、眼Eからの光を検出する光検出器7と、光検出器7から出力される検出信号を処理するプロセッサ9とを備えている。ここで、瞬目計測システム1は、被験者の左右の2つの眼を同時に計測可能に構成されていてもよいし、被験者の左右の2つの眼を別々に計測可能に構成されていてもよい。左右の眼を同時に計測する構成の場合には、それぞれの眼の検出用に光検出器7を2つ備えていてもよいし、2つの眼を同時に検出する光検出器7を1つとし、プロセッサ9において検出信号を2つの眼に対応する信号に分けて処理するようにしてもよい。
光源3は、被験者の眼Eを上眼瞼及び下眼瞼を含むその周辺を含めて照らす照明手段であり、例えば赤外光を発生させるLEDによって好適に構成される。光源3が眼E及びそれらの周辺に赤外光を照射することにより、眼E及びそれらの周辺において赤外光が反射して光像が生じる。また、光源3の照射により眼Eに角膜反射光も生じさせることができる。光源3は、眼E及びその周辺を含む眼部照明用の照明光と、角膜反射光生成用の照明光とを、別々に照射可能にされていてもよいし、同時に照射可能にされていてもよい。別々に照射する構成は、角膜反射光生成用照明光を調整することで角膜反射光の照度、形状、及び大きさの調整が可能となるため好適である。この場合、後述する照明制御装置5によって、被験者の瞼の動きの計測前あるいは計測中に、角膜反射光の輝度分布がガウシアン分布に近づき、その照度が光検出器7のダイナミックレンジの幅に収まる範囲となり、かつ、その最大輝度が光検出器7のダイナミックレンジを超えないように調整される。また、別々に照射する構成が採用されている場合は、照明制御装置5によって、眼部照明用の照明光と角膜反射光生成用の照明光とが交互に点灯するように制御され、その点灯タイミングを示す信号がプロセッサ9に出力され、プロセッサ9において光検出器7から出力された2つの照明光の点灯タイミングにおける検出信号が別々に処理される。これに対して、同時に照射する構成においては、眼部照明用の照明光と角膜反射生成用の照明光とを異なる波長で照射可能にされていることが好適である。この場合、光検出器7における光の検出時、あるいはプロセッサ9における検出信号の解析時に、波長によって両者の照明光による反射光を区別してそれぞれの反射光に応じた検出信号が別々に処理される。この光源3は、角膜反射光を下眼瞼のまつげあるいは上眼瞼の影響を受けずに観測可能にするために、被験者の下側から照射可能な位置に配置されている。これにより、生成される角膜反射光の位置が瞳孔領に下側になるため、瞬目時での角膜反射光の観測時間を長くでき、眼瞼下垂などの症状を有する被験者に対しても角膜反射光を安定して計測できる。
なお、光源3としては赤外光LEDに限らず他の種類の光源を用いることができる。例えば、近赤外光を発する光源であってもよいし、ランプ光源に赤外光或いは近赤外光を通過させるフィルムを組み合わせた構成であってもよいし、安全基準を満たしたレーザー光を直接光として或いは間接光として利用する構成であってもよい。また、適切な照度を実現するための構成として、複数の照明を併用した構成のほか、発光部にレンズが組み込まれた構成によって、照明光の散乱を抑え、所望の領域を効率よく照明するように構成されてもよい。また、空間変調デバイスを用いてレーザー光のエネルギーを所望の照明形状に整え、効率的な眼部照明を行う構成を採用してもよい。
照明制御装置5は、被験者の眼Eを所定の明るさで照らすように光源3の光量を制御する制御ユニットである。併せて、照明制御装置5は、被験者の眼Eの瞼位置検出或いは角膜反射光検出に適した光量、照明光波長、反射光形状が得られるように、光源3の光量及び発光波長を調整及び制御する。さらに、照明制御装置5は、プロセッサ9と電気的に接続されており、プロセッサ9による同期制御により、被験者の眼Eに対する発光タイミングを制御する。また、照明制御装置5は、プロセッサ9或いは光検出器7によって被験者の眼Eが光検出器7の計測範囲内に収まっていることを判定可能にするために、あるいは、プロセッサ9或いは光検出器7による被験者の眼Eの位置合わせの機能を実現するために、光源3の照明光を計測開始前に点滅させるように制御してもよい。
光検出器7は、所定のフレームレートで上眼瞼及び下眼瞼を含む眼Eの部位からの反射光を検出して二次元の画像信号(検出信号)を生成及び出力する撮像装置である。このような撮像装置としては、画像の取得から画像処理まで行うビジョンチップを有するビジョンカメラが挙げられる。この光検出器7は、被験者の瞼の動きの検出に最適な仕様又は設定(例えば、波長感度、光量感度、レンズの画角、レンズの倍率、及びフレームレート等)を有する。例えば、光検出器7は、一般的なビデオカメラよりも高速なフレームレートでの撮影が可能な構成であることが好ましい。瞬目時の眼瞼動作は200msecほどで行われるため、フレームレートが10Hz程であれば大まかな眼瞼動作の挙動を捉えることができるが、微小な瞼動作、あるいは閉瞼時の変則的動作を検出可能にするためには、60Hz以上のフレームレートのものが用いられる。また、レンズの画角としては、1mm未満の眼瞼運動が捉えられるように設定される。例えば、画角は、光検出器7の画素数と、露光時間、ダイナミックレンジ、照明光の照度、及びレンズの明るさなどの複合要素から判断される眼部の明るさと、それらのパラメータから算定される画像信号のデータの保存領域のサイズとを勘案して、画像信号の画面の縦方向に眼部全体が収まるように設定される。また、光検出器7として高解像度を有するカメラを用いる場合には、画角を広角に設定し、光検出器7あるいはプロセッサ9において必要な領域のみを切り出して保存あるいは解析してもよい。
ここで、光検出器7としては、ビデオカメラ以外を用いてもよい。例えば、光検出器7として、プロファイルセンサ等の輝点の位置を検出して位置情報を出力するセンサのほか、フォトダイオード、フォトディテクタ、リニアセンサ、或いはエリアセンサなどのより簡易なセンサを用いてもよい。瞬目を検出内容とする場合であって、光検出器7としてビデオカメラを用いる場合には、エッジ抽出、ハフ変換、二値化等の画像処理技術を用いた眼瞼位置抽出処理、又は、画像信号から計算した輝度プロファイルから眼瞼位置を求める処理等が行われる。その代わりに、光検出器7として、点線状、線状、帯状あるいはそれに類する形状のマーカーを眼部に照射・投影する照明部(例えば、ラインレーザー、LEDアレイ等)と、皮膚上での散乱光を捉えることなく眼表面上での反射を捉えることで瞼位置を抽出する検出部(例えば、プロファイルセンサ、フォトダイオード、フォトディテクタ、リニアセンサ、エリアセンサ等)とを含む構成を採用してもよい。
プロセッサ9は、光検出器7から出力された画像信号を処理するCPUとRAM及びROM等のメモリとを内蔵する画像処理プロセッサであり、パーソナルコンピュータ、又はスマートフォン、タブレット型コンピュータに代表される携帯端末等によって構成される。このプロセッサ9は、機能的な構成要素として、位置算出部11、移動量算出部(位置算出部)13、位置補正部15、及び特徴量算出部17を含んでいる。これらの位置算出部11、移動量算出部13、位置補正部15、及び特徴量算出部17は、プロセッサ9内のハードウェアによって実現されてもよいし、プロセッサ9内に記憶されたソフトウェア(瞬目計測プログラム)によって実現されてもよい。また、これらの機能部の一部あるいは全部は光検出器7内に具備されていてもよい。また、位置算出部11、移動量算出部13、位置補正部15、及び特徴量算出部17の機能は、同じプロセッサで実現してもよいし、異なるプロセッサによって実現してもよい。プロセッサ9を位置算出部11、移動量算出部13、位置補正部15、及び特徴量算出部17として機能させるプログラムは、プロセッサ9内の記憶装置(記憶媒体)に記憶されてもよいし、プロセッサ9と電気的に接続される記憶媒体に記憶されてもよい。
プロセッサ9の位置算出部11は、光検出器7から出力された画像信号に基づいて、被験者の眼Eの上眼瞼及び下眼瞼の位置を算出する。位置算出部11は、光検出器7から所定のフレームレートで出力される複数の画像信号を対象に処理することにより、上眼瞼及び下眼瞼の位置の時間変化を算出する。上眼瞼及び下眼瞼の位置は、画像信号を対象にしたエッジ抽出やハフ変換等の画像処理、又は、画像信号から計算した輝度プロファイルから眼瞼位置を求める処理(特開2012-085691号公報参照)によって算出される。図2は、位置算出部11による上眼瞼の位置の算出イメージを示し、(a)は、処理対象の画像信号の例、(b)は、(a)の画像信号を対象に算出された輝度プロファイルの例、(c)は、(a)の画像信号を対象に算出された上眼瞼の位置をそれぞれ示している。このように、位置算出部11は、横方向の位置に対応したX座標毎及び縦方向の位置に対応したY座標毎に二次元で配列された画素を有する画像信号(図2(a))を対象にして、それぞれのY座標ごとに画像信号内のX座標の画素を積算することにより輝度プロファイルを算出する(図2(b))。そして、位置算出部11は、輝度プロファイルにおける積算輝度値が閾値Vth以上に達するY座標上の縦方向位置を上眼瞼の位置として算出する。この閾値Vthは輝度値の総和から適応的に値が自動調整されるほか、画像処理によって検出された上眼瞼位置座標の輝度値から設定してもよい。また、位置算出部11は、下眼瞼の位置を同様にして算出する。
プロセッサ9の移動量算出部13は、光検出器7から出力された画像信号に基づいて、被験者の眼E上に生じる角膜反射光の位置を算出する。角膜反射光は皮膚表面からの散乱光による皮膚画像又は皺画像よりも明るく、角膜反射光の信号強度の揺らぎも小さいという性質を利用して、移動量算出部13は、画像信号を対象にした重心演算によって画像信号内の2次元座標(X座標及びY座標)における角膜反射光の位置を算出する。さらに、移動量算出部13は、光検出器7から所定のフレームレートで出力される複数の画像信号を対象に処理することにより、角膜反射光の位置の時間変化を算出し、この角膜反射光の位置の時間変化を、被験者の眼部の光検出器7に対する位置の移動量として取得する。
ここで、移動量算出部13は、被験者の瞬目動作によって角膜反射光が消失する状況においては、次のように処理する。具体的には、角膜反射光として検出された領域を対象に、長軸と短軸との比、モーメント値等の楕円特徴量を計算し、その楕円特徴量が閾値以上になった否かで、検出した角膜反射光の真偽を判定する。その他、角膜反射光の領域の光量が閾値以上に変化したか否かに基づいて、画像信号上の閾値以上の輝点の総数、又はその増減に基づいて、角膜反射光の真偽を判定してもよいし、隣接した輝点の集合の面積を基にその真偽を判定してもよい。これにより、瞬目動作中において眼瞼が角膜を覆うことによる角膜反射光の消失だけでなく、皮膚や化粧による乱反射に対して、角膜反射光の検出位置の確度を向上させることができる。
プロセッサ9の位置補正部15は、位置算出部11によって算出された眼瞼の位置を移動量算出部13によって算出された眼部位置の移動量を基に補正する。具体的には、眼瞼の位置の時間変化を対象に、それぞれの時刻における眼瞼の位置に対して、その時刻に対応する眼部位置の移動量分を差し引くように補正する。このようにすることで、算出された眼瞼の位置の変化分に対して被験者の眼部の動きの分を打ち消すことができるので、眼瞼自体の動きを反映した眼瞼の位置の時間変化を求めることができる。ここで、位置補正部15は、真の角膜反射光の位置が得られていないタイミングにおいては、眼球位置等の他の眼部の特徴量の位置変化で眼瞼の位置を補正してもよい。
図3は、位置算出部11によって算出された眼瞼の縦方向位置の時間変化及び移動量算出部13によって算出された角膜反射光の縦方向位置の時間変化の一例を示すグラフである。眼瞼の位置の時間変化を実線で、角膜反射光の位置の時間変化を点線で示している。また、図4(a),(b),(c)には、それぞれ、図3に示す時刻T1,T2,T3に対応するタイミングで取得される画像信号のイメージを示している。また、図5は、図3に示すデータを基に位置補正部15によって補正された眼瞼の縦方向位置の時間変化を示すグラフである。これらの図に示すように、時刻T1から時刻T2にかけて眼部が上方に移動し、その後時刻T3にかけて眼部が元の位置に戻っている様子が画像信号で検出されており、それに対応して角膜反射光の位置の変化も算出されている(図3の点線)。一方で、算出される眼瞼の位置においては、時刻T3において約1mmの幅の眼瞼運動が反映されるとともに眼部の動きに伴う変化も反映されてしまっている(図3の実線)。時刻T2の眼瞼位置の移動も時刻T3の眼瞼位置の移動もいずれも眼瞼位置の変化として検出されるが、実際に被験者が行った眼瞼の動きは時刻T3の動きのみである。眼瞼位置の補正機能を有さないシステムの場合、振幅、期間、及び速度の異なる様々なパターンの被験者の体の動きと、振幅、期間、及び速度が様々な瞬き動作とを区別することは困難であり、その結果、瞬き動作ではない信号がノイズ成分として含まれてしまう傾向にある。これに対して、位置補正部15によれば、被験者の体の動き等に起因する眼部の動きの影響を取り除いた眼瞼自体の動きを反映した眼瞼位置を得ることができる(図5の実線)。なお、時刻T3における角膜反射光の位置は上方向に移動している(図3の点線)。これは、瞬目中の視線方向が変化したことによるものである。角膜反射光の位置の変化から視線方向の変化と体の移動とを分離することはできないが、視線の移動による角膜反射光の位置変化は微小であるため、眼瞼の位置の時間変化から角膜反射光の位置変化を差し引いても位置精度に対する影響は少ない。精度に対する影響を最小限にしたい場合には、位置補正部15は、補正後の眼瞼の位置の経時変化から瞬目動作期間を抽出し、当該期間においては角膜反射光の位置の時間変化に基づく補正は適用しないように再計算を行ってもよい。補正の実施期間と補正の未実施期間との間の境目で発生する不連続性は、眼瞼位置の経時変化を求める際に、速度の時間変化及び位置の時間差分量を積分するように処理することで解消される。
ここで、体の動きはゆっくりした動作であるため、算出した眼瞼位置の時間変化からバイパスフィルタなどを利用してその動作の影響を除去することも考えられる。図5の点線のグラフは、このような手法により補正された眼瞼位置の時間変化を示している。このようにすれば、通常の瞬目のような約10mmの幅の眼瞼運動の検出には問題が少ないが、1mm幅程度の小さな眼瞼運動の検出精度が低下してしまう。つまり、バイパスフィルタを利用することにより、もともと小さな眼瞼運動の振幅が小さくなってしまうという問題のほか、体動の影響の不完全な除去によって残りの動作との分離が数値解析だけでは実現できないという問題が発生する。これに対して、位置補正部15による補正方法によれば、眼部の移動による影響を取り除いた位置情報を効率的に得ることができる。
なお、位置補正部15は、眼瞼の位置を算出する際に、固視微動の影響を補正するようにしてもよい。一般的に、固視微動には、100Hz前後の周波数の1μm程度(20〜40秒角)の振幅の微細な動きであるトレモア、ゆっくりとずれていく動きであるドリフト、ドリフト後に発生する0.04度角〜2分角の衝動性の眼球運動(跳躍運動)であるフリック(マイクロサッカードともいう。)が含まれる。位置補正部15は、画像信号を基に被験者の眼球の動きの速度の時間変化を検出し、それを基に眼球の急峻な動きであるフリックの期間を抽出し、その期間における眼球速度が所定の閾値を超えたタイミングにおいて、フリックによる影響を打ち消すように眼瞼の位置を補正する。また、位置補正部15は、ドリフト運動の影響を取り除くために、周波数フィルタを用いて眼瞼位置の時間変化を処理してもよい。
プロセッサ9の特徴量算出部17は、位置補正部15から出力された眼瞼の位置の時間化を基に、被験者の瞬きに関する特徴量を算出した後、その特徴量を出力する。例えば、算出する特徴量としては、閉瞼時における平均速度(閉瞼平均速度)、最大速度(閉瞼最大速度)、閉瞼距離、上眼瞼移動距離、及び下眼瞼移動距離と、閉瞼率と、閉瞼動作時の所要時間(閉瞼期間)と、閉眼期間と、開瞼時の平均速度(開瞼平均速度)、最大速度(開瞼最大速度)、開瞼動作時の所要時間(開瞼期間)、開瞼距離、上眼瞼移動距離、下眼瞼移動距離と、瞬目頻度と、瞬目と瞬目との時間間隔、変則的な動作を行う瞬目の頻度、特定の眼瞼運動の頻度とのいずれかを含む瞬目特徴量を算出する。そして、特徴量算出部17は、これらの特徴量を基にした解析結果を、ネットワークを介して、外部装置に出力する。瞬目特徴量を解析する際のパラメータとしては、瞬目特徴量の平均、分散、標準偏差、尖度、歪度などの統計量や中央値、四分位点、最大値、最小値、最頻値、最大値と最小値などである。また、特徴量算出部17は、プロセッサ9に直接接続されたディスプレイ装置、メモリ等の出力手段に直接解析結果を出力してもよい。解析結果としては、特徴量そのもの以外にも、内部のデータベースと比較した結果や、ネットワークを介して接続された外部のデータベースと比較した結果が出力されてもよいし、眼瞼の位置の時間変化を示すデータ、眼瞼の速度の時間変化を示すデータ、処理対象の画像信号を表すデータが併せて出力されてもよい。
次に、瞬目計測システム1による瞬目特徴量の算出動作の詳細手順について説明するとともに、本実施形態に係る瞬目計測方法について詳述する。図6は、瞬目計測システム1による瞬目特徴量の算出動作の手順を示すフローチャートである。
まず、図6を参照して、計測動作が開始されると、光検出器7により眼瞼を含む眼Eの部位の画像信号が時間的に連続して取得される(ステップS01)。次に、移動量算出部13によって、画像信号を基に被験者の眼Eの角膜上の角膜反射光の位置の時間変化が算出される(ステップS02)。その結果から、移動量算出部13により、被験者の眼部の移動量の時間変化が算出される(ステップS03)。その後、位置算出部11により、被験者の眼瞼の位置の時間変化が算出される(ステップS04)。次に、位置補正部15により、眼瞼の位置の時間変化が、眼部の移動量の時間変化を基に補正される(ステップS05)。そして、特徴量算出部17により、補正後の眼瞼の位置の時間変化を基に、瞬目特徴量が算出及び出力される(ステップS06)。ここで、ステップS02の角膜反射光の位置の算出からステップS05における補正までの処理は、光検出器7による計測中にリアルタイムで行われてもよいし、その処理の一部あるいは全部が計測後に行われてもよい。また、S01の眼部周辺部位の画像取得後の3つのステップS02,S03,S04はそれぞれ独立に行ってもよいし、並行して同時に行ってもよい。
以上説明した瞬目計測システム1によれば、被験者の眼瞼及び眼Eを含む部位からの反射光の画像信号が生成され、その画像信号を基に当該部位における角膜反射光の位置と眼瞼の位置とが算出された後、その眼瞼の位置が角膜反射光の位置を基に補正され、その補正された眼瞼の位置の時間変化から、瞬きに関する特徴量が算出される。これにより、被験者の眼Eの装置に対する相対的位置が変化した場合であっても眼瞼自体の動きに対応した眼瞼位置の時間変化を簡易な計算で算出することができる。その結果、被験者の眼瞼の位置の時間変化から瞬きに関する特徴量を高速かつ高精度に得ることができる。
瞬目特徴量として瞬目の頻度や瞬目の期間といった特徴量であればビデオカメラで取得した画像の差分画像からも算出することができる。しかしながら、閉瞼時最大速度又は開瞼時最大速度等の特徴量、閉瞼動作を一時停止した後に数msecで閉瞼を再開したり開瞼動作に移行するような変則的動作、開瞼時の変則的動作、あるいは微小な眼瞼運動等の眼瞼動作の過程を数値化する特徴量を、安定して取得することは難しい。このような問題は、眼瞼位置の誤検出、瞬目動作の誤検出に繋がり、瞬き動作の定量解析の信頼性を低下させてしまい、パーキンソン病患者にみられる1mmほどの微小な眼瞼運動の検出精度を左右する問題である。本実施形態によれば、このような特徴量に関しても安定した高精度での取得を可能にする。
また、被験者の視線が動き、例えば、計測中に上方に視線が動くと、眼を覆う位置にある眼瞼の形状は変化し、それが微小眼瞼運動として誤検出される傾向にある。また、被験者の頭部が動くとカメラの検出範囲内における眼部や皮膚部の位置が変化することで眼瞼位置が誤検出され、その結果、瞬き動作も誤検出される傾向にある。本実施形態の瞬目計測システム1によれば、そのような誤検出が防止される。
なお、本発明は、前述した実施形態に限定されるものではない。
上述した瞬目計測システム1は、補正された眼瞼位置の検出結果を得るための構成として、以下のような構成を採用してもよい。
例えば、プロセッサ9で算出した被験者の眼部の移動量を基に、光検出器7から出力される画像信号の撮像範囲が補正されてもよい。このような補正は、光検出器7の撮影画角の補正、画像信号の読み出し位置の補正、レンズのフォーカス調整、光検出器7と被験者との相対的位置の調整等によって行われる。光検出器7と被験者との相対的位置の調整は、光検出器7をカメラ本体と光学系ユニットを同一ユニットで構成し、そのユニットを移動させる構成により実現される。また、レンズを含む光学系ユニットを駆動させる構成を採用してもよいし、カメラの前面に配置されたMEMSミラーやそれに類するものを使用し、カメラに入射する像の位置を調整可能な構成を採用してもよい。これにより、画像処理による補正を行うことなく光検出器7側を調整することで、眼瞼の動きに対応した眼瞼位置を得ることができる。
また、プロセッサ9で算出した被験者の眼部の移動量を基に、プロセッサ9において画像信号中の眼瞼位置の算出対象領域が補正されてもよい。例えば、プロセッサ9において、光検出器7から出力された画像信号を対象に位置補正及び拡大・縮小処理を含む画像処理が施されることにより眼瞼位置の算出対象領域が補正される。これにより、光検出器7側を調整することなく画像信号中の範囲が調整された算出対象領域を用いることで、眼瞼の動きに対応した眼瞼位置を得ることができる。
1…瞬目計測システム、3…光源、5…照明制御装置、7…光検出器、9…プロセッサ、11…位置算出部、13…移動量算出部(位置算出部)、15…位置補正部、17…特徴量算出部、E…眼。

Claims (6)

  1. 光検出器を用いて、対象者の瞼及び眼を含む部位からの光を検出し、当該光の検出信号を出力するステップと、
    前記検出信号に基づいて、前記部位における眼に生じる角膜反射光の位置と、前記部位における瞼の位置とを算出するステップと、
    前記瞼の位置を前記角膜反射光の位置を基に補正するステップと、
    当該補正された瞼の位置の時間変化を基に、瞬きに関する特徴量を算出するステップと、
    を備える瞬目計測方法。
  2. 前記特徴量は、瞬目時の瞼の速度に関する特徴量を含む、
    請求項1記載の瞬目計測方法。
  3. 対象者の瞼及び眼を含む部位からの光を検出し、当該光の検出信号を出力する光検出器と、
    前記検出信号に基づいて、前記部位における眼に生じる角膜反射光の位置と、前記部位における瞼の位置とを算出する位置算出部と、
    前記瞼の位置を前記角膜反射光の位置を基に補正する位置補正部と、
    当該補正された瞼の位置の時間変化を基に、瞬きに関する特徴量を算出する特徴量算出部と、
    を備える瞬目計測装置。
  4. 前記特徴量は、瞬目時の瞼の速度に関する特徴量を含む、
    請求項3記載の瞬目計測装置。
  5. 対象者の瞼及び眼を含む部位の画像を用いて、前記対象者の瞬目を計測する瞬目計測装置に備えられるプロセッサを、
    前記画像に基づいて、前記部位における眼に生じる角膜反射光の位置と、前記部位における瞼の位置とを算出する位置算出部、
    前記瞼の位置を前記角膜反射光の位置を基に補正する位置補正部、及び
    当該補正された瞼の位置の時間変化を基に、瞬きに関する特徴量を算出する特徴量算出部、
    として機能させる瞬目計測プログラム。
  6. 前記特徴量は、瞬目時の瞼の速度に関する特徴量を含む、
    請求項5記載の瞬目計測プログラム。
JP2015108365A 2015-05-28 2015-05-28 瞬目計測方法、瞬目計測装置、及び瞬目計測プログラム Active JP6535223B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015108365A JP6535223B2 (ja) 2015-05-28 2015-05-28 瞬目計測方法、瞬目計測装置、及び瞬目計測プログラム
US15/163,921 US20160345818A1 (en) 2015-05-28 2016-05-25 Eyeblink measurement method, eyeblink measurement apparatus, and non-transitory computer-readable medium
CN201610362538.6A CN106175801B (zh) 2015-05-28 2016-05-26 眨眼测量方法、眨眼测量装置及眨眼测量程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015108365A JP6535223B2 (ja) 2015-05-28 2015-05-28 瞬目計測方法、瞬目計測装置、及び瞬目計測プログラム

Publications (2)

Publication Number Publication Date
JP2016224597A true JP2016224597A (ja) 2016-12-28
JP6535223B2 JP6535223B2 (ja) 2019-06-26

Family

ID=57397759

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015108365A Active JP6535223B2 (ja) 2015-05-28 2015-05-28 瞬目計測方法、瞬目計測装置、及び瞬目計測プログラム

Country Status (3)

Country Link
US (1) US20160345818A1 (ja)
JP (1) JP6535223B2 (ja)
CN (1) CN106175801B (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9933634B2 (en) 2014-06-13 2018-04-03 Verily Life Sciences Llc Apparatus, system and method for gaze tracking based on photodetection by an eye-mountable device
KR102412290B1 (ko) 2014-09-24 2022-06-22 프린스톤 아이덴티티, 인크. 생체측정 키를 이용한 모바일 장치에서의 무선 통신 장치 기능의 제어
MX2017007139A (es) 2014-12-03 2017-11-10 Princeton Identity Inc Sistema y metodo para un complemento biometrico de dispositivo movil.
EP3403217A4 (en) 2016-01-12 2019-08-21 Princeton Identity, Inc. SYSTEMS AND METHODS FOR BIOMETRIC ANALYSIS
US10366296B2 (en) 2016-03-31 2019-07-30 Princeton Identity, Inc. Biometric enrollment systems and methods
US10373008B2 (en) 2016-03-31 2019-08-06 Princeton Identity, Inc. Systems and methods of biometric analysis with adaptive trigger
KR101951565B1 (ko) * 2016-10-18 2019-02-22 서울대학교산학협력단 자세 및 작업 감지를 통한 안구 건조증 경고 시스템
WO2018187337A1 (en) 2017-04-04 2018-10-11 Princeton Identity, Inc. Z-dimension user feedback biometric system
KR102573482B1 (ko) 2017-07-26 2023-08-31 프린스톤 아이덴티티, 인크. 생체 보안 시스템 및 방법
JP7107725B2 (ja) * 2018-04-10 2022-07-27 浜松ホトニクス株式会社 眼球運動特徴量算出システム、眼球運動特徴量算出方法及び眼球運動特徴量算出プログラム
CN113836973A (zh) * 2020-06-23 2021-12-24 中兴通讯股份有限公司 终端控制方法、装置、终端及存储介质
US11806078B1 (en) 2022-05-01 2023-11-07 Globe Biomedical, Inc. Tear meniscus detection and evaluation system

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0738873A (ja) * 1993-07-23 1995-02-07 Atr Tsushin Syst Kenkyusho:Kk 人物像の実時間認識合成方法
JPH0793700A (ja) * 1993-09-22 1995-04-07 Matsushita Electric Ind Co Ltd 運転者状態監視装置
JPH07313459A (ja) * 1994-05-20 1995-12-05 Toyota Central Res & Dev Lab Inc まぶたの開度検出装置
JP2001005952A (ja) * 1999-06-24 2001-01-12 Mitsubishi Motors Corp 瞬目状態検出方法
US20050008201A1 (en) * 2001-12-03 2005-01-13 Yill-Byung Lee Iris identification system and method, and storage media having program thereof
JP2008234208A (ja) * 2007-03-19 2008-10-02 Toyota Central R&D Labs Inc 顔部位検出装置及びプログラム
JP2012085691A (ja) * 2010-10-15 2012-05-10 Hamamatsu Photonics Kk 瞬目計測装置及び瞬目計測方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6542081B2 (en) * 1996-08-19 2003-04-01 William C. Torch System and method for monitoring eye movement
AUPQ896000A0 (en) * 2000-07-24 2000-08-17 Seeing Machines Pty Ltd Facial image processing system
JP2002224037A (ja) * 2001-02-07 2002-08-13 Topcon Corp 眼科装置
WO2005065406A2 (en) * 2003-12-30 2005-07-21 Ep Acquisition, Inc. Protective eyewear
JP5180997B2 (ja) * 2010-07-14 2013-04-10 株式会社豊田中央研究所 まぶた検出装置及びプログラム
CN102125429A (zh) * 2011-03-18 2011-07-20 上海交通大学 基于眼电信号的警觉度检测系统
WO2014179558A1 (en) * 2013-05-01 2014-11-06 Musc Foundation For Research Development Monitoring neurological functional status
KR102187837B1 (ko) * 2013-05-16 2020-12-07 삼성전자 주식회사 컴퓨터의 입력 장치 및 이를 이용한 입력 방법과 그 시스템
JP6256165B2 (ja) * 2014-04-09 2018-01-10 富士通株式会社 視線検出装置、視線検出プログラム及び視線検出方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0738873A (ja) * 1993-07-23 1995-02-07 Atr Tsushin Syst Kenkyusho:Kk 人物像の実時間認識合成方法
JPH0793700A (ja) * 1993-09-22 1995-04-07 Matsushita Electric Ind Co Ltd 運転者状態監視装置
JPH07313459A (ja) * 1994-05-20 1995-12-05 Toyota Central Res & Dev Lab Inc まぶたの開度検出装置
JP2001005952A (ja) * 1999-06-24 2001-01-12 Mitsubishi Motors Corp 瞬目状態検出方法
US20050008201A1 (en) * 2001-12-03 2005-01-13 Yill-Byung Lee Iris identification system and method, and storage media having program thereof
JP2008234208A (ja) * 2007-03-19 2008-10-02 Toyota Central R&D Labs Inc 顔部位検出装置及びプログラム
JP2012085691A (ja) * 2010-10-15 2012-05-10 Hamamatsu Photonics Kk 瞬目計測装置及び瞬目計測方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
鈴木一隆, 外3名: ""インテリジェントビジョンセンサを用いた高速瞬目計測装置"", 映像情報メディア学会技術報告, vol. 第33巻, 第45号, JPN6019014298, 29 October 2009 (2009-10-29), JP, pages 1 - 4, ISSN: 0004021877 *

Also Published As

Publication number Publication date
JP6535223B2 (ja) 2019-06-26
CN106175801A (zh) 2016-12-07
US20160345818A1 (en) 2016-12-01
CN106175801B (zh) 2021-10-22

Similar Documents

Publication Publication Date Title
JP6535223B2 (ja) 瞬目計測方法、瞬目計測装置、及び瞬目計測プログラム
US11543883B2 (en) Event camera system for pupil detection and eye tracking
CN107533362B (zh) 眼睛跟踪设备和用于操作眼睛跟踪设备的方法
KR101477591B1 (ko) 광학 단층촬영 화상 촬상장치 및 그 제어 방법
JP6530239B2 (ja) 両眼計測装置、両眼計測方法、及び両眼計測プログラム
US20110170061A1 (en) Gaze Point Tracking Using Polarized Light
KR100917240B1 (ko) 전방 안구 부분에서의 거리 측정 방법
US20110170060A1 (en) Gaze Tracking Using Polarized Light
EP2676441A2 (en) Photorefraction ocular screening device and methods
US10722112B2 (en) Measuring device and measuring method
JP2008104628A (ja) 眼球の結膜強膜撮像装置
JP6957048B2 (ja) 眼部画像処理装置
JP6504788B2 (ja) 瞳孔検出用光源装置の制御方法
KR20140023385A (ko) 인간의 안구를 검사하거나 성형하기 위한 기구
JP6864914B2 (ja) プルキンエ計測器及び自動評価方法
JP6227996B2 (ja) 計測装置及び計測方法
US10130249B2 (en) Inspection apparatus, image processing apparatus, method of operating inspection apparatus, image processing method, and recording medium
US12124624B2 (en) Eye tracking system with off-axis light sources
RU2815470C1 (ru) Способ определения направления взгляда
JP2023032223A (ja) 生体情報解析装置
JP2024060426A (ja) 眼観察装置
JPH11318826A (ja) 検眼装置
JP5718154B2 (ja) 干渉光計測装置
JP2021027876A (ja) 眼科装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180409

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190412

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190531

R150 Certificate of patent or registration of utility model

Ref document number: 6535223

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150