JP4309927B2 - まぶた検出装置及びプログラム - Google Patents

まぶた検出装置及びプログラム Download PDF

Info

Publication number
JP4309927B2
JP4309927B2 JP2007065529A JP2007065529A JP4309927B2 JP 4309927 B2 JP4309927 B2 JP 4309927B2 JP 2007065529 A JP2007065529 A JP 2007065529A JP 2007065529 A JP2007065529 A JP 2007065529A JP 4309927 B2 JP4309927 B2 JP 4309927B2
Authority
JP
Japan
Prior art keywords
point
value
boundary
extreme
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007065529A
Other languages
English (en)
Other versions
JP2008226031A (ja
Inventor
真一 小島
健一 大上
淳 足立
智晴 鈴木
勇二 蜷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Toyota Central R&D Labs Inc
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Toyota Motor Corp
Toyota Central R&D Labs Inc
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Toyota Motor Corp, Toyota Central R&D Labs Inc, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to JP2007065529A priority Critical patent/JP4309927B2/ja
Priority to US12/046,715 priority patent/US7912251B2/en
Priority to EP08152674A priority patent/EP1969993B1/en
Priority to CN2008100833823A priority patent/CN101264007B/zh
Publication of JP2008226031A publication Critical patent/JP2008226031A/ja
Application granted granted Critical
Publication of JP4309927B2 publication Critical patent/JP4309927B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、まぶた検出装置及びプログラムに係り、特に、目を含む領域の画像から、まぶたの境界点を検出するまぶた検出装置及びプログラムに関する。
従来より、濃淡画像の濃淡変化の大きさを表す1次元エッジ画像上で、エッジ値が極大値又は極小値となる点に基づいて、まぶたと眼球との境界点を検出するまぶたの開度検出装置が知られている(特許文献1)。このまぶたの開度検出装置では、より外側のエッジ極値点を検索して、検索されたエッジ極値点を、まぶたと眼球との境界点としている。
特許第3143819号
しかしながら、上記特許文献1に記載の技術では、1次元エッジ画像のエッジ値が極値となる点を境界点としているため、まぶたにアイシャドーが塗られ、まぶたに色がついているような場合には、まぶたと眼球との境界から離れた場所を境界点として検出してしまい、正しい境界点を検出することができない、という問題がある。
本発明は、上記の問題点を解決するためになされたもので、まぶたに色がついていても、まぶたと眼球との境界点を正しく検出することができるまぶた検出装置及びプログラムを提供することを目的とする。
上記の目的を達成するために第1の発明に係るまぶた検出装置は、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段と、前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段と、前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画像値変化の大きさより予め定められた値だけ小さい値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段とを含んで構成されている。
また、第2の発明に係るプログラムは、コンピュータを、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段、前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段、及び前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画像値変化の大きさより予め定められた値だけ小さい値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段として機能させることを特徴としている。
第1の発明及び第2の発明によれば、生成手段によって、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成し、極値点検索手段によって、生成手段によって生成されたエッジ画像において、画素値変化の大きさが所定方向で極値となる極値点を検索する。そして、境界点検出手段によって、極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、極値点の画像値変化の大きさより予め定められた値だけ小さい値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する。
このように、エッジ画像において、画素値変化の大きさが極値となる極値点から、眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、極値点の画像値変化の大きさより予め定められた値だけ小さい値となる、該極値点に最も近い点に基づいて、境界点を検出することにより、まぶたに色がついていても、まぶたと眼球との境界点を正しく検出することができる。
第1の発明に係る予め定められた値を、予め求められた、極値点の画素値変化と上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方における画素値変化との差とすることができる。
第3の発明に係るまぶた検出装置は、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段と、前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段と、前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画素値変化の大きさに所定割合を乗算した値を、前記極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段とを含んで構成されている。
第4の発明に係るプログラムは、コンピュータを、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段、前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段、及び前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画素値変化の大きさに所定割合を乗算した値を、前記極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段として機能させるためのプログラムである。
第3の発明及び第4の発明では、境界点検出手段によって、極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、極値点の画素値変化の大きさに所定割合を乗算した値を、極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する。
このように、エッジ画像において、画素値変化の大きさが極値となる極値点から、眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、極値点の画素値変化の大きさに所定割合を乗算した値を、極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、境界点を検出することにより、まぶたに色がついていても、まぶたと眼球との境界点を正しく検出することができる。
第3の発明に係る極値点検索手段は、生成手段によって生成されたエッジ画像において、画素値変化の大きさが所定方向で極値となり、かつ、画素値変化が予め定められた閾値以上となる極値点を検索し、所定割合を、予め求められた、極値点の画素値変化と閾値との差に対する、極値点の画素値変化と上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方における画素値変化との差の割合とすることができる。
第5の発明に係るまぶた検出装置は、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段と、前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段と、前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画素値変化の大きさから予め定められた値を減算して、所定割合を乗算した値を、前記極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段とを含んで構成されている。
第6の発明に係るプログラムは、コンピュータを、目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段、前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段、及び前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画素値変化の大きさから予め定められた値を減算して、所定割合を乗算した値を、前記極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段として機能させるためのプログラムである。
第5の発明及び第6の発明によれば、境界点検出手段によって、極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、極値点の画素値変化の大きさから予め定められた値を減算して、所定割合を乗算した値を、極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する。
このように、エッジ画像において、画素値変化の大きさが極値となる極値点から、眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、極値点の画素値変化の大きさから予め定められた値を減算して、所定割合を乗算した値を、極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、境界点を検出することにより、まぶたに色がついていても、まぶたと眼球との境界点を正しく検出することができる。
第5の発明に係る極値点検索手段は、生成手段によって生成されたエッジ画像において、画素値変化の大きさが所定方向で極値となり、かつ、画素値変化が予め定められた閾値以上となる極値点を検索し、所定割合を、予め求められた、極値点の画素値変化と閾値との差に対する、極値点の画素値変化と上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方における画素値変化との差の割合とし、予め定められた値を、閾値とすることができる。
上記の所定方向は、まばたき方向とすることができる。これにより、エッジ画像におけるまばたき方向の画素値変化によって、まぶたと眼球との境界のエッジを表すことができる。
以上説明したように、本発明のまぶた検出装置及びプログラムによれば、エッジ画像において、画素値変化の大きさが極値となる極値点から、眼球側へ向かう方向にずれた点に基づいて、境界点を検出することにより、まぶたに色がついていても、まぶたと眼球との境界点を正しく検出することができる、という効果が得られる。
以下、図面を参照して本発明の実施の形態を詳細に説明する。なお、本実施の形態では、濃淡画像からまぶたの開度を求めて出力するまぶた検出装置に本発明を適用した場合を例に説明する。
図1に示すように、本実施の形態に係るまぶた検出装置10は、対象とする被験者の顔を含む画像を撮影するCCDカメラ等からなる画像撮影部12と、画像撮影部12のシャッターの作動に同期して撮影対象を照明するための、赤外ストロボや赤外LED等からなる照明部14と、画像処理を行うコンピュータ16と、CRT等で構成された表示装置18とを備えている。
コンピュータ16は、CPU、後述する画像処理ルーチンのプログラムを記憶したROM、データ等を記憶するRAM、及びこれらを接続するバスを含んで構成されている。このコンピュータ16をハードウエアとソフトウエアとに基づいて定まる機能実現手段毎に分割した機能ブロックで説明すると、図1に示すように、コンピュータ16は、画像撮影部12から出力される濃淡画像である顔画像を入力する画像入力部20と、画像入力部20の出力である顔画像の中から目を含む小領域の画像、すなわち目画像を抽出する目画像抽出部22と、目画像抽出部22で抽出された目画像を処理して、エッジ特徴点を検出するエッジ特徴点検出部24と、エッジ特徴点検出部24で検出されたエッジ特徴点に基づいて、まぶたと眼球との境界点を検出するまぶた境界点検出部26と、まぶた境界点検出部26で検出された境界点に基づいて、まぶたの開度を計測する開度計測部28とを備えている。
画像入力部20は、例えば、A/Dコンバータや1画面の画像データを記憶する画像メモリ等で構成される。
また、目画像抽出部22は、顔画像から目領域を検索して、抽出位置を特定し、特定された抽出位置に基づいて目を含む小領域の画像を目画像として抽出する。
また、エッジ特徴点検出部24は、図2(A)に示すような目画像から、Sobelオペレータを用いて、図2(B)に示すような、まばたき方向であって、上から下へ向かう方向の画素毎の濃淡変化の大きさを表すSobelエッジ画像を生成し、生成されたSobelエッジ画像中からエッジ値の極値点を検索し、検索された極値点に基づいて、エッジ特徴点を検出する。
まぶた境界点検出部26は、検出されたエッジ特徴点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点を検出する。
開度計測部28は、境界点検出部26で検出された第1の境界点と第2の境界点との間隔を計測し、まぶた開度として出力する。
次に、まぶた検出装置10の動作について説明する。まず、画像撮影部12で被験者の顔画像を撮影する。この際に、周囲の外乱光の影響を低減させるために、例えば、赤外ストロボからなる照明部14を、画像撮影部12の撮影と同期して発光させることにより、被験者の顔部を照明する。なお、照明部14から連続光を発光させれば、画像撮影部12との同期は不要となり、構成が簡単になる。
そして、コンピュータ16において、図3に示す画像処理ルーチンを実行する。まず、ステップ100において、画像撮影部12で撮影された顔画像を、ビデオ信号として取り込み、ステップ102で、ビデオ信号をA/D変換して、2次元ディジタル画像を生成する。本実施例においては、以降の処理は、このディジタル画像に基づいて、ディジタル処理により行われるので、以後、単に画像という場合にはディジタル画像を意味することとする。
そして、ステップ104において、顔画像の中から目の領域を検索して、目を含む領域を抽出領域として設定し、ステップ106で、片目を含む小領域を目画像として抽出する。なお、目の領域を検索するには、例えば、テンプレートマッチング法による画像処理により顔画像の中から目の領域を検索してもよいし、あるいは、操作者がキーボード、マウス、電子ペンまたはライトペン等の目領域指示手段により顔画像の上で目を指し示すことにより目の領域を指示してもよい。
そして、ステップ108で、上記ステップ106で抽出された目画像に対して、図4(A)に示すようなSobelフィルタを用いたエッジ処理を行い、図5(A)に示すような、上から下へ向かう方向の画素毎の画素値変化としての濃淡変化の大きさを表す1次元エッジ画像であるSobelエッジ画像を生成する。例えば、現在の画像座標を(x、y)とし、(x、y)での画素値をA(x、y)とすると、Sobelエッジ画像における(x、y)のエッジ値E(x、y)は、以下の式で求められる。
E(x、y)=A(x−1、y−1)+2A(x、y−1)+A(x+1、y−1)
−A(x−1、y+1)−2A(x、y+1)−A(x+1、y+1)
なお、エッジ処理を行うフィルタとして、図4(B)に示すPrewitt(ペレウィット)フィルタや、図4(C)に示す単純差分フィルタ、図4(D)に示す平滑化の機能を持った単純差分フィルタを用いてもよい。
上記ステップ108により、図5(B)に示すような、まばたき方向であって、上から下へ向かう方向における原画像の画素値変化の大きさの変化が得られる。一般に、眼球部分は皮膚部分であるまぶたに比べて、反射率が小さいため、暗く撮影されるので、上から下に向かって、明から暗へ、そして、上から下に向かって逆に暗から明に画素値が変化する。従って、得られる画素値変化を示すエッジ値は、眼球と上まぶたとの境界部分では、エッジ値が極大値となり、眼球と下まぶたとの境界部分では、エッジ値が極小値となる。また、極大値となる点の下側が眼球側であり、極小値となる点の上側が眼球側となる。
次のステップ110では、エッジ特徴点を検出する処理を行う。以下に、ステップ110を実現するためのエッジ特徴点検出処理ルーチンについて、図6を用いて説明する。なお、エッジ特徴点検出処理ルーチンは、目画像の縦方向に画素が配列された複数の画素列の各々について実行される。
まず、ステップ150において、RAMに記憶されている極大値をリセットすると共に、注目画素を、初期位置としての検出対象の基準線上の一番上の位置に設定する初期化処理を行い、ステップ152で、注目画素のエッジ値が正であるか否かを判定し、エッジ値が正であると、ステップ154で、一つ上の画素と注目画素との間でエッジ値の符号が負から正に切り替わったか否かを判定し、エッジ値の符号が切り替わっていない場合には、ステップ158へ移行するが、一つ上の画素と注目画素との間でエッジ値の符号が切り替わっている場合には、ステップ156で、RAMに記憶されている極大値をリセットして、ステップ158へ移行する。
ステップ158では、注目画素のエッジ値が、基準線上の上から下へ向かう方向で極大値となるか否かを判定する。一つ上の画素、注目画素、及び一つ下の画素のエッジ値に基づいて、注目画素のエッジ値が極大値であると判定されると、ステップ160において、注目画素のエッジ値である極大値が、予め定められた第1のしきい値D1より大きいか否かを判定し、注目画素の極大値が第1のしきい値D1以下である場合には、ステップ162で、注目画素の位置をエッジ特徴点として記憶すると共に、RAMに記憶されている極大値をリセットし、ステップ176へ移行する。また、上記ステップ162では、エッジ特徴点のエッジ値も一緒にRAMに記憶する。
一方、上記ステップ160で、注目画素のエッジ値である極大値が第1のしきい値D1より大きいと判定された場合には、ステップ164において、RAMに記憶されている極大値があるか否かを判定し、極大値がRAMに記憶されている場合には、ステップ166で、記憶されている極大値より、今回の注目画素の極大値の方が大きいか否かを判定する。記憶されている極大値の方が大きい場合には、ステップ176へ移行するが、一方、今回の注目画素の極大値の方が大きい場合には、ステップ168において、今回の注目画素の極大値をRAMに記憶して、ステップ176へ移行する。
また、上記ステップ164で、極大値がリセットされたままで、RAMに記憶されている極大値がない場合には、ステップ168で、今回の注目画素の極大値をRAMに記憶する。
一方、上記ステップ158で、注目画素のエッジが極大値でない場合には、ステップ170において、RAMに記憶されている極大値があるか否かを判定し、極大値がRAMに記憶されている場合には、ステップ172で、ひとつ上の画素のエッジ値が(極大値−設定値X1)より大きく、注目画素のエッジ値が(極大値−設定値X1)以下であるか否かを判定する。なお、設定値X1については、まぶたにアイシャドーが塗られている場合において、実験的又は統計的に、上まぶたの境界点におけるエッジ値を求め、さらに、極大値と上まぶたの境界点のエッジ値との差を求めておき、求められた差を設定値として予め設定しておけばよい。
上記ステップ172で、ひとつ上の画素のエッジ値が(極大値−X1)以下であるか、又は、注目画素のエッジ値が(極大値−X1)より大きい場合には、ステップ176へ移行するが、一方、ひとつ上の画素のエッジが(極大値−X1)より大きく、かつ、注目画素のエッジ値が(極大値−X1)以下である場合には、図7に示すように、注目画素が、上から下に向かって明から暗へ画素値が変化する際の暗側の点であり、かつ、極大値から設定値X2だけ小さいエッジ値となる極大値点に最も近い点であると判断し、ステップ174において、注目画素の位置をエッジ特徴点として記憶すると共に、RAMに記憶されている極大値をリセットして、ステップ176へ移行する。また、上記ステップ174では、エッジ特徴点のエッジ値も一緒にRAMに記憶する。これにより、図7に示すように、極大点から眼球側である下へ向かう方向にずれた点であって、かつ、極大値から設定値X1だけ小さいエッジ値となる極大値点に最も近い点をエッジ特徴点として検出することができる。
また、上記ステップ170で、極大値がリセットされたままで、RAMに記憶されている極大値がない場合には、ステップ176へ移行する。
また、上記ステップ152で、エッジ値が負の値であると判定されると、ステップ176へ移行する。
ステップ176では、注目画素が、検出対象の基準線上の一番下の画素であるか否かを判定し、検出対象の基準線上の一番下の画素であり、検出対象の基準線上の全ての画素について上記の処理を行った場合には、ステップ180へ移行するが、一方、検出対象の基準線上の一番下の画素ではない場合には、ステップ178において、注目画素を一つ下の画素に設定して、ステップ152へ戻り、一つ下に設定された注目画素について、上述した処理を実行する。
ステップ180では、負側検出処理を実行して、エッジ特徴点検出処理ルーチンを終了する。ここで、上記ステップ180を実現するための負側検出処理ルーチンについて、図8を用いて説明する。
まず、ステップ181で、RAMに記憶されている極小値をリセットすると共に、注目画素を、初期位置としての検出対象の基準線上の一番下の位置に設定する初期化処理を行い、ステップ182で、注目画素のエッジ値が負であるか否かを判定し、エッジ値が負であると、ステップ183で、一つ下の画素と注目画素との間でエッジ値の符号が正から負に切り替わったか否かを判定し、エッジ値の符号が切り替わっていない場合には、ステップ186へ移行するが、一つ下の画素と注目画素との間でエッジ値の符号が切り替わっている場合には、ステップ184で、RAMに記憶されている極小値をリセットして、ステップ186へ移行する。
ステップ186では、注目画素のエッジ値が、基準線上の上から下へ向かう方向で極小値となるか否かを判定する。一つ上の画素、注目画素、及び一つ下の画素のエッジ値に基づいて、注目画素のエッジ値が極小値であると判定されると、ステップ188において、注目画素のエッジ値である極小値が、予め定められた第2のしきい値D2(D2<0)より小さいか否かを判定し、注目画素の極小値が第2のしきい値D2以上である場合には、ステップ190で、注目画素の位置をエッジ特徴点として記憶すると共に、RAMに記憶されている極小値をリセットし、ステップ204へ移行する。また、上記ステップ190では、エッジ特徴点のエッジ値も一緒にRAMに記憶する。
一方、上記ステップ188で、注目画素のエッジ値である極小値が第2のしきい値D2より小さいと判定された場合には、ステップ192において、RAMに記憶されている極小値があるか否かを判定し、極小値がRAMに記憶されている場合には、ステップ194で、記憶されている極小値より、今回の注目画素の極小値の方が小さいか否かを判定する。記憶されている極小値の方が小さい場合には、負側検出処理ルーチンを終了するが、一方、今回の注目画素の極小値の方が小さい場合には、ステップ196において、今回の注目画素の極小値をRAMに記憶して、ステップ204へ移行する。
また、上記ステップ192で、極小値がリセットされたままで、RAMに記憶されている極小値がない場合には、ステップ196で、今回の注目画素の極小値をRAMに記憶する。
一方、上記ステップ186で、注目画素のエッジ値が極小値でない場合には、ステップ198において、RAMに記憶されている極小値があるか否かを判定し、極小値がRAMに記憶されている場合には、ステップ200で、一つ下の画素のエッジが(極小値−設定値X2)より小さく、注目画素のエッジ値が(極小値−設定値X2)以上であるか否かを判定する。なお、設定値X2(X2<0)については、まぶたにアイシャドーが塗られている場合において、実験的又は統計的に、下まぶたの境界点のエッジ値を求め、さらに、極小値から下まぶたの境界点のエッジ値を引いた値を求めておき、求められた値を設定値として予め設定しておけばよい。
上記ステップ200で、一つ下の画素のエッジ値が(極小値−X2)以上であるか、又は、注目画素のエッジ値が(極小値−X2)より小さい場合には、負側検出処理ルーチンを終了するが、一方、ひとつ下の画素のエッジが(極小値−X2)より小さく、かつ、注目画素のエッジ値が(極小値−X2)以上である場合には、図7に示すように、注目画素が、上から下に向かって暗から明へ画素値が変化する際の暗側の点であり、かつ、極小値から設定値X2だけ小さいエッジ値となる極小値点に最も近い点であると判断し、ステップ202において、注目画素の位置をエッジ特徴点として記憶すると共に、RAMに記憶されている極小値をリセットして、ステップ204へ移行する。また、上記ステップ202では、エッジ特徴点のエッジ値も一緒にRAMに記憶する。これにより、図7に示すように、極小点から眼球側である上へ向かう方向にずれた点であって、かつ、極小値から設定値X2だけ小さいエッジ値となる極小値点に最も近い点をエッジ特徴点として検出することができる。
また、上記ステップ198で、極小値がリセットされたままで、RAMに記憶されている極小値がない場合には、ステップ204へ移行する。
また、上記ステップ182で、エッジ値が正の値であると判定されると、ステップ204へ移行する。
ステップ204では、注目画素が、検出対象の基準線上の一番上の画素であるか否かを判定し、検出対象の基準線上の一番上の画素であり、検出対象の基準線上の全ての画素について上記の処理を行った場合には、負側検出処理ルーチンを終了するが、一方、検出対象の基準線上の一番上の画素ではない場合には、ステップ206において、注目画素を一つ上の画素に設定して、ステップ182へ戻り、一つ上に設定された注目画素について、上述した処理を実行する。
上述したように、エッジ特徴点検出処理ルーチンを実行することにより、Sobelエッジ画像上で、エッジ値が正のエッジ特徴点Pi(i=0、1、・・・)と、エッジ値が負のエッジ特徴点Mi(i=0、1、・・・)とが検出される。
そして、画像処理ルーチンのステップ112において、検出されたエッジ特徴点Piから、上まぶたと眼球との第1の境界点を検出し、検出されたエッジ特徴点Miから、下まぶたと眼球との第2の境界点を検出する。
上記ステップ112では、複数のエッジ特徴点が検出されていた場合に、以下に説明するように、第1の境界点及び第2の境界点を検出する。
まず、検出された複数のエッジ特徴点Piを表わす画像内で探索ウィンドウを動かして、第1の境界点を検出する。探索ウィンドウは、上まぶたを表す画素の範囲を予め試験等で導出し、当該画素範囲に基づいて決定されてよい。探索ウィンドウは、例えば1×15(垂直方向に1画素、水平方向に15画素)程度であってよく、解像度やスケーリング等に応じて適切に決定される。具体的には、複数のエッジ特徴点Piを表わす画像内で探索ウィンドウを動かしながら、探索ウィンドウ内の横エッジのエッジ特徴点Piの強度和を算出し、横エッジのエッジ特徴点Piの強度和が所定値以上となる位置の探索ウィンドウ内の横エッジ(白黒エッジ)のエッジ特徴点を、「上まぶたと眼球との第1の境界点の候補」として認識する。この際、上下で隣接する第1の境界点の候補が存在する場合には、最も上側の第1の境界点候補以外の第1の境界点候補を破棄する。更に、眼ウィンドウの上端付近に第1の境界点候補が存在する場合には、当該第1の境界点候補を破棄する。これは、上端付近に眉毛を表す横エッジが存在する場合があるからである。次いで、残存する第1の境界点候補を、上まぶたと眼球との第1の境界点として検出する。
或いは、開眼時の上まぶたが一般的に円弧形状であるいう形状的特徴を利用して、上まぶたと眼球との第1の境界点を抽出してもよい。即ち、略水平に延びる円弧状に連続するエッジ(垂直方向で上から白から黒になるエッジ)が、上まぶたと眼球との第1の境界点として認識されてよい。かかる形状的特徴を利用することで、精度良く上まぶたと眼球との第1の境界点を検出することができる。また、複数の連続的な画像フレームを用いる場合には、上まぶたと眼球との第1の境界点は、瞬き時に上まぶたが他の眼の部分(例えば下まぶたや、眉毛やメガネのフレーム)に比べてより大きく動くという特徴を利用して決定されてもよい。
また、第1の境界点の位置に基づいて、下まぶたと眼球との第2の境界点を検出するための探索ウィンドウの位置が決定される。下まぶた検出用の探索ウィンドウの位置は、上述の如く検出された第1の境界点の位置を基準に第1の境界点よりも下方に設定され、例えば、眼の平均的なサイズ(眼が開いた状態での平均的な上まぶたと下まぶたの間の距離)に相当する画素数だけ第1の境界点の位置から下方に設定されてよい。下まぶた検出用の探索ウィンドウのサイズは、上まぶた検出用の探索ウィンドウのサイズと同様であってよく、下まぶたを表す画素の範囲を予め試験等で導出し、当該画素範囲に基づいて決定されてよい。
そして、検出された複数のエッジ特徴点Miを表わす画像内の決定された位置に探索ウィンドウを移動させて、下まぶたと眼球との第2の境界点が検出される。例えば、探索ウィンドウ内に横エッジ(黒白エッジ)のエッジ特徴点Miが存在する場合には、当該エッジ特徴点を、下まぶたと眼球との第2の境界点として検出する。
なお、上記ステップ112において、エッジ特徴点のエッジ値を用いて、境界点を検出するようにしてもよい。例えば、影によるエッジ特徴点のエッジ値は、小さいことが多いので、所定値以上のエッジ値を持つエッジ特徴点のみを、境界点の候補とし、境界点を検出すればよい。
そして、ステップ114において、第1の境界点と第2の境界点との間の距離を計測して、まぶたの開度として表示装置18から出力し、画像処理ルーチンを終了する。
上述したように画像処理ルーチンを実行することにより、例えば、図9(A)に示すように、アイシャドーが塗られた目が閉じられた状態であって、Sobelフィルタを用いたエッジ処理により、図10(A)に示すようなSobelエッジ画像が得られ、図9(B)及び図10(B)に示すように、極大点周辺のエッジ値変化は急峻ではなく、平たい形となり、また、エッジ値の極大点及び極小点が、まぶたの境界点から離れていても、図9(C)に示すように、まぶたの境界点に近い点をエッジ特徴点として検出できるため、図9(D)に示すように、まぶたの境界点を正確に検出することができる。
また、図11(A)に示すように、アイシャドーが塗られた目が開いている状態では、図11(B)に示すように、エッジ値の極大点及び極小点が、まぶたの境界点に近い点になると共に、図11(C)に示すように、まぶたの境界点に近い点をエッジ特徴点として検出できるため、図11(D)に示すように、まぶたの境界点を正確に検出することができる。
以上説明したように、第1の実施の形態に係るまぶた検出装置によれば、目画像のSobelエッジ画像において、エッジ値が極大値となる極大点から、眼球側である下へ向かう方向にずれた点であって、極大値から設定値だけ小さい点となる極大点に最も近い点をエッジ特徴点として検出し、また、エッジ値が極小値となる極小点から、眼球側である上へ向かう方向にずれた点であって、極小値から設定値だけ小さい点となる極小点に最も近い点をエッジ特徴点として検出し、検出されたエッジ特徴点に基づいて、まぶたの境界点を検出することにより、アイシャドーなどによりまぶたに色がついていても、まぶたと眼球との境界点を高精度に検出することができる。
また、まぶたと眼球との境界点を正確に検出することにより、まぶたの開度を高精度に計測することができる。
なお、上記の実施の形態では、画像入力部で入力した濃淡画像から濃淡変化の大きさを表すエッジ画像を生成する場合を例に説明したが、画像入力部で入力した画像がカラー画像であってもよい。この場合には、カラー画像の濃度値の変化の大きさを表すエッジ画像を生成すればよい。
また、極大点から眼球側にずれて検出されたエッジ特徴点を、上まぶたの境界点として検出し、極小点から眼球側にずれて検出されたエッジ特徴点を、下まぶたの境界点として検出する場合を例に説明したが、これに限定されるものではなく、例えば、目画像において、眼球部分が明るく、肌部分が暗くなっている場合には、極大点から眼球側にずれて検出されたエッジ特徴点を、下まぶたの境界点として検出し、極小点から眼球側にずれて検出されたエッジ特徴点を、上まぶたの境界点として検出すればよい。
また、エッジ特徴点をROMに記憶する場合には、エッジ特徴点のエッジ値を一緒に記憶する場合を例に説明したが、エッジ特徴点を記憶する場合に、エッジ特徴点の近くに存在する極大点又は極小点のエッジ値を一緒に記憶するようにしてもよい。
また、エッジ特徴点が複数検出された場合に、探索ウィンドウを用いて、第1の境界点及び第2の境界点を検出する場合を例に説明したが、これに限定されるものではなく、例えば、検出された複数のエッジ特徴点の連結を調べ、エッジ特徴点の集まりを作り、集まり毎の平均位置を、第1の境界点又は第2の境界点として検出してもよい。
次に、第2の実施の形態について説明する。なお、第2の実施の形態に係るまぶた検出装置の構成は、第1の実施の形態と同様の構成であるため、同一符号を付して説明を省略する。
第2の実施の形態では、極大点から眼球側である下へ向かう方向にずれた点であって、かつ、予め定められた設定値に等しいエッジ値となる極大値点に最も近い点をエッジ特徴点として検出している点が第1の実施の形態と異なっている。
第2の実施の形態では、エッジ特徴点検出処理ルーチンにおいて、エッジ値が正の場合には、上から下へ各画素を走査し、エッジ値が極大値となる画素があり、この極大値がRAMに記憶されていると、極大値でない注目画素について、ひとつ上の画素のエッジが設定値X´1(X´1>0)より大きく、かつ、注目画素のエッジ値が設定値X´1以下であるか否かを判定し、ひとつ上の画素のエッジが設定値X´1より大きく、かつ、注目画素のエッジ値が設定値X´1以下である場合には、図12に示すように、注目画素が、上から下に向かって明から暗へ画素値が変化する際の暗側の点であり、かつ、設定値X´1と等しいエッジ値となる極大値点に最も近い点であると判断し、注目画素の場所をエッジ特徴点として記憶すると共に、RAMに記憶されている極大値をリセットする。
なお、設定値X´1については、まぶたにアイシャドーが塗られている場合において、実験的又は統計的に、上まぶたの境界点におけるエッジ値を求め、求められたエッジ値を設定値として予め設定しておけばよい。
また、エッジ値が負の場合には、下から上へ各画素を走査し、エッジ値が極小値となる画素があり、この極小値がRAMに記憶されていると、極小値でない注目画素について、ひとつ下の画素のエッジが設定値X´2(X´2<0)より小さく、かつ、注目画素のエッジ値が設定値X´2以上であるか否かを判定し、ひとつ下の画素のエッジが設定値X´2より小さく、かつ、注目画素のエッジ値が設定値X´2以上である場合には、注目画素が、上から下に向かって暗から明へ画素値が変化する際の暗側の点であり、かつ、設定値X´2と等しいエッジ値となる極小値点に最も近い点であると判断し、注目画素の位置をエッジ特徴点として記憶すると共に、RAMに記憶されている極小値をリセットする。
なお、設定値X´2については、まぶたにアイシャドーが塗られている場合において、実験的又は統計的に、下まぶたの境界点におけるエッジ値を求め、求められたエッジ値を設定値として予め設定しておけばよい。
このように、目画像のSobelエッジ画像において、エッジ値が極大値となる極大点から、眼球側である下へ向かう方向にずれた点であって、設定値となる極大点に最も近い点をエッジ特徴点として検出し、また、エッジ値が極小値となる極小点から、眼球側である上へ向かう方向にずれた点であって、設定値となる極小点に最も近い点をエッジ特徴点として検出し、検出されたエッジ特徴点に基づいて、まぶたの境界点を検出することにより、アイシャドーなどによりまぶたに色がついていても、まぶたと眼球との境界点を高精度に検出することができる。
次に、第3の実施の形態について説明する。なお、第3の実施の形態に係るまぶた検出装置の構成は、第1の実施の形態と同様の構成であるため、同一符号を付して説明を省略する。
第3の実施の形態では、極大点から眼球側である下へ向かう方向にずれた点であって、かつ、極値点の画素値変化の大きさから第1のしきい値D1を減算して、所定割合を乗算した値を、極大値から減算した値に等しいエッジ値となる極大値点に最も近い点をエッジ特徴点として検出している点が第1の実施の形態と異なっている。
第3の実施の形態では、エッジ特徴点検出処理ルーチンにおいて、エッジ値が正の場合には、上から下へ各画素を走査し、エッジ値が極大値となる画素があり、この極大値がRAMに記憶されていると、極大値でない注目画素について、ひとつ上の画素のエッジが(極大値−(極大値−D1)×設定割合A1)より大きく、かつ、注目画素のエッジ値が(極大値−(極大値−D1)×設定割合A1)以下であるか否かを判定し、ひとつ上の画素のエッジが(極大値−(極大値−D1)×設定割合A1)より大きく、かつ、注目画素のエッジ値が(極大値−(極大値−D1)×設定割合A1)以下である場合には、図13に示すように、注目画素が、上から下に向かって明から暗へ画素値が変化する際の暗側の点であり、かつ、(極大値−(極大値−D1)×設定割合A1)と等しいエッジ値となる極大値点に最も近い点であると判断し、注目画素の位置をエッジ特徴点として記憶すると共に、RAMに記憶されている極大値をリセットする。
なお、設定割合A1については、まぶたにアイシャドーが塗られている場合において、実験的又は統計的に、上まぶたの境界点におけるエッジ値を求め、さらに、極大値としきい値D1との差に対する極大値と求められたエッジ値との差の割合を求め、求められた割合を設定割合として予め設定しておけばよい。
また、エッジ値が負の場合には、下から上へ各画素を走査し、エッジ値が極小値となる画素があり、この極小値がRAMに記憶されていると、極小値でない注目画素について、ひとつ下の画素のエッジが(極小値−(極小値−D2)×設定割合A2)より小さく、かつ、注目画素のエッジ値が(極小値−(極小値−D2)×設定割合A2)以上であるか否かを判定し、ひとつ下の画素のエッジが(極小値−(極小値−D2)×設定割合A2)より小さく、かつ、注目画素のエッジ値が(極小値−(極小値−D2)×設定割合A2)以上である場合には、注目画素が、上から下に向かって暗から明へ画素値が変化する際の暗側の点であり、かつ、(極小値−(極小値−D2)×設定割合A2)と等しいエッジ値となる極小値点に最も近い点であると判断し、注目画素の位置をエッジ特徴点として記憶すると共に、RAMに記憶されている極小値をリセットする。
なお、設定割合A2については、まぶたにアイシャドーが塗られている場合において、実験的又は統計的に、下まぶたの境界点におけるエッジ値を求め、さらに、極小値としきい値D2との差に対する極小値と求められたエッジ値との差の割合を求め、求められた割合を設定割合として予め設定しておけばよい。
このように、目画像のSobelエッジ画像において、エッジ値が極大値となる極大点から、眼球側である下へ向かう方向にずれた点であって、(極大値−(極大値−しきい値)×設定割合)と等しいエッジ値となる極大点に最も近い点をエッジ特徴点として検出し、また、エッジ値が極小値となる極小点から、眼球側である上へ向かう方向にずれた点であって、(極小値−(極小値−しきい値)×設定割合)と等しいエッジ値となる極小点に最も近い点をエッジ特徴点として検出し、検出されたエッジ特徴点に基づいて、まぶたの境界点を検出することにより、アイシャドーなどによりまぶたに色がついていても、まぶたと眼球との境界点を高精度に検出することができる。
次に、第4の実施の形態について説明する。なお、第4の実施の形態に係るまぶた検出装置の構成は、第1の実施の形態と同様の構成であるため、同一符号を付して説明を省略する。
第4の実施の形態では、極大点から下側へ向かう方向にずれた点であって、かつ、エッジ値の変化率が極大値となる極大値点に最も近い点をエッジ特徴点として検出している点が第1の実施の形態と異なっている。
第4の実施の形態では、エッジ特徴点検出処理ルーチンにおいて、エッジ値が正の場合には、上から下へ各画素を走査し、エッジ値が極大値となる画素があり、この極大値がRAMに記憶されていると、極大値でない注目画素について、エッジ値の変化率を算出すると共に、一つ上の画素及び一つ下の画素の各々についてエッジ値の変化率を算出する。そして、一つ上の画素のエッジ値が注目画素のエッジ値よりも大きく、かつ、注目画素のエッジ値の変化率が極大値であるか否かを判定し、一つ上の画素、注目画素、及び一つ下の画素の各々のエッジ値の変化率に基づいて、注目画素のエッジ値の変化率が極大値であり、一つ上の画素のエッジ値が注目画素のエッジ値よりも大きい場合には、図14に示すように、注目画素が、上から下に向かって明から暗へ画素値が変化する際の暗側の点であり、かつ、エッジ値の変化率が極大値となる極大値点に最も近い点であると判断し、注目画素の位置をエッジ特徴点として記憶すると共に、RAMに記憶されている極大値をリセットする。
また、エッジ値が負の場合には、下から上へ各画素を走査し、エッジ値が極小値となる画素があり、この極小値がRAMに記憶されていると、極小値でない注目画素について、エッジ値の変化率を算出すると共に、一つ下の画素及び一つ上の画素の各々についてエッジ値の変化率を算出する。そして、一つ下の画素のエッジ値が注目画素のエッジ値よりも小さく、かつ、注目画素のエッジ値の変化率が極大値であるか否かを判定し、一つ下の画素、注目画素、及び一つ上の画素の各々のエッジ値の変化率に基づいて、注目画素のエッジ値の変化率が極大値であり、一つ下の画素のエッジ値が注目画素のエッジ値よりも小さい場合には、注目画素が、上から下に向かって暗から明へ画素値が変化する際の暗側の点であり、かつ、エッジ値の変化率が極大値となる極小値点に最も近い点であると判断し、注目画素の位置をエッジ特徴点として記憶すると共に、RAMに記憶されている極大値をリセットする。
このように、目画像のSobelエッジ画像において、エッジ値が極大値となる極大点から、眼球側である下へ向かう方向にずれた点であって、エッジ値の変化率が極大値となる極大点に最も近い点をエッジ特徴点として検出し、また、エッジ値が極小値となる極小点から、眼球側である上へ向かう方向にずれた点であって、エッジ値の変化率が極大値となる極小点に最も近い点をエッジ特徴点として検出し、検出されたエッジ特徴点に基づいて、まぶたの境界点を検出することにより、アイシャドーなどによりまぶたに色がついていても、まぶたと眼球との境界点を高精度に検出することができる。
次に第5の実施の形態について説明する。第5の実施の形態に係るまぶた検出装置の構成は、エッジ特徴点検出部24の代わりに画素値無変化点検出部を備えている点で、第1の実施の形態と異なっている。また、第5の実施の形態に係る画像処理ルーチンは、上述した第1の実施の形態に係る画像処理ルーチンのエッジ特徴点検出処理(ステップ110)を、画素値無変化点検出処理に置き換えたものである。
図15は、本発明の第5の実施の形態に係る画素値の変化が無くなる点を説明するためのイメージ図である。
第5の実施の形態では、エッジ値が正の値であると判定された場合は、極大値から眼球側である下へ向かう方向にずれた点であって、画素値の変化がなくなる点(ほぼ0となる点)を、上まぶたと眼球との境界を示す第1の境界点として検出する。
本実施の形態に係る画素値無変化点検出部は、極大値から眼球側に向かって最初に画素値の変化がほぼ0になった点を検出する(画素値無変化点検出処理)。そして、まぶた境界点検出部26は、この点を第1の境界点として検出する。
同様に、エッジ値が負の値であると判定された場合は、極小値から眼球側である上へ向かう方向にずれた点であって、画素値の変化がなくなる点(ほぼ0になる点)を、下まぶたと眼球との境界を示す第2の境界点として検出する。
本実施の形態に係る画素値無変化点検出部は、極小値から眼球側に向かって最初に画素値の変化がほぼ0になった点を検出する(画素値無変化点検出処理)。そして、まぶた境界点検出部26は、この点を第2の境界点として検出する。
以上のようにして第1の境界点と第2の境界点とを検出することにより、まぶたと眼球との境界点を正確に検出することができ、まぶたの開度を高精度に計測することができる。
本発明の第1の実施の形態に係るまぶた検出装置の構成を示すブロック図である。 (A)目画像を示すイメージ図、及び(B)目画像のSobelエッジ画像を示すイメージ図である。 本発明の第1の実施の形態に係るまぶた検出装置における画像処理ルーチンの内容を示すフローチャートである。 (A)Sobelフィルタを示すイメージ図、(B)Prewittフィルタを示すイメージ図、(C)単純差分フィルタを示すイメージ図、及び(D)平滑化の機能を持った単純差分フィルタを示すイメージ図である。 (A)Sobelエッジ画像を示すイメージ図、及び(B)エッジ値の変化を示すグラフである。 本発明の第1の実施の形態に係るまぶた検出装置におけるエッジ特徴点検出処理ルーチンの内容を示すフローチャートである。 本発明の第1の実施の形態に係るエッジ特徴点検出処理ルーチンで検出されるエッジ特徴点を説明するためのイメージ図である。 本発明の第1の実施の形態に係るまぶた検出装置における負側検出処理ルーチンの内容を示すフローチャートである。 (A)アイシャドーが塗られた目が閉じた状態を表す目画像を示すイメージ図、(B)Sobelエッジ画像から極大点及び極小点を検出した結果を示すイメージ図、(C)エッジ特徴点を検出した結果を示すイメージ図、及び(D)まぶたの境界点を検出した結果を示すイメージ図である。 (A)アイシャドーが塗られた目が閉じた状態を表す目画像のSobelエッジ画像を示すイメージ図、及び(B)エッジ値の変化を示すグラフである。 (A)アイシャドーが塗られた目が開いた状態を表す目画像を示すイメージ図、(B)Sobelエッジ画像から極大点及び極小点を検出した結果を示すイメージ図、(C)エッジ特徴点を検出した結果を示すイメージ図、及び(D)まぶたの境界点を検出した結果を示すイメージ図である。 本発明の第2の実施の形態に係るエッジ特徴点検出処理ルーチンで検出されるエッジ特徴点を説明するためのイメージ図である。 本発明の第3の実施の形態に係るエッジ特徴点検出処理ルーチンで検出されるエッジ特徴点を説明するためのイメージ図である。 本発明の第4の実施の形態に係るエッジ特徴点検出処理ルーチンで検出されるエッジ特徴点を説明するためのイメージ図である。 本発明の第5の実施の形態に係る画素値の変化が無くなる点を説明するためのイメージ図である。
符号の説明
10 まぶた検出装置
12 画像撮影部
16 コンピュータ
18 表示装置
20 画像入力部
22 目画像抽出部
24 エッジ特徴点検出部
26 境界点検出部
28 開度計測部

Claims (10)

  1. 目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段と、
    前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段と、
    前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画像値変化の大きさより予め定められた値だけ小さい値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段と、
    を含むまぶた検出装置。
  2. 前記予め定められた値を、予め求められた、前記極値点の画素値変化と上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方における画素値変化との差とした請求項1記載のまぶた検出装置。
  3. 目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段と、
    前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段と、
    前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画素値変化の大きさに所定割合を乗算した値を、前記極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段と、
    を含むまぶた検出装置。
  4. 前記極値点検索手段は、前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となり、かつ、画素値変化が予め定められた閾値以上となる極値点を検索し、
    前記所定割合を、予め求められた、前記極値点の画素値変化と前記閾値との差に対する、前記極値点の画素値変化と上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方における画素値変化との差の割合とした請求項3記載のまぶた検出装置。
  5. 目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段と、
    前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段と、
    前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画素値変化の大きさから予め定められた値を減算して、所定割合を乗算した値を、前記極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段と、
    を含むまぶた検出装置。
  6. 前記極値点検索手段は、前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となり、かつ、画素値変化が予め定められた閾値以上となる極値点を検索し、
    前記所定割合を、予め求められた、前記極値点の画素値変化と前記閾値との差に対する、前記極値点の画素値変化と上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方における画素値変化との差の割合とし、
    前記予め定められた値を、前記閾値とした請求項5記載のまぶた検出装置。
  7. 前記所定方向は、まばたき方向である請求項1〜請求項6の何れか1項記載のまぶた検出装置。
  8. コンピュータを、
    目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段、
    前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段、及び
    前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画像値変化の大きさより予め定められた値だけ小さい値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段
    として機能させるためのプログラム。
  9. コンピュータを、
    目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段、
    前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段、及び
    前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画素値変化の大きさに所定割合を乗算した値を、前記極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段
    として機能させるためのプログラム。
  10. コンピュータを、
    目を含む領域の画像に基づいて、該領域における画素毎の所定方向の画素値変化の大きさを表すエッジ画像を生成する生成手段、
    前記生成手段によって生成されたエッジ画像において、画素値変化の大きさが前記所定方向で極値となる極値点を検索する極値点検索手段、及び
    前記極値点検索手段によって検索された極値点から眼球側へ向かう方向にずれた点であって、かつ、画素値変化の大きさが、前記極値点の画素値変化の大きさから予め定められた値を減算して、所定割合を乗算した値を、前記極値点の画素値変化の大きさから減算した値となる、該極値点に最も近い点に基づいて、上まぶたと眼球との境界を示す第1の境界点及び下まぶたと眼球との境界を示す第2の境界点の少なくとも一方を検出する境界点検出手段
    として機能させるためのプログラム。
JP2007065529A 2007-03-14 2007-03-14 まぶた検出装置及びプログラム Active JP4309927B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007065529A JP4309927B2 (ja) 2007-03-14 2007-03-14 まぶた検出装置及びプログラム
US12/046,715 US7912251B2 (en) 2007-03-14 2008-03-12 Eyelid detection apparatus and program therefor
EP08152674A EP1969993B1 (en) 2007-03-14 2008-03-13 Eyelid detection apparatus
CN2008100833823A CN101264007B (zh) 2007-03-14 2008-03-13 眼睑检测装置及其程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007065529A JP4309927B2 (ja) 2007-03-14 2007-03-14 まぶた検出装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2008226031A JP2008226031A (ja) 2008-09-25
JP4309927B2 true JP4309927B2 (ja) 2009-08-05

Family

ID=39580211

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007065529A Active JP4309927B2 (ja) 2007-03-14 2007-03-14 まぶた検出装置及びプログラム

Country Status (4)

Country Link
US (1) US7912251B2 (ja)
EP (1) EP1969993B1 (ja)
JP (1) JP4309927B2 (ja)
CN (1) CN101264007B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8693784B2 (en) 2010-07-14 2014-04-08 Aisin Seiki Kabushiki Kaisha Eyelid detection device and program

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102129678A (zh) * 2010-01-12 2011-07-20 鸿富锦精密工业(深圳)有限公司 影像特征模型建立系统及方法以及应用其的影像处理系统
CN102867395A (zh) * 2012-10-11 2013-01-09 南京艾酷派物联网有限公司 驾驶员疲劳远程实时监控装置
US9773169B1 (en) * 2012-11-06 2017-09-26 Cross Match Technologies, Inc. System for capturing a biometric image in high ambient light environments
JP6462209B2 (ja) * 2013-12-03 2019-01-30 浜松ホトニクス株式会社 計測装置及び計測方法
US10007845B2 (en) 2015-07-06 2018-06-26 Pixart Imaging Inc. Eye state detecting method and eye state detecting system
CN108135467A (zh) * 2015-08-21 2018-06-08 奇跃公司 眼睑形状估计
EP3337385A4 (en) 2015-08-21 2019-04-03 Magic Leap, Inc. ESTIMATING THE SHAPE OF A EYEWEAR USING THE MEASUREMENT OF THE POSITION OF THE EYE
CN108369653B (zh) 2015-10-16 2021-12-14 奇跃公司 使用眼睛特征的眼睛姿态识别
WO2018134875A1 (ja) * 2017-01-17 2018-07-26 三菱電機株式会社 瞼検出装置、居眠り判定装置、および瞼検出方法
US10521661B2 (en) 2017-09-01 2019-12-31 Magic Leap, Inc. Detailed eye shape model for robust biometric applications
US11877800B2 (en) 2018-07-27 2024-01-23 Kaohsiung Medical University Method and system for detecting blepharoptosis
CN113785258A (zh) * 2019-03-22 2021-12-10 惠普发展公司,有限责任合伙企业 检测眼睛测量

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4862410A (en) * 1985-01-31 1989-08-29 Canon Kabushiki Kaisha Word processor permitting modification or addition of data in response to particular indentation of data
JP3214057B2 (ja) * 1992-04-14 2001-10-02 キヤノン株式会社 瞳孔中心検出方法、瞳孔中心検出装置、瞳孔輪部検出方法および瞳孔輪部検出装置
JP2500726B2 (ja) * 1992-06-12 1996-05-29 日本電気株式会社 上まぶた領域、目頭・目尻・上まぶた領域及び目の構造の検出方法及び装置
US6419638B1 (en) * 1993-07-20 2002-07-16 Sam H. Hay Optical recognition methods for locating eyes
JP3143819B2 (ja) 1994-05-20 2001-03-07 株式会社豊田中央研究所 まぶたの開度検出装置
US5572596A (en) * 1994-09-02 1996-11-05 David Sarnoff Research Center, Inc. Automated, non-invasive iris recognition system and method
JP3315648B2 (ja) * 1998-07-17 2002-08-19 沖電気工業株式会社 アイリスコード生成装置およびアイリス認識システム
AUPQ896000A0 (en) 2000-07-24 2000-08-17 Seeing Machines Pty Ltd Facial image processing system
JP4469476B2 (ja) * 2000-08-09 2010-05-26 パナソニック株式会社 眼位置検出方法および眼位置検出装置
JP4107087B2 (ja) 2003-01-09 2008-06-25 日産自動車株式会社 開閉眼判定装置
US7593550B2 (en) * 2005-01-26 2009-09-22 Honeywell International Inc. Distance iris recognition
CN1794262A (zh) * 2005-12-29 2006-06-28 上海交通大学 快速有效的活体虹膜分割方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8693784B2 (en) 2010-07-14 2014-04-08 Aisin Seiki Kabushiki Kaisha Eyelid detection device and program

Also Published As

Publication number Publication date
JP2008226031A (ja) 2008-09-25
EP1969993A2 (en) 2008-09-17
US7912251B2 (en) 2011-03-22
CN101264007A (zh) 2008-09-17
EP1969993B1 (en) 2013-02-27
CN101264007B (zh) 2011-08-03
EP1969993A3 (en) 2010-04-07
US20080226138A1 (en) 2008-09-18

Similar Documents

Publication Publication Date Title
JP4309927B2 (ja) まぶた検出装置及びプログラム
EP1970839B1 (en) Apparatus, method, and program for face feature point detection
JP4307496B2 (ja) 顔部位検出装置及びプログラム
JP5180997B2 (ja) まぶた検出装置及びプログラム
RU2653461C2 (ru) Обнаружение блика в кадре данных изображения
JP3143819B2 (ja) まぶたの開度検出装置
EP3466324A1 (en) Skin diagnostic device and skin diagnostic method
EP2959454A1 (en) Method, system and software module for foreground extraction
JP2008140270A (ja) 眼部検出装置、眼部検出方法及びプログラム
JP2007072628A (ja) 顔向き判別装置
JP6630341B2 (ja) シンボルの光学的検出方法
JP5338762B2 (ja) ホワイトバランス係数算出装置及びプログラム
JP4800979B2 (ja) 対象物検出装置、対象物検出方法、及びプログラム
CN110532993B (zh) 一种人脸防伪方法、装置、电子设备及介质
JPH11306348A (ja) 対象物検出装置及び対象物検出方法
JP5128454B2 (ja) 瞼検出装置、瞼検出方法及びプログラム
JP2008084109A (ja) 目開閉判定装置及び目開閉判定方法
JP4852454B2 (ja) 目傾き検出装置及びプログラム
KR101276792B1 (ko) 눈 검출 장치 및 방법
TWI510776B (zh) 玻璃氣泡瑕疵檢測處理方法
JP5172995B2 (ja) 顔向き判別装置およびコンピュータプログラム
JP2007025901A (ja) 画像処理装置、画像処理方法
KR101067516B1 (ko) 정규 상관도와 누적영상을 이용한 고속 그림자 제거 방법
JP2008226189A (ja) 特徴点検出装置及びプログラム
JP4465911B2 (ja) 画像処理装置およびその方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080718

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090406

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090428

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090508

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4309927

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313532

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130515

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130515

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140515

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250