JP4788319B2 - 開閉眼判定装置及び方法 - Google Patents

開閉眼判定装置及び方法 Download PDF

Info

Publication number
JP4788319B2
JP4788319B2 JP2005350496A JP2005350496A JP4788319B2 JP 4788319 B2 JP4788319 B2 JP 4788319B2 JP 2005350496 A JP2005350496 A JP 2005350496A JP 2005350496 A JP2005350496 A JP 2005350496A JP 4788319 B2 JP4788319 B2 JP 4788319B2
Authority
JP
Japan
Prior art keywords
eye
open
opening
eye determination
closed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005350496A
Other languages
English (en)
Other versions
JP2007151798A (ja
Inventor
治夫 松尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2005350496A priority Critical patent/JP4788319B2/ja
Publication of JP2007151798A publication Critical patent/JP2007151798A/ja
Application granted granted Critical
Publication of JP4788319B2 publication Critical patent/JP4788319B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は、運転者の目の開閉状態から、運転者の覚醒レベルを判定する開閉眼判定装置及び方法に関する。
従来より、車両運転者の覚醒レベルを判定する手段として、運転者の顔を撮影するとともに、その運転者の目の開閉状態を検出し、その検出結果から覚醒レベルを判定する開閉眼判定装置が提案されている(例えば、特許文献1、特許文献2参照)。このような開閉眼判定装置を設置すれば、覚醒レベルが低下しているときは、運転者に警報等が発せられ、居眠り運転を回避することができる。
また、目の開度を検出し、所定時間毎における開度の度数分布を計測して、度数分布が略平坦となる範囲内に閾値を設定するとともに、度数分布の更新に応じて閾値を更新し、その閾値を用いて目の開閉を判定することにより、判定精度の向上を図った装置も提案されている。(特許文献3参照)
特開平6−32154号公報 特開平10−44824号公報 特開平9−147120号公報
ところで、目の開閉を判断する装置においては、目の開閉を判断する指標として、目の縦幅を用いるものが多い。例えば、図17に示すような横320画素、縦240画素で撮影された顔画像に対しては、図18に示すように、目の周囲画像に対して2値化を行い、白→黒と変化する点(○印)と、黒→白と変化する点(×印)を求めることにより、目の縦幅を求めることができる。すなわち、○印のうち最も高い位置にある○印と、その○印の真下にある×印との間の画素数(○印と×印を含む画素数)を求めることにより、目の縦幅を求めることが可能である。
しかしながら、通常、上記特許文献1〜3においては、目の縦幅に相当する画素数は、図19に示すように、開眼に10画素程度で、また閉眼に5画素程度であり、画素数の変化は5画素程度に過ぎない。そのため、元々、目の小さい(細い)人を撮影した場合や、運転者が少し上を向いてカメラと顔との角度が変化した場合などには、開眼と閉眼時の画素数の変化が非常に小さくなってしまい、開閉眼の判定ができないという問題がある。
また、特許文献3のように度数分布を求めると、図20に示すように、開眼と閉眼分布の一部が重なったような形状となり、開閉眼を判定するための閾値を適切に決定することができないという問題がある。
本発明の課題は、車両運転者の開閉眼を確実かつ高精度に判定することのできる開閉眼判定装置、及び開閉眼判定方法を提供することにある。
上記課題を解決するために、本発明の開閉眼判定装置は、運転者の顔画像を取得する顔画像取得手段と、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出手段と、前記抽出された特徴点から開閉眼を判定する開閉眼判定手段とを備え、前記開閉眼判定手段は、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して算術的な操作を行って開閉眼判定指標値を計算する指標値計算手段と、所定時間ごとに前記開閉眼判定指標値の度数分布を求め、該度数分布から開閉眼判定閾値を求める閾値決定手段と、前記求めた開閉眼判定閾値によって、現在の開閉眼判定指標値が開・閉のいずれかを分別する開閉眼分別手段を有する一方、前記指標値計算手段は、両目の縦幅を一定値で除算したもの同士を乗じて対数をとることにより得られた値を、前記開閉眼判定指標値とすることを特徴としている。
また、本発明の開閉眼判定装置は、運転者の顔画像を取得する顔画像取得手段と、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出手段と、前記抽出された特徴点から開閉眼を判定する開閉眼判定手段とを備え、前記開閉眼判定手段は、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して算術的な操作を行って開閉眼判定指標値を計算する指標値計算手段と、所定時間ごとに前記開閉眼判定指標値の度数分布を求め、該度数分布から開閉眼判定閾値を求める閾値決定手段と、前記求めた開閉眼判定閾値によって、現在の開閉眼判定指標値が開・閉のいずれかを分別する開閉眼分別手段を有する一方、前記指標値計算手段は、両目の縦幅を一定値で除算したもの同士を乗じ、さらにその乗じたものを巾乗して対数をとることにより得られた値を、前記開閉眼判定指標値とすることを特徴としている。
さらに、本発明の開閉眼判定装置は、運転者の顔画像を取得する顔画像取得手段と、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出手段と、前記抽出された特徴点から開閉眼を判定する開閉眼判定手段とを備え、前記開閉眼判定手段は、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して算術的な操作を行って開閉眼判定指標値を計算する指標値計算手段と、所定時間ごとに前記開閉眼判定指標値の度数分布を求め、該度数分布から開閉眼判定閾値を求める閾値決定手段と、前記求めた開閉眼判定閾値によって、現在の開閉眼判定指標値が開・閉のいずれかを分別する開閉眼分別手段を有する一方、前記指標値計算手段は、片方の目の縦幅を一定値で除算したものを二乗して対数をとることにより得られた値を、前記開閉眼判定指標値とすることを特徴としている。
また、本発明の開閉眼判定方法は、運転者の顔画像を取得する顔画像取得ステップと、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出ステップと、前記抽出された特徴点から開閉眼を判定する開閉眼判定ステップとを含み、前記開閉眼判定ステップにおいて、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して目の開き具合を強調させる算術的な操作を行うとともに、その操作結果を用いて開閉眼の判定を行い、前記開閉眼判定ステップにおける算術的な操作として、両目の縦幅を一定値で除算したもの同士を乗じて対数をとる計算を行うことを特徴としている。
また、本発明の開閉眼判定方法は、運転者の顔画像を取得する顔画像取得ステップと、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出ステップと、前記抽出された特徴点から開閉眼を判定する開閉眼判定ステップとを含み、前記開閉眼判定ステップにおいて、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して目の開き具合を強調させる算術的な操作を行うとともに、その操作結果を用いて開閉眼の判定を行い、前記開閉眼判定ステップにおける算術的な操作として、両目の縦幅を一定値で除算したもの同士を乗じ、さらにその乗じたものを巾乗して対数をとる計算を行うことを特徴としている。
さらに、本発明の開閉眼判定方法は、運転者の顔画像を取得する顔画像取得ステップと、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出ステップと、前記抽出された特徴点から開閉眼を判定する開閉眼判定ステップとを含み、前記開閉眼判定ステップにおいて、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して目の開き具合を強調させる算術的な操作を行うとともに、その操作結果を用いて開閉眼の判定を行い、前記開閉眼判定ステップにおける算術的な操作として、片方の目の縦幅を一定値で除算したものを二乗して対数をとる計算を行うことを特徴としている。
上記各構成によれば、開閉眼判定指標値として、両目の縦幅を一定値で除算したもの同士を乗じて対数をとることにより得られた値を用いたり、また、両目の縦幅を一定値で除算したもの同士を乗じ、さらにその乗じたものを巾乗して対数をとることにより得られた値を用いたり、さらにまた、片方の目の縦幅を一定値で除算したものを二乗して対数をとることにより得られた値を用いて開閉眼を判定するので、車両運転者の開閉眼を確実かつ高精度に判定することができる。
本発明によれば、車両運転者の開閉眼を確実かつ高精度に判定することが可能となる。
以下、本発明の実施例を図面に従って説明する。
図1は、本発明に係る開閉眼判定装置の概略構成を示している。図に示すように、本開閉眼判定装置1は、運転者2の顔に近赤外線を照射する照明器3と、近赤外線を照射された運転者2の顔を撮像するビデオカメラ4と、撮像結果であるビデオ信号がビデオカメラ4から時系列的に入力され、その入力情報に基づいて開閉眼判定結果を出力する判定装置本体5とを備えている。判定装置本体5から出力される開閉眼判定結果は、覚醒度推定装置6や居眠り検出装置7などに入力される。
図2は、判定装置本体5の内部構成を示している。判定装置本体5は、ビデオカメラ4からのビデオ信号に基づいて顔画像を取得する顔画像取得手段8と、顔画像取得手段8から出力される顔画像を取り込んで、少なくとも目の上端と下端を含む目の特徴点を抽出する特徴点抽出手段9と、特徴点抽出手段9からの目の特徴点データを取り込んで、運転者2の目が開いているかどうかの判定(つまり開閉眼の判定)を行って、その判定結果(開閉眼判定結果)を出力する開閉眼判定手段10とを備えている。なお、顔画像取得手段8はメモリ(図示省略)を有し、ビデオカメラ4からのビデオ信号をディジタル画像としてキャプチャし、そのディジタル画像を前記メモリ内に一旦蓄積する。
図3は、特徴点抽出手段9の内部構成を示している。特徴点抽出手段9は、顔画像取得手段8からの顔画像を取り込んで顔特徴検出結果を出力する顔特徴検出手段11と、顔画像取得手段8からの顔画像と顔特徴検出手段11からの顔特徴検出結果とを取り込んで目の特徴点データを出力する顔特徴追跡手段12とを備えている。
顔特徴検出手段11は、図4(a)のフローチャートに示すように、検出モードによって、画面全体から片目となる候補を検出する片眼候補の検出処理(ステップS1及びステップS2)、または片眼候補の座標によって局所領域から両眼を検出し両眼を確定する両眼確定処理(ステップS1及びステップS3)のいずれかを実行する。
ここで、片眼候補の検出処理は、図4(b)のフローチャートに示すように、片眼の候補を検出するための処理エリアを設定する処理(ステップS21)と、処理エリア内に連続データを検出する処理(ステップS22)と、片眼候補を絞込む処理(ステップS23)と、次フレームにおいて片眼候補の検出処理を行うか、両眼確定の処理を行うかを判断する処理(ステップS24)とを含んでいる。
ステップS21における片眼の候補を検出するための処理エリアは、図5(a)に示すように、顔画像の左半分(もしくは右半分)に設定される。ステップS22における処理エリア内に連続データを検出する処理は、図7及び図8に示すように、処理エリア内の縦のラインごとに光量の濃度変化を調べて、白(淡)→黒(濃)と変化する点が横方向連続して連なる点を検出することにより行われる。ステップS23の片眼候補を絞り込む処理においては、検出された連続データが、上瞼のラインであれば、上に凸の形状をしているという仮定に基づいて形状認識を行い、上に凸の形状と合致したもののみを残すように処理する。
上記ステップS21〜S23の処理を複数フレームについて繰り返し行い、次フレームにおいて片眼候補の検出処理を行うか、両眼確定の処理を行うかを判断する処理において、図6に示すように、同一座標近辺に連続して上に凸の形状をして連続データとして検出される点を片眼候補点として、両眼確定の処理に遷移する。
次に、両眼確定の処理は、図4(c)のフローチャートに示すように、片眼候補の座標に両眼を検出するための処理エリアを設定する処理(ステップS31)と、処理エリア内に連続データを検出する処理(ステップS32)と、両眼候補の検出とパターン認識により両眼を判定する処理(ステップS33)と、次フレームにおいて片眼候補の検出に戻るか引き続き両眼確定の処理を行うか眼位置追跡の処理を行うかを判断する処理(ステップS34)とを含んでいる。
パターン認識には、あらかじめ複数の眼の画像から辞書となる眼の画像を生成したものとの相関を求める相互相関法、あらかじめ複数の眼の画像と眼ではない顔部位画像(眼鏡のフレームや眉毛、鼻など)をニューラルネットワークによって学習し、眼か否かを判定するための画像を同ニューラルネットワークより判定する方法などが利用できる。
顔特徴追跡手段12は、図9に示す処理を実行する。すなわち、顔特徴追跡手段12は、図10(a)に示すように、前回の該処理もしくは両眼確定処理により検出された眼の座標の近辺の領域から、基準眼を検出する(ステップS41及びS42)。基準眼が検出できた場合は、図10(b)に示すように、基準眼から前回の該処理もしくは両眼確定処理により検出された眼の座標から眼間距離を求めて反対眼の検出領域を設定し、その領域から反対眼を検出する(ステップS43及びS44)。
ステップS42において基準眼が検出できない場合には、反対眼を基準眼に変えて(ステップS46)、再び基準眼の検出を行う(ステップS47及びS48)。それでも基準眼が検出できない場合は、当フレームでの追記に失敗したとみなす(ステップS49)。
ステップS44において反対眼が検出できた場合には、検出した基準眼および反対眼の座標を確定する(ステップS45)。ステップS44において反対眼が検出できない場合には、前回の眼の座標から眼間距離を求めて、基準眼の座標から眼間距離相当分の移動位置を反対眼の座標として確定する(ステップS50)。
目の特徴点座標は、図18に示したように、目の付近の画像に対して、各列方向に画像の濃淡を調べて、淡(白)→濃(黒)と変化する点(図中○で表記)と、濃(黒)→淡(白)と変化する点(図中×で表記)を検出する。淡(白)→濃(黒)と変化する点の横方向への連続を調べることにより目の左端と右端を確定し、最も高い点を上端とし、濃(黒)→淡(白)と変化する点の最も低い点を下端とする。
開閉眼判定手段10は、図11に示すように、特徴点抽出手段9(図2参照)からの目の特徴点座標を取り込んで、開閉眼判定するための開閉眼判定指標値を出力する指標値計算手段13と、所定時間ごとに開閉眼判定指標値の分布を求め、この分布から開閉眼判定閾値を出力する閾値決定手段14と、指標値計算手段13からの開閉眼判定指標値及び閾値決定手段14からの開閉眼判定閾値を取り込んで、現開閉眼判定指標値が開・閉のいずれかを分別するとともに、その分別結果を開閉眼判定結果として出力する開閉眼分別手段15とを備えている。
指標値計算手段13は、目の特徴点座標から、図12に示すように、右目の上端と下端の点の差を目の縦幅hrに、左目の上端と下端の点の差を目の縦幅hlにそれぞれ設定する。また、両目それぞれの縦幅を0.0〜1.0に正規化したものをdr,dlにそれぞれ設定する。正規化の方法としては、目の縦幅をhr,hl、横幅をwr,wlとしたときの縦横比をdr,dlとする方法や、目の縦幅hr,hlを一律の相場値で除算する方法などがある。
そして、以下の(1)式のようにdr,dlの積を求めて対数を取り、符号を反転した値rを各フレームで求める。このrを開閉眼判定指標値と呼ぶ。
r=−log10(dr*dl) ・・・・・・(1)
片目のみしか追跡できていない場合は、開閉眼判定指標値を追跡できている眼の情報、右目ならばdr,左目ならばdlのみを用いて、以下の(2)式または(3)式で求める。
r=−log10(dr*dr) ・・・・・・(2)
または、
r=−log10(dl*dl) ・・・・・・(3)
閾値決定手段14は、所定数の各フレームで求めた開閉眼判定指標値rを、所定の区間(例えば0.1区間)を横軸に、度数を縦軸にした分布として表し、毎の開閉眼判定指標値分布を求め、閾値を決定する。開閉眼判定指標値分布は一般に分布は図13のような形状を示す。
図14に示すように、分布について、小さいほうから最初の極大値(第1の極大値)の存在するrをrmin、大きいほうから最初の極大値(第2の極大値)の存在するrをrmaxとする。rminとrmaxの中央値を開閉判定閾値tとして用いる。度数分布は直近の所定数のrによって決定されるため開閉判定閾値tは常に変化する。
また、図15に示すように、開眼の頻度に比べて閉眼の頻度が極めて少ない場合には、rmin =rmax となる場合がある。この場合は、rminから相場値をもって開閉判定閾値tを決定する。他の決定手法としては、分布の中心から一定割合の度数を占める範囲でt>rminとなる点にする方法がある。
開閉眼分別手段15は、図16に示すように、開閉眼判定閾値tよりも現在の開閉眼判定指標値rが大きい場合を閉眼、小さい場合を開眼することにより、開閉判定結果を出力する。
本実施例によれば、開閉眼判定手段10が、算術的な操作を行うための開閉眼判定指標値を計算する指標値計算手段13と、所定時間ごとに開閉眼判定指標値の度数分布を求め、この度数分布から開閉眼判定閾値を求める閾値決定手段14と、求めた開閉眼判定閾値によって、現在の開閉眼判定指標値が開・閉のいずれかを分別する開閉眼分別手段15とを有するので、所定時間での目の開閉眼判定指標値の分布から目の開閉分別のための閾値が決定され、常に最適な閾値を決定することができる。
また、本実施例によれば、指標値計算手段13が、両目の縦幅を一定値で除算したもの同士を乗じて対数をとることにより得られた値を開閉眼判定指標値としているので、指標値として単に目の縦幅を用いる場合と比較して、目の開と閉における変化幅を大きくすることができる。
また、本実施例によれば、指標値計算手段13が、片方の目の縦幅を一定値で除算したものを二乗して対数をとることにより得られた値を開閉眼判定指標値としているので、片目のみしか検出できていない場面においても、開閉眼判定指標値を容易に計算することができる。
また、本実施例によれば、閾値決定手段14が、度数分布上で一方の端に最も近い箇所に現れる第1の極大値と、他方の端に最も近い箇所に現れる第2の極大値との間に開閉眼判定閾値を設定しているので、第1の極大値は開眼の最も多い位置を、第2の極大値は閉眼の最も多い位置をそれぞれ示すことになり、開眼と閉眼を分別する閾値を適切に設定することができる。
また、本実施例によれば、閾値決定手段14が、度数分布上で一方の端に最も近い箇所に現れる極大値を求め、その極大値から一定指標値離れた位置に開閉眼判定閾値を設定しているので、開眼の状態のみでも閾値を決定することができる。すなわち、一般に極大値が一つしかない場合は、閉眼がほとんどない状態であるため、求められる極大値は開眼の最も多い位置を示すことになり、開眼の状態のみでも閾値を容易に決定することが可能となる。
また、本実施例によれば、閾値決定手段14が、度数分布全体に対して一定の割合を占める位置に開閉眼判定閾値を設定しているので、開眼を閉眼と誤判定する機会を減らすことができる。すなわち、一般に極大値が一つしかない場合は、閉眼がほとんどない状態であるため、求められる極大値は開眼の最も多い位置を示すことになり、開眼の分布の一定割合を占める部分から離れた所に閾値が決定され、開眼を閉眼と誤判定する機会を減らすことが可能となる。
また、本実施例によれば、特徴点抽出手段9が、顔画像取得手段8から顔画像を取り込んで顔特徴を検出する顔特徴検出手段11と、顔特徴が検出された場合に、顔画像取得手段8からの顔画像と顔特徴検出手段11での顔特徴の検出結果を取り込んで顔特徴点を出力するとともに、以後は顔画像と過去の顔特徴点を取り込んで顔特徴点を更新出力する顔特徴追跡手段12とを有するので、常に顔画像全体から顔特徴を検出する必要がなく、過去の顔特徴点の情報を用いて、現在の顔特徴点を探すことが可能となり、処理の効率化及び高速化を図ることができる。
さらに、本実施例によれば、特徴点抽出手段9が、目の特徴点を出力する際に、両目のうち少なくとも片方の目の上端及び下端の座標を求めて目の縦方向の幅を算出し、その算出結果を、目の開き具合を示すデータとして出力するので、目の開閉判定のための開閉眼判定指標値を容易に計算できる。
以上、本発明の実施例を図面により詳述してきたが、上記実施例は本発明の例示にしか過ぎないものであり、本発明は上記実施例の構成にのみ限定されるものではない。本発明の要旨を逸脱しない範囲の設計の変更等があっても、本発明に含まれることは勿論である。
例えば、開閉眼判定指標値rを求める場合、上記(1)式の代わりに次のような(4)又は(5)式を用いてもよい。
r=−log10(dl*dr)^k (”^” は巾乗の記号) ・・・・・・(4)
r=−k*log10(dl*dr) (kは任意係数) ・・・・・・(5)
本発明による開閉眼判定装置の概略構成図である。 判定装置本体の内部構成図である。 特徴点抽出手段の内部構成図である。 (a)は顔特徴検出手段における眼の検出ロジックを説明するフローチャート、(b)は片眼候補検出のフローチャート、(c)は両眼確定のフローチャートである。 (a)は片眼候補検出のための領域設定を説明する図、(b)は両眼確定のための領域設定を説明する図である。 眼の候補となる連続データを説明する図である。 顔画像の縦ラインの光量変化を調べることにより眼の候補を検出する方法を説明する図である。 図7における検出結果の一例を示す図である。 顔特徴追跡手段のロジックを説明するフローチャートである。 (a)は基準眼を検出する様子を説明する図、(b)は基準眼から反対眼を検出する様子を説明する図である。 開閉眼判定手段の内部構成図である。 顔の特徴点から目の縦幅と横幅を算出する方法を説明する図である。 開閉眼判定指標値の分布を示す図である。 開閉眼判定閾値の決定方法を説明する図である。 min=rmaxとなる場合の開閉眼判定閾値の決定方法を説明する図である。 開閉眼分別の様子を説明する図である。 顔画像の一例を説明する図である。 目の特徴座標の取得方法を説明する図である。 目の開度の計算方法を説明する図である。 目の開度度数分布の作成と閾値の決定方法を説明する図である。
符号の説明
1 開閉眼判定装置
2 運転者
4 ビデオカメラ
5 判定装置本体
8 顔画像取得手段
9 特徴点抽出手段
10 開閉眼判定手段
11 顔特徴検出手段
12 顔特徴追跡手段
13 指標値計算手段
14 閾値決定手段
15 開閉眼分別手段

Claims (10)

  1. 運転者の顔画像を取得する顔画像取得手段と、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出手段と、前記抽出された特徴点から開閉眼を判定する開閉眼判定手段とを備え、
    前記開閉眼判定手段は、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して算術的な操作を行って開閉眼判定指標値を計算する指標値計算手段と、所定時間ごとに前記開閉眼判定指標値の度数分布を求め、該度数分布から開閉眼判定閾値を求める閾値決定手段と、前記求めた開閉眼判定閾値によって、現在の開閉眼判定指標値が開・閉のいずれかを分別する開閉眼分別手段を有する一方、
    前記指標値計算手段は、両目の縦幅を一定値で除算したもの同士を乗じて対数をとることにより得られた値を、前記開閉眼判定指標値とすることを特徴とする開閉眼判定装置。
  2. 運転者の顔画像を取得する顔画像取得手段と、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出手段と、前記抽出された特徴点から開閉眼を判定する開閉眼判定手段とを備え、
    前記開閉眼判定手段は、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して算術的な操作を行って開閉眼判定指標値を計算する指標値計算手段と、所定時間ごとに前記開閉眼判定指標値の度数分布を求め、該度数分布から開閉眼判定閾値を求める閾値決定手段と、前記求めた開閉眼判定閾値によって、現在の開閉眼判定指標値が開・閉のいずれかを分別する開閉眼分別手段を有する一方、
    前記指標値計算手段は、両目の縦幅を一定値で除算したもの同士を乗じ、さらにその乗じたものを巾乗して対数をとることにより得られた値を、前記開閉眼判定指標値とすることを特徴とする開閉眼判定装置。
  3. 運転者の顔画像を取得する顔画像取得手段と、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出手段と、前記抽出された特徴点から開閉眼を判定する開閉眼判定手段とを備え、
    前記開閉眼判定手段は、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して算術的な操作を行って開閉眼判定指標値を計算する指標値計算手段と、所定時間ごとに前記開閉眼判定指標値の度数分布を求め、該度数分布から開閉眼判定閾値を求める閾値決定手段と、前記求めた開閉眼判定閾値によって、現在の開閉眼判定指標値が開・閉のいずれかを分別する開閉眼分別手段を有する一方、
    前記指標値計算手段は、片方の目の縦幅を一定値で除算したものを二乗して対数をとることにより得られた値を、前記開閉眼判定指標値とすることを特徴とする開閉眼判定装置。
  4. 前記閾値決定手段は、度数分布上で一方の端に最も近い箇所に現れる第1の極大値と、他方の端に最も近い箇所に現れる第2の極大値との間に前記開閉眼判定閾値を設定することを特徴とする請求項1〜3のいずれか一項に記載の開閉眼判定装置。
  5. 前記閾値決定手段は、度数分布上で一方の端に最も近い箇所に現れる極大値を求め、その極大値から一定指標値離れた位置に前記開閉眼判定閾値を設定することを特徴とする請求項1〜3のいずれか一項に記載の開閉眼判定装置。
  6. 前記特徴点抽出手段は、前記顔画像取得手段から顔画像を取り込んで顔特徴を検出する顔特徴検出手段と、顔特徴が検出された場合に、前記顔画像取得手段からの顔画像と前記顔特徴検出手段での顔特徴の検出結果を取り込んで顔特徴点を出力するとともに、以後は顔画像と過去の顔特徴点を取り込んで顔特徴点を更新出力する顔特徴追跡手段とを有することを特徴とする請求項1〜3のいずれか一項に記載の開閉眼判定装置。
  7. 前記特徴点抽出手段は、目の特徴点を出力する際に、両目のうち少なくとも片方の目の上端及び下端の座標を求めて目の縦方向の幅を算出し、その算出結果を、目の開き具合を示すデータとして出力することを特徴とする請求項1〜3のいずれか一項に記載の開閉眼判定装置。
  8. 運転者の顔画像を取得する顔画像取得ステップと、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出ステップと、前記抽出された特徴点から開閉眼を判定する開閉眼判定ステップとを含み、
    前記開閉眼判定ステップにおいて、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して目の開き具合を強調させる算術的な操作を行うとともに、その操作結果を用いて開閉眼の判定を行い、
    前記開閉眼判定ステップにおける算術的な操作として、両目の縦幅を一定値で除算したもの同士を乗じて対数をとる計算を行うことを特徴とする開閉眼判定方法
  9. 運転者の顔画像を取得する顔画像取得ステップと、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出ステップと、前記抽出された特徴点から開閉眼を判定する開閉眼判定ステップとを含み、
    前記開閉眼判定ステップにおいて、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して目の開き具合を強調させる算術的な操作を行うとともに、その操作結果を用いて開閉眼の判定を行い、
    前記開閉眼判定ステップにおける算術的な操作として、両目の縦幅を一定値で除算したもの同士を乗じ、さらにその乗じたものを巾乗して対数をとる計算を行うことを特徴とする開閉眼判定方法
  10. 運転者の顔画像を取得する顔画像取得ステップと、前記取得した顔画像のデータから目の位置を検出するとともに、該目の特徴点を抽出する特徴点抽出ステップと、前記抽出された特徴点から開閉眼を判定する開閉眼判定ステップとを含み、
    前記開閉眼判定ステップにおいて、前記特徴点として目の開き具合を示すデータを取り込んで、該データに対して目の開き具合を強調させる算術的な操作を行うとともに、その操作結果を用いて開閉眼の判定を行い、
    前記開閉眼判定ステップにおける算術的な操作として、片方の目の縦幅を一定値で除算したものを二乗して対数をとる計算を行うことを特徴とする開閉眼判定方法。
JP2005350496A 2005-12-05 2005-12-05 開閉眼判定装置及び方法 Expired - Fee Related JP4788319B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005350496A JP4788319B2 (ja) 2005-12-05 2005-12-05 開閉眼判定装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005350496A JP4788319B2 (ja) 2005-12-05 2005-12-05 開閉眼判定装置及び方法

Publications (2)

Publication Number Publication Date
JP2007151798A JP2007151798A (ja) 2007-06-21
JP4788319B2 true JP4788319B2 (ja) 2011-10-05

Family

ID=38236901

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005350496A Expired - Fee Related JP4788319B2 (ja) 2005-12-05 2005-12-05 開閉眼判定装置及び方法

Country Status (1)

Country Link
JP (1) JP4788319B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4992823B2 (ja) * 2008-05-22 2012-08-08 トヨタ自動車株式会社 顔検出装置及び顔検出方法
JP5210773B2 (ja) * 2008-09-16 2013-06-12 トヨタ自動車株式会社 眠気判定装置及びプログラム
JP4788786B2 (ja) 2009-02-09 2011-10-05 株式会社デンソー 眠気検出装置,プログラムおよび眠気検出方法
JP5349350B2 (ja) * 2010-01-26 2013-11-20 トヨタ自動車株式会社 開眼度判定装置及び開眼度判定方法
JP5418579B2 (ja) 2011-12-06 2014-02-19 株式会社デンソー 開閉眼検出装置
CN111985265B (zh) * 2019-05-21 2024-04-12 华为技术有限公司 图像处理方法和装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3681657B2 (ja) * 2001-06-18 2005-08-10 三菱電機株式会社 覚醒度推定装置および覚醒度推定方法
JP4123050B2 (ja) * 2003-05-16 2008-07-23 日産自動車株式会社 覚醒度レベル判定装置

Also Published As

Publication number Publication date
JP2007151798A (ja) 2007-06-21

Similar Documents

Publication Publication Date Title
JP4307496B2 (ja) 顔部位検出装置及びプログラム
JP4845698B2 (ja) 眼部検出装置、眼部検出方法及びプログラム
EP1426898B1 (en) Human detection through face detection and motion detection
KR101653278B1 (ko) 색상 기반 얼굴 검출을 통한 실시간 얼굴 추적 시스템
JP6234762B2 (ja) 眼部検出装置、方法、およびプログラム
JP4788319B2 (ja) 開閉眼判定装置及び方法
JP2000259814A (ja) 画像処理装置及びその方法
CN105389554A (zh) 基于人脸识别的活体判别方法和设备
KR20170006355A (ko) 모션벡터 및 특징벡터 기반 위조 얼굴 검출 방법 및 장치
JPH0944685A (ja) 顔画像処理装置
EP2704056A2 (en) Image processing apparatus, image processing method
JP5271227B2 (ja) 群衆監視装置および方法ならびにプログラム
KR100988326B1 (ko) 사용자 맞춤형 표정 인식 방법 및 장치
JP4507679B2 (ja) 画像認識装置、画像抽出装置、画像抽出方法及びプログラム
JP4757598B2 (ja) 顔検出方法および装置並びにプログラム
JPWO2018078857A1 (ja) 視線推定装置、視線推定方法及びプログラム記録媒体
KR101343623B1 (ko) 적응적 피부색 검출 방법, 그리고 이를 이용한 얼굴 검출 방법 및 그 장치
JP4082203B2 (ja) 開閉眼判定装置
JP2012068948A (ja) 顔属性推定装置およびその方法
KR100977259B1 (ko) 다중 기울기 히스토그램을 이용한 사람 탐색 및 추적 방법
KR101146417B1 (ko) 무인 감시 로봇에서 중요 얼굴 추적 장치 및 방법
JP2004192552A (ja) 開閉眼判定装置
WO2017159215A1 (ja) 情報処理装置及び情報処理方法
JP5035139B2 (ja) 眼画像処理装置
JP4471607B2 (ja) 眼の追跡装置、眼の状態判定装置及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110329

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110621

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110704

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140729

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees