JP2001005952A - 瞬目状態検出方法 - Google Patents
瞬目状態検出方法Info
- Publication number
- JP2001005952A JP2001005952A JP11178617A JP17861799A JP2001005952A JP 2001005952 A JP2001005952 A JP 2001005952A JP 11178617 A JP11178617 A JP 11178617A JP 17861799 A JP17861799 A JP 17861799A JP 2001005952 A JP2001005952 A JP 2001005952A
- Authority
- JP
- Japan
- Prior art keywords
- blinking
- nostril
- upper eyelid
- eye
- state
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
が混同することなく、居眠り運転等の覚醒度低下状態を
含む瞬目状態を精度良く検出することが出来る瞬目状態
検出方法を提供する。 【解決手段】 鼻孔を基準位置として、該鼻孔位置より
前記目の特徴部位までの距離を算出して、該距離の変位
に基づいて運転者の瞬目状態を検出する瞬目状態検出方
法において、前記目の特徴部位が上まぶたであり、該上
まぶたと鼻孔間の顔縦方向(Y軸方向)の距離の変位量に
基づいて運転者の瞬目状態を検出することを特徴とす
る。
Description
閉動作である瞬目状態を測定して居眠り運転や脇見運転
等を検出する瞬目検出方法とその装置に関する。
う)を測定(回数、時間等)して、居眠り運転等の覚醒度
低下状態や脇見運転等を検出する瞬目検出方法が種々知
られており、かかる瞬目検出方法は、例えば、基準閉目
時間と比較して、測定された閉目時間が基準閉目時間よ
り長いものを複数積算して、その合計値が所定時間内に
規定値以上となった場合、居眠り状態と判断するように
設定され、これにより、初回に測定した閉目時間が規定
値以上の場合は、即座に居眠り状態と判断することが可
能である。
顔を車両室内に設けたCCDカメラ等で撮像し、得られ
た顔画像を2値化処理する等の画像処理を行った後前記
目を特定しているが、そして前記目の位置は個人差があ
り、又画像情報はCCDカメラで撮像するために、太陽
光等の外乱、若しくは車室内に設けたサンバイザ等の影
響で精度良く目の位置や動きをとらえることが出来なか
った。
の組み合わせにおいて、前記目の位置を特定する発明が
いくつか開示されている。例えば前記顔画像の特徴部位
として鼻孔の形状は、顔画像中、2つの並列する略円形
の黒領域として表され、これは個人差が比較的少ない顔
の特徴部位として好適であり、この鼻孔を基準位置とし
て、該基準位置より前記目までの距離を算出して、該距
離の変位に基づいて運転者の瞬目状態を検出する瞬目状
態検出方法が存在する。(特開平8-300978号、特開平10-
86696号)
は、基準位置としての鼻孔は一定でも、目そのものは人
によって若しくは人種によって大小個人差があり、特に
特開平8-300978号に示すように、ヒストグラム算出手段
等を利用して黒画像領域認識手段にて目の位置や目の瞬
きを求める方法では、結果として目の中の瞳の有無を認
識することになり、必ずしも精度良い測定が出来ない。
って移動し、又夜間や昼間の照度の違いによっても瞳が
大小変化する。このため、前記瞳の移動と瞬きとが混同
しやすく、必ずしも精度良い居眠り運転等の覚醒度低下
状態を検出することが出来ない。
の中の特徴部位である瞳等の移動と瞬きとが混同するこ
となく、居眠り運転等の覚醒度低下状態を含む瞬目状態
を精度良く検出することが出来る瞬目状態検出方法を提
供することを目的とする。
決するために、顔を撮像して顔画像を得る撮像手段を備
え、前記顔画像から鼻孔及び上まぶたを抽出し、前記鼻
孔を基準位置として前記上まぶたまでの距離を算出し、
前記鼻孔と前記上まぶた間の顔縦方向(Y軸方向)の距
離の変位量に基いて運転者の瞬き状態を検出することを
特徴とする。
おいて、前記上まぶた位置の検出が、該上まぶたが瞳
(黒目部分)と眉毛の間にあるか若しくは白目部分の上端
にあるという判定手段により行われる事を特徴とするさ
らにまた、請求項3記載の発明は、上まぶたと鼻孔間の
Y軸方向の距離の変位量の左目と右目両者のいずれもが
所定の閾値を超えた場合に、覚醒度低下状態の判断を行
うようにしたことを特徴とする
を行った場合に上下動するのは瞳(黒目部分)でも又眉
毛でもなくなく上まぶたそのものである。言い換えれば
瞬きをしても眉毛は変動することなく、固定であり、又
瞳も瞬きによって上まぶたにより閉じられ、顔画像の視
界から消えるが、瞬きにより変動することはなく、却っ
て斜視や上目使いや下目使いにより変動し、瞬きか否か
の判定誤差が生じやすい。
ず上下動し且つ基本的には横(水平)方向の変動は微小で
ある。従って前記上まぶたの変動に対し、縦(Y軸)方
向についてのみ、例えば鼻孔を基準位置とした変位量を
検出し、その変位量が所定の閾値を超えた時間若しくは
回数、更には両者の組み合わせにより瞬き状態を精度良
く且つ確実に検出できる。然も前記上まぶたにはまつげ
やアイラインが存在し、CCDカメラ等の撮像データを
黒白2値化変換した細幅の黒画素ラインとして表れるた
めに、これを縦方向にスキャンした場合、鮮明な細幅ピ
ーク値として表れ、検出精度の向上につながる。(瞳や
眉毛等の場合は、まつげやアイラインに比較して大幅に
太幅であり、その分誤差が生じやすい。
り、濃淡(ピーク値)がはっきり出るのみならず、細幅の
上まぶたの上下には、一般的に上下方向に太幅の画素と
して表れる瞳(黒目部分)部分と眉毛部分の間にあるため
に、瞳(黒目部分)部分と眉毛部分との組み合わせにより
上まぶたを検出することにより一層確実に上まぶたの検
出が容易である。
を用いて詳細に説明する。但し、この実施例に記載され
る構成部品の寸法、形状、その相対配置などは特に特定
的な記載がない限り、この発明の範囲をそれのみに限定
する趣旨ではなく単なる説明例に過ぎない。図1は本発
明の実施形態にかかる瞬き検出装置を示すブロックダイ
ヤグラムで、図に沿って本発明の実施形態を説明する。
1は、例えば768×493の画素数を有する小型のCCDカ
メラ(電荷結合素子カメラ)で自動車のダッシュボード若
しくはインスツルメントパネル部等に配置されて、前方
より車両運転者の顔画像を撮像する。尚、夜間等のよう
にCCDカメラ1よりの画像出力が低い場合は、不図示
の近赤外線照明手段等を利用して光量を補う。かかる点
は前記先行技術に記述されている照明及び照明制御手段
を用いればよい。
ータはアナログデータであるために、増幅器2を介して
AD変換器3によりデジタル階調画像に変換した後、顔
画像処理部に入力される。顔画像処理部4では、前記デ
ジタル階調画像を濃淡レベル変換手段13により所定長
以下の黒レベルを抽出した後、浮動2値化手段19によ
り浮動2値化されて2値化画像データに変換される。次
に、目抽出部14として規定される第1の候補領域設定
手段により左右の目の領域を矩形状に領域設定し、更に
鼻孔抽出部15として規定される第2の候補領域設定手
段により鼻孔周囲領域を矩形状に領域設定する。そして
前記鼻孔抽出部15より抽出された鼻孔周囲領域を鼻孔
位置検出部16により、縦軸(Y軸)方向と横軸(X軸)
方向とにより夫々スキャンして黒画素数を読み取ってY
軸方向とX軸方向の画素数に対応するヒストグラムを作
成し、該2軸方向のヒストグラムより鼻孔24位置を検
出する。かかる構成は特開平8-300978に開示されてお
り、公知であるのでその詳細な説明を省略する。
り抽出された拡大目領域より上まぶた23位置を検出す
る上まぶた位置検出部17を具えた事を要旨とする。図
2は前記拡大目領域において、前記目抽出部14より目
部分(黒目+白目)の中心をX軸方向とY軸方向に夫々ス
キャンし、夫々の黒画素数をカウントしたヒストグラム
を示す。本図より理解されるように、Y軸方向において
は、瞳21(黒目部分)や眉毛22部分も黒画素領域と
して表れるが、瞬きを行った場合にこれらの部分は上下
動する事なく、上まぶた23に対応するまつげやアイラ
インのみが上下動する。
に、上まぶた23は瞬きを行った場合にY軸方向には上
下動するがX軸方向の変動は微小である。従って前記上
まぶた23の変動に対し、Y軸方向についてのみ、鼻孔
24を基準位置とした変位量を検出し、その変位量が後
記する閾値決定部8で定めた所定の閾値を超えた場合に
瞬き状態として判断すればよい。然も前記上まぶた23
は白目25部分の上端にあり、濃淡(ピーク値)がはっき
り出るのみならず、細幅の上まぶた23の上下には、上
下方向に太幅の画素として表れる瞳21部分と眉毛22
部分の間にあるために、ヒストグラムの太幅の黒画素領
域の間にある細幅ピーク値のみを検出することにより、
一層確実に上まぶた23の検出が可能である。
位置と鼻孔24位置は、上まぶた/鼻孔間距離算出部5
で、その間のY軸方向の距離を算出する。距離の算出は
画素数のカウントにより行う。尚、CCDカメラ1によ
り、車両の運転中における顔を撮像すると、運転者の生
理的振動、車両の高周波振動等による振動が合成され、
又道路の凹凸とショックアブゾーバ作用等により長い周
期で前記波形が揺動する。このため、前記距離信号波形
からこれらのノイズとしての高周波成分と低周波成分を
除去して平滑化する必要がある。これは前記画像処理部
4内にノイズ処理部を設けてもよく、又AD変換器3に
よりデジタル変換する前のアナログデータ時にローパス
フィルタ等を用いて平滑化処理を行っても良い。
離の基準距離を算出する上まぶた/鼻孔間基準距離算出
部で、図3の画素数/時間のグラフ線図で示すように、
鼻孔24の基準位置より上まぶた23の変位位置に対応
した、言い換えれば上まぶた23の開位置に対応した基
準距離波形Dsとなる。この場合基準距離波形Dsは上
まぶた23の全開位置でも又全閉位置のいずれでもよ
い。
の上まぶた位置Dとの差を取り、上まぶた変位算出部7
にて、前記上まぶた23の変位量(D−Ds)を算出す
る。変位量(D−Ds)の算出は、図4に示すように、基
準距離Dsより前記波形成分Dを引けばよい。前記した
ように人間は通常の瞬きの場合でも200msの間隔が
あり、このため前記瞬目から、居眠り運転等の覚醒度低
下状態か通常の瞬目かを判断するためには瞬目の時間を
測定する必要があり、このため本実施例は覚醒状態判定
部9において、閾値決定部8にて閾値を設定し、該閾0
値を超えた変位量K(D−Ds)について覚醒度低下状態
を判断するための瞬目と判断し、該閾値を超えた前記変
位量K(D−Ds)から、注意すべき瞼の閉目時間ΔTn
として検出してその回数と時間に基づいて覚醒度低下状
態の判定を行う。尚、ここでKは定数を示し、演算精度
を高めるためのものである。
観察パターンの輝度変化によって任意に可変出来るよう
にしている。又、前記処理は2値化した画素数に基づい
てヒストグラムを取る手法で説明したが、電圧レベル波
形のアナログ的処理に基づいて行うことも容易である。
は、上まぶた23の開閉動作を検出して閉目時間や閉目
回数を検出するようにしたために、従来技術に比較し
て、瞳21の大小等による個人差や斜視や上目使いや下
目使い等の瞳21の移動に起因する誤判断をなくするこ
とが出来、覚醒度低下状態に起因する瞬目判断を精度良
く行う事が出来る。
的に片目をつぶったような場合は、片目のみが閉目時間
や閉目回数を満足して覚醒度低下状態と誤判断する場合
がある。そこで本実施形態においては、図5に示すフロ
ーチャート図より明らかなように、上まぶた位置検出か
ら上まぶた変位算出までを左右それぞれの目で行い(S
1)、該左目と右目の上まぶた変位量の、両者のいずれ
もが閾値を超えた場合(S2)に、覚醒状態判定部9に信
号入力を行い(S3)、該判定部9内で例えばその平均値
で閉目時間を算出するようにすればよい。
瞳等の移動と瞬きとが混同することなく、居眠り運転等
の覚醒度低下状態を含む瞬目状態を精度良く検出するこ
とが出来る。
全体ブロック図である。
抽出部より目部分(黒目+白目)の中心をX軸方向とY軸
方向に夫々スキャンし、夫々の黒画素数をカウントした
ヒストグラムを示す。
て定常成分のみを算出し、上まぶたの開閉位置に対応し
たレベル波形を示す画素数/時間のグラフ線図である。
係を示すグラフ図である。
の、覚醒度低下状態の判定方法を示すフローチャート図
である。
Claims (3)
- 【請求項1】 顔を撮像して顔画像を得る撮像手段を備
え、前記顔画像から鼻孔及び上まぶたを抽出し、前記鼻
孔を基準位置として前記上まぶたまでの距離を算出し、
前記鼻孔と前記上まぶた間の顔縦方向(Y軸方向)の距
離の変位量に基いて運転者の瞬き状態を検出することを
特徴とする瞬目状態検出方法。 - 【請求項2】 前記上まぶた位置の検出が、該上まぶた
が瞳(黒目部分)と眉毛の間にあるか若しくは白目部分の
上端にあるという判定手段により行われる事を特徴とす
る請求項1記載の瞬目状態検出方法。 - 【請求項3】 上まぶたと鼻孔間のY軸方向の距離の変
位量の左目と右目両者のいずれもが所定の閾値を超えた
場合に、覚醒度低下状態の判断を行うようにしたことを
特徴とする請求項1記載の瞬目状態検出方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP17861799A JP3746916B2 (ja) | 1999-06-24 | 1999-06-24 | 瞬目状態検出方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP17861799A JP3746916B2 (ja) | 1999-06-24 | 1999-06-24 | 瞬目状態検出方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001005952A true JP2001005952A (ja) | 2001-01-12 |
JP3746916B2 JP3746916B2 (ja) | 2006-02-22 |
Family
ID=16051589
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP17861799A Expired - Fee Related JP3746916B2 (ja) | 1999-06-24 | 1999-06-24 | 瞬目状態検出方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3746916B2 (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001307076A (ja) * | 2000-04-24 | 2001-11-02 | Niles Parts Co Ltd | 眼の状態検出装置、居眠り検出装置 |
WO2006092022A1 (en) * | 2005-03-04 | 2006-09-08 | Sleep Diagnostics Pty. Ltd | Measuring alertness |
JP2007316762A (ja) * | 2006-05-23 | 2007-12-06 | Advanced Telecommunication Research Institute International | 瞬き検出装置及びコンピュータプログラム |
JP2008194309A (ja) * | 2007-02-14 | 2008-08-28 | Toyota Motor Corp | 目検知装置、居眠り検知装置及び目検知装置の方法 |
DE102008007150A1 (de) * | 2007-03-30 | 2008-10-02 | Volkswagen Ag | Verfahren zum Erstellen einer Müdigkeitsprognose eines Kraftfahrzeugfahrers |
JP2010026804A (ja) * | 2008-07-18 | 2010-02-04 | Olympus Corp | 画像処理装置、画像処理プログラム、および画像処理方法 |
CN102686469A (zh) * | 2009-12-28 | 2012-09-19 | 法国欧陆汽车公司 | 用于确定代表车辆驾驶员的警觉状态的参数的方法 |
JP2016224597A (ja) * | 2015-05-28 | 2016-12-28 | 浜松ホトニクス株式会社 | 瞬目計測方法、瞬目計測装置、及び瞬目計測プログラム |
-
1999
- 1999-06-24 JP JP17861799A patent/JP3746916B2/ja not_active Expired - Fee Related
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001307076A (ja) * | 2000-04-24 | 2001-11-02 | Niles Parts Co Ltd | 眼の状態検出装置、居眠り検出装置 |
WO2006092022A1 (en) * | 2005-03-04 | 2006-09-08 | Sleep Diagnostics Pty. Ltd | Measuring alertness |
US7791491B2 (en) | 2005-03-04 | 2010-09-07 | Sleep Diagnostics Pty., Ltd | Measuring alertness |
JP2007316762A (ja) * | 2006-05-23 | 2007-12-06 | Advanced Telecommunication Research Institute International | 瞬き検出装置及びコンピュータプログラム |
JP2008194309A (ja) * | 2007-02-14 | 2008-08-28 | Toyota Motor Corp | 目検知装置、居眠り検知装置及び目検知装置の方法 |
DE102008007150A1 (de) * | 2007-03-30 | 2008-10-02 | Volkswagen Ag | Verfahren zum Erstellen einer Müdigkeitsprognose eines Kraftfahrzeugfahrers |
DE102008007150B4 (de) | 2007-03-30 | 2019-05-02 | Volkswagen Ag | Verfahren zum Erstellen einer Müdigkeitsprognose eines Kraftfahrzeugfahrers |
JP2010026804A (ja) * | 2008-07-18 | 2010-02-04 | Olympus Corp | 画像処理装置、画像処理プログラム、および画像処理方法 |
CN102686469A (zh) * | 2009-12-28 | 2012-09-19 | 法国欧陆汽车公司 | 用于确定代表车辆驾驶员的警觉状态的参数的方法 |
JP2016224597A (ja) * | 2015-05-28 | 2016-12-28 | 浜松ホトニクス株式会社 | 瞬目計測方法、瞬目計測装置、及び瞬目計測プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP3746916B2 (ja) | 2006-02-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
RU2519964C2 (ru) | Способ и устройство для обнаружения вождения в состоянии усталости и автомобиль, использующий эти способ и устройство | |
JP4845698B2 (ja) | 眼部検出装置、眼部検出方法及びプログラム | |
CN104809445B (zh) | 基于眼部和嘴部状态的疲劳驾驶检测方法 | |
JP4331197B2 (ja) | 眼開度検出装置及び方法 | |
JP4162503B2 (ja) | 眼の状態判定装置、眼の状態判定方法及びコンピュータプログラム | |
EP1933256B1 (en) | Eye closure recognition system and method | |
JPH0944685A (ja) | 顔画像処理装置 | |
JP4677963B2 (ja) | 居眠り検知装置、居眠り検知方法 | |
CN106846734A (zh) | 一种疲劳驾驶检测装置及方法 | |
JP2000102510A (ja) | 眼の開度測定方法および装置 | |
Ebrahim et al. | Eye movement detection for assessing driver drowsiness by electrooculography | |
JP3063504B2 (ja) | 画像データの特徴量検出装置 | |
Kahlon et al. | Driver drowsiness detection system based on binary eyes image data | |
JP3746916B2 (ja) | 瞬目状態検出方法 | |
JP4776581B2 (ja) | 入眠状態検知方法、入眠状態検知装置、入眠状態検知システム及びコンピュータプログラム | |
Yazdi et al. | Driver drowsiness detection by Yawn identification based on depth information and active contour model | |
JP3116638B2 (ja) | 覚醒状態検知装置 | |
KR100234590B1 (ko) | 얼굴화상 처리장치 및 얼굴화상 처리방법 | |
EP3056375B1 (en) | Sleepiness detecting device | |
JPH08225028A (ja) | 運転者の覚醒度検出装置 | |
JP3312562B2 (ja) | 居眠り状態検出装置 | |
JP5825588B2 (ja) | 瞬目計測装置及び瞬目計測方法 | |
JPH07257220A (ja) | 車両用覚醒度評価装置 | |
JP3036319B2 (ja) | 運転者状態監視装置 | |
JPH1044824A (ja) | 車両運転者の開閉眼判定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050628 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050701 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050829 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051118 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051125 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091202 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101202 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111202 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111202 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121202 Year of fee payment: 7 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121202 Year of fee payment: 7 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121202 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131202 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |