JP5653404B2 - 居眠り注意喚起装置 - Google Patents

居眠り注意喚起装置 Download PDF

Info

Publication number
JP5653404B2
JP5653404B2 JP2012246959A JP2012246959A JP5653404B2 JP 5653404 B2 JP5653404 B2 JP 5653404B2 JP 2012246959 A JP2012246959 A JP 2012246959A JP 2012246959 A JP2012246959 A JP 2012246959A JP 5653404 B2 JP5653404 B2 JP 5653404B2
Authority
JP
Japan
Prior art keywords
image
eye
unit
processing unit
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012246959A
Other languages
English (en)
Other versions
JP2014057826A (ja
Inventor
チア‐チュン,ツォウ
ポ‐ツン,リン
チア‐ウェ,シュー
Original Assignee
ユーテックゾーン カンパニー リミテッド
ユーテックゾーン カンパニー リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ユーテックゾーン カンパニー リミテッド, ユーテックゾーン カンパニー リミテッド filed Critical ユーテックゾーン カンパニー リミテッド
Publication of JP2014057826A publication Critical patent/JP2014057826A/ja
Application granted granted Critical
Publication of JP5653404B2 publication Critical patent/JP5653404B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms

Landscapes

  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Traffic Control Systems (AREA)
  • Emergency Alarm Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理技術を用いた居眠り注意喚起装置に関し、特に、連続画像内の上瞼の湾曲度を分析して目の開閉状態を判定する技術に関する。
運転における安全性を踏まえ、現在すでに様々な居眠り注意喚起装置が市場で販売されている。このような装置は運転手の眼の状態を検出することで居眠りの有無を判定し、また運転手が居眠りしていると判定した時、警報を発して運転手を目覚めさせることができる。従来の居眠り注意喚起装置に採用されている技術的思想は非常に多く、例えば、特許文献1、特許文献2、特許文献3、特許文献4及び特許文献5等の特許文献がある。これら特許文献は、運転手の瞬き回数或いは閉眼時間が閾値を超えたかを検出し、一旦超えると、運転手が居眠りしていると判定し、また警報を発する。運転手の眼の状態を検出するため、通常カメラモジュールで運転手の顔部を撮影し、処理ユニット(CPU)で撮影された画像を処理する。処理の重点は、迅速で且つ正確に画像内の目が位置する領域を見付けると共に、当該領域内にある目を測定して、閉眼或いは開眼を判定する。
特許文献5に開示されている従来の眼部測定装置は、顔画像内から鼻の穴の位置を見付け、また鼻の穴の位置によって眼の探索領域を設定してから、この眼の探索領域内に上瞼、下瞼を見付けることができる。次に、この上瞼、下瞼が挟持している部分の画素数によって開眼又は閉眼を判定する。この種の手法の問題点は上瞼、下瞼を見付けてから開眼又は閉眼の判定できることにある。これは多くの処理時間を費やし、運転手に注意喚起する速度が遅れてしまう。
台湾特許番号436436 台湾特許番号M416161 台湾特許番号I349214 台湾特許番号201140511 中国特許番号CN101196993
本発明は、画像内から上瞼のみを見付けることで、開眼又は閉眼を判定でき、従って、運転手が居眠りをしている時、速やかに注意喚起できる居眠り注意喚起装置を提供することを目的とする。
上記目的を達成するため、本発明に係る居眠り注意喚起装置は、ストレージユニットと撮像ユニットと処理ユニットと出力ユニットと、を含む。ストレージユニットは居眠り注意喚起プログラムを保存している。撮像ユニットは運転手の顔を撮影して複数枚の連続画像を生成するために用いられる。処理ユニットは撮像ユニットとストレージユニットと出力ユニットに電気的に接続し、且つ、居眠り注意喚起プログラムをロード並びに実行した時、居眠り注意喚起プログラムが撮像ユニットで生成したこれら画像を受信するステップと、各画像に対して分析対象の画像内から目の画像を取り出し、上瞼図を得るため目の画像を処理して上瞼図の湾曲度を測定し、測定結果によって目の状態データを対応して生成することとを含む画像分析ステップを実行するステップと、これら画像を分析して得られたこれら目の状態データに基づいて、運転手の入眠の有無を判定するための判定ステップを実行するステップと、判定結果で入眠となった場合、出力ユニットから注意喚起メッセージが生成されるステップと、を処理ユニットに実行させ、処理ユニットは、画像から顔の画像を取り出すステップと、顔の画像内の両鼻の穴の中点を見付けるステップと、両鼻の穴の中点間の間隔Dを計算すると共に、両鼻の穴の中点間の鼻央点に位置する起算点座標A(x1、y1)を決定するステップと、間隔D、及び、起算点座標A(x1、y1)に基づいて、座標は次式に示される関係となり、
(数1)
x2=x1+k1×D
(数2)
y2=y1+k2×D
式内のk1=1.6〜1.8、k2=1.6〜1.8とする基準点座標B(x2、y2)を計算するステップと、基準点座標B(x2、y2)が示す位置の点は、矩形枠の中心点となり、矩形枠の水平方向の幅が、矩形枠の垂直方向の幅を上回る前記矩形枠を、基準点座標B(x2、y2)に基づく顔画像内で定義するステップと、矩形枠で囲う範囲内から、顔の画像内の目を含む目の画像を取り出すステップと、を実行することで、分析対象の画像内から前記目の画像を取り出す
本発明に係る居眠り注意喚起装置は、ストレージユニットと撮像ユニットと処理ユニットと出力ユニットと、を含む。ストレージユニットは居眠り注意喚起プログラムを保存している。撮像ユニットは運転手の顔を撮影して複数枚の連続画像を生成するために用いられる。処理ユニットは撮像ユニットとストレージユニットと出力ユニットに電気的に接続し、且つ、居眠り注意喚起プログラムをロード並びに実行した時、居眠り注意喚起プログラムが撮像ユニットで生成したこれら画像を受信するステップと、各画像に対して分析対象の画像内から目の画像を取り出し、上瞼図を得るため目の画像を処理して上瞼図の湾曲度を測定し、測定結果によって目の状態データを対応して生成することとを含む画像分析ステップを実行するステップと、これら画像を分析して得られたこれら目の状態データに基づいて、運転手の入眠の有無を判定するための判定ステップを実行するステップと、判定結果で入眠となった場合、出力ユニットから注意喚起メッセージが生成されるステップと、を処理ユニットに実行させ、処理ユニット画像から顔の画像を取り出すステップと、顔の画像内から両鼻の穴の中点を見付けるステップと、両鼻の穴の中点間の間隔D、及び、両鼻の穴の中点間にある鼻央点を算出するステップと、鼻央点との水平距離、及び、垂直距離がそれぞれk1×D、k2×Dで、且つk1=1.6〜1.8、k2=1.6〜1.8となる基準点を決定するステップと、矩形枠の中心点が基準点となり、且つ矩形枠の水平方向の幅が矩形枠の垂直方向の幅を上回る矩形枠を顔画像内で定義するステップと、矩形枠で囲まれた範囲内から顔の画像内の目を含む目の画像を取り出すステップとを実行することで分析対象の画像内から目の画像も取り出すことができる。好適なものは、k1=k2とする。
本発明に係る居眠り注意喚起装置は、ストレージユニットと撮像ユニットと処理ユニットと出力ユニットと、を含む。ストレージユニットは居眠り注意喚起プログラムを保存している。撮像ユニットは運転手の顔を撮影して複数枚の連続画像を生成するために用いられる。処理ユニットは撮像ユニットとストレージユニットと出力ユニットに電気的に接続し、且つ、居眠り注意喚起プログラムをロード並びに実行した時、居眠り注意喚起プログラムが撮像ユニットで生成したこれら画像を受信するステップと、各画像に対して分析対象の画像内から目の画像を取り出し、上瞼図を得るため目の画像を処理して上瞼図の湾曲度を測定し、測定結果によって目の状態データを対応して生成することとを含む画像分析ステップを実行するステップと、これら画像を分析して得られたこれら目の状態データに基づいて、運転手の入眠の有無を判定するための判定ステップを実行するステップと、判定結果で入眠となった場合、出力ユニットから注意喚起メッセージが生成されるステップと、を処理ユニットに実行させ、処理ユニットは、更に、この画像から顔の画像を取り出すステップと、顔の画像内から両鼻の穴の中点を見付けるステップと、両鼻の穴の中点間の間隔D、及び、両鼻の穴の中点間にある鼻央点を計算するステップと、間隔D、及び、鼻央点に基づいて基準点を決定するステップと、基準点に基づいて顔画像内でその中心点が基準点となる矩形枠を定義するステップと、矩形枠で囲まれる範囲内から顔画像内の目を含む目の画像を取り出すステップとを実行することで分析対象の画像内から目の画像を取り出すことができる。
従来の技術に比べて、本発明を通じて得られた上記目の画像或いは上記矩形枠において、目を含むだけではなく、且つ従来の技術で言及されている目の探索領域より小さい。また、本発明は、ただ画像内の上瞼のみを分析し、時間を掛けて画像内の下瞼を分析する必要がない。
本発明のその他発明内容と、更なる詳細な技術及び機能の説明に関し、後記の説明で開示する。
本発明の好ましい一実施形態に係る居眠り注意喚起装置を示すシステムブロック図である。 本発明の好ましい実施形態内の処理ユニットの実行フローチャートである。 本発明の好ましい実施形態内の処理ユニットの実行フローチャートである。 本発明の好ましい実施形態内の処理ユニットによって処理して得られた上瞼を示す図である。 本発明の好ましい実施形態内の処理ユニットの細部実行フローチャートである。 本発明の好ましい実施形態内の撮像ユニットで撮影された画像6を示す図である。
本発明の好ましい一実施形態に係る居眠り注意喚起装置を示すシステムブロック図の図1を参照しながら説明する。居眠り注意喚起装置は、ストレージユニット1と、撮像ユニット2と、処理ユニット3と、処理ユニット3に電気的に接続する出力ユニット4と、入力ユニット5(複数の押ボタンからなることができる)と、を含む。ストレージユニット1は、一個或いは複数のアクセス可能な不揮発性メモリーからなり、且つ居眠り注意喚起プログラム10を保存する。撮像ユニット2は、運転手の顔を撮影することで数枚の連続画像を生成すると共にストレージユニット1に一時保存するために用いられる。
撮像ユニット2は、好ましくは、方向及び角度を回転的に調整できるカメラ(図示略)を有することで、カメラを運転手の顔の仰向き状態を調整し、例えば、カメラを仰角45度で運転手の顔に向ける。こうすることで、撮像ユニット2で撮影する各画像内の鼻の穴が明確に表示でき、これは各顔画像の鼻の穴の認識度が大幅にアップして後述する鼻の穴探索プロセスの実行をサポートできることを意味する。通常、撮像ユニット2は撮影したこれら顔の画像の鮮明度を確保するため、更に照度不足時に適時補光するための照明素子を有する。
処理ユニット3は、撮像ユニット2と、ストレージユニット1と、出力ユニット4に電気的に接続され、且つ少なくとも1台の中央処理装置(CPU、図示略)と、1台のランダムアクセスメモリ(RAM、図示略)とを含む。図2に示すように、処理ユニット3が居眠り注意喚起プログラム10をロード並びに実行した時、居眠り注意喚起プログラム10が、処理ユニット3に以下のaからdのステップを実行させる。
a)撮像ユニット2で運転手の顔を撮影した時に対応して生成した連続画像を受信する。
b)各画像に対して画像分析ステップを実行する。
c)分析結果に基づき、運転手の入眠の有無を判定するため、判定ステップを実行する。
d)判定結果が、はいの場合、出力ユニット4が注意喚起メッセージを発生させる。例えば、出力ユニット4がスピーカを有する時、注意喚起メッセージはスピーカから発される警告音とする。出力ユニット4は、通常、注意喚起メッセージ或いはその他の関連情報(例えば、設定操作用に供するマンマシンインターフェース)を表示するためのディスプレイ(例えばタッチスクリーン)を更に備える。
本発明においてbステップに記載の画像分析ステップは図3に示すように、
b1)分析対象画像内から目の画像を取り出すことと、
b2)目の画像を処理して上瞼図を得ることと、
b3)上瞼図の湾曲度を測定することと、
b4)測定結果に基づいて対応して目の状態データを生成することと、
を含む。
b1ステップにおいて、目の画像を画像処理技術で処理(例えば水平線化処理)した後で得られた上瞼図を、図4のイメージ図として示す。図4(A)では、目画像が開眼状態になっている目の画像61を示し、また目の画像61によって処理された上瞼図61aを示し、且つ上瞼図61aに沿って大まかに放物線グラフ610aを描くことができ、放物線の式で放物線グラフ610aの焦点距離(頂点Vと焦点F間の距離)を算出できる。図4(B)では目の画像が半開眼状態になっている目の画像61を示し、また目の画像61によって処理した上瞼図61bを示し、且つ上瞼図61bに沿って大まかに別の放物線グラフ610bを描くことができ、放物線の式で算出した別の放出線グラフ610bの焦点距離は放物線グラフ610aの焦点距離を上回る。図4(C)では目の画像が閉眼状態になっている目の画像61を示し、また目の画像61によって処理した上瞼図61cを示し、且つ上瞼図61cに沿って大まかに直線グラフを描くことができ、放物線の式で算出した該直線グラフの焦点距離が無限大となる。
図4に示す上瞼図から人の目の上瞼の湾曲度は、その目の開閉度によって違うことが分かる。帰納的な統計結果によると、人の目が開いた時、その上瞼の湾曲度が比較的大きくなった方物線グラフに近似し、人の目が閉じられた時、その上瞼の湾曲度が明らかに小さくなり直線グラフに近似する。この現象に基づき、処理ユニット3は放物線の式で各目画像61内の上瞼図の焦点距離を算出できる。異なる焦点距離は湾曲度の違う上瞼を表わし、湾曲度の違う上瞼が目の異なる開閉状態を表わす。処理ユニット3はチェックにより処理された数枚の連続画像が対応して得られた焦点距離が所定の数値から徐々に無限大に逓増していることを判定すると、これら画像内に写り込んだ運転手の目が閉じられていると判定し、これによって閉眼を示す目の状態データ「1」を生成する。処理ユニット3は、検査によリ処理された数枚の連続画像が対応して得られた焦点距離が、無限大から徐々に所定の数値に低減することを判定すると、これら画像内に写り込んだ運転手の目が開いていると判定し、これによって開眼を示す目の状態データ「0」を生成する。
上記の説明から、撮像ユニット2で運転手の顔を予め設定した一定時間に撮影して、連続画像を対応して生成し、各画像が上記画像分析ステップを経た後で得られた分析結果は、開閉眼状態を表わす目の状態データに用いられ、つまり各画像内に表示される目の状態が分析され、そして、各画像の分析結果に基づいて運転手の入眠の有無を判定するための判定ステップを実行できることが分かる。例えば、予定枚数の画像において連続してn枚を超えた画像の分析された結果が「1」の場合(運転手の閉眼が一定時間を超えたことを示す)、或いは「1」の出現頻度が閾値(運転手の開眼や閉眼の頻度が高すぎることを示す)を超えた場合、処理ユニット3は、運転手が睡眠状態に入っていると判定し、またこれによって該出力ユニット4に注意喚起メッセージを生成させることができる。
従来の技術の、画像内の上瞼、下瞼を分析してから運転手の居眠りの有無を判定できる手法に比べて、本発明は画像内から対応する上瞼を分析することで、運転手の居眠りの有無を判定でき、従って本発明により迅速に居眠りをしている運転手に注意喚起する長所を有する。
図5、図6を参照しながら説明する。本発明において、画像内から目の画像を取り出す上記b1ステップに関し、好ましくは以下のb11〜b16のステップを含む。
b11)画像6から顔の画像600を取り出す。画像6の内容は運転手の顔を含むだけではなく、除去予定部分を更に含む。除去予定部分は運転手の頭髮、首及び運転手背中の映像を含む。このステップにおいてAdaboostアルゴリズム及び若干の既存の画像処理技術により顔の画像を取り出す目的を達成できる。理想上、取り出した顔の画像600において、大部分或いは完全に上記除去予定部分を除去する。
b12)顔画像600内の両鼻の穴の中点601を見付ける。顔の画像内で両鼻の穴を見つける手法に関し、従来の技術において言及しているため、詳細な説明を省略する。顔の画像600内の各鼻の穴が占めた領域(つまり鼻の穴領域)は、その他の領域に比べて明らかに黒くなり、大まかに各鼻の穴領域の最長横軸及び最長縦軸の交差点を取って各鼻の穴中点とすることができる。
b13)両鼻の穴中点601間の間隔Dを算出すると共に起算点座標A(x1、y1)を決定する。起算点座標A(x1、y1)を示す位置の点は、両鼻の穴の中点間の鼻央点に位置する。
b14)間隔D及び起算点座標A(x1、y1)に基づき、基準点座標B(x2、y2)を算出する。座標は次式に示される関係となる。
(数1)
x2=x1+k1×D
(数2)
y2=y1+k2×D
k1=1.6〜1.8、k2=1.6〜1.8で、好しくはk1=k2とする。実際の検証結果によると、前述した方法を通じて算出した基準点座標B(x2、y2)を示す点は、顔の画像内の片目の中心点に、ちょうど又は非常に接近する。必要があれば、このステップにおいて間隔D及び起算点座標A(x1、y1)に基づいて別の基準点座標C(x3、y3)を算出できる。座標は次式に示される関係となる。
(数3)
x3=x1−k1×D
(数4)
y3=y1+k2×D
b15)基準点座標B(x2、y2)に基づいて、顔の画像600内で矩形枠R1を定義する。基準点座標B(x2、y2)を示す位置の点は、矩形枠R1の中心点で、矩形枠R1の水平方向の幅w1=30〜50pixelで矩形枠R1の垂直方向の幅w2=15〜29pixelで、且つw1>w2となる。好ましくは、w1=40pixel、w2=25pixelとなる。必要がある場合、このステップにおいて基準点座標C(x3、y3)に基づいて顔画像600内でサイズが矩形枠R1と同じ別の矩形枠R2を定義する。基準点座標C(x3、y3)が表わす位置の点は、矩形枠R2の中心点となる。
b16)矩形枠R1で囲う範囲内から上記目の画像61を取り出し、図4を参照にする。必要がある場合、このステップにおいて別の矩形枠R2の顔の画像600から別の目の画像61を取り出すことができる。
実際の検証結果によると、b15ステップによって定義した矩形枠R1は、顔の画像600内の片目の周りをちょうど囲い、目の直上にある眉毛はこの矩形枠内に入ってこない(或いは、ただ少しの部分のみがこの矩形枠内に入る)。目の直下にある頬骨もこの矩形枠内に入ってこない(或いは、ただ少しの部分のみがこの矩形枠内に入る)。別の矩形枠R2も同様とする。これは、b16ステップにおいて得られたいずれか目の画像の内容は目を含み、且つ、いずれか目の画像が従来の技術内で言及された目の探索領域より小さい。
上記a〜dのステップの説明から処理ユニット3は実際上、目の探索方法を実施することを分かり、この方法には、
顔の画像内から両鼻の穴の中点を見付けることと、
両鼻の穴の中点間の間隔D及び両鼻の穴の中点間にある鼻央点を算出することと、
鼻央点との水平距離と垂直距離がそれぞれk1×D、k2×Dで、且つk1=1.6〜1.8、k2=1.6〜1.8となり、好ましくはk1=k2となる基準点を決定することと、
基準点を中心にして顔の画像内で矩形枠を定義し、矩形枠の水平方向の幅w1=30〜50pixelで、矩形枠の垂直方向の幅w2=15〜29pixelで、且つw1>w2となる。好ましくはw1=40pixel、w2=25pixelとなる。矩形枠は顔画像内の目をちょうど囲うことができ、これは本発明の上記方法を通じて確実に処理ユニット3に顔の画像内から目を見付けさせることができることを示す。
その他、処理ユニット3は上記ステップを実行する過程において、必要なデータ或いは生成したデータ(例えば顔の画像、目の画像)が、ストレージユニット1内に保存され、これらデータが一時的保存又は永久的な保存は、実際の実行ニーズを見て決定する。
従来の技術に比べて、本発明を通じて得られた目の画像或いは矩形枠内に目を含むだけではなく、且つ従来の技術内で言及された目の探索領域より小さく、処理ユニット3の探索領域が相対的に小さくなり、容易に且つ迅速に上瞼目のような部位を見つけられる。
1 ストレージユニット
2 撮像ユニット
10 居眠り注意喚起プログラム
3 処理ユニット
4 出力ユニット
5 入力ユニット
6 画像
600 顔の画像
601 鼻の穴の中点
61 目の画像

Claims (5)

  1. ストレージユニットと、撮像ユニットと、処理ユニットと、出力ユニットとを含み、前記ストレージユニットは居眠り注意喚起プログラムを保存し、前記撮像ユニットが運転手の顔を撮影して複数枚の連続画像を生成するために用いられ、前記処理ユニットが、前記撮像ユニットと、前記ストレージユニットと、前記出力ユニットに電気的接続し、且つ、前記居眠り注意喚起プログラムをロード並びに実行した時、前記居眠り注意喚起プログラムが、
    前記撮像ユニットで生成した前記画像を受信するステップと、
    各画像に対して分析対象の前記画像内から目の画像を取り出し、上瞼図を得るため前記目の画像を処理して前記上瞼図の湾曲度を測定し、並びに、測定結果によって目の状態データを生成することとを含む画像分析ステップを実行するステップと、
    前記画像を分析して得られた前記目の状態データに基づいて、前記運転手の入眠の有無を判定するための判定ステップを実行するステップと、
    判定結果で入眠となった場合、前記出力ユニットから注意喚起メッセージが生成されるステップと、を前記処理ユニットに実行させ
    前記処理ユニットは、
    前記画像から顔の画像を取り出すステップと、
    前記顔の画像内の両鼻の穴の中点を見付けるステップと、
    前記両鼻の穴の中点間の間隔Dを計算すると共に、前記両鼻の穴の中点間の鼻央点に位置する起算点座標A(x1、y1)を決定するステップと、
    前記間隔D、及び、前記起算点座標A(x1、y1)に基づいて、座標は次式に示される関係となり、
    (数1)
    x2=x1+k1×D
    (数2)
    y2=y1+k2×D
    式内のk1=1.6〜1.8、k2=1.6〜1.8とする基準点座標B(x2、y2)を計算するステップと、
    前記基準点座標B(x2、y2)が示す位置の点は、矩形枠の中心点となり、前記矩形枠の水平方向の幅が、前記矩形枠の垂直方向の幅を上回る前記矩形枠を、前記基準点座標B(x2、y2)に基づく前記顔画像内で定義するステップと、
    前記矩形枠で囲う範囲内から、前記顔の画像内の目を含む前記目の画像を取り出すステップと、を実行することで、分析対象の前記画像内から前記目の画像を取り出すことを特徴とする居眠り注意喚起装置。
  2. k1=k2とすることを特徴とする請求項に記載の居眠り注意喚起装置。
  3. ストレージユニットと、撮像ユニットと、処理ユニットと、出力ユニットとを含み、前記ストレージユニットは居眠り注意喚起プログラムを保存し、前記撮像ユニットが運転手の顔を撮影して複数枚の連続画像を生成するために用いられ、前記処理ユニットが、前記撮像ユニットと、前記ストレージユニットと、前記出力ユニットに電気的接続し、且つ、前記居眠り注意喚起プログラムをロード並びに実行した時、前記居眠り注意喚起プログラムが、
    前記撮像ユニットで生成した前記画像を受信するステップと、
    各画像に対して分析対象の前記画像内から目の画像を取り出し、上瞼図を得るため前記目の画像を処理して前記上瞼図の湾曲度を測定し、並びに、測定結果によって目の状態データを生成することとを含む画像分析ステップを実行するステップと、
    前記画像を分析して得られた前記目の状態データに基づいて、前記運転手の入眠の有無を判定するための判定ステップを実行するステップと、
    判定結果で入眠となった場合、前記出力ユニットから注意喚起メッセージが生成されるステップと、を前記処理ユニットに実行させ、
    前記処理ユニットは
    前記画像から顔の画像を取り出すステップと、
    前記顔の画像内から両鼻の穴中点を見付けるステップと、
    前記両鼻の穴中点間の間隔D、及び、前記両鼻の穴中点間にある鼻央点を算出するステップと、
    前記鼻央点との水平距離、及び、垂直距離が、それぞれk1×D、k2×Dで、且つ、k1=1.6〜1.8、k2=1.6〜1.8となる基準点を決定するステップと、
    前記基準点を中心にして前記顔の画像内で、その水平方向の幅が、その垂直方向の幅を上回る矩形枠を定義するステップと、
    前記矩形枠で囲まれた範囲内から、前記顔の画像内の目を含む前記目の画像を取り出すステップと、を実行することで、分析対象の前記画像内から、前記目の画像を取り出すことを特徴とす居眠り注意喚起装置。
  4. k1=k2とすることを特徴とする請求項に記載の居眠り注意喚起装置。
  5. ストレージユニットと、撮像ユニットと、処理ユニットと、出力ユニットとを含み、前記ストレージユニットは居眠り注意喚起プログラムを保存し、前記撮像ユニットが運転手の顔を撮影して複数枚の連続画像を生成するために用いられ、前記処理ユニットが、前記撮像ユニットと、前記ストレージユニットと、前記出力ユニットに電気的接続し、且つ、前記居眠り注意喚起プログラムをロード並びに実行した時、前記居眠り注意喚起プログラムが、
    前記撮像ユニットで生成した前記画像を受信するステップと、
    各画像に対して分析対象の前記画像内から目の画像を取り出し、上瞼図を得るため前記目の画像を処理して前記上瞼図の湾曲度を測定し、並びに、測定結果によって目の状態データを生成することとを含む画像分析ステップを実行するステップと、
    前記画像を分析して得られた前記目の状態データに基づいて、前記運転手の入眠の有無を判定するための判定ステップを実行するステップと、
    判定結果で入眠となった場合、前記出力ユニットから注意喚起メッセージが生成されるステップと、を前記処理ユニットに実行させ、
    前記処理ユニットは、
    前記画像から顔の画像を取り出すステップと、
    前記顔の画像内から両鼻の穴の中点を見付けるステップと、
    前記両鼻の穴の中点間の間隔D、及び、前記両鼻の穴の中点間にある鼻央点を計算するステップと、
    前記間隔D、及び、前記鼻央点に基づいて基準点を決定するステップと、
    前記基準点に基づいて、前記顔の画像内で、その中心点が、前記基準点となる矩形枠を定義するステップと、
    前記矩形枠で囲まれる範囲内から、前記顔の画像内の目を含む前記目の画像を取り出すステップと、を実行することで、分析対象の前記画像内から、前記目の画像を取り出すことを特徴とす居眠り注意喚起装置。
JP2012246959A 2012-09-14 2012-11-09 居眠り注意喚起装置 Active JP5653404B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
TW101133733 2012-09-14
TW101133733A TWI498857B (zh) 2012-09-14 2012-09-14 瞌睡提醒裝置

Publications (2)

Publication Number Publication Date
JP2014057826A JP2014057826A (ja) 2014-04-03
JP5653404B2 true JP5653404B2 (ja) 2015-01-14

Family

ID=50274065

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012246959A Active JP5653404B2 (ja) 2012-09-14 2012-11-09 居眠り注意喚起装置

Country Status (3)

Country Link
US (1) US20140078281A1 (ja)
JP (1) JP5653404B2 (ja)
TW (1) TWI498857B (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9335547B2 (en) * 2013-03-25 2016-05-10 Seiko Epson Corporation Head-mounted display device and method of controlling head-mounted display device
DE102014220759B4 (de) * 2014-10-14 2019-06-19 Audi Ag Überwachung eines Aufmerksamkeitsgrads eines Fahrers eines Fahrzeugs
DE102015200697A1 (de) * 2015-01-19 2016-07-21 Robert Bosch Gmbh Verfahren und Vorrichtung zum Erkennen von Sekundenschlaf eines Fahrers eines Fahrzeugs
US10007845B2 (en) 2015-07-06 2018-06-26 Pixart Imaging Inc. Eye state detecting method and eye state detecting system
CN106355135B (zh) * 2015-07-14 2019-07-26 原相科技股份有限公司 眼睛状态侦测方法以及眼睛状态侦测系统
JP6666892B2 (ja) * 2017-11-16 2020-03-18 株式会社Subaru 運転支援装置及び運転支援方法
US11430264B2 (en) * 2018-07-16 2022-08-30 Honor Device Co., Ltd. Eye open or closed state detection method and electronic device

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000123188A (ja) * 1998-10-20 2000-04-28 Toyota Motor Corp 眼開閉判定装置
JP2004192552A (ja) * 2002-12-13 2004-07-08 Nissan Motor Co Ltd 開閉眼判定装置
JP4107087B2 (ja) * 2003-01-09 2008-06-25 日産自動車株式会社 開閉眼判定装置
JP4845698B2 (ja) * 2006-12-06 2011-12-28 アイシン精機株式会社 眼部検出装置、眼部検出方法及びプログラム
JP2008191784A (ja) * 2007-02-01 2008-08-21 Toyota Motor Corp 閉眼検知装置、居眠り検知装置、閉眼検知方法及び閉眼検知のためのプログラム
JP4307496B2 (ja) * 2007-03-19 2009-08-05 株式会社豊田中央研究所 顔部位検出装置及びプログラム
CN202142160U (zh) * 2011-07-13 2012-02-08 上海库源电气科技有限公司 一种疲劳驾驶预警系统

Also Published As

Publication number Publication date
TWI498857B (zh) 2015-09-01
US20140078281A1 (en) 2014-03-20
TW201411564A (zh) 2014-03-16
JP2014057826A (ja) 2014-04-03

Similar Documents

Publication Publication Date Title
JP5653404B2 (ja) 居眠り注意喚起装置
US10534526B2 (en) Automatic scrolling based on gaze detection
US10311289B2 (en) Face recognition method and device and apparatus
KR102391279B1 (ko) 운전 상태 모니터링 방법 및 장치, 운전자 모니터링 시스템 및 차량
CN105512632B (zh) 活体检测方法及装置
Gupta et al. Implementation of motorist weariness detection system using a conventional object recognition technique
TWI617948B (zh) 用於眼部追蹤的校正模組及其方法及電腦可讀取紀錄媒體
JP6906717B2 (ja) 状態判定装置、状態判定方法、及び状態判定プログラム
US11354882B2 (en) Image alignment method and device therefor
JP6592132B2 (ja) 肌状態検出方法及び電子機器
CN109886137A (zh) 婴幼儿睡姿检测方法、装置及计算机可读存储介质
TW201140511A (en) Drowsiness detection method
WO2018078857A1 (ja) 視線推定装置、視線推定方法及びプログラム記録媒体
Lashkov et al. Driver dangerous state detection based on OpenCV & dlib libraries using mobile video processing
US20180075295A1 (en) Detection apparatus, detection method, and computer program product
JP5694471B2 (ja) 眼探索方法及び該方法を使用した眼状態検出装置と眼探索装置
CN103680064B (zh) 瞌睡提醒系统
US9959635B2 (en) State determination device, eye closure determination device, state determination method, and storage medium
Gatea et al. Deep learning neural network for driver drowsiness detection using eyes recognition
JP7501747B2 (ja) 情報処理装置、制御方法、及びプログラム
Poon et al. Driver distracted behavior detection technology with YOLO-based deep learning networks
JP4201644B2 (ja) 端末装置及び端末装置の制御プログラム
US20230297655A1 (en) Biometric determination system, biometric determination method, and computer program
CN109657550B (zh) 一种疲劳度检测方法及装置
Daniluk et al. Eye status based on eyelid detection: A driver assistance system

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140805

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141016

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141118

R150 Certificate of patent or registration of utility model

Ref document number: 5653404

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250