JP2018508870A - 車両の運転者の瞬間睡眠を検知するための方法および装置 - Google Patents

車両の運転者の瞬間睡眠を検知するための方法および装置 Download PDF

Info

Publication number
JP2018508870A
JP2018508870A JP2017537477A JP2017537477A JP2018508870A JP 2018508870 A JP2018508870 A JP 2018508870A JP 2017537477 A JP2017537477 A JP 2017537477A JP 2017537477 A JP2017537477 A JP 2017537477A JP 2018508870 A JP2018508870 A JP 2018508870A
Authority
JP
Japan
Prior art keywords
eye
driver
information
sleep
closed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017537477A
Other languages
English (en)
Inventor
ストルツ,アヒム
ヴルフ,フェリックス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of JP2018508870A publication Critical patent/JP2018508870A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness

Abstract

【課題】本発明は車両の(100)の運転者(102)の瞬間睡眠を検知するための方法に関する。【解決手段】この方法は、運転者(102)のアイパラメータに関する閉眼情報(110)の読み取りの少なくとも1つのステップを有しており、この場合、前記閉眼情報(110)が、運転者(102)の最大開眼レベルのための第1のまぶた位置および/または最小開眼レベルのための第2のまぶた位置を表しており、目(108)の開放状態または目(108)の閉鎖状態を表す開眼情報(116)を得るために、前記閉眼情報(110)を用いて運転者(102)のまぶたの実際のまぶた位置の分類のステップを有しており、瞬間睡眠発生の程度を表す睡眠識別値(120)の算出のステップを有している。前記睡眠識別値(120)は、前記実際のまぶた位置および/または前記開眼情報(116)を用いて、この場合、前記瞬間睡眠は、前記睡眠識別値(120)が少なくとも所定の時間長さ中に閾値を越えると検知されるようになっている。【選択図】 図1

Description

本発明は、車両の運転者の瞬間睡眠を検知するための方法、相応の装置並びに相応のコンピュータプログラムに関する。
運転中の眠気および瞬間睡眠は、しばしば危険な状況または事故を引き起こす。今日の眠気検出器は、運転者が所定の眠気限界値を越えると、警告を発するようになっている。警告は視覚的に例えば表示されたコーヒーカップによってまたは聴覚的に行われる。しかしながらこのような警告は運転者によって無視され得る。
今日の眠気アシストシステムは、運転者の眠気を単に運転者の運転特性から間接的に推測するだけである。運転者のハンドル操作特性から走行プロフィールが得られ、長時間の走行時に実際の走行特性と比較される。長時間に亘って舵角に変化がなく、次いで大きい舵角変化が生じると、これはデッドバンド事象として記録される。このようなデッドバンド事象が増加すると、運転者は眠気を感じていると分類される。
同様に、ビデオカメラのデータに基づいて目の瞬間的な開度を検知する(例えばSmartEye「スマートアイ」、Facelab「フェースラボ」等)ことができるシステムが公知である。また同様に、ビデオ信号に基づいて人間の自己同一性を検知することができるシステムが公知である。
以上のような背景から、ここで紹介された試みによって、独立請求項に記載した、車両の運転者の瞬間睡眠を検知するための方法、さらにこの方法を用いた装置、並びに相応のコンピュータプログラムが提案される。好適な実施態様は、それぞれの従属請求項および以下の説明に記載されている。
瞬間睡眠は、ビデオに基づく運転者観察および開瞼検出を用いて検知される。この場合、瞬間睡眠に入る前または瞬間睡眠の開始前に既に警告が与えられてよい。
車両の運転者の瞬間睡眠を検知するための方法が提案されており、この方法は:
運転者のアイパラメータに関する閉眼情報の読み取りのステップを有しており、この場合、閉眼情報が、運転者の最大開眼レベルのための第1のまぶた位置および/または最小開眼レベルのための第2のまぶた位置を表しており、
目の開放状態または目の閉鎖状態を表す開眼情報を得るために、前記閉眼情報を用いて運転者のまぶたの実際のまぶた位置の分類のステップを有しており、
瞬間睡眠発生の程度を表す睡眠識別値の算出のステップを有しており、この場合、睡眠識別値が実際のまぶた位置および/または開眼情報を用いて算出され、瞬間睡眠は、睡眠識別値が少なくとも所定の時間長さ中に閾値を越えると検知されるようになっている。
また、車両の運転者の瞬間睡眠を検知するための方法が提案されており、この方法は:
運転者のアイパラメータに関する目の運動情報および/または運転者のアイパラメータに関する閉眼情報の読み取りのステップを有しており、この場合、目の運動情報は運転者の目の運動に関する情報を表し、かつ/または閉眼情報は運転者の最大開眼レベルのための第1のまぶた位置および/または最小開眼レベルのための第2のまぶた位置を表しており、
瞬間睡眠発生の程度を表す睡眠識別値の算出のステップを有しており、この場合、睡眠識別値が目の運動情報から導き出された開眼速度を用いておよび/または目の運動情報から導き出された運転者の視線方向を用いておよび/または開眼速度および視線方向から導き出された複数の情報を用いて算出され、睡眠識別値が少なくとも所定の時間長さ中に閾値を越えると、瞬間睡眠が検知されるようになっている。
この場合、瞬間睡眠は、特に数秒間の不意の居眠り(例えば所定程度閉じられた目)を意味する。閉眼情報は、運転者の目の下まぶたからの目の上まぶたの間隔または開眼を記述する。目の運動情報とは閉眼情報と理解されてもよい。この場合、閉眼情報は、特に開いた目若しくは最大開眼レベルにおける最大間隔の値、および特に閉じた目若しくは最小開眼レベルにおける最小間隔の別の値を有していてよい。従って、アイパラメータとは、運転者の目の上まぶたと下まぶたとの間の間隔と理解されてよい。次いで、閉眼情報を用いて瞬間的な開眼レベルを例えばパーセントで記述する実際のまぶた位置が評価され、それによって分類される。従って分類のステップで、特に開いた目と閉じた目との間の2進法的な差異を得ることができる。睡眠識別値は、睡眠発作の可能性若しくは程度または不都合な居眠りを表す。この場合、警告のための閾値が規定されていてよいかまたは規定され得る。例えば50%以上または75%以上の睡眠識別値において、瞬間睡眠若しくは差し迫った瞬間睡眠、または瞬間睡眠の高いリスクが検知され得る。この場合、限界値または閾値はリスクポテンシャルに応じて選択することができ、例えば10%〜99%の間である。この場合、睡眠識別値は、例えば0.5秒、1秒、30秒または1分の時間長さの間に評価され得る。従って、この時間長さの間に信号または値が評価されてよい。この場合、この時間長さは、この方法の予め規定された速度および予め規定されたロバストネスに適合されていてよいかまたは適合され得る。
さらに、ここに紹介された方法の前記変化例のすべてのステップを有する、車両の運転者の瞬間睡眠を検知するための方法も提案される。
読み取りのステップの前で、識別のステップで運転者が識別されてよい。読み取りのステップまたは選択的に識別のステップで、閉眼情報が、識別された運転者に関する、特にデータバンクからの情報を用いて提供されるかまたは読み取られてよい。従って、運転者は、ビデオに基づいて検知され得るか、または運転者の車両キーまたは与えられた識別キーを用いて検知され得る。好適にはこれによって、この方法はより迅速に瞬間睡眠を検知することができる。
閉眼情報を決定するために、読み取りのステップの前に評価のステップで、初期化時間間隔に亘って実際のまぶた位置が評価され得る。この場合、初期化時間間隔は、例えば少なくとも1分間であってよい。選択的に初期化時間間隔は5分であってよい。従って、初期化時間間隔は15秒〜10分の間の長さであってよい。従ってこの方法は、それぞれの運転者のために予備知識なしで実施され得る。
分類のステップに先行して学習ステップが存在する。分類のステップで、閉眼情報が実際のまぶた位置を用いて調整されてよい。特に、最大開眼レベルが調整されてよい。好適には、これによって実際の開眼レベルも良好に決定され得る。
開いた目と閉じた目とを区別するために、分類のステップで開眼情報が視線方向信号を用いて分類されてよい。視線方向信号が存在しない場合、目が閉じている可能性が推測される。視線方向信号は視線方向を表す。この場合、閉じた目を検知するために、分類のステップで視線方向の経時変化が用いられる。
算出のステップで、睡眠識別値が、所定の時間長さ中の運転者のための閉じた目の回数を表す開眼情報を用いて、および/または所定の時間長さ中の閉じた目の所要時間を表す開眼情報を用いて、算出される。
算出のステップで、睡眠識別値が、閉瞼ダイナミックスおよび/または閉瞼加速度を用いて算出される。この場合、加速度の閉瞼加速度または絶対的な閉瞼加速度が用いられてよい。この場合、閉瞼加速度は、運転者のまぶたの加速度を表す値を表す。好適にはゆっくりとした閉眼が検知され得る。従って、例えば瞬間睡眠の危険性を早期に検知することができる。この場合、閉瞼加速度は、例えば半秒と同じかまたはこれより短い時間長さで評価され得る。
ここで紹介された試みはさらに、ここで紹介された方法の変化例のステップを相応の装置で実施し、制御し若しくは実行するために構成された装置を提供する。このような装置の形による本発明の変化実施例によっても、本発明の課題は迅速かつ効果的に解決され得る。
装置とは、もっぱらセンサ信号を処理し、それに基づいて制御信号および/またはデータ信号をアウトプットする電気機器であると理解されてよい。この装置は、ハードウエアおよび/またはソフトウエア的に構成され得るインターフェースを有していてよい。ハードウエア的な構成において、インターフェースは、例えば装置の様々な機能を含有するいわゆるシステムASICの一部であってよい。しかしながら、インターフェースが、固有の集積された回路であるかまたは少なくとも部分的に離散素子より成っていてもよい。ソフトウエア的な構成において、インターフェースは、例えば別のソフトウエアモジュールと並んでマイクロコントローラに設けられているソフトウエアモジュールであってよい。
半導体メモリー、ハードディスクまたは光学式のメモリー等の機械読み取り可能な担体またはメモリー媒体に記憶することができ、特にプログラム製品またはプログラムがコンピュータまたは装置で実行されるときに、前記実施例のいずれか1つによる方法のステップを実施し、実行しかつ/または制御するために使用されるプログラムコードを有するコンピュータプログラム製品またはコンピュータプログラムも有利である。
本発明の1実施例による装置を有しかつ運転者が示されている車両の概略図である。 運転者の目の簡略図である。 本発明の1実施例による閉眼信号の簡略図である。 本発明の1実施例による閉眼信号の簡略図である。 本発明の1実施例による閉眼信号の簡略図である。 本発明の1実施例による視線方向信号の簡略図である。 本発明の1実施例による方法のフローチャートである。 本発明の1実施例による装置のブロック図である。
ここで紹介されたやり方を、以下に添付の図面を用いて例を挙げて詳しく説明する。
以下の、本発明の好適な実施例の説明において、様々な図面に示された類似の作用を有する構成要素のために同じまたは類似の符号が用いられており、この場合、これらの構成要素の繰り返しの説明は省かれる。
図1は、本発明の1実施例による装置104を有しかつ運転者102が示されている車両100の概略図を示す。車両100のフロント領域内に配置されたアイパラメータ検出装置106は、運転者102の両方の目108を検出して閉眼情報110を提供するように構成されている。閉眼情報110は、運転者102の最大開眼レベルのための第1のまぶた位置と、最小開眼レベルのための第2のまぶた位置を示す。
運転者102の瞬間睡眠を検知するための装置104は、運転者102の少なくとも1つのアイパラメータに関する閉眼情報110を読み取るためのインターフェース112を有している。分類するための装置114は、目の開いた状態または目の閉じた状態を2進法で示すか若しくはこれら2つの状態を区別する開眼情報116を得るために、閉眼情報110を用いて運転者102のまぶたの実際のまぶた位置を分類するように構成されている。
さらに、装置104は、睡眠識別値120を算出するための装置118を有している。睡眠識別値120は、瞬間睡眠発生の程度を表し、この場合、睡眠識別値120は、実際のまぶた位置および/または開眼情報116および開眼速度および/または運転者102の視線方向126および/またはこれらから導き出される情報を用いて算出される。瞬間睡眠は、睡眠識別値120が少なくとも所定の時間長さ中に閾値を越えると検知される。
車両100は、視覚的な警告装置122並びに聴覚的な警告装置124を有しており、これらの警告装置は、瞬間睡眠の高いリスクによる危険性または運転者102の瞬間睡眠による危険性を視覚的または聴覚的に表示するように構成されている。
実施例では、アイパラメータ検出装置106は、運転者102の実際のまぶた位置、開眼時のまぶたの速度、開眼時のまぶたの加速度および/または実際の視線方向126を検出して、これらの値から、例えば瞬間的な開眼、つまり運転者102の上まぶたと下まぶたとの間の間隔、最大開眼レベルのための第1のまぶた位置、最小開眼レベルのための第2のまぶた位置または瞬間的な開眼レベル等の情報を導き出すように構成されている。ここで挙げられた情報は、閉眼情報110によって表されてよいか、または別個の信号または情報として提供され、インターフェース112を介して読み取られてよい。従って、アイパラメータ検出装置106は、“Eye Closure Preprocessing”「アイクローズプレプロセッシング」またはECPとも称呼される。
図2は、運転者の目108の簡略図を示す。運転者は、図1に示された運転者102である。目は上まぶた232と下まぶた234とを有している。これらのまぶたの位置236、特に互いの関係から、上まぶた232と下まぶた234との間の間隔238が決定され得る。より長い時間間隔例えば5分間に亘って、まぶた232,234の位置236またはまぶた232,234の間隔238が決定されると、この値から、目108の最大開眼レベルのための第1のまぶた位置240および最小開眼レベルのための第2のまぶた位置242が決定され得る。
図2の図では、簡略化のために、第1のまぶた位置240は上まぶた232の図示の位置236に相当する。目108の、瞳孔を通る破線は、実際のまぶた位置244を示す。この場合、まぶた232は、開眼速度vAugeで動くか若しくは閉瞼加速度aAugeで加速する。
図3は、本発明の1実施例による閉眼信号350の簡略図を示す。デカルト座標系の横座標に時間が秒で示されていて、縦座標に上まぶたと下まぶたとの間の間隔がメートルで示されている。間隔は、図1に示された運転者の目の、図2に示された上まぶた232と下まぶた234との間の間隔238であってよい。つまり、閉眼信号350は、時間に対するまぶたの相互の間隔または開眼を示す。第1の垂直線352は、瞬間睡眠の開始を示し、別の垂直線354は瞬間睡眠の終わりを示す。図示の実施例で示された瞬間睡眠の時間長さは0.6667秒である。
図3に示した閉眼信号350は、瞬間睡眠時の閉眼信号350のための1例を示す。
図4は、本発明の1実施例による閉眼信号350の簡略図を示す。図3と同様に、デカルト座標系の横座標には時間が秒で示されていて、縦座標には上まぶたと下まぶたとの間の間隔がメートルで示されている。図4に示された閉眼信号350は、ゆっくりとした閉眼時の閉眼信号350のための例を示す。第1の垂直線352は瞬間睡眠の開始を示し、別の垂直線354は瞬間睡眠の終わりを示す。この実施例に示された瞬間睡眠の時間長さは2.7333秒である。
図5は、本発明の1実施例による閉眼信号350の簡略図を示す。図3および図4と同様に、デカルト座標系の横座標に時間が秒で示されていて、縦座標に上まぶたと下まぶたとの間の間隔がメートルで示されている。図5に示された閉眼信号350は、「閉じようとする目と戦っている」ときの閉眼信号350の例を示す。第1の垂直線352は瞬間睡眠の開始を示し、別の垂直線354は瞬間睡眠の終わりを示す。この実施例に示された瞬間睡眠の時間長さは0.9秒である。
図6は、本発明の1実施例による視線方向信号660の簡略図を示す。デカルト座標系の横座標には時間が秒で示されていて、縦座標には視線方向が示されている。つまり、デカルト座標系に示された視線方向信号660は、時間に対する視線方向を示す。2つの垂直線662,664によって、横座標の0秒〜0.6秒の時間間隔が強調されており、この時間間隔内で、例えば水平方向に漂う瞳孔のための1例が確認され得る。視線方向はこの時間間隔内では変化しない。
図7は、本発明の1実施例による方法770のフローチャートを示す。この方法は、例えば図1に示した装置104で実行され得る。車両の運転者の瞬間睡眠を検知するための方法770は、少なくとも1つの読み取りのステップ772と、分類のステップ774と算出のステップ776とを有している。読み取りのステップ772で、運転者のアイパラメータに関する閉眼情報が読み取られる。閉眼情報は、運転者のための最大開眼レベルのための第1のまぶた位置および最小開眼レベルのための第2のまぶた位置を表す。従って、運転者のまぶたのためのいわゆる2つの終端位置が規定されていて、これらの終端位置に対して相対的なまぶたの実際のまぶた位置が決定され、開眼レベルとして示される。従って、2人の人間または運転者の間で比較可能な値が示される。
分類のステップ774で、目の開いた状態または目の閉じた状態を表す開眼情報を得るために、閉眼情報を用いて実際のまぶた位置が分類される。この場合、1実施例では、実際のまぶた位置および閉眼情報を用いて開眼レベルが決定され、この開眼レベルが閾値と比較される。この場合、閾値は様々な実施例で変化する。例えば50%よりも小さい開眼レベルにおいて目の閉じた状態が規定される。閾値は0%〜70%の間であってよい。好適には、閾値は50%よりも小さいかまたは特に30%よりも小さい。
算出のステップ776で睡眠識別値が算出される。睡眠識別値は、瞬間睡眠発生の程度または確率を表す。1実施例では、睡眠識別値が実際のまぶた位置を用いて、または実際の開眼レベルを用いて算出される。この場合、睡眠識別値は、運転者の視線方向または開眼速度を用いて決定されてよい。睡眠識別値のロバストネスを改善するために、少なくとも2つの前記情報または信号が睡眠識別値を算出するために用いられる。
1実施例では、この方法はオプション的な識別のステップ778を有している。この識別のステップで運転者が識別される。これは、画像検出および画像識別を介して視覚的に行われる。運転者は選択的に、指紋、虹彩スキャン、コードの入力を介して、またはパーソナルキー等によって識別される。次いで、閉眼情報は、識別された運転者に関する情報を用いて提供されるか、またはステップ772で、識別された運転者に関する情報を用いてデータバンクから読み取られる。
1実施例では、この方法770は読み取りのステップ772の前に、オプション的な評価のステップ780を有しており、この評価のステップ780で、閉眼情報を決定するために、実際のまぶた位置が所定の時間間隔に亘って評価される。
特別な実施例では、この方法は、読み取りのステップ772と分類のステップ774との間にオプション的なステップ782、つまり学習のステップ782を有している。学習のステップ782で、閉眼情報は実際のまぶた位置を用いて調整される。従って、実際のまぶた位置が最大の開眼レベルよりも大きい開眼を示す場合、最大の開眼レベルは高められる。同じことが、最小の開眼レベルのためにも同様にあてはまる。
オプション的に、分類のステップ774で、開いた目と閉じた目とを区別するために、開眼情報が視線方向信号を用いて分類される。視線方向信号が存在しない場合、これは閉じた目を示す。
算出のステップ776で、睡眠識別値が、開いた目の状態から閉じた目の状態への変化の回数または閉眼回数に関する情報を用いて算出される。従って、所定の時間間隔内での所定数の閉眼動作が瞬間睡眠を示し得る。さらに、1実施例ではオプション的に、閉瞼ダイナミックスまたは閉瞼加速度を用いて睡眠識別値が算出される。
図8は、本発明の1実施例による装置104のブロック図を示す。この装置104は、図示の実施例では3つのブロック890,114,118を有しており、これらのブロックは、アイパラメータ検出装置106に接続されている。
この装置104は、閉瞼信号から瞬間睡眠を検出するためのシステムと称呼される。好適には、この装置104は、瞬間睡眠を独立した危険と検知して早めに警告を提供するように構成されている。好適には、瞬間睡眠はこの装置104によって検知され、運転者はその睡眠からアシスト機能を使って目覚めさせられる。好適には、瞬間睡眠による事故のリスク若しくは危険性は回避されるかまたは低減される。
ブロック106は、閉じた目を検知するための前処理を示す。これは、アイクローズプレプロセッシング(ECP)とも称呼される。この場合、それぞれの実施例に応じて、特に次の値が決定され、相応の信号または情報が提供される:瞬間的な開眼(=下まぶたに対する上まぶたの間隔[m])、開眼の速度vAuge[m/s]、開眼の加速度aAuge[m/s]、並びに瞬間的な開眼レベル(=まばたきを考慮しない開眼)。
ブロック890は、パーソナルアイクローズ特性またはPECとも称呼される個人的な閉眼特性の決定を示す。この場合、運転者の個人的な開眼限界が検出される。初期化のために、運転開始時に短時間(例えば2分または5分)だけ、運転者の閉眼特性が観察されてよい。従って、最大開眼レベルが運転開始時に例えば閉眼信号の最大値形成によって算出され、並びに最小の開眼レベルが運転開始時に例えば閉眼信号の最小値形成によって算出される。運転者の交替が確認されると直ちに、初期化が新たに開始される。これは例えばカメラ画像からの運転者の識別によって検知される。しかしながら、ベルトロックまたは運転席ドアの信号、並びに速度信号が考慮されてもよい。
ブロック890で、運転者の個人的な特徴が識別される。これは、顔も含めた頭部の生理学的な状態に依存しており、従って運転がさらに継続される間は一定である。具体的には、目が100%以上開いていると特徴付けられる開眼レベル、および0%開いていると特徴付けられる開眼レベルが算出される。オプション的に、ドライバーIDが使用されてよい。運転者の識別がビデオ画像を用いて行われてよい。運転者が識別されると、場合によってはそれぞれの運転者の既に記憶されている値を再び呼び出すことができ、識別段階は省略されてよい。
運転者が運転開始時に目覚めていて、運転者の目が100%開いていることが前提とされている場合でも、100%レベルを後から高くしたほうがよいケース(例えば外部の光の状態に基づいて運転者が運転開始時に常に目を閉じている)が与えられてよい。これは、学習式かつ自己調整式の方法で考慮される。
ブロック890は、図7に記載した方法のステップ772,778,789,782によって説明される。図1に、図示の機能の一部を表すインターフェース112が示されていて、説明されている。
ブロック114で、運転者の目が閉じられているかどうかの検知が行われる。これは、アイクローズドディテクションまたはECDとも称呼される。目の瞬間的な開放度、開眼レベルまたは実際のまぶた位置並びにブロック890内で算出された個人的なレベルから、瞬間的なパーセントで表した開放度が算出され得る。瞬間的なパーセントの開放度が所定の限界値を下回ると(例えば50%)直ちに、目は閉じられていると称される。
オプション的に、ブロック114においてアイトラッカー(Eye−Tracker)の視線方向信号も用いられ、若しくは視線方向信号の利用可能性が監視される。視線方向が検知され、利用可能である限りは、目は開いている。この方法は分類品質を高める。
ブロック118は、瞬間睡眠検知またはマイクロスリープ検知若しくはMSDを表す。第1実施例では、目が閉じている間の所要時間が算出される。この場合、この所要時間が所定の限界値(例えば1.5秒)を越えると直ちに、瞬間睡眠が検出される。これは図3にも例として示されている。
選択的にまたは補足的に、瞬間睡眠時の典型的な運動パターンが、これを瞬間睡眠に入る前にまたは入る間に既に検知するために、検出される。これによって、この方法で基本的に、前記段落で記載した瞬間睡眠検知の実施例におけるよりも早めの警告が可能である。この場合、開眼信号も、その他の信号例えば視線方向も考慮することができる。基本的に様々な運動パターン:ゆっくりとした閉眼、「閉じようとする目との戦い」または漂う瞳孔の検出が考えられる。
ゆっくりとした閉眼を検出するために、次のパラメータが用いられる:開眼レベルおよび開眼速度。より長い時間間隔(例えば0.5秒)のための速度信号が、所定の帯域(例えば−0.1m/秒<実際の速度(vAuge)<−0.05m/秒)を下回るかまたはこの帯域内にあれば直ちに、既に早期に瞬間睡眠が検知される。
閉じようとする目との戦いを検出するために、次のパラメータが用いられる:開眼レベル並びに開眼速度。「閉じようとする目との戦い」は、ゆっくりとした開眼速度と関連して目の頻繁な開閉を検出することによって検知される。相応の信号は図5に例として示されている。
漂う瞳孔を検出するために、次のパラメータが用いられる:開眼レベル並びに視線方向。漂う瞳孔を検出するために、視線方向信号の運動パターンが用いられる。これは、瞬間的な開眼レベルとも関連してより良好な検出のために用いられる。図6は、瞳孔がこのように漂うときに視線方向の水平方向の変化のための例を示す。
装置104は、特異な瞬間睡眠事象を検知するために構成されている。1実施例では、目が所定の時間長さよりも長く閉じられているときに瞬間睡眠事象が検知され、この場合、瞬間睡眠または睡眠が確認される。
1実施例では、瞬間睡眠事象の早期の検知が得られる。例えば、瞬間睡眠の所定の独特な特徴を、目を閉じるときに既に検知するために、閉瞼ダイナミックスが用いられる。この方法によって、より早期の警告が可能である。これによって、安全性のより高い効果が付随して得られる。さらに、様々なパターンが示される。検知は様々な値(例えば閉眼速度)に基づいている。
各運転者のための開眼レベルの不変な値を算出すれば有利である。
記載され、図面に示された実施例は、例として挙げられただけである。様々な実施例が完全にまたは個別の特徴に関連して互いに組み合わされてよい。1実施例が別の実施例の特徴によって補足されてもよい。
さらに、ここに紹介された方法ステップは繰り返すことができ、また、記載された連続とは異なる連続で実施されてよい。
1実施例が第1の特徴と第2の特徴との間で「および/または」接続を有している場合は、これは、この実施例が、1実施形態に従って第1の特徴も第2の特徴も有しており、また別の実施形態に従って第1の特徴だけまたは第2の特徴だけを有している、と読み取られるべきである。
100 車両
102 運転者
104 装置
106 アイパラメータ検出装置
108 目
110 閉眼情報、目の運動情報
112 インターフェース
114 分類するための装置
116 開眼情報
118 睡眠識別値120を算出するための装置
120 睡眠識別値
122 視覚的な警告装置
124 聴覚的な警告装置
126 視線方向
232 上まぶた
234 下まぶた
236 まぶたの位置
238 まぶたの間隔
240 第1のまぶた位置
242 第2のまぶた位置
350 閉眼信号
352 第1の垂直線
354 別の垂直線
660 視線方向信号
770 方法
772 読み取りのステップ
774 分類のステップ
776 算出のステップ
778 識別のステップ
780 評価のステップ
782 学習のステップ
Auge 開眼速度
Auge 閉瞼加速度

Claims (12)

  1. 車両(100)の運転者(102)の瞬間睡眠を検知するための方法(700)において、
    前記方法(700)は:
    運転者(102)のアイパラメータに関する閉眼情報(110)の読み取りのステップ(772)を有しており、この場合、前記閉眼情報(110)が、運転者(102)の最大開眼レベルのための第1のまぶた位置(240)および/または最小開眼レベルのための第2のまぶた位置(242)を表しており、
    目(108)の開放状態または目(108)の閉鎖状態を表す開眼情報(116)を得るために、前記閉眼情報(110)を用いて運転者(102)のまぶた(232)の実際のまぶた位置(244)の分類のステップ(774)を有しており、
    瞬間睡眠発生の程度を表す睡眠識別値(120)の算出のステップ(776)を有しており、この場合、前記睡眠識別値(120)が前記実際のまぶた位置(244)および/または前記開眼情報(116)を用いて算出され、前記瞬間睡眠は、前記睡眠識別値(120)が少なくとも所定の時間長さ中に閾値を越えると検知されるようになっている、
    車両(100)の運転者(102)の瞬間睡眠を検知するための方法(700)。
  2. 車両(100)の運転者(102)の瞬間睡眠を検知するための方法(700)において、
    前記方法(700)は:
    運転者(102)のアイパラメータに関する目の運動情報(110)および/または運転者(102)のアイパラメータに関する閉眼情報(110)の読み取りのステップ(772)を有しており、この場合、前記目の運動情報(110)は運転者(102)の目(108)の運動に関する情報を表し、かつ/または前記閉眼情報(110)は運転者(102)の最大開眼レベルのための第1のまぶた位置(240)および/または最小開眼レベルのための第2のまぶた位置(242)を表しており、
    瞬間睡眠発生の程度を表す睡眠識別値(120)の算出のステップ(776)を有しており、この場合、前記睡眠識別値(120)が前記目の運動情報(110)から導き出された開眼速度(vAuge)を用いておよび/または前記目の運動情報(110)から導き出された運転者(102)の視線方向(126)を用いておよび/または前記開眼速度(vAuge)および前記視線方向(126)から導き出された複数の情報を用いて算出され、前記睡眠識別値(120)が少なくとも所定の時間長さ中に閾値を越えると、瞬間睡眠が検知されるようになっている、
    車両(100)の運転者(102)の瞬間睡眠を検知するための方法(700)。
  3. 前記請求項による、車両(100)の運転者(102)の瞬間睡眠を検知するための方法(700)において、前記方法(700)が請求項1および2記載の方法の複数のステップを有している、方法(700)。
  4. 前記読み取りのステップ(772)の前に前記識別のステップ(778)で運転者(102)を識別し、前記閉眼情報(110)を、識別された運転者(102)に関する、特にデータバンクからの情報を用いて、提供する、請求項1または3記載の方法(700)。
  5. 前記閉眼情報(110)を決定するために、前記読み取りのステップ(772)の前に評価のステップ(780)で、初期化時間間隔に亘って前記実際のまぶた位置(244)を評価する、前記請求項のいずれか1項記載の方法(700)。
  6. 前記分類のステップ(774)に先行する学習のステップ(782)を有しており、前記学習のステップ(782)で、前記閉眼情報(110)を前記実際のまぶた位置(244)を用いて調整する、前記請求項のいずれか1項記載の方法(700)。
  7. 開いた目と閉じた目とを区別するために、前記分類のステップ(744)で視線方向信号(660)を用いて前記開眼情報(116)を分類する、前記請求項のいずれか1項記載の方法(700)。
  8. 前記算出のステップ(776)で、前記睡眠識別値(120)を、所定の時間長さ中の運転者(102)のための閉じた目の回数を表す開眼情報(116)を用いて、および/または所定の時間長さ中の閉じた目の所要時間を表す開眼情報(116)を用いて、算出する、前記請求項のいずれか1項記載の方法(700)。
  9. 前記算出のステップ(776)で、前記睡眠識別値(120)を、閉瞼ダイナミックスおよび/または閉瞼加速度(aAuge)を用いて算出する、前記請求項のいずれか1項記載の方法(700)。
  10. 装置(104)において、前記請求項のいずれか1項記載の方法(700)のすべてのステップを実施するために構成されている、装置(104)。
  11. コンピュータプログラムにおいて、前記請求項のいずれか1項記載の方法(700)のすべてのステップを実施、実行および/または制御するために設計されている、コンピュータプログラム。
  12. 機械読み取り可能なメモリー媒体において、前記メモリー媒体に記憶された請求項11記載のコンピュータプログラムを有している、機械読み取り可能なメモリー媒体。
JP2017537477A 2015-01-19 2015-12-03 車両の運転者の瞬間睡眠を検知するための方法および装置 Pending JP2018508870A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102015200697.2 2015-01-19
DE102015200697.2A DE102015200697A1 (de) 2015-01-19 2015-01-19 Verfahren und Vorrichtung zum Erkennen von Sekundenschlaf eines Fahrers eines Fahrzeugs
PCT/EP2015/078450 WO2016116201A1 (de) 2015-01-19 2015-12-03 Verfahren und vorrichtung zum erkennen von sekundenschlaf eines fahrers eines fahrzeugs

Publications (1)

Publication Number Publication Date
JP2018508870A true JP2018508870A (ja) 2018-03-29

Family

ID=54843810

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017537477A Pending JP2018508870A (ja) 2015-01-19 2015-12-03 車両の運転者の瞬間睡眠を検知するための方法および装置

Country Status (6)

Country Link
US (1) US10748404B2 (ja)
EP (1) EP3248179B1 (ja)
JP (1) JP2018508870A (ja)
CN (2) CN110211335B (ja)
DE (1) DE102015200697A1 (ja)
WO (1) WO2016116201A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020174601A1 (ja) * 2019-02-27 2020-09-03 三菱電機株式会社 覚醒度推定装置、自動運転支援装置および覚醒度推定方法
WO2023105970A1 (ja) * 2021-12-10 2023-06-15 パナソニックIpマネジメント株式会社 推定装置、推定方法及びプログラム

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102016205311A1 (de) * 2016-03-31 2017-10-05 Robert Bosch Gmbh Verfahren zum Bereitstellen eines Warnsignals und Verfahren zum Generieren eines Vorsekundenschlafmusters zum Erkennen eines drohenden Sekundenschlafs für ein Fahrzeug
US10121084B2 (en) * 2017-03-07 2018-11-06 Wipro Limited Method and a system for detecting drowsiness state of a vehicle user
WO2019028798A1 (zh) * 2017-08-10 2019-02-14 北京市商汤科技开发有限公司 驾驶状态监控方法、装置和电子设备
KR102438191B1 (ko) * 2017-09-29 2022-08-31 주식회사 루멘스 차량용 졸음 방지 장치
CN110200745A (zh) * 2018-02-28 2019-09-06 深圳市掌网科技股份有限公司 眼罩以及睡眠促进方法
JP7099037B2 (ja) * 2018-05-07 2022-07-12 オムロン株式会社 データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム
CN110956067B (zh) * 2019-05-26 2022-05-17 魔门塔(苏州)科技有限公司 一种人眼眼睑曲线的构建方法及装置
JP2022042665A (ja) * 2020-09-03 2022-03-15 株式会社Subaru 車両制御装置
US11433916B1 (en) * 2021-07-12 2022-09-06 Mirza Faizan System to generate an alert to wake a driver of a vehicle and a method thereof
DE102021123849A1 (de) * 2021-09-15 2023-03-16 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Überwachungseinrichtung zum Bestimmen eines Augenzustands einer Person und Kraftfahrzeug

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008210285A (ja) * 2007-02-27 2008-09-11 Kyushu Univ 居眠り運転防止装置
JP2010067137A (ja) * 2008-09-12 2010-03-25 Toyota Central R&D Labs Inc 開閉眼判定装置および開眼度推定装置
JP2010224827A (ja) * 2009-03-23 2010-10-07 Toyota Central R&D Labs Inc 開閉眼状態判定装置、前横向き状態判定装置、及びプログラム
JP2011048531A (ja) * 2009-08-26 2011-03-10 Aisin Seiki Co Ltd 眠気検出装置、眠気検出方法、及びプログラム
JP2011086186A (ja) * 2009-10-16 2011-04-28 Aisin Seiki Co Ltd 眠気判定装置
JP2012084068A (ja) * 2010-10-14 2012-04-26 Denso Corp 画像解析装置
JP2012085691A (ja) * 2010-10-15 2012-05-10 Hamamatsu Photonics Kk 瞬目計測装置及び瞬目計測方法
JP2013257691A (ja) * 2012-06-12 2013-12-26 Panasonic Corp 居眠り状態判定装置及び居眠り状態判定方法
JP2014057826A (ja) * 2012-09-14 2014-04-03 Utechzone Co Ltd 居眠り注意喚起装置
JP2014123287A (ja) * 2012-12-21 2014-07-03 Daimler Ag 居眠り運転警報装置および居眠り運転警報方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6070098A (en) * 1997-01-11 2000-05-30 Circadian Technologies, Inc. Method of and apparatus for evaluation and mitigation of microsleep events
FR2773521B1 (fr) * 1998-01-15 2000-03-31 Carlus Magnus Limited Procede et dispositif pour surveiller en continu l'etat de vigilance du conducteur d'un vehicule automobile, afin de detecter et prevenir une tendance eventuelle a l'endormissement de celui-ci
US7202793B2 (en) * 2002-10-11 2007-04-10 Attention Technologies, Inc. Apparatus and method of monitoring a subject and providing feedback thereto
US7253738B2 (en) 2005-03-10 2007-08-07 Delphi Technologies, Inc. System and method of detecting eye closure based on edge lines
US7293550B2 (en) 2006-01-31 2007-11-13 Gm Global Technology Operations, Inc. Fuel injector isolation seat
US8102417B2 (en) * 2006-10-25 2012-01-24 Delphi Technologies, Inc. Eye closure recognition system and method
US8570176B2 (en) * 2008-05-28 2013-10-29 7352867 Canada Inc. Method and device for the detection of microsleep events
JP5270415B2 (ja) * 2009-03-19 2013-08-21 トヨタ自動車株式会社 眠気判定装置及びプログラム
EP2237237B1 (en) * 2009-03-30 2013-03-20 Tobii Technology AB Eye closure detection using structured illumination
CN101540090B (zh) * 2009-04-14 2011-06-15 华南理工大学 基于多元信息融合的驾驶员疲劳监测方法
DE102009046913A1 (de) * 2009-11-20 2011-05-26 Robert Bosch Gmbh Verfahren und Steuergerät zur Müdigkeitserkennung
WO2011075392A1 (en) * 2009-12-18 2011-06-23 Honda Motor Co., Ltd. A predictive human-machine interface using eye gaze technology, blind spot indicators and driver experience
CN202257856U (zh) 2011-10-12 2012-05-30 四川科泰智能电子有限公司 驾驶员疲劳驾驶监控装置
CN102867395A (zh) * 2012-10-11 2013-01-09 南京艾酷派物联网有限公司 驾驶员疲劳远程实时监控装置
CN102930693B (zh) * 2012-11-06 2015-01-21 深圳市艾大机器人有限公司 安全驾驶预警方法
US20150025917A1 (en) * 2013-07-15 2015-01-22 Advanced Insurance Products & Services, Inc. System and method for determining an underwriting risk, risk score, or price of insurance using cognitive information
EP3157426B1 (de) * 2014-06-20 2018-06-20 FRAUNHOFER-GESELLSCHAFT zur Förderung der angewandten Forschung e.V. Vorrichtung, verfahren und computerprogramm zur detektion eines sekundenschlafs
DE102015216127A1 (de) * 2015-08-24 2017-03-02 Ford Global Technologies, Llc Verfahren zum Eye-Tracking in einem Fahrzeug mit Head-up-Display
DE102015218306A1 (de) * 2015-09-23 2017-03-23 Robert Bosch Gmbh Verfahren und Vorrichtung zum Ermitteln eines Schläfrigkeitszustands eines Fahrers

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008210285A (ja) * 2007-02-27 2008-09-11 Kyushu Univ 居眠り運転防止装置
JP2010067137A (ja) * 2008-09-12 2010-03-25 Toyota Central R&D Labs Inc 開閉眼判定装置および開眼度推定装置
JP2010224827A (ja) * 2009-03-23 2010-10-07 Toyota Central R&D Labs Inc 開閉眼状態判定装置、前横向き状態判定装置、及びプログラム
JP2011048531A (ja) * 2009-08-26 2011-03-10 Aisin Seiki Co Ltd 眠気検出装置、眠気検出方法、及びプログラム
JP2011086186A (ja) * 2009-10-16 2011-04-28 Aisin Seiki Co Ltd 眠気判定装置
JP2012084068A (ja) * 2010-10-14 2012-04-26 Denso Corp 画像解析装置
JP2012085691A (ja) * 2010-10-15 2012-05-10 Hamamatsu Photonics Kk 瞬目計測装置及び瞬目計測方法
JP2013257691A (ja) * 2012-06-12 2013-12-26 Panasonic Corp 居眠り状態判定装置及び居眠り状態判定方法
JP2014057826A (ja) * 2012-09-14 2014-04-03 Utechzone Co Ltd 居眠り注意喚起装置
JP2014123287A (ja) * 2012-12-21 2014-07-03 Daimler Ag 居眠り運転警報装置および居眠り運転警報方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020174601A1 (ja) * 2019-02-27 2020-09-03 三菱電機株式会社 覚醒度推定装置、自動運転支援装置および覚醒度推定方法
JPWO2020174601A1 (ja) * 2019-02-27 2021-09-13 三菱電機株式会社 覚醒度推定装置、自動運転支援装置および覚醒度推定方法
JP7109649B2 (ja) 2019-02-27 2022-07-29 三菱電機株式会社 覚醒度推定装置、自動運転支援装置および覚醒度推定方法
WO2023105970A1 (ja) * 2021-12-10 2023-06-15 パナソニックIpマネジメント株式会社 推定装置、推定方法及びプログラム

Also Published As

Publication number Publication date
EP3248179B1 (de) 2019-02-20
DE102015200697A1 (de) 2016-07-21
WO2016116201A1 (de) 2016-07-28
CN110211335A (zh) 2019-09-06
US20170345276A1 (en) 2017-11-30
US10748404B2 (en) 2020-08-18
CN110211335B (zh) 2021-12-17
EP3248179A1 (de) 2017-11-29
CN107209979B (zh) 2019-06-28
CN107209979A (zh) 2017-09-26

Similar Documents

Publication Publication Date Title
JP2018508870A (ja) 車両の運転者の瞬間睡眠を検知するための方法および装置
JP6998564B2 (ja) 覚醒度推定装置及び覚醒度推定方法
KR101386823B1 (ko) 동작, 안면, 눈, 입모양 인지를 통한 2단계 졸음운전 방지 장치
US9694680B2 (en) System and method for determining drowsy state of driver
JP6754368B2 (ja) 車両のドライバの疲労状態及び/又は睡眠状態を判定するための装置によって実施される方法
KR100957283B1 (ko) 졸음운전 위험판정장치
US10430677B2 (en) Method for classifying driver movements
US8879790B2 (en) Image processing device and drowsiness assessment device
JP7154959B2 (ja) 走行状況判断情報基盤の運転者状態認識装置及び方法
CN107303907A (zh) 用于确定驾驶者的睡意的装置和方法
Mašanović et al. Driver monitoring using the in-vehicle camera
KR20190056520A (ko) 얼굴 표정 인식 기술을 이용한 전방 집중도 분석 방법
Girish et al. Driver fatigue detection
JP5050794B2 (ja) 眠気検知装置、眠気検知方法
US10945651B2 (en) Arousal level determination device
JP7192668B2 (ja) 覚醒度判定装置
WO2020255238A1 (ja) 情報処理装置、プログラム及び情報処理方法
CN107273789B (zh) 用于提供警告信号以识别将面临的微睡的方法
KR20130124763A (ko) 운전자 얼굴 영상 기반 피로 운전 판단 시스템 및 그 방법
Nair et al. Smart System for Drowsiness and Accident Detection
Victoreia et al. Driver fatigue monitoring system using eye closure
Kumari Real time detecting driver’s drowsiness using computer vision
Kaur et al. Driver’s Drowsiness Detection System Using Machine Learning
US20220044037A1 (en) Method for determining a level of alertness of a driver
Saranya et al. An Improved Driver Drowsiness Detection using Haar Cascade Classifier

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170714

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180622

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180911

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20181114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190604

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190827

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20191023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200130

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200418

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200831