JP2015095162A - ドライバ監視装置 - Google Patents

ドライバ監視装置 Download PDF

Info

Publication number
JP2015095162A
JP2015095162A JP2013235105A JP2013235105A JP2015095162A JP 2015095162 A JP2015095162 A JP 2015095162A JP 2013235105 A JP2013235105 A JP 2013235105A JP 2013235105 A JP2013235105 A JP 2013235105A JP 2015095162 A JP2015095162 A JP 2015095162A
Authority
JP
Japan
Prior art keywords
driver
state
recognition
recognized
driver monitoring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013235105A
Other languages
English (en)
Other versions
JP6314435B2 (ja
Inventor
大見 拓寛
Takuhiro Omi
拓寛 大見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2013235105A priority Critical patent/JP6314435B2/ja
Priority to US15/034,144 priority patent/US9888875B2/en
Priority to PCT/JP2014/005135 priority patent/WO2015072069A1/ja
Publication of JP2015095162A publication Critical patent/JP2015095162A/ja
Application granted granted Critical
Publication of JP6314435B2 publication Critical patent/JP6314435B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1103Detecting eye twinkling
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4806Sleep evaluation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/7455Details of notification to user or communication with user or patient ; user input means characterised by tactile indication, e.g. vibration or electrical stimulation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/746Alarms related to a physiological condition, e.g. details of setting alarm thresholds or avoiding false alarms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • B60K28/06Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Pathology (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Physiology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Psychology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • Hospice & Palliative Care (AREA)
  • Educational Technology (AREA)
  • Developmental Disabilities (AREA)
  • Ophthalmology & Optometry (AREA)
  • Transportation (AREA)
  • Combustion & Propulsion (AREA)
  • Radiology & Medical Imaging (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Traffic Control Systems (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Emergency Alarm Devices (AREA)

Abstract

【課題】車両のドライバを監視するドライバ監視装置において、覚醒状態が正しく認識できない場合であっても、ドライバの覚醒状態を維持できるようにする。
【解決手段】ドライバ監視システムにおいては、ドライバの状態を認識し(S210)、認識安定性を判定する(S215)。また、認識安定性が予め設定された基準値未満である場合に、認識安定性が基準値以上である場合とは異なる動作を行うようドライバに要求する(S230、S235、S240、S260、S310)。そして、要求に対応するドライバの動作を検出する(S270、S315)。このようなドライバ監視装置によれば、認識安定性が基準値未満である場合にドライバに対して何らかの動作を要求するので、覚醒状態等のドライバ状態が正しく認識できない場合であっても、ドライバの覚醒状態を維持することができる。
【選択図】図5

Description

本発明は、車両のドライバを監視するドライバ監視装置に関する。
上記のドライバ監視装置として、ドライバの覚醒状態を維持するために、ドライバの覚醒レベルが低いときにドライバに特定の動作を要求するものが知られている(例えば、特許文献1参照)。
特開2010−020618号公報
上記のドライバ監視装置では、覚醒状態が正しく認識できない場合であっても、ドライバの覚醒状態を維持したいという要求がある。
そこで、車両のドライバを監視するドライバ監視装置において、覚醒状態が正しく認識できない場合であっても、ドライバの覚醒状態を維持できるようにすることを本発明の目的とする。
かかる目的を達成するために成された本発明のドライバ監視装置において、状態認識手段はドライバの状態を認識し、認識安定性判定手段は、状態認識手段による認識安定性を判定する。また、動作要求手段は、認識安定性が予め設定された基準値未満である場合に、認識安定性が基準値以上である場合とは異なる動作を行うようドライバに要求するか、あるいは同一の動作であっても異なるタイミングでドライバに要求する。そして、動作検出手段は、要求に対応するドライバの動作を検出する。
このようなドライバ監視装置によれば、認識安定性が基準値未満である場合にドライバに対して何らかの動作を要求するので、覚醒状態等のドライバ状態が正しく認識できない場合であっても、ドライバの覚醒状態を維持することができる。
なお、「前記認識安定性が前記基準値以上である場合とは異なる動作」には、認識安定性が基準値以上の場合に動作の要求を行わない場合を含む。つまり、認識安定性が基準値未満の場合の際に、認識安定性が基準値以上の場合には求めなかった動作を要求すればよい。
また、上記目的を達成するためには、コンピュータを、ドライバ監視装置を構成する各手段として実現するためのドライバ監視プログラムとしてもよい。また、各請求項の記載は、可能な限りにおいて任意に組み合わせることができる。この際、発明の目的を達成できる範囲内において一部構成を除外してもよい。
本発明が適用されたドライバ監視システム1の概略構成を示すブロック図である。 制御部10(CPU11)が実行するタスク付与処理を示すフローチャートである。 タスク付与処理のうちの画像認識処理を示すフローチャートである。 顔部品や顔方向を認識する際の具体例を示す説明図である。 タスク付与処理のうちの画像解析処理を示すフローチャートである。
以下に本発明にかかる実施の形態を図面と共に説明する。
[本実施形態の構成]
本発明が適用されたドライバ監視システム1は、例えば乗用車等の車両において搭載されており、この車両を自動または半自動で走行制御するオートパイロットシステム25の作動時に、車両のドライバ(運転者)の覚醒状態を監視するシステムである。このドライバ監視システム1では、ドライバの覚醒レベルが低い状態(ドライバが眠気を感じている状態)を認識すると注意喚起を行い、ドライバの覚醒状態が不明である場合にドライバに何らかの動作を行うよう要求する機能を備えている。
詳細にはドライバ監視システム1は、図1に示すように、制御部10、カメラ21、照明部22、オートパイロットシステム25、押ボタン26、警報部31、シート振動部32、空調変更部33を備えている。
カメラ21は、車両の内部においてドライバの前方に配置されており、ドライバの顔が撮像範囲内になるよう設定されている。
照明部22は、カメラ21のための補助光源として機能し、ドライバの顔に向けて例えば赤外光を照射する。赤外光の照射タイミングについては、常時点灯していてもよいし、カメラ21による撮像周期と同期するよう、発光タイミングが制御部10によって制御されるよう構成されていてもよい。
オートパイロットシステム25は、車両の加減速および操舵を制御することでドライバが操作を行うことなく車両を制御(自動運転)するシステムである。オートパイロットシステム25は、自動運転を行っているか否かを示す信号を制御部10に送る。なお、オートパイロットシステム25は、車両の加減速および操舵のうちの一方を制御する半自動運転を行うよう設定されていてもよい。
押ボタン26は、ドライバの手の届く範囲に配置された物理的なスイッチとして構成されている。押ボタン26が操作された場合、この操作は制御部10にて認識されるよう設定されている。
警報部31は、音や光でドライバに注意を促すための構成であり、制御部10からの指令を受けて作動する。
シート振動部32は、ドライバのシートに埋め込まれたバイブレータとして構成されており、制御部10からの指令を受けて作動する。
空調変更部33は、制御部10からの指令を受けて、車両における空調装置の風量や風向、或いは設定温度を変更する機能を有する。
制御部10は、CPU11、およびROM、RAM等のメモリ12を備えた周知のコンピュータとして構成されている。CPU11は、メモリ12に記録されたプログラムに従って後述する各種処理を実施する。
[本実施形態の処理]
このように構成されたドライバ監視システム1において、制御部10は、図2に示すタスク付与処理を実施する。タスク付与処理では、オートパイロットシステム25の作動中に、ドライバが眠っていないことを確認するために、ドライバに何らかの動作を行うようタスク(指示)を与える。ただし、本実施形態においては、ドライバに対する負荷を軽減するために、ドライバの覚醒状態が明確である場合にはタスクを与えることはなく、ドライバの覚醒状態が不明確である場合に、ドライバの覚醒状態を確認するためにタスクを与えるよう設定している。
なお、タスク付与処理は、例えばオートパイロットシステム25の電源が投入されると開始される処理である。
詳細には、図2に示すように、まず、画像認識処理を実施する(S10)。画像認識処理は、カメラ21による撮像画像からドライバの状態を認識する処理である。この画像認識処理では、図3に示すように、まず、カメラ21からの撮像画像を取得する(S110)。
続いて、撮像画像中から顔領域を抽出し(S115)、さらに顔部品を抽出する(S120)。これらの処理は、図4(a)に示すように、撮像画像を画像処理することで顔の形状らしい領域を認識し、この領域を含む矩形の領域を顔領域として認識する。そして、この顔領域内においてエッジ(隣接する画素の輝度差が基準値以上の部位)を検出し、形状を認識することで顔部品を特定する。
続いて、頭部姿勢を推定する(S125)。この処理では、顔部品の位置関係に基づいて図4(b)に示すように顔の方向を推定する。
次に、開眼度を推定する(S130)。この処理では、顔部品のうちの目の部分に着目し、例えば瞼のカーブ(眼球の上側のエッジ)の曲率半径を求める。なお、この曲率半径が大きくなるほど開眼度が低いと判定される。
続いて、開眼度の推定結果をメモリに記録させる(S135)。ただし、顔部品が抽出できなかった場合や、開眼度を推定できなかった場合には、その旨をメモリに記録させる。
このような処理が終了すると画像認識処理を終了する。画像認識処理が終了すると、図2に戻り画像解析処理を実施する(S15)。画像解析処理は、画像認識処理による認識結果を利用して画像の状態を認識するとともに、必要に応じてドライバに対して動作を要求する処理である。また、必要に応じてドライバに対して注意喚起を行う処理である。
画像認識処理では、図5に示すように、まず、ドライバ状態を推定する(S210)。ここで、ドライバ状態とは、ドライバの覚醒状態を示す。ただし、覚醒状態はドライバ状態の1つであり、覚醒状態以外に、例えば、心臓発作が発生したことと等のドライバの健康状態や、携帯電話やカーナビゲーション装置等をドライバが操作することによるドライバの脇見運転状態等を示してもよい。
本実施形態において、ドライバの覚醒状態を推定するには、まず、例えば過去5秒間の平均開眼度や瞬き回数等を、メモリ12に記録された開眼度から求め、平均開眼度や瞬き回数が予め設定された閾値未満であれば、覚醒レベルが低く(ドライバが眠気を感じている状態)、平均開眼度や瞬き回数が閾値以上であれば覚醒レベルが高い(ドライバが眠気を感じていない状態)と判断する。
続いて、ドライバ状態の認識率と予め設定された判定認識率とを比較する(S215)。判定認識率はドライバ状態が信頼できるものか否かを判断するための基準であり、例えば70〜90%程度の値に設定される。
ドライバ状態の認識率は、開眼度の認識結果がメモリ12に記録された割合を表す。より具体的には、ドライバ状態の認識率は、例えば過去5秒間に得られる撮像画像の数(フレーム数)に対する平均開眼度が正常に認識できたフレーム数の割合を表す。
なお、本実施形態では、ドライバ状態が認識できた場合はメモリ12に記録するよう構成しているが、例えば、認識状態フラグ(認識の確からしさの尤度)を出力するようにしてもよい。
ドライバ状態の認識率が判定閾値以上であれば(S215:YES)、ドライバ状態の推定結果をメモリ12に記録する(S220)。ここでの推定結果は、覚醒レベルが高い場合にドライバ状態がOKである旨が記録され、覚醒レベルが低い場合にドライバ状態がNGである旨が記録される。S220の処理が終了すると、画像解析処理を終了する。
ドライバ状態の認識率が判定閾値未満であれば(S215:NO)、最新の撮像画像において顔部品が認識できているか否かを判定する(S230)。顔部品が認識できていれば(S230:YES)、運転継続時間tと画像タスク要求間隔t1とを比較する(S235)。
ここで、運転継続時間tは、ドライバ状態が最後に認識されてから、或いは、ドライバへの要求に対する動作が最後に認識されてからの時間を表す。つまり、運転継続時間tは、ドライバ状態が認識されるか(S220の処理が実施されるか)、ドライバへの要求に対する動作を認識したとき(S340の処理が実施されたとき)にリセットされる。
また、画像タスク要求時間t1は、画像処理にて認識可能なドライバ動作を要求する周期を示し、予め設定された値とされている。なお、この値は、後述する処理にて変更可能とされている。
運転継続時間tが画像タスク要求時間t1以下であれば(S235:NO)、メモリ12に記録されたドライバ状態の判定結果や後述する要求に対する動作の判定結果をクリアし(S250)、画像解析処理を終了する。
また、運転継続時間tが画像タスク要求時間t1を超えていれば(S235:YES)、画像処理タスクを要求する(S260)。ここで、画像処理タスクとは、ドライバに口を開けさせたり、顔の向きを変更させたり、ウインクさせたりというように、画像処理によってドライバの動作を検出するための要求を示す。より詳細には、撮像画像においてカメラ21に対する顔部品の位置関係を変更させるよう要求することを示す。
続いて、前述の画像認識処理を再度実施し(S265)、その後、要求に対する動作を認識する(S270)。すなわち、要求の前後における顔部品の位置関係の変化を認識することで、ドライバが要求に応答したことを認識する。
そして、要求に対する動作を認識できたか否かを判定する(S275)。要求に対する動作を認識できていれば(S275:YES)、要求に対する動作が認識できた旨(OK)をメモリ12に記録させる(S340)。
また、要求に対する動作が認識できていなければ(S275:NO)、要求を行ってから、ドライバが動作を行うまでのタイムラグ(遅れ時間)に余裕時間を付加した待機時間が経過したか否かを判定する(S280)。待機時間が経過していなければ(S280:NO)、S265の処理に戻る。
待機時間が経過していれば(S280:YES)、要求に対する動作が認識できなかった旨(NG)をメモリ12に記録させる(S345)。このような処理が終了すると、画像解析処理を終了する。
ところで、S230の処理にて、顔部品が認識できていなければ(S230:NO)、運転継続時間tと非画像タスク要求間隔t2とを比較する(S235)。ここで、非画像タスク要求間隔t2は、画像処理によらずに認識可能なドライバの動作を要求する周期を示し、画像タスク要求時間t1以下の値に設定されている。
運転継続時間tが非画像タスク要求時間t2以下であれば(S240:NO)、前述のS25の処理に移行する。また、運転継続時間tが非画像タスク要求時間t2以下であれば(S240:YES)、非画像処理タスクを要求する(S310)。
非画像処理タスクは、画像処理によらずにドライバの動作を検出するための動作を要求するものであり、本実施形態では押ボタン26を押すよう要求する。続いて、要求に対する動作を認識する(S315)。この処理では、押ボタン26からの信号を検出する。
続いて、要求に対する動作を認識できたか否かを判定する(S320)。要求に対する動作を認識できていれば(S320:YES)、前述のS340の処理に移行する。また、要求に対する動作を認識できていなければ(S320:NO)、要求を行ってから待機時間が経過したか否かを判定する(S325)。待機時間が経過していなければ(S325:NO)、S315の処理に戻る。
また、待機時間が経過していれば(S325:YES)、前述のS345の処理に移行する。
このような画像解析処理が終了すると、図2に戻りメモリ12においてOKまたはNGの判定結果が記録されているか否かを判定する(S20)。この処理では前述のS250の処理にて判定結果がクリアされている場合には否定判定され、その他の場合には肯定判定される。
判定結果が記録されていなければ(S20:NO)、S10の処理に戻る。また、判定結果が記録されていれば(S20:YES)、判定結果の種別(OKまたはNG)を判定する(S25)。
判定結果がOKであれば(S25:NO)、画像タスク要求時間t1をα(αは例えば1分程度の値)だけ増加させ(S60)、S10の処理に戻る。また、判定結果がNGであれば(S25:YES)、NGレベルを判定する(S30)。
ここで、NGレベルは、NG判定された頻度やNG判定された際の処理の種別(開眼度によってNG判定されたか、要求に対する動作が得られなかったか等)によって所定の値が付与され、この値が基準となる閾値を超えるとNGレベルが高いと判定される。
NGレベルが低ければ(S30:NO)、ローレベル注意を出力する(S35)。ローレベル注意は、例えば、警報部31による警告を示す。
また、NGレベルが高ければ(S30:YES)、ハイレベル注意を出力する(S40)。ハイレベル注意は、警報部31による警告に加えて、シート振動部32によってシートに振動を与える処理、および空調変更部33によって運転者の顔に冷風を当てる処理等を行うことを示す。すなわち、ハイレベル注意では、ローレベル注意よりも強い警告を与えることで、ドライバに強く注意を促す。
S35またはS40の処理にて注意喚起を行う処理を終了すると、画像タスク要求時間t1を初期値に戻し(S45)、S10の処理に戻る。
[本実施形態による効果]
以上のように詳述したドライバ監視システム1において、制御部10はドライバの状態を認識し、認識安定性を判定する。また、認識安定性が予め設定された基準値未満である場合に、認識安定性が基準値以上である場合とは異なる動作を行うようドライバに要求するか、あるいは同一の動作であっても異なるタイミングでドライバに要求する。そして、要求に対応するドライバの動作を検出する。
このようなドライバ監視装置によれば、認識安定性が基準値未満である場合にドライバに対して何らかの動作を要求するので、覚醒状態等のドライバ状態が正しく認識できない場合であっても、ドライバの覚醒状態を維持することができる。
また、画像処理で顔部品を常時安定的に認識することは容易ではなく、外乱光(太陽光による顔面への直射やアンバランスな照射)やメガネへの風景の映り込みなどで、認識が連続的または断続的に誤検知や未検知に陥ることが考えられる。しかしながら本実施形態では、そのような場合では、ドライバに煩わしくても非画像処理タスクを実行することで安全性を確保することができる。
また、上記のドライバ監視システム1において制御部10は、ドライバの顔を撮像した撮像画像を取得し、撮像画像からドライバの顔の構成要素を認識する。そして、制御部10は、認識安定性が予め設定された基準値未満であって、ドライバの顔の構成要素のうちの予め設定された設定部位を認識できない場合、画像処理によらずにドライバの動作を検出するための非画像動作を要求する。
このようなドライバ監視システム1によれば、画像処理を用いないでドライバの動作を検出するための動作(非画像動作)を要求するのでドライバの動作を良好に検出することができる。
さらに、上記のドライバ監視システム1において制御部10は、ドライバの顔の構成要素のうちの設定部位(顔部品)を認識できた場合に、基準周期(t1)毎にドライバに動作を要求し、設定部位を認識できなかった場合に、基準周期よりも短い短縮周期(t2)毎にドライバに動作を要求する。
ここで、設定部位とは、顔向き方向を推定するために最低限必要な顔部品、例えば、顔幅と鼻との組み合わせや、両目と鼻との組み合わせ等を意味する。また、眠気推定の場合の設定部位は、左右の目の少なくとも片方の開眼度とすることができる。
このようなドライバ監視システム1によれば、設定部位を認識できなかった場合にはドライバに動作を要求する周期を短くするので、ドライバの覚醒状態を維持しやすくすることができる。
また、上記のドライバ監視システム1において制御部10は、設定部位を認識できた場合に、設定部位に変化を与える動作を要求し、設定部位を認識できなかった場合に、ドライバ操作を検知する検知部(押ボタン26)にて検知可能な動作を要求する。
このようなドライバ監視システム1によれば、設定部位を認識できる場合には画像で認識できる動作を要求することでドライバの負担を軽くし、一方で設定部位を認識できない場合には検知部にて検知可能な動作を要求するので、確実にドライバによる動作を検出することができる。
さらに、上記のドライバ監視システム1において制御部10は、要求に対するドライバの動作が検出できなかった場合、および認識したドライバの状態が運転に支障を及ぼす可能性がある状態である場合に、ドライバに対して注意喚起を行う。
このようなドライバ監視システム1によれば、ドライバが運転に支障を及ぼさないように注意を促すことができる。また、要求に対するドライバの動作が検出されたときや、ドライバの状態が運転に支障を及ぼさない場合に注意喚起を行わないようにすることで、ドライバに対する不要な警告が実施されにくくすることができる。
また、上記のドライバ監視システム1において制御部10は、注意喚起を行ってから予め設定された注意喚起間隔時間以内には、注意喚起を禁止する。ただし本実施形態では、ドライバの状態が「運転に支障を及ぼす可能性がある状態」である場合が認識された場合には、注意喚起を行う。
このようなドライバ監視システム1によれば、頻繁に注意喚起が実施されることによる煩わしさを軽減することができる。
さらに、上記のドライバ監視システム1において制御部10は、ドライバの動作が検出できた場合に、注意喚起間隔時間をより長い時間に変更し、注意喚起を行った場合に、注意喚起間隔時間をより短い時間に変更する。
このようなドライバ監視システム1によれば、注意喚起間隔時間を変更することで、ドライバに煩わしくないようにすること、および覚醒状態を維持することを両立することができる。
なお、状態認識手段によってドライバの状態が認識できた場合にも注意喚起間隔時間をより長い時間に変更するようにしてもよい。
[その他の実施形態]
本発明は、上記の実施形態によって何ら限定して解釈されない。また、上記の実施形態の構成の一部を、課題を解決できる限りにおいて省略した態様も本発明の実施形態である。また、上記の複数の実施形態を適宜組み合わせて構成される態様も本発明の実施形態である。また、特許請求の範囲に記載した文言のみによって特定される発明の本質を逸脱しない限度において考え得るあらゆる態様も本発明の実施形態である。また、上記の実施形態の説明で用いる符号を特許請求の範囲にも適宜使用しているが、各請求項に係る発明の理解を容易にする目的で使用しており、各請求項に係る発明の技術的範囲を限定する意図ではない。
例えば、上記実施形態において、画像処理を用いることなくドライバの操作を検出するための構成として、押ボタン26を押すよう要求し、押ボタン26への操作を検出する構成を採用したが、押ボタン26に限らず、例えば、ペダルやステアリングの操作を要求し、この操作をペダルやステアリングに設けられたセンサによって検出してもよい。
また、上記実施形態では、ドライバ状態が明確である場合にはドライバに動作を求めないよう構成したが、ドライバ状態が明確である場合にも、ある時間毎に何らかの動作を求めるようにしてもよい。この場合、ドライバ状態が不明確である場合よりも動作を要求する周期を長くする構成や、ドライバの負担にならないより軽い動作を要求する構成を採用してもよい。
つまり、ドライバ状態が明確である場合にも動作を要求する場合、ドライバ状態が不明確である場合とは異なる動作を求めればよい。
[実施形態の構成と本発明の手段との対応関係]
上記実施形態における制御部10は、本発明でいうドライバ監視装置に相当し、上記実施形態における押ボタン26は、本発明でいう検知部に相当する。また、上記実施形態において制御部10が実施する処理のうちの、S30、S35、S40の処理は、本発明でいう注意喚起手段に相当し、上記実施形態におけるS45、S60の処理は、本発明でいう間隔時間変更手段に相当する。
さらに、上記実施形態におけるS110の処理は、本発明でいう撮像画像取得手段に相当し、上記実施形態におけるS120の処理は、本発明でいう顔認識手段に相当する。また、上記実施形態におけるS210の処理は、本発明でいう状態認識手段に相当し、上記実施形態におけるS215の処理は、本発明でいう認識安定性判定手段に相当する。
さらに、上記実施形態におけるS230、S235、S240、S260、S310の処理は、本発明でいう動作要求手段に相当し、上記実施形態におけるS235、S240、S250の処理は、本発明でいう注意禁止手段に相当する。また、上記実施形態におけるS270、S315の処理は、本発明でいう動作検出手段に相当する。
1…ドライバ監視システム、10…制御部、11…CPU、12…メモリ、21…カメラ、22…照明部、25…オートパイロットシステム、26…押ボタン、31…警報部、32…シート振動部、33…空調変更部。

Claims (7)

  1. 車両のドライバを監視するドライバ監視装置(10)であって、
    ドライバの状態を認識する状態認識手段(S210)と、
    前記状態認識手段による認識安定性を判定する認識安定性判定手段(S215)と、
    前記認識安定性が予め設定された基準値未満である場合に、前記認識安定性が前記基準値以上である場合とは異なる動作を行うよう前記ドライバに要求するか、あるいは同一の動作であっても異なるタイミングで前記ドライバに要求する動作要求手段(S230、S235、S240、S260、S310)と、
    前記要求に対応するドライバの動作を検出する動作検出手段(S270、S315)と、
    を備えたことを特徴とするドライバ監視装置。
  2. 請求項1に記載のドライバ監視装置において、
    ドライバの顔を撮像した撮像画像を取得する撮像画像取得手段(S110)と、
    前記撮像画像からドライバの顔の構成要素を認識する顔認識手段(S120)と、
    を備え、
    前記動作要求手段は、前記認識安定性が予め設定された基準値未満であって、ドライバの顔の構成要素のうちの予め設定された設定部位を認識できない場合、画像処理によらずにドライバの動作を検出するための非画像動作を要求すること
    を特徴とするドライバ監視装置。
  3. 請求項2に記載のドライバ監視装置において、
    前記動作要求手段は、前記設定部位を認識できた場合に、基準周期毎に前記ドライバに動作を要求し、前記設定部位を認識できなかった場合に、前記基準周期よりも短い短縮周期毎に前記ドライバに動作を要求すること
    を特徴とするドライバ監視装置。
  4. 請求項2または請求項3に記載のドライバ監視装置において、
    前記動作要求手段は、前記設定部位を認識できた場合に、前記設定部位に変化を与える動作を要求し、前記設定部位を認識できなかった場合に、ドライバ操作を検知する検知部(26)にて検知可能な動作を要求すること
    を特徴とするドライバ監視装置。
  5. 請求項1〜請求項4の何れか1項に記載のドライバ監視装置において、
    前記動作検出手段にて前記要求に対するドライバの動作が検出できなかった場合、および前記状態認識手段にて認識したドライバの状態が運転に支障を及ぼす可能性がある状態である場合に、前記ドライバに対して注意喚起を行う注意喚起手段(S30、S35、S40)、を備えたこと
    を特徴とするドライバ監視装置。
  6. 請求項5に記載のドライバ監視装置において、
    前記注意喚起を行ってから予め設定された注意喚起間隔時間以内には、前記注意喚起手段による注意喚起を禁止する注意禁止手段(S235、S240、S250)、
    を備えたことを特徴とするドライバ監視装置。
  7. 請求項6に記載のドライバ監視装置において、
    前記動作検出手段によって前記ドライバの動作が検出できた場合に、前記注意喚起間隔時間をより長い時間に変更し、前記注意喚起手段によって注意喚起を行った場合に、前記注意喚起間隔時間をより短い時間に変更する間隔時間変更手段(S45、S60)、
    を備えたことを特徴とするドライバ監視装置。
JP2013235105A 2013-11-13 2013-11-13 ドライバ監視装置 Active JP6314435B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013235105A JP6314435B2 (ja) 2013-11-13 2013-11-13 ドライバ監視装置
US15/034,144 US9888875B2 (en) 2013-11-13 2014-10-09 Driver monitoring apparatus
PCT/JP2014/005135 WO2015072069A1 (ja) 2013-11-13 2014-10-09 ドライバ監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013235105A JP6314435B2 (ja) 2013-11-13 2013-11-13 ドライバ監視装置

Publications (2)

Publication Number Publication Date
JP2015095162A true JP2015095162A (ja) 2015-05-18
JP6314435B2 JP6314435B2 (ja) 2018-04-25

Family

ID=53057025

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013235105A Active JP6314435B2 (ja) 2013-11-13 2013-11-13 ドライバ監視装置

Country Status (3)

Country Link
US (1) US9888875B2 (ja)
JP (1) JP6314435B2 (ja)
WO (1) WO2015072069A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017178009A (ja) * 2016-03-30 2017-10-05 本田技研工業株式会社 車両用覚醒検知装置
JP2018055469A (ja) * 2016-09-29 2018-04-05 トヨタ自動車株式会社 車両用覚醒システム
JP6418341B1 (ja) * 2018-02-07 2018-11-07 オムロン株式会社 データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム
JP6418342B1 (ja) * 2018-02-07 2018-11-07 オムロン株式会社 データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム
JP2023001221A (ja) * 2020-07-01 2023-01-04 トヨタ自動車株式会社 通知制御装置

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6314435B2 (ja) 2013-11-13 2018-04-25 株式会社デンソー ドライバ監視装置
US20210291817A1 (en) 2016-06-23 2021-09-23 State Farm Mutual Automobile Insurance Company Systems and methods for environmental analysis based upon vehicle sensor data
JP6801274B2 (ja) 2016-07-11 2020-12-16 株式会社デンソー 運転支援装置、及び運転支援方法
JP6888542B2 (ja) * 2017-12-22 2021-06-16 トヨタ自動車株式会社 眠気推定装置及び眠気推定方法
US10275670B1 (en) 2018-03-07 2019-04-30 State Farm Mutual Automobile Insurance Company Image analysis technologies for identifying abnormal vehicle conditions
US10776644B1 (en) * 2018-03-07 2020-09-15 State Farm Mutual Automobile Insurance Company Image analysis technologies for assessing safety of vehicle operation
US11254270B1 (en) 2018-05-02 2022-02-22 State Farm Mutual Automobile Insurance Company Technologies for using image analysis to facilitate adjustments of vehicle components
CN111557007B (zh) * 2018-07-16 2022-08-19 荣耀终端有限公司 一种检测眼睛睁闭状态的方法及电子设备
DE102018214935B4 (de) * 2018-09-03 2023-11-02 Bayerische Motoren Werke Aktiengesellschaft Verfahren, Vorrichtung, Computerprogramm und Computerprogrammprodukt zum Ermitteln einer Aufmerksamkeit eines Fahrers eines Fahrzeuges
JP7328089B2 (ja) * 2019-09-05 2023-08-16 トヨタ自動車株式会社 閉眼判定装置
JP7127661B2 (ja) * 2020-03-24 2022-08-30 トヨタ自動車株式会社 開眼度算出装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH068746A (ja) * 1992-06-25 1994-01-18 Isuzu Motors Ltd 居眠り運転防止装置
JP2007219578A (ja) * 2006-02-14 2007-08-30 Omron Corp 異常検出装置および方法、記録媒体、並びに、プログラム
JP2007264883A (ja) * 2006-03-28 2007-10-11 Mitsubishi Fuso Truck & Bus Corp 車両用覚醒度情報出力装置
JP2008137639A (ja) * 2006-11-06 2008-06-19 Quality Kk 車両制御装置および車両制御プログラム
JP2012011810A (ja) * 2010-06-29 2012-01-19 Honda Motor Co Ltd 車両用顔画像撮像装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5570698A (en) * 1995-06-02 1996-11-05 Siemens Corporate Research, Inc. System for monitoring eyes for detecting sleep behavior
US6542081B2 (en) * 1996-08-19 2003-04-01 William C. Torch System and method for monitoring eye movement
US5867587A (en) * 1997-05-19 1999-02-02 Northrop Grumman Corporation Impaired operator detection and warning system employing eyeblink analysis
JPH11185200A (ja) 1997-12-22 1999-07-09 Mitsubishi Motors Corp 自動走行制御可能な車両におけるドライバの意識レベル判定方法
US6724920B1 (en) * 2000-07-21 2004-04-20 Trw Inc. Application of human facial features recognition to automobile safety
US6950027B2 (en) * 2000-08-23 2005-09-27 Siemens Vdo Automotive Corporation Method to alert drowsy driver
US7027621B1 (en) * 2001-03-15 2006-04-11 Mikos, Ltd. Method and apparatus for operator condition monitoring and assessment
JP3632088B2 (ja) 2002-03-29 2005-03-23 国土交通省国土技術政策総合研究所長 車両検出方法
DE10322458A1 (de) 2003-05-16 2004-12-02 Daimlerchrysler Ag Verfahren und Vorrichtung zur Beeinflussung der Beanspruchung eines Fahrers in einem Kraftfahrzeug
JP5056067B2 (ja) 2007-02-26 2012-10-24 株式会社デンソー 居眠り警報装置
US7652583B2 (en) * 2007-03-20 2010-01-26 Deere & Company Method and system for maintaining operator alertness
JP2009048605A (ja) 2007-07-24 2009-03-05 Nissan Motor Co Ltd 居眠り運転防止装置
JP2009031905A (ja) 2007-07-25 2009-02-12 Nissan Motor Co Ltd 居眠り運転防止装置
US7719431B2 (en) * 2007-10-05 2010-05-18 Gm Global Technology Operations, Inc. Systems, methods and computer products for drowsy driver detection and response
JP2010020618A (ja) 2008-07-11 2010-01-28 Toyota Motor Corp 運転者覚醒装置
JP5298923B2 (ja) 2009-02-17 2013-09-25 日産自動車株式会社 居眠り防止装置及び居眠り防止方法
JP5774409B2 (ja) 2011-08-19 2015-09-09 ダイムラー・アクチェンゲゼルシャフトDaimler AG 運転支援制御装置
JP6314435B2 (ja) 2013-11-13 2018-04-25 株式会社デンソー ドライバ監視装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH068746A (ja) * 1992-06-25 1994-01-18 Isuzu Motors Ltd 居眠り運転防止装置
JP2007219578A (ja) * 2006-02-14 2007-08-30 Omron Corp 異常検出装置および方法、記録媒体、並びに、プログラム
JP2007264883A (ja) * 2006-03-28 2007-10-11 Mitsubishi Fuso Truck & Bus Corp 車両用覚醒度情報出力装置
JP2008137639A (ja) * 2006-11-06 2008-06-19 Quality Kk 車両制御装置および車両制御プログラム
JP2012011810A (ja) * 2010-06-29 2012-01-19 Honda Motor Co Ltd 車両用顔画像撮像装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017178009A (ja) * 2016-03-30 2017-10-05 本田技研工業株式会社 車両用覚醒検知装置
JP2018055469A (ja) * 2016-09-29 2018-04-05 トヨタ自動車株式会社 車両用覚醒システム
JP6418341B1 (ja) * 2018-02-07 2018-11-07 オムロン株式会社 データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム
JP6418342B1 (ja) * 2018-02-07 2018-11-07 オムロン株式会社 データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム
WO2019155914A1 (ja) * 2018-02-07 2019-08-15 オムロン株式会社 データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、データ処理プログラム、及び記憶媒体
WO2019155913A1 (ja) * 2018-02-07 2019-08-15 オムロン株式会社 データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、データ処理プログラム、及び記憶媒体
JP2019136166A (ja) * 2018-02-07 2019-08-22 オムロン株式会社 データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム
JP2019136165A (ja) * 2018-02-07 2019-08-22 オムロン株式会社 データ処理装置、モニタリングシステム、覚醒システム、データ処理方法、及びデータ処理プログラム
JP2023001221A (ja) * 2020-07-01 2023-01-04 トヨタ自動車株式会社 通知制御装置
JP7456474B2 (ja) 2020-07-01 2024-03-27 トヨタ自動車株式会社 通知制御装置
US11981342B2 (en) 2020-07-01 2024-05-14 Toyota Jidosha Kabushiki Kaisha Display and voice output control system of vehicle

Also Published As

Publication number Publication date
WO2015072069A1 (ja) 2015-05-21
US9888875B2 (en) 2018-02-13
JP6314435B2 (ja) 2018-04-25
US20160262682A1 (en) 2016-09-15

Similar Documents

Publication Publication Date Title
JP6314435B2 (ja) ドライバ監視装置
US9526448B2 (en) State estimation device and state estimation program
JP5974915B2 (ja) 覚醒度検出装置、および覚醒度検出方法
JP6090129B2 (ja) 視認領域推定装置
JP4788624B2 (ja) 不注意警告装置、不注意警告装置の車両機器制御方法及び車両制御装置のプログラム
JP2019074791A (ja) 車両用運転支援装置
JP6926636B2 (ja) 状態推定装置
US11048951B2 (en) Occupant state recognition apparatus
JPWO2011118393A1 (ja) 覚醒度判定装置、覚醒度判定方法及びプログラム
JP2009274482A (ja) 運転支援装置、運転支援方法
JP2017194772A (ja) 覚醒度判定装置
JP6256433B2 (ja) 運転者状態検出装置
JP2018133007A (ja) 警報装置
JP5447335B2 (ja) 報知システム
JP6958982B2 (ja) 覚醒機能を備えた電子装置、覚醒プログラムおよび覚醒方法
JP2008305190A (ja) 居眠り警告装置及び自動車
JP2008197916A (ja) 車両用居眠り運転防止装置
CN104616436A (zh) 疲劳驾驶判断系统及其方法
JP2010100088A (ja) 運転支援システム
JP2008250859A (ja) 覚醒度判定装置
JP7046748B2 (ja) 運転者状態判定装置および運転者状態判定方法
JP2009090876A (ja) 居眠り防止装置
JP5050794B2 (ja) 眠気検知装置、眠気検知方法
JP2018045450A (ja) 車両制御装置
JP2009251647A (ja) 運転者覚醒装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180312

R151 Written notification of patent or utility model registration

Ref document number: 6314435

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250