JP7843933B2 - 眠気推定装置および眠気推定方法 - Google Patents

眠気推定装置および眠気推定方法

Info

Publication number
JP7843933B2
JP7843933B2 JP2025529114A JP2025529114A JP7843933B2 JP 7843933 B2 JP7843933 B2 JP 7843933B2 JP 2025529114 A JP2025529114 A JP 2025529114A JP 2025529114 A JP2025529114 A JP 2025529114A JP 7843933 B2 JP7843933 B2 JP 7843933B2
Authority
JP
Japan
Prior art keywords
drowsiness
sleepiness
noise factor
unit
score
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2025529114A
Other languages
English (en)
Other versions
JPWO2025004257A1 (ja
Inventor
高貴 上野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2025004257A1 publication Critical patent/JPWO2025004257A1/ja
Application granted granted Critical
Publication of JP7843933B2 publication Critical patent/JP7843933B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Surgery (AREA)
  • Psychiatry (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Educational Technology (AREA)
  • Developmental Disabilities (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Hospice & Palliative Care (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Automation & Control Theory (AREA)
  • Mathematical Physics (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本開示は、眠気推定装置および眠気推定方法に関するものである。
一般に、眠気が発生した際の人の特徴として、目の開き具合が小さくなる、または、瞬き回数が増える等の特徴が挙げられる。
従来、このことを踏まえた移動体の乗員の眠気を推定する技術、として、乗員の顔の情報を用いて抽出された目の開き具合または瞬き回数等の特徴量、を用いて、上記眠気を推定する技術が知られている(例えば、特許文献1)。
特開2011-48531号公報
人の行動には、いわゆる下方視をする、いわゆるしかめ顔をする、または、笑顔になる等、眠気が発生した際の特徴と類似する特徴がみられる行動がある。
従来技術では、乗員の眠気を推定する際、乗員が、上述したような、眠気が発生した際の特徴と類似する特徴がみられる行動、をとっている場合、乗員の眠気の推定精度が低下する可能性があるという課題があった。
なお、特許文献1に開示されている技術では、まぶたの動きが生じた直後に顔向き角度の変化が生じた場合、または、まぶたの動きが生じた時に視線の移動も生じた場合、眠気の判定を行わないようにするため、そもそも必要な眠気の判定までもが行われなくなっている可能性があり、依然として、乗員の眠気の推定精度が低下するという課題を解決しない。
本開示は上記のような課題を解決するためになされたもので、移動体の乗員の眠気を推定するにあたり、乗員が、眠気が発生した際の特徴と類似する特徴がみられる行動をとっていることにより当該乗員の眠気の推定精度が低下することを防ぐ眠気推定装置を提供することを目的とする。
本開示に係る眠気推定装置は、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部と、センシング部が取得した眠気関連情報に基づき、乗員による、眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部と、センシング部が取得した眠気関連情報から第一ノイズ要因検知部がノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、乗員の眠気を推定するための眠気推定用特徴量を算出する特徴量算出部と、特徴量算出部が算出した眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部と、眠気スコア算出部が算出した眠気スコアに基づき、乗員の眠気を推定する眠気推定部とを備え、ノイズ要因行動は、下方視を含み、第一ノイズ要因検知部は、時系列の眠気関連情報に基づき、乗員の視線方向が下方視判定用期間で下方視判定用角度以上、下方に変化した場合に乗員による下方視があったと検知するものである。
本開示によれば、移動体の乗員の眠気を推定するにあたり、乗員が、眠気が発生した際の特徴と類似する特徴がみられる行動をとっていることにより当該乗員の眠気の推定精度が低下することを防ぐことができる。
実施の形態1に係る眠気推定装置の構成例を示す図である。 実施の形態1に係る眠気推定装置の動作について説明するためのフローチャートである。 実施の形態1において、特徴量算出部が、センシング結果選択部が除外対象の眠気関連情報に付与した除外対象フラグに基づいてノイズ要因除去後眠気関連情報を特定して、特定したノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出するようにした場合の特徴量算出処理の詳細を説明するためのフローチャートである。 実施の形態1において、特徴量算出部が、センシング結果選択部から出力されたノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出するようにした場合の特徴量算出処理の詳細を説明するためのフローチャートである。 図5Aおよび図5Bは、実施の形態1に係る眠気推定装置のハードウェア構成の一例を示す図である。 実施の形態2に係る眠気推定装置の構成例を示す図である。 実施の形態2に係る眠気推定装置の動作について説明するためのフローチャートである。 実施の形態3に係る眠気推定装置の構成例を示す図である。 実施の形態3に係る眠気推定装置の動作について説明するためのフローチャートである。 実施の形態1に係る眠気推定装置、実施の形態2に係る眠気推定装置、および、実施の形態3に係る眠気推定装置の構成を組み合わせた眠気推定装置の構成例を示す図である。 実施の形態1に係る眠気推定装置、実施の形態2に係る眠気推定装置、および、実施の形態3に係る眠気推定装置の構成を組み合わせた眠気推定装置の動作を説明するためのフローチャートである。
以下、本開示の実施の形態について、図面を参照しながら詳細に説明する。
実施の形態1.
図1は、実施の形態1に係る眠気推定装置1の構成例を示す図である。
実施の形態1に係る眠気推定装置1は、撮像装置2と接続されており、撮像装置2が撮像した画像に基づき、眠気を推定する対象となる人(以下「対象者」という。)の眠気を推定する。
実施の形態1において、対象者は、車両(図示省略)のドライバを想定している。また、実施の形態1に係る眠気推定装置1は、車両に搭載されていることを想定している。
以下の実施の形態1では、車両のドライバを、単に「ドライバ」ともいう。
撮像装置2は、車両に搭載されている。撮像装置2は、車両のダッシュボードの中央部、Aピラー、または、メータパネル等に、少なくともドライバの顔を撮像可能に設置されている。撮像装置2は、いわゆる「ドライバーモニタリングシステム(Driver Monitoring System,DMS)」と共用のものでもよい。
撮像装置2は、可視光カメラ、または、赤外線カメラである。撮像装置2が赤外線カメラである場合、赤外線カメラには、ドライバの顔を含む範囲に対して撮像用の赤外線を照射する光源(図示省略)が設けられている。この光源は、例えば、LED(Light Emitting Diode)により構成される。
撮像装置2は、撮像した画像(以下「撮像画像」という。)を、眠気推定装置1に出力する。
眠気推定装置1は、センシング部11、第一ノイズ要因検知部12、特徴量算出部13、眠気スコア算出部14、および、眠気推定部15を備える。
特徴量算出部13は、センシング結果選択部131を備える。
センシング部11は、ドライバの顔を撮像した撮像画像に基づき、ドライバの眠気に関連する状態を示す情報(以下「眠気関連情報」という。)を取得する。なお、センシング部11は、撮像画像を、撮像装置2から、フレーム単位で取得する。センシング部11は、フレーム毎に、眠気関連情報を取得する。
実施の形態1において、センシング部11が行う、眠気関連情報を取得する処理を、「センシング処理」という。
ドライバの眠気に関連する状態とは、ドライバの目がどれぐらい開いているか(言い換えれば、開瞼度)、ドライバの口がどれぐらい開いているか(言い換えれば、開口度)、ドライバの顔の特徴点の位置、ドライバの視線方向、ドライバの顔向き、ドライバの頭位置等である。顔の特徴点とは、目尻、目頭、目の外周上の点等であり、ドライバの顔の特徴点の位置は、例えば、撮像画像上の座標で示される。ドライバの顔向きは、例えば、ドライバが車両の進行方向に対して正面を向いているときを基準(0度)とした角度であらわされる。ドライバの頭位置は、実空間上の座標であらわされる。撮像装置2の設置位置および画角は予めわかっているので、センシング部11は、撮像画像から、ドライバの顔向き、および、頭位置を算出できる。
なお、実施の形態1において、どのような状態をドライバの眠気に関連する状態とするかは、予め、管理者等によって決められている。
センシング部11は、公知の画像認識技術を用いてドライバの眠気に関連する状態を検知し、眠気関連情報を取得すればよい。
センシング部11は、取得した眠気関連情報を、第一ノイズ要因検知部12に出力する。このとき、センシング部11は、例えば、眠気関連情報に、当該眠気関連情報を取得する元となった撮像画像のフレームを対応付けて、第一ノイズ要因検知部12に出力してもよい。以下の説明において、センシング部11が第一ノイズ要因検知部12に出力する、眠気関連情報、または、眠気関連情報と当該眠気関連情報の取得元となった撮像画像のフレームとが対応付けられた情報を、「センシング結果」ともいう。なお、撮像画像の各フレームには、撮像日時を示す情報が付与されているものとする。
第一ノイズ要因検知部12は、センシング部11が取得した眠気関連情報に基づき、ドライバによる、眠気に起因する行動と類似する、目の動きを伴う行動(以下「ノイズ要因行動」という。)を検知する。
実施の形態1において、第一ノイズ要因検知部12が行う、ノイズ要因を検知する処理を、「第一ノイズ要因検知処理」という。
ノイズ要因行動の一例として、例えば、下方を見る行動(いわゆる下方視)、または、目を細める行動が挙げられる。
例えば、ドライバは、メータを見る際、下方視となる可能性がある。
また、例えば、ドライバは、太陽光がまぶしい場合、いわゆる「しかめ顔」をする可能性がある。実施の形態1では、いわゆるしかめ顔を「我慢顔」ともいう。人は、一般に、「我慢顔」をするとき、目を細める。また、例えば、人は、一般に、笑顔になった場合、目を細める。
一方、人は、眠気を催した場合、目を閉じようと瞼で目を覆う、または、眠気をなくそうと目を瞑る。瞼で目が覆われると、または、目が瞑られると、目は細くなる。
このように、上述したような、いわゆる下方視をする行動、我慢顔をする行動、または、笑顔になる行動は、眠気に起因する、瞼で目を覆う、または、目を瞑る等の行動、と類似したノイズ要因行動であると言える。
第一ノイズ要因検知部12は、このようなノイズ要因行動を検知する。
なお、どのような行動をノイズ要因行動とするかは、予め、管理者等によって決められている。
例えば、ノイズ要因行動が目を細める行動である場合、第一ノイズ要因検知部12は、眠気関連情報に基づき、ドライバの開瞼度が予め設定された閾値(以下「開瞼度判定用閾値」という。)以下である場合、ドライバによるノイズ要因行動があったと検知する。
第一ノイズ要因検知部12は、例えば、時系列の眠気関連情報に基づき、ドライバの開瞼度が直前の眠気関連情報に基づく開瞼度と比較して予め設定された閾値(以下「開瞼度差分判定用閾値」という。)以上小さくなった場合に、ドライバによるノイズ要因行動があったと検知してもよい。第一ノイズ要因検知部12は、センシング部11から取得したセンシング結果を、時系列で図示しない記憶部に記憶させている。第一ノイズ要因検知部12は、記憶部に記憶させているセンシング結果に基づけば、直前の眠気関連情報を特定できる。記憶部は、眠気推定装置1が参照可能な場所に備えられている。
開瞼度判定用閾値および開瞼度差分判定用閾値は、管理者等によって、適宜、設定され、記憶部に記憶されている。
なお、この場合、眠気関連情報は、少なくともドライバの開瞼度を含む。
また、例えば、第一ノイズ要因検知部12は、予め「我慢顔」を学習済みのモデル(以下「機械学習モデル」という。)を用いて、ドライバによるノイズ要因行動があったことを検知してもよい。第一ノイズ要因検知部12がドライバによるノイズ要因行動の検知に用いる機械学習モデルを、「第一機械学習モデル」ともいう。第一機械学習モデルは、SVM(Support Vector Machine)、ランダムフォレスト、LightGBM(Light Gradient Boosting Machine)、または、畳み込みニューラルネットワーク等の機械学習モデルである。
第一機械学習モデルは、画像上の人の顔の特徴点の位置を示す情報を入力として、当該人が我慢顔をしているか否かを示す情報を出力するモデルである。第一機械学習モデルは、予め生成され、記憶部に記憶されている。
第一ノイズ要因検知部12は、眠気関連情報を第一機械学習モデルに入力して、我慢顔をしているか否かを示す情報を得ることで、ドライバが我慢顔をしていることを検知する。
なお、この場合、眠気関連情報は、少なくとも撮像画像上のドライバの顔の特徴点の位置情報を含む。
また、例えば、ノイズ要因行動が下方視をする行動である場合、第一ノイズ要因検知部12は、眠気関連情報に基づき、ドライバの視線方向が予め設定された閾値(以下「視線方向判定用閾値」という。)以下である場合、ドライバによるノイズ要因行動があったと検知する。
第一ノイズ要因検知部12は、例えば、時系列の眠気関連情報に基づき、ドライバの視線方向が予め設定された期間(以下「下方視判定用期間」という。)で予め設定された角度(以下「下方視判定用角度」という。)以上、下方に変化した場合、ドライバによるノイズ要因行動があったと検知してもよい。
視線方向判定用閾値、下方視判定用期間、および、下方視判定用角度は、管理者等によって、撮像装置2の設置位置および画角等に応じて、適宜、設定され、記憶部に記憶されている。
なお、この場合、眠気関連情報は、少なくともドライバの視線方向を含む。
第一ノイズ要因検知部12は、ドライバによるノイズ要因行動があったことを検知した場合、検知したノイズ要因行動に関する情報(以下「ノイズ要因行動情報」という。)を、センシング部11から取得したセンシング結果とともに、特徴量算出部13に出力する。
ノイズ要因行動情報は、第一ノイズ要因検知部12がノイズ要因行動を検知した旨の情報と、第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報とを含む。ノイズ要因行動情報は、さらに、第一ノイズ要因検知部12が検知したノイズ要因行動の種類(下方視、目を細める等)を特定可能な情報を含んでいてもよい。
特徴量算出部13は、センシング部11が取得した眠気関連情報から第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報を除外した後の眠気関連情報(以下「ノイズ要因除去後眠気関連情報」という。)に基づき、ドライバの眠気を推定するための特徴量(以下「眠気推定用特徴量」という。)を算出する。
実施の形態1において、特徴量算出部13が行う、眠気推定用特徴量を算出する処理を、「特徴量算出処理」という。
特徴量算出部13による、眠気推定用特徴量の算出について、詳細に説明する。
まず、特徴量算出部13が備えているセンシング結果選択部131は、第一ノイズ要因検知部12が検知したノイズ要因行動に関するノイズ要因行動情報に基づき、センシング部11が取得した眠気関連情報のうち、眠気推定用特徴量の算出にあたり除外対象となる眠気関連情報に、除外対象フラグを付与する。
例えば、第一ノイズ要因検知部12が、目を細める行動であるノイズ要因行動を検知したとする。この場合、センシング結果選択部131は、センシング結果に含まれている眠気関連情報のうち、第一ノイズ要因検知部12が上記ノイズ要因行動を検知する元となった眠気関連情報を、除外対象の眠気関連情報とする。そして、センシング結果選択部131は、センシング結果において、除外対象の眠気関連情報に除外対象フラグを付与する。
上述のとおり、第一ノイズ要因検知部12は、センシング部11から取得したセンシング結果を、ノイズ要因行動情報とともに、特徴量算出部13に出力する。よって、センシング結果選択部131は、除外対象の眠気関連情報を、第一ノイズ要因検知部12から出力されるノイズ要因行動情報およびセンシング結果から特定できる。
センシング結果選択部131は、第一ノイズ要因検知部12から出力されたセンシング結果について、当該センシング結果に含まれる眠気関連情報が除外対象の眠気関連情報であればその眠気関連情報には除外対象フラグを付与する。そして、センシング結果選択部131は、除外対象の眠気関連情報には除外対象フラグを付与した後のセンシング結果を、特徴量算出部13に出力する。
次に、特徴量算出部13は、センシング結果選択部131から出力されたセンシング結果に基づき、センシング部11が取得した眠気関連情報から、センシング結果選択部131が除外対象フラグを付与した除外対象の眠気関連情報を除外することで、センシング部11が取得した眠気関連情報から第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報を除外した後の眠気関連情報、すなわち、ノイズ要因除去後眠気関連情報、を特定する。
そして、特徴量算出部13は、特定したノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出する。
つまり、特徴量算出部13は、センシング部11から第一ノイズ要因検知部12を介して取得した眠気関連情報のうち、除外対象フラグが付与されていない眠気関連情報、に基づき、眠気推定用特徴量を算出する。
眠気推定用特徴量は、例えば、開瞼度、開口度、ドライバの顔向き、ドライバの頭位置、ドライバの視線方向き、ドライバのPERCLOS(Percent of the time eyelids are closed。単位時間あたりの閉眼時間割合)、ドライバの瞬き回数、または、ドライバの瞬き速度を含む。
特徴量算出部13は、ノイズ要因除去後眠気関連情報に基づき、上述したような眠気推定用特徴量を算出する。
なお、眠気推定用特徴量が、PERCLOS、瞬き回数、または、瞬き速度等、過去のドライバの状態の経緯から判定する必要がある特徴量である場合、特徴量算出部13は、例えば、センシング結果選択部131から出力されたセンシング結果を記憶しておき、記憶しておいた、センシング結果に基づき、過去の予め設定された数分の眠気関連情報に基づき、眠気推定用特徴量を算出する。
特徴量算出部13は、例えば、記憶しておいた、過去の予め設定された期間(以下「特徴量算出対象期間」という。)に取得したノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出してもよい。
例えば、特徴量算出対象期間が3分であったとすると、特徴量算出部13は、現在から遡って過去3分間に取得されたノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出する。
ノイズ要因除去後眠気関連情報において、撮像装置2から取得された撮像画像に基づいて取得された眠気関連情報のうち、除外対象の眠気関連情報は除外されている。詳細には、撮像装置2に基づいてセンシング部11によって取得された眠気関連情報のうち、第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報は除外されている。すなわち、特徴量算出部13は、ノイズ要因行動をとっているドライバが撮像されている撮像画像のフレームに基づき取得された眠気関連情報を、眠気推定用特徴量の算出に用いない。より詳細には、特徴量算出部13は、ノイズ要因行動をとっているドライバが撮像されている撮像画像のフレームに基づき取得された眠気関連情報を、眠気推定用特徴量の算出に用いない。
特徴量算出部13は、眠気関連情報、より詳細には、ノイズ要因除去後眠気関連情報と、算出した眠気推定用特徴量とを対応付けた情報(以下「特徴量情報」という。)を、眠気スコア算出部14に出力する。
なお、ここでは、上述したように、センシング結果選択部131が、センシング部11が取得した眠気関連情報に除外対象フラグを付与し、特徴量算出部13が、除外対象フラグに基づいてノイズ要因除去後眠気関連情報を特定して、特定したノイズ要因除去後眠気関連情報から眠気推定用特徴量を算出するものとした。
しかし、これは一例に過ぎず、特徴量算出部13は、その他の方法で、眠気推定用特徴量を算出してもよい。
例えば、センシング結果選択部131は、第一ノイズ要因検知部12が検知したノイズ要因行動に関するノイズ要因行動情報に基づき、除外対象の眠気関連情報を特定すると、センシング結果に含まれている、センシング部11が取得した眠気関連情報のうちから、特定した除外対象の眠気関連情報を除外し、除外した後の眠気関連情報を、ノイズ要因除去後眠気関連情報として選択する。
センシング結果選択部131は、ノイズ要因除去後眠気関連情報を選択すると、選択したノイズ要因除去後眠気関連情報を含むセンシング結果(以下「ノイズ除去後センシング結果」という。)を、特徴量算出部13に出力する。
特徴量算出部13は、センシング結果選択部131から出力されたノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出する。
つまり、特徴量算出部13は、センシング部11から第一ノイズ要因検知部12を介して取得した眠気関連情報のうち、ノイズ除去後センシング結果に含まれている、センシング結果選択部131によって選択された眠気関連情報、に基づき、眠気推定用特徴量を算出する。
特徴量算出部13は、このように、眠気推定用特徴量を算出してもよい。
眠気スコア算出部14は、特徴量算出部13が算出した眠気推定用特徴量を用いて眠気スコアを算出する。眠気スコア算出部14は、特徴量算出部13から出力された特徴量情報から、特徴量算出部13が算出した眠気推定用特徴量を特定できる。
眠気スコア算出部14が算出する眠気スコアは、ドライバの眠気推定に用いられる、ドライバの眠気の度合いを示すスコアである。実施の形態1では、一例として、眠気スコアは「0」~「100」であらわされ、眠気スコアが大きいほど、ドライバの眠気の度合いが高いことを示すものとする。なお、眠気スコアを用いたドライバの眠気の推定は、眠気推定部15が行う。
実施の形態1において、眠気スコア算出部14が行う、眠気スコアを算出する処理を、「眠気スコア算出処理」という。
眠気スコア算出部14は、例えば、予め眠気スコアを学習済みの機械学習モデルを用いて、眠気スコアを算出する。
眠気スコア算出部14が眠気スコアの算出に用いる機械学習モデルを、「第二機械学習モデル」ともいう。第二機械学習モデルは、SVM(Support Vector Machine)、ランダムフォレスト、LightGBM(Light Gradient Boosting Machine)、または、畳み込みニューラルネットワーク等の機械学習モデルである。
第二機械学習モデルは、例えば、眠気推定用特徴量を入力とし、眠気スコアを出力する。第二機械学習モデルは予め生成され、記憶部等、眠気スコア算出部14が参照可能な場所に記憶されている。
眠気スコア算出部14は、第二機械学習モデルに眠気推定用特徴量を入力して眠気スコアを得ることで、眠気スコアを算出する。
眠気スコア算出部14は、例えば、予め設定されている、眠気スコアを算出するためのルール(以下「眠気スコア算出用ルール」という。)に基づいて、眠気スコアを算出してもよい。
眠気スコア算出用ルールは、予め、管理者等によって生成され、記憶部等、眠気スコア算出部14が参照可能な場所に記憶されている。
眠気スコア算出用ルールには、例えば、「過去3分間の瞬き回数が20回以上であれば眠気スコア「60」とする」等、設定された期間における瞬き回数に応じた眠気スコアの算出ルールが設定されている。
眠気スコア算出部14は、算出したドライバの眠気スコアを、眠気推定部15に出力する。
眠気推定部15は、眠気スコア算出部14が算出した眠気スコアに基づき、ドライバの眠気を推定する。
眠気推定部15が推定するドライバの眠気は、例えば、「覚醒」、「弱い眠気」、および、「強い眠気」のような、複数の状態であらわされてもよいし、「眠気あり」か「眠気なし」かの二値であらわされてもよいし、眠気の度合いを示す連続値であってもよい。
実施の形態1において、眠気推定部15が行う、ドライバの眠気を推定する処理を、「眠気推定処理」という。
眠気推定部15は、例えば、予め眠気を学習済みの機械学習モデルを用いて、ドライバの眠気を推定する。
眠気推定部15がドライバの眠気の推定に用いる機械学習モデルを、「第三機械学習モデル」ともいう。第三機械学習モデルは、SVM(Support Vector Machine)、ランダムフォレスト、LightGBM(Light Gradient Boosting Machine)、または、畳み込みニューラルネットワーク等の機械学習モデルである。
第三機械学習モデルは、例えば、眠気スコアを入力とし、眠気を示す情報を出力する。眠気を示す情報は、例えば、ドライバの眠気の複数の状態を示す情報、「眠気あり」か「眠気なし」かを示す情報、または、眠気の度合いを示す連続値である。
第三機械学習モデルは予め生成され、記憶部等、眠気推定部15が参照可能な場所に記憶されている。
眠気推定部15は、第三機械学習モデルに眠気スコアを入力して眠気を示す情報を得ることで、ドライバの眠気を推定する。
眠気推定部15は、例えば、予め設定されている、ドライバの眠気を推定するためのルール(以下「眠気推定用ルール」という。)に基づいて、ドライバの眠気を推定してもよい。
眠気推定用ルールは、予め、管理者等によって生成され、記憶部等、眠気推定部15が参照可能な場所に記憶されている。
眠気推定用ルールには、例えば、「眠気スコアが「0」~「50」であれば「覚醒」、眠気スコアが「50」~「60」であれば「弱い眠気」、眠気スコアが「60」以上であれば「強い眠気」とする」というような、眠気スコアの範囲とドライバの眠気の複数の状態を示す情報と対応付けられた条件、「眠気スコアが「60」以上であれば「眠気あり」、眠気スコアが「60」未満であれば「眠気なし」とする」というような条件、または、眠気スコアに基づく眠気の度合いの算出式が設定されている。
眠気推定部15は、ドライバの眠気の推定結果(以下「眠気推定結果」という。)を、眠気推定装置1の外部の装置(図示省略)に出力する。
例えば、眠気推定部15は、眠気推定結果を、車両に搭載されている警報装置に出力する。警報装置は、眠気推定結果が、ドライバが眠気を催していることを示している場合、警報を出力する。
例えば、眠気推定部15は、記憶部に眠気推定結果を記憶させてもよい。
実施の形態1に係る眠気推定装置1の動作について説明する。
図2は、実施の形態1に係る眠気推定装置1の動作について説明するためのフローチャートである。
眠気推定装置1は、例えば、車両の電源がオンにされ、撮像装置2から撮像画像が出力されると、車両の電源がオフにされるまで、図2のフローチャートで示す動作を繰り返す。
センシング部11は、撮像装置2からドライバの顔を撮像した撮像画像を取得し、取得した撮像画像に基づき、眠気関連情報を取得するセンシング処理を行う(ステップST10)。
センシング部11は、センシング結果を第一ノイズ要因検知部12に出力する。
第一ノイズ要因検知部12は、ステップST10にてセンシング部11が取得した眠気関連情報に基づき、ドライバによる、眠気に起因する行動と類似するノイズ要因行動を検知する第一ノイズ要因検知処理を行う(ステップST20)。
第一ノイズ要因検知部12は、ドライバによるノイズ要因行動があったことを検知した場合、ノイズ要因行動情報を、センシング部11から取得したセンシング結果とともに、特徴量算出部13に出力する。
なお、第一ノイズ要因検知部12は、ドライバによるノイズ要因行動があったことを検知しなかった場合は、ノイズ要因行動があったことを検知しなかった旨の情報を特徴量算出部13に出力してもよいし、特徴量算出部13に対して何も出力しないようにしてもよい。
特徴量算出部13は、ステップST10にてセンシング部11が取得した眠気関連情報から、ステップST20にて第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報に基づいて、眠気推定用特徴量、を算出する特徴量算出処理を行う(ステップST30)。より詳細には、特徴量算出部13は、センシング部11が取得した眠気関連情報から、第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、眠気推定用特徴量を算出する特徴量算出処理を行う。
特徴量算出部13は、特徴量情報を、眠気スコア算出部14に出力する。
眠気スコア算出部14は、ステップST30にて特徴量算出部13が算出した眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出処理を行う(ステップST40)。
眠気スコア算出部14は、算出したドライバの眠気スコアを、眠気推定部15に出力する。
眠気推定部15は、ステップST40にて眠気スコア算出部14が算出した眠気スコアに基づき、ドライバの眠気を推定する眠気推定処理を行う(ステップST50)。
眠気推定部15は、ドライバの眠気推定結果を出力する。
図3は、図2のステップST30の処理の詳細の一例について説明するためのフローチャートである。
より詳細には、図3は、実施の形態1において、特徴量算出部13が、センシング結果選択部131が除外対象の眠気関連情報に付与した除外対象フラグに基づいてノイズ要因除去後眠気関連情報を特定して、特定したノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出するようにした場合の特徴量算出処理の詳細を説明するためのフローチャートである。
センシング結果選択部131は、第一ノイズ要因検知部12が検知したノイズ要因行動に関するノイズ要因行動情報に基づき、センシング部11が取得した眠気関連情報のうち、眠気推定用特徴量の算出にあたり除外対象となる眠気関連情報に、除外対象フラグを付与する(ステップST301)。
センシング結果選択部131は、除外対象の眠気関連情報には除外対象フラグを付与した後のセンシング結果を、特徴量算出部13に出力する。
特徴量算出部13は、ステップST301にてセンシング結果選択部131から出力されたセンシング結果に基づき、センシング部11が取得した眠気関連情報から、センシング結果選択部131が除外対象フラグを付与した除外対象の眠気関連情報を除外することで、ノイズ要因除去後眠気関連情報を特定する(ステップST302)。
そして、特徴量算出部13は、ステップST302にて特定したノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出する(ステップST303)。
特徴量算出部13は、特徴量情報を、眠気スコア算出部14に出力する。
図4は、図2のステップST30の処理の詳細のその他の一例について説明するためのフローチャートである。
より詳細には、図4は、実施の形態1において、特徴量算出部13が、センシング結果選択部131から出力されたノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出するようにした場合の特徴量算出処理の詳細を説明するためのフローチャートである。
センシング結果選択部131は、第一ノイズ要因検知部12が検知したノイズ要因行動に関するノイズ要因行動情報に基づき、除外対象の眠気関連情報を特定すると、センシング結果に含まれている、センシング部11が取得した眠気関連情報のうちから、特定した除外対象の眠気関連情報を除外し、除外した後の眠気関連情報を、ノイズ要因除去後眠気関連情報として選択する(ステップST311)。
センシング結果選択部131は、ノイズ要因除去後眠気関連情報を選択すると、ノイズ除去後センシング結果を、特徴量算出部13に出力する。
特徴量算出部13は、ステップST311にてセンシング結果選択部131から出力されたノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出する(ステップST312)。
特徴量算出部13は、特徴量情報を、眠気スコア算出部14に出力する。
このように、眠気推定装置1は、ドライバの顔を撮像した撮像画像のフレームに基づき、フレーム毎に眠気関連情報を取得し、取得した眠気関連情報に基づき、ドライバによる、眠気に起因する行動と類似するノイズ要因行動、を検知する。眠気推定装置1は、取得した眠気関連情報からノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、眠気推定用特徴量を算出する。そして、眠気推定装置1は、眠気推定用特徴量を用いて眠気スコアを算出し、算出した眠気スコアに基づき、ドライバの眠気を推定する。
人の行動には、いわゆる下方視をする、いわゆるしかめ顔をする、または、笑顔になる等、眠気が発生した際の特徴と類似する特徴がみられる行動、言い換えれば、ノイズ要因行動がある。
従来技術では、ドライバの眠気を推定する際、ドライバが上述したようなノイズ要因行動をとっている場合、ドライバの眠気の推定精度が低下する可能性がある。より詳細には、従来技術では、ドライバの眠気を推定する際、ノイズ要因行動をとっているドライバの顔の情報、すなわち、ドライバの顔が撮像された撮像画像、に基づいて算出された特徴量がノイズとなり、ドライバの眠気の推定精度が低下する可能性がある。
これに対し、眠気推定装置1は、上述のとおり、ノイズ要因除去後眠気関連情報に基づき眠気推定用特徴量を算出し、眠気推定用特徴量を用いて算出した眠気スコアに基づき、ドライバの眠気を推定する。
そのため、眠気推定装置1は、ドライバの眠気を推定するにあたり、ドライバがノイズ要因行動をとっていることにより当該ドライバの眠気の推定精度が低下することを防ぐことができる。より詳細には、眠気推定装置1は、ドライバの眠気を推定するにあたり、ノイズとなる特徴量がドライバの眠気の推定に用いられることによってドライバの眠気の推定精度が低下するのを防ぎ、精度の高い眠気推定を行うことができる。
なお、ドライバの眠気を推定するにあたり、ノイズとなる特徴量は、ノイズ要因行動をとっているドライバの顔が撮像された撮像画像に基づいて算出された特徴量であり、ノイズ要因行動をとっていないドライバの顔が撮像された撮像画像に基づいて算出された特徴量は、精度のよいドライバの眠気推定のためには必要である。
眠気推定装置1は、ドライバが、下方視等のノイズ要因行動をとっていたとしても、当該ノイズ要因行動に起因して算出されるノイズとなる特徴量のみを除去し、ノイズとなる特徴量が除去された後の特徴量を、眠気推定用特徴量として、ドライバの眠気推定を行う。つまり、眠気推定装置1は、ドライバがノイズ要因行動をとっていたとしても、ドライバの眠気推定自体をやめてしまうのではなく、必要な特徴量を用いて眠気推定を行う。これにより、眠気推定装置1は、ドライバの眠気を推定するにあたり、ノイズとなる特徴量がドライバの眠気の推定に用いられることによってドライバの眠気の推定精度が低下するのを防ぎ、精度の高い眠気推定を行うことができる。
図5Aおよび図5Bは、実施の形態1に係る眠気推定装置1のハードウェア構成の一例を示す図である。
実施の形態1において、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15の機能は、処理回路1001により実現される。すなわち、眠気推定装置1は、撮像装置2から取得した撮像画像に基づいて、ドライバがノイズ要因行動をとっていることに起因して算出される特徴量を除いた特徴量を眠気推定用特徴量としてドライバの眠気を推定する制御を行うための処理回路1001を備える。
処理回路1001は、図5Aに示すように専用のハードウェアであっても、図5Bに示すようにメモリに格納されるプログラムを実行するプロセッサ1004であってもよい。
処理回路1001が専用のハードウェアである場合、処理回路1001は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、またはこれらを組み合わせたものが該当する。
処理回路がプロセッサ1004の場合、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15の機能は、ソフトウェア、ファームウェア、または、ソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェアまたはファームウェアは、プログラムとして記述され、メモリ1005に記憶される。プロセッサ1004は、メモリ1005に記憶されたプログラムを読み出して実行することにより、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15の機能を実行する。すなわち、眠気推定装置1は、プロセッサ1004により実行されるときに、上述の図2のステップST10~ステップST50が結果的に実行されることになるプログラムを格納するためのメモリ1005を備える。また、メモリ1005に記憶されたプログラムは、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15の処理の手順または方法をコンピュータに実行させるものであるとも言える。ここで、メモリ1005とは、例えば、RAM、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)等の、不揮発性もしくは揮発性の半導体メモリ、または、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD(Digital Versatile Disc)等が該当する。
なお、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15の機能について、一部を専用のハードウェアで実現し、一部をソフトウェアまたはファームウェアで実現するようにしてもよい。例えば、センシング部11については専用のハードウェアとしての処理回路1001でその機能を実現し、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15についてはプロセッサ1004がメモリ1005に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
また、眠気推定装置1は、撮像装置2等の装置と、有線通信または無線通信を行う入力インタフェース装置1002および出力インタフェース装置1003を備える。
以上の実施の形態1では、眠気推定装置1は、車両に搭載される車載装置とし、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15は、眠気推定装置1に備えられているものとした。
これに限らず、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられるものとして、車載装置とサーバとで眠気推定システムを構成するようにしてもよい。
また、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15が全部サーバに備えられてもよい。
また、以上の実施の形態1では、一例として、対象者は車両のドライバとしたが、これは一例に過ぎない。対象者は車両のドライバ以外の乗員としてもよい。また、対象者は、バス、電車、または、飛行機等、車両以外の移動体の、ドライバを含む乗員としてもよい。実施の形態1に係る眠気推定装置1は、車両以外の移動体の乗員の眠気を推定する眠気推定装置として適用できる。
以上のように、実施の形態1によれば、眠気推定装置1は、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部11と、センシング部11が取得した眠気関連情報に基づき、乗員による、眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部12と、センシング部11が取得した眠気関連情報から第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、乗員の眠気を推定するための眠気推定用特徴量を算出する特徴量算出部13と、特徴量算出部13が算出した眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部14と、眠気スコア算出部14が算出した眠気スコアに基づき、乗員の眠気を推定する眠気推定部15とを備えるように構成した。そのため、眠気推定装置1は、移動体の乗員の眠気を推定するにあたり、乗員が、眠気が発生した際の特徴と類似する特徴がみられる行動をとっていることにより当該乗員の眠気の推定精度が低下することを防ぐことができる。
実施の形態2.
移動体の走行状態の中には、乗員の眠気が発生しづらいと想定される走行状態がある。
仮に、このような走行状態において、乗員が眠気を催していると推定されると、これは誤推定(過推定)である。仮に、誤推定に基づいて警報がなされると、当該警報は過警報であり、乗員に対して煩わしさを与える可能性がある。
実施の形態2では、移動体の走行状態を考慮し、移動体の走行状態から、乗員の眠気が発生しづらいと推定される場合には、当該乗員の眠気が過推定されないよう、乗員の眠気の推定結果を補正する実施の形態について説明する。
なお、以下の実施の形態2でも、対象者は車両のドライバを想定している。
図6は、実施の形態2に係る眠気推定装置1aの構成例を示す図である。
実施の形態2に係る眠気推定装置1aは、撮像装置2に加え、車両情報取得装置3と接続されている。
車両情報取得装置3は、車両に関連する情報(以下「車両情報」という。)を、眠気推定装置1aに出力する。
車両情報は、車両の速度情報、車両にてウィンカーが使用されているか否か、言い換えれば、ウィンカーが作動しているか否かを示す情報、ブレーキの踏み込み量を示す情報、ハンドル舵角の情報、アクセル開度を示す情報等を含む。
車両情報取得装置3は、例えば、車両の速度を検知する車速センサ、ウィンカーの作動状況を検知するウィンカーセンサ、ブレーキの踏み込み量を検知するブレーキセンサ、ハンドル舵角を検知する舵角センサ、および、アクセル開度を検知するアクセルセンサを含む。
なお、図6では、眠気推定装置1aには車両情報取得装置3が1つ接続されるものとしているが、これは一例に過ぎず、眠気推定装置1aには複数の車両情報取得装置3が接続され得る。
実施の形態2に係る眠気推定装置1aの構成について、実施の形態1にて図1を用いて説明した眠気推定装置1と同じ構成には、同じ符号を付して重複した説明を省略する。
実施の形態2に係る眠気推定装置1aは、実施の形態1に係る眠気推定装置1とは、第二ノイズ要因検知部16およびスコア補正部17を備えた点が異なる。
第二ノイズ要因検知部16は、車両情報取得装置3から車両情報を取得し、取得した車両情報に基づき、ドライバに対し眠気を発生させにくいと想定される車両の走行状態(以下「ノイズ要因走行状態」という。)を検知する。
実施の形態2において、第二ノイズ要因検知部16が行う、ノイズ要因走行状態を検知する処理を、「第二ノイズ要因検知処理」という。
ノイズ要因走行状態の一例として、例えば、車両が低速走行をしている状態、車両の走行中におけるウィンカー使用頻度が多い状態、車両におけるブレーキの使用頻度が多い状態、または、車両におけるハンドル舵角の変化が大きい状態が挙げられる。
なお、どのような車両の走行状態を、ノイズ要因走行状態とするかは、予め、管理者等によって決められている。
車両が速度を落として低速走行している状態である場合、ウィンカー使用頻度が多い状態である場合、例えば、車両が交差点にさしかかった、または、車線変更をしようとしていると推定される。このような場合、ドライバは、眠気を発生しづらいと想定される。
また、車両においてブレーキの使用頻度が多い状態である場合、例えば、渋滞中であると推定される。
また、車両においてハンドル舵角の変化が多い状態である場合、例えば、車両が駐車場または交差点を走行中でると推定される。
上述したような車両の走行状態においては、ドライバは眠気を発生しづらいと想定される。
管理者等は、事前に、実験を行う等して、このような情報を得ておく。
そして、管理者等は、ドライバが眠気を発生しづらいと想定される、上述したような車両の走行状態を、ノイズ要因走行状態と決定し、ノイズ要因走行状態に関する情報を、記憶部等、ノイズ要因走行状態が参照可能な場所に記憶させておく。
ノイズ要因走行状態に関する情報は、第二ノイズ要因検知部16がノイズ要因走行状態を判定するための情報であり、例えば、車両がノイズ要因走行状態であるとする車両情報の条件が設定されている。車両がノイズ要因走行状態であるとする車両情報の条件とは、例えば、車速が予め設定された閾値以下であること、予め設定された期間におけるウィンカー使用頻度が予め設定された閾値以上であること、予め設定された期間におけるブレーキの使用頻度が予め設定された閾値以上であること、予め設定された期間におけるハンドル舵角の変化量が予め設定された閾値以上でること、である。
なお、第二ノイズ要因検知部16は、車両情報取得装置3から取得した車両情報を、時系列で、記憶部等に記憶させておく。第二ノイズ要因検知部16は、記憶させておいた車両情報に基づけば、ハンドル舵角の変化等、車両の走行状態の変化を判定できる。
第二ノイズ要因検知部16は、車両の走行状態がノイズ要因走行状態であることを検知した場合、検知したノイズ要因走行状態に関する情報(以下「ノイズ要因走行状態情報」という。)を、車両情報取得装置3から取得した車両情報とともに、スコア補正部17に出力する。
ノイズ要因走行状態情報は、第二ノイズ要因検知部16がノイズ要因走行状態を検知した旨の情報を含む。ノイズ要因走行状態情報は、さらに、第二ノイズ要因検知部16が検知したノイズ要因走行状態の種類(低速走行、ウィンカー使用頻度が多い、ブレーキ使用頻度が多い、ハンドル舵角の変化が大きい等)を特定可能な情報を含んでいてもよい。
スコア補正部17は、第二ノイズ要因検知部16がノイズ要因走行状態を検知した場合、眠気スコア算出部14が算出した眠気スコアを補正する。
なお、実施の形態2において、眠気スコア算出部14は、算出したドライバの眠気スコアを、スコア補正部17に出力する。
スコア補正部17は、予め決められたルール(以下「スコア補正ルール」という。)に従って、眠気スコアを補正する。
スコア補正ルールは、管理者等によって予め設定され、記憶部等、スコア補正部17が参照可能な場所に記憶されている。
実施の形態2において、スコア補正部17が行う、眠気スコアを補正する処理を、「眠気スコア補正処理」という。
実施の形態2における、スコア補正部17による眠気スコアの補正の具体例を説明する。
例えば、スコア補正ルールには、「ノイズ要因走行状態が検知された場合、眠気スコアを0.5倍する」とのルールが設定されているとする。
また、例えば、今、眠気スコア算出部14が算出した眠気スコアが「90」であったとする。また、例えば、今、第二ノイズ要因検知部16は、予め設定された期間におけるウィンカー使用頻度が予め設定された閾値以上であったため、ウィンカー使用頻度が多いノイズ要因走行状態であると検知したとする。
なお、ウィンカー使用頻度が多い走行状態であるとき、車両は、例えば、車線変更を頻繁に行っている場合が考えられる。このような車両の走行状態がノイズ要因走行状態として検知された場合、ドライバは眠気を発生しづらい状態であると想定される。にもかかわらず、眠気スコア算出部14が「90」という高い眠気スコアを算出したということは、例えば、車線変更を頻繁に行う際にドライバが左右確認を行い、これが閉眼の動作(すなわち、眠気発生時の動作)とみなされた等、ドライバの何等かの挙動により、特徴量算出部13によって、眠気スコアが高く算出され得る特徴量が算出された可能性が考えられる。つまり、眠気スコア算出部14が算出した眠気スコアは誤りである可能性がある。
この場合、スコア補正部17は、眠気スコアを「45」と補正する。
例えば、眠気推定部15は、眠気スコアが「50」を超えた場合、「眠気あり」と推定すると決められているとする。この場合、眠気スコアが「90」であると、眠気推定部15によって「眠気あり」と推定される。そして、例えば、図示しない警報装置は、眠気推定部15による「眠気あり」との眠気推定結果に基づき、警報を出力する。
上述した例において、仮に、スコア補正部17が眠気スコアを補正しなかった場合、ドライバは眠気を催していないと想定されるにもかかわらず、ドライバに対して眠気に対する警報が出力されることになる。
スコア補正部17が、第二ノイズ要因検知部16によってノイズ要因走行状態であると検知された場合に眠気スコアを補正することで、眠気推定部15はドライバの眠気の過推定を防ぐことができ、上述のような、過警報を抑制することができる。
なお、上述した具体例は一例に過ぎない。
スコア補正ルールには、上述した例で挙げた内容とは異なるルールが設定されてもよい。
また、例えば、ノイズ要因走行状態の種類に応じて、眠気スコアを補正する度合いを異ならせるよう、スコア補正ルールが設定されていてもよい。
例えば、スコア補正ルールには、「ウィンカーの使用頻度が多い走行状態であるノイズ要因走行状態が検知された場合、眠気スコアを0.5倍し、低速走行状態であるノイズ要因走行状態が検知された場合、眠気スコアを0.7倍する」とのルールが設定されていてもよい。
スコア補正部17は、補正後の眠気スコア(以下「補正後眠気スコア」という。)を、眠気推定部15に出力する。
眠気推定部15は、補正後眠気スコアに基づき、ドライバの眠気を推定する。
実施の形態2に係る眠気推定装置1aの動作について説明する。
図7は、実施の形態2に係る眠気推定装置1aの動作について説明するためのフローチャートである。
眠気推定装置1aは、例えば、車両の電源がオンにされ、撮像装置2から撮像画像が出力されると、車両の電源がオフにされるまで、図7のフローチャートで示す動作を繰り返す。
図7のステップST10~ステップST40、ステップST50の処理における具体的な動作は、それぞれ、実施の形態1にて説明済みの、図2のステップST10~ステップST40、ステップST50の処理における具体的な動作と同様であるため、同じステップ番号を付して重複した説明を省略する。
第二ノイズ要因検知部16は、車両情報取得装置3から車両情報を取得し、取得した車両情報に基づき、ノイズ要因走行状態を検知する第二ノイズ要因検知処理を行う(ステップST60)。
第二ノイズ要因検知部16は、車両の走行状態がノイズ要因走行状態であることを検知した場合、ノイズ要因走行状態情報を、車両情報取得装置3から取得した車両情報とともに、スコア補正部17に出力する。
なお、第二ノイズ要因検知部16は、車両の走行状態がノイズ要因走行状態であることを検知しなかった場合は、ノイズ要因走行状態であることを検知しなかった旨の情報をスコア補正部17に出力してもよいし、スコア補正部17に対して何も出力しないようにしてもよい。
スコア補正部17は、ステップST60にて第二ノイズ要因検知部16がノイズ要因走行状態を検知した場合、眠気スコア算出部14が算出した眠気スコアを補正する眠気スコア補正処理を行う(ステップST45)。
スコア補正部17は、補正後眠気スコアを眠気推定部15に出力する。
なお、図7のフローチャートでは、ステップST10~ステップST40の処理とステップST60の処理とが並行して行われるものとしているが、これは一例に過ぎない。
例えば、眠気推定装置1aは、ステップST10~ステップST40の処理の後、ステップST60の処理を実行してもよい。
ステップST45の処理が行われるまでに、ステップST10~ステップST40、および、ステップST60の処理が行われていればよい。
このように、眠気推定装置1aは、ドライバの顔を撮像した撮像画像のフレームに基づき、フレーム毎に眠気関連情報を取得し、取得した眠気関連情報に基づき、ドライバによる、眠気に起因する行動と類似するノイズ要因行動、を検知する。眠気推定装置1aは、取得した眠気関連情報からノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出する。そして、眠気推定装置1aは、眠気推定用特徴量を用いて眠気スコアを算出し、算出した眠気スコアに基づき、ドライバの眠気を推定する。
さらに、眠気推定装置1aは、車両情報に基づき、ノイズ要因走行状態を検知した場合は、算出した眠気スコアを補正するようにする。眠気推定装置1aは、眠気スコアを補正した場合は、補正後眠気スコアに基づき、ドライバの眠気を推定する。
そのため、眠気推定装置1aは、ドライバの眠気を推定するにあたり、ドライバがノイズ要因行動をとっていることにより当該ドライバの眠気の推定精度が低下することを防ぐことができるとともに、より詳細には、ドライバの眠気を推定するにあたり、ノイズとなる特徴量がドライバの眠気の推定に用いられることによってドライバの眠気の推定精度が低下するのを防ぎ、精度の高い眠気推定を行うことができるとともに、ドライバの眠気の過推定を防ぐことができる。
実施の形態2に係る眠気推定装置1aのハードウェア構成は、実施の形態1において図5Aおよび図5Bを用いて説明した眠気推定装置1のハードウェア構成と同様であるため、図示を省略する。
実施の形態2において、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17の機能は、処理回路1001により実現される。すなわち、眠気推定装置1aは、撮像装置2から取得した撮像画像に基づいて、ドライバがノイズ要因行動をとっていることに起因して算出される特徴量を除いた特徴量を眠気推定用特徴量としてドライバの眠気を推定する制御を行い、車両情報取得装置3から取得した車両情報に基づいて眠気スコアを補正する制御を行うための処理回路1001を備える。
処理回路1001は、メモリ1005に記憶されたプログラムを読み出して実行することにより、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17の機能を実行する。すなわち、眠気推定装置1aは、処理回路1001により実行されるときに、上述の図7のステップST10~ステップST60が結果的に実行されることになるプログラムを格納するためのメモリ1005を備える。また、メモリ1005に記憶されたプログラムは、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17の手順または方法をコンピュータに実行させるものであるとも言える。
眠気推定装置1aは、撮像装置2および車両情報取得装置3等の装置と、有線通信または無線通信を行う入力インタフェース装置1002および出力インタフェース装置1003を備える。
以上の実施の形態2では、眠気推定装置1aは、車両に搭載される車載装置とし、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17は、眠気推定装置1aに備えられているものとした。
これに限らず、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられるものとして、車載装置とサーバとで眠気推定システムを構成するようにしてもよい。
また、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17が全部サーバに備えられてもよい。
また、以上の実施の形態2では、一例として、対象者は車両のドライバとしたが、これは一例に過ぎない。対象者は車両のドライバ以外の乗員としてもよい。また、対象者は、バス、電車、または、飛行機等、車両以外の移動体の、ドライバを含む乗員としてもよい。実施の形態2に係る眠気推定装置1aは、車両以外の移動体の乗員の眠気を推定する眠気推定装置として適用できる。
以上のように、実施の形態2によれば、眠気推定装置1aは、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部11と、センシング部11が取得した眠気関連情報に基づき、乗員による、眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部12と、センシング部11が取得した眠気関連情報から第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、乗員の眠気を推定するための眠気推定用特徴量を算出する特徴量算出部13と、特徴量算出部13が算出した眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部14と、眠気スコア算出部14が算出した眠気スコアに基づき、乗員の眠気を推定する眠気推定部15とを備えるように構成した。そのため、眠気推定装置1aは、移動体の乗員の眠気を推定するにあたり、乗員が、眠気が発生した際の特徴と類似する特徴がみられる行動をとっていることにより当該乗員の眠気の推定精度が低下することを防ぐことができる。
さらに、眠気推定装置1aは、移動体に関連する移動体情報に基づき、乗員に対し眠気を発生させにくいと想定される移動体の走行状態であるノイズ要因走行状態を検知する第二ノイズ要因検知部16と、第二ノイズ要因検知部16がノイズ要因走行状態を検知した場合、眠気スコア算出部14が算出した眠気スコアを補正するスコア補正部17を備え、眠気推定部15は、スコア補正部17が、眠気スコア算出部14が算出した眠気スコアを補正した場合は、スコア補正部17が補正した後の補正後眠気スコアに基づき、乗員の眠気を推定するように構成した。そのため、眠気推定装置1aは、乗員の眠気の過推定を防ぐことができる。
実施の形態3.
実施の形態2では、眠気推定装置は、車両情報に基づいてノイズ要因走行状態を検知し、ノイズ要因走行状態であることを検知した場合に眠気スコアを補正することで、眠気の誤推定(過推定)を防ぐようにしていた。
一方、眠気の誤推定を招き得る事象として、センシング部の誤動作も考えられ得る。例えば、車両のドライバが、目の挙動が正常であり目を開けて運転している状況において、センシング部によるセンシング処理のミスにより、目を閉じていると誤って検知され、誤った眠気関連情報が取得される可能性がある。仮に、特徴量算出部が当該誤った眠気関連情報に基づいて眠気推定用特徴量を算出した場合、例えば、「眠気あり」を推定され得る眠気推定用特徴量が算出され得る。その結果、眠気推定部は、ドライバの眠気を過推定することになり得る。
実施の形態3では、このようなセンシング部によるセンシング処理のミスの可能性を考慮して、眠気スコアを補正する実施の形態について説明する。
なお、以下の実施の形態3でも、対象者は車両のドライバを想定している。
図8は、実施の形態3に係る眠気推定装置1bの構成例を示す図である。
実施の形態3に係る眠気推定装置1bの構成について、実施の形態1にて図1を用いて説明した眠気推定装置1と同じ構成には、同じ符号を付して重複した説明を省略する。
実施の形態3に係る眠気推定装置1bは、実施の形態1に係る眠気推定装置1とは、第三ノイズ要因検知部18およびスコア補正部17を備えた点が異なる。
第三ノイズ要因検知部18は、センシング部11が取得した眠気関連情報に基づき、センシング部11が乗員の眠気に関連する状態を誤検知したことにより眠気関連情報を誤取得したと推定される事象(以下「ノイズ要因センシング」という。)の発生を検知する。
なお、実施の形態3では、センシング部11は、センシング結果を、第一ノイズ要因検知部12および第三ノイズ要因検知部18に出力する。
実施の形態3において、第三ノイズ要因検知部18が行う、ノイズ要因センシングを検知する処理を、「第三ノイズ要因検知処理」という。
ノイズ要因センシングの一例として、例えば、センシング部11が、ドライバは実際には開眼しているにもかかわらず閉眼している、言い換えれば、開瞼度が低い、と誤検知したことによる、眠気関連情報の誤取得が挙げられる。このような眠気関連情報の誤取得があると、眠気推定部15が眠気関連情報に基づいてドライバの眠気を推定した際、ドライバの眠気の誤推定に繋がるおそれがある。
第三ノイズ要因検知部18は、例えば、センシング部11が取得した時系列の眠気関連情報に基づき、極端に長い連続閉眼と判定され得る眠気関連情報が取得されているか否かによって、上記ノイズ要因センシングが発生しているか否かを検知する。第三ノイズ要因検知部18は、極端に長い連続閉眼と判定され得る眠気関連情報が取得されている場合、上記ノイズ要因センシングが発生していると検知する。
例えば、第三ノイズ要因検知部18は、時系列の眠気関連情報に基づき、閉眼と判定される状態、より詳細には、開瞼度が予め設定された閾値(以下「連続閉眼判定用開瞼度」という。)以下である状態が、予め設定された期間(以下「連続閉眼判定用期間」という。)継続していれば、極端に長い連続閉眼とされ得る眠気関連情報が取得されている、すなわち、ノイズ要因センシングが発生している、と検知する。なお、連続閉眼判定用開瞼度および連続閉眼判定用期間は、予め管理者等によって決められ、第三ノイズ要因検知部18が参照可能な場所に記憶されている。なお、第三ノイズ要因検知部18は、記憶部に記憶されているセンシング結果から、時系列の眠気関連情報を取得すればよい。
また、ノイズ要因センシングのその他の一例として、例えば、センシング部11が、ドライバは実際に開眼しているにもかかわらず閉眼しているとの誤検知と、ドライバは実際に閉眼しているにもかかわらず開眼しているとの誤検知を繰り返したことによる、眠気関連情報の誤取得が挙げられる。このような眠気関連情報の誤取得があると、眠気推定部15が眠気関連情報に基づいてドライバの眠気を推定した際、ドライバの眠気の誤推定に繋がるおそれがある。
第三ノイズ要因検知部18は、例えば、センシング部11が取得した時系列の眠気関連情報に基づき、極端に瞬き回数が多いと判定され得る眠気関連情報が取得されているか否かによって、上記ノイズ要因センシングが発生しているか否かを検知する。第三ノイズ要因検知部18は、極端に瞬き回数が多いと判定され得る眠気関連情報が取得されている場合、上記ノイズ要因センシングが発生していると検知する。
例えば、第三ノイズ要因検知部18は、時系列の眠気関連情報に基づき、公知の瞬き検知方法によって、ドライバの瞬きを検知する。第三ノイズ要因検知部18は、予め設定された期間(以下「瞬き判定用期間」という。)に、予め設定された回数(以下「瞬き回数判定用閾値」という。)以上の瞬きが検知された場合、極端に多い瞬きと判定され得る眠気関連情報が取得されている、すなわち、ノイズ要因センシングが発生している、と検知する。なお、瞬き判定用期間および瞬き回数判定用閾値は、予め管理者等によって決められ、第三ノイズ要因検知部18が参照可能な場所に記憶されている。
なお、上述したような例は一例に過ぎず、第三ノイズ要因検知部18が、センシング部11が取得した眠気関連情報に基づき、ノイズ要因センシングが発生していることを検知するための条件は、予め管理者等によって適宜決定される。
第三ノイズ要因検知部18は、ノイズ要因センシングが発生していることを検知した場合、検知したノイズ要因センシングに関する情報(以下「ノイズ要因センシング情報」という。)を、センシング結果とともに、スコア補正部17に出力する。
ノイズ要因センシング情報は、第三ノイズ要因検知部18が、ノイズ要因センシングが発生していると検知した旨の情報を含む。ノイズ要因センシング情報は、さらに、第三ノイズ要因検知部18が発生していると検知したノイズ要因センシングの種類(極端な連続閉眼、極端に多い瞬き等)を特定可能な情報を含んでいてもよい。
スコア補正部17は、第三ノイズ要因検知部18がノイズ要因センシングを検知した場合、ノイズ要因センシングに基づいて眠気スコア算出部14が算出した眠気スコアを補正する。
なお、実施の形態3において、眠気スコア算出部14は、算出したドライバの眠気スコアを、スコア補正部17に出力する。
スコア補正部17は、予め決められたスコア補正ルールに従って、眠気スコアを補正する。
実施の形態3において、スコア補正部17が行う、眠気スコアを補正する処理を、「眠気スコア補正処理」という。
実施の形態3における、スコア補正部17による眠気スコアの補正の具体例を説明する。
例えば、スコア補正ルールには、「ノイズ要因センシングの発生が検知された場合、眠気スコアを0.5倍する」とのルールが設定されているとする。
また、例えば、今、眠気スコア算出部14が算出した眠気スコアが「90」であったとする。また、例えば、今、第三ノイズ要因検知部18は、センシング部11から取得した眠気関連情報に基づき、開瞼度が連続閉眼判定用開瞼度以下である状態が連続閉眼判定用期間(例えば10秒)継続していたため、極端に長い連続閉眼とされ得る眠気関連情報の取得であるノイズ要因センシングが発生していると検知したとする。
10秒間連続で閉眼することは異常であるが、当該異常な状態であるにもかかわらず、眠気スコア算出部14が「90」という高い眠気スコアを算出したということは、当該異常な状態である連続閉眼の状態が眠気発生時の状態とみなされ、特徴量算出部13によって、眠気スコアが高く算出され得る特徴量が算出された可能性が考えられる。つまり、眠気スコア算出部14が算出した眠気スコアは誤りである可能性がある。
この場合、スコア補正部17は、眠気スコアを「45」と補正する。
例えば、眠気推定部15は、眠気スコアが「50」を超えた場合、「眠気あり」と推定するとする。この場合、眠気スコアが「90」であると、眠気推定部15によって「眠気あり」と推定される。そして、例えば、図示しない警報装置は、眠気推定部15による「眠気あり」との眠気推定結果に基づき、警報を出力する。
上述した例において、仮に、スコア補正部17が眠気スコアを補正しなかった場合、ドライバは眠気を催していないと想定されるにもかかわらず、ドライバに対して眠気に対する警報が出力されることになる。
スコア補正部17が、第三ノイズ要因検知部18によってノイズ要因センシングであると検知された場合に眠気スコアを補正することで、眠気推定部15はドライバの眠気の過推定を防ぐことができ、上述のような、過警報を抑制することができる。
なお、上述した具体例は一例に過ぎない。
スコア補正ルールには、上述した例で挙げた内容とは異なるルールが設定されてもよい。
また、例えば、ノイズ要因センシングの種類に応じて、眠気スコアを補正する度合いを異ならせるよう、スコア補正ルールが設定されていてもよい。
例えば、スコア補正ルールには、「極端に長い連続閉眼とされ得る眠気関連情報の誤取得であるノイズ要因センシングの発生が検知された場合、眠気スコアを0.5倍し、極端に多い瞬き回数とされ得る眠気関連情報の誤取得であるノイズ要因センシングが検知された場合、眠気スコアを0.7倍する」とのルールが設定されていてもよい。
スコア補正部17は、補正後眠気スコアを、眠気推定部15に出力する。
眠気推定部15は、補正後眠気スコアに基づき、ドライバの眠気を推定する。
実施の形態3に係る眠気推定装置1bの動作について説明する。
図9は、実施の形態3に係る眠気推定装置1bの動作について説明するためのフローチャートである。
眠気推定装置1bは、例えば、車両の電源がオンにされ、撮像装置2から撮像画像が出力されると、車両の電源がオフにされるまで、図9のフローチャートで示す動作を繰り返す。
図9のステップST10~ステップST40、ステップST50の処理における具体的な動作は、それぞれ、実施の形態1にて説明済みの、図2のステップST10~ステップST40、ステップST50の処理における具体的な動作と同様であるため、同じステップ番号を付して重複した説明を省略する。
第三ノイズ要因検知部18は、センシング部11から眠気関連情報を取得し、取得した眠気関連情報に基づき、ノイズ要因センシングの発生を検知する第三ノイズ要因検知処理を行う(ステップST70)。
第三ノイズ要因検知部18は、ノイズ要因センシングの発生を検知した場合、ノイズ要因センシング情報を、センシング部11から眠気関連情報とともに、スコア補正部17に出力する。
なお、第三ノイズ要因検知部18は、ノイズ要因センシングの発生を検知しなかった場合は、ノイズ要因センシングの発生を検知しなかった旨の情報をスコア補正部17に出力してもよいし、スコア補正部17に対して何も出力しないようにしてもよい。
スコア補正部17は、ステップST70にて第三ノイズ要因検知部18がノイズ要因センシングを検知した場合、ノイズ要因センシングに基づいて眠気スコア算出部14が算出した眠気スコアを補正する眠気スコア補正処理を行う(ステップST45)。
スコア補正部17は、補正後眠気スコアを眠気推定部15に出力する。
なお、図9のフローチャートでは、ステップST10~ステップST40の処理とステップST70の処理とが並行して行われるものとしているが、これは一例に過ぎない。
例えば、眠気推定装置1bは、ステップST10~ステップST40の処理の後、ステップST70の処理を実行してもよい。
ステップST45の処理が行われるまでに、ステップST10~ステップST40、および、ステップST70の処理が行われていればよい。
このように、眠気推定装置1bは、ドライバの顔を撮像した撮像画像のフレームに基づき、フレーム毎に眠気関連情報を取得し、取得した眠気関連情報に基づき、ドライバによる、眠気に起因する行動と類似するノイズ要因行動、を検知する。眠気推定装置1bは、取得した眠気関連情報からノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき眠気推定用特徴量を算出する。そして、眠気推定装置1bは、眠気推定用特徴量を用いて眠気スコアを算出し、算出した眠気スコアに基づき、ドライバの眠気を推定する。
さらに、眠気推定装置1bは、眠気関連情報に基づき、ノイズ要因センシングの発生を検知した場合は、眠気スコアを補正するようにする。眠気推定装置1bは、眠気スコアを補正した場合は、補正後眠気スコアに基づき、ドライバの眠気を推定する。
そのため、眠気推定装置1bは、ドライバの眠気を推定するにあたり、ドライバがノイズ要因行動をとっていることにより当該ドライバの眠気の推定精度が低下することを防ぐことができるとともに、より詳細には、ドライバの眠気を推定するにあたり、ノイズとなる特徴量がドライバの眠気の推定に用いられることによってドライバの眠気の推定精度が低下するのを防ぎ、精度の高い眠気推定を行うことができるとともに、ドライバの眠気の過推定を防ぐことができる。
実施の形態3に係る眠気推定装置1bのハードウェア構成は、実施の形態1において図5Aおよび図5Bを用いて説明した眠気推定装置1のハードウェア構成と同様であるため、図示を省略する。
実施の形態3において、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18の機能は、処理回路1001により実現される。すなわち、眠気推定装置1bは、撮像装置2から取得した撮像画像に基づいて、ドライバがノイズ要因行動をとっていることに起因して算出される特徴量を除いた特徴量を眠気推定用特徴量としてドライバの眠気を推定する制御を行い、撮像画像に基づき取得した眠気関連情報に基づいて眠気スコアを補正する制御を行うための処理回路1001を備える。
処理回路1001は、メモリ1005に記憶されたプログラムを読み出して実行することにより、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18の機能を実行する。すなわち、眠気推定装置1bは、処理回路1001により実行されるときに、上述の図7のステップST10~ステップST50、ステップST0が結果的に実行されることになるプログラムを格納するためのメモリ1005を備える。また、メモリ1005に記憶されたプログラムは、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18の手順または方法をコンピュータに実行させるものであるとも言える。
眠気推定装置1bは、撮像装置2等の装置と、有線通信または無線通信を行う入力インタフェース装置1002および出力インタフェース装置1003を備える。
以上の実施の形態3では、眠気推定装置1bは、車両に搭載される車載装置とし、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18は、眠気推定装置1bに備えられているものとした。
これに限らず、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられるものとして、車載装置とサーバとで眠気推定システムを構成するようにしてもよい。
また、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18が全部サーバに備えられてもよい。
また、以上の実施の形態3では、一例として、対象者は車両のドライバとしたが、これは一例に過ぎない。対象者は車両のドライバ以外の乗員としてもよい。また、対象者は、バス、電車、または、飛行機等、車両以外の移動体の、ドライバを含む乗員としてもよい。実施の形態に係る眠気推定装置1bは、車両以外の移動体の乗員の眠気を推定する眠気推定装置として適用できる。
以上のように、実施の形態3によれば、眠気推定装置1bは、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部11と、センシング部11が取得した眠気関連情報に基づき、乗員による、眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部12と、センシング部11が取得した眠気関連情報から第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、乗員の眠気を推定するための眠気推定用特徴量を算出する特徴量算出部13と、特徴量算出部13が算出した眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部14と、眠気スコア算出部14が算出した眠気スコアに基づき、乗員の眠気を推定する眠気推定部15とを備えるように構成した。そのため、眠気推定装置1bは、移動体の乗員の眠気を推定するにあたり、乗員が、眠気が発生した際の特徴と類似する特徴がみられる行動をとっていることにより当該乗員の眠気の推定精度が低下することを防ぐことができる。
さらに、眠気推定装置1bは、センシング部11が取得した眠気関連情報に基づき、センシング部11が乗員の眠気に関連する状態を誤検知したことにより眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知する第三ノイズ要因検知部18と、第三ノイズ要因検知部18がノイズ要因センシングの発生を検知した場合、眠気スコア算出部14が算出した眠気スコアを補正するスコア補正部17を備え、眠気推定部15は、スコア補正部17が、眠気スコア算出部14が算出した眠気スコアを補正した場合は、スコア補正部17が補正した後の補正後眠気スコアに基づき、乗員の眠気を推定するように構成した。そのため、眠気推定装置1bは、乗員の眠気の過推定を防ぐことができる。
なお、眠気推定装置の構成は、以上の実施の形態1に係る眠気推定装置1、実施の形態2に係る眠気推定装置1a、および、実施の形態3に係る眠気推定装置1bの構成を組み合わせた構成であってもよい。
図10は、実施の形態1に係る眠気推定装置1、実施の形態2に係る眠気推定装置1a、および、実施の形態3に係る眠気推定装置1bの構成を組み合わせた眠気推定装置1cの構成例を示す図である。
図11は、実施の形態1に係る眠気推定装置1、実施の形態2に係る眠気推定装置1a、および、実施の形態3に係る眠気推定装置1bの構成を組み合わせた眠気推定装置1cの動作を説明するためのフローチャートである。
このように、眠気推定装置1cは、移動体(例えば車両)の乗員(例えばドライバ)の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部11と、センシング部11が取得した眠気関連情報に基づき、乗員によるノイズ要因行動を検知する第一ノイズ要因検知部12と、
センシング部11が取得した眠気関連情報から第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、乗員の眠気を推定するための眠気推定用特徴量を算出する特徴量算出部13と、特徴量算出部13が算出した眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部14と、眠気スコア算出部14が算出した眠気スコアに基づき、乗員の眠気を推定する眠気推定部15に加え、移動体(例えば車両)に関連する移動体情報(車両情報)に基づき、乗員(例えばドライバ)に対し眠気を発生させにくいと想定されるノイズ要因走行状態を検知する第二ノイズ要因検知部16と、センシング部11が取得した眠気関連情報に基づき、センシング部11が乗員の眠気に関連する状態を誤検知したことにより眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知する第三ノイズ要因検知部18と、第二ノイズ要因検知部16がノイズ要因走行状態を検知した場合、または、第三ノイズ要因検知部18がノイズ要因センシングの発生を検知した場合、ノイズ要因走行状態またはノイズ要因センシングの発生に基づいて眠気スコア算出部14が算出した眠気スコアを補正するスコア補正部17を備え、眠気推定部15は、スコア補正部17が補正した後の補正後眠気スコアに基づき、乗員の眠気を推定するように構成することができる。
これにより、眠気推定装置1cは、乗員の眠気を推定するにあたり、乗員がノイズ要因行動をとっていることにより当該乗員の眠気の推定精度が低下することを防ぐことができるとともに、より詳細には、乗員の眠気を推定するにあたり、ノイズとなる特徴量が乗員の眠気の推定に用いられることによって乗員の眠気の推定精度が低下するのを防ぎ、精度の高い眠気推定を行うことができるとともに、乗員の眠気の過推定を防ぐことができる。
なお、眠気推定装置1cにおいて、スコア補正部17が眠気スコアを補正する際に用いるスコア補正ルールには、ノイズ要因走行状態とノイズ要因センシングの発生の両方を考慮したルールが設定される。
例えば、スコア補正ルールには、「ノイズ要因走行状態が検知された場合、眠気スコアを「0.5」倍し、ノイズ要因センシングの発生が検知された場合、眠気スコアを「0.5」倍する。ノイズ要因走行状態とノイズ要因センシングの発生の両方が検知された場合、ノイズ要因走行状態に対応する倍率(すなわち「0.5」)とノイズ要因センシングの発生に対応する倍率(すなわち「0.5」)を積算した値で眠気スコアを補正する」とのルールが設定される。
また、例えば、スコア補正ルールには、「ノイズ要因走行状態が検知された場合、眠気スコアを「0.5」倍し、ノイズ要因センシングの発生が検知された場合、眠気スコアを「0.5」倍する。ノイズ要因走行状態とノイズ要因センシングの発生の両方が検知された場合、ノイズ要因走行状態およびノイズ要因センシングに対して設定された重みに応じて眠気スコアを補正する」とのルールが設定されてもよい。
どのようなノイズ要因走行状態およびノイズ要因センシングであった場合に、それぞれ、どのような重みを付与するかは、予め管理者等によって決められている。
これにより、眠気推定装置1cは、眠気スコアの補正効果をより高めることができる。
また、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
本開示の眠気推定装置は、移動体の乗員の眠気を推定するにあたり、乗員が、眠気が発生した際の特徴と類似する特徴がみられる行動をとっていることにより当該乗員の眠気の推定精度が低下することを防ぐことができる。
1,1a,1b,1c 眠気推定装置、2 撮像装置、3 車両情報取得装置、11 センシング部、12 第一ノイズ要因検知部、13 特徴量算出部、131 センシング結果選択部、14 眠気スコア算出部、15 眠気推定部、16 第二ノイズ要因検知部、17 スコア補正部、18 第三ノイズ要因検知部、1001 処理回路、1002 入力インタフェース装置、1003 出力インタフェース装置、1004 プロセッサ、1005 メモリ。

Claims (14)

  1. 移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部と、
    前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部と、
    前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出する特徴量算出部と、
    前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部と、
    前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定する眠気推定部
    とを備え、
    前記ノイズ要因行動は、下方視を含み、
    前記第一ノイズ要因検知部は、時系列の前記眠気関連情報に基づき、前記乗員の視線方向が下方視判定用期間で下方視判定用角度以上、下方に変化した場合に前記乗員による前記下方視があったと検知する
    ことを特徴とする眠気推定装置。
  2. 移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部と、
    前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部と、
    前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出する特徴量算出部と、
    前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部と、
    前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定する眠気推定部と、
    前記移動体に関連する移動体情報に基づき、前記乗員に対し前記眠気を発生させにくいと想定される前記移動体の走行状態であるノイズ要因走行状態を検知する第二ノイズ要因検知部と、
    前記第二ノイズ要因検知部が前記ノイズ要因走行状態を検知した場合、前記眠気スコア算出部が算出した前記眠気スコアを補正するスコア補正部を備え、
    前記眠気推定部は、前記スコア補正部が、前記眠気スコア算出部が算出した前記眠気スコアを補正した場合は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定する
    ことを特徴とする眠気推定装置。
  3. 前記ノイズ要因走行状態は、前記移動体が低速走行をしている状態、前記移動体の走行中におけるウィンカー使用頻度が多い状態、前記移動体におけるブレーキの使用頻度が多い状態、または、前記移動体におけるハンドル舵角の変化が大きい状態を含む
    ことを特徴とする請求項記載の眠気推定装置。
  4. 移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部と、
    前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部と、
    前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出する特徴量算出部と、
    前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部と、
    前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定する眠気推定部と、
    前記センシング部が取得した前記眠気関連情報に基づき、前記センシング部が前記乗員の前記眠気に関連する状態を誤検知したことにより前記眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知する第三ノイズ要因検知部と、
    前記第三ノイズ要因検知部が前記ノイズ要因センシングの発生を検知した場合、前記眠気スコア算出部が算出した前記眠気スコアを補正するスコア補正部を備え、
    前記眠気推定部は、前記スコア補正部が、前記眠気スコア算出部が算出した前記眠気スコアを補正した場合は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定する
    ことを特徴とする眠気推定装置。
  5. 前記第三ノイズ要因検知部は、前記センシング部によって、長い連続閉眼の状態であると判定され得る前記眠気関連情報が取得されている場合、または、瞬き回数が多いと判定され得る前記眠気関連情報が取得されている場合、前記ノイズ要因センシングが発生したと検知する
    ことを特徴とする請求項記載の眠気推定装置。
  6. 移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部と、
    前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部と、
    前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出する特徴量算出部と、
    前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部と、
    前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定する眠気推定部と、
    前記移動体に関連する移動体情報に基づき、前記乗員に対し前記眠気を発生させにくいと想定される前記移動体の走行状態であるノイズ要因走行状態を検知する第二ノイズ要因検知部と、
    前記センシング部が取得した前記眠気関連情報に基づき、前記センシング部が前記乗員の前記眠気に関連する状態を誤検知したことにより前記眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知する第三ノイズ要因検知部と、
    前記第二ノイズ要因検知部が前記ノイズ要因走行状態を検知した場合、または、前記第三ノイズ要因検知部が前記ノイズ要因センシングの発生を検知した場合、前記ノイズ要因走行状態または前記ノイズ要因センシングの発生に基づいて前記眠気スコア算出部が算出した前記眠気スコアを補正するスコア補正部を備え、
    前記眠気推定部は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定する
    ことを特徴とする眠気推定装置。
  7. 前記スコア補正部は、
    前記第二ノイズ要因検知部が前記ノイズ要因走行状態を検知し、かつ、前記第三ノイズ要因検知部が前記ノイズ要因センシングの発生を検知した場合、前記ノイズ要因走行状態および前記ノイズ要因センシングに対して設定された重みに応じて前記眠気スコアを補正する
    ことを特徴とする請求項記載の眠気推定装置。
  8. 前記特徴量算出部は、
    前記第一ノイズ要因検知部が検知した前記ノイズ要因行動に関するノイズ要因行動情報に基づき、前記センシング部が取得した前記眠気関連情報のうち、前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を、前記眠気推定用特徴量の算出にあたり除外対象となる前記眠気関連情報として、当該眠気関連情報に除外対象フラグを付与するセンシング結果選択部を備え、
    前記センシング部が取得した前記眠気関連情報から前記センシング結果選択部が前記除外対象フラグを付与した前記眠気関連情報を除外することで前記ノイズ要因除去後眠気関連情報を特定し、特定した前記ノイズ要因除去後眠気関連情報に基づき、前記眠気推定用特徴量を算出する
    ことを特徴とする請求項1、請求項2、請求項4、または、請求項6のうちのいずれか1項記載の眠気推定装置。
  9. 前記特徴量算出部は、
    前記第一ノイズ要因検知部が検知した前記ノイズ要因行動に関するノイズ要因行動情報に基づき、前記センシング部が取得した前記眠気関連情報のうちから前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後の前記眠気関連情報を、前記ノイズ要因除去後眠気関連情報として選択するセンシング結果選択部を備え、
    前記センシング結果選択部が選択した前記ノイズ要因除去後眠気関連情報に基づき、前記眠気推定用特徴量を算出する
    ことを特徴とする請求項1、請求項2、請求項4、または、請求項6のうちのいずれか1項記載の眠気推定装置。
  10. 前記移動体の前記乗員は、車両のドライバである
    ことを特徴とする請求項1、請求項2、請求項4、または、請求項6のうちのいずれか1項記載の眠気推定装置。
  11. センシング部が、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するステップと、
    第一ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知するステップと、
    特徴量算出部が、前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出するステップと、
    眠気スコア算出部が、前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出するステップと、
    眠気推定部が、前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定するステップとを備え、
    前記ノイズ要因行動は、下方視を含み、
    前記第一ノイズ要因検知部は、時系列の前記眠気関連情報に基づき、前記乗員の視線方向が下方視判定用期間で下方視判定用角度以上、下方に変化した場合に前記乗員による前記下方視があったと検知する
    ことを特徴とする眠気推定方法。
  12. センシング部が、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するステップと、
    第一ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知するステップと、
    特徴量算出部が、前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出するステップと、
    眠気スコア算出部が、前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出するステップと、
    眠気推定部が、前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定するステップと、
    第二ノイズ要因検知部が、前記移動体に関連する移動体情報に基づき、前記乗員に対し前記眠気を発生させにくいと想定される前記移動体の走行状態であるノイズ要因走行状態を検知するステップと、
    スコア補正部が、前記第二ノイズ要因検知部が前記ノイズ要因走行状態を検知した場合、前記眠気スコア算出部が算出した前記眠気スコアを補正するステップを備え、
    前記眠気推定部は、前記スコア補正部が、前記眠気スコア算出部が算出した前記眠気スコアを補正した場合は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定する
    ことを特徴とする眠気推定方法。
  13. センシング部が、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するステップと、
    第一ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知するステップと、
    特徴量算出部が、前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出するステップと、
    眠気スコア算出部が、前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出するステップと、
    眠気推定部が、前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定するステップと、
    第三ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記センシング部が前記乗員の前記眠気に関連する状態を誤検知したことにより前記眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知するステップと、
    スコア補正部が、前記第三ノイズ要因検知部が前記ノイズ要因センシングの発生を検知した場合、前記眠気スコア算出部が算出した前記眠気スコアを補正するステップを備え、
    前記眠気推定部は、前記スコア補正部が、前記眠気スコア算出部が算出した前記眠気スコアを補正した場合は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定することを特徴とする眠気推定方法。
  14. センシング部が、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するステップと、
    第一ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知するステップと、
    特徴量算出部が、前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出するステップと、
    眠気スコア算出部が、前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出するステップと、
    眠気推定部が、前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定するステップと、
    第二ノイズ要因検知部が、前記移動体に関連する移動体情報に基づき、前記乗員に対し前記眠気を発生させにくいと想定される前記移動体の走行状態であるノイズ要因走行状態を検知するステップと、
    第三ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記センシング部が前記乗員の前記眠気に関連する状態を誤検知したことにより前記眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知するステップと、
    スコア補正部が、前記第二ノイズ要因検知部が前記ノイズ要因走行状態を検知した場合、または、前記第三ノイズ要因検知部が前記ノイズ要因センシングの発生を検知した場合、前記ノイズ要因走行状態または前記ノイズ要因センシングの発生に基づいて前記眠気スコア算出部が算出した前記眠気スコアを補正するステップを備え、
    前記眠気推定部は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定する
    ことを特徴とする眠気推定方法。
JP2025529114A 2023-06-29 2023-06-29 眠気推定装置および眠気推定方法 Active JP7843933B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2023/024104 WO2025004257A1 (ja) 2023-06-29 2023-06-29 眠気推定装置および眠気推定方法

Publications (2)

Publication Number Publication Date
JPWO2025004257A1 JPWO2025004257A1 (ja) 2025-01-02
JP7843933B2 true JP7843933B2 (ja) 2026-04-10

Family

ID=93937975

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2025529114A Active JP7843933B2 (ja) 2023-06-29 2023-06-29 眠気推定装置および眠気推定方法

Country Status (2)

Country Link
JP (1) JP7843933B2 (ja)
WO (1) WO2025004257A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008212298A (ja) 2007-03-01 2008-09-18 Toyota Central R&D Labs Inc 眠気判定装置及びプログラム
JP2011125620A (ja) 2009-12-21 2011-06-30 Toyota Motor Corp 生体状態検出装置
JP2011229741A (ja) 2010-04-28 2011-11-17 Toyota Motor Corp 眠気度推定装置および眠気度推定方法
JP2016115118A (ja) 2014-12-15 2016-06-23 アイシン精機株式会社 下方視判定装置および下方視判定方法
WO2019159229A1 (ja) 2018-02-13 2019-08-22 三菱電機株式会社 誤検出判定装置及び誤検出判定方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008212298A (ja) 2007-03-01 2008-09-18 Toyota Central R&D Labs Inc 眠気判定装置及びプログラム
JP2011125620A (ja) 2009-12-21 2011-06-30 Toyota Motor Corp 生体状態検出装置
JP2011229741A (ja) 2010-04-28 2011-11-17 Toyota Motor Corp 眠気度推定装置および眠気度推定方法
JP2016115118A (ja) 2014-12-15 2016-06-23 アイシン精機株式会社 下方視判定装置および下方視判定方法
WO2019159229A1 (ja) 2018-02-13 2019-08-22 三菱電機株式会社 誤検出判定装置及び誤検出判定方法

Also Published As

Publication number Publication date
JPWO2025004257A1 (ja) 2025-01-02
WO2025004257A1 (ja) 2025-01-02

Similar Documents

Publication Publication Date Title
JP6998564B2 (ja) 覚醒度推定装置及び覚醒度推定方法
Schmidt et al. Eye blink detection for different driver states in conditionally automated driving and manual driving using EOG and a driver camera
EP2564777B1 (en) Method for classification of eye closures
US11430231B2 (en) Emotion estimation device and emotion estimation method
US20090322506A1 (en) Method and apparatus for driver state detection
CN114872713A (zh) 一种驾驶员异常驾驶状态监测装置和方法
JP7550879B2 (ja) 睡眠検出装置及び睡眠検出システム
JP2021037216A (ja) 閉眼判定装置
JP7192668B2 (ja) 覚醒度判定装置
JP7046748B2 (ja) 運転者状態判定装置および運転者状態判定方法
WO2023017595A1 (ja) 乗員状態判定装置、乗員状態判定方法、および、乗員状態判定システム
US11501561B2 (en) Occupant monitoring device, occupant monitoring method, and occupant monitoring program
JP7843933B2 (ja) 眠気推定装置および眠気推定方法
JP2013518341A (ja) 車両用物体衝突警報システムおよび車両用物体衝突警報方法
CN110979340A (zh) 车辆及其控制方法和装置
US10945651B2 (en) Arousal level determination device
JP7612118B2 (ja) 眠気推定装置および眠気推定方法
JP7704008B2 (ja) 運転者状態判定方法及びその装置
JP2024162514A (ja) 開閉眼推定装置、開閉眼推定方法及びプログラム
JP2023027699A (ja) ドライバー状態判定装置
JP7843946B2 (ja) 運転支援装置および運転支援方法
JP7812001B2 (ja) 開瞼度検出装置、開瞼度検出方法、および眠気判定システム
JP7747776B2 (ja) 基準値作成装置、覚醒度推定装置、および、基準値作成方法
WO2025248687A1 (ja) 覚醒度検出装置、運転支援システム、および覚醒度検出方法
JP7546815B2 (ja) 脇見判定装置および脇見判定方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20250423

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20251014

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20251212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20260303

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20260331

R150 Certificate of patent or registration of utility model

Ref document number: 7843933

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150