JP7843933B2 - 眠気推定装置および眠気推定方法 - Google Patents
眠気推定装置および眠気推定方法Info
- Publication number
- JP7843933B2 JP7843933B2 JP2025529114A JP2025529114A JP7843933B2 JP 7843933 B2 JP7843933 B2 JP 7843933B2 JP 2025529114 A JP2025529114 A JP 2025529114A JP 2025529114 A JP2025529114 A JP 2025529114A JP 7843933 B2 JP7843933 B2 JP 7843933B2
- Authority
- JP
- Japan
- Prior art keywords
- drowsiness
- sleepiness
- noise factor
- unit
- score
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Heart & Thoracic Surgery (AREA)
- Surgery (AREA)
- Psychiatry (AREA)
- Psychology (AREA)
- Social Psychology (AREA)
- Educational Technology (AREA)
- Developmental Disabilities (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Child & Adolescent Psychology (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Hospice & Palliative Care (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Automation & Control Theory (AREA)
- Mathematical Physics (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- General Physics & Mathematics (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Description
従来、このことを踏まえた移動体の乗員の眠気を推定する技術、として、乗員の顔の情報を用いて抽出された目の開き具合または瞬き回数等の特徴量、を用いて、上記眠気を推定する技術が知られている(例えば、特許文献1)。
従来技術では、乗員の眠気を推定する際、乗員が、上述したような、眠気が発生した際の特徴と類似する特徴がみられる行動、をとっている場合、乗員の眠気の推定精度が低下する可能性があるという課題があった。
なお、特許文献1に開示されている技術では、まぶたの動きが生じた直後に顔向き角度の変化が生じた場合、または、まぶたの動きが生じた時に視線の移動も生じた場合、眠気の判定を行わないようにするため、そもそも必要な眠気の判定までもが行われなくなっている可能性があり、依然として、乗員の眠気の推定精度が低下するという課題を解決しない。
実施の形態1.
図1は、実施の形態1に係る眠気推定装置1の構成例を示す図である。
実施の形態1に係る眠気推定装置1は、撮像装置2と接続されており、撮像装置2が撮像した画像に基づき、眠気を推定する対象となる人(以下「対象者」という。)の眠気を推定する。
実施の形態1において、対象者は、車両(図示省略)のドライバを想定している。また、実施の形態1に係る眠気推定装置1は、車両に搭載されていることを想定している。
以下の実施の形態1では、車両のドライバを、単に「ドライバ」ともいう。
撮像装置2は、可視光カメラ、または、赤外線カメラである。撮像装置2が赤外線カメラである場合、赤外線カメラには、ドライバの顔を含む範囲に対して撮像用の赤外線を照射する光源(図示省略)が設けられている。この光源は、例えば、LED(Light Emitting Diode)により構成される。
撮像装置2は、撮像した画像(以下「撮像画像」という。)を、眠気推定装置1に出力する。
特徴量算出部13は、センシング結果選択部131を備える。
実施の形態1において、センシング部11が行う、眠気関連情報を取得する処理を、「センシング処理」という。
なお、実施の形態1において、どのような状態をドライバの眠気に関連する状態とするかは、予め、管理者等によって決められている。
センシング部11は、取得した眠気関連情報を、第一ノイズ要因検知部12に出力する。このとき、センシング部11は、例えば、眠気関連情報に、当該眠気関連情報を取得する元となった撮像画像のフレームを対応付けて、第一ノイズ要因検知部12に出力してもよい。以下の説明において、センシング部11が第一ノイズ要因検知部12に出力する、眠気関連情報、または、眠気関連情報と当該眠気関連情報の取得元となった撮像画像のフレームとが対応付けられた情報を、「センシング結果」ともいう。なお、撮像画像の各フレームには、撮像日時を示す情報が付与されているものとする。
実施の形態1において、第一ノイズ要因検知部12が行う、ノイズ要因を検知する処理を、「第一ノイズ要因検知処理」という。
例えば、ドライバは、メータを見る際、下方視となる可能性がある。
また、例えば、ドライバは、太陽光がまぶしい場合、いわゆる「しかめ顔」をする可能性がある。実施の形態1では、いわゆるしかめ顔を「我慢顔」ともいう。人は、一般に、「我慢顔」をするとき、目を細める。また、例えば、人は、一般に、笑顔になった場合、目を細める。
第一ノイズ要因検知部12は、このようなノイズ要因行動を検知する。
なお、どのような行動をノイズ要因行動とするかは、予め、管理者等によって決められている。
第一ノイズ要因検知部12は、例えば、時系列の眠気関連情報に基づき、ドライバの開瞼度が直前の眠気関連情報に基づく開瞼度と比較して予め設定された閾値(以下「開瞼度差分判定用閾値」という。)以上小さくなった場合に、ドライバによるノイズ要因行動があったと検知してもよい。第一ノイズ要因検知部12は、センシング部11から取得したセンシング結果を、時系列で図示しない記憶部に記憶させている。第一ノイズ要因検知部12は、記憶部に記憶させているセンシング結果に基づけば、直前の眠気関連情報を特定できる。記憶部は、眠気推定装置1が参照可能な場所に備えられている。
開瞼度判定用閾値および開瞼度差分判定用閾値は、管理者等によって、適宜、設定され、記憶部に記憶されている。
なお、この場合、眠気関連情報は、少なくともドライバの開瞼度を含む。
第一機械学習モデルは、画像上の人の顔の特徴点の位置を示す情報を入力として、当該人が我慢顔をしているか否かを示す情報を出力するモデルである。第一機械学習モデルは、予め生成され、記憶部に記憶されている。
第一ノイズ要因検知部12は、眠気関連情報を第一機械学習モデルに入力して、我慢顔をしているか否かを示す情報を得ることで、ドライバが我慢顔をしていることを検知する。
なお、この場合、眠気関連情報は、少なくとも撮像画像上のドライバの顔の特徴点の位置情報を含む。
第一ノイズ要因検知部12は、例えば、時系列の眠気関連情報に基づき、ドライバの視線方向が予め設定された期間(以下「下方視判定用期間」という。)で予め設定された角度(以下「下方視判定用角度」という。)以上、下方に変化した場合、ドライバによるノイズ要因行動があったと検知してもよい。
視線方向判定用閾値、下方視判定用期間、および、下方視判定用角度は、管理者等によって、撮像装置2の設置位置および画角等に応じて、適宜、設定され、記憶部に記憶されている。
なお、この場合、眠気関連情報は、少なくともドライバの視線方向を含む。
ノイズ要因行動情報は、第一ノイズ要因検知部12がノイズ要因行動を検知した旨の情報と、第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報とを含む。ノイズ要因行動情報は、さらに、第一ノイズ要因検知部12が検知したノイズ要因行動の種類(下方視、目を細める等)を特定可能な情報を含んでいてもよい。
実施の形態1において、特徴量算出部13が行う、眠気推定用特徴量を算出する処理を、「特徴量算出処理」という。
上述のとおり、第一ノイズ要因検知部12は、センシング部11から取得したセンシング結果を、ノイズ要因行動情報とともに、特徴量算出部13に出力する。よって、センシング結果選択部131は、除外対象の眠気関連情報を、第一ノイズ要因検知部12から出力されるノイズ要因行動情報およびセンシング結果から特定できる。
センシング結果選択部131は、第一ノイズ要因検知部12から出力されたセンシング結果について、当該センシング結果に含まれる眠気関連情報が除外対象の眠気関連情報であればその眠気関連情報には除外対象フラグを付与する。そして、センシング結果選択部131は、除外対象の眠気関連情報には除外対象フラグを付与した後のセンシング結果を、特徴量算出部13に出力する。
そして、特徴量算出部13は、特定したノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出する。
つまり、特徴量算出部13は、センシング部11から第一ノイズ要因検知部12を介して取得した眠気関連情報のうち、除外対象フラグが付与されていない眠気関連情報、に基づき、眠気推定用特徴量を算出する。
眠気推定用特徴量は、例えば、開瞼度、開口度、ドライバの顔向き、ドライバの頭位置、ドライバの視線方向き、ドライバのPERCLOS(Percent of the time eyelids are closed。単位時間あたりの閉眼時間割合)、ドライバの瞬き回数、または、ドライバの瞬き速度を含む。
特徴量算出部13は、ノイズ要因除去後眠気関連情報に基づき、上述したような眠気推定用特徴量を算出する。
特徴量算出部13は、例えば、記憶しておいた、過去の予め設定された期間(以下「特徴量算出対象期間」という。)に取得したノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出してもよい。
ノイズ要因除去後眠気関連情報において、撮像装置2から取得された撮像画像に基づいて取得された眠気関連情報のうち、除外対象の眠気関連情報は除外されている。詳細には、撮像装置2に基づいてセンシング部11によって取得された眠気関連情報のうち、第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報は除外されている。すなわち、特徴量算出部13は、ノイズ要因行動をとっているドライバが撮像されている撮像画像のフレームに基づき取得された眠気関連情報を、眠気推定用特徴量の算出に用いない。より詳細には、特徴量算出部13は、ノイズ要因行動をとっているドライバが撮像されている撮像画像のフレームに基づき取得された眠気関連情報を、眠気推定用特徴量の算出に用いない。
しかし、これは一例に過ぎず、特徴量算出部13は、その他の方法で、眠気推定用特徴量を算出してもよい。
例えば、センシング結果選択部131は、第一ノイズ要因検知部12が検知したノイズ要因行動に関するノイズ要因行動情報に基づき、除外対象の眠気関連情報を特定すると、センシング結果に含まれている、センシング部11が取得した眠気関連情報のうちから、特定した除外対象の眠気関連情報を除外し、除外した後の眠気関連情報を、ノイズ要因除去後眠気関連情報として選択する。
センシング結果選択部131は、ノイズ要因除去後眠気関連情報を選択すると、選択したノイズ要因除去後眠気関連情報を含むセンシング結果(以下「ノイズ除去後センシング結果」という。)を、特徴量算出部13に出力する。
特徴量算出部13は、センシング結果選択部131から出力されたノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出する。
つまり、特徴量算出部13は、センシング部11から第一ノイズ要因検知部12を介して取得した眠気関連情報のうち、ノイズ除去後センシング結果に含まれている、センシング結果選択部131によって選択された眠気関連情報、に基づき、眠気推定用特徴量を算出する。
特徴量算出部13は、このように、眠気推定用特徴量を算出してもよい。
眠気スコア算出部14が算出する眠気スコアは、ドライバの眠気推定に用いられる、ドライバの眠気の度合いを示すスコアである。実施の形態1では、一例として、眠気スコアは「0」~「100」であらわされ、眠気スコアが大きいほど、ドライバの眠気の度合いが高いことを示すものとする。なお、眠気スコアを用いたドライバの眠気の推定は、眠気推定部15が行う。
実施の形態1において、眠気スコア算出部14が行う、眠気スコアを算出する処理を、「眠気スコア算出処理」という。
眠気スコア算出部14が眠気スコアの算出に用いる機械学習モデルを、「第二機械学習モデル」ともいう。第二機械学習モデルは、SVM(Support Vector Machine)、ランダムフォレスト、LightGBM(Light Gradient Boosting Machine)、または、畳み込みニューラルネットワーク等の機械学習モデルである。
第二機械学習モデルは、例えば、眠気推定用特徴量を入力とし、眠気スコアを出力する。第二機械学習モデルは予め生成され、記憶部等、眠気スコア算出部14が参照可能な場所に記憶されている。
眠気スコア算出部14は、第二機械学習モデルに眠気推定用特徴量を入力して眠気スコアを得ることで、眠気スコアを算出する。
眠気スコア算出用ルールは、予め、管理者等によって生成され、記憶部等、眠気スコア算出部14が参照可能な場所に記憶されている。
眠気スコア算出用ルールには、例えば、「過去3分間の瞬き回数が20回以上であれば眠気スコア「60」とする」等、設定された期間における瞬き回数に応じた眠気スコアの算出ルールが設定されている。
眠気推定部15が推定するドライバの眠気は、例えば、「覚醒」、「弱い眠気」、および、「強い眠気」のような、複数の状態であらわされてもよいし、「眠気あり」か「眠気なし」かの二値であらわされてもよいし、眠気の度合いを示す連続値であってもよい。
実施の形態1において、眠気推定部15が行う、ドライバの眠気を推定する処理を、「眠気推定処理」という。
眠気推定部15がドライバの眠気の推定に用いる機械学習モデルを、「第三機械学習モデル」ともいう。第三機械学習モデルは、SVM(Support Vector Machine)、ランダムフォレスト、LightGBM(Light Gradient Boosting Machine)、または、畳み込みニューラルネットワーク等の機械学習モデルである。
第三機械学習モデルは、例えば、眠気スコアを入力とし、眠気を示す情報を出力する。眠気を示す情報は、例えば、ドライバの眠気の複数の状態を示す情報、「眠気あり」か「眠気なし」かを示す情報、または、眠気の度合いを示す連続値である。
第三機械学習モデルは予め生成され、記憶部等、眠気推定部15が参照可能な場所に記憶されている。
眠気推定部15は、第三機械学習モデルに眠気スコアを入力して眠気を示す情報を得ることで、ドライバの眠気を推定する。
眠気推定用ルールは、予め、管理者等によって生成され、記憶部等、眠気推定部15が参照可能な場所に記憶されている。
眠気推定用ルールには、例えば、「眠気スコアが「0」~「50」であれば「覚醒」、眠気スコアが「50」~「60」であれば「弱い眠気」、眠気スコアが「60」以上であれば「強い眠気」とする」というような、眠気スコアの範囲とドライバの眠気の複数の状態を示す情報と対応付けられた条件、「眠気スコアが「60」以上であれば「眠気あり」、眠気スコアが「60」未満であれば「眠気なし」とする」というような条件、または、眠気スコアに基づく眠気の度合いの算出式が設定されている。
例えば、眠気推定部15は、眠気推定結果を、車両に搭載されている警報装置に出力する。警報装置は、眠気推定結果が、ドライバが眠気を催していることを示している場合、警報を出力する。
例えば、眠気推定部15は、記憶部に眠気推定結果を記憶させてもよい。
図2は、実施の形態1に係る眠気推定装置1の動作について説明するためのフローチャートである。
眠気推定装置1は、例えば、車両の電源がオンにされ、撮像装置2から撮像画像が出力されると、車両の電源がオフにされるまで、図2のフローチャートで示す動作を繰り返す。
センシング部11は、センシング結果を第一ノイズ要因検知部12に出力する。
第一ノイズ要因検知部12は、ドライバによるノイズ要因行動があったことを検知した場合、ノイズ要因行動情報を、センシング部11から取得したセンシング結果とともに、特徴量算出部13に出力する。
なお、第一ノイズ要因検知部12は、ドライバによるノイズ要因行動があったことを検知しなかった場合は、ノイズ要因行動があったことを検知しなかった旨の情報を特徴量算出部13に出力してもよいし、特徴量算出部13に対して何も出力しないようにしてもよい。
特徴量算出部13は、特徴量情報を、眠気スコア算出部14に出力する。
眠気スコア算出部14は、算出したドライバの眠気スコアを、眠気推定部15に出力する。
眠気推定部15は、ドライバの眠気推定結果を出力する。
より詳細には、図3は、実施の形態1において、特徴量算出部13が、センシング結果選択部131が除外対象の眠気関連情報に付与した除外対象フラグに基づいてノイズ要因除去後眠気関連情報を特定して、特定したノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出するようにした場合の特徴量算出処理の詳細を説明するためのフローチャートである。
センシング結果選択部131は、除外対象の眠気関連情報には除外対象フラグを付与した後のセンシング結果を、特徴量算出部13に出力する。
特徴量算出部13は、特徴量情報を、眠気スコア算出部14に出力する。
より詳細には、図4は、実施の形態1において、特徴量算出部13が、センシング結果選択部131から出力されたノイズ要因除去後眠気関連情報に基づき、眠気推定用特徴量を算出するようにした場合の特徴量算出処理の詳細を説明するためのフローチャートである。
センシング結果選択部131は、ノイズ要因除去後眠気関連情報を選択すると、ノイズ除去後センシング結果を、特徴量算出部13に出力する。
特徴量算出部13は、特徴量情報を、眠気スコア算出部14に出力する。
従来技術では、ドライバの眠気を推定する際、ドライバが上述したようなノイズ要因行動をとっている場合、ドライバの眠気の推定精度が低下する可能性がある。より詳細には、従来技術では、ドライバの眠気を推定する際、ノイズ要因行動をとっているドライバの顔の情報、すなわち、ドライバの顔が撮像された撮像画像、に基づいて算出された特徴量がノイズとなり、ドライバの眠気の推定精度が低下する可能性がある。
そのため、眠気推定装置1は、ドライバの眠気を推定するにあたり、ドライバがノイズ要因行動をとっていることにより当該ドライバの眠気の推定精度が低下することを防ぐことができる。より詳細には、眠気推定装置1は、ドライバの眠気を推定するにあたり、ノイズとなる特徴量がドライバの眠気の推定に用いられることによってドライバの眠気の推定精度が低下するのを防ぎ、精度の高い眠気推定を行うことができる。
なお、ドライバの眠気を推定するにあたり、ノイズとなる特徴量は、ノイズ要因行動をとっているドライバの顔が撮像された撮像画像に基づいて算出された特徴量であり、ノイズ要因行動をとっていないドライバの顔が撮像された撮像画像に基づいて算出された特徴量は、精度のよいドライバの眠気推定のためには必要である。
眠気推定装置1は、ドライバが、下方視等のノイズ要因行動をとっていたとしても、当該ノイズ要因行動に起因して算出されるノイズとなる特徴量のみを除去し、ノイズとなる特徴量が除去された後の特徴量を、眠気推定用特徴量として、ドライバの眠気推定を行う。つまり、眠気推定装置1は、ドライバがノイズ要因行動をとっていたとしても、ドライバの眠気推定自体をやめてしまうのではなく、必要な特徴量を用いて眠気推定を行う。これにより、眠気推定装置1は、ドライバの眠気を推定するにあたり、ノイズとなる特徴量がドライバの眠気の推定に用いられることによってドライバの眠気の推定精度が低下するのを防ぎ、精度の高い眠気推定を行うことができる。
実施の形態1において、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15の機能は、処理回路1001により実現される。すなわち、眠気推定装置1は、撮像装置2から取得した撮像画像に基づいて、ドライバがノイズ要因行動をとっていることに起因して算出される特徴量を除いた特徴量を眠気推定用特徴量としてドライバの眠気を推定する制御を行うための処理回路1001を備える。
処理回路1001は、図5Aに示すように専用のハードウェアであっても、図5Bに示すようにメモリに格納されるプログラムを実行するプロセッサ1004であってもよい。
また、眠気推定装置1は、撮像装置2等の装置と、有線通信または無線通信を行う入力インタフェース装置1002および出力インタフェース装置1003を備える。
これに限らず、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられるものとして、車載装置とサーバとで眠気推定システムを構成するようにしてもよい。
また、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15が全部サーバに備えられてもよい。
移動体の走行状態の中には、乗員の眠気が発生しづらいと想定される走行状態がある。
仮に、このような走行状態において、乗員が眠気を催していると推定されると、これは誤推定(過推定)である。仮に、誤推定に基づいて警報がなされると、当該警報は過警報であり、乗員に対して煩わしさを与える可能性がある。
実施の形態2では、移動体の走行状態を考慮し、移動体の走行状態から、乗員の眠気が発生しづらいと推定される場合には、当該乗員の眠気が過推定されないよう、乗員の眠気の推定結果を補正する実施の形態について説明する。
なお、以下の実施の形態2でも、対象者は車両のドライバを想定している。
実施の形態2に係る眠気推定装置1aは、撮像装置2に加え、車両情報取得装置3と接続されている。
車両情報取得装置3は、車両に関連する情報(以下「車両情報」という。)を、眠気推定装置1aに出力する。
車両情報は、車両の速度情報、車両にてウィンカーが使用されているか否か、言い換えれば、ウィンカーが作動しているか否かを示す情報、ブレーキの踏み込み量を示す情報、ハンドル舵角の情報、アクセル開度を示す情報等を含む。
車両情報取得装置3は、例えば、車両の速度を検知する車速センサ、ウィンカーの作動状況を検知するウィンカーセンサ、ブレーキの踏み込み量を検知するブレーキセンサ、ハンドル舵角を検知する舵角センサ、および、アクセル開度を検知するアクセルセンサを含む。
なお、図6では、眠気推定装置1aには車両情報取得装置3が1つ接続されるものとしているが、これは一例に過ぎず、眠気推定装置1aには複数の車両情報取得装置3が接続され得る。
実施の形態2に係る眠気推定装置1aは、実施の形態1に係る眠気推定装置1とは、第二ノイズ要因検知部16およびスコア補正部17を備えた点が異なる。
実施の形態2において、第二ノイズ要因検知部16が行う、ノイズ要因走行状態を検知する処理を、「第二ノイズ要因検知処理」という。
なお、どのような車両の走行状態を、ノイズ要因走行状態とするかは、予め、管理者等によって決められている。
また、車両においてブレーキの使用頻度が多い状態である場合、例えば、渋滞中であると推定される。
また、車両においてハンドル舵角の変化が多い状態である場合、例えば、車両が駐車場または交差点を走行中でると推定される。
管理者等は、事前に、実験を行う等して、このような情報を得ておく。
そして、管理者等は、ドライバが眠気を発生しづらいと想定される、上述したような車両の走行状態を、ノイズ要因走行状態と決定し、ノイズ要因走行状態に関する情報を、記憶部等、ノイズ要因走行状態が参照可能な場所に記憶させておく。
ノイズ要因走行状態に関する情報は、第二ノイズ要因検知部16がノイズ要因走行状態を判定するための情報であり、例えば、車両がノイズ要因走行状態であるとする車両情報の条件が設定されている。車両がノイズ要因走行状態であるとする車両情報の条件とは、例えば、車速が予め設定された閾値以下であること、予め設定された期間におけるウィンカー使用頻度が予め設定された閾値以上であること、予め設定された期間におけるブレーキの使用頻度が予め設定された閾値以上であること、予め設定された期間におけるハンドル舵角の変化量が予め設定された閾値以上でること、である。
ノイズ要因走行状態情報は、第二ノイズ要因検知部16がノイズ要因走行状態を検知した旨の情報を含む。ノイズ要因走行状態情報は、さらに、第二ノイズ要因検知部16が検知したノイズ要因走行状態の種類(低速走行、ウィンカー使用頻度が多い、ブレーキ使用頻度が多い、ハンドル舵角の変化が大きい等)を特定可能な情報を含んでいてもよい。
なお、実施の形態2において、眠気スコア算出部14は、算出したドライバの眠気スコアを、スコア補正部17に出力する。
スコア補正部17は、予め決められたルール(以下「スコア補正ルール」という。)に従って、眠気スコアを補正する。
スコア補正ルールは、管理者等によって予め設定され、記憶部等、スコア補正部17が参照可能な場所に記憶されている。
実施の形態2において、スコア補正部17が行う、眠気スコアを補正する処理を、「眠気スコア補正処理」という。
例えば、スコア補正ルールには、「ノイズ要因走行状態が検知された場合、眠気スコアを0.5倍する」とのルールが設定されているとする。
また、例えば、今、眠気スコア算出部14が算出した眠気スコアが「90」であったとする。また、例えば、今、第二ノイズ要因検知部16は、予め設定された期間におけるウィンカー使用頻度が予め設定された閾値以上であったため、ウィンカー使用頻度が多いノイズ要因走行状態であると検知したとする。
なお、ウィンカー使用頻度が多い走行状態であるとき、車両は、例えば、車線変更を頻繁に行っている場合が考えられる。このような車両の走行状態がノイズ要因走行状態として検知された場合、ドライバは眠気を発生しづらい状態であると想定される。にもかかわらず、眠気スコア算出部14が「90」という高い眠気スコアを算出したということは、例えば、車線変更を頻繁に行う際にドライバが左右確認を行い、これが閉眼の動作(すなわち、眠気発生時の動作)とみなされた等、ドライバの何等かの挙動により、特徴量算出部13によって、眠気スコアが高く算出され得る特徴量が算出された可能性が考えられる。つまり、眠気スコア算出部14が算出した眠気スコアは誤りである可能性がある。
この場合、スコア補正部17は、眠気スコアを「45」と補正する。
上述した例において、仮に、スコア補正部17が眠気スコアを補正しなかった場合、ドライバは眠気を催していないと想定されるにもかかわらず、ドライバに対して眠気に対する警報が出力されることになる。
スコア補正部17が、第二ノイズ要因検知部16によってノイズ要因走行状態であると検知された場合に眠気スコアを補正することで、眠気推定部15はドライバの眠気の過推定を防ぐことができ、上述のような、過警報を抑制することができる。
スコア補正ルールには、上述した例で挙げた内容とは異なるルールが設定されてもよい。
また、例えば、ノイズ要因走行状態の種類に応じて、眠気スコアを補正する度合いを異ならせるよう、スコア補正ルールが設定されていてもよい。
例えば、スコア補正ルールには、「ウィンカーの使用頻度が多い走行状態であるノイズ要因走行状態が検知された場合、眠気スコアを0.5倍し、低速走行状態であるノイズ要因走行状態が検知された場合、眠気スコアを0.7倍する」とのルールが設定されていてもよい。
眠気推定部15は、補正後眠気スコアに基づき、ドライバの眠気を推定する。
図7は、実施の形態2に係る眠気推定装置1aの動作について説明するためのフローチャートである。
眠気推定装置1aは、例えば、車両の電源がオンにされ、撮像装置2から撮像画像が出力されると、車両の電源がオフにされるまで、図7のフローチャートで示す動作を繰り返す。
図7のステップST10~ステップST40、ステップST50の処理における具体的な動作は、それぞれ、実施の形態1にて説明済みの、図2のステップST10~ステップST40、ステップST50の処理における具体的な動作と同様であるため、同じステップ番号を付して重複した説明を省略する。
第二ノイズ要因検知部16は、車両の走行状態がノイズ要因走行状態であることを検知した場合、ノイズ要因走行状態情報を、車両情報取得装置3から取得した車両情報とともに、スコア補正部17に出力する。
なお、第二ノイズ要因検知部16は、車両の走行状態がノイズ要因走行状態であることを検知しなかった場合は、ノイズ要因走行状態であることを検知しなかった旨の情報をスコア補正部17に出力してもよいし、スコア補正部17に対して何も出力しないようにしてもよい。
スコア補正部17は、補正後眠気スコアを眠気推定部15に出力する。
例えば、眠気推定装置1aは、ステップST10~ステップST40の処理の後、ステップST60の処理を実行してもよい。
ステップST45の処理が行われるまでに、ステップST10~ステップST40、および、ステップST60の処理が行われていればよい。
さらに、眠気推定装置1aは、車両情報に基づき、ノイズ要因走行状態を検知した場合は、算出した眠気スコアを補正するようにする。眠気推定装置1aは、眠気スコアを補正した場合は、補正後眠気スコアに基づき、ドライバの眠気を推定する。
そのため、眠気推定装置1aは、ドライバの眠気を推定するにあたり、ドライバがノイズ要因行動をとっていることにより当該ドライバの眠気の推定精度が低下することを防ぐことができるとともに、より詳細には、ドライバの眠気を推定するにあたり、ノイズとなる特徴量がドライバの眠気の推定に用いられることによってドライバの眠気の推定精度が低下するのを防ぎ、精度の高い眠気推定を行うことができるとともに、ドライバの眠気の過推定を防ぐことができる。
実施の形態2において、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17の機能は、処理回路1001により実現される。すなわち、眠気推定装置1aは、撮像装置2から取得した撮像画像に基づいて、ドライバがノイズ要因行動をとっていることに起因して算出される特徴量を除いた特徴量を眠気推定用特徴量としてドライバの眠気を推定する制御を行い、車両情報取得装置3から取得した車両情報に基づいて眠気スコアを補正する制御を行うための処理回路1001を備える。
処理回路1001は、メモリ1005に記憶されたプログラムを読み出して実行することにより、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17の機能を実行する。すなわち、眠気推定装置1aは、処理回路1001により実行されるときに、上述の図7のステップST10~ステップST60が結果的に実行されることになるプログラムを格納するためのメモリ1005を備える。また、メモリ1005に記憶されたプログラムは、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17の手順または方法をコンピュータに実行させるものであるとも言える。
眠気推定装置1aは、撮像装置2および車両情報取得装置3等の装置と、有線通信または無線通信を行う入力インタフェース装置1002および出力インタフェース装置1003を備える。
これに限らず、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられるものとして、車載装置とサーバとで眠気推定システムを構成するようにしてもよい。
また、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、第二ノイズ要因検知部16と、スコア補正部17が全部サーバに備えられてもよい。
実施の形態2では、眠気推定装置は、車両情報に基づいてノイズ要因走行状態を検知し、ノイズ要因走行状態であることを検知した場合に眠気スコアを補正することで、眠気の誤推定(過推定)を防ぐようにしていた。
一方、眠気の誤推定を招き得る事象として、センシング部の誤動作も考えられ得る。例えば、車両のドライバが、目の挙動が正常であり目を開けて運転している状況において、センシング部によるセンシング処理のミスにより、目を閉じていると誤って検知され、誤った眠気関連情報が取得される可能性がある。仮に、特徴量算出部が当該誤った眠気関連情報に基づいて眠気推定用特徴量を算出した場合、例えば、「眠気あり」を推定され得る眠気推定用特徴量が算出され得る。その結果、眠気推定部は、ドライバの眠気を過推定することになり得る。
実施の形態3では、このようなセンシング部によるセンシング処理のミスの可能性を考慮して、眠気スコアを補正する実施の形態について説明する。
なお、以下の実施の形態3でも、対象者は車両のドライバを想定している。
実施の形態3に係る眠気推定装置1bの構成について、実施の形態1にて図1を用いて説明した眠気推定装置1と同じ構成には、同じ符号を付して重複した説明を省略する。
実施の形態3に係る眠気推定装置1bは、実施の形態1に係る眠気推定装置1とは、第三ノイズ要因検知部18およびスコア補正部17を備えた点が異なる。
なお、実施の形態3では、センシング部11は、センシング結果を、第一ノイズ要因検知部12および第三ノイズ要因検知部18に出力する。
実施の形態3において、第三ノイズ要因検知部18が行う、ノイズ要因センシングを検知する処理を、「第三ノイズ要因検知処理」という。
第三ノイズ要因検知部18は、例えば、センシング部11が取得した時系列の眠気関連情報に基づき、極端に長い連続閉眼と判定され得る眠気関連情報が取得されているか否かによって、上記ノイズ要因センシングが発生しているか否かを検知する。第三ノイズ要因検知部18は、極端に長い連続閉眼と判定され得る眠気関連情報が取得されている場合、上記ノイズ要因センシングが発生していると検知する。
例えば、第三ノイズ要因検知部18は、時系列の眠気関連情報に基づき、閉眼と判定される状態、より詳細には、開瞼度が予め設定された閾値(以下「連続閉眼判定用開瞼度」という。)以下である状態が、予め設定された期間(以下「連続閉眼判定用期間」という。)継続していれば、極端に長い連続閉眼とされ得る眠気関連情報が取得されている、すなわち、ノイズ要因センシングが発生している、と検知する。なお、連続閉眼判定用開瞼度および連続閉眼判定用期間は、予め管理者等によって決められ、第三ノイズ要因検知部18が参照可能な場所に記憶されている。なお、第三ノイズ要因検知部18は、記憶部に記憶されているセンシング結果から、時系列の眠気関連情報を取得すればよい。
第三ノイズ要因検知部18は、例えば、センシング部11が取得した時系列の眠気関連情報に基づき、極端に瞬き回数が多いと判定され得る眠気関連情報が取得されているか否かによって、上記ノイズ要因センシングが発生しているか否かを検知する。第三ノイズ要因検知部18は、極端に瞬き回数が多いと判定され得る眠気関連情報が取得されている場合、上記ノイズ要因センシングが発生していると検知する。
例えば、第三ノイズ要因検知部18は、時系列の眠気関連情報に基づき、公知の瞬き検知方法によって、ドライバの瞬きを検知する。第三ノイズ要因検知部18は、予め設定された期間(以下「瞬き判定用期間」という。)に、予め設定された回数(以下「瞬き回数判定用閾値」という。)以上の瞬きが検知された場合、極端に多い瞬きと判定され得る眠気関連情報が取得されている、すなわち、ノイズ要因センシングが発生している、と検知する。なお、瞬き判定用期間および瞬き回数判定用閾値は、予め管理者等によって決められ、第三ノイズ要因検知部18が参照可能な場所に記憶されている。
ノイズ要因センシング情報は、第三ノイズ要因検知部18が、ノイズ要因センシングが発生していると検知した旨の情報を含む。ノイズ要因センシング情報は、さらに、第三ノイズ要因検知部18が発生していると検知したノイズ要因センシングの種類(極端な連続閉眼、極端に多い瞬き等)を特定可能な情報を含んでいてもよい。
なお、実施の形態3において、眠気スコア算出部14は、算出したドライバの眠気スコアを、スコア補正部17に出力する。
スコア補正部17は、予め決められたスコア補正ルールに従って、眠気スコアを補正する。
実施の形態3において、スコア補正部17が行う、眠気スコアを補正する処理を、「眠気スコア補正処理」という。
例えば、スコア補正ルールには、「ノイズ要因センシングの発生が検知された場合、眠気スコアを0.5倍する」とのルールが設定されているとする。
また、例えば、今、眠気スコア算出部14が算出した眠気スコアが「90」であったとする。また、例えば、今、第三ノイズ要因検知部18は、センシング部11から取得した眠気関連情報に基づき、開瞼度が連続閉眼判定用開瞼度以下である状態が連続閉眼判定用期間(例えば10秒)継続していたため、極端に長い連続閉眼とされ得る眠気関連情報の取得であるノイズ要因センシングが発生していると検知したとする。
10秒間連続で閉眼することは異常であるが、当該異常な状態であるにもかかわらず、眠気スコア算出部14が「90」という高い眠気スコアを算出したということは、当該異常な状態である連続閉眼の状態が眠気発生時の状態とみなされ、特徴量算出部13によって、眠気スコアが高く算出され得る特徴量が算出された可能性が考えられる。つまり、眠気スコア算出部14が算出した眠気スコアは誤りである可能性がある。
この場合、スコア補正部17は、眠気スコアを「45」と補正する。
上述した例において、仮に、スコア補正部17が眠気スコアを補正しなかった場合、ドライバは眠気を催していないと想定されるにもかかわらず、ドライバに対して眠気に対する警報が出力されることになる。
スコア補正部17が、第三ノイズ要因検知部18によってノイズ要因センシングであると検知された場合に眠気スコアを補正することで、眠気推定部15はドライバの眠気の過推定を防ぐことができ、上述のような、過警報を抑制することができる。
スコア補正ルールには、上述した例で挙げた内容とは異なるルールが設定されてもよい。
また、例えば、ノイズ要因センシングの種類に応じて、眠気スコアを補正する度合いを異ならせるよう、スコア補正ルールが設定されていてもよい。
例えば、スコア補正ルールには、「極端に長い連続閉眼とされ得る眠気関連情報の誤取得であるノイズ要因センシングの発生が検知された場合、眠気スコアを0.5倍し、極端に多い瞬き回数とされ得る眠気関連情報の誤取得であるノイズ要因センシングが検知された場合、眠気スコアを0.7倍する」とのルールが設定されていてもよい。
眠気推定部15は、補正後眠気スコアに基づき、ドライバの眠気を推定する。
図9は、実施の形態3に係る眠気推定装置1bの動作について説明するためのフローチャートである。
眠気推定装置1bは、例えば、車両の電源がオンにされ、撮像装置2から撮像画像が出力されると、車両の電源がオフにされるまで、図9のフローチャートで示す動作を繰り返す。
図9のステップST10~ステップST40、ステップST50の処理における具体的な動作は、それぞれ、実施の形態1にて説明済みの、図2のステップST10~ステップST40、ステップST50の処理における具体的な動作と同様であるため、同じステップ番号を付して重複した説明を省略する。
第三ノイズ要因検知部18は、ノイズ要因センシングの発生を検知した場合、ノイズ要因センシング情報を、センシング部11から眠気関連情報とともに、スコア補正部17に出力する。
なお、第三ノイズ要因検知部18は、ノイズ要因センシングの発生を検知しなかった場合は、ノイズ要因センシングの発生を検知しなかった旨の情報をスコア補正部17に出力してもよいし、スコア補正部17に対して何も出力しないようにしてもよい。
スコア補正部17は、補正後眠気スコアを眠気推定部15に出力する。
例えば、眠気推定装置1bは、ステップST10~ステップST40の処理の後、ステップST70の処理を実行してもよい。
ステップST45の処理が行われるまでに、ステップST10~ステップST40、および、ステップST70の処理が行われていればよい。
さらに、眠気推定装置1bは、眠気関連情報に基づき、ノイズ要因センシングの発生を検知した場合は、眠気スコアを補正するようにする。眠気推定装置1bは、眠気スコアを補正した場合は、補正後眠気スコアに基づき、ドライバの眠気を推定する。
そのため、眠気推定装置1bは、ドライバの眠気を推定するにあたり、ドライバがノイズ要因行動をとっていることにより当該ドライバの眠気の推定精度が低下することを防ぐことができるとともに、より詳細には、ドライバの眠気を推定するにあたり、ノイズとなる特徴量がドライバの眠気の推定に用いられることによってドライバの眠気の推定精度が低下するのを防ぎ、精度の高い眠気推定を行うことができるとともに、ドライバの眠気の過推定を防ぐことができる。
実施の形態3において、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18の機能は、処理回路1001により実現される。すなわち、眠気推定装置1bは、撮像装置2から取得した撮像画像に基づいて、ドライバがノイズ要因行動をとっていることに起因して算出される特徴量を除いた特徴量を眠気推定用特徴量としてドライバの眠気を推定する制御を行い、撮像画像に基づき取得した眠気関連情報に基づいて眠気スコアを補正する制御を行うための処理回路1001を備える。
処理回路1001は、メモリ1005に記憶されたプログラムを読み出して実行することにより、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18の機能を実行する。すなわち、眠気推定装置1bは、処理回路1001により実行されるときに、上述の図7のステップST10~ステップST50、ステップST60が結果的に実行されることになるプログラムを格納するためのメモリ1005を備える。また、メモリ1005に記憶されたプログラムは、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18の手順または方法をコンピュータに実行させるものであるとも言える。
眠気推定装置1bは、撮像装置2等の装置と、有線通信または無線通信を行う入力インタフェース装置1002および出力インタフェース装置1003を備える。
これに限らず、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられるものとして、車載装置とサーバとで眠気推定システムを構成するようにしてもよい。
また、センシング部11と、第一ノイズ要因検知部12と、特徴量算出部13と、眠気スコア算出部14と、眠気推定部15と、スコア補正部17と、第三ノイズ要因検知部18が全部サーバに備えられてもよい。
図10は、実施の形態1に係る眠気推定装置1、実施の形態2に係る眠気推定装置1a、および、実施の形態3に係る眠気推定装置1bの構成を組み合わせた眠気推定装置1cの構成例を示す図である。
図11は、実施の形態1に係る眠気推定装置1、実施の形態2に係る眠気推定装置1a、および、実施の形態3に係る眠気推定装置1bの構成を組み合わせた眠気推定装置1cの動作を説明するためのフローチャートである。
センシング部11が取得した眠気関連情報から第一ノイズ要因検知部12がノイズ要因行動を検知する元となった眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、乗員の眠気を推定するための眠気推定用特徴量を算出する特徴量算出部13と、特徴量算出部13が算出した眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部14と、眠気スコア算出部14が算出した眠気スコアに基づき、乗員の眠気を推定する眠気推定部15に加え、移動体(例えば車両)に関連する移動体情報(車両情報)に基づき、乗員(例えばドライバ)に対し眠気を発生させにくいと想定されるノイズ要因走行状態を検知する第二ノイズ要因検知部16と、センシング部11が取得した眠気関連情報に基づき、センシング部11が乗員の眠気に関連する状態を誤検知したことにより眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知する第三ノイズ要因検知部18と、第二ノイズ要因検知部16がノイズ要因走行状態を検知した場合、または、第三ノイズ要因検知部18がノイズ要因センシングの発生を検知した場合、ノイズ要因走行状態またはノイズ要因センシングの発生に基づいて眠気スコア算出部14が算出した眠気スコアを補正するスコア補正部17を備え、眠気推定部15は、スコア補正部17が補正した後の補正後眠気スコアに基づき、乗員の眠気を推定するように構成することができる。
これにより、眠気推定装置1cは、乗員の眠気を推定するにあたり、乗員がノイズ要因行動をとっていることにより当該乗員の眠気の推定精度が低下することを防ぐことができるとともに、より詳細には、乗員の眠気を推定するにあたり、ノイズとなる特徴量が乗員の眠気の推定に用いられることによって乗員の眠気の推定精度が低下するのを防ぎ、精度の高い眠気推定を行うことができるとともに、乗員の眠気の過推定を防ぐことができる。
例えば、スコア補正ルールには、「ノイズ要因走行状態が検知された場合、眠気スコアを「0.5」倍し、ノイズ要因センシングの発生が検知された場合、眠気スコアを「0.5」倍する。ノイズ要因走行状態とノイズ要因センシングの発生の両方が検知された場合、ノイズ要因走行状態に対応する倍率(すなわち「0.5」)とノイズ要因センシングの発生に対応する倍率(すなわち「0.5」)を積算した値で眠気スコアを補正する」とのルールが設定される。
また、例えば、スコア補正ルールには、「ノイズ要因走行状態が検知された場合、眠気スコアを「0.5」倍し、ノイズ要因センシングの発生が検知された場合、眠気スコアを「0.5」倍する。ノイズ要因走行状態とノイズ要因センシングの発生の両方が検知された場合、ノイズ要因走行状態およびノイズ要因センシングに対して設定された重みに応じて眠気スコアを補正する」とのルールが設定されてもよい。
どのようなノイズ要因走行状態およびノイズ要因センシングであった場合に、それぞれ、どのような重みを付与するかは、予め管理者等によって決められている。
これにより、眠気推定装置1cは、眠気スコアの補正効果をより高めることができる。
Claims (14)
- 移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部と、
前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部と、
前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出する特徴量算出部と、
前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部と、
前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定する眠気推定部
とを備え、
前記ノイズ要因行動は、下方視を含み、
前記第一ノイズ要因検知部は、時系列の前記眠気関連情報に基づき、前記乗員の視線方向が下方視判定用期間で下方視判定用角度以上、下方に変化した場合に前記乗員による前記下方視があったと検知する
ことを特徴とする眠気推定装置。 - 移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部と、
前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部と、
前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出する特徴量算出部と、
前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部と、
前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定する眠気推定部と、
前記移動体に関連する移動体情報に基づき、前記乗員に対し前記眠気を発生させにくいと想定される前記移動体の走行状態であるノイズ要因走行状態を検知する第二ノイズ要因検知部と、
前記第二ノイズ要因検知部が前記ノイズ要因走行状態を検知した場合、前記眠気スコア算出部が算出した前記眠気スコアを補正するスコア補正部を備え、
前記眠気推定部は、前記スコア補正部が、前記眠気スコア算出部が算出した前記眠気スコアを補正した場合は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定する
ことを特徴とする眠気推定装置。 - 前記ノイズ要因走行状態は、前記移動体が低速走行をしている状態、前記移動体の走行中におけるウィンカー使用頻度が多い状態、前記移動体におけるブレーキの使用頻度が多い状態、または、前記移動体におけるハンドル舵角の変化が大きい状態を含む
ことを特徴とする請求項2記載の眠気推定装置。 - 移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部と、
前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部と、
前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出する特徴量算出部と、
前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部と、
前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定する眠気推定部と、
前記センシング部が取得した前記眠気関連情報に基づき、前記センシング部が前記乗員の前記眠気に関連する状態を誤検知したことにより前記眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知する第三ノイズ要因検知部と、
前記第三ノイズ要因検知部が前記ノイズ要因センシングの発生を検知した場合、前記眠気スコア算出部が算出した前記眠気スコアを補正するスコア補正部を備え、
前記眠気推定部は、前記スコア補正部が、前記眠気スコア算出部が算出した前記眠気スコアを補正した場合は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定する
ことを特徴とする眠気推定装置。 - 前記第三ノイズ要因検知部は、前記センシング部によって、長い連続閉眼の状態であると判定され得る前記眠気関連情報が取得されている場合、または、瞬き回数が多いと判定され得る前記眠気関連情報が取得されている場合、前記ノイズ要因センシングが発生したと検知する
ことを特徴とする請求項4記載の眠気推定装置。 - 移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するセンシング部と、
前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知する第一ノイズ要因検知部と、
前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出する特徴量算出部と、
前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出する眠気スコア算出部と、
前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定する眠気推定部と、
前記移動体に関連する移動体情報に基づき、前記乗員に対し前記眠気を発生させにくいと想定される前記移動体の走行状態であるノイズ要因走行状態を検知する第二ノイズ要因検知部と、
前記センシング部が取得した前記眠気関連情報に基づき、前記センシング部が前記乗員の前記眠気に関連する状態を誤検知したことにより前記眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知する第三ノイズ要因検知部と、
前記第二ノイズ要因検知部が前記ノイズ要因走行状態を検知した場合、または、前記第三ノイズ要因検知部が前記ノイズ要因センシングの発生を検知した場合、前記ノイズ要因走行状態または前記ノイズ要因センシングの発生に基づいて前記眠気スコア算出部が算出した前記眠気スコアを補正するスコア補正部を備え、
前記眠気推定部は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定する
ことを特徴とする眠気推定装置。 - 前記スコア補正部は、
前記第二ノイズ要因検知部が前記ノイズ要因走行状態を検知し、かつ、前記第三ノイズ要因検知部が前記ノイズ要因センシングの発生を検知した場合、前記ノイズ要因走行状態および前記ノイズ要因センシングに対して設定された重みに応じて前記眠気スコアを補正する
ことを特徴とする請求項6記載の眠気推定装置。 - 前記特徴量算出部は、
前記第一ノイズ要因検知部が検知した前記ノイズ要因行動に関するノイズ要因行動情報に基づき、前記センシング部が取得した前記眠気関連情報のうち、前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を、前記眠気推定用特徴量の算出にあたり除外対象となる前記眠気関連情報として、当該眠気関連情報に除外対象フラグを付与するセンシング結果選択部を備え、
前記センシング部が取得した前記眠気関連情報から前記センシング結果選択部が前記除外対象フラグを付与した前記眠気関連情報を除外することで前記ノイズ要因除去後眠気関連情報を特定し、特定した前記ノイズ要因除去後眠気関連情報に基づき、前記眠気推定用特徴量を算出する
ことを特徴とする請求項1、請求項2、請求項4、または、請求項6のうちのいずれか1項記載の眠気推定装置。 - 前記特徴量算出部は、
前記第一ノイズ要因検知部が検知した前記ノイズ要因行動に関するノイズ要因行動情報に基づき、前記センシング部が取得した前記眠気関連情報のうちから前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後の前記眠気関連情報を、前記ノイズ要因除去後眠気関連情報として選択するセンシング結果選択部を備え、
前記センシング結果選択部が選択した前記ノイズ要因除去後眠気関連情報に基づき、前記眠気推定用特徴量を算出する
ことを特徴とする請求項1、請求項2、請求項4、または、請求項6のうちのいずれか1項記載の眠気推定装置。 - 前記移動体の前記乗員は、車両のドライバである
ことを特徴とする請求項1、請求項2、請求項4、または、請求項6のうちのいずれか1項記載の眠気推定装置。 - センシング部が、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するステップと、
第一ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知するステップと、
特徴量算出部が、前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出するステップと、
眠気スコア算出部が、前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出するステップと、
眠気推定部が、前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定するステップとを備え、
前記ノイズ要因行動は、下方視を含み、
前記第一ノイズ要因検知部は、時系列の前記眠気関連情報に基づき、前記乗員の視線方向が下方視判定用期間で下方視判定用角度以上、下方に変化した場合に前記乗員による前記下方視があったと検知する
ことを特徴とする眠気推定方法。 - センシング部が、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するステップと、
第一ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知するステップと、
特徴量算出部が、前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出するステップと、
眠気スコア算出部が、前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出するステップと、
眠気推定部が、前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定するステップと、
第二ノイズ要因検知部が、前記移動体に関連する移動体情報に基づき、前記乗員に対し前記眠気を発生させにくいと想定される前記移動体の走行状態であるノイズ要因走行状態を検知するステップと、
スコア補正部が、前記第二ノイズ要因検知部が前記ノイズ要因走行状態を検知した場合、前記眠気スコア算出部が算出した前記眠気スコアを補正するステップを備え、
前記眠気推定部は、前記スコア補正部が、前記眠気スコア算出部が算出した前記眠気スコアを補正した場合は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定する
ことを特徴とする眠気推定方法。 - センシング部が、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するステップと、
第一ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知するステップと、
特徴量算出部が、前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出するステップと、
眠気スコア算出部が、前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出するステップと、
眠気推定部が、前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定するステップと、
第三ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記センシング部が前記乗員の前記眠気に関連する状態を誤検知したことにより前記眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知するステップと、
スコア補正部が、前記第三ノイズ要因検知部が前記ノイズ要因センシングの発生を検知した場合、前記眠気スコア算出部が算出した前記眠気スコアを補正するステップを備え、
前記眠気推定部は、前記スコア補正部が、前記眠気スコア算出部が算出した前記眠気スコアを補正した場合は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定することを特徴とする眠気推定方法。 - センシング部が、移動体の乗員の顔を撮像した撮像画像のフレームに基づき、フレーム毎に、前記乗員の眠気に関連する状態を示す眠気関連情報を取得するステップと、
第一ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記乗員による、前記眠気に起因する行動と類似する、目の動きを伴う行動であるノイズ要因行動、を検知するステップと、
特徴量算出部が、前記センシング部が取得した前記眠気関連情報から前記第一ノイズ要因検知部が前記ノイズ要因行動を検知する元となった前記眠気関連情報を除外した後のノイズ要因除去後眠気関連情報、に基づき、前記乗員の前記眠気を推定するための眠気推定用特徴量を算出するステップと、
眠気スコア算出部が、前記特徴量算出部が算出した前記眠気推定用特徴量を用いて眠気スコアを算出するステップと、
眠気推定部が、前記眠気スコア算出部が算出した前記眠気スコアに基づき、前記乗員の前記眠気を推定するステップと、
第二ノイズ要因検知部が、前記移動体に関連する移動体情報に基づき、前記乗員に対し前記眠気を発生させにくいと想定される前記移動体の走行状態であるノイズ要因走行状態を検知するステップと、
第三ノイズ要因検知部が、前記センシング部が取得した前記眠気関連情報に基づき、前記センシング部が前記乗員の前記眠気に関連する状態を誤検知したことにより前記眠気関連情報を誤取得したと推定される事象であるノイズ要因センシングの発生を検知するステップと、
スコア補正部が、前記第二ノイズ要因検知部が前記ノイズ要因走行状態を検知した場合、または、前記第三ノイズ要因検知部が前記ノイズ要因センシングの発生を検知した場合、前記ノイズ要因走行状態または前記ノイズ要因センシングの発生に基づいて前記眠気スコア算出部が算出した前記眠気スコアを補正するステップを備え、
前記眠気推定部は、前記スコア補正部が補正した後の補正後眠気スコアに基づき、前記乗員の前記眠気を推定する
ことを特徴とする眠気推定方法。
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/JP2023/024104 WO2025004257A1 (ja) | 2023-06-29 | 2023-06-29 | 眠気推定装置および眠気推定方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2025004257A1 JPWO2025004257A1 (ja) | 2025-01-02 |
| JP7843933B2 true JP7843933B2 (ja) | 2026-04-10 |
Family
ID=93937975
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2025529114A Active JP7843933B2 (ja) | 2023-06-29 | 2023-06-29 | 眠気推定装置および眠気推定方法 |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP7843933B2 (ja) |
| WO (1) | WO2025004257A1 (ja) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008212298A (ja) | 2007-03-01 | 2008-09-18 | Toyota Central R&D Labs Inc | 眠気判定装置及びプログラム |
| JP2011125620A (ja) | 2009-12-21 | 2011-06-30 | Toyota Motor Corp | 生体状態検出装置 |
| JP2011229741A (ja) | 2010-04-28 | 2011-11-17 | Toyota Motor Corp | 眠気度推定装置および眠気度推定方法 |
| JP2016115118A (ja) | 2014-12-15 | 2016-06-23 | アイシン精機株式会社 | 下方視判定装置および下方視判定方法 |
| WO2019159229A1 (ja) | 2018-02-13 | 2019-08-22 | 三菱電機株式会社 | 誤検出判定装置及び誤検出判定方法 |
-
2023
- 2023-06-29 JP JP2025529114A patent/JP7843933B2/ja active Active
- 2023-06-29 WO PCT/JP2023/024104 patent/WO2025004257A1/ja not_active Ceased
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008212298A (ja) | 2007-03-01 | 2008-09-18 | Toyota Central R&D Labs Inc | 眠気判定装置及びプログラム |
| JP2011125620A (ja) | 2009-12-21 | 2011-06-30 | Toyota Motor Corp | 生体状態検出装置 |
| JP2011229741A (ja) | 2010-04-28 | 2011-11-17 | Toyota Motor Corp | 眠気度推定装置および眠気度推定方法 |
| JP2016115118A (ja) | 2014-12-15 | 2016-06-23 | アイシン精機株式会社 | 下方視判定装置および下方視判定方法 |
| WO2019159229A1 (ja) | 2018-02-13 | 2019-08-22 | 三菱電機株式会社 | 誤検出判定装置及び誤検出判定方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| JPWO2025004257A1 (ja) | 2025-01-02 |
| WO2025004257A1 (ja) | 2025-01-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6998564B2 (ja) | 覚醒度推定装置及び覚醒度推定方法 | |
| Schmidt et al. | Eye blink detection for different driver states in conditionally automated driving and manual driving using EOG and a driver camera | |
| EP2564777B1 (en) | Method for classification of eye closures | |
| US11430231B2 (en) | Emotion estimation device and emotion estimation method | |
| US20090322506A1 (en) | Method and apparatus for driver state detection | |
| CN114872713A (zh) | 一种驾驶员异常驾驶状态监测装置和方法 | |
| JP7550879B2 (ja) | 睡眠検出装置及び睡眠検出システム | |
| JP2021037216A (ja) | 閉眼判定装置 | |
| JP7192668B2 (ja) | 覚醒度判定装置 | |
| JP7046748B2 (ja) | 運転者状態判定装置および運転者状態判定方法 | |
| WO2023017595A1 (ja) | 乗員状態判定装置、乗員状態判定方法、および、乗員状態判定システム | |
| US11501561B2 (en) | Occupant monitoring device, occupant monitoring method, and occupant monitoring program | |
| JP7843933B2 (ja) | 眠気推定装置および眠気推定方法 | |
| JP2013518341A (ja) | 車両用物体衝突警報システムおよび車両用物体衝突警報方法 | |
| CN110979340A (zh) | 车辆及其控制方法和装置 | |
| US10945651B2 (en) | Arousal level determination device | |
| JP7612118B2 (ja) | 眠気推定装置および眠気推定方法 | |
| JP7704008B2 (ja) | 運転者状態判定方法及びその装置 | |
| JP2024162514A (ja) | 開閉眼推定装置、開閉眼推定方法及びプログラム | |
| JP2023027699A (ja) | ドライバー状態判定装置 | |
| JP7843946B2 (ja) | 運転支援装置および運転支援方法 | |
| JP7812001B2 (ja) | 開瞼度検出装置、開瞼度検出方法、および眠気判定システム | |
| JP7747776B2 (ja) | 基準値作成装置、覚醒度推定装置、および、基準値作成方法 | |
| WO2025248687A1 (ja) | 覚醒度検出装置、運転支援システム、および覚醒度検出方法 | |
| JP7546815B2 (ja) | 脇見判定装置および脇見判定方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20250423 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20251014 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20251212 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20260303 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20260331 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7843933 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |