JP7745831B2 - 運転者状態判定方法及びその装置 - Google Patents
運転者状態判定方法及びその装置Info
- Publication number
- JP7745831B2 JP7745831B2 JP2021184711A JP2021184711A JP7745831B2 JP 7745831 B2 JP7745831 B2 JP 7745831B2 JP 2021184711 A JP2021184711 A JP 2021184711A JP 2021184711 A JP2021184711 A JP 2021184711A JP 7745831 B2 JP7745831 B2 JP 7745831B2
- Authority
- JP
- Japan
- Prior art keywords
- driver
- closed
- abnormal state
- abnormal
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Traffic Control Systems (AREA)
Description
眠気レベルや覚醒不良状態を含めた運転者の異常状態は、通常、カメラ等の撮像手段によって取得された運転者の頭部姿勢や顔状態等の頭部関連情報を介して判定される。
頭部関連情報のうち頭部姿勢は、例えば、運転者の顔向きや頭部位置(三次元座標)等を介して検出され、顔状態は、例えば、運転者の表情や目の開度状態(瞼状態)等を介して検出されている。
しかし、特許文献1のドライバ監視装置では、撮像条件が成立した撮像条件成立時であるにも拘らず、運転者の異常状態を判定することができない虞がある。
しかし、運転者が、脳疾患(脳梗塞や脳卒中等)に起因した眼瞼痙攣等の顔面神経麻痺を発症した場合、一方の目が開眼で他方の目が閉眼とされる状態が発生し得る。
それ故、運転者の片目閉眼状態が撮像手段によって撮像されたうえで正確に検出されたとしても、この検知された片目閉眼状態の取得を運転者の疾患の徴候であると一義的に見做すことはできない。即ち、運転者の異常状態を高精度に判定することは容易ではない。
前記運転者異常状態判定工程は、前記運転者の左右両目が閉眼状態であって前記運転者による運転不操作状態が第1所定時間継続した場合、前記運転者が異常状態であると判定するため、異常時徴候と異常時動作の2つの異常判定条件によって運転者の異常状態を高精度に判定することができる。前記運転者異常状態判定工程は、前記運転者の片目が閉眼状態であって前記運転者に対して運転を阻害しない特定操作が要求されても第2所定時間内に前記特定操作が検出されない場合、前記運転者が異常状態であると判定するため、車両の運転に支障を与えることなく片目閉眼状態における運転者の異常状態を運転者の実際の操作に基づき確実に判定することができる。
この構成によれば、左右両目が開眼状態ではない状況において、運転者の異常状態を一層確実に判定することができる。
この構成によれば、異常姿勢をパラメータとして運転者の異常状態を確実且つ早期に判定することができる。
前記運転者異常状態判定手段は、前記運転者の左右両目が閉眼状態であって前記運転者による運転不操作状態が第1所定時間継続した場合、前記運転者が異常状態であると判定するため、異常時徴候と異常時動作の2つの異常判定条件によって運転者の異常状態を高精度に判定することができる。前記運転者異常状態判定手段は、前記運転者の片目が閉眼状態であって前記運転者に対して運転を阻害しない特定操作が要求されても第2所定時間内に前記特定操作が検出されない場合、前記運転者が異常状態であると判定するため、車両の運転に支障を与えることなく片目閉眼状態における運転者の異常状態を確実に判定することができる。
以下の説明は、本発明を車両の運転者状態判定装置に適用したものを例示したものであり、本発明、その適用物、或いは、その用途を制限するものではない。
運転者状態判定装置Mは、運転者の意識状態、特に運転者が運転する車両(以下、自車両ともいう)の運転操作が困難な異常状態を判定すると共に、運転者の異常状態が判定された場合、自律的に緊急停車可能な運転支援装置である。
以下、運転者の異常状態とは、運転者が意識的に覚醒しておらず且つ身体的に姿勢が崩れて運転操作が不可能な覚醒不良状態(疾患発症や居眠を含む)として説明する。
また、以下の説明は、運転者状態判定方法の説明を含むものである。
図1に示すように、検出手段1は、運転者を撮像するカメラ11と、車両の速度を検出する車速センサ12と、ステアリングホイール(図示略)の操作による操舵角度を検出する舵角センサ13と、運転者によるステアリングホイールの把持を検出する把持センサ14と、アクセルペダル(図示略)の踏込量を検出するアクセルセンサ15と、ブレーキペダル(図示略)の踏込量を検出するブレーキセンサ16と、ハザードランプ(図示略)を作動させるハザードスイッチ17等を備えている。各センサ12~16が、所定タイミング、所謂判定時直前である現時点の運転操作量を取得する運転操作量取得手段に相当している。
このカメラ11は、運転席に着座してシートベルトを着用した運転者の顔面を含む頭部を前方正面から撮像可能に形成されている。撮像された頭部画像は、運転者の顔面部分の画像を切り出して、顔面の指向方向(顔向方向)、運転者の表情の特定、目のアイリス(虹彩)を拡大検出して視線向方向、瞼部分を拡大検出して運転者の左右の目の眼開度や開閉状態、運転者の頭部(重心)の三次元座標位置等を検出可能に構成されている。
カメラ11は、少なくとも、必要な撮像画像を取得できれば良く、前方正面カメラと運転席の真上に設置した上方カメラの2つのカメラ、或いは3以上のカメラを搭載しても良い。
図1に示すように、運転者支援装置2は、運転者に対して警戒状態を報知する監視支援装置21と、車両に対して制動動作を行わせる制動支援装置22と、車両に対して緊急停車動作を行わせる停車支援装置23等から構成されている。
この監視支援装置21は、ECU3から脇見信号又は居眠推定信号を受信した場合、車室内に設けた1又は複数のスピーカ(図示略)から運転者に対して警報を発生する。
図2に示すように、インスツルメントパネルに配置された速度メータ部21aには、警報を表示可能な表示部21bが設けられている。監視支援装置21は、ECU3から脇見信号又は居眠推定信号を受信した場合、表示部21bに、例えば「前方注意」の警報を表示する。
図3に示すように、制動支援装置22は、自車両が先行する他車両Bに対して自車両A1の位置まで接近したとき、スピーカから運転者に対して警報を発生する。
他車両Bと自車両A1との離隔距離は、通常であれば運転者が自身の運転操作(手動操作)で衝突を回避することができる時間(例えば、0.8sec)に対応した距離である。
制動支援装置22は、自車両が先行する他車両Bに対して更に自車両A2の位置まで接近したとき、自動的に緊急制動する。他車両Bと自車両A2との離隔距離は、最大制動力相当の緊急制動により衝突を回避することができる限界距離である。
図4に示すように、停車支援装置23は、自車両X1の位置で両目閉眼状態に対応した居眠推定信号を受信したとき、スピーカを作動させて警報を発生し、自車両X2の位置で運転不操作状態等に対応した居眠確定信号を受信している。以下、特に説明がない場合、両目閉眼状態のとき、単に閉眼状態とし、片目のみ閉眼状態のとき、片目閉眼状態とする。
次に、自車両X3のとき、それまで運転者によるマニュアル運転であっても自動運転を開始する。自動運転を開始した自車両は、路肩等の安全地帯に移動した後、自車両X4の位置において自律緊急停車される。
ECU3は、異常時の運転者の徴候(以下、異常時徴候)と、異常時の運転者の身体的状態(以下、異常時状態)と、異常時の運転者の動作(以下、異常時動作)とを用いて夫々の判定を行っている。このECU3は、CPU(Central Processing Unit)と、ROMと、RAMと、イン側インタフェイスと、アウト側インタフェイス等によって構成されている。ROMには、ブレーキ制御や表示制御等種々のプログラムやデータが格納され、RAMには、CPUが一連の処理を行う際に使用される処理領域が設けられている。
頭部姿勢崩れが判定されたとき、第1カウンタC1のカウント値に1が代入される。第1カウンタC1の初期値は0である。
この眼状態判定部32は、例えば、カメラ11によって撮像した運転者の上下の瞼を夫々検出し、両瞼の縁間の画素数に基づいて運転者の左右夫々の目の開眼度を検出する。
検出された左右夫々の目の開眼度が、何れも所定の判定閾値以上の場合、開眼状態であると判定され、検出された左右夫々の目の開眼度が、何れも所定の判定閾値未満の場合、閉眼状態であると判定される。
運転者の左右両目について閉眼状態が判定されたとき、第2カウンタC2のカウント値に1が代入される。第2カウンタC2の初期値は0である。
脇見判定部33aは、運転者の顔向方向情報、視線向方向情報及び車両情報から運転者が脇見であるか否かを判定すると共に、運転者が脇見であると判定された場合、監視支援装置21と制動支援装置22に脇見信号を出力する。
運転者のヨー方向視線向のカウント値がヨー方向閾値の範囲外になったとき、運転者が脇見であることを判定する。ヨー方向閾値は、車速或いは車両走行時の曲率半径に応じて変更される。また、運転者のピッチ方向視線向のカウント値がピッチ方向閾値の範囲外になったとき、運転者が脇見であることを判定する。ピッチ方向閾値は、車速に応じて変更される。
各視線向方向情報の信頼度が低く、各視線向が無効の場合には、ヨー方向及びピッチ方向の顔向方向情報で夫々補間される。ヨー方向及びピッチ方向の顔向方向情報の信頼度が低く、各顔向が無効の場合には、有効な前回の視線向で補間している。
居眠判定部33bは、閉眼継続時間及び車両情報等から運転者が居眠りであるか否かを判定すると共に、運転者が居眠りであると推定された場合、居眠推定信号を監視支援装置21と制動支援装置22と停車支援装置23に出力し、運転者が居眠りであると確定された場合、居眠確定信号を停車支援装置23に出力する。尚、この居眠判定では、両目が閉眼された閉眼状態を用いて判定している。
また、居眠判定部33bは、居眠警報後に車両が一定車速以上で走行している状況において、運転者の連続閉眼時間が所定の時間閾値を超えた場合、又は連続閉眼且つ運転不操作状態が時間閾値を超えた場合、居眠状態を確定する。
異常判定部33cは、運転者が閉眼状態且つ頭部姿勢崩れである場合、又は運転者が頭部姿勢崩れ且つ運転不操作状態である場合、運転者による車両の運転操作が困難である異常状態であると判定している。
これにより、車両の運転に支障を与えることなく片目閉眼状態における運転者の異常状態を判定している。
また、このような特定操作は、例えば、スピーカによる音声指示や、表示部21bの表示、例えば、「ハザードスイッチ17を押してください」或いは「ハンドルを僅かに右に操作してください」等、によって車両側から運転者に対して要求される。
尚、Si(i=1,2…)は、各処理のためのステップを示す。
S2では、少なくとも運転者の片目が閉眼であるか否かについて判定する。
S2の判定の結果、少なくとも運転者の片目が閉眼である場合、何らかの理由で運転者が目を閉じた状態であるため、S3に移行する。S2の判定の結果、少なくとも運転者の片目が閉眼ではない場合、左右両目共に開眼状態であるため、リターンする。
S3の判定の結果、運転者が片目閉眼状態の場合、覚醒良好状態と覚醒不良状態の何れの状態における片目閉眼状態なのか識別ができていないため、S4に移行する。
S3の判定の結果、運転者が片目閉眼状態ではない場合、左右両目が閉眼状態であるため、S7に移行する。
S5では、特定操作の実行要求後、第2所定時間T2内に運転者により特定操作が実行されたか否かについて判定する。
S8では、第2カウンタC2のカウント値が第2判定閾値L2以上か否かについて判定する。S8の判定の結果、第2カウンタC2のカウント値が第2判定閾値L2以上の場合、左右両目共に閉眼状態であり、疾患発症や居眠が推定されるため、S9に移行する。
S8の判定の結果、第2カウンタC2のカウント値が第2判定閾値L2未満の場合、現状では疾患発症や居眠を推定することができないため、リターンする。
S9では、警報を発生した後、S10に移行する。
第1判定条件は、以下の3条件である。
(1)運転者の頭部姿勢が異常状態である
(2)運転者による運転不操作が第1所定時間T1継続している
(3)運転者の閉眼が一定時間継続している
これらの3条件が全て成立したとき、第1判定条件が成立する。
S11の判定の結果、キャンセル信号が発生した場合、運転者がキャンセル信号発生操作を行ったため、第1,第2カウンタC1,C2のカウント値に0を夫々代入した後(S12)、リターンする。S11の判定の結果、キャンセル信号が発生しない場合、運転者が警報をキャンセル信号発生操作をできないため、S6に移行する。
本実施形態では、ハザードスイッチ17がオン操作された場合、キャンセル信号が出力される。キャンセル信号の出力より、警報が停止され、異常状態判定を停止する。
Si(i=21,22…)は、各処理のためのステップを示す。
S22では、運転者の頭部姿勢が崩れているか否か判定する。
S22の判定の結果、運転者の頭部姿勢が崩れている場合、異常時状態であるため、S23に移行する。S22の判定の結果、運転者の頭部姿勢が崩れていない場合、異常時状態ではないため、リターンする。
S23の判定の結果、運転操作が適切である場合、運転者が意図的に崩れた姿勢で運転しているため、リターンする。S23の判定の結果、運転操作が不適切(運転不操作状態)である場合、S24に移行する。運転操作の判定は、ステアリングホイール、アクセル、ブレーキのうち少なくとも1以上で検出する。本実施形態では、ステアリングホイールの操作を用いて判定している。
S24の判定の結果、車両速度が判定閾値以上の場合、車両は走行しているにも拘らず運転者による運転操作がないため、現在の第1カウンタC1のカウント値に1を追加した後(S25)、S26に移行する。S24の判定の結果、車両速度が判定閾値未満の場合、車両が既に停車又は徐行しているため、リターンする。
S26の判定の結果、第1カウンタC1のカウント値が第1判定閾値L1以上の場合、運転者の目の状態に拘らず異常状態が推定されているため、S27に移行する。
S26の判定の結果、第1カウンタC1のカウント値が第1判定閾値L1未満の場合、現状では異常状態が推定できないため、リターンする。
S28では、警報を停止するためのキャンセル信号が発生したか否か判定する。
S28の判定の結果、キャンセル信号が発生した場合、運転者がキャンセル信号の発生操作を行ったため、第1,第2カウンタC1,C2のカウント値に夫々0を代入した後(S29)、リターンする。S28の判定の結果、キャンセル信号が発生しない場合、運転者がハザードスイッチ17によってキャンセル信号の発生操作をできないため、S30に移行する。S30では、異常時シーケンス制御を実行した後、リターンする。このS30では、第1,第2カウンタC1,C2のカウント値に夫々0を代入する。
本運転者状態判定方法によれば、運転者の左右両目の開閉状態を検出する開閉眼判定工程S2,S3と、所定タイミングにおける運転者による車両の操作機器に対する運転操作量の少なくとも1つを取得する運転操作量取得工程S1と、運転者が異常状態か否かを判定する運転者異常状態判定工程S5,S10,S11とを有するため、異常時徴候である閉眼と異常時動作である運転不操作とを運転者の異常状態の判定条件にすることができる。
運転者異常状態判定工程S10,S11は、運転者の左右両目が閉眼状態であって運転者による運転不操作状態が第1所定時間継続T1した場合、運転者が異常状態であると判定するため、異常時徴候と異常時動作の2つの異常判定条件によって運転者の異常状態を高精度に判定することができる。運転者異常状態判定工程S5は、運転者の片目が閉眼状態であって運転者に対して運転を阻害しない特定操作が要求されても第2所定時間T2内に特定操作が検出されない場合、運転者が異常状態であると判定するため、車両の運転に支障を与えることなく片目閉眼状態における運転者の異常状態を運転者の実際の操作に基づき確実に判定することができる。
異常判定部33cは、運転者の左右両目が閉眼状態であって運転者による運転不操作状態が第1所定時間T1継続した場合、運転者が異常状態であると判定するため、異常時徴候と異常時動作の2つの異常判定条件によって運転者の異常状態を高精度に判定することができる。異常判定部33cは、運転者の片目が閉眼状態であって運転者に対して運転を阻害しない特定操作が要求されても第2所定時間T2内に特定操作が検出されない場合、運転者が異常状態であると判定するため、車両の運転に支障を与えることなく片目閉眼状態における運転者の異常状態を運転者の実際の操作に基づき確実に判定することができる。
1〕前記実施形態においては、運転者の片目が閉眼状態の際、第2所定時間T2内に特定操作が検出されない場合、運転者が異常状態であると判定する例を説明したが、上記判定条件の他に、カメラ11で取得された運転者の頭部姿勢が異常姿勢で且つ運転者の片目が閉眼状態であって、運転者による運転不操作状態が第1所定時間T1よりも短い第3所定時間T3継続した場合、運転者が異常状態であると判定する判定条件を追加しても良い。
これにより、異常姿勢をパラメータとして運転者の異常状態を確実且つ早期に判定することができる。
11 カメラ
32 眼状態判定部
33c 異常判定部
M 運転者状態判定装置
Claims (4)
- 車両の運転者の異常状態を検出する運転者状態判定方法において、
前記運転者の左右両目の開閉状態を検出する開閉眼判定工程と、
所定タイミングにおける前記運転者による前記車両の操作機器に対する運転操作量の少なくとも1つを取得する運転操作量取得工程と、
前記運転者が異常状態か否かを判定する運転者異常状態判定工程とを有し、
前記運転者異常状態判定工程は、
前記運転者の左右両目が閉眼状態であって前記運転者による運転不操作状態が第1所定時間継続した場合、前記運転者が異常状態であると判定し、
前記運転者の片目が閉眼状態であって前記運転者に対して運転を阻害しない特定操作が要求されても第2所定時間内に前記特定操作が検出されない場合、前記運転者が異常状態であると判定する
ことを特徴とする運転者状態判定方法。 - 前記運転者異常状態判定工程は、前記運転者の左右両目が閉眼状態である場合及び片目が閉眼状態である場合に報知することを特徴とする請求項1に記載の運転者状態判定方法。
- 前記運転者の顔向きと頭部位置を取得する頭部姿勢取得工程を有し、
前記運転者異常状態判定工程は、
前記頭部姿勢取得工程で取得された前記運転者の頭部姿勢が異常姿勢で且つ前記運転者の片目が閉眼状態であって、前記運転者による運転不操作状態が第1所定時間よりも短い第3所定時間継続した場合、前記運転者が異常状態であると判定することを特徴とする請求項1又は2に記載の運転者状態判定方法。 - 車両の運転者の異常状態を検出する運転者状態判定装置において、
前記運転者の左右両目の開閉状態を検出する開閉眼判定手段と、
所定タイミングにおける前記運転者による前記車両の操作機器に対する運転操作量の少なくとも1つを取得する運転操作量取得手段と、
前記運転者が異常状態か否かを判定する運転者異常状態判定手段とを有し、
前記運転者異常状態判定手段は、
前記運転者の左右両目が閉眼状態であって前記運転者による運転不操作状態が第1所定時間継続した場合、前記運転者が異常状態であると判定し、
前記運転者の片目が閉眼状態であって前記運転者に対して運転を阻害しない特定操作が要求されても第2所定時間内に前記特定操作が検出されない場合、前記運転者が異常状態であると判定することを特徴とする運転者状態判定装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021184711A JP7745831B2 (ja) | 2021-11-12 | 2021-11-12 | 運転者状態判定方法及びその装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021184711A JP7745831B2 (ja) | 2021-11-12 | 2021-11-12 | 運転者状態判定方法及びその装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023072271A JP2023072271A (ja) | 2023-05-24 |
| JP7745831B2 true JP7745831B2 (ja) | 2025-09-30 |
Family
ID=86424507
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021184711A Active JP7745831B2 (ja) | 2021-11-12 | 2021-11-12 | 運転者状態判定方法及びその装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7745831B2 (ja) |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2018128834A (ja) | 2017-02-08 | 2018-08-16 | トヨタ自動車株式会社 | ドライバ状態検出装置 |
-
2021
- 2021-11-12 JP JP2021184711A patent/JP7745831B2/ja active Active
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2018128834A (ja) | 2017-02-08 | 2018-08-16 | トヨタ自動車株式会社 | ドライバ状態検出装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2023072271A (ja) | 2023-05-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5527411B2 (ja) | 車両の緊急退避装置 | |
| CN107640152B (zh) | 一种车道保持辅助系统的可靠性控制装置及方法 | |
| US10572746B2 (en) | Apparatus detecting driving incapability state of driver | |
| JP6331875B2 (ja) | 車載制御装置 | |
| CN111311963B (zh) | 驾驶员的驾驶不能状态检测装置 | |
| JP5288045B2 (ja) | 車両の緊急退避装置 | |
| US10503987B2 (en) | Apparatus detecting driving incapability state of driver | |
| CN112829767B (zh) | 一种基于监测驾驶员误操作的自动驾驶控制系统及方法 | |
| JP2016045714A (ja) | 車載制御装置 | |
| JP6593486B2 (ja) | 車載制御装置及び車載システム | |
| JP2002254956A (ja) | 覚醒状態低下検知装置 | |
| JP2017219885A (ja) | 乗員状態監視装置 | |
| JP7704008B2 (ja) | 運転者状態判定方法及びその装置 | |
| JP7046748B2 (ja) | 運転者状態判定装置および運転者状態判定方法 | |
| JP7745831B2 (ja) | 運転者状態判定方法及びその装置 | |
| JP7745830B2 (ja) | 運転者状態判定方法及びその装置 | |
| JP2019087018A (ja) | ドライバモニタシステム | |
| JP7745829B2 (ja) | 運転者状態判定方法及びその装置 | |
| JP2023027699A (ja) | ドライバー状態判定装置 | |
| US20260034991A1 (en) | Vehicle controller, method, and computer program for vehicle control | |
| JP2023072272A (ja) | 車両の乗員支援方法及びその装置 | |
| WO2024149603A1 (en) | System and method for estimation of eye gaze direction of a user with or without eyeglasses | |
| WO2025115202A1 (ja) | 乗員状態検知装置、乗員状態検知プログラム及び乗員状態検知方法 | |
| WO2025203626A1 (ja) | 乗員監視装置、車両制御システム、乗員監視方法、及びプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240917 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20250430 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250527 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250714 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250818 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250831 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7745831 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |