JP2019166968A - 状態判定装置、及び状態判定プログラム - Google Patents

状態判定装置、及び状態判定プログラム Download PDF

Info

Publication number
JP2019166968A
JP2019166968A JP2018056139A JP2018056139A JP2019166968A JP 2019166968 A JP2019166968 A JP 2019166968A JP 2018056139 A JP2018056139 A JP 2018056139A JP 2018056139 A JP2018056139 A JP 2018056139A JP 2019166968 A JP2019166968 A JP 2019166968A
Authority
JP
Japan
Prior art keywords
abnormality
driver
state
driving
detection unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018056139A
Other languages
English (en)
Other versions
JP2019166968A5 (ja
JP6848912B2 (ja
Inventor
幸泰 吉村
Yukiyasu Yoshimura
幸泰 吉村
寛 森本
Hiroshi Morimoto
寛 森本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2018056139A priority Critical patent/JP6848912B2/ja
Priority to DE112019001487.0T priority patent/DE112019001487T5/de
Priority to PCT/JP2019/007188 priority patent/WO2019181380A1/ja
Publication of JP2019166968A publication Critical patent/JP2019166968A/ja
Publication of JP2019166968A5 publication Critical patent/JP2019166968A5/ja
Priority to US17/026,059 priority patent/US11077859B2/en
Application granted granted Critical
Publication of JP6848912B2 publication Critical patent/JP6848912B2/ja
Priority to US17/355,234 priority patent/US11760359B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09Driving style or behaviour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/254Fusion techniques of classification results, e.g. of results related to same input data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/254Fusion techniques of classification results, e.g. of results related to same input data
    • G06F18/256Fusion techniques of classification results, e.g. of results related to same input data of results relating to different input data, e.g. multimodal recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/809Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of classification results, e.g. where the classifiers operate on the same input data
    • G06V10/811Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of classification results, e.g. where the classifiers operate on the same input data the classifiers operating on different input data, e.g. multi-modal recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0818Inactivity or incapacity of driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0872Driver physiology
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/221Physiology, e.g. weight, heartbeat, health or special needs
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/223Posture, e.g. hand, foot, or seat position, turned or inclined
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/225Direction of gaze
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Transportation (AREA)
  • Automation & Control Theory (AREA)
  • Mechanical Engineering (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】ドライバの運転困難状態の誤検知が低減可能な状態判定装置等の提供。【解決手段】統合ECU100は、ドライバが運転困難状態になったことを判定する状態判定装置として機能する。統合ECU100は、ドライバにおける状態の異常を検出するドライバ異常検知部71と、ドライバによって入力される運転操作の異常及び車両の走行状態の異常の少なくとも一方を検出する補完異常検知部72とを備えている。ドライバが運転困難状態であると判定するデッドマン判定部75は、ドライバ異常検知部71にてドライバの状態の異常が単独で検出されただけでは運転困難状態とは判定しない。デッドマン判定部75は、ドライバの状態の異常に加えて、運転操作及び走行状態の少なくとも一方の異常が補完異常検知部72にて検出された場合に、ドライバが運転困難状態であると判定する。【選択図】図2

Description

この明細書による開示は、ドライバの運転困難状態を判定する状態判定の技術に関する。
従来、例えば特許文献1には、ドライバが運転困難な状態に陥った場合に、車両を自動減速又は自動停止させる等の運転支援を実施する運転支援装置が開示されている。特許文献1では、ドライバの状態として、運転姿勢、心拍状態及び呼吸状態等がドライバ状態検出センサによって把握される。そして、車両ECUの機能要素である状態判定部は、ドライバ状態検出センサから伝達される情報に基づき、ドライバが運転困難状態であるか否かを判定する。
特許第5919150号公報
特許文献1のように、ドライバが運転困難状態であるとの判定結果は、自動減速及び自動停止等の緊急動作を開始するか否かのトリガに用いられる。故に、運転困難状態の誤検知は、許容され難い。しかし、特許文献1では、例えば正常な状態にあるドライバの姿勢崩れ等が生じた場合でも、こうした運転姿勢の変化に基づき、運転困難状態であると誤判定される虞があった。
本開示は、ドライバの運転困難状態の誤検知を低減可能な状態判定装置及び状態判定プログラムの提供を目的とする。
上記目的を達成するため、開示された一つの態様は、車両を運転するドライバが運転困難状態になったことを判定する状態判定装置であって、ドライバにおける状態の異常を検知するドライバ異常検知部(71)と、ドライバによって入力される運転操作の異常、及び車両の走行状態の異常の少なくとも一方を検知する補完異常検知部(72)と、ドライバ異常検知部にてドライバの状態の異常が単独で検知されただけでは運転困難状態とは判定せず、ドライバの状態の異常に加えて、運転操作及び走行状態の少なくとも一方の異常が補完異常検知部にて検知された場合に、ドライバが運転困難状態であると判定する統合判定部(75)と、を備える状態判定装置とされる。
また開示された一つの態様は、車両を運転するドライバが運転困難状態になったことを判定する状態判定プログラムであって、少なくとも一つの処理部(60)を、ドライバにおける状態の異常を検知するドライバ異常検知部(71)、ドライバによって入力される運転操作の異常、及び車両の走行状態の異常の少なくとも一方を検知する補完異常検知部(72)、ドライバ異常検知部にてドライバの状態の異常が単独で検知されただけでは運転困難状態とは判定せず、ドライバの状態の異常に加えて、運転操作及び走行状態の少なくとも一方の異常が補完異常検知部にて検知された場合に、ドライバが運転困難状態であると判定する統合判定部(75)、として機能させる状態判定プログラムとされる。
これらの態様の統合判定部は、ドライバにおける状態の異常が単独で検知されただけでは、運転困難状態とは判定しない。こうしたドライバの状態の異常に加えて、運転操作及び走行状態の少なくとも一方の異常がさらに検知された場合に、統合判定部は、ドライバが運転困難状態であると判定する。以上によれば、正常な状態にあるドライバの姿勢崩れ等が運転困難状態と混同される事態は、生じ難くなる。したがって、ドライバの運転困難状態の誤検知が低減可能となる。
尚、上記括弧内の参照番号は、後述する実施形態における具体的な構成との対応関係の一例を示すものにすぎず、技術的範囲を何ら制限するものではない。
車両に搭載された運転支援システムの全体像を示すブロック図である。 統合ECUに実装された多数の機能を示す図である。 ドライバ異常系及び運転操作異常系の各項目の関連を示す第一関連マトリックスの詳細を示す図である。 運転操作異常系及び走行状態異常系の各項目の関連を示す第二関連マトリックスの詳細を示す図である。 デッドマン判定処理の詳細を示すフローチャートである。 変形例1でのデッドマン判定処理の詳細を示すフローチャートである。 変形例2でのデッドマン判定処理の詳細を示すフローチャートである。
図1及び図2に示す本開示の一実施形態による状態判定装置の機能は、統合ECU100によって実現されている。統合ECU(Electronic Control Unit)100は、車両に搭載された運転支援システム10において用いられ、運転支援システム10の中核をなす演算装置である。運転支援システム10は、ドライバが体調異常状態となり、運転の継続が困難となった場合に、減速停止型の異常時対応システムとして作動する。
運転支援システム10は、統合ECU100によってドライバの運転困難状態を推定し、緊急走行を開始する。ドライバの運転困難状態とは、所謂デッドマンの状態であり、あらかじめ予測困難な体調急変となり、正常に運転可能な状態への復帰が困難な状態を示す。例えば、ドライバの脇見及び漫然等は、体調の急変ではないため、検出対象となる運転困難状態(デッドマン)には該当しない。また、ドライバの居眠りは、体調の急変に起因し得たとしても、正常に運転可能な状態に復帰できるため、検出対象となる運転困難状態(デッドマン)に該当しなくてもよい。
運転支援システム10には、直接的又は間接的に統合ECU100と電気接続された複数の車載機器20が含まれている。加えて運転支援システム10は、応力付与ECU41、車線逸脱警報ECU43、車間警報ECU45、走行制御ECU50等を、上述の統合ECU100と共に備えている。
車載機器20には、車速センサ21、シートベルトセンサ22、ナビゲーション装置23、Gセンサ24、座面センサ25、アクセルセンサ26及び舵角センサ27等が含まれている。加えて車載機器20には、ドライバカメラ28、前方カメラ29、後方カメラ30、前方/後方センサ31、ヨーレートセンサ32、ステア把持状態センサ33及びブレーキセンサ34等が含まれている。
車速センサ21は、車両の速度に対応する情報として、車輪の回転速度を検出するセンサである。シートベルトセンサ22は、運転席のシートベルトの送り出し及び巻き取りを行うモータの回転角度を検出するエンコーダである。ナビゲーション装置23は、GNSS(Global Navigation Satellite System)受信機及び地図データベース等を含む構成である。ナビゲーション装置23は、GNSS受信機により受信された測位信号等に基づき、車両の現在位置を特定する。ナビゲーション装置23は、自車両の現在位置と、自車両の走行予定経路を含む現在位置周囲の地図データとを、統合ECU100に提供する。
Gセンサ24は、車両に作用する加速度を検出するセンサである。座面センサ25は、運転席のシート座面の圧力分布を検出するセンサである。アクセルセンサ26は、アクセルペダルの踏み込み量(アクセル開度)を検出するセンサである。舵角センサ27は、ステアリングの操舵方向及び操舵量(操舵角)を検出するセンサである。
ドライバカメラ28は、近赤外光源及び近赤外カメラと、これらを制御する制御ユニット等とによって構成されている。ドライバカメラ28は、近赤外カメラを運転席側に向けた姿勢にて、例えばインスツルメントパネルの上面等に配置されている。ドライバカメラ28は、運転者の状態監視のため、近赤外光源によって近赤外光を照射された運転者の上半身を近赤外カメラで撮影する。ドライバカメラ28は、主にドライバの首よりも上の頭部を撮影し、撮影した顔画像を統合ECU100へ向けて逐次出力する。
前方カメラ29は、車両の進行方向(前方)を撮影するカメラである。後方カメラ30は、車両の後方を撮影するカメラである。前方/後方センサ31は、ミリ波レーダ、ライダ及び超音波センサ等であって、車両の前方及び後方の物体までの距離を検出する。ヨーレートセンサ32は、車両に作用するヨーレートを検出するセンサである。ステア把持状態センサ33は、ステアリングホイールのリム部分に設置されており、ドライバによるステアリングホイールの把持状態を検出する。ブレーキセンサ34は、アクセルペダルの踏み込み量又は操作速度を検出するセンサである。
応力付与ECU41は、アクセルセンサ26、舵角センサ27及びブレーキセンサ34に加えて、ペダルアクチュエータ35及び操舵アクチュエータ36と電気的に接続されている。ペダルアクチュエータ35は、アクセルペダル及びブレーキペダルのそれぞれに設けられており、各ペダルに反力を付与可能である。操舵アクチュエータ36は、ステアリングシャフトに反力を付与可能である。
応力付与ECU41は、各アクチュエータ35,36によって付与した反力に対するドライバの反応に基づき、ドライバが運転操作を正しく実施可能か否かを診断する。加えて応力付与ECU41は、診断機能の一つとして、アクセルペダル及びブレーキペダルの操作力の低下を検知する機能を備えている。ペダル操作力の低下検知機能は、ペダルアクチュエータ35によって印加した反力へのドライバの反応の悪化、例えば操作遅れの増加及び過大な操作の入力等に基づき、ペダル操作力の低下を検知する。応力付与ECU41は、ペダル操作力の低下検知機能による検知結果を、統合ECU100に提供する。
車線逸脱警報ECU43は、車両の白線またぎを検知する機能を備えた電子制御ユニットである。車線逸脱警報ECU43は、走行中の車線を区画している白線(区画線)を検知する白線検知センサ37と電気的に接続されている。車線逸脱警報ECU43は、白線をまたぐような車両挙動を検知した場合に、警告音又は警告表示によってドライバへの注意喚起を行う。加えて車線逸脱警報ECU43は、白線またぎの検知結果を統合ECU100に提供する。尚、前方カメラ29又は後方カメラ30が白線検知センサ37を兼ねていてもよい。或いは前方/後方センサ31に含まれたライダが白線検知センサ37を兼ねていてもよい。
車間警報ECU45は、短い車間距離の継続を検知する機能を備えた電子制御ユニットである。車間警報ECU45は、車間距離を計測する車間距離センサ38と電気的に接続されている。車間警報ECU45は、前走車に過度に接近した状態での走行が継続するような場合に、警告音又は警告表示によってドライバへの注意喚起を行う。加えて車間警報ECU45は、短い車間距離の継続を検知した場合に、その検知結果を統合ECU100に提供する。尚、前方カメラ29又は前方/後方センサ31が車間距離センサ38を兼ねていてもよい。
以上の応力付与ECU41、車線逸脱警報ECU43及び車間警報ECU45の各作動は、ドライバの操作によって手動でオフ状態に切り替え可能である。例えば、応力付与ECU41による反力の付与は、操作系の操作感を変化させてしまう。故にドライバは、各アクチュエータ35,36による反力付与を煩わしく感じる場合に、応力付与ECU41をオフ状態にできる。同様に、車線逸脱警報ECU43及び車間警報ECU45は、予備的な注意喚起を行う傾向にある。故に、警告音及び警告表示を煩わしく感じる場合、ドライバは、これらの作動をオフ状態にできる。
走行制御ECU50は、プロセッサ部、RAM、メモリ装置、及び入出力インターフェース等を有するコンピュータを主体に構成された電子制御ユニットである。走行制御ECU50は、走行制御プログラムを処理部によって実行することにより、車両の走行を統合的に制御する。走行制御ECU50は、駆動ユニット51、自動ブレーキ装置52、自動操舵装置53、警報装置54、前照灯55及び方向指示器56等と電気的に接続されている。
駆動ユニット51は、エンジン、変速機及びモータジェネレーター等を含む構成である。駆動ユニット51は、車両を走行させるための駆動力を発生させる。自動ブレーキ装置52は、前方カメラ29、前方/後方センサ31及び車間距離センサ38等の検出結果に基づき、ドライバのブレーキ操作に依存すること無く、車両にブレーキ力を作用させる。自動操舵装置53は、車線に沿って車両が走行するように、ステアリングの操舵制御を実施する。警報装置54は、警告音又は警告表示によってドライバへの注意喚起、警報及び警告を行う。前照灯55は、車両の進行方向を向けて設置された照明装置である。方向指示器56は、右左折や進路変更の際に、車両の移動方向を周囲に報知する装置である。
以上の走行制御ECU50は、車線逸脱防止機能及び路外逸脱防止機能を有しており、実質的な自律走行を可能にする。走行制御ECU50は、統合ECU100による運転困難状態の発生判定に基づき、駆動ユニット51、自動ブレーキ装置52及び自動操舵装置53の協調制御により、車両を徐々に減速させたうえで、特定のスペースに停止させる。加えて走行制御ECU50は、運転困難状態の発生時に警報装置54及び方向指示器56を用いて、周囲を走行する車両への注意喚起を行う。
統合ECU100は、車両を運転するドライバが運転困難状態になったことを判定する機能を備えた電子制御ユニットである。統合ECU100は、運転困難状態の判定のために、ドライバ異常、運転操作異常及び車両状態異常を検知する。ドライバ異常は、運転操作を除くドライバの状態の異常であり、ドライバカメラ28で撮像した画像に基づき検知される。運転操作異常は、ドライバの運転操作行動についての異常であり、主に各ペダル及びステアリングの操作情報に基づいて検知される。車両状態異常は、ドライバの運転操作の結果引き起こされる車両挙及び走行状態についての異常であり、主に車速情報又は車外の各カメラ29,30に基づいて検知される。
統合ECU100は、プロセッサ部61、RAM62、メモリ装置63及び入出力インターフェースを有する制御回路60を主体に構成されている。プロセッサ部61には、CPU(Central Processing Unit)に加えて、GPU(Graphics Processing Unit)等が含まれていてもよい。さらに、プロセッサ部61には、FPGA(Field-Programmable Gate Array)、並びにAI(Artificial Intelligence)の学習及び推論に特化した専用のアクセラレータ等が設けられていてもよい。
メモリ装置63には、プロセッサ部61によって実行される種々のプログラムが格納されている。メモリ装置63に記憶された複数のプログラムには、デッドマン判定を行うための状態判定プログラムが含まれている。統合ECU100は、状態判定プログラムをプロセッサ部61によって実行することにより、ドライバ異常検知部71、補完異常検知部72及びデッドマン判定部75等の機能部を有する。
ドライバ異常検知部71は、主にドライバカメラ28によって撮像されたドライバの顔画像の画像解析に基づき、ドライバ異常系の検知を行う。こうしたドライバ異常系には、運転姿勢に関連した異常と、生体情報に関連した異常とが含まれる。運転操作に関連した異常は、ドライバ異常系には含まれない。ドライバ異常検知部71は、運転姿勢に関連した異常の検知機能として、つっぷし姿勢検知機能、横倒れ姿勢検知機能、硬直姿勢検知機能及びステアリングの非把持の検知機能を有している。加えてドライバ異常検知部71は、生体情報に関連した異常の検知機能として、白目検知機能及び脈波異常検知機能を有している。各検知機能は、特定のドライバ状態異常を検知する検知処理を実行する。
つっぷし姿勢検知機能は、ドライバ姿勢のつっぷし状態を検知する。つっぷし状態におけるドライバの頭部は、正常な運転姿勢よりも下向きの姿勢角で前下方に移動している。つっぷし姿勢検知機能は、ドライバカメラ28による顔画像の解析によって頭部の位置及び姿勢角を特定し、ドライバのつっぷし状態を検知する。
横倒れ姿勢検知機能は、ドライバ姿勢の横倒れ状態を検知する。横倒れ状態におけるドライバの頭部は、正常な運転姿勢よりも横向きの姿勢角で横下方に移動している。横倒れ姿勢検知機能は、ドライバカメラ28による顔画像の解析によって頭部の位置及び姿勢角を特定し、ドライバの横倒れ状態を検知する。
ここで、上述のつっぷし状態又は横倒れ状態により、ドライバの頭部は、ドライバカメラ28の撮影範囲からフレームアウトし得る。こうした状況は、シートベルトセンサ22及び座面センサ25の情報に基づき、判別可能である。つっぷし姿勢検知機能及び横倒れ姿勢検知機能は、座面センサ25によってドライバが検知され、且つ、シートベルが極端に引き出されている状況にて、ドライバの異常を検知する。
硬直姿勢検知機能は、ドライバの体が硬直した硬直状態を検知する。一例として、失神等の意識障害によって硬直状態にあるドライバでは、正常時よりも頭部の揺れの振幅が小さくなる。硬直姿勢検知機能は、ドライバカメラ28による顔画像の解析によって頭部の挙動を分析し、ドライバの硬直状態を検知する。
ステアリングの非把持検知機能は、ステアリングホイールが把持されない状態を検知する。非把持検知機能は、ステア把持状態センサ33の検出信号の解析により、ドライバによるステアリングホイールの把持状態が、正常として予め規定された把持状態に相当するか否かを判定する。非把持検知機能は、現在の把持状態が正常な把持状態から乖離している場合を、ステアリングホイールの非把持状態として検知する。
白目検知機能は、ドライバの白目をむいた状態を検知する。白目をむいた状態では、黒目領域の見かけ上の扁平率が大きくなる。白目検知機能は、ドライバカメラ28の画像解析によって黒目領域の偏平率を演算し、特定の閾値を超えた場合に白目の状態として検知する。
脈波異常検知機能は、ドライバの脈波の異常を検知する。脈波は、心臓のポンプ作用によって生じる動脈系圧波動の伝播である。脈波が血管を伝播する時間(脈波伝播時間)と血圧変動との間には、相関関係が存在する。故に、脈波に基づくことで、ドライバの異常な血圧変動が推定可能となる。脈波異常検知機能は、ドライバカメラ28の顔画像から抽出した輝度情報に基づき、ドライバの脈波に関する状態、ひいては血圧をモニタリングし、正常値からの乖離によって異常を検知する。
尚、ドライバ異常検知部71は、生体情報に関連した異常として、心拍数の異常及び呼吸の異常等を検知してもよい。一例として、心拍数は、ステアリングホイールに内蔵されたステア把持状態センサ33による検知信号を用いて把握可能である。また呼吸の状態は、座面センサ25の検出信号の変化を解析する処理によって把握可能である。
補完異常検知部72は、ドライバ異常には含まれない他の系統の異常として、上述の運転操作異常及び車両状態異常の検知を行う。補完異常検知部72は、車載機器20から取得した情報に基づく異常検知処理と、上述の各ECU41,43,45から出力される検出信号であって、異常操作又は異常走行を示す検出信号を用いた異常検知処理とを行うことができる。補完異常検知部72は、操作異常検知部73及び走行異常検知部74を含む構成である。
操作異常検知部73は、運転操作異常系の検知を行う。操作異常検知部73は、ドライバ異常検知部71によってドライバ状態の異常が検知された場合に、運転操作の異常を検知する検知処理を開始する。こうした運転操作異常系として、複数の異常操作が予め規定されている。操作異常検知部73は、特定の異常操作を検知する検知処理をそれぞれ実行可能な複数の検知機能を有している。
具体的に、操作異常検知部73は、運転操作異常系の検知機能として、ステアふらつき操作検知機能、ステア操作力低下検知機能、ブレーキ操作量異常検知機能、目視移動固着検知機能、アクセル操作異常検知機能等を有している。加えて操作異常検知部73は、応力付与ECU41のペダル操作力低下検知機能による検知結果の取得により、アクセルペダル及びブレーキペダルの操作力低下を異常操作として検知可能である。
ステアふらつき操作検知機能は、ドライバによって入力されるふらつき操作を検知する。ふらつき操作は、車線内における車両の左右位置を周期的に変化させる操作である。ステアふらつき操作検知機能は、舵角センサ27等の情報からステアリングホイールの操作量を分析し、ドライバのふらつき操作を検知する。
ステア操作力低下検知機能は、車速センサ21及び舵角センサ27等の情報に基づき、ドライバによってステアリングホイールに入力されている操舵操作の安定度の低下を検知する。具体的に、ステア操作力低下検知機能は、一定車速で走行中にて、操舵が滑らかに行われたと仮定した場合の現在の操舵角を推定し、推定値と実際の現在値との誤差を検出する。そして、誤差の分布がばらついており、ステアリング操作がステップ的な場合に、ステア操作力低下検知機能は、ステア操作力の低下を検知する。
ブレーキ操作量異常検知機能は、車速センサ21、前方カメラ29、前方/後方センサ31及びブレーキセンサ34等の情報に基づき、ドライバによってブレーキペダルに入力されているブレーキ操作の異常を検知する。ブレーキ操作量異常検知機能は、ブレーキ操作の通常の操作速度を、車速及び車間距離に関連付けて学習している。ブレーキ操作量異常検知機能は、ブレーキセンサ34にて検出されたブレーキ操作速度が、学習された通常のブレーキ操作速度から乖離している場合に、ブレーキ操作の異常状態を検知する。
目視移動固着検知機能は、前方カメラ29及びドライバカメラ28等の情報に基づき、運転者の目視位置を特定し、目視移動の固着を異常として検知する。具体的に、目視移動固着検知機能は、ドライバカメラ28による顔画像から、目の輪郭と黒目の中心位置とを検出し、これらの位置関係から視線の方向を検出する。そして、前方カメラ29に写る対象物に視線が追従していないような場合に、目視移動固着検知機能は、目視移動の固着を検知する。
アクセル操作異常検知機能は、車速センサ21、アクセルセンサ26及び前方/後方センサ31等の情報に基づき、アクセルペダルを踏みっぱなしでいるような不自然なアクセル操作を、異常として検知する。一例としてアクセル操作異常検知機能は、正常運転状態及び異常運転状態の各々における次時刻のアクセル開度を推定し、実際に次時刻にて検出されたアクセル開度を各推定値と比較する。こうした比較の結果、実際のアクセル開度が通常運転状態の推定値よりも異常運転状態の推定値に近い場合に、アクセル操作異常検知機能は、アクセル操作の異常を検知する。
走行異常検知部74は、車両状態異常系の検知を行う。走行異常検知部74は、操作異常検知部73によって運転操作の異常が検知された場合に、走行状態の異常を検知する検知処理を開始する。こうした車両状態異常系として、複数の異常な走行状態が予め規定されている。走行異常検知部74は、特定の車両異常走行を検知する検知処理を実行可能な複数の検知機能を有している。
具体的に、走行異常検知部74は、車両状態異常系の検知機能として、車両進行方向の揺れ検知機能、長時間の速度超過検知機能、高速道路での異常低速検知機能及び衝突検知機能等を有している。加えて走行異常検知部74は、車線逸脱警報ECU43の白線またぎ検知機能による検知結果、及び車間警報ECU45の短い車間距離の継続検知機能による検知結果の取得により、これらの異常走行を検知可能である。
車両進行方向の揺れ検知機能は、車両の進行方向に沿った成分の加速度をGセンサ24の検出結果より抽出し、当該加速度の一回微分によってジャークを算出する。そして、ジャークの絶対値が一定値(例えば10m/s^3)以上となった回数をカウントし、所定時間のうちに一定回数(例えば4回/5s)以上のカウントがなされた場合に、揺れ検知機能は、異常として検知する。
長時間の速度超過検知機能は、ナビゲーション装置23から、現在走行している道路の制限速度を取得する。そして、車速センサ21の示す車速と制御速度との差分について、一定値(例えば20km/h)以上超過となっている状態が一定時間(例えば5s)以上継続した場合に、速度超過検知機能は、異常として検知する。
高速道路での異常低速検知機能は、ナビゲーション装置23より提供される地図データから、現在走行している道路が高速道路か否かの情報を抽出する。そして、高速道路を走行している場合に異常低速検知機能は、車速センサ21の示す車速を用いて、異常な低速状態を検知する。一例として、一定値(例えば60km/h)未満となっている状態が一定時間(例えば5s)以上継続した場合に、異常低速検知機能は、異常として検知する。
衝突検知機能は、Gセンサ24の情報に基づき、衝突発生を示す急激な加速度の変化を異常として検知する。
デッドマン判定部75は、ドライバ異常検知部71及び補完異常検知部72の各検知結果をフュージョンさせる処理により、ドライバの運転困難状態(デッドマン)を判定する。デッドマン判定部75は、ドライバ異常検知部71によるドライバ異常系の検知、操作異常検知部73による運転操作異常系の検知、及び走行異常検知部74による車両状態異常系の検知を順に実施する。そして、ドライバ異常系の検知に加えて、運転操作異常系及び車両状態異常系の両方の検知があった場合に、デッドマン判定部75は、ドライバが運転困難状態であると判定する。換言すれば、デッドマン判定部75は、ドライバ異常系の状態異常が単独で検知されただけでは、運転困難状態とは判定しない。三種類の異常系の検知が特定の順序で実施されない場合でも、デッドマン判定部75は、運転困難状態とは判定しない。
デッドマン判定部75は、先ずドライバ異常系の検知機能のみを動作させ、異常が検知された場合には、検知された異常内容に因果関係(関連)のある運転操作異常系の検知機能を動作させる。さらに、デッドマン判定部75は、運転操作の異常が検知された場合には、検知された異常操作に因果関係(関連)のある走行状態異常系の検知機能を動作させる。
各異常系の各検知機能は、例えば図3及び図4に示す関連マトリックスによって互いに関連付けられている。詳記すると、図3に示す第一関連マトリックスでは、ドライバ異常系の各異常項目に、因果関係の想定される運転操作異常系の異常項目が少なくとも一つ以上関連付けられている。操作異常検知部73は、ドライバ異常が検知された場合に、予め規定された複数の異常操作の中から、検知された異常内容に関連した異常操作の検知処理を開始する。
一例として、つっぷし姿勢の検知には、ステアふらつき操作検知、アクセル操作異常検知及びペダル操作力低下検知が関連付けられている。横倒れ姿勢の検知には、ステアふらつき操作検知、アクセル操作異常検知及びペダル操作力低下検知が関連付けられている。硬直姿勢の検知には、ステア操作力低下検知、ブレーキ操作量異常検知、目視移動固着検知、アクセル操作異常検知機能及びペダル操作力低下検知が関連付けられている。白目の検知には、ステア操作力低下検知及びアクセル操作異常検知及びペダル操作力低下検知が関連付けられている。脈波異常の検知には、ステア操作力低下検知、目視移動固着検知、アクセル操作異常検知及びペダル操作力低下検知が関連付けられている。ステアリングの非把持の検知には、ステアふらつき操作検知及びステア操作力低下検知が関連付けられている。
図4に示す第二関連マトリックスでは、運転操作異常系の各異常項目に、因果関係の想定される車両状態異常系の異常項目が少なくとも一つ以上関連付けられている。走行異常検知部74は、運転操作異常が検知された場合に、予め規定された複数の異常走行の中から、検知された異常操作に関連した異常走行の検知処理を開始する。
一例として、ステアリングのふらつき操作検知及び操作力低下検知には、白線またぎ検知及び衝突検知が関連付けられている。ブレーキ操作量の異常検知には、車両進行方向の揺れ検知が関連付けられている。目視移動の固着検知には、短い車間距離の継続検知、白線またぎ検知及び衝突検知が関連付けられている。アクセル操作の異常検知には、車両進行方向の揺れ検知、短い車間距離の継続検知、長時間の速度超過検知及び衝突検知が関連付けられている。ペダル操作力の低下検知には、車両進行方向の揺れ検知、長時間の速度超過検知及び高速道路での異常低速検知が関連付けられている。
図1及び図2に示すように、デッドマン判定部75は、ドライバ異常検知部71及び補完異常検知部72の各検知機能の起動及び停止を統合的に制御する。デッドマン判定部75は、ドライバ異常検知部71によるドライバ異常系の各検知機能について、原則的に起動状態を維持させる。一方で、補完異常検知部72の各検知機能は、原則的に停止状態とされ、必定とされるタイミングにて、デッドマン判定部75によって起動される。
加えてデッドマン判定部75は、停止状態にある応力付与ECU41、車線逸脱警報ECU43及び車間警報ECU45を個別に起動可能である。上述したように、統合ECU100の外部の各ECU41,43,45は、ドライバの操作によって停止可能である。デッドマン判定部75は、ドライバ異常系又は運転操作異常系の検知があった場合に、停止状態にある各ECU41,43,45のうちで必要なECUを強制的に起動させる。
以上のデッドマン判定部75は、ドライバ異常検知部71にてドライバ異常系の検知があった場合、第一関連マトリックス(図3参照)を参照し、複数の異常操作の中から、検知された異常内容に関連する異常操作の検知機能を選択的に起動させる。さらに、デッドマン判定部75は、操作異常検知部73にて運転操作異常系の検知があった場合、第二関連マトリックス(図4参照)を参照し、複数の異常走行の中から、検知された異常操作に関連する異常走行の検知機能を選択的に起動させる。デッドマン判定部75は、外部の各41,43,45の各検知機能も、操作異常検知部73及び走行異常検知部74の各検知機能と同様に起動させる。加えて、デッドマン判定部75は、操作異常検知部73及び走行異常検知部74の各検知機能について、プロセッサ部61における実行優先度を上げる処理を実施する。操作異常検知部73及び走行異常検知部74の各検知機能は、検知処理の終了によって停止状態に遷移する。
ここまで説明した統合ECU100にて実施されるデッドマン判定処理の詳細を、図5に基づき、図1及び図2を参照しつつ説明する。図5に示すデッドマン判定処理は、例えば車両のイグニッションがオン状態に切り替えられたことに基づき開始され、イグニッションがオフ状態とされるまで繰り返される。
S101では、ドライバ異常系の検知を開始し、S102に進む。S101では、例えばドライバ異常検知部71の複数の検知機能が順に検知処理を実施する。S102では、S101にて実施された検知処理により、ドライバ異常系の異常を検知したか否かを判定する。S102にて、ドライバ異常系の検知が無いと判定した場合、S110に進む。一方で、S102にて、ドライバ異常系の検知があると判定した場合、S103に進む。
S103では、第一関連マトリックス(図3参照)を参照し、S101にて検知したドライバ異常系の異常内容に関連のある運転操作異常系の検知処理を開始し、S104に進む。S104では、運転操作異常系の異常を検知したか否かを判定する。S104にて、運転操作異常系の検知が無いと判定した場合、S109に進む。一方で、S104にて、運転操作異常系の検知があると判定した場合、S105に進む。
S105では、第一関連マトリックス(図4参照)を参照し、S103にて検知した運転操作異常系の異常操作に関連のある車両状態異常系(図4参照)の検知処理を開始し、S106に進む。S106では、車両状態異常系の異常を検知したか否かを判定する。S106にて、車両状態異常系の検知が無いと判定した場合、S108に進む。一方で、S106にて、車両状態異常系の検知があると判定した場合、S107に進む。S107では、ドライバの運転困難状態、即ちデッドマンを推定する。
一方、S108では、異常操作に関連する他の車両状態異常系の検知処理があるか否かを判定する。S108にて、他の関連する車両状態異常系の検知処理が無いと判定した場合、S109に進む。一方で、S108にて、他の関連する車両状態異常系の検知処理があると判定した場合、その検知処理を実行し、S106に戻る。そして、S106にて、異常走行を検知した場合、S107にて、デッドマンと推定する。
S109では、異常内容に関連する他の運転操作異常系の検知処理があるか否かを判定する。S109にて、他の関連する運転操作異常系の検知処理が無いと判定した場合、S110に進む。一方で、S109にて、他の関連する運転操作異常系の検知処理があると判定した場合、その検知処理を実行し、S104に戻る。そして、S104にて、異常操作を検知した場合、S105に進む。
S110では、未実施となっている他のドライバ異常系の検知処理があるか否かを判定する。S110にて、他のドライバ異常系の検知処理があると判定した場合、その検知処理を実行し、S102に戻る。一方で、S110にて、他のドライバ異常系の検知処理が無いと判定した場合、S111に進む。S111では、ドライバの正常状態、即ち非デッドマンを推定する。
ここまで説明した本実施形態のデッドマン判定部75は、ドライバ異常系の検知が単独であっただけでは、運転困難状態とは判定しない。デッドマン判定部75は、ドライバ異常系の検知に加えて、運転操作異常系及び車両状態異常系の検知があった場合に、ドライバが運転困難状態であると判定する。以上によれば、正常な状態にあるドライバの姿勢崩れ等が運転困難状態と混同される事態は、生じ難くなる。したがって、運転困難状態の誤検知が低減可能となる。
加えて本実施形態では、運転操作の異常及び車両状態の異常の両方が検知される。そして、デッドマン判定部75は、三系統の異常が単に検知されただけでは運転困難状態とは判定せず、ドライバ異常系の検知、運転操作異常系の検知、及び車両状態異常系の検知が想定した順序で行われた場合に限り、運転困難状態であると判定する。以上のような判定手法によれば、運転困難状態の誤検知は、いっそう発生し難くなる。
また本実施形態では、検知されたドライバ異常系の異常内容に基づき、この異常内容に関連する運転操作異常系の検知機能が起動される。加えて本実施形態では、検知された運転操作異常系の異常操作に基づき、この異常操作に関連する車両状態異常系の検知機能が起動される。以上のように、因果関係のある検知機能に限って選択的に実施すれば、誤検知を引き起こし易い他の検知処理の実施が回避される。故に、運転困難状態の判定精度は、いっそう向上可能となる。加えて、判定精度の向上に寄与しない検知機能が停止されたままであれば、統合ECU100の電力消費の低減及び重要な検知処理の優先的な実施等が可能になる。或いは、統合ECU100に必要とされる性能を低く設定することが可能になる。
さらに本実施形態のデッドマン判定部75は、停止状態にある外部の各ECU41,43,45を、ドライバ異常検知部71及び操作異常検知部73の検知結果に基づき、強制的に起動可能である。故に、ドライバによって各検知機能がオフ状態とされていても、各ECU41,43,45から検知結果を取得できなくなる事態は、回避され得る。以上によれば、外部の各ECU41,43,45の検知機能を利用して運転困難状態を判定する統合ECU100であっても、ドライバの異常時にて、デッドマン判定が適切に実施可能となる。また、外部の各ECU41,43,45の演算リソースを有効に活用することにより、運転困難状態の判定精度を確保しながら、統合ECU100に必要とされる演算処理のリソースが低減可能となる。
尚、上記実施形態では、応力付与ECU41,車線逸脱警報ECU43及び車間警報ECU45がそれぞれ「異常検知装置」に相当する。また、制御回路60が「処理部」に相当し、デッドマン判定部75が「統合判定部」に相当し、統合ECU100が「状態判定装置」に相当する。
(他の実施形態)
以上、本開示による一実施形態について説明したが、本開示は、上記実施形態に限定して解釈されるものではなく、本開示の要旨を逸脱しない範囲内において種々の実施形態及び組み合わせに適用することができる。
上記実施形態では、ドライバ異常、運転操作異常及び車両状態異常の順で検知処理が実施されていた。しかし、例えば、運転操作異常系の検知処理と車両状態異常系の検知処理とは、ドライバ異常系の検知処理と併行実施されていてもよい。その結果、これらの異常検知の前後関係は、入れ替わっていてもよい。一例として、状態判定装置は、運転操作異常及び車両状態異常が実質同時に検知された場合でも、運転困難状態と判定してもよい。
また状態判定装置は、例えば姿勢崩れ等のドライバ異常と、運転操作異常及び車両状態異常の一方とに基づき、運転困難状態を判定してもよい。
例えば、上記実施形態の変形例1では、補完異常検出部は、実質的に運転操作異常系の検知機能のみを有している。図6に示す変形例1のデッドマン判定処理では、ドライバ異常が検知された場合(S202:YES)に、運転操作異常系の検知処理が実施される(S203)。そして、運転操作異常がさらに検知された場合(S204:YES)に、ドライバがデッドマンであると推定される(S205)。
また上記実施形態の変形例2では、補完異常検出部は、実質的に車両状態異常系の検知機能のみを有している。図7に示す変形例2のデッドマン判定処理では、ドライバ異常が検知された場合(S302:YES)に、車両状態異常系の検知処理が実施される(S303)。そして、車両状態異常がさらに検知された場合(S304:YES)に、ドライバがデッドマンであると推定される(S305)。
さらに上記実施形態の変形例3では、補完異常検出部は、運転操作異常系の検知機能及び車両状態異常系の検知機能を、区別することなく有している。変形例3のデッドマン判定処理では、ドライバ異常が検知された場合に、ドライバ異常には含まれない補完異常系の検知処理が補完異常検出部にて行われる。そして、他の一つの異常がさらに検知された場合に、ドライバがデッドマンであると推定される。
尚、変形例1におけるS201,S206,S207,S208は、上記実施形態のS101,S109,S110,S111と実質同一である。また、変形例2におけるS301,S306,S307,S308は、上記実施形態のS101,S108,S110,S111と実質同一である。
ドライバ異常検知部、操作異常検知部及び走行異常検知部は、上記実施形態に記載の検知機能を全て備えていなくても良い。ドライバ異常検知部、操作異常検知部及び走行異常検知部は、それぞれ少なくとも一つの検知機能を備えていればよい。さらに、操作異常検知部及び走行異常検知部は、外部のECUの検知結果を単に取得し、当該検知結果を引用した検知を行うだけの構成であってもよい。このように、外部のECUとの協調を強化し、統合ECUでの処理をドライバ異常系の検知処理に特化させれば、処理最適化と精度向上とがさらに両立される。
上記実施形態に記載の検知機能の少なくとも一部は、機械学習によって学習された学習モデルを用いて、特定のドライバ異常、運転操作異常及び車両状態異常を検知してもよい。こうした学習モデルの利用によれば、個々の検知機能の精度の向上が可能となる。加えて、学習モデルを用いた検知には、プロセッサ部のリソースが消費され易い。故に、検知機能の休止による消費リソースの低減効果が、いっそう発揮される。
上記実施形態では、ドライバ異常検知部の検知機能は、原則的に起動状態とされていた。しかし、デッドマン判定部は、必要に応じて、ドライバ異常検知部の各検知機能の起動及び停止を行ってもよい。またデッドマン判定部は、補完異常検出部の検知機能の少なくとも一部を、起動状態に維持してもよい。この場合、デッドマン判定部は、当該検知機能の検知処理タスクについて、例えばオペレーションシステム上での実行優先度を、必要に応じて上げる制御を実施する。
上記実施形態では、二つの関連マトリックスに基づき、検知された異常項目に関連のある検知処理のみが選択的に起動されていた。しかし、デッドマン判定部は、検知されたドライバ状態の異常内容に係わらず、全ての運転操作異常系の検知処理を実施してもよい。また同様に、デッドマン判定部は、検知されたドライバの異常操作に係わらず、全ての車両状態異常系の検知処理を実施してもよい。さらに、関連マトリックスでは、ドライバ異常系の項目に、車両状態異常系の項目が関連付けられていてもよい。また、関連マトリックスにおいて互いに関連付けられる項目は、因果関係の想定根拠となるストーリーに応じて、適宜変更されてよい。
上記実施形態の統合ECUは、停止状態にある外部のECUを強制起動可能であった。しかし、少なくとも一部の外部ECUは、統合ECUによって強制起動されない構成であってもよい。さらに、統合ECUは、車両に搭載された種々の電子制御ユニットの検知結果、並びにドライバの所持する携帯端末及びウェアラブルデバイスの検知結果を、デッドマン判定に利用可能である。反対に、統合ECUは、全ての検知処理を自らの制御回路いて実施可能であってもよい。
上記実施形態にて、統合ECUより提供されていた状態判定装置の各機能は、例えばドライバカメラの制御ユニット等によって提供されてもよい。即ち、ドライバカメラの制御ユニットが、状態判定プログラムを実行する処理部であってもよい。さらに、状態判定装置の各機能は、統合ECUではなく、デッドマン判定専用の制御ユニットによって提供されてもよい。さらに、複数のECUが協働で状態判定装置の各機能を実現してもよい。
以上の各機能は、ソフトウェア及びそれを実行するハードウェア、ソフトウェアのみ、ハードウェアのみ、あるいはそれらの複合的な組合せによっても提供可能である。さらに、こうした機能がハードウェアである電子回路によって提供される場合、各機能は、多数の論理回路を含むデジタル回路、又はアナログ回路によっても提供可能である。
上記実施形態にて、状態判定プログラムを記憶していたメモリ装置には、種々の非遷移的実体的記憶媒体(non-transitory tangible storage medium)が採用可能である。こうした記憶媒体の形態も、適宜変更されてよい。例えば記憶媒体は、メモリカード等の形態であり、シート空調ECUに設けられたスロット部に挿入されて、制御回路に電気的に接続される構成であってよい。加えて、状態判定プログラムを記憶する記憶媒体は、車載される各構成の記憶媒体に限定されず、当該記憶媒体へのコピー元となる光学ディスク及び汎用コンピュータのハードディスクドライブ等であってもよい。
41 応力付与ECU(異常検知装置)、43 車線逸脱警報ECU(異常検知装置)、45 車間警報ECU(異常検知装置)、60 制御回路(処理部)、71 ドライバ異常検知部、72 補完異常検知部、73 操作異常検知部、74 走行異常検知部、75 デッドマン判定部(統合判定部)、100 統合ECU(状態検出装置)

Claims (11)

  1. 車両を運転するドライバが運転困難状態になったことを判定する状態判定装置であって、
    前記ドライバにおける状態の異常を検知するドライバ異常検知部(71)と、
    前記ドライバによって入力される運転操作の異常、及び前記車両の走行状態の異常の少なくとも一方を検知する補完異常検知部(72)と、
    前記ドライバ異常検知部にて前記ドライバの状態の異常が単独で検知されただけでは運転困難状態とは判定せず、前記ドライバの状態の異常に加えて、前記運転操作及び前記走行状態の少なくとも一方の異常が前記補完異常検知部にて検知された場合に、前記ドライバが運転困難状態であると判定する統合判定部(75)と、を備える状態判定装置。
  2. 前記補完異常検知部は、前記運転操作の異常及び前記走行状態の異常の両方を検知し、
    前記統合判定部は、前記ドライバの状態の異常に加えて、前記運転操作及び前記走行状態の両方の異常が検知された場合に、前記ドライバが運転困難状態であると判定する請求項1に記載の状態判定装置。
  3. 前記補完異常検知部は、
    前記ドライバ異常検知部によって前記ドライバの状態の異常が検知された場合に、前記運転操作の異常を検知する処理を開始する操作異常検知部(73)と、
    前記操作異常検知部によって前記運転操作の異常が検知された場合に、前記走行状態の異常を検知する処理を開始する走行異常検知部(74)と、を含む請求項1又は2に記載の状態判定装置。
  4. 前記統合判定部は、前記ドライバの状態の異常の後に前記操作異常検知部によって異常操作が検知され、当該異常操作が検知された後に前記走行異常検知部によって異常走行が検知された場合に、前記ドライバが運転困難状態であると判定する請求項3に記載の状態判定装置。
  5. 前記操作異常検知部は、前記ドライバの状態の異常が検知された場合に、前記運転操作について予め規定された複数の異常操作の中から、前記ドライバ異常検知部にて検知された異常内容に関連した異常操作の検知処理を開始する請求項3又は4に記載の状態判定装置。
  6. 前記走行異常検知部は、前記運転操作の異常が検知された場合に、前記走行状態について予め規定された複数の異常走行の中から、前記操作異常検知部にて検知された異常操作に関連した異常走行の検知処理を開始する請求項3〜5のいずれか一項に記載の状態判定装置。
  7. 前記統合判定部は、前記走行異常検知部のうちで前記操作異常検知部にて検知された異常操作に関連する異常走行の検知機能を起動させるか、又は当該検知機能の実行優先度を上げる請求項6に記載の状態判定装置。
  8. 前記統合判定部は、前記操作異常検知部のうちで前記ドライバ異常検知部にて検知された異常内容に関連する異常操作の検知機能を起動させるか、又は当該検知機能の実行優先度を上げる請求項5〜7のいずれか一項に記載の状態判定装置。
  9. 前記補完異常検知部は、前記車両に搭載された異常検知装置(41,43,45)から出力される異常操作又は異常走行を示す検知信号を取得し、当該検知信号を用いて異常操作又は異常走行の検知を行う請求項1〜8のいずれか一項に記載の状態判定装置。
  10. 前記異常検知装置の作動は、前記ドライバによって停止可能であり、
    前記統合判定部は、前記ドライバ異常検知部によって前記ドライバの状態の異常が検知された場合に、停止状態にある前記異常検知装置を起動させる請求項9に記載の状態判定装置。
  11. 車両を運転するドライバが運転困難状態になったことを判定する状態判定プログラムであって、
    少なくとも一つの処理部(60)を、
    前記ドライバにおける状態の異常を検知するドライバ異常検知部(71)、
    前記ドライバによって入力される運転操作の異常、及び前記車両の走行状態の異常の少なくとも一方を検知する補完異常検知部(72)、
    前記ドライバ異常検知部にて前記ドライバの状態の異常が単独で検知されただけでは運転困難状態とは判定せず、前記ドライバの状態の異常に加えて、前記運転操作及び前記走行状態の少なくとも一方の異常が前記補完異常検知部にて検知された場合に、前記ドライバが運転困難状態であると判定する統合判定部(75)、として機能させる状態判定プログラム。
JP2018056139A 2018-03-23 2018-03-23 状態判定装置、状態判定プログラム及びコンピュータ読み出し可能持続的有形記録媒体 Active JP6848912B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2018056139A JP6848912B2 (ja) 2018-03-23 2018-03-23 状態判定装置、状態判定プログラム及びコンピュータ読み出し可能持続的有形記録媒体
DE112019001487.0T DE112019001487T5 (de) 2018-03-23 2019-02-26 Zustandsbestimmungsvorrichtung, Zustandsbestimmungsprogramm und computerlesbares nichtvergänglich greifbares Speichermedium
PCT/JP2019/007188 WO2019181380A1 (ja) 2018-03-23 2019-02-26 状態判定装置、状態判定プログラム、およびコンピュータ読み出し可能持続的有形記録媒体
US17/026,059 US11077859B2 (en) 2018-03-23 2020-09-18 State determination device, state determination program, and computer-readable non-transitory tangible storage medium
US17/355,234 US11760359B2 (en) 2018-03-23 2021-06-23 State determination device, state determination program, and computer-readable non-transitory tangible storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018056139A JP6848912B2 (ja) 2018-03-23 2018-03-23 状態判定装置、状態判定プログラム及びコンピュータ読み出し可能持続的有形記録媒体

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021031851A Division JP7176582B2 (ja) 2021-03-01 2021-03-01 状態判定装置

Publications (3)

Publication Number Publication Date
JP2019166968A true JP2019166968A (ja) 2019-10-03
JP2019166968A5 JP2019166968A5 (ja) 2020-02-27
JP6848912B2 JP6848912B2 (ja) 2021-03-24

Family

ID=67987092

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018056139A Active JP6848912B2 (ja) 2018-03-23 2018-03-23 状態判定装置、状態判定プログラム及びコンピュータ読み出し可能持続的有形記録媒体

Country Status (4)

Country Link
US (2) US11077859B2 (ja)
JP (1) JP6848912B2 (ja)
DE (1) DE112019001487T5 (ja)
WO (1) WO2019181380A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020142890A (ja) * 2019-03-06 2020-09-10 東芝エレベータ株式会社 乗客コンベアの保守点検作業支援システム
JP2021000938A (ja) * 2019-06-24 2021-01-07 日野自動車株式会社 自動停車システム
JP2021167163A (ja) * 2020-04-13 2021-10-21 マツダ株式会社 ドライバ異常判定装置
JP2021167165A (ja) * 2020-04-13 2021-10-21 マツダ株式会社 ドライバ異常判定システム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7158655B2 (ja) * 2018-08-28 2022-10-24 マツダ株式会社 停車支援装置
DE102021202332A1 (de) * 2021-03-10 2022-09-15 Robert Bosch Gesellschaft mit beschränkter Haftung Identifizierung von corner cases von betriebsszenarien
JP7109621B1 (ja) * 2021-05-06 2022-07-29 三菱電機株式会社 制御システム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005173635A (ja) * 2003-12-05 2005-06-30 Fujitsu Ten Ltd 居眠り検出装置、カメラ、光遮断センサおよびシートベルトセンサ
JP2016045713A (ja) * 2014-08-22 2016-04-04 株式会社デンソー 車載制御装置
JP2017146788A (ja) * 2016-02-17 2017-08-24 いすゞ自動車株式会社 異常判定装置および異常判定方法

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3653971B2 (ja) 1998-02-17 2005-06-02 日産自動車株式会社 車両用運転操作監視装置
JP2005301832A (ja) 2004-04-14 2005-10-27 Denso Corp 運転者異常警報装置
DE102006015332A1 (de) * 2005-04-04 2006-11-16 Denso Corp., Kariya Gastservice-System für Fahrzeugnutzer
JP2009175929A (ja) 2008-01-23 2009-08-06 Toyota Central R&D Labs Inc ドライバ状態推定装置及びプログラム
JP2010224770A (ja) 2009-03-23 2010-10-07 Toyota Motor Corp 生体状態判定装置
US8698639B2 (en) * 2011-02-18 2014-04-15 Honda Motor Co., Ltd. System and method for responding to driver behavior
JP5919150B2 (ja) 2012-09-18 2016-05-18 ダイムラー・アクチェンゲゼルシャフトDaimler AG 運転支援装置
US9081650B1 (en) * 2012-12-19 2015-07-14 Allstate Insurance Company Traffic based driving analysis
US9147353B1 (en) * 2013-05-29 2015-09-29 Allstate Insurance Company Driving analysis using vehicle-to-vehicle communication
JP6024639B2 (ja) 2013-10-15 2016-11-16 株式会社デンソー 視線位置検出装置、および視線位置検出方法
US9283847B2 (en) * 2014-05-05 2016-03-15 State Farm Mutual Automobile Insurance Company System and method to monitor and alert vehicle operator of impairment
JP6331751B2 (ja) 2014-06-23 2018-05-30 株式会社デンソー ドライバの運転不能状態検出装置
JP6372388B2 (ja) 2014-06-23 2018-08-15 株式会社デンソー ドライバの運転不能状態検出装置
JP6341055B2 (ja) 2014-10-24 2018-06-13 株式会社デンソー 車載制御装置
JP6683367B2 (ja) 2015-03-30 2020-04-22 国立大学法人東北大学 生体情報計測装置、生体情報計測方法及び生体情報計測プログラム
JP2017107299A (ja) 2015-12-07 2017-06-15 株式会社デンソー ふらつき判定装置及びふらつき判定方法
JP6236099B2 (ja) * 2016-02-16 2017-11-22 株式会社Subaru 車両の走行制御装置
JP6647389B2 (ja) * 2016-03-29 2020-02-14 本田技研工業株式会社 自動運転制御装置
JP6497349B2 (ja) * 2016-04-13 2019-04-10 トヨタ自動車株式会社 車両走行制御装置
JP6699831B2 (ja) * 2016-04-28 2020-05-27 トヨタ自動車株式会社 運転意識推定装置
JP2018001932A (ja) * 2016-06-30 2018-01-11 トヨタ自動車株式会社 車両制御装置
JP6583183B2 (ja) * 2016-08-04 2019-10-02 トヨタ自動車株式会社 車両制御装置
US10019053B2 (en) * 2016-09-23 2018-07-10 Toyota Motor Sales, U.S.A, Inc. Vehicle technology and telematics passenger control enabler
US9919648B1 (en) * 2016-09-27 2018-03-20 Robert D. Pedersen Motor vehicle artificial intelligence expert system dangerous driving warning and control system and method
US10481602B2 (en) * 2016-10-17 2019-11-19 Steering Solutions Ip Holding Corporation Sensor fusion for autonomous driving transition control
US10169988B2 (en) * 2016-10-19 2019-01-01 International Business Machines Corporation Aerial drone for correcting erratic driving of a vehicle
US10446031B2 (en) * 2017-03-14 2019-10-15 Hyundai Mobis Co., Ltd. Apparatus and method of safety support for vehicle
JP7003612B2 (ja) 2017-12-08 2022-01-20 株式会社デンソー 異常検知装置、及び異常検知プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005173635A (ja) * 2003-12-05 2005-06-30 Fujitsu Ten Ltd 居眠り検出装置、カメラ、光遮断センサおよびシートベルトセンサ
JP2016045713A (ja) * 2014-08-22 2016-04-04 株式会社デンソー 車載制御装置
JP2017146788A (ja) * 2016-02-17 2017-08-24 いすゞ自動車株式会社 異常判定装置および異常判定方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020142890A (ja) * 2019-03-06 2020-09-10 東芝エレベータ株式会社 乗客コンベアの保守点検作業支援システム
JP2021000938A (ja) * 2019-06-24 2021-01-07 日野自動車株式会社 自動停車システム
JP7402624B2 (ja) 2019-06-24 2023-12-21 日野自動車株式会社 自動停車システム
JP2021167163A (ja) * 2020-04-13 2021-10-21 マツダ株式会社 ドライバ異常判定装置
JP2021167165A (ja) * 2020-04-13 2021-10-21 マツダ株式会社 ドライバ異常判定システム
JP7459634B2 (ja) 2020-04-13 2024-04-02 マツダ株式会社 ドライバ異常判定システム

Also Published As

Publication number Publication date
WO2019181380A1 (ja) 2019-09-26
US20210316739A1 (en) 2021-10-14
US11760359B2 (en) 2023-09-19
US20210001866A1 (en) 2021-01-07
US11077859B2 (en) 2021-08-03
JP6848912B2 (ja) 2021-03-24
DE112019001487T5 (de) 2021-01-07

Similar Documents

Publication Publication Date Title
WO2019181380A1 (ja) 状態判定装置、状態判定プログラム、およびコンピュータ読み出し可能持続的有形記録媒体
US10895875B2 (en) Autonomous driving system
US20190283579A1 (en) In-Vehicle Control Apparatus
JP6838479B2 (ja) 運転支援装置、及び運転支援プログラム
EP3885220B1 (en) Automatically estimating skill levels and confidence levels of drivers
JP2022002947A (ja) 基準マーキングを使用するマシン学習ベースのシートベルト検出及び使用認識
US9446729B2 (en) Driver assistance system
US20130093603A1 (en) Vehicle system and method for assessing and communicating a condition of a driver
JP7410681B2 (ja) 車両制御システム
JP2015032291A (ja) 自動走行支援装置
JP2008305190A (ja) 居眠り警告装置及び自動車
CN115179955A (zh) 清醒状态判断系统及自动驾驶装置
JP2022041285A (ja) 車両用表示制御装置、車両用表示システム、車両用表示制御方法及びプログラム
JP7176582B2 (ja) 状態判定装置
US20240199161A1 (en) Controller and control method for assistance system
WO2018163536A1 (ja) 運転者身体コンディション回復支援装置、方法およびプログラム
CN111391827A (zh) 车辆控制装置
JP2021089652A (ja) ドライバモニタ、ドライバ状態推定方法およびプログラム
CN110712655A (zh) 用于对自主的或部分自主的车辆的超车过程进行控制的控制机构和方法
US11501561B2 (en) Occupant monitoring device, occupant monitoring method, and occupant monitoring program
EP4375963A1 (en) Notification method for vehicle driver, notification system and vehicle
JP2023035542A (ja) 車線逸脱防止装置
JP2023035541A (ja) 車線逸脱防止装置
WO2022229792A1 (ja) ライダー支援システムの制御装置及び制御方法
CN116129407A (zh) 用于动态监测驾驶员的方法、系统和计算机程序产品

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200116

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210215

R151 Written notification of patent or utility model registration

Ref document number: 6848912

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250