JP6372388B2 - ドライバの運転不能状態検出装置 - Google Patents

ドライバの運転不能状態検出装置 Download PDF

Info

Publication number
JP6372388B2
JP6372388B2 JP2015028001A JP2015028001A JP6372388B2 JP 6372388 B2 JP6372388 B2 JP 6372388B2 JP 2015028001 A JP2015028001 A JP 2015028001A JP 2015028001 A JP2015028001 A JP 2015028001A JP 6372388 B2 JP6372388 B2 JP 6372388B2
Authority
JP
Japan
Prior art keywords
driver
head
state
detected
predetermined range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015028001A
Other languages
English (en)
Other versions
JP2016027452A (ja
Inventor
大翔 坂野
大翔 坂野
大見 拓寛
拓寛 大見
豊 宗岡
豊 宗岡
塩谷 武司
武司 塩谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2015028001A priority Critical patent/JP6372388B2/ja
Application filed by Denso Corp filed Critical Denso Corp
Priority to PCT/JP2015/002864 priority patent/WO2015198541A1/ja
Priority to DE112015002944.3T priority patent/DE112015002944T5/de
Priority to CN202010547995.9A priority patent/CN111710190A/zh
Priority to CN202210176883.6A priority patent/CN114512030A/zh
Priority to CN201580033574.1A priority patent/CN106463065B/zh
Priority to US15/321,048 priority patent/US10474914B2/en
Priority to CN202010192765.5A priority patent/CN111311963A/zh
Publication of JP2016027452A publication Critical patent/JP2016027452A/ja
Application granted granted Critical
Publication of JP6372388B2 publication Critical patent/JP6372388B2/ja
Priority to US16/665,044 priority patent/US10936888B2/en
Priority to US17/164,868 priority patent/US11820383B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/09Taking automatic action to avoid collision, e.g. braking and steering
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/14Adaptive cruise control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/292Multi-camera tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • B60K28/06Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0818Inactivity or incapacity of driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/043Identity of occupants
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/10Accelerator pedal position
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/12Brake pedal position
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/18Steering angle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/223Posture, e.g. hand, foot, or seat position, turned or inclined
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/80Spatial relation or speed relative to objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/80Spatial relation or speed relative to objects
    • B60W2554/802Longitudinal distance
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/80Spatial relation or speed relative to objects
    • B60W2554/804Relative longitudinal speed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30268Vehicle interior
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/10Recognition assisted with metadata
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/12Acquisition of 3D measurements of objects
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems

Description

本発明は、ドライバが運転不能となった状態を検出するドライバの運転不能状態検出装置に関する。
従来、車両の運転中に、急病等によりドライバが運転不能状態に陥り、事故に至ることが問題となっている。そのため、このようなドライバの運転不能状態を検出し、事故を防止することが提案されている。
特許文献1に記載の緊急退避装置では、ドライバの撮像画像からドライバの視線情報、瞬目情報、顔向き情報等を認識するとともに、ドライバの心拍情報、呼吸情報、脳波情報等を計測している。そして、特許文献1に記載の装置では、取得した各種情報を用いて、ドライバの意識の低下度、覚醒度、姿勢等のドライバの状態を認識し、ドライバの状態が低下している場合に、緊急退避支援を行っている。
特開2014−19301号公報
特許文献1に記載の装置は、各種情報を取得してドライバの状態を認識しているため、ドライバの運転不能状態を検出するための処理が複雑である。
本発明は、上記実情に鑑み、ドライバが運転不能状態となったことを簡易に検出できるドライバの運転不能状態検出装置を提供することを主たる目的とする。
上記課題を解決するため、請求項1に記載の発明は、ドライバの運転不能状態検出装置であって、車両に搭載された撮像装置により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する頭部検出手段と、前記車両の走行中に、前記頭部検出手段により検出された前記頭部が、前記画像の所定範囲から外れている場合に、前記ドライバが運転不能状態であることを検出するフレームアウト状態検出手段と、を備える。
請求項1に記載の発明によれば、運転席を撮像した画像に基づき、ドライバの頭部が逐次検出される。ドライバが車両を正常に運転している場合は、ドライバの頭部は運転席の画像の所定範囲に収まることが多い。これに対して、急病を発症してドライバの意識がなくなると、ドライバの頭部が所定範囲から外れることがある。したがって、頭部が所定範囲から外れた場合に、ドライバが運転不能状態であることを検出することにより、ドライバの運転不能状態を簡易に検出できる。
また、請求項11に記載の発明は、ドライバの運転不能状態検出装置であって、車両に搭載された撮像装置により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する頭部検出手段と、前記頭部検出手段により検出された前記頭部の位置から、前記頭部の軌跡を取得する軌跡取得手段と、前記軌跡取得手段により取得された前記軌跡に基づいて、前記ドライバが運転不能状態であることを検出する状態検出手段と、を備える。
請求項11に記載の発明によれば、運転席を撮像した画像に基づき、ドライバの頭部が逐次検出されるとともに、検出された頭部の位置から頭部の軌跡が取得される。急病を発症してドライバの運転不能状態になると、ドライバの頭部は運転時の位置から移動し、運転時の位置に戻ってこなくなることが多い。よって、ドライバの頭部の軌跡に基づいて、ドライバの運転不能状態を簡易に検出できる。
運転不能状態検出装置の構成を示すブロック図。 運転不能状態検出装置を搭載した車室内を示す図。 運転不能状態検出装置を搭載した車両の運転席を示す図。 制御装置の機能を示すブロック図。 急病を発症したときの姿勢の変化を示す図。 ものを取るときの姿勢を示す図。 急病を発症したときの姿勢の変化を示す図。 脇見をするときの姿勢を示す図。 ものを取るときの姿勢を示す図。 急病を発症したときの顔向きを示す図。 脇見をするときの顔向きの変化を示す図。 外力の発生に伴う頭部の揺れを示す図。 運転不能状態と判定する頭部の揺れの振幅範囲を示す図。 急病を発症したときの表情の変化を示す図。 通常の状態及び白目を向いた状態を示す図。 運転不能状態を検出する処理手順を示すフローチャート。 姿勢崩れを検出する処理手順を示すサブルーチン。 ドライバに姿勢崩れレベルを報知する態様を示す図。 変形例1に係るフレームアウト判定のフレームの範囲を示す図。 変形例2に係るフレームアウト判定のフレームの範囲を示す図。 変形例3に係るフレームアウト判定のフレームの範囲を示す図。 変形例4に係るフレームアウト判定のフレームの範囲を示す図。 第2実施形態に係るフレームアウト判定のフレームの範囲及び判定時間を示す図。
以下、ドライバの運転不能状態検出装置を具現化した各実施形態について、図面を参照しつつ説明する。なお、本実施形態では、ドライバの運転不能状態は、ドライバが急病を発症して意識がなくなり運転操作できない状態と、ドライバが心臓発作等の急病を発症して、意識はあるが体を動かせないために運転操作できない状態とを含む。なお、以下の各実施形態相互において、互いに同一もしくは均等である部分には、図中、同一符号を付しており、同一符号の部分についてはその説明を援用する。
(第1実施形態)
まず、本実施形態に係る検出装置100(ドライバの運転不能状態検出装置)の構成について、図1〜3を参照して説明する。検出装置100は、制御装置50、ドライバ状態認識装置20、車両情報認識装置30、走行環境認識装置40、HMI(Human Machine Interface)80、及び記憶装置52を備えて、ドライバの運転不能状態を検出する。そして、検出装置100は、ドライバが運転不能状態であることをドライバに確認して応答がなかった場合に、車両を安全に停止させる指令を車両制御装置90へ送信する。
ドライバ状態認識装置20は、複数のドライバカメラ21(撮像装置)、シートベルトセンサ22(量検出手段)、座面センサ23(座圧検出手段)を備える。ドライバカメラ21は、例えばCCDカメラであり、近赤外LED等の照明装置により照らされた運転席を撮像する。ドライバカメラ21は、図2及び3に示すように、メーターパネル14、バックミラー16の下端の略中央、左右のAピラー17に、それぞれドライバに向かって搭載されている。メーターパネル14の代わりに、ダッシュボード13の上(破線で示す)やステアリングコラムにドライバカメラ21が設置されていてもよい。また、バックミラー16の下端の代わりに、バックミラー16の左端や右端(破線で示す)に設置されていてもよい。これら4つのドライバカメラ21はドライバステータスモニタを構成し、運転席のシート11に座ったドライバの上半身を正面側から1秒に数十画像分撮像する。
シートベルトセンサ22は、シートベルト12の引き出し量を検出するセンサである。具体的には、シートベルトセンサ22は、シートベルト12の送り出し及び巻き取りを行うモータの回転角度を検出するエンコーダである。座面センサ23は、運転席のシート11の座部11aの圧力分布を検出するセンサである。
車両情報認識装置30は、車速センサ31、舵角センサ32、アクセルセンサ33、及びブレーキセンサ34を備える。車速センサ31は、車両10の速度を検出するセンサである。舵角センサ32は、ハンドル15の操舵角を検出するセンサである。アクセルセンサ33は、アクセル開度すなわちアクセルペダルの操作量を検出するセンサである。ブレーキセンサ34は、ブレーキペダルの操作量を検出するセンサである。
走行環境認識装置40は、前方・後方カメラ41、前方・後方センサ42、カーナビゲーション装置43、及びGセンサ44を備える。前方・後方カメラ41は、道路の白線を含む車両10の前方を撮像するカメラや、車両10の後方及び後側方を撮像するカメラである。前方・後方センサ42は、超音波センサ、レーザーレーダ、ミリ波レーダ等のセンサであり、車両10の前方や後方の物体を検出し、車両10と前方や後方の物体との距離を取得する。前方・後方センサ42により取得された車両10と前方車両や後方車両との距離に基づいて、前方車両や後方車両との相対速度が算出できる。
カーナビゲーション装置43は、GPS受信機により受信されたGPS信号や、Gセンサを含む各種センサにより取得された情報を用いて、車両10の現在位置を算出し、現在位置から目的地までの誘導経路を算出する。Gセンサ44は、例えばシート11に設置され、車両10の前後、左右、上下の3次元の加速度を検出するセンサである。また、Gセンサ44は、カーナビゲーション装置43が備えるセンサであってもよいし、車両10が車両運行管理システム(AVOS)を備えている場合には、Gセンサ44は、AVOSが備えるセンサであってもよい。すなわち、Gセンサ44は、他の用途で設置されているものがある場合には、共用すればよい。
制御装置50は、CPU、ROM、RAM及びI/O等を備えるマイクロコンピュータであり、ドライバ状態認識装置20、車両情報認識装置30、走行環境認識装置40、記憶装置52、HMI80から各種情報を取得する。制御装置50と各種装置とは、CAN等の有線通信や、LAN、Bluetooth(登録商標)等の無線通信で接続されている。また、制御装置50は、CPUがROMに記憶されている各種プログラムを実行することにより、画像解析手段60、学習手段51、状態検出手段70の機能を実現し、ドライバの運転不能状態を検出する。各手段についての詳しい説明は後で述べる。
HMI80(姿勢報知手段、確認手段)は、ディスプレイ81、スピーカ82、キャンセルスイッチ83を備える。ディスプレイ81は、カーナビゲーション装置43のディスプレイや、メーターパネル14内に設けられている車載ディスプレイである。ディスプレイ81は、液晶パネルや有機ELパネルを備えたタッチディスプレイでもよい。ディスプレイ81は、画像から検出されたドライバの姿勢に基づいて、ドライバの姿勢の崩れ度合を報知する。詳しくは、ディスプレイ81は、ドライバの姿勢のステータスを5段階で表示する。最も崩れ度合の高い姿勢崩れレベル5は、ドライバが急病を発症して運転姿勢を維持できなくなった状態、すなわち運転不能状態と判定されるレベルである。ドライバは、ディスプレイ81に表示された姿勢のステータスを見て自分の運転姿勢を確認できるので、姿勢崩れレベルが5に近づいた場合には、運転不能状態と判定される前に運転姿勢を修正できる。
スピーカ82は、カーナビゲーション装置43やオーディオ装置等と共用される車載スピーカである。スピーカ82は、ドライバの運転不能状態が検出された場合に、ドライバに運転不能状態か音声で確認する。なお、ディスプレイ81が、運転不能状態を確認する画面を表示してもよい。また、スピーカ82が、ドライバの姿勢崩れレベルを音声で報知してもよい。
キャンセルスイッチ83は、運転不能状態の検出を中止するスイッチである。キャンセルスイッチ83が1回操作されると、1トリップの間、運転不能状態の検出が中止される。また、トリップ中にキャンセルスイッチ83が操作された場合には、キャンセルスイッチ83が操作されている間、又は操作されてから一定時間(数秒程度)、運転不能状態の検出が中止される。よって、ドライバがものを取る動作を行う際に、予めキャンセルスイッチ83を操作すれば、ドライバの姿勢が崩れても運転不能状態であると誤検出されるおそれがない。
次に、制御装置50が実現する各種機能について、図4を参照して説明する。画像解析手段60は、頭部検出手段61、軌跡取得手段62、痙攣検出手段63、傾き検出手段64、顔向き検出手段65、白目検出手段66を含む。
頭部検出手段61は、ドライバカメラ21により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する。詳しくは、頭部検出手段61は、ドライバカメラ21により運転席の画像が撮像される都度、運転席の画像からドライバの頭部の輪郭を表すエッジを抽出し、抽出したエッジで囲まれた領域を頭部として検出する。
軌跡取得手段62は、頭部検出手段61により逐次検出されたドライバの頭部の位置から、ドライバの頭部の軌跡を取得する。軌跡取得手段62は、例えば、各画像において検出されたドライバの頭部の中心を頭部の位置とし、各画像における頭部の位置を繋げて頭部の軌跡を取得する。
痙攣検出手段63は、ドライバの痙攣、すなわちドライバの頭部及び首よりも下の胴体部の筋肉の不随意な収縮を検出する。詳しくは、痙攣検出手段63は、各画像においてドライバの頭部及び胴体部の輪郭を表すエッジを抽出し、連続した画像において抽出したエッジが規則的(周期的)に振動している場合に、ドライバが痙攣していることを検出する。
傾き検出手段64は、運転席の画像に基づいて、ドライバの胴体部に対する頭部の傾きθを検出する。詳しくは、傾き検出手段64は、頭部及び胴体部の輪郭を表すエッジに囲まれた領域を、それぞれ頭部及び胴体部として検出するとともに、頭部及び胴体部の中心軸線を検出する。そして、傾き検出手段64は、胴体部の中心軸線に対する頭部の中心軸線の傾きを頭部の傾きθとする。胴体部の中心軸線は、予め用意されている胴体部の向きのパターンと、検出した胴体部の向きとのマッチングを行って胴体部の向きを決め、向きを決めた胴体部から検出する。また、頭部の中心軸線は、頭部に含まれる顔の目、鼻、口等の特徴点を抽出し、顔の特徴点の3次元的な配置から検出する。頭部が前方に傾いた場合は、顔の特徴点と車両前方との距離が近づき、頭部が仰け反った場合は、顔の特徴点と車両前方との距離が遠ざかる。頭部の中心軸線を検出する際に、車両の前後方向における顔の特徴点の距離を用いてもよい。
あるいは、傾き検出手段64は、運転席の画像から運転席のシートベルト12を検出し、シートベルト12と頭部との位置関係から、胴体部に対する頭部の傾きθを検出する。ドライバの胴体部はシートベルト12により拘束されているため、シートベルト12の位置から胴体部の位置を推定できる。
顔向き検出手段65は、運転席の画像に基づいて、車両10の前方に対するドライバの顔の向きを検出する。顔向き検出手段65は、車両10の前面に対向する垂直平面に対する顔面の傾きを、顔向きとして検出する。
白目検出手段66は、表情検出手段67及び白目度合算出手段68を含み、ドライバが白目をむいた状態を検出する。ここで、白目をむいた状態とは、図15(c)に示すように完全に白目をむいた状態に限らず、図15(b)に示すように黒目領域が所定量よりも小さくなった状態も含む。すなわち、白目をむいた状態は、黒目が偏ることにより視野が所定範囲よりも狭くなっている状態をいう。
表情検出手段67は、運転席の画像に基づいて、ドライバの目の輪郭及び黒目領域を検出する。ここで、ドライバの目の輪郭は、瞼と目との境界線である。また、黒目領域は、目の輪郭の内側の領域において、白目よりも明度の低い領域であり、黒色に限らず、青色、茶色、灰色等の色がついた領域である。また、表情検出手段67は、抽出された口の輪郭を表すエッジから、ドライバの口の開きを検出する。
白目度合算出手段68は、表情検出手段67により検出された目の輪郭及び黒目領域に基づいて、ドライバの目の白目度合を算出する。
具体的には、白目度合算出手段68は、目の輪郭で囲まれた領域の縦方向の長さLw+Lbと、黒目領域の縦方向の長さLbとの比から、白目度合を算出する(図15参照)。長さLw+Lbに対する長さLbが小さいほど、白目度合は大きくなる。あるいは、白目度合算出手段68は、目の輪郭の上部から黒目領域の最下部までの距離Lbに基づいて、白目度合を算出する。距離Lbが小さいほど、白目度合は大きくなる。あるいは、白目度合算出手段68は、目の輪郭で囲まれた目全体の領域の面積から黒目領域の面積を除いた白目領域の面積と、黒目領域の面積との比に基づいて、白目度合を算出する。白目領域の面積に対する黒目領域の面積が小さいほど、白目度合は大きくなる。
あるいは、白目度合算出手段68は、黒目領域の偏平率に基づいて、白目度合を算出する。白目をむいた状態では、黒目領域が上側を向くため、黒目領域の偏平率が見かけ上大きくなり、黒目領域の偏平率が大きいほど、白目度合は大きくなる。あるいは、白目度合算出手段68は、目の輪郭で囲まれた領域の縦方向の中心となる中心線から黒目領域の最下部までの距離Lcに基づいて、白目度合を算出する。
学習手段51は、ドライバが運転不能状態でない場合において、傾き検出手段64により検出された頭部の傾きθを学習する。また、学習手段51は、ドライバが運転不能状態でない場合において、顔向き検出手段65により検出された顔の向きを学習する。さらに、学習手段51は、ドライバが運転不能状態でない場合において、頭部検出手段61により検出された頭部の揺れの振幅を学習する。すなわち、学習手段51は、ドライバの運転姿勢の癖を学習する。車両10を運転するドライバが複数いる場合には、ドライバごとに運転姿勢の癖を学習する。
状態検出手段70は、フレームアウト状態検出手段71、姿勢崩れ状態検出手段72、向き崩れ状態検出手段73、揺れ状態検出手段74、及び白目状態検出手段75を含む。
フレームアウト状態検出手段71は、車両10の走行中に、フレームアウトを判定して、フレームアウトしている場合に、ドライバが運転不能状態であることを検出する。詳しくは、フレームアウト状態検出手段71は、頭部検出手段61により検出されたドライバの頭部が、画像の範囲FAから外れている場合に、ドライバが運転不能状態であることを検出する。ここで、範囲FAは、ドライバカメラ21により撮像された画像における所定の範囲である。通常の運転時には、ドライバの頭部が範囲FAから外れることはない。範囲FAを、撮像された画像の全体としてもよい。
ドライバが車両10を正常に運転している場合は、図6に示すように、ドライバがものを取る動作をしても、ドライバの頭部は画像の範囲FAに収まることが多い。これに対して、急病を発症してドライバの意識がなくなると、図5に示すように、ドライバの頭部が範囲FAから外れることがある。よって、フレームアウト状態検出手段71は、ドライバの頭部が画像の範囲FAから外れている場合に、ドライバが運転不能状態であることを検出する。
このとき、フレームアウト状態検出手段71は、頭部が範囲FAから外れるまでに、軌跡取得手段62により取得された軌跡を考慮すると、ドライバの運転不能状態を検出する精度を向上させることができる。画像の不明瞭等により範囲FA内でドライバの頭部を検出できなかった場合と、ドライバの頭部が移動して範囲FA内で検出できなかった場合とを、頭部の軌跡を用いることにより判別できるため、ドライバの運転不能状態の検出精度が向上する。
なお、ドライバが一時的に頭部を移動させた場合や、画像の不明瞭等により頭部の不検出となった場合には、軌跡の最終位置付近で、再度頭部を検出できることが多い。よって、頭部検出手段61により頭部が検出されなくなった場合に、頭部検出手段61は、軌跡取得手段62により取得された軌跡の最終位置付近を探索する。このようにすると、ドライバの頭部が不検出になった場合でも、頭部の軌跡を用いて、再度の頭部検出を効率的に行うことができる。
姿勢崩れ状態検出手段72は、車両10の走行中に、ドライバの姿勢崩れの判定をして、姿勢崩れしている場合に、ドライバが運転不能状態であることを検出する。詳しくは、姿勢崩れ状態検出手段72は、傾き検出手段64により検出された頭部の傾きθが、閾値Th1(相対傾き閾値)よりも大きい場合に、ドライバが運転不能状態であることを検出する。
通常、ドライバの胴体部は運転席のシート11やシートベルト12により拘束されているため、ドライバの意識がなくなっても胴体部は比較的動きにくい。一方、ドライバの頭部は拘束されていないことが多いため、ドライバの意思で頭部の位置を維持する必要がある。そのため、急病を発症してドライバの意識がなくなると、ドライバは頭部の位置を維持できなくなり、図7に示すように、頭部は胴体部に対していずれかの方向に大きく傾くことが多い。
これに対して、走行中にドライバが脇見をするときは、一般的にドライバは首を回転させて見るため、図8に示すように、胴体部に対する頭部の傾きは小さくなることが多い。また、ドライバが運転席から離れた位置のものを取るときは、一般的にドライバは意識して胴体部を傾けるため、図9に示すように、胴体部に対する頭部の傾きθは小さくなることが多い。よって、姿勢崩れ状態検出手段72は、頭部の傾きθが閾値Th1よりも大きい場合に、ドライバが運転不能状態であることを検出する。このとき、姿勢崩れ状態検出手段72は、更にドライバの顔が車両10の前方を向いていないことを条件として、ドライバが運転不能状態であることを検出すると、運転不能状態の誤検出を抑制できる。
向き崩れ状態検出手段73は、車両10の走行中に、ドライバの顔向きの崩れの判定をして、顔向きが崩れている場合に、ドライバが運転不能状態であることを検出する。詳しくは、向き崩れ状態検出手段73は、顔向き検出手段65により検出された車両10の前方に対する顔の向きが、時間T2(向き崩れ判定時間)を超えて閾値Th2(顔向き閾値)よりも大きい場合に、ドライバが運転不能状態であることを検出する。
一般的に、急病を発症すると、ドライバは顔の向きを維持できなくなり、図10に示すように、車両10の前方に対する顔の向きが崩れたままの状態になる。これに対して、走行中にドライバが脇見をするときは、一般的にドライバは顔の向きを変えてもすぐに戻すことが多い。よって、向き崩れ状態検出手段73は、上記場合にドライバが運転不能状態であることを検出する。
または、向き崩れ状態検出手段73は、顔向き検出手段65により検出された車両10の前方に対する顔の向きが、閾値Th2よりも大きく、且つドライバがハンドル15を放している場合に、ドライバが運転不能状態であることを検出する。ドライバがハンドル15を放しているか否かは、画像から検出してもよいし、ハンドル15に設置した圧力センサ等により検出してもよい。
一般的に、急病を発症すると、ドライバは顔の向きを維持できなくなり、図10に示すように、車両10の前方に対する顔の向きが崩れるとともに、ドライバはハンドル15を放すことが多い。これに対して、走行中にドライバが脇見をするときは、図11に示すように、一般的にドライバはハンドル15を把持したまま顔の向きを変えることが多い。また、ドライバが脇見をするときは、頭部を傾けないで、首を回して顔向きだけ変えることもある。よって、向き崩れ状態検出手段73は、上記場合にドライバが運転不能状態であることを検出する。
または、向き崩れ状態検出手段73は、顔向き検出手段65により検出された顔の向きが閾値Th2よりも大きく、且つアクセル開度が所定開度よりも大きい場合に、ドライバが運転不能状態であることを検出する。
一般的に、走行中にドライバが脇見をするときは、安全上アクセルを大きく踏み込まないことが多い。したがって、車両10の前方に対する顔の向きが閾値Th2よりも大きく、且つアクセル開度が所定開度よりも大きい場合には、脇見などによる顔向きの崩れではなく、急病による顔向きの崩れである可能性が高い。よって、向き崩れ状態検出手段73は、上記場合にドライバが運転不能状態であることを検出する。
または、向き崩れ状態検出手段73は、顔向き検出手段65により検出された顔の向きが閾値Th2よりも大きく、且つ時間T3(操作判定時間)よりも長い時間アクセル操作及びブレーキ操作が行われていない場合に、ドライバが運転不能状態であることを検出する。
一般的に、急病を発症すると、車両10の前方に対する顔の向きが崩れるとともに、時間T3よりも長い時間アクセル操作及びブレーキ操作が行われない。これに対して、走行中にドライバが脇見をするときは、一般的にドライバは、顔の向きを変えるとともに時間T3内にアクセル操作又はブレーキ操作を行うことが多い。よって、向き崩れ状態検出手段73は、上記場合にドライバが運転不能状態であることを検出する。
揺れ状態検出手段74は、車両10の走行中において、外力に伴うドライバの頭部の揺れ状態を判定して、頭部が通常と異なる揺れをしている場合に、ドライバが運転不能状態であることを検出する。詳しくは、揺れ状態検出手段74は、車両10に外力が加わってから時間T5(揺れ判定時間)経過するまでの間、頭部検出手段61により検出された頭部の揺れの振幅が、振幅Am1(第1振幅)よりも小さい場合に、又は振幅Am2(第2振幅)よりも大きい場合に、ドライバが運転不能状態であることを検出する。振幅Am2は振幅Am1よりも大きい値である。
図12に示すように、車両10に外力が加わると、所定の時間差の後、ドライバに振動が伝わる。通常、ドライバの意識がある場合、車両10に外力(詳しくは上下方向の外力)が加わった際に、図13に示すように、ドライバの頭部は振幅Am1から振幅Am2の範囲内の振幅で揺れる。これに対して、ドライバが急病を発症して体が硬直していると、正常時よりも頭部の揺れの振幅が小さくなる。また、ドライバが急病を発症して体が弛緩していると、正常時よりも頭部の揺れの振幅が大きくなる。よって、揺れ状態検出手段74は、上述した場合にドライバの運転不能状態を検出する。
なお、時間T5は、車両10に外力が加わってから、ドライバの動きが外力と無関係な動きとなるまでの時間である。また、振幅Am1及び振幅Am2は時間の関数であり、図13はその1例を示している。揺れ状態の判定では、簡易的に、外力が加わってから時間T5経過するまでの間における振幅Am1の最小値、及び振幅Am2の最大値を閾値としてもよい。
白目状態検出手段75は、車両10の走行中に、白目の判定をして、白目検出手段66により白目をむいた状態が検出された場合に、ドライバが運転不能状態であることを検出する。詳しくは、白目状態検出手段75は、白目度合算出手段68により算出された白目度合が、閾値Th3(白目閾値)よりも大きい場合に、ドライバが運転不能状態であることを検出する。
通常、ドライバが運転可能な状態の場合は、ドライバが白目をむくことはない。これに対して、ドライバが急病を発症すると、図14に示すように、ドライバが白目をむくことがある。よって、白目状態検出手段75は、白目をむいた状態が検出された場合に、ドライバが運転不能状態であることを検出する。
記憶装置52(記憶手段)には、各状態検出手段により用いられる各閾値及び各判定値が記憶されている。さらに、記憶装置52には、学習手段51により学習された頭部の傾きθ、顔の向き及び頭部の揺れの振幅が記憶される。また、記憶装置52には、ドライバの病歴及び年齢を含む個人情報が登録されている。ドライバが複数いる場合には、各ドライバの個人情報が登録されている。また、記憶装置52には、運転不能状態と判定しないドライバの姿勢、及び運転不能状態と判定するドライバの姿勢が登録されている。運転不能状態と判定しないドライバの姿勢は、例えば通常の運転姿勢や運転中によくする姿勢である。運転不能状態と判定するドライバの姿勢は、例えば持病があるドライバが発作時にする姿勢である。ドライバは、予め運転席で登録したい姿勢をドライバカメラ21で撮像して、記憶装置52に登録する。
次に、ドライバの運転不能状態を検出する処理手順について、図16のフローチャートを参照して説明する。本処理手順は、制御装置50が実行する。
まず、車両10の車速がV以下か否か判定する(S10)。Vは0km/h(停車)であってもよいし、停車とみなせる程度に十分に低い速度(例えば1km/h)である。車速がV以下(S10:YES)の場合は、車速がVよりも高いと判定されるまで、S10の判定を繰り返し実行する。車速がVよりも高い場合(S10:N0)は、走行中であると判定して、ドライバの運転不能状態の検出処理を開始し、最初にフレームアウトの判定を行う。
ここで、S10の判定では、ドライバが運転操作を行っているか否かも判定して、運転操作を行っている場合には、S10の判定を繰り返し実行するようにし、走行中で且つ運転操作を行っていない場合に、ドライバの運転不能状態の検出処理を開始するようにしてもよい。例えば、車両10の車速がV2(例えば50km/h)以上、又は舵角センサ32により検出された操舵角が所定の角度以上、又は操舵角速度が所定の角速度以上か否か判定する。V2はドライバがアクセルペダルの操作を行っているとみなせる値、所定の角度、及び所定の角速度は、ドライバがハンドル操作を行っているとみなせる値である。上記3つの条件のすくなくとも1つの条件を満たしている場合には、ドライバが運転操作を行っているとして、ドライバの運転不能状態の検出処理を開始しない。
フレームアウトの判定では、まず、運転席の画像からドライバの頭部及び胴体部を検出する(S11)。このとき、ドライバの頭部に含まれる顔の特徴点を検出して、ドライバの認証を行う。なお、ドライバの認証は、予めスマートフォン等の携帯端末との通信で行っていてもよし、個人情報が登録された車両10のキーとの通信で行ってもよい。
次に、頭部位置が検出できたか否か判定する(S12)。頭部位置が検出できなかった場合は(S12:NO)、後述するS19の処理で記録した頭部位置から頭部の軌跡情報を取得し、軌跡情報がフレームアウトを示しているか否か判定する(S13)。すなわち、頭部位置の不検出が、頭部が撮像範囲外へ出たことによる不検出か、画像の不明瞭等による不検出かを判定する。
頭部の軌跡情報がフレームアウトを示していない場合は(S13:NO)、一時的な画像の不明瞭等による不検出と判定して、S10の処理に戻る。一方、頭部の軌跡情報がフレームアウトを示している場合は(S13:YES)、頭部が撮像範囲外へ出たと判定する。この場合、頭部が撮像範囲外に存在することを確認するために補助的に使用する、シートベルトセンサ22及び座面センサ23の情報を取得する(S14)。
次に、時間T0(フレームアウト判定時間)以上継続して、フレームアウトした状態か否か判定する(S15)。詳しくは、時間T0以上継続して、頭部位置が範囲FAから外れており、且つシートベルト12の引き出し量が、シートベルト12の装着時に検出された引き出し量よりも第1引き出し量を超えて多く、且つ座部11aの圧力分布において高圧部分が座部11aの端部に偏っているか否か判定する。そして、上記3つの条件を満たしている場合に、時間T0を超えてフレームアウトした状態であると判定する。このときさらに、シートベルトセンサ22により検出された量検出時間あたりの引き出し量が、すなわちシートベルト12の引き出し速度が、第2引き出し量よりも多いことを条件としてもよい。
なお、シートベルトセンサ22及び座面センサ23の情報は使用しなくてもよい。すなわち、S14の処理は実行せず、S15の処理では、時間T0以上継続して、頭部位置が範囲FAから外れているか否か判定するだけでもよい。
ここで、時間T0は、記憶装置52に登録されている個人情報に基づいて設定する。例えば、年齢が高い人は低い人よりも時間T0を短くする。また、特定の病歴がある人は、特定の病歴がない人よりも時間T0を短くする。さらに、時間T0は、ドライバの状態や走行環境に応じて変更する。ドライバが運転不能状態になる兆候を示している状態や、ドライバが運転不能状態である可能性が高い状態や、ドライバが運転不能状態となった場合に衝突の危険性が高い走行環境では、時間T0を短縮してドライバの運転不能状態を検出されやすくする。
具体的には、S19の処理で記録した頭部位置が所定振幅よりも大きい振幅で振動している場合、すなわち頭部がふらふら揺れている場合には、運転不能状態になる確率が高いので、時間T0を短縮する。また、頭部の移動速度が大きいほど、ものを取る時の姿勢崩れではなく急病による姿勢崩れである可能性が高い。よって、取得した頭部の軌跡情報において、頭部位置の移動速度が大きいほど時間T0を短くする。また、急病による姿勢崩れの場合は、頭部が範囲FAの端に近づくほど、頭部の移動速度が大きくなることが多い。よって、頭部が範囲FAの端に近づくほど、頭部の移動速度が大きくなる場合は、ものを取る時の姿勢崩れではなく急病による姿勢崩れである可能性が高い。したがって、記録した頭部位置が範囲FAの端に近づくほど、頭部の移動速度が大きくなる場合には、時間T0を短くする。また、痙攣が検出された場合には、運転不能状態になる確率が高いので、時間T0を短縮する。
また、衝突を回避するために、車速が速いほど早く適切な車両制御を開始する必要があるので、車両10の車速が高いほど時間T0を短くする。また、衝突を回避するために、先行車両との車間距離を先行車両との相対速度で除したTTC(衝突余裕時間)が短いほど、早く適切な車両制御を開始する必要があるので、TTCが短いほど時間T0を短くする。また、車両10においてACC(Adaptive Cruise Control)やLKA(Lane Keep Assist)等の運転支援制御が実行されている場合には、ドライバは長い時間姿勢を崩すことがあるので、時間T0を延長する。さらに、統計的に出ている心臓発作等の急病が発症しやすい曜日や時間帯では、時間T0を短縮してもよい。
時間T0以上継続してフレームアウトした状態でない場合は(S15:NO)、S21の処理に進む。時間T0以上継続してフレームアウトした状態の場合は(S15:YES)、ドライバが運転不能状態であることを検出し、ドライバに運転不能状態か確認する。詳しくは、スピーカ82からの音声、ディスプレイ81上での表示、インジケータ(図示なし)の点滅等により運転不能状態の検出を通知し、所定の時間内にドライバから応答があるか否か判定する(S16)。
所定の時間内に、ドライバのタッチディスプレイへの接触、ドライバの音声、ハンドル15やブレーキ等の車両10の操作、特定のスイッチの操作等のいずれかを検出した場合には、ドライバから応答ありと判定する(S16:NO)。上記のいずれも検出しなかった場合には、ドライバから応答なしと判定する(S16:YES)。
そして、ドライバから応答ありと判定した場合は、ドライバによる運転が可能であると認識したことを、スピーカ82からの音声、又はディスプレイ81上での表示等で通知する(S17)。一方、ドライバから応答なしと判定した場合は、適切な制動及び操舵を行い安全に停車するように、車両制御装置90へ指示を出す。また、周囲の車両に危険を報知するために、車両制御装置90へヘッドライトの灯火及びクラクションの吹聴の指示を出す(S18)。さらに、車両10の他の搭乗者へも危険を報知する。
次に、S12の処理で頭部位置が検出できたと判定した場合には(S12:YES)、頭部及び胴体部の位置を記録する(S19)。各画像において記録された頭部の位置から、頭部の軌跡情報が取得できる。
続いて、頭部位置が予め設定した範囲FA外に出たか否か判定する(S20)。頭部位置が撮像範囲内にあっても範囲FA外に出た場合には(S20:YES)、S15の処理に進み、フレームアウトの判定を行う。
続いて、頭部及び胴体部の位置関係に基づいて、ドライバの姿勢が、記憶装置52に予め登録されている運転不能状態と判定する姿勢であるか否か判定する(S21)。ドライバの姿勢が運転不能状態と判定する姿勢の場合は(S21:YES)、ドライバが運転不能状態であることを検出し、S16の確認処理に進む。
ドライバの姿勢が運転不能状態と判定する姿勢でない場合は(S21:NO)、ドライバの姿勢が、記憶装置52に予め登録されている運転不能状態と判定しない姿勢か否か判定する(S22)。ドライバの姿勢が運転不能状態と判定しない姿勢の場合は(S22:YES)、S10の処理に戻る。ドライバの姿勢が運転不能状態と判定しない姿勢と異なる場合は(S22:NO)、次に姿勢崩れの判定を行う。
まず、姿勢崩れを検出したか否か判定する(S23)。詳しくは、図17のサブルーチンの処理により、姿勢崩れを検出する。まず、頭部の傾き及び頭部の傾きの方向を算出する(S231)。続いて、胴体部の傾き及び胴体部の傾きの方向を算出する(S232)。続いて、算出した胴体部の傾きと頭部の傾きとのなす角度、すなわち胴体部に対する頭部の傾きθを算出する(S233)。算出した頭部の傾きθは、ドライバの運転不能状態が検出されなかった場合に学習する。そして、算出した頭部の傾きθが閾値Th1(相対傾き閾値)よりも大きい場合に、姿勢崩れを検出する(S234)。そして、姿勢崩れを検出していない場合は(S23:NO)、S25の顔向き崩れの判定に進む。
姿勢崩れを検出した場合は(S23:YES)、時間T1以上継続して、頭部の傾きθが閾値Th1よりも大きく、且つ顔が車両10の前方を向いていないか判定する(S24)。
このとき、簡易的に、時間T1以上継続して、頭部の傾きθが閾値Th1よりも大きいことのみ、又は顔が車両10の前方を向いていないことのみを条件としてもよい。また、このときさらに、時間T1以上継続して、算出された頭部の傾きの方向及び胴体部の傾きの方向が変動しない、すなわち、頭部の位置及び胴体部の位置が範囲UA(不動判定範囲)内にあることを条件としてもよい。範囲UAは、頭部及び胴体部が動いていないとみなせる範囲である。また、算出された頭部の傾きθが、学習された頭部の傾きよりも、判定値D1(傾き判定値)を超えて大きいことを条件としてもよい。また、時間T3(操作判定時間)よりも長い時間、ハンドル15が操作されていないことを条件としてもよい。
ここで時間T1は、時間T0と同様に、記憶装置52に登録されている個人情報に基づいて設定し、車速、TTC、運転支援制御の実行の有無に応じて変更する。また、閾値Th1は、痙攣が検出された場合に縮小する。さらに、時間T0と同様に、統計的に出ている心臓発作等の急病が発症しやすい曜日や時間帯では、時間T1を短縮してもよい。
時間T1を超えて、頭部の傾きθが閾値Th1よりも大きく、且つ顔が車両10の前方を向いていない場合は(S24:YES)、ドライバが運転不能状態であることを検出し、S16の確認処理に進む。また、時間T1以上継続して、頭部の傾きθが閾値Th1よりも大きくない、又は顔が車両の前方を向いている場合は(S24:NO)、次に顔向き崩れの判定を行う。
まず、顔向きの崩れを検出したか否か判定する(S25)。詳しくは、車両の前方に対するドライバの顔の向きを検出する。そして、検出した顔の向きが閾値Th2(顔向き閾値)よりも大きい場合に、顔向きの崩れを検出する。顔向きの崩れを検出していない場合は(S25:NO)、S28の揺れ状態の判定に進む。なお、検出した顔の向きは、ドライバの運転不能状態が検出されなかった場合に学習する。
顔向きの崩れを検出した場合は(S25:YES)、時間T2(向き崩れ判定時間)以上継続して、顔向きが閾値Th2よりも大きいか否か判定する(S26)。
ここで時間T2は、時間T0と同様に、記憶装置52に登録されている個人情報に基づいて設定し、車速、TTC、運転支援制御の実行の有無に応じて変更する。さらに、時間T0と同様に、統計的に出ている心臓発作等の急病が発症しやすい曜日や時間帯では、時間T2を短縮してもよい。また、閾値Th2は、痙攣が検出された場合に縮小する。
時間T2以上継続して顔向きが閾値Th2よりも大きい場合は(S26:YES)、ドライバが運転不能状態であることを検出し、S16の確認処理に進む。
時間T2以上継続して顔向きが閾値Th2よりも大きくない場合は(S26:NO)、次に、時間T3以上継続して、ドライバがハンドル15を解放している、又はアクセル開度が所定開度よりも大きい、又はアクセル操作及びブレーキ操作がないか否か判定する(S27)。S27の処理における3つの条件のすくなくとも1つの条件を満たしている場合は(S27:YES)、ドライバが運転不能状態であることを検出して、S16の確認処理に進む。S27の処理における3つの条件のいずれも満たしていない場合は(S27:NO)、次に揺れ状態の判定を行う。
ここで、S26の判定ではさらに、S27の処理における3つの条件のすくなくとも1つを満たすことを条件としてもよい。また、S26及びS27の判定ではさらに、検出された顔の向きが、学習された顔の向きよりも、判定値D1(傾き判定値)を超えて大きいことを条件としてもよい。また、一般的に、ドライバの手がドライバの首よりも上にあるままの状態で運転不能状態になることはないので、ドライバの手がドライバの首よりも下にあることを条件としてもよい。
次に、揺れ状態の判定では、外力に対して通常とは異なる頭部のふらつきを検出したか否か判定する(S28)。詳しくは、車両10に外力が加わってから時間T5(揺れ判定時間)経過するまでの間、頭部の揺れの振幅が、振幅Am1(第1振幅)よりも小さい、又は振幅Am2(第2振幅)よりも大きいか否か判定する。
このときさらに、車両10に外力が加わってから時間T5経過するまでの間は、頭部が通常と異なる振幅で振動しており、時間T5経過した後、頭部の位置が範囲UA内にあることを条件としてもよい。すなわち、外力に応じて頭部が振動し、且つ外力の影響がなくなった後に頭部の位置が変動しないことを条件としてもよい。また、ドライバが運転不能状態であることが検出されなかった場合に、頭部の揺れの振幅を学習し、検出された頭部の揺れの振幅が、学習された頭部の揺れの振幅よりも判定値D2(振幅判定値)を超えて大きいことを条件としてもよい。また、時間T3以上継続して、ハンドル15が操作されていないことを条件としてもよい。
外力に対して通常とは異なる頭部のふらつきを検出した場合は(S28:YES)、ドライバが運転不能状態であることを検出して、S16の確認処理に進む。外力に対して通常とは異なる頭部のふらつきを検出していない場合は(S28:NO)、次に白目状態の判定を行う。
まず、白目をむいた状態を検出したか否か判定する(S29)。詳しくは、算出した白目度合が閾値Th3(白目閾値)よりも大きい場合に、白目をむいた状態を検出したと判定する。ここでは、ドライバの両目の白目度合をそれぞれ算出し、両目の白目度合がそれぞれ閾値Th3よりも大きいことを条件として、白目をむいた状態を検出したと判定する。ただし、片方の目だけが検出された場合や、簡易的に白目をむいた状態を検出する場合は、片方の目の白目度合だけで白目をむいた状態の検出を判定してもよい。
白目をむいた状態を検出していないと判定した場合は(S29:NO)、フレームアウト判定、姿勢崩れ判定、顔向き崩れ判定、揺れ状態判定、及び白目状態判定の全ての判定で、ドライバが運転不能状態であることが検出されなかったので、S10の処理に戻る。
白目をむいた状態を検出したと判定した場合は(S29:YES)、時間T4(白目判定時間)以上継続して、白目度合が閾値Th3よりも大きいか否か判定する(S30)。このときさらに、時間T3以上継続して、ハンドル15が操作されていないことを条件としてもよい。
ここで時間T4は、時間T0と同様に、記憶装置52に登録されている個人情報に基づいて設定し、車速、TTCに応じて変更する。また、閾値Th3は、痙攣が検出された場合に縮小する。さらに、時間T0と同様に、統計的に出ている心臓発作等の急病が発症しやすい曜日や時間帯では、時間T4を短縮してもよい。
時間T4以上継続して白目度合が閾値Th3よりも大きくない場合は(S30:NO)、S10の処理に戻る。時間T4以上継続して白目度合が閾値Th3よりも大きい場合は(S30:YES)、ドライバの運転不能状態を検出して、S16の確認処理に進む。以上で本処理を終了する。
なお、検出した胴体部に対する頭部の傾きθ、検出した顔の向き、検出した頭部の位置に基づいて、図18に示すように、ドライバの姿勢崩れ度合をディスプレイ81に表示する。検出した頭部の傾きθが大きいほど姿勢崩れレベルを高くする。また、検出した顔の向きが大きいほど姿勢崩れレベルを高くする。また、検出した頭部の位置が、運転時の標準位置から離れているほど姿勢崩れレベルを高くする。運転時の標準位置は、車両10の始動時の頭の位置、あるいは、ドライバが運転不能状態であることが検出されなかったときの頭部の平均位置とする。
以上説明した本実施形態によれば、以下の効果を奏する。
・ドライバの頭部が範囲FAから外れた場合に、ドライバが運転不能状態であることを検出することにより、ドライバの運転不能状態を簡易に検出できる。さらに、頭部が範囲FAから外れるまでの軌跡を考慮すると、ドライバの運転不能状態を検出する精度を向上させることができる。
・ドライバが運転席から離れた位置のものを取る時は、頭部が範囲FAから一時的に離れても範囲FAに戻ってくることが多い。よって、時間T0を超えて、ドライバの頭部が範囲FAから外れていることを条件とすることにより、ドライバの運転不能状態の誤検出を抑制できる。
・範囲FAを画像の全体とすれば、画像中にドライバの頭部が存在しない場合に、ドライバが運転不能状態であることが検出されるため、検出処理をより簡易にできる。
・急病によりドライバの姿勢が崩れた場合、シートベルト12の引き出し量が装着時の引き出し量よりも第1引き出し量を超えて多くなると考えられる。また、ドライバの頭部が不検出になった場合でも、シートベルト12の引き出し量が装着時の引き出し量よりも第1引き出し量を超えて多いときには、ドライバの頭部は撮像範囲から外れた位置に存在することがわかる。よって、シートベルト12の引き出し量が、装着時の引き出し量よりも第1引き出し量を超えて多いことを条件とすることにより、ドライバの運転不能状態を高精度に検出できる。
・急病を発症した時には、ものを取る時よりもドライバの姿勢が急激に崩れることが多い。そのため、急病を発症した時には、ものを取る時よりもシートベルト12が急激に引き出されることが多い。よって、量検出時間あたりのシートベルト12の引き出し量が、第2引き出し量よりも多いことを条件とすることにより、ドライバの運転不能状態の誤検出を抑制できる。
・急病によりドライバの姿勢が崩れた場合、運転席の座部11aの圧力分布における高圧部分が、座部11aの端部に偏ると考えられる。また、ドライバの頭部が不検出になった場合でも、運転席の座部11aの圧力分布における高圧部分が座部の端部に偏っているときは、ドライバの頭部は撮像範囲から外れた位置に存在することがわかる。よって、座部11aの圧力分布における高圧部分が座部11aの端部に偏っていることを条件とすることにより、ドライバの運転不能状態を高精度に検出できる。
・所定振幅よりも大きい頭部の振動が検出された場合に、すなわち頭部がふらふら揺れている場合に、時間T0を短縮することにより、ドライバの運転不能状態の判定に要する時間を短縮できる。ひいては、ドライバの運転不能状態時における車両制御の実行を早く開始できる。
・頭部の移動速度が大きいほど、時間T0を短くすることにより、ドライバの運転不能状態の判定に要する時間を短縮できる。
・頭部が範囲FAの端に近づくほど、頭部の移動速度が大きくなる場合に、運転不能状態の判定に要する時間を短縮することにより、ドライバの運転不能状態の判定に要する時間を短縮できる。
・胴体部に対する頭部の傾きθが閾値Th1よりも大きい場合には、ものを取るときなどの姿勢崩れではなく急病による姿勢崩れである可能性が高い。したがって、胴体部に対する頭部の傾きθが閾値Th1よりも大きい場合に、ドライバが運転不能状態であることを検出することにより、ドライバの運転不能状態を高精度に検出できる。
・走行中に、ドライバが胴体部に対して頭部を大きく傾ける動作を意識的にした場合は、安全上ドライバは顔を車両10の前方に向けたままにすると考えられる。よって、顔が車両10の前方を向いていないことを条件とすることにより、ドライバの運転不能状態を誤検出することを抑制できる。
・走行中に、ドライバが胴体部に対して頭部を大きく傾ける動作を意識的にした場合は、安全上ドライバは頭部の位置をすぐに元の位置に戻すと考えられる。よって、時間T1を超えて、胴体部に対して頭部が大きく傾いていることを条件とすることにより、ドライバの運転不能状態を誤検出することを抑制できる。
・時間T1を超えて、胴体部に対して頭部が大きく傾いたまま、頭部と胴体部の位置が変動しないことを条件とすることにより、ドライバの運転不能状態を誤検出することを抑制できる。
・検出された頭部の傾きθが学習された頭部の傾きよりも、判定値D1を超えて大きいことを条件とすることにより、ドライバが胴体部に対して頭部を傾ける姿勢の癖を持っている場合でも、ドライバの運転不能状態を誤検出することを抑制できる。
・車両10の前方に対する顔の向きが、時間T2を超えて閾値Th2よりも大きい場合には、脇見などによる顔向きの崩れではなく、急病による顔向きの崩れである可能性が高い。したがって、上記場合にドライバが運転不能状態であることを検出することにより、ドライバの運転不能状態を高精度に検出できる。
・車両10の前方に対する顔の向きが閾値Th2よりも大きく、且つドライバがハンドル15を放している場合には、脇見などによる顔向きの崩れではなく、急病による顔向きの崩れである可能性が高い。したがたって、上記場合にドライバが運転不能状態であることを検出することにより、ドライバの運転不能状態を高精度に検出できる。
・車両10の前方に対する顔の向きが閾値Th2よりも大きく、且つアクセル開度が所定開度よりも大きい場合には、脇見などによる顔向きの崩れではなく、急病による顔向きの崩れである可能性が高い。したがって、上記場合にドライバが運転不能状態であることを検出することにより、ドライバの運転不能状態を高精度に検出できる。
・車両10の前方に対する顔の向きが閾値Th2よりも大きく、且つ時間T3よりも長い時間アクセル及びブレーキの操作が行われない場合には、脇見などによる顔向きの崩れではなく、急病による顔向きの崩れである可能性が高い。したがって、上記場合にドライバが運転不能状態であることを検出することにより、ドライバの運転不能状態を高精度に検出できる。
・一般に、ドライバが運転可能状態であれば、時間T3内にハンドル操作が行われる。よって、時間T3よりも長い時間、ハンドル操作されていないことを条件とすることにより、ドライバの運転不能状態を誤検出することを抑制できる。
・一般的に、ドライバが運転可能な状態であれば、時間T3よりも長い時間、アクセルを大きく踏み込み続けることはない。よって、時間T3よりも長い時間、アクセル開度が所定開度よりも大きいことを条件とすることにより、ドライバの運転不能状態を誤検出することを抑制できる。
・走行中に、ドライバが車両10の前方対する顔の向きを変える動作を意識的にした場合は、安全上ドライバはすぐに顔の向きを正面に戻すと考えられる。よって、時間T2を超えて、車両10の正面に対する顔の向きが閾値Th2よりも大きいことを条件とすることにより、ドライバの運転不能状態を誤検出することを抑制できる。
・一般的に、ドライバが急病を発症した場合、ドライバの手がドライバの首よりも上にあるままの状態で運転不能状態になることはない。よって、ドライバの手がドライバの首よりも下にあることを条件とすることにより、ドライバの運転不能状態を誤検出することを抑制できる。
・車両に外力が加わってから時間T5経過するまでの間、頭部の揺れの振幅が振幅Am1よりも小さい又は振幅Am2よりも大きい場合に、ドライバが運転不能状態であることを検出することにより、ドライバの運転不能状態を簡易に検出できる。
・一般に、ドライバの意識がない場合は、外力に応じて頭部が振動し、外力の影響がなくなると頭部は動かなくなる。これに対して、ドライバが癖で頭部を振動させている場合は、外力の影響に関わらず頭部が振動している。よって、外力に応じて頭部が振動し、且つ外力の影響がなくなった後に頭部の位置が変動しないことを条件とすることにより、ドライバの運転不能状態を誤検出することを抑制できる。
・検出された頭部の揺れの振幅が、学習された頭部の揺れの振幅よりも判定値D2を超えて大きいことを条件とすることにより、ドライバが頭を揺らす癖を持っている場合でも、ドライバの運転不能状態を誤検出することを抑制できる。
・白目をむいた状態が検出された場合に、ドライバが運転不能状態であることを検出することにより、ドライバの運転不能状態を高精度に検出できる。
・画像に基づき、ドライバの目の輪郭及び黒目領域が検出される。そして、検出された目の輪郭及び黒目領域に基づいて、白目度合が算出され、白目度合が閾値Th3よりも大きい場合に、ドライバが運転不能状態であることを検出される。よって、ドライバが白目をむいている状態を高精度に検出し、ひいては、ドライバの運転不能状態を高精度に検出できる。
・ドライバが運転可能な状態の場合は、視線を上に向けて一時的に白目の度合が大きくなることがあっても、白目の度合が大きくなったままの状態になることはない。よって、時間T4を超えて白目度合が閾値Th3よりも大きいことを条件とすることにより、ドライバの運転不能状態を誤検出することを抑制できる。
・両面の白目度合がそれぞれ閾値Th3よりも大きいことを条件とすることにより、片目に眼帯を装着していたり、片目が義眼であったりして、白目をむいた状態と誤検出されても、もう一方の目が白目をむいていない場合には、ドライバの運転不能状態は検出されない。よって、ドライバの運転不能状態を誤検出することを抑制できる。
・目の縦方向の長さLw+Lbと黒目領域の縦方向の長さLbとの比は、目の全領域に対する白目の領域の割合と相関があるため、目の縦方向の長さLw+Lbと黒目領域の縦方向の長さLbとの比から、白目度合を算出できる。
・目の輪郭の上部から黒目領域の最下部までの距離Lbが小さいほど、白目度合は大きい。よって、目の輪郭の上部から黒目領域の最下部までの距離Lbから、白目度合を算出できる。
・白目領域の面積と黒目領域の面積との比から、白目度合を算出できる。
・白目をむいた状態では、黒目領域が上側を向くため、黒目領域の扁平率が見かけ上大きくなる。よって、黒目領域の偏平率から白目度合を算出できる。
・目の全体の縦方向の中心線から黒目領域の最下部までの距離Lcが大きいほど、黒目領域は小さく、白目度合が大きくなる。よって、中心線から黒目領域の最下部までの距離Lcから、白目度合を算出できる。
・一般に、ドライバが痙攣を起こした場合には、痙攣を起こしていない場合よりも、運転不能な状態になる確率が高い。よって、痙攣が検出された場合には、閾値Th1、Th2を縮小することにより、ドライバの運転不能状態を検出されやすくできる。
・車速が高いほど、時間T0、T1、T2、T4を短くすることにより、車速が高いほどドライバの運転不能状態の判定に要する時間が短くなり、適切な車両制御の実行を早く開始できる。
・TTCが短いほど時間T0、T1、T2、T4を短くすることにより、TTCが短いほど、ライバの運転不能状態の判定に要する時間が短くなり、適切な車両制御の実行を早く開始できる。
・ドライバの病歴や年齢を含む個人情報に基づいて時間T0、T1、T2、T4を設定することにより、運転不能状態の判定に要する時間を、ドライバ個人の特性に応じた時間にすることができる。
・車両において運転支援制御が実行されている場合には、時間T0、T1、T2を延長することにより、運転不能状態の誤検出を抑制できる。
・ドライバの姿勢の崩れ度合をドライバに報知することにより、ドライバは自分の姿勢を認識できる。そのため、ドライバは、運転姿勢が崩れても、運転不能状態と検出されないように姿勢を修正することができる。これにより、運転不能状態の誤検出を抑制できる。
・ドライバの運転不能状態が検出された場合に、ドライバに運転不能か確認することにより、ドライバの運転不能状態を誤検出した場合に、車両を安全に停止させるための車両制御の実行を回避できる。
(第1実施形態の変形例1)
フレームアウト状態検出手段71によるフレームアウト判定において、所定の範囲である範囲FAの形状を、図19で示すような楕円形状としてもよい。この楕円形状は、車両10の幅方向が長軸、車両10の高さ方向が短軸の形状とする。
運転中における複数のドライバの頭部の動きを見ると、ドライバの頭部は、右折時及び左折時に右方向及び左方向に移動するため、左右方向を長軸とする楕円形状の範囲内を動く。よって、範囲FAの形状を上記楕円形状とすることにより、通常の運転動作でドライバが頭部を移動させても、運転不能状態と誤検出されることを抑制できる。
(第1実施形態の変形例2)
検出装置100は、ドライバを含むユーザの意図、又はドライバに関するドライバ情報に応じて、範囲FAを変形させる変形手段を備えていてもよい。変形手段は、状態検出手段70が備える機能として実現すればよい。変形は、範囲FAの拡大、縮小、及び形状の変更を含む。変形手段は、ユーザによるHMI80の入力操作に応じて、範囲FAを変形させる。HMI80が拡大スイッチや縮小スイッチを備えていてもよいし、ディスプレイ81がタッチディスプレイであってもよい。
図20に示すように、ドライバが、標準位置からずれる運転姿勢の癖を持っている場合や、運転不能状態を検出されにくいようにしたい場合、ドライバは、拡大スイッチ等を操作して、範囲FAを範囲FAaに拡大させるとよい。
また、ドライバが高齢者や持病のある人の場合、ドライバ自身やドライバの家族等は、運転不能状態を検出されやすくするため、縮小スイッチ等を操作して、範囲FAを範囲FAbに縮小させるとよい。また、ドライバがバスやタクシーの運転手の場合、バスやタクシーの管理者は、運転不能状態を検出されやすくするため、縮小スイッチ等を操作して、範囲FAを範囲FAbに縮小させるとよい。なお、図20では、範囲FA,FAa,FAbの形状を楕円形状としているが、方形状としてもよい。
また、変形手段は、ユーザの意図によらず、ドライバ情報に応じて、範囲FAを拡大させたり、縮小させたりしてもよい。ドライバ情報は、ドライバの年齢、病歴及び運転姿勢の癖の少なくとも1つを含む情報であり、記憶装置52に記憶されている。運転姿勢の癖は、学習手段51により、ドライバの頭部の位置を学習したものでもよいし、ドライバが事前に運転姿勢を撮影して登録したものでもよい。
変形手段は、例えば、ドライバに運転姿勢の癖がある場合には、範囲FAを範囲FAaに拡大し、ドライバが高齢者や病歴のある人の場合には、範囲FAを範囲FAbに縮小する。また、変形手段は、車速、TTC、運転支援制御の有無に応じて、範囲FAを拡大又は縮小してもよいし、統計的に出ている心臓発作等の急病が発症しやすい曜日や時間帯では、範囲FAを縮小してもよい。
なお、変形手段は、ユーザの意図及びドライバ情報の少なくとも一方に応じて、範囲FAを変化させるものであり、ユーザの意図及びドライバ情報の両方に応じて、範囲FAを変化させてもよい。また、変形手段は、範囲FAの拡大及び縮小のいずれか一方だけを行ってもよい。また、変形手段は、ユーザの意図やドライバ情報に応じて、範囲FAの形状を変化させてもよい。
このように、範囲FAが、ユーザの意図又はドライバ情報に応じて変形されることにより、ユーザの意図又はドライバ情報に応じた運転不能状態の検出を実施できる。例えば、運転不能状態になる可能性が比較的高い場合には、運転不能状態を検出されやすくすることができる。また、ドライバに運転姿勢が標準位置からずれる癖がある場合には、癖に応じて範囲FAを変形することにより、運転不能状態の誤検出を抑制できる。
(第1実施形態の変形例3)
検出装置100は、ドライバを含むユーザの意図、又はドライバに関するドライバ情報に応じて、範囲FAを画像上で移動させる移動手段を備える。移動手段は、状態検出手段70が備える機能として実現すればよい。移動手段は、ユーザによるHMI80の入力操作、例えばタッチディスプレイ上でのドラッグ操作に応じて、範囲FAを移動させる。すなわち、ユーザの意図又はドライバ情報に応じて、範囲FAを変形させるのに対して、範囲FAを移動させる点が変形例2と異なる。
図21に示すように、ドライバに運転姿勢が標準位置からずれる癖がある場合には、範囲FAを癖に応じた位置に移動させ、範囲FAcとすることにより、運転不能状態の誤検出を抑制できる。なお、図21において、範囲FAの形状を方形状としているが、楕円形状でもよい。また、変形例2と変形例3とを組み合わせて、範囲FAを移動させるとともに、範囲FAを変形してもよい。
(第1実施形態の変形例4)
ドライバカメラ21は、ステレオカメラを含むものとする。そして、図22に示すように、範囲FAを、車両10の幅方向だけでなく前後方向にも広がりを持つ、三次元的に設定された範囲とする。ステレオカメラは、例えば、バックミラー16に左右の端部に設置する。範囲FAは、立方形状に限らず、楕円球形状等でもよい。範囲FAを楕円球形状とする場合は、楕円球形状の長軸を車両10の幅方向にする。また、変形例4に、変形例2又は3を適用してもよい。
ステレオカメラを用いることにより、ドライバの頭部の位置を三次元で取得することができる。すなわち、車両10の幅方向における頭部の位置だけでなく、車両10の前後方向における頭部の位置を取得することができる。よって、範囲FAを三次元的に設定することにより、ドライバが運転不能状態になって左右方向に倒れた場合だけでなく、ドライバが運転不能状態になって前方に倒れた場合でも、フレームアウト判定によりドライバの運転不能状態を検出することができる。
(第2実施形態)
以下、第2実施形態に係る検出装置100について、第1実施形態に係る検出装置100と異なる点を説明する。第2実施形態に係る検出装置100では、フレームアウト状態検出手段71によるフレームアウト判定の手法が、第1実施形態に係る検出装置100と異なる。
本実施形態では、フレームアウト状態検出手段71は、フレームアウト判定における所定範囲である範囲FAとして、範囲FA1(第1所定範囲),範囲FA2(第2所定範囲),範囲FA3の3つの範囲を設定する。範囲FA1は、最も小さい範囲である。範囲FA2は、範囲FA1よりも大きく、範囲FA1及び範囲FA1よりも外側(画像の端側)の範囲を含む。また、範囲FA3は、範囲FA2よりも大きく、範囲FA2及び範囲FA2よりも外側の範囲を含む。本実施形態では、範囲FA1,範囲FA2,範囲FA3の中心は、共通の中心としている。本実施形態では、フレームアウト判定における所定範囲として、3つの範囲を設定しているが、少なくとも2つの範囲を設定すればよい。
また、フレームアウト状態検出手段71は、所定範囲ごとに、フレームアウト判定時間を設定する。すなわち、フレームアウト状態検出手段71は、範囲FA1,範囲FA2,範囲FA3のそれぞれについて、フレームアウト判定時間として時間T01,T02,T03を設定する。
そして、フレームアウト状態検出手段71は、ドライバの頭部が、少なくとも1つの所定範囲から、所定範囲に対応するフレームアウト判定時間を超えて外れていることを条件として、ドライバが運転不能状態であることを検出する。
すなわち、本実施形態では、(1)ドライバの頭部が範囲FA1から時間T01を超えて外れている、(2)ドライバの頭部が範囲FA2から時間T02を超えて外れている、(3)ドライバの頭部が範囲FA3から時間T03を超えて外れている、という三つの条件がある。フレームアウト状態検出手段71は、上記(1)〜(3)の三つの条件のうち、少なくとも一つの条件が成立した場合に、ドライバが運転不能状態であることを検出する。
よって、図16のフローチャートでは、S15の処理において、時間T0以上継続して、範囲FAから外れた状態か否か判定する代わりに、上記(1)〜(3)の三つの条件のうち、少なくとも一つの条件が成立しているか否か判定する。少なくとも一つの条件が成立している場合には、S16の処理に進み、三つの条件のどれも成立していない場合には、S21の処理に進む。
一般的に、ドライバが運転席から離れた位置のものを取る時等は、安全上、通常の運転位置から離れるほど、滞在時間を短くする。そこで、フレームアウト状態検出手段71は、フレームアウト判定時間を、広い所定範囲に対応するものほど短く設定する。すなわち、フレームアウト状態検出手段71は、フレームアウト判定時間を、時間T01>時間T02>時間T03となるように設定する。
例えば、時間T01を3秒、時間T02を1秒とした場合、ドライバの頭部が範囲FA1を外れてから3秒が経過していなくても、ドライバの頭部が範囲FA2を外れてから1秒が経過した時点で、ドライバの運転不能状態が検出される。
なお、時間T01,T02,T03は、時間T0と同様に、記憶装置52に登録されている個人情報に基づいて設定し、車速、TTC、運転支援制御の実行の有無に応じて変更する。さらに、時間T01,T02,T03は、時間T0と同様に、統計的に出ている心臓発作等の急病が発症しやすい曜日や時間帯では、短縮してもよい。さらに、時間T01,T02,T03は、時間T0と同様に、頭部位置の振幅、頭部の移動速度、痙攣の検出に応じて、短縮してもよい。
また、図23において、範囲FA1,範囲FA2,範囲FA3の形状を楕円形状としたが、範囲FA1,範囲FA2,範囲FA3の形状を方形状としてもよい。さらに、第1実施形態の変形例2や変形例3を適用して、範囲FA1,範囲FA2,範囲FA3をそれぞれ変形させたり、移動させたりしてもよい。また、第1実施形態の変形例4を適用して、範囲FA1,範囲FA2,範囲FA3を三次元的に設定してもよい。
以上説明した第2実施形態によれば、広さが異なるとともに中心部が重なる所定範囲が複数設定されており、所定範囲ごとにフレームアウト判定時間が設定されている。すなわち、通常の運転位置からの逸脱度合に応じて、フレームアウト判定時間が設定されている。よって、通常の運転位置からの逸脱度合に応じて、ドライバの運転不能状態を検出できる。
そして、通常の運転位置からの逸脱度合が大きいほど、フレームアウト判定時間が短く設定されているため、運転不能状態の誤検出を抑制するとともに、ドライバが運転不能状態になった場合には、早期に検出することができる。
(他の実施形態)
・ドライバカメラ21は、車室内に搭載された4つのカメラのうちの一部でもよい。ドライバカメラ21は、最低限1つあればよい。
・フレームアウト状態検出手段71は、軌跡取得手段62により取得された軌跡に基づいて、ドライバが運転不能状態であることを検出してもよい。急病を発症してドライバが運転不能状態になると、ドライバの頭部は、運転時の位置から移動して、運転時の位置に戻ってこなくなることが多いので、頭部の軌跡に基づいてドライバの運転不能状態を検出できる。
・向き崩れ状態検出手段73は更に、ドライバの顔が、閾値Th2d(下向き閾値)よりも大きく下側に向いている、又は閾値Th2u(上向き閾値)よりも大きく上側に向いている場合にも、ドライバが運転不能状態であることを検出してもよい。一般的に、急病を発症してドライバの意識がなくなると、ドライバの顔が閾値Th2dよりも大きく下側に向いたり、閾値Th2uよりも大きく上側に向いたりすることが多い。よって、ドライバの顔の向きが下側に大きい、又は上側に大きい場合に、ドライバが運手不能状態であることを検出できる。
・揺れ状態検出手段74は、車両10の走行中において、車両10に外力が加わった際に、頭部検出手段61により検出された頭部が、時間T6(復帰判定時間)を超えて外力の方向に傾いている場合に、ドライバが運転不能状態であることを検出してもよい。通常、ドライバの意識がある場合、車両10に外力(詳しくは左右方向及び前後方向の外力)が加わった際に、ドライバの頭部は外力方向に傾いても、時間T6内に元の場所に戻る。これに対して、ドライバが急病を発症して意識がないと、ドライバの頭部は、外力に対して抵抗が減少し、時間T6を超えて外力の方向に傾いたままになる。よって、揺れ状態検出手段74は、上述した場合にドライバの運転不能状態を検出できる。
・白目状態検出手段75は更に、表情検出手段67により検出された口の開き(詳しくは縦方向の開き)が、開き判定量よりも大きい場合にも、ドライバが運転不能状態であることを検出してもよい。ドライバが急病を発症して白目をむいた場合には、口が開いた状態になることが多い。よって、ドライバの口の開きが開き判定量よりも大きい場合にも、ドライバが運転不能状態であることを検出してもよい。
・フレームアウト判定、姿勢崩れ判定、顔向き崩れ判定、揺れ状態判定、及び白目状態判定は、全て実行するとドライバの運転不能状態の検出精度が最も高くなるが、すくなくとも1つの判定を行えばよい。また、任意の数の判定を組み合わせて実行してもよい。その場合、フレームアウト判定、姿勢崩れ判定、顔向き崩れ判定、揺れ状態判定、白目状態判定の順に優先して実行するとよい。
例えば、姿勢崩れ判定と揺れ状態判定の二つを組み合わせる場合は、姿勢崩れ判定でドライバが運転不能状態であると検出されなかった場合に、揺れ状態判定を行うと、ドライバの運転不能状態を高精度に検出できる。
また、顔向き崩れ判定と揺れ状態判定の二つを組み合わせる場合は、顔向き崩れ判定でドライバが運転不能状態であると検出されなかった場合に、揺れ状態判定を行うと、ドライバの運転不能状態を高精度に検出できる。
また、揺れ状態判定と白目状態判定の二つを組み合わせる場合は、揺れ状態判定でドライバが運転不能状態であると検出されなかった場合に、白目状態判定を行うと、ドライバの運転不能状態を高精度に検出できる。
・学習手段51は、ドライバが運転不能状態であることを誤検出した場合におけるドライバの姿勢を学習してもよい。すなわち、ドライバが運転不能状態であることを検出したが、ドライバから応答があった場合におけるドライバの姿勢を学習してもよい。そして、学習した姿勢を運転不能状態と判定しない姿勢としてもよい。
・各閾値及び各判定値の統計値を記憶装置52に記憶しておき、それらを初期値として用いてもよい。各閾値及び各判定値の統計値は、複数の車両のドライバのそれぞれに対応する各閾値及び各判定値を統計したものである。また、車両10から、ドライバに対応して設定され各閾値及び各判定値を情報センターに送信して、情報センターで統計するようにするとよい。
・ドライバに運転不能状態か確認して、ドライバから応答があった場合は、その後一定の時間、ドライバは運転可能な状態と認識するようにしてもよい。また、ドライバの運転不能状態を検出する処理を、ドライバが設定した時間間隔(例えば、1時間に1回)で行うようにしてもよい。
・車両10に加わる外力はGセンサ44以外、例えば座面センサ23で検出してもよい。
10…車両、21…ドライバカメラ、61…頭部検出手段、62…軌跡取得手段、63…痙攣検出手段、64…傾き検出手段、65…顔向き検出手段、66…白目検出手段、71…フレームアウト状態検出手段、72…姿勢崩れ状態検出手段、73…向き崩れ状態検出手段、74…揺れ状態検出手段、75…白目状態検出手段。

Claims (28)

  1. 車両(10)に搭載された撮像装置(21)により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する頭部検出手段(61)と、
    前記車両の走行中に、前記頭部検出手段により検出された前記頭部が、前記画像の所定範囲から外れている場合に、前記ドライバが運転不能状態であることを検出するフレームアウト状態検出手段(71)と、
    前記ドライバを含むユーザの意図、又は前記ドライバに関するドライバ情報に応じて、前記所定範囲を変形させる変形手段と、を備えるドライバの運転不能状態検出装置。
  2. 前記ドライバを含むユーザの意図、又は前記ドライバに関するドライバ情報に応じて、前記所定範囲を移動させる移動手段を備える請求項1に記載のドライバの運転不能状態検出装置。
  3. 車両(10)に搭載された撮像装置(21)により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する頭部検出手段(61)と、
    前記車両の走行中に、前記頭部検出手段により検出された前記頭部が、前記画像の所定範囲から外れている場合に、前記ドライバが運転不能状態であることを検出するフレームアウト状態検出手段(71)と、
    前記ドライバを含むユーザの意図、又は前記ドライバに関するドライバ情報に応じて、前記所定範囲を移動させる移動手段と、を備えるドライバの運転不能状態検出装置。
  4. 前記ドライバ情報は、前記ドライバの年齢、病歴及び運転姿勢の癖の少なくとも1つを含む請求項1〜3のいずれかに記載のドライバの運転不能状態検出装置。
  5. 前記所定範囲の形状は、前記車両の幅方向を長軸とする楕円形状である請求項1〜4のいずれかに記載のドライバの運転不能状態検出装置。
  6. 前記状態検出手段は、前記頭部が、フレームアウト判定時間(T0)を超えて前記所定範囲から外れていることを条件として、前記ドライバが運転不能状態であることを検出する請求項1〜5のいずれかに記載のドライバの運転不能状態検出装置。
  7. 前記所定範囲として、少なくとも、第1所定範囲と、前記第1所定範囲及び前記第1所定範囲よりも外側の範囲を含む第2所定範囲とが設定されており、
    前記フレームアウト判定時間は、前記所定範囲ごとに設定されており、
    前記状態検出手段は、前記頭部が、少なくとも1つの前記所定範囲から、前記所定範囲に対応する前記フレームアウト判定時間を超えて外れていることを条件として、前記ドライバが運転不能状態であることを検出する請求項6に記載のドライバの運転不能状態検出装置。
  8. 前記フレームアウト判定時間は、広い前記所定範囲ほど短く設定されている請求項7に記載のドライバの運転不能状態検出装置。
  9. 車両(10)に搭載された撮像装置(21)により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する頭部検出手段(61)と、
    前記車両の走行中に、前記頭部検出手段により検出された前記頭部が、前記画像の所定範囲から外れている場合に、前記ドライバが運転不能状態であることを検出するフレームアウト状態検出手段(71)と、を備え、
    前記状態検出手段は、前記頭部が、フレームアウト判定時間(T0)を超えて前記所定範囲から外れていることを条件として、前記ドライバが運転不能状態であることを検出し、
    前記所定範囲として、少なくとも、第1所定範囲と、前記第1所定範囲及び前記第1所定範囲よりも外側の範囲を含む第2所定範囲とが設定されており、
    前記フレームアウト判定時間は、前記所定範囲ごとに設定されており、
    前記状態検出手段は、前記頭部が、少なくとも1つの前記所定範囲から、前記所定範囲に対応する前記フレームアウト判定時間を超えて外れていることを条件として、前記ドライバが運転不能状態であることを検出し、
    前記フレームアウト判定時間は、広い前記所定範囲ほど短く設定されているドライバの運転不能状態検出装置。
  10. 前記撮像装置はステレオカメラであり、
    前記所定範囲は、三次元的に設定された範囲である請求項1〜9のいずれかに記載のドライバの運転不能状態検出装置。
  11. 前記頭部検出手段により検出された前記頭部の位置から、前記頭部の軌跡を取得する軌跡取得手段(62)を備え、
    前記車両の走行中に、前記状態検出手段は、前記頭部検出手段により検出された前記頭部が、前記画像の所定範囲から外れていることと、前記頭部が前記所定範囲から外れるまでに前記軌跡取得手段により取得された前記軌跡とに基づいて、前記ドライバが運転不能状態であることを検出する請求項1〜10のいずれかに記載のドライバの運転不能状態検出装置。
  12. 車両(10)に搭載された撮像装置(21)により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する頭部検出手段(61)と、
    前記車両の走行中に、前記頭部検出手段により検出された前記頭部が、前記画像の所定範囲から外れている場合に、前記ドライバが運転不能状態であることを検出するフレームアウト状態検出手段(71)と、
    前記頭部検出手段により検出された前記頭部の位置から、前記頭部の軌跡を取得する軌跡取得手段(62)と、を備え、
    前記車両の走行中に、前記状態検出手段は、前記頭部検出手段により検出された前記頭部が、前記画像の所定範囲から外れていることと、前記頭部が前記所定範囲から外れるまでに前記軌跡取得手段により取得された前記軌跡とに基づいて、前記ドライバが運転不能状態であることを検出し、
    前記頭部検出手段により前記頭部が検出されなくなった場合に、前記頭部検出手段は、前記軌跡取得手段により取得された前記軌跡の最終位置付近を探索するドライバの運転不能状態検出装置。
  13. 車両に搭載された撮像装置により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する頭部検出手段(61)と、
    前記頭部検出手段により検出された前記頭部の位置から、前記頭部の軌跡を取得する軌跡取得手段(62)と、
    前記車両の走行中に、前記軌跡取得手段により取得された前記軌跡に基づいて、前記ドライバが運転不能状態であることを検出するフレームアウト状態検出手段(71)と、を備え、
    前記頭部検出手段により前記頭部が検出されなくなった場合に、前記頭部検出手段は、前記軌跡取得手段により取得された前記軌跡の最終位置付近を探索するドライバの運転不能状態検出装置。
  14. 前記運転席のシートベルトの引き出し量を検出する量検出手段(22)を備え、
    前記状態検出手段は、前記量検出手段により検出された前記引き出し量が、前記シートベルトの装着時に検出された前記引き出し量よりも、第1引き出し量を超えて多いことを条件として、前記ドライバが運転不能状態であることを検出する請求項6〜のいずれかに記載のドライバの運転不能状態検出装置。
  15. 前記状態検出手段は、前記量検出手段により検出された量検出時間あたりの前記引き出し量が、第2引き出し量よりも多いことを条件として、前記ドライバが運転不能状態であることを検出する請求項14に記載のドライバの運転不能状態検出装置。
  16. 前記運転席の座部の圧力分布を検出する座圧検出手段(23)を備え、
    前記状態検出手段は、前記座圧検出手段により検出された圧力分布における高圧部分が、前記座部(11a)の端部に偏っていることを条件として、前記ドライバが運転不能状態であることを検出する請求項6〜、14、15のいずれかに記載のドライバの運転不能状態検出装置。
  17. 前記頭部検出手段により逐次検出された前記頭部の位置が、所定振幅よりも大きい振幅で振動している場合に、前記フレームアウト判定時間を短縮する請求項6〜、14〜16のいずれかに記載のドライバの運転不能状態検出装置。
  18. 前記頭部検出手段により逐次検出された前記頭部の移動速度が大きいほど、前記フレームアウト判定時間を短くする請求項6〜、14〜17のいずれかに記載のドライバの運転不能状態検出装置。
  19. 車両(10)に搭載された撮像装置(21)により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する頭部検出手段(61)と、
    前記車両の走行中に、前記頭部検出手段により検出された前記頭部が、前記画像の所定範囲から外れている場合に、前記ドライバが運転不能状態であることを検出するフレームアウト状態検出手段(71)と、を備え、
    前記状態検出手段は、前記頭部が、フレームアウト判定時間(T0)を超えて前記所定範囲から外れていることを条件として、前記ドライバが運転不能状態であることを検出し、
    前記頭部検出手段により逐次検出された前記頭部の移動速度が大きいほど、前記フレームアウト判定時間を短くするドライバの運転不能状態検出装置。
  20. 前記頭部検出手段により逐次検出された前記頭部の位置が前記所定範囲の端に近づくほど、前記頭部の移動速度が大きくなる場合に、前記フレームアウト判定時間を短縮する請求項6〜、14〜19のいずれかに記載のドライバの運転不能状態検出装置。
  21. 車両(10)に搭載された撮像装置(21)により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する頭部検出手段(61)と、
    前記車両の走行中に、前記頭部検出手段により検出された前記頭部が、前記画像の所定範囲から外れている場合に、前記ドライバが運転不能状態であることを検出するフレームアウト状態検出手段(71)と、を備え、
    前記状態検出手段は、前記頭部が、フレームアウト判定時間(T0)を超えて前記所定範囲から外れていることを条件として、前記ドライバが運転不能状態であることを検出し、
    前記頭部検出手段により逐次検出された前記頭部の位置が前記所定範囲の端に近づくほど、前記頭部の移動速度が大きくなる場合に、前記フレームアウト判定時間を短縮するドライバの運転不能状態検出装置。
  22. 前記ドライバの痙攣を検出する痙攣検出手段(63)を備え、
    前記痙攣検出手段により前記痙攣が検出された場合に、前記フレームアウト判定時間を短縮する請求項6〜、14〜21のいずれかに記載のドライバの運転不能状態検出装置。
  23. 前記車両の車速が高いほど、前記フレームアウト判定時間を短くする請求項6〜、14〜22のいずれかに記載のドライバの運転不能状態検出装置。
  24. 先行車両との車間距離を前記先行車両との相対速度で除した衝突余裕時間が短いほど、前記フレームアウト判定時間を短くする請求項6〜、14〜23のいずれかに記載のドライバの運転不能状態検出装置。
  25. 前記ドライバの病歴及び年齢を含む個人情報が登録された記憶手段(52)を備え、
    前記記憶手段に登録された個人情報に基づいて、前記フレームアウト判定時間を設定する請求項6〜、14〜24のいずれかに記載のドライバの運転不能状態検出装置。
  26. 車両(10)に搭載された撮像装置(21)により撮像された運転席の画像に基づいて、ドライバの首よりも上の頭部を逐次検出する頭部検出手段(61)と、
    前記車両の走行中に、前記頭部検出手段により検出された前記頭部が、前記画像の所定範囲から外れている場合に、前記ドライバが運転不能状態であることを検出するフレームアウト状態検出手段(71)と、
    前記ドライバの病歴及び年齢を含む個人情報が登録された記憶手段(52)と、を備え、
    前記状態検出手段は、前記頭部が、フレームアウト判定時間(T0)を超えて前記所定範囲から外れていることを条件として、前記ドライバが運転不能状態であることを検出し、
    前記記憶手段に登録された個人情報に基づいて、前記フレームアウト判定時間を設定するドライバの運転不能状態検出装置。
  27. 前記車両において運転支援制御が実行されている場合には、前記フレームアウト判定時間を延長する請求項6〜、14〜26のいずれかに記載のドライバの運転不能状態検出装置。
  28. 前記運転不能状態は、前記ドライバが急病を発症した状態である請求項1〜27のいずれかに記載のドライバの運転不能状態検出装置。
JP2015028001A 2014-06-23 2015-02-16 ドライバの運転不能状態検出装置 Active JP6372388B2 (ja)

Priority Applications (10)

Application Number Priority Date Filing Date Title
JP2015028001A JP6372388B2 (ja) 2014-06-23 2015-02-16 ドライバの運転不能状態検出装置
CN202010192765.5A CN111311963A (zh) 2014-06-23 2015-06-08 驾驶员的驾驶不能状态检测装置
CN202010547995.9A CN111710190A (zh) 2014-06-23 2015-06-08 驾驶员的驾驶不能状态检测装置
CN202210176883.6A CN114512030A (zh) 2014-06-23 2015-06-08 驾驶员的驾驶不能状态检测装置
CN201580033574.1A CN106463065B (zh) 2014-06-23 2015-06-08 驾驶员的驾驶不能状态检测装置
US15/321,048 US10474914B2 (en) 2014-06-23 2015-06-08 Apparatus detecting driving incapability state of driver
PCT/JP2015/002864 WO2015198541A1 (ja) 2014-06-23 2015-06-08 ドライバの運転不能状態検出装置
DE112015002944.3T DE112015002944T5 (de) 2014-06-23 2015-06-08 Vorrichtung zum Erfassen eines Fahrunvermögenzustands eines Fahrers
US16/665,044 US10936888B2 (en) 2014-06-23 2019-10-28 Apparatus detecting driving incapability state of driver
US17/164,868 US11820383B2 (en) 2014-06-23 2021-02-02 Apparatus detecting driving incapability state of driver

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014128387 2014-06-23
JP2014128387 2014-06-23
JP2015028001A JP6372388B2 (ja) 2014-06-23 2015-02-16 ドライバの運転不能状態検出装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018134404A Division JP6614286B2 (ja) 2014-06-23 2018-07-17 ドライバの運転不能状態検出装置

Publications (2)

Publication Number Publication Date
JP2016027452A JP2016027452A (ja) 2016-02-18
JP6372388B2 true JP6372388B2 (ja) 2018-08-15

Family

ID=54937652

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015028001A Active JP6372388B2 (ja) 2014-06-23 2015-02-16 ドライバの運転不能状態検出装置

Country Status (5)

Country Link
US (3) US10474914B2 (ja)
JP (1) JP6372388B2 (ja)
CN (4) CN111311963A (ja)
DE (1) DE112015002944T5 (ja)
WO (1) WO2015198541A1 (ja)

Families Citing this family (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6372388B2 (ja) * 2014-06-23 2018-08-15 株式会社デンソー ドライバの運転不能状態検出装置
US10430676B2 (en) 2014-06-23 2019-10-01 Denso Corporation Apparatus detecting driving incapability state of driver
WO2015198540A1 (ja) 2014-06-23 2015-12-30 株式会社デンソー ドライバの運転不能状態検出装置
JP6196361B2 (ja) * 2015-10-15 2017-09-13 ダイキン工業株式会社 運転者状態判定装置及び運転者状態判定方法
JP6575293B2 (ja) * 2015-10-21 2019-09-18 いすゞ自動車株式会社 状態判定装置
KR101745190B1 (ko) * 2015-12-03 2017-06-08 현대자동차주식회사 입체감 설정 시스템 및 방법
KR101777518B1 (ko) * 2016-04-07 2017-09-11 엘지전자 주식회사 인테리어 카메라 장치, 이를 포함하는 차량 운전 보조장치 및 이를 포함하는 차량
JP2017199302A (ja) * 2016-04-28 2017-11-02 パナソニックIpマネジメント株式会社 判定装置、判定方法、判定プログラム及び記録媒体
JP5997410B1 (ja) * 2016-05-10 2016-09-28 勇 大森 運転者異常発生検出器及びこれを用いた安全装置
JP6775135B2 (ja) * 2016-05-20 2020-10-28 マツダ株式会社 ドライバ状態検出装置
US10318831B2 (en) * 2016-07-21 2019-06-11 Gestigon Gmbh Method and system for monitoring the status of the driver of a vehicle
US10357186B2 (en) * 2016-08-09 2019-07-23 Georgia Tech Research Corporation Wheelchair in-seat activity tracker
US10719724B2 (en) * 2016-08-23 2020-07-21 Blinkeyelabs Electronics Private Limited Safety system for an automobile
JP6895731B2 (ja) * 2016-10-11 2021-06-30 株式会社東海理化電機製作所 運転者状態推定装置
TW201821313A (zh) * 2016-12-14 2018-06-16 鴻海精密工業股份有限公司 汽車行車安全智能檢測環及汽車方向盤
DE102017201405B4 (de) * 2017-01-30 2018-12-13 Audi Ag Verfahren zum Betreiben eines Kraftfahrzeugs
JP2018131029A (ja) * 2017-02-14 2018-08-23 株式会社東海理化電機製作所 車両用制御装置
JP6737212B2 (ja) * 2017-03-14 2020-08-05 オムロン株式会社 運転者状態推定装置、及び運転者状態推定方法
DE102017205386A1 (de) * 2017-03-30 2018-10-04 Robert Bosch Gmbh Fahrerbeobachtungsvorrichtung und Verfahren zum Beobachten eines Fahrers in einem Fahrzeug zum Bestimmen zumindest einer Position des Fahrers in dem Fahrzeug
US11117515B2 (en) * 2017-05-19 2021-09-14 Yazaki Corporation Monitoring system
WO2019030855A1 (ja) * 2017-08-09 2019-02-14 三菱電機株式会社 運転不能状態判定装置および運転不能状態判定方法
JP6804416B2 (ja) 2017-09-25 2020-12-23 矢崎総業株式会社 監視システム
CN107891806A (zh) * 2017-10-13 2018-04-10 信利光电股份有限公司 一种车辆安全系统及其使用方法
JP7091632B2 (ja) * 2017-10-25 2022-06-28 いすゞ自動車株式会社 安全運転促進装置及び安全運転促進方法
JP7024332B2 (ja) * 2017-11-07 2022-02-24 トヨタ自動車株式会社 ドライバモニタシステム
JP2019091281A (ja) * 2017-11-15 2019-06-13 オムロン株式会社 脇見判定装置、脇見判定方法及び脇見判定のためのプログラム
JP2019091267A (ja) * 2017-11-15 2019-06-13 オムロン株式会社 脇見判定装置、脇見判定方法、およびプログラム
US11188074B1 (en) 2017-11-29 2021-11-30 United Services Automobile Association (Usaa) Systems and methods for remotely controlling operation of a vehicle
JP7003612B2 (ja) 2017-12-08 2022-01-20 株式会社デンソー 異常検知装置、及び異常検知プログラム
CN110163908A (zh) * 2018-02-12 2019-08-23 北京宝沃汽车有限公司 找寻目标物的方法、装置及存储介质
US10275670B1 (en) 2018-03-07 2019-04-30 State Farm Mutual Automobile Insurance Company Image analysis technologies for identifying abnormal vehicle conditions
US10776644B1 (en) * 2018-03-07 2020-09-15 State Farm Mutual Automobile Insurance Company Image analysis technologies for assessing safety of vehicle operation
JP7068606B2 (ja) * 2018-03-15 2022-05-17 オムロン株式会社 運転評価装置、車載機、運転評価方法、及びコンピュータプログラム
JP6848912B2 (ja) 2018-03-23 2021-03-24 株式会社デンソー 状態判定装置、状態判定プログラム及びコンピュータ読み出し可能持続的有形記録媒体
JP6844568B2 (ja) * 2018-03-27 2021-03-17 日本電気株式会社 余所見判定装置、余所見判定システム、余所見判定方法、プログラム
JP7102850B2 (ja) * 2018-03-28 2022-07-20 マツダ株式会社 ドライバ状態判定装置
US11254270B1 (en) 2018-05-02 2022-02-22 State Farm Mutual Automobile Insurance Company Technologies for using image analysis to facilitate adjustments of vehicle components
CN108438000A (zh) * 2018-05-15 2018-08-24 北京兴科迪电子技术研究院 驾驶员突发疾病察觉装置、方法和系统
WO2019220572A1 (ja) * 2018-05-16 2019-11-21 三菱電機株式会社 運転不能検知装置及び運転不能検知方法
JP7283037B2 (ja) * 2018-07-26 2023-05-30 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム
JP6811218B2 (ja) 2018-09-05 2021-01-13 矢崎総業株式会社 ワイヤハーネス
JP2020039674A (ja) * 2018-09-12 2020-03-19 トヨタ紡織株式会社 シート及び姿勢推定システム
JP7180228B2 (ja) * 2018-09-20 2022-11-30 いすゞ自動車株式会社 車両用監視装置
JP7187918B2 (ja) * 2018-09-20 2022-12-13 いすゞ自動車株式会社 車両用監視装置
CN111079475A (zh) 2018-10-19 2020-04-28 上海商汤智能科技有限公司 驾驶状态检测方法和装置、驾驶员监控系统、车辆
US11417122B2 (en) * 2018-11-21 2022-08-16 Lg Electronics Inc. Method for monitoring an occupant and a device therefor
KR20200132468A (ko) * 2019-05-17 2020-11-25 삼성전자주식회사 첨단 운전자 지원 장치 및 이의 객체를 검출하는 방법
US11571155B2 (en) 2019-06-06 2023-02-07 Honda Motor Co., Ltd. System and method for completing a measurement of anxiety
CN110281870A (zh) * 2019-07-11 2019-09-27 安徽富煌科技股份有限公司 一种基于3d全景技术的车厢内安全辅助系统及危险处理方法
CN111016913B (zh) * 2019-12-05 2020-12-22 乐清市风杰电子科技有限公司 基于图像信息的司机状态控制系统及方法
CN111931640B (zh) * 2020-08-07 2022-06-10 上海商汤临港智能科技有限公司 异常坐姿识别方法、装置、电子设备及存储介质
CN112622892B (zh) * 2020-12-14 2023-03-24 深圳技术大学 基于人脸和肢体姿态识别的紧急制动方法及系统
US20240051547A1 (en) * 2021-03-24 2024-02-15 Nec Corporation Driver collation system, driver collation method, and recording medium
US20220319045A1 (en) * 2021-04-01 2022-10-06 MohammadSado Lulu System For Posture Detection Using The Camera Of A Hand-Held Device
CN113561982A (zh) * 2021-08-06 2021-10-29 上汽通用五菱汽车股份有限公司 一种驾驶员昏迷处理方法、装置及可读存储介质

Family Cites Families (120)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60152904A (ja) * 1984-01-20 1985-08-12 Nippon Denso Co Ltd 車両運転者位置認識装置
JPS60178596A (ja) 1984-02-25 1985-09-12 株式会社デンソー 居眼り運転防止装置
JPH01158579A (ja) * 1987-09-09 1989-06-21 Aisin Seiki Co Ltd 像認識装置
US8604932B2 (en) * 1992-05-05 2013-12-10 American Vehicular Sciences, LLC Driver fatigue monitoring system and method
JPH06222258A (ja) * 1993-01-23 1994-08-12 Asahi Optical Co Ltd パッシブ自動焦点カメラ
US5353013A (en) * 1993-05-13 1994-10-04 Estrada Richard J Vehicle operator sleep alarm
JP3115457B2 (ja) 1993-08-16 2000-12-04 三菱電機株式会社 運転者異常事態発生警報装置
JP3433554B2 (ja) 1995-02-17 2003-08-04 マツダ株式会社 自動車の走行制御装置
JPH09188163A (ja) * 1996-01-10 1997-07-22 Kazunari Konishi オ−トマチック自動車におけるフ−トペダル装置
JP3183161B2 (ja) * 1996-04-12 2001-07-03 三菱自動車工業株式会社 覚醒度推定装置
JPH10960A (ja) * 1996-06-12 1998-01-06 Yazaki Corp 運転者監視装置
FR2773521B1 (fr) * 1998-01-15 2000-03-31 Carlus Magnus Limited Procede et dispositif pour surveiller en continu l'etat de vigilance du conducteur d'un vehicule automobile, afin de detecter et prevenir une tendance eventuelle a l'endormissement de celui-ci
JP3622533B2 (ja) 1998-10-23 2005-02-23 株式会社デンソー 車間制御装置
JP4337130B2 (ja) * 1999-06-10 2009-09-30 マツダ株式会社 運転装置の制御装置
JP3555541B2 (ja) * 2000-03-07 2004-08-18 株式会社デンソー 車両用緊急通報システム
DE10121192A1 (de) * 2000-05-09 2001-11-15 Denso Corp Klimaanlage mit kontaktfreiem Temperatursensor
JP2003022500A (ja) * 2001-07-09 2003-01-24 Mitsubishi Motors Corp ドライバーの覚醒度検出装置
US6927694B1 (en) * 2001-08-20 2005-08-09 Research Foundation Of The University Of Central Florida Algorithm for monitoring head/eye motion for driver alertness with one camera
JP3943367B2 (ja) * 2001-10-31 2007-07-11 株式会社デンソー 車両用乗員頭部検出装置
US7044742B2 (en) 2001-12-26 2006-05-16 Kabushikikaisha Equos Research Emergency reporting apparatus
US6937745B2 (en) * 2001-12-31 2005-08-30 Microsoft Corporation Machine vision system and method for estimating and tracking facial pose
US7180050B2 (en) * 2002-04-25 2007-02-20 Matsushita Electric Industrial Co., Ltd. Object detection device, object detection server, and object detection method
US8599266B2 (en) * 2002-07-01 2013-12-03 The Regents Of The University Of California Digital processing of video images
US20060187067A1 (en) * 2002-08-14 2006-08-24 Simpson William A Instantaneous sleep activated alarm
EP1553872B1 (en) * 2002-10-15 2010-01-13 Volvo Technology Corporation Method for interpreting a subjects head and eye activity
JP4325271B2 (ja) * 2003-05-12 2009-09-02 日産自動車株式会社 状態検出装置及び状態検出システム
KR100527466B1 (ko) * 2003-07-28 2005-11-09 현대자동차주식회사 운전자 머리 위치 측정방법 및 장치
JP2005108033A (ja) * 2003-09-30 2005-04-21 Toshiba Corp 運転者状況判定装置および運転者状況判定方法
US7508979B2 (en) * 2003-11-21 2009-03-24 Siemens Corporate Research, Inc. System and method for detecting an occupant and head pose using stereo detectors
AU2003296243A1 (en) * 2003-11-30 2005-06-17 Volvo Technology Corporation Method and system for recognizing driver impairment
JP2005173635A (ja) * 2003-12-05 2005-06-30 Fujitsu Ten Ltd 居眠り検出装置、カメラ、光遮断センサおよびシートベルトセンサ
JP4059224B2 (ja) * 2004-04-13 2008-03-12 株式会社デンソー 運転者の外観認識システム
DE102004036119B4 (de) * 2004-07-24 2007-06-28 Fendt, Günter Fahrerassistenzsystem zur Müdigkeitserkennung bzw. Aufmerksamkeitsbeurteilung eines Fahrzeugführers
JP4915735B2 (ja) * 2004-11-16 2012-04-11 学校法人日本大学 疲労判定システム及び疲労判定方法
JP4622544B2 (ja) * 2005-01-27 2011-02-02 アイシン精機株式会社 車両の運転支援装置
CN101714210B (zh) * 2005-02-23 2013-08-21 富士通株式会社 图像处理方法、图像处理装置以及图像处理系统
JP4735310B2 (ja) 2005-04-15 2011-07-27 株式会社デンソー 走行支援装置
US8846016B2 (en) * 2005-12-21 2014-09-30 Avon Products, Inc. Hair treatment compositions
US7860280B2 (en) * 2006-06-09 2010-12-28 Samsung Electronics Co., Ltd. Facial feature detection method and device
US8487775B2 (en) * 2006-06-11 2013-07-16 Volvo Technology Corporation Method and apparatus for determining and analyzing a location of visual interest
US8050453B2 (en) * 2006-06-15 2011-11-01 Omron Corporation Robust object tracking system
JP2007331652A (ja) 2006-06-16 2007-12-27 Toyota Motor Corp 車両停止装置
JP4497133B2 (ja) * 2006-07-12 2010-07-07 アイシン・エィ・ダブリュ株式会社 運転支援方法及び運転支援装置
JP4420002B2 (ja) * 2006-09-14 2010-02-24 トヨタ自動車株式会社 視線先推定装置
JP4922715B2 (ja) * 2006-09-28 2012-04-25 タカタ株式会社 乗員検出システム、警報システム、制動システム、車両
JP2008094221A (ja) * 2006-10-11 2008-04-24 Denso Corp 目状態検出装置および目状態検出装置の取り付け方法
JP4211841B2 (ja) * 2006-11-15 2009-01-21 トヨタ自動車株式会社 ドライバ状態推定装置、サーバ、ドライバ情報収集装置及び運転者状態推定システム
US20080204239A1 (en) * 2007-02-28 2008-08-28 Christopher Marszalek Apparatus, system and/or method for wirelessly securing and/or for wirelessly monitoring an article
JP2008269496A (ja) * 2007-04-24 2008-11-06 Takata Corp 乗員情報検出システム、乗員拘束システム、車両
US7848548B1 (en) * 2007-06-11 2010-12-07 Videomining Corporation Method and system for robust demographic classification using pose independent model from sequence of face images
JP4946672B2 (ja) * 2007-07-04 2012-06-06 オムロン株式会社 脇見検出装置および方法、並びに、プログラム
JP4332813B2 (ja) * 2007-07-23 2009-09-16 株式会社デンソー 自動車用ユーザーもてなしシステム
CN101406390B (zh) * 2007-10-10 2012-07-18 三星电子株式会社 检测人体部位和人的方法和设备以及对象检测方法和设备
JP4582137B2 (ja) * 2007-10-11 2010-11-17 株式会社デンソー 眠気度判定装置
US7860813B2 (en) * 2008-01-24 2010-12-28 Nec Laboratories America, Inc. Monitoring driving safety using semi-supervised sequential learning
JP4941678B2 (ja) * 2008-05-30 2012-05-30 トヨタ自動車株式会社 警報制御装置
US20100014711A1 (en) * 2008-07-16 2010-01-21 Volkswagen Group Of America, Inc. Method for controlling an illumination in a vehicle interior in dependence on a head pose detected with a 3D sensor
US8538072B2 (en) * 2008-08-27 2013-09-17 Imprivata, Inc. Systems and methods for operator detection
JP5255063B2 (ja) * 2008-09-18 2013-08-07 学校法人中部大学 眠気予兆検出装置
JP4666062B2 (ja) * 2008-11-17 2011-04-06 株式会社デンソー 画像撮影装置および方法
JP5326521B2 (ja) * 2008-11-26 2013-10-30 日産自動車株式会社 覚醒状態判断装置及び覚醒状態判断方法
CN201423980Y (zh) * 2009-01-05 2010-03-17 陈新杰 车辆驾驶的视觉辅助标志组合
CN101732055B (zh) * 2009-02-11 2012-04-18 北京智安邦科技有限公司 驾驶员疲劳检测方法及系统
US8063786B2 (en) * 2009-02-24 2011-11-22 Panasonic Automotive Systems Company Of America Division Of Panasonic Corporation Of North America Method of detecting drowsiness of a vehicle operator
US8344894B2 (en) * 2009-04-02 2013-01-01 GM Global Technology Operations LLC Driver drowsy alert on full-windshield head-up display
CN101593352A (zh) * 2009-06-12 2009-12-02 浙江大学 基于面部朝向和视觉焦点的驾驶安全监测系统
JP2011043961A (ja) * 2009-08-20 2011-03-03 Toyota Motor Corp 運転者監視装置
US9460601B2 (en) * 2009-09-20 2016-10-04 Tibet MIMAR Driver distraction and drowsiness warning and sleepiness reduction for accident avoidance
US8564534B2 (en) * 2009-10-07 2013-10-22 Microsoft Corporation Human tracking system
US8963829B2 (en) * 2009-10-07 2015-02-24 Microsoft Corporation Methods and systems for determining and tracking extremities of a target
CN102054163B (zh) * 2009-10-27 2013-06-05 南京理工大学 基于单目视觉的驾驶员疲劳检测方法
JP2011164825A (ja) * 2010-02-08 2011-08-25 Daihatsu Motor Co Ltd 運転状態判断装置
JP2011203869A (ja) * 2010-03-24 2011-10-13 Toyota Motor Corp 車両用居眠り防止装置
JP5178797B2 (ja) * 2010-09-13 2013-04-10 キヤノン株式会社 表示制御装置及び表示制御方法
CN102567710B (zh) * 2010-12-30 2014-09-24 财团法人车辆研究测试中心 用以检测车辆内驾驶者的驾驶状态的方法及系统
BRPI1105777A2 (pt) 2011-03-17 2017-05-23 Toyota Motor Co Ltd "aparelho de suporte de deslocamento e método de suporte de deslocamento"
JP2012203551A (ja) * 2011-03-24 2012-10-22 Komatsu Ltd 居眠り抑制システム及びダンプトラック
EP2688764A4 (en) * 2011-03-25 2014-11-12 Tk Holdings Inc SYSTEM AND METHOD FOR DETERMINING THE GROWTH OF A DRIVER
CN202088896U (zh) * 2011-05-26 2011-12-28 臧安迪 基于驾驶员面部识别的机动车安全控制系统
DE112011105430T5 (de) * 2011-07-11 2014-04-17 Toyota Jidosha Kabushiki Kaisha Fahrzeug-Notfallevakuierungsvorrichtung
DE112011105431B4 (de) * 2011-07-11 2019-05-29 Toyota Jidosha Kabushiki Kaisha Fahrzeug-Notfallevakuierungsvorrichtung
CN102971175B (zh) 2011-07-11 2016-05-25 丰田自动车株式会社 车辆的紧急避让装置
CN102881116A (zh) * 2011-07-13 2013-01-16 上海库源电气科技有限公司 一种疲劳驾驶预警系统及方法
EP2564765B1 (en) 2011-09-02 2017-12-13 Volvo Car Corporation System and method for improving a performance estimation of an operator of a vehicle
JP2013097456A (ja) * 2011-10-28 2013-05-20 Denso Corp 運転者顔状態報知装置
CN102436715B (zh) * 2011-11-25 2013-12-11 大连海创高科信息技术有限公司 疲劳驾驶检测方法
CN102426757A (zh) * 2011-12-02 2012-04-25 上海大学 基于模式识别的安全驾驶监控系统和方法
KR101283304B1 (ko) * 2011-12-12 2013-07-12 기아자동차주식회사 운전자의 눈부심 검출 장치 및 그 방법과 이를 이용한 눈부심 차단 시스템 및 그 방법
US9274597B1 (en) * 2011-12-20 2016-03-01 Amazon Technologies, Inc. Tracking head position for rendering content
CN202383802U (zh) * 2011-12-31 2012-08-15 长安大学 货车疲劳驾驶声光警告系统
CN102592143B (zh) * 2012-01-09 2013-10-23 清华大学 一种驾驶员行车中手持电话违规行为检测方法
JP2013156707A (ja) * 2012-01-26 2013-08-15 Nissan Motor Co Ltd 運転支援装置
JP5505434B2 (ja) * 2012-02-09 2014-05-28 株式会社デンソー 脇見判定装置
US20130257620A1 (en) 2012-03-30 2013-10-03 Utechzone Co., Ltd. Device and method for detecting driver's attention through interactive voice questioning
JP6047318B2 (ja) * 2012-07-06 2016-12-21 矢崎総業株式会社 ドライバ状態検出装置及びドライバ状態報知装置
US20140019167A1 (en) 2012-07-16 2014-01-16 Shuli Cheng Method and Apparatus for Determining Insurance Risk Based on Monitoring Driver's Eyes and Head
JP2014019301A (ja) 2012-07-18 2014-02-03 Toyota Motor Corp 緊急退避装置
CN104488257B (zh) * 2012-07-25 2018-02-09 株式会社电装 状态监视装置
KR101390906B1 (ko) * 2012-08-21 2014-05-02 자동차부품연구원 타이어 방향 감지에 따른 방향 지시등 제어 시스템 및 그 방법
WO2014057309A1 (en) * 2012-10-10 2014-04-17 Freescale Semiconductor, Inc. Method and apparatus for determining a risk level in manually operated systems
DE112014000934T5 (de) 2013-02-21 2016-01-07 Iee International Electronics & Engineering S.A. Bildgebungsgestütztes Insassenüberwachungssystem mit breit gefächerter Funktionsunterstützung
CN203242124U (zh) * 2013-05-22 2013-10-16 重庆工业职业技术学院 基于头部运动检测的疲劳驾驶报警器
CN103315754B (zh) * 2013-07-01 2015-11-25 深圳市飞瑞斯科技有限公司 一种疲劳检测方法及装置
US20150009010A1 (en) * 2013-07-03 2015-01-08 Magna Electronics Inc. Vehicle vision system with driver detection
CN103434400B (zh) * 2013-08-09 2018-07-06 浙江吉利汽车研究院有限公司 防酒驾和防瞌睡系统及防酒驾和防瞌睡方法
CN103473890B (zh) * 2013-09-12 2015-09-16 合肥工业大学 基于多信息的驾驶员疲劳实时监测系统及监测方法
US9330305B2 (en) * 2013-12-29 2016-05-03 Google Technology Holdings LLC Method and device for detecting a seating position in a vehicle
CN103767715B (zh) * 2014-01-15 2015-10-28 中国人民解放军国防科学技术大学 一种驾驶员安全驾驶状态检测装置
CN103770733B (zh) * 2014-01-15 2017-01-11 中国人民解放军国防科学技术大学 一种驾驶员安全驾驶状态检测方法及装置
US9721173B2 (en) * 2014-04-04 2017-08-01 Conduent Business Services, Llc Machine learning approach for detecting mobile phone usage by a driver
CN106687037B (zh) * 2014-06-20 2019-11-19 弗劳恩霍夫应用研究促进协会 用于检测瞬时睡眠的设备、方法和计算机程序
JP6331751B2 (ja) 2014-06-23 2018-05-30 株式会社デンソー ドライバの運転不能状態検出装置
JP6379720B2 (ja) 2014-06-23 2018-08-29 株式会社デンソー ドライバの運転不能状態検出装置
US10430676B2 (en) * 2014-06-23 2019-10-01 Denso Corporation Apparatus detecting driving incapability state of driver
WO2015198540A1 (ja) 2014-06-23 2015-12-30 株式会社デンソー ドライバの運転不能状態検出装置
JP6372388B2 (ja) * 2014-06-23 2018-08-15 株式会社デンソー ドライバの運転不能状態検出装置
JP6331875B2 (ja) 2014-08-22 2018-05-30 株式会社デンソー 車載制御装置
JP2016045714A (ja) 2014-08-22 2016-04-04 株式会社デンソー 車載制御装置
JP6341055B2 (ja) 2014-10-24 2018-06-13 株式会社デンソー 車載制御装置
CN104318714B (zh) * 2014-11-12 2018-06-15 沈阳美行科技有限公司 一种疲劳驾驶预警方法

Also Published As

Publication number Publication date
CN111311963A (zh) 2020-06-19
US10936888B2 (en) 2021-03-02
US20200057898A1 (en) 2020-02-20
CN106463065A (zh) 2017-02-22
CN106463065B (zh) 2020-07-21
CN111710190A (zh) 2020-09-25
US20210158064A1 (en) 2021-05-27
US20170161576A1 (en) 2017-06-08
JP2016027452A (ja) 2016-02-18
US10474914B2 (en) 2019-11-12
US11820383B2 (en) 2023-11-21
CN114512030A (zh) 2022-05-17
DE112015002944T5 (de) 2017-03-16
WO2015198541A1 (ja) 2015-12-30

Similar Documents

Publication Publication Date Title
JP6372388B2 (ja) ドライバの運転不能状態検出装置
WO2015198542A1 (ja) ドライバの運転不能状態検出装置
WO2015198540A1 (ja) ドライバの運転不能状態検出装置
JP6364997B2 (ja) ドライバの運転不能状態検出装置
JP6379720B2 (ja) ドライバの運転不能状態検出装置
JP6361312B2 (ja) ドライバの運転不能状態検出装置
JP6331751B2 (ja) ドライバの運転不能状態検出装置
CN110914884B (zh) 车辆控制器和车辆控制方法
JP6331875B2 (ja) 車載制御装置
WO2016027412A1 (ja) 車載制御装置
JP6593486B2 (ja) 車載制御装置及び車載システム
JP6614286B2 (ja) ドライバの運転不能状態検出装置
US11312396B2 (en) Vehicle control system
JP6607287B2 (ja) ドライバの運転不能状態検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180619

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180702

R151 Written notification of patent or utility model registration

Ref document number: 6372388

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250