JP6107595B2 - 状態監視装置 - Google Patents

状態監視装置 Download PDF

Info

Publication number
JP6107595B2
JP6107595B2 JP2013220228A JP2013220228A JP6107595B2 JP 6107595 B2 JP6107595 B2 JP 6107595B2 JP 2013220228 A JP2013220228 A JP 2013220228A JP 2013220228 A JP2013220228 A JP 2013220228A JP 6107595 B2 JP6107595 B2 JP 6107595B2
Authority
JP
Japan
Prior art keywords
driver
state
light emission
state monitoring
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013220228A
Other languages
English (en)
Other versions
JP2015082231A (ja
Inventor
永井 史也
史也 永井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2013220228A priority Critical patent/JP6107595B2/ja
Priority to US15/030,546 priority patent/US10055658B2/en
Priority to PCT/JP2014/004487 priority patent/WO2015059856A1/ja
Priority to CN201480057949.3A priority patent/CN105659305B/zh
Publication of JP2015082231A publication Critical patent/JP2015082231A/ja
Application granted granted Critical
Publication of JP6107595B2 publication Critical patent/JP6107595B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • B60K28/06Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q3/00Arrangement of lighting devices for vehicle interiors; Lighting devices specially adapted for vehicle interiors
    • B60Q3/80Circuits; Control arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0818Inactivity or incapacity of driver

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Transportation (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Traffic Control Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Automotive Seat Belt Assembly (AREA)
  • Emergency Alarm Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、自動車の運転者の状態を監視する状態監視装置に関する。
従来、自動車の安全な走行を実現することを目的として、当該自動車の運転者の状態を監視する状態監視装置(いわゆるドライバステータスモニタ)であって、発光部と、撮像部と、制御部とを備えた状態監視装置が知られている(例えば、特許文献1参照)。
状態監視装置における発光部は、運転者の顔面が存在する規定領域に近赤外波長の光を含む光を照射する。撮像部は、規定領域を含む領域を撮像領域として画像を撮像する。制御部は、撮像部で撮像した画像を画像処理することで運転者の状態を監視する。
さらに、特許文献1に記載の状態監視装置における制御部では、エンジン停止状態またはアイドリング状態であれば、発光を禁止している。
特許第3651571号公報
ところで、エンジン停止状態またはアイドリング状態であっても、運転席に着座した運転者が直ちに運転を開始する場合には、その運転者の状態が運転に適した状態であるか否かを監視することが好ましい。このため、状態監視装置においては、運転者が直ちに運転を開始する場合には、エンジン停止状態またはアイドリング状態であっても、発光部を発光させて状態監視をすることが求められている。
しかしながら、特許文献1に記載された状態監視装置では、エンジン停止状態またはアイドリング状態である場合には、発光部の発光を禁止しているため、発光すべきタイミングで発光部を発光させて、状態監視をすることができないという課題があった。
そこで、本発明は、状態監視装置において、適切なタイミングで発光することを目的とする。
上記目的を達成するためになされた本発明は、車両に搭載される状態監視装置に関する。
本発明の状態監視装置は、発光手段(9)と、撮像手段(7)と、状態監視手段(40,S200,S210)と、状況判定手段(40,S120〜S140)と、発光制御手段(40,S150,S240)とを備えている。
発光手段は、規定領域に光が照射されるように発光する。ここで言う規定領域とは、車両の運転者の顔面が位置する領域である。撮像手段は、規定領域を含む領域を撮影領域とした画像を撮像する。
状態監視手段は、撮像手段で撮像された画像を画像処理した結果に基づいて、運転者の状態を監視する。状況判定手段は、運転者が車両を運転する準備が整っていない運転待機状況であるか、運転者が車両を運転する準備が整っている運転可能状況であるかを判定する。
発光制御手段は、状況判定手段での判定の結果、運転待機状況である場合、発光手段における発光機能を低下させる特定処理を実行し、運転可能状況であれば、発光手段における発光機能を低下させることなく発光手段に発光させる。
このような状態監視装置によれば、運転待機状況である場合には、発光手段における発光機能を低下させることができる。一方、本発明の状態監視装置によれば、運転可能状況である場合には、発光手段における発光機能を低下させること無く発光することができる。
つまり、本発明の状態監視装置によれば、不要なタイミングでの発光を抑制し、適切なタイミングで発光することができる。
この結果、本発明の状態監視装置によれば、消費電力を抑制することができる。
ところで、状態監視装置の状態監視手段が実行する画像処理では、一般的に、撮像手段で撮像した画像から抽出した運転者の顔面の特徴を、運転者が正常な状態である場合の顔面の特徴を表すデータとして用意された基準データに照合することが実施される。
この基準データは、運転者が自動車に乗り込んだ直後に、撮像手段にて撮像した画像に基づいて生成されることが多い。
しかしながら、特許文献1に記載の状態監視装置では、エンジン停止状態またはアイドリング状態である場合に発光を禁止しているため、エンジン停止状態またはアイドリング状態である場合に画像を撮像して、基準データを生成することができないという課題が生じる。
これに対して、本願の状態監視装置によれば、エンジン停止状態またはアイドリング状態であっても、運転者の顔面が明確に写り込んだ画像を撮像でき、エンジン停止状態またはアイドリング状態中に撮像した画像に基づいて、基準データを生成することができる。
この結果、本発明の状態監視装置によれば、基準データを生成するまでに要する時間を短縮でき、ひいては、運転者の状態監視を、運転者が自動車に乗り込んでから早期に開始できる。
なお、本発明の状態監視装置は、脱着信号を取得する脱着取得手段(40,S110)、開閉信号を取得する開閉取得手段(40,S110)、及び着座信号を取得する着座取得手段(40,S110)のうちの少なくとも一つを備えていても良い。
ここで言う脱着信号とは、自動車に搭載されたシートベルトの着用状態を表す信号である。また、開閉信号とは、車両に設けられたドアの開閉状態を表す信号である。着座信号とは、運転席への着座状況を表す信号である。
すなわち、運転者がシートベルトを外した状態であれば、運転者は、自動車の運転を直ちに開始する可能性が低いと考えられる。また、自動車のドアが開いた状態であれば、運転者は、自動車の運転を直ちに開始する可能性が低いと考えられる。そして、運転者が運転席に着座していなければ、運転者は、自動車の運転を直ちに開始する可能性が低いと考えられる。
このため、本発明における状況判定手段は、脱着信号が運転席のシートベルトが着用されていないことを表している場合、開閉信号によりドアが開いていることを表している場合、着座信号が運転席に着座していないことを表している場合の少なくとも一つの場合に、運転待機状況であるものと判定しても良い。
このような状態監視装置によれば、運転待機状況であるか運転可能状況であるかを確実に判定できる。
なお、課題を解決するための手段の欄及び特許請求の範囲に記載した括弧内の符号は、後述する実施形態に記載の具体的手段との対応関係を示すことを目的とするものであって、本発明の技術的範囲を限定するものではない。
本発明が適用された状態監視装置の設置位置を示す図である。 状態監視装置の概略構成を示すブロック図である。 実施形態における状態監視処理の処理手順を示すフローチャートである。 発光部を発光させるタイミングを示すタイミングチャートである。 変形例における状態監視処理の処理手順を示すフローチャートである。 発光部を発光させるタイミングの変形例を示すタイミングチャートである。
以下に本発明の実施形態を図面と共に説明する。
〈状態監視装置〉
図1に示す状態監視装置1は、自動車AMの安全な走行または乗員の快適な運転環境を実現することを目的として自動車AMに搭載されるドライバモニタリングシステムである。この状態監視装置1は、自車両AMの乗員(本実施形態では、運転者)Hmの頭部を含む画像に基づいて乗員Hmの状態を監視する。
この状態監視装置1は、図2に示すように、画像PIを生成する撮像システム5と、画像PIに対して画像認識処理を実行して乗員Hmの状態を監視する状態監視ECU(Electronic Control Unit)40とを備えている。さらに、状態監視装置1には、自動車AMにおける各種状況を検出する各種センサ群11と、自車両AMに搭載された各種装置を含むアクチュエータ部50とが接続されている。
撮像システム5は、撮像部7と、発光部9とを備え、少なくとも近赤外領域の波長を含む波長の光(以下、「照明光」と称す)を発光すると共に、画像PIを生成するシステムである。撮像システム5は、自車両AMの乗員Hmの頭部が位置する可能性のある車室内空間での領域(以下、規定領域PA(図1参照)と称す)を含む領域を撮像領域とするように予め規定された設置位置に設置される。本実施形態における規定領域PAとは、例えば、通常の運転姿勢をとっている運転者の目が存在する位置を表す楕円状の領域(即ち、アイリプス)内を包含する領域である。
撮像システム5の設置位置としては、例えば、ステアリングコラムの上部が考えられる。
発光部9は、状態監視ECU40からの制御指令COに従って、照明光を発光する発光器である。本実施形態における発光部9として、発光ダイオード(LED(Light Emitting Diode))が考えられる。また、発光部9は、規定領域PAに照明光を照射するように設置される。
撮像部7は、撮像素子(いわゆるCCDやCMOSなどイメージセンサ)、光学レンズ、光学フィルタ、発振器、インターフェース回路、電源等の周辺電子回路を有した周知の撮像装置である。この撮像部7は、光学フィルタとしての可視光カットフィルタや、光学レンズを介して撮像素子に入射した光を各画素が受光して、光の強弱に応じた陰影のある画像PIを生成する。なお、ここで言う可視光カットフィルタとは、状態監視ECU40での画像処理に適した光の成分として予め定められた光の成分(例えば、近赤外領域の波長)を少なくとも透過すると共に、画像処理に不適な光の成分(例えば、可視光領域の波長)の透過を低減(カット)するフィルタである。
アクチュエータ部50には、報知部51と、外部記憶装置52とが少なくとも含まれている。
報知部51は、状態監視ECU40からの制御信号に従って報知する機構であり、スピーカ部54と、表示部55とを含む。スピーカ部54は、音を出力する機構であり、表示部55は、異なる内容の情報を表示態様の変更によって示す機構(例えば、液晶ディスプレイやインジケータ)である。
外部記憶装置52は、記憶内容を書換可能な不揮発性の記憶装置(例えば、ハードディスクドライブやフラッシュメモリ)である。
〈センサ群〉
各種センサ群11には、少なくとも、シートベルト着脱センサ13と、ドア開閉センサ15と、着座センサ17とを含む。
シートベルト着脱センサ13は、自動車AMの各座席(即ち、運転席や助手席)におけるシートベルトの着用の有無(即ち、着用状態)を検出する周知のセンサである。そして、シートベルト着脱センサ13は、着用状態を表す着脱信号を状態監視ECU40へと出力する。
また、ドア開閉センサ15は、自動車AMに設けられた各ドアの開閉状態を検出する周知のセンサである。そして、ドア開閉センサ15は、各ドアの開閉状態を表す開閉信号を状態監視ECU40へと出力する。
着座センサ17は、自動車AMの各座席(即ち、運転席や助手席)への着座の有無(即ち、着座状況)を検出する周知のセンサである。この着座センサ17は、着座状況を表す着座信号を状態監視ECU40へと出力する。
なお、各種センサ群11は、状態監視ECU40に直接接続されていても良いし、周知の車載ネットワークを介して接続されていても良い。
〈状態監視ECU40〉
状態監視ECU40は、ROM41と、RAM42と、CPU43とを少なくとも備えた周知のマイクロコンピュータを中心に構成されている。
ROM41は、電源を切断しても記憶内容を保持する必要のあるデータやプログラムを記憶する記憶装置である。RAM42は、データを一時的に格納するメモリである。CPU43は、ROM41やRAM42に記憶されたプログラムに従って処理を実行する演算処理装置である。
ROM41には、乗員Hmの状態を監視した結果、自車両AMの運転に対する乗員Hmの安全性が低い状態である場合に、自車両AMの安全な走行が実現されるようにアクチュエータ部50を制御する状態監視処理をCPU43が実行するためのプログラムが格納されている。
つまり、本実施形態の状態監視ECU40は、撮像システム5を制御し、撮像部7にて生成した画像PIを画像処理した結果に基づいて、自車両AMの乗員Hmの状態を監視する。さらに、状態監視ECU40は、自車両AMの乗員Hmの状態を監視した結果に基づいて、アクチュエータ部50を制御する。
〈状態監視処理〉
次に、状態監視ECU40が実行する状態監視処理について説明する。
この状態監視処理は、自動車AMのイグニッションスイッチがオンされた後、予め規定された時間間隔毎に起動されるものである。
この状態監視処理は、起動されると、図3に示すように、まず、センサ群11からの信号を取得する(S110)。具体的に、本実施形態のS110では、シートベルト着脱センサ13からの着脱信号、ドア開閉センサ15からの開閉信号、及び着座センサ17からの着座信号を取得する。
続いて、S110にて取得したドア開閉センサ15からの開閉信号に基づいて、自動車AMにおける各ドアが開いているか否かを判定する(S120)。このS120での判定の結果、自動車AMにおける少なくとも一つのドアが開いていれば(S120:NO)、運転者Hmが自動車AMを直ちに運転することが不可能であり、車両を運転する準備が整っていない状況(以下、「運転待機状況」と称す)であるものと判定し、詳しくは後述するS240へと移行する。
一方、S120での判定の結果、自動車AMにおけるドアが全て閉じていれば(S120:YES)、着座センサ17からの着座信号に基づいて、運転席に着座しているか否かを判定する(S130)。このS130での判定の結果、運転席に着座していなければ(S130:NO)、運転待機状況であるものと判定し、S240へと移行する。
S130での判定の結果、運転席に着座していれば(S130:YES)、シートベルト着脱センサ13からの着脱信号に基づいて、運転席においてシートベルトが着用されているか否かを判定する(S140)。このS140での判定の結果、運転席においてシートベルトが着用されていなければ(S140:NO)、運転待機状況であるものと判定し、S240へと移行する。
一方、運転席においてシートベルトが着用されていれば(S140:YES)、運転者Hmが自動車AMを直ちに運転することが可能であり、運転する準備が整っている状況(以下、「運転可能状況」と称す)であるものと判定し、発光部9に対して制御指令COを出力する(S150)。この制御指令COが入力された発光部9は、照明光を発光して規定領域PAに照射する。
続いて、撮像部7に対して撮像指令を出力する(S160)。この撮像指令が入力された撮像部7は、一枚の画像PIを撮像して状態監視ECU40に出力する。そして、状態監視ECU40は、画像PIをRAM42に格納する。
本実施形態において、発光部9が照明光を発光するタイミングと、撮像部7が画像PIを撮像するタイミングとは、発光部9が照明光を発光する期間が、撮像部7の露光期間に同期するように設定される。ここで言う同期とは、発光部9における発光から消灯までの期間が、撮像部7の露光期間と完全一致することでも良いが、露光期間よりも若干長く規定されていることが望ましい。これは、車室内で撮像する場合、太陽光などの外乱ノイズ光によって画質が低下することを防ぐためには、S/N比を高めることが有効となるためである。
さらに、状態監視処理では、運転者Hmの状態を監視するために用いる基準データを生成済みであるか否かを判定する(S170)。このS170での判定の結果、基準データを生成済みであれば(S170:YES)、詳しくは後述するS200へと移行する。
一方、S170での判定の結果、基準データを未生成であれば(S170:NO)、S160における画像PIの撮像回数が、下限閾値Thminよりも大きく、かつ上限閾値Thmax以下であるかを判定する(S180)。このS180での判定の結果、画像PIの撮像回数が、下限閾値Thminよりも大きく、かつ上限閾値Thmax以下であれば(S180:YES)、RAM42に蓄積された画像PIに基づいて、周知の学習処理を実行する(S190)。
ここで言う学習処理では、RAM42に蓄積された画像PIに基づいて、運転者の顔の骨格を表す特徴点や、目、鼻、口を表す特徴点を抽出し、それらの特徴点及び特徴点間の位置関係を表す骨格データを生成する。さらに、学習処理では、RAM42に蓄積された画像PIに基づいて、運転者Hmが覚醒しているものとみなせる状態における目の開度や、運転者Hmが車両の進行方向を見ているものとみなせる状態における顔の向き及び視線の向きを表す比較対象データを生成する。なお、骨格データや比較対象データは、基準データの一例である。これらの骨格データや比較対象データの生成は、例えば、RAM42に蓄積された画像PIに基づく特徴点や目の開度、顔の向き、視線の向きを算術平均することで実施されても良い。
状態監視処理では、学習処理が終了すると、S200へと移行する。
なお、S180での判定の結果、S160における画像PIの撮像回数が、下限閾値Thmin以下、または、上限閾値Thmaxよりも大きければ(S180:NO)、S190での学習処理を実行することなく、S200へと移行する。
そのS200では、S160で撮像した画像PIに対して、運転者Hmの目の開度を導出する周知の画像処理や、運転者Hmの顔の向き及び視線の方向を検出する周知の画像処理を実行する。そして、S200での画像処理の結果に基づいて、運転者Hmの状態を判定する運転者状態判定として実行する(S210)。
このS210にて実行する運転者状態判定は、運転者Hmの覚醒度や、運転者Hmが脇見運転をしているか否か等を判定する周知の処理である。本実施形態の運転者状態判定における覚醒度の導出は、例えば、比較対象データのうちの目の開度に、S200にて導出した目の開度を照合することで実施しても良い。また、本実施形態の運転者状態判定における脇見運転の有無の判定は、例えば、比較対象データのうちの顔の向き及び視線の向きに、S200にて導出した運転者Hmの顔の向き及び視線の向きを照合することで実施しても良い。
本実施形態では、具体的には、顔向きや視線の向きが正面でない状態が規定時間継続している場合に、脇見運転をしているものと判定すれば良い。なお、脇見運転をしているか否かの判定方法は、これに限るものではなく、自動車AMに設けられた周辺監視装置や車速などの情報と連携して判定しても良い。これは、運転者Hmの行動が、脇見であるのか、自動車AMを走行するために必要な安全確認であるのかを判定するためである。
続いて、S210での運転者状態判定の結果に基づいて、乗員Hmに対して警告を出力する必要の有無を判定する(S220)。本実施形態におけるS220での判定では、例えば、運転者Hmの覚醒度が予め規定された閾値未満(すなわち、運転者Hmに所定以上の眠気があると推定した)の場合や、運転者Hmが脇見運転を実施している場合に、自車両AMの運転に対する乗員Hmの安全性が低い状態であり、警告を出力する必要があるものと判定している。
そして、S220での判定の結果、警告を出力する必要があれば(S220:YES)、アクチュエータ部50に対して制御信号を出力して警告を出力する(S230)。
例えば、運転者Hmの覚醒度が閾値未満である場合にS220にて出力される警告は、休息を促す旨を報知部51から出力することや、運転者Hmの覚醒度が閾値未満となった時刻、場所などを対応付けて外部記憶装置52に記憶することを含む。
その後、本状態監視処理を終了し、次の起動タイミングまで待機する。
なお、S220での判定の結果、警告を出力する必要が無ければ(S220:NO)、S230を実行することなく、本状態監視処理を終了し、次の起動タイミングまで待機する。
ところで、S120での判定の結果、自動車AMにおける少なくとも一つのドアが開いている場合(S120:NO)に移行するS240では、発光部9における発光機能を低下させる特定処理を実行する。具体的に、本実施形態のS240では、発光部9に対する制御指令COの出力を禁止することを特定処理として実行する。
なお、S240へは、S130での判定の結果、運転席に着座していない場合(S130:YES)や、S140での判定の結果、運転席においてシートベルトが着用されていない場合(S140:NO)にも移行する。
続いて、撮像部7に対する撮像指令の出力を停止する(S250)。その後、本状態監視処理を終了し、次の起動タイミングまで待機する。
以上説明したように、本実施形態の状態監視処理では、図4に示すように、自動車AMにおける全てのドアが閉じており、運転席に着座し、さらに、運転席においてシートベルトが着用されている場合、運転可能状況であるものとして、発光部9を発光(点灯)して規定領域PAに照明光を照射する。さらに、状態監視処理では、その照明光が照射されている期間に撮像部7にて撮像された画像PIを画像処理した結果に基づいて、運転者の状態を監視する。
一方、状態監視処理では、自動車AMにおける少なくとも一つのドアが閉じている場合、運転席に着座していない場合、及び運転席においてシートベルトが着用されていない場合のうちの少なくとも一つを満たす場合には、運転待機状況であるものとして、発光部9の発光を禁止する。この場合には、状態監視処理では、さらに、撮像部7による画像PIの撮像を停止する。
[実施形態の効果]
以上説明したように、運転者Hmがシートベルトを外した状態や、自動車AMのドアが開いた状態、運転者Hmが運転席に着座していない状態であれば、運転者Hmが自動車AMの運転を直ちに開始する可能性は低い。
このため、状態監視装置1では、脱着信号が運転席のシートベルトが着用されていないことを表している場合、開閉信号が、ドアが開いていることを表している場合、着座信号が運転席に着座していないことを表している場合のうちの少なくとも一つを満たす場合に、運転待機状況であるものと判定している。
そして、状態監視装置1によれば、運転待機状況である場合には、発光部9における発光を停止できる。
このような状態監視装置1によれば、不必要な状況で発光部9による発光が実施されることを防止できる。この結果、状態監視装置1によれば、発光部9における消費電力を抑制することができると共に、不必要な発光により、運転者らが違和感を覚えることを低減できる。
一方、状態監視装置1では、自動車AMにおける全てのドアが閉じており、運転席に着座し、さらに、運転席においてシートベルトが着用されている場合を、運転可能状態と判定している。
したがって、状態監視装置1によれば、運転待機状況であるか運転可能状況であるかを確実に判定できる。
そして、状態監視装置1によれば、運転可能状況である場合には、発光部9における発光を停止することなく、規定領域PAに照明光を照射できる。
つまり、状態監視装置1によれば、不要なタイミングでの発光を抑制し、適切なタイミングで発光できる。
ところで、状態監視装置1においては、運転可能状況であれば、エンジン停止状態またはアイドリング状態であっても、発光部9を発光して照明光を規定領域に照射する。このため、状態監視装置1によれば、エンジン停止状態またはアイドリング状態であっても、運転者Hmの顔面が明確に写り込んだ画像PIを撮像できる。そして、状態監視装置1によれば、その撮像された画像PIに基づいて、基準データを生成することができる。
この結果、状態監視装置1によれば、従来の技術に比べて、イグニッションスイッチをオンしてから基準データを生成するまでに要する時間を短縮でき、ひいては、運転者Hmが自動車AMに乗り込んでから早期に運転者Hmの状態監視を開始できる。
[その他の実施形態]
以上、本発明の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において、様々な態様にて実施することが可能である。
例えば、上記実施形態の状態監視処理におけるS240では、発光部9に対する制御指令COの出力を禁止することを特定処理として実施していたが、S240にて実行する特定処理の内容は、これに限るものではない。すなわち、特定処理は、発光部9による発光強度を低減させることであっても良い。
この場合の状態監視装置によれば、発光部9からの発光強度を低下させることができ、発光部9における消費電力を抑制できる。
また、上記実施形態の状態監視処理では、運転待機状態である場合(S120:NO,S130:NO,S140:NO)には、発光部9の発光を禁止する(S240)と共に、撮像部7による画像PIの撮像を停止(S250)していた。しかしながら、本発明における状態監視処理では、図5に示すように、運転待機状態である場合(S120:NO,S130:NO,S140:NO)に、発光部9の発光を禁止し(S240)、撮像部7にて画像PIを撮像(S260)しても良い。
この場合、S260にて撮像した画像PIは、陰影の無い画像となるが、状態監視処理においては、この陰影の無い画像を画像処理し(S200)、その画像処理の結果に基づいて、運転者状態判定(S210)を実行しても良い。
また、上記実施形態では、発光部9を発光して規定領域PAに照明光を照射する期間を、自動車AMにおける全てのドアが閉じており、運転席に着座し、さらに、運転席においてシートベルトが着用されている期間としていたが、照明光を照射する期間の決定方法は、これに限るものではない。すなわち、照明光を照射する期間は、図6に示すように、運転席においてシートベルトが着用されている期間とし、他の条件を考慮しなくとも良い。
また、照明光を照射する期間は、上記第一実施形態に記載された条件から、ドアの開閉、運転席への着座、及び運転席におけるシートベルト着用の有無のうちの1つまたは2つの条件が省略されていても良いし、上記第一実施形態に記載された条件に他の条件が加わっても良い。
ここで言う他の条件の一例として、シフトポジションセンサからのポジション信号に基づくシフトポジションがドライブ以外のポジションである場合に、発光部9からの照明光の発光を禁止することが考えられる。ただし、この場合、状態監視装置1には、自動車AMのシフトポジションを検出するシフトポジションセンサが接続されている必要がある。このシフトポジションセンサは、シフトポジションを表すポジション信号を状態監視ECU40へと出力する周知のセンサである。
なお、発光部9における照明光の発光は、運転可能状況である場合に常時実施しても良いし、運転可能状況である場合に、画像PIを撮像するタイミングに合わせてパルス発光しても良い。後者であれば、発光部9を必要以上に発光することが無いため、発光部9における消費電力を抑制できる。
上記実施形態の構成の一部を、課題を解決できる限りにおいて省略した態様も本発明の実施形態である。また、上記実施形態と変形例とを適宜組み合わせて構成される態様も本発明の実施形態である。また、特許請求の範囲に記載した文言によって特定される発明の本質を逸脱しない限度において考え得るあらゆる態様も本発明の実施形態である。
1…状態監視装置 5…撮像システム 7…撮像部 9…発光部 11…センサ群 13…シートベルト着脱センサ 15…ドア開閉センサ 17…着座センサ 40…状態監視ECU 41…ROM 42…RAM 43…CPU 50…アクチュエータ部 51…報知部 52…外部記憶装置 54…スピーカ部 55…表示部

Claims (6)

  1. 車両に搭載される状態監視装置(1)であって、
    車両の運転者の顔面が位置する領域として規定された規定領域に光が照射されるように発光する発光手段(9)と、
    前記規定領域を含む領域を撮影領域とした画像を撮像する撮像手段(7)と、
    前記撮像手段で撮像された画像を画像処理した結果に基づいて、前記運転者の覚醒状態を監視する状態監視手段(40,S200,S210)と、
    前記運転者が車両を運転する準備が整っていない運転待機状況であるか、前記運転者が車両を運転する準備が整っている運転可能状況であるかを判定する状況判定手段(40,S120〜S140)と、
    前記状況判定手段での判定の結果、前記運転待機状況である場合、前記発光手段における発光機能を低下させる特定処理を実行し、前記運転可能状況であれば、前記発光手段における発光機能を低下させることなく前記発光手段に発光させる発光制御手段(40,S150,S240)と、を備え、
    前記発光制御手段は、
    前記状態監視手段が前記運転者の覚醒状態を監視している場合に、前記状況判定手段での判定の結果が、前記運転可能状況から前記運転待機状況になると、前記特定処理を実行すると共に、前記撮像手段による画像の撮像を停止させるように構成され
    前記状況判定手段は、
    前記車両のシフトポジションがドライブ以外のシフトポジションである場合に、前記運転待機状況であるものと判定するように構成されている、
    状態監視装置。
  2. 自動車に搭載されたシートベルトの着用状態を表す脱着信号を取得する脱着取得手段(40,S110)を備え、
    前記状況判定手段は、
    前記脱着取得手段で取得した脱着信号が運転席のシートベルトが着用されていないことを表していれば、前記運転待機状況であるものと判定する
    ことを特徴とする請求項1に記載の状態監視装置。
  3. 前記車両に設けられたドアの開閉状態を表す開閉信号を取得する開閉取得手段(40,S110)を備え、
    前記状況判定手段は、
    前記開閉取得手段にて取得した開閉信号が、ドアが開いていることを表していれば、前記運転待機状況であるものと判定する
    ことを特徴とする請求項1または請求項2に記載の状態監視装置。
  4. 運転席への着座状況を表す着座信号を取得する着座取得手段(40,S110)を備え、
    前記状況判定手段は、
    前記着座取得手段にて取得した着座信号が運転席に着座していないことを表していれば、前記運転待機状況であるものと判定する
    ことを特徴とする請求項1から請求項3までのいずれか一項に記載の状態監視装置。
  5. 前記発光制御手段は、
    前記発光手段による発光の停止を前記特定処理として実行する
    ことを特徴とする請求項1から請求項4までのいずれか一項に記載に状態監視装置。
  6. 前記発光制御手段は、
    前記発光手段による発光強度を低減することを、前記特定処理として実行する
    ことを特徴とする請求項1から請求項4までのいずれか一項に記載に状態監視装置。
JP2013220228A 2013-10-23 2013-10-23 状態監視装置 Expired - Fee Related JP6107595B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013220228A JP6107595B2 (ja) 2013-10-23 2013-10-23 状態監視装置
US15/030,546 US10055658B2 (en) 2013-10-23 2014-09-02 State monitoring device
PCT/JP2014/004487 WO2015059856A1 (ja) 2013-10-23 2014-09-02 状態監視装置
CN201480057949.3A CN105659305B (zh) 2013-10-23 2014-09-02 状态监视装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013220228A JP6107595B2 (ja) 2013-10-23 2013-10-23 状態監視装置

Publications (2)

Publication Number Publication Date
JP2015082231A JP2015082231A (ja) 2015-04-27
JP6107595B2 true JP6107595B2 (ja) 2017-04-05

Family

ID=52992480

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013220228A Expired - Fee Related JP6107595B2 (ja) 2013-10-23 2013-10-23 状態監視装置

Country Status (4)

Country Link
US (1) US10055658B2 (ja)
JP (1) JP6107595B2 (ja)
CN (1) CN105659305B (ja)
WO (1) WO2015059856A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6107595B2 (ja) 2013-10-23 2017-04-05 株式会社デンソー 状態監視装置
JP6617602B2 (ja) * 2016-02-24 2019-12-11 株式会社デンソー 漫然運転検出システム及び漫然運転検出方法
CN105957346A (zh) * 2016-06-14 2016-09-21 深圳爱易瑞科技有限公司 一种车辆驾驶联网安全控制方法
CN105847452A (zh) * 2016-06-14 2016-08-10 深圳爱易瑞科技有限公司 一种车辆联网安全管控方法
CN107458343B (zh) * 2017-07-12 2019-08-02 重庆长安汽车股份有限公司 基于bcm控制的汽车安全带锁扣位置提示系统及提示方法
US10220806B2 (en) * 2017-08-02 2019-03-05 Ford Global Technologies, Llc Monitoring and alerting vehicle occupants for ignition systems
JP6683185B2 (ja) * 2017-11-15 2020-04-15 オムロン株式会社 情報処理装置、運転者モニタリングシステム、情報処理方法、及び情報処理プログラム
JP6996253B2 (ja) * 2017-11-24 2022-01-17 トヨタ自動車株式会社 車両の制御装置
JP7180228B2 (ja) * 2018-09-20 2022-11-30 いすゞ自動車株式会社 車両用監視装置
JP7311257B2 (ja) * 2018-09-27 2023-07-19 株式会社アイシン 眼球情報検出装置、眼球情報検出方法、および乗員モニタリング装置
CN112277940B (zh) * 2019-12-05 2024-06-18 北京宏诚伟信人力资源管理服务有限公司 基于图像信息的司机状态控制系统
CN111063167A (zh) * 2019-12-25 2020-04-24 歌尔股份有限公司 一种疲劳驾驶识别提示方法、装置及相关组件
CN113479166B (zh) * 2021-07-28 2022-08-23 北京百度网讯科技有限公司 自动驾驶车辆的检测方法、装置、电子设备及可读存储介质

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5835245A (ja) * 1981-08-25 1983-03-01 Toyota Motor Corp エンジン自動停止始動装置
JP3084996B2 (ja) 1993-02-15 2000-09-04 三菱電機株式会社 脇見判定装置
JPH06293228A (ja) 1993-04-06 1994-10-21 Aisin Seiki Co Ltd 車上乗員認識装置
JP3651571B2 (ja) 1999-03-31 2005-05-25 株式会社東芝 ドライバ状態検知システム
JP2005233647A (ja) * 2004-02-17 2005-09-02 Denso Corp ナビゲーション装置、及び交通情報案内プログラム
JP4059224B2 (ja) * 2004-04-13 2008-03-12 株式会社デンソー 運転者の外観認識システム
JP2006248363A (ja) 2005-03-10 2006-09-21 Omron Corp 運転者照明装置、運転者撮影装置および運転者監視装置
JP4713932B2 (ja) * 2005-04-25 2011-06-29 株式会社東海理化電機製作所 車両セキュリティ装置、及び車両セキュリティシステム
JP4985428B2 (ja) * 2007-02-01 2012-07-25 株式会社デンソー ドライバ管理装置および運行管理システム
US7946744B2 (en) * 2007-02-02 2011-05-24 Denso Corporation Projector and image pickup apparatus
JP5078815B2 (ja) * 2008-09-12 2012-11-21 株式会社豊田中央研究所 開眼度推定装置
CN103347446B (zh) * 2010-12-10 2016-10-26 Tk控股公司 用于监控车辆驾驶员的系统
JP2012224254A (ja) * 2011-04-20 2012-11-15 Mitsubishi Motors Corp 車両制御装置
JP5723312B2 (ja) * 2012-03-23 2015-05-27 富士重工業株式会社 四輪自動車用のシフトバイワイヤ制御システム
JP6107595B2 (ja) 2013-10-23 2017-04-05 株式会社デンソー 状態監視装置

Also Published As

Publication number Publication date
CN105659305A (zh) 2016-06-08
US10055658B2 (en) 2018-08-21
US20160239715A1 (en) 2016-08-18
JP2015082231A (ja) 2015-04-27
WO2015059856A1 (ja) 2015-04-30
CN105659305B (zh) 2018-11-06

Similar Documents

Publication Publication Date Title
JP6107595B2 (ja) 状態監視装置
US9888875B2 (en) Driver monitoring apparatus
JP4059224B2 (ja) 運転者の外観認識システム
JP6119136B2 (ja) 状態監視装置
JP5761046B2 (ja) 防眩制御装置
JP5233322B2 (ja) 情報処理装置および方法、並びに、プログラム
WO2017006853A1 (ja) 運転者異常検出装置及び運転者異常検出方法
JP2017131445A (ja) 生体情報計測装置、車載器、及び生体情報計測システム
JP7331483B2 (ja) 撮像制御装置
JP5999013B2 (ja) 開眼状態判定装置
JP2009255740A (ja) 車両用撮像装置
JP2006193120A (ja) 車両用照明装置及び車両制御装置
JP5573820B2 (ja) 状態監視装置
US10611305B2 (en) Camera monitor system
JP6567842B2 (ja) 酒気帯び検知装置及びルームミラー装置
US11772563B2 (en) In-vehicle multi-monitoring device for vehicle
US20220272302A1 (en) In-vehicle monitoring device for vehicle
WO2021020449A1 (ja) 車両用表示制御装置
JP5182567B2 (ja) 乗員監視装置
JPH10272961A (ja) 居眠り警報装置
JP2018143285A (ja) 生体状態判定装置、生体状態判定システム、及び、生体状態判定方法
CN116801094A (zh) 乘员状态监视装置
JP2016224683A (ja) 呼吸状態監視システム
JP2017182104A (ja) 移動体間隔提示装置、方法及びプログラム
JP2024087452A (ja) 運転者監視装置および監視プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160812

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170220

R151 Written notification of patent or utility model registration

Ref document number: 6107595

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees