JP6857841B2 - ドライバ監視装置、車両、ドライバ監視方法およびプログラム - Google Patents

ドライバ監視装置、車両、ドライバ監視方法およびプログラム Download PDF

Info

Publication number
JP6857841B2
JP6857841B2 JP2017010753A JP2017010753A JP6857841B2 JP 6857841 B2 JP6857841 B2 JP 6857841B2 JP 2017010753 A JP2017010753 A JP 2017010753A JP 2017010753 A JP2017010753 A JP 2017010753A JP 6857841 B2 JP6857841 B2 JP 6857841B2
Authority
JP
Japan
Prior art keywords
driver
unit
infrared irradiation
infrared
infrared rays
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017010753A
Other languages
English (en)
Other versions
JP2018120377A (ja
Inventor
中野 信之
信之 中野
忠司 芝田
忠司 芝田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2017010753A priority Critical patent/JP6857841B2/ja
Publication of JP2018120377A publication Critical patent/JP2018120377A/ja
Application granted granted Critical
Publication of JP6857841B2 publication Critical patent/JP6857841B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Steering Controls (AREA)
  • Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Description

本発明は、ドライバ監視装置、車両、ドライバ監視方法およびプログラムに関し、特に、車両を操舵するドライバの状態を検知するドライバ監視装置、ドライバ監視装置を搭載した車両、ドライバ監視方法およびドライバ監視方法を実行するプログラムに関する。
従来、車両内のドライバの顔を撮影し、ドライバの顔動作等からドライバの状態(挙動)を検知するドライバモニタリング装置(ドライバ監視装置の一例)の技術が知られている(例えば、特許文献1参照)。ドライバモニタリング装置は、ドライバの顔の向き、ドライバの視線の方向等といったドライバの動作の状態を検出するカメラ(撮像装置の一例)と、ドライバに近赤外光(赤外線の一例)を照射する投光器(赤外線照射部)とを備える。このドライバモニタリング装置は、車両のインストゥルメントパネルのうち、ドライバの正面に近い位置に取り付けられている。
特開2010−97379号公報
しかしながら、ドライバモニタリング装置を例えばドライバの正面に配置することにより、ドライバが車両を操舵する際に、ドライバの手およびステアリングスポーク等によって、赤外線照射部が照射する赤外線が遮蔽されてしまう場合がある。この場合、ドライバの顔の向き、ドライバの視線の方向等を検出することができなくなる。
本開示は、ドライバが車両を操舵している場合において、ドライバの状態を安定して検知することができるドライバ監視装置、車両、ドライバ監視方法およびプログラムに関する。
上記目的を達成するため、本発明の一態様に係るドライバ監視装置は、車室内のドライバの状態を撮像する撮像装置と、前記ドライバに向けて赤外線を照射する複数の赤外線照射部と、前記撮像装置が撮像した画像に基づいて前記ドライバの状態を判断する制御部とを備え、前記制御部は、さらに、赤外線を照射している一部の前記赤外線照射部と前記ドライバとの間に遮蔽物が存在している場合に、他の前記赤外線照射部から赤外線を前記ドライバに照射させる。
上記目的を達成するため、本発明の一態様に係る車両は、前記ドライバ監視装置を備える。
上記目的を達成するため、本発明の一態様に係るドライバ監視方法は、車室内のドライバの状態を撮像する撮像ステップと、赤外線照射部がドライバに向けて赤外線を照射する赤外線照射ステップと、一部の前記赤外線照射部と前記ドライバとの間に遮蔽物が存在している場合に、他の前記赤外線照射部から赤外線を前記ドライバに照射させる制御ステップとを含む。
上記目的を達成するため、本発明の一態様に係るプログラムは、ドライバ監視方法をコンピュータに実行させる。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータで読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
本発明によれば、ドライバが車両を操舵している場合において、ドライバの状態を安定して検知することができる。
図1は、実施の形態に係るドライバ監視装置が車両に用いられる場合を示す模式図である。 図2は、実施の形態に係るドライバ監視装置が車両のステアリングコラムに配置されている状態を示す図である。 図3は、実施の形態に係るドライバ監視装置を示すブロック図である。 図4は、実施の形態に係るドライバ監視装置の動作の状態を示すイメージ図である。 図5は、実施の形態に係るドライバ監視装置の動作を示すフローチャートである。 図6は、ステアリングが、通常状態の場合、左操舵状態の場合、右操舵状態の場合における実施の形態に係るドライバ監視装置の動作の状態を示す模式図である。 図7は、実施の形態の変形例に係るドライバ監視装置を示すブロック図である。 図8は、実施の形態の変形例に係るドライバ監視装置の動作を示すフローチャートである。
(本発明の基礎となった知見)
従来、ドライバの脇見、居眠り等を危険な状態を是正するために、車両内のドライバの顔を撮影し、ドライバの顔動作等からドライバの状態を検知するドライバ監視装置(ドライバモニタリングカメラとも言う)の車両への搭載が進んでいる。
通常、ドライバ監視装置は、ドライバの状態を検知するため、ドライバの顔に対して正面、かつ、ドライバを見上げる位置に設けることが望ましい。これは、ドライバが上下左右方向に向けられる顔の向き、視線の方向等を安定して精度よく検出する必要があるためである。また、ドライバの瞼やまつ毛の影響を受けることなくドライバの眼の状態を安定して検出する必要がある。
また、ドライバ監視装置では、赤外線をドライバに照射し、撮像装置を用いてその反射光を画像として取得する。これは、夜間でもドライバの顔等の状態を検知する必要があることと、ドライバの視線を精度よく検知するために、角膜反射法によりドライバの眼の基準点なるプルキニエ像が検出されるように赤外線を照射する必要がある。
ここで、プルキニエ像は、赤外線照射部が照射した赤外線が、人の眼の角膜表面で反射した場合に映る輝点像である。このプルキニエ像と瞳孔の中心との所定方向の相対的な位置関係に基づいてドライバの視線を導くことができる。具体的には、眼球の向きが変化すると、眼球内に映るプルキニエ像の位置が眼球の向きに対応して移動する。そして、赤外線照射部が眼球に赤外線を照射し、撮像装置が捉える眼球の画像から、瞳孔の中心点と角膜反射点であるプルキニエ像の位置座標とを求めることでドライバの視線を検出する。
このような観点から、ドライバの状態を安定的、かつ、精度よく検知するためには、赤外線照射部および撮像装置を、車両のステアリングコラム又はその周辺に配置する必要がある。
しかしながら、ドライバモニタリング装置をドライバの正面に配置すれば、ドライバがステアリングを操舵することで、ドライバの手およびステアリングのスポーク等によって、赤外線照射部が照射する赤外線が遮蔽されてしまう場合がある。この場合、ドライバの顔の向き、ドライバの視線の方向等を検出することができなくなる。
そこで、ドライバが車両を操舵している場合において、ドライバの状態を安定して検知することができるドライバ監視装置、車両、ドライバ監視方法およびプログラムが求められている。
本開示の一態様に係るドライバ監視装置は、車室内のドライバの状態を撮像する撮像装置と、前記ドライバに向けて赤外線を照射する複数の赤外線照射部と、前記撮像装置が撮像した画像に基づいて前記ドライバの状態を判断する制御部とを備え、前記制御部は、さらに、赤外線を照射している一部の前記赤外線照射部と前記ドライバとの間に遮蔽物が存在している場合に、他の前記赤外線照射部から赤外線を前記ドライバに照射させる。
このように、赤外線を照射している一部の赤外線照射部とドライバとの間に遮蔽物が存在している場合に、制御部が他の赤外線照射部から赤外線をドライバに照射させるため、ドライバが車両を操舵することで、ドライバの手およびステアリングのスポーク等によって、赤外線照射部が照射する赤外線が遮蔽されたとしても、ドライバの状態を検知することができる。
したがって、ドライバが車両を操舵している場合において、ドライバの状態を安定して検知することができる。
また、本開示の一態様に係る車両は、ドライバ監視装置を備える。また、本開示の一態様に係るドライバ監視方法は、車室内のドライバの状態を撮像する撮像ステップと、赤外線照射部がドライバに向けて赤外線を照射する赤外線照射ステップと、一部の前記赤外線照射部と前記ドライバとの間に遮蔽物が存在している場合に、他の前記赤外線照射部から赤外線を前記ドライバに照射させる制御ステップとを含む。また、本開示の一態様に係るプログラムは、ドライバ監視方法をコンピュータに実行させる。
これらにおいても、同様の作用効果を奏する。
また、本開示の一態様に係るドライバ監視装置における、前記複数の赤外線照射部のうちの一部が赤外線を照射する場合において、前記制御部は、赤外線を照射している一部の前記赤外線照射部と前記ドライバとの間に前記遮蔽物が存在している場合に、赤外線を照射している一部の前記赤外線照射部を、赤外線を照射していない他の前記赤外線照射部に切換えて、他の前記赤外線照射部から赤外線を前記ドライバに向けて照射させる。
このように、赤外線が遮蔽物により遮蔽されたとしても、赤外線を照射していない他の赤外線照射部から赤外線をドライバに向けて照射するように制御部が切換えるため、赤外線をドライバに向けて照射することができる。このため、赤外線照射部が照射する赤外線が遮蔽されたとしても、ドライバの状態をより確実に検知することができる。
また、本開示の一態様に係るドライバ監視装置において、前記制御部は、赤外線を照射している前記赤外線照射部と前記ドライバとの間に前記遮蔽物が存在しているか否かを判断する判断部を有する。
このように、赤外線を照射している赤外線照射部とドライバとの間に遮蔽物が存在しているか否かを判断部が判断するため、ドライバ監視装置を具体化することができる。
また、本開示の一態様に係るドライバ監視装置は、さらに、ステアリングの舵角を検知する舵角検知部を備え、前記制御部は、前記舵角検知部で検知された角度に応じて前記複数の赤外線照射部を制御する。
このように、舵角検知部で検知された角度に応じて制御部が複数の赤外線照射部を制御するため、より確実にドライバに赤外線を照射することができる。
また、本開示の一態様に係るドライバ監視装置において、前記撮像装置は、複数設けられ、前記制御部は、前記赤外線照射部が前記ドライバに赤外線を照射している際に連動して、各々の前記撮像装置に前記ドライバを撮像させる。
このように、赤外線照射部がドライバに赤外線を照射している際に、撮像装置がドライバを撮像するため、ドライバの状態をより確実に検知することができる。
また、本開示の一態様に係るドライバ監視装置において、前記撮像装置は、複数設けられ、さらに、前記舵角検知部が検知した角度に応じて、撮像する前記撮像装置を他の前記撮像装置に切換える撮像装置切換部を備える。
このように、撮像装置が遮蔽物によりドライバを撮像することができなくなっても、舵角検知部が検知した角度に応じて、撮像している撮像装置を他の撮像装置が撮像するように撮像装置切換部が切換えるため、ドライバの状態をより確実に撮像することができる。
また、本開示の一態様に係るドライバ監視装置において、前記赤外線照射部及び前記撮像装置は、ステアリングコラムに配置されている。
このように、赤外線照射部及び撮像装置がステアリングコラムに配置されているため、ドライバの正面に赤外線を照射したり、ドライバを正面から撮像したりすることができる。
また、本開示の一態様に係るドライバ監視装置は、さらに、前記赤外線照射部及び前記撮像装置が動作していることを示す情報を表示する表示部を備える。
これによれば、ドライバは、表示部が赤外線照射部及び撮像装置が動作していることを表示部により確認することができるため、ドライバが安心感を得ることができる。
以下、本発明の実施の形態について、図面を参照して詳細に説明する。なお、以下に説明する実施の形態は一例であり、本発明はこれらの実施の形態により限定されるものではない。つまり、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
また、各図は、模式図であり、必ずしも厳密に図示されたものではない。また、各図において、同じ構成部材については同じ符号を付している。
(実施の形態)
[構成]
まず、本実施の形態に係るドライバ監視装置1の構成について図1〜図4を用いて説明する。
図1は、実施の形態に係るドライバ監視装置1が車両2に用いられる場合を示す模式図である。図2は、実施の形態に係るドライバ監視装置1が車両2のステアリングコラム15に配置されている状態を示す図である。図3は、実施の形態に係るドライバ監視装置1を示すブロック図である。図4は、実施の形態に係るドライバ監視装置1の動作の状態を示すイメージ図である。図4のハッチング部分は、赤外線を表している。
本実施の形態に係るドライバ監視装置1は、車両2を操舵するドライバの状態を検知する装置であり、車両2に搭載されている。ドライバの状態とは、ドライバが通常の操舵を行うに際し、ドライバが正常な状態、ドライバが脇見の状態、ドライバが居眠りの状態等である。
図1および図2に示すように、ドライバ監視装置1は、矩形状をなしており、車両2の車室内に設けられている。具体的には、ドライバ監視装置1は、ドライバに赤外線を照射し、かつ、ドライバの状態を撮像することができるように、車両2のステアリングコラム15又はその周辺に配置されている。本実施の形態では、ドライバ監視装置1は、ステアリングコラム15の上側に配置されている。
図3に示すように、ドライバ監視装置1は、撮像装置21と、複数の赤外線照射部22と、制御部30と、ドライバ状態検知部40と、舵角検知部51と、照射切換部23と、表示部24とを備える。
撮像装置21は、車室内のドライバの状態を撮像する装置であり、例えば単眼カメラである。撮像装置21は、撮像した画像を、後述するドライバ状態検知部40の顔検出部41に送信する。撮像装置21は、ドライバ状態検知部40を有していてもよい。
撮像装置21は、赤外線の光軸がドライバの顔(座席のヘッドレスト)と交差するように設けられている。具体的には、撮像装置21は、車両2の座席に着座したドライバの顔を正面から撮像することができるように配置されている。撮像装置21の撮影範囲は、ドライバが座席に着座した際に、通常の場合にドライバの顔が位置するであろう空間領域である。本実施の形態では、撮像装置21は、図1に示すように、ドライバ監視装置1におけるドライバと向かい合う面の中央部分に設けられている。つまり、本実施の形態では、撮像装置21は、ステアリング14のステアリングスポーク11が移動しても、ステアリングスポーク11に遮られない位置に配置されている。
図3に示すように、赤外線照射部22は、ドライバに向けて赤外線を照射する装置である。赤外線照射部22は複数設けられているが、本実施の形態では2つの赤外線照射部22が設けられている。赤外線照射部22は、例えば、赤外線を照射するLEDを用いてもよい。
赤外線照射部22は、赤外線の光軸がドライバの顔(座席のヘッドレスト)と交差するように設けられている。具体的には、図4に示すように、撮像装置21は、車両2の座席に着座したドライバ3の顔の正面に赤外線を照射することができるように配置されている。本実施の形態では、赤外線照射部22は、ドライバ監視装置1におけるドライバ3と向かい合う面において、撮像装置21の両側に配置されている。
この赤外線照射部22が照射した赤外線では、撮像装置21によって撮像される顔の撮像画像が、夜間などの外部の環境に大きく影響され難くなり、撮像画像が鮮明になる。赤外線照射部22の照射範囲は、ドライバ3が座席に着座した際に、ドライバ3の顔が通常の場合、位置するであろう空間領域である。
なお、赤外線照射部22は、制御部30の制御に基づいて、撮像装置21による撮像のタイミングに合わせて赤外線を照射してもよく、ドライバ監視装置1の作動中、常時赤外線を照射し続けてもよい。
図3に示すように、制御部30は、CPU、RAM、ROM、フラッシュメモリ等を有するマイコン等から構成されている。そして、CPUがROMから読み出したプログラムをRAMに読み出して実行し、その実行の際に、必要に応じてフラッシュメモリ、撮像装置21等から情報を取得し、必要に応じて、信号を出力する。
制御部30は、撮像装置21が撮像した画像に基づいてドライバの状態を判断する装置であり、撮像装置21、赤外線照射部22等の動作を制御する装置でもある。また、制御部30は、赤外線を照射している一部の赤外線照射部22とドライバとの間に遮蔽物10が存在している場合に、他の赤外線照射部22から赤外線をドライバに照射させる。ここで、一部の赤外線照射部22とは、複数の赤外線照射部22の内の一部という意味である。ここで、他の赤外線照射部22とは、複数の赤外線照射部22の内の赤外線を照射していない赤外線照射部22を意味する。
制御部30は、撮像装置制御部31と、照射制御部32と、判断部33とを有する。
撮像装置制御部31は、撮像装置21が撮像するタイミング等の動作を制御する装置である。
照射制御部32は、点灯および消灯させる複数の赤外線照射部22を、照射切換部23を介して制御する装置である。
ドライバ状態検知部40は、撮像装置21が撮像した撮像画像を受信し、撮像画像からドライバの顔の状態に関する情報に基づいて、ドライバの顔の向き、ドライバの視線の方向、ドライバの瞼の状態等を検知する装置である。
ドライバ状態検知部40は、顔検出部41と、視線検出部42とを有する。
顔検出部41は、撮像装置21が撮像した撮像画像から、ドライバの顔特徴点の位置を特定する。ここで、顔特徴点とは、目頭、瞳孔、目尻、鼻腔、口、耳等の顔の器官における特徴的な点である。顔検出部41は、ドライバの顔特徴点に関する情報を制御部30および視線検出部42に送信する。
視線検出部42は、顔検出部41が撮像画像から特定したドライバの顔特徴点に基づいて、ドライバの視線を特定するプルキニエ像を検出する。視線検出部42は、ドライバの瞳孔から検出したプルキニエ像に基づいて、ドライバの視線の方向を検出する。視線検出部42は、検出したドライバの視線や瞼に関する情報を判断部33に送信する。
舵角検知部51は、ステアリング14の舵角を検知することができる装置であり、検知した舵角に関する情報を判断部33に送信する。
判断部33は、赤外線を照射している赤外線照射部22とドライバとの間に遮蔽物10が存在しているか否かを判断する。具体的には、判断部33は、舵角検知部51から受信した舵角に関する情報に基づいて、赤外線照射部22とドライバとの間に遮蔽物10が存在しているか否かを判断する。つまり、判断部33は、舵角が所定の角度以上あれば、ステアリング14のステアリングスポーク11により赤外線照射部22とドライバとの間が遮蔽されると判断する。この所定の角度は、予め設定されている値であり、制御部30が舵角検知部51で検知された角度に応じて複数の赤外線照射部22を制御する場合の一例である。
制御部30の判断部33は、赤外線を照射している一部の赤外線照射部22とドライバとの間に遮蔽物10が存在していると判断した場合に、この判断結果に関する情報を制御部30の照射制御部32に送信する。この場合、制御部30の照射制御部32は、判断部33から受信した判断結果に基づいて、赤外線を照射している赤外線照射部22を他の赤外線照射部22から赤外線を照射させるために、照射切換部23を制御する。つまり、遮蔽物10で遮蔽された赤外線照射部22を遮蔽物10で遮蔽されていない赤外線照射部22に照射切換部23が切換える。
また、判断部33は、視線検出部42からドライバの視線や瞼に関する情報を受信すると、この情報からドライバの状態を判断する。具体的には、ドライバが眠気を催している状態であるか否か、ドライバが居眠り運転をしている状態であるか否か、ドライバが脇見運転をしている状態であるか否か等のドライバの状態を判断する。判断部33は、ドライバの状態の結果に基づいてドライバに警告又はドライバを覚醒させる等の措置を行う図示しない報知部に送信する。報知部は、例えば、カーナビゲーション、スピーカ、メータなどである。
複数の赤外線照射部22のうちの一部が赤外線を照射する場合において、赤外線を照射している一部の赤外線照射部22とドライバとの間に遮蔽物10が存在している場合に、制御部30は、赤外線を照射している一部の赤外線照射部22を、赤外線を照射していない他の赤外線照射部22に切換えて、他の赤外線照射部22から赤外線をドライバに向けて照射させる。つまり、照射切換部23は、複数ある赤外線照射部22のうち、赤外線を照射している赤外線照射部22を、赤外線を照射していない他の赤外線照射部22から赤外線を照射するように切換える。この場合に、制御部30は、照射する赤外線が遮蔽物10により遮蔽されている赤外線照射部22の動作を停止させる。つまり、照射切換部23は、赤外線を照射している赤外線照射部22を停止し、赤外線を照射していない他の赤外線照射部22から赤外線を照射するように切換える。
表示部24は、制御部30に接続されており、赤外線照射部22及び撮像装置21が動作していることを示す情報を表示する。表示部24は、例えばランプ、モニタ等でもよい。表示部24は、赤外線照射部22及び撮像装置21が動作している場合には、例えばランプの点灯などで表示してもよい。
次に、ドライバ監視装置1の動作について、図5及び図6を用いて説明する。なお、ドライバ監視装置1を備えた車両2、ドライバ監視方法およびプログラムにおいても同様の動作である。
図5は、実施の形態に係るドライバ監視装置1の動作を示すフローチャートである。図6は、ステアリング14が、通常状態の場合、左操舵状態の場合、右操舵状態の場合における実施の形態に係るドライバ監視装置1の動作の状態を示す模式図である。本実施の形態では、撮像装置21が単眼カメラの場合である。
ここでは、ドライバが車両2を操舵している場合に、ドライバ監視装置1が起動している場合を想定している。
図5に示すように、まず、照射制御部32は、一方の赤外線照射部22から赤外線を照射させる。ここでは、図6の通常の状態のように、一方の赤外線照射部22がドライバに赤外線を照射する(S1:赤外線照射ステップの一例)。
次に、舵角検知部51は、ステアリング14の舵角を検知すると、この舵角から舵角に関する情報を生成して判断部33に送信する(S2)。例えば、図6の左操舵状態および右操舵状態である。
次に、判断部33は、ドライバに赤外線を照射している一方の赤外線照射部22とドライバとの間に遮蔽物10が存在しているか否かを判断する(S3)。具体的には、判断部33は、舵角検知部51が検知した角度に応じて判断する。例えば、判断部33がステアリング14の舵角に関する情報に基づいて、ステアリング14が通常状態、左操舵状態、右操舵状態のいずれであるかを判断し、それぞれの状態に応じて赤外線照射部22を切換える。
判断部33がこの赤外線照射部22とドライバとの間に遮蔽物10が存在していると判断した場合(S3ではYES)、遮蔽物10により赤外線が遮られていると考えられるため、判断部33が判断結果に関する情報を制御部30の照射制御部32に送信する(S4)。
次に、照射切換部23は、赤外線を照射している赤外線照射部22を他の赤外線照射部22に切換える(S5:制御ステップの一例)。つまり、照射制御部32は、判断結果に関する情報に基づいて、一方の赤外線照射部22(一部の赤外線照射部22の一例)から他方の赤外線照射部22(他の赤外線照射部22の一例)に切換えさせるように照射切換部23を制御する。具体的には、照射切換部23は、一方の赤外線照射部22からの赤外線の照射を停止させるとともに、赤外線を照射していない他方の赤外線照射部22から赤外線を照射させる。こうして、遮蔽されていない赤外線照射部22から赤外線がドライバに照射される。
次に、撮像装置制御部31は、撮像装置21にドライバを撮像させる(S6:撮像ステップの一例)。撮像装置21は、撮像した画像をドライバ状態検知部40の顔検出部41に送信する。
次に、撮像装置21が撮像した画像に基づいて、顔検出部41がドライバの顔を検出し(S7)、顔検出部41がドライバの顔特徴点の位置を特定する。顔検出部41は、ドライバの顔特徴点に関する情報をドライバ状態検知部40の視線検出部42と判断部33とに送信する。
次に、撮像装置21が撮像した画像に基づいて、視線検出部42がドライバの視線を検出し(S8)、ドライバの視線の方向が特定される。そして、このフローは、ステップS2に戻り同様の動作を繰り返す。なお、視線検出部42がドライバの視線の方向に関する情報を判断部33に送信し、判断部33がこの情報に基づいてドライバの状態を判断する。
一方、判断部33が一方の赤外線照射部22とドライバとの間に遮蔽物10が存在していないと判断した場合(S3ではNO)、赤外線がステアリングスポーク11に遮られていないと考えられるため、ステップS6に進み同様の動作を繰り返す。
なお、ステップS3のように赤外線照射部22とドライバとの間に遮蔽物10が存在しているか否かの判断を、各ステップにおいて、逐一判断してもよい。
このような、ドライバ監視装置1、車両2、ドライバ監視方法およびプログラムでは、赤外線を照射している赤外線照射部22が遮蔽物10で赤外線が遮蔽されても、赤外線を照射していない他の赤外線照射部22に切換えることで、ドライバの視線の向きを検知することができる。
[作用効果]
次に、本実施の形態におけるドライバ監視装置1、車両2、ドライバ監視方法およびプログラムの作用効果について説明する。
上述したように、本実施の形態に係るドライバ監視装置1は、車室内のドライバの状態を撮像する撮像装置21と、ドライバに向けて赤外線を照射する複数の赤外線照射部22と、撮像装置21が撮像した画像に基づいてドライバの状態を判断する制御部30とを備える。そして、制御部30は、さらに、一部の赤外線照射部22とドライバとの間に遮蔽物10が存在している場合に、他の赤外線照射部22から赤外線をドライバに照射させる。
このように、赤外線を照射している一部の赤外線照射部22とドライバとの間に遮蔽物10が存在している場合に、制御部30が他の赤外線照射部22から赤外線をドライバに照射させるため、ドライバが車両2を操舵することで、ドライバの手およびステアリング14のスポーク等によって、赤外線照射部22が照射する赤外線が遮蔽されたとしても、ドライバの状態を検知することができる。
したがって、ドライバが車両2を操舵している場合において、ドライバの状態を安定して検知することができる。
また、本実施の形態に係る車両2は、ドライバ監視装置1を備える。また、本実施の形態に係るドライバ監視方法は、車室内のドライバの状態を撮像する撮像ステップと、ドライバに向けて赤外線を照射する赤外線照射ステップと、一部の赤外線照射部22とドライバとの間に遮蔽物10が存在している場合に、他の赤外線照射部22から赤外線をドライバに照射させる制御ステップとを含む。また、本実施の形態に係るプログラムは、ドライバ監視方法をコンピュータに実行させる。
これらにおいても、同様の作用効果を奏する。
また、本実施の形態に係るドライバ監視装置1における、複数の赤外線照射部22のうちの一部が赤外線を照射する場合において、制御部30は、赤外線を照射している一部の赤外線照射部22とドライバとの間に遮蔽物10が存在している場合に、赤外線を照射している一部の赤外線照射部22を、赤外線を照射していない他の赤外線照射部22に切換えて、他の赤外線照射部22から赤外線をドライバに向けて照射させる。
このように、赤外線が遮蔽物10により遮蔽されたとしても、赤外線を照射している他の赤外線照射部22から赤外線を照射していない他の赤外線照射部22に切換えるため、他の赤外線照射部22から赤外線をドライバに向けて照射させることができる。このため、赤外線照射部22が照射する赤外線が遮蔽されたとしても、ドライバの状態をより確実に検知することができる。
また、本実施の形態に係るドライバ監視装置1において、制御部30は、赤外線を照射している赤外線照射部22とドライバとの間に遮蔽物10が存在しているか否かを判断する判断部33を有する。
このように、赤外線を照射している赤外線照射部22とドライバとの間に遮蔽物10が存在しているか否かを判断部33が判断するため、ドライバ監視装置1を具体化することができる。
また、本実施の形態に係るドライバ監視装置1は、さらに、ステアリング14の舵角を検知する舵角検知部51を備える。そして、制御部30は、舵角検知部51で検知された角度に応じて複数の赤外線照射部22を制御する。
このように、舵角検知部51で検知された角度に応じて制御部30が赤外線照射部22を制御するため、より確実にドライバに赤外線を照射することができる。
また、本実施の形態に係るドライバ監視装置1において、赤外線照射部22及び撮像装置21は、ステアリングコラム15に配置されている。
このように、赤外線照射部22及び撮像装置21がステアリングコラム15に配置されているため、ドライバの正面に赤外線を照射したり、ドライバを正面から撮像したりすることができる。
特に、複数の赤外線照射部22からドライバの眼に赤外線が照射されれば、ドライバを撮像する画像の輝度が変化してしまい、この輝度の変化が外部からの影響であるか、赤外線照射部22からの影響であるかの判断が困難となる。しかし、舵角検知部51で検知された角度に応じて複数の赤外線照射部22を制御すれば、制御部30の判断が容易となり、制御部30の複雑化を抑制することができる。
また、本実施の形態に係るドライバ監視装置1は、さらに、赤外線照射部22及び撮像装置21が動作していることを示す情報を表示する表示部24を備える。
これによれば、ドライバは、表示部24が赤外線照射部22及び撮像装置21が動作していることを表示部24により確認することができるため、ドライバが安心感を得ることができる。
(実施の形態の変形例)
本変形例では、ドライバ監視装置100について図7を用いて説明する。
図7は、本変形例に係るドライバ監視装置100を示すブロック図である。
本変形例では、複数の撮像装置21を用いている点および複数の撮像装置21を切換える撮像装置切換部125が設けられている点で実施の形態と相違する。
本変形例において、ドライバ監視装置100、車両2、ドライバ監視方法およびプログラムにおける他の構成は、実施の形態のドライバ監視装置1、車両2、ドライバ監視方法およびプログラムと同様であり、特に言及する場合を除き、同一の構成については同一の符号を付して構成に関する詳細な説明を省略する。
図7に示すように、ドライバ監視装置100は、複数の赤外線照射部22、制御部30、ドライバ状態検知部40、舵角検知部51、判断部33、照射切換部23および表示部24の他に、複数の撮像装置21と、撮像装置切換部125とを備える。
本変形例では、ドライバ監視装置100に2つの撮像装置21が設けられている。各々の撮像装置21は、撮像装置切換部125に接続されている。なお撮像装置21は、ドライバ状態検知部40と撮像装置切換部125とを有していてもよい。
制御部30の撮像装置制御部31は、赤外線照射部22がドライバに赤外線を照射している際に連動して、ドライバを撮像させるように各々の撮像装置21を制御する。
撮像装置切換部125は、舵角検知部51が検知した角度に応じて、撮像する撮像装置21を他の撮像装置21に切換える。具体的には、制御部30は、判断部33がドライバと撮像装置21との間に遮蔽物10が存在していると判断した場合に、撮像している撮像装置21を停止し、撮像していない他の撮像装置21が撮像するように切換える撮像装置切換部125を制御する。つまり、撮像装置切換部125が一方の撮像装置21を他方の撮像装置21に切換える。
次に、ドライバ監視装置100の動作について、図8を用いて説明する。なお、車両2、ドライバ監視方法およびプログラムにおいても同様の動作である。
図8は、本変形例に係るドライバ監視装置100の動作を示すフローチャートである。
ここでは、ドライバが車両2を操舵している場合に、ドライバ監視装置100が起動している場合を想定している。本変形例では、撮像装置21の一例である単眼カメラが2台の場合である。
図8に示すように、まず、一方の赤外線照射部22が赤外線を照射して(S1)、判断部33がステアリング14の舵角に関する情報に基づいて一方の赤外線照射部22とドライバとの間に遮蔽物10が存在しているか否かの判断を行う(S2、S3)。判断部33が判断結果に関する情報を照射制御部32に送信し(S4)、照射制御部32によって照射切換部23が一方の赤外線照射部22を他方の赤外線照射部22に切換える(S5)。
次に、判断部33は、撮像装置21とドライバとの間に、遮蔽物10が存在しているか否かを判断する(S11)。具体的には、判断部33は、舵角検知部51が検知した角度に応じて判断する。例えば、判断部33がステアリング14の舵角に関する情報に基づいて、ステアリング14が図6における通常状態、左操舵状態、右操舵状態のいずれであるかを判断し、それぞれの状態に応じて一方の撮像装置21を他方の撮像装置21に切換えるか否かの判断を行う。
判断部33がこの撮像装置21とドライバとの間に遮蔽物10が存在していると判断した場合(S11ではYES)、遮蔽物10により赤外線が遮られていると考えられるため、判断部33が判断結果に関する情報を制御部30の撮像装置制御部31に送信する(S12)。
次に、撮像装置切換部125は、ドライバを撮像している一方の撮像装置21を停止するとともに、ドライバを撮像していない他方の撮像装置21がドライバを撮像させるように切換える(S13)。つまり、照射制御部32は、判断結果に関する情報に基づいて、一方の撮像装置21を他方の撮像装置21に切換えるように撮像装置切換部125を制御する。こうして、遮蔽されていない撮像装置21がドライバを撮像することができる。
次に、撮像装置21がドライバを撮像した画像を顔検出部41に送信し(S6)、顔検出部41がドライバの顔を検出し(S7)、視線検出部42がドライバの視線を検出(S8)する。そして、このフローは、ステップS2に戻り同様の動作を繰り返す。
一方、判断部33がこの撮像装置21とドライバとの間に遮蔽物10が存在していないと判断した場合(S11ではNO)も、同様にステップS6〜S8を経てステップS2に戻り同様の動作を繰り返す。
[作用効果]
次に、本変形例におけるドライバ監視装置100の作用効果について説明する。
上述したように、本変形例に係るドライバ監視装置100において、撮像装置21は、複数設けられる。そして、制御部30は、赤外線照射部22がドライバに赤外線を照射している際に連動して、各々の撮像装置21にドライバを撮像させる。
このように、赤外線照射部22がドライバに赤外線を照射している際に連動して、撮像装置21がドライバを撮像するため、ドライバの状態をより確実に検知することができる。
また、本変形例に係るドライバ監視装置100において、撮像装置21は、複数設けられる。さらに、舵角検知部51が検知した角度に応じて、撮像する撮像装置21を他の撮像装置21に切換える撮像装置切換部125を備える。
このように、撮像装置21が遮蔽物10によりドライバを撮像することができなくなっても、舵角検知部51が検知した角度に応じて、撮像している撮像装置21を他の撮像装置21に撮像させるように切換えるため、ドライバの状態をより確実に撮像することができる。
この本変形例における作用効果は、実施の形態と同様の作用効果であり、同一の作用効果については詳細な説明を省略する。
(その他の実施の形態)
以上のように、本出願において開示する技術の例示として、実施の形態および実施の形態の変形例を説明した。しかしながら、実施の形態および実施の形態の変形例における技術は、これに限定されず、適宜、変更、置き換え、付加、省略などを行った実施の形態にも適用可能である。また、上記各実施の形態で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。
例えば、上記実施の形態において、図6に示すように、例えば撮像装置21がステレオカメラであってもよい。この場合、図6のステレオカメラの場合で示すように、ドライバ監視装置200では、左操舵状態および右操舵状態のように、遮蔽物10のステアリングスポーク11に遮断されても、撮像装置21の切換えを行わずに、一方の赤外線照射部22を他方の赤外線照射部22に切換える。
また、上記実施の形態において、1つの赤外線照射部22から赤外線をドライバに照射することが好ましい。照射した赤外線が遮蔽物10により遮蔽された赤外線照射部22については、制御部30が赤外線照射部22の動作を停止させるため、複数の赤外線照射部22からドライバの眼に赤外線が照射されれば、複数のプルキニエ像が表れてしまうこともない。複数のプルキニエ像がドライバの眼に現れなければ、制御部30がいずれのプルキニエ像を用いるかの判断を行うこともない。このため、制御部30が複雑化することを抑制することができる。
また、本発明に係る実施の形態について図面を参照して詳述してきたが、上述した装置や各処理部の機能は、コンピュータプログラムにより実現され得る。
上述した機能をプログラムにより実現するコンピュータは、キーボードやマウス、タッチパッドなどの入力装置、ディスプレイやスピーカなどの出力装置、プロセッサまたはCPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、ハードディスク装置やSSD(Solid State Drive)などの記憶装置、DVD−ROM(Digital Versatile Disk Read Only Memory)やUSB(Universal Serial Bus)メモリなどの記録媒体から情報を読み取る読取装置、ネットワークを介して通信を行うネットワークカードなどを備え、各部はバスにより接続される。
そして、読取装置は、上記プログラムを記録した記録媒体からそのプログラムを読み取り、記憶装置に記憶させる。あるいは、ネットワークカードが、ネットワークに接続されたサーバ装置と通信を行い、サーバ装置からダウンロードした上記各装置の機能を実現するためのプログラムを記憶装置に記憶させる。
そして、プロセッサまたはCPUが、記憶装置に記憶されたプログラムをRAMにコピーし、そのプログラムに含まれる命令をRAMから順次読み出して実行することにより、上記各装置の機能が実現される。
本発明に係るドライバ監視装置、ドライバ監視方法およびプログラムは、車両に用いられる。
1、100、200 ドライバ監視装置
2 車両
3 ドライバ
10 遮蔽物
11 ステアリングスポーク(遮蔽物)
14 ステアリング
15 ステアリングコラム
21 撮像装置
22 赤外線照射部
24 表示部
30 制御部
33 判断部
51 舵角検知部
125 撮像装置切換部

Claims (11)

  1. 車室内のドライバの状態を撮像する撮像装置と、
    前記ドライバに向けて赤外線を照射する複数の赤外線照射部と、
    前記撮像装置が撮像した画像に基づいて前記ドライバの状態を判断する制御部とを備え、
    前記制御部は、さらに、赤外線を照射している一部の前記赤外線照射部と前記ドライバとの間に遮蔽物が存在している場合に、他の前記赤外線照射部から赤外線を前記ドライバに照射させる
    ドライバ監視装置。
  2. 前記複数の赤外線照射部のうちの一部が赤外線を照射する場合において、前記制御部は、赤外線を照射している一部の前記赤外線照射部と前記ドライバとの間に前記遮蔽物が存在している場合に、赤外線を照射している一部の前記赤外線照射部を、赤外線を照射していない他の前記赤外線照射部に切換えて、他の前記赤外線照射部から赤外線を前記ドライバに向けて照射させる
    請求項1に記載のドライバ監視装置。
  3. 前記制御部は、赤外線を照射している前記赤外線照射部と前記ドライバとの間に前記遮蔽物が存在しているか否かを判断する判断部を有する
    請求項1又は2に記載のドライバ監視装置。
  4. さらに、ステアリングの舵角を検知する舵角検知部を備え、
    前記制御部は、前記舵角検知部で検知された角度に応じて前記複数の赤外線照射部を制御する
    請求項1〜3のいずれか1項に記載のドライバ監視装置。
  5. 前記撮像装置は、複数設けられ、
    前記制御部は、前記赤外線照射部が前記ドライバに赤外線を照射している際に連動して、各々の前記撮像装置に前記ドライバを撮像させる
    請求項1〜4のいずれか1項に記載のドライバ監視装置。
  6. 前記撮像装置は、複数設けられ、
    さらに、前記舵角検知部が検知した角度に応じて、撮像する前記撮像装置を他の前記撮像装置に切換える撮像装置切換部を備える
    請求項4に記載のドライバ監視装置。
  7. 前記赤外線照射部及び前記撮像装置は、ステアリングコラムに配置されている
    請求項1〜6のいずれか1項に記載のドライバ監視装置。
  8. さらに、前記赤外線照射部及び前記撮像装置が動作していることを示す情報を表示する表示部を備える
    請求項1〜7のいずれか1項に記載のドライバ監視装置。
  9. 請求項1〜8のいずれか1項に記載の前記ドライバ監視装置を備える
    車両。
  10. 車室内のドライバの状態を撮像する撮像ステップと、
    赤外線照射部がドライバに向けて赤外線を照射する赤外線照射ステップと、
    一部の前記赤外線照射部と前記ドライバとの間に遮蔽物が存在している場合に、他の前記赤外線照射部から赤外線を前記ドライバに照射させる制御ステップとを含む
    ドライバ監視方法。
  11. 請求項10に記載のドライバ監視方法をコンピュータに実行させる
    プログラム。
JP2017010753A 2017-01-24 2017-01-24 ドライバ監視装置、車両、ドライバ監視方法およびプログラム Active JP6857841B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017010753A JP6857841B2 (ja) 2017-01-24 2017-01-24 ドライバ監視装置、車両、ドライバ監視方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017010753A JP6857841B2 (ja) 2017-01-24 2017-01-24 ドライバ監視装置、車両、ドライバ監視方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2018120377A JP2018120377A (ja) 2018-08-02
JP6857841B2 true JP6857841B2 (ja) 2021-04-14

Family

ID=63044348

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017010753A Active JP6857841B2 (ja) 2017-01-24 2017-01-24 ドライバ監視装置、車両、ドライバ監視方法およびプログラム

Country Status (1)

Country Link
JP (1) JP6857841B2 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008500919A (ja) * 2004-06-07 2008-01-17 シャープ株式会社 移動体用表示システム及び移動体
JP5233322B2 (ja) * 2008-02-28 2013-07-10 オムロン株式会社 情報処理装置および方法、並びに、プログラム
JP2016032257A (ja) * 2014-07-30 2016-03-07 株式会社デンソー ドライバ監視装置

Also Published As

Publication number Publication date
JP2018120377A (ja) 2018-08-02

Similar Documents

Publication Publication Date Title
JP6497158B2 (ja) 表示装置、移動体
CN104573623B (zh) 人脸检测装置、方法
JP6454368B2 (ja) 車両の表示システム及び車両の表示システムの制御方法
US20150238087A1 (en) Biological information measurement device and input device utilizing same
JP6210023B2 (ja) 視線検出支援装置および視線検出支援方法
JP2013203103A (ja) 車両用表示装置、その制御方法及びプログラム
WO2015146491A1 (ja) 検出装置および検出方法
CN110555366A (zh) 驾驶员监视装置
JP2006158740A (ja) 運転者状態判定装置
US11112602B2 (en) Method, apparatus and system for determining line of sight, and wearable eye movement device
TWI522257B (zh) 車用安全系統及其運作方法
US20130187845A1 (en) Adaptive interface system
JP7024332B2 (ja) ドライバモニタシステム
JP6822325B2 (ja) 操縦支援装置、操縦支援方法、プログラム
KR20170135573A (ko) 운전자 시선 방향 검출 장치
CN112714899A (zh) 头戴式显示器和头戴式显示系统
JP6857841B2 (ja) ドライバ監視装置、車両、ドライバ監視方法およびプログラム
JP7046748B2 (ja) 運転者状態判定装置および運転者状態判定方法
JP2015144635A (ja) 検出装置および検出方法
JP6019684B2 (ja) 診断支援装置および診断支援方法
JP2016115119A (ja) 開閉眼判定装置、及び開閉眼判定方法
JP6365438B2 (ja) 運転者状態判定方法及びその判定装置
JP2019095892A (ja) 車両用運転支援装置、および車両用運転支援プログラム
JP2019114118A (ja) 警告装置、自動車、警告方法、及びプログラム
JP2020079879A (ja) 表示制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210305

R151 Written notification of patent or utility model registration

Ref document number: 6857841

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03