JP2014203186A - Monitoring system - Google Patents
Monitoring system Download PDFInfo
- Publication number
- JP2014203186A JP2014203186A JP2013077488A JP2013077488A JP2014203186A JP 2014203186 A JP2014203186 A JP 2014203186A JP 2013077488 A JP2013077488 A JP 2013077488A JP 2013077488 A JP2013077488 A JP 2013077488A JP 2014203186 A JP2014203186 A JP 2014203186A
- Authority
- JP
- Japan
- Prior art keywords
- reliability
- driver
- user
- monitoring system
- face
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/06—Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
Abstract
Description
本発明は、ユーザの顔を撮影した顔画像に基づいてユーザの状態を検出し、ユーザの居眠りやよそ見を監視する監視システムに関する。 The present invention relates to a monitoring system that detects a user's state based on a face image obtained by photographing a user's face and monitors the user's doze or looking away.
ドライバなどのユーザの顔画像からユーザの目の開度や顔向きを検出し、検出した目の開度や顔向きに基づいて、ユーザが居眠りやよそ見をしていると判定した場合に、警報を出力する監視システムが提案されている。 Detects the user's eye opening and face orientation from the user's face image, such as a driver, and alerts when the user is determined to fall asleep or look away based on the detected eye opening and face orientation Has been proposed.
例えば、特許文献1は、近赤外光をユーザの顔に照射して、近赤外光に照らされたユーザの顔をカメラで撮影し、撮影した顔画像からエッジ情報を抽出している。そして、抽出したエッジ情報から顔の特徴点である眉及び上下瞼を検出し、検出した眉及び上下瞼の位置に基づいて目の開度を検出している。さらに、検出した目の開度に基づいてユーザに眠気があることを検知した場合に、警報音を出力している。 For example, Patent Document 1 irradiates a user's face with near-infrared light, photographs the user's face illuminated with the near-infrared light with a camera, and extracts edge information from the photographed face image. Then, eyebrows and upper and lower eyelids, which are facial feature points, are detected from the extracted edge information, and the opening degree of the eyes is detected based on the detected positions of the eyebrows and upper and lower eyelids. Furthermore, an alarm sound is output when it is detected that the user is drowsy based on the detected opening of the eyes.
特許文献1では、外乱光がユーザの顔に当たり顔画像から特徴点を検出する精度が悪化したときに、ユーザに眠気がないにもかかわらず眠気があると検知され、警報音が出力されるおそれがある。この場合、ユーザは、監視システムに対して不信を抱き、監視システムの利用を停止してしまうおそれがある。また、外乱光により顔画像から特徴点を検出する精度が悪化したときに、ユーザの眠気が検知されないおそれがあるにもかかわらず、ユーザが監視システムを過信してしまうおそれがある。 In patent document 1, when the disturbance light hits the user's face and the accuracy of detecting the feature points from the face image deteriorates, it is detected that the user is drowsy even though the user is not drowsy, and an alarm sound may be output There is. In this case, the user may distrust the monitoring system and stop using the monitoring system. In addition, when the accuracy of detecting feature points from a face image is deteriorated due to ambient light, the user may overtrust the monitoring system even though the user's sleepiness may not be detected.
本発明は、上記実情に鑑み、監視システムに対するユーザの不信や過信を抑制可能な監視システムを提供することを主たる目的とする。 In view of the above circumstances, it is a primary object of the present invention to provide a monitoring system capable of suppressing user distrust and overconfidence with respect to the monitoring system.
上記課題を解決するため、請求項1に記載の発明は監視システムであって、ユーザの顔画像を取得する画像取得手段と、前記画像取得手段により取得された前記顔画像に基づいて、前記ユーザの状態を検出する状態検出手段と、前記ユーザの顔への太陽光の照射態様を判定する判定手段と、前記判定手段により判定された前記太陽光の照射態様に基づいて、前記状態検出手段により検出される前記ユーザの状態の信頼度を伝達する伝達手段と、を備える。 In order to solve the above problem, the invention according to claim 1 is a monitoring system, wherein the user obtains a face image of the user, and the user based on the face image obtained by the image obtaining means. Based on the state detection means for detecting the state of the user, the determination means for determining the sunlight irradiation mode on the user's face, and the state detection means based on the sunlight irradiation mode determined by the determination means Transmitting means for transmitting the reliability of the detected state of the user.
請求項1に記載の発明によれば、ユーザの顔画像が取得され、取得されたユーザの顔画像に基づいて、ユーザの状態が検出される。ただし、ユーザの顔に外乱光が当たっている場合は、顔画像にノイズが混入し、ユーザの状態の検出精度が悪化するおそれがある。 According to the first aspect of the present invention, the face image of the user is acquired, and the state of the user is detected based on the acquired face image of the user. However, when ambient light is shining on the user's face, noise may be mixed in the face image and the detection accuracy of the user's state may deteriorate.
そこで、ユーザの顔への太陽光の照射態様が判定され、判定された太陽光の照射態様に基づいて、検出されたユーザの状態の信頼度がユーザに伝達される。したがって、ユーザは、太陽光の照射態様、すなわち顔画像への外乱光の混入態様に基づいた信頼度により、検出されたユーザの状態を信頼してよいか否かを認識できる。それゆえ、ユーザが監視システムに対して過信や不信を抱くことを抑制できる。 Therefore, the irradiation mode of sunlight on the user's face is determined, and the reliability of the detected state of the user is transmitted to the user based on the determined irradiation mode of sunlight. Therefore, the user can recognize whether or not the detected state of the user may be trusted by the reliability based on the sunlight irradiation mode, that is, the disturbance light mixing mode in the face image. Therefore, it is possible to suppress the user from being overconfident or distrustful with the monitoring system.
以下、本実施形態に係る監視システムについて、図面を参照しつつ説明する。本実施形態に係る監視システムは、車両に搭載され、ユーザであるドライバの居眠りやよそ見を監視することを想定している。 Hereinafter, the monitoring system according to the present embodiment will be described with reference to the drawings. The monitoring system according to the present embodiment is mounted on a vehicle, and is assumed to monitor a driver who is a user, falling asleep or looking away.
まず、図1を参照して、監視システム10の構成について説明する。監視システム10は、カメラ11(画像取得手段)、照明装置12、GPS13、日射センサ14(日射計測手段)、ドライバモニタECU20、モニタ31、スピーカ32、外部記憶装置33(記憶手段)を備える。
First, the configuration of the
照明装置12は、ドライバの顔へ向けて近赤外光を照射する、近赤外LED等の照明装置である。カメラ11は、例えばCCDカメラであり、近赤外領域で高い感度特性を有するものである。近赤外領域に高い感度特性を有するカメラ11と近赤外光を照射する照明装置12を用いることにより、夜間やトンネル内等の走行中で車内が暗い状況でも、近赤外光に照らされたドライバの顔を感度良く撮影することができる。カメラ11は、1フレーム分の画像を撮像するたびに、顔画像データをドライバモニタECU20へ送信する。なお、カメラ11及び照明装置12は、ドライバの顔画像を撮影できる位置、例えば、ステアリングアッパコラムやメータパネルに、光軸をドライバの顔に向けて配置される。
The
GPS13は、GPS衛星からGPS信号を受信して、緯度及び経度からなる車両の位置、及び現在の日時を検出する。そして、GPS13は、検出した車両の位置、及び日時を、ドライバモニタECU20へ逐次送信する。
The GPS 13 receives a GPS signal from a GPS satellite and detects the position of the vehicle including the latitude and longitude, and the current date and time. Then, the
日射センサ14は、全天日射量を計測するセンサである。日射センサ14は、計測した日射量を、ドライバモニタECU20へ逐次送信する。なお、一般に、車両のダッシュボードには、車両周囲の明るさに応じてヘッドライトやスモールランプを自動で点灯させるために用いる日射センサが設置されている。日射センサ14として、上記オートライト用の日射センサを用いるとよい。
The
ドライバモニタECU20は、CPU、ROM及びRAM等のメモリ、I/O、及びこれらを接続するバスライン等からなるコンピュータとして構成される。メモリには、緯度、経度、及び日時に対する太陽の高度及び方位が記憶されているDB26(記憶手段)が含まれる。 The driver monitor ECU 20 is configured as a computer including a CPU, a memory such as a ROM and a RAM, an I / O, and a bus line connecting these. The memory includes a DB 26 (storage means) in which the altitude and direction of the sun with respect to latitude, longitude, and date / time are stored.
また、ドライバモニタECU20は、CPUが、ROMに記憶されている各種プログラムを実行することにより、顔画像認識部21、状態検出部22、判定部23、信頼度算出部24の機能を実現する。
Further, the driver monitor ECU 20 implements the functions of the face
顔画像認識部21は、カメラ11により撮影されたドライバの顔画像を認識する。詳しくは、カメラ11により撮影されたドライバの顔画像からエッジを抽出し、抽出したエッジから、眉、上下の瞼、眼の虹彩部分、鼻孔、口角等の顔の特徴点を検出する。顔の各パーツの輪郭は、肌に比べ輝度の変化が大きい。それゆえ、抽出したエッジから、顔の各パーツの輪郭、すなわち顔の特徴点を得られる。
The face
さらに、顔画像認識部21は、検出した顔の特徴点の位置や形状等から、ドライバの顔の向き、視線、眼の開度を検出する。例えば、顔の向きは、特徴点が基準の中央線に対して左右対称に存在すれば正面と検出し、特徴点が基準の中央線に対して右寄り存在すれば右向きと検出する。視線は、虹彩部分が上下瞼に囲まれた領域の中央に存在すれば正面と検出し、虹彩部分が上下瞼に囲まれた領域の右部分に存在すれば右向きと検出する。眼の開度は、上瞼の湾曲が上に凸の場合は眼を開いていると検出し、上瞼の湾曲が下に凸の場合は眼を閉じていると検出する。または、眼の開度は、上瞼と下瞼の間隔が上瞼と眉の間隔よりも広い場合は眼を開いていると検出し、上瞼と下瞼の間隔が上瞼と眉の間隔よりも狭い場合は眼を閉じていると検出してもよい。顔画像認識部21は、検出したドライバの顔の向き、視線、眼の開度を、状態検出部22へ送信する。
Further, the face
状態検出部22は、顔画像認識部21により検出された、ドライバの顔の向き、視線、眼の開度に基づいて、ドライバの状態を検出する。ドライバの状態は、ドライバがよそ見をしているか否か、及びドライバが居眠りをしているか否かである。例えば、ドライバの顔の向きが正面ではない時間が所定時間よりも長い場合や、ドライバの視線が正面ではない時間が所定時間よりも長い場合は、ドライバはよそ見をしていると検出する。一方、ドライバの顔の向きが正面ではない時間が所定時間よりも短く、且つドライバの視線が正面ではない時間が所定時間よりも短い場合は、ドライバはよそ見をしていないと検出する。また、ドライバの眼の閉じている時間が所定時間よりも長い場合は、ドライバは居眠りをしていると検出し、ドライバの眼の閉じている時間が所定時間よりも短い場合は、ドライバは居眠りをしていないと検出する。なお、顔画像認識部21及び状態検出部22により状態検出手段が構成される。
The
判定部23(判定手段)は、ドライバの顔への太陽光の照射態様を判定する。詳しくは、判定部23は、GPS13から逐次送信された車両の位置の変化から車両が向かう方位を検出する。また、判定部23は、DB26を参照して、GPS13から送信された車両の位置及び日時における太陽の高度及び方位を検出する。また、判定部23は、日射センサ14により計測された日射量を受信する。
The determination part 23 (determination means) determines the irradiation mode of sunlight on the face of the driver. Specifically, the
判定部23は、日射センサ14により計測された日射量が、所定量よりも少ないか否か判定する。この所定量は、晴れているときや空に薄い雲がかかっているときの日射量よりも少なく、夜、トンネル内、雨のときや空に厚い雲がかかっているときの日射量よりも多い。また、判定部23は、車両の向かう方位、及び太陽の高度と方位に基づいて、ドライバの顔に太陽光が当たっている可能性があるか否か判定する。すなわち、判定部23は、顔画像認識部21によるドライバの顔の向き、視線、眼の開度の検出精度、ひいては状態検出部22によるドライバ状態の検出精度を低下させるほどの量の太陽光が、ユーザの顔に当たっている可能性があるか否かを判定する。そして、判定部23は、車両の位置、車両の向かう方位、日時、太陽の高度及び方位からなる所定情報、及びドライバの顔への太陽光の照射態様についての判定結果を、信頼度算出部24へ送信する。なお、GPS13、判定部23、及びDB26により情報検出手段が構成される。
The
信頼度算出部24(信頼度算出手段)は、判定部23から受信した判定結果が、日射センサ14により計測された日射量が所定量よりも少ない場合、又はドライバの顔に太陽光が当たっている可能性がない場合は、状態検出部22より検出されるドライバの状態の信頼度を最大値に算出する。また、信頼度算出部24は、判定部23から受信した判定結果が、日射量が所定量よりも多く、且つドライバの顔に太陽光が当たっている可能性がある場合は、ドライバの顔に太陽光が当たっている可能性が高いほど、状態検出部22より検出されるドライバの状態の信頼度を低く算出する。
The reliability calculation unit 24 (reliability calculation means) determines that the determination result received from the
ドライバの顔に太陽光が当たる可能性は、車両が向かう方位、及び現在の位置及び日時における太陽の高度及び方位と相関が高い。すなわち、ドライバの顔に太陽光が当たる可能性は、車両に対する太陽の相対的な位置と相関が高い。そこで、信頼度算出部24は、判定部23から受信した所定情報に基づいて、ドライバの状態の信頼度を算出する。
The possibility of sunlight hitting the driver's face is highly correlated with the heading toward the vehicle and the altitude and heading of the sun at the current position and date. That is, the possibility that sunlight hits the driver's face has a high correlation with the relative position of the sun with respect to the vehicle. Therefore, the
太陽の高度を十分に低い高度で一定とした場合、車両が向かう方位と太陽の方位とが一致するときに、ドライバの顔に太陽光が当たる可能性は最も高くなり、車両が向かう方位と太陽の方位とが相違するほど、ドライバの顔に太陽光が当たる可能性は低くなる。そこで、信頼度算出部24は、車両が向かう方位と、現在の位置及び日時における太陽の方位との差が小さいほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出する。
When the altitude of the sun is kept constant at a sufficiently low altitude, when the heading of the vehicle coincides with the heading of the sun, the possibility of sunlight hitting the driver's face is the highest. The difference between the heading and the lower the possibility that the driver's face will be exposed to sunlight. Therefore, the
また、太陽の方位を車両が向かう方位で一定とした場合、太陽の高度が低いほど、ドライバの顔に太陽光が当たる可能性は高くなる。そこで、信頼度算出部24は、現在の位置及び日時における太陽の高度が低いほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出する。
In addition, when the azimuth of the sun is constant at the azimuth toward the vehicle, the lower the altitude of the sun, the higher the possibility that sunlight will hit the driver's face. Therefore, the
また、太陽の高度を十分に低い高度で一定とした場合、太陽の方位が車両の運転席側のときは、太陽の方位が車両の助手席側のときよりも、ドライバの顔に太陽光が当たる可能性は高くなる。そこで、信頼度算出部24は、現在の位置及び日時における太陽の方位が車両の運転席の側方の場合は、太陽の方位が車両の助手席の側方の場合よりも、状態検出部22により検出されるドライバの状態の信頼度を低く算出する。
Also, if the sun's altitude is constant at a sufficiently low altitude, when the sun's heading is on the driver's side of the vehicle, the sun's head is closer to the driver's seat than when the sun's heading is on the passenger's seat The chance of hitting is high. Therefore, the
さらに、ドライバの顔に太陽光が当たる場合、日射量が多いほど、顔画像認識部21によるドライバの顔画像の認識精度、ひいては、状態検出部22によるドライバの状態の検出精度が低下する。そこで、信頼度算出部24は、日射センサ14により測定された日射量が多いほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出する。信頼度算出部24は、算出したドライバの状態の信頼度を、モニタ31及びスピーカ32に送信する。
Furthermore, when the driver's face is exposed to sunlight, the greater the amount of solar radiation, the lower the recognition accuracy of the driver's face image by the face
モニタ31及びスピーカ32は、判定部23により判定された太陽光の照射態様に基づいて、状態検出部22により検出されるユーザの状態の信頼度を伝達する。具体的には、信頼度算出部24により算出された信頼度が閾値(例えば50%)よりも小さい場合に、図2に示すように、モニタ31は画面に監視システム10を使用できないことを表示し、スピーカ32は警報音を出力する。スピーカ32は、監視システム10を使用できないことを音声で出力してもよい。上述した信頼度算出部24と、モニタ31、及びスピーカ32により伝達手段が構成される。
The
また、スピーカ32は、状態検出部22により、ドライバの状態が居眠り状態やよそ見状態と検出された場合に、ドライバに対して警報を出力する。警報は、注意や覚醒を促す音声でもよいし、信頼度が低いことを通知する場合とは異なる警報音でもよい。
Further, the
外部記憶装置33は、カメラ11により撮影されたドライバの顔画像と、信頼度算出部24により算出された信頼度と、を対応させて記憶する。
The
次に、図3のフローチャートを参照して、ドライバに信頼度を通知する処理手順を説明する。本処理は、ドライバモニタECU20が所定間隔で繰り返し実行する。S11〜S15の処理は判定部23が行い、S16〜S18の処理は信頼度算出部24が行う。
Next, a processing procedure for notifying the driver of the reliability will be described with reference to the flowchart of FIG. This process is repeatedly executed by the
まず、S11では、判定部23が、日射センサ14により計測された日射量を取得する。続いて、S12では、判定部23が、S11で取得した日射量が閾値(所定量)よりも多いか否か判定する。日射量が閾値よりも少なければ、ユーザの顔に太陽光が当たったとしても、顔画像認識部21による画像の認識精度、ひいては状態検出部22によるドライバの状態の検出精度を低下させない。これに対して、日射量が閾値よりも多ければ、ユーザの顔に太陽光が当たった場合に、顔画像認識部21による画像の認識精度、及び状態検出部22によるドライバの状態の検出精度を低下させるおそれがある。
First, in S <b> 11, the
例えば、晴れているときや空に薄い雲がかかっているときの日射量は、閾値よりも多くなり、夜やトンネル内、雨、空に厚い雲がかかっているときの日射量は、日射量は閾値よりも少なくなる。日射量が閾値よりも多いと判定した場合は(YES)、S12の処理に進み、日射量が閾値よりも少ないと判定した場合は(NO)、S16の処理に進む。 For example, the amount of solar radiation when it is clear or when there are thin clouds in the sky is greater than the threshold, and the amount of solar radiation when there is heavy clouds in the night, in the tunnel, in the rain, or in the sky is the amount of solar radiation. Is less than the threshold. If it is determined that the amount of solar radiation is greater than the threshold (YES), the process proceeds to S12. If it is determined that the amount of solar radiation is less than the threshold (NO), the process proceeds to S16.
S12において日射量が閾値よりも少ないと判定した場合は、ドライバの顔に太陽光が当たっているかどうかに関わらず、状態検出部22によるドライバの状態の検出精度が低下するおそれがない。そこで、S16で、信頼度算出部24は、ドライバの顔に太陽光が当たっている可能性に関わらず、状態検出部22により検出されるドライバの状態の信頼度を100%(最大値)に算出する。すなわち、信頼度算出部24は、太陽光の影響に基づいて、状態検出部22により検出されるドライバの状態の信頼度を100%に算出する。
If it is determined in S12 that the amount of solar radiation is less than the threshold value, there is no possibility that the detection accuracy of the driver state by the
一方、S12において日射量が閾値よりも多いと判定した場合は、太陽光がドライバの顔に当たる場合に、状態検出部22によるドライバの状態の検出精度が低下するおそれがある。そこで、判定部23は、S13〜15の処理を行い、太陽光がドライバの顔に当たる可能性があるか否か判定する。
On the other hand, if it is determined in S12 that the amount of solar radiation is greater than the threshold, the accuracy of detection of the driver state by the
まずS13で、判定部23は、GPS13により検出された車両の位置、日時を取得するとともに、取得した車両の位置変化から車両の向かう方位を取得する。続いて、S14で、判定部23は、S13で取得した車両の位置及び日時における太陽の高度及び方位を、DB26から取得する。
First, in S <b> 13, the
続いてS15で、判定部23は、S13で取得した車両の位置及び車両の向かう方位と、S14で取得した太陽の高度及び方位とから、ドライバの顔に太陽光が当たる可能性があるか否か判定する。ドライバの顔に太陽光が当たる可能性があると判定した場合は(YES)、S17の処理に進み、ドライバの顔に太陽光が当たる可能性がないと判定した場合は(NO)、S16の処理に進む。
Subsequently, in S15, the
S15においてドライバの顔に太陽光が当たる可能性がないと判定した場合は、日射量が閾値よりも多くても、状態検出部22によるドライバの状態の検出精度が低下するおそれがない。そこで、S16で、信頼度算出部24は、日射量に関わらず、状態検出部22により検出されるドライバの状態の信頼度を100%(最大値)に算出する。すなわち、信頼度算出部24は、太陽光の影響に基づいて、状態検出部22により検出されるドライバの状態の信頼度を100%に算出する。
If it is determined in S15 that there is no possibility that the driver's face will be exposed to sunlight, even if the amount of solar radiation is larger than the threshold value, the detection accuracy of the driver state by the
一方、S15においてドライバの顔に太陽光が当たる可能性があると判定した場合は、状態検出部22によるドライバの状態の検出精度が低下するおそれがある。そこで、S17で、信頼度算出部24は、判定部23がS11で取得した日射量と、S13及びS14で取得した所定情報とに基づいて、ドライバの顔に当たっている可能性がある太陽光の量が多いほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出する。
On the other hand, when it is determined in S15 that the driver's face may be exposed to sunlight, there is a risk that the detection accuracy of the driver state by the
具体的には、日射センサ14により計測された日射量が多いほど、信頼度を低く算出する。また、車両の向かう方位と太陽の方位との差が小さいほど、信頼度を低く算出する。また、太陽の高度が低いほど、信頼度を低く算出する。また、太陽の方位が運転席側の場合は太陽の方位が助手席側の場合よりも、信頼度を低く算出する。信頼度算出部24は、上記4つのパラメータのそれぞれについて予め設定された信頼度マップに基づいて信頼度を算出し、それぞれの信頼度を統合して、状態検出部22により検出されるドライバの状態の信頼度を算出する。
Specifically, the greater the amount of solar radiation measured by the
続いて、S18では、信頼度算出部24は、算出した信頼度が閾値(例えば50%)よりも低い場合に、モニタ31及びスピーカ32により、状態検出部22により検出されるドライバの状態の信頼度が低下していることを、ドライバに伝達する。
Subsequently, in S18, the
以上説明した本実施形態によれば、以下の効果を奏する。 According to this embodiment described above, the following effects are obtained.
・ドライバの顔に外乱光が当たっている場合は、カメラ11により撮影された顔画像にノイズが混入し、状態検出部22によるユーザの状態の検出精度が悪化するおそれがある。そこで、ドライバの顔への太陽光の照射態様が判定され、判定された太陽光の照射態様に基づいて、検出されたドライバの状態の信頼度がドライバに伝達される。したがって、ドライバは、太陽光の照射態様、すなわち顔画像への外乱光の混入態様に基づいた信頼度により、状態検出部22により検出されたユーザの状態を信頼してよいか否かを認識できる。それゆえ、ドライバが監視システム10に対して過信や不信を抱くことを抑制できる。
If the driver's face is exposed to ambient light, noise may be mixed in the face image captured by the camera 11, and the
・ドライバの顔に太陽光が当たっている可能性が高いほど、すなわちカメラ11により撮影された顔画像にノイズが混入している可能性が高いほど、顔画像に基づいて検出されたドライバの状態の信頼度が低く算出される。したがって、ドライバは、顔に太陽光が当たっている可能性に応じて、状態検出部22により検出されたドライバの状態を信頼してよいか否かを認識できる。
The state of the driver detected based on the face image is higher as the possibility that the driver's face is exposed to sunlight, that is, the possibility that noise is mixed in the face image taken by the camera 11 is higher. Is calculated with low reliability. Therefore, the driver can recognize whether or not the driver's state detected by the
・ドライバの顔に太陽光が当たる可能性は、車両が向かう方位、及び現在の位置及び日時における太陽の高度及び方位と相関が高い。太陽の高度及び方位は、車両の現在位置及び日時から算出することができる。よって、状態検出部22により検出されたユーザの状態の信頼度を、車両の位置、車両の向かう方位及び日時を含む所定情報に基づいて算出できる。
-The possibility that sunlight hits the driver's face has a high correlation with the heading of the vehicle and the altitude and heading of the sun at the current position and date. The altitude and direction of the sun can be calculated from the current position and date of the vehicle. Therefore, the reliability of the user's state detected by the
・太陽の高度を一定とした場合、車両が向かう方位と太陽の方位とが一致するときに、ドライバの顔に太陽光が当たる可能性は最も高くなり、車両が向かう方位と太陽の方位とが相違するほど、ドライバの顔に太陽光が当たる可能性は低くなる。よって、車両が向かう方位と太陽の方位との差が小さいほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出できる。
・ When the altitude of the sun is constant, the possibility that sunlight will hit the driver's face is the highest when the heading of the vehicle coincides with the heading of the sun. The more different, the less likely the sunlight will hit the driver's face. Therefore, the smaller the difference between the heading of the vehicle and the heading of the sun, the lower the reliability of the driver state detected by the
・太陽の方位を一定とした場合、太陽の高度が低いほど、ユーザの顔に太陽光が当たる可能性は高くなる。よって、太陽の高度が低いほど、検出されたユーザの状態の信頼度を低く算出できる。 -When the direction of the sun is fixed, the lower the altitude of the sun, the higher the possibility that the user's face will receive sunlight. Therefore, the lower the altitude of the sun, the lower the reliability of the detected user state.
・太陽の高度を一定にした場合、太陽の方位が車両の運転席側の場合は助手席側の場合よりも、ドライバの顔に太陽光が当たる可能性が高くなる。よって、太陽の方位が車両の運転席の側方の場合は助手席の側方の場合よりも、状態検出部22により検出されるドライバの状態の信頼度を低く算出できる。
-When the altitude of the sun is kept constant, there is a higher possibility that sunlight will hit the driver's face when the sun's direction is on the driver's side of the vehicle than when it is on the passenger's side. Therefore, the reliability of the state of the driver detected by the
・ドライバの顔に太陽光が当たらない高度及び方位に太陽が存在すれば、カメラ11により撮影された顔画像にノイズが混入しないので、顔画像に基づいたドライバの状態の検出精度が低下しない。よって、現在の位置及び日時における太陽が、ドライバの顔に太陽光が当たらない高度及び方位に存在する場合は、状態検出部22により検出されるドライバの状態の信頼度を最大値に算出できる。
If the sun is present at an altitude and direction where the driver's face is not exposed to sunlight, noise is not mixed in the face image captured by the camera 11, so that the detection accuracy of the driver state based on the face image does not deteriorate. Therefore, when the sun at the current position and date and time is at an altitude and direction where sunlight does not hit the driver's face, the reliability of the driver state detected by the
・ドライバの顔に太陽光が当たる場合、日射量が多いほど、ドライバの状態を検出しにくくなる。よって、日射量が多いほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出できる。
-When sunlight hits the driver's face, the greater the amount of solar radiation, the more difficult it is to detect the driver's state. Thus, the greater the amount of solar radiation, the lower the reliability of the driver state detected by the
・雨や曇り、夜間において、日射量は所定量よりも少なくなる。このような場合は、ドライバの顔に太陽光が当たったとしても、ドライバの顔に当たる日射量は十分に少なくなり、顔画像に基づいたドライバの状態の検出精度は低下しない。よって、日射量が所定量よりも少ない場合は、太陽の高度及び方位に関わらず、状態検出部22により検出されるドライバの状態の信頼度を最大値に算出できる。
・ In rainy or cloudy, at night, the amount of solar radiation is less than the prescribed amount. In such a case, even if the driver's face is exposed to sunlight, the amount of solar radiation that hits the driver's face is sufficiently reduced, and the detection accuracy of the driver's state based on the face image does not decrease. Therefore, when the amount of solar radiation is smaller than the predetermined amount, the reliability of the driver state detected by the
・検出された車両の現在位置及び日時に応じた太陽の高度及び方位を、DB26から取得することができる。
-The altitude and direction of the sun according to the detected current position and date / time of the vehicle can be acquired from the
・カメラ11により撮影された顔画像と、その顔画像に基づいて検出されたユーザの状態の信頼度が、外部記憶装置33に記憶される。よって、信頼度の低い顔画像を除外し、信頼度の高い顔画像のみを、事故の検証等に利用することができる。すなわち、運転中に取得した顔画像を、後で有効に利用できる。
The face image photographed by the camera 11 and the reliability of the user state detected based on the face image are stored in the
(他の実施形態)
本発明は上記実施形態の記載内容に限定されず、以下のように変更して実施してもよい。
(Other embodiments)
The present invention is not limited to the description of the above embodiment, and may be modified as follows.
・信頼度算出部24により算出された信頼度が閾値よりも高い場合に、状態検出部22により検出されるドライバの状態の信頼度が高いことを、ドライバに通知するようにしてもよい。あるいは、信頼度算出部24により算出された信頼度が閾値よりも高い場合は、信頼度が高いことをドライバに通知し、信頼度算出部24により算出された信頼度が閾値よりも低い場合は、信頼度が低いことをドライバに通知してもよい。このようにしても、ドライバは、状態検出部22により検出されるドライバの状態の信頼度が低下した場合に、低下したことを認識できる。または、信頼度算出部24により算出された信頼度を、モニタ31に表示させてもよい。
When the reliability calculated by the
・モニタ31を備えていなくてもよい。その場合、スピーカ32のみにより、状態検出部22により検出されるドライバの状態の信頼度をドライバに通知する。また、モニタ31のみにより、状態検出部22により検出されるドライバの状態の信頼度をドライバに通知してもよい。
The
・ドライバの視認しやすい場所にインジケータを設置し、状態検出部22により検出されるドライバの状態の信頼度が低い場合又は高い場合にインジケータを点灯させて、ドライバに信頼度が低いこと又は高いことを通知してもよい。あるいは、状態検出部22により検出されるドライバの状態の信頼度が低い場合と高い場合で、インジケータを異なる色で点灯させて、ドライバに信頼度が低いこと及び高いことを通知してもよい。
-An indicator is installed in a place where the driver can easily recognize and the indicator is turned on when the reliability of the driver state detected by the
・DB26は、外部記憶装置33に含まれていてもよい。また、外部記憶装置33を備えず、カメラ11により撮影された顔画像及び信頼度算出部24により算出された信頼度を、ドライバモニタECU20のメモリに記憶させてもよい。
The
・太陽の高度及び方位は、センサにより直接検出してもよい。また、ドライバへの太陽光の照射態様は、センサにより直接検出してもよい。 -The altitude and direction of the sun may be detected directly by a sensor. Moreover, you may detect directly the irradiation aspect of the sunlight to a driver with a sensor.
・監視システム10を車両以外に設置してもよい。
-You may install the
・照明装置12により近赤外光が照射されたユーザの顔画像を、近赤外カメラ11により撮影するようにしたが、本発明はこれに限定されるものではない。車室内に配置された可視光カメラによって、ユーザの顔画像を撮影するようにしてもよい。
The user's face image irradiated with near-infrared light by the
11…カメラ、20…ドライバモニタECU、21…顔画像認識部、22…状態検出部、23…判定部、24…信頼度算出部、31…モニタ、32…スピーカ。 DESCRIPTION OF SYMBOLS 11 ... Camera, 20 ... Driver monitor ECU, 21 ... Face image recognition part, 22 ... State detection part, 23 ... Determination part, 24 ... Reliability calculation part, 31 ... Monitor, 32 ... Speaker.
Claims (11)
前記画像取得手段により取得された前記顔画像に基づいて、前記ユーザの状態を検出する状態検出手段(21、22)と、
前記ユーザの顔への太陽光の照射態様を判定する判定手段(23)と、
前記判定手段により判定された前記太陽光の照射態様に基づいて、前記状態検出手段により検出される前記ユーザの状態の信頼度を伝達する伝達手段(24、31、32)と、
を備えることを特徴とする監視システム。 Image acquisition means (11) for acquiring a user's face image;
State detection means (21, 22) for detecting the state of the user based on the face image acquired by the image acquisition means;
A determination means (23) for determining an irradiation mode of sunlight on the user's face;
Based on the sunlight irradiation mode determined by the determination unit, a transmission unit (24, 31, 32) for transmitting the reliability of the user state detected by the state detection unit;
A monitoring system comprising:
前記車両の位置、前記車両の向かう方位及び日時を含む所定情報を検出する情報検出手段(13、23、26)を備え、
前記信頼度算出手段は、前記情報検出手段により検出された前記所定情報に基づいて、前記信頼度を算出する請求項2に記載の監視システム。 The user is a vehicle driver;
Comprising information detecting means (13, 23, 26) for detecting predetermined information including the position of the vehicle, the heading of the vehicle and the date and time;
The monitoring system according to claim 2, wherein the reliability calculation unit calculates the reliability based on the predetermined information detected by the information detection unit.
日射量を計測する日射計測手段(14)を備え、
前記信頼度算出手段は、前記日射計測手段により計測された日射量が多いほど、前記信頼度を低く算出する請求項2〜7のいずれかに記載の監視システム。 The user is a vehicle driver;
The solar radiation measuring means (14) for measuring the solar radiation amount is provided.
The monitoring system according to claim 2, wherein the reliability calculation unit calculates the reliability lower as the amount of solar radiation measured by the solar radiation measurement unit increases.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013077488A JP2014203186A (en) | 2013-04-03 | 2013-04-03 | Monitoring system |
PCT/JP2014/001057 WO2014162654A1 (en) | 2013-04-03 | 2014-02-27 | Monitoring system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013077488A JP2014203186A (en) | 2013-04-03 | 2013-04-03 | Monitoring system |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014203186A true JP2014203186A (en) | 2014-10-27 |
Family
ID=51657970
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013077488A Withdrawn JP2014203186A (en) | 2013-04-03 | 2013-04-03 | Monitoring system |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2014203186A (en) |
WO (1) | WO2014162654A1 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016157326A (en) * | 2015-02-25 | 2016-09-01 | 株式会社Jvcケンウッド | Line of sight detection device and line of sight detection method |
WO2016151638A1 (en) * | 2015-03-26 | 2016-09-29 | 三菱電機株式会社 | Driver assistance system |
JP2019079328A (en) * | 2017-10-25 | 2019-05-23 | いすゞ自動車株式会社 | Vehicle alarm system |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10037712B2 (en) * | 2015-01-30 | 2018-07-31 | Toyota Motor Engineering & Manufacturing North America, Inc. | Vision-assist devices and methods of detecting a classification of an object |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4687150B2 (en) * | 2005-03-08 | 2011-05-25 | 日産自動車株式会社 | Direct light detector |
JP2009032190A (en) * | 2007-07-30 | 2009-02-12 | Mazda Motor Corp | Driver state detection device for vehicle |
JP5466587B2 (en) * | 2010-06-29 | 2014-04-09 | 本田技研工業株式会社 | Vehicle face image pickup device |
JP2012160978A (en) * | 2011-02-01 | 2012-08-23 | Nippon Seiki Co Ltd | Imaging control device, template acquisition device, and program |
-
2013
- 2013-04-03 JP JP2013077488A patent/JP2014203186A/en not_active Withdrawn
-
2014
- 2014-02-27 WO PCT/JP2014/001057 patent/WO2014162654A1/en active Application Filing
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016157326A (en) * | 2015-02-25 | 2016-09-01 | 株式会社Jvcケンウッド | Line of sight detection device and line of sight detection method |
WO2016151638A1 (en) * | 2015-03-26 | 2016-09-29 | 三菱電機株式会社 | Driver assistance system |
US10232772B2 (en) | 2015-03-26 | 2019-03-19 | Mitsubishi Electric Corporation | Driver assistance system |
JP2019079328A (en) * | 2017-10-25 | 2019-05-23 | いすゞ自動車株式会社 | Vehicle alarm system |
JP7059566B2 (en) | 2017-10-25 | 2022-04-26 | いすゞ自動車株式会社 | Vehicle alarm device |
Also Published As
Publication number | Publication date |
---|---|
WO2014162654A1 (en) | 2014-10-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10829125B2 (en) | Processing method, program, processing apparatus, and detection system | |
JP5974915B2 (en) | Arousal level detection device and arousal level detection method | |
US8063786B2 (en) | Method of detecting drowsiness of a vehicle operator | |
US10298741B2 (en) | Method and device for assisting in safe driving of a vehicle | |
WO2015131857A2 (en) | Method and apparatus for aiding vision combining camera module and optical sensor | |
US10023199B2 (en) | Method and device for ascertaining a state of drowsiness of a driver | |
US9767374B2 (en) | Driver check apparatus | |
KR20160144306A (en) | Portable electronic device and method thereof | |
JP2013203103A (en) | Display device for vehicle, control method therefor, and program | |
US20110035099A1 (en) | Display control device, display control method and computer program product for the same | |
WO2014162654A1 (en) | Monitoring system | |
JP2006338594A (en) | Pedestrian recognition system | |
KR20120074820A (en) | Control system for vehicle using face recognition function | |
WO2015079657A1 (en) | Viewing area estimation device | |
JP2008246013A (en) | Sleepiness sensor | |
KR20180104235A (en) | Method and apparatus for monitoring driver status | |
KR101519748B1 (en) | A carelessness detmination method of the driver and an apparatus for this | |
JP2009219555A (en) | Drowsiness detector, driving support apparatus, drowsiness detecting method | |
RU2413632C2 (en) | Method to prevent driver falling asleep | |
JP2010184067A (en) | Biological state prediction device | |
JP5466587B2 (en) | Vehicle face image pickup device | |
JP5050794B2 (en) | Sleepiness detection device, sleepiness detection method | |
WO2023108364A1 (en) | Method and apparatus for detecting driver state, and storage medium | |
KR20130026857A (en) | Apparatus for preventing dozing at the wheel | |
JP2020086907A (en) | Careless driving determination device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150521 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20150716 |