JP2014203186A - Monitoring system - Google Patents

Monitoring system Download PDF

Info

Publication number
JP2014203186A
JP2014203186A JP2013077488A JP2013077488A JP2014203186A JP 2014203186 A JP2014203186 A JP 2014203186A JP 2013077488 A JP2013077488 A JP 2013077488A JP 2013077488 A JP2013077488 A JP 2013077488A JP 2014203186 A JP2014203186 A JP 2014203186A
Authority
JP
Japan
Prior art keywords
reliability
driver
user
monitoring system
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2013077488A
Other languages
Japanese (ja)
Inventor
永井 史也
Fumiya Nagai
史也 永井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2013077488A priority Critical patent/JP2014203186A/en
Priority to PCT/JP2014/001057 priority patent/WO2014162654A1/en
Publication of JP2014203186A publication Critical patent/JP2014203186A/en
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness

Abstract

PROBLEM TO BE SOLVED: To provide a monitoring system capable of preventing distrust and overconfidence of a user with respect to the monitoring system.SOLUTION: A monitoring system comprises: a camera 11 for acquiring a face image of a user; a face image recognition section 21 and a state detection section 22 for detecting a state of the user on the basis of the face image of the user acquired by the camera 11; a determination section 23 for determining an irradiation condition of sunlight on the face of the user; a reliability calculation section 24 for transmitting the reliability of the detected state of the user on the basis of the irradiation condition of sunlight determined by the determination section 23; a monitor 31; and a speaker 32. The higher the possibility of irradiation of sunlight on the face of the user is, the lower the reliability calculation section 24 calculates the reliability of the detected state of the user.

Description

本発明は、ユーザの顔を撮影した顔画像に基づいてユーザの状態を検出し、ユーザの居眠りやよそ見を監視する監視システムに関する。   The present invention relates to a monitoring system that detects a user's state based on a face image obtained by photographing a user's face and monitors the user's doze or looking away.

ドライバなどのユーザの顔画像からユーザの目の開度や顔向きを検出し、検出した目の開度や顔向きに基づいて、ユーザが居眠りやよそ見をしていると判定した場合に、警報を出力する監視システムが提案されている。   Detects the user's eye opening and face orientation from the user's face image, such as a driver, and alerts when the user is determined to fall asleep or look away based on the detected eye opening and face orientation Has been proposed.

例えば、特許文献1は、近赤外光をユーザの顔に照射して、近赤外光に照らされたユーザの顔をカメラで撮影し、撮影した顔画像からエッジ情報を抽出している。そして、抽出したエッジ情報から顔の特徴点である眉及び上下瞼を検出し、検出した眉及び上下瞼の位置に基づいて目の開度を検出している。さらに、検出した目の開度に基づいてユーザに眠気があることを検知した場合に、警報音を出力している。   For example, Patent Document 1 irradiates a user's face with near-infrared light, photographs the user's face illuminated with the near-infrared light with a camera, and extracts edge information from the photographed face image. Then, eyebrows and upper and lower eyelids, which are facial feature points, are detected from the extracted edge information, and the opening degree of the eyes is detected based on the detected positions of the eyebrows and upper and lower eyelids. Furthermore, an alarm sound is output when it is detected that the user is drowsy based on the detected opening of the eyes.

特開2009−219555号公報JP 2009-219555 A

特許文献1では、外乱光がユーザの顔に当たり顔画像から特徴点を検出する精度が悪化したときに、ユーザに眠気がないにもかかわらず眠気があると検知され、警報音が出力されるおそれがある。この場合、ユーザは、監視システムに対して不信を抱き、監視システムの利用を停止してしまうおそれがある。また、外乱光により顔画像から特徴点を検出する精度が悪化したときに、ユーザの眠気が検知されないおそれがあるにもかかわらず、ユーザが監視システムを過信してしまうおそれがある。   In patent document 1, when the disturbance light hits the user's face and the accuracy of detecting the feature points from the face image deteriorates, it is detected that the user is drowsy even though the user is not drowsy, and an alarm sound may be output There is. In this case, the user may distrust the monitoring system and stop using the monitoring system. In addition, when the accuracy of detecting feature points from a face image is deteriorated due to ambient light, the user may overtrust the monitoring system even though the user's sleepiness may not be detected.

本発明は、上記実情に鑑み、監視システムに対するユーザの不信や過信を抑制可能な監視システムを提供することを主たる目的とする。   In view of the above circumstances, it is a primary object of the present invention to provide a monitoring system capable of suppressing user distrust and overconfidence with respect to the monitoring system.

上記課題を解決するため、請求項1に記載の発明は監視システムであって、ユーザの顔画像を取得する画像取得手段と、前記画像取得手段により取得された前記顔画像に基づいて、前記ユーザの状態を検出する状態検出手段と、前記ユーザの顔への太陽光の照射態様を判定する判定手段と、前記判定手段により判定された前記太陽光の照射態様に基づいて、前記状態検出手段により検出される前記ユーザの状態の信頼度を伝達する伝達手段と、を備える。   In order to solve the above problem, the invention according to claim 1 is a monitoring system, wherein the user obtains a face image of the user, and the user based on the face image obtained by the image obtaining means. Based on the state detection means for detecting the state of the user, the determination means for determining the sunlight irradiation mode on the user's face, and the state detection means based on the sunlight irradiation mode determined by the determination means Transmitting means for transmitting the reliability of the detected state of the user.

請求項1に記載の発明によれば、ユーザの顔画像が取得され、取得されたユーザの顔画像に基づいて、ユーザの状態が検出される。ただし、ユーザの顔に外乱光が当たっている場合は、顔画像にノイズが混入し、ユーザの状態の検出精度が悪化するおそれがある。   According to the first aspect of the present invention, the face image of the user is acquired, and the state of the user is detected based on the acquired face image of the user. However, when ambient light is shining on the user's face, noise may be mixed in the face image and the detection accuracy of the user's state may deteriorate.

そこで、ユーザの顔への太陽光の照射態様が判定され、判定された太陽光の照射態様に基づいて、検出されたユーザの状態の信頼度がユーザに伝達される。したがって、ユーザは、太陽光の照射態様、すなわち顔画像への外乱光の混入態様に基づいた信頼度により、検出されたユーザの状態を信頼してよいか否かを認識できる。それゆえ、ユーザが監視システムに対して過信や不信を抱くことを抑制できる。   Therefore, the irradiation mode of sunlight on the user's face is determined, and the reliability of the detected state of the user is transmitted to the user based on the determined irradiation mode of sunlight. Therefore, the user can recognize whether or not the detected state of the user may be trusted by the reliability based on the sunlight irradiation mode, that is, the disturbance light mixing mode in the face image. Therefore, it is possible to suppress the user from being overconfident or distrustful with the monitoring system.

監視システムの構成を示すブロック図。The block diagram which shows the structure of a monitoring system. 通知画面を示す図。The figure which shows a notification screen. 信頼度を通知する処理手順を示すフローチャート。The flowchart which shows the process sequence which notifies reliability.

以下、本実施形態に係る監視システムについて、図面を参照しつつ説明する。本実施形態に係る監視システムは、車両に搭載され、ユーザであるドライバの居眠りやよそ見を監視することを想定している。   Hereinafter, the monitoring system according to the present embodiment will be described with reference to the drawings. The monitoring system according to the present embodiment is mounted on a vehicle, and is assumed to monitor a driver who is a user, falling asleep or looking away.

まず、図1を参照して、監視システム10の構成について説明する。監視システム10は、カメラ11(画像取得手段)、照明装置12、GPS13、日射センサ14(日射計測手段)、ドライバモニタECU20、モニタ31、スピーカ32、外部記憶装置33(記憶手段)を備える。   First, the configuration of the monitoring system 10 will be described with reference to FIG. The monitoring system 10 includes a camera 11 (image acquisition means), an illumination device 12, a GPS 13, a solar radiation sensor 14 (sunlight measurement means), a driver monitor ECU 20, a monitor 31, a speaker 32, and an external storage device 33 (storage means).

照明装置12は、ドライバの顔へ向けて近赤外光を照射する、近赤外LED等の照明装置である。カメラ11は、例えばCCDカメラであり、近赤外領域で高い感度特性を有するものである。近赤外領域に高い感度特性を有するカメラ11と近赤外光を照射する照明装置12を用いることにより、夜間やトンネル内等の走行中で車内が暗い状況でも、近赤外光に照らされたドライバの顔を感度良く撮影することができる。カメラ11は、1フレーム分の画像を撮像するたびに、顔画像データをドライバモニタECU20へ送信する。なお、カメラ11及び照明装置12は、ドライバの顔画像を撮影できる位置、例えば、ステアリングアッパコラムやメータパネルに、光軸をドライバの顔に向けて配置される。   The illuminating device 12 is an illuminating device such as a near infrared LED that irradiates near infrared light toward the face of the driver. The camera 11 is a CCD camera, for example, and has high sensitivity characteristics in the near infrared region. By using the camera 11 having high sensitivity characteristics in the near-infrared region and the illumination device 12 that irradiates near-infrared light, the vehicle is illuminated by near-infrared light even when the interior of the vehicle is dark, such as at night or in a tunnel. The driver's face can be photographed with high sensitivity. The camera 11 transmits face image data to the driver monitor ECU 20 every time an image for one frame is captured. The camera 11 and the illumination device 12 are arranged at a position where the driver's face image can be taken, for example, a steering upper column or a meter panel with the optical axis facing the driver's face.

GPS13は、GPS衛星からGPS信号を受信して、緯度及び経度からなる車両の位置、及び現在の日時を検出する。そして、GPS13は、検出した車両の位置、及び日時を、ドライバモニタECU20へ逐次送信する。   The GPS 13 receives a GPS signal from a GPS satellite and detects the position of the vehicle including the latitude and longitude, and the current date and time. Then, the GPS 13 sequentially transmits the detected vehicle position and date / time to the driver monitor ECU 20.

日射センサ14は、全天日射量を計測するセンサである。日射センサ14は、計測した日射量を、ドライバモニタECU20へ逐次送信する。なお、一般に、車両のダッシュボードには、車両周囲の明るさに応じてヘッドライトやスモールランプを自動で点灯させるために用いる日射センサが設置されている。日射センサ14として、上記オートライト用の日射センサを用いるとよい。   The solar radiation sensor 14 is a sensor that measures the total solar radiation amount. The solar radiation sensor 14 sequentially transmits the measured solar radiation amount to the driver monitor ECU 20. Generally, a solar radiation sensor used to automatically turn on a headlight and a small lamp according to the brightness around the vehicle is installed on the dashboard of the vehicle. As the solar radiation sensor 14, the solar radiation sensor for the auto light may be used.

ドライバモニタECU20は、CPU、ROM及びRAM等のメモリ、I/O、及びこれらを接続するバスライン等からなるコンピュータとして構成される。メモリには、緯度、経度、及び日時に対する太陽の高度及び方位が記憶されているDB26(記憶手段)が含まれる。   The driver monitor ECU 20 is configured as a computer including a CPU, a memory such as a ROM and a RAM, an I / O, and a bus line connecting these. The memory includes a DB 26 (storage means) in which the altitude and direction of the sun with respect to latitude, longitude, and date / time are stored.

また、ドライバモニタECU20は、CPUが、ROMに記憶されている各種プログラムを実行することにより、顔画像認識部21、状態検出部22、判定部23、信頼度算出部24の機能を実現する。   Further, the driver monitor ECU 20 implements the functions of the face image recognition unit 21, the state detection unit 22, the determination unit 23, and the reliability calculation unit 24 by the CPU executing various programs stored in the ROM.

顔画像認識部21は、カメラ11により撮影されたドライバの顔画像を認識する。詳しくは、カメラ11により撮影されたドライバの顔画像からエッジを抽出し、抽出したエッジから、眉、上下の瞼、眼の虹彩部分、鼻孔、口角等の顔の特徴点を検出する。顔の各パーツの輪郭は、肌に比べ輝度の変化が大きい。それゆえ、抽出したエッジから、顔の各パーツの輪郭、すなわち顔の特徴点を得られる。   The face image recognition unit 21 recognizes the driver's face image taken by the camera 11. Specifically, edges are extracted from the driver's face image photographed by the camera 11, and facial feature points such as eyebrows, upper and lower eyelids, iris portions of the eyes, nostrils, and mouth corners are detected from the extracted edges. The brightness of the contour of each part of the face is larger than that of the skin. Therefore, the outline of each part of the face, that is, the feature point of the face can be obtained from the extracted edge.

さらに、顔画像認識部21は、検出した顔の特徴点の位置や形状等から、ドライバの顔の向き、視線、眼の開度を検出する。例えば、顔の向きは、特徴点が基準の中央線に対して左右対称に存在すれば正面と検出し、特徴点が基準の中央線に対して右寄り存在すれば右向きと検出する。視線は、虹彩部分が上下瞼に囲まれた領域の中央に存在すれば正面と検出し、虹彩部分が上下瞼に囲まれた領域の右部分に存在すれば右向きと検出する。眼の開度は、上瞼の湾曲が上に凸の場合は眼を開いていると検出し、上瞼の湾曲が下に凸の場合は眼を閉じていると検出する。または、眼の開度は、上瞼と下瞼の間隔が上瞼と眉の間隔よりも広い場合は眼を開いていると検出し、上瞼と下瞼の間隔が上瞼と眉の間隔よりも狭い場合は眼を閉じていると検出してもよい。顔画像認識部21は、検出したドライバの顔の向き、視線、眼の開度を、状態検出部22へ送信する。   Further, the face image recognition unit 21 detects the face direction, line of sight, and eye opening of the driver from the position and shape of the detected feature points of the face. For example, the direction of the face is detected as being front if the feature point is symmetrical with respect to the reference center line, and is detected to be right if the feature point is on the right side with respect to the reference center line. The line of sight is detected as the front if the iris part exists in the center of the area surrounded by the upper and lower eyelids, and is detected as facing right if the iris part exists in the right part of the area surrounded by the upper and lower eyelids. The opening degree of the eye is detected as being open when the curvature of the upper eyelid is convex, and is detected as closing the eye when the curvature of the upper eyelid is convex. Alternatively, when the distance between the upper eyelid and the lower eyelid is wider than the distance between the upper eyelid and the eyebrows, it is detected that the eyes are open, and the distance between the upper eyelid and the lower eyelid is the distance between the upper eyelid and the eyebrows. If it is narrower, it may be detected that the eyes are closed. The face image recognition unit 21 transmits the detected face direction, line of sight, and eye opening of the driver to the state detection unit 22.

状態検出部22は、顔画像認識部21により検出された、ドライバの顔の向き、視線、眼の開度に基づいて、ドライバの状態を検出する。ドライバの状態は、ドライバがよそ見をしているか否か、及びドライバが居眠りをしているか否かである。例えば、ドライバの顔の向きが正面ではない時間が所定時間よりも長い場合や、ドライバの視線が正面ではない時間が所定時間よりも長い場合は、ドライバはよそ見をしていると検出する。一方、ドライバの顔の向きが正面ではない時間が所定時間よりも短く、且つドライバの視線が正面ではない時間が所定時間よりも短い場合は、ドライバはよそ見をしていないと検出する。また、ドライバの眼の閉じている時間が所定時間よりも長い場合は、ドライバは居眠りをしていると検出し、ドライバの眼の閉じている時間が所定時間よりも短い場合は、ドライバは居眠りをしていないと検出する。なお、顔画像認識部21及び状態検出部22により状態検出手段が構成される。   The state detection unit 22 detects the state of the driver based on the driver's face orientation, line of sight, and eye opening detected by the face image recognition unit 21. The driver status is whether the driver is looking away and whether the driver is asleep. For example, when the time when the driver's face is not front is longer than a predetermined time, or when the driver's line of sight is not longer than the predetermined time, it is detected that the driver is looking away. On the other hand, when the time when the driver's face is not the front is shorter than the predetermined time and the time when the driver's line of sight is not the front is shorter than the predetermined time, the driver detects that he is not looking away. In addition, when the driver's eyes are closed for longer than the predetermined time, the driver detects that he is asleep, and when the driver's eyes are closed for less than the predetermined time, the driver is asleep. Detect if not. The face image recognition unit 21 and the state detection unit 22 constitute a state detection unit.

判定部23(判定手段)は、ドライバの顔への太陽光の照射態様を判定する。詳しくは、判定部23は、GPS13から逐次送信された車両の位置の変化から車両が向かう方位を検出する。また、判定部23は、DB26を参照して、GPS13から送信された車両の位置及び日時における太陽の高度及び方位を検出する。また、判定部23は、日射センサ14により計測された日射量を受信する。   The determination part 23 (determination means) determines the irradiation mode of sunlight on the face of the driver. Specifically, the determination unit 23 detects the heading of the vehicle from the change in the vehicle position sequentially transmitted from the GPS 13. Further, the determination unit 23 refers to the DB 26 to detect the altitude and direction of the sun at the vehicle position and date / time transmitted from the GPS 13. The determination unit 23 receives the amount of solar radiation measured by the solar radiation sensor 14.

判定部23は、日射センサ14により計測された日射量が、所定量よりも少ないか否か判定する。この所定量は、晴れているときや空に薄い雲がかかっているときの日射量よりも少なく、夜、トンネル内、雨のときや空に厚い雲がかかっているときの日射量よりも多い。また、判定部23は、車両の向かう方位、及び太陽の高度と方位に基づいて、ドライバの顔に太陽光が当たっている可能性があるか否か判定する。すなわち、判定部23は、顔画像認識部21によるドライバの顔の向き、視線、眼の開度の検出精度、ひいては状態検出部22によるドライバ状態の検出精度を低下させるほどの量の太陽光が、ユーザの顔に当たっている可能性があるか否かを判定する。そして、判定部23は、車両の位置、車両の向かう方位、日時、太陽の高度及び方位からなる所定情報、及びドライバの顔への太陽光の照射態様についての判定結果を、信頼度算出部24へ送信する。なお、GPS13、判定部23、及びDB26により情報検出手段が構成される。   The determination unit 23 determines whether or not the amount of solar radiation measured by the solar radiation sensor 14 is less than a predetermined amount. This predetermined amount is less than the amount of solar radiation when it is clear or when there are thin clouds in the sky, and more than the amount of solar radiation when it is rainy or in the sky at night, in a tunnel, or when there is heavy clouds in the sky. . The determination unit 23 determines whether or not there is a possibility that the driver's face is exposed to sunlight based on the heading of the vehicle and the altitude and heading of the sun. That is, the determination unit 23 receives a sufficient amount of sunlight to reduce the detection accuracy of the driver's face orientation, line of sight, and eye opening by the face image recognition unit 21, and thus the detection accuracy of the driver state by the state detection unit 22. Then, it is determined whether or not there is a possibility of hitting the user's face. Then, the determination unit 23 outputs the determination result regarding the position of the vehicle, the azimuth of the vehicle, the date and time, the predetermined information including the sun altitude and the azimuth, and the manner of irradiating the driver's face with sunlight. Send to. The GPS 13, the determination unit 23, and the DB 26 constitute an information detection unit.

信頼度算出部24(信頼度算出手段)は、判定部23から受信した判定結果が、日射センサ14により計測された日射量が所定量よりも少ない場合、又はドライバの顔に太陽光が当たっている可能性がない場合は、状態検出部22より検出されるドライバの状態の信頼度を最大値に算出する。また、信頼度算出部24は、判定部23から受信した判定結果が、日射量が所定量よりも多く、且つドライバの顔に太陽光が当たっている可能性がある場合は、ドライバの顔に太陽光が当たっている可能性が高いほど、状態検出部22より検出されるドライバの状態の信頼度を低く算出する。   The reliability calculation unit 24 (reliability calculation means) determines that the determination result received from the determination unit 23 is that the amount of solar radiation measured by the solar radiation sensor 14 is less than a predetermined amount, or the driver's face is exposed to sunlight. If there is no possibility, the reliability of the driver state detected by the state detection unit 22 is calculated as a maximum value. In addition, the reliability calculation unit 24 determines that the determination result received from the determination unit 23 is greater than the predetermined amount of solar radiation and the driver's face may be exposed to sunlight. The higher the possibility of sunlight, the lower the reliability of the driver state detected by the state detection unit 22.

ドライバの顔に太陽光が当たる可能性は、車両が向かう方位、及び現在の位置及び日時における太陽の高度及び方位と相関が高い。すなわち、ドライバの顔に太陽光が当たる可能性は、車両に対する太陽の相対的な位置と相関が高い。そこで、信頼度算出部24は、判定部23から受信した所定情報に基づいて、ドライバの状態の信頼度を算出する。   The possibility of sunlight hitting the driver's face is highly correlated with the heading toward the vehicle and the altitude and heading of the sun at the current position and date. That is, the possibility that sunlight hits the driver's face has a high correlation with the relative position of the sun with respect to the vehicle. Therefore, the reliability calculation unit 24 calculates the reliability of the driver state based on the predetermined information received from the determination unit 23.

太陽の高度を十分に低い高度で一定とした場合、車両が向かう方位と太陽の方位とが一致するときに、ドライバの顔に太陽光が当たる可能性は最も高くなり、車両が向かう方位と太陽の方位とが相違するほど、ドライバの顔に太陽光が当たる可能性は低くなる。そこで、信頼度算出部24は、車両が向かう方位と、現在の位置及び日時における太陽の方位との差が小さいほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出する。   When the altitude of the sun is kept constant at a sufficiently low altitude, when the heading of the vehicle coincides with the heading of the sun, the possibility of sunlight hitting the driver's face is the highest. The difference between the heading and the lower the possibility that the driver's face will be exposed to sunlight. Therefore, the reliability calculation unit 24 calculates the reliability of the driver state detected by the state detection unit 22 as the difference between the heading of the vehicle and the sun position at the current position and date / time is smaller.

また、太陽の方位を車両が向かう方位で一定とした場合、太陽の高度が低いほど、ドライバの顔に太陽光が当たる可能性は高くなる。そこで、信頼度算出部24は、現在の位置及び日時における太陽の高度が低いほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出する。   In addition, when the azimuth of the sun is constant at the azimuth toward the vehicle, the lower the altitude of the sun, the higher the possibility that sunlight will hit the driver's face. Therefore, the reliability calculation unit 24 calculates the reliability of the driver state detected by the state detection unit 22 as the sun altitude at the current position and date is lower.

また、太陽の高度を十分に低い高度で一定とした場合、太陽の方位が車両の運転席側のときは、太陽の方位が車両の助手席側のときよりも、ドライバの顔に太陽光が当たる可能性は高くなる。そこで、信頼度算出部24は、現在の位置及び日時における太陽の方位が車両の運転席の側方の場合は、太陽の方位が車両の助手席の側方の場合よりも、状態検出部22により検出されるドライバの状態の信頼度を低く算出する。   Also, if the sun's altitude is constant at a sufficiently low altitude, when the sun's heading is on the driver's side of the vehicle, the sun's head is closer to the driver's seat than when the sun's heading is on the passenger's seat The chance of hitting is high. Therefore, the reliability calculation unit 24 determines the state detection unit 22 when the sun direction at the current position and date is on the side of the driver's seat of the vehicle, compared with when the sun direction is on the side of the passenger seat of the vehicle. The reliability of the state of the driver detected by is calculated low.

さらに、ドライバの顔に太陽光が当たる場合、日射量が多いほど、顔画像認識部21によるドライバの顔画像の認識精度、ひいては、状態検出部22によるドライバの状態の検出精度が低下する。そこで、信頼度算出部24は、日射センサ14により測定された日射量が多いほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出する。信頼度算出部24は、算出したドライバの状態の信頼度を、モニタ31及びスピーカ32に送信する。   Furthermore, when the driver's face is exposed to sunlight, the greater the amount of solar radiation, the lower the recognition accuracy of the driver's face image by the face image recognition unit 21 and thus the detection accuracy of the driver's state by the state detection unit 22. Therefore, the reliability calculation unit 24 calculates the reliability of the driver state detected by the state detection unit 22 as the amount of solar radiation measured by the solar radiation sensor 14 increases. The reliability calculation unit 24 transmits the calculated reliability of the driver state to the monitor 31 and the speaker 32.

モニタ31及びスピーカ32は、判定部23により判定された太陽光の照射態様に基づいて、状態検出部22により検出されるユーザの状態の信頼度を伝達する。具体的には、信頼度算出部24により算出された信頼度が閾値(例えば50%)よりも小さい場合に、図2に示すように、モニタ31は画面に監視システム10を使用できないことを表示し、スピーカ32は警報音を出力する。スピーカ32は、監視システム10を使用できないことを音声で出力してもよい。上述した信頼度算出部24と、モニタ31、及びスピーカ32により伝達手段が構成される。   The monitor 31 and the speaker 32 transmit the reliability of the user's state detected by the state detection unit 22 based on the sunlight irradiation mode determined by the determination unit 23. Specifically, when the reliability calculated by the reliability calculation unit 24 is smaller than a threshold (for example, 50%), the monitor 31 displays that the monitoring system 10 cannot be used on the screen as shown in FIG. The speaker 32 outputs an alarm sound. The speaker 32 may output by voice that the monitoring system 10 cannot be used. The above-described reliability calculation unit 24, the monitor 31, and the speaker 32 constitute transmission means.

また、スピーカ32は、状態検出部22により、ドライバの状態が居眠り状態やよそ見状態と検出された場合に、ドライバに対して警報を出力する。警報は、注意や覚醒を促す音声でもよいし、信頼度が低いことを通知する場合とは異なる警報音でもよい。   Further, the speaker 32 outputs an alarm to the driver when the state detection unit 22 detects the driver's state as a dozing state or a looking-aside state. The alarm may be a sound for prompting attention or awakening, or may be an alarm sound different from that for notifying that the reliability is low.

外部記憶装置33は、カメラ11により撮影されたドライバの顔画像と、信頼度算出部24により算出された信頼度と、を対応させて記憶する。   The external storage device 33 stores the face image of the driver photographed by the camera 11 and the reliability calculated by the reliability calculation unit 24 in association with each other.

次に、図3のフローチャートを参照して、ドライバに信頼度を通知する処理手順を説明する。本処理は、ドライバモニタECU20が所定間隔で繰り返し実行する。S11〜S15の処理は判定部23が行い、S16〜S18の処理は信頼度算出部24が行う。   Next, a processing procedure for notifying the driver of the reliability will be described with reference to the flowchart of FIG. This process is repeatedly executed by the driver monitor ECU 20 at predetermined intervals. The determination unit 23 performs the processes of S11 to S15, and the reliability calculation unit 24 performs the processes of S16 to S18.

まず、S11では、判定部23が、日射センサ14により計測された日射量を取得する。続いて、S12では、判定部23が、S11で取得した日射量が閾値(所定量)よりも多いか否か判定する。日射量が閾値よりも少なければ、ユーザの顔に太陽光が当たったとしても、顔画像認識部21による画像の認識精度、ひいては状態検出部22によるドライバの状態の検出精度を低下させない。これに対して、日射量が閾値よりも多ければ、ユーザの顔に太陽光が当たった場合に、顔画像認識部21による画像の認識精度、及び状態検出部22によるドライバの状態の検出精度を低下させるおそれがある。   First, in S <b> 11, the determination unit 23 acquires the amount of solar radiation measured by the solar radiation sensor 14. Subsequently, in S12, the determination unit 23 determines whether or not the amount of solar radiation acquired in S11 is greater than a threshold value (predetermined amount). If the amount of solar radiation is less than the threshold, even if the user's face is exposed to sunlight, the image recognition accuracy by the face image recognition unit 21 and thus the detection accuracy of the driver state by the state detection unit 22 are not lowered. On the other hand, if the amount of solar radiation is greater than the threshold, when the user's face is exposed to sunlight, the image recognition accuracy by the face image recognition unit 21 and the driver state detection accuracy by the state detection unit 22 are increased. May decrease.

例えば、晴れているときや空に薄い雲がかかっているときの日射量は、閾値よりも多くなり、夜やトンネル内、雨、空に厚い雲がかかっているときの日射量は、日射量は閾値よりも少なくなる。日射量が閾値よりも多いと判定した場合は(YES)、S12の処理に進み、日射量が閾値よりも少ないと判定した場合は(NO)、S16の処理に進む。   For example, the amount of solar radiation when it is clear or when there are thin clouds in the sky is greater than the threshold, and the amount of solar radiation when there is heavy clouds in the night, in the tunnel, in the rain, or in the sky is the amount of solar radiation. Is less than the threshold. If it is determined that the amount of solar radiation is greater than the threshold (YES), the process proceeds to S12. If it is determined that the amount of solar radiation is less than the threshold (NO), the process proceeds to S16.

S12において日射量が閾値よりも少ないと判定した場合は、ドライバの顔に太陽光が当たっているかどうかに関わらず、状態検出部22によるドライバの状態の検出精度が低下するおそれがない。そこで、S16で、信頼度算出部24は、ドライバの顔に太陽光が当たっている可能性に関わらず、状態検出部22により検出されるドライバの状態の信頼度を100%(最大値)に算出する。すなわち、信頼度算出部24は、太陽光の影響に基づいて、状態検出部22により検出されるドライバの状態の信頼度を100%に算出する。   If it is determined in S12 that the amount of solar radiation is less than the threshold value, there is no possibility that the detection accuracy of the driver state by the state detection unit 22 will be reduced regardless of whether the driver's face is exposed to sunlight. Therefore, in S16, the reliability calculation unit 24 sets the reliability of the driver state detected by the state detection unit 22 to 100% (maximum value) regardless of the possibility that the driver's face is exposed to sunlight. calculate. That is, the reliability calculation unit 24 calculates the reliability of the driver state detected by the state detection unit 22 to 100% based on the influence of sunlight.

一方、S12において日射量が閾値よりも多いと判定した場合は、太陽光がドライバの顔に当たる場合に、状態検出部22によるドライバの状態の検出精度が低下するおそれがある。そこで、判定部23は、S13〜15の処理を行い、太陽光がドライバの顔に当たる可能性があるか否か判定する。   On the other hand, if it is determined in S12 that the amount of solar radiation is greater than the threshold, the accuracy of detection of the driver state by the state detection unit 22 may decrease when sunlight hits the driver's face. Therefore, the determination unit 23 performs the processes of S13 to S15, and determines whether or not there is a possibility that sunlight hits the driver's face.

まずS13で、判定部23は、GPS13により検出された車両の位置、日時を取得するとともに、取得した車両の位置変化から車両の向かう方位を取得する。続いて、S14で、判定部23は、S13で取得した車両の位置及び日時における太陽の高度及び方位を、DB26から取得する。   First, in S <b> 13, the determination unit 23 acquires the position and date of the vehicle detected by the GPS 13, and acquires the heading of the vehicle from the acquired position change of the vehicle. Subsequently, in S14, the determination unit 23 acquires, from the DB 26, the altitude and direction of the sun at the vehicle position and date and time acquired in S13.

続いてS15で、判定部23は、S13で取得した車両の位置及び車両の向かう方位と、S14で取得した太陽の高度及び方位とから、ドライバの顔に太陽光が当たる可能性があるか否か判定する。ドライバの顔に太陽光が当たる可能性があると判定した場合は(YES)、S17の処理に進み、ドライバの顔に太陽光が当たる可能性がないと判定した場合は(NO)、S16の処理に進む。   Subsequently, in S15, the determination unit 23 determines whether or not there is a possibility that sunlight hits the driver's face from the vehicle position and vehicle heading acquired in S13 and the sun altitude and heading acquired in S14. To determine. If it is determined that the driver's face may be exposed to sunlight (YES), the process proceeds to S17. If it is determined that the driver's face is not likely to be exposed to sunlight (NO), S16 Proceed to processing.

S15においてドライバの顔に太陽光が当たる可能性がないと判定した場合は、日射量が閾値よりも多くても、状態検出部22によるドライバの状態の検出精度が低下するおそれがない。そこで、S16で、信頼度算出部24は、日射量に関わらず、状態検出部22により検出されるドライバの状態の信頼度を100%(最大値)に算出する。すなわち、信頼度算出部24は、太陽光の影響に基づいて、状態検出部22により検出されるドライバの状態の信頼度を100%に算出する。   If it is determined in S15 that there is no possibility that the driver's face will be exposed to sunlight, even if the amount of solar radiation is larger than the threshold value, the detection accuracy of the driver state by the state detection unit 22 may not be reduced. Therefore, in S16, the reliability calculation unit 24 calculates the reliability of the driver state detected by the state detection unit 22 to 100% (maximum value) regardless of the amount of solar radiation. That is, the reliability calculation unit 24 calculates the reliability of the driver state detected by the state detection unit 22 to 100% based on the influence of sunlight.

一方、S15においてドライバの顔に太陽光が当たる可能性があると判定した場合は、状態検出部22によるドライバの状態の検出精度が低下するおそれがある。そこで、S17で、信頼度算出部24は、判定部23がS11で取得した日射量と、S13及びS14で取得した所定情報とに基づいて、ドライバの顔に当たっている可能性がある太陽光の量が多いほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出する。   On the other hand, when it is determined in S15 that the driver's face may be exposed to sunlight, there is a risk that the detection accuracy of the driver state by the state detection unit 22 may be reduced. Therefore, in S17, the reliability calculation unit 24 determines the amount of sunlight that may hit the driver's face based on the amount of solar radiation acquired by the determination unit 23 in S11 and the predetermined information acquired in S13 and S14. The greater the number of, the lower the reliability of the driver state detected by the state detector 22 is calculated.

具体的には、日射センサ14により計測された日射量が多いほど、信頼度を低く算出する。また、車両の向かう方位と太陽の方位との差が小さいほど、信頼度を低く算出する。また、太陽の高度が低いほど、信頼度を低く算出する。また、太陽の方位が運転席側の場合は太陽の方位が助手席側の場合よりも、信頼度を低く算出する。信頼度算出部24は、上記4つのパラメータのそれぞれについて予め設定された信頼度マップに基づいて信頼度を算出し、それぞれの信頼度を統合して、状態検出部22により検出されるドライバの状態の信頼度を算出する。   Specifically, the greater the amount of solar radiation measured by the solar radiation sensor 14, the lower the reliability is calculated. Further, the smaller the difference between the heading of the vehicle and the heading of the sun, the lower the reliability is calculated. In addition, the lower the solar altitude, the lower the reliability. Further, when the sun direction is on the driver's seat side, the reliability is calculated lower than when the sun direction is on the passenger seat side. The reliability calculation unit 24 calculates the reliability based on a reliability map set in advance for each of the four parameters, integrates the reliability, and detects the driver state detected by the state detection unit 22. The reliability of is calculated.

続いて、S18では、信頼度算出部24は、算出した信頼度が閾値(例えば50%)よりも低い場合に、モニタ31及びスピーカ32により、状態検出部22により検出されるドライバの状態の信頼度が低下していることを、ドライバに伝達する。   Subsequently, in S18, the reliability calculation unit 24 determines the reliability of the driver state detected by the state detection unit 22 by the monitor 31 and the speaker 32 when the calculated reliability is lower than a threshold value (for example, 50%). Tell the driver that the degree is low.

以上説明した本実施形態によれば、以下の効果を奏する。   According to this embodiment described above, the following effects are obtained.

・ドライバの顔に外乱光が当たっている場合は、カメラ11により撮影された顔画像にノイズが混入し、状態検出部22によるユーザの状態の検出精度が悪化するおそれがある。そこで、ドライバの顔への太陽光の照射態様が判定され、判定された太陽光の照射態様に基づいて、検出されたドライバの状態の信頼度がドライバに伝達される。したがって、ドライバは、太陽光の照射態様、すなわち顔画像への外乱光の混入態様に基づいた信頼度により、状態検出部22により検出されたユーザの状態を信頼してよいか否かを認識できる。それゆえ、ドライバが監視システム10に対して過信や不信を抱くことを抑制できる。   If the driver's face is exposed to ambient light, noise may be mixed in the face image captured by the camera 11, and the state detection unit 22 may deteriorate the user state detection accuracy. Therefore, the sunlight irradiation mode on the driver's face is determined, and the reliability of the detected driver state is transmitted to the driver based on the determined sunlight irradiation mode. Therefore, the driver can recognize whether or not the user's state detected by the state detection unit 22 can be trusted based on the reliability based on the sunlight irradiation mode, that is, the disturbance light mixing mode in the face image. . Therefore, it is possible to suppress the driver from being overconfident or distrustful with respect to the monitoring system 10.

・ドライバの顔に太陽光が当たっている可能性が高いほど、すなわちカメラ11により撮影された顔画像にノイズが混入している可能性が高いほど、顔画像に基づいて検出されたドライバの状態の信頼度が低く算出される。したがって、ドライバは、顔に太陽光が当たっている可能性に応じて、状態検出部22により検出されたドライバの状態を信頼してよいか否かを認識できる。   The state of the driver detected based on the face image is higher as the possibility that the driver's face is exposed to sunlight, that is, the possibility that noise is mixed in the face image taken by the camera 11 is higher. Is calculated with low reliability. Therefore, the driver can recognize whether or not the driver's state detected by the state detection unit 22 can be trusted according to the possibility that the face is exposed to sunlight.

・ドライバの顔に太陽光が当たる可能性は、車両が向かう方位、及び現在の位置及び日時における太陽の高度及び方位と相関が高い。太陽の高度及び方位は、車両の現在位置及び日時から算出することができる。よって、状態検出部22により検出されたユーザの状態の信頼度を、車両の位置、車両の向かう方位及び日時を含む所定情報に基づいて算出できる。   -The possibility that sunlight hits the driver's face has a high correlation with the heading of the vehicle and the altitude and heading of the sun at the current position and date. The altitude and direction of the sun can be calculated from the current position and date of the vehicle. Therefore, the reliability of the user's state detected by the state detection unit 22 can be calculated based on predetermined information including the position of the vehicle, the heading of the vehicle, and the date and time.

・太陽の高度を一定とした場合、車両が向かう方位と太陽の方位とが一致するときに、ドライバの顔に太陽光が当たる可能性は最も高くなり、車両が向かう方位と太陽の方位とが相違するほど、ドライバの顔に太陽光が当たる可能性は低くなる。よって、車両が向かう方位と太陽の方位との差が小さいほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出できる。   ・ When the altitude of the sun is constant, the possibility that sunlight will hit the driver's face is the highest when the heading of the vehicle coincides with the heading of the sun. The more different, the less likely the sunlight will hit the driver's face. Therefore, the smaller the difference between the heading of the vehicle and the heading of the sun, the lower the reliability of the driver state detected by the state detector 22 can be calculated.

・太陽の方位を一定とした場合、太陽の高度が低いほど、ユーザの顔に太陽光が当たる可能性は高くなる。よって、太陽の高度が低いほど、検出されたユーザの状態の信頼度を低く算出できる。   -When the direction of the sun is fixed, the lower the altitude of the sun, the higher the possibility that the user's face will receive sunlight. Therefore, the lower the altitude of the sun, the lower the reliability of the detected user state.

・太陽の高度を一定にした場合、太陽の方位が車両の運転席側の場合は助手席側の場合よりも、ドライバの顔に太陽光が当たる可能性が高くなる。よって、太陽の方位が車両の運転席の側方の場合は助手席の側方の場合よりも、状態検出部22により検出されるドライバの状態の信頼度を低く算出できる。   -When the altitude of the sun is kept constant, there is a higher possibility that sunlight will hit the driver's face when the sun's direction is on the driver's side of the vehicle than when it is on the passenger's side. Therefore, the reliability of the state of the driver detected by the state detection unit 22 can be calculated lower when the direction of the sun is on the side of the driver's seat than on the side of the passenger seat.

・ドライバの顔に太陽光が当たらない高度及び方位に太陽が存在すれば、カメラ11により撮影された顔画像にノイズが混入しないので、顔画像に基づいたドライバの状態の検出精度が低下しない。よって、現在の位置及び日時における太陽が、ドライバの顔に太陽光が当たらない高度及び方位に存在する場合は、状態検出部22により検出されるドライバの状態の信頼度を最大値に算出できる。   If the sun is present at an altitude and direction where the driver's face is not exposed to sunlight, noise is not mixed in the face image captured by the camera 11, so that the detection accuracy of the driver state based on the face image does not deteriorate. Therefore, when the sun at the current position and date and time is at an altitude and direction where sunlight does not hit the driver's face, the reliability of the driver state detected by the state detection unit 22 can be calculated to the maximum value.

・ドライバの顔に太陽光が当たる場合、日射量が多いほど、ドライバの状態を検出しにくくなる。よって、日射量が多いほど、状態検出部22により検出されるドライバの状態の信頼度を低く算出できる。   -When sunlight hits the driver's face, the greater the amount of solar radiation, the more difficult it is to detect the driver's state. Thus, the greater the amount of solar radiation, the lower the reliability of the driver state detected by the state detector 22 can be calculated.

・雨や曇り、夜間において、日射量は所定量よりも少なくなる。このような場合は、ドライバの顔に太陽光が当たったとしても、ドライバの顔に当たる日射量は十分に少なくなり、顔画像に基づいたドライバの状態の検出精度は低下しない。よって、日射量が所定量よりも少ない場合は、太陽の高度及び方位に関わらず、状態検出部22により検出されるドライバの状態の信頼度を最大値に算出できる。   ・ In rainy or cloudy, at night, the amount of solar radiation is less than the prescribed amount. In such a case, even if the driver's face is exposed to sunlight, the amount of solar radiation that hits the driver's face is sufficiently reduced, and the detection accuracy of the driver's state based on the face image does not decrease. Therefore, when the amount of solar radiation is smaller than the predetermined amount, the reliability of the driver state detected by the state detection unit 22 can be calculated to the maximum value regardless of the altitude and direction of the sun.

・検出された車両の現在位置及び日時に応じた太陽の高度及び方位を、DB26から取得することができる。   -The altitude and direction of the sun according to the detected current position and date / time of the vehicle can be acquired from the DB 26.

・カメラ11により撮影された顔画像と、その顔画像に基づいて検出されたユーザの状態の信頼度が、外部記憶装置33に記憶される。よって、信頼度の低い顔画像を除外し、信頼度の高い顔画像のみを、事故の検証等に利用することができる。すなわち、運転中に取得した顔画像を、後で有効に利用できる。   The face image photographed by the camera 11 and the reliability of the user state detected based on the face image are stored in the external storage device 33. Therefore, face images with low reliability can be excluded, and only face images with high reliability can be used for accident verification or the like. That is, the face image acquired during driving can be effectively used later.

(他の実施形態)
本発明は上記実施形態の記載内容に限定されず、以下のように変更して実施してもよい。
(Other embodiments)
The present invention is not limited to the description of the above embodiment, and may be modified as follows.

・信頼度算出部24により算出された信頼度が閾値よりも高い場合に、状態検出部22により検出されるドライバの状態の信頼度が高いことを、ドライバに通知するようにしてもよい。あるいは、信頼度算出部24により算出された信頼度が閾値よりも高い場合は、信頼度が高いことをドライバに通知し、信頼度算出部24により算出された信頼度が閾値よりも低い場合は、信頼度が低いことをドライバに通知してもよい。このようにしても、ドライバは、状態検出部22により検出されるドライバの状態の信頼度が低下した場合に、低下したことを認識できる。または、信頼度算出部24により算出された信頼度を、モニタ31に表示させてもよい。   When the reliability calculated by the reliability calculation unit 24 is higher than the threshold value, the driver may be notified that the reliability of the state of the driver detected by the state detection unit 22 is high. Alternatively, when the reliability calculated by the reliability calculation unit 24 is higher than the threshold, the driver is notified that the reliability is high, and when the reliability calculated by the reliability calculation unit 24 is lower than the threshold. The driver may be notified that the reliability is low. Even in this case, the driver can recognize that the reliability is lowered when the reliability of the state of the driver detected by the state detection unit 22 is lowered. Alternatively, the reliability calculated by the reliability calculation unit 24 may be displayed on the monitor 31.

・モニタ31を備えていなくてもよい。その場合、スピーカ32のみにより、状態検出部22により検出されるドライバの状態の信頼度をドライバに通知する。また、モニタ31のみにより、状態検出部22により検出されるドライバの状態の信頼度をドライバに通知してもよい。   The monitor 31 may not be provided. In that case, only the speaker 32 notifies the driver of the reliability of the state of the driver detected by the state detection unit 22. Further, the reliability of the driver state detected by the state detection unit 22 may be notified to the driver only by the monitor 31.

・ドライバの視認しやすい場所にインジケータを設置し、状態検出部22により検出されるドライバの状態の信頼度が低い場合又は高い場合にインジケータを点灯させて、ドライバに信頼度が低いこと又は高いことを通知してもよい。あるいは、状態検出部22により検出されるドライバの状態の信頼度が低い場合と高い場合で、インジケータを異なる色で点灯させて、ドライバに信頼度が低いこと及び高いことを通知してもよい。   -An indicator is installed in a place where the driver can easily recognize and the indicator is turned on when the reliability of the driver state detected by the state detection unit 22 is low or high, and the driver has low or high reliability. May be notified. Alternatively, depending on whether the reliability of the driver state detected by the state detection unit 22 is low or high, the indicator may be lit in different colors to notify the driver that the reliability is low and high.

・DB26は、外部記憶装置33に含まれていてもよい。また、外部記憶装置33を備えず、カメラ11により撮影された顔画像及び信頼度算出部24により算出された信頼度を、ドライバモニタECU20のメモリに記憶させてもよい。   The DB 26 may be included in the external storage device 33. Further, the external storage device 33 may not be provided, and the face image captured by the camera 11 and the reliability calculated by the reliability calculation unit 24 may be stored in the memory of the driver monitor ECU 20.

・太陽の高度及び方位は、センサにより直接検出してもよい。また、ドライバへの太陽光の照射態様は、センサにより直接検出してもよい。   -The altitude and direction of the sun may be detected directly by a sensor. Moreover, you may detect directly the irradiation aspect of the sunlight to a driver with a sensor.

・監視システム10を車両以外に設置してもよい。   -You may install the monitoring system 10 other than a vehicle.

・照明装置12により近赤外光が照射されたユーザの顔画像を、近赤外カメラ11により撮影するようにしたが、本発明はこれに限定されるものではない。車室内に配置された可視光カメラによって、ユーザの顔画像を撮影するようにしてもよい。   The user's face image irradiated with near-infrared light by the illumination device 12 is captured by the near-infrared camera 11, but the present invention is not limited to this. You may make it image | photograph a user's face image with the visible light camera arrange | positioned in the vehicle interior.

11…カメラ、20…ドライバモニタECU、21…顔画像認識部、22…状態検出部、23…判定部、24…信頼度算出部、31…モニタ、32…スピーカ。   DESCRIPTION OF SYMBOLS 11 ... Camera, 20 ... Driver monitor ECU, 21 ... Face image recognition part, 22 ... State detection part, 23 ... Determination part, 24 ... Reliability calculation part, 31 ... Monitor, 32 ... Speaker.

Claims (11)

ユーザの顔画像を取得する画像取得手段(11)と、
前記画像取得手段により取得された前記顔画像に基づいて、前記ユーザの状態を検出する状態検出手段(21、22)と、
前記ユーザの顔への太陽光の照射態様を判定する判定手段(23)と、
前記判定手段により判定された前記太陽光の照射態様に基づいて、前記状態検出手段により検出される前記ユーザの状態の信頼度を伝達する伝達手段(24、31、32)と、
を備えることを特徴とする監視システム。
Image acquisition means (11) for acquiring a user's face image;
State detection means (21, 22) for detecting the state of the user based on the face image acquired by the image acquisition means;
A determination means (23) for determining an irradiation mode of sunlight on the user's face;
Based on the sunlight irradiation mode determined by the determination unit, a transmission unit (24, 31, 32) for transmitting the reliability of the user state detected by the state detection unit;
A monitoring system comprising:
前記伝達手段は、前記ユーザの顔に太陽光が当たっている可能性が高いほど、前記状態検出手段により検出される前記ユーザの状態の信頼度を低く算出する信頼度算出手段(24)を備える請求項1に記載の監視システム。   The said transmission means is provided with the reliability calculation means (24) which calculates low the reliability of the said user's state detected by the said state detection means, so that possibility that the sunlight of the said user is hitting is high. The monitoring system according to claim 1. 前記ユーザは車両のドライバであり、
前記車両の位置、前記車両の向かう方位及び日時を含む所定情報を検出する情報検出手段(13、23、26)を備え、
前記信頼度算出手段は、前記情報検出手段により検出された前記所定情報に基づいて、前記信頼度を算出する請求項2に記載の監視システム。
The user is a vehicle driver;
Comprising information detecting means (13, 23, 26) for detecting predetermined information including the position of the vehicle, the heading of the vehicle and the date and time;
The monitoring system according to claim 2, wherein the reliability calculation unit calculates the reliability based on the predetermined information detected by the information detection unit.
前記信頼度算出手段は、前記情報検出手段により検出された前記車両が向かう方位と、前記情報検出手段により検出された位置及び日時における太陽の方位との差が小さいほど、前記信頼度を低く算出する請求項3に記載の監視システム。   The reliability calculation means calculates the reliability lower as the difference between the heading of the vehicle detected by the information detection means and the sun direction at the position and date detected by the information detection means is smaller. The monitoring system according to claim 3. 前記信頼度算出手段は、前記情報検出手段により検出された位置及び日時における太陽の高度が低いほど、前記信頼度を低く算出する請求項3又は4に記載の監視システム。   The monitoring system according to claim 3 or 4, wherein the reliability calculation unit calculates the reliability lower as the sun altitude at the position and date / time detected by the information detection unit is lower. 前記信頼度算出手段は、前記情報検出手段により検出された位置及び日時における太陽の方位が前記車両の運転席の側方の場合は、前記太陽の方位が前記車両の助手席の側方の場合よりも、前記信頼度を低く算出する請求項3〜5のいずれかに記載の監視システム。   In the case where the azimuth of the sun at the position and date and time detected by the information detection means is lateral to the driver's seat of the vehicle, the reliability calculation means is when the azimuth of the sun is lateral to the passenger seat of the vehicle. The monitoring system according to any one of claims 3 to 5, wherein the reliability is calculated to be lower. 前記信頼度算出手段は、前記情報検出手段により検出された位置及び日時における太陽が、前記ユーザの顔に太陽光が当たらない高度及び方位に存在する場合は、前記信頼度を最大値に算出する請求項3〜6のいずれかに記載の監視システム。   The reliability calculation means calculates the reliability to the maximum value when the sun at the position and date / time detected by the information detection means exists at an altitude and direction where the user's face does not receive sunlight. The monitoring system according to claim 3. 前記ユーザは車両のドライバであり、
日射量を計測する日射計測手段(14)を備え、
前記信頼度算出手段は、前記日射計測手段により計測された日射量が多いほど、前記信頼度を低く算出する請求項2〜7のいずれかに記載の監視システム。
The user is a vehicle driver;
The solar radiation measuring means (14) for measuring the solar radiation amount is provided.
The monitoring system according to claim 2, wherein the reliability calculation unit calculates the reliability lower as the amount of solar radiation measured by the solar radiation measurement unit increases.
前記信頼度算出手段は、前記日射計測手段により計測された日射量が、所定量よりも少ない場合は、前記ユーザの顔に太陽光が当たっている可能性に関わらず、前記信頼度を最大値に算出する請求項8に記載の監視システム。   When the amount of solar radiation measured by the solar radiation measuring unit is less than a predetermined amount, the reliability calculating unit sets the reliability to the maximum value regardless of the possibility that the user's face is exposed to sunlight. The monitoring system according to claim 8, which is calculated as follows. 前記車両の位置及び日時に応じた太陽の高度及び方位が記憶されている記憶装置(26)を備える請求項3〜9のいずれかに記載の監視システム。   The monitoring system according to any one of claims 3 to 9, further comprising a storage device (26) in which the altitude and direction of the sun according to the position and date of the vehicle are stored. 前記画像取得手段により取得された前記顔画像と、前記顔画像に対応する前記信頼度とを記憶する記憶装置(33)を備える請求項2〜10のいずれかに記載の監視システム。   The monitoring system according to any one of claims 2 to 10, further comprising a storage device (33) for storing the face image acquired by the image acquisition unit and the reliability corresponding to the face image.
JP2013077488A 2013-04-03 2013-04-03 Monitoring system Withdrawn JP2014203186A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013077488A JP2014203186A (en) 2013-04-03 2013-04-03 Monitoring system
PCT/JP2014/001057 WO2014162654A1 (en) 2013-04-03 2014-02-27 Monitoring system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013077488A JP2014203186A (en) 2013-04-03 2013-04-03 Monitoring system

Publications (1)

Publication Number Publication Date
JP2014203186A true JP2014203186A (en) 2014-10-27

Family

ID=51657970

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013077488A Withdrawn JP2014203186A (en) 2013-04-03 2013-04-03 Monitoring system

Country Status (2)

Country Link
JP (1) JP2014203186A (en)
WO (1) WO2014162654A1 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016157326A (en) * 2015-02-25 2016-09-01 株式会社Jvcケンウッド Line of sight detection device and line of sight detection method
WO2016151638A1 (en) * 2015-03-26 2016-09-29 三菱電機株式会社 Driver assistance system
JP2019079328A (en) * 2017-10-25 2019-05-23 いすゞ自動車株式会社 Vehicle alarm system

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10037712B2 (en) * 2015-01-30 2018-07-31 Toyota Motor Engineering & Manufacturing North America, Inc. Vision-assist devices and methods of detecting a classification of an object

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4687150B2 (en) * 2005-03-08 2011-05-25 日産自動車株式会社 Direct light detector
JP2009032190A (en) * 2007-07-30 2009-02-12 Mazda Motor Corp Driver state detection device for vehicle
JP5466587B2 (en) * 2010-06-29 2014-04-09 本田技研工業株式会社 Vehicle face image pickup device
JP2012160978A (en) * 2011-02-01 2012-08-23 Nippon Seiki Co Ltd Imaging control device, template acquisition device, and program

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016157326A (en) * 2015-02-25 2016-09-01 株式会社Jvcケンウッド Line of sight detection device and line of sight detection method
WO2016151638A1 (en) * 2015-03-26 2016-09-29 三菱電機株式会社 Driver assistance system
US10232772B2 (en) 2015-03-26 2019-03-19 Mitsubishi Electric Corporation Driver assistance system
JP2019079328A (en) * 2017-10-25 2019-05-23 いすゞ自動車株式会社 Vehicle alarm system
JP7059566B2 (en) 2017-10-25 2022-04-26 いすゞ自動車株式会社 Vehicle alarm device

Also Published As

Publication number Publication date
WO2014162654A1 (en) 2014-10-09

Similar Documents

Publication Publication Date Title
US10829125B2 (en) Processing method, program, processing apparatus, and detection system
JP5974915B2 (en) Arousal level detection device and arousal level detection method
US8063786B2 (en) Method of detecting drowsiness of a vehicle operator
US10298741B2 (en) Method and device for assisting in safe driving of a vehicle
WO2015131857A2 (en) Method and apparatus for aiding vision combining camera module and optical sensor
US10023199B2 (en) Method and device for ascertaining a state of drowsiness of a driver
US9767374B2 (en) Driver check apparatus
KR20160144306A (en) Portable electronic device and method thereof
JP2013203103A (en) Display device for vehicle, control method therefor, and program
US20110035099A1 (en) Display control device, display control method and computer program product for the same
WO2014162654A1 (en) Monitoring system
JP2006338594A (en) Pedestrian recognition system
KR20120074820A (en) Control system for vehicle using face recognition function
WO2015079657A1 (en) Viewing area estimation device
JP2008246013A (en) Sleepiness sensor
KR20180104235A (en) Method and apparatus for monitoring driver status
KR101519748B1 (en) A carelessness detmination method of the driver and an apparatus for this
JP2009219555A (en) Drowsiness detector, driving support apparatus, drowsiness detecting method
RU2413632C2 (en) Method to prevent driver falling asleep
JP2010184067A (en) Biological state prediction device
JP5466587B2 (en) Vehicle face image pickup device
JP5050794B2 (en) Sleepiness detection device, sleepiness detection method
WO2023108364A1 (en) Method and apparatus for detecting driver state, and storage medium
KR20130026857A (en) Apparatus for preventing dozing at the wheel
JP2020086907A (en) Careless driving determination device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150521

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20150716