JP4793269B2 - Sleepiness detection device - Google Patents

Sleepiness detection device Download PDF

Info

Publication number
JP4793269B2
JP4793269B2 JP2007001410A JP2007001410A JP4793269B2 JP 4793269 B2 JP4793269 B2 JP 4793269B2 JP 2007001410 A JP2007001410 A JP 2007001410A JP 2007001410 A JP2007001410 A JP 2007001410A JP 4793269 B2 JP4793269 B2 JP 4793269B2
Authority
JP
Japan
Prior art keywords
driver
detection device
drowsiness detection
drowsiness
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007001410A
Other languages
Japanese (ja)
Other versions
JP2008167806A (en
Inventor
禎祐 木村
健二 石田
敏之 森下
剛 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2007001410A priority Critical patent/JP4793269B2/en
Publication of JP2008167806A publication Critical patent/JP2008167806A/en
Application granted granted Critical
Publication of JP4793269B2 publication Critical patent/JP4793269B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、車両の運転者の眠気を検知する眠気検知装置に関する。   The present invention relates to a drowsiness detection device that detects drowsiness of a driver of a vehicle.

従来より、運転者の顔面を撮影する撮影手段と、撮影手段で撮影された画像から運転者の眠気を検知する画像処理回路と、画像処理回路で眠気が検知されると警告を発する警告手段とを備えた眠気検知装置が知られている。   Conventionally, photographing means for photographing a driver's face, an image processing circuit for detecting driver's sleepiness from an image photographed by the photographing means, and warning means for issuing a warning when sleepiness is detected by the image processing circuit; There is known a drowsiness detection device including

この種の眠気検知装置では、撮影された画像から運転者の目の開度(即ち、上まぶたと下まぶたとの距離)、及び瞬き時の閉じ時間を算出し、それらを予め設定された閾値と比較することにより眠気を検出すること(例えば、特許文献1参照)や、覚醒時の運転者に固有な瞬き時の閉じ時間から設定される瞬きの評価時間に基づき、評価時間よりも閉じ時間が長い瞬き(以下、長瞬き)を検出し、所定時間内における瞬きの総数と長瞬きとの比率から眠気を検知すること(例えば、特許文献2参照)が提案されている。
特開平6−266981号公報 特開平10−272960号公報
In this type of drowsiness detection device, the opening degree of the driver's eyes (that is, the distance between the upper eyelid and the lower eyelid) and the closing time during blinking are calculated from the captured image, and these values are set in advance. Based on the evaluation time of blinking set from the closing time of blinking specific to the driver at the time of awakening or detecting the drowsiness by comparing with Has been proposed to detect long blinks (hereinafter referred to as long blinks) and detect drowsiness from the ratio of the total number of blinks and long blinks within a predetermined time (see, for example, Patent Document 2).
Japanese Patent Laid-Open No. 6-266981 Japanese Patent Laid-Open No. 10-272960

ところで、車両を運転する場合、運転者は、車両の前方に設定される注視点(即ち、運転者が注視すべき位置)の他に、車両に備えられたメータ等も見る必要があり、注視点への視線よりも下方へと視線を向ける(以下、下方へと視線を向けることを下方視とする)必要がある。   By the way, when driving the vehicle, the driver needs to look at the meter provided in the vehicle in addition to the gazing point set in front of the vehicle (that is, the position where the driver should watch). It is necessary to turn the line of sight downward than the line of sight to the viewpoint (hereinafter, turning the line of sight downward is referred to as a downward view).

しかしながら、従来の眠気検知装置では、下方視の際の目の開度と、眠気が発生した際の目の開度とが酷似しているため、下方視であるにも関わらず、運転者に眠気が発生したと誤認識する可能性が高かった。   However, in the conventional drowsiness detection device, the opening degree of the eye when looking downward is very similar to the opening degree of the eye when drowsiness occurs. The possibility of misrecognizing that sleepiness occurred was high.

また、従来の眠気検知装置では、撮影画像中における下方視の際の目の開度が小さくなるため、実際には目を開いていても画像処理回路が目を閉じているものと判定してしまい、下方視の際の瞬き時の閉じ時間と、眠気が発生した際の瞬きの閉じ時間とがほぼ同じ時間となることで、下方視を眠気の発生と誤認識する可能性があった
これらの問題を解決するために、下方視の際の運転者のまぶたの形状と、眠気が発生した際の運転者のまぶたの形状とが異なることに基づき、下方視を検知する方法についての研究が進められている。そして、この方法では、運転者のまぶたの形状を正確に認識する必要がある。
Further, in the conventional drowsiness detection device, since the opening degree of the eye when viewed downward in the captured image is small, it is determined that the image processing circuit is actually closing the eye even if the eye is open. As a result, the close time at the time of blinking when looking downward and the closing time of the blink when sleepiness occurs are approximately the same time, and there is a possibility that the downward view may be mistaken for the occurrence of sleepiness. In order to solve this problem, research on a method for detecting downward vision based on the difference between the shape of the driver's eyelid when looking down and the shape of the eyelid when sleepiness occurs It is being advanced. In this method, it is necessary to accurately recognize the shape of the driver's eyelid.

しかしながら、従来の眠気検知装置では、目の開度等を認識するための画像を撮影しているため、撮影手段で撮影された画像から、運転者のまぶたの形状を正確に認識することは困難であった。   However, since the conventional drowsiness detection device captures an image for recognizing the opening degree of the eyes, it is difficult to accurately recognize the shape of the driver's eyelid from the image captured by the imaging unit. Met.

そこで、本発明は、運転者のまぶたの形状を正確に認識し、下方視であることを精度良く検知可能な眠気検知装置を提供することを目的とする。   SUMMARY OF THE INVENTION An object of the present invention is to provide a drowsiness detection device that can accurately recognize the shape of a driver's eyelid and accurately detect that the driver is looking downward.

上記目的を達成するためになされた本発明の眠気検知装置は、撮影手段で撮影した車両の運転者の顔面を含む撮影画像に基づき、輪郭形状抽出手段が運転者の下まぶたの輪郭形状を抽出し、下方視検知手段が、輪郭形状抽出手段で抽出された輪郭形状に基づき、車両の前方に予め設定された注視点への視線よりも下方に運転者が視線を向ける下方視を検知し、眠気検知手段が、撮影手段で撮影した撮影画像から推定される運転者の覚醒度に基づき、下方視検知手段で下方視が検知された場合、下方視であることによる覚醒度の低下分が相殺されるように覚醒度を補正し、その覚醒度に基づき運転者の眠気を検知するものであり、撮影手段が、運転者の下まぶたと眼球との境界により形成され、運転者の眼球内に映り込んだ影を撮影可能な第一配置位置に配置されたものである。   The drowsiness detection device of the present invention made to achieve the above object is based on the photographed image including the face of the driver of the vehicle photographed by the photographing means, and the contour shape extracting means extracts the contour shape of the driver's lower eyelid. Then, the downward vision detection means detects the downward vision in which the driver directs his gaze below the gaze to the gazing point preset in front of the vehicle based on the contour shape extracted by the contour shape extraction means, Based on the driver's arousal level estimated from the photographed image taken by the imaging unit, the drowsiness detection unit cancels the reduction in the arousal level due to the downward vision when the downward vision detection unit detects the downward vision. The degree of wakefulness is corrected and the driver's drowsiness is detected based on the degree of wakefulness, and the photographing means is formed by the boundary between the driver's lower eyelid and the eyeball, and is in the driver's eyeball. The first that can shoot reflected shadows Those disposed location position.

本発明の眠気検知装置では、第一配置位置に配置された撮影手段が、運転者の下まぶたと眼球との境界により形成され、運転者の眼球内に映り込んだ影を撮影するため、その撮影された撮影画像は、運転者の下まぶたと眼球との境界における輝度差、即ち、運転者の下まぶたの輪郭形状が鮮明なものとなる。   In the drowsiness detection device of the present invention, the photographing means arranged at the first arrangement position is formed by the boundary between the driver's lower eyelid and the eyeball, and photographs the shadow reflected in the driver's eyeball. In the photographed image, the brightness difference at the boundary between the driver's lower eyelid and the eyeball, that is, the contour shape of the driver's lower eyelid becomes clear.

したがって、本発明の眠気検知装置によれば、運転者の下まぶたの輪郭形状を撮影画像から精度良く抽出することができる。この結果、本発明の眠気検知装置によれば、運転者が下方視であることの検知精度を向上させることができ、ひいては、運転者の眠気の検知精度を向上させることができる。   Therefore, according to the drowsiness detection device of the present invention, the contour shape of the driver's lower eyelid can be accurately extracted from the captured image. As a result, according to the drowsiness detection device of the present invention, it is possible to improve the detection accuracy that the driver is looking downward, and thus the detection accuracy of the driver's drowsiness can be improved.

また、本発明の眠気検知装置における第一配置位置は、請求項2に記載のように、注視点への運転者の視線の方向である運転視線軸と、運転者が注視点へと視線を向けている時の運転者の目じり、及び下まぶたの最も低い位置を、車両の全長方向及び高さ方向を含む断面上で結んだ直線である下方軸とに挟まれた車両内の領域である規定領域内の位置であることが望ましい。   In addition, the first arrangement position in the drowsiness detection device of the present invention includes a driving gaze axis that is a direction of the driver's gaze to the gazing point and a driver's gaze to the gazing point, as described in claim 2. It is the area in the vehicle that is sandwiched between the driver's eyes when facing and the lowest position of the lower eyelid on the lower shaft that is a straight line connecting the cross section including the full length direction and the height direction of the vehicle It is desirable that the position is within the specified area.

このような規定領域内に撮影手段が配置された眠気検知装置によれば、運転者の下まぶたの輪郭形状が、より鮮明となるような撮影画像が撮影される可能性を高めることができる。   According to the drowsiness detection device in which the photographing means is arranged in such a prescribed region, it is possible to increase the possibility that a photographed image is captured so that the contour shape of the driver's lower eyelid becomes clearer.

特に、本発明の眠気検知装置における第一配置位置が、請求項3に記載のように、車両のインストルメントパネル、もしくはメータの内部であれば、輪郭形状の鮮明な撮影画像が撮影される可能性をより高めることができる。   In particular, if the first arrangement position in the drowsiness detection device of the present invention is inside the instrument panel or meter of the vehicle as described in claim 3, a sharply-captured photographed image can be taken. The sex can be increased.

なお、請求項4に記載のように、本発明の眠気検知装置は、運転者の顔面に向けて照射光を照射する照射手段を備え、その照射手段が、照射光を照射することで、運転者の下まぶたと眼球との境界により形成される影が眼球内に投影されるような第二配置位置に配置されることが望ましい。   In addition, as described in claim 4, the drowsiness detection device of the present invention includes an irradiation unit that irradiates the driver's face with irradiation light, and the irradiation unit irradiates the irradiation light, thereby driving. It is desirable that the shadow formed by the boundary between the person's lower eyelid and the eyeball is arranged at the second arrangement position such that the shadow is projected into the eyeball.

眼球内に投影された影を撮影画像として撮影する本発明の眠気検知装置によれば、運転者の下まぶたと眼球との境界における輝度差、即ち、運転者の下まぶたの輪郭形状がより鮮明となるように撮影画像を撮影することができる。   According to the drowsiness detection device of the present invention that captures a shadow projected in the eyeball as a captured image, the brightness difference at the boundary between the driver's lower eyelid and the eyeball, that is, the contour shape of the driver's lower eyelid is clearer. The photographed image can be photographed so that

したがって、本発明の眠気検知装置によれば、運転者が下方視であることの検知精度をより向上させることができ、ひいては、運転者の眠気の検知精度をより向上させることができる。   Therefore, according to the drowsiness detection device of the present invention, it is possible to further improve the accuracy of detecting that the driver is looking downward, and further improve the accuracy of detecting the drowsiness of the driver.

そして、本発明の眠気検知装置における第二配置位置は、請求項5に記載のように、撮影手段が配置される第一配置位置よりも下方であることが望ましい。
このような本発明の眠気検知装置によれば、照射手段から照射光が照射されることで、運転者の眼球内に投影された下まぶたと眼球との境界における影、即ち、運転者の下まぶたの輪郭形状がより鮮明となった状態の運転者の顔面を撮影画像として撮影することができる。
And as for the 2nd arrangement position in the drowsiness detection apparatus of this invention, as for Claim 5, it is desirable that it is below the 1st arrangement position where an imaging | photography means is arrange | positioned.
According to such a drowsiness detection device of the present invention, by irradiating irradiation light from the irradiation means, a shadow at the boundary between the lower eyelid and the eyeball projected into the driver's eyeball, that is, a lower part of the driver. The face of the driver in a state where the contour shape of the eyelid becomes clearer can be photographed as a photographed image.

したがって、本発明の眠気検知装置によれば、運転者が下方視であることの検知精度をより向上させることができ、ひいては、運転者の眠気の検知精度をより向上させることができる。   Therefore, according to the drowsiness detection device of the present invention, it is possible to further improve the accuracy of detecting that the driver is looking downward, and further improve the accuracy of detecting the drowsiness of the driver.

また、本発明の眠気検知装置は、請求項6に記載のように、照射手段から運転者の顔面に向けて照射された照射光が運転者の顔面で反射された光に基づき、輪郭形状抽出手段が運転者の下まぶたの輪郭形状を抽出し、下方視検知手段が、輪郭形状抽出手段で抽出された輪郭形状に基づき、車両の前方に予め設定された注視点への視線よりも下方に運転者が視線を向ける下方視を検知し、眠気検知手段が、撮影手段で撮影した撮影画像から推定される運転者の覚醒度に基づき、下方視検知手段で下方視が検知された場合、下方視であることによる覚醒度の低下分が相殺されるように覚醒度を補正し、その覚醒度に基づき運転者の眠気を検知するものであり、照射手段が、照射光を照射することで、運転者の下まぶたと眼球との境界に形成される影が眼球内に投影されるような第二配置位置に配置されたものでも良い。   The drowsiness detection device according to the present invention, as described in claim 6, extracts contour shapes based on the light reflected from the irradiation means toward the driver's face on the driver's face. The means extracts the contour shape of the driver's lower eyelid, and the downward vision detection means is below the line of sight to the gazing point preset in front of the vehicle based on the contour shape extracted by the contour shape extraction means. When the driver detects a downward view in which the line of sight is directed and the drowsiness detection means detects the downward view by the downward view detection means based on the driver's arousal level estimated from the photographed image taken by the photographing means, By correcting the wakefulness so that the decrease in the wakefulness due to vision is offset, the driver's sleepiness is detected based on the wakefulness, and the irradiation means irradiates the irradiation light, Formed at the boundary between the driver's lower eyelid and eyeball There may be one which is disposed in the second position, as projected into the eye.

このような眠気検知装置では、レーザ光等を照射することにより下まぶたの輪郭形状を認識する方法が考えられる。
また、本発明の眠気検知装置における第二配置位置は、請求項7に記載のように、運転者が注視点へと視線を向けている時の運転者の目じり、及び下まぶたの最も低い位置を、車両の全長方向及び高さ方向を含む断面上で結んだ直線である下方軸よりも下方であることが望ましい。
In such a drowsiness detection device, a method of recognizing the contour shape of the lower eyelid by irradiating laser light or the like can be considered.
Further, the second arrangement position in the drowsiness detection device of the present invention is the lowest position of the driver's eyes and the lower eyelid when the driver is gazing at the gazing point as described in claim 7. Is preferably below the lower shaft, which is a straight line connecting the cross section including the full length direction and the height direction of the vehicle.

このような第二配置位置に照射手段が配置された眠気検知装置によれば、運転者の下まぶたの輪郭形状がより鮮明となるような撮影画像を撮影する可能性を高めることができる。   According to such a drowsiness detection device in which the irradiation means is arranged at the second arrangement position, it is possible to increase the possibility of photographing a photographed image that makes the contour shape of the lower eyelid of the driver clearer.

特に、本発明の眠気検知装置における第二配置位置が、請求項8に記載のように、車両に備えられたステアリングホイールにおけるステアリングコラムの延長線上であれば、輪郭形状の鮮明な撮影画像が撮影される可能性をより高めることができる。   In particular, if the second arrangement position in the drowsiness detection device of the present invention is on the extension line of the steering column in the steering wheel provided in the vehicle as in claim 8, a sharply-captured photographed image is taken. The possibility of being made can be increased.

以下に本発明の実施形態を図面と共に説明する。
図1は、本発明が適用され、車両に搭載される眠気検知装置の概略構成を示すブロック図である。なお、以下では、眠気検知装置が搭載された車両を搭載車両とする。
〈装置構成〉
眠気検知装置1は、搭載車両の運転者の顔面を含む照射領域に照射光を照射する光源13と、光源13からの照射光が照射された運転者の顔面を含む画像を撮影するカメラ12と、カメラ12で撮影された画像に基づき、運転者の眠気を検知する画像処理プロセッサ10と、画像処理プロセッサ10からの音声信号により音声を出力するスピーカ11とを備えている。
Embodiments of the present invention will be described below with reference to the drawings.
FIG. 1 is a block diagram showing a schematic configuration of a drowsiness detection device to which the present invention is applied and is mounted on a vehicle. Hereinafter, a vehicle equipped with the drowsiness detection device is referred to as an on-board vehicle.
<Device configuration>
The drowsiness detection device 1 includes a light source 13 that irradiates an irradiation area including a driver's face of an onboard vehicle, and a camera 12 that captures an image including the driver's face irradiated with the irradiation light from the light source 13. The image processing processor 10 detects the driver's sleepiness based on the image captured by the camera 12, and the speaker 11 outputs the sound by the audio signal from the image processing processor 10.

ここで、図5は、カメラ12、及び光源13が配置された位置を説明するための説明図であり、図6は、運転者の目の周辺領域における縦断面を示した説明図である。
光源13は、画像処理プロセッサ10からの発光信号に従って発光する発光ダイオードを中心に構成され、予め規定された広がり角で照射光を照射するものである。
Here, FIG. 5 is an explanatory diagram for explaining a position where the camera 12 and the light source 13 are arranged, and FIG. 6 is an explanatory diagram showing a longitudinal section in a peripheral region of the driver's eyes.
The light source 13 is configured around a light emitting diode that emits light in accordance with a light emission signal from the image processor 10, and irradiates irradiation light at a pre-defined spread angle.

また、光源13は、図5に示すように、搭載車両のシートに着座した状態(以下、着座状態とする)の運転者の眼球内に、運転者の下まぶたと眼球との境界に形成される影を投影させる位置であり、運転者の目から延伸する軸として予め設定された下方軸よりも下方(即ち、路面に近い位置)に配置されている。具体的に、本実施形態では、ステアリングホイールにおけるステアリングコラムの延長線上に配置されており、この位置を第二配置位置とする。   Further, as shown in FIG. 5, the light source 13 is formed in the driver's eyeball in a state of being seated on the seat of the mounted vehicle (hereinafter referred to as a seated state) at the boundary between the driver's lower eyelid and the eyeball. This is a position to project a shadow to be projected, and is arranged below a lower axis set in advance as an axis extending from the driver's eyes (that is, a position close to the road surface). Specifically, in this embodiment, it is arranged on the extension line of the steering column in the steering wheel, and this position is set as the second arrangement position.

ただし、下方軸とは、図6に示すように、着座状態の運転者が、搭載車両の前方に予め設定された注視点へと視線を向けている時に、搭載車両の全長方向及び車高方向を含む断面上にて、運転者の目尻と下まぶたの最も低い位置(即ち、路面に近い位置、以下、最下点とする)とを結んだ直線である。   However, as shown in FIG. 6, the lower axis means that when the seated driver is looking at a gaze point that is set in front of the mounted vehicle in advance, the full length direction and the vehicle height direction of the mounted vehicle. Is a straight line connecting the driver's eye corners and the lowest position of the lower eyelid (that is, the position close to the road surface, hereinafter referred to as the lowest point).

次に、カメラ12は、CCD素子からなる受光部を有し、画像処理プロセッサ10からの撮像信号に従って、レンズを介して受光部が受光し、デジタル画像を撮像(以下、撮像されたデジタル画像を撮影画像とする)するものである。   Next, the camera 12 has a light receiving unit composed of a CCD element, and the light receiving unit receives light through a lens in accordance with an imaging signal from the image processing processor 10 to capture a digital image (hereinafter, the captured digital image is captured). A photographed image).

また、カメラ12は、図5に示すように、第二配置位置よりも上方で、さらに着座状態の運転者が搭載車両の前方に予め設定された注視点へと視線を向けている時の視線の方向を示す注視軸と、下方軸とに挟まれた位置であり、運転者の下まぶたと眼球との境界に形成される影を撮影可能な位置に配置されている。具体的に、本実施形態では、速度計、もしくは回転速度計が備えられている位置に配置されており、この位置を第一配置位置とする。   Further, as shown in FIG. 5, the camera 12 has a line of sight when a driver in a seated state is turning his / her line of sight toward a point of sight set in front of the mounted vehicle. This is a position sandwiched between the gaze axis indicating the direction and the lower axis, and is disposed at a position where a shadow formed on the boundary between the lower eyelid of the driver and the eyeball can be photographed. Specifically, in this embodiment, it arrange | positions in the position where the speedometer or the rotational speedometer is provided, and let this position be a 1st arrangement position.

ただし、注視軸とは、着座状態における運転者の目の位置から水平方向に伸びた水平軸(即ち、路面と平行な軸)よりも下方となる軸である。
また、画像処理プロセッサ10は、各種処理を実行するためのプログラムや、データを記憶するROM10aと、データを一時的に記憶するRAM10bと、ROM10aに記憶されたプログラム等に従って処理を実行するCPU10cとを備えている。
However, the gaze axis is an axis that is lower than a horizontal axis (that is, an axis parallel to the road surface) extending in the horizontal direction from the position of the eyes of the driver in the seated state.
The image processor 10 also includes a program for executing various processes, a ROM 10a for storing data, a RAM 10b for temporarily storing data, and a CPU 10c for executing processes according to the program stored in the ROM 10a. I have.

なお、ROM10aには、撮影画像に対して各種処理を実行する際に必要なテンプレートとして、人の目、鼻、口等を模擬し、撮影画像から運転者の顔面を抽出するための顔面抽出用テンプレートや、人の目を模擬し、撮影画像から運転者の目を抽出するための目抽出用テンプレート等が格納されている。   It should be noted that the ROM 10a is used for extracting a face for simulating a human eye, nose, mouth, and the like as a template necessary for executing various processes on the photographed image and extracting the driver's face from the photographed image. A template, an eye extraction template for simulating a human eye and extracting a driver's eye from a photographed image, and the like are stored.

つまり、画像処理プロセッサ10は、カメラ12で撮影した撮影画像に基づき、運転者の眠気のレベルを推定し、運転者に対して警告を発する眠気警告処理を実行可能に構成されている。
〈眠気警告処理〉
次に、画像処理プロセッサ10のCPU10cが実行する眠気警告処理について説明する。
That is, the image processor 10 is configured to be able to execute sleepiness warning processing for estimating a driver's sleepiness level based on a photographed image captured by the camera 12 and issuing a warning to the driver.
<Drowsiness warning processing>
Next, sleepiness warning processing executed by the CPU 10c of the image processor 10 will be described.

ここで、図2は、眠気警告処理の処理手順を示す説明図である。
この眠気警告処理は、搭載搭載車両の運転が開始された時(本実施形態では、エンジンが始動された時)に起動されるものである。
Here, FIG. 2 is an explanatory diagram illustrating a processing procedure of the drowsiness warning process.
This drowsiness warning process is started when the operation of the onboard vehicle is started (in this embodiment, when the engine is started).

そして、眠気警告処理は、起動されるとまず、S110にて、光源13に対して発光信号を出力すると共に、カメラ12に対して撮像信号を出力し、カメラ12に撮影画像を撮影させ、その撮影された撮影画像を取得する。   When the drowsiness warning process is started, first, in S110, a light emission signal is output to the light source 13, and an image pickup signal is output to the camera 12, causing the camera 12 to take a photographed image. Acquire the captured image.

続くS120では、カメラ12から取得された撮影画像に基づき、運転者の顔面が撮影されている顔面領域を抽出する。具体的に、本実施形態では、カメラ12から取得された撮影画像の予め規定された規定画素から規定の方向へと顔面抽出用テンプレートをパターンマッチングし、顔面抽出用テンプレートと予め規定された規定割合以上で一致する撮影画像の領域を顔面領域として抽出する。   In subsequent S120, based on the captured image acquired from the camera 12, a facial region where the driver's face is captured is extracted. Specifically, in the present embodiment, the face extraction template is pattern-matched from a predetermined specified pixel of a captured image acquired from the camera 12 in a specified direction, and the face extraction template and a predetermined ratio specified in advance. The region of the captured image that matches is extracted as a face region.

さらに、S130では、S120で抽出された顔面領域から、運転者の上まぶた、及び下まぶたを含む目の周辺領域を抽出する。具体的に、本実施形態では、顔面領域の予め規定された規定画素から規定の方向へと目抽出用テンプレートをパターンマッチングし、目抽出用テンプレートと予め規定された規定割合以上で一致する顔面領域内での一部の領域を運転者の目と認識する。そして、その運転者の目と認識された領域から、その領域を含むように予め規定された大きさの領域を目の周辺領域として抽出する。   Further, in S130, a peripheral region of the eyes including the driver's upper eyelid and lower eyelid is extracted from the facial region extracted in S120. Specifically, in the present embodiment, the face extraction region is subjected to pattern matching from a predetermined prescribed pixel of the facial region in a prescribed direction, and matches the eye extraction template at a prescribed proportion or more. A part of the area is recognized as the driver's eyes. And the area | region of the magnitude | size prescribed | regulated beforehand so that the area | region may be included is extracted from the area | region recognized as the driver | operator's eyes.

続くS140では、S130で抽出された目の周辺領域に基づき、運転者の瞬きを検出する。
具体的に、本実施形態では、S130で目の周辺領域が抽出される毎に、図7(A)に示すように、目の周辺領域中(即ち、撮影画像中)の眼球とまぶたとの輝度差に基づき、上まぶた(即ち、上まぶたの最高点(頭頂部に最も近い位置))と下まぶた(即ち、下まぶたの最下点(路面に最も近い位置))との距離(以下、この距離を目の開度とする)を算出する。そして、その算出された目の開度を、運転開始からの経過時間と共にRAM10bに記憶する。
In subsequent S140, the driver's blink is detected based on the peripheral area of the eye extracted in S130.
Specifically, in this embodiment, every time a peripheral region of the eye is extracted in S130, as shown in FIG. 7A, the eyeball and eyelid in the peripheral region of the eye (that is, in the captured image) Based on the difference in brightness, the distance between the upper eyelid (that is, the highest point of the upper eyelid (position closest to the top of the head)) and the lower eyelid (that is, the lowest point of the lower eyelid (position closest to the road surface)) (hereinafter, This distance is set as the eye opening). Then, the calculated opening of the eyes is stored in the RAM 10b together with the elapsed time from the start of operation.

なお、目の開度と運転開始からの経過時間との関係(以下、瞬き検出関係とする)は、図7(B)に示すようなグラフとして表される。ただし、本実施形態における瞬き検出関係では、目の開度を、運転者が覚醒している運転開始直後の予め規定された規定時間内での最大の距離との比率に置き換えた上で取り扱っている。   The relationship between the eye opening and the elapsed time from the start of operation (hereinafter referred to as blink detection relationship) is represented as a graph as shown in FIG. However, in the blink detection relationship in the present embodiment, the eye opening is handled after being replaced with a ratio with the maximum distance within a predetermined time immediately after the start of driving when the driver is awake. Yes.

つまり、S140では、運転者の目の開度の時間変化、即ち、運転者の瞬きの状態を求める。
続くS150では、S140でRAM10bに記憶された目の開度の時間変化に基づき、運転者の眠気を推定、即ち、運転者の覚醒状態を表す覚醒度を算出する。
That is, in S140, the time change of the opening degree of the driver's eyes, that is, the blinking state of the driver is obtained.
In subsequent S150, the driver's sleepiness is estimated based on the time change of the eye opening stored in the RAM 10b in S140, that is, the arousal level representing the driver's arousal state is calculated.

具体的には、一回の瞬きにおける目の開度が予め規定された比率以下となっている瞬き時間(即ち、目が閉じられている時間)に応じて、覚醒度を算出する。特に、その瞬き時間が短ければ、運転者が覚醒しているものとして、値が大きくなるように覚醒度を算出し、瞬き時間が長ければ、運転者が眠気を感じているものとして、値が低くなるように覚醒度を算出する。そして、算出された覚醒度の大きさにより、後述する警告処理での覚醒状態の判定指標としての覚醒レベルを五つの段階に分けて設定する。   Specifically, the degree of arousal is calculated according to the blinking time (that is, the time during which the eyes are closed) in which the opening degree of the eyes in one blink is equal to or less than a predetermined ratio. In particular, if the blink time is short, it is assumed that the driver is awake, and the arousal level is calculated so that the value increases.If the blink time is long, the value is assumed that the driver feels sleepy. The arousal level is calculated so as to be lower. Then, depending on the calculated degree of wakefulness, a wakefulness level as a wakefulness state determination index in warning processing described later is set in five stages.

さらに、S160では、撮影画像のうち、S130で抽出された目の周辺領域を眼球とまぶたとの輝度差が明確となるように二値化する。
続くS170では、S160で二値化された目の周辺領域に基づき、運転者の視線の方
向を検出する下方視検出処理を実行する。
Further, in S160, binarization is performed so that the luminance difference between the eyeball and the eyelid is clear in the peripheral area of the eye extracted in S130 in the photographed image.
In subsequent S170, a downward vision detection process for detecting the direction of the driver's line of sight is executed based on the eye peripheral region binarized in S160.

その後、S180では、先のS170で実施された下方視検出処理での検出結果が、運転者がメータ等を視認する、即ち、注視軸よりも下方へと運転者が視線を向けている下方視であるか否かが判定される。そして、判定の結果、運転者の視線が下方視であるものと判断された場合、S190へと進む。   After that, in S180, the detection result in the downward vision detection process performed in S170 above indicates that the driver visually recognizes the meter or the like, that is, the downward vision in which the driver is looking downward from the gaze axis. It is determined whether or not. And as a result of determination, when it is determined that the driver's line of sight is a downward view, the process proceeds to S190.

具体的に、本実施形態では、後述する下方視フラグ(もしくは、通常視フラグ)が設定されている否かにより、下方視であるか否かを判定する。
そのS190では、先のS150にて、運転者が下方視であることにより低下した状態で算出された覚醒度を、その低下分が相殺されるように補正(以下、補正された覚醒度を補正覚醒度とする)し、S200へと進む。具体的に、本実施形態では、S150で算出された覚醒レベルを二段階上昇させる(即ち、覚醒度が高くなるように補正する)。
Specifically, in the present embodiment, it is determined whether or not it is a downward view depending on whether or not a downward view flag (or a normal view flag) described later is set.
In S190, the wakefulness calculated in the previous S150 in a state of being lowered due to the driver's downward view is corrected so that the reduced amount is offset (hereinafter, the corrected wakefulness is corrected). Then, the process proceeds to S200. Specifically, in the present embodiment, the wakefulness level calculated in S150 is increased by two stages (that is, corrected so that the wakefulness level is increased).

また、S180での判定の結果、運転者の視線が下方視以外(例えば、注視点へと視線を向けている場合や、搭載車両内のミラーを視認しているような場合)であるものと判断された場合には、S150で算出された運転者の覚醒度(即ち、覚醒レベル)を補正することなく、S200へと進む(以下、補正されていない覚醒度を非補正覚醒度とする)。   In addition, as a result of the determination in S180, the driver's line of sight is other than the downward view (for example, when the line of sight is directed toward the gazing point or when the mirror in the mounted vehicle is viewed). If it is determined, the process proceeds to S200 without correcting the driver's arousal level (that is, the arousal level) calculated in S150 (hereinafter, the uncorrected arousal level is referred to as an uncorrected arousal level). .

そして、S200では、S190で補正された補正覚醒度、もしくはS180で運転者の視線が下方視以外であるものと判断された時の非補正覚醒度に基づき、スピーカ11が警告等を発するように音声信号をスピーカ11に出力する警告処理を実行する。具体的に、本実施形態では、覚醒レベルが予め規定された第一閾値よりも大きければ、運転者に休息を促すようにスピーカ11から注意を発し、覚醒レベルが第一閾値よりも大きなものとして予め設定された第二閾値よりも大きければ、運転者に運転を止めるようにスピーカ11から警告を発する。なお、ここで言う警告は、注意よりも大きな音等、運転者に対して注意よりも強いメッセージを与えるものである。   In S200, the speaker 11 issues a warning or the like based on the corrected awakening level corrected in S190 or the uncorrected awakening level when it is determined in S180 that the driver's line of sight is other than downward vision. A warning process for outputting an audio signal to the speaker 11 is executed. Specifically, in the present embodiment, if the arousal level is greater than a predetermined first threshold value, the speaker 11 is alerted to urge the driver to rest, and the arousal level is assumed to be greater than the first threshold value. If it is larger than the preset second threshold value, a warning is issued from the speaker 11 to stop driving. In addition, the warning said here gives a message stronger than attention, such as a sound louder than attention, to a driver | operator.

その後、S110へと戻る。
〈下方視検出処理〉
次に、先の眠気警告処理にて実行される下方視検出処理について説明する。
Thereafter, the process returns to S110.
<Downward view detection processing>
Next, the downward vision detection process executed in the previous sleepiness warning process will be described.

ここで、図3は、下方視検出処理の処理手順を示すフローチャートである。
下方視検出処理は、先の眠気警告処理におけるS170で起動されると、まず、S310にて、先のS160で二値化された目の周辺領域から、運転者の下まぶたと眼球との境界における下まぶたの輪郭形状を示す近似曲線(fd)を算出する。
Here, FIG. 3 is a flowchart showing a processing procedure of the downward vision detection process.
When the downward vision detection process is started in S170 in the previous drowsiness warning process, first, in S310, the boundary between the lower eyelid of the driver and the eyeball is determined from the area around the eye binarized in the previous S160. An approximate curve (fd) indicating the contour shape of the lower eyelid is calculated.

具体的に、本実施形態では、図8に示すように、目じりと目頭との間における下まぶたと眼球との境界に位置する画素を通過するように近似曲線(fd)を算出し、算出された近似曲線(fd)に対して周知のスムージング処理を実行する。   Specifically, in the present embodiment, as shown in FIG. 8, the approximate curve (fd) is calculated so as to pass through a pixel located at the boundary between the lower eyelid and the eyeball between the eyelid and the eyeball. A known smoothing process is executed on the approximate curve (fd).

続くS320では、S310で算出された近似曲線(fd)が下に凸であるか否かを判定し、判定の結果、近似曲線(fd)が下に凸であるものと判断された場合、S330へと進む。   In subsequent S320, it is determined whether or not the approximate curve (fd) calculated in S310 is convex downward. If the result of determination is that the approximate curve (fd) is convex downward, S330 Proceed to

そのS330では、運転者の視線が、注視軸よりも下方へと運転者が視線を向けている下方視であることを示す下方視フラグを設定し、眠気警告処理のS180へと戻る。
また、S320での判定の結果、S310で算出された近似曲線(fd)が下に凸以外(即ち、直線、もしくは上に凸)であるものと判断された場合、S340へと進み、そのS340では、運転者の視線の方向が、下方視以外の通常視(即ち、注視点へと視線を向けている場合や、搭載車両内のミラーを視認している場合等)であることを示す通常視フラグを設定し、眠気警告処理のS180へと戻る。
In S330, a downward view flag indicating that the driver's line of sight is a downward view in which the driver is looking downward from the gaze axis is set, and the process returns to S180 of the drowsiness warning process.
If it is determined in S320 that the approximate curve (fd) calculated in S310 is not convex downward (that is, a straight line or convex upward), the process proceeds to S340, and S340 Then, it is normal to indicate that the direction of the driver's line of sight is a normal view other than a downward view (that is, a case where the line of sight is directed toward the gazing point or a mirror in the mounted vehicle is viewed). The visual flag is set, and the process returns to S180 of the drowsiness warning process.

つまり、眠気検知装置1では、運転者の下まぶたと眼球との境界に形成される影が眼球内に投影されるように照射光を照射可能な第二配置位置に配置された光源13から、運転者の顔面に照射光を照射すると共に、運転者の下まぶたと眼球との境界に形成される影を、第一配置位置に配置されたカメラ12で撮影画像を撮影させている。
[実施形態の効果]
以上説明したように、運転者の下まぶたと眼球との境界により形成され、運転者の眼球内に映り込んだ影を、第一配置位置に配置されたカメラ12により撮影する本実施形態の眠気検知装置1によれば、カメラ12で撮影した撮影画像を、運転者の下まぶたと眼球との境界における輝度差、即ち、運転者の下まぶたの輪郭形状が鮮明なものとすることができる。
That is, in the drowsiness detection device 1, from the light source 13 arranged at the second arrangement position where irradiation light can be emitted so that a shadow formed on the boundary between the lower eyelid of the driver and the eyeball is projected into the eyeball, While irradiating the driver's face with irradiation light, a shadow 12 formed at the boundary between the driver's lower eyelid and the eyeball is photographed by the camera 12 arranged at the first arrangement position.
[Effect of the embodiment]
As described above, the sleepiness of the present embodiment, in which the shadow formed in the driver's lower eyelid and the eyeball and reflected in the driver's eyeball is photographed by the camera 12 arranged at the first arrangement position. According to the detection device 1, the brightness difference at the boundary between the driver's lower eyelid and the eyeball, that is, the contour shape of the driver's lower eyelid can be made clear in the captured image taken by the camera 12.

特に、本実施形態の眠気検知装置1によれば、光源13がカメラ12よりも下方に配置されているため、照射光が照射されることにより、運転者の下まぶたと眼球との境界に形成され、運転者の眼球内に投影された影(即ち、運転者の下まぶたの輪郭形状を表す影)を、より鮮明に撮影画像に収めることができる。   In particular, according to the drowsiness detection device 1 of the present embodiment, since the light source 13 is disposed below the camera 12, it is formed at the boundary between the driver's lower eyelid and the eyeball when irradiated with irradiation light. Thus, the shadow projected in the driver's eyeball (that is, the shadow representing the contour shape of the driver's lower eyelid) can be captured in the captured image more clearly.

したがって、眠気検知装置1によれば、運転者の下まぶたの輪郭形状を撮影画像から精度良く抽出することができる。
ここで、図4は、眠気が発生した時の目(即ち、上まぶた、及び下まぶたに囲まれた領域)の形状と、下方視の時の目(まぶた)の形状との違いを示した実験結果である。本発明の発明者らは、図4に示すように、下方視である場合には、眠気が発生した場合に比べて、下まぶたの輪郭形状が下向き(即ち、近似曲線(fd)が下に凸)になるという結果を得た。
Therefore, according to the drowsiness detection device 1, the contour shape of the driver's lower eyelid can be accurately extracted from the photographed image.
Here, FIG. 4 shows the difference between the shape of the eyes when drowsiness (ie, the region surrounded by the upper eyelid and the lower eyelid) and the shape of the eyes (eyelid) when viewed from below. It is an experimental result. As shown in FIG. 4, the inventors of the present invention have a lower eyelid contour shape downward (that is, the approximate curve (fd) is lower than that when sleepiness occurs in a downward view. The result of becoming convex.

このため、眠気検知装置1によれば、近似曲線(fd)が下に凸である場合には、下方視であるものと判定することにより、運転者が下方視であることの検出精度を向上させることができる。   Therefore, according to the drowsiness detection device 1, when the approximate curve (fd) is convex downward, it is determined that the driver is looking downward, thereby improving the detection accuracy of the driver looking downward. Can be made.

そして、眠気検知装置1によれば、下方視である場合には、下方視であることに起因する覚醒度の低下分が相殺されるように覚醒度を補正して、運転者の眠気レベルを判断するため、運転者の眠気(即ち、覚醒度)の検知精度を向上させることができる。   Then, according to the drowsiness detection device 1, in the case of the downward view, the wakefulness is corrected so that the decrease in the wakefulness caused by the downward view is offset, so that the driver's sleepiness level is adjusted. Therefore, it is possible to improve the detection accuracy of the driver's drowsiness (that is, the arousal level).

なお、眠気検知装置1によれば、カメラ12が速度計等のメータ類が配置されている位置、光源13がステアリングホイールにおけるステアリングコラムの延長線上に配置されているため、運転者の運転操作に不都合を生じさせることなく、運転者の眠気を検知することができる。
[他の実施形態]
以上、本発明の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において様々な態様にて実施することが可能である。
According to the drowsiness detection device 1, since the camera 12 is disposed at a position where meters such as a speedometer are disposed and the light source 13 is disposed on an extension line of the steering column in the steering wheel, The driver's sleepiness can be detected without causing any inconvenience.
[Other Embodiments]
As mentioned above, although embodiment of this invention was described, this invention is not limited to the said embodiment, In the range which does not deviate from the summary of this invention, it is possible to implement in various aspects.

例えば、上記実施形態の眠気検知装置1における第一配置位置は、速度計、もしくは回転速度計が備えられている位置としたが、インストルメントパネル内であってもよいし、
インストルメントパネル上であっても良い。つまり、第一配置位置は、運転者の下まぶたと眼球との境界に形成される影を撮影可能な位置であり、かつ注視軸と下方軸とに挟まれた範囲内であればどのような位置であっても良い。
For example, the first arrangement position in the drowsiness detection device 1 of the above embodiment is a position where a speedometer or a rotational speedometer is provided, but may be in the instrument panel,
It may be on the instrument panel. In other words, the first arrangement position is a position where a shadow formed at the boundary between the lower eyelid and the eyeball of the driver can be photographed, and any position within the range sandwiched between the gaze axis and the lower axis. It may be a position.

さらに、上記実施形態におけるカメラ12の受光部は、CCD素子から構成されていたが、受光部は、CMOS素子から構成されていても良い。
また、上記実施形態におけるカメラ12は、画像処理プロセッサ10から撮像信号を受信して撮影画像を撮影していたが、撮像信号を受信することなく撮影画像を撮影しても良い。ただし、この場合、カメラ12内に撮影画像を蓄積し、その蓄積された撮影画像を画像処理プロセッサ10が取得する必要がある。
Furthermore, although the light receiving part of the camera 12 in the above embodiment is composed of a CCD element, the light receiving part may be composed of a CMOS element.
In the above-described embodiment, the camera 12 receives the imaging signal from the image processor 10 and captures the captured image. However, the camera 12 may capture the captured image without receiving the imaging signal. However, in this case, it is necessary to store the captured image in the camera 12 and the image processor 10 acquires the stored captured image.

そして、上記実施形態の眠気検知装置1における第二配置位置は、ステアリングホイールにおけるステアリングコラムの延長線上としたが、これに限るものではない。例えば、速度計、もしくは回転速度計が備えられている位置であっても良いし、インストルメントパネル内であっても良い。つまり、第二配置位置は、運転者の眼球内に、運転者の下まぶたと眼球との境界に形成される影を投影可能な位置であり、かつ下方軸よりも下方であればどのような位置であっても良い。   And although the 2nd arrangement position in the drowsiness detection apparatus 1 of the said embodiment was made on the extension line of the steering column in a steering wheel, it is not restricted to this. For example, it may be a position where a speedometer or a rotational speedometer is provided, or may be in the instrument panel. That is, the second arrangement position is a position where a shadow formed on the boundary between the lower eyelid and the eyeball of the driver can be projected in the driver's eyeball and is below the lower axis. It may be a position.

また、上記実施形態における光源13は、画像処理プロセッサ10からの発光信号を受けて照射光を照射していたが、発光信号を受けることなく照射光を照射しても良い。ただし、この場合、スイッチの操作等により照射光が照射されるようにすることが望ましい。   In the above-described embodiment, the light source 13 receives the light emission signal from the image processor 10 and emits the irradiation light. However, the light source 13 may emit the irradiation light without receiving the light emission signal. However, in this case, it is desirable that the irradiation light is irradiated by operating a switch or the like.

なお、上記実施形態の眠気検知装置1では、カメラ12により撮影した撮影画像に基づき、運転者の下まぶたの輪郭形状を抽出していたが、レーザ光を照射し、その反射光により、下まぶたの輪郭形状を認識するようにしても良い。この場合、カメラ12は、眠気検知装置1に備えられていなくとも良い。   In the drowsiness detection device 1 of the above embodiment, the contour shape of the lower eyelid of the driver is extracted based on the photographed image taken by the camera 12, but the lower eyelid is irradiated with laser light and reflected by the laser light. The outline shape may be recognized. In this case, the camera 12 may not be provided in the drowsiness detection device 1.

眠気検知装置の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of a drowsiness detection apparatus. 眠気警告処理の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of a drowsiness warning process. 下方視検出処理の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of a downward vision detection process. 眠気が発生した時と、下方視である時との下まぶたの輪郭形状の違いを判別するために実験で撮影した目の画像である。It is an eye image taken in an experiment to determine the difference in contour shape of the lower eyelid when drowsiness occurs and when viewed from below. カメラ、及び光源の配置位置を説明するための説明図である。It is explanatory drawing for demonstrating the arrangement position of a camera and a light source. 下方軸の概要を説明するための説明図である。It is explanatory drawing for demonstrating the outline | summary of a downward axis | shaft. 瞬きの検出、即ち、覚醒度の算出を説明するための説明図である。It is explanatory drawing for demonstrating the detection of blink, ie, calculation of arousal level. 下まぶたの近似曲線を示す説明図である。It is explanatory drawing which shows the approximated curve of a lower eyelid.

符号の説明Explanation of symbols

1…眠気検知装置 10…画像処理プロセッサ 10a…ROM 10b…RAM 10c…CPU 11…スピーカ 12…カメラ 13…光源 DESCRIPTION OF SYMBOLS 1 ... Sleepiness detection apparatus 10 ... Image processor 10a ... ROM 10b ... RAM 10c ... CPU 11 ... Speaker 12 ... Camera 13 ... Light source

Claims (8)

車両の運転者の顔面を含む撮影画像を撮影する撮影手段と、
前記撮影手段で撮影した撮影画像に基づき、前記運転者の下まぶたの輪郭形状を抽出する輪郭形状抽出手段と、
前記輪郭形状抽出手段で抽出された輪郭形状に基づき、前記車両の前方に予め設定された注視点への視線よりも下方に前記運転者が視線を向ける下方視を検知する下方視検知手段と、
前記撮影手段で撮影した撮影画像から推定される前記運転者の覚醒度に基づき、前記下方視検知手段で下方視が検知された場合、前記下方視であることによる覚醒度の低下分が相殺されるように前記覚醒度を補正し、その覚醒度に基づき前記運転者の眠気を検知する眠気検知手段と
を備えた眠気検知装置であって、
前記撮影手段は、
前記運転者の下まぶたと眼球との境界により形成され、前記運転者の眼球内に映り込んだ影を撮影可能な第一配置位置に配置されることを特徴とする眠気検知装置。
Photographing means for photographing a photographed image including the face of the driver of the vehicle;
Contour shape extraction means for extracting a contour shape of the lower eyelid of the driver based on a photographed image photographed by the photographing means;
Based on the contour shape extracted by the contour shape extraction means, a downward vision detection means for detecting a downward vision in which the driver directs his / her gaze below a gaze to a gazing point preset in front of the vehicle;
Based on the driver's arousal level estimated from the captured image captured by the imaging unit, when the downward vision is detected by the downward vision detection unit, a decrease in the arousal level due to the downward vision is offset. A drowsiness detection device comprising: drowsiness detection means for correcting the arousal level so as to detect drowsiness of the driver based on the awakening level,
The photographing means includes
A drowsiness detection device, which is formed at a first arrangement position formed by a boundary between the lower eyelid of the driver and an eyeball and capable of photographing a shadow reflected in the eyeball of the driver.
前記撮影手段が配置される第一配置位置は、
前記注視点への前記運転者の視線の方向である運転視線軸と、前記運転者が前記注視点へと視線を向けている時の前記運転者の目じり、及び下まぶたの最も低い位置を、前記車両の全長方向及び高さ方向を含む断面上で結んだ直線である下方軸とに挟まれた前記車両内の領域である規定領域内に位置することを特徴とする請求項1に記載の眠気検知装置。
The first arrangement position where the photographing means is arranged is
Driving gaze axis that is the direction of the driver's gaze to the gaze point, the driver's eyes when the driver is gazeing to the gaze point, and the lowest position of the lower eyelid, 2. The vehicle according to claim 1, wherein the vehicle is located in a specified region that is a region in the vehicle sandwiched between a lower shaft that is a straight line connected on a cross section including a full length direction and a height direction of the vehicle. Drowsiness detection device.
前記撮影手段が配置される第一配置位置は、
前記車両のインストルメントパネル、もしくはメータの内部であることを特徴とする請求項1または請求項2に記載の眠気検知装置。
The first arrangement position where the photographing means is arranged is
The drowsiness detection device according to claim 1, wherein the drowsiness detection device is inside an instrument panel or a meter of the vehicle.
前記運転者の顔面に向けて照射光を照射する照射手段を備え、
前記照射手段は、
前記照射光を照射することで、前記運転者の下まぶたと眼球との境界により形成される影が前記眼球内に投影されるような第二配置位置に配置されることを特徴とする請求項1ないし請求項3に記載の眠気検知装置。
Irradiating means for irradiating irradiation light toward the driver's face;
The irradiation means includes
The irradiation light is arranged at a second arrangement position such that a shadow formed by a boundary between a lower eyelid and an eyeball of the driver is projected into the eyeball. The drowsiness detection device according to claim 1.
前記照射手段が配置される第二配置位置は、前記撮影手段が配置される第一配置位置よりも下方であることを特徴とする請求項4に記載の眠気検知装置。   The drowsiness detection device according to claim 4, wherein the second arrangement position where the irradiation unit is arranged is lower than the first arrangement position where the photographing unit is arranged. 前記運転者の顔面に向けて照射光を照射する照射手段と、
前記運転者の顔面で反射された光に基づき、前記運転者の下まぶたの輪郭形状を抽出する輪郭形状抽出手段と、
前記輪郭形状抽出手段で抽出された輪郭形状に基づき、前記車両の前方に予め設定された注視点への視線よりも下方に前記運転者が視線を向ける下方視を検知する下方視検知手段と、
前記撮影手段で撮影した撮影画像から推定される前記運転者の覚醒度に基づき、前記下方視検知手段で下方視が検知された場合、前記下方視であることによる覚醒度の低下分が相殺されるように前記覚醒度を補正し、その覚醒度に基づき前記運転者の眠気を検知する眠気検知手段と
を備えた眠気検知装置であって、
前記照射手段は、
前記照射光を照射することで、前記運転者の下まぶたと眼球との境界に形成される影が前記眼球内に投影されるような第二配置位置に配置されることを特徴とする眠気検知装置
Irradiating means for irradiating irradiation light toward the driver's face;
A contour shape extracting means for extracting a contour shape of the lower eyelid of the driver based on the light reflected on the face of the driver;
Based on the contour shape extracted by the contour shape extraction means, a downward vision detection means for detecting a downward vision in which the driver directs his / her gaze below a gaze to a gazing point preset in front of the vehicle;
Based on the driver's arousal level estimated from the captured image captured by the imaging unit, when the downward vision is detected by the downward vision detection unit, a decrease in the arousal level due to the downward vision is offset. A drowsiness detection device comprising: drowsiness detection means for correcting the arousal level so as to detect drowsiness of the driver based on the awakening level,
The irradiation means includes
Drowsiness detection characterized by being arranged at a second arrangement position such that a shadow formed on the boundary between the lower eyelid and the eyeball of the driver is projected into the eyeball by irradiating the irradiation light apparatus.
前記照射手段が配置される第二配置位置は、
前記運転者が前記注視点へと視線を向けている時の前記運転者の目じり、及び下まぶたの最も低い位置を、前記車両の全長方向及び高さ方向を含む断面上で結んだ直線である下方軸よりも下方であることを特徴とする請求項4ないし請求項6のいずれかに記載の眠気検知装置。
The second arrangement position where the irradiation means is arranged is
A straight line connecting the driver's eyes when the driver is looking toward the gazing point and the lowest position of the lower eyelid on a cross section including the full length direction and the height direction of the vehicle The drowsiness detection device according to any one of claims 4 to 6, wherein the drowsiness detection device is located below the lower axis.
前記照射手段が配置される第二配置位置は、
前記車両に備えられたステアリングホイールにおけるステアリングコラムの延長線上であることを特徴とする請求項4ないし請求項7のいずれかに記載の眠気検知装置。
The second arrangement position where the irradiation means is arranged is
The drowsiness detection device according to any one of claims 4 to 7, wherein the drowsiness detection device is on an extension line of a steering column in a steering wheel provided in the vehicle.
JP2007001410A 2007-01-09 2007-01-09 Sleepiness detection device Active JP4793269B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007001410A JP4793269B2 (en) 2007-01-09 2007-01-09 Sleepiness detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007001410A JP4793269B2 (en) 2007-01-09 2007-01-09 Sleepiness detection device

Publications (2)

Publication Number Publication Date
JP2008167806A JP2008167806A (en) 2008-07-24
JP4793269B2 true JP4793269B2 (en) 2011-10-12

Family

ID=39696466

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007001410A Active JP4793269B2 (en) 2007-01-09 2007-01-09 Sleepiness detection device

Country Status (1)

Country Link
JP (1) JP4793269B2 (en)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5493593B2 (en) * 2009-08-26 2014-05-14 アイシン精機株式会社 Sleepiness detection apparatus, sleepiness detection method, and program
JP5644414B2 (en) * 2010-11-22 2014-12-24 アイシン精機株式会社 Awakening level determination device, awakening level determination method, and program
CN103493100B (en) 2011-04-19 2016-04-06 爱信精机株式会社 eyelid detection apparatus, eyelid detection method
JP5573820B2 (en) * 2011-11-10 2014-08-20 株式会社デンソー Condition monitoring device
WO2013183144A1 (en) * 2012-06-07 2013-12-12 パイオニア株式会社 Light emitting unit for vehicle
JP6047318B2 (en) 2012-07-06 2016-12-21 矢崎総業株式会社 Driver state detection device and driver state notification device
CN105701445A (en) 2014-12-15 2016-06-22 爱信精机株式会社 determination apparatus and determination method
JP6572538B2 (en) * 2014-12-15 2019-09-11 アイシン精機株式会社 Downward view determination device and downward view determination method
DE102015211444A1 (en) * 2015-06-22 2016-12-22 Robert Bosch Gmbh A method and apparatus for distinguishing blink events and instrument views using an eye opening width
US9786189B2 (en) * 2016-01-25 2017-10-10 Sikorsky Aircraft Corp. Aircraft control systems
JP6825903B2 (en) 2016-12-27 2021-02-03 矢崎総業株式会社 Driver imager
JP2019104450A (en) 2017-12-14 2019-06-27 矢崎総業株式会社 On-vehicle imaging device and on-vehicle imaging method
WO2020174601A1 (en) * 2019-02-27 2020-09-03 三菱電機株式会社 Alertness level estimation device, automatic driving assistance device, and alertness level estimation method

Also Published As

Publication number Publication date
JP2008167806A (en) 2008-07-24

Similar Documents

Publication Publication Date Title
JP4793269B2 (en) Sleepiness detection device
JP4840146B2 (en) Sleepiness detection device
JP4882766B2 (en) Awakening level calculation device
JP6442942B2 (en) Driver status determination device
US8538044B2 (en) Line-of-sight direction determination device and line-of-sight direction determination method
JP5761074B2 (en) Imaging control apparatus and program
JP4888838B2 (en) Driver imaging device and driver imaging method
JP5109922B2 (en) Driver monitoring device and program for driver monitoring device
WO2013157466A1 (en) Smoking detection device, method and program
JP2007004448A (en) Line-of-sight detecting apparatus
JP6651911B2 (en) Face image processing device
JP2009219555A (en) Drowsiness detector, driving support apparatus, drowsiness detecting method
WO2018051681A1 (en) Line-of-sight measurement device
JP4313717B2 (en) Gaze detection device
JP6747493B2 (en) Driver status determination device
JP4623172B2 (en) Pupil detection device, program for pupil detection device, and pupil detection method
JP2019028640A (en) Visual line detection device
JP7240910B2 (en) Passenger observation device
JP7046748B2 (en) Driver status determination device and driver status determination method
JP2009125518A (en) Driver&#39;s blink detection method, driver&#39;s awakening degree determination method, and device
JP4623171B2 (en) Pupil detection device, program for pupil detection device, and pupil detection method
JP2010026657A (en) Driver state detection device
JP5024161B2 (en) Face position estimation device
JP2018143285A (en) Biological state determination apparatus, biological state determination system and biological state determination method
JP2021152729A (en) Yawn detection device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110616

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110628

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110711

R151 Written notification of patent or utility model registration

Ref document number: 4793269

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140805

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250