JP3422183B2 - Eye detection method for face images - Google Patents

Eye detection method for face images

Info

Publication number
JP3422183B2
JP3422183B2 JP22161196A JP22161196A JP3422183B2 JP 3422183 B2 JP3422183 B2 JP 3422183B2 JP 22161196 A JP22161196 A JP 22161196A JP 22161196 A JP22161196 A JP 22161196A JP 3422183 B2 JP3422183 B2 JP 3422183B2
Authority
JP
Japan
Prior art keywords
eye
search
nostril
eyes
face image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP22161196A
Other languages
Japanese (ja)
Other versions
JPH1063850A (en
Inventor
誠 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP22161196A priority Critical patent/JP3422183B2/en
Publication of JPH1063850A publication Critical patent/JPH1063850A/en
Application granted granted Critical
Publication of JP3422183B2 publication Critical patent/JP3422183B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、人の顔を撮影して
得た顔画像における目を検出する方法に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a method for detecting eyes in a face image obtained by photographing a human face.

【0002】[0002]

【従来の技術】近年、自動車など車両の運転者の居眠り
を防止する装置の開発が行われており、その一部は実用
に供されている。この居眠り運転防止装置の一例とし
て、運転者の目の動き、たとえば目の閉じている時間に
基づき居眠り状態を判定する装置がある。この場合、運
転者の目の動きを捕らえるために、運転者の顔を撮影
し、この顔の中から目を特定する必要がある。
2. Description of the Related Art Recently, a device for preventing a driver of a vehicle such as an automobile from falling asleep has been developed, and a part of the device is put to practical use. As an example of this drowsy driving prevention device, there is a device that determines a drowsy state based on the movement of the driver's eyes, for example, the time the eyes are closed. In this case, in order to capture the movement of the driver's eyes, it is necessary to photograph the driver's face and identify the eyes from this face.

【0003】特開平7−18012号公報には、顔を
含む画像を2値化処理して顔領域を抽出し、この顔領域
の中にある黒画素の複数の塊どうしの相対位置および個
々の黒画素の塊の縦横比から目を特定する技術が開示さ
れている。黒画素の塊は、眉、目、鼻穴などであり、左
右の眉および目の幅より外に鼻穴は存在しない、目は眉
の下にある、などの相対位置から目の候補が選ばれ、さ
らにこの候補の縦横比から目が確定される。
[0003] JP 7-18 1 012 JP, a face region is extracted by binarizing an image including the face, relative positions and each other a plurality of clusters of black pixels within this face area A technique for identifying an eye from the aspect ratio of each block of black pixels is disclosed. A block of black pixels is an eyebrow, an eye, a nostril, etc., and there are no nostrils outside the width of the left and right eyebrows and eyes, the eye is under the eyebrow, etc. Then, the eyes are determined from the aspect ratio of this candidate.

【0004】[0004]

【発明が解決しようとする課題】上記公報によれば、目
を検出するために、黒画素の塊どうしの相対位置を確認
する処理が必要であり、演算処理が複雑であるという問
題があった。また、眉、目などのうちいずれかの要素が
欠落した場合、目の検出が不可能になり、また眼鏡フレ
ームや影が黒画素の塊として存在する場合にも目の検出
が不可能になるという問題があった。
According to the above publication, in order to detect the eyes, it is necessary to confirm the relative positions of the blocks of black pixels, which causes a problem of complicated arithmetic processing. . Further, if any one of the elements such as eyebrows and eyes is missing, it becomes impossible to detect the eyes, and also if the eyeglass frame or shadow exists as a block of black pixels, the eyes cannot be detected. There was a problem.

【0005】本発明は前述の問題点を解決するためにな
されたものであり、目の検出を短時間で行い得る顔画像
における目の検出方法を供することを目的とする。
The present invention has been made to solve the above-mentioned problems, and an object of the present invention is to provide a method for detecting eyes in a face image that can detect the eyes in a short time.

【0006】[0006]

【課題を解決するための手段】前述の目的を達成するた
めに、本発明にかかる顔画像における目の検出方法は、
人の顔を撮影して顔画像を得る撮像ステップと、前記顔
画像から鼻穴を検出する鼻穴検出ステップと、前記鼻穴
の位置を基準に目の探索を行う領域を設定する探索領域
設定ステップと、前記探索領域内で目の検出を行う目の
検出ステップとを有している。そして、前記探索領域設
定ステップにおいて、前記鼻穴検出ステップにおける鼻
穴の検出の継続状況に応じて前記探索領域の大きさが変
更される。
In order to achieve the above-mentioned object, a method for detecting eyes in a face image according to the present invention comprises:
An imaging step of capturing a face of a person to obtain a face image, a nostril detection step of detecting a nostril from the face image, and a search area setting for setting an area for eye search based on the position of the nostril And an eye detecting step of detecting an eye in the search area. Then, the search area setting
In the constant step, the nose in the nostril detection step
The size of the search area changes depending on the continuation of hole detection.
Be changed.

【0007】この構成によれば、検出しやすい鼻穴を基
準として目の探索領域を設定しているので、目の探索領
域、すなわち目が存在する可能性の高い領域を迅速かつ
確実に特定することができる。また、鼻穴の検出ができ
なくなったときには、運転者の顔の位置または向きが大
きく変わった場合であり、このときには目の探索領域も
大きくすることによって、確実に目の検出を行うことが
できる。
According to this structure, since the eye search area is set with reference to the nostrils that are easy to detect, the eye search area, that is, the area where the eye is likely to exist is quickly and surely specified. be able to. It can also detect nostrils
When it disappears, the position or orientation of the driver's face is
This is the case when it changes drastically.
By increasing the size, you can reliably detect the eyes.
it can.

【0008】また、前記目の検出は、上下方向における
明度が急峻に変化するエッジを抽出し、このエッジが略
楕円状に連続する部分を目として検出するものとするこ
とができる。または、上から下に向けて明度が急峻に低
下する負エッジと、上から下に向けて明度が急峻に上昇
する正エッジとが上下方向に隣接するエッジペアを抽出
するものとすることもできる。
Further, in the eye detection, an edge in which the brightness changes sharply in the vertical direction can be extracted, and a portion where the edge is continuous in a substantially elliptical shape can be detected as an eye. Alternatively, it is possible to extract an edge pair in which a negative edge whose brightness sharply decreases from the top to the bottom and a positive edge whose brightness sharply increases from the top to the bottom are vertically adjacent to each other.

【0009】略楕円形状のエッジにより目の検出を行う
ことによって、眉、眼鏡のフレームなどの目以外の要素
を排除して、確実に目を検出することができる。また、
上下方向に隣接する負エッジと正エッジのペアを目とし
て検出する場合には、より速やかに検出をすることがで
きる。
By detecting the eyes with the edges of the substantially elliptical shape, elements other than the eyes such as eyebrows and frames of eyeglasses can be excluded, and the eyes can be surely detected. Also,
When a pair of a negative edge and a positive edge that are vertically adjacent to each other is detected as an eye, the detection can be performed more quickly.

【0010】さらに、前記探索領域設定ステップにおい
て、二つの鼻穴の向きの変化に応じて前記探索領域の位
置が変更されるものとすることができる。これによれ
ば、運転者が首を傾げたときなどにも確実に目の検出を
行うことができる。
Furthermore, in the search area setting step, the position of the search area may be changed according to the change in the orientation of the two nostrils. According to this, even when the driver tilts his / her neck, the eyes can be surely detected.

【0011】[0011]

【0012】前述の目的を達成するために、本発明にか
かる他の顔画像における目の検出方法は、人の顔を撮影
して顔画像を得る撮像ステップと、前記顔画像から鼻穴
を検出する鼻穴検出ステップと、前記鼻穴の位置を基準
に目の探索を行う領域を設定する探索領域設定ステップ
と、前記探索領域内で目の検出を行う目の検出ステップ
とを有している。そして、前記鼻穴検出ステップは、前
記撮影された顔画像を所定のしきい値によって2値化処
理し、鼻穴位置を検出するものであり、当該鼻穴位置に
基づいて目の探索を行ったときに、前記目の検出ステッ
プで目を検出できなかった場合には、前記2値化処理の
ためのしきい値が変更され、再度鼻穴の検出を行うもの
とすることができる。これによれば、2値化処理に用い
られるしきい値を適切な値とすることができる。
In order to achieve the above-mentioned object, the present invention
Another way to detect eyes in other facial images is to capture a person's face.
To obtain a face image, and a nostril from the face image.
Nostril detection step to detect and the position of the nostril as a reference
Area setting step to set the area to search the eyes
And an eye detection step of performing eye detection in the search area
And have. In the nostril detecting step, the photographed face image is binarized by a predetermined threshold to detect a nostril position, and eyes are searched based on the nostril position. When the eye is not detected in the eye detecting step, the threshold value for the binarization process is changed and the nostril can be detected again. According to this, the threshold value used for the binarization process can be set to an appropriate value.

【0013】[0013]

【発明の実施の形態】以下、本発明にかかる顔画像にお
ける目の検出方法の好適な実施の形態(以下実施形態と
記す)を図面に従って説明する。
BEST MODE FOR CARRYING OUT THE INVENTION Preferred embodiments (hereinafter referred to as embodiments) of a method for detecting eyes in a face image according to the present invention will be described below with reference to the drawings.

【0014】図1は、本発明を用いた居眠り運転防止装
置の概略構成を示すブロック図である。赤外線投光器1
0は、運転者の顔を含む領域に赤外線を放射し、電荷結
合素子(CCD)カメラ12で運転者の顔を含む領域を
撮影する。このCCDカメラ12のレンズの前には赤外
線波長(870nm付近)を中心に透過する光学フィル
タが設置されている。CCDカメラ12で撮られた画像
は瞬き認識部14に送られ、1回の瞬きの時間すなわち
継続して目を閉じている時間(閉眼時間)が計時され
る。居眠り判定部16は閉眼時間の長さから居眠り状態
を判定し、居眠りを始めた場合、警報部18により警報
を発し運転者に注意を促す。
FIG. 1 is a block diagram showing a schematic configuration of a drowsy driving prevention apparatus using the present invention. Infrared projector 1
0 emits infrared rays to the area including the driver's face, and the charge coupled device (CCD) camera 12 captures an image of the area including the driver's face. In front of the lens of the CCD camera 12, an optical filter that transmits mainly infrared wavelengths (near 870 nm) is installed. The image taken by the CCD camera 12 is sent to the blink recognition section 14, and the time of one blink, that is, the time during which the eyes are continuously closed (eye closing time) is measured. The dozing determination unit 16 determines the dozing state based on the length of time the eyes are closed, and when the dozing starts, the warning unit 18 issues an alarm to alert the driver.

【0015】基本フロー 図2は、本居眠り運転防止装置の、特に瞬き認識部14
にかかる基本のフローチャートが示されている。本装置
が起動されると、運転者の目がどこにあるのかが検出さ
れる(S100)。この初回探索のステップは、運転者
の体格、運転席の位置などにより運転者の顔の位置が大
きく変わるので、比較的広い探索領域を設定し、まず鼻
穴の検出が行われる。鼻穴と目の位置関係は、運転者に
よってそれほど変化しないので、鼻穴の位置から目があ
ると推定される領域を定め、この領域内で目の検出が行
われる。目が検出されると、このときの鼻穴の位置と、
鼻穴と目の位置関係が記憶される。
Basic Flow FIG. 2 is a block diagram of the drowsiness prevention device, particularly the blink recognition unit 14.
A basic flow chart of the above is shown. When the device is activated, it is detected where the driver's eyes are (S100). In this initial search step, the position of the driver's face changes greatly depending on the physique of the driver, the position of the driver's seat, and the like, so a relatively wide search area is set and the nostrils are first detected. Since the positional relationship between the nostrils and the eyes does not change so much depending on the driver, an area in which the eyes are estimated to be present is determined from the position of the nostrils, and the eyes are detected in this area. When the eyes are detected, the position of the nostrils at this time,
The positional relationship between the nostrils and the eyes is stored.

【0016】目が検出されると、目の追跡が行われる
(S200)。一旦、鼻穴の位置が分かってしまえば、
運転者がよほど大きな動作をしない限り、鼻穴の位置は
さほど変わらないので、鼻穴探索の領域を大幅に狭め鼻
穴の探索を行う。鼻穴が検出された場合、鼻穴と目の位
置関係より目の探索領域を定め、目の検出を行う。この
ときの、目の探索領域は、初回探索のときの領域よりも
小さくすることができる。
When the eyes are detected, the eyes are tracked (S200). Once you know the location of the nostrils,
Since the position of the nostril does not change so much unless the driver performs a very large motion, the nostril search area is significantly narrowed and the nostril search is performed. When a nostril is detected, the eye search area is determined from the positional relationship between the nostril and the eye, and the eye is detected. The eye search region at this time can be made smaller than the region at the time of the initial search.

【0017】そして、目が検出されれば(S300)、
この目が閉じているか、開いているかが判断される(S
400)。一方、目が検出されなかった場合、目を再度
発見するための再探索制御が開始される(S500)。
この再探索においては、鼻穴を見失ってからの経過時間
に対応して異ならせたいくつかの探索領域が設定され
る。鼻穴を見失ってからの経過時間が短い場合は、鼻穴
や目の探索領域を狭めに設定し、経過時間が長くなる
と、探索領域を広めに設定する。鼻穴を見失ってから時
間があまり経過していない場合には、鼻穴や目の位置が
大きく変化していることはないと思われるので、領域を
狭くすることによって、再発見までの時間を短縮するこ
とができる。
When the eyes are detected (S300),
It is determined whether the eyes are closed or open (S
400). On the other hand, when the eyes are not detected, the re-search control for rediscovering the eyes is started (S500).
In this re-search, several search areas that are different according to the elapsed time after the nostril is lost are set. When the elapsed time after losing sight of the nostril is short, the search area is set narrower, and when the elapsed time is longer, the search area is set wider. If you haven't lost sight of your nostrils for a while, it is unlikely that your nostrils or eye positions have changed significantly. It can be shortened.

【0018】そして、ステップS200からステップS
500が繰り返され、そのたびごとに目が閉じているか
判定される。そして、この閉じた状態が連続する時間が
居眠り判定部16により計時され、この連続時間に基づ
き居眠り状態が判定される。以下、初回探索ステップS
100、追跡ステップS200、瞬き判定ステップS4
00および再探索ステップS500の詳細を説明する。
Then, from step S200 to step S
500 is repeated, and each time it is determined whether the eyes are closed. The time during which the closed state continues is measured by the doze determination unit 16 and the doze state is determined based on the continuous time. Hereinafter, the initial search step S
100, tracking step S200, blink determination step S4
00 and the re-search step S500 will be described in detail.

【0019】初回探索ルーチン 図3には、本装置が起動した直後の初回探索ステップS
100の詳細な制御フローチャートが示されている。ま
ず、鼻穴探索領域の設定が行われる(S102)。初回
の探索においては、運転者の鼻穴の位置は、運転者の体
格、シート位置などによって大きく異なるので、鼻穴探
索領域20aは図4(a)に示すように、運転者の顔全
体が含まれるように設定される。次に、第1タイマが所
定の値、たとえば2分にセットされる(S104)。こ
の第1タイマは、後述するように、目の探索において、
2値化しきい値を変更しながら同じ領域を検索する時間
を計時するタイマである。さらに、第2タイマが所定の
値、たとえば10分にセットされる(S106)。第2
タイマは、初回探索の時間を計時するタイマであり、1
0分経過しても目を発見できなかった場合は、何らかの
異常があるので運転者に警告する。なお、初回探索時に
は、運転者はまだ居眠り状態とはなっていないと考えら
れるので、充分な時間をかけて目の探索が行われる。
Initial Search Routine FIG. 3 shows an initial search step S immediately after the present apparatus is started.
A detailed control flow chart of 100 is shown. First, the nostril search area is set (S102). In the initial search, the position of the driver's nostrils greatly varies depending on the driver's physique, seat position, etc., so that the nostril search area 20a has the entire driver's face as shown in FIG. 4 (a). Set to be included. Next, the first timer is set to a predetermined value, for example, 2 minutes (S104). As will be described later, this first timer is
It is a timer that measures the time to search the same area while changing the binarization threshold. Further, the second timer is set to a predetermined value, for example 10 minutes (S106). Second
The timer is a timer for measuring the time of the first search,
If no eyes are found after 0 minutes, there is some abnormality and the driver is warned. At the time of the first search, it is considered that the driver is not yet in the dozing state, so the eyes are searched for with sufficient time.

【0020】次に、顔画像を2値化する際のしきい値の
設定が行われる(S108)。一方、代表的な鼻穴の形
状のテンプレートと顔画像との一致性を見て、一致性が
所定値を超える候補を選出する(S110)。そして、
選出された各候補を含む領域でステップS108で設定
したしきい値を用いて2値化処理を行い、黒領域を抽出
する(S112)。そして、ほぼ水平に並ぶ2つの黒領
域を鼻穴として検出する(S114)。このとき、鼻穴
が見付からなかったらステップS108に戻り(S11
6)、2値化のしきい値を設定し直して(変更して)再
び鼻穴を検索する。
Next, the threshold value for binarizing the face image is set (S108). On the other hand, looking at the match between the typical template of the shape of the nostrils and the face image, a candidate whose match exceeds a predetermined value is selected (S110). And
Binarization processing is performed on the area including each selected candidate using the threshold value set in step S108 to extract a black area (S112). Then, the two black areas arranged substantially horizontally are detected as nostrils (S114). At this time, if the nostril is not found, the process returns to step S108 (S11
6) The threshold for binarization is set again (changed) and the nostril is searched again.

【0021】ステップS116で鼻穴が検出された場合
は、当該鼻穴の位置に基づき、目の探索領域22が設定
される(S118)。鼻穴の位置が分かれば目の存在す
る領域は、個人差があるもののほぼ特定できる。したが
って、目の探索領域22は、図5(a)に示すようにや
や広めの領域22aが設定される。また、眉が目として
誤検出されないように、最初の探索領域22aは眉に掛
からないようやや下ぎみに設定される。
When the nostril is detected in step S116, the eye search area 22 is set based on the position of the nostril (S118). If the position of the nostril is known, the area where the eyes are present can be almost specified although there are individual differences. Therefore, as the eye search area 22, a slightly wider area 22a is set as shown in FIG. Further, the first search area 22a is set slightly downward so that the eyebrows are not mistakenly detected as eyes, so that the search areas 22a do not touch the eyebrows.

【0022】次に、前述の目の探索領域22aの中で、
上下方向に明度が急峻に変化するエッジを抽出する(S
120)。エッジは上から下に向けて明度が急峻に低下
する負エッジと、逆に上から下に向けて明度が急峻に上
昇する正エッジがあり、目の場合、上に負エッジ、下に
正エッジとなるペアが形成される。この正負エッジのペ
アを目の候補として選出する(S122)。そして、こ
の選出された候補が全体として略楕円形状となっている
かが判断される(S124)。略楕円形状であると判断
された場合は、これが目であると決定され、鼻穴に対す
る位置が記憶され(S126)、このルーチンが終了す
る。
Next, in the above-mentioned eye search area 22a,
An edge whose brightness changes sharply in the vertical direction is extracted (S
120). There are two types of edges, a negative edge where the brightness decreases sharply from top to bottom, and a positive edge where the brightness rises sharply from top to bottom. In the case of eyes, the negative edge is on the top and the positive edge is on the bottom. A pair is formed. This pair of positive and negative edges is selected as an eye candidate (S122). Then, it is determined whether the selected candidate has a substantially elliptical shape as a whole (S124). When it is determined that the eye shape is substantially elliptical, it is determined that the eye shape, the position with respect to the nostril is stored (S126), and this routine ends.

【0023】ステップS124で正負エッジペアが略楕
円形状でない場合、第1および第2タイマをカウントダ
ウンし(S128)、第1タイマが0となっていなけれ
ば(S130)、ステップS108に戻って、2値化の
しきい値を変更して再度鼻穴の検出からやり直す。第1
タイマが0、すなわち2分が経過しても目が検出できな
いときは(S130)、さらに第2タイマが0であるか
が判断される(S132)。そして、第2タイマが0、
すなわち10分が経過しても目が検出できない場合に
は、運転者がサングラスやマスクをしているか、カメラ
前に障害物があるためであると考えられるので、運転者
にこの旨警告し(S134)、フローを終了する。
If the positive / negative edge pair is not substantially elliptical in step S124, the first and second timers are counted down (S128). If the first timer is not 0 (S130), the process returns to step S108 and the binary value is returned. Change the threshold of activation and start over from detecting the nostril. First
When the timer is 0, that is, when the eyes cannot be detected even after 2 minutes have elapsed (S130), it is further determined whether the second timer is 0 (S132). And the second timer is 0,
That is, if the eyes cannot be detected even after 10 minutes have passed, it is considered that the driver is wearing sunglasses or a mask, or there is an obstacle in front of the camera. (S134), the flow ends.

【0024】第2タイマが0となっていなければ(S1
32)、鼻穴位置に基づき設定される目の探索領域22
aを上にずらす処理が行われ(S136)、第1タイマ
に再び2分がセットされる(S138)。前述したよう
に、ステップS118で設定される目の探索領域22a
は、眉を検出しないように下ぎみに設定されているの
で、運転者によっては目がもっと上にある可能性があ
る。そこで、ステップS136にて探索領域を上にずら
している。少しずつ上にずらすことによって、目のみを
抽出し、眉を目として誤検出しないようにしている。
If the second timer is not 0 (S1
32), eye search region 22 set based on the nostril position
The process of shifting a upward is performed (S136), and the first timer is set to 2 minutes again (S138). As described above, the eye search region 22a set in step S118
Is set to the lower side so as not to detect the eyebrows, so there is a possibility that the eyes may be higher up depending on the driver. Therefore, in step S136, the search area is shifted upward. By gradually shifting it upward, only the eyes are extracted so that the eyebrows are not mistakenly detected as eyes.

【0025】以上の初回探索ルーチンにおいては、2値
化画像において特徴的な鼻穴を検出し、この位置を基準
にして目を検出しているので確実に目の検出を行うこと
ができる。鼻穴は、ほぼ水平に並び、ほぼ丸い2つの黒
領域として検出することができ、また個人差も少ないの
で、検出が容易である。また、鼻穴と目の位置関係も、
鼻穴右斜め上には左目があるなどと、ある程度特定でき
るので、この位置関係を持って目の探索領域を精度よく
特定することができる。
In the above initial search routine, the characteristic nostrils are detected in the binarized image, and the eyes are detected with reference to this position, so that the eyes can be surely detected. The nostrils are arranged substantially horizontally and can be detected as two substantially round black areas. Also, since there are few individual differences, it is easy to detect. Also, the positional relationship between the nostrils and the eyes
To some extent, it is possible to specify that the left eye is located diagonally above and to the right of the nostril, so that the eye search region can be specified accurately with this positional relationship.

【0026】さらに、目の検出は、2値化処理を行わず
エッジ検出により行っている。これは、照明や車室外か
らの光の影響を受けてもエッジは残るので、確実に検出
ができるためである。このエッジ検出そのものは、やや
処理時間が長くなるが、前述のように鼻穴位置から目の
検索領域を限定しているので、全体としても処理時間に
大きな影響を与えることはない。
Further, eye detection is performed by edge detection without performing binarization processing. This is because the edge remains even if it is affected by illumination or light from the outside of the vehicle compartment, so that detection can be performed reliably. Although this edge detection itself takes a little longer processing time, it does not significantly affect the processing time as a whole because it limits the eye search area from the nostril position as described above.

【0027】また、ステップS108で設定している2
値化処理に用いられるしきい値は、目の検出をもって、
その値が適切であったかの判定がなされる。すなわち、
ある鼻穴の候補に対して目が検出されなければ、この候
補は鼻穴ではなかったと判断される。したがって、しき
い値を変更して初回探索を行い、目が検出できたときの
しきい値を採用することにより、適切なしきい値を設定
することができる。よって、しきい値が不適切で眼鏡の
縁や目を鼻穴と誤認することは、最終的には防止するこ
とができる。
Further, 2 set in step S108.
The threshold used for the quantification process is the
It is determined whether the value was appropriate. That is,
If no eye is detected for a nostril candidate, then the candidate is determined not to be a nostril. Therefore, an appropriate threshold value can be set by changing the threshold value, performing the initial search, and adopting the threshold value when the eyes are detected. Therefore, it can be finally prevented that the threshold value is improper and the edges or eyes of the glasses are mistaken as nostrils.

【0028】追跡ルーチン 図6には、初回探索ステップS100に続いて行われる
追跡ステップS200の詳細なフローチャートが示され
ている。初回探索で鼻穴および目が検出されると、これ
らを追跡するルーチンが開始される。前回の探索におい
て、検出された鼻穴の位置に基づき、この周囲に所定の
大きさの鼻穴探索領域20を設定する(S202)。こ
の領域は、図4(c)に示されるように、鼻を含む横長
の長方形の領域である。この領域20cは、前述の初回
探索のときの領域20aより小さく、また後述する再探
索時の第2のモードの領域20bより小さく設定されて
いる。これは、前回鼻穴が検出されているのであれば、
今回それほど大きな範囲を探索しなくても鼻穴を検出す
ることができるはず、という前提に基づいている。ま
た、探索領域20cを横に広く設定しているのは、運転
中の動作において、首を横に振る動作の方が縦に振る動
作より早いので、横方向に広めに領域を採って、鼻穴の
横の動きに対応するためである。
Tracking Routine FIG. 6 shows a detailed flowchart of the tracking step S200 that follows the initial search step S100. When nostrils and eyes are detected in the initial search, a routine for tracking them is started. Based on the position of the nostril detected in the previous search, a nostril search region 20 of a predetermined size is set around this position (S202). This area is a horizontally long rectangular area including the nose, as shown in FIG. The area 20c is set to be smaller than the area 20a in the above-described first search and smaller than the area 20b in the second mode at the time of re-search described later. This is if the nostrils were detected last time,
This time, it is based on the premise that nostrils can be detected without searching for such a large range. Further, the search region 20c is set to be wide in the horizontal direction because the action of shaking the head sideways is faster than the action of swinging the head vertically in the operation during driving. This is because it corresponds to the lateral movement of the hole.

【0029】そして、この鼻穴探索領域20c内を2値
化処理し、黒領域を抽出する(S204)。そして、ほ
ぼ水平に並ぶ2つの黒領域を鼻穴として検出する(S2
06)。鼻穴が検出されなかったならば(S208)、
追跡ルーチンを終了する。鼻穴が検出された場合、前回
の鼻穴と目の位置関係より目の探索領域22bの設定を
行う(S210)。この探索領域22bは、図5(b)
に示されるように、目の大きさよりやや大きく、初回探
索時の領域22aよりやや小さい。これは前回の探索に
おいて、鼻穴と目の位置関係が分かっていること、そし
て前回の鼻穴位置が分かっているので目の位置は、かな
り正確に特定できるからである。そして、この探索領域
22b内で、初回探索と同様に、エッジの抽出を行う
(S212)。さらに、正負のエッジが上下方向に隣接
しているエッジペアを探し(S214)、このエッジペ
アがあればこの位置および鼻穴の位置を記憶する(S2
18)。エッジペアがなければ(S216)、追跡ルー
チンを終了する。
Then, the inside of the nostril search area 20c is binarized to extract a black area (S204). Then, the two black areas arranged substantially horizontally are detected as nostrils (S2).
06). If no nostril is not detected (S208),
End the tracking routine. When a nostril is detected, the eye search area 22b is set based on the previous positional relationship between the nostril and the eye (S210). This search area 22b is shown in FIG.
As shown in, the size is slightly larger than the size of the eyes and slightly smaller than the area 22a at the time of the initial search. This is because in the previous search, the positional relationship between the nostrils and the eyes was known, and since the previous nostril positions were known, the eye positions could be specified quite accurately. Then, in the search area 22b, the edge is extracted similarly to the initial search (S212). Further, an edge pair in which positive and negative edges are adjacent in the vertical direction is searched (S214), and if there is this edge pair, this position and the position of the nostril are stored (S2).
18). If there is no edge pair (S216), the tracking routine ends.

【0030】以上、追跡ルーチンでは、前回の鼻穴位置
も目の位置およびこれらの関係も分かっているので、鼻
穴および目の探索領域20c,22bを初回探索時の領
域20a,22aより小さく設定することができる。初
回探索時には、前述のように確実に鼻穴および目を検出
することが重要であったが、追跡時には速やかに目を検
出することが要求される。本装置においては、閉眼状態
の連続時間をもって居眠り判定を行っているので、追跡
に時間がかかると、この判定が不正確または不可能にな
ってしまう。そこで、速やかに目の検出を行うために、
まず2値化画像で最も特徴的な鼻穴の検出を行い、この
鼻穴を基準に目の探索領域22bを絞り込んでいる。そ
して、処理時間が長くなりがちなエッジ検出の時間の短
縮を図っている。
As described above, in the tracking routine, since the previous nostril position, the eye position, and their relationship are known, the nostril and eye search regions 20c and 22b are set smaller than the regions 20a and 22a at the time of the initial search. can do. It was important to detect the nostrils and eyes reliably at the time of the first search as described above, but it is required to detect the eyes promptly at the time of tracking. In this device, since the doze determination is made with the continuous time in the eye-closed state, if the tracking takes a long time, the determination becomes inaccurate or impossible. Therefore, in order to quickly detect the eyes,
First, the most characteristic nostril is detected in the binarized image, and the eye search region 22b is narrowed down based on this nostril. The edge detection time, which tends to increase the processing time, is shortened.

【0031】瞬き判定ルーチン 図7には、瞬き判定ステップS400の制御フローチャ
ートが示されている。追跡ステップS200において検
出された目のエッジペアが読み出され(S402)、こ
の各々のペアの上下方向の距離の最大値をそのときの目
の開度とする(S404)。そして、この目の開度が所
定のしきい値と比較され(S406)、しきい値未満の
場合は閉眼状態と判定され(S408)、しきい値以上
である場合は、開眼状態と判定される(S410)。こ
の開眼・閉眼の判定は、前述の居眠り判定部16に送ら
れ、ここで居眠り判定が行われる。
Blink Determination Routine FIG. 7 shows a control flowchart of the blink determination step S400. The eye edge pairs detected in the tracking step S200 are read (S402), and the maximum value of the vertical distance of each pair is set as the eye opening at that time (S404). Then, this eye opening is compared with a predetermined threshold value (S406), and if it is less than the threshold value, it is determined that the eye is closed (S408), and if it is equal to or more than the threshold value, it is determined that the eye is open. (S410). The determination of whether the eyes are open or closed is sent to the above-mentioned drowsiness determination unit 16, and the drowsiness determination is performed here.

【0032】再探索ルーチン 図8には、再探索ステップS500の制御フローチャー
トが示されている。追跡ステップS200で、鼻穴また
は目が検出できなかったとき、速やかに鼻穴や目を発見
して居眠り判定に支障がないようにしなければならな
い。したがって、初回探索ルーチンを用いて再度鼻穴や
目の検出を行うわけにはいかない。初回探索ルーチン
は、前述のように時間がかかっても確実に鼻穴および目
の検出を行うのが目的のルーチンであり、短時間で再発
見をするには不向きである。言い換えれば、再探索ルー
チンを別途設けることによって、初回探索ルーチンに時
間をかけて確実に鼻穴および目の探索を行う。また、再
探索ルーチンにおいては、鼻穴の探索領域と目の探索領
域の設定の違いにより、3種類の探索モードを有してお
り、適切なモードを選択することにより、より早く、よ
り正確に鼻穴および目の発見がなされるようにしてい
る。
Re-Searching Routine FIG. 8 shows a control flowchart of the re-searching step S500. When the nostrils or eyes cannot be detected in the tracking step S200, the nostrils or eyes must be found promptly so as not to interfere with the snooze determination. Therefore, the nostrils and eyes cannot be detected again using the initial search routine. The initial search routine is intended to surely detect the nostrils and eyes even if it takes time as described above, and is not suitable for rediscovery in a short time. In other words, by providing the re-search routine separately, the nostrils and eyes are reliably searched over the initial search routine. The re-search routine has three types of search modes depending on the settings of the nostril search area and the eye search area. By selecting an appropriate mode, the search mode can be made faster and more accurately. Nostrils and eyes are discovered.

【0033】第1の再探索モードは、前回の追跡モード
で鼻穴が検出されているが、目が検出されなかった場合
に対応するモードである。このモードは、鼻穴が検出さ
れているので顔の動きはそれほど大きくない場合のもの
であり、主に照明の条件などにより瞬間的に目を検出す
ることができなかった場合に対応している。したがっ
て、鼻穴や目の探索領域も追跡ルーチンのときに用いら
れた狭い領域、図4(c)および図5(b)の領域20
c,22bが用いられる。
The first re-search mode is a mode corresponding to the case where nostrils are detected in the previous tracking mode but no eyes are detected. This mode is for when the movement of the face is not so great because the nostrils are detected, and it is mainly used when the eyes cannot be detected momentarily due to lighting conditions. . Therefore, the nostrils and eye search areas are also the narrow areas used in the tracking routine, that is, the area 20 in FIGS. 4C and 5B.
c, 22b are used.

【0034】第2の再探索モードは、前回の追跡モード
で鼻穴が検出されなかった場合に対応するモードであ
る。このときには顔が動いている可能性が高く、鼻穴や
目の探索領域は、追跡ルーチンの場合より大きく設定さ
れる。すなわち、図4(b)に示されるように、第2再
探索モード時の鼻穴の探索領域20bは、第1再探索モ
ードの領域20cより大きい。しかし、初回探索時の領
域20aよりは小さい。また、図5(a)に示されるよ
うに、第2再探索モード時の目の探索領域22aは、第
1再探索モードの領域22bより大きく、また初回探索
時の領域と同じ大きさである。
The second re-search mode is a mode corresponding to the case where no nostrils were not detected in the previous tracking mode. At this time, there is a high possibility that the face is moving, and the search areas for nostrils and eyes are set larger than in the case of the tracking routine. That is, as shown in FIG. 4B, the nostril search region 20b in the second re-search mode is larger than the first re-search mode region 20c. However, it is smaller than the area 20a at the time of the initial search. Further, as shown in FIG. 5A, the eye search area 22a in the second re-search mode is larger than the area 22b in the first re-search mode and has the same size as the area in the first search. .

【0035】第3の再探索モードは、第1再探索モード
において所定時間探索したにもかかわらず、目を発見で
きなかった場合に対応するモードである。この場合、鼻
穴の探索領域は、第1再探索モードと同様の領域20c
に設定され、目の探索領域のみ拡大し、第2再探索モー
ドと同様の領域22aに設定される。
The third re-search mode is a mode corresponding to the case where the eye cannot be found even though the first re-search mode is searched for a predetermined time. In this case, the nostril search area is the same as the area 20c in the first re-search mode.
Is set, and only the eye search region is enlarged, and the same region 22a as in the second re-search mode is set.

【0036】再探索ルーチンが開始されると、車体に設
置された加速度センサより上下方向の加速度が読み込ま
れ(S502)、上下方向加速度が予め定められたしき
い値と比較され(S504)、しきい値以下であると判
断された場合、さらに前回の追跡ルーチンにおいて、鼻
穴が検出されたかが判断される(S506)。そして、
鼻穴があった場合、すなわち前回追跡ルーチンで鼻穴は
検出されたにもかかわらず、ステップS216で目(エ
ッジペア)が検出できなかった場合は、第1再探索モー
ドが設定される(S508)。そして、第1再探索モー
ドタイマがセットされる(S510)。このときのセッ
ト時間は、第1再探索モードから第3探索モードに移行
する時間であり、運転者の意識レベルに応じて変えられ
る。運転者の動作は覚醒状態では早く、意識レベルの低
下に伴って遅くなるので、意識レベルの低下している場
合は、タイマの設定時間を長くとっても鼻穴を見失う可
能性は低い。第1再探索モードタイマのセット時間は、
通常の意識レベルにおいてはたとえば200m秒に設定
される。
When the re-search routine is started, the vertical acceleration is read from the acceleration sensor installed on the vehicle body (S502), and the vertical acceleration is compared with a predetermined threshold value (S504). When it is determined that the threshold value is not more than the threshold value, it is further determined whether or not the nostril has been detected in the previous tracking routine (S506). And
When there is a nostril, that is, when the nostril is detected in the previous tracking routine but the eyes (edge pair) cannot be detected in step S216, the first re-search mode is set (S508). . Then, the first re-search mode timer is set (S510). The set time at this time is the time to shift from the first re-search mode to the third search mode, and can be changed according to the driver's consciousness level. The driver's motion is fast in the awake state and becomes slower as the consciousness level is lowered. Therefore, if the consciousness level is lowered, it is unlikely to lose sight of the nostril even if the timer is set longer. The set time of the first re-search mode timer is
At a normal consciousness level, it is set to 200 msec, for example.

【0037】一方、ステップS504で車体の上下方向
の加速度が所定のしきい値より大きい場合、および前回
の追跡ルーチンにおいて鼻穴が検出されなかった場合
は、第2の再探索モードが設定される(S512)。
On the other hand, if the vertical acceleration of the vehicle body is larger than the predetermined threshold value in step S504, or if no nostril is not detected in the previous tracking routine, the second re-search mode is set. (S512).

【0038】ステップS510,S512において、第
1または第2再探索モードが設定されると、次に設定さ
れている再探索モードが第2探索モードであるかが判断
される(S514)。第2再探索モードでない場合、前
回の鼻穴位置を中心に鼻穴探索領域20cが設定される
(S516)。この領域20cは、前述のように追跡ル
ーチンの鼻穴探索領域と同じものである。そして、この
領域内で2値化処理を行い黒領域を抽出する(S51
8)。
When the first or second re-search mode is set in steps S510 and S512, it is determined whether the next re-search mode is the second search mode (S514). If not in the second re-search mode, the nostril search area 20c is set around the previous nostril position (S516). This area 20c is the same as the nostril search area of the tracking routine as described above. Then, binarization processing is performed in this area to extract a black area (S51).
8).

【0039】一方、ステップS514にて第2再探索モ
ードであると判断された場合は、初回探索において、検
出された鼻穴の位置を中心に鼻穴探索領域20bを設定
する(S520)。この領域20bは、前述のように、
追跡ルーチンや第1再探索モード時の領域20cに対し
てやや大きく、初回探索時に比べて小さく設定されてい
る。そして、この領域20b内で、テンプレートマッチ
ングにより鼻穴の候補を選出し(S522)、各候補に
おいて2値化処理を行い黒領域の抽出を行う(S52
4)。この2値化処理時のしきい値は、初回探索ルーチ
ンにおいて、目が発見できたときの値を用いており、適
切な値を用いて2値化処理を行うことができる。
On the other hand, if it is determined in step S514 that the mode is the second re-search mode, the nostril search area 20b is set around the detected nostril position in the initial search (S520). This area 20b is, as described above,
It is set to be slightly larger than the area 20c in the tracking routine and the first re-search mode and smaller than that in the first search. Then, within this area 20b, nostril candidates are selected by template matching (S522), and binarization processing is performed on each candidate to extract a black area (S52).
4). As the threshold value during the binarization process, the value when the eye is found in the initial search routine is used, and the binarization process can be performed using an appropriate value.

【0040】そして、ステップS518,S524で抽
出された黒領域のうち、ほぼ水平に並ぶ二つの黒領域を
鼻穴として選定する(S526)。このとき、鼻穴を選
定することができなかった場合(S528)、第2探索
モードが設定され(S530)、ステップS514に戻
る。一方、ステップS528で鼻穴ありと判断された場
合、第1再探索モードが設定されているかが判断される
(S532)。第1再探索モードが設定されていれば、
目の探索領域を領域22bすなわち小さい領域に設定す
る(S534)。また、第1探索モード以外が設定され
ている場合、領域22aすなわち大きい領域に設定する
(S536)。よって、後述する第3再探索モードが設
定されている場合は、ステップS536において領域2
2aに設定される。
Then, of the black areas extracted in steps S518 and S524, two black areas arranged substantially horizontally are selected as nostrils (S526). At this time, if the nostril cannot be selected (S528), the second search mode is set (S530), and the process returns to step S514. On the other hand, when it is determined in step S528 that there is a nostril, it is determined whether the first re-search mode is set (S532). If the first re-search mode is set,
The eye search area is set to the area 22b, that is, a small area (S534). If a mode other than the first search mode is set, the area 22a, that is, a large area is set (S536). Therefore, when the third re-search mode described later is set, the area 2 is set in step S536.
2a.

【0041】ステップS534,S536にて目の探索
領域が設定されると、初回探索ルーチンのステップS1
20と同様にエッジ抽出が行われる(S538)。そし
て、第1探索モードの場合は(S540)、追跡ルーチ
ンのステップS214〜S218と同様に、正負のエッ
ジペアを探索して(S542)、エッジペアがあった場
合(S544)これの位置および鼻穴の位置を記憶する
(S546)。一方、ステップS540で第1再探索モ
ード以外のモードが設定されていると判断された場合、
初回探索ルーチンのステップS122〜S126と同様
に、正負のエッジペアが目の候補として選出され(S5
48)、これらの候補が楕円形状に配列している場合
(S550)、この候補が目として検出され、その位置
および鼻穴の位置が記憶される(S552)。以上、ス
テップS546,S552において鼻穴および目の位置
が検出されると、本ルーチンは終了する。
When the eye search area is set in steps S534 and S536, step S1 of the initial search routine is performed.
Edge extraction is performed in the same manner as 20 (S538). Then, in the case of the first search mode (S540), similar to steps S214 to S218 of the tracking routine, a positive / negative edge pair is searched (S542), and if there is an edge pair (S544), the position and nostril The position is stored (S546). On the other hand, if it is determined in step S540 that a mode other than the first re-search mode is set,
Similar to steps S122 to S126 of the initial search routine, positive and negative edge pairs are selected as eye candidates (S5).
48) If these candidates are arranged in an elliptical shape (S550), this candidate is detected as an eye, and its position and the position of the nostril are stored (S552). As described above, when the positions of the nostrils and the eyes are detected in steps S546 and S552, this routine ends.

【0042】一方、目が検出されなかった場合は、さら
に探索が続けられる。ステップS544において、エッ
ジペアがないと判断された場合、第1再探索モードタイ
マをカウントダウンし(S554)、このタイマが0と
なっているかが判断される(S556)。そして、タイ
マが0でない場合は、そのままステップS514に戻っ
て再度第1再探索モードで探索が行われる。タイマが0
となっていれば、第3探索モードが設定される(S55
8)。第3再探索モードは、鼻穴が検出されているにも
かかわらず、第1探索モードで所定時間内に目が発見で
きなかったとき、目の探索領域を拡げるものであり、こ
れによって目を検出する可能性が高くなる。第3再探索
モード設定後、ステップS514に戻り再び探索が行わ
れる。また、第1再探索モード以外のモードで目が検出
できなかった場合は、ステップS550からステップS
514に戻り、再探索が行われる。
On the other hand, if no eye is detected, the search is further continued. When it is determined in step S544 that there is no edge pair, the first re-search mode timer is counted down (S554), and it is determined whether this timer is 0 (S556). Then, when the timer is not 0, the process directly returns to step S514 and the search is again performed in the first re-search mode. Timer is 0
If so, the third search mode is set (S55).
8). The third re-search mode expands the eye search area when the eyes are not found within the predetermined time in the first search mode even though the nostrils are detected. The probability of detection increases. After setting the third re-search mode, the process returns to step S514 and the search is performed again. If the eyes cannot be detected in any mode other than the first re-search mode, steps S550 to S550 are performed.
Returning to 514, the rediscovery is performed.

【0043】以上のように、再探索ルーチンにおいて
は、前回まで鼻穴が検出されているか、また鼻穴が検出
されていても目が検出されない時間がどの程度継続して
いるかによって、鼻穴および目の探索領域の大きさを変
えている。これによって、顔が大きくは動いていないと
考えられる時には、探索領域を絞り込んで短時間で再発
見ができるようにし、一方、顔が大きく動いていると考
えられるときには、探索領域を拡げて発見確率を増して
いる。また、初回探索時と独立した再探索ルーチンを設
けることによって、再探索時の目の発見までに要する時
間を短縮することができる。
As described above, in the re-search routine, the nostril and the nostril are detected depending on whether the nostril has been detected until the last time, and how long the eye is not detected even if the nostril has been detected. The size of the eye search area is changed. As a result, when it is considered that the face is not moving significantly, the search area is narrowed down so that rediscovery can be performed in a short time, while when it is considered that the face is moving significantly, the search area is expanded and the discovery probability is increased. Is increasing. Further, by providing a re-search routine independent of the initial search, it is possible to shorten the time required to find an eye during the re-search.

【0044】顔が傾いたときの目の位置の推定 本実施形態においては、鼻穴の位置に基づき目の位置を
推定し、この推定された位置を中心に目の探索領域を設
定しているが、特に運転者が顔を傾けたときの目の位置
の推定方法について以下に説明する。
Estimation of eye position when face is tilted In this embodiment, the eye position is estimated based on the position of the nostril, and the eye search area is set around the estimated position. However, a method of estimating the position of the eyes when the driver tilts his / her face will be described below.

【0045】図9には、顔が傾いたときの鼻穴の位置と
目の位置の関係が示されている。水平状態(a)におい
て、二つの鼻穴の中点N0 (XN0,YN0)に対して目の
位置E0 (XE0,YE0)は、距離rで方向θ0 にある。
このとき、距離r、方向θ0は、次の式で表される。
FIG. 9 shows the relationship between the position of the nostrils and the position of the eyes when the face is tilted. In the horizontal state (a), the eye position E 0 (X E0 , Y E0 ) with respect to the midpoint N 0 (X N0 , Y N0 ) of the two nostrils is at the distance r in the direction θ 0 .
At this time, the distance r and the direction θ 0 are expressed by the following equations.

【数1】 r={(XE0−XN02 +(YE0−YN02 1/2 θ0 =tan-1{(YN0−YE0)/(XE0−XN0)} 顔が傾いた場合、(b)に示すように、二つの鼻穴の配
列の向きが水平からややずれる。この場合、鼻穴位置N
0 が変化しなくても、目の位置がずれる。二つの鼻穴の
方向が水平から角度δずれたとすれば、鼻穴位置N
1 (XN1,YN1)と目の位置E1 (XE1,YE1)は次式
で示される関係となる。
## EQU1 ## r = {(X E0 -X N0 ) 2 + (Y E0 -Y N0 ) 2 } 1/2 θ 0 = tan -1 {(Y N0 -Y E0 ) / (X E0 -X N0 ). } When the face is tilted, the direction of the arrangement of the two nostrils is slightly shifted from the horizontal as shown in (b). In this case, the nostril position N
Even if 0 does not change, the eye position shifts. If the directions of the two nostrils deviate from the horizontal by an angle δ, the nostril position N
1 (X N1 , Y N1 ) and the eye position E 1 (X E1 , Y E1 ) have the relationship shown by the following equation.

【数2】XE1=XN1+r・cos(θ0 −δ) YE1=YN1−r・sin(θ0 −δ) 目の位置を上式のように推定し、ここを中心に目の探索
領域を設定することによって、より確実に目を検出する
ことができる。
[Equation 2] X E1 = X N1 + r · cos (θ 0 −δ) Y E1 = Y N1 −r · sin (θ 0 −δ) Estimate the eye position as in the above equation, and By setting the search area of, the eyes can be detected more reliably.

【図面の簡単な説明】[Brief description of drawings]

【図1】 本発明にかかる実施形態である居眠り運転防
止装置の概略構成を示すブロック図である。
FIG. 1 is a block diagram showing a schematic configuration of a drowsy driving prevention apparatus according to an embodiment of the present invention.

【図2】 本実施形態の瞬き判定および目を検出するた
めの基本となる制御フローチャートである。
FIG. 2 is a basic control flowchart for blink determination and eye detection of the present embodiment.

【図3】 本実施形態の初回の目探索ルーチンの制御フ
ローチャートである。
FIG. 3 is a control flowchart of an initial eye search routine of this embodiment.

【図4】 鼻穴の探索領域を示す図である。FIG. 4 is a diagram showing a search area for a nostril.

【図5】 目の探索領域を示す図である。FIG. 5 is a diagram showing an eye search region.

【図6】 本実施形態の追跡ルーチンの制御フローチャ
ートである。
FIG. 6 is a control flowchart of a tracking routine of this embodiment.

【図7】 本実施形態の瞬き判定ルーチンの制御フロー
チャートである。
FIG. 7 is a control flowchart of a blink determination routine of this embodiment.

【図8】 本実施形態の再探索ルーチンの制御フローチ
ャートである。
FIG. 8 is a control flowchart of a re-search routine of the present embodiment.

【図9】 本実施形態において、顔が傾いた場合の目の
位置の推定を説明するための図である。
FIG. 9 is a diagram for explaining estimation of eye positions when the face is tilted in the present embodiment.

【符号の説明】[Explanation of symbols]

10 赤外線投光器、12 CCDカメラ、14 瞬き
認識部、16 居眠り判定部、18 警報部。
10 infrared projector, 12 CCD camera, 14 blink recognition unit, 16 dozing determination unit, 18 alarm unit.

フロントページの続き (51)Int.Cl.7 識別記号 FI G06T 7/20 300 A61B 5/10 320B (56)参考文献 特開 平8−300978(JP,A) 特開 昭61−45911(JP,A) 特開 平8−83344(JP,A) 福田準一,足立邦彦,西田誠,阿久津 英作,意識低下検知技術の開発,TOY OTA Technical Revi ew,日本,トヨタ自動車株式会社技術 管理部,1995年 5月,Vol.45 N o.1,PP.34−39 (58)調査した分野(Int.Cl.7,DB名) G06T 7/00 - 7/60 A61B 5/107 A61B 5/117 B60K 28/06 G60T 1/00 280 JICSTファイル(JOIS)Continuation of the front page (51) Int.Cl. 7 identification code FI G06T 7/20 300 A61B 5/10 320B (56) Reference JP-A-8-300978 (JP, A) JP-A-61-45911 (JP, A) Japanese Patent Laid-Open No. 8-83344 (JP, A) Junichi Fukuda, Kunihiko Adachi, Makoto Nishida, Eisaku Akutsu, Development of technology for detecting unconsciousness, TOY OTA Technical Review, Japan, Toyota Motor Corporation Technology Management Department, 1995 May, Vol. 45 No. 1, PP. 34-39 (58) Fields investigated (Int.Cl. 7 , DB name) G06T 7/ 00-7/60 A61B 5/107 A61B 5/117 B60K 28/06 G60T 1/00 280 JISST file (JOIS)

Claims (6)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】 人の顔を撮影して顔画像を得る撮像ステ
ップと、前記顔画像から鼻穴を検出する鼻穴検出ステッ
プと、前記鼻穴の位置を基準に目の探索を行う領域を設
定する探索領域設定ステップと、前記探索領域内で目の
検出を行う目の検出ステップと、を有し、 前記探索領域設定ステップでは、前記鼻穴検出ステップ
における鼻穴の検出の継続状況に応じて前記探索領域の
大きさが変更される、 顔画像における目の検出方法。
1. An imaging step of capturing a face of a person to obtain a face image, a nostril detection step of detecting a nostril from the face image, and an area for performing eye search based on the position of the nostril. a search region setting step of setting, the detection step of the eye for performing eye detection in a search area, have a, in the search area setting step, the nostrils detecting step
Of the search area according to the continuation situation of nostril detection in
A method for detecting eyes in a face image , the size of which is changed .
【請求項2】 請求項1記載の顔画像における目の検出
方法において、前記目の検出は、上下方向における明度
が急峻に変化するエッジを抽出し、このエッジが略楕円
状に連続する部分を目として検出するものである、顔画
像における目の検出方法。
2. The method of detecting an eye in a face image according to claim 1, wherein in the eye detection, an edge whose brightness in the vertical direction changes sharply is extracted, and a portion where the edge is continuous in an approximately elliptical shape is detected. A method of detecting an eye in a face image, which is to be detected as an eye.
【請求項3】 請求項1記載の顔画像における目の検出
方法において、前記目の位置検出は、上から下に向けて
明度が急峻に低下する負エッジと、上から下に向けて明
度が急峻に上昇する正エッジとが上下方向に隣接するエ
ッジペアを抽出するものである、顔画像における目の検
出方法。
3. The method for detecting an eye in a face image according to claim 1, wherein in the eye position detection, a negative edge whose brightness sharply decreases from top to bottom and a brightness edge from top to bottom are detected. A method for detecting eyes in a face image, in which a positive edge that sharply rises is to extract edge pairs that are vertically adjacent.
【請求項4】 請求項1から3のいずれかに記載の顔画
像における目の検出方法において、前記探索領域設定ス
テップでは、二つの鼻穴の配列の向きの変化に応じて前
記探索領域の位置が変更される、顔画像における目の検
出方法。
4. The eye detection method for a face image according to claim 1, wherein in the search area setting step, the position of the search area is changed in accordance with a change in orientation of two nostrils. A method for detecting eyes in a face image, in which
【請求項5】 請求項1から4のいずれかに記載の顔画
像における目の検出方法において、前記鼻穴検出ステッ
プは、前記撮影された顔画像を所定のしきい値によって
2値化処理し、鼻穴を検出するものであり、当該鼻穴の
位置に基づいて目の探索を行ったときに、前記目の検出
ステップで目を検出できなかった場合には、前記2値化
処理のためのしきい値が変更され、再度鼻穴の検出を行
う、顔画像における目の検出方法。
5. The facial image according to any one of claims 1 to 4.
In the method of detecting an eye in an image, the nostril detection step
The captured face image according to a predetermined threshold.
Binarization is performed to detect the nostrils.
When the eye search is performed based on the position, the eye detection
If the eyes cannot be detected in the step, the binarization is performed.
The threshold for processing is changed and the nostril is detected again.
How to detect eyes in face images.
【請求項6】 人の顔を撮影して顔画像を得る撮像ステ
ップと、前記顔画像から鼻穴を検出する鼻穴検出ステッ
プと、前記鼻穴の位置を基準に目の探索を行う領域を設
定する探索領域設定ステップと、前記探索領域内で目の
検出を行う目の検出ステップと、を有し、 前記鼻穴検出ステップは、前記撮影された顔画像を所定
のしきい値によって2値化処理し、鼻穴を検出するもの
であり、当該鼻穴の位置に基づいて目の探索を行ったと
きに、前記目の検出ステップで目を検出できなかった場
合には、前記2値化処理のためのしきい値が変更され、
再度鼻穴の検出を行う、顔画像における目の検出方法
6. An imaging system for photographing a human face to obtain a face image.
And a nostril detection step for detecting a nostril from the face image.
And an area for eye search based on the position of the nostrils.
Setting the search area, and
An eye detecting step for performing detection, wherein the nostril detecting step determines the captured face image in a predetermined manner.
Detects nostrils by binarizing according to the threshold of
And the eyes are searched based on the position of the nostrils.
If the eye could not be detected in the eye detection step,
In this case, the threshold value for the binarization process is changed,
A method for detecting eyes in a face image, which detects the nostrils again .
JP22161196A 1996-08-22 1996-08-22 Eye detection method for face images Expired - Fee Related JP3422183B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP22161196A JP3422183B2 (en) 1996-08-22 1996-08-22 Eye detection method for face images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP22161196A JP3422183B2 (en) 1996-08-22 1996-08-22 Eye detection method for face images

Publications (2)

Publication Number Publication Date
JPH1063850A JPH1063850A (en) 1998-03-06
JP3422183B2 true JP3422183B2 (en) 2003-06-30

Family

ID=16769471

Family Applications (1)

Application Number Title Priority Date Filing Date
JP22161196A Expired - Fee Related JP3422183B2 (en) 1996-08-22 1996-08-22 Eye detection method for face images

Country Status (1)

Country Link
JP (1) JP3422183B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7264021B1 (en) 2006-03-22 2007-09-04 Tokai Rubber Industries, Ltd. High-pressure resistant hose

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4469476B2 (en) 2000-08-09 2010-05-26 パナソニック株式会社 Eye position detection method and eye position detection apparatus
US7434931B2 (en) * 2001-10-25 2008-10-14 Ophthonix Custom eyeglass manufacturing method
US6682195B2 (en) 2001-10-25 2004-01-27 Ophthonix, Inc. Custom eyeglass manufacturing method
JP4471607B2 (en) * 2003-08-29 2010-06-02 富士通株式会社 Eye tracking device, eye state determination device, and computer program
JP4696571B2 (en) * 2005-01-27 2011-06-08 日産自動車株式会社 Eye position detection device
JP4628839B2 (en) * 2005-03-29 2011-02-09 株式会社足立ライト工業所 Face image recognition device
JP2006330959A (en) * 2005-05-25 2006-12-07 Noritsu Koki Co Ltd Pupil compensation processor and its method
JP2008052509A (en) * 2006-08-24 2008-03-06 Toyota Central R&D Labs Inc Nostril detection apparatus and program
KR100809431B1 (en) 2006-11-21 2008-03-05 한국전자통신연구원 Method and apparatus for detecting eye in face region
JP4137969B2 (en) 2006-12-04 2008-08-20 アイシン精機株式会社 Eye detection device, eye detection method, and program
JP4845698B2 (en) * 2006-12-06 2011-12-28 アイシン精機株式会社 Eye detection device, eye detection method, and program
JP4895797B2 (en) 2006-12-26 2012-03-14 アイシン精機株式会社 Wrinkle detection device, wrinkle detection method and program
JP4895847B2 (en) 2007-02-08 2012-03-14 アイシン精機株式会社 瞼 Detection device and program
JP4989249B2 (en) * 2007-02-14 2012-08-01 トヨタ自動車株式会社 Eye detection device, dozing detection device, and method of eye detection device
JP4309926B2 (en) 2007-03-13 2009-08-05 アイシン精機株式会社 Facial feature point detection apparatus, facial feature point detection method, and program
JP4895876B2 (en) * 2007-03-15 2012-03-14 アイシン精機株式会社 Eye detection apparatus and program
JP4895874B2 (en) * 2007-03-15 2012-03-14 アイシン精機株式会社 Eye state determination device, eye state determination method, and eye state determination program
JP4307496B2 (en) 2007-03-19 2009-08-05 株式会社豊田中央研究所 Facial part detection device and program
JP4992823B2 (en) * 2008-05-22 2012-08-08 トヨタ自動車株式会社 Face detection apparatus and face detection method
CN103680064B (en) * 2012-09-24 2016-08-03 由田新技股份有限公司 Sleepy system for prompting
WO2020049933A1 (en) * 2018-09-05 2020-03-12 日本電産株式会社 Object recognition device and object recognition method

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6145911A (en) * 1984-08-10 1986-03-06 Nippon Denso Co Ltd Position recognizing device for eye of vehicle driver
JP2937030B2 (en) * 1994-09-14 1999-08-23 三菱電機株式会社 Image processing device and person state determination device
JP3452685B2 (en) * 1995-05-10 2003-09-29 三菱電機株式会社 Face image processing device

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
福田準一,足立邦彦,西田誠,阿久津英作,意識低下検知技術の開発,TOYOTA Technical Review,日本,トヨタ自動車株式会社技術管理部,1995年 5月,Vol.45 No.1,PP.34−39

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7264021B1 (en) 2006-03-22 2007-09-04 Tokai Rubber Industries, Ltd. High-pressure resistant hose

Also Published As

Publication number Publication date
JPH1063850A (en) 1998-03-06

Similar Documents

Publication Publication Date Title
JP3422183B2 (en) Eye detection method for face images
JP2937030B2 (en) Image processing device and person state determination device
US8063786B2 (en) Method of detecting drowsiness of a vehicle operator
US5689241A (en) Sleep detection and driver alert apparatus
US8908038B2 (en) Vehicle detection device and vehicle detection method
US20140204193A1 (en) Driver gaze detection system
JP2017536589A (en) Device, method and computer program for detecting instantaneous sleep
US9177202B2 (en) Red-eye detection device
US20120070088A1 (en) Picture image processor, method for processing picture image and method for processing picture image
JP4677963B2 (en) Dozing detection device, dozing detection method
WO2014119235A1 (en) Alertness level detection device and alertness level detection method
Senaratne et al. Driver fatigue detection by fusing multiple cues
KR20130097671A (en) Imaging control device and program
JP4989249B2 (en) Eye detection device, dozing detection device, and method of eye detection device
US20200218878A1 (en) Personalized eye openness estimation
JP4992823B2 (en) Face detection apparatus and face detection method
JP2001043382A (en) Eye tracking device
KR20200092739A (en) Driver status monitor method and apparatus
KR100766592B1 (en) drowsiness detection using reflected image on eye iris
JP2014146267A (en) Pedestrian detection device and driving support device
JP4082203B2 (en) Open / close eye determination device
JPH1086696A (en) Method for detecting characteristic part in face image
Hariri et al. Vision based smart in-car camera system for driver yawning detection
JP3988657B2 (en) Object detection device
JP2005114588A (en) Tracking device

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090425

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090425

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100425

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees