JP2006248365A - Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device - Google Patents

Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device Download PDF

Info

Publication number
JP2006248365A
JP2006248365A JP2005067257A JP2005067257A JP2006248365A JP 2006248365 A JP2006248365 A JP 2006248365A JP 2005067257 A JP2005067257 A JP 2005067257A JP 2005067257 A JP2005067257 A JP 2005067257A JP 2006248365 A JP2006248365 A JP 2006248365A
Authority
JP
Japan
Prior art keywords
driver
mirror
face
infrared
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005067257A
Other languages
Japanese (ja)
Inventor
Shunji Ota
俊二 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2005067257A priority Critical patent/JP2006248365A/en
Publication of JP2006248365A publication Critical patent/JP2006248365A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To certainly photograph the eyes and its peripheral part without obstructing a back visual field of a driver. <P>SOLUTION: The driver photographing device is provided with an inside rear view mirror 1 installed at an oblique and upper part at a front side of the driver; LED 2 for irradiating to an area corresponding to the face of the driver 3 with an infrared ray; and an infrared camera 4 installed on an oblique and upper part of a rear side of the inside rear view mirror 1. The inside rear view mirror 1 is constituted by a first reflection mirror 1a reflecting a visible light and transmitting the infrared ray; ad a second reflection mirror 1b provided at the back with an angle θ relative to the mirror 1a and reflecting the infrared ray. The rear visual field of the driver 3 is provided by the first reflection mirror 1b and the infrared ray irradiated on the face of the driver by the LED 2 transmits through the first reflection mirror 1a, is reflected by the second reflection mirror 1b and advances to the infrared camera 4. Thereby, the face image of the driver 3 is photographed by the infrared camera 4. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

この発明は、自動車等の移動体に好適な後方監視ミラー、このミラーを使用して運転者の顔面を撮影するために好適な運転者撮影装置およびこの運転者撮影装置を用いた運転者監視装置に関する。   The present invention relates to a rear monitoring mirror suitable for a moving body such as an automobile, a driver photographing apparatus suitable for photographing a driver's face using the mirror, and a driver monitoring apparatus using the driver photographing apparatus. About.

運転者の居眠り運転検知や脇見運転検知など自動車運転手の眼を中心とした顔面を画像撮影し運転者の状態を検知する安全技術が開発されている。   Safety technology has been developed to detect the state of a driver by taking a picture of the face centered on the eyes of the driver of the car, such as detecting the driver's drowsy driving or driving aside.

そのための画像撮影方法としては、ダッシュボードやインスツルメンツパネル、あるいはルームミラー周辺やルームミラー内部などに赤外線カメラを設置し、この赤外線カメラにより運転者の前方からその顔面を運転者を幻惑させたりすることがないように、且つ安定した照射が可能なように赤外線で直接撮影するようにしている。   For this purpose, an infrared camera is installed on the dashboard, instrument panel, around the rearview mirror, inside the rearview mirror, etc., and this infrared camera makes the driver look dazzled from the front of the driver. The image is directly taken with infrared rays so that there is no occurrence and stable irradiation is possible.

ところが、運転者の顔面の位置は体格、姿勢、座席シートの設定状態により大きく変化するため、それらの撮影方法では、想定される顔面の存在範囲を十分にカバーする大きな画角の赤外線カメラを使用することが必要であり、さらに、そのようにして撮影された大きな画角の画像から顔面部分を特定する処理が必要である。 そこで、適切に調整されたルームミラーを後方から見た場合にルームミラー内に運転手の眼部分が必ず映ることを利用して、ルームミラーを介して後方から撮像することにより、顔位置によらず常に眼部分の画像を取得する装置について提案されている(特許文献1)。
特開平11−304428号公報
However, the position of the driver's face varies greatly depending on the physique, posture, and seat seat setting, so these shooting methods use an infrared camera with a large angle of view that sufficiently covers the expected range of the face. In addition, it is necessary to specify a face portion from an image with a large angle of view photographed in this way. Therefore, by taking advantage of the fact that the driver's eyes are always reflected in the rearview mirror when the rearview mirror is properly adjusted, the rear view mirror is used to capture images from the rear. An apparatus that always acquires an image of an eye portion has been proposed (Patent Document 1).
JP-A-11-304428

しかしながら、上記特許文献1のものでは、以下に述べるような問題点があった。   However, the above-mentioned Patent Document 1 has the following problems.

(1)撮影装置の設置位置が制限される。特に眼部分が画像の中心となる画像を取得するためには、撮影装置をルームミラーから後方へと向かう直線上に設置させる必要がある。 (1) The installation position of the photographing device is limited. In particular, in order to acquire an image whose eye portion is the center of the image, it is necessary to install the photographing device on a straight line that extends backward from the room mirror.

(2)後方視界が部分的に撮影装置により隠蔽される。したがって、ルームミラー本来の機能である運転者に対する後方視界提供機能を妨げる。 (2) The rear view is partially hidden by the photographing device. Therefore, the rear view providing function for the driver, which is the original function of the rearview mirror, is hindered.

(3)上記後方視界提供機能への妨げを小さくするには、撮影装置を小型にし、かつ撮影装置を可能な限りルームミラーから遠方へ配置する必要がある。 (3) In order to reduce the hindrance to the above-mentioned rear view providing function, it is necessary to reduce the size of the photographing apparatus and dispose the photographing apparatus as far as possible from the room mirror.

(4)撮影装置とルームミラーの距離を大きくすればするほど、ルームミラーを介して取得される画像は運転者の眼を中心とした狭い領域となり、眼以外の顔面の画像情報を得ることが困難になる。さらに、運転者の顔位置が変化した場合に画像内に眼部分が含まれなくなる可能性が増大する。 (4) As the distance between the photographing device and the rearview mirror increases, the image acquired through the rearview mirror becomes a narrow region centered on the driver's eyes, and facial image information other than the eyes can be obtained. It becomes difficult. Further, when the driver's face position changes, the possibility that the eye portion is not included in the image increases.

(5)撮影装置が運転者から視認されるため、運転者に対し監視されているという心理的圧迫感または不安感を与える。 (5) Since the photographing device is visually recognized by the driver, it gives a psychological pressure or anxiety that the driver is being monitored.

この発明は、運転者の後方視界を妨げず、且つ眼の部分を確実に撮影する装置に好適な後方監視ミラー、及び同ミラーを使用した運転者撮影装置の提供を目的とする。   SUMMARY OF THE INVENTION An object of the present invention is to provide a rear monitoring mirror suitable for a device that reliably captures an eye part without obstructing the driver's rear view, and a driver photographing device using the mirror.

この発明の移動体の後方監視ミラーは、可視光線を反射し赤外線を透過する第1の反射手段と、該第1の反射手段に対して所定角θでその背後に設けられ赤外線を反射する第2の反射手段とを備えたことを特徴とする。   The rear monitoring mirror of the moving body of the present invention includes a first reflecting means that reflects visible light and transmits infrared light, and a first reflecting means that is provided behind the first reflecting means at a predetermined angle θ and reflects infrared light. 2 reflection means.

この発明では、第1の反射手段を従来のルームミラーとして使用することにより、後方視界からの可視光線は第1の反射手段で反射して運転者の眼に必ず届く。一方、運転者の顔面に対応する領域に向けて赤外線を照射する運転者照明装置を、例えばダッシュボードなど設けることにより、運転者の顔面で反射した赤外線は第1の反射手段を透過して、第2の反射手段で反射する。第1の反射手段と第2の反射手段のなす角度は所定角θに設定されているために、上記赤外線が第2の反射手段で反射して進む方向は、上記後方視界からの可視光線の方向と完全に異なる。このため、上記第2の反射手段で反射した赤外線を受光する位置に撮影装置を設けると、この撮影装置により後方視界が妨げられることがない。   In the present invention, by using the first reflecting means as a conventional room mirror, visible light from the rear field of view is reflected by the first reflecting means and reaches the driver's eyes without fail. On the other hand, by providing a driver illumination device that irradiates infrared rays toward a region corresponding to the driver's face, for example, a dashboard, the infrared ray reflected on the driver's face is transmitted through the first reflecting means, Reflected by the second reflecting means. Since the angle formed by the first reflecting means and the second reflecting means is set to a predetermined angle θ, the direction in which the infrared light is reflected by the second reflecting means is the direction of visible light from the rear view. Completely different from the direction. For this reason, when a photographing device is provided at a position for receiving the infrared light reflected by the second reflecting means, the rear view is not hindered by the photographing device.

また、撮影装置が後方視界を妨げることがないため、第2の反射手段に接近した位置に設けたり、また、所定角θを適切な角度に設定することで自由度の高い位置に設置することが可能である。これにより、顔面の撮影位置の微調整が可能であり、また、眼の部分を含む広い範囲を撮影することも容易となる。   In addition, since the photographing apparatus does not interfere with the rear view, it is provided at a position close to the second reflecting means, or is set at a position with a high degree of freedom by setting the predetermined angle θ to an appropriate angle. Is possible. Thereby, fine adjustment of the photographing position of the face is possible, and it becomes easy to photograph a wide range including the eye part.

この発明の一つの実施態様では、前記第1の反射手段による後方視界の中心線に対して2θの方向に赤外線カメラ等のカメラが設置される。   In one embodiment of the present invention, a camera such as an infrared camera is installed in the direction of 2θ with respect to the center line of the rear field of view by the first reflecting means.

一般の光学原理から、第1の反射手段と第2の反射手段とのなす角度がθであるとき、同一方向から第1の反射手段に入射した可視光線と赤外線は、それぞれ第1と第2の反射手段で反射されそれぞれの方向に進む。それぞれの反射光線の方向が互いになす角度は、第1の反射手段に入射した入射角にかかわらず常に2θである。このことは、光の進行方向が逆であっても同様となる。   From the general optical principle, when the angle formed by the first reflecting means and the second reflecting means is θ, visible light and infrared light incident on the first reflecting means from the same direction are the first and second, respectively. Reflected by the reflecting means, and proceeds in the respective directions. The angle formed by the directions of the reflected light rays is always 2θ regardless of the incident angle incident on the first reflecting means. This is the same even if the traveling direction of light is reversed.

したがって、運転者が第1の反射手段で後方を視認するように調整された状態においては、カメラは、運転者の顔位置にかかわらず、常に運転者の眼を中心とした顔面の画像を後方視界を妨げることなく取得することができる。
前記カメラに後方監視ミラー以外からの光線を遮断するための画角制御手段を設けることにより、不要な光線によるフレアやゴースト等を防ぐことができる。
Therefore, in a state where the driver is adjusted so that the driver can visually recognize the rear with the first reflecting means, the camera always displays the facial image centered on the driver's eyes, regardless of the driver's face position. It can be acquired without obstructing the field of view.
By providing the camera with an angle-of-view control means for blocking light from other than the rear monitoring mirror, flare, ghost, and the like due to unnecessary light can be prevented.

また、前記カメラを、可視光線を透過せず赤外線を透過するカバーで覆うことにより、運転者からはカメラが見えなくなる。このため、カメラで監視されているような圧迫感がなくなる。   Further, by covering the camera with a cover that does not transmit visible light but transmits infrared light, the driver cannot see the camera. This eliminates the feeling of pressure as monitored by the camera.

また、この発明の運転者撮影装置は、前記赤外線カメラを高ダイナミックレンジのCMOS赤外線カメラ等のカメラで構成したことを特徴とする。
さらに、この発明の運転者監視装置は、上記運転者撮影装置と、この運転者撮影装置で撮影された画像から運転者の顔または眼を検出し、検出した顔または眼の画像に基づいて運転者の状態を判定する画像認識装置と、を備えたことを特徴とする。
The driver photographing apparatus of the present invention is characterized in that the infrared camera is a camera such as a CMOS infrared camera having a high dynamic range.
Furthermore, the driver monitoring device of the present invention detects the driver's face or eyes from the driver photographing device and an image photographed by the driver photographing device, and drives based on the detected face or eye image. And an image recognition device for determining the state of the person.

この発明では、高ダイナミックレンジのCMOS赤外線カメラ等のカメラを使用することにより、明暗差が大きい環境下でも運転者の顔や眼の部分の画像を綺麗に撮影でき、これにより、照明無しまたは空間全体を照明した場合と比べて、顔の特定や顔の認識が容易になり、運転者の状態を判定する場合においても、正確な判定が可能になる。   In the present invention, by using a camera such as a CMOS infrared camera with a high dynamic range, it is possible to take a beautiful image of the driver's face and eyes even in an environment where there is a large contrast between light and dark. Compared to the case where the entire screen is illuminated, it is easier to identify the face and recognize the face, and it is possible to make an accurate determination even when determining the state of the driver.

本発明においては、可視光領域にも感度を有する撮像手段(カメラ)を利用することも可能である。この場合には、近赤外光のみを透過するフィルタを使用すればよい。   In the present invention, it is also possible to use an imaging means (camera) having sensitivity in the visible light region. In this case, a filter that transmits only near infrared light may be used.

この発明によれば、運転者の視界を確保しつつ、その視界中心線と異なった角度で運転者の顔、特に眼やその付近の画像撮影が可能になる。このため、この後方監視ミラーを自動車等の移動体の運転者監視用に用いることで、運転者の後方視界を遮らずに、運転者の顔、特に眼やその付近の画像を正確に撮影することができ、運転者が居眠り状態や脇見運転状態にあるかどうかを正確に判定することができる。   According to the present invention, it is possible to capture an image of the driver's face, particularly the eyes and the vicinity thereof, at an angle different from the center line of view while securing the view of the driver. For this reason, this rear monitoring mirror is used for monitoring a driver of a moving body such as an automobile, so that the driver's face, in particular, the eye and its surroundings can be accurately captured without obstructing the driver's rear view. Therefore, it is possible to accurately determine whether the driver is in a dozing state or a side-by-side driving state.

図1はこの発明の実施形態である運転者撮影装置の構成を示す図である。この運転者撮影装置は、運転者の前方やや下方から運転者の顔面に向けて赤外線(近赤外線を含む。以下同様)を照射し、その反射光をルームミラーで反射させ、ルームミラーの後方の斜め上方に設置されている赤外線カメラにより運転者の顔を撮影する。   FIG. 1 is a diagram showing a configuration of a driver photographing apparatus according to an embodiment of the present invention. This driver photographing device emits infrared rays (including near infrared rays, the same applies hereinafter) toward the driver's face from the front or slightly below the driver, reflects the reflected light with the rearview mirror, and The driver's face is photographed by an infrared camera installed obliquely above.

撮影された画像は、画像認識装置に入力されて、顔の認識が行われ、居眠り/脇見運転/注意力の低下等の運転者の状態が判定され、その結果が必要に応じて警告等に用いられる。画像認識装置においては、運転者の状態が、例えば目の検出の有無、視線方向、視線方向の動き、顔方向、顔方向の動き、まぶたの状態、瞬き、瞳孔の状態、めがねの有無、など目周辺の画像から得られる情報によって検出され、居眠り/脇見運転/注意力の低下等の運転者の状態はこれらの情報から判定される。   The captured image is input to the image recognition device, the face is recognized, the driver's state is determined, such as dozing / aside driving / decrease in attention, and the result is used as a warning if necessary. Used. In the image recognition device, the driver's state is, for example, presence or absence of eye detection, gaze direction, gaze direction movement, face direction, face direction movement, eyelid state, blink, pupil state, presence of glasses, etc. It is detected by information obtained from images around the eyes, and the driver's state such as dozing / side-by-side driving / decrease in attention is determined from these information.

図1は自動車の車室を側面から表した図であるが、ルームミラー1は、車室内の中央前方の天井付近に、角度を調整可能に設けられている。このルームミラー1は、本発明の後方監視ミラーに対応している。   FIG. 1 is a side view of a passenger compartment of an automobile. The rearview mirror 1 is provided in the vicinity of the ceiling in front of the center inside the passenger compartment so that the angle can be adjusted. This room mirror 1 corresponds to the rear monitoring mirror of the present invention.

前記ルームミラー1は、運転者3が運転席に座ったとき、運転を開始する前に、このルームミラー1を介して後方の視界が確保できるように向き(角度)が調整される。運転者3は、ルームミラー1を介した視野がリアウィンドウ5をカバーできるように、すなわち、ルームミラー1およびリアウィンドウ5を介して後方の車両等を監視できるように調整する。このように調整されたときの運転者の後方の視野には、後述する赤外線カメラが存在していない。   When the driver 3 sits in the driver's seat, the direction (angle) of the rear-view mirror 1 is adjusted so that a rear view can be secured through the rear-view mirror 1 before starting driving. The driver 3 adjusts so that the field of view through the rearview mirror 1 can cover the rear window 5, that is, the vehicle behind can be monitored through the rearview mirror 1 and the rear window 5. The infrared camera described later does not exist in the visual field behind the driver when adjusted in this way.

運転者の顔は、赤外線照射手段であるLED2により照射される。このLED2は、ダッシュボード6に設けられている。このLED2は、赤外の高輝度LEDであり、赤外線を発光する。このLED2の設置場所は、ダッシュボード6の他、ステアリング(ハンドル部)の中央部など、運転者の顔部分を照射可能な場所であればどこでも良い。運転者の顔は運転中に大きく変動することはないため、LED2の照射範囲はレンズ等(不図示)で適当に絞られる。その照射範囲は、運転者の顔、特に、少なくとも眼及びその周辺領域であれば良く、上半身などの大きな範囲にする必要がない。   The driver's face is irradiated by the LED 2 which is an infrared irradiation means. This LED 2 is provided on the dashboard 6. This LED 2 is an infrared high-brightness LED, and emits infrared light. The installation location of the LED 2 may be anywhere as long as it can irradiate the driver's face, such as the dashboard 6 or the center portion of the steering (handle portion). Since the driver's face does not fluctuate greatly during driving, the irradiation range of the LED 2 is appropriately reduced by a lens or the like (not shown). The irradiation range should just be a driver | operator's face, especially eyes, and its peripheral region, and does not need to be a large range, such as an upper body.

運転者の顔部分に照射された赤外線は乱反射してルームミラー1に進む。この赤外線は、ルームミラー1の第2の反射ミラーで反射され赤外線カメラ4に進む。これにより、運転者の顔、特に眼及びその周辺部分の画像は赤外線カメラ4で撮像される。   The infrared rays irradiated to the driver's face part are diffusely reflected and proceed to the room mirror 1. This infrared ray is reflected by the second reflection mirror of the room mirror 1 and proceeds to the infrared camera 4. As a result, the driver's face, particularly the eyes and images of the peripheral portion thereof, are captured by the infrared camera 4.

なお、運転者3のルームミラー1を介した後方視野10およびその中心線11は、運転者3(または運転者3の視覚)を構成要素とした要件ではなく、ルームミラー1の位置、リアウィンドウ5の位置・大きさ等によって決定される自動車の構造上の特性である。   Note that the rear view 10 and the center line 11 of the driver 3 through the rearview mirror 1 are not a requirement for the driver 3 (or the vision of the driver 3) as a component, but the position of the rearview mirror 1, the rear window 5 is a structural characteristic of the automobile determined by the position and size of 5.

ルームミラー1の後方の斜め上方の天井部には赤外線に感度を有する赤外線カメラ4が設けられている。この赤外線カメラ4は、ルームミラー1の第2の反射ミラーで反射される赤外線による運転者の顔を撮影する。この赤外線カメラは、望ましくは、高ダイナミックレンジのCMOS赤外線カメラ(HDRC)であることが望ましい。すなわち、自動車の車内:特に運転席は、直接外界に視野が開けており、たとえば直射日光による高いコントラストや夜間の極めて低い照度など撮影条件としては劣悪な条件である。このような条件であっても、高ダイナミックレンジのCMOS赤外線カメラであれば、人間の網膜に近いダイナミックレンジを有し、光の強さに対する応答が対数的な関係になるようにされている。これにより、同一画面内における明るい被写体と暗い被写体の明暗比が1000万倍の0.01ルクス〜10万ルクスの高いダイナミックレンジで撮像が可能である。   An infrared camera 4 having sensitivity to infrared rays is provided on an obliquely upper ceiling portion behind the room mirror 1. The infrared camera 4 captures the driver's face by infrared rays reflected by the second reflection mirror of the room mirror 1. The infrared camera is preferably a high dynamic range CMOS infrared camera (HDRC). That is, the inside of a car: in particular, the driver's seat has a clear field of view directly in the outside world. For example, the photographing conditions such as high contrast by direct sunlight and extremely low illuminance at night are poor conditions. Even under such conditions, a CMOS infrared camera with a high dynamic range has a dynamic range close to that of the human retina so that the response to the light intensity has a logarithmic relationship. Thereby, it is possible to capture an image with a high dynamic range of 0.01 lux to 100,000 lux, in which the contrast ratio of a bright subject and a dark subject within the same screen is 10 million times.

これにより、直射日光に照らされた顔面など明暗差が激しい(コントラストの強い)被写体であっても、従来の撮像素子のように、ハイライト部は真っ白になったり、シャドウ部は真っ黒になってしまう「白飛び」や「黒つぶれ」の画像になることがない。   As a result, even with a subject with a strong contrast (strong contrast), such as a face illuminated by direct sunlight, the highlight area becomes white and the shadow area becomes black as in the conventional image sensor. It will not be an image of “overexposure” or “blackout”.

ダッシュボード6内には、上記LED2の発光制御や赤外線カメラ4の出力に基づく画像認識処理等を行う画像認識装置7が設けられている。   In the dashboard 6, there is provided an image recognition device 7 that performs light emission control of the LED 2 and image recognition processing based on the output of the infrared camera 4.

図2は上記ルームミラー1の構成を示す図である。図3は、ルームミラー1の具体的な構成図である。   FIG. 2 is a diagram showing the configuration of the room mirror 1. FIG. 3 is a specific configuration diagram of the room mirror 1.

このルームミラー1は、第1の反射ミラー1aと、この第1の反射ミラー1aに対して所定角θでその背後に設けられた第2の反射ミラー1bと、これらのミラー1a、1bを支持するハウジング1cと、ハウジング1cを保持し、車体に固定する支持アーム1dとで構成されている。運転者が良好な後方視界を得るよう調整可能なようにハウジング1cと支持アーム1dは回転可能な構造で接続され、上下左右方向に回転可能な構造となっている。第1の反射ミラー1aは、詳細については後述するコールドミラーで構成されている。   The room mirror 1 supports the first reflection mirror 1a, the second reflection mirror 1b provided behind the first reflection mirror 1a at a predetermined angle θ, and the mirrors 1a and 1b. And a support arm 1d that holds the housing 1c and fixes it to the vehicle body. The housing 1c and the support arm 1d are connected in a rotatable structure so that the driver can adjust to obtain a good rear view. The housing 1c and the support arm 1d are rotatable in the vertical and horizontal directions. The first reflecting mirror 1a is composed of a cold mirror described later in detail.

第1の反射ミラー1aと第2の反射ミラー1bとは、本実施形態では互いに所定角θを持って固定されるが、撮像しようとする顔面領域を変更する場合や赤外線カメラ4の位置を変更する場合などであれば角度を変更することが可能な構造であっても構わない。   In this embodiment, the first reflecting mirror 1a and the second reflecting mirror 1b are fixed at a predetermined angle θ. However, when changing the face area to be imaged or changing the position of the infrared camera 4 For example, the angle may be changed.

第1の反射ミラー1aであるコールドミラーは、可視光線領域の光を反射し、LED2の発生する赤外線を透過する性質を持つ。本実施形態では、LED2の発生する赤外線は、波長950nmを中心として、900nmから1040nmの範囲の近赤外域にある。そこで、第1の反射ミラー1aは900nm以上の波長の光を透過し、かつ人間の眼の可視領域である400nmから700nmの光を反射する性質を持つ。本実施形態で使用するコールドミラーは、ガラス上の真空蒸着膜による干渉効果を原理とするものを使用するが、このような原理によらず、前記のような波長に応じた反射・透過の性質を持つものであれば、コールドミラーに代えて使用できる。   The cold mirror that is the first reflecting mirror 1a has a property of reflecting light in the visible light region and transmitting infrared light generated by the LED 2. In the present embodiment, the infrared rays generated by the LED 2 are in the near-infrared range of 900 nm to 1040 nm with a wavelength of 950 nm as the center. Therefore, the first reflecting mirror 1a has a property of transmitting light having a wavelength of 900 nm or more and reflecting light of 400 nm to 700 nm which is a visible region of the human eye. The cold mirror used in the present embodiment uses a principle based on the interference effect of the vacuum deposited film on the glass, but without such a principle, the reflection / transmission property according to the wavelength as described above. Can be used instead of a cold mirror.

第2の反射ミラー1bは800nmから1040nmの波長の近赤外線を反射する鏡である。その波長の光を反射する性質を有しておれば、それ以外の波長は反射しても吸収しても透過しても構わない。本実施形態では、容易に低コストで入手できる、ガラスに銀メッキを施した鏡を使用する。   The second reflecting mirror 1b is a mirror that reflects near infrared rays having a wavelength of 800 nm to 1040 nm. Other wavelengths may be reflected, absorbed, or transmitted as long as they have the property of reflecting light of that wavelength. In this embodiment, a mirror made of silver-plated glass, which can be easily obtained at low cost, is used.

図3に示すように、ルームミラー1に対して後方視界中心線Aから入射した光のうち可視光線成分は第1の反射ミラー1aにより反射され、運転者の眼の方向Xに向かう。LED2から発した赤外線は、運転者の顔面に照射され、顔面より反射してルームミラー1に到達し第1の反射ミラー1aを透過し、第2の反射ミラー1bにより反射され、赤外線カメラ4の方向Yへ向かう。また、後方視界から入射した光のうち、第1の反射ミラー1aを透過した赤外線成分は第2の反射ミラー1bにより反射され運転者の眼と異なる方向Zへ向かう。   As shown in FIG. 3, the visible light component of the light incident on the rearview mirror 1 from the rear view center line A is reflected by the first reflecting mirror 1 a and travels in the direction X of the driver's eyes. Infrared light emitted from the LED 2 is irradiated on the face of the driver, reflected from the face, reaches the room mirror 1, passes through the first reflecting mirror 1 a, is reflected by the second reflecting mirror 1 b, and is reflected by the infrared camera 4. Head in direction Y. Of the light incident from the rear view, the infrared component transmitted through the first reflecting mirror 1a is reflected by the second reflecting mirror 1b and travels in a direction Z different from the driver's eyes.

赤外線カメラ4は、車両の車室内の天井部において、後方視界中心線Aと角度2θをもって後方に向かう直線Y上に設置され、ルームミラー1の方向に向かってルームミラー1の全体を撮影するに足る画角で撮影する。   The infrared camera 4 is installed on a straight line Y that goes rearward at an angle 2θ with the rear view center line A at the ceiling of the vehicle interior of the vehicle, and shoots the entire room mirror 1 in the direction of the room mirror 1. Shoot with a sufficient angle of view.

光学原理から、第1の反射ミラー1aと第2の反射ミラー1bとのなす角度がθであるとき、同一方向から第1の反射ミラー1aに方向Xから入射した可視光線と赤外線は、それぞれ第1と第2の反射ミラー1a、1bで反射されそれぞれの方向に進むが、このとき、それぞれの反射光の方向が互いになす角度は、第1の反射ミラー1aに入射した入射角にかかわらず常に2θである。このことは、光の進行方向が逆であっても同様となる。したがって、方向Xから入射して第2の反射ミラー1bで反射して方向Yに進む赤外線と、方向Aから入射する可視光線とのなす角度は、方向Aからの可視光線の入射角にかかわらず、常に2θとなる。   From the optical principle, when the angle formed by the first reflecting mirror 1a and the second reflecting mirror 1b is θ, visible light and infrared light incident on the first reflecting mirror 1a from the same direction from the direction X are respectively The first and second reflecting mirrors 1a and 1b are reflected and travel in the respective directions. At this time, the angles formed by the reflected light directions are always independent of the incident angle incident on the first reflecting mirror 1a. 2θ. This is the same even if the traveling direction of light is reversed. Therefore, the angle formed between the infrared ray incident from the direction X and reflected by the second reflecting mirror 1b and traveling in the direction Y and the visible ray incident from the direction A is independent of the incident angle of the visible ray from the direction A. , Always 2θ.

ここで、方向Aは後方視界の中心に一致し、方向XはLED2から運転者の顔部分で反射した赤外線の照射方向であり、方向Yは赤外線カメラ4の画角の中心に一致する。   Here, the direction A coincides with the center of the rear field of view, the direction X is the irradiation direction of infrared rays reflected from the driver's face portion from the LED 2, and the direction Y coincides with the center of the angle of view of the infrared camera 4.

上記の構成において、運転者3は、第1の反射ミラー1aを通常の後方監視ミラーとして使用する一方、赤外線を視認できない運転者はLED2から照射される赤外線を意識することはない。したがって、方向Aからの後方視界は第1の反射ミラー1aにより確保される。一方、LED2から照射される赤外線は運転者の顔で反射して第1の反射ミラーを透過し、さらに第2の反射ミラーで反射して赤外線カメラ4に到達する。したがって、運転者の顔画像は赤外線カメラ4で確実に撮影される。   In the above configuration, the driver 3 uses the first reflecting mirror 1a as a normal rear monitoring mirror, while a driver who cannot visually recognize infrared rays is not aware of the infrared rays emitted from the LED 2. Therefore, the rear view from the direction A is secured by the first reflecting mirror 1a. On the other hand, the infrared rays emitted from the LED 2 are reflected by the driver's face, transmitted through the first reflecting mirror, and further reflected by the second reflecting mirror to reach the infrared camera 4. Therefore, the driver's face image is reliably captured by the infrared camera 4.

第1の反射ミラー1aは、運転者3が後方を視認できるように調整されているから、運転者の顔位置がどこであっても、赤外線カメラ4では、常に運転者の眼を中心とした顔画像を取得することができる。   Since the first reflecting mirror 1a is adjusted so that the driver 3 can visually recognize the rear, the infrared camera 4 always has a face centered on the driver's eyes regardless of the position of the driver's face. Images can be acquired.

以上の説明は、垂直面について述べたが、水平面についても同様である。すなわち、水平と垂直のそれぞれの平面において、後方視界の中心線から第1と第2の反射ミラー1a、1bのなす角度θの2倍の角度をなす位置に赤外線カメラ4を設置することで、常に運転者3の眼を中心とした顔画像を撮影することができる。そして、そのようにして得られた画像は、画像中に顔の存在する可能性のある位置の範囲が限られるため、画像認識装置5により画像の中から眼またはその周辺部を探索する際の処理量は従来に比して大幅に軽減される。   In the above description, the vertical plane is described, but the same applies to the horizontal plane. That is, by installing the infrared camera 4 at a position that forms an angle twice as large as the angle θ formed by the first and second reflecting mirrors 1a and 1b on the horizontal and vertical planes, A face image centered on the eyes of the driver 3 can always be taken. And since the range of the position where the face may exist in the image is limited, the image obtained in this way is used when the image recognition device 5 searches the eye or its peripheral portion from the image. The amount of processing is greatly reduced as compared with the prior art.

図4は、LED2の内部構成図である。   FIG. 4 is an internal configuration diagram of the LED 2.

点灯制御手段20は、投光の発光・非発光、および発光した場合の発光量を制御する。例えば撮影を行うときのみ発光し撮影しないときは非発光とすることにより無用な電力消費と発熱を避けることができる。あるいは、運転者の周囲に外部から赤外線が照射されているときには撮影に十分な強さになるに足るよう発光量を制御するような使い方も考えられる。さらには、赤外線カメラ4が画像を取得する瞬間に同期して発光する、あるいは発光時の画像と非発光時の画像を個別に取得し差を比較するというような使い方のための制御も考えられる。   The lighting control means 20 controls light emission / non-light emission of light projection and the light emission amount when light is emitted. For example, unnecessary power consumption and heat generation can be avoided by emitting light only when shooting and not emitting light when not shooting. Alternatively, it is also conceivable to use a method of controlling the light emission amount so that the driver is sufficiently strong for photographing when infrared rays are irradiated from the outside around the driver. Furthermore, it is possible to control for usage such that the infrared camera 4 emits light in synchronization with the moment when the image is acquired, or the image at the time of light emission and the image at the time of non-light emission are individually acquired and the difference is compared. .

LED駆動手段21は、点灯制御手段11からの指示に応じてLED部22に電流を供給して発光を制御する。駆動電流を制御することにより、発光する赤外線の強度を制御することができる。   The LED drive unit 21 supplies light to the LED unit 22 in accordance with an instruction from the lighting control unit 11 to control light emission. By controlling the drive current, the intensity of the emitted infrared light can be controlled.

LED部22は、LED駆動手段12から供給される電流により赤外線を発生するひとつまたは複数の赤外LED素子である。本実施例では、950nmを中心に800nmから1040nmの範囲の波長の近赤外線を発生する近赤外LED素子(例えばシャープ株式会社製GL381)を使用する。赤外LED素子の使用個数は、必要とされる光量と、個々の素子の発光光量により決まる。発光する赤外線の波長は、人間に殆ど不可視で、運転手顔面が撮像するのに適当な反射率を持ち、安価に入手でき、安価な撮像素子で撮影でき、空気中で大きく減衰しない、などの特性を持つ必要がある。本実施形態で使用する波長域はその要件を満たすが、要件を満たすのであれば他の波長域を使用しても構わないことはもちろんである。   The LED unit 22 is one or a plurality of infrared LED elements that generate infrared rays by a current supplied from the LED driving unit 12. In this embodiment, a near-infrared LED element (for example, GL381 manufactured by Sharp Corporation) that generates near-infrared rays having a wavelength in the range of 800 nm to 1040 nm centering on 950 nm is used. The number of infrared LED elements used is determined by the required light quantity and the light emission quantity of each element. The wavelength of the emitted infrared light is almost invisible to humans, has a suitable reflectance for the driver's face to capture images, is available at low cost, can be photographed with an inexpensive image sensor, and does not attenuate significantly in the air. Must have characteristics. The wavelength range used in the present embodiment satisfies the requirement, but it goes without saying that other wavelength ranges may be used as long as the requirement is satisfied.

レンズ23は、LED部22により発生された赤外線を、適切な拡がり角度を持つように収束させる。本実施形態では運転者の顔の存在する可能性のある領域を一様に照射するような拡がりを光線に与えている。あるいは赤外LED素子自体が持つ発光指向性が素子が適切な拡がり角を満たす場合であればレンズ23は不要である。   The lens 23 converges the infrared rays generated by the LED unit 22 so as to have an appropriate spread angle. In the present embodiment, the light beam is spread so as to uniformly irradiate a region where the driver's face may exist. Alternatively, the lens 23 is unnecessary if the light emission directivity of the infrared LED element itself satisfies the appropriate divergent angle.

図5は赤外線カメラ4の構成図である。   FIG. 5 is a configuration diagram of the infrared camera 4.

赤外線カメラ4に入射した赤外線は画角制御手段40を経て、レンズ41により収束させられ、赤外線撮像素子42上に結像し電子データに変換されて、画像データ出力手段43により画像データとして出力される。   The infrared rays incident on the infrared camera 4 are converged by the lens 41 through the angle-of-view control means 40, imaged on the infrared imaging element 42, converted into electronic data, and output as image data by the image data output means 43. The

画角制限手段40は、撮影しようとする画像のルームミラー1以外の部分からの光を遮断するためのものである。本発明の課題の一つは、ルームミラー1を介して運転者の顔を撮影することであるので、ルームミラー1による反射光以外の光線は、不要であるばかりでなく、フレアやゴーストや迷光によるノイズの原因となり好ましくない。そのため、画角制限手段により赤外線撮像素子42に入射する光線を、ルームミラー1およびその周辺に制限することが望ましい。ルームミラー1は可動ではあるがその動きはハウジング1cと支持アーム1dとの接続部の回転機構を中心とした回転運動であることと、運転者が得るべき後方視界が車両のリアウィンドウ5を通しての視界であることから、その可動範囲は限定されており予測可能である。したがって、ルームミラー1が可動範囲内全体を撮影可能で範囲外が遮蔽されるような画角制限手段を使用することにより、必要以外の光線が赤外線撮像素子42に入射することを制限することができる。不要な光線による影響が問題にならない場合かあるいはレンズ41がそのような画角制限機能を併せ持つのであれば、画角制限手段40は無くても良い。   The angle-of-view restriction means 40 is for blocking light from a portion other than the room mirror 1 of the image to be photographed. Since one of the problems of the present invention is to photograph the driver's face through the rearview mirror 1, not only the light reflected by the rearview mirror 1 is unnecessary, but also flare, ghost and stray light. This is not preferable because it causes noise. Therefore, it is desirable to limit the light rays incident on the infrared imaging element 42 to the room mirror 1 and its surroundings by the view angle limiting means. Although the rearview mirror 1 is movable, its movement is a rotational movement centering on the rotation mechanism of the connection portion between the housing 1c and the support arm 1d, and the rear view to be obtained by the driver passes through the rear window 5 of the vehicle. Since it is a field of view, its movable range is limited and predictable. Therefore, by using an angle-of-view restricting means that allows the room mirror 1 to capture the entire movable range and shields the outside of the range, it is possible to limit the incident of light rays other than necessary to the infrared imaging element 42. it can. If the influence of unnecessary rays does not matter or if the lens 41 has such a view angle limiting function, the view angle limiting means 40 may be omitted.

赤外線撮像素子42は、LED2が発生する波長の赤外線に対して十分な感度を持つものを使用する。本実施形態では、LED2が発生する赤外線の波長は950nmをピーク波長とする800nmから1040nmの波長域である。一般にシリコンフォトダイオードは可視光線領域のみならず、1100nm程度の波長の近赤外線領域までの感度を持つため、シリコンフォトダイオードの原理を使用して製作されたCCD,CMOSなどの撮像素子を使用した赤外線カメラが使用できる。例えば、ソニー社製のCCD撮像素子ICX429ALLの例では、950nmの波長においてもピーク感度の20%程度の感度を持つので本実施形態における赤外線撮像素子42として感度の点では好適である。同様の赤外感度を持つシリコンフォトダイオードを使用して政策された高ダイナミックレンジのCMOS赤外線カメラであればさらに好適である。また、外乱光の影響を小さくするために、可視光線を遮断し赤外線を透過するフィルタなどの手段を用いて撮像素子がLED2からの光の波長域以外の波長の光を感知しないようにしても良い。   As the infrared imaging element 42, an element having sufficient sensitivity to infrared rays having a wavelength generated by the LED 2 is used. In the present embodiment, the wavelength of infrared rays generated by the LED 2 is in a wavelength range from 800 nm to 1040 nm with a peak wavelength of 950 nm. In general, silicon photodiodes have sensitivity not only in the visible light region but also in the near-infrared region with a wavelength of about 1100 nm. Therefore, infrared using an image sensor such as a CCD or CMOS manufactured using the principle of silicon photodiodes. Camera can be used. For example, the example of the CCD image pickup device ICX429ALL manufactured by Sony has a sensitivity of about 20% of the peak sensitivity even at a wavelength of 950 nm, and thus is suitable in terms of sensitivity as the infrared image pickup device 42 in the present embodiment. A high dynamic range CMOS infrared camera, which is planned using a silicon photodiode having the same infrared sensitivity, is more preferable. Further, in order to reduce the influence of disturbance light, it is possible to prevent the imaging element from sensing light having a wavelength other than the wavelength range of light from the LED 2 by using a filter such as a filter that blocks visible light and transmits infrared light. good.

赤外線カメラ4の撮影する画角は、ルームミラー1全体を撮影する大きさがあれば十分である。ルームミラー1を含む円の半径を100mm、赤外線カメラ4からルームミラー1までの距離を300mmであるとした場合、適切な拡がり角度は 2*tan-1(100/300)、すなわち約37度である。また、そのとき、ルームミラー1の大きさを水平方向に200mm、垂直方向に50mmであるとし、ルームミラー1から運転者の顔面までの距離を400mmとすると、運転者の顔面が撮影される範囲は、垂直方向に116mm、水平方向に466mmとなり、運転者の眼を撮影するのに十分な大きさを持つ。   It is sufficient that the angle of view of the infrared camera 4 is large enough to capture the entire room mirror 1. If the radius of the circle including the room mirror 1 is 100 mm and the distance from the infrared camera 4 to the room mirror 1 is 300 mm, the appropriate spread angle is 2 * tan-1 (100/300), that is, about 37 degrees. is there. At that time, if the size of the rearview mirror 1 is 200 mm in the horizontal direction and 50 mm in the vertical direction, and the distance from the rearview mirror 1 to the driver's face is 400 mm, the range in which the driver's face is photographed The size is 116mm in the vertical direction and 466mm in the horizontal direction, which is large enough to photograph the driver's eyes.

赤外線カメラ4で取得された画像は画像認識装置7(図1参照)に送られる。   The image acquired by the infrared camera 4 is sent to the image recognition device 7 (see FIG. 1).

画像認識装置7は受け取った画像データを処理し、画像中の運転者顔面情報から自動車の安全機能や快適機能を実現するために必要な運転者の状態に関する情報を認識し出力する。運転者の顔画像から得られる運転者の状態により実現される機能は多様であり、本発明は認識機能を特定するものでは無いが、本実施形態では一例として脇見検知機能のための視線検出機能を持つものとする。   The image recognition device 7 processes the received image data, and recognizes and outputs information relating to the driver's state necessary for realizing the safety function and comfort function of the vehicle from the driver face information in the image. There are various functions realized by the driver's state obtained from the driver's face image, and the present invention does not specify the recognition function, but in this embodiment, as an example, the line-of-sight detection function for the armpit detection function Shall have.

脇見検知を実現する一方法として、運転者の視線を検出し、視線方向が適切なタイミングで適切な方向を向いていることを判定する方法がある。視線を検知することによる方法は、別の実現方法である運手者の顔の向きにより判定する方法に比べて、実際の注視方向を検出するという点で高精度で確実度が高い。一方で、視線を検出する画像認識処理は、顔の向きを検出する画像認識処理に比べて大幅に高度な処理であり、入力される画像から運転者の眼を迅速かつ確実に検出することが要求される。本発明は、運転者の眼部分を撮影するものであるため、視線検出機能は本発明の実施形態として好適である。   As a method for realizing the side-by-side detection, there is a method of detecting the driver's line of sight and determining that the direction of the line of sight is directed in an appropriate direction at an appropriate timing. The method by detecting the line of sight is highly accurate and highly reliable in that it detects the actual gaze direction as compared to the method of determining by the direction of the face of the operator, which is another implementation method. On the other hand, the image recognition process for detecting the line of sight is significantly more advanced than the image recognition process for detecting the orientation of the face, and can quickly and reliably detect the driver's eyes from the input image. Required. Since the present invention captures the driver's eye part, the line-of-sight detection function is suitable as an embodiment of the present invention.

本発明においては、上記画像認識装置7に報知手段を接続することにより安全運転支援装置として使用することが可能である。
安全運転支援装置では、画像認識装置7は上記視線検出を行う。本実施形態では、画像認識装置7がルームミラーに映る運転者の目周辺の画像を用いて視線検出を行うことが可能であるため、運転者が後方を確認するためにルームミラーの方向に視線を向けたときに、眼球の正面がカメラ方向に向くことで視線を高精度で検出できる。これにより、運転者が後方の確認を行う行為の有無について運転席前方に取り付けたカメラよりも遥かに正確に検出することができる。したがって、例えば、運転者が前方の一定方向のみを見ていて5分間以上の長い時間の間、ルームミラーの方向に視線を向けなければ、注意力が低下していると判定することが可能となる。安全運転支援装置では、上記画像認識装置7において注意力が低下したことを検出したときに、報知手段により、音声メッセージや表示装置への表示、LEDの点滅、ステアリングやペダルへのキックバックなどで運転者に対して、後方を確認するよう注意を喚起する構成にする。このようにすれば、運転者の注意力が低下して前方以外の後方などの周囲の状況に十分な注意を払っていないときに注意力を回復させることができる。
In the present invention, the image recognition device 7 can be used as a safe driving support device by connecting a notification means.
In the safe driving support device, the image recognition device 7 performs the line-of-sight detection. In the present embodiment, the image recognition device 7 can detect the line of sight using an image around the eyes of the driver that is reflected in the rearview mirror, so that the driver can gaze in the direction of the rearview mirror in order to confirm the rear. When the eye is pointed, the line of sight can be detected with high accuracy because the front of the eyeball faces the camera. Accordingly, it is possible to detect the presence / absence of the action of the driver confirming backwards more accurately than a camera attached in front of the driver's seat. Therefore, for example, it is possible to determine that the driver's attention is reduced if the driver looks only in a certain forward direction and does not turn his gaze toward the rear mirror for a long time of 5 minutes or longer. Become. In the safe driving support device, when it is detected that the attention is reduced in the image recognizing device 7, an informing means performs a voice message, display on the display device, blinking LED, kickback to the steering wheel or pedal, etc. A configuration that alerts the driver to confirm the rear is adopted. In this way, the driver's attention can be reduced, and the driver's attention can be recovered when the driver is not paying sufficient attention to the surrounding situation other than the front.

また、上記安全運転支援装置において、顔方向も安全運転支援のための重要な情報として利用することができる。画像認識装置7では、ルームミラーに映る運転者の目付近の画像を使って顔方向を検出することが可能で、特に、運転者が助手席側のルームミラー方向に顔を向けたときに、目の画像が左右対称に近くなることから、これを判定することにより非常に正確に顔方向を検出できる。そして、一定の時間以上顔方向が正面を向いていないときには、報知手段により、上記と同様に、音声メッセージや表示装置への表示、LEDの点滅、ステアリングやペダルへのキックバックなどで運転者に対して、後方を確認するよう注意を喚起する構成にする。   In the safe driving support device, the face direction can also be used as important information for safe driving support. In the image recognition device 7, it is possible to detect the face direction using an image near the driver's eyes reflected in the rearview mirror, particularly when the driver turns his face in the rearview mirror direction on the passenger seat side. Since the image of the eyes is nearly symmetrical, the face direction can be detected very accurately by determining this. Then, when the face direction is not facing the front for a certain period of time, the notification means informs the driver by voice message, display on the display device, blinking of the LED, kickback to the steering wheel or pedal, etc. On the other hand, a structure that calls attention to confirm the rear is adopted.

なお、両目周辺の画像あるいは片目しか映っていない横顔の目周辺の画像を使って検出した顔方向についても、安全運転支援のために、視線に関する情報と同様に有効に活用することができる。   It should be noted that the face direction detected using the image around both eyes or the image around the side of the side face in which only one eye is reflected can be effectively used in the same manner as the information on the line of sight for safe driving support.

図6に画像認識装置7の構成例を示す。   FIG. 6 shows a configuration example of the image recognition device 7.

赤外線カメラ4から送られた画像データは眼検出手段70に送られる。眼検出手段70は、画像中から人間の眼を検出し、検出された眼部分画像データを視線検出手段71に送り、同時に眼検出の成否すなわち眼の検出結果の有無情報を判定手段に送る。   The image data sent from the infrared camera 4 is sent to the eye detection means 70. The eye detection means 70 detects human eyes from the image, sends the detected eye partial image data to the line-of-sight detection means 71, and simultaneously sends the eye detection success / failure information, ie, the presence / absence information of the eye detection result to the determination means.

視線検出手段71は、眼部分の画像データから眼全体の形状と眼部分内の瞳の相対位置から視線方向を検出し、視線情報出力72として出力する。同時に、視線検出の成否すなわち視線の検出結果の有無情報を判定手段に送る。   The line-of-sight detection means 71 detects the line-of-sight direction from the shape of the entire eye and the relative position of the pupil in the eye part from the image data of the eye part, and outputs it as the line-of-sight information output 72. At the same time, the presence / absence information of the line-of-sight detection result is sent to the determination means.

判定手段73は、眼検出の有無情報と視線検出の有無情報から、眼の状態を判定し判定情報出力74として出力する。判定情報出力74に出力される情報は、例えば眼が検出されないときは眼検出失敗とされるが、これは運転者が前方を向いていない可能性があることを示す情報として利用される。あるいは、眼検出は成功したが、視線が検出されない場合は視線検出失敗とされ、これは運転者が眼を閉じている可能性があることを示す情報として利用される。あるいは、眼検出失敗にかかわらず視線検出が成功した場合は、何らかの画像認識処理上の誤認識が発生とした可能性が高いとするというような、視線情報出力の信頼度を示す情報として利用されることも可能である。   The determination unit 73 determines the state of the eye from the presence / absence information of eye detection and the presence / absence information of eye-gaze detection, and outputs it as the determination information output 74. The information output to the determination information output 74 is, for example, an eye detection failure when no eyes are detected, but this is used as information indicating that the driver may not be facing forward. Alternatively, the eye detection is successful, but when the line of sight is not detected, the line of sight detection is failed, and this is used as information indicating that the driver may have closed the eyes. Alternatively, when eye detection succeeds regardless of eye detection failure, it is used as information indicating the reliability of eye information output, such as the possibility that misrecognition in some image recognition processing has occurred. It is also possible.

図7は、赤外線カメラ4の設置位置例を示す図である。   FIG. 7 is a diagram illustrating an installation position example of the infrared camera 4.

前記第2の反射ミラー1bと第2の反射ミラー1bとのなす角度θはゼロから90度の範囲で任意に設定可能である。このため、この角度θを調整することにより、赤外線カメラ4の設置位置の自由度を高くできる。例えば、図7(A)のように、赤外線カメラ4を第2の反射ミラー1bに近づけると運転者3の眼を中心とした広い範囲を撮影することができ、反対に、図7(B)のように、赤外線カメラ4を第2の反射ミラー1bから遠ざけると運転者3の眼とその周辺の狭い範囲を撮影することができる。いずれの場合も、赤外線カメラ4が後方視界を妨げることがないから運転者3はいつの場合も問題なく後方を監視することができる。   The angle θ formed by the second reflection mirror 1b and the second reflection mirror 1b can be arbitrarily set in the range of zero to 90 degrees. For this reason, the degree of freedom of the installation position of the infrared camera 4 can be increased by adjusting the angle θ. For example, as shown in FIG. 7A, when the infrared camera 4 is brought close to the second reflecting mirror 1b, a wide range centering on the eyes of the driver 3 can be photographed. As described above, when the infrared camera 4 is moved away from the second reflecting mirror 1b, the eye of the driver 3 and a narrow range around it can be photographed. In any case, since the infrared camera 4 does not interfere with the rear view, the driver 3 can always monitor the rear without any problem.

なお、図3において説明したように、図8のように後方から赤外線を含む外光30、例えば後続車のヘッドライトの光などがルームミラー1に向けて照射されることがあり、その場合、従来のルームミラー1においては運転者3の顔面に強い赤外線が照射されることになるが、本実施形態では、この方向からの外光30は、図示のように第1の反射ミラー1bを通過し、第2の反射ミラー1bにより運転者3の顔面と異なる方向Zに反射されるため、撮影画像に影響を及ぼすことがない。   As described with reference to FIG. 3, external light 30 including infrared rays, for example, light from a headlight of a subsequent vehicle, may be emitted toward the rearview mirror 1 from the rear as illustrated in FIG. 8. In the conventional room mirror 1, strong infrared light is applied to the face of the driver 3. In this embodiment, the external light 30 from this direction passes through the first reflecting mirror 1 b as shown in the figure. However, since the second reflecting mirror 1b reflects the light in the direction Z different from the face of the driver 3, the captured image is not affected.

また、図8において、可視光線を透過せず、赤外線を透過するカバー31で赤外線カメラ4を覆うことにより、運転者3からは赤外線カメラ4が完全に隠蔽される。このように構成することで、運転者3に対する心理的圧迫感をなくし、また、内装デザイン上の制約もなくすことができる。   In FIG. 8, the infrared camera 4 is completely hidden from the driver 3 by covering the infrared camera 4 with a cover 31 that does not transmit visible light but transmits infrared light. By comprising in this way, the psychological pressure feeling with respect to the driver | operator 3 can be eliminated, and the restrictions on interior design can also be eliminated.

なお、この実施形態は、自動車に適用した例を示したが、自動車以外に、鉄道車両、船舶等に適用することも可能である。   In addition, although this embodiment showed the example applied to the motor vehicle, it is also possible to apply to a rail vehicle, a ship, etc. besides a motor vehicle.

この発明の実施形態である運転者撮影装置の構成を説明する図The figure explaining the structure of the driver | operator imaging device which is embodiment of this invention ルームミラー1の構成を示す図The figure which shows the structure of the room mirror 1 ルームミラー1の具体的な構成を示す図The figure which shows the specific structure of the room mirror 1 LED2の構成を示す図The figure which shows the structure of LED2 赤外線カメラ4の構成を示す図The figure which shows the structure of the infrared camera 4 画像認識装置7の構成を示す図The figure which shows the structure of the image recognition apparatus 7 赤外線カメラ4の設置例を示す図The figure which shows the example of installation of the infrared camera 4 赤外線カメラ4を隠蔽するカバーを示す図The figure which shows the cover which hides the infrared camera 4

符号の説明Explanation of symbols

1−ルームミラー
1a−第1の反射ミラー
1b−第2の反射ミラー
2−(近赤外高輝度)LED
3−運転者
4−赤外線カメラ
7−画像認識装置
1-room mirror 1a-first reflection mirror 1b-second reflection mirror 2- (near infrared high brightness) LED
3-Driver 4-Infrared camera 7-Image recognition device

Claims (8)

可視光線を反射し赤外線を透過する第1の反射手段と、該第1の反射手段に対して所定角θでその背後に設けられ赤外線を反射する第2の反射手段と、を備えたことを特徴とする移動体の後方監視ミラー。 A first reflecting means for reflecting visible light and transmitting infrared light; and a second reflecting means for reflecting infrared light provided behind the first reflecting means at a predetermined angle θ. A rear view mirror of a moving object. 可視光線を反射し赤外線を透過する第1の反射手段と、該第1の反射手段に対して所定角θでその背後に設けられ赤外線を反射する第2の反射手段とを備え、運転席の前方の斜め上方に設置された後方監視ミラーと、
運転者の顔面に対応する領域に向けて赤外線を照射する運転者照明装置と、
前記後方監視ミラーの後方の斜め上方に設置された赤外線に感度を有するカメラと、
を備えたことを特徴とする運転者撮影装置。
A first reflecting means that reflects visible light and transmits infrared light; and a second reflecting means that is provided behind the first reflecting means at a predetermined angle θ and reflects infrared light. A rear-viewing mirror installed obliquely above the front;
A driver illumination device that emits infrared rays toward an area corresponding to the driver's face;
A camera having sensitivity to infrared rays installed obliquely above and behind the rear monitoring mirror;
A driver photographing apparatus comprising:
前記カメラは、前記第1の反射手段による後方視界の中心線に対して2θの方向に設置したことを特徴とする請求項2記載の運転者撮影装置。 3. The driver photographing apparatus according to claim 2, wherein the camera is installed in a direction of 2θ with respect to a center line of a rear view by the first reflecting means. 前記カメラは、前記後方監視ミラー以外の部分からの光線を遮断する画角制御手段を備えることを特徴とする請求項2又は3記載の運転者撮影装置。 4. The driver photographing apparatus according to claim 2, wherein the camera includes an angle-of-view control unit that blocks light from a portion other than the rear monitoring mirror. 5. 前記カメラを覆い、可視光線を透過せず赤外線を透過するカバーを設けたことを特徴とする請求項2〜4のいずれかに記載の運転者撮影装置。 5. The driver photographing apparatus according to claim 2, wherein a cover that covers the camera and transmits infrared rays without transmitting visible light is provided. 前記カメラは、高ダイナミックレンジのカメラである請求項2〜5のいずれかに記載の運転者撮影装置。   The driver photographing apparatus according to claim 2, wherein the camera is a high dynamic range camera. 請求項2〜6のいずれかに記載の運転者撮影装置と、
この運転者撮影装置で撮影された画像から運転者の顔または眼を検出し、検出した顔または眼の画像に基づいて居眠り、脇見運転、注意力の低下等の運転者の状態を判定する画像認識装置と、
を備えた運転者監視装置。
The driver photographing apparatus according to any one of claims 2 to 6,
An image for detecting a driver's face or eyes from an image photographed by the driver photographing apparatus, and determining a driver's state such as a nap, a side-by-side driving, a decrease in attention, etc. based on the detected face or eye image A recognition device;
Driver monitoring device with
請求項7の運転者監視装置と、この運転者撮影装置で判定された運転者の状態を表す情報に基づいて運転者に注意を喚起するための報知をする報知手段とを備えた安全運転支援装置。 A safe driving support comprising: the driver monitoring device according to claim 7; and a notification means for notifying the driver based on information representing the state of the driver determined by the driver photographing device. apparatus.
JP2005067257A 2005-03-10 2005-03-10 Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device Pending JP2006248365A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005067257A JP2006248365A (en) 2005-03-10 2005-03-10 Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005067257A JP2006248365A (en) 2005-03-10 2005-03-10 Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device

Publications (1)

Publication Number Publication Date
JP2006248365A true JP2006248365A (en) 2006-09-21

Family

ID=37089308

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005067257A Pending JP2006248365A (en) 2005-03-10 2005-03-10 Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device

Country Status (1)

Country Link
JP (1) JP2006248365A (en)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008171065A (en) * 2007-01-09 2008-07-24 Denso Corp Sleepiness detection device
US7946744B2 (en) 2007-02-02 2011-05-24 Denso Corporation Projector and image pickup apparatus
US8218832B2 (en) 2007-12-07 2012-07-10 Denso Corporation Apparatus for detecting feature of driver's face
JP2013103530A (en) * 2011-11-10 2013-05-30 Denso Corp State monitor apparatus
JP2015097087A (en) * 2013-11-05 2015-05-21 ビステオン グローバル テクノロジーズ インコーポレイテッド System and method for monitoring driver of vehicle
WO2016132848A1 (en) * 2015-02-16 2016-08-25 株式会社デンソー Driving assistance device and driving assistance method
EP3153354A4 (en) * 2014-06-09 2018-01-24 Nippon Seiki Co., Ltd. Blind spot assistance device
US20180110428A1 (en) * 2016-10-20 2018-04-26 Panasonic Intellectual Property Management Co., Ltd. Pulse wave measuring apparatus and pulse wave measuring method
JP2018069026A (en) * 2016-10-20 2018-05-10 パナソニックIpマネジメント株式会社 Pulse wave measurement device and pulse wave measurement method
US10046705B2 (en) 2013-12-25 2018-08-14 Nippon Seiki Co., Ltd. Blind spot assist device
CN115398883A (en) * 2020-07-29 2022-11-25 Jvc建伍株式会社 Infrared imaging device and infrared imaging system

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000225893A (en) * 1999-02-08 2000-08-15 Tokai Rika Co Ltd Inner mirror

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000225893A (en) * 1999-02-08 2000-08-15 Tokai Rika Co Ltd Inner mirror

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008171065A (en) * 2007-01-09 2008-07-24 Denso Corp Sleepiness detection device
US7946744B2 (en) 2007-02-02 2011-05-24 Denso Corporation Projector and image pickup apparatus
US8218832B2 (en) 2007-12-07 2012-07-10 Denso Corporation Apparatus for detecting feature of driver's face
JP2013103530A (en) * 2011-11-10 2013-05-30 Denso Corp State monitor apparatus
JP2015097087A (en) * 2013-11-05 2015-05-21 ビステオン グローバル テクノロジーズ インコーポレイテッド System and method for monitoring driver of vehicle
US10046705B2 (en) 2013-12-25 2018-08-14 Nippon Seiki Co., Ltd. Blind spot assist device
EP3153354A4 (en) * 2014-06-09 2018-01-24 Nippon Seiki Co., Ltd. Blind spot assistance device
WO2016132848A1 (en) * 2015-02-16 2016-08-25 株式会社デンソー Driving assistance device and driving assistance method
US20180110428A1 (en) * 2016-10-20 2018-04-26 Panasonic Intellectual Property Management Co., Ltd. Pulse wave measuring apparatus and pulse wave measuring method
JP2018069026A (en) * 2016-10-20 2018-05-10 パナソニックIpマネジメント株式会社 Pulse wave measurement device and pulse wave measurement method
US11147464B2 (en) 2016-10-20 2021-10-19 Panasonic Intellectual Property Management Co., Ltd. Pulse wave measuring apparatus and pulse wave measuring method
CN115398883A (en) * 2020-07-29 2022-11-25 Jvc建伍株式会社 Infrared imaging device and infrared imaging system
CN115398883B (en) * 2020-07-29 2024-01-09 Jvc建伍株式会社 Infrared imaging device and infrared imaging system

Similar Documents

Publication Publication Date Title
JP2006252138A (en) Apparatus for photographing driver and apparatus for monitoring driver
JP2006248365A (en) Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device
JP2006248363A (en) Driver lighting system, driver photographing device and driver monitoring device
US10095914B2 (en) Image pickup device, near infrared light emission device, and sunvisor
WO2014017061A1 (en) State monitoring device
JP2008094221A (en) Eye state detector, and eye state detector mounting method
JP5761046B2 (en) Anti-glare control device
JP2007004448A (en) Line-of-sight detecting apparatus
JP2002316580A (en) Mirror device with built-in camera
JP5368771B2 (en) Crew monitoring device
JP4269998B2 (en) Imaging device
JP2008189253A (en) Anti-glare control device
JP6567842B2 (en) Liquor detection device and room mirror device
JP2007029712A (en) Visual axis detecting apparatus
US20130120574A1 (en) State monitor apparatus
JP2010179817A (en) Anti-dazzling device for vehicle
JP5352266B2 (en) Anti-glare device
JP6572809B2 (en) Image processing device
JP3296119B2 (en) Gaze direction measuring device for vehicles
KR102320030B1 (en) Camera system for internal monitoring of the vehicle
JP5206190B2 (en) Driver monitoring device
CN110789455B (en) Outside rear-view mirror and vehicle
JP2003011722A (en) Nighttime running support device
JP2009096323A (en) Camera illumination control device
WO2021172333A1 (en) Vehicle display device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100506

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100525

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20101005