JP2017013515A - Light projection device - Google Patents

Light projection device Download PDF

Info

Publication number
JP2017013515A
JP2017013515A JP2015128709A JP2015128709A JP2017013515A JP 2017013515 A JP2017013515 A JP 2017013515A JP 2015128709 A JP2015128709 A JP 2015128709A JP 2015128709 A JP2015128709 A JP 2015128709A JP 2017013515 A JP2017013515 A JP 2017013515A
Authority
JP
Japan
Prior art keywords
light
unit
infrared light
light source
source unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015128709A
Other languages
Japanese (ja)
Other versions
JP6433383B2 (en
Inventor
朝子 重田
Asako Shigeta
朝子 重田
康明 瀧本
Yasuaki Takimoto
康明 瀧本
敬 平野
Takashi Hirano
敬 平野
友美 保科
Tomomi Hoshina
友美 保科
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2015128709A priority Critical patent/JP6433383B2/en
Publication of JP2017013515A publication Critical patent/JP2017013515A/en
Application granted granted Critical
Publication of JP6433383B2 publication Critical patent/JP6433383B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide a light projection device for lightening a wide range in a uniform state, at low cost.SOLUTION: A light projection device 10 uses a protection plate 11 for protecting a display surface of a meter display 4 which is installed in a vehicle 1, as a light guide plate. A light emission control part 13 controls light emission of an IR light source part 12, guides the IR light from the IR light source part 12 with the protection plate 11 for radiating the light into inside of the vehicle 1. Therefore, inside of the vehicle 1 can be lightened over a wide range in a uniform state, in the light projection device 10.SELECTED DRAWING: Figure 1

Description

この発明は、車室内の乗員を撮像するカメラ用の照明として、赤外光を照射する投光装置に関するものである。   The present invention relates to a projector that irradiates infrared light as illumination for a camera that captures an occupant in a passenger compartment.

近年、自動車等の移動体において、運転者の居眠りおよび脇見などの不安全行動を検知し、警告または自動ブレーキなどの制動を行うシステムが提案されている。このシステムでは、日光などの車外からの外乱に影響されることなく運転者の映像を取得するために、運転者に近赤外光(IR光)を照射して近赤外カメラで撮像する手法を用いることが一般的である(例えば、特許文献1参照)。   2. Description of the Related Art In recent years, a system has been proposed that detects unsafe behavior such as a driver's drowsiness and looking aside in a moving body such as an automobile and performs braking such as warning or automatic braking. In this system, in order to acquire a driver's image without being affected by external disturbances such as sunlight, a method of irradiating the driver with near infrared light (IR light) and imaging with a near infrared camera Is generally used (see, for example, Patent Document 1).

特開2012−168748号公報JP 2012-168748 A

上記の近赤外光は、運転者を広範囲かつ均一に照らすことが望ましい。しかし、車室内の光源の設置スペースは限られており、設置場所の確保が難しい。
そこで、例えば上記特許文献1では、車速およびエンジン回転数等の計測値を指示する指針等をメータ画像として表示する液晶表示装置のバックライトに近赤外光源を埋め込み、バックライトからの近赤外光を導光板で拡散し、近赤外光を通過させる特殊なカラーフィルタを介して出射することが提案されている。この構成の場合、特殊なカラーフィルタを用いるために価格が高くなるという課題があった。
It is desirable that the near infrared light illuminates the driver in a wide range and uniformly. However, the installation space for the light source in the passenger compartment is limited, and it is difficult to ensure the installation location.
Therefore, for example, in Patent Document 1, a near-infrared light source is embedded in a backlight of a liquid crystal display device that displays a pointer indicating a measured value such as a vehicle speed and an engine speed as a meter image, and the near-infrared from the backlight is displayed. It has been proposed to emit light through a special color filter that diffuses light with a light guide plate and allows near-infrared light to pass through. In the case of this configuration, there is a problem that the price is high because a special color filter is used.

この発明は、上記のような課題を解決するためになされたもので、広範囲かつ均一に照らす投光装置を、低コストで実現することを目的とする。   The present invention has been made to solve the above-described problems, and an object thereof is to realize a light projecting device that illuminates a wide range and uniformly at a low cost.

この発明に係る投光装置は、車室内に設置された表示装置の表示面を保護する保護板と、保護板に赤外光を入射する光源部と、光源部の発光を制御し、光源部からの赤外光を保護板で導光させ車室内へ照射する発光制御部とを備えるものである。   A light projecting device according to the present invention includes a protective plate that protects a display surface of a display device installed in a vehicle interior, a light source unit that makes infrared light incident on the protective plate, and controls light emission of the light source unit. And a light emission control unit for guiding the infrared light from the protective plate to irradiate the vehicle interior.

この発明によれば、表示装置の保護板を赤外光の導光板として利用するようにしたので、車室内を広範囲かつ均一に照らす投光装置を、低コストで実現することができる。また、表示装置の保護板を赤外光の導光板として利用するので、新たに導光板を設置するスペースも必要ない。   According to the present invention, since the protective plate of the display device is used as an infrared light guide plate, it is possible to realize a light projector that illuminates the vehicle interior in a wide range and uniformly. Further, since the protective plate of the display device is used as an infrared light guide plate, a space for newly installing the light guide plate is not required.

この発明の実施の形態1に係る投光装置を用いたドライバセンシングシステムの概要を示す図である。It is a figure which shows the outline | summary of the driver sensing system using the light projection apparatus which concerns on Embodiment 1 of this invention. 実施の形態1に係る投光装置を用いたドライバセンシングシステムの構成例を示すブロック図である。It is a block diagram which shows the structural example of the driver sensing system using the light projection apparatus which concerns on Embodiment 1. FIG. 実施の形態1に係る投光装置の保護板の構成例を示すブロック図である。3 is a block diagram illustrating a configuration example of a protection plate of the light projecting device according to Embodiment 1. FIG. 実施の形態1に係る投光装置の概要を示す断面図である。1 is a cross-sectional view illustrating an outline of a light projecting device according to a first embodiment. 実施の形態1に係る投光装置を組み込んだメータディスプレイの一例を示す正面図である。It is a front view which shows an example of the meter display incorporating the light projection apparatus which concerns on Embodiment 1. FIG. 実施の形態1に係る投光装置のハードウエア構成例を示す図である。2 is a diagram illustrating an example of a hardware configuration of a light projecting device according to Embodiment 1. FIG. 実施の形態1に係る投光装置を用いたドライバセンシングシステムの動作例を示すフローチャートである。6 is a flowchart illustrating an operation example of the driver sensing system using the light projecting device according to the first embodiment. この発明の実施の形態2に係る投光装置の保護板の構成例を示すブロック図である。It is a block diagram which shows the structural example of the protection board of the light projector which concerns on Embodiment 2 of this invention. 実施の形態2に係る投光装置の保護板に第2のIR光照射部を形成した例を示す図である。It is a figure which shows the example which formed the 2nd IR light irradiation part in the protective plate of the light projector which concerns on Embodiment 2. FIG. 実施の形態2に係る投光装置を組み込んだメータディスプレイの一例を示す正面図である。It is a front view which shows an example of the meter display incorporating the light projector which concerns on Embodiment 2. FIG. 実施の形態2において角膜反射法を説明する図であり、運転者の眼球を上から見た図である。It is a figure explaining the cornea reflection method in Embodiment 2, and is the figure which looked at the driver | operator's eyeball from the top. 実施の形態2において角膜反射法を説明する図であり、運転者の眼球を正面から見た図である。It is a figure explaining the cornea reflection method in Embodiment 2, and is the figure which looked at the driver | operator's eyeball from the front. 実施の形態2に係る投光装置が、図7に示したステップST7で行う動作例を示すフローチャートである。10 is a flowchart illustrating an operation example performed by the light projecting device according to Embodiment 2 in step ST7 illustrated in FIG.

実施の形態1.
図1は、この発明の実施の形態1に係る投光装置10を用いたドライバセンシングシステムの概要を示す図である。図2は、このドライバセンシングシステムの構成例を示すブロック図である。
ドライバセンシングシステムは、車室内1において運転席前方のダッシュボード3側から運転者2へ向けてIR光を照射する投光装置10と、運転者2に反射したIR光を撮像するIRカメラ5と、IRカメラ5が撮像した画像を処理して運転者2の顔の向きまたは瞬きなどを認識し、脇見または居眠りといった運転者2の状態を推定する画像処理装置6とを備えている。
Embodiment 1 FIG.
FIG. 1 is a diagram showing an outline of a driver sensing system using a light projecting device 10 according to Embodiment 1 of the present invention. FIG. 2 is a block diagram illustrating a configuration example of the driver sensing system.
The driver sensing system includes a light projecting device 10 that irradiates IR light toward the driver 2 from the dashboard 3 side in front of the driver's seat in the vehicle interior 1, an IR camera 5 that captures IR light reflected by the driver 2, and And an image processing device 6 that processes the image captured by the IR camera 5 to recognize the face direction or blink of the driver 2 and estimates the state of the driver 2 such as looking aside or falling asleep.

実施の形態1に係る投光装置10は、運転者2の前方のダッシュボード3に設置されたメータディスプレイ4の表示面を保護する保護板11を、IR光源部12のための導光板として用いる。メータディスプレイ4は、車速およびエンジン回転数等の計測値を指示する指針等をメータ画像として表示する液晶表示装置である。このメータディスプレイ4の保護板11の縁にIR光源部12を設置し、IR光源部12が発するIR光を保護板11で散乱させ、運転者2に向けて広範囲かつ均一に照射する。図1においては、IR光源部12からのIR光を実線の矢印で示す。   The light projecting device 10 according to the first embodiment uses a protective plate 11 that protects the display surface of the meter display 4 installed on the dashboard 3 in front of the driver 2 as a light guide plate for the IR light source unit 12. . The meter display 4 is a liquid crystal display device that displays a pointer or the like for instructing measurement values such as a vehicle speed and an engine speed as a meter image. An IR light source unit 12 is installed on the edge of the protective plate 11 of the meter display 4, and the IR light emitted from the IR light source unit 12 is scattered by the protective plate 11 to irradiate the driver 2 in a wide range and uniformly. In FIG. 1, IR light from the IR light source unit 12 is indicated by a solid line arrow.

既存の保護板11を導光板として利用するので、IR光源部12および導光板を設置するスペースを確保する必要がない。また、保護板11から均一な光を照射するので、運転者2の目に優しい。さらに、従来のようにメータディスプレイ4にIR光源およびカラーフィルタを追加する必要がなく、保護板11を工夫するだけでよいため、開発費が安価である。加えて、車室内1にドライバセンシングシステムを後付けする場合の加工が容易であり、安価である。   Since the existing protective plate 11 is used as the light guide plate, it is not necessary to secure a space for installing the IR light source unit 12 and the light guide plate. Moreover, since uniform light is irradiated from the protective plate 11, it is gentle to the driver's 2 eyes. Furthermore, since it is not necessary to add an IR light source and a color filter to the meter display 4 as in the prior art, it is only necessary to devise the protective plate 11, so that the development cost is low. In addition, the processing when the driver sensing system is retrofitted in the vehicle interior 1 is easy and inexpensive.

以下、実施の形態1に係る投光装置10を用いたドライバセンシングシステムの具体例を説明する。
図2に示すように、投光装置10は、保護板11、IR光源部12、および発光制御部13を備えている。
保護板11は、メータディスプレイ4の表示面を保護する樹脂またはガラスの板である。
発光制御部13は、IR光源部12の発光のオンとオフの切り替え、およびIR光の強さの制御などを行う発光制御信号を、IR光源部12へ出力する。
IR光源部12は、発光制御部13からの発光制御信号に基づき、IR光を発する。IR光源部12は、保護板11の上下左右のどの方向の縁に設置されてもよい。このIR光源部12は、例えばIR光を発するLED、EL(Electroluminescence)、またはハロゲンランプなど、IR光を発する光源であれば何でもよい。
Hereinafter, a specific example of a driver sensing system using the light projecting device 10 according to the first embodiment will be described.
As shown in FIG. 2, the light projecting device 10 includes a protection plate 11, an IR light source unit 12, and a light emission control unit 13.
The protection plate 11 is a resin or glass plate that protects the display surface of the meter display 4.
The light emission control unit 13 outputs to the IR light source unit 12 a light emission control signal for switching on and off the light emission of the IR light source unit 12 and controlling the intensity of the IR light.
The IR light source unit 12 emits IR light based on the light emission control signal from the light emission control unit 13. The IR light source unit 12 may be installed on an edge in any direction of the protection plate 11 in the vertical and horizontal directions. The IR light source unit 12 may be any light source that emits IR light, such as an LED that emits IR light, an EL (Electroluminescence), or a halogen lamp.

IRカメラ5は、運転者2の前方に設置され、運転者2の顔または上半身を撮像する撮像装置である。IRカメラ5は、撮像した運転者2の画像を画像処理装置6へ送信する。なお、IRカメラ5は、メータディスプレイ4の中央下部または上部に設置されてもよいし、センタコンソールまたはルームミラー付近に設置されてもよい。
このIRカメラ5は、レンズ51、IR透過フィルタ52、および撮像素子53を備えている。
The IR camera 5 is an imaging device that is installed in front of the driver 2 and images the face or upper body of the driver 2. The IR camera 5 transmits the captured image of the driver 2 to the image processing device 6. The IR camera 5 may be installed at the lower center or upper part of the meter display 4, or may be installed near the center console or the rearview mirror.
The IR camera 5 includes a lens 51, an IR transmission filter 52, and an image sensor 53.

レンズ51は、運転者2だけを撮像する画角50〜90度付近のものでもよいし、運転者2に加えて助手席または後部座席に座る乗員も撮像可能な広角レンズ(例えば、100度以上)のものを用いてもよい。
IR透過フィルタ52は、日光等の外乱を減らすために可視光波長をカットし、投光装置10から照射されるIR光の波長のみを通すバンドパスフィルタである。IR透過フィルタ52はレンズ型を用いてもよいし、フィルム型を用いてもよい。また、レンズ51、IR透過フィルタ52、撮像素子53の順に配置してもよいし、IR透過フィルタ52、レンズ51、撮像素子53の順に配置してもよい。
撮像素子53は、入射する光を電気信号に変換する素子であり、CMOS(Complementary Metal−Oxide−Semiconductor)またはCCD(Charge Coupled Device)等が一般的である。
The lens 51 may have a field angle of about 50 to 90 degrees that captures only the driver 2, or a wide-angle lens (for example, 100 degrees or more) that can capture not only the driver 2 but also a passenger sitting in the passenger seat or the rear seat. ) May be used.
The IR transmission filter 52 is a band-pass filter that cuts the visible light wavelength in order to reduce disturbances such as sunlight and transmits only the wavelength of the IR light emitted from the light projecting device 10. The IR transmission filter 52 may be a lens type or a film type. Further, the lens 51, the IR transmission filter 52, and the image sensor 53 may be arranged in this order, or the IR transmission filter 52, the lens 51, and the image sensor 53 may be arranged in this order.
The imaging element 53 is an element that converts incident light into an electrical signal, and is typically a CMOS (Complementary Metal-Oxide-Semiconductor) or a CCD (Charge Coupled Device).

画像処理装置6は、IRカメラ5が撮像した運転者2の画像を受信して認識処理し、運転者2の顔の位置、顔の向き、視線の向き、目の開閉度、瞬きの頻度、口の開閉度、ジェスチャなどといった物理情報を検出する。画像処理装置6は、検出した物理情報から、脇見状態または居眠り状態などの運転者2の状態を推定する。
また、画像処理装置6は、IRカメラ5が撮像した画像の明るさを検出し、明るさ情報として発光制御部13に送信する。発光制御部13は、画像処理装置6からの明るさ情報に基づいてIR光の強さを調整するなどして、より適切な発光制御を行う。
The image processing device 6 receives and recognizes the image of the driver 2 imaged by the IR camera 5, recognizes the driver's 2 face position, face direction, line of sight, eye open / closed degree, blink frequency, Detects physical information such as mouth open / closed degree and gestures. The image processing device 6 estimates the state of the driver 2 such as a look-ahead state or a dozing state from the detected physical information.
Further, the image processing device 6 detects the brightness of the image captured by the IR camera 5 and transmits it to the light emission control unit 13 as brightness information. The light emission control unit 13 performs more appropriate light emission control by adjusting the intensity of IR light based on the brightness information from the image processing device 6.

次に、保護板11の詳細な構成を説明する。
図3は、保護板11の構成例を示すブロック図である。図4は、投光装置10のうち、保護板11とIR光源部12からなる構造部分の概要を示す断面図である。IR光源部12は、保護板11の縁からIR光を入射するように、設置される。保護板11は、IR光源部12からのIR光を散乱して照射するIR光照射部11aと、メータディスプレイ4からの可視光を透過させる可視光透過部11bとを有している。
Next, a detailed configuration of the protection plate 11 will be described.
FIG. 3 is a block diagram illustrating a configuration example of the protection plate 11. FIG. 4 is a cross-sectional view illustrating an outline of a structural portion of the light projecting device 10 including the protection plate 11 and the IR light source unit 12. The IR light source unit 12 is installed so that IR light enters from the edge of the protective plate 11. The protection plate 11 includes an IR light irradiation unit 11 a that scatters and irradiates IR light from the IR light source unit 12, and a visible light transmission unit 11 b that transmits visible light from the meter display 4.

IR光照射部11aは、保護板11の一部の表面に加工を施した領域である。このIR光照射部11aは、IR光源部12が設置された保護板11の縁から入射したIR光を導光し、散乱して均一にし、運転者2へ照射する。また、IR光照射部11aにおいては、メータディスプレイ4からの可視光が透過する。
IR光照射部11aの加工とは、縁から入射したIR光が散乱するように、表面の反射傾向を変える加工であり、例えば表面が粗面なドット11cを印刷する方式、レーザ波で表面を傷つける方式、または型材にアクリル樹脂を流し込んで保護板11を成形する際に表面に凹凸を形成する方式などがある。保護板11においてドット11cのパターン等を形成する面は、メータディスプレイ4側のみでもよいし、運転者2側のみでもよいし、両方でもよい。
The IR light irradiation unit 11 a is a region obtained by processing a part of the surface of the protection plate 11. The IR light irradiation unit 11a guides the IR light incident from the edge of the protective plate 11 on which the IR light source unit 12 is installed, scatters and makes uniform, and irradiates the driver 2. In the IR light irradiation unit 11a, visible light from the meter display 4 is transmitted.
The processing of the IR light irradiation unit 11a is processing that changes the reflection tendency of the surface so that IR light incident from the edge is scattered. For example, a method of printing the dots 11c having a rough surface, and the surface with a laser wave. There are a method of damaging or a method of forming irregularities on the surface when the protective plate 11 is formed by pouring acrylic resin into the mold material. The surface on which the dot 11c pattern or the like is formed on the protective plate 11 may be only on the meter display 4 side, only on the driver 2 side, or both.

可視光透過部11bは、保護板11の表面にドット11cのパターン等が形成されていない領域である。この可視光透過部11bは、IR光源部12からのIR光を導光するが、散乱はしないので、可視光透過部11bから運転者2へIR光は照射されない。メータディスプレイ4からの可視光は、可視光透過部11bを透過して運転者2へ照射される。   The visible light transmitting portion 11 b is a region where the dot 11 c pattern or the like is not formed on the surface of the protection plate 11. The visible light transmission part 11b guides the IR light from the IR light source part 12, but does not scatter, so the IR light is not irradiated to the driver 2 from the visible light transmission part 11b. Visible light from the meter display 4 passes through the visible light transmission part 11b and is irradiated to the driver 2.

図5は、投光装置10を組み込んだメータディスプレイ4の一例を示す正面図であり、運転者2から見た表示面である。メータディスプレイ4と運転者2との間には、保護板11が設置され、この保護板11の下側の縁にIR光源部12が設置される。IR光源部12として、例えば複数個のIR−LEDが、保護板11の下側の縁に沿ってアレイ状に並べて配置されている。図5ではIR光源部12が見えているが、実際にはダッシュボード3の内部に設置され、運転者2からIR光源部12は見えない。なお、上述したように、IR光源部12は保護板11の縁であれば、下側に限らず、上側、左側または右側に設置されていてもよい。   FIG. 5 is a front view illustrating an example of the meter display 4 in which the light projecting device 10 is incorporated, and is a display surface viewed from the driver 2. A protective plate 11 is installed between the meter display 4 and the driver 2, and an IR light source unit 12 is installed on the lower edge of the protective plate 11. As the IR light source unit 12, for example, a plurality of IR-LEDs are arranged in an array along the lower edge of the protective plate 11. Although the IR light source unit 12 can be seen in FIG. 5, the IR light source unit 12 is actually installed inside the dashboard 3 and cannot be seen from the driver 2. As described above, as long as the IR light source unit 12 is an edge of the protective plate 11, the IR light source unit 12 may be installed on the upper side, the left side, or the right side without being limited to the lower side.

メータディスプレイ4は、例えば車速を示すメータ画像、エンジン回転数を示すメータ画像、またはシフトポジションを示す画像などの表示物41〜45を表示する。
IR光照射部11aは、IR光を散乱するための加工により半透明となることから、メータディスプレイ4の表示物41〜45がない領域に配置することが望ましい。図4の例では、メータディスプレイ4のうちの表示物41〜45がない上半分を、広くIR光照射部11aとして使用している。これにより、IR光を広範囲に照射することができる。また、図4の例では、IR光照射部11aが連続した1つの領域になっているが、複数の領域に分かれていてもよい。
The meter display 4 displays display objects 41 to 45 such as a meter image indicating a vehicle speed, a meter image indicating an engine speed, or an image indicating a shift position.
Since the IR light irradiation unit 11a becomes translucent by processing for scattering IR light, it is desirable to arrange the IR light irradiation unit 11a in a region where the display objects 41 to 45 of the meter display 4 are not present. In the example of FIG. 4, the upper half of the meter display 4 without the display objects 41 to 45 is widely used as the IR light irradiation unit 11a. Thereby, IR light can be irradiated in a wide range. Moreover, in the example of FIG. 4, although the IR light irradiation part 11a is one continuous area, it may be divided into a plurality of areas.

一方、可視光透過部11bは、IR光を照射せず、メータディスプレイ4の表示物の可視光をそのまま透過する領域である。そのため、メータディスプレイ4の表示物41〜45がある領域に配置することが望ましい。一般的に、メータディスプレイ4においては表示物41〜45がない領域に比べて表示物41〜45がある領域の方が広いため、IR光照射部11aの面積に比べて可視光透過部11bの面積の方が大きくなる。   On the other hand, the visible light transmitting portion 11b is a region that does not irradiate IR light and transmits visible light of the display object of the meter display 4 as it is. Therefore, it is desirable to arrange the display objects 41 to 45 of the meter display 4 in an area. In general, in the meter display 4, the area with the display objects 41 to 45 is wider than the area without the display objects 41 to 45, so that the visible light transmission part 11b has a larger area than the area of the IR light irradiation part 11a. The area is larger.

このように、保護板11に、IR光照射部11aと可視光透過部11bの2種類の領域を設けることで、メータディスプレイ4の表示を損なうことなく、IR光を運転者2へ、広範囲かつ均一に照射することができる。   In this way, by providing the protection plate 11 with two types of regions, the IR light irradiation unit 11a and the visible light transmission unit 11b, the IR light can be transmitted to the driver 2 in a wide range without impairing the display on the meter display 4. Uniform irradiation is possible.

次に、図6を用いて、投光装置10のハードウエア構成例を説明する。
投光装置10における発光制御部13の機能は、処理回路100により実現される。即ち、発光制御部13は、IR光源部12の発光を制御するための処理回路100を備える。処理回路100は、図6(a)に示すように専用のハードウエアであってもよいし、図6(b)に示すようにメモリ102に格納されているプログラムを実行するプロセッサ101であってもよい。
IR光源部12は、1個以上のIR−LED12aと、このIR−LED12aを駆動するための駆動回路12bとを備えている。駆動回路12bは、処理回路100またはプロセッサ101から送信される発光制御信号に基づき、IR−LED12aに印加する電圧およびIR−LED12aを発光するタイミングを制御する。
Next, a hardware configuration example of the light projecting device 10 will be described with reference to FIG.
The function of the light emission control unit 13 in the light projecting device 10 is realized by the processing circuit 100. That is, the light emission control unit 13 includes a processing circuit 100 for controlling the light emission of the IR light source unit 12. The processing circuit 100 may be dedicated hardware as shown in FIG. 6A, or may be a processor 101 that executes a program stored in the memory 102 as shown in FIG. Also good.
The IR light source unit 12 includes one or more IR-LEDs 12a and a drive circuit 12b for driving the IR-LEDs 12a. The drive circuit 12b controls the voltage applied to the IR-LED 12a and the timing of emitting the IR-LED 12a based on the light emission control signal transmitted from the processing circuit 100 or the processor 101.

図6(a)に示すように、処理回路100が専用のハードウエアである場合、処理回路100は、例えば単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)、またはこれらを組み合わせたものが該当する。発光制御部13の機能を複数の処理回路100で実現してもよいし、まとめて1つの処理回路100で実現してもよい。   As shown in FIG. 6A, when the processing circuit 100 is dedicated hardware, the processing circuit 100 includes, for example, a single circuit, a composite circuit, a programmed processor, a parallel programmed processor, an ASIC (Application Specific). An integrated circuit (FPGA), a field-programmable gate array (FPGA), or a combination thereof is applicable. The function of the light emission control unit 13 may be realized by a plurality of processing circuits 100 or may be realized by a single processing circuit 100 collectively.

図6(b)に示すように、処理回路100がプロセッサ101である場合、発光制御部13の機能は、ソフトウエア、ファームウエア、またはソフトウエアとファームウエアとの組み合わせにより実現される。ソフトウエアまたはファームウエアはプログラムとして記述され、メモリ102に格納される。プロセッサ101は、メモリ102に記憶されたプログラムを読み出して実行することにより、発光制御部13の機能を実現する。即ち、発光制御部13は、プロセッサ101により実行されるときに、IR光源部12の発光を制御する処理が結果的に実行されることになるプログラムを格納するためのメモリ102を備える。また、このプログラムは、発光制御部13の手順または方法をコンピュータに実行させるものであるともいえる。   As shown in FIG. 6B, when the processing circuit 100 is a processor 101, the function of the light emission control unit 13 is realized by software, firmware, or a combination of software and firmware. Software or firmware is described as a program and stored in the memory 102. The processor 101 implements the function of the light emission control unit 13 by reading and executing a program stored in the memory 102. In other words, the light emission control unit 13 includes a memory 102 for storing a program that, when executed by the processor 101, results in a process for controlling the light emission of the IR light source unit 12. This program can also be said to cause a computer to execute the procedure or method of the light emission control unit 13.

ここで、プロセッサ101とは、例えば、CPU(Central Processing Unit)、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、またはDSP(Digital Signal Processor)などのことである。
メモリ102は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)等の不揮発性または揮発性の半導体メモリであってもよいし、ハードディスク、フレキシブルディスク等の磁気ディスクであってもよいし、ミニディスク、CD(Compact Disc)、DVD(Digital Versatile Disc)等の光ディスクであってもよい。
Here, the processor 101 is, for example, a CPU (Central Processing Unit), a central processing unit, a processing unit, an arithmetic unit, a microprocessor, a microcomputer, or a DSP (Digital Signal Processor).
The memory 102 may be, for example, a nonvolatile or volatile semiconductor memory such as a RAM (Random Access Memory), a ROM (Read Only Memory), a flash memory, an EPROM (Erasable Programmable ROM), or an EEPROM (Electrically EPROM). Further, it may be a magnetic disk such as a hard disk or a flexible disk, or may be an optical disk such as a mini disk, CD (Compact Disc), or DVD (Digital Versatile Disc).

なお、発光制御部13の機能について、一部を専用のハードウエアで実現し、一部をソフトウエアまたはファームウエアで実現するようにしてもよい。このように、発光制御部13は、ハードウエア、ソフトウエア、ファームウエア、またはこれらの組み合わせによって、上述の各機能を実現することができる。   Note that a part of the functions of the light emission control unit 13 may be realized by dedicated hardware, and a part may be realized by software or firmware. As described above, the light emission control unit 13 can realize the above-described functions by hardware, software, firmware, or a combination thereof.

次に、図7を用いて、ドライバセンシングシステムの動作例を説明する。
ドライバセンシングシステムが起動すると、投光装置10、IRカメラ5および画像処理装置6が起動し、投光装置10の発光制御部13からIR光源部12へ発光制御信号を出力する(ステップST1)。
なお、ドライバセンシングシステムの起動のタイミングは、車両のイグニッションキーがオンになったタイミングでもよいし、変速機のギアがD(ドライブ)レンジに変更されたタイミングでもよい。
このときの発光制御信号は、IR光源部12の発光をオフからオンへ切り替える指示、およびIR光の強さに対応する電圧値またはパラメータ等を含む。発光制御部13は、起動した直後は、IR光の強さとして初期設定値を用いればよい。
Next, an operation example of the driver sensing system will be described with reference to FIG.
When the driver sensing system is activated, the light projecting device 10, the IR camera 5, and the image processing device 6 are activated, and a light emission control signal is output from the light emission control unit 13 of the light projection device 10 to the IR light source unit 12 (step ST1).
It should be noted that the start timing of the driver sensing system may be the timing when the ignition key of the vehicle is turned on, or the timing when the gear of the transmission is changed to the D (drive) range.
The light emission control signal at this time includes an instruction to switch the light emission of the IR light source unit 12 from off to on, and a voltage value or parameter corresponding to the intensity of the IR light. The light emission control unit 13 may use an initial set value as the intensity of the IR light immediately after being activated.

IR光源部12は、発光制御部13からの発光制御信号を受信し、この発光制御信号に基づきIR光を発する(ステップST2)。IR光源部12が発したIR光は、保護板11の縁から入射され、IR光照射部11aで散乱されて運転者2へ照射される。   The IR light source unit 12 receives the light emission control signal from the light emission control unit 13, and emits IR light based on the light emission control signal (step ST2). IR light emitted from the IR light source unit 12 is incident from the edge of the protective plate 11, scattered by the IR light irradiation unit 11 a, and irradiated to the driver 2.

IRカメラ5は、IR光が照射された運転者2を撮像し、画像を画像処理装置6へ送信する(ステップST3)。   The IR camera 5 captures the image of the driver 2 irradiated with IR light and transmits the image to the image processing device 6 (step ST3).

画像処理装置6は、IRカメラ5からの撮像画像を受信し、この撮像画像から運転者2の顔の位置、顔の向き、視線の向き、目の開閉度、瞬きの頻度、口の開閉度、ジェスチャなどといった物理情報を検出する(ステップST4)。   The image processing device 6 receives a captured image from the IR camera 5, and from this captured image, the driver's 2 face position, face direction, line of sight, eye open / closed degree, blinking frequency, mouth open / closed degree , Physical information such as a gesture is detected (step ST4).

また、画像処理装置6は、検出した物理情報から、脇見状態または居眠り状態などの運転者2の状態を推定する(ステップST5)。なお、画像処理装置6は、運転者2の状態を、撮像画像から検出した物理情報のみを用いて推定してもよいし、この物理情報とCAN(Controller Area Network)などの車載ネットワークを通じて得られる車両情報とを用いて推定してもよい。車両情報とは、例えば、車速、ブレーキの操作量、ギアのポジション、またはハンドルの舵角などである。また、画像処理装置6は、運転者2のシートベルト着用状態などを推定してもよい。
さらに、画像処理装置6は、運転者2だけでなく、助手席または後部座席に座る乗員について、上記のような物理情報を検出して状態を推定してもよい。また、画像処理装置6は、撮像画像から助手席または後部座席に座る乗員が大人か子供かを推定して、例えば起動するエアバックを大人用と子供用とで切り替える際にその推定結果を使用するといったことも可能である。
Further, the image processing device 6 estimates the state of the driver 2 such as a look-ahead state or a dozing state from the detected physical information (step ST5). The image processing device 6 may estimate the state of the driver 2 using only physical information detected from the captured image, or may be obtained through this physical information and an in-vehicle network such as a CAN (Controller Area Network). You may estimate using vehicle information. The vehicle information is, for example, a vehicle speed, a brake operation amount, a gear position, or a steering angle of a steering wheel. Further, the image processing device 6 may estimate the seat belt wearing state of the driver 2 and the like.
Further, the image processing apparatus 6 may detect the physical information as described above and estimate the state of not only the driver 2 but also a passenger sitting in the passenger seat or the rear seat. Further, the image processing device 6 estimates whether the passenger sitting in the passenger seat or the rear seat is an adult or a child from the captured image, and uses the estimation result when, for example, the airbag to be activated is switched between an adult and a child It is also possible to do.

また、画像処理装置6は、IRカメラ5からの撮像画像の明るさを検出し、明るさ情報を生成して、投光装置10の発光制御部13へ送信する(ステップST6)。明るさ情報は、例えば撮像画像の輝度値である。   Further, the image processing device 6 detects the brightness of the captured image from the IR camera 5, generates brightness information, and transmits the brightness information to the light emission control unit 13 of the light projecting device 10 (step ST6). The brightness information is, for example, the brightness value of the captured image.

発光制御部13は、画像処理装置6からの明るさ情報を受信し、この明るさ情報に応じてIR光源部12から発するIR光の強さの調整量を算出し、調整量に応じて発光制御信号に含まれる電圧値またはパラメータ等を変更する(ステップST7)。発光制御部13は、例えば、予め定められた基準輝度値よりも画像処理装置6から明るさ情報として通知された輝度値が低い場合、運転者2へ照射するIR光を強くするために、IR光の強さに対応する電圧値またはパラメータ等を大きくした発光制御信号を生成する。反対に、予め定められた基準輝度値よりも画像処理装置6から明るさ情報として通知された輝度値が高い場合、発光制御部13は、運転者2へ照射するIR光を弱くするために、電圧値またはパラメータ等を小さくした発光制御信号を生成する。   The light emission control unit 13 receives brightness information from the image processing device 6, calculates an adjustment amount of the intensity of IR light emitted from the IR light source unit 12 according to the brightness information, and emits light according to the adjustment amount. The voltage value or parameter included in the control signal is changed (step ST7). For example, when the luminance value notified as brightness information from the image processing device 6 is lower than a predetermined reference luminance value, the light emission control unit 13 increases the IR light irradiated to the driver 2 to increase the IR light. A light emission control signal in which a voltage value or a parameter corresponding to the light intensity is increased is generated. On the other hand, when the brightness value notified as the brightness information from the image processing device 6 is higher than the predetermined reference brightness value, the light emission control unit 13 reduces the IR light irradiated to the driver 2. A light emission control signal with a reduced voltage value or parameter is generated.

発光制御部13は、ステップST7にて発光制御信号を生成すると、ステップST1へ戻り、発光制御信号をIR光源部12へ出力する。
ドライバセンシングシステムは、以上のステップST1〜ST7の処理を繰り返し行い、車両のイグニッションキーがオフになると、または変速機のギアがP(パーキング)レンジ等に変更されると、起動を停止する。
When generating the light emission control signal in step ST7, the light emission control unit 13 returns to step ST1 and outputs the light emission control signal to the IR light source unit 12.
The driver sensing system repeats the processes of steps ST1 to ST7 described above, and stops the activation when the ignition key of the vehicle is turned off or when the gear of the transmission is changed to a P (parking) range or the like.

以上より、実施の形態1によれば、投光装置10は、車室内1に設置されたメータディスプレイ4の表示面を保護する保護板11と、保護板11にIR光を入射するIR光源部12と、IR光源部12の発光を制御し、IR光源部12からのIR光を保護板11で導光させ車室内1へ照射する発光制御部13とを備える構成にしたので、車室内1を広範囲かつ均一に照らす投光装置10を、低コストで実現することができる。また、メータディスプレイ4の保護板11をIR光の導光板として利用するので、新たに導光板を設置するスペースも必要ない。   As described above, according to the first embodiment, the light projecting device 10 includes the protection plate 11 that protects the display surface of the meter display 4 installed in the vehicle interior 1, and the IR light source unit that makes IR light incident on the protection plate 11. 12 and the light emission control unit 13 that controls the light emission of the IR light source unit 12 and guides the IR light from the IR light source unit 12 through the protective plate 11 and irradiates the vehicle interior 1. Can be realized at low cost. Moreover, since the protection plate 11 of the meter display 4 is used as a light guide plate for IR light, a space for newly installing the light guide plate is not required.

実施の形態2.
図8は、この発明の実施の形態2に係る投光装置10の保護板11の構成例を示すブロック図である。保護板11は、IR光照射部11aと可視光透過部11bとを有しており、IR光照射部11aは、さらに第1のIR光照射部11a−1と第2のIR光照射部11a−2とに分かれる。
なお、実施の形態2に係る投光装置10およびドライバセンシングシステムの構成は、保護板11以外、上記実施の形態1と同じ構成であるため、説明を省略し、図1および図2を援用する。
Embodiment 2. FIG.
FIG. 8 is a block diagram showing a configuration example of the protection plate 11 of the light projecting device 10 according to Embodiment 2 of the present invention. The protection plate 11 includes an IR light irradiation unit 11a and a visible light transmission unit 11b. The IR light irradiation unit 11a further includes a first IR light irradiation unit 11a-1 and a second IR light irradiation unit 11a. -2.
In addition, since the structure of the light projector 10 and the driver sensing system which concern on Embodiment 2 is the same structure as the said Embodiment 1 except the protection board 11, description is abbreviate | omitted and FIG. 1 and FIG. 2 are used. .

第1のIR光照射部11a−1は、IR光を広範囲に照射するように、表面が粗面なドット11c等を形成した領域である。ここでは、第1のIR光照射部11a−1を無指向性とする。   The first IR light irradiation unit 11a-1 is a region where dots 11c and the like having a rough surface are formed so as to irradiate IR light over a wide range. Here, the first IR light irradiation unit 11a-1 is non-directional.

対して、第2のIR光照射部11a−2は、保護板11の縁から入射したIR光を特定の方向にのみ照射する領域である。第2のIR光照射部11a−2の指向性は、どの程度の強さでもよいが、少なくとも第1のIR光照射部11a−1より強いものとする。
例えば、図9(a)に示すように、保護板11の表面の形状加工により指向性を強めてもよい。図9(a)では、表面が鏡面のドット11dを保護板11の表面に印刷し、IR光の反射方向を調整することで指向性を実現している。
あるいは、図9(b)に示すように、保護板11とIR光源部12との間にプリズム11eを設置して、プリズム11eからの出射方向を調整することで指向性を実現してもよい。図9(b)の構成例では、プリズム11eが第2のIR光照射部11a−2になる。
On the other hand, the 2nd IR light irradiation part 11a-2 is an area | region which irradiates IR light which injected from the edge of the protection board 11 only in a specific direction. The directivity of the second IR light irradiation unit 11a-2 may be any strength, but is at least stronger than the first IR light irradiation unit 11a-1.
For example, as shown in FIG. 9A, the directivity may be increased by processing the shape of the surface of the protective plate 11. In FIG. 9A, the directivity is realized by printing dots 11d having a mirror surface on the surface of the protection plate 11 and adjusting the reflection direction of the IR light.
Alternatively, as shown in FIG. 9B, the directivity may be realized by installing a prism 11e between the protective plate 11 and the IR light source unit 12 and adjusting the emission direction from the prism 11e. . In the configuration example of FIG. 9B, the prism 11e becomes the second IR light irradiation unit 11a-2.

図10は、実施の形態2に係る投光装置10を組み込んだメータディスプレイ4の一例を示す正面図であり、運転者2から見た表示面である。保護板11には、第1のIR光照射部11a−1と、第2のIR光照射部11a−2と、可視光透過部11bが存在する。図10の例では、第1のIR光照射部11a−1が連続した1つの領域になっているが、複数の領域に分かれていてもよい。また、図10の例では、第2のIR光照射部11a−2が左右に2つの領域に分かれて、第2のIR光照射部11a−2Lと第2のIR光照射部11a−2Rになっているが、連続した1つの領域になっていてもよい。例えば、第2のIR光照射部11a−2Lから照射された指向性の強いIR光は、運転者2を左側から照らし、第2のIR光照射部11a−2Rから照射された指向性の強いIR光は、運転者2を右側から照らす。   FIG. 10 is a front view illustrating an example of the meter display 4 in which the light projecting device 10 according to the second embodiment is incorporated, and is a display surface viewed from the driver 2. The protection plate 11 includes a first IR light irradiation unit 11a-1, a second IR light irradiation unit 11a-2, and a visible light transmission unit 11b. In the example of FIG. 10, the first IR light irradiation unit 11a-1 is one continuous area, but it may be divided into a plurality of areas. Further, in the example of FIG. 10, the second IR light irradiation unit 11a-2 is divided into two regions on the left and right, and the second IR light irradiation unit 11a-2L and the second IR light irradiation unit 11a-2R are divided into two regions. However, it may be one continuous area. For example, the highly directional IR light irradiated from the second IR light irradiation unit 11a-2L illuminates the driver 2 from the left side and the strong directivity irradiated from the second IR light irradiation unit 11a-2R. The IR light illuminates the driver 2 from the right side.

第1のIR光照射部11a−1は、運転者2を広範囲に照らすIR光を照射する。照射範囲が広いため、運転者2の顔の位置が大きく移動しても、移動した運転者2にIR光を照射することができる。従って、運転者2の顔の位置が大きく移動しても、画像処理装置6において運転者2の顔等の検出が可能である。   The first IR light irradiation unit 11a-1 emits IR light that illuminates the driver 2 over a wide area. Since the irradiation range is wide, even if the position of the face of the driver 2 moves greatly, the moved driver 2 can be irradiated with IR light. Therefore, even if the face position of the driver 2 moves greatly, the face of the driver 2 and the like can be detected by the image processing device 6.

第2のIR光照射部11a−2は、指向性のあるIR光を照射する。これにより、運転者2の視線を検出する際の画像処理装置6による画像認識の精度を向上させることができる。視線検出には、例えば、角膜反射像を用いた角膜反射法と呼ばれる手法が一般的である。   The second IR light irradiation unit 11a-2 irradiates directional IR light. Thereby, the accuracy of image recognition by the image processing device 6 when detecting the line of sight of the driver 2 can be improved. For example, a method called a corneal reflection method using a corneal reflection image is generally used for eye gaze detection.

ここで、図11と図12を用いて角膜反射法を説明する。図11は、運転者2の眼球を上から見た図であり、図12(a)と図12(b)は、運転者2の眼球を正面から見た図である。角膜反射像とは、IR光を照らしてできる角膜上の反射像である。角膜反射法は、位置が変化しない角膜反射像を基準点とし、角膜反射像の位置に対する瞳孔の位置に基づいて、視線の向きを推定する手法である。
角膜反射法を用いる場合、角膜反射像の輪郭を明確にすると、角膜反射像の検出率および検出精度が上がるため、無指向性のIR光よりも指向性を持つIR光を用いるのが望ましい。
Here, the corneal reflection method will be described with reference to FIGS. 11 and 12. FIG. 11 is a view of the eyeball of the driver 2 as viewed from above, and FIGS. 12A and 12B are views of the eyeball of the driver 2 as viewed from the front. A cornea reflection image is a reflection image on the cornea that is formed by irradiating IR light. The corneal reflection method is a method for estimating the direction of the line of sight based on the position of the pupil with respect to the position of the corneal reflection image using the corneal reflection image whose position does not change as a reference point.
When the corneal reflection method is used, if the outline of the corneal reflection image is clarified, the detection rate and detection accuracy of the corneal reflection image are increased. Therefore, it is desirable to use IR light having directivity rather than non-directional IR light.

また、発光制御部13が、IR光源部12の複数個のIR−LEDを個別に発光させることで、任意の発光パターンでIR光を照射させることが可能となる。例えば、図10では、保護板11の下側の縁に沿ってアレイ状に並べて配置されている複数個のIR−LEDを、3つのLEDグループ12−1,12−2,12−3に分け、発光制御部13がグループごとに発光を制御する。   Moreover, it becomes possible for the light emission control part 13 to irradiate IR light with an arbitrary light emission pattern by causing the plurality of IR-LEDs of the IR light source part 12 to emit light individually. For example, in FIG. 10, a plurality of IR-LEDs arranged in an array along the lower edge of the protective plate 11 are divided into three LED groups 12-1, 12-2, 12-3. The light emission control unit 13 controls light emission for each group.

図10の構成例では、LEDグループ12−1が、第1のIR光照射部11a−1へIR光を入射する「第1の光源部」であり、LEDグループ12−2,12−3が、第2のIR光照射部11a−2へIR光を入射する「第2の光源部」である。   In the configuration example of FIG. 10, the LED group 12-1 is a “first light source unit” that makes IR light incident on the first IR light irradiation unit 11a-1, and the LED groups 12-2 and 12-3 are included. This is a “second light source unit” that makes IR light incident on the second IR light irradiation unit 11a-2.

発光制御部13がLEDグループ12−1のIR−LEDを発光させ、残りのLEDグループ12−2,12−3のIR−LEDを消すと、第1のIR光照射部11a−1のみが無指向性のIR光を照射する。
発光制御部13がLEDグループ12−2のIR−LEDを発光させ、残りのLEDグループ12−1,12−3のIR−LEDを消すと、第2のIR光照射部11a−2Lのみが指向性を持つIR光を照射する。
発光制御部13がLEDグループ12−3のIR−LEDを発光させ、残りのLEDグループ12−1,12−2のIR−LEDを消すと、第2のIR光照射部11a−2Rのみが指向性を持つIR光を照射する。
When the light emission controller 13 causes the IR-LED of the LED group 12-1 to emit light and the IR-LEDs of the remaining LED groups 12-2 and 12-3 are turned off, only the first IR light irradiation unit 11a-1 is absent. Irradiate directional IR light.
When the light emission control unit 13 causes the IR-LED of the LED group 12-2 to emit light and turns off the IR-LEDs of the remaining LED groups 12-1 and 12-3, only the second IR light irradiation unit 11a-2L is directed. Irradiate IR light.
When the light emission control unit 13 causes the IR-LED of the LED group 12-3 to emit light and turns off the IR-LEDs of the remaining LED groups 12-1 and 12-2, only the second IR light irradiation unit 11a-2R is directed. Irradiate IR light.

角膜反射法を用いる場合、指向性を持つIR光を照射する第2のIR光照射部11a−2を複数設けることで、複数の基準位置と瞳孔の位置、つまり複数の角膜反射像の位置と瞳孔の位置を比較することができる。そのため、視線検出の精度を向上可能である。   When the corneal reflection method is used, by providing a plurality of second IR light irradiation units 11a-2 that irradiate directional IR light, a plurality of reference positions and pupil positions, that is, a plurality of corneal reflection image positions, The position of the pupil can be compared. Therefore, it is possible to improve the accuracy of line-of-sight detection.

また、日光などのIR光を含む外乱光が車室内1に入ると、IR光源部12のIR光によりできた角膜反射像と、外乱光との違いを画像処理により判別することが困難であり、視線の誤検出が発生する。
そこで、画像処理装置6においてIR光源部12のIR光によりできた角膜反射像と外乱光との違いを判別できなかった場合などに、発光制御部13がIR光を照射する第2のIR光照射部11a−2L,11a−2Rを切り替えることにより、角膜反射像の位置を変更することができる。これにより、IR光源部12のIR光によりできた角膜反射像と外乱光とを判別可能となり、日光などの外乱に強い視線検出が可能である。
あるいは、発光制御部13が第2のIR光照射部11a−2の発光のオンとオフを切り替えることにより、角膜反射像を出現させたり消失させたりすることができる。これによっても、IR光源部12のIR光によりできた角膜反射像と外乱光とを判別可能となる。
Further, when disturbance light including IR light such as sunlight enters the vehicle interior 1, it is difficult to determine the difference between the corneal reflection image formed by the IR light of the IR light source unit 12 and the disturbance light by image processing. A false detection of the line of sight occurs.
Therefore, in the case where the difference between the cornea reflection image formed by the IR light of the IR light source unit 12 and the disturbance light cannot be discriminated in the image processing device 6, the second IR light that the light emission control unit 13 irradiates with IR light. By switching the irradiation units 11a-2L and 11a-2R, the position of the cornea reflection image can be changed. As a result, it is possible to discriminate between a cornea reflection image formed by IR light from the IR light source unit 12 and disturbance light, and it is possible to detect a line of sight strong against disturbance such as sunlight.
Or the light emission control part 13 can make a cornea reflection image appear or disappear by switching on and off of light emission of the 2nd IR light irradiation part 11a-2. This also makes it possible to discriminate between a cornea reflection image formed by IR light from the IR light source unit 12 and disturbance light.

次に、図13を用いて、実施の形態2に係る投光装置10の動作例を説明する。図13に示すフローチャートは、実施の形態2に係る投光装置10が、上記実施の形態1において図7に示したステップST7で行う動作の詳細を示すものである。なお、実施の形態2の投光装置10は、ステップST1〜ST6では上記実施の形態1と同様の動作を行うので図示および説明を省略する。   Next, an operation example of the light projecting device 10 according to the second embodiment will be described with reference to FIG. The flowchart shown in FIG. 13 shows the details of the operation performed by the light projecting apparatus 10 according to the second embodiment in step ST7 shown in FIG. 7 in the first embodiment. The light projecting device 10 according to the second embodiment performs the same operation as that of the first embodiment in steps ST1 to ST6, and thus illustration and description thereof are omitted.

発光制御部13は、図7で示したステップST1にて起動すると、まず、LEDグループ12−1のIR−LEDを発光させる発光制御信号、またはLEDグループ12−1,12−2,12−3のIR−LEDすべてを発光させる発光制御信号を、IR光源部12へ出力する。
その後、発光制御部13は、図7で示したステップST7と同様に、画像処理装置6からの明るさ情報を受信し、この明るさ情報に応じてIR光源部12から発するIR光の強さの調整量を算出し、調整量に応じて発光制御信号に含まれる電圧値またはパラメータ等を変更する(ステップST7−1)。
When the light emission control unit 13 is activated in step ST1 shown in FIG. 7, first, a light emission control signal for causing the IR-LED of the LED group 12-1 to emit light, or the LED groups 12-1, 12-2, 12-3. A light emission control signal for causing all of the IR-LEDs to emit light is output to the IR light source unit 12.
Thereafter, similarly to step ST7 shown in FIG. 7, the light emission control unit 13 receives the brightness information from the image processing device 6, and the intensity of the IR light emitted from the IR light source unit 12 according to the brightness information. And the voltage value or parameter included in the light emission control signal is changed according to the adjustment amount (step ST7-1).

実施の形態2では、画像処理装置6が明るさ情報だけでなく、認識結果情報も送信することとする。画像処理装置6は、IRカメラ5が撮像した画像から運転者2の顔を検出できたか否かを示す認識結果情報を生成して、投光装置10の発光制御部13へ送信する。   In the second embodiment, the image processing device 6 transmits not only brightness information but also recognition result information. The image processing device 6 generates recognition result information indicating whether the face of the driver 2 has been detected from the image captured by the IR camera 5 and transmits the recognition result information to the light emission control unit 13 of the light projecting device 10.

発光制御部13は、画像処理装置6からの認識結果情報を受信して、画像処理装置6において運転者2の顔が検出されたか否かを判定する(ステップST7−2)。
画像処理装置6において運転者2の顔が検出されなかった場合(ステップST7−2“NO”)、発光制御部13は、LEDグループ12−1のIR−LEDを発光させる発光制御信号を生成する(ステップST7−3)。これにより、第1のIR光照射部11a−1から、無指向性のIR光が広範囲に照射される。従って、画像処理装置6において、運転者2の顔の位置を検出して、状態推定が可能となる。また、検出した顔の位置から、角膜反射像ができる位置を予測することができる。
なお、ステップST7−3において、発光制御部13は、LEDグループ12−1,12−2,12−3のIR−LEDすべてを発光させて、角膜反射法による視線検出を可能にしてもよい。
The light emission control unit 13 receives the recognition result information from the image processing device 6, and determines whether or not the face of the driver 2 is detected in the image processing device 6 (step ST7-2).
When the face of the driver 2 is not detected in the image processing device 6 (step ST7-2 “NO”), the light emission control unit 13 generates a light emission control signal that causes the IR-LEDs of the LED group 12-1 to emit light. (Step ST7-3). Thereby, non-directional IR light is irradiated in a wide range from the first IR light irradiation unit 11a-1. Accordingly, the image processing device 6 can detect the position of the face of the driver 2 and estimate the state. In addition, a position where a cornea reflection image can be formed can be predicted from the detected face position.
In step ST7-3, the light emission control unit 13 may cause all of the IR-LEDs of the LED groups 12-1, 12-2, and 12-3 to emit light so that the line of sight can be detected by the cornea reflection method.

発光制御部13は、画像処理装置6において運転者2の顔が検出された場合(ステップST7−2“YES”)、LEDグループ12−2またはLEDグループ12−3の少なくとも一方を発光させる発光制御信号を生成する(ステップST7−4)。これにより、第2のIR光照射部11a−2Lまたは第2のIR光照射部11a−2Rの少なくとも一方から、指向性を持つIR光が照射される。従って、画像処理装置6において、輪郭が明確な角膜反射像から視線の向きを検出することができる。   The light emission control unit 13 emits at least one of the LED group 12-2 or the LED group 12-3 when the face of the driver 2 is detected in the image processing apparatus 6 (step ST7-2 “YES”). A signal is generated (step ST7-4). Thereby, IR light with directivity is irradiated from at least one of the second IR light irradiation unit 11a-2L or the second IR light irradiation unit 11a-2R. Therefore, the image processing device 6 can detect the direction of the line of sight from a cornea reflection image with a clear outline.

発光制御部13は、ステップST7−3またはステップST7−4の後、図7のステップST1へ戻り、ステップST1〜ST7の処理を繰り返し行う。これにより、発光制御部13は、予め定められた発光パターンに従って、まずLEDグループ12−1を発光させて第1のIR光照射部11a−1から無指向性のIR光を照射させた後、LEDグループ12−2,12−3を発光させて第2のIR光照射部11a−2から指向性を持つIR光を照射させることができる。   After step ST7-3 or step ST7-4, the light emission control unit 13 returns to step ST1 in FIG. 7 and repeats the processes of steps ST1 to ST7. Thereby, the light emission control unit 13 first causes the LED group 12-1 to emit light according to a predetermined light emission pattern and irradiates non-directional IR light from the first IR light irradiation unit 11a-1. The LED groups 12-2 and 12-3 can emit light to emit IR light having directivity from the second IR light irradiation unit 11a-2.

なお、ステップST7−4において、発光制御部13は、画像処理装置6からの認識結果情報に基づいて、第2のIR光照射部11a−2Lまたは第2のIR光照射部11a−2RのどちらからIR光を照射するか、判定してもよい。
例えば、画像処理装置6が認識結果情報として、運転者2の顔を検出できたか否かだけでなく、IR光源部12のIR光によりできた角膜反射像と外乱光との違いを判別できたか否かも示す情報を生成して、投光装置10の発光制御部13へ送信する。
投光装置10の発光制御部13が、今回のステップST7−4において第2のIR光照射部11a−2Lから指向性を持つIR光を照射させるようにしたと仮定する。そして、画像処理装置6が、第2のIR光照射部11a−2Lから照射されたIR光による角膜反射像と外乱光との違いを判別できなかった場合、次回のステップST7−4において、発光制御部13は第2のIR光照射部11a−2Lからの照射をやめ、第2のIR光照射部11a−2Rから照射させるようにする。運転者2の目に映る外乱光の位置は変化しないが、第2のIR光照射部11a−2Lから第2のIR光照射部11a−2Rへ切り替えたことによりIR光による角膜反射像の位置は変化するため、画像処理装置6は正しい角膜反射像の位置を判別することができる。
In step ST7-4, the light emission control unit 13 determines which of the second IR light irradiation unit 11a-2L or the second IR light irradiation unit 11a-2R based on the recognition result information from the image processing device 6. It may be determined whether to irradiate IR light.
For example, whether or not the image processing device 6 could detect the driver 2's face as the recognition result information, and whether the difference between the cornea reflection image formed by the IR light from the IR light source unit 12 and the disturbance light could be discriminated. Information indicating whether or not is generated is transmitted to the light emission control unit 13 of the light projecting device 10.
It is assumed that the light emission control unit 13 of the light projecting device 10 irradiates IR light having directivity from the second IR light irradiation unit 11a-2L in the current step ST7-4. If the image processing apparatus 6 cannot determine the difference between the corneal reflection image by the IR light irradiated from the second IR light irradiation unit 11a-2L and the disturbance light, in the next step ST7-4, the light emission is performed. The control unit 13 stops the irradiation from the second IR light irradiation unit 11a-2L and causes the second IR light irradiation unit 11a-2R to perform irradiation. Although the position of the disturbance light reflected in the eyes of the driver 2 does not change, the position of the cornea reflection image by the IR light is changed by switching from the second IR light irradiation unit 11a-2L to the second IR light irradiation unit 11a-2R. Changes, the image processing apparatus 6 can determine the correct position of the corneal reflection image.

また、画像処理装置6が第2のIR光照射部11a−2からのIR光による角膜反射像と外乱光との違いを判別できなかった場合、発光制御部13は、例えばIR光源部12の発光を消して外乱光だけにし、画像処理装置6に外乱光の位置を判別させたのち、第2のIR光照射部11a−2からIR光を照射させて視線検出を可能にしてもよい。   When the image processing device 6 cannot discriminate the difference between the corneal reflection image by the IR light from the second IR light irradiation unit 11 a-2 and the disturbance light, the light emission control unit 13, for example, After the light emission is extinguished and only the disturbance light is detected, the position of the disturbance light is discriminated by the image processing apparatus 6, and then the IR light is irradiated from the second IR light irradiation unit 11a-2 to enable the line-of-sight detection.

以上より、実施の形態2によれば、IR光照射部11aは、第1のIR光照射部11a−1と、この第1のIR光照射部11a−1より指向性が強い第2のIR光照射部11a−2とを有する構成にしたので、第1のIR光照射部11a−1から広範囲にIR光を照射することができ、運転者2の顔の位置が大きく変化しても、運転者2の状態推定が可能である。また、第2のIR光照射部11a−2から指向性を持つIR光を照射することができ、角膜反射像の輪郭が明確になり、視線検出の精度が向上する。   As described above, according to the second embodiment, the IR light irradiation unit 11a includes the first IR light irradiation unit 11a-1 and the second IR having higher directivity than the first IR light irradiation unit 11a-1. Since the light irradiation unit 11a-2 is configured, it is possible to irradiate IR light over a wide range from the first IR light irradiation unit 11a-1, and even if the position of the face of the driver 2 changes greatly, The state of the driver 2 can be estimated. In addition, IR light having directivity can be irradiated from the second IR light irradiation unit 11a-2, and the outline of the corneal reflection image becomes clear and the accuracy of line-of-sight detection is improved.

また、実施の形態2によれば、IR光源部12は、第1のIR光照射部11a−1へIR光を入射するLEDグループ12−1と、第2のIR光照射部11a−2へIR光を入射するLEDグループ12−2,12−3とを有し、発光制御部13は、予め定められた発光パターンに従って、LEDグループ12−1を発光させて第1のIR光照射部11a−1からIR光を照射させた後、LEDグループ12−2,12−3を発光させて第2のIR光照射部11a−2からIR光を照射させる構成にしたので、運転者2の顔の位置が大きく変化して角膜反射像の位置を検出できなくなった場合に、まず広範囲にIR光を照射することにより、移動後の顔の位置を検出可能にし、角膜反射像ができる位置を予測可能にすることができる。   Further, according to the second embodiment, the IR light source unit 12 is directed to the LED group 12-1 that makes the IR light incident on the first IR light irradiation unit 11a-1 and the second IR light irradiation unit 11a-2. The light emission control unit 13 causes the LED group 12-1 to emit light according to a predetermined light emission pattern, and the first IR light irradiation unit 11a. -1 after irradiating the IR light, the LED groups 12-2 and 12-3 are made to emit light and the IR light is irradiated from the second IR light irradiating unit 11a-2. If the position of the cornea changes greatly and the position of the cornea reflection image cannot be detected, the position of the face after the movement can be detected by first irradiating IR light over a wide range, and the position where the cornea reflection image can be predicted is predicted Can be possible.

また、実施の形態2によれば、保護板11は、第2のIR光照射部11a−2を複数有し、IR光源部12は、複数の第2のIR光照射部11a−2へIR光を入射する複数のLEDグループを有し、発光制御部13は、予め定められた発光パターンに従って、複数のLEDグループ12−2,12−3の発光を切り替えることにより、IR光を照射する第2のIR光照射部11a−2L,11a−2Rを切り替える構成にしたので、角膜反射像と外乱光の判別が容易となり、画像処理装置6において直射日光などの外乱に強い視線検出を行うことができる。   Further, according to the second embodiment, the protection plate 11 includes a plurality of second IR light irradiation units 11a-2, and the IR light source unit 12 applies IR to the plurality of second IR light irradiation units 11a-2. The light emission control unit 13 includes a plurality of LED groups that receive light, and the light emission control unit 13 irradiates IR light by switching light emission of the plurality of LED groups 12-2 and 12-3 according to a predetermined light emission pattern. Since the two IR light irradiation units 11a-2L and 11a-2R are switched, it becomes easy to discriminate between the corneal reflection image and the disturbance light, and the image processing apparatus 6 can detect the line of sight strong against disturbance such as direct sunlight. it can.

なお、実施の形態1,2のドライバセンシングシステムを、車両の運転者2の撮影に用いたが、鉄道、船舶または航空機等を含む移動体の運転者の撮像に用いてもよい。
また、実施の形態1,2では、表示装置としてダッシュボード3に設置されたメータディスプレイ4を例示したが、センタコンソールに設置されたディスプレイなど、保護板に保護されている表示装置であれば何でもよい。
また、実施の形態1,2では、運転者2の撮像用の照明として、800nm〜950nmのIR光を発するIR光源部12を用いたが、IR光を含む赤外光を発する光源部を用いてもよい。
In addition, although the driver sensing system of Embodiment 1, 2 was used for imaging | photography of the driver 2 of a vehicle, you may use it for the imaging | photography of the driver | operator of the moving body containing a railroad, a ship, an aircraft, etc.
In the first and second embodiments, the meter display 4 installed on the dashboard 3 is exemplified as the display device. However, any display device protected by a protective plate such as a display installed on the center console may be used. Good.
In the first and second embodiments, the IR light source unit 12 that emits IR light of 800 nm to 950 nm is used as the illumination for imaging the driver 2, but the light source unit that emits infrared light including IR light is used. May be.

なお、本発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、各実施の形態の任意の構成要素の変形、または各実施の形態の任意の構成要素の省略が可能である。   In the present invention, within the scope of the invention, any combination of each embodiment, any component of each embodiment can be modified, or any component of each embodiment can be omitted.

1 車室内、2 運転者、3 ダッシュボード、4 メータディスプレイ(表示装置)、5 IRカメラ、6 画像処理装置、10 投光装置、11 保護板、11a IR光照射部(赤外光照射部)、11a−1 第1のIR光照射部(第1の赤外光照射部)、11a−2,11a−2L,11a−2R 第2のIR光照射部(第2の赤外光照射部)、11b 可視光透過部、11c,11d ドット、11e プリズム、12 IR光源部(光源部)、12a IR−LED、12b 駆動回路、12−1 LEDグループ(第1の光源部)、12−2,12−3 LEDグループ(第2の光源部)、13 発光制御部、41〜45 表示物、51 レンズ、52 IR透過フィルタ、53 撮像素子、100 処理回路、101 プロセッサ、102 メモリ。   1 vehicle interior, 2 driver, 3 dashboard, 4 meter display (display device), 5 IR camera, 6 image processing device, 10 projector, 11 protection plate, 11a IR light irradiation unit (infrared light irradiation unit) 11a-1 First IR light irradiation unit (first infrared light irradiation unit), 11a-2, 11a-2L, 11a-2R Second IR light irradiation unit (second infrared light irradiation unit) , 11b Visible light transmission part, 11c, 11d dots, 11e prism, 12 IR light source part (light source part), 12a IR-LED, 12b drive circuit, 12-1 LED group (first light source part), 12-2, 12-3 LED group (second light source unit), 13 light emission control unit, 41 to 45 display object, 51 lens, 52 IR transmission filter, 53 image sensor, 100 processing circuit, 101 processor, 102 meg Li.

Claims (10)

車室内に設置された表示装置の表示面を保護する保護板と、
前記保護板に赤外光を入射する光源部と、
前記光源部の発光を制御し、前記光源部からの赤外光を前記保護板で導光させ前記車室内へ照射する発光制御部とを備える投光装置。
A protective plate for protecting the display surface of the display device installed in the passenger compartment;
A light source unit that makes infrared light incident on the protective plate;
A light projection device comprising: a light emission control unit that controls light emission of the light source unit, guides infrared light from the light source unit with the protective plate, and irradiates the vehicle interior.
前記保護板は、前記光源部からの赤外光を散乱して照射する赤外光照射部と、前記表示装置からの可視光を透過させる可視光透過部とを有することを特徴とする請求項1記載の投光装置。   The said protective plate has an infrared light irradiation part which scatters and irradiates the infrared light from the said light source part, and a visible light transmission part which permeate | transmits the visible light from the said display apparatus, It is characterized by the above-mentioned. The light projecting device according to 1. 前記赤外光照射部の面積に比べ、前記可視光透過部の面積が大きいことを特徴とする請求項2記載の投光装置。   The light projecting device according to claim 2, wherein an area of the visible light transmitting portion is larger than an area of the infrared light irradiation portion. 前記赤外光照射部は、第1の赤外光照射部と、前記第1の赤外光照射部より指向性が強い第2の赤外光照射部とを有することを特徴とする請求項2または請求項3記載の投光装置。   The infrared light irradiation unit includes a first infrared light irradiation unit and a second infrared light irradiation unit having higher directivity than the first infrared light irradiation unit. The light projecting device according to claim 2 or 3. 前記光源部は、前記第1の赤外光照射部へ赤外光を入射する第1の光源部と、前記第2の赤外光照射部へ赤外光を入射する第2の光源部とを有し、
前記発光制御部は、予め定められた発光パターンに従って前記第1の光源部および前記第2の光源部の発光を制御することを特徴とする請求項4記載の投光装置。
The light source unit includes a first light source unit that inputs infrared light to the first infrared light irradiation unit, and a second light source unit that inputs infrared light to the second infrared light irradiation unit. Have
The light projection device according to claim 4, wherein the light emission control unit controls light emission of the first light source unit and the second light source unit according to a predetermined light emission pattern.
前記発光制御部は、予め定められた発光パターンに従って、前記第1の光源部を発光させて前記第1の赤外光照射部から赤外光を照射させた後、前記第2の光源部を発光させて前記第2の赤外光照射部から赤外光を照射させることを特徴とする請求項5記載の投光装置。   The light emission control unit causes the first light source unit to emit light according to a predetermined light emission pattern and irradiate infrared light from the first infrared light irradiation unit, and then causes the second light source unit to The light projecting device according to claim 5, wherein the light is emitted and irradiated with infrared light from the second infrared light irradiation unit. 前記保護板は、前記第2の赤外光照射部を複数有し、
前記光源部は、複数の前記第2の赤外光照射部へ赤外光を入射する複数の前記第2の光源部を有し、
前記発光制御部は、予め定められた発光パターンに従って、複数の前記第2の光源部の発光を切り替えることにより、赤外光を照射する前記第2の赤外光照射部を切り替えることを特徴とする請求項5記載の投光装置。
The protective plate has a plurality of the second infrared light irradiation sections,
The light source unit includes a plurality of the second light source units that make infrared light incident on the plurality of second infrared light irradiation units,
The light emission control unit switches the second infrared light irradiation unit that emits infrared light by switching light emission of a plurality of the second light source units according to a predetermined light emission pattern. The light projecting device according to claim 5.
前記第2の赤外光照射部は、前記保護板の表面の形状加工により指向性が強められていることを特徴とする請求項4から請求項7のうちのいずれか1項記載の投光装置。   8. The light projection according to claim 4, wherein the second infrared light irradiating part has enhanced directivity by shape processing of the surface of the protective plate. 9. apparatus. 前記第2の赤外光照射部は、前記保護板に設置されたプリズムであることを特徴とする請求項4から請求項7のうちのいずれか1項記載の投光装置。   The light projecting device according to claim 4, wherein the second infrared light irradiation unit is a prism installed on the protective plate. 前記表示装置は、運転席の前方に設置されたメータディスプレイであることを特徴とする請求項1から請求項9のうちのいずれか1項記載の投光装置。   The light projecting device according to claim 1, wherein the display device is a meter display installed in front of a driver's seat.
JP2015128709A 2015-06-26 2015-06-26 Floodlight device Expired - Fee Related JP6433383B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015128709A JP6433383B2 (en) 2015-06-26 2015-06-26 Floodlight device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015128709A JP6433383B2 (en) 2015-06-26 2015-06-26 Floodlight device

Publications (2)

Publication Number Publication Date
JP2017013515A true JP2017013515A (en) 2017-01-19
JP6433383B2 JP6433383B2 (en) 2018-12-05

Family

ID=57828898

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015128709A Expired - Fee Related JP6433383B2 (en) 2015-06-26 2015-06-26 Floodlight device

Country Status (1)

Country Link
JP (1) JP6433383B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018220821A1 (en) * 2017-06-02 2018-12-06 三菱電機株式会社 Control apparatus and control method
JP2019012156A (en) * 2017-06-30 2019-01-24 京セラ株式会社 Liquid crystal display device
WO2020021674A1 (en) * 2018-07-26 2020-01-30 Necディスプレイソリューションズ株式会社 Display system and display system control method
JP2020032999A (en) * 2019-06-26 2020-03-05 日本精機株式会社 Vehicle display device
WO2020045329A1 (en) * 2018-08-29 2020-03-05 日本精機株式会社 Vehicle display device
JP2020517520A (en) * 2017-04-28 2020-06-18 ヴァレオ、コンフォート、アンド、ドライビング、アシスタンスValeo Comfort And Driving Assistance Command module for vehicle cabin

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003270002A (en) * 2002-03-14 2003-09-25 Yazaki Corp Display device
JP2012168748A (en) * 2011-02-15 2012-09-06 Denso Corp Light projection system and face photographing system
JP2014031140A (en) * 2012-08-06 2014-02-20 Alpine Electronics Inc Display device

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003270002A (en) * 2002-03-14 2003-09-25 Yazaki Corp Display device
JP2012168748A (en) * 2011-02-15 2012-09-06 Denso Corp Light projection system and face photographing system
JP2014031140A (en) * 2012-08-06 2014-02-20 Alpine Electronics Inc Display device

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020517520A (en) * 2017-04-28 2020-06-18 ヴァレオ、コンフォート、アンド、ドライビング、アシスタンスValeo Comfort And Driving Assistance Command module for vehicle cabin
JP7146807B2 (en) 2017-04-28 2022-10-04 ヴァレオ、コンフォート、アンド、ドライビング、アシスタンス Command module for vehicle cabin
WO2018220821A1 (en) * 2017-06-02 2018-12-06 三菱電機株式会社 Control apparatus and control method
JP2019012156A (en) * 2017-06-30 2019-01-24 京セラ株式会社 Liquid crystal display device
JP7054324B2 (en) 2017-06-30 2022-04-13 京セラ株式会社 Liquid crystal display device
WO2020021674A1 (en) * 2018-07-26 2020-01-30 Necディスプレイソリューションズ株式会社 Display system and display system control method
WO2020045329A1 (en) * 2018-08-29 2020-03-05 日本精機株式会社 Vehicle display device
JP2020032999A (en) * 2019-06-26 2020-03-05 日本精機株式会社 Vehicle display device

Also Published As

Publication number Publication date
JP6433383B2 (en) 2018-12-05

Similar Documents

Publication Publication Date Title
JP6433383B2 (en) Floodlight device
JP6339235B2 (en) Control device and related method
JP6470335B2 (en) Vehicle display system and method for controlling vehicle display system
JP5742937B2 (en) Visibility support device for vehicle
US7199767B2 (en) Enhanced vision for driving
US9045074B2 (en) Driver alerts
WO2014017061A1 (en) State monitoring device
JP6400215B2 (en) Vehicle control apparatus and vehicle control method
JP4852941B2 (en) Car alarm system
JP6119136B2 (en) Condition monitoring device
US20170220106A1 (en) Image display apparatus
JP2010128000A (en) Vehicular display
WO2017090319A1 (en) Device for detecting direction of line of sight, and system for detecting direction of line of sight
JP6278106B2 (en) Condition monitoring device and optical member
TWI522257B (en) Vehicle safety system and operating method thereof
JP6075248B2 (en) Information display device
US20160179195A1 (en) Method for operating a head-up display, presentation apparatus, vehicle
JP2009234435A (en) Vehicular safety device
JP6558770B2 (en) Projection display device, projection display method, and projection display program
JP2016055801A (en) On-vehicle display device
CN105323539B (en) Vehicle safety system and operation method thereof
JP2017199212A (en) Drive assist system
JP2021039554A (en) Gazing guidance device for vehicle
JP2020149431A (en) Driving assist system
JP6434708B2 (en) Visible information presentation device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170808

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180515

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180709

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181009

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181106

R150 Certificate of patent or registration of utility model

Ref document number: 6433383

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees