JP4326999B2 - Image processing system - Google Patents

Image processing system Download PDF

Info

Publication number
JP4326999B2
JP4326999B2 JP2004106853A JP2004106853A JP4326999B2 JP 4326999 B2 JP4326999 B2 JP 4326999B2 JP 2004106853 A JP2004106853 A JP 2004106853A JP 2004106853 A JP2004106853 A JP 2004106853A JP 4326999 B2 JP4326999 B2 JP 4326999B2
Authority
JP
Japan
Prior art keywords
image processing
processing system
light
glass
light source
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004106853A
Other languages
Japanese (ja)
Other versions
JP2005195566A (en
JP2005195566A5 (en
Inventor
寛 武長
裕史 大塚
彰二 村松
竜彦 門司
謙 大角
勲 古沢
雅明 福原
裕行 粕谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2004106853A priority Critical patent/JP4326999B2/en
Priority to US10/916,444 priority patent/US7208723B2/en
Priority to EP04019184A priority patent/EP1507138B1/en
Priority to DE602004027198T priority patent/DE602004027198D1/en
Publication of JP2005195566A publication Critical patent/JP2005195566A/en
Priority to US11/474,337 priority patent/US7247838B2/en
Publication of JP2005195566A5 publication Critical patent/JP2005195566A5/ja
Application granted granted Critical
Publication of JP4326999B2 publication Critical patent/JP4326999B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • B60S1/0822Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means
    • B60S1/0833Optical rain sensor
    • B60S1/0844Optical rain sensor including a camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • B60S1/0822Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0896Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to a vehicle driving condition, e.g. speed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • B60S1/0822Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means
    • B60S1/0833Optical rain sensor

Description

本発明は、各種のウィンドウガラスの表面に付着する異物を検出するに適した画像処理システムに関するものである。   The present invention relates to an image processing system suitable for detecting foreign matters adhering to the surface of various window glasses.

車両,船舶,航空機等に用いられるガラス或いは一般建造物の窓ガラス等の各種のウィンドウガラスの表面に付着する雨滴等の液滴及び曇りや塵などは、ウィンドウガラスを通した視認性を低下させる。従来、ウィンドウガラスに付着した異物を画像処理システムによって検出し、その後、各種手段によってウィンドウガラスに付着した異物を除去する方法が知られている。   Droplets such as raindrops and fogging and dust adhering to the surface of various types of window glass such as glass used in vehicles, ships, aircraft, etc. or window glass of general buildings, etc., reduce visibility through the window glass. . 2. Description of the Related Art Conventionally, a method is known in which foreign matter attached to a window glass is detected by an image processing system and then the foreign matter attached to the window glass is removed by various means.

特許文献1には、2つの光源でウィンドウガラスを照射して、ウィンドウガラスからの反射光を撮像素子で検出し、反射光の強さからウィンドウガラスの外表面に付着した雨滴とウィンドウガラスの内表面に付着した曇りを検出する方法が記載されている。特許文献2には、画像処理システムの構成を簡略化するために、1つの光源とレンズを用いてウィンドウガラスを照射し、ウィンドウガラスからの反射光を撮像素子で検出して、ウィンドウガラスの外表面に付着した異物を検出する方法が記載されている。また、特許文献3には、一台の車載カメラの前方にあるフィルタをモータを用いて機械的に出し入れして複数の条件で画像を取得し、ウィンドウガラスの外表面に付着した異物を検出する方法が記載されている。   In Patent Document 1, the window glass is irradiated with two light sources, the reflected light from the window glass is detected by the image sensor, and raindrops attached to the outer surface of the window glass and the inside of the window glass are detected from the intensity of the reflected light. A method for detecting haze adhering to the surface is described. In Patent Document 2, in order to simplify the configuration of the image processing system, the window glass is irradiated using one light source and a lens, the reflected light from the window glass is detected by an image sensor, and the outside of the window glass is detected. A method for detecting foreign matter adhering to the surface is described. In Patent Document 3, a filter in front of one in-vehicle camera is mechanically put in and out using a motor to acquire an image under a plurality of conditions, and foreign matter attached to the outer surface of the window glass is detected. A method is described.

特公平07−89099号公報Japanese Patent Publication No. 07-89099 特表2001−516670号公報JP-T-2001-516670 特開平11−160779号公報Japanese Patent Laid-Open No. 11-160777

しかしながら上記従来技術は、2つの光源の反射光を検出するため、撮像素子の独立した領域に反射光をあてる必要があり、そのための光学系が必須となって装置の簡略化が困難であり、また太陽光など外光の影響を除去できないという課題があった。また1つの光源からの反射光を検出する方法は、ウィンドウガラスの外側からの反射光か内側からの反射光かの判別が困難であり、またレンズの焦点をウィンドウガラスにあわせているため自車両前方の白線や先行車両などを同時に検出することが困難であるという課題があった。
また、上記の従来技術では、複数の条件で同時刻の映像を取り込むことや、複数の条件の映像を時間的に連続して取り込むことが出来ない。また、今後は短時間で多数の情報を取得し、高速画像処理を行うために、撮像装置や処理装置の高速化が予想されるが、上記従来技術では機械系の動作が介在するため高速画像処理に対応することは難しい。また、自動車に搭載される製品は、幅広い温度変化や湿度変化の厳しい環境に耐える高い品質が要求されており、上記従来技術のように機械的な可動部を有するものは信頼性の面でも好ましくない。
However, since the above prior art detects the reflected light of the two light sources, it is necessary to apply the reflected light to an independent area of the image sensor, and an optical system for that is essential, and it is difficult to simplify the apparatus. There is also a problem that the influence of external light such as sunlight cannot be removed. In addition, the method of detecting the reflected light from one light source is difficult to distinguish between the reflected light from the outside of the window glass or the reflected light from the inside, and the host vehicle has the lens focused on the window glass. There has been a problem that it is difficult to simultaneously detect the white line ahead and the preceding vehicle.
Further, in the above-described conventional technology, it is not possible to capture images at the same time under a plurality of conditions, or to capture images of a plurality of conditions continuously in time. In the future, in order to acquire a large amount of information in a short time and to perform high-speed image processing, it is expected that the imaging device and the processing device will increase in speed. It is difficult to deal with processing. In addition, products mounted on automobiles are required to have high quality that can withstand a wide range of temperature changes and humidity changes, and those having mechanical moving parts as in the above-mentioned prior art are preferable in terms of reliability. Absent.

本発明は、上記の問題点を鑑みてなされたもので、機械的な可動部を用いることなく、一台のカメラを用いて複数の条件の画像を撮像しウィンドウガラスに付着した異物を精度よく検出できる画像処理システムを提供することを目的とする。   The present invention has been made in view of the above-mentioned problems, and without using a mechanical movable part, the image of a plurality of conditions is captured using a single camera, and foreign matter adhering to the window glass is accurately detected. An object is to provide an image processing system capable of detection.

上記目的は、ガラスに向けて光を照射する光源と、光源から照射された光がガラスに付着した異物に反射した反射光を撮像する撮像素子と、撮像素子で撮像した画像を処理する画像処理装置を備え、ガラスと撮像素子の間に、反射光の特定波長を透過する光学フィルタを設けて画像処理システムを構成することにより達成される。光学フィルタは、例えばウィンドウガラスの透過率が所定値以上で撮像素子の感度も高い波長域の光を透過するような特性のものを用いる。あるいは、可視領域の波長をカットし、可視領域より長波長側で撮像素子が感度を有する波長域の光を透過するような特性のものを用いる。光学フィルタは、一枚のフィルタの光学特性をフィルタの領域によって異ならせてもよく、あるいは、撮像素子の前に設けられるレンズ又はレンズカバーの特性を上記フィルタと同様の光学特性としてもよい。   The purpose is to provide a light source that emits light toward the glass, an image sensor that captures reflected light reflected by a foreign object attached to the glass, and image processing that processes the image captured by the image sensor. This is achieved by providing an apparatus and providing an optical filter that transmits a specific wavelength of reflected light between the glass and the imaging device to constitute an image processing system. As the optical filter, for example, a filter having a characteristic that transmits light in a wavelength region in which the transmittance of the window glass is equal to or higher than a predetermined value and the sensitivity of the imaging element is high is used. Alternatively, a wavelength that cuts the wavelength in the visible region and transmits light in a wavelength region in which the imaging element has sensitivity on the longer wavelength side than the visible region is used. In the optical filter, the optical characteristics of a single filter may differ depending on the area of the filter, or the characteristics of a lens or lens cover provided in front of the image sensor may be the same as the above-described filter.

本発明によれば、簡略化された構成により、太陽光や周辺光、昼夜に影響されずに、ウィンドウガラスの外側に付着した雨滴と内側に付着した曇りを簡単に分離して検出することができる。また、可動部を設けることなく、一台の撮像装置を用いて複数の条件の画像を撮像できるため、一台の撮像装置の情報に基づいて複数の機能を実現でき、更に撮像装置の小型化にも寄与する。   According to the present invention, it is possible to easily separate and detect raindrops adhering to the outside of the window glass and cloudiness adhering to the inside without being affected by sunlight, ambient light, and day and night by a simplified configuration. it can. In addition, since it is possible to capture images of a plurality of conditions using a single imaging device without providing a movable part, it is possible to realize a plurality of functions based on information from a single imaging device, and further downsize the imaging device. Also contributes.

以下、図面を参照して本発明の実施の形態を説明する。ここでは、主に自動車に適用した場合の実施例について説明する。   Embodiments of the present invention will be described below with reference to the drawings. Here, an embodiment in the case where the present invention is mainly applied to an automobile will be described.

図1に、本発明による画像処理システムの一例の模式図を示す。図1(a)は側断面図、図1(b)は自動車のウィンドウガラス側から見た正面図である。   FIG. 1 shows a schematic diagram of an example of an image processing system according to the present invention. FIG. 1A is a side sectional view, and FIG. 1B is a front view seen from the window glass side of an automobile.

本実施例の画像処理システムは、画像処理装置1,第1の光源2,第2の光源3で構成され、第1の光源2,第2の光源3の発光タイミングは画像処理装置1によって制御されている。画像処理装置1は、自動車の室内側に、ウィンドウガラス(フロントガラス)4に対向するように設置されている。第1の光源2は画像処理装置1の側方に配置され、ウィンドウガラス4に向けて光を放射する。一方、第2の光源3は下方からウィンドウガラス4を照射する。   The image processing system according to this embodiment includes an image processing device 1, a first light source 2, and a second light source 3, and the light emission timings of the first light source 2 and the second light source 3 are controlled by the image processing device 1. Has been. The image processing apparatus 1 is installed on the indoor side of an automobile so as to face a window glass (front glass) 4. The first light source 2 is disposed on the side of the image processing apparatus 1 and emits light toward the window glass 4. On the other hand, the second light source 3 irradiates the window glass 4 from below.

画像処理装置1に設けられた駆動回路を用いて、第1の光源2がウィンドウガラス4に向けて発光する。第1の光源2が発した光は、ウィンドウガラス4が清浄な場合、ウィンドウガラス4を透過する。また、ウィンドウガラス4によって反射された光は下方に向い、画像処理装置1に入射しない。しかし、ウィンドウガラス4の外側に雨滴8が付着している場合、第1の光源2が発した光は、雨滴8によって反射される。第1の光源2の横には、画像処理装置1のレンズ10が配置されている。このため、雨滴8で反射した光は、画像処理装置1のレンズ10を通り、所定の光学特性を有する光学フィルタ20を介して撮像素子30に入射する。ウィンドウガラス4の外側に雨滴8が付着していない場合に、第1の光源2が発した光は、ウィンドウガラス4を透過して直進し、撮像素子30に入射することはない。図2(a)に、ウィンドウガラス4の外側に多量の雨滴が付着した時に撮像素子30で撮影した画像の例を示す。雨滴は円形に近い形状として撮影される。特に、ウィンドウガラス4に撥水性を持たせておけば、雨滴はより円形に近い形状で撮影することができる。   The first light source 2 emits light toward the window glass 4 using a drive circuit provided in the image processing apparatus 1. The light emitted from the first light source 2 passes through the window glass 4 when the window glass 4 is clean. Further, the light reflected by the window glass 4 is directed downward and does not enter the image processing apparatus 1. However, when raindrops 8 are attached to the outside of the window glass 4, the light emitted from the first light source 2 is reflected by the raindrops 8. Next to the first light source 2, the lens 10 of the image processing apparatus 1 is arranged. For this reason, the light reflected by the raindrop 8 passes through the lens 10 of the image processing apparatus 1 and enters the image sensor 30 via the optical filter 20 having predetermined optical characteristics. When raindrops 8 are not attached to the outside of the window glass 4, the light emitted from the first light source 2 passes through the window glass 4 and travels straight and does not enter the image sensor 30. FIG. 2A shows an example of an image photographed by the image sensor 30 when a large amount of raindrops adheres to the outside of the window glass 4. Raindrops are photographed as a shape close to a circle. In particular, if the window glass 4 is provided with water repellency, raindrops can be photographed in a more circular shape.

次に、第2の光源3は、画像処理装置1の下方である自動車内のダッシュボード6上に配置されている。画像処理装置1に設けられた駆動回路を用いて、第2の光源3がウィンドウガラス4に向けて発光する。第2の光源3が発した光は、ウィンドウガラス4の内側で全反射し、反射光が画像処理装置1のレンズ10を通って撮像素子30に入射する。しかし、ウィンドウガラス4の内側に曇り12が付着している場合は、第2の光源3が発した光は曇り12で散乱し、一部の光が画像処理装置1のレンズ10を通り、光学フィルタ20を介して撮像素子30に入射する。ウィンドウガラス4の上部が曇っている時に撮像素子30で撮影した画像の例を図2(b)に示す。曇りにより前方の視界が妨げられる。   Next, the second light source 3 is disposed on a dashboard 6 in the automobile, which is below the image processing apparatus 1. The second light source 3 emits light toward the window glass 4 using a drive circuit provided in the image processing apparatus 1. The light emitted from the second light source 3 is totally reflected inside the window glass 4, and the reflected light enters the image sensor 30 through the lens 10 of the image processing apparatus 1. However, when the cloud 12 is attached to the inside of the window glass 4, the light emitted from the second light source 3 is scattered by the cloud 12, and a part of the light passes through the lens 10 of the image processing apparatus 1 and is optical. The light enters the image sensor 30 through the filter 20. An example of an image photographed by the image sensor 30 when the upper portion of the window glass 4 is cloudy is shown in FIG. Cloudiness hinders forward visibility.

図1の実施例では、画像処理装置1からダッシュボード6上に配置した第2の光源3まで制御信号線が必要であり、制御信号線が長くなる。図3に本発明の他の実施例を示す。図3では、本発明の画像処理システムをコンパクト化するために、画像処理装置1,第1の光源2,第2の光源3を同一のケース5の中に組み込んで画像処理システムを構成している。   In the embodiment of FIG. 1, a control signal line is required from the image processing apparatus 1 to the second light source 3 arranged on the dashboard 6, and the control signal line becomes long. FIG. 3 shows another embodiment of the present invention. In FIG. 3, in order to make the image processing system of the present invention compact, the image processing apparatus 1, the first light source 2, and the second light source 3 are incorporated in the same case 5 to constitute an image processing system. Yes.

更に、他の実施例を図4に示す。本実施例では、第2の光源3も画像処理装置1の側方に配置し、第2の光源3からの光がウィンドウガラス4で反射されるケース5の位置に鏡60を配置している。本実施例では、第2の光源3が照射した光は、ウィンドウガラス4で反射して鏡60に入射してそこで反射され、更にウィンドウガラス4で反射されて画像処理装置1の撮像素子30に入射する。鏡60は、ケース5内に設置するのではなく、ダッシュボードに設置してもよい。なお、第2の光源3からの光は鏡60で反射されて画像処理装置1のレンズ10に入射するが、第1の光源2からの光は鏡60で反射されて画像処理装置1のレンズ10に入射することがないように、第1の光源2、第2の光源3及び鏡60の配置を決める。   Furthermore, another embodiment is shown in FIG. In the present embodiment, the second light source 3 is also disposed on the side of the image processing apparatus 1, and the mirror 60 is disposed at the position of the case 5 where the light from the second light source 3 is reflected by the window glass 4. . In the present embodiment, the light emitted from the second light source 3 is reflected by the window glass 4, is incident on the mirror 60, is reflected there, and is further reflected by the window glass 4 to the image sensor 30 of the image processing apparatus 1. Incident. The mirror 60 may be installed on the dashboard instead of being installed in the case 5. The light from the second light source 3 is reflected by the mirror 60 and enters the lens 10 of the image processing apparatus 1, but the light from the first light source 2 is reflected by the mirror 60 and the lens of the image processing apparatus 1. The arrangement of the first light source 2, the second light source 3, and the mirror 60 is determined so as not to be incident on the light source 10.

図3に示した画像処理システムでは、第2の光源3が発した光をウィンドウガラス4の内側で全反射させ、撮像素子30に入射させるためには、第2の光源3をウィンドウガラス4の近くに配置する必要がある。ケース5によって画像処理装置1や第1の光源2,第2の光源3を囲んでしまうと、ウィンドウガラス4のほかの部分で曇りが発生しても画像処理システム付近のウィンドウガラス4では、曇りの発生が妨げられる可能性がある。そこで、ケース5に空気流通用の通路11を設けることで、ウィンドウガラス4の他の部分で曇りが発生した場合、画像処理システム付近のウィンドウガラス4にも曇りが発生するようにしている。   In the image processing system shown in FIG. 3, in order to cause the light emitted from the second light source 3 to be totally reflected inside the window glass 4 and to be incident on the image pickup device 30, the second light source 3 is placed on the window glass 4. It needs to be placed nearby. If the image processing apparatus 1, the first light source 2, and the second light source 3 are surrounded by the case 5, even if fogging occurs in other parts of the window glass 4, the window glass 4 near the image processing system is fogged. May be prevented. Therefore, by providing the air flow passage 11 in the case 5, when fogging occurs in other parts of the window glass 4, the window glass 4 in the vicinity of the image processing system is also fogged.

図1,図3,図4の実施例では、画像処理装置1と第1の光源2と第2の光源3を用いて構成しているが、画像処理装置1と第1の光源2とを用いて構成してもよいし、あるいは画像処理装置1と第2の光源3を用いて構成してもよい。   1, 3, and 4, the image processing device 1, the first light source 2, and the second light source 3 are used. The image processing apparatus 1 and the second light source 3 may be used.

本発明の実施例で用いる第1の光源2及び第2の光源3の発光色としては、可視光や赤外光を用いればよい。もし、自動車に搭載できる光源の波長に規制がある場合は、ウィンドウガラス4の透過率のよい波長の中から特定波長を選択すればよい。例えば、図5(a)に示すウィンドウガラス4の透過率32が所定値(図5(a)では70%)以上で撮像素子30の感度31も高い波長(波長f以下。具体的には400〜600nmの中の可視光領域の波長)を選べば良い。あるいは、対向車や歩行者を眩惑しないようにするためには、可視光より波長が長くて撮像素子30の受光感度31がおよぶ範囲の波長fb(例えば800〜1000nmの中の赤外光領域の波長)を選べば良い。このようにして選択した第1の光源2及び第2の光源3の波長に対応して光学フィルタ20の特性を選択すれば良い。すなわち、後者の赤外光領域の波長を持つ光源を選択した場合は、可視領域の波長をカットし、可視領域より長波長側で撮像素子が感度を有する波長域の光を透過するような特性の光学フィルタを用いればよい。 Visible light or infrared light may be used as the emission color of the first light source 2 and the second light source 3 used in the embodiment of the present invention. If there is a restriction on the wavelength of a light source that can be mounted on an automobile, a specific wavelength may be selected from wavelengths having good transmittance of the window glass 4. For example, Figure 5 transmission 32 is a predetermined value of the window glass 4 shown in (a) (FIGS. 5 (a) in 70%) or more with a sensitivity 31 is high wavelength of the imaging element 30 (wavelength f a following. Specifically The wavelength in the visible light region within 400 to 600 nm may be selected. Alternatively, in order not to dazzle oncoming vehicles and pedestrians, the wavelength f b (for example, an infrared light region in the range of 800 to 1000 nm) whose wavelength is longer than visible light and the light receiving sensitivity 31 of the image sensor 30 extends. Wavelength). The characteristics of the optical filter 20 may be selected corresponding to the wavelengths of the first light source 2 and the second light source 3 selected in this way. In other words, when a light source having a wavelength in the latter infrared region is selected, the wavelength in the visible region is cut, and light in the wavelength region where the imaging device has sensitivity on the longer wavelength side than the visible region is transmitted. The optical filter may be used.

光学フィルタ20の構成例を図6に示す。図6(a)は、撮像素子30の光が入射する側の面を、特定波長を透過するバンドパスフィルタ21で覆った例である。これは、雨滴、曇りのみを検知する場合の例で、特定波長の光を光源2あるいは光源3より照射して、その波長の光のみを受光できるので、外光の影響を受けることがない。図6(b)は、図6(a)と同じ側の片面でも、一部領域のみをバンドパスフィルタ21で覆った例である。図6(a)は撮像素子30で特定波長の光しか受光できないが、図6(b)は特定波長だけでなく、その他の波長の光も受光できるため、ウィンドウガラス4を通して車外の画像を撮像して処理することができる。更に、ウィンドウガラス4の赤外光透過率が大きい場合は、外光である太陽光による影響を軽減するため、図6(c)に示すように図6(a),図6(b)のバンドパスフィルタ21の光入射側に赤外光カットフィルタ22を配置してもよい。また、図6(d)のように1つの光学フィルタ20に赤外光カットフィルタとバンドパスフィルタの領域を持つようにしても良い。ここで、赤外光カットフィルタとバンドパスフィルタ(波長fc)の透過率の例を図5(b)に示す。バンドパスフィルタとしては、例えば中心透過波長fcが850nmで、透過率が半分になる波長の幅すなわち半値幅が±20nmの波長を通すものを用いることができる。 A configuration example of the optical filter 20 is shown in FIG. FIG. 6A shows an example in which the light incident surface of the image sensor 30 is covered with a band-pass filter 21 that transmits a specific wavelength. This is an example in the case of detecting only raindrops and cloudiness. Light of a specific wavelength is irradiated from the light source 2 or light source 3 and only the light of that wavelength can be received, so that it is not affected by external light. FIG. 6B is an example in which only a partial region is covered with the band-pass filter 21 on one side on the same side as FIG. Although FIG. 6A can receive only light of a specific wavelength with the image sensor 30, FIG. 6B can receive not only the specific wavelength but also other wavelengths of light, so that an image outside the vehicle is captured through the window glass 4. Can be processed. Furthermore, when the infrared light transmittance of the window glass 4 is large, as shown in FIG. 6C, in order to reduce the influence of sunlight, which is external light, as shown in FIG. 6A and FIG. An infrared light cut filter 22 may be disposed on the light incident side of the band pass filter 21. Further, as shown in FIG. 6D, one optical filter 20 may have an infrared light cut filter region and a band pass filter region. Here, an example of the transmittance of the infrared light cut filter and the band pass filter (wavelength f c ) is shown in FIG. The band-pass filter, for example, in the central transmission wavelength f c is 850 nm, width or half width of wavelength at which the transmittance becomes half can be used to pass wavelengths of ± 20 nm.

図6(d)に示したように、撮像素子30の一部領域に赤外光カットフィルタを通った光を入射させ、他の領域にバンドパスフィルタを通った光を入射させるようにすると、ウィンドウガラス4に付着した雨滴や曇りの検知だけでなく、車両や車線など他の物体の検知を行うことが可能であり、その実施例を図7に示す。本実施例は、ヘッドライトの配向制御機能と雨滴検知機能を一台の撮像装置で同時に成立させる場合を示す。 図7(a)に示すように、車載用画像処理装置は車両前方に設置され、フロントガラス越しに前方の景色を撮影し、撮像素子30によって図7(b)のような画像を取り込む。配光制御機能は図7(b)の画像から画像処理を行い、図7(c)のように先行車210のテールライト230及び対向車220のヘッドライト240を抽出する。そして図7(c)の画像から先行車及び対向車の位置を計測し、先行車及び対向車の位置に応じて自車のヘッドライトの配向を制御する機能である。なお、250は地平線である。   As shown in FIG. 6D, when light that has passed through the infrared light cut filter is incident on a part of the image sensor 30 and light that has passed through the band pass filter is incident on another area, It is possible to detect not only raindrops and cloudiness adhering to the window glass 4, but also other objects such as vehicles and lanes, an example of which is shown in FIG. This embodiment shows a case where the headlight orientation control function and the raindrop detection function are simultaneously established by a single image pickup apparatus. As shown in FIG. 7A, the in-vehicle image processing apparatus is installed in front of the vehicle, captures a front scene through the windshield, and captures an image as shown in FIG. The light distribution control function performs image processing from the image of FIG. 7B, and extracts the taillight 230 of the preceding vehicle 210 and the headlight 240 of the oncoming vehicle 220 as shown in FIG. 7C. And it is the function which measures the position of a preceding vehicle and an oncoming vehicle from the image of FIG.7 (c), and controls the orientation of the headlight of the own vehicle according to the position of a preceding vehicle and an oncoming vehicle. In addition, 250 is a horizon.

従って、図7(b)のように、遠方の車両のヘッドライト及びテールライト、近傍の車両のヘッドライト及びテールライトが映る撮影範囲が配向制御機能を実現する上で必要な画像処理範囲となる。ここで、先行車を認識する際に、先行車のテールライトで先行車の有無を判断する必要があるが、対向車のヘッドライトと比べて光量が小さく、また街灯など外乱となる光が多数存在するため、輝度のみからテールライトを検出するのは困難であり、テールライトの赤色を認識する必要がある。   Therefore, as shown in FIG. 7B, the imaging range in which the headlights and taillights of a distant vehicle and the headlights and taillights of a nearby vehicle are reflected is an image processing range necessary for realizing the orientation control function. . Here, when recognizing a preceding vehicle, it is necessary to determine the presence or absence of a preceding vehicle with the taillight of the preceding vehicle, but the amount of light is small compared to the headlight of the oncoming vehicle, and there are many disturbing lights such as street lights Therefore, it is difficult to detect the taillight only from the luminance, and it is necessary to recognize the red color of the taillight.

しかしながら、赤色を認識するために撮像素子30としてカラー撮像素子を用いる場合、カラー撮像素子は赤外領域にも感度を持つので、単に撮像素子のみで画像を取り込んだ場合、得られる画像データは全体的に赤くなってしまい、テールライトの赤色を示す部分を抽出することが困難である。そこで、例えば図8のような赤外光をカットする特性をもつフィルタを、図7(a)の光学フィルタ20の位置か、又はレンズ10の前方に設置することで、赤色とそれ以外の色の区別をすることが容易になる。これにより、外乱となる他の色の光を除去できるため、テールライトの検出精度を向上させることができる。ここで、図8のような赤外光をカットする特性を持つフィルタはカットする波長xや透過率の低下の仕方などは、それぞれの用途や撮像素子の性能、図5に示すウィンドウガラス4の透過率などに適した特性のものを選択する。典型的には、図8の波長xは約600nmとすればよい。   However, when a color image sensor is used as the image sensor 30 for recognizing red, the color image sensor has sensitivity also in the infrared region. Therefore, when an image is captured only by the image sensor, the entire image data obtained is Therefore, it is difficult to extract the red portion of the taillight. Therefore, for example, by installing a filter having a characteristic of cutting infrared light as shown in FIG. 8 at the position of the optical filter 20 in FIG. 7A or in front of the lens 10, red and other colors can be obtained. It becomes easy to make a distinction. Thereby, since the light of the other color used as disturbance can be removed, the detection accuracy of a taillight can be improved. Here, in the filter having the characteristic of cutting infrared light as shown in FIG. 8, the wavelength x to be cut, the method of decreasing the transmittance, etc., are used for each application, the performance of the imaging device, and the window glass 4 shown in FIG. Select one with characteristics suitable for transmittance. Typically, the wavelength x in FIG. 8 may be about 600 nm.

以下では、光源2の波長として赤外波長、例えば850nmとする。赤外波長の光を照射する光源2は、例えば発光ダイオード(LED)や半導体レーザなど種々のものが利用可能である。ここで赤外波長の光を照射する光源2は、例えば図9(a)に示すように、ウィンドウガラス4に付着した雨滴8で反射した光が撮像素子30に入射する角度に設置し、フロントガラス4に向けて出射する赤外波長の光43は放射状の光でも平行光でも良い。   Hereinafter, the wavelength of the light source 2 is an infrared wavelength, for example, 850 nm. Various light sources such as a light emitting diode (LED) and a semiconductor laser can be used as the light source 2 for irradiating light of infrared wavelength. Here, as shown in FIG. 9A, for example, the light source 2 that irradiates infrared light is installed at an angle at which the light reflected by the raindrops 8 attached to the window glass 4 is incident on the image sensor 30. The infrared light 43 emitted toward the glass 4 may be radial light or parallel light.

ここで、水滴に反射した赤外波長の光をそのまま検出しようとすると、赤外波長の光を照射する光源2は、例えば太陽光など膨大な光量を持つ外乱光よりも照射する光を明るくしなければならないという問題がある。   Here, if it is going to detect the light of the infrared wavelength reflected in the water droplet as it is, the light source 2 which irradiates the light of the infrared wavelength brightens the light irradiated rather than the disturbance light which has enormous light quantity, such as sunlight. There is a problem of having to.

そこで、例えば図9(b)に示すように、光源2の発光波長よりも短い波長の光をカットするようなフィルタか、もしくは図9(c)のような、透過率のピークを光源2の発光波長とほぼ一致させたバンドパスフィルタを、図9(a)における光学フィルタ20の位置かレンズ10の前方に設置する。これにより、必要となる光源2の発光波長以外の光を除去し、検出される光源2の光量を相対的に大きくできる。ここで図9(b)でカットする波長yや透過率の低下の仕方、また、図9(c)でバンドパスフィルタの透過率ピーク波長zや透過率,半値幅などの特性はそれぞれの用途や撮像装置の性能などに適したものを選択すればよい。このようなフィルタを用いて撮像素子30で撮影した雨滴の画像の例を図9(d)に示す。   Therefore, for example, as shown in FIG. 9B, a filter that cuts light having a wavelength shorter than the emission wavelength of the light source 2 or a transmittance peak as shown in FIG. A band-pass filter substantially matched with the emission wavelength is installed at the position of the optical filter 20 in FIG. Thereby, light other than the light emission wavelength of the required light source 2 can be removed, and the light quantity of the detected light source 2 can be made relatively large. Here, in FIG. 9B, the wavelength y to be cut and how to reduce the transmittance, and in FIG. 9C, the characteristics such as the transmittance peak wavelength z, the transmittance, and the full width at half maximum of the bandpass filter are used for each purpose. Or a device suitable for the performance of the imaging device may be selected. FIG. 9D shows an example of a raindrop image captured by the image sensor 30 using such a filter.

図10は、領域によって光学特性を異ならせたフィルタ例を示す図である。例えば画面上部2/3で配光制御を、画面下部1/3で雨滴検知を行うように画像処理を行う領域に分け、これら二つの機能を同時に成り立たせるために、一枚のフィルタに赤外カット特性を持つ領域(以下、「赤外カット領域」と称する)51aと赤外領域に透過率のピークを有するバンドパス特性を持つ領域(以下、「赤外バンドパス領域」と称する)52aを分けて作成する。例えば図10(a)のような構成である。このようなフィルタを一枚使うことで、従来は機能の数だけ必要であった撮像部が一つで済むようになり、大幅な小型化,コスト低減が可能となる。   FIG. 10 is a diagram illustrating an example of a filter having different optical characteristics depending on regions. For example, the light distribution control is performed at the top 2/3 of the screen and the image processing is performed so that raindrop detection is performed at the bottom 1/3 of the screen. A region having a cut characteristic (hereinafter referred to as “infrared cut region”) 51a and a region having a band pass characteristic having a transmittance peak in the infrared region (hereinafter referred to as “infrared band pass region”) 52a. Create separately. For example, the configuration is as shown in FIG. By using one such filter, only one imaging unit, which has conventionally been required for the number of functions, can be used, and a significant reduction in size and cost can be achieved.

また、フィルタを一枚にすることで、フィルタ間の反射が低減され、画像処理に不利となる外乱光を減らすことができる。また、機械的な可動部が無くなり、フィルタが固定となるため、画像を取り込む速度が高速になっても複数の映像を連続時間的に撮り込むことが可能となる。   Further, by using one filter, reflection between filters is reduced, and disturbance light that is disadvantageous for image processing can be reduced. In addition, since there is no mechanical moving part and the filter is fixed, it is possible to capture a plurality of videos continuously even if the speed of capturing an image is increased.

ここで、フィルタの領域の分け方は図10(b)〜(d)に示すように、様々な方法を取ることができる。しかしながら図7に示すように、対向車のヘッドライト及び先行車のテールライトは、主として画面上部に写ることが多く、画面下部には自車近傍の路面が写るのが通常であるから、配光制御においては画面上部の情報が重要であり、画面下部の情報はあまり重要でない。よって、配光制御機能と雨滴検知機能を両立させる場合には、上記のように画面下部を雨滴検知用の赤外バンドパス領域とし、残りの領域を配光制御用の赤外カット領域とする図10(a)の構成が好適である。   Here, as shown in FIGS. 10B to 10D, various methods can be used for dividing the filter area. However, as shown in FIG. 7, the headlight of the oncoming vehicle and the taillight of the preceding vehicle are often reflected mainly at the top of the screen, and the road surface near the vehicle is usually reflected at the bottom of the screen. In control, information at the top of the screen is important, and information at the bottom of the screen is not very important. Therefore, in order to achieve both the light distribution control function and the raindrop detection function, the lower part of the screen is used as an infrared bandpass region for raindrop detection as described above, and the remaining region is used as an infrared cut region for light distribution control. The configuration shown in FIG. 10A is preferable.

図10(a)に示す光学フィルタ20を有する撮像装置を図11に示す。また光学フィルタ20を図11に示すような撮像装置に取り付けた場合に取得される映像を図12に示す。ここでレンズ10の特性により、撮像対象となる実際の光景と撮像素子30に集光された映像とでは天地が逆になる。そこで、画面下部を雨滴検知用の赤外バンドパス領域とするためには、光学フィルタ20の天側を赤外バンドパス領域52aとする。この撮像装置を用いて撮影した車両と雨滴の画像の例を図12に示す。   FIG. 11 shows an imaging apparatus having the optical filter 20 shown in FIG. FIG. 12 shows an image acquired when the optical filter 20 is attached to the imaging apparatus as shown in FIG. Here, due to the characteristics of the lens 10, the top and bottom are reversed between the actual scene to be imaged and the image condensed on the image sensor 30. Therefore, in order to make the lower part of the screen an infrared bandpass region for raindrop detection, the top side of the optical filter 20 is an infrared bandpass region 52a. An example of an image of a vehicle and raindrops taken using this imaging apparatus is shown in FIG.

撮像部を上記のような構成とし、画像処理部において、赤外バンドパス領域を透過した光が集光する画像(以下、「撮像素子上の赤外バンドパス領域」と称する)を用いて雨滴検知を行い、赤外カット領域を透過した光が集光する画像(以下、「撮像素子上の赤外カット領域」と称する)を用いて配光制御を行うことで、一枚のフィルタで、機械的可動部を設けることなく、雨滴検知機能と配光制御機能の両立を実現する事が出来る。   The image pickup unit is configured as described above, and the image processing unit uses the image (hereinafter referred to as “infrared band pass region on the image pickup device”) where light transmitted through the infrared band pass region is collected as raindrops. By performing light distribution control using an image (hereinafter referred to as “infrared cut area on the imaging device”) where light that has passed through the infrared cut area is collected by detection, with a single filter, A raindrop detection function and a light distribution control function can both be achieved without providing a mechanical movable part.

ここで撮像部は、図11に示すように、光学フィルタ20と撮像素子30との間に空隙がある構成としてもよいが、光学フィルタ20を撮像素子30に密着させる構成とした方が、光学フィルタ20上の領域の境界と、撮像素子30上の領域の境界を一致させやすくなる。   Here, as shown in FIG. 11, the imaging unit may have a configuration in which there is a gap between the optical filter 20 and the imaging device 30, but the configuration in which the optical filter 20 is closely attached to the imaging device 30 is optical. It becomes easy to make the boundary of the region on the filter 20 coincide with the boundary of the region on the image sensor 30.

なお、撮像素子30上の赤外カット領域及び赤外バンドパス領域は、撮像素子30の画素の番号によって定めることが出来る。すなわち、図10(a)の例であれば、撮像素子30の上端から例えばN画素目までを赤外バンドパス領域とし、撮像素子30の下端から例えばM画素目までを赤外カット領域とすることも出来る。   The infrared cut region and the infrared band pass region on the image sensor 30 can be determined by the pixel number of the image sensor 30. That is, in the example of FIG. 10A, the upper end of the image sensor 30 to the Nth pixel, for example, is an infrared bandpass region, and the lower end of the image sensor 30 to, for example, the Mth pixel is an infrared cut region. You can also

また、赤外光バンドパス領域を透過して撮像素子30に入射する光の光量は、赤外カット領域を透過して入射する光の光量よりも小さい。このため、走行環境,光線状態によっては、撮像装置のシャッタ速度を赤外カット領域の撮像素子30が飽和しないようなシャッタ速度に設定すると、赤外光バンドパス領域の画像は露光不足により暗くなるため、自車近傍にいる車両のテールライトやヘッドライトが見えなくなる場合もある。そこで、図13(a)に示すように、撮像部と画像処理部からなる画像処理装置1を水平方向から前傾させることで、図13(b)に示すように遠方の車両のテールライト及びヘッドライト,近傍の車両のテールライト及びヘッドライトが、赤外カット領域に写るようになり、配光制御機能を成立させることができる。ここで、前傾させる角度は車両の高さ,レンズ10及び撮像素子30の大きさ及び配置等に依存するが7°程度が好適である。また、撮像部だけを前傾させる構成としても良く、あるいはレンズの画角を下側に拡大し、撮影範囲を広げる構成としても同様の効果が得られる。   In addition, the amount of light that passes through the infrared bandpass region and enters the image sensor 30 is smaller than the amount of light that enters through the infrared cut region. For this reason, if the shutter speed of the imaging device is set to a shutter speed that does not saturate the imaging device 30 in the infrared cut area depending on the traveling environment and the light beam state, the image in the infrared light bandpass area becomes dark due to insufficient exposure. For this reason, the taillights and headlights of vehicles in the vicinity of the vehicle may not be visible. Therefore, as shown in FIG. 13A, by tilting the image processing apparatus 1 including the imaging unit and the image processing unit forward from the horizontal direction, as shown in FIG. The headlight, the taillight of the nearby vehicle, and the headlight are reflected in the infrared cut region, and the light distribution control function can be established. Here, the forward tilt angle depends on the height of the vehicle, the size and arrangement of the lens 10 and the image sensor 30, and is preferably about 7 °. Further, the same effect can be obtained by a configuration in which only the imaging unit is tilted forward, or a configuration in which the angle of view of the lens is expanded downward to widen the imaging range.

他の実施例として、車線検知機能と雨滴検知機能を同時に成立させる場合について説明する。まず雨滴検知機能を実現するためには、既に述べたように、図10(a)に示すようにフィルタの上部を赤外バンドパス領域とすればよい。   As another embodiment, a case where the lane detection function and the raindrop detection function are simultaneously established will be described. First, in order to realize the raindrop detection function, as described above, the upper part of the filter may be an infrared bandpass region as shown in FIG.

一方、車線検知機能を実現するためには自車近傍の車線を検出することが特に重要である。なぜなら図14に示すように、車線は、直線81だけでなくカーブ82があるため、遠方になるほど画面内での車線の移動量が大きくなるが、逆に自車近傍の車線は車線内を走行しているときには画面内での移動量が小さいという特徴があるからである。   On the other hand, in order to realize the lane detection function, it is particularly important to detect a lane in the vicinity of the own vehicle. Because, as shown in FIG. 14, the lane has not only the straight line 81 but also the curve 82, the distance of the lane in the screen increases as the distance increases. Conversely, the lane in the vicinity of the host vehicle travels in the lane. This is because there is a feature that the amount of movement in the screen is small.

よって、上記のようにフィルタの上部を赤外バンドパス領域とすると、車線検出機能で特に重要となる自車近傍の画像情報は画面の下側に写るので、フィルタの上部すなわち赤外バンドパス領域を透過して撮像素子30に入射することになるが、車線の画像情報は可視光領域の波長であるため、上記のバンドパス特性によって減衰されて透過光量が低くなり、特に夜間の車線検出が困難になる。   Therefore, if the upper part of the filter is the infrared bandpass region as described above, the image information in the vicinity of the host vehicle, which is particularly important for the lane detection function, appears on the lower side of the screen. However, since the image information of the lane is the wavelength in the visible light region, it is attenuated by the above bandpass characteristic and the amount of transmitted light is reduced. It becomes difficult.

上記に加えて、車線形状からカーブも検知しようとすると、自車近傍のみならず遠方の車線も検知する必要があるため、車線検出においては遠方の画像も不要な情報ではなく、赤外バンドパス領域をフィルタの下部に設置して、この領域を用いて雨滴検知を行うことも望ましくない。   In addition to the above, when trying to detect a curve from the lane shape, it is necessary to detect not only the vicinity of the host vehicle but also a distant lane. It is also undesirable to install an area below the filter and use this area to detect raindrops.

そこで、図13(a)に示すように画像処理装置1を例えば7°前傾させると、図13(c)に示すように、遠方から自車近傍までの車線全てを、赤外バンドパス領域外に映すことができ、雨滴検知機能と車線検知機能を同時に実現することが可能となる。ここで、傾けるのは撮像部のみでもよい。また、画角の広いレンズを用いて撮影範囲を広げることでも、雨滴検知に必要な領域を確保しつつ、遠方から自車近傍までを映すことが可能となる。   Therefore, when the image processing apparatus 1 is tilted forward by, for example, 7 ° as shown in FIG. 13A, all the lanes from a distance to the vicinity of the host vehicle are shown in the infrared bandpass region as shown in FIG. The image can be projected outside, and the raindrop detection function and the lane detection function can be realized simultaneously. Here, only the imaging unit may be tilted. Also, widening the shooting range using a lens with a wide angle of view makes it possible to project from a distance to the vicinity of the host vehicle while securing a region necessary for raindrop detection.

通常、カメラを下に傾けていくと自車のボンネットが映りこみ、自車のボンネットで反射した太陽光や先行車のテールライトなどが外乱となり、車線検知や配光制御を行う上で不利な条件となる。しかし、例えば図10(a)のようなフィルタを用いるとバンドパスの特性により、外乱光を除去し、かつその領域を雨滴検知用の画像処理を行う領域に割り当てることができる。前記フィルタを用いることでこれまで画像処理には不向きとされていた領域での画像処理が可能となる。また、バンドパスの透過率と同じ発光波長である赤外光源を備え、照射することで、道路上にある障害物を検知したり、先行車の位置を特定したりすることも可能となる。   Normally, when the camera is tilted down, the hood of the vehicle appears, and sunlight reflected by the hood of the vehicle and the taillight of the preceding vehicle become disturbances, which is disadvantageous for lane detection and light distribution control. It becomes a condition. However, for example, when a filter as shown in FIG. 10A is used, disturbance light can be removed and the area can be assigned to an area where image processing for raindrop detection is performed due to the characteristics of the bandpass. By using the filter, it is possible to perform image processing in an area that has been unsuitable for image processing. In addition, an infrared light source having the same emission wavelength as the bandpass transmittance is provided, and by irradiating it, it is possible to detect an obstacle on the road and to specify the position of the preceding vehicle.

なお、これらの実施例では、最良の構成としてレンズ10と撮像素子30との間にフィルタを設ける構成を用いて説明したが、レンズ又はレンズの前面に取り付けられるレンズカバーを上記のフィルタと同様の光学特性を有する構成としても、同様の効果が得られる。   In these embodiments, the best configuration has been described using a configuration in which a filter is provided between the lens 10 and the imaging device 30, but a lens or a lens cover attached to the front surface of the lens is similar to the above-described filter. The same effect can be obtained even with a configuration having optical characteristics.

図15を参照して、本発明の画像処理システムを用いて、ウィンドウガラス4の外側に付着した雨滴とウィンドウガラス4の内側に付着した曇りを検出する方法について述べる。図15(a)は光源2及び光源3の発光回路構成例を示す図、図15(b)は発光タイミング、雨滴と曇り検出タイミングの例を画像の垂直同期信号に同期して示した図である。光源2を発光するには、画像処理装置1がトランジスタ9−1のベース電圧を制御することで光源2に所定の電流を流し、また、光源3を発光するには、トランジスタ9−2のベース電圧を制御することで光源3に所定の電流を流す。まず、ウィンドウガラス4の外側に付着した雨滴を検出する場合は、画像処理装置1が第1の光源2を発光させて、ウィンドウガラス4を照射する。ウィンドウガラス4の外側に雨滴が付着している場合は、雨滴によって第1の光源2が発した光が散乱して一部が反射光として撮像素子30に入射する。撮像素子30は入射光を画像として画像信号を生成する。その画像信号を画像処理プロセッサ(図示していない)に入力する。そして、その画像信号を画像処理プロセッサで処理することで、ウィンドウガラス4の外側に付着した雨滴を検出することができる。ここでは画像処理プロセッサを画像処理装置1の中に配置しているが、画像処理装置1とは別の装置として配置してもよい。   With reference to FIG. 15, a method for detecting raindrops adhering to the outside of the window glass 4 and fogging adhering to the inside of the window glass 4 using the image processing system of the present invention will be described. FIG. 15A is a diagram showing a light emitting circuit configuration example of the light source 2 and the light source 3, and FIG. 15B is a diagram showing an example of light emission timing and raindrop and cloudy detection timing in synchronization with the vertical synchronizing signal of the image. is there. In order to emit the light source 2, the image processing apparatus 1 controls the base voltage of the transistor 9-1 to pass a predetermined current through the light source 2, and to emit the light source 3, the base of the transistor 9-2 is used. A predetermined current is passed through the light source 3 by controlling the voltage. First, when detecting raindrops adhering to the outside of the window glass 4, the image processing apparatus 1 causes the first light source 2 to emit light and irradiate the window glass 4. When raindrops are attached to the outside of the window glass 4, the light emitted from the first light source 2 is scattered by the raindrops and part of the light enters the image sensor 30 as reflected light. The image sensor 30 generates an image signal using incident light as an image. The image signal is input to an image processor (not shown). And the raindrop adhering to the outer side of the window glass 4 is detectable by processing the image signal with an image processor. Here, the image processor is arranged in the image processing apparatus 1, but it may be arranged as an apparatus different from the image processing apparatus 1.

画像処理プロセッサによる雨滴検出プログラムのフローの一例を図16に示す。図16(a)の処理では画像処理プロセッサは、ステップ1において、撮像素子30から光源2を点灯したときの画像信号を入力する。そして画像信号に対して、ステップ2で、例えば公知であるラプラシアンフィルタを用いてエッジ検出処理を行う。このエッジ検出処理により雨滴の領域と、雨滴でない領域の境界を強調した画像を作成することができる。   An example of the flow of the raindrop detection program by the image processor is shown in FIG. In the process of FIG. 16A, the image processor inputs an image signal when the light source 2 is turned on from the image sensor 30 in Step 1. In step 2, edge detection processing is performed on the image signal using, for example, a known Laplacian filter. By this edge detection processing, an image in which the boundary between the raindrop area and the non-raindrop area is emphasized can be created.

次に、ステップ2で作成したエッジ画像に対して、ステップ3で円検出処理を実行する。円検出処理としては公知である一般化ハフ変換を行えばよい。ステップ3で円検出を行った後で、ステップ4で検出した円の個数を数える。次に、ステップ5で円の個数を雨量に変換して、雨量を求めて処理を終了する。   Next, a circle detection process is executed in step 3 for the edge image created in step 2. As the circle detection process, a generalized Hough transform may be performed. After performing circle detection in step 3, the number of circles detected in step 4 is counted. Next, in step 5, the number of circles is converted into rainfall, the rainfall is obtained, and the process is terminated.

ウィンドウガラス4の外側表面に撥水処理を施しておけば、雨滴が円形となるので処理に好都合である。また、レンズ10の焦点をウィンドウガラス4の位置でなく、遠方にフォーカスするようにしておけば、雨滴はぼやけて、より円形として撮像することができるため、より雨滴を検出しやすくできる。雨滴を円形として個々に区別できれば、所定時間毎の雨量を画像処理装置1で計算できる。   If the water repellent treatment is performed on the outer surface of the window glass 4, raindrops become circular, which is convenient for the treatment. Further, if the focal point of the lens 10 is focused not on the position of the window glass 4, but on the far side, the raindrops are blurred and can be picked up as a circle, so that the raindrops can be detected more easily. If the raindrops can be individually distinguished as a circle, the amount of rain per predetermined time can be calculated by the image processing apparatus 1.

また、他の処理例として図16(b)に示す方法が考えられる。図16(b)では、画像処理プロセッサは、ステップ21で光源2を点灯したときと消灯したときの画像信号を撮像素子30から入力する。そしてそれらの画像信号に対して、ステップ22で、輝度差を計算する。次に、ステップ22で作成した輝度差に対して例えば平均値を求めて、ステップ23で予め定めた閾値と大小判定処理を実行する。もし、輝度差が閾値より大きい場合は、ステップ24で雨、汚れを検出したと判定し、ステップ22で作成した輝度差からステップ25で雨量に変換して、処理を終了する。もし、輝度差が閾値より小さい場合は、処理を終了する。この方法によれば、例えば霧雨のように雨滴が円形として撮像できない場合でも、雨量を検出することができる。   Further, as another processing example, a method shown in FIG. In FIG. 16B, the image processor inputs image signals when the light source 2 is turned on and off in Step 21 from the image sensor 30. Then, in step 22, a luminance difference is calculated for these image signals. Next, for example, an average value is obtained with respect to the luminance difference created in step 22, and a predetermined threshold value and magnitude determination process is executed in step 23. If the brightness difference is larger than the threshold value, it is determined in step 24 that rain and dirt have been detected, the brightness difference created in step 22 is converted to rain in step 25, and the process is terminated. If the luminance difference is smaller than the threshold value, the process ends. According to this method, for example, even when raindrops cannot be captured as a circle like drizzle, the amount of rain can be detected.

図16(a)、(b)の処理は独立に用いても良いし、組合せて用いても良い。組合せることで、より精度良く雨量を計測することができる。画像処理装置1内の記憶部に、図16(a)、(b)に示す処理フローのプログラムを記憶しておけばよい。   The processes of FIGS. 16A and 16B may be used independently or in combination. By combining, it is possible to measure the rainfall with higher accuracy. A program for the processing flow shown in FIGS. 16A and 16B may be stored in the storage unit in the image processing apparatus 1.

画像処理装置1は、図16(a)、(b)により計算した雨量に基づいて、ワイパーあるいはウォッシャーを制御することができる。ワイパー、ウォッシャーの制御構成例を図17に示す。図17は、ワイパー/ウォッシャー制御部100、ワイパー160、ワイパー160を動かすモータ150及びウォッシャー制御部170で構成される。   The image processing apparatus 1 can control the wiper or the washer based on the rainfall calculated according to FIGS. An example of the control configuration of the wiper and washer is shown in FIG. FIG. 17 includes a wiper / washer control unit 100, a wiper 160, a motor 150 that moves the wiper 160, and a washer control unit 170.

ワイパー/ウォッシャー制御部100でワイパー160を制御する処理フローの例を図18に示す。図18では、まずステップ100でシフトレバーの位置がパーキングレンジ(Pレンジ)に入っているかどうかを判定し、Pレンジに入っていれば、ワイパー160の動作を禁止する(ステップ101)。これにより、洗車時のワイパー160の誤動作を防止できる。Pレンジに入っていない場合は、ステップ110に進んでワイパー160を起動する。   An example of a processing flow for controlling the wiper 160 by the wiper / washer control unit 100 is shown in FIG. In FIG. 18, first, at step 100, it is determined whether or not the position of the shift lever is in the parking range (P range). If it is within the P range, the operation of the wiper 160 is prohibited (step 101). Thereby, the malfunctioning of the wiper 160 at the time of a car wash can be prevented. If it is not in the P range, the routine proceeds to step 110 where the wiper 160 is activated.

ステップ110でワイパー160を起動する方法の例を図19に示す。図19では、横軸に時間、縦軸に雨量をとり、雨量が閾値を超えたときワイパー160を起動する。ステップ111で車速Vが0かどうかを判定し、V=0ならステップ112でワイパー160を起動する雨量判定閾値を大きくする。ステップ116で待ち時間を所定値とする。ステップ111で判定した車速が0でない場合は、雨量判定閾値を所定値かあるいは車速に応じて変更する。ステップ113では車速に応じて閾値を変更する。そして、ワイパー160を起動した後、次にワイパー160を起動するまでの待ち時間を計算する。ステップ114では車速Vに反比例した待ち時間としている(kは比例係数)。車速Vだけでなく、雨量や雨の粒径に応じて下式のように決めてもよい。ここで、k1,k2,k3は比例係数である。
待ち時間=k1/雨量+k2*粒径+k3/車速
An example of a method for starting the wiper 160 in step 110 is shown in FIG. In FIG. 19, time is plotted on the horizontal axis and rainfall is plotted on the vertical axis, and the wiper 160 is activated when the rainfall exceeds the threshold. In step 111, it is determined whether or not the vehicle speed V is 0. If V = 0, the rain determination threshold value for starting the wiper 160 is increased in step 112. In step 116, the waiting time is set to a predetermined value. If the vehicle speed determined in step 111 is not 0, the rain determination threshold is changed to a predetermined value or according to the vehicle speed. In step 113, the threshold value is changed according to the vehicle speed. Then, after the wiper 160 is activated, a waiting time until the wiper 160 is activated next is calculated. In step 114, the waiting time is inversely proportional to the vehicle speed V (k is a proportional coefficient). Not only the vehicle speed V but also the rain amount and rain particle size may be determined according to the following equation. Here, k1, k2, and k3 are proportional coefficients.
Waiting time = k1 / rainfall + k2 * particle size + k3 / vehicle speed

この待ち時間により、ワイパーブレードが雨滴を払拭したことにより生じる雨の膜や雨に筋等を検出してすぐにワイパー160を起動しないようにすることができる。次に、ステップ115で待ち時間だけ待ち、ステップ102で雨量とワイパー160を起動する閾値とを比較する。雨量が閾値より大きい場合は、ステップ103でワイパー160を起動して、処理を終了する。雨量が閾値より小さい場合は、処理を終了する。   By this waiting time, it is possible to prevent the wiper 160 from being activated immediately upon detection of a rain film or rain streaks caused by the wiper blade wiping away raindrops. Next, in step 115, only the waiting time is waited, and in step 102, the rainfall is compared with the threshold value for starting the wiper 160. If the rainfall is greater than the threshold, the wiper 160 is activated in step 103 and the process is terminated. If the rainfall is smaller than the threshold, the process is terminated.

また、他のワイパー起動方法の例を図20に示す。図20に示したステップ120は、図18のステップ110の代わりに用いることができるもので、ワイパー制御として用いられている間欠時間(インターバル)を制御するものである。図20において、k4,k5,k6は比例係数である。例えば、計測した雨量、雨の粒径を用い、インターバルを制御する。雨量が多いときや粒径が小さいときはインターバルを短くし、逆に雨量が少ないときや粒径が大きいときはインターバルを長くすればよい。このとき、自車の走行速度Vに応じてインターバルを変更してもよい。例えば、走行速度が早い場合は雨滴が風速によりウィンドウガラス4上を流れていくので、インターバルを長めにしてもよい。   An example of another wiper activation method is shown in FIG. Step 120 shown in FIG. 20 can be used in place of step 110 in FIG. 18, and controls intermittent time (interval) used as wiper control. In FIG. 20, k4, k5, and k6 are proportional coefficients. For example, the interval is controlled using the measured rainfall and rain particle size. When there is a lot of rainfall or when the particle size is small, the interval may be shortened. Conversely, when the rainfall is small or the particle size is large, the interval may be lengthened. At this time, the interval may be changed according to the traveling speed V of the host vehicle. For example, when the traveling speed is high, raindrops flow on the window glass 4 due to the wind speed, so the interval may be lengthened.

雨滴の実施例では粒径を計測しているが、これはウィンドウガラス4の撥水性がよいほど雨滴が円形に近くなり、粒径の計測しやすくなる。このウィンドウガラス4の撥水性の程度を、図16で入力した画像から、雨滴の形状、反射輝度等を用いて判定することができる。また、ワイパー160を起動した後の画像を入力して、拭き残しの雨滴の量や形状(筋状の雨滴)などを検出すれば、ワイパー160のブレードの傷みを検出することもできる。これら検出した撥水性の程度やブレードの傷みは、図17のモータ150に流れる電流を検出して、モータ150のトルクを推定し、このトルクが大きくなったら撥水性が悪くなった、あるいはブレードの傷みが生じたと判定することもできる。そして、これら検出した撥水性の程度やブレードの傷みをドライバーに警報することで、常に良好な視界を確保することが可能となる。   In the embodiment of raindrops, the particle size is measured. However, the better the water repellency of the window glass 4, the closer the raindrop is to a circle, and the easier it is to measure the particle size. The degree of water repellency of the window glass 4 can be determined from the image input in FIG. 16 using the shape of raindrops, reflection luminance, and the like. Further, if the image after the wiper 160 is activated is input to detect the amount and shape of the raindrops (striped raindrops), the damage to the blades of the wiper 160 can be detected. The detected degree of water repellency and damage to the blade are detected by detecting the current flowing through the motor 150 in FIG. 17 to estimate the torque of the motor 150. If this torque increases, the water repellency deteriorates or the blade is damaged. It can also be determined that damage has occurred. Then, by alerting the driver of the detected water repellency and blade damage, it is possible to always ensure a good field of view.

図16(b)で説明したステップ24で検出した雨や汚れでワイパー160を起動した後、同じに位置に更に検出した場合は、汚れがウィンドウガラス4に付着していると判定し、ウォッシャー制御部170を制御して水をウィンドウガラス4にかける制御を行ってもよい。   If the wiper 160 is further detected at the same position after the wiper 160 is activated due to rain or dirt detected in step 24 described with reference to FIG. 16B, it is determined that dirt is attached to the window glass 4, and washer control is performed. You may perform control which controls the part 170 and applies water to the window glass 4. FIG.

また、画像処理装置1がワイパー160の払拭周期(待ち時間やインターバル時間)を制御できるので、ワイパー160の払拭周期に応じて画像処理装置1が撮像素子30から画像を取得する周期を変更可能となり、雨量が少ない場合は長い周期で雨滴の検出処理を実行し、雨量が激しい場合は短い周期で雨滴の検出処理を実行することができ、画像処理の効率が向上する。   In addition, since the image processing apparatus 1 can control the wiping cycle (waiting time or interval time) of the wiper 160, the cycle in which the image processing apparatus 1 acquires an image from the image sensor 30 can be changed according to the wiping cycle of the wiper 160. When the rainfall is low, the raindrop detection process can be executed with a long cycle, and when the rainfall is heavy, the raindrop detection process can be executed with a short cycle, thereby improving the efficiency of image processing.

更に、図16で入力した画像を基に街灯や車のライトによる外界の明るさを計測し、その明るさによりワイパー160の払拭周期を変えてもよい。例えば、明るいときに払拭周期を早くし、暗いときに遅くする。これにより、霧雨のような場合、街灯や車のライトが雨滴で散乱して、視界が不良になるのを抑えることができる。   Furthermore, the brightness of the outside world by a street light or a car light may be measured based on the image input in FIG. 16, and the wiping cycle of the wiper 160 may be changed according to the brightness. For example, the wiping cycle is accelerated when it is bright, and is delayed when it is dark. Thereby, in the case of drizzle, it can suppress that a street light and a car light are scattered by raindrops, and a visual field becomes bad.

また、計算した雨量に基づいて、フォグランプの点灯/消灯あるいはハイビームの禁止/許可を制御することもできる。例えば、図21に示すように、雨量が多いときはフォグランプを自動点灯し、ハイビームを禁止すればよい。図21では、雨量が多いときにフォグランプが点灯していない場合は自動点灯するかあるいは点灯を促す警報をドライバーに出力し、フォグランプが点灯している場合はなにもしない。そして、ハイビームが点灯していなければ点灯禁止し、ハイビームが点灯している場合は自動消灯するかあるいは消灯を促す警報をドライバーに出力する。また、雨量が少ないときはフォグランプの点灯、消灯の制御は行わず、ハイビームについては先行車あるいは対向車の位置(距離、方向)に応じて自動点灯、自動消灯の制御を行う。これにより、雨でヘッドライトの光が散乱するのを抑えることができ、視界を良好にすることができる。   Further, it is possible to control whether the fog lamp is turned on / off or the high beam is prohibited / permitted based on the calculated rainfall. For example, as shown in FIG. 21, when there is a lot of rain, the fog lamp may be automatically turned on to prohibit the high beam. In FIG. 21, when the fog lamp is not lit when there is a lot of rain, it automatically turns on or outputs an alarm prompting the lighting to the driver, and nothing is done when the fog lamp is lit. If the high beam is not lit, lighting is prohibited. If the high beam is lit, an automatic turn-off or a warning prompting the turn-off is output to the driver. Also, when the rainfall is low, the fog lamp is not turned on / off, and the high beam is automatically turned on / off according to the position (distance, direction) of the preceding vehicle or oncoming vehicle. Thereby, it can suppress that the light of a headlight is scattered by rain, and can improve a visual field.

次に、室内気温と外気温との差によってウィンドウガラス4の内側に付着した曇りを検出する場合は、画像処理装置1が第2の光源3を発光させて、ウィンドウガラス4を照射する。ウィンドウガラス4の内側に曇りがない場合は、ウィンドウガラス4の内側で第2の光源3からの光が全反射して撮像素子30に入射する。ウィンドウガラス4の内側に曇りがある場合は、曇りによって第2の光源3からの光が散乱して一部が反射光として撮像素子30に入射する。画像処理装置1内の記憶素子には、予めウィンドウガラス4の内側に曇りがないときの反射光の最大明るさを初期値として記憶しておく。そして、撮像素子30からの画像信号を入力し、画像の最大明るさを求め、記憶していた初期値との差分を画像処理プロセッサによって計算する。画像処理プロセッサによって計算された差分が大きい場合は、ウィンドウガラス4の内側に曇りが発生したと判定する。   Next, when detecting cloudiness adhered to the inside of the window glass 4 due to the difference between the room temperature and the outside temperature, the image processing device 1 causes the second light source 3 to emit light and irradiate the window glass 4. When there is no fog on the inside of the window glass 4, the light from the second light source 3 is totally reflected inside the window glass 4 and enters the image sensor 30. When the window glass 4 is clouded, the light from the second light source 3 is scattered by the clouding, and a part of the light enters the image sensor 30 as reflected light. The storage element in the image processing apparatus 1 stores in advance the maximum brightness of reflected light when there is no fog inside the window glass 4 as an initial value. Then, the image signal from the image sensor 30 is input, the maximum brightness of the image is obtained, and the difference from the stored initial value is calculated by the image processor. If the difference calculated by the image processor is large, it is determined that fogging has occurred inside the window glass 4.

図22に、曇り検出処理の一例のフローを示す。画像処理プロセッサは、ステップ11で第2の光源3を点灯してウィンドウガラス4を照明し、撮像素子30から画像信号を入力する。そしてステップ12で、画像信号からウィンドウガラス4の内側で反射した光の最大明るさを検出する。ステップ13で、検出した明るさと記憶素子に記憶した初期値との差分を算出する。ステップ14で、差分を曇り程度に変換することで、曇りが検出され、図22のフローを終了する。画像処理装置1がウィンドウガラス4の内側に付着した曇りを検出した場合、画像処理装置1とエアコンディショナを連動させて、曇りを除去するために、自動車の室内の通風系,温度,風量等を制御する。   FIG. 22 shows a flow of an example of the fog detection process. In step 11, the image processor turns on the second light source 3 to illuminate the window glass 4 and inputs an image signal from the image sensor 30. In step 12, the maximum brightness of the light reflected inside the window glass 4 is detected from the image signal. In step 13, the difference between the detected brightness and the initial value stored in the storage element is calculated. In step 14, the difference is converted to a cloudiness level to detect cloudiness, and the flow in FIG. 22 is terminated. When the image processing apparatus 1 detects clouding adhering to the inside of the window glass 4, the image processing apparatus 1 and the air conditioner are interlocked to remove the clouding. To control.

次に、本発明の他の実施例について説明する。画像処理システムにおいて、画像処理装置1が取得した画像を処理して外光の明るさを計測し、計測した外光の明るさに基づいて、例えば昼夜を判別して第1の光源2と第2の光源3が照射する位置を変更するように、第1の光源2と第2の光源3を画像処理装置1によって制御してもよい。   Next, another embodiment of the present invention will be described. In the image processing system, the image acquired by the image processing apparatus 1 is processed to measure the brightness of the outside light, and based on the measured brightness of the outside light, for example, day and night are discriminated to determine the first light source 2 and the first light source 2. The first light source 2 and the second light source 3 may be controlled by the image processing apparatus 1 so that the position irradiated by the second light source 3 is changed.

具体的に図23及び図24に示した模式図を用いて説明する。本実施例では、第1の光源2と第2の光源3を複数個の発光素子で構成する。図23及び図24の例では、2個の第1の光源2−1,2−2と2個の第2の光源3−1,3−2を用いる。   This will be specifically described with reference to schematic diagrams shown in FIGS. In this embodiment, the first light source 2 and the second light source 3 are composed of a plurality of light emitting elements. In the example of FIGS. 23 and 24, two first light sources 2-1 and 2-2 and two second light sources 3-1 and 3-2 are used.

例えば、昼間であれば太陽光を含んだ周辺光が撮像素子30に入射されるため、第1の光源及び第2の光源が消灯しているタイミングで画像を撮像すると明るい画像が得られる。従って、撮像素子30で撮影した画像の明るさを画像処理プロセッサで解析すれば、昼夜を判別することができる。撮像素子30は前方を向いているので、自車両が走行する道路面も画像中に含まれる。もし昼間であれば、撮像素子30で撮影した画像の中で、道路面は暗い領域となる。そこで、撮像素子30が撮影した画像が暗い領域を含んでいれば、暗い領域を照射するように光源を選択してもよい。光源2−2は、撮像素子30のほぼ中心位置に配置された光源2−1よりもわずかに下方に設置され、画像の道路面付近のウィンドウガラス4を照射できるようにしてある。また光源3−2は、光源3−1よりもウィンドウガラス4側に配置され、画像の道路面付近のウィンドウガラス4を照射できるようにしてある。もし昼間であれば、図24に示した駆動回路において、光源2−2あるいは光源3−2が発光するようにトランジスタ9−3あるいはトランジスタ9−4のベース電圧を制御することで、光源2−2あるいは光源3−2に所定の電流を流すようにする。そうでなければ、光源2−1あるいは光源3−1が発光するようにトランジスタ9−1あるいはトランジスタ9−2のベース電圧を制御することで光源2−1あるいは光源3−1に所定の電流を流すようにする。この結果、太陽光など明るい周辺光の影響を少なくして、雨滴や曇りを検出することができる。   For example, since ambient light including sunlight enters the image sensor 30 during the daytime, a bright image can be obtained by capturing an image at a timing when the first light source and the second light source are turned off. Therefore, if the brightness of the image captured by the image sensor 30 is analyzed by the image processor, day and night can be determined. Since the image sensor 30 faces forward, the road surface on which the host vehicle travels is also included in the image. If it is daytime, the road surface is a dark area in the image captured by the image sensor 30. Therefore, if the image captured by the image sensor 30 includes a dark region, the light source may be selected so as to irradiate the dark region. The light source 2-2 is installed slightly below the light source 2-1 disposed at substantially the center position of the image sensor 30, and can irradiate the window glass 4 near the road surface of the image. The light source 3-2 is arranged closer to the window glass 4 than the light source 3-1, so that the window glass 4 near the road surface of the image can be irradiated. If it is daytime, the base voltage of the transistor 9-3 or the transistor 9-4 is controlled so that the light source 2-2 or the light source 3-2 emits light in the driving circuit shown in FIG. 2 or a light source 3-2 is caused to pass a predetermined current. Otherwise, a predetermined current is supplied to the light source 2-1 or the light source 3-1 by controlling the base voltage of the transistor 9-1 or the transistor 9-2 so that the light source 2-1 or the light source 3-1 emits light. Make it flow. As a result, it is possible to detect raindrops and cloudiness by reducing the influence of bright ambient light such as sunlight.

また、画像処理装置1が取得した画像を処理して外光の明るさを計測し、計測した外光の明るさに基づいて、第1の光源2と第2の光源3が照射する光の強さを変更する画像処理システムの制御方法も考えられる。自動車周辺の外光の強さは、上述した昼夜判定と同様に画像の明るさにより判別できる。そして、外光が明るい場合は光源の発光の強さを強くし、外光が暗い場合は光源の発光の強さを弱くする。本制御方式も図24の構成を用いて行うことができる。例えば、トランジスタ9−1,9−2,9−3,9−4のベース電圧を画像処理プロセッサによって制御することで、光源2−1,2−2,3−1,3−2に流す電流を制御でき、光源2−1,2−2,3−1,3−2の発光の強さを変更することができる。本制御方式を用いた画像処理システムによれば、昼間でも外光の影響を受けることなく雨滴,曇りを検出することができる。また、光源2−1,2−2,3−1,3−2に赤外光を用いる場合、夜は他車両や歩行者に幻惑を与えることなく雨滴,曇りを検出することができる。   In addition, the brightness of the external light is measured by processing the image acquired by the image processing apparatus 1, and the light emitted from the first light source 2 and the second light source 3 is based on the measured brightness of the external light. A control method of the image processing system that changes the strength is also conceivable. The intensity of the ambient light around the automobile can be determined by the brightness of the image in the same way as the above-described day / night determination. When the external light is bright, the intensity of light emission from the light source is increased. When the external light is dark, the intensity of light emission from the light source is decreased. This control method can also be performed using the configuration of FIG. For example, by controlling the base voltages of the transistors 9-1, 9-2, 9-3, and 9-4 by the image processor, currents that flow through the light sources 2-1, 2-2, 3-1, 3-2 And the intensity of light emission of the light sources 2-1, 2-2, 3-1, 3-2 can be changed. According to the image processing system using this control method, raindrops and cloudiness can be detected without being affected by outside light even in the daytime. Further, when infrared light is used for the light sources 2-1, 2-2, 3-1, 3-2, it is possible to detect raindrops and cloudiness at night without illusioning other vehicles or pedestrians.

また、本発明の他の実施例では、図25(a)に示すように、第2の光源3をアレイ状に配列した複数の光源によって構成する。図25(a)に示す例では、4つの光源3−11,3−12,3−13,3−14で第2の光源3を構成している。図25(c)にはアレイ状に配列した複数の光源の点灯回路構成例を示す。図25(c)の回路では4つの光源3−11,3−12,3−13,3−14は同時に点灯するように制御される。あるいは、図25(d)に示す複数のトランジスタ9−21〜9−24を用いて光源を点灯するようにしても良い。図25(d)の回路によれば、4つの光源3−11,3−12,3−13,3−14は1個ずつ順番に点灯するように制御される。本実施例の光源を用いれば、ウィンドウガラス4における曇りの程度だけでなく、曇りの進行方向や曇り進行速度をも画像処理プロセッサなどを用いて計測することができる。   Further, in another embodiment of the present invention, as shown in FIG. 25A, the second light source 3 is constituted by a plurality of light sources arranged in an array. In the example shown in FIG. 25A, the second light source 3 is constituted by four light sources 3-11, 3-12, 3-13, and 3-14. FIG. 25C shows a lighting circuit configuration example of a plurality of light sources arranged in an array. In the circuit of FIG. 25 (c), the four light sources 3-11, 3-12, 3-13, 3-14 are controlled to light up simultaneously. Alternatively, the light source may be turned on using a plurality of transistors 9-21 to 9-24 shown in FIG. According to the circuit of FIG. 25 (d), the four light sources 3-11, 3-12, 3-13, 3-14 are controlled so as to be turned on one by one in order. If the light source of the present embodiment is used, not only the degree of fogging in the window glass 4 but also the clouding direction and clouding speed can be measured using an image processor or the like.

例えば、図25(b)に示すようにウィンドウガラス4の内側上部に曇りが発生した場合を考えると、ウィンドウガラス4からの反射光の明るさが、光源3−11からの反射光が最初に暗くなり、次に光源3−12からの反射光が暗くなり、続いて光源3−13,光源3−14の順に反射光が暗くなっていったとすると、それはウィンドウガラス4の内側の曇りが光源3−11から光源3−14の方向に進行していることを表している。ウィンドウガラス4からの反射光が、光源3−14から光源3−11の順に暗くなっていけば、ウィンドウガラス4の内側の曇りの進行方向は、上記例とは逆方向となる。   For example, as shown in FIG. 25 (b), when the fog occurs on the inner upper part of the window glass 4, the brightness of the reflected light from the window glass 4 is the same as the reflected light from the light source 3-11 first. If the reflected light from the light source 3-12 becomes darker and then the reflected light becomes darker in the order of the light source 3-13 and then the light source 3-14, the fogging inside the window glass 4 is the light source. It represents that the light travels from 3-11 to the light source 3-14. If the reflected light from the window glass 4 becomes darker in the order of the light source 3-14 to the light source 3-11, the traveling direction of fogging inside the window glass 4 becomes the opposite direction to the above example.

更に、光源3−11からの反射光が暗くなって、次に光源3−12からの反射光が暗くなるまでの時間間隔,光源3−12が暗くなって次に光源3−13が暗くなるまでの時間間隔を求めることで、ウィンドウガラス4の内側における曇りの進行速度を計算することができる。この場合は、光源3−11〜3−14の間隔も計算に用いるので、記憶素子に記憶しておく必要がある。本実施例によれば、ウィンドウガラス4の周辺から曇り領域が進展してきているのか、あるいは曇り領域が減少しているのかという情報とともに、その速度がわかるため、デフロスタからの風量をきめ細かく制御でき、ウィンドウガラス4の曇りを効率的に除去することができるようになる。   Further, the time interval until the reflected light from the light source 3-11 becomes dark and then the reflected light from the light source 3-12 becomes dark, the light source 3-12 becomes dark and then the light source 3-13 becomes dark. By calculating the time interval until, the traveling speed of fogging inside the window glass 4 can be calculated. In this case, since the interval between the light sources 3-11 to 3-14 is also used for the calculation, it must be stored in the storage element. According to the present embodiment, since the speed is known together with the information whether the cloudy area is developing from the periphery of the window glass 4 or whether the cloudy area is decreasing, the air volume from the defroster can be finely controlled, The fogging of the window glass 4 can be efficiently removed.

ウィンドウガラス4の内側に曇りを検出した場合、まず、エアコンを制御して曇りを除去した後、雨滴検出処理によって検出した雨量によりワイパーを制御するようにしてもよい。これにより、ウィンドウガラス4の曇りにより雨滴が検出しにくくなることを防止することができ、また、図16の雨滴検出処理結果の精度を向上することができる。   When cloudiness is detected inside the window glass 4, first, the air conditioner may be controlled to remove the cloudiness, and then the wiper may be controlled based on the amount of rain detected by the raindrop detection process. Thereby, it can prevent that it becomes difficult to detect a raindrop by the cloudiness of the window glass 4, and the precision of the raindrop detection process result of FIG. 16 can be improved.

本実施例の画像処理システムを用いれば、ウィンドウガラス4の雨滴や曇りを精度良く検出でき、ワイパーやデフロスタをきめ細かく制御できるので、運転手にとって前方の視界が良好になって車線や前方車を検出しやすくなる。そのため、検出した車線や前方車の情報に基づいて、自車両の制御内容を変更することができる。   By using the image processing system of this embodiment, it is possible to accurately detect raindrops and cloudiness on the window glass 4 and to finely control the wiper and the defroster, so that the driver has better visibility and detects lanes and vehicles ahead. It becomes easy to do. Therefore, the control content of the host vehicle can be changed based on the detected lane information and information on the preceding vehicle.

また、本実施例の画像処理システムではレンズ10の焦点距離を遠方に固定していたが、ズームレンズ等を用いることで焦点距離を変化させ、ウィンドウガラス4の位置及び自動車よりも遠方に焦点を合わせて画像を取得するように構成してもよい。この構成の画像処理システムによれば、遠方と近傍で鮮明な画像を得ることができるため、遠方を走行する先行車のテールランプや対向車のヘッドランプの検出と、ウィンドウガラス4に付着した雨滴や曇りの検出を同一の画像処理システムで行うことができる。   Further, in the image processing system of the present embodiment, the focal length of the lens 10 is fixed at a long distance, but the focal length is changed by using a zoom lens or the like, and the focal point is far away from the position of the window glass 4 and the automobile. You may comprise so that an image may be acquired collectively. According to the image processing system having this configuration, a clear image can be obtained in the distance and the vicinity. Therefore, the detection of the tail lamp of the preceding vehicle and the head lamp of the oncoming vehicle that travels in the distance, and the raindrops attached to the window glass 4 Cloudiness can be detected by the same image processing system.

ズームレンズ等により焦点距離を変化させるには時間が必要である。焦点距離が変化する時間を削減させるために、画像処理装置1に設けたレンズ10は、口径比が所定値以上(例えばF2.5以上)のレンズとしてもよい。本構成の画像処理システムによれば、遠方に焦点を合わせておいても、遠方と近傍の画像のボケを減らすことができるため、遠方を走行する先行車のヘッドランプや対向車のテールランプの検出と近傍のウィンドウガラス4に付着した雨滴や曇りの検出が容易にできる。   It takes time to change the focal length using a zoom lens or the like. In order to reduce the time required for changing the focal length, the lens 10 provided in the image processing apparatus 1 may be a lens having an aperture ratio of a predetermined value or more (for example, F2.5 or more). According to the image processing system of this configuration, it is possible to reduce the blurring of the images in the distance and the vicinity even when focusing on the distance, so it is possible to detect the headlamps of the preceding vehicle traveling on the distance and the tail lamps of the oncoming vehicle. In addition, it is possible to easily detect raindrops and cloudiness adhering to the window glass 4 in the vicinity.

また、画像処理装置1が画像を処理して、雨滴や曇りを検出する際に、画像を処理する領域、即ち第1の光源2と第2の光源3が照射する領域に応じて雨滴や曇りを検出する閾値を変更するように構成してもよい。図1や図23に示すように、ウィンドウガラス4が傾斜している場合、撮像素子30によって取得した画像内の雨滴の大きさや反射光の強さが異なることが起こるため、このように検出閾値を変更することで良好に雨滴や曇りを検出することができる。   In addition, when the image processing apparatus 1 processes an image and detects raindrops or cloudiness, the raindrops or cloudiness are determined according to the area where the image is processed, that is, the areas irradiated by the first light source 2 and the second light source 3. You may comprise so that the threshold value which detects may be changed. As shown in FIGS. 1 and 23, when the window glass 4 is inclined, the size of raindrops in the image acquired by the image sensor 30 and the intensity of the reflected light may be different. By changing, raindrops and cloudiness can be detected well.

更に、本発明の画像処理システムを搭載した自動車においては、画像処理システムのウィンドウガラスの異物検出結果を用いて、ワイパーやデフロスタを自動制御することもできる。さらに、本発明の画像処理システムを搭載した自動車においては、ウィンドウガラスの異物が除去できるため、前方の視界が良好になって車線や前方車を検出しやすくなり、ヘッドランプの配光制御,車間距離制御,車線逸脱警報など自車両の制御性が向上する。   Furthermore, in a vehicle equipped with the image processing system of the present invention, the wiper and the defroster can be automatically controlled using the foreign object detection result of the window glass of the image processing system. Further, in the automobile equipped with the image processing system of the present invention, the foreign matter on the window glass can be removed, so that the front visibility is improved and the lane and the front vehicle are easily detected. The controllability of the vehicle is improved, such as distance control and lane departure warning.

ウィンドウガラス4の領域のうち、第1の光源2及び第2の光源3、或いは何れか一方から照射された光の反射光を、撮像素子30で撮像する領域に、赤外波長の光を透過する特性を持たせるようにしてもよい。近年の自動車のウィンドウガラス4は、運転者の日射からの不快要素軽減のため、赤外カットコーティングされているものが多くなっている。この場合、第1の光源2及び第2の光源3からの赤外波長が吸収されてしまうため、充分な反射光が得られず、雨滴検出性能が低下してしまう。そのため図26に示すように、第1の光源2及び第2の光源3或いはその何れか一方から照射された光の反射光を撮像素子30で撮像する領域40に対して、赤外波長の光を透過するように、例えば赤外カットコーティングを塗布しない、或いは剥がすなどの処置を施すと、反射光を効率よく得られるようになり、雨滴検出性能を向上させることができる。   In the region of the window glass 4, the infrared light is transmitted to the region in which the reflected light of the light emitted from either the first light source 2 and / or the second light source 3 is imaged by the image sensor 30. You may make it give the characteristic to do. In recent years, the window glass 4 of automobiles has been increasingly subjected to infrared cut coating in order to reduce unpleasant elements from driver's solar radiation. In this case, since infrared wavelengths from the first light source 2 and the second light source 3 are absorbed, sufficient reflected light cannot be obtained, and raindrop detection performance deteriorates. Therefore, as shown in FIG. 26, the infrared light is applied to the area 40 where the reflected light of the light emitted from the first light source 2 and / or the second light source 3 is imaged by the image sensor 30. If the infrared cut coating is not applied or is removed, for example, the reflected light can be obtained efficiently and the raindrop detection performance can be improved.

また、図27に示すように、ウィンドウガラス4の領域のうち、第2の光源3から照射された光の反射光を撮像素子30で撮像する領域50を、曇りが発生しやすくなるよう処理を施してもよい。例えば、その領域50の部分をすりガラスにする、或いは撥水コートを塗布するなどによって曇り易くすることにより、ウィンドウガラス4全面における曇りの発生をいち早く検出し、運転者の視界が妨げられる前にデフロスタを制御することができるようになる。   In addition, as shown in FIG. 27, the processing is performed so that the region 50 in which the reflected light of the light emitted from the second light source 3 is captured by the image sensor 30 in the region of the window glass 4 is likely to be clouded. You may give it. For example, the area 50 is made of frosted glass or is easily fogged by applying a water repellent coat, etc., so that the occurrence of fogging on the entire surface of the window glass 4 can be detected quickly, and before the driver's view is obstructed, Will be able to control.

画像処理装置1に設置するレンズ10の焦点は、無限遠とウィンドウガラス4の間としてもよい。前述したように、雨滴8を検出するためにはレンズ10の焦点がウィンドウガラス4の表面にある雨滴8に合っているよりもむしろ、多少ピンボケが発生したほうが円としての認識率が高くなり、雨滴検出性能が向上する。さらに、無限遠にレンズ10の焦点が合っていると、遠方を走行する先行車のテールランプを検出する時、特に撮像素子30がカラーで画素数の少ない補色フィルタで構成されている場合、撮像素子30上のテールランプの大きさが1〜4画素程度になると色再現ができずに赤と認識されない場合があり、正確な先行車のテールランプの検出が困難になる。レンズ10の焦点を無限遠よりも手前に合わせることにより、先行車のテールランプがボケて4画素以上の大きさになり、撮像素子30において正確に色が再現できる。これにより、雨滴検出と先行車のテールランプの検出を同時に満たすレンズ10の焦点を、固定することが可能になる。   The focal point of the lens 10 installed in the image processing apparatus 1 may be between infinity and the window glass 4. As described above, in order to detect the raindrop 8, rather than the focus of the lens 10 being on the raindrop 8 on the surface of the window glass 4, the recognition rate as a circle is higher when a slight blur occurs, Raindrop detection performance is improved. Further, when the lens 10 is in focus at infinity, when detecting the tail lamp of a preceding vehicle traveling far away, particularly when the image sensor 30 is composed of a complementary color filter with a small number of pixels in color, the image sensor If the size of the tail lamp on 30 is about 1 to 4 pixels, color reproduction may not be performed and red may not be recognized, making it difficult to accurately detect the tail lamp of the preceding vehicle. By focusing the lens 10 closer to infinity than the infinity, the tail lamp of the preceding vehicle is blurred and has a size of 4 pixels or more, and the color can be accurately reproduced in the image sensor 30. This makes it possible to fix the focus of the lens 10 that simultaneously satisfies the detection of raindrops and the detection of the tail lamp of the preceding vehicle.

また、本発明によると、フロントガラスに付着した雨滴や曇りなどの異物を検出すると同時に、先行車のテールランプの検出に行うことが可能である。   Further, according to the present invention, it is possible to detect a foreign matter such as raindrops or cloudiness adhering to the windshield, and at the same time, to detect a tail lamp of a preceding vehicle.

本発明は、上記実施例で示した自動車だけでなく、鉄道車両、船舶、航空機等に用いられるガラス或いは一般建造物の窓ガラス等の各種のウィンドウガラスの表面に付着する雨滴等の液滴及び曇りや塵などの検知にも用いることができる。   The present invention is not limited to the automobile shown in the above embodiment, but also drops such as raindrops attached to the surface of various types of window glass such as glass used for railway vehicles, ships, aircraft, etc. or window glass of general buildings, and It can also be used to detect cloudiness and dust.

本発明による画像処理システムの一例の模式図。The schematic diagram of an example of the image processing system by this invention. 撮像素子で撮影した雨滴、曇りの画像の例を示す図。The figure which shows the example of the raindrop and cloudy image image | photographed with the image pick-up element. 本発明による画像処理システムの他の例の模式図。The schematic diagram of the other example of the image processing system by this invention. 本発明による画像処理システムの他の例の模式図。The schematic diagram of the other example of the image processing system by this invention. 光学フィルタの光学特性の説明図。Explanatory drawing of the optical characteristic of an optical filter. 光学フィルタの模式図である。It is a schematic diagram of an optical filter. 配光制御機能の一例を説明する図。The figure explaining an example of a light distribution control function. フィルタの赤外光カットの特性を示す図。The figure which shows the characteristic of the infrared-light cut of a filter. 雨滴検知機能の一例を示す図。The figure which shows an example of a raindrop detection function. 光学フィルタの構成例を示す図。The figure which shows the structural example of an optical filter. 撮像部の構成例を示す図。The figure which shows the structural example of an imaging part. 撮像された画像の説明図。Explanatory drawing of the imaged image. 撮像部又は撮像装置を傾けることにより得られる効果を説明するための図。The figure for demonstrating the effect acquired by inclining an imaging part or an imaging device. 車線検知を行う上で必要となる領域を説明するための図。The figure for demonstrating the area | region required when performing lane detection. 光源の発光駆動回路と画像処理装置の動作の一例を示す図。The figure which shows an example of operation | movement of the light emission drive circuit of a light source, and an image processing apparatus. 雨滴検出処理の手順を示すフローチャート。The flowchart which shows the procedure of a raindrop detection process. ワイパー、ウォッシャー制御を説明するための図。The figure for demonstrating a wiper and washer control. ワイパー制御処理のフローチャート。The flowchart of a wiper control process. ワイパー起動方法の例を説明する図。The figure explaining the example of the wiper starting method. ワイパー制御処理に用いられる他のステップを説明する図。The figure explaining the other step used for a wiper control process. フォグランプ、ハイビームの制御方法の例を説明する図。The figure explaining the example of the control method of a fog lamp and a high beam. 曇り検出処理の手順を示すフローチャート。The flowchart which shows the procedure of a cloudiness detection process. 本発明による画像処理システムの他の例の模式図。The schematic diagram of the other example of the image processing system by this invention. 光源の発光強度制御回路の例を示す図。The figure which shows the example of the light emission intensity control circuit of a light source. 複数の発光体からなる第2の光源及びその使用例を示す模式図。The schematic diagram which shows the 2nd light source which consists of a several light-emitting body, and its usage example. 本発明による画像処理システムの他の例の模式図。The schematic diagram of the other example of the image processing system by this invention. 本発明による画像処理システムの他の例の模式図。The schematic diagram of the other example of the image processing system by this invention.

符号の説明Explanation of symbols

1…画像処理装置、2…第1の光源、3…第2の光源、4…ウィンドウガラス、5…ケース、6…ダッシュボード、7…熱伝導部材、8…雨滴、9−1〜9−4…トランジスタ、10…レンズ、11…通路、20…光学フィルタ、30…撮像素子、40…雨滴検知領域、50…曇り検知領域、210…先行車、220…対向車、51a,51b,51c,51d…赤外カット領域、52a,52b,52c,52d…赤外バンドパス領域、81…直線、82…カーブ、100…ワイパー/ウォッシャー制御部、150…モータ、160…ワイパー、170…ウォッシャー制御部   DESCRIPTION OF SYMBOLS 1 ... Image processing apparatus, 2 ... 1st light source, 3 ... 2nd light source, 4 ... Window glass, 5 ... Case, 6 ... Dashboard, 7 ... Heat conduction member, 8 ... Raindrop, 9-1-9- DESCRIPTION OF SYMBOLS 4 ... Transistor, 10 ... Lens, 11 ... Passage, 20 ... Optical filter, 30 ... Image sensor, 40 ... Raindrop detection area, 50 ... Cloudiness detection area, 210 ... Preceding car, 220 ... Oncoming car, 51a, 51b, 51c, 51d ... Infrared cut region, 52a, 52b, 52c, 52d ... Infrared bandpass region, 81 ... Straight line, 82 ... Curve, 100 ... Wiper / washer control unit, 150 ... Motor, 160 ... Wiper, 170 ... Washer control unit

Claims (37)

ガラスに向けて光を照射する第1の光源と、
前記ガラスに付着した異物によって反射された前記第1の光源からの光を撮像する撮像素子と、
前記ガラスと前記撮像素子の間に設けられ前記反射光の特定波長を透過する光学フィルタと、
前記撮像素子で撮像した画像を処理する画像処理装置と、
を備え、
前記撮像素子の前方にレンズを有し、当該レンズの焦点は前記ガラスの位置よりも遠方に設定されていることを特徴とする画像処理システム。
A first light source that emits light toward the glass;
An image sensor that images light from the first light source reflected by the foreign matter attached to the glass;
An optical filter provided between the glass and the imaging device and transmitting a specific wavelength of the reflected light;
An image processing apparatus for processing an image captured by the image sensor;
With
An image processing system comprising a lens in front of the image sensor, wherein the focal point of the lens is set farther than the position of the glass.
請求項1記載の画像処理システムにおいて、前記撮像素子は、前記光学フィルタを介して光を受光する領域と、前記ガラスを透過した外光を前記光学フィルタを介さずに受光する領域とを有することを特徴とする画像処理システム。   The image processing system according to claim 1, wherein the imaging element has a region that receives light through the optical filter and a region that receives external light that has passed through the glass without passing through the optical filter. An image processing system. 請求項1記載の画像処理システムにおいて、前記光学フィルタと前記ガラスの間に赤外線カットフィルタを備えることを特徴とする画像処理システム。   The image processing system according to claim 1, further comprising an infrared cut filter between the optical filter and the glass. 請求項1記載の画像処理システムにおいて、前記ガラスは自動車のフロントガラスであり、前記ガラスに向けて光を照射する第2の光源を備え、前記撮像素子は前記ガラスに付着した異物によって反射された第1の光源からの光を撮像すると共に前記ガラスに付着した異物によって反射された第2の光源からの光を撮像し、前記光学フィルタは可視領域より長波長側であって前記撮像素子に検出される波長域の光を透過することを特徴とする画像処理システム。   The image processing system according to claim 1, wherein the glass is a windshield of an automobile, and includes a second light source that irradiates light toward the glass, and the imaging element is reflected by a foreign substance attached to the glass. The light from the first light source is imaged and the light from the second light source reflected by the foreign matter attached to the glass is imaged, and the optical filter is on the longer wavelength side than the visible region and detected by the image sensor. An image processing system that transmits light in a wavelength region to be transmitted. 請求項4記載の画像処理システムにおいて、前記第2の光源は自動車の運転室内のダッシュボード上に設けられていることを特徴とする画像処理システム。   5. The image processing system according to claim 4, wherein the second light source is provided on a dashboard in a driver's cab of an automobile. 請求項4記載の画像処理システムにおいて、前記画像処理装置は、前記第1の光源から照射された光によって前記ガラスの外面に付着した雨滴を検出し、前記第2の光源から照射された光によって前記ガラスの内面に付着した曇りを検出することを特徴とする画像処理システム。   5. The image processing system according to claim 4, wherein the image processing device detects raindrops attached to an outer surface of the glass by light emitted from the first light source, and uses light emitted from the second light source. An image processing system for detecting cloudiness adhering to the inner surface of the glass. 請求項4記載の画像処理システムにおいて、前記画像処理装置と、前記第1の光源と、前記第2の光源をケースの中に配置し、前記ケースと前記ガラスの間に空気流通用通路を設けたことを特徴とする画像処理システム。   5. The image processing system according to claim 4, wherein the image processing device, the first light source, and the second light source are disposed in a case, and an air circulation passage is provided between the case and the glass. An image processing system characterized by that. 請求項4記載の画像処理システムにおいて、前記ガラスに付着した異物の検出とともに先行車両のテールランプを検出することを特徴とする画像処理システム。   5. The image processing system according to claim 4, wherein a tail lamp of a preceding vehicle is detected together with the detection of the foreign matter adhering to the glass. 請求項4記載の画像処理システムにおいて、前記光学フィルタの光学特性を当該光学フィルタの領域によって異ならせたことを特徴とする画像処理システム。   5. The image processing system according to claim 4, wherein the optical characteristics of the optical filter differ depending on the area of the optical filter. 請求項9記載の画像処理システムにおいて、前記光学フィルタの一部を赤外光をカットする赤外カット領域とし、前記赤外カット領域以外の少なくとも一部を赤外領域に透過率のピークを持つ赤外バンドパス領域としたことを特徴とする画像処理システム。   The image processing system according to claim 9, wherein a part of the optical filter is an infrared cut area for cutting infrared light, and at least a part other than the infrared cut area has a transmittance peak in the infrared area. An image processing system characterized by an infrared bandpass region. 請求項10記載の画像処理システムにおいて、前記光学フィルタは、前記ガラスと前記撮像素子の間に設置された状態において、上側に前記赤外バンドパス領域を有することを特徴とする画像処理システム。   The image processing system according to claim 10, wherein the optical filter has the infrared bandpass region on an upper side in a state where the optical filter is installed between the glass and the imaging device. 請求項10記載の画像処理システムにおいて、前記光学フィルタは、前記ガラスと前記撮像素子の間に設置された状態において、上側に前記赤外バンドパス領域を有し、下側に前記赤外カット領域を有することを特徴とする画像処理システム。   The image processing system according to claim 10, wherein the optical filter has the infrared bandpass region on an upper side and the infrared cut region on a lower side in a state of being installed between the glass and the imaging element. An image processing system comprising: 請求項10記載の画像処理システムにおいて、前記撮像素子の前方にレンズを有し、前記レンズは、前記光学フィルタと同じ光学特性を有するコーティングが施されていることを特徴とする画像処理システム。   The image processing system according to claim 10, further comprising: a lens in front of the image sensor, wherein the lens is coated with a coating having the same optical characteristics as the optical filter. 請求項10記載の画像処理システムにおいて、前記光学フィルタと同じ光学特性を有するコーティングを前記撮像素子の前方に設けられたカバー部に施したことを特徴とする画像処理システム。   11. The image processing system according to claim 10, wherein a coating having the same optical characteristics as the optical filter is applied to a cover portion provided in front of the image sensor. 請求項10記載の画像処理システムにおいて、前記画像処理装置は、前記赤外バンドパス領域で撮像された画像を処理して雨滴検知を行うことを特徴とする画像処理システム。   The image processing system according to claim 10, wherein the image processing device performs raindrop detection by processing an image captured in the infrared bandpass region. 請求項10記載の画像処理システムにおいて、前記画像処理装置は、前記赤外カット領域で撮像された画像を処理して先行車を検知することを特徴とする画像処理システム。   The image processing system according to claim 10, wherein the image processing apparatus detects a preceding vehicle by processing an image captured in the infrared cut region. 請求項10記載の画像処理システムにおいて、前記画像処理装置は、前記赤外カット領域で撮像された画像を処理して車線検出を行うことを特徴とする画像処理システム。   The image processing system according to claim 10, wherein the image processing apparatus performs lane detection by processing an image captured in the infrared cut region. 請求項4記載の画像処理システムにおいて、前記撮像素子の視野は水平方向よりも下を向いていることを特徴とする画像処理システム。   The image processing system according to claim 4, wherein a field of view of the image sensor faces downward from a horizontal direction. 請求項4記載の画像処理システムにおいて、前記画像処理装置は前記撮像素子で撮像した画像を処理して雨量を検知し、検知された雨量に基づいて自動車のワイパーあるいはウォッシャーを制御することを特徴とする画像処理システム。   5. The image processing system according to claim 4, wherein the image processing device detects a rain amount by processing an image picked up by the image sensor, and controls a wiper or a washer of an automobile based on the detected rain amount. Image processing system. 請求項19記載の画像処理システムにおいて、自動車のシフトレバーがパーキングの状態を検知した場合は、ワイパーの制御を禁止することを特徴とする画像処理システム。   20. The image processing system according to claim 19, wherein control of the wiper is prohibited when the shift lever of the automobile detects a parking state. 請求項19記載の画像処理システムにおいて、ワイパーを制御する雨量の判定閾値を自動車の走行速度に応じて変更することを特徴とする画像処理システム。   The image processing system according to claim 19, wherein a rain determination threshold value for controlling the wiper is changed according to a traveling speed of the automobile. 請求項19記載の画像処理システムにおいて、ワイパーの起動後、所定の待ち時間が経過した後、検知された雨量に基づくワイパーの制御を開始することを特徴とする画像処理システム。   20. The image processing system according to claim 19, wherein after the wiper is activated, control of the wiper based on the detected rainfall is started after a predetermined waiting time has elapsed. 請求項22記載の画像処理システムにおいて、自動車の走行速度と雨滴の径のうち少なくとも一つを用いて前記待ち時間の長さを制御することを特徴とする画像処理システム。   23. The image processing system according to claim 22, wherein the length of the waiting time is controlled using at least one of a traveling speed of a vehicle and a raindrop diameter. 請求項19記載の画像処理システムにおいて、前記画像処理装置は、前記第2の光源から照射された光の反射光によって前記ガラスの内面に付着した曇りを検出し、前記ガラスの内側に曇り付着がない時に、検出された雨量に基づいてワイパーあるいはウォッシャーを制御することを特徴とする画像処理システム。   The image processing system according to claim 19, wherein the image processing device detects fogging adhered to the inner surface of the glass by reflected light of light emitted from the second light source, and the fogging adhesion occurs on the inner side of the glass. An image processing system that controls a wiper or a washer based on the detected rainfall when there is no rain. 請求項19記載の画像処理システムにおいて、前記ワイパーを駆動するモータのトルクを検知して、ガラスの撥水状態あるいはワイパーのブレードの傷み状態を判定することを特徴とする画像処理システム。   20. The image processing system according to claim 19, wherein a torque of a motor that drives the wiper is detected to determine a water repellent state of the glass or a damaged state of the blade of the wiper. 請求項19記載の画像処理システムにおいて、検知した雨量に基づいてフォグランプの点灯制御を行うことを特徴とする画像処理システム。   The image processing system according to claim 19, wherein fog lamp lighting control is performed based on the detected rainfall. 請求項19記載の画像処理システムにおいて、検知した雨量に基づいてヘッドランプのハイビーム点灯を制御することを特徴とする画像処理システム。   20. The image processing system according to claim 19, wherein the high beam lighting of the headlamp is controlled based on the detected rainfall. 請求項19記載の画像処理システムにおいて、外光の明るさを計測し、計測された明るさに応じてワイパーの動作速度を変更することを特徴とする画像処理システム。   20. The image processing system according to claim 19, wherein the brightness of external light is measured, and the operation speed of the wiper is changed according to the measured brightness. 請求項19記載の画像処理システムにおいて、検知した雨量と雨の粒径のうち少なくとも1つを用いて前記ワイパーの間欠時間を制御することを特徴とする画像処理システム。   The image processing system according to claim 19, wherein the intermittent time of the wiper is controlled using at least one of the detected rainfall and rain particle size. 請求項19記載の画像処理システムにおいて、自動車の走行速度に応じて前記ワイパーの間欠時間を制御することを特徴とする画像処理システム。   The image processing system according to claim 19, wherein an intermittent time of the wiper is controlled in accordance with a traveling speed of the automobile. 請求項4記載の画像処理システムにおいて、前記ガラスからの反射輝度を計測し、計測された輝度を用いて前記ガラスの汚れ及び/ 又は雨滴を判定することを特徴とする画像処理システム。   5. The image processing system according to claim 4, wherein the reflection luminance from the glass is measured, and dirt and / or raindrops on the glass are determined using the measured luminance. 請求項31記載の画像処理システムにおいて、汚れを検知したときワイパーを駆動し、ワイパー駆動後更に同じ位置に汚れを検知したときウォッシャーを制御することを特徴とする画像処理システム。   32. The image processing system according to claim 31, wherein the wiper is driven when dirt is detected, and the washer is controlled when dirt is further detected at the same position after the wiper is driven. 請求項4記載の画像処理システムにおいて、前記ガラスの雨付着状態を検知して、ガラスの撥水状態あるいはワイパーのブレードの傷み状態を判定することを特徴とする画像処理システム。   5. The image processing system according to claim 4, wherein the rain adhesion state of the glass is detected to determine the water repellent state of the glass or the damage state of the blade of the wiper. 請求項4記載の画像処理システムにおいて、鏡を有し、前記第2の光源から照射された光が前記ガラスで反射されたのち鏡で反射され、更に前記ガラスで反射して前記撮像素子に入射することを特徴とする画像処理システム。   5. The image processing system according to claim 4, further comprising a mirror, wherein the light emitted from the second light source is reflected by the glass, then reflected by the mirror, and further reflected by the glass and incident on the imaging device. An image processing system. 請求項4記載の画像処理システムにおいて、
前記第2の光源は、複数の発光体をアレイ状に配置されたものであって、
前記撮像素子は、前記ガラスに付着した曇りによって反射された前記第2の光源からの光を撮像し、
前記画像処理装置は、前記画像を処理して、前記曇りの前記ガラスへの付着程度、前記曇りの進行方向,前記曇りの前記ガラスへの付着速度の少なくとも一つを計測することを特徴とする画像処理システム。
The image processing system according to claim 4.
The second light source is a plurality of light emitters arranged in an array,
The imaging element images light from the second light source reflected by fogging attached to the glass,
The image processing device processes the image and measures at least one of the degree of adhesion of the fogging to the glass, the traveling direction of the fogging, and the adhesion speed of the fogging to the glass. Image processing system.
請求項1記載の画像処理システムにおいて、前記光学フィルタは前記ガラスの透過率が所定値以上で撮像素子の感度も高い波長域の光を透過するものであることを特徴とする画像処理システム。   The image processing system according to claim 1, wherein the optical filter transmits light in a wavelength region in which the transmittance of the glass is equal to or higher than a predetermined value and the sensitivity of the imaging device is high. 請求項36記載の画像処理システムにおいて、前記光学フィルタは可視光領域の波長を透過することを特徴とする画像処理システム。 37. The image processing system according to claim 36 , wherein the optical filter transmits wavelengths in the visible light region.
JP2004106853A 2003-08-12 2004-03-31 Image processing system Expired - Fee Related JP4326999B2 (en)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2004106853A JP4326999B2 (en) 2003-08-12 2004-03-31 Image processing system
US10/916,444 US7208723B2 (en) 2003-08-12 2004-08-12 Image processing system which processes an image captured by an imaging device through a lens having a focus which is adjusted to a point beyond the glass
EP04019184A EP1507138B1 (en) 2003-08-12 2004-08-12 Image processing system
DE602004027198T DE602004027198D1 (en) 2003-08-12 2004-08-12 Image processing system
US11/474,337 US7247838B2 (en) 2003-08-12 2006-06-26 Rain/moisture and object imaging system for vehicle

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2003207237 2003-08-12
JP2003414076 2003-12-12
JP2004106853A JP4326999B2 (en) 2003-08-12 2004-03-31 Image processing system

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2004180050A Division JP4327024B2 (en) 2003-08-12 2004-06-17 Image processing system

Publications (3)

Publication Number Publication Date
JP2005195566A JP2005195566A (en) 2005-07-21
JP2005195566A5 JP2005195566A5 (en) 2006-08-31
JP4326999B2 true JP4326999B2 (en) 2009-09-09

Family

ID=33568360

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004106853A Expired - Fee Related JP4326999B2 (en) 2003-08-12 2004-03-31 Image processing system

Country Status (4)

Country Link
US (2) US7208723B2 (en)
EP (1) EP1507138B1 (en)
JP (1) JP4326999B2 (en)
DE (1) DE602004027198D1 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013122242A1 (en) 2012-02-13 2013-08-22 Ricoh Company, Ltd. Imaging unit and method for installing the same
WO2014010713A1 (en) 2012-07-13 2014-01-16 Ricoh Company, Ltd. Imaging unit, attached matter detector, control system for vehicle, and vehicle
EP2770478A2 (en) 2013-02-25 2014-08-27 Ricoh Company, Ltd. Image processing unit, imaging device, and vehicle control system and program
US9057683B2 (en) 2011-11-02 2015-06-16 Ricoh Company, Ltd. Image pickup unit and vehicle in which image pickup unit is mounted
US9215427B2 (en) 2012-02-13 2015-12-15 Ricoh Company, Ltd. Attached matter detector and in-vehicle device controller using the same
US9706177B2 (en) 2011-11-29 2017-07-11 Ricoh Company, Limited Image processing system, vehicle including the same, image processing method, and computer program product

Families Citing this family (80)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8180099B2 (en) * 2002-07-16 2012-05-15 Trw Limited Rain detection apparatus and method
DE102004015040A1 (en) * 2004-03-26 2005-10-13 Robert Bosch Gmbh Camera in a motor vehicle
DE502005010081D1 (en) * 2004-06-22 2010-09-23 Bosch Gmbh Robert DEVICE AND METHOD FOR CHECKING AN OPTICAL RAIN SENSOR
US7718943B2 (en) * 2004-09-29 2010-05-18 Gentex Corporation Moisture sensor for optically detecting moisture
KR100686553B1 (en) * 2005-01-21 2007-02-23 장관식 Packing Tray for Semiconductors and Method for Preparing Antistatic sheet
US7253898B2 (en) * 2005-03-31 2007-08-07 Hitachi, Ltd. System for detecting droplets on a translucent surface
EP1748644A3 (en) * 2005-07-25 2008-04-23 MobilEye Technologies, Ltd. A gain control method for a camera to support multiple conflicting applications concurrently
US7310190B2 (en) * 2006-02-09 2007-12-18 Delphi Technologies, Inc. Vehicle imaging system with windshield condition determination
JP5260323B2 (en) * 2006-02-22 2013-08-14 アキュリ サイトメーターズ インク. Optical system for flow cytometer
JP4687979B2 (en) * 2006-03-06 2011-05-25 株式会社デンソー In-vehicle rain sensor device
JP4668838B2 (en) 2006-05-16 2011-04-13 株式会社日本自動車部品総合研究所 Raindrop detection device and wiper control device
JP2008064630A (en) * 2006-09-07 2008-03-21 Hitachi Ltd Vehicle imager with deposit sensing function
DE102006044786A1 (en) * 2006-09-14 2008-03-27 Schefenacker Vision Systems Germany Gmbh Camera system, method for operating a camera system and sensor device of a camera system
DE102006045916B4 (en) * 2006-09-28 2010-03-18 Pepperl + Fuchs Gmbh Light sensor or light barrier for the detection of objects and test methods for the degree of soiling of a light sensor or a light barrier
FR2908527B1 (en) * 2006-11-15 2009-01-16 Valeo Vision Sa PHOTOSENSITIVE SENSOR IN THE AUTOMOBILE DOMAIN
EP1923695A1 (en) * 2006-11-20 2008-05-21 Delphi Technologies, Inc. Device for measuring moisture on a plate
JP4415996B2 (en) * 2007-02-26 2010-02-17 株式会社日立製作所 In-vehicle image recognition device, light distribution control device, and light distribution control method
JP4434234B2 (en) * 2007-05-30 2010-03-17 トヨタ自動車株式会社 VEHICLE IMAGING SYSTEM AND VEHICLE CONTROL DEVICE
JP4930316B2 (en) * 2007-10-05 2012-05-16 株式会社デンソー Raindrop amount detection device, wiper control device and headlight control device using the same
ATE471254T1 (en) * 2007-11-21 2010-07-15 Delphi Tech Inc OPTICAL MODULE
DE202008004899U1 (en) * 2008-04-09 2009-08-20 Sick Ag Windscreen element and sensor
JP5330741B2 (en) * 2008-06-09 2013-10-30 株式会社ニコン In-vehicle observation system
JP5359175B2 (en) * 2008-10-16 2013-12-04 株式会社デンソー Visibility state detection device and visibility securing device
JP5287155B2 (en) * 2008-11-05 2013-09-11 株式会社デンソー Water repellent effect determination device, program for water repellent effect determination device, and water repellent effect determination method
DE102008062977A1 (en) * 2008-12-23 2010-06-24 Adc Automotive Distance Control Systems Gmbh Optical module with multifocal optics for the detection of distance and near range in one image
JP5457710B2 (en) * 2009-04-23 2014-04-02 株式会社小糸製作所 Vehicle lighting
US8376595B2 (en) 2009-05-15 2013-02-19 Magna Electronics, Inc. Automatic headlamp control
KR20120051677A (en) 2009-07-06 2012-05-22 콘티 테믹 마이크로일렉트로닉 게엠베하 Optical module for simultaneously focusing on two fields of view
EP2352013B1 (en) * 2010-02-01 2013-01-23 Autoliv Development AB A vision system and method for a motor vehicle
DE102010015214A1 (en) * 2010-04-16 2011-10-20 Conti Temic Microelectronic Gmbh Method and device for driver assistance when driving a vehicle by detecting weather-related visual restrictions
DE102010043479B4 (en) * 2010-11-05 2019-03-07 Robert Bosch Gmbh Camera arrangement and method for operating a camera arrangement for a motor vehicle
DE112011102968A5 (en) 2010-11-30 2013-07-04 Conti Temic Microelectronic Gmbh Detecting raindrops on a glass by means of a camera and lighting
JP2012159658A (en) * 2011-01-31 2012-08-23 Daishinku Corp Optical filter module, and optical filter system
DE102011017649B3 (en) * 2011-04-28 2012-10-11 Robert Bosch Gmbh Method and device for detecting an intensity of an aerosol in a field of view of a camera of a vehicle
DE102011103302A1 (en) 2011-06-03 2012-12-06 Conti Temic Microelectronic Gmbh Camera system for a vehicle
JP2013029451A (en) 2011-07-29 2013-02-07 Ricoh Co Ltd Deposit detection device and deposit detection method
DE102011081365A1 (en) * 2011-08-23 2013-02-28 Robert Bosch Gmbh A method for processing a light signal for rain detection in a vehicle and method for rain detection in a vehicle
US20140347487A1 (en) 2011-09-07 2014-11-27 Valeo Schalter Und Sensoren Gmbh Method and camera assembly for detecting raindrops on a windscreen of a vehicle
WO2013062401A1 (en) * 2011-10-24 2013-05-02 Dawson Yahya Ratnam A machine vision based obstacle detection system and a method thereof
JP5999483B2 (en) * 2011-11-02 2016-09-28 株式会社リコー Adhering matter detection device and in-vehicle device control device
JP5887840B2 (en) * 2011-11-02 2016-03-16 株式会社リコー Image processing device
JP5561333B2 (en) * 2011-11-02 2014-07-30 株式会社リコー Image processing apparatus, imaging method, program, and vehicle
JP5891723B2 (en) * 2011-11-10 2016-03-23 株式会社リコー Imaging method and imaging unit
JP6111514B2 (en) * 2011-11-29 2017-04-12 株式会社リコー Image processing system and vehicle equipped with the same
DE102011056051A1 (en) 2011-12-05 2013-06-06 Conti Temic Microelectronic Gmbh Method for evaluating image data of a vehicle camera taking into account information about rain
DE202012003277U1 (en) 2012-03-22 2012-07-11 Iris-Gmbh Infrared & Intelligent Sensors Detection of signal interference of an optical sensor caused by damage or occlusion
TWI478834B (en) * 2012-04-13 2015-04-01 Pixart Imaging Inc Windshield wiper controller, optical raindrop detector and detection method thereof
DE102012103873A1 (en) * 2012-05-03 2013-11-21 Conti Temic Microelectronic Gmbh Detecting raindrops on a glass by means of a camera and lighting
KR101327032B1 (en) 2012-06-12 2013-11-20 현대자동차주식회사 Apparatus and method for removing reflected light of camera image
IN2015KN00408A (en) * 2012-07-27 2015-07-17 Nissan Motor
WO2014017523A1 (en) * 2012-07-27 2014-01-30 日産自動車株式会社 Water droplet detection device, and three-dimensional object detection device using said water droplet detection device
JP2014044196A (en) * 2012-07-30 2014-03-13 Ricoh Co Ltd Deposit detector, device control system for mobile device, and moble device
JP6008238B2 (en) * 2012-07-30 2016-10-19 株式会社リコー IMAGING DEVICE, IMAGING DEVICE INSTALLATION METHOD, AND MOBILE DEVICE
US8873062B2 (en) * 2012-08-09 2014-10-28 Jeffrey Scott Adler Reflective material sensor
US9199574B2 (en) 2012-09-11 2015-12-01 Gentex Corporation System and method for detecting a blocked imager
JP6034109B2 (en) * 2012-09-25 2016-11-30 株式会社総合車両製作所 Window material appearance inspection apparatus and window material appearance inspection method
JP6183682B2 (en) * 2013-02-06 2017-08-23 株式会社リコー Adhesion amount calculation device, mobile device control system, and adhesion amount calculation program
JP2014235079A (en) * 2013-06-03 2014-12-15 株式会社リコー Deposit detection device, mobile object equipment control system and mobile object
US9514373B2 (en) 2013-08-28 2016-12-06 Gentex Corporation Imaging system and method for fog detection
JP6568799B2 (en) * 2013-11-25 2019-08-28 京セラ株式会社 Lens unit, imaging device, and in-vehicle camera
JP6380843B2 (en) * 2013-12-19 2018-08-29 株式会社リコー Object detection apparatus, mobile device control system including the same, and object detection program
KR101599731B1 (en) * 2014-05-30 2016-03-04 엑센도 주식회사 Total reflection mode rain sensor using a mirror
US9426377B2 (en) * 2014-10-03 2016-08-23 Ricoh Company, Ltd. Image capturing apparatus, image capturing method, storage medium, and device control system for controlling vehicle-mounted devices
US9726604B2 (en) 2014-11-12 2017-08-08 Ricoh Company, Ltd. Adhering detection apparatus, adhering substance detection method, storage medium, and device control system for controlling vehicle-mounted devices
JP6534810B2 (en) * 2014-12-17 2019-06-26 Necソリューションイノベータ株式会社 Vision control device, vision control system, vision control method, and vision control program
JP6790688B2 (en) * 2016-01-19 2020-11-25 株式会社デンソー Vehicle wiper device and control method of vehicle wiper device
JP6801678B2 (en) 2016-01-21 2020-12-16 株式会社デンソー Vehicle wiper device and control method of vehicle wiper device
US10023152B2 (en) 2016-06-29 2018-07-17 Ford Global Technologies, Llc Method of preventing a windshield wiper from freezing to a windshield and related circuit
US10281916B1 (en) * 2016-09-21 2019-05-07 Amazon Technologies, Inc. Detection of transparent elements using specular reflection
JP6817104B2 (en) * 2016-10-24 2021-01-20 株式会社デンソーテン Adhesion detection device, deposit detection method
US10168423B2 (en) * 2017-01-27 2019-01-01 Waymo Llc LIDAR sensor window configuration for improved data integrity
EP3367660B1 (en) 2017-02-27 2019-12-25 Veoneer Sweden AB A camera device comprising a dirt detection unit
JP6832224B2 (en) * 2017-04-28 2021-02-24 株式会社デンソーテン Adhesion detection device and deposit detection method
KR102452065B1 (en) 2017-07-07 2022-10-11 삼성전자 주식회사 Electronic device and method for providing adsorption information of foreign substance adsorbed to cemera
US10933798B2 (en) * 2017-09-22 2021-03-02 Magna Electronics Inc. Vehicle lighting control system with fog detection
JP7271908B2 (en) * 2018-11-08 2023-05-12 株式会社アイシン Perimeter monitoring device
CN109580654A (en) * 2018-11-26 2019-04-05 江苏星浪光学仪器有限公司 A kind of detection device and its detection method of optical filter
JP7272226B2 (en) * 2019-10-07 2023-05-12 株式会社デンソー Raindrop Recognition Device, Vehicle Control Device, Learning Method and Trained Model
CN111750956A (en) * 2020-07-07 2020-10-09 中铁十一局集团有限公司 System and method for measuring liquid level of mortar tank of shield machine
CN112595524A (en) * 2020-11-24 2021-04-02 东风汽车集团有限公司 Advanced driving auxiliary test forward camera rain and fog simulation system and method

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US35762A (en) * 1862-07-01 Improvement in pipe-tongs
GB1596050A (en) * 1978-05-30 1981-08-19 Casswell P H Vehicle window wiping arrangements
DE2852676A1 (en) * 1978-12-06 1980-06-19 Rau Swf Autozubehoer SWITCHING ARRANGEMENT FOR A WIPER MOTOR AND WIPER MOTOR
DE2932461A1 (en) * 1979-08-10 1981-02-26 Bosch Gmbh Robert METHOD FOR EVALUATING THE QUALITY OF THE WIPER BLADE / DISC SURFACE SYSTEM
JPS6243543A (en) * 1985-08-21 1987-02-25 Honda Motor Co Ltd Water drop detector for window glass
US4867561A (en) * 1986-08-22 1989-09-19 Nippondenso Co., Ltd. Apparatus for optically detecting an extraneous matter on a translucent shield
JPS6425036A (en) * 1987-07-20 1989-01-27 Nippon Denso Co Optical liquid detecting device
JPH0789099B2 (en) 1986-10-07 1995-09-27 日本電装株式会社 Optical detection device
JPH0789099A (en) 1993-09-24 1995-04-04 Canon Inc Ink jet recorder and method thereof
US5386111A (en) * 1993-10-08 1995-01-31 Zimmerman; H. Allen Optical detection of water droplets using light refraction with a mask to prevent detection of unrefracted light
US6281649B1 (en) 1997-01-03 2001-08-28 Mccord Winn Textron Inc. Windshield wiper system
US5923027A (en) 1997-09-16 1999-07-13 Gentex Corporation Moisture sensor and windshield fog detector using an image sensor
US6681163B2 (en) * 2001-10-04 2004-01-20 Gentex Corporation Moisture sensor and windshield fog detector
EP1025702B9 (en) * 1997-10-30 2007-10-03 Donnelly Corporation Rain sensor with fog discrimination
JP3983354B2 (en) 1997-11-21 2007-09-26 富士重工業株式会社 Optical filter device for in-vehicle camera
DE19803694C1 (en) * 1998-01-30 1999-04-22 Kostal Leopold Gmbh & Co Kg Method of detecting objects on a transparent plate, e.g. a motor vehicle windscreen
US6669109B2 (en) * 1998-11-06 2003-12-30 Micro-Heat Inc Apparatus for cleaning or de-icing a vehicle window
US6207967B1 (en) * 1999-03-04 2001-03-27 Valeo Electrical Systems, Inc. Off the glass imaging rain sensor
DE19909986C2 (en) * 1999-03-06 2002-08-29 Kostal Leopold Gmbh & Co Kg Optoelectronic monitoring device for a motor vehicle
US6429933B1 (en) * 1999-03-12 2002-08-06 Valeo Electrical Systems, Inc. Method of image processing for off the glass rain sensing
US6392218B1 (en) * 2000-04-07 2002-05-21 Iteris, Inc. Vehicle rain sensor
US6806485B2 (en) * 2000-12-28 2004-10-19 Valeo Electrical Systems, Inc. Ambient light detector for off-the-glass rain sensor
US6614043B2 (en) * 2001-04-16 2003-09-02 Valeo Electrical Systems, Inc. Imaging rain sensor illumination positioning system
US6573490B2 (en) * 2001-06-28 2003-06-03 Valeo Electrical Systems, Inc. Interleaved mosaic imaging rain sensor
US6617564B2 (en) * 2001-10-04 2003-09-09 Gentex Corporation Moisture sensor utilizing stereo imaging with an image sensor
JP3641250B2 (en) * 2002-04-23 2005-04-20 三菱電機株式会社 Foreign object detection device on translucent surface
US8180099B2 (en) * 2002-07-16 2012-05-15 Trw Limited Rain detection apparatus and method
ITTO20020950A1 (en) 2002-11-05 2004-05-06 Fiat Ricerche MULTIFUNCTIONAL INTEGRATED VISION SYSTEM, WITH DIE

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9057683B2 (en) 2011-11-02 2015-06-16 Ricoh Company, Ltd. Image pickup unit and vehicle in which image pickup unit is mounted
US9706177B2 (en) 2011-11-29 2017-07-11 Ricoh Company, Limited Image processing system, vehicle including the same, image processing method, and computer program product
WO2013122242A1 (en) 2012-02-13 2013-08-22 Ricoh Company, Ltd. Imaging unit and method for installing the same
US9215427B2 (en) 2012-02-13 2015-12-15 Ricoh Company, Ltd. Attached matter detector and in-vehicle device controller using the same
WO2014010713A1 (en) 2012-07-13 2014-01-16 Ricoh Company, Ltd. Imaging unit, attached matter detector, control system for vehicle, and vehicle
EP2770478A2 (en) 2013-02-25 2014-08-27 Ricoh Company, Ltd. Image processing unit, imaging device, and vehicle control system and program

Also Published As

Publication number Publication date
US7208723B2 (en) 2007-04-24
EP1507138A2 (en) 2005-02-16
EP1507138B1 (en) 2010-05-19
JP2005195566A (en) 2005-07-21
US7247838B2 (en) 2007-07-24
US20060243894A1 (en) 2006-11-02
DE602004027198D1 (en) 2010-07-01
US20050035926A1 (en) 2005-02-17
EP1507138A3 (en) 2005-04-13

Similar Documents

Publication Publication Date Title
JP4326999B2 (en) Image processing system
JP4327024B2 (en) Image processing system
US9726604B2 (en) Adhering detection apparatus, adhering substance detection method, storage medium, and device control system for controlling vehicle-mounted devices
JP5846485B2 (en) Adhering matter detection apparatus and adhering matter detection method
JP6468482B2 (en) IMAGING DEVICE, OBJECT DETECTION DEVICE, AND MOBILE DEVICE CONTROL SYSTEM
JP6380843B2 (en) Object detection apparatus, mobile device control system including the same, and object detection program
KR100874461B1 (en) External lighting control device of vehicle and automatic control device of vehicle
JP5014306B2 (en) Optical module for support system
JP5999483B2 (en) Adhering matter detection device and in-vehicle device control device
JP2013029451A (en) Deposit detection device and deposit detection method
US9426377B2 (en) Image capturing apparatus, image capturing method, storage medium, and device control system for controlling vehicle-mounted devices
JP5936098B2 (en) Imaging apparatus, object detection apparatus including the same, and optical filter
JP6555569B2 (en) Image processing apparatus, mobile device control system, and image processing program
JP5858327B2 (en) IMAGING DEVICE, OBJECT DETECTION DEVICE HAVING THE SAME, AND POLARIZING FILTER
JP2015031564A (en) Deposit detection device, and equipment control system for transfer device
JP6098575B2 (en) Imaging unit, image processing apparatus, and vehicle
JP2016146583A (en) Imaging device, mobile apparatus control system and program
JP2017003531A (en) Object detection device, object removal operation control system, object detection method, and object detection program
JP6701542B2 (en) Detection device, mobile device control system, and detection program
JP5891723B2 (en) Imaging method and imaging unit
JP2015169567A (en) Deposit detection device, mobile device control system, and deposit detection program
JP2016218046A (en) Object detection device, object removal operation control system, object detection method, and program for object detection
JP2016076916A (en) Imaging apparatus, imaging method, program, and mobile apparatus control system

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060712

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060712

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081014

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090428

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090602

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090610

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120619

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4326999

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120619

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120619

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120619

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120619

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130619

Year of fee payment: 4

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees