JP4917961B2 - In-vehicle vehicle light detection device and vehicle illumination device - Google Patents

In-vehicle vehicle light detection device and vehicle illumination device Download PDF

Info

Publication number
JP4917961B2
JP4917961B2 JP2007135676A JP2007135676A JP4917961B2 JP 4917961 B2 JP4917961 B2 JP 4917961B2 JP 2007135676 A JP2007135676 A JP 2007135676A JP 2007135676 A JP2007135676 A JP 2007135676A JP 4917961 B2 JP4917961 B2 JP 4917961B2
Authority
JP
Japan
Prior art keywords
vehicle
light
gradation value
pixel
image sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007135676A
Other languages
Japanese (ja)
Other versions
JP2008293116A (en
Inventor
明 内田
勝之 今西
勝紀 谷田
敦司 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Soken Inc
Original Assignee
Denso Corp
Nippon Soken Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp, Nippon Soken Inc filed Critical Denso Corp
Priority to JP2007135676A priority Critical patent/JP4917961B2/en
Publication of JP2008293116A publication Critical patent/JP2008293116A/en
Application granted granted Critical
Publication of JP4917961B2 publication Critical patent/JP4917961B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Lighting Device Outwards From Vehicle And Optical Signal (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、車載用車両灯検出装置および車両用照明装置に関するものである。   The present invention relates to an in-vehicle vehicle light detection device and a vehicle illumination device.

自車両の前方に存在する他車両を検出して自車両の前照灯をハイビーム(走行用)とロービーム(すれ違い用)に切り替える技術がある(特許文献1,2等)。
この種の技術において、色フィルタ付き撮像素子における配置として、図10,11,12,13が知られている。つまり、縦横に配列した各画素において、図10のように上に赤色フィルタを下にフィルタ無しとする「上下配置」としたり、図11のように各画素をBayer型としたり、図12のように市松模様に配置したり、図13のように撮像素子の任意範囲にのみフィルタを配置する。
There is a technique of detecting another vehicle in front of the host vehicle and switching the headlamp of the host vehicle to a high beam (for traveling) and a low beam (for passing) (Patent Documents 1, 2, etc.).
In this type of technology, FIGS. 10, 11, 12, and 13 are known as arrangements in an image sensor with a color filter. In other words, in each pixel arrayed vertically and horizontally, as shown in FIG. 10, the “up and down arrangement” is made such that the red filter is on the top and the filter is not on the bottom, each pixel is made a Bayer type as shown in FIG. Are arranged in a checkered pattern, or filters are arranged only in an arbitrary range of the image sensor as shown in FIG.

特許文献1においては、図10,11,12のような上下配置、Bayer型配置、市松模様に配置した構成とし、赤色と他色フィルタの各画素の階調比又は赤色フィルタのみから赤色らしい光源を抽出し、尾灯(先行車)と判定することが挙げられている。また、特許文献2においては、一般的なYUV表色から赤色らしい光源を抽出し、尾灯(先行車)と判定することが挙げられている。
特表2005−534903号公報 特開2005−92857号公報
In Patent Document 1, a light source that seems to be red based on the grayscale ratio of each pixel of red and other color filters or only the red filter, with a vertical arrangement, a Bayer type arrangement, and a checkered arrangement as shown in FIGS. Is extracted and determined as a taillight (preceding vehicle). In Patent Document 2, a red light source is extracted from a general YUV color specification and determined as a taillight (preceding vehicle).
JP 2005-534903 A JP 2005-92857 A

特許文献1では、車両灯の分光特性を考慮したフィルタ設定をしているが、赤色と他色フィルタの各画素の階調値を比較し、その比または階調値が閾値以上であれば赤色として尾灯(先行車)と判定するだけでは性能が劣ると考えられる。また、赤色フィルタを2倍に配置した構成も提案されているが、具体的明確な手段がなく単に赤色フィルタの割合が多いだけとも考えられ、具体的性にも欠ける。   In Patent Document 1, the filter setting is performed in consideration of the spectral characteristics of the vehicle light. The gradation value of each pixel of red and other color filters is compared, and if the ratio or gradation value is equal to or greater than the threshold value, the red color is set. As such, it is considered that the performance is inferior simply by determining the taillight (leading vehicle). Further, although a configuration in which the red filter is arranged twice is proposed, it is considered that there is no specific clear means and the ratio of the red filter is simply large, and the specificity is lacking.

特許文献2は、飽和対策は記載されているが、YUV色判定から単に赤色を抽出しているだけであり、かつ車両灯の分光特性等も反映しておらず、判定としては性能が劣る又は具体性にも欠ける。   Although Patent Document 2 describes a countermeasure against saturation, it merely extracts red from the YUV color determination, and does not reflect the spectral characteristics of the vehicle light, and the performance is inferior as the determination. It lacks concreteness.

本発明は、上記問題点に着目してなされたものであり、その目的は、高精度に車両灯を検出することができる車載用車両灯検出装置および車両用照明装置を提供することにある。   The present invention has been made paying attention to the above-mentioned problems, and an object thereof is to provide an in-vehicle vehicle light detection device and a vehicle illumination device that can detect a vehicle light with high accuracy.

上記の課題を解決するために、請求項1に記載の発明では、画素が配列された撮像素子を有し、車両前方の進行方向を撮像する画像センサと、画像センサにより取得した画像を処理し、光源が先行車の尾灯または対向車の前照灯であるか判定して先行車の尾灯または対向車の前照灯を検出する車両灯検出手段と、を備えた車載用車両灯検出装置であって、画像センサの撮像素子には、画素配列上に、通過させる波長域が異なる少なくとも三種類の光学フィルタが配列され、車両灯検出手段は、画像センサの撮像素子における少なくとも三種類の光学フィルタを付けた画素の階調値の変化傾向が先行車の尾灯または対向車の前照灯と同じ傾向を示すか判定する階調値変化傾向判定機能と、階調値変化傾向判定機能により同じ傾向を示すと判定した光源が左右の対称性を有するか判定する対称性判定機能と、対称性判定機能により左右の対称性を有すると判定した光源について、連続する画像にて移動方向および移動量の少なくとも一方から先行車の尾灯または対向車の前照灯か判定する追跡機能と、を有することを要旨とする。 In order to solve the above-described problem, in the invention described in claim 1, an image sensor having an array of pixels, an image sensor that captures a traveling direction in front of the vehicle, and an image acquired by the image sensor are processed. A vehicle light detection device comprising: vehicle light detection means for determining whether the light source is a taillight of a preceding vehicle or a headlight of an oncoming vehicle and detecting a taillight of a preceding vehicle or a headlight of an oncoming vehicle. In the image sensor of the image sensor, at least three types of optical filters having different wavelength ranges to be passed are arranged on the pixel array, and the vehicle light detection means includes at least three types of optical filters in the image sensor of the image sensor. The same tendency by the gradation value change tendency determination function and the gradation value change tendency determination function that determine whether the change tendency of the gradation value of the pixels marked with the same tendency as the taillight of the preceding vehicle or the headlight of the oncoming vehicle Is determined to indicate A symmetry determination function for determining whether the light source has left-right symmetry and a light source that has been determined to have left-right symmetry by the symmetry determination function from the preceding vehicle from at least one of the moving direction and the moving amount in successive images And a tracking function for determining whether it is a headlight of an oncoming vehicle or a headlight of an oncoming vehicle .

請求項1に記載の発明によれば、画像センサの撮像素子には、画素配列上に、通過させる波長域が異なる少なくとも三種類の光学フィルタが配列されており、車両灯検出手段の階調値変化傾向判定機能により、画像センサの撮像素子における少なくとも三種類の光学フィルタを付けた画素の階調値の変化傾向が先行車の尾灯または対向車の前照灯と同じ傾向を示すか判定される。これにより光源が先行車の尾灯または対向車の前照灯であるか判定されて先行車の尾灯または対向車の前照灯が検出される。よって、光源としての車両灯とその他の光源の分光特性を考慮して高精度に車両灯、即ち、先行車の尾灯または対向車の前照灯を検出することができる。さらに、階調値変化傾向判定機能により同じ傾向を示すと判定した光源が左右の対称性を有するか判定する対称性判定機能により、より車両灯の検出性に優れたものとなる。またさらに、対称性判定機能により左右の対称性を有すると判定した光源について、連続する画像にて移動方向および移動量の少なくとも一方から先行車の尾灯または対向車の前照灯か判定する追跡機能により、より車両灯の検出性に優
れたものとなる。
According to the first aspect of the present invention, at least three types of optical filters having different wavelength ranges to be passed are arranged on the pixel array in the image sensor of the image sensor, and the gradation value of the vehicle lamp detection means By the change tendency determination function, it is determined whether the change tendency of the gradation value of the pixel to which the image sensor of the image sensor is attached has the same tendency as the tail light of the preceding vehicle or the headlight of the oncoming vehicle. . Accordingly, it is determined whether the light source is the taillight of the preceding vehicle or the headlight of the oncoming vehicle, and the taillight of the preceding vehicle or the headlight of the oncoming vehicle is detected. Therefore, it is possible to detect the vehicle light, that is, the tail light of the preceding vehicle or the headlight of the oncoming vehicle with high accuracy in consideration of the spectral characteristics of the vehicle light as the light source and other light sources. Further, the symmetry determination function for determining whether or not the light source determined to exhibit the same tendency by the gradation value change tendency determination function has left-right symmetry makes the vehicle lamp more excellent in detectability. Furthermore, for a light source determined to have left / right symmetry by a symmetry determination function, a tracking function for determining whether the light is a taillight of a preceding vehicle or a headlight of an oncoming vehicle from a moving direction and / or a moving amount in successive images. This makes it easier to detect vehicle lights.
It will be.

請求項2に記載のように、請求項1に記載の車載用車両灯検出装置において、少なくとも三種類の光学フィルタが通過させる光は、青色光および緑色光および赤色光および近赤外光の少なくとも3つであるとよい。   As described in claim 2, in the in-vehicle vehicle light detection device according to claim 1, the light transmitted by at least three types of optical filters is at least one of blue light, green light, red light, and near infrared light. It is good that there are three.

請求項3に記載のように、請求項1または2に記載の車載用車両灯検出装置において、車両灯検出手段は、階調値変化傾向判定機能による処理に先立つ処理機能として、撮像素子での該当する画素に対する周辺の画素での階調値から、該当する画素で検出する波長域の光に対する他の波長域の光についての該当する画素での階調値を算出する他波長域光階調値算出機能と、撮像素子での各々の画素について、該当する画素で検出する階調値、および、他波長域光階調値算出機能により算出した階調値から、該当する画素での輝度を算出する輝度算出機能と、撮像素子での各画素における輝度算出機能による輝度が閾値よりも大きいか否か判定し、大きいと光源の候補であると判定する光源候補判定機能と、を更に有すると、より車両灯の検出性に優れたものとなる。   According to a third aspect of the present invention, in the in-vehicle vehicle light detection device according to the first or second aspect, the vehicle light detection means has a function of the imaging device as a processing function prior to the processing by the gradation value change tendency determination function. The other wavelength range light gradation that calculates the gradation value in the corresponding pixel for the light in the other wavelength range with respect to the light in the wavelength range detected by the corresponding pixel from the gradation value in the surrounding pixel for the corresponding pixel. For each pixel in the image sensor, the brightness at the corresponding pixel is calculated from the gradation value detected by the corresponding pixel and the gradation value calculated by the other wavelength range light gradation value calculation function. A luminance calculation function to calculate, and a light source candidate determination function to determine whether or not the luminance by the luminance calculation function in each pixel in the image sensor is greater than a threshold value, and to determine that the luminance is a light source candidate if larger More vehicle light detection And it is excellent in.

請求項に記載の発明は、請求項1〜3のいずれか1項に記載の車載用車両灯検出装置を具備し、車両灯検出手段による先行車の尾灯または対向車の前照灯の検出結果に基づいて車両の前照灯の切替および配光の少なくとも一方を制御する前照灯制御手段を備えた車両用照明装置を要旨としている。 The invention according to claim 4 comprises the on-vehicle vehicle light detection device according to any one of claims 1 to 3 , and the detection of the taillight of the preceding vehicle or the headlight of the oncoming vehicle by the vehicle light detection means. The gist of the present invention is a vehicular illumination device including a headlamp control means for controlling at least one of switching and light distribution of a vehicle headlamp based on the result.

請求項に記載の発明によれば、前照灯制御手段により、車両灯検出手段による先行車の尾灯または対向車の前照灯の検出結果に基づいて車両の前照灯の切替および配光の少なくとも一方が制御される。 According to the invention described in claim 4 , the headlamp control means switches and distributes the headlamps of the vehicle based on the detection result of the taillight of the preceding vehicle or the headlamp of the oncoming vehicle by the vehicle lamp detection means. At least one of them is controlled.

なお、前照灯の切替とは、すれ違い用前照灯と走行用前照灯を切替えることであり、配光とは、照射光の光軸を変化させて照射距離・方向を変えることや照射量を調整することである。   Note that the switching of the headlamp means switching between the headlight for passing and the headlight for traveling, and the light distribution means changing the irradiation distance and direction by changing the optical axis of the irradiation light, or irradiation. Is to adjust the amount.

以下、本発明を具体化した一実施形態を図面に従って説明する。
図1には、本実施形態における車両用照明装置の電気的構成を示す。
車両用照明装置は、左前照灯10と右前照灯20を具備している。車両前面左側に設置される左前照灯10は、車両の前方左側を照らすものであり、走行用ランプ11と、すれ違い用ランプ12と、駆動制御部13からなり、走行用ランプ11はいわゆるハイビーム用であり、すれ違い用ランプ12はいわゆるロービーム用である。駆動制御部13は走行用ランプ11とすれ違い用ランプ12を駆動制御(ランプ印加電圧を制御)する。同様に、車両前面右側に設置される右前照灯20は、車両の前方右側を照らすものであり、走行用ランプ21と、すれ違い用ランプ22と、駆動制御部23からなり、走行用ランプ21はいわゆるハイビーム用であり、すれ違い用ランプ22はいわゆるロービーム用である。駆動制御部23は走行用ランプ21とすれ違い用ランプ22を駆動制御(ランプ印加電圧を制御)する。
DESCRIPTION OF EXEMPLARY EMBODIMENTS Hereinafter, an embodiment of the invention will be described with reference to the drawings.
FIG. 1 shows an electrical configuration of the vehicular lighting device according to the present embodiment.
The vehicular lighting device includes a left headlamp 10 and a right headlamp 20. The left headlamp 10 installed on the left side of the front of the vehicle illuminates the front left side of the vehicle, and includes a traveling lamp 11, a passing lamp 12, and a drive control unit 13. The traveling lamp 11 is a so-called high beam lamp. The passing lamp 12 is for a so-called low beam. The drive control unit 13 controls the driving of the traveling lamp 11 and the passing lamp 12 (controls the lamp applied voltage). Similarly, the right headlamp 20 installed on the front right side of the vehicle illuminates the front right side of the vehicle, and includes a travel lamp 21, a passing lamp 22, and a drive control unit 23. The so-called high beam is used, and the passing lamp 22 is a so-called low beam. The drive control unit 23 controls the driving of the traveling lamp 21 and the passing lamp 22 (controls the lamp applied voltage).

車両用照明装置は前照灯制御装置30を具備している。前照灯制御装置30は、配光判断・制御部32とスイブル・レベリング判断部31などから構成されている。
前照灯駆動機構41,42は、光軸を上下方向に調整するレベリング機構や光軸又は前照灯自体を左右方向に可動させることで照射範囲及び方向を可変するスイブル機構から構成され、モータなどにより駆動される。前照灯制御装置30(配光判断・制御部32)を用いて前照灯10,20の駆動制御部13,23を制御して走行用ランプ11,21とすれ違い用ランプ12,22の切替等を行わせることができるようになっている。また、前照灯制御装置30(スイブル・レベリング判断部31)を用いて前照灯駆動機構41,42を制御してレべリング機構による前照灯10,20の光軸の上下調整やスイブル機構による照射範囲及び方向の調整を行わせることができるようになっている。
The vehicle lighting device includes a headlamp control device 30. The headlamp control device 30 includes a light distribution determination / control unit 32 and a swivel / leveling determination unit 31.
The headlight driving mechanisms 41 and 42 are composed of a leveling mechanism that adjusts the optical axis in the vertical direction and a swivel mechanism that changes the irradiation range and direction by moving the optical axis or the headlamp itself in the horizontal direction. It is driven by. Switching between the driving lamps 11 and 21 and the passing lamps 12 and 22 by controlling the drive control units 13 and 23 of the headlamps 10 and 20 using the headlamp control device 30 (light distribution determination / control unit 32). Etc. can be performed. Further, the headlamp control mechanism 30 (swivel / leveling determination unit 31) is used to control the headlamp driving mechanisms 41 and 42 so that the optical axis of the headlamps 10 and 20 is adjusted by the leveling mechanism. The irradiation range and direction can be adjusted by the mechanism.

前照灯制御装置30には、表示器43、車載用車両灯検出装置44、前照灯操作スイッチ45、エンジン始動装置46、ワイパー装置47、車速検出装置48、操舵角検出装置49、車両状態検出装置50、道路情報提供装置(ナビゲーション)51が接続されている。   The headlight control device 30 includes a display 43, a vehicle-mounted vehicle light detection device 44, a headlight operation switch 45, an engine start device 46, a wiper device 47, a vehicle speed detection device 48, a steering angle detection device 49, a vehicle state. A detection device 50 and a road information providing device (navigation) 51 are connected.

表示器43は、現在使用されている前照灯状態を運転者に知らせるもので、インパネなどにインジケータとして配置されている。
車載用車両灯検出装置44は、進行方向である前方視野の車両灯を判断する装置である。詳細は後述する。
The indicator 43 informs the driver of the currently used headlamp state, and is arranged as an indicator on an instrument panel or the like.
The vehicle-mounted vehicle light detection device 44 is a device that determines a vehicle light with a forward visual field that is the traveling direction. Details will be described later.

前照灯操作スイッチ45は、通常ステアリング付近に配置され、運転者が手動で切替操作できるようになっている。操作モードとしては、消灯、すれ違い用、走行用、自動モードから構成され、自動モードに設定された場合に車載用車両灯検出装置44が使用される。   The headlamp operation switch 45 is normally disposed in the vicinity of the steering so that the driver can perform a manual switching operation. The operation mode is composed of a light-off mode, a passing mode, a traveling mode, and an automatic mode. When the automatic mode is set, the vehicle-mounted vehicle light detection device 44 is used.

エンジン始動装置46はエンジン始動の際に始動有無信号を出力する。ワイパー装置47は払拭速度信号を出力する。車速検出装置48は、車速信号を出力する。操舵角検出装置49はステアリングの状態信号を出力し、車両状態検出装置50はヨーレートセンサや傾斜センサなどから構成され、車両の状態信号を出力するものである。道路情報提供装置(ナビゲーション)51は、道路形状などの情報信号を出力する。前照灯制御装置30および車載用車両灯検出装置44はこれらの信号(始動有無信号、払拭速度信号、車速信号、ステアリング状態信号、車両状態信号、ナビ信号等)を取得する。   The engine starter 46 outputs a start / stop signal when starting the engine. The wiper device 47 outputs a wiping speed signal. The vehicle speed detection device 48 outputs a vehicle speed signal. The steering angle detection device 49 outputs a steering state signal, and the vehicle state detection device 50 includes a yaw rate sensor, a tilt sensor, and the like, and outputs a vehicle state signal. The road information providing device (navigation) 51 outputs an information signal such as a road shape. The headlight control device 30 and the vehicle-mounted vehicle light detection device 44 acquire these signals (start / stop signal, wiping speed signal, vehicle speed signal, steering state signal, vehicle state signal, navigation signal, etc.).

図1における車載用車両灯検出装置44についてその具体的構成を図2に示す。
図2において、車載用車両灯検出装置44は画像センサ59とマイコン60から構成されている。画像センサ59は、光学レンズ61、撮像素子62、光学フィルタ63、回路部64から構成されている。撮像素子62には光学フィルタ63が装着されている。この光学フィルタ63を付けた撮像素子62、および、光学レンズ61はルームミラー前部に設置されている。撮像素子62は、CCDまたはCMOSから構成され、光学レンズ61を通して車両前方の進行方向を撮像する。回路部64は、A/D変換回路とタイミング回路を含み、撮像素子62が受光した光を電気情報に変換(A/D変換)する。
A specific configuration of the in-vehicle vehicle light detection device 44 in FIG. 1 is shown in FIG.
In FIG. 2, the vehicle-mounted vehicle light detection device 44 includes an image sensor 59 and a microcomputer 60. The image sensor 59 includes an optical lens 61, an image sensor 62, an optical filter 63, and a circuit unit 64. An optical filter 63 is attached to the image sensor 62. The image sensor 62 with the optical filter 63 and the optical lens 61 are installed in the front part of the room mirror. The image sensor 62 is composed of a CCD or a CMOS, and images the traveling direction ahead of the vehicle through the optical lens 61. The circuit unit 64 includes an A / D conversion circuit and a timing circuit, and converts the light received by the image sensor 62 into electrical information (A / D conversion).

マイコン60は、機能的には、画像入力部65と画像処理部66と演算判定処理部67と駆動制御部68を有している。駆動制御部68は画像センサ59を駆動させる。画像入力部65は、画像センサ59の回路部64によるA/D変換後の画像を取得する。画像処理部66は、A/D変換後の画像を処理して画像を分析する。演算判定処理部67は、自動モードに設定されているときにおいて画像処理後のデータから光源が車両灯、即ち、先行車の尾灯または対向車の前照灯であるか判定して先行車の尾灯または対向車の前照灯を検出し、この結果に基づいて自車の前照灯を制御する。   Functionally, the microcomputer 60 includes an image input unit 65, an image processing unit 66, a calculation determination processing unit 67, and a drive control unit 68. The drive control unit 68 drives the image sensor 59. The image input unit 65 acquires an image after A / D conversion by the circuit unit 64 of the image sensor 59. The image processing unit 66 processes the image after A / D conversion and analyzes the image. The calculation determination processing unit 67 determines whether the light source is a vehicle light, that is, a taillight of a preceding vehicle or a headlight of an oncoming vehicle from data after image processing when the automatic mode is set. Or the headlamp of an oncoming vehicle is detected, and the headlamp of the own vehicle is controlled based on this result.

図2の撮像素子62および光学フィルタ63の詳細を図3に示す。
図3において、(a)は撮像素子の一部を示す平面図であり、(b)は(a)のA−A線での概略縦断面図であり、(c)は(a)のB−B線での概略縦断面図である。
Details of the image sensor 62 and the optical filter 63 of FIG. 2 are shown in FIG.
3A is a plan view showing a part of the image sensor, FIG. 3B is a schematic longitudinal sectional view taken along line AA in FIG. 3A, and FIG. It is a schematic longitudinal cross-sectional view in the -B line.

図3において、基板80の上面に受光素子81が縦横に多数配列されている。受光素子81の上に、赤色光(波長λが630±50nm)を選択的に通過させる赤色フィルタ85が配置されている。他の受光素子81の上に、緑色光(波長λが530±50nm)を選択的に通過させる緑色フィルタ84が配置されている。他の受光素子81の上に、青色光(波長λが430±50nm)を選択的に通過させる青色フィルタ83が配置されている。他の受光素子81の上に、近赤外域の光(波長λが730nm以上の光)を選択的に通過させる近赤外フィルタ82が配置されている。   In FIG. 3, a large number of light receiving elements 81 are arranged vertically and horizontally on the upper surface of a substrate 80. A red filter 85 that selectively transmits red light (wavelength λ is 630 ± 50 nm) is disposed on the light receiving element 81. A green filter 84 that selectively transmits green light (wavelength λ is 530 ± 50 nm) is disposed on another light receiving element 81. A blue filter 83 that selectively transmits blue light (wavelength λ is 430 ± 50 nm) is disposed on another light receiving element 81. On the other light receiving element 81, a near infrared filter 82 that selectively transmits light in the near infrared region (light having a wavelength λ of 730 nm or more) is disposed.

このようにフィルタ付きの撮像素子の配置について、図3(a)の平面構成として、IRで示すごとく近赤外フィルタ付画素、Bで示すごとく青色フィルタ付画素、Gで示すごとく緑色フィルタ付画素、Rで示すごとく赤色フィルタ付画素が配置されている。図3(a)でその配置を説明すると、左上には、近赤外フィルタ付画素(IR)が配置され、その右側に青色フィルタ付画素(B)が、以下順に近赤外フィルタ付画素(IR)と青色フィルタ付画素(B)とが交互に配置されている。図3(a)において上から2列目における配置を説明すると、最も左側には、緑色フィルタ付画素(G)が配置され、その右側に赤色フィルタ付画素(R)が、以下順に緑色フィルタ付画素(G)と赤色フィルタ付画素(R)とが交互に配置されている。図3(a)において上から3列目における配置を説明すると、1列目と同様に、近赤外フィルタ付画素(IR)と青色フィルタ付画素(B)とが交互に配置されている。図3(a)において上から4列目における配置を説明すると、2列目と同様に、緑色フィルタ付画素(G)と赤色フィルタ付画素(R)とが交互に配置されている。以下、同様に配置されている。   In this way, with respect to the arrangement of the image pickup device with a filter, the planar configuration of FIG. 3A is a pixel with a near infrared filter as indicated by IR, a pixel with a blue filter as indicated by B, and a pixel with a green filter as indicated by G. , Pixels with red filter are arranged as indicated by R. The arrangement is described with reference to FIG. 3A. A near-infrared filter-equipped pixel (IR) is arranged on the upper left, and a blue-filter-equipped pixel (B) is arranged on the right side in the following order. IR) and blue filter-equipped pixels (B) are alternately arranged. The arrangement in the second column from the top in FIG. 3A will be described. A pixel with a green filter (G) is arranged on the leftmost side, and a pixel with a red filter (R) is arranged on the right side with a green filter. Pixels (G) and red filter-equipped pixels (R) are alternately arranged. The arrangement in the third column from the top in FIG. 3A will be described. Similarly to the first column, the pixels with near infrared filter (IR) and the pixels with blue filter (B) are alternately arranged. The arrangement in the fourth column from the top in FIG. 3A will be described. Similarly to the second column, the pixels with green filter (G) and the pixels with red filter (R) are alternately arranged. The arrangement is the same in the following.

なお、透過帯域が異なる4種のバンドパスフィルタ(光学フィルタ)について、4種の通過帯域は車両灯、照明類の分光特性、視感度を考慮して選定されている。また、種類は限定されるものではなく4種類以上でも3種類でもよい。   For the four types of band-pass filters (optical filters) having different transmission bands, the four types of pass bands are selected in consideration of the spectral characteristics and visibility of vehicle lights and lighting. Further, the types are not limited, and may be four or more types or three types.

このようにして、画像センサ59は、画素が配列された撮像素子62を有し、車両前方の進行方向を撮像し、かつ、撮像素子62には、画素配列上に、通過させる波長域(透過帯域)が異なる4種類の光学フィルタ82〜85、広義には、少なくとも三種類の光学フィルタが配列されている。この光学フィルタの透過帯域の設定は、車両灯と他光源の分光特性を考慮して行われ、詳しくは、少なくとも三種類の光学フィルタ(82〜85)が通過させる光は、青色光および緑色光および赤色光および近赤外光の少なくとも3つである。   In this way, the image sensor 59 has the imaging element 62 in which pixels are arranged, images the traveling direction in front of the vehicle, and allows the imaging element 62 to pass through a wavelength range (transmission) on the pixel arrangement. 4 types of optical filters 82 to 85 having different bands), and in a broad sense, at least three types of optical filters are arranged. The transmission band of the optical filter is set in consideration of the spectral characteristics of the vehicle light and other light sources. Specifically, the light transmitted through at least three types of optical filters (82 to 85) is blue light and green light. And at least three of red light and near infrared light.

ここで、図8の画像例を説明する。
図8は車載用車両灯検出装置44(画像センサ59等)の搭載位置をルームミラー前部(フロントウィンドシールド側)にした時の画像例である。
Here, the image example of FIG. 8 is demonstrated.
FIG. 8 is an example of an image when the vehicle-mounted vehicle light detection device 44 (image sensor 59 or the like) is mounted at the front of the rear mirror (front windshield side).

図8において、光源として、車両灯(対向車94の前照灯94a、先行車93の尾灯93a)が存在している。対向車94の前照灯94aは白色灯であり、ハロゲンランプ等が使用されている。また、先行車93の尾灯93aは赤色灯である。なお、図8において、符号95は画像における道路の消失点である。   In FIG. 8, there are vehicle lights (a headlamp 94a of the oncoming vehicle 94 and a taillamp 93a of the preceding vehicle 93) as light sources. The headlamp 94a of the oncoming vehicle 94 is a white lamp, and a halogen lamp or the like is used. The tail lamp 93a of the preceding vehicle 93 is a red lamp. In FIG. 8, reference numeral 95 denotes a vanishing point of the road in the image.

次に、車両用照明装置の作用について説明する。
図2のマイコン60から画像センサ59を起動させる信号が出力され、画像センサ59により進行方向である前方の画像が撮像され、この画像について画像処理部66において画像処理が行われるとともに演算判定処理部67において周囲車両における車両灯の検出、および自車の前照灯の制御処理が行われる。この処理を図4,5,6に示すフローに従って説明する。
Next, the operation of the vehicle lighting device will be described.
A signal for starting the image sensor 59 is output from the microcomputer 60 of FIG. 2, and a forward image in the traveling direction is captured by the image sensor 59. Image processing is performed on the image in the image processing unit 66 and an arithmetic determination processing unit In 67, detection of vehicle lights in the surrounding vehicles and control processing of the headlights of the own vehicle are performed. This process will be described according to the flow shown in FIGS.

図4において、マイコン60はステップ100で画像を取り込む。そして、マイコン60はステップ101において、画像センサ59で撮像された画像データを基に各画素の階調値を演算する。担当する色(波長域)以外の階調値(例えば、赤色フィルタ付画素における青色についての階調値、緑色についての階調値等)は周辺の画素での階調値から、例えば隣接する画素間の階調比等から算出する。つまり、撮像素子62での該当する画素に対する周辺の画素での階調値から、該当する画素で検出する波長域の光に対する他の波長域の光についての該当する画素での階調値を算出する。   In FIG. 4, the microcomputer 60 captures an image in step 100. In step 101, the microcomputer 60 calculates the gradation value of each pixel based on the image data captured by the image sensor 59. Tone values other than the color (wavelength range) in charge (for example, the tone value for blue and the tone value for green in the pixel with the red filter) are determined from the tone values of the surrounding pixels, for example, adjacent pixels. It is calculated from the gradation ratio between them. In other words, the gradation value at the corresponding pixel for light in the other wavelength region relative to the light in the wavelength region detected by the corresponding pixel is calculated from the gradation value at the surrounding pixel with respect to the corresponding pixel in the image sensor 62. To do.

具体的には、図7に示すように、符号R22に示すごとく赤色フィルタ付画素において当該画素における他階調の演算として、周辺画素としての上下の青色フィルタ付画素の出力(階調値B12,B32)より、相加平均(=(B12+B32)/2)にて青色フィルタを付けたと仮定した時の階調値B22を算出する。また、符号R22に示すごとく赤色フィルタ付画素において当該画素における他階調の演算として、周辺画素としての左右の緑色フィルタ付画素の出力(階調値G21,G23)より、相加平均(=(G21+G23)/2)にて緑色フィルタを付けたと仮定した時の階調値G22を算出する。   Specifically, as shown in FIG. 7, in the pixel with a red filter, as shown by reference numeral R22, as an operation of other gradations in the pixel, the outputs (tone values B12, From B32), a gradation value B22 is calculated when it is assumed that a blue filter is attached with an arithmetic average (= (B12 + B32) / 2). In addition, as indicated by reference numeral R22, in the pixel with a red filter, as an operation of other gradations in the pixel, an arithmetic average (= () is obtained from outputs (tone values G21 and G23) of the left and right green filter pixels as peripheral pixels. The gradation value G22 when it is assumed that the green filter is attached in G21 + G23) / 2) is calculated.

また、図7に示すように、符号G43に示すごとく緑色フィルタ付画素において当該画素における他階調の演算として、周辺画素としての斜め方向に隣接して位置する青色フィルタ付画素の階調値B32,B34,B52,B54より、相加平均(=(B32+B34+B52+B54)/4)にて青色フィルタを付けたと仮定した時の階調値B43を算出する。また、符号G43に示すごとく緑色フィルタ付画素において当該画素における他階調の演算として、周辺画素としての左右に位置する赤色フィルタ付画素の階調値R42,R44より、相加平均(=(R42+R44)/2)にて赤色フィルタを付けたと仮定した時の階調値R43を算出する。   Further, as shown in FIG. 7, as indicated by reference numeral G <b> 43, the gradation value B <b> 32 of the blue filter pixel located adjacent to the diagonal direction as the peripheral pixel is calculated as another gradation in the pixel with the green filter. , B34, B52, and B54, a gradation value B43 is calculated when it is assumed that a blue filter is attached with an arithmetic average (= (B32 + B34 + B52 + B54) / 4). Further, as indicated by reference numeral G43, in the pixel with the green filter, as an operation of other gradations in the pixel, an arithmetic average (= (R42 + R44) is obtained from the gradation values R42 and R44 of the pixels with the red filter located on the left and right as the peripheral pixels. ) / 2), the gradation value R43 when the red filter is assumed is calculated.

さらに、マイコン60は図4のステップ101において、撮像素子62での各々の画素について、該当する画素で検出する階調値、および、上述したように算出した階調値から、該当する画素での輝度を算出する。具体的には、各画素の輝度(明るさ)Yを次式にて算出する。   Further, in step 101 of FIG. 4, the microcomputer 60 determines, for each pixel in the image sensor 62, the gradation value detected by the corresponding pixel and the gradation value calculated as described above, at the corresponding pixel. Calculate the brightness. Specifically, the luminance (brightness) Y of each pixel is calculated by the following equation.

Y=0.299×R+0.587×G+0.114×B
ただし、Rは赤色についての階調値、Gは緑色についての階調値、Bは青色についての階調値である。
Y = 0.299 × R + 0.587 × G + 0.114 × B
Here, R is a gradation value for red, G is a gradation value for green, and B is a gradation value for blue.

次に、マイコン60は図4のステップ102において、各画素の階調値から求めた輝度Yが、予め定めた光源抽出用閾値よりも大きいか否か判定する。その結果、各画素の階調値から求めた輝度Yが閾値より小さいと、マイコン60はステップ103に移行して光源はない若しくは外乱であると判定する。   Next, in step 102 of FIG. 4, the microcomputer 60 determines whether or not the luminance Y obtained from the gradation value of each pixel is greater than a predetermined light source extraction threshold. As a result, when the luminance Y obtained from the gradation value of each pixel is smaller than the threshold, the microcomputer 60 proceeds to step 103 and determines that there is no light source or disturbance.

一方、ステップ102において各画素の階調値から求めた輝度Yが閾値より大きいと、マイコン60は光源候補が抽出されたと判断する(光源の候補であると判定する)。このようにして図9に示すように、画像中において光源候補(図8における対向車94の前照灯94a、先行車93の尾灯93a)が抽出される。   On the other hand, if the luminance Y obtained from the gradation value of each pixel in step 102 is larger than the threshold value, the microcomputer 60 determines that a light source candidate has been extracted (determines that it is a light source candidate). In this way, as shown in FIG. 9, light source candidates (the headlamp 94a of the oncoming vehicle 94 and the taillamp 93a of the preceding vehicle 93 in FIG. 8) are extracted from the image.

光源候補が抽出されると、マイコン60は図4のステップ104,105を実行して抽出された光源候補の平均輝度を算出し、この光源候補の平均輝度を、車両灯検出用第1閾値および第2閾値と比較する。ここで、マイコン60はステップ104において光源候補の平均輝度が第1閾値よりも小さいと、ステップ105で光源候補の平均輝度を第2閾値と比較する。   When the light source candidates are extracted, the microcomputer 60 executes steps 104 and 105 in FIG. 4 to calculate the average luminance of the extracted light source candidates, and uses the average luminance of the light source candidates as the first threshold value for vehicle light detection and Compare with the second threshold. If the average luminance of the light source candidate is smaller than the first threshold value in step 104, the microcomputer 60 compares the average luminance of the light source candidate with the second threshold value in step 105.

ステップ104において光源候補の平均輝度が第1閾値よりも大きいと、マイコン60は車両灯の候補光源、特に、前照灯若しくは近距離の尾灯である可能性が高いとして、ステップ106に移行する。また、ステップ105で光源候補の平均輝度が第2閾値よりも小さいと、マイコン60はステップ103に移行して光源はない若しくは外乱であると判定する。   If the average luminance of the light source candidates is greater than the first threshold value in step 104, the microcomputer 60 proceeds to step 106 assuming that there is a high possibility that the light source candidate light source is a vehicle light candidate light source, particularly a headlight or a short-distance taillight. If the average luminance of the light source candidates is smaller than the second threshold value in step 105, the microcomputer 60 proceeds to step 103 and determines that there is no light source or there is a disturbance.

ステップ106において、マイコン60は、候補として抽出された各光源の輝度(階調値)を前照灯判定値(白らしさ値)と比較して、光源の輝度が前照灯判定値よりも大きいと、マイコン60は光源候補として前照灯が抽出されたと判断してステップ107に移行して、抽出された候補について波長域の判定を行う。つまり、マイコン60はステップ107において画像センサ59の撮像素子62における光学フィルタ82〜85を付けた画素の階調値の変化傾向が対向車の前照灯と同じ傾向を示すか判定する(4個の階調値から各波長域の変化傾向を分析し、前照灯変化傾向と比較し、同じ傾向を示すか判定する)。具体的には、例えば、B<G<R<IRを満たすと、前照灯(ハロゲン灯)と推定する。ただし、Bは青色フィルタ付画素での階調値、Gは緑色フィルタ付画素での階調値、Rは赤色フィルタ付画素での階調値、IRは近赤外フィルタ付画素での階調値である。つまり、青色フィルタ付画素の階調値(B)、緑色フィルタ付画素の階調値(G)、赤色フィルタ付画素の階調値(R)、近赤外フィルタ付画素の階調値(IR)の順に大きいと、前照灯(ハロゲン灯)と推定する。その結果、光源の色(波長域)から前照灯が光源候補として抽出される。なお、変化傾向は車両灯の分光(発光)特性、撮像素子の分光感度特性やフィルタの分光透過特性などを考慮して選定されるものである。   In step 106, the microcomputer 60 compares the luminance (gradation value) of each light source extracted as a candidate with the headlamp determination value (whiteness value), and the luminance of the light source is larger than the headlamp determination value. Then, the microcomputer 60 determines that the headlamp has been extracted as a light source candidate, proceeds to step 107, and determines the wavelength range of the extracted candidate. That is, in step 107, the microcomputer 60 determines whether the change tendency of the gradation value of the pixel attached with the optical filters 82 to 85 in the image sensor 62 of the image sensor 59 shows the same tendency as the headlight of the oncoming vehicle (four pieces). The change tendency of each wavelength region is analyzed from the gradation value of the, and compared with the change tendency of the headlight, it is determined whether the same tendency is exhibited). Specifically, for example, when B <G <R <IR is satisfied, a headlamp (halogen lamp) is estimated. However, B is a gradation value in a pixel with a blue filter, G is a gradation value in a pixel with a green filter, R is a gradation value in a pixel with a red filter, and IR is a gradation value in a pixel with a near-infrared filter. Value. That is, the gradation value (B) of the pixel with blue filter, the gradation value (G) of the pixel with green filter, the gradation value (R) of the pixel with red filter, and the gradation value (IR) of the pixel with near infrared filter ) In order, it is estimated to be a headlamp (halogen lamp). As a result, the headlamp is extracted as a light source candidate from the color (wavelength range) of the light source. The change tendency is selected in consideration of the spectral (light emission) characteristics of the vehicle light, the spectral sensitivity characteristics of the image sensor, the spectral transmission characteristics of the filter, and the like.

そして、図4のステップ107において、撮像素子62における光学フィルタ82〜85を付けた画素の階調値の変化傾向が対向車の前照灯と同じ傾向を示すと(例えば、B<G<R<IRを満たすと)、マイコン60は図5の処理を実行する。   Then, in step 107 of FIG. 4, when the change tendency of the gradation value of the pixel with the optical filters 82 to 85 in the image sensor 62 shows the same tendency as the headlight of the oncoming vehicle (for example, B <G <R When <IR is satisfied), the microcomputer 60 executes the process of FIG.

一方、図4のステップ105において、光源の輝度が第2閾値よりも大きいと、マイコン60はステップ112に移行して光源の輝度(階調値)を尾灯判定値(赤らしさ値)と比較する。その結果、光源の輝度が尾灯判定値よりも大きいと、マイコン60は光源候補として尾灯が抽出されたと判断してステップ113に移行して、抽出された候補について波長域の判定を行う。つまり、マイコン60はステップ113において画像センサ59の撮像素子62における光学フィルタ82〜85を付けた画素の階調値の変化傾向が先行車の尾灯と同じ傾向を示すか判定する(4個の階調値から各波長域の変化傾向を分析し、尾灯変化傾向と比較し、同じ傾向を示すか判定する)。具体的には、例えば、B≒0かつG<Rを満たすと、尾灯(赤色灯)と推定する。ただし、Bは青色フィルタ付画素での階調値、Gは緑色フィルタ付画素での階調値、Rは赤色フィルタ付画素での階調値である。つまり、青色フィルタ付画素の階調値(B)がほぼ「0」であり、かつ、緑色フィルタ付画素の階調値(G)よりも赤色フィルタ付画素の階調値(R)が大きいと、尾灯(赤色灯)と推定する。その結果、光源の色(波長域)から尾灯が光源候補として抽出される。   On the other hand, if the luminance of the light source is greater than the second threshold value in step 105 of FIG. 4, the microcomputer 60 proceeds to step 112 and compares the luminance (gradation value) of the light source with the taillight determination value (redness value). . As a result, if the luminance of the light source is greater than the taillight determination value, the microcomputer 60 determines that the taillight has been extracted as a light source candidate, proceeds to step 113, and determines the wavelength range of the extracted candidate. That is, in step 113, the microcomputer 60 determines whether the change tendency of the gradation value of the pixel attached with the optical filters 82 to 85 in the image sensor 62 of the image sensor 59 shows the same tendency as the taillight of the preceding vehicle (four floors). Analyzing the change tendency of each wavelength range from the tone value and comparing it with the tail lamp change tendency, it is determined whether the same tendency is shown). Specifically, for example, when B≈0 and G <R are satisfied, a taillight (red light) is estimated. However, B is a gradation value in a pixel with a blue filter, G is a gradation value in a pixel with a green filter, and R is a gradation value in a pixel with a red filter. That is, when the gradation value (B) of the pixel with the blue filter is substantially “0” and the gradation value (R) of the pixel with the red filter is larger than the gradation value (G) of the pixel with the green filter. Estimated as a taillight (red light). As a result, the taillight is extracted as a light source candidate from the color (wavelength range) of the light source.

そして、図4のステップ113において、撮像素子62における光学フィルタ82〜85を付けた画素の階調値の変化傾向が先行車の尾灯と同じ傾向を示すと(例えば、B≒0かつG<Rを満たすと)、マイコン60は図6の処理を実行する。   Then, in step 113 of FIG. 4, when the change tendency of the gradation value of the pixel to which the optical filters 82 to 85 are attached in the image sensor 62 shows the same tendency as the taillight of the preceding vehicle (for example, B≈0 and G <R If the condition is satisfied, the microcomputer 60 executes the process of FIG.

図5,6の処理の概略を説明すると、ステップ108,109,111,114,115,117において、同じ特徴を示す周辺の光源から対称性(車両灯は一般的に左右一対)を抽出し、さらに、複数の連続する画像から光源を追跡して移動方向と量の判定を行い、車両灯を判定する。つまり、候補と判定された光源の位置関係(左右に一対かどうかを指し、通常車両灯は左右一対である)、移動方向及び量を判定して、想定される車両灯の位置、移動方向及び量と一致するならば車両灯と判定する。   5 and 6, in steps 108, 109, 111, 114, 115 and 117, the symmetry (vehicle lights are generally a pair of left and right) is extracted from the surrounding light sources showing the same characteristics, Further, the vehicle light is determined by tracking the light source from a plurality of consecutive images and determining the direction and amount of movement. That is, the positional relationship between the light sources determined as candidates (refers to whether or not there is a pair on the left and right, and the normal vehicle lights are a pair on the left and right), the moving direction and the amount are determined, If it matches the amount, it is determined as a vehicle light.

詳しくは、マイコン60は図5のステップ108において候補とされた光源について位置関係として左右に一対かつ光源に対称性があるか否か判定して対称性があるとステップ109において光源の移動方向及び移動量が想定した値に近いか否か判定する。その結果、光源の移動方向及び移動量が想定した値に近いと、マイコン60はステップ110において光源が対向車の前照灯であると判定する。これにより対向車の前照灯が検出される。一方、ステップ108において光源の対称性がないと、マイコン60はステップ111に移行して光源の移動方向及び移動量が想定した値に近いか否か判定する。その結果、光源の移動方向及び移動量が想定した値に近いと、マイコン60はステップ110において光源が対向車の前照灯であると判定する。ステップ109およびステップ111において光源の移動方向及び移動量が想定した値に近くないと、マイコン60は図4のステップ103に移行して光源はない若しくは外乱であると判定する。   Specifically, the microcomputer 60 determines whether or not the light source selected in step 108 in FIG. 5 has a pair of right and left as a positional relationship and the light source is symmetric. It is determined whether or not the movement amount is close to the assumed value. As a result, if the moving direction and moving amount of the light source are close to the assumed values, the microcomputer 60 determines in step 110 that the light source is the headlight of the oncoming vehicle. Thereby, the headlamp of the oncoming vehicle is detected. On the other hand, if there is no symmetry of the light source in step 108, the microcomputer 60 proceeds to step 111 and determines whether or not the moving direction and moving amount of the light source are close to the assumed values. As a result, if the moving direction and moving amount of the light source are close to the assumed values, the microcomputer 60 determines in step 110 that the light source is the headlight of the oncoming vehicle. If the moving direction and moving amount of the light source are not close to the values assumed in steps 109 and 111, the microcomputer 60 proceeds to step 103 in FIG. 4 and determines that there is no light source or a disturbance.

また、マイコン60は図6のステップ114において、候補とされた光源について位置関係として左右に一対かつ対称性があるか否か判定して対称性があるとステップ115において光源の移動方向及び移動量が想定した値に近いか否か判定する。その結果、光源の移動方向及び移動量が想定した値に近いと、マイコン60はステップ116において光源が先行車の尾灯であると判定する。これにより先行車の尾灯が検出される。一方、ステップ114において光源の対称性がないと、マイコン60はステップ117に移行して光源の移動方向及び移動量が想定した値に近いか否か判定する。その結果、光源の移動方向及び移動量が想定した値に近いと、マイコン60はステップ116において光源が先行車の尾灯であると判定する。ステップ115およびステップ117において光源の移動方向及び移動量が想定した値に近くないと、マイコン60は図4のステップ103に移行して光源はない若しくは外乱であると判定する。   Further, in step 114 of FIG. 6, the microcomputer 60 determines whether or not there is a pair of left and right symmetry as a positional relationship with respect to the candidate light source, and if there is symmetry, the moving direction and amount of movement of the light source in step 115. Is determined to be close to the assumed value. As a result, if the moving direction and moving amount of the light source are close to the assumed values, the microcomputer 60 determines in step 116 that the light source is the taillight of the preceding vehicle. As a result, the taillight of the preceding vehicle is detected. On the other hand, if there is no symmetry of the light source in step 114, the microcomputer 60 proceeds to step 117 and determines whether or not the moving direction and moving amount of the light source are close to the assumed values. As a result, if the moving direction and moving amount of the light source are close to the assumed values, the microcomputer 60 determines in step 116 that the light source is the taillight of the preceding vehicle. If the moving direction and amount of the light source are not close to the values assumed in steps 115 and 117, the microcomputer 60 proceeds to step 103 in FIG. 4 and determines that there is no light source or a disturbance.

なお、マイコン60は図5,6において位置関係(対称性)や移動量の判定を行う際に、他の車両信号(図1の車速検出装置48による車速、操舵角検出装置49による操舵角、車両状態検出装置50による傾斜角)も取り込んで判定を行うようにしてもよい。   When the microcomputer 60 determines the positional relationship (symmetry) or the movement amount in FIGS. 5 and 6, other vehicle signals (the vehicle speed by the vehicle speed detection device 48 in FIG. 1, the steering angle by the steering angle detection device 49, The inclination may also be taken in by the vehicle state detection device 50).

図4のステップ106において光源の輝度が前照灯判定値よりも小さい場合やステップ107において画素の階調値の変化傾向が前照灯の傾向を示さない場合には、マイコン60はステップ112に移行して、各光源の輝度(階調値)を尾灯値(赤らしさ)と比較して尾灯であるか否かの判定処理を行う。また、ステップ112において光源の輝度が尾灯判定値よりも小さい場合やステップ113において画素の階調値の変化傾向が尾灯の傾向を示さない場合には、マイコン60はステップ103に移行して光源はない若しくは外乱であると判定する。   If the brightness of the light source is smaller than the headlamp determination value in step 106 of FIG. 4 or if the change in the gradation value of the pixel does not indicate the tendency of the headlamp in step 107, the microcomputer 60 proceeds to step 112. Then, the brightness (gradation value) of each light source is compared with the taillight value (redness) to determine whether the light source is a taillight. When the luminance of the light source is smaller than the taillight determination value at step 112 or when the change tendency of the gradation value of the pixel does not indicate the tendency of the taillight at step 113, the microcomputer 60 proceeds to step 103 and the light source is It is determined that there is no disturbance.

なお、図4のステップ104,105での閾値は光源サイズや座標位置等を反映したものとしてもよい(例えば、閾値=定数×サイズ)。また、画素毎に別の閾値と比較し、閾値以上となる画素数を算出し、画素数が判定値以上ならば光源候補として抽出してもよい。この場合、判定値に光源のサイズ、位置等を反映するとよい。   Note that the threshold values in steps 104 and 105 in FIG. 4 may reflect the light source size, coordinate position, and the like (for example, threshold = constant × size). Alternatively, each pixel may be compared with another threshold value to calculate the number of pixels that are equal to or greater than the threshold value, and may be extracted as a light source candidate if the number of pixels is equal to or greater than the determination value. In this case, the size and position of the light source may be reflected in the determination value.

また、図5,6のステップ109,111,115,117において、左右の対称性を有する光源について、連続する画像にて移動方向および移動量を判定したが、連続する画像にて移動方向および移動量の少なくとも一方を判定すればよい。   Further, in steps 109, 111, 115, and 117 of FIGS. 5 and 6, the movement direction and movement amount of the light source having left and right symmetry are determined from the continuous images. However, the movement direction and movement are determined from the continuous images. What is necessary is just to determine at least one of quantity.

マイコン60は、自車両の前方に他の車両(前照灯、尾灯)が有ると判定すると、図2に示すようにすれ違いモード信号を出力する。この信号により図1の前照灯制御装置30を介してすれ違い用前照灯による照射が行われる(ロービームにされる)。また、マイコン60は、他の車両(前照灯、尾灯)が無いと判定すると、図2に示すように走行モード信号を出力する。この信号により図1の前照灯制御装置30を介して走行用前照灯による照射が行われる(ハイビームにされる)。   If the microcomputer 60 determines that there is another vehicle (headlight, taillight) ahead of the host vehicle, the microcomputer 60 outputs a passing mode signal as shown in FIG. With this signal, irradiation with a passing headlamp is performed via the headlamp control device 30 in FIG. If the microcomputer 60 determines that there is no other vehicle (headlight, taillight), it outputs a travel mode signal as shown in FIG. With this signal, irradiation with the traveling headlamp is performed via the headlamp control device 30 in FIG. 1 (the beam is turned into a high beam).

このようにして、自車両の前照灯を最適に制御することでドライバーの視認性を向上させることができ、例えば、街灯等が少ない環境では走行用前照灯を使用し、また、他車への眩惑防止として、先行・対向車が存在する場合にはすれ違い用前照灯を使用する。   In this way, the visibility of the driver can be improved by optimally controlling the headlamp of the host vehicle. For example, the driving headlamp is used in an environment where there are few street lights, etc. To prevent dazzling, use a headlight for passing when there is a preceding or oncoming vehicle.

なお、前照灯10,20の切替を制御したが、前照灯10,20の配光を制御してよい。あるいは、前照灯10,20の切替の制御と配光の制御の両方を行なってもよい。即ち、他の車両の有無の判定結果により車両の前照灯10,20の切替および配光の少なくとも一方を制御する。ここで、車両の前照灯10,20の切替および配光の少なくとも一方を制御する際の「前照灯の切替」とは、すれ違い用前照灯と走行用前照灯を切替えることであり、「配光」とは、照射する光の光軸を変化させて照射距離・方向を変えることや照射量を調整(調光)することである。これらは、近年導入されている可変配光機構(AFS;Adaptive Front−Lighting System)や光軸調整機構(オートレベリング)を用いて行うことができる。   In addition, although switching of the headlamps 10 and 20 was controlled, the light distribution of the headlamps 10 and 20 may be controlled. Alternatively, both switching control of the headlamps 10 and 20 and light distribution control may be performed. That is, at least one of switching of the headlamps 10 and 20 and light distribution of the vehicle is controlled based on the determination result of the presence or absence of another vehicle. Here, “switching of the headlamps” when controlling at least one of switching and light distribution of the vehicle headlamps 10 and 20 is switching between the headlamp for passing and the headlamp for traveling. “Light distribution” is to change the irradiation distance and direction by changing the optical axis of the irradiated light and to adjust (dimming) the irradiation amount. These can be performed by using a variable light distribution mechanism (AFS; Adaptive Front-Lighting System) or an optical axis adjustment mechanism (auto-leveling) introduced in recent years.

マイコン60は、車両の前照灯10,20の切替および配光の少なくとも一方を制御する際に、その制御速度(切替速度や配光速度)を自車の車両走行情報(車速、操舵角、ヨーレート、車両の傾斜等)に基づいて変更するようにしてもよい。具体的には、車速検出装置48、操舵角検出装置49、車両状態検出装置50等からの車両状態を示す情報を用いて、前照灯が切替るまでの時間を可変にしてもよく、例えば、高速で走行している場合にはすばやく切替え、また、カーブなどを走行している場合には緩やかに切替えるようにする。こうすると、車両の前照灯の制御速度についての最適化を図る上で好ましいものとなる。   When the microcomputer 60 controls at least one of switching and light distribution of the headlamps 10 and 20 of the vehicle, the microcomputer 60 sets the control speed (switching speed and light distribution speed) of the vehicle traveling information (vehicle speed, steering angle, You may make it change based on a yaw rate, the inclination of a vehicle, etc.). Specifically, using the information indicating the vehicle state from the vehicle speed detection device 48, the steering angle detection device 49, the vehicle state detection device 50, etc., the time until the headlamp is switched may be made variable. When the vehicle is traveling at high speed, the switching is performed quickly, and when the vehicle is traveling along a curve, the switching is performed slowly. This is preferable in optimizing the control speed of the vehicle headlamp.

また、車載用車両灯検出装置44のマイコン60は、図9に示すように、撮像された画像データの任意範囲Z1(路面範囲となる下部位置)の輝度値から路面の明るさを判定し、判定された明るさに応じて前照灯制御装置30を介して前照灯の配光を制御する。この輝度値からの路面の明るさ判定においては、視感度補正(G>B≒R階調値)と自車両前照灯の特性(予め設定する)を考慮した判定がなされる。   Further, as shown in FIG. 9, the microcomputer 60 of the in-vehicle vehicle light detection device 44 determines the brightness of the road surface from the luminance value of the arbitrary range Z1 (lower position as the road surface range) of the captured image data, The light distribution of the headlamp is controlled via the headlamp control device 30 according to the determined brightness. In determining the brightness of the road surface from this luminance value, determination is made in consideration of the visibility correction (G> B≈R gradation value) and the characteristics (preset) of the vehicle headlamp.

上記実施形態によれば、以下のような効果を得ることができる。
(1)車載用車両灯検出装置として、マイコン60を備え、車両灯検出手段としてのマイコン60は、画像センサ59により取得した画像を処理し、光源が先行車の尾灯または対向車の前照灯であるか判定して先行車の尾灯または対向車の前照灯を検出する際に、図4のステップ107,113において、画像センサ59の撮像素子62における少なくとも三種類の光学フィルタ82〜85を付けた画素の階調値の変化傾向が先行車の尾灯または対向車の前照灯と同じ傾向を示すか判定する階調値変化傾向判定機能を有する。この機能により光源が先行車の尾灯または対向車の前照灯であるか判定されて先行車の尾灯または対向車の前照灯が検出される。よって、光源としての車両灯とその他の光源の分光特性を考慮して高精度に車両灯、即ち、先行車の尾灯または対向車の前照灯を検出することができる。
According to the above embodiment, the following effects can be obtained.
(1) A microcomputer 60 is provided as an in-vehicle vehicle light detection device, and the microcomputer 60 as vehicle light detection means processes an image acquired by the image sensor 59, and a light source is a taillight of a preceding vehicle or a headlight of an oncoming vehicle. In step 107 and 113 in FIG. 4, at least three types of optical filters 82 to 85 in the image sensor 62 of the image sensor 59 are detected. It has a gradation value change tendency determination function for determining whether the change tendency of the gradation value of the attached pixel shows the same tendency as the taillight of the preceding vehicle or the headlight of the oncoming vehicle. With this function, it is determined whether the light source is the taillight of the preceding vehicle or the headlight of the oncoming vehicle, and the taillight of the preceding vehicle or the headlight of the oncoming vehicle is detected. Therefore, it is possible to detect the vehicle light, that is, the tail light of the preceding vehicle or the headlight of the oncoming vehicle with high accuracy in consideration of the spectral characteristics of the vehicle light as the light source and other light sources.

(2)車両灯検出手段としてのマイコン60は、上述の(1)での階調値変化傾向判定機能による処理に先立つ処理機能として、図4のステップ101において図7を用いて説明したごとく撮像素子62での該当する画素に対する周辺の画素での階調値から、該当する画素で検出する波長域の光に対する他の波長域の光についての該当する画素での階調値を算出する他波長域光階調値算出機能と、同じく図4のステップ101において撮像素子62での各々の画素について、該当する画素で検出する階調値、および、他波長域光階調値算出機能により算出した階調値から、該当する画素での輝度を算出する輝度算出機能と、図4のステップ102において撮像素子62での各画素における輝度算出機能による輝度が閾値よりも大きいか否か判定し、大きいと光源の候補であると判定する光源候補判定機能と、を更に有する。これによって、より車両灯の検出性に優れたものとなる。   (2) The microcomputer 60 as the vehicle light detection means performs imaging as described in FIG. 7 in step 101 of FIG. 4 as a processing function prior to the processing by the gradation value change tendency determination function in (1) described above. The other wavelength for calculating the gradation value in the corresponding pixel for the light in the other wavelength region relative to the light in the wavelength region detected by the corresponding pixel from the gradation value in the surrounding pixel with respect to the corresponding pixel in the element 62 In the same way as in step 101 of FIG. 4, the pixel value in the image sensor 62 is calculated by the tone value detected by the corresponding pixel and the other wavelength range light tone value calculation function. It is determined whether the luminance by the luminance calculation function for calculating the luminance at the corresponding pixel from the gradation value and the luminance calculation function at each pixel in the image sensor 62 in step 102 in FIG. And further has a large and a light source candidate determining function determines that a candidate of the light source, the. Thereby, it becomes more excellent in the detection property of a vehicle light.

(3)車両灯検出手段としてのマイコン60は、図5,6のステップ108,114において、図4のステップ107,113により同じ傾向を示すと判定した光源が左右の対称性を有するか判定する対称性判定機能を更に有する。これによって、より車両灯の検出性に優れたものとなる。   (3) The microcomputer 60 as the vehicle light detection means determines whether the light source determined to show the same tendency in steps 107 and 113 in FIG. 4 has left-right symmetry in steps 108 and 114 in FIGS. It further has a symmetry determination function. Thereby, it becomes more excellent in the detection property of a vehicle light.

(4)マイコン60は、図5,6のステップ109,111,115,117において、ステップ108,114により左右の対称性を有すると判定した光源について、連続する画像にて移動方向および移動量の少なくとも一方から先行車の尾灯または対向車の前照灯か判定する追跡機能を更に有する。これによって、より車両灯の検出性に優れたものとなる。   (4) The microcomputer 60 determines the moving direction and moving amount of the light source determined to have left / right symmetry in steps 109, 111, 115, and 117 in FIGS. It further has a tracking function for determining whether the tail light of the preceding vehicle or the headlight of the oncoming vehicle is at least one. Thereby, it becomes more excellent in the detection property of a vehicle light.

(5)車両用照明装置として、上述の車載用車両灯検出装置を具備し、前照灯制御手段としてのマイコン60は車両灯検出手段(60)による車両灯(先行車の尾灯または対向車の前照灯)の検出結果に基づいて車両の前照灯10,20の切替および配光の少なくとも一方を制御する。これにより、車両の前照灯10,20を自動で制御することができる。   (5) The vehicle lighting device described above is provided as the vehicle lighting device, and the microcomputer 60 serving as the headlight control means includes a vehicle light (a taillight of a preceding vehicle or an oncoming vehicle). Based on the detection result of the headlight), at least one of switching and light distribution of the headlights 10 and 20 of the vehicle is controlled. Thereby, the headlamps 10 and 20 of the vehicle can be automatically controlled.

本実施形態における車両用照明装置の電気的構成図。The electrical block diagram of the illuminating device for vehicles in this embodiment. 車載用車両灯検出装置の電気的構成図。The electrical block diagram of the vehicle-mounted vehicle light detection apparatus. (a)は撮像素子の平面図、(b)は(a)のA−A線での概略縦断面図、(c)は(a)のB−B線での概略縦断面図。(A) is a top view of an image pick-up element, (b) is a schematic longitudinal cross-sectional view in the AA line of (a), (c) is a schematic longitudinal cross-sectional view in the BB line of (a). 作用を説明するためのフローチャート。The flowchart for demonstrating an effect | action. 作用を説明するためのフローチャート。The flowchart for demonstrating an effect | action. 作用を説明するためのフローチャート。The flowchart for demonstrating an effect | action. 撮像素子の平面図。The top view of an image sensor. 模式的な説明画像図。FIG. 光源候補を抽出した画像図。The image figure which extracted the light source candidate. 画素配置を説明するための平面図。The top view for demonstrating pixel arrangement | positioning. 画素配置を説明するための平面図。The top view for demonstrating pixel arrangement | positioning. 画素配置を説明するための平面図。The top view for demonstrating pixel arrangement | positioning. 画素配置を説明するための平面図。The top view for demonstrating pixel arrangement | positioning.

符号の説明Explanation of symbols

10…前照灯、20…前照灯、44…車載用車両灯検出装置、59…画像センサ、60…マイコン、62…撮像素子、82…近赤外フィルタ、83…青色フィルタ、84…緑色フィルタ、85…赤色フィルタ。   DESCRIPTION OF SYMBOLS 10 ... Headlamp, 20 ... Headlamp, 44 ... Vehicle-mounted vehicle light detection apparatus, 59 ... Image sensor, 60 ... Microcomputer, 62 ... Image sensor, 82 ... Near-infrared filter, 83 ... Blue filter, 84 ... Green Filter, 85 ... red filter.

Claims (4)

画素が配列された撮像素子(62)を有し、車両前方の進行方向を撮像する画像センサ(59)と、
前記画像センサ(59)により取得した画像を処理し、光源が先行車の尾灯または対向車の前照灯であるか判定して先行車の尾灯または対向車の前照灯を検出する車両灯検出手段(60)と、
を備えた車載用車両灯検出装置であって、
画像センサ(59)の撮像素子(62)には、画素配列上に、通過させる波長域が異なる少なくとも三種類の光学フィルタ(82〜85)が配列され、
車両灯検出手段(60)は、
前記画像センサ(59)の撮像素子(62)における前記少なくとも三種類の光学フィルタ(82〜85)を付けた画素の階調値の変化傾向が先行車の尾灯または対向車の前照灯と同じ傾向を示すか判定する階調値変化傾向判定機能と、
前記階調値変化傾向判定機能により同じ傾向を示すと判定した光源が左右の対称性を有するか判定する対称性判定機能と、
前記対称性判定機能により左右の対称性を有すると判定した光源について、連続する画像にて移動方向および移動量の少なくとも一方から先行車の尾灯または対向車の前照灯か判定する追跡機能と、
を有することを特徴とする車載用車両灯検出装置。
An image sensor (59) having an image pickup element (62) in which pixels are arranged and picking up a traveling direction in front of the vehicle;
Vehicle light detection that processes an image acquired by the image sensor (59) and determines whether the light source is a taillight of a preceding vehicle or a headlight of an oncoming vehicle and detects a taillight of a preceding vehicle or a headlight of an oncoming vehicle Means (60);
An in-vehicle vehicle light detection device comprising:
In the image sensor (62) of the image sensor (59), at least three types of optical filters (82 to 85) having different wavelength ranges to be passed are arranged on the pixel array,
The vehicle light detection means (60)
In the image sensor (59) of the image sensor (59), the change tendency of the gradation value of the pixel to which the at least three types of optical filters (82 to 85) are attached is the same as the taillight of the preceding vehicle or the headlight of the oncoming vehicle. A gradation value change tendency judgment function for judging whether to show a tendency ;
A symmetry determination function for determining whether the light source determined to show the same tendency by the gradation value change tendency determination function has left-right symmetry;
With respect to the light source determined to have left and right symmetry by the symmetry determination function, a tracking function for determining whether the headlight of the preceding vehicle or the headlight of the oncoming vehicle from at least one of the moving direction and the moving amount in successive images,
An on-vehicle vehicle light detection device comprising:
請求項1に記載の車載用車両灯検出装置において、
前記少なくとも三種類の光学フィルタ(82〜85)が通過させる光は、青色光および緑色光および赤色光および近赤外光の少なくとも3つである車載用車両灯検出装置。
The in-vehicle vehicle light detection device according to claim 1,
The vehicle-mounted vehicle light detection device, wherein the light transmitted by the at least three types of optical filters (82 to 85) is at least three of blue light, green light, red light, and near infrared light.
請求項1または2に記載の車載用車両灯検出装置において、
車両灯検出手段(60)は、
前記階調値変化傾向判定機能による処理に先立つ処理機能として、
前記撮像素子(62)での該当する画素に対する周辺の画素での階調値から、該当する画素で検出する波長域の光に対する他の波長域の光についての該当する画素での階調値を算出する他波長域光階調値算出機能と、
前記撮像素子(62)での各々の画素について、該当する画素で検出する階調値、および、前記他波長域光階調値算出機能により算出した階調値から、該当する画素での輝度を算出する輝度算出機能と、
前記撮像素子(62)での各画素における前記輝度算出機能による輝度が閾値よりも大きいか否か判定し、大きいと光源の候補であると判定する光源候補判定機能と、
を更に有することを特徴とする車載用車両灯検出装置。
The in-vehicle vehicle light detection device according to claim 1 or 2,
The vehicle light detection means (60)
As a processing function prior to the processing by the gradation value change tendency determination function,
From the gradation value at the surrounding pixel with respect to the corresponding pixel in the image sensor (62), the gradation value at the corresponding pixel for the light in the wavelength range detected by the corresponding pixel is calculated. Other wavelength range light gradation value calculation function to calculate,
For each pixel in the image sensor (62), the luminance at the corresponding pixel is calculated from the gradation value detected by the corresponding pixel and the gradation value calculated by the other wavelength band light gradation value calculation function. Brightness calculation function to calculate,
A light source candidate determination function that determines whether or not the luminance by the luminance calculation function in each pixel in the image sensor (62) is greater than a threshold value, and determines that the luminance is a light source candidate if the luminance is large;
An in-vehicle vehicle light detection device further comprising:
請求項1〜3のいずれか1項に記載の車載用車両灯検出装置を具備し、
前記車両灯検出手段(60)による先行車の尾灯または対向車の前照灯の検出結果に基づいて車両の前照灯(10,20)の切替および配光の少なくとも一方を制御する前照灯制御手段(60)を備えたことを特徴とする車両用照明装置。
The vehicle-mounted vehicle light detection device according to any one of claims 1 to 3 ,
A headlamp that controls at least one of switching and light distribution of the vehicle headlamps (10, 20) based on the detection result of the taillight of the preceding vehicle or the headlamp of the oncoming vehicle by the vehicle lamp detection means (60). A vehicle lighting device comprising a control means (60).
JP2007135676A 2007-05-22 2007-05-22 In-vehicle vehicle light detection device and vehicle illumination device Expired - Fee Related JP4917961B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007135676A JP4917961B2 (en) 2007-05-22 2007-05-22 In-vehicle vehicle light detection device and vehicle illumination device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007135676A JP4917961B2 (en) 2007-05-22 2007-05-22 In-vehicle vehicle light detection device and vehicle illumination device

Publications (2)

Publication Number Publication Date
JP2008293116A JP2008293116A (en) 2008-12-04
JP4917961B2 true JP4917961B2 (en) 2012-04-18

Family

ID=40167799

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007135676A Expired - Fee Related JP4917961B2 (en) 2007-05-22 2007-05-22 In-vehicle vehicle light detection device and vehicle illumination device

Country Status (1)

Country Link
JP (1) JP4917961B2 (en)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5405207B2 (en) * 2009-06-25 2014-02-05 株式会社小糸製作所 Light distribution control system for vehicular lamp
US8970357B2 (en) 2011-04-13 2015-03-03 Toyota Jidosha Kabushiki Kaisha Vehicle-mounted surrounding object recognizing apparatus and drive support apparatus using the same
JP6008367B2 (en) 2012-03-28 2016-10-19 株式会社メガチップス Object detection apparatus and program
JP5911062B2 (en) 2012-04-26 2016-04-27 株式会社メガチップス Object detection apparatus and program
JP5911063B2 (en) 2012-04-27 2016-04-27 株式会社メガチップス Object detection apparatus and program
JP5884635B2 (en) 2012-05-18 2016-03-15 株式会社デンソー Driving environment detection device, driving environment detection program, and light control device
CN114643926B (en) * 2020-12-17 2024-02-27 博泰车联网(南京)有限公司 Control method, system, equipment and storage medium for high beam

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0655581B2 (en) * 1985-12-05 1994-07-27 日本電装株式会社 Vehicle headlight control device
JPH0593981U (en) * 1992-05-27 1993-12-21 株式会社小糸製作所 Glare sensor
JP3503230B2 (en) * 1994-12-15 2004-03-02 株式会社デンソー Nighttime vehicle recognition device
JP3626824B2 (en) * 1996-12-20 2005-03-09 能美防災株式会社 Fire detection equipment
US6587573B1 (en) * 2000-03-20 2003-07-01 Gentex Corporation System for controlling exterior vehicle lights

Also Published As

Publication number Publication date
JP2008293116A (en) 2008-12-04

Similar Documents

Publication Publication Date Title
JP4473232B2 (en) Vehicle front environment detecting device for vehicle and lighting device for vehicle
US10129465B2 (en) Building night vision and other driver assistance systems (DAS) using near infra-red (NIR) illumination and a rolling shutter
JP4544233B2 (en) Vehicle detection device and headlamp control device
US9505338B2 (en) Vehicle driving environment recognition apparatus
US9944220B2 (en) Vehicle headlight control device
JP4917961B2 (en) In-vehicle vehicle light detection device and vehicle illumination device
JP5999483B2 (en) Adhering matter detection device and in-vehicle device control device
JP5617999B2 (en) On-vehicle peripheral object recognition device and driving support device using the same
EP2026247A2 (en) Automatic headlamp control system
US20200062168A1 (en) Vehicle headlight control device
JP2004217209A5 (en)
JP2010263272A (en) Monitoring camera for vehicle and monitoring camera system for vehicle
JP2004104646A (en) On-vehicle image processor
JP2009132230A (en) Headlamp light distribution control device
WO2013035828A1 (en) Device and method for predicting turning of vehicle
JP4534871B2 (en) Vehicle lighting device
CN112896035A (en) Vehicle light projection control device and method, and vehicle light projection system
JP2013097885A (en) Headlight device and headlight system
WO2010050095A1 (en) Headlamp controller
JP5673462B2 (en) Headlight device
JP2018034758A (en) Vehicular lighting fixture system
JP5547580B2 (en) Imaging camera, vehicle detection apparatus and lamp control apparatus using the same
JP2007124676A (en) On-vehicle image processor
JP4999653B2 (en) Vehicle lamp control system
JP6190210B2 (en) Headlight control device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090702

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110706

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120104

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120127

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150203

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4917961

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees