JP5179428B2 - Vehicle periphery monitoring device - Google Patents
Vehicle periphery monitoring device Download PDFInfo
- Publication number
- JP5179428B2 JP5179428B2 JP2009092380A JP2009092380A JP5179428B2 JP 5179428 B2 JP5179428 B2 JP 5179428B2 JP 2009092380 A JP2009092380 A JP 2009092380A JP 2009092380 A JP2009092380 A JP 2009092380A JP 5179428 B2 JP5179428 B2 JP 5179428B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- wavelength
- imaging device
- vehicle
- captured image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Lighting Device Outwards From Vehicle And Optical Signal (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
Description
この発明は、投光を用いて車両の周辺を監視する装置に関する。 The present invention relates to an apparatus for monitoring the periphery of a vehicle using light projection.
従来より、車両に撮像装置を搭載して、車両の周辺に存在する歩行者などの対象物を検出し、その情報を運転者に知らせることによって運転を支援することが行われている。 2. Description of the Related Art Conventionally, an image pickup apparatus is mounted on a vehicle, an object such as a pedestrian existing around the vehicle is detected, and driving is supported by notifying the driver of the information.
下記の特許文献1には、可視光および近赤外線を投光する走行用投光器と、可視光を投光するすれ違い用投光器とを設け、暗視装置が起動されたときには、両方の投光器を点灯させて車両前側近方を照明しつつ、対象物で反射した近赤外線を暗視カメラによって撮影した映像を表示装置上に表示する。ここで、走行用投光器からの可視光はフィルタにより遮断されるので、対向車や先行車の運転者を眩惑させることなく、映像を表示することができる。
上記の特許文献のように、従来の近赤外線を撮像する暗視カメラには、たとえばSi(シリコン)系の撮像素子が用いられている。典型的なSi系の撮像素子の場合、近赤外線領域においては、波長が長くなるほど感度が低下する。そのため、より感度の高い、すなわち、より可視光領域に近い波長の近赤外光を用いて、撮像を行う。しかしながら、可視光領域に近い波長の光までを用いると、車両の周辺の歩行者や他の車両の運転者に眩惑を生じさせるおそれが出てくる。 As in the above-mentioned patent document, for example, a Si (silicon) -based image sensor is used in a conventional night vision camera that images near-infrared rays. In the case of a typical Si-based image sensor, in the near infrared region, the sensitivity decreases as the wavelength increases. Therefore, imaging is performed using near-infrared light having a higher sensitivity, that is, a wavelength closer to the visible light region. However, if light having a wavelength close to the visible light region is used, there is a risk of dazzling pedestrians around the vehicle and drivers of other vehicles.
また、撮像素子の近赤外光に対する感度は、可視光に比べて低く、通常のCCDカメラにおける近赤外光に対する感度では、その撮像画像が不明瞭になるおそれがある。これを回避するためには、近赤外光に対する感度を向上させた、より高価な撮像装置を用いる必要が生じうる。 Further, the sensitivity of the image sensor to near-infrared light is lower than that of visible light, and the sensitivity of the normal CCD camera to near-infrared light may obscure the captured image. In order to avoid this, it may be necessary to use a more expensive imaging device with improved sensitivity to near infrared light.
また、車両のヘッドランプなどの投光器には、上記の特許文献1にもあるように、近赤外光が含まれており、該文献1では、この近赤外光を利用して、暗視カメラでの撮像を行っている。しかしながら、撮像装置で感度を有する近赤外光と、車両の投光器からの近赤外光とが同じ波長を有すると、同じシステムを備えた対向車とすれ違うとき、一方のシステムの投光器からの近赤外光が、他方のシステムの撮像装置で感知されてしまい、これは、ハレーションを生じさせたり、ノイズとなるおそれがある。
Further, a projector such as a headlamp of a vehicle includes near-infrared light as described in
したがって、上記のような問題を生じさせることなく、車両の周辺の対象物を検出することができる装置が所望されている。 Therefore, there is a demand for an apparatus that can detect an object around the vehicle without causing the above-described problems.
この発明の一つの側面によると、車両に搭載された撮像装置を備え、該撮像装置によって撮像された撮像画像から車両の周辺の対象物を検出する車両周辺監視装置は、車両の周辺に対して光を投射する投光手段であって、撮像装置の撮像素子の感度が所定値より低い波長の光を投光するよう構成される投光手段と、前記撮像装置の撮像素子の感度が所定値より低い波長の光が対象物において反射された反射光を、撮像素子の感度が所定値より高い波長の光に波長変換する波長変換膜と、を備える。撮像装置は、該波長変換膜で変換された光を撮像素子で受光することにより、撮像画像を生成する。 According to one aspect of the present invention, there is provided a vehicle periphery monitoring device that includes an imaging device mounted on a vehicle and detects an object around the vehicle from a captured image captured by the imaging device. A light projecting means for projecting light, the light projecting means configured to project light having a wavelength lower than a predetermined value of the sensitivity of the imaging device of the imaging device, and the sensitivity of the imaging device of the imaging device is a predetermined value A wavelength conversion film for converting the wavelength of the reflected light obtained by reflecting the light having a lower wavelength on the object into light having a sensitivity higher than a predetermined value. The imaging device generates a captured image by receiving the light converted by the wavelength conversion film by the imaging element.
この発明によれば、波長変換膜により、撮像素子の感度が低い波長の光が、撮像素子の感度が高い波長の光に変換されるので、投射する光を、撮像素子の感度特性によって制限されることなく選択することができ、よって、投射する光として、可視光領域から、より離れた波長の光を選択することが可能となる。これにより、投光によって車両周辺の歩行者や他の車両の運転者を眩惑するのを防止することができる。また、波長変換膜により、撮像素子の感度が低い波長の光を、撮像素子の感度が高い波長の光に変換するので、撮像装置の感度を良好に維持することができる。該感度を向上させるために、より高価な撮像装置を用いる必要はなく、Si系の撮像素子のような既存の撮像素子を用いることができる。さらに、撮像素子の感度が低い波長の光を投射するので、同様のシステムが対向車に搭載されている場合でも、互いの撮像装置にハレーションやノイズが生じるのを抑制することができる。 According to the present invention, the wavelength conversion film converts light having a low sensitivity of the image sensor into light having a high sensitivity of the image sensor, so that the projected light is limited by the sensitivity characteristics of the image sensor. Therefore, it is possible to select light having a wavelength farther from the visible light region as light to be projected. Thereby, it is possible to prevent a pedestrian around the vehicle and a driver of another vehicle from being dazzled by the light projection. In addition, since the wavelength conversion film converts light having a wavelength with a low sensitivity of the imaging element into light having a wavelength with a high sensitivity of the imaging element, the sensitivity of the imaging apparatus can be maintained favorably. In order to improve the sensitivity, it is not necessary to use a more expensive imaging device, and an existing imaging device such as a Si-based imaging device can be used. Furthermore, since light having a wavelength with low sensitivity of the image sensor is projected, even when the same system is mounted on the oncoming vehicle, it is possible to suppress the occurrence of halation and noise in each image pickup apparatus.
この発明の一実施形態では、前記撮像装置の撮像素子の感度が所定値より低い波長の光は、非可視光であると共に、前記撮像素子は、可視光の波長領域で高い感度を有する撮像素子であり、前記撮像画像は、第1の撮像画像として生成される。さらに、前記波長変換膜を用いることなく、可視光が対象物において反射された反射光を前記撮像素子で受光することによって第2の撮像画像を生成する手段と、前記第2の撮像画像に基づいて、前記撮像素子の出力信号が飽和しているかどうかを判断する飽和判断手段と、前記飽和判断手段によって前記撮像素子の出力信号が飽和していると判断されたならば、前記第1の撮像画像を選択し、前記飽和判断手段によって前記撮像素子の出力信号が飽和していると判断されなければ、前記第2の撮像画像を選択する選択手段と、を備える。前記対象物の検出は、前記選択手段によって選択された第1または第2の撮像画像から行われる。 In one embodiment of the present invention, the light having a wavelength lower than the predetermined value of the sensitivity of the image pickup device of the image pickup device is invisible light, and the image pickup device has high sensitivity in a visible light wavelength region. The captured image is generated as a first captured image. Further, based on the second captured image, means for generating a second captured image by receiving reflected light, which is reflected from an object, without using the wavelength conversion film, by the image sensor. And determining whether the output signal of the image sensor is saturated, and if the saturation determination means determines that the output signal of the image sensor is saturated, the first imaging Selection means for selecting an image and selecting the second captured image if the saturation determination means does not determine that the output signal of the image sensor is saturated. The object is detected from the first or second captured image selected by the selection means.
車両の周辺が明るい場合に、たとえば対向車がヘッドライトを点灯しているときや、対向車が近赤外光を投射しているとき、上記のような飽和が生じうるが、このような飽和は、対象物の検出を困難にする。この発明によれば、このような飽和が生じていない状態では、可視光によって撮像された画像(第2の撮像画像)を用いて対象物検出を行うが、このような飽和が生じていると判断されたときには、非可視光を波長変換することにより撮像された画像(第1の撮像画像)を用いて対象物を検出する手法に切り換えられる。したがって、車両周辺の光量に適した対象物検出が可能となるので、対象物の検出精度を良好に維持することができる。 When the surroundings of the vehicle are bright, for example, when an oncoming vehicle lights up the headlight or when an oncoming vehicle projects near-infrared light, the above saturation may occur. Makes it difficult to detect an object. According to the present invention, in a state where such saturation does not occur, object detection is performed using an image captured by visible light (second captured image). When such saturation occurs When the determination is made, the method is switched to a method of detecting an object using an image (first captured image) captured by converting the wavelength of invisible light. Therefore, it is possible to detect an object suitable for the amount of light around the vehicle, so that the detection accuracy of the object can be maintained well.
本発明のその他の特徴及び利点については、以下の詳細な説明から明らかである。 Other features and advantages of the present invention will be apparent from the detailed description that follows.
次に図面を参照してこの発明の実施の形態を説明する。 Next, an embodiment of the present invention will be described with reference to the drawings.
図1は、この発明の一実施形態に従う、車両の周辺監視装置の構成を示すブロック図である。該装置は、車両の前方に所定の光を投射するよう車両に搭載された投光機1と、車両の前方に存在する対象物を撮像するよう車両に搭載された撮像装置3と、車両の運転状態を検出する運転状態検出部5と、検出された運転状態を用いつつ、撮像装置3によって得られる画像データに基づいて車両周辺の対象物を検出するための画像処理ユニット7と、該検出結果に基づいて音声で警報を発生するスピーカ9と、撮像装置によって得られる画像を表示すると共に、運転者に車両周辺の対象物を認識させるための表示を行う表示装置11とを備えている。
FIG. 1 is a block diagram showing a configuration of a vehicle periphery monitoring device according to an embodiment of the present invention. The apparatus includes a
画像処理ユニット7は、入力アナログ信号をデジタル信号に変換するA/D変換回路、デジタル化した画像信号を記憶する画像メモリ、各種演算処理を行う中央演算処理装置(CPU)、CPUが演算に際してデータを記憶するのに使用するRAM(ランダムアクセスメモリ)、CPUが実行するプログラムおよび用いるデータ(テーブル、マップを含む)を記憶するROM(リードオンリーメモリ)、スピーカ9に対する駆動信号および表示装置11に対する表示信号などを出力する出力回路を備えている。撮像装置3の出力信号は、デジタル信号に変換されてCPUに入力されるよう構成されている。
The image processing unit 7 includes an A / D conversion circuit that converts an input analog signal into a digital signal, an image memory that stores a digitized image signal, a central processing unit (CPU) that performs various arithmetic processing, and a data RAM (Random Access Memory) used to store data, ROM (Read Only Memory) that stores programs to be executed by the CPU and data to be used (including tables and maps), driving signals for the speaker 9, and display for the
図2を参照すると、この実施例では、投光機1は、1Rおよび1Lとして示されているように、車両の前方に投光するよう、車両21のフロントバンパー部に左右に一台ずつ、両者の路面からの高さが等しくなるよう取り付けられている。撮像装置3は、車両の前方を撮像するよう、車室内のルームミラーの裏側に取り付けられている。
Referring to FIG. 2, in this embodiment, as shown as 1R and 1L, the
投光機1は、撮像装置3の撮像素子の感度が所定値より低い波長の光を投射するよう構成されており、好ましくは、撮像装置3の撮像素子の感度が生じない波長の光を投射するよう構成されている。投光機1の光源としては、たとえばハロゲンランプ、発光ダイオード(LED)、レーザ等を用いることができる。
The
図3は、撮像装置3の概略的な構成を示す。撮像装置3は、レンズ31と、レンズ31を通過した光を透過するよう配置され、特定の波長の光を遮断するフィルタ33と、フィルタ33を通過した光を受光するよう配置され、該光の波長を変換する波長変換膜35と、該波長変換膜35により変換された後の光を受光するよう配置されたイメージセンサ37と、を備える。
FIG. 3 shows a schematic configuration of the
フィルタ33は、投光機1が投射した光の波長以外の光を遮断するよう構成されている。したがって、フィルタ33は、投光機1で投射した光が対象物に当たって反射した反射光を通過させることができる。
The
波長変換膜35は、フィルタ33を透過した光、すなわち投光機1からの光の反射光の波長を変換するよう構成されている。変換後の波長は、イメージセンサ37の撮像素子において感度が生じる波長に設定され、好ましくは、イメージセンサ37において最も高い感度が生じる波長に設定される。波長変換された光は、イメージセンサ37に入射する。
The
イメージセンサ37は、受光した光を電気に変換する光電変換素子であるフォトダイオードが二次元に配列されたアレイを有するよう構成されている。たとえば、Si(シリコン)系の固体撮像素子である、いわゆるCCDイメージセンサやCMOSイメージセンサを用いることができる。イメージセンサ37は、二次元に配列された各フォトダイオードで該入射した光を受光することにより、撮像画像を生成する。撮像される対象物の輝度が高いほど、撮像素子から出力される信号のレベルは高くなる(すなわち、撮像画像における階調値が高くなる)。
The
ここで図4を参照すると、この実施例のイメージセンサ37について使用することのできる、Si系の固体撮像素子の分光感度特性が示されており、横軸は波長(nm)を表し、縦軸は、最大感度を基準値1とした場合の相対感度を表している。可視光は、約380〜780nmの波長を有するので、該撮像素子は、可視光領域において高い感度を有することがわかる。略550nmの波長の付近において、最も高い感度を有する。他方、この分光感度特性で示されるように、近赤外線の波長領域(約780nm〜)においては、その波長が長くなるほど感度が低くなり、1100nm以上の波長領域においては、感度が生じていない。
Referring now to FIG. 4, the spectral sensitivity characteristics of a Si-based solid-state imaging device that can be used for the
したがって、一実施例では、撮像素子の感度が低い波長として、800nm以上の波長を選択し、投光機1は、該波長の光(たとえば、波長800nmの近赤外光)を投射するよう構成される。フィルタ33は、該投光機1からの光の波長以外の波長を遮断するよう、すなわち800nmより小さい波長の光を遮断するよう構成される。波長変換膜35は、受光した800nm以上の波長の光を、撮像素子の感度が高い可視光の波長、好ましくは、図4の分光感度特性において最も感度の高い波長である略550nmに変換するよう構成される。
Therefore, in one embodiment, the wavelength of 800 nm or more is selected as the wavelength at which the sensitivity of the image sensor is low, and the
より好ましい他の実施例では、撮像素子の感度が生じない波長として、1100nm以上の波長を選択し、投光機1は、該波長の光(たとえば、波長1100nmの近赤外光)を投射するよう構成される。フィルタ33は、該投光機1からの光の波長以外の波長を遮断するよう、すなわち1100nmより小さい波長の光を遮断するよう構成される。波長変換膜35は、受光した1100nm以上の波長の光を、撮像素子の感度が高い可視光の波長、好ましくは、図4の分光感度特性において最も感度の高い波長である略550nmに変換するよう構成される。
In another more preferable embodiment, a wavelength of 1100 nm or more is selected as a wavelength at which the sensitivity of the image sensor does not occur, and the
このように、本願発明によれば、投光機1から投射する光の波長を、イメージセンサ37の感度に制限されることなく選択することができ、よって、人間の目には感知されない(すなわち、非可視光の)の波長領域の光を選択することができる。したがって、投光によって、車両周辺の歩行者や他の車両の運転者を眩惑させることを防止することができる。
As described above, according to the present invention, the wavelength of light projected from the
可視光領域に近い波長、たとえば800nmより小さい波長の光を投光すると、近赤外光であっても、車両周辺の歩行者や他の車両の運転者にまぶしさを感じさせることがある。特に上記他の実施例では、可視光領域から離れた波長領域(1100nm以上の波長)の光を投射するので、このようなまぶしさを、より確実に防止することができる。 When light having a wavelength close to the visible light region, for example, less than 800 nm, is projected, pedestrians around the vehicle and drivers of other vehicles may feel glare even with near infrared light. In particular, in the other embodiments described above, since light in a wavelength region (wavelength of 1100 nm or more) far from the visible light region is projected, such glare can be prevented more reliably.
また、波長変換膜35の作用により、イメージセンサ37の感度の低い波長の光を、感度の高い波長の光に変換するので、イメージセンサ37による検出精度を良好に維持することができる。また、このような波長変換により、CCDおよびCMOSイメージセンサのような既知のイメージセンサを利用することができ、コストを低く抑えることができる。
In addition, since the
さらに、投光機1によって投射する光の波長は、イメージセンサ37の感度が低い、もしくは感度が生じない波長である。したがって、同様のシステムを搭載した対向車とすれ違うとき、自車両から投射される光によって、該対向車の撮像装置にハレーションやノイズが生じるのを回避することができると共に、対向車から投射される光によって、自車両の撮像装置3にハレーションやノイズが生じるのを回避することができる。
Furthermore, the wavelength of the light projected by the
また、フィルタ33によって、対向車のヘッドライト(近赤外光を含むことがある)や、対向車に搭載された投光システムから照射される光に対し、本願の投光機1からの光には含まれない波長の光を排除することができるので、ハレーションやノイズが発生するのを防止することができる。
Moreover, the light from the
さらに、検知対象物が歩行者である場合には、投光機1からの上記のように選択された波長の光は、人間の衣服や頭髪の反射率が比較的高いので、検知性能を向上させることができる。
Furthermore, when the object to be detected is a pedestrian, the light of the wavelength selected as described above from the
なお、上記の800nmおよび1100nmという数値は一例であり、投射する光の波長としてどの波長を選択するかは、イメージセンサ37として用いる撮像素子の分光感度特性に応じて調整されるのがよい。すなわち、投光機1からの光としては、非可視光であって、撮像素子の感度が所定値以下である、もしくは感度がゼロである波長の光が選択され、波長変換膜35は、このような波長の光を、撮像素子の感度が所定値以上となる、もしくは最も高い感度となる波長に変換するよう構成される。
The numerical values of 800 nm and 1100 nm described above are examples, and which wavelength is selected as the wavelength of the light to be projected should be adjusted according to the spectral sensitivity characteristics of the image sensor used as the
図5(a)は、波長変換膜35の正面図を示し、図5(b)は、波長変換膜35の断面図を示す。波長変換膜35は、垂直方向および水平方向に互いに分離され、二次元に配列された複数の空間41を有しており、各空間41内には、蛍光体43が充填されている。このような構成の波長変換膜は、任意の適切な手法により作成されることができる。例えば、ガラス基板45上に、フォトリソグラフィ法のような周知のパターン転写技術により、隔壁47で分離された各空間41を作成し、該作成された空間41内に、たとえばスクリーン印刷法によって蛍光体43を塗布(印刷)し、その後、該空間41の開放されている側をガラス基板49によって封止する。
5A shows a front view of the
ここで用いる蛍光体43は、(近)赤外光を可視光に変換する、いわゆるアップコンバージョンと呼ばれる蛍光体であり、赤外光により励起されることによって、可視光の発光を生じる元素(たとえば希土類元素)を含有している。蛍光体43として用いる成分(材料)は、前述したように、変換元の光の波長と変換後の光の波長に基づいて選択され、図4のような分光感度特性の撮像素子を用いる場合には、800nm以上の波長の光を、好ましくは1100nm以上の波長を、略550nmの波長の光に変換するよう選択される。
The
たとえば、特開昭58−57114号公報や特開平7−133135号公報、特開2004−292599号公報には、このようなアップコンバージョンの蛍光体を用いて、波長800nm以上の近赤外光を、550nm程度の波長の可視光(緑)に変換することが記載されている。 For example, in Japanese Patent Laid-Open Nos. 58-57114, 7-133135, and 2004-292599, near-infrared light having a wavelength of 800 nm or more is obtained using such an up-conversion phosphor. It describes that it is converted into visible light (green) having a wavelength of about 550 nm.
図6は、本願発明の他の実施形態に従う、撮像装置3の概略的な構成を示す。図3と同じ構成要素には、同じ符号が付けられている。図3の撮像装置3は、投光機1によって投射した光の反射光を波長変換膜35で変換することにより、イメージセンサ37で撮像していたが、図6では、この撮像経路に加え、対象物に反射された可視光を直接イメージセンサによって受光する撮像経路が設けられている。そのため、図3の撮像装置3の構成に加え、プリズム51と、さらなるイメージセンサ53とが設けられている。
FIG. 6 shows a schematic configuration of the
ここで、イメージセンサ37を第1のイメージセンサと呼び、イメージセンサ53を第2のイメージセンサと呼ぶ。プリズム51は、可視光と(近)赤外光とを分離するよう構成されており、周知のプリズムを用いることができる。
Here, the
レンズ31から入射した光は、プリズム51によって、符号R1およびR2に示されるように、(近)赤外光の波長領域の光と可視光の波長領域の光とに分離される。赤外光の波長領域の光は、図3を参照して説明したような構成要素によって処理される。すなわち、該光は、フィルタ33を透過し、波長変換膜35によって波長変換され、その後、第1のイメージセンサ37で受光される。他方、可視光の波長領域の光は、第2のイメージセンサ53で直接受光される。
The light incident from the
ここで、第2のイメージセンサ53は、第1のイメージセンサ37と同様に、フォトダイオードが二次元に配列されたイメージセンサであり、両者のイメージセンサは、同一の構成としてもよい。代替的に、第2のイメージセンサ53に、たとえば周知の手法でカラーフィルタを設けることにより、該第2のイメージセンサ53によってカラー画像を生成するようにしてもよい。
Here, like the
このような構成を取ることにより、レンズ31を介した1つの入力で、(近)赤外光と可視光の両方の光を別個に検出することができる。したがって、昼間のように、車両の周辺に十分な光があって、可視光を直接受光することによって撮像可能な状況においては、第2のイメージセンサ53によって撮像された画像を用いて対象物を検出し、夜間のように、車両の周辺に十分な光が存在せず、可視光のみでは撮像することができない状況においては、第1のイメージセンサ37によって撮像された画像を用いることにより対象物を検出することができ、いずれの状況においても対象物の検出精度を維持することができる。
By adopting such a configuration, it is possible to separately detect both (near) infrared light and visible light with one input through the
図7は、図1に示す画像処理ユニット7の機能ブロック図である。この図を参照して、画像処理ユニット7の動作の概要を説明する。この実施例では、撮像装置3として、図6に示すものが用いられる。
FIG. 7 is a functional block diagram of the image processing unit 7 shown in FIG. The outline of the operation of the image processing unit 7 will be described with reference to FIG. In this embodiment, the
選択部61は、運転状態検出部5(図1)によって検出された車両の運転状態に基づいて、車両の周辺が明るいのか暗いのかを判断する。ここで、任意の適切な手法によって、該明暗を判断することができる。
The
一例では、運転状態検出部5によって、車両のヘッドライトが点灯しているかどうかが検出される。点灯していることが検出されたならば、車両の周辺は暗いと判断し、点灯していることが検出されなければ、車両の周辺は明るいと判断する。 In one example, the driving state detection unit 5 detects whether the headlight of the vehicle is lit. If it is detected that the vehicle is lit, it is determined that the periphery of the vehicle is dark. If it is not detected that the vehicle is lit, it is determined that the periphery of the vehicle is bright.
他の例では、運転状態検出部5として、車両の周辺の照度を検出する照度センサを車両に取り付け、該照度センサの検出値が所定値以下(すなわち、照度が低い)ならば、車両の周辺は暗いと判断し、そうでなければ、車両の周辺は明るいと判断する。 In another example, if the illuminance sensor that detects the illuminance around the vehicle is attached to the vehicle as the driving state detection unit 5 and the detected value of the illuminance sensor is equal to or less than a predetermined value (that is, the illuminance is low), Is determined to be dark, otherwise the vehicle surroundings are determined to be bright.
選択部61は、暗いと判断したならば、第1の画像取得部63を起動する。第1の画像取得部63は、投光機1を起動して、前述したような波長の赤外光を投射させる。第1の画像取得部63は、その反射光に応じた、撮像装置3の第1のイメージセンサ37の出力信号を受け取り、これをA/D変換して、所定の画像メモリに記憶する。記憶された画像データを、第1の撮像画像と呼ぶ。
If it is determined that the
他方、選択部61は、明るいと判断したならば、第2の画像取得部65を起動する。第2の画像取得部65は、撮像装置3の第2のイメージセンサ53の出力信号を受け取り、これをA/D変換して、所定の画像メモリに記憶する。記憶された画像データを、第2の撮像画像と呼ぶ。
On the other hand, if it is determined that the
こうして、車両の周辺が暗いかどうかの判断に応じて、赤外光を受光することによって生成された第1の撮像画像および可視光を受光することによって生成された第2の撮像画像のいずれかが取得される。 Thus, either the first captured image generated by receiving the infrared light or the second captured image generated by receiving the visible light depending on whether or not the periphery of the vehicle is dark Is acquired.
対象物検出部67は、こうして取得された第1または第2の撮像画像から、所望の対象物を検出する。所望の対象物は、任意のものでよく、たとえば、歩行者や先行車等の物体だけでなく、道路上の走行レーン(白線)等を含めることができる。検出手法は、任意の適切なものを採用することができる。
The target
他方、飽和判定部69は、第2の撮像画像を画像メモリから読み出して、該撮像画像の階調値のヒストグラムを作成し、階調値が飽和を示している(たとえば、階調値が所定値以上、または所定の最大値を示している)画素数をカウントする。該飽和している画素数が所定の閾値より大きければ、第2の撮像画像ではハレーション(白光り)が生じていると判断し、飽和と判定する。このようなハレーションが生じている画像からは、対象物を良好に検出することは困難である。
On the other hand, the
対象物検出部67は、飽和判定部69によって飽和が判定されたならば、第2の撮像画像を用いて対象物検出を行うことを禁止すると共に、第1の画像取得部63を起動する。こうして、対象物検出部67は、飽和と判定されたときには、第1の画像取得部63によって取得された第1の撮像画像を用いて、対象物検出を行う。対象物検出の結果は、前述したように、スピーカ9を介して、および(または)表示装置11上への表示を介して、運転者に報知される。この場合、車両の周辺は明るいと判断されているので、投光機1による投光は必要とされない。投光を行わなくても、太陽光には、投光に用いる光と同じ波長帯の光が含まれているので、該光が対象物で反射した反射光を、フィルタ33、波長変換膜35および第1のイメージセンサ33を介して処理することにより、第1の撮像画像を取得することができる。
If the
このように、車両の周辺が暗い場合には、投光を行って取得した第1の撮像画像を用いて対象物を検出し、車両の周辺が明るい場合には、第2の撮像画像(前述したように、カラー画像であることができる)を用いて対象物を検出する。車両の周辺が明るい場合でも、たとえば対向車がヘッドライトをつけているときや、対向車が近赤外光を投射しているときには、第2の撮像画像について飽和が生じているおそれがあるので、第2の撮像画像に基づいて、階調の飽和した画素数をカウントし、該飽和した画素数が多い場合には、第1の撮像画像を用いて対象物検出を行う。こうして、車両の周辺が明るい場合および暗い場合のいずれにおいても、対象物の検出精度を良好に維持することができる。 As described above, when the periphery of the vehicle is dark, the object is detected using the first captured image obtained by performing light projection, and when the periphery of the vehicle is bright, the second captured image (described above). The object can be detected using a color image). Even when the surroundings of the vehicle are bright, for example, when the oncoming vehicle is wearing headlights or when the oncoming vehicle is projecting near-infrared light, the second captured image may be saturated. Based on the second captured image, the number of pixels with saturated gradation is counted, and when the number of saturated pixels is large, object detection is performed using the first captured image. In this way, it is possible to maintain good detection accuracy of the object in both cases where the periphery of the vehicle is bright and dark.
図8は、画像処理ユニット7によって実行されるプロセスのフローである。このプロセスは、所定時間間隔で実行されることができる。 FIG. 8 is a flow of a process executed by the image processing unit 7. This process can be performed at predetermined time intervals.
ステップS11およびS12は、車両の周辺が暗いかどうかを判断するためのステップである。ステップS11では、ヘッドライトが点灯しているかどうかを判断し、ステップS12では、車両周辺の照度(前述したように、照度センサによって検出されることができる)が所定値以下かどうかを判断する。ステップS11およびS12の両方の判断がYesならば、車両の周辺は暗いと判断し、ステップS13に進む。ステップS11およびS12のいずれかの判断がNoならば、車両の周辺は明るいと判断し、ステップS21に進む。 Steps S11 and S12 are steps for determining whether the periphery of the vehicle is dark. In step S11, it is determined whether the headlight is turned on. In step S12, it is determined whether the illuminance around the vehicle (which can be detected by the illuminance sensor as described above) is equal to or less than a predetermined value. If the determinations in both steps S11 and S12 are Yes, it is determined that the periphery of the vehicle is dark, and the process proceeds to step S13. If the determination in any of steps S11 and S12 is No, it is determined that the periphery of the vehicle is bright, and the process proceeds to step S21.
ステップS13において、車速(たとえば、車両に取り付けられた車速センサにより検出されることができる)が所定値以上かどうかを判断する。これは、車速が所定値より低い場合には、投光を禁止するためである。したがって、車速が所定値以上ならば、ステップS14に進む。車速が所定値より低ければ、ステップS21に進む。 In step S13, it is determined whether the vehicle speed (for example, can be detected by a vehicle speed sensor attached to the vehicle) is greater than or equal to a predetermined value. This is for prohibiting light projection when the vehicle speed is lower than a predetermined value. Therefore, if the vehicle speed is equal to or higher than the predetermined value, the process proceeds to step S14. If the vehicle speed is lower than the predetermined value, the process proceeds to step S21.
ステップS14において、投光機1に対して起動を指示する信号を送り、投光機1を起動させる。投光機1が起動されることにより、前述したように、撮像素子の感度が低い、または感度が無い波長の赤外光が投射され、第1のイメージセンサ37によって第1の撮像画像が生成される。ステップS15において、第1のイメージセンサ37によって生成された第1の撮像画像を取得する。ステップS16において、該取得した第1の撮像画像を用いて、対象物の検出処理を行う。ステップS17において、該検出結果に応じて、運転者への報知が行われる。
In step S <b> 14, a signal instructing activation is sent to the
他方、ステップS21では、第2のイメージセンサ53により生成された第2の撮像画像を取得する。ステップS22において、該第2の撮像画像の階調値のヒストグラムを作成し、該ヒストグラムに基づいて、階調値が飽和している画素数をカウントし、該カウントした画素数が所定の閾値以下かどうかを判断する。該画素数が該所定の閾値以下であれば(ステップS22がYes)、ハレーションが生じていないと判断することができるので、ステップS16に進み、第2の撮像画像を用いて、対象物の検出処理を行う。ステップS17において、該検出結果に応じて、運転者への報知が行われる。
On the other hand, in step S <b> 21, the second captured image generated by the
また、ステップS22において、該カウントした画素数が該所定の閾値より大きければ、ハレーションが生じていると判断することができるので、ステップS15に進み、第1のイメージセンサ37によって生成された第1の撮像画像を取得する。前述したように、ステップS21およびS22を経由しているので、車両の周辺は明るいと判断されており、よって投光機1からの投光は必要とされない。したがって、ステップS22の判断がNoの場合には、ステップS14を実行することなく、ステップS15に進む。ステップS16では、ステップS15で取得された第1の撮像画像を用いて、対象物の検出処理を実行する。ステップS17において、該検出結果に応じて、運転者への報知が行われる。なお、ステップS21で取得した第2の撮像画像は、用いられることなく破棄される。
In step S22, if the counted number of pixels is larger than the predetermined threshold value, it can be determined that halation has occurred. Therefore, the process proceeds to step S15, and the
ステップS14で起動した投光機1をオフするタイミング(投光を停止するタイミングであり、たとえば投光機1の電源をオフするタイミング)は、任意に設定されることができる。一例では、ステップS14において投光機1が一旦起動されて光の照射が開始されたならば、該起動された状態を維持し続ける。この場合、再びステップS14が実行されるとき、投光機1が既に起動されている状態にあれば、そのままの状態を維持してステップS15に進む。その後、ステップS11からS13のいずれかの判断がNoとなったとき(すなわち、車両周辺が明るいと判断されたとき、または車速が所定値より低くなったとき)、投光機1の電源をオフすることができる。
The timing to turn off the
また、当該プロセスでは、ヘッドライトと照度の両方に基づいて、車両の周辺が暗いかどうかを判断しているが、前述したように、いずれか一方にのみ基づいて明暗を判断してもよい。また、このプロセスでは、ヘッドライトが点灯していないこと、および照度が所定値以下であることの2つの条件が満たされたときに暗いと判断しており、これによって判断の精度を高めているが、代替的に、いずれか一方の条件が満たされた場合に、暗いと判断してもよい。 Further, in this process, it is determined whether or not the periphery of the vehicle is dark based on both the headlight and the illuminance. However, as described above, light and dark may be determined based on only one of them. In addition, in this process, it is determined that the headlight is not turned on, and when the two conditions that the illuminance is equal to or less than a predetermined value are satisfied, it is determined to be dark, thereby improving the accuracy of the determination. Alternatively, it may be determined that the image is dark when one of the conditions is satisfied.
なお、上記実施形態では、1つの撮像装置を用いているが、一対の撮像装置を、車軸を中心として左右に設置し、いわゆる三角測量法によって、撮像画像の対象物までの距離を算出することができるようにしてもよい。 In the above embodiment, one imaging device is used, but a pair of imaging devices are installed on the left and right with the axle as the center, and the distance to the object of the captured image is calculated by so-called triangulation. You may be able to.
また、図6においては、第1のイメージセンサ37と第2のイメージセンサ53とを別個に配置しているが、両者は、同じ構成のイメージセンサでよいので、1つのイメージセンサを設け、第1の撮像画像を取得する場合と第2の撮像画像を取得する場合とで、撮像装置3の構成を可変にするようにしてもよい。たとえば、第1の撮像画像を取得する場合にのみ、図3に示すようにフィルタ33と波長変換膜35が、該1つのイメージセンサの受光側に配置されるように、該フィルタ33および波長変換膜35を移動するための移動機構を設けてもよい。
In FIG. 6, the
また、各イメージセンサに所望の光を入射させるための光学部品の配置は、図6のものに限定されるものではなく、任意の適切な形態を用いることができる。たとえば、図6の実施例では、プリズム51によって、可視光と赤外光とが別個の光路を辿るように分離されているが、このような分離を、フィルタによって行ってもよい。たとえば、レンズからの光を、任意の光学部品を用いて第1および第2の光路に分岐し、それぞれの光路に、(近)赤外光を透過させるフィルタと可視光を透過させるフィルタを配置することができる。
Further, the arrangement of optical components for allowing desired light to enter each image sensor is not limited to that shown in FIG. 6, and any appropriate form can be used. For example, in the embodiment of FIG. 6, the visible light and the infrared light are separated by the
以上のように、この発明の特定の実施形態について説明したが、本願発明は、これら実施形態に限定されるものではない。 As described above, specific embodiments of the present invention have been described. However, the present invention is not limited to these embodiments.
1 投光機
3 撮像装置
7 画像処理ユニット
11 表示装置
35 波長変換膜
37 第1のイメージセンサ
53 第2のイメージセンサ
1
Claims (1)
前記車両の周辺に対して光を投射する投光手段であって、前記撮像装置の撮像素子の感度が所定値より低い波長の光を投光するよう構成される投光手段と、
前記撮像装置の撮像素子の感度が所定値より低い波長の光が対象物において反射された反射光を、前記撮像素子の感度が所定値より高い波長の光に波長変換する波長変換膜と、
を備え、
前記撮像装置は、前記波長変換膜で変換された光を前記撮像素子で受光することにより、前記撮像画像を生成し、
かつ、
前記撮像装置の撮像素子の感度が所定値より低い波長の光は、非可視光であると共に、前記撮像素子は、可視光の波長領域で高い感度を有する撮像素子であり、
前記変換された光を前記撮像素子で受光することにより生成される撮像画像は、第1の撮像画像として生成され、
さらに、
前記波長変換膜を用いることなく、可視光が対象物において反射された反射光を前記撮像素子で受光することによって第2の撮像画像を生成する手段と、
前記第2の撮像画像に基づいて、前記撮像素子の出力信号が飽和しているかどうかを判断する飽和判断手段と、
前記飽和判断手段によって前記撮像素子の出力信号が飽和していると判断されたならば、前記第1の撮像画像を選択し、前記飽和判断手段によって前記撮像素子の出力信号が飽和していると判断されなければ、前記第2の撮像画像を選択する選択手段と、
を備え、
前記対象物の検出は、前記選択手段によって選択された第1または第2の撮像画像から行われる、
車両周辺監視装置。 A vehicle periphery monitoring device that includes an imaging device mounted on a vehicle and detects an object around the vehicle from a captured image captured by the imaging device,
Projecting means for projecting light to the periphery of the vehicle, and projecting means configured to project light having a wavelength lower than a predetermined value of sensitivity of the imaging device of the imaging device;
A wavelength conversion film for wavelength-converting reflected light obtained by reflecting light having a wavelength lower than a predetermined value in an imaging device of the imaging device to light having a wavelength higher than the predetermined value.
With
The imaging device generates the captured image by receiving light converted by the wavelength conversion film by the imaging element,
And,
The light having a wavelength lower than the predetermined value of the sensitivity of the imaging device of the imaging device is invisible light, and the imaging device is an imaging device having high sensitivity in a visible light wavelength region,
A captured image generated by receiving the converted light with the image sensor is generated as a first captured image,
further,
Means for generating a second captured image by receiving reflected light, which is reflected from an object, without using the wavelength conversion film, by the imaging element;
Saturation determination means for determining whether an output signal of the image sensor is saturated based on the second captured image;
If it is determined by the saturation determining means that the output signal of the image sensor is saturated, the first captured image is selected, and the output signal of the image sensor is saturated by the saturation determining means. If not determined, selection means for selecting the second captured image;
Bei to give a,
The detection of the object is performed from the first or second captured image selected by the selection unit.
Car both periphery monitoring device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009092380A JP5179428B2 (en) | 2009-04-06 | 2009-04-06 | Vehicle periphery monitoring device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009092380A JP5179428B2 (en) | 2009-04-06 | 2009-04-06 | Vehicle periphery monitoring device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010245846A JP2010245846A (en) | 2010-10-28 |
JP5179428B2 true JP5179428B2 (en) | 2013-04-10 |
Family
ID=43098381
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009092380A Expired - Fee Related JP5179428B2 (en) | 2009-04-06 | 2009-04-06 | Vehicle periphery monitoring device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5179428B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101509092B1 (en) * | 2013-09-30 | 2015-04-07 | 컴레이저 (주) | LED Light Projector for Number Plate Recognition Camera having Advertisement Function |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013108835A (en) * | 2011-11-21 | 2013-06-06 | Mitsubishi Heavy Ind Ltd | Monitoring device |
WO2017154444A1 (en) * | 2016-03-09 | 2017-09-14 | ソニー株式会社 | Photoelectric conversion element and image pickup device |
US11233945B2 (en) | 2018-09-04 | 2022-01-25 | Hitachi Kokusai Electric Inc. | Imaging apparatus |
DE102019125429B3 (en) | 2019-09-20 | 2020-12-10 | Motherson Innovations Company Limited | Detection system and a vehicle with this system |
KR102424263B1 (en) * | 2020-12-16 | 2022-07-26 | 에이테크솔루션(주) | Glare reduction vehicle side camera system and method of reducing glare using the same |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5492117A (en) * | 1977-12-29 | 1979-07-21 | Seiko Epson Corp | Auxiliary device for automobile operation |
JPS57156528A (en) * | 1981-03-22 | 1982-09-27 | Nec Corp | Image detector using infrared rays |
JP4033008B2 (en) * | 2003-03-17 | 2008-01-16 | 日産自動車株式会社 | Night vision device for vehicles |
WO2005098528A1 (en) * | 2004-03-30 | 2005-10-20 | Hamamatsu Foundation For Science And Technology Promotion | Image wavelength converting device, method for producing the device, image converting system using the device |
JP2007158820A (en) * | 2005-12-06 | 2007-06-21 | Fujitsu Ten Ltd | Photographing control device |
-
2009
- 2009-04-06 JP JP2009092380A patent/JP5179428B2/en not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101509092B1 (en) * | 2013-09-30 | 2015-04-07 | 컴레이저 (주) | LED Light Projector for Number Plate Recognition Camera having Advertisement Function |
Also Published As
Publication number | Publication date |
---|---|
JP2010245846A (en) | 2010-10-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104512411B (en) | Vehicle control system and imaging sensor | |
JP5179428B2 (en) | Vehicle periphery monitoring device | |
KR20050113608A (en) | Automatic vehicle exterior light control systems | |
JP5629521B2 (en) | Obstacle detection system and method, obstacle detection device | |
EP2786124A1 (en) | Attached matter detector, and attached matter detection method | |
JP2003159996A (en) | Apparatus for improving visibility in vehicle | |
JP2010223685A (en) | Imaging apparatus for vehicle | |
CN105450947B (en) | Vehicle optical sensor system | |
JP4927647B2 (en) | Vehicle periphery monitoring device | |
JP2006350670A (en) | Night driving visibility support system | |
JP2013097885A (en) | Headlight device and headlight system | |
JP4992197B2 (en) | Night vision device | |
JP4705923B2 (en) | Night vision imaging apparatus, headlight module, vehicle, and method for controlling night vision imaging apparatus | |
EP2869021B1 (en) | Multiple imager vehicle optical sensor system | |
EP1862358A1 (en) | Vehicle occupant detection device | |
JP5712821B2 (en) | Shooting display control system | |
JP2004289786A (en) | Imaging apparatus | |
JP5839253B2 (en) | Object detection device and in-vehicle device control device including the same | |
JP4782491B2 (en) | Imaging device | |
JP2010260380A (en) | Monitoring system for vehicle | |
JP4314103B2 (en) | Car camera | |
JP2019204988A (en) | Image processing apparatus and image processing method | |
JP2013009041A (en) | Vehicle photographing display control system | |
US20160107576A1 (en) | Multiple imager vehicle optical sensor system | |
JP2004123061A (en) | Photographing system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111125 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120522 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121003 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121016 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121210 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121226 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130109 |
|
LAPS | Cancellation because of no payment of annual fees |