JP2008035365A - Far-infrared imaging system and far-infrared imaging method - Google Patents

Far-infrared imaging system and far-infrared imaging method Download PDF

Info

Publication number
JP2008035365A
JP2008035365A JP2006208380A JP2006208380A JP2008035365A JP 2008035365 A JP2008035365 A JP 2008035365A JP 2006208380 A JP2006208380 A JP 2006208380A JP 2006208380 A JP2006208380 A JP 2006208380A JP 2008035365 A JP2008035365 A JP 2008035365A
Authority
JP
Japan
Prior art keywords
far
infrared imaging
road surface
temperature
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006208380A
Other languages
Japanese (ja)
Other versions
JP4816308B2 (en
Inventor
Tsuyoshi Hagiwara
剛志 萩原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Electric Industries Ltd filed Critical Sumitomo Electric Industries Ltd
Priority to JP2006208380A priority Critical patent/JP4816308B2/en
Publication of JP2008035365A publication Critical patent/JP2008035365A/en
Application granted granted Critical
Publication of JP4816308B2 publication Critical patent/JP4816308B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a far-infrared imaging system and far-infrared image method for correcting output values of a plurality of far-infrared imaging devices so as to make the output values almost coincide with one another with respect to one and the same object. <P>SOLUTION: The far-infrared imaging system is provided with a plurality of far-infrared imaging apparatuses having imaging elements disposed in a matrix shape to pick up images around a vehicle and an arithmetic unit and corrects the output value in each imaging element on the basis of measured temperature of a road surface and outputs the output value. The arithmetic unit specifies a measuring point located almost at the center of an image in each image data acquired from the plurality of infrared imaging apparatuses and estimates a distance to the specified measuring point. Time required until the vehicle travels over the specified measuring point is calculated on the estimated distance and a vehicle speed, and the temperature of the road surface is acquired when the time required elapses after the image data is acquired. A correction factor is calculated for each imaging element on the basis of temperatures of the road surface at a plurality of points of time and output values of measuring points, and a far-infrared imaging device corrects the output value by the calculated correction factor and outputs the corrected output value to the outside. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、外部を撮像する複数の遠赤外線撮像装置の出力輝度値を、同一温度に対して略同一の輝度値を出力するよう補正することができる遠赤外線撮像システム及び遠赤外線撮像方法に関する。   The present invention relates to a far-infrared imaging system and a far-infrared imaging method capable of correcting output luminance values of a plurality of far-infrared imaging devices that image the outside so as to output substantially the same luminance value for the same temperature.

自動車等の車両の夜間走行の安全を確保すべく、ナイトビジョン等の遠赤外線撮像装置により歩行者、自転車等の障害物の存在を検出する障害物検出システムが多々開発されている。通常、車両前方の所定の位置に、左右2基の遠赤外線撮像装置を設置し、ステレオ視により検出した障害物までの距離を算出し、特徴量検出により障害物の存在を検出している。   In order to ensure the safety of vehicles such as automobiles during night driving, many obstacle detection systems that detect the presence of obstacles such as pedestrians and bicycles using far-infrared imaging devices such as night vision have been developed. Usually, two far-infrared imaging devices are installed at a predetermined position in front of the vehicle, the distance to the obstacle detected by stereo vision is calculated, and the presence of the obstacle is detected by feature amount detection.

しかし、遠赤外線撮像装置の撮像素子として良く用いられるボロメータ等は温度の検出感度のバラつきが大きい。したがって、時間変化に基づくオフセットのドリフト等が発生しやすいことから、撮像された画像にノイズが重畳されやすく、障害物の検出精度を向上することが困難であるという問題があった。   However, a bolometer or the like often used as an imaging element of a far-infrared imaging device has a large variation in temperature detection sensitivity. Therefore, offset drift or the like based on time changes is likely to occur, so that noise is easily superimposed on the captured image, and it is difficult to improve obstacle detection accuracy.

斯かる問題を解決すべく、例えば非特許文献1では、撮像素子ごとに相違している感度の非均一性を補正する方法の代表例であるNUC(Non-Uniformity Correction)について開示されている。非特許文献1では、撮像素子の応答特性が線形であることを前提として、撮像素子ごとの所定の温度に対する出力値を補正するオフセット補正値、及び撮像素子ごとの所定の温度変化率に対する出力値の差異を補正するゲイン補正値を算出して、遠赤外線撮像装置からの出力値を補正している。
「IR−CCD撮像データのリアルタイム2点補正(Real-time implementation of two-point non-uniformity correction for IR-CCD imagery)」、SPIE Proc. 、 Vol.2598、p.44−50、1995年
In order to solve such a problem, for example, Non-Patent Document 1 discloses NUC (Non-Uniformity Correction), which is a representative example of a method of correcting sensitivity non-uniformity that is different for each image sensor. In Non-Patent Document 1, on the premise that the response characteristic of an image sensor is linear, an offset correction value for correcting an output value for a predetermined temperature for each image sensor, and an output value for a predetermined temperature change rate for each image sensor The gain correction value for correcting the difference is calculated, and the output value from the far-infrared imaging device is corrected.
“Real-time implementation of two-point non-uniformity correction for IR-CCD imagery”, SPIE Proc., Vol. 2598, p. 44-50, 1995

しかし、上述した撮像装置の出力値の補正方法では、絶対温度に対応してオフセット補正値を算出していないことから、複数の遠赤外線撮像装置を用いる場合には、異なる遠赤外線撮像装置が同一の輝度値を出力しているときでも、検出している温度が同一であることが保証されるものではない。したがって、障害物であるか否かを検出すべく画像の特徴量を抽出する場合に、遠赤外線撮像装置ごとに撮像した画像の明るさ、コントラスト等が相違し、遠赤外線撮像装置のAGC(Auto Gain Control)機能を用いても、正確に障害物を検出することが困難になるおそれがあるという問題点があった。   However, in the above-described correction method of the output value of the imaging device, the offset correction value is not calculated corresponding to the absolute temperature. Therefore, when using a plurality of far infrared imaging devices, different far infrared imaging devices are the same. Even when the luminance value is output, it is not guaranteed that the detected temperatures are the same. Therefore, when extracting the feature amount of an image to detect whether it is an obstacle, the brightness, contrast, etc. of the image captured for each far-infrared imaging device are different, and the AGC (Auto Even if the (Gain Control) function is used, there is a problem that it may be difficult to accurately detect an obstacle.

特に車両前部に左右に設置された遠赤外線撮像装置で撮像された画像に基づいてステレオ視に基づく測距を行う場合等には、画像の明るさ、コントラスト等を一致させることが困難であり、精度を向上させることが困難になる。したがって、両撮像装置で撮像された画像の明るさ、コントラスト等が略一致するように出力輝度値を補正することにより、障害物の検出精度は飛躍的に向上する。   In particular, when performing distance measurement based on stereo vision based on images captured by far-infrared imaging devices installed on the left and right of the front of the vehicle, it is difficult to match the brightness and contrast of the images. It becomes difficult to improve accuracy. Therefore, by correcting the output luminance value so that the brightness, contrast, and the like of the images captured by both the imaging devices are substantially the same, the obstacle detection accuracy is dramatically improved.

本発明は、斯かる事情に鑑みてなされたものであり、複数の遠赤外線撮像装置の出力値を、同一の対象物に対しては略一致するように補正することができる遠赤外線撮像システム及び遠赤外線撮像方法を提供することを目的とする。   The present invention has been made in view of such circumstances, and a far-infrared imaging system capable of correcting the output values of a plurality of far-infrared imaging devices so as to substantially match the same object, and An object is to provide a far-infrared imaging method.

上記目的を達成するために第1発明に係る遠赤外線撮像システムは、マトリックス状に配列された撮像素子を有し、車両の周辺の画像を撮像する複数の遠赤外線撮像装置と、車両下部の路面の温度を計測する路面温度計測手段と、前記遠赤外線撮像装置及び路面温度計測手段とデータ通信可能に接続してある演算装置とを備え、計測された路面の温度に基づいて撮像素子ごとに出力値を補正して出力する遠赤外線撮像システムにおいて、車両の速度を検出する速度検出手段を備え、前記演算装置は、複数の遠赤外線撮像装置から取得した画像データごとに画像の所定の位置に表示される計測点を特定する手段と、特定された計測点までの距離を推算する手段と、推算された距離及び車両の速度に基づいて、特定された計測点が車両の下部に移動するまでの所要時間を算出する手段と、画像データ取得時から計時を開始する計時手段と、算出した所要時間が経過したか否かを判断する手段と、該手段で経過したと判断した場合、前記路面温度計測手段で計測した路面の温度を取得する手段と、複数時点での路面の温度及び前記計測点の出力値に基づいて撮像素子ごとの補正係数を算出する手段と、算出した補正係数を送信する手段とを備え、前記遠赤外線撮像装置は、算出された補正係数を受信する手段と、受信した補正係数にて出力値を補正して外部へ出力する手段とを備えることを特徴とする。   In order to achieve the above object, a far-infrared imaging system according to a first aspect of the present invention includes a plurality of far-infrared imaging devices that have imaging elements arranged in a matrix and that capture an image around a vehicle, and a road surface below the vehicle A road surface temperature measuring means for measuring the temperature of the vehicle, and an arithmetic device connected to the far infrared imaging device and the road surface temperature measuring means so as to be able to communicate data, and outputs each image sensor based on the measured temperature of the road surface. A far-infrared imaging system that corrects and outputs a value includes speed detection means for detecting the speed of the vehicle, and the arithmetic unit displays each image data acquired from a plurality of far-infrared imaging devices at a predetermined position of the image. Based on the estimated distance and the speed of the vehicle, the specified measurement point is moved to the lower part of the vehicle based on the means for identifying the measured measurement point, the means for estimating the distance to the specified measurement point, and the vehicle speed. If it is determined that the time required to calculate, the time measuring means for starting time measurement from the time of image data acquisition, the means for determining whether the calculated required time has passed, Means for obtaining the temperature of the road surface measured by the road surface temperature measuring means, means for calculating a correction coefficient for each image sensor based on the temperature of the road surface at a plurality of time points and the output value of the measurement point, and the calculated correction coefficient The far-infrared imaging device comprises: means for receiving the calculated correction coefficient; and means for correcting the output value with the received correction coefficient and outputting it to the outside. To do.

また、第2発明に係る遠赤外線撮像システムは、第1発明において、前記遠赤外線撮像装置は、複数の時点で取得した路面の温度、及び前記計測点に対する撮像素子の出力値を一次近似して温度に対する出力値を補正するようにしてあることを特徴とする。   The far-infrared imaging system according to the second invention is the first invention, wherein the far-infrared imaging device linearly approximates the road surface temperature acquired at a plurality of points in time and the output value of the imaging device with respect to the measurement point. The output value with respect to the temperature is corrected.

また、第3発明に係る遠赤外線撮像システムは、第1又は第2発明において、前記遠赤外線撮像装置は、複数の時点で取得した路面の温度の差異を算出する手段と、算出した差異が所定値より小さいか否かを判断する手段と、該手段で小さいと判断した場合、温度に対する出力値を補正しないようにしてあることを特徴とする。   In the far-infrared imaging system according to a third aspect of the present invention, in the first or second aspect, the far-infrared imaging device includes a means for calculating a difference in road surface temperature obtained at a plurality of times, and the calculated difference is predetermined. A means for determining whether or not the value is smaller than the value and an output value with respect to the temperature are not corrected when the value is determined to be smaller by the means.

また、第4発明に係る遠赤外線撮像方法は、マトリックス状に配列された撮像素子を有し、車両の周辺の画像を撮像する複数の遠赤外線撮像装置と、車両下部の路面の温度を計測する路面温度計測手段と、前記遠赤外線撮像装置及び路面温度計測手段とデータ通信可能に接続してある演算装置とを用い、計測された路面の温度に基づいて撮像素子ごとに出力値を補正して出力する遠赤外線撮像方法において、前記演算装置にて、複数の遠赤外線撮像装置から取得した画像データごとに画像の所定の位置に表示される計測点を特定し、特定された計測点までの距離を推算し、推算された距離及び車両の速度に基づいて、特定された計測点が車両の下部に移動するまでの所要時間を算出し、画像データ取得時から計時を開始し、算出した所要時間が経過したか否かを判断し、該手段で経過したと判断した場合、前記路面温度計測手段で計測した路面の温度を取得し、複数時点での路面の温度及び前記計測点の出力値に基づいて撮像素子ごとの補正係数を算出し、算出した補正係数を送信し、前記遠赤外線撮像装置は、算出された補正係数を受信し、受信した補正係数にて出力値を補正して外部へ出力することを特徴とする。   A far-infrared imaging method according to a fourth aspect of the present invention includes a plurality of far-infrared imaging devices that have imaging elements arranged in a matrix and that capture an image around the vehicle, and measure the temperature of the road surface below the vehicle. Using the road surface temperature measuring means and the far infrared imaging device and the arithmetic device connected to the road surface temperature measuring means so as to be able to perform data communication, the output value is corrected for each image sensor based on the measured road surface temperature. In the far-infrared imaging method to be output, the calculation device specifies a measurement point displayed at a predetermined position of the image for each image data acquired from a plurality of far-infrared imaging devices, and the distance to the specified measurement point Based on the estimated distance and vehicle speed, calculate the time required for the specified measurement point to move to the lower part of the vehicle, start counting from the time of image data acquisition, and calculate the required time If it is determined whether or not it has elapsed, the temperature of the road surface measured by the road surface temperature measuring unit is acquired, and based on the road surface temperature at a plurality of time points and the output value of the measurement point The correction coefficient for each image sensor is calculated, the calculated correction coefficient is transmitted, and the far-infrared imaging device receives the calculated correction coefficient, corrects the output value with the received correction coefficient, and outputs the correction value to the outside It is characterized by doing.

第1発明、及び第4発明では、マトリックス状に配列された撮像素子を有し、車両の周辺の画像を撮像する複数の遠赤外線撮像装置と、車両下部の路面の温度を計測する路面温度計測手段と、遠赤外線撮像装置及び路面温度計測手段とデータ通信可能に接続してある演算装置とを用い、計測された路面の温度に基づいて撮像素子ごとに出力値を補正して出力する。演算装置にて、複数の遠赤外線撮像装置から取得した画像データごとに画像の所定の位置に表示される計測点を特定し、特定された計測点までの距離を推算する。推算された距離及び車両の速度に基づいて、特定された計測点が車両の下部に移動するまでの所要時間を算出する。画像データ取得時から所要時間が経過した時点で路面の温度を取得し、複数の時点での路面の温度及び計測点の出力値に基づいて撮像素子ごとの補正係数を算出する。遠赤外線撮像装置は、演算装置で算出された補正係数を取得し、該補正係数にて出力値を補正して外部へ出力する。異なる時点で撮像された画像の計測点は相違しており、路面の温度及び出力値が相違していることから、複数の時点で計測された路面の温度及び該路面の温度に対する撮像素子の出力値を基準として、出力値を遠赤外線撮像装置ごとに補正することにより、遠赤外線撮像装置が異なる場合であっても計測された路面の温度に対する出力値を略一致させることができる。したがって、複数の遠赤外線撮像装置で撮像された画像の明るさ、コントラスト等を略一致させることができ、障害物の検出精度を向上させることが可能となる。   In the first invention and the fourth invention, a plurality of far-infrared imaging devices that have imaging elements arranged in a matrix and that take an image around the vehicle, and a road surface temperature measurement that measures the temperature of the road surface below the vehicle The output value is corrected for each image sensor based on the measured temperature of the road surface using the means and a computing device connected to the far-infrared imaging device and the road surface temperature measuring means so as to be able to perform data communication. The calculation device specifies a measurement point displayed at a predetermined position of the image for each image data acquired from a plurality of far-infrared imaging devices, and estimates the distance to the specified measurement point. Based on the estimated distance and the speed of the vehicle, a time required until the specified measurement point moves to the lower part of the vehicle is calculated. The road surface temperature is acquired when the required time has elapsed since the image data acquisition, and the correction coefficient for each image sensor is calculated based on the road surface temperature and the output values of the measurement points at a plurality of time points. The far-infrared imaging device acquires the correction coefficient calculated by the arithmetic device, corrects the output value with the correction coefficient, and outputs the correction value to the outside. Since the measurement points of images taken at different time points are different and the road surface temperature and output value are different, the temperature of the road surface measured at a plurality of time points and the output of the image sensor with respect to the temperature of the road surface By correcting the output value for each far-infrared imaging device using the value as a reference, the output value with respect to the measured road surface temperature can be substantially matched even when the far-infrared imaging device is different. Therefore, the brightness, contrast, and the like of images captured by a plurality of far-infrared imaging devices can be substantially matched, and the obstacle detection accuracy can be improved.

第2発明では、遠赤外線撮像装置は、複数の時点で取得した路面の温度、及び計測点に対する撮像素子の出力値を一次近似して温度に対する出力値を補正する。異なる時点で撮像された画像の計測点は相違しており、路面の温度及び出力値が相違していることから、複数の時点で計測された路面の温度及び該路面の温度に対する撮像素子の出力値を一次近似することにより、少なくとも2点以上の路面の温度及び出力値に基づいて、出力値を遠赤外線撮像装置ごとに補正することができる。   In the second invention, the far-infrared imaging device corrects the output value with respect to the temperature by linearly approximating the temperature of the road surface acquired at a plurality of times and the output value of the imaging device with respect to the measurement point. Since the measurement points of images taken at different time points are different and the road surface temperature and output value are different, the temperature of the road surface measured at a plurality of time points and the output of the image sensor with respect to the temperature of the road surface By linearly approximating the value, the output value can be corrected for each far-infrared imaging device based on at least two road surface temperatures and output values.

第3発明では、遠赤外線撮像装置は、複数の時点で取得した路面の温度の差異を算出し、算出した差異が所定値より小さい場合には、温度に対する出力値を補正しない。温度差が過小である場合には、一次近似することによる誤差が過大となることから、過小である場合には記憶してあるオフセット補正値及びゲイン補正値を更新しないようにすることで、遠赤外線撮像装置の出力精度を高く維持することが可能となる。   In the third invention, the far-infrared imaging device calculates a difference in temperature of the road surface acquired at a plurality of time points, and does not correct the output value with respect to the temperature when the calculated difference is smaller than a predetermined value. When the temperature difference is excessively small, the error due to the first-order approximation becomes excessive. Therefore, when the temperature difference is excessively small, the stored offset correction value and gain correction value are not updated. It is possible to maintain high output accuracy of the infrared imaging device.

本発明によれば、複数の時点で取得した路面の温度、及び計測点に対する撮像素子の出力値を用いて出力値を補正して外部へ出力する。異なる時点で撮像された画像の計測点は相違しており、路面の温度及び出力値が相違していることから、複数の時点で計測された路面の温度及び該路面の温度に対する撮像素子の出力値を基準として、出力値を遠赤外線撮像装置ごとに補正することにより、遠赤外線撮像装置が異なる場合であっても計測された路面の温度に対する出力値を略一致させることができる。したがって、複数の遠赤外線撮像装置で撮像された画像の明るさ、コントラスト等を略一致させることができ、障害物の検出精度を向上させることが可能となる。   According to the present invention, the output value is corrected using the road surface temperature acquired at a plurality of points in time and the output value of the image sensor with respect to the measurement point, and output to the outside. Since the measurement points of images taken at different time points are different and the road surface temperature and output value are different, the temperature of the road surface measured at a plurality of time points and the output of the image sensor with respect to the temperature of the road surface By correcting the output value for each far-infrared imaging device using the value as a reference, the output value with respect to the measured road surface temperature can be substantially matched even when the far-infrared imaging device is different. Therefore, the brightness, contrast, and the like of images captured by a plurality of far-infrared imaging devices can be substantially matched, and the obstacle detection accuracy can be improved.

以下、本発明の実施の形態について、図面を参照しながら詳細に説明する。図1は、本発明の実施の形態に係る遠赤外線撮像システムの構成を模式的に示す図である。本実施の形態では、走行中に周辺の画像を撮像する一組の遠赤外線撮像装置1、1を、車両前方の中央近傍のフロントグリル内(バンパー内でも可能)に搭載している。なお、遠赤外線撮像装置1、1は、波長が7〜14マイクロメートルの赤外光を用いた撮像装置である。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. FIG. 1 is a diagram schematically showing a configuration of a far-infrared imaging system according to an embodiment of the present invention. In the present embodiment, a set of far-infrared imaging devices 1 and 1 that capture surrounding images while traveling are mounted in the front grille near the center in front of the vehicle (also possible in a bumper). The far-infrared imaging devices 1 and 1 are imaging devices using infrared light having a wavelength of 7 to 14 micrometers.

図1において、遠赤外線撮像装置1、1は、車両のフロントグリル内の左右方向の略対称な位置に並置してある。遠赤外線撮像装置1、1で撮像された画像データは、NTSC等のアナログ映像方式、又はデジタル映像方式に対応した映像ケーブル7を介して接続してある演算装置3へ送信される。   In FIG. 1, far-infrared imaging devices 1 and 1 are juxtaposed in a substantially symmetrical position in the left-right direction within a front grill of a vehicle. Image data captured by the far-infrared imaging devices 1 and 1 is transmitted to an arithmetic device 3 connected via a video cable 7 corresponding to an analog video system such as NTSC or a digital video system.

演算装置3は、取得した遠赤外線画像データを用いて種々の演算処理を実行する。演算装置3は、遠赤外線撮像装置1、1の他、操作部を備えた表示装置4とは、NTSC、VGA、DVI等の映像方式に対応したケーブル8を介して接続されており、音声、効果音等により聴覚的な警告を発する警報装置5等の出力装置とは、CANに準拠した車載LANケーブル6を介して接続されている。   The arithmetic device 3 executes various arithmetic processes using the acquired far infrared image data. The arithmetic device 3 is connected to the far infrared imaging devices 1 and 1 and the display device 4 having an operation unit via a cable 8 corresponding to a video system such as NTSC, VGA, DVI, etc. An output device such as an alarm device 5 that emits an audible warning by a sound effect or the like is connected via an in-vehicle LAN cable 6 compliant with CAN.

また、演算装置3は、車両の速度を検出する車速センサ(速度検出手段)2及び路面温度センサ(路面温度計測手段)9ともCANに準拠した車載LANケーブル6を介して接続されており、それぞれ車両の速度及び路面の温度を取得することができる。   The computing device 3 is also connected to a vehicle speed sensor (speed detection means) 2 for detecting the speed of the vehicle and a road surface temperature sensor (road surface temperature measurement means) 9 via an in-vehicle LAN cable 6 compliant with CAN. The speed of the vehicle and the temperature of the road surface can be acquired.

図2は、本発明の実施の形態に係る遠赤外線撮像装置1の構成を示すブロック図である。図2において、画像撮像部11は、光学信号を電気信号に変換する撮像素子をマトリックス状に備えている。遠赤外線用の撮像素子としては、マイクロマシニング(micromachining)技術を用いた酸化バナジウムのボロメータ型、BSTO(Barium−Titanium Oxide)の焦電型等の赤外線センサを用いる。   FIG. 2 is a block diagram showing the configuration of the far-infrared imaging device 1 according to the embodiment of the present invention. In FIG. 2, the image capturing unit 11 includes an image sensor that converts an optical signal into an electrical signal in a matrix. As the far-infrared imaging device, an infrared sensor such as a vanadium oxide bolometer using a micromachining technique or a pyroelectric type using a BSTO (Barium-Titanium Oxide) is used.

画像撮像部11は、車両の周囲の赤外光像を輝度信号として読み取り、読み取った輝度信号を、LSI基板である信号処理部12へ送信する。図3は、本発明の実施の形態に係る遠赤外線撮像装置1の信号処理部12の構成を示すブロック図である。信号処理部12は、A/D変換部121、NUC(Non-Uniformity Correction)処理部122、BPR(Bad-Pixel Replacement)処理部123、及びフラッシュメモリ等の不揮発性メモリ、SRAM等の一時記憶用メモリであるRAM(記憶手段)125で構成されている。   The image capturing unit 11 reads an infrared light image around the vehicle as a luminance signal, and transmits the read luminance signal to the signal processing unit 12 that is an LSI substrate. FIG. 3 is a block diagram showing a configuration of the signal processing unit 12 of the far-infrared imaging device 1 according to the embodiment of the present invention. The signal processing unit 12 includes an A / D conversion unit 121, a NUC (Non-Uniformity Correction) processing unit 122, a BPR (Bad-Pixel Replacement) processing unit 123, a non-volatile memory such as a flash memory, and a temporary storage such as an SRAM. It is composed of a RAM (storage means) 125 that is a memory.

信号処理部12は、画像撮像部11から受信した輝度信号をA/D変換部121でデジタル信号に変換し、NUC(Non-Uniformity Correction)処理部122で撮像素子ごとに出力された輝度信号を補正する。   The signal processing unit 12 converts the luminance signal received from the image capturing unit 11 into a digital signal by the A / D conversion unit 121, and outputs the luminance signal output for each image sensor by the NUC (Non-Uniformity Correction) processing unit 122. to correct.

NUC処理部122では、キャリブレーションによる補正係数として、撮像素子ごとに所定の温度に対して出力される輝度値を補正するオフセット補正値、及び撮像素子ごとに所定の温度変化率に対して出力される輝度値の差異を補正するゲイン補正値を算出して、輝度信号を補正する。例えばi行j列のマトリックス状に配列された撮像素子ごとの輝度値をVijとした場合、NUC処理部122では(数1)に示す演算を行うことにより撮像素子ごとの輝度値をV’ijへ補正する。 The NUC processing unit 122 outputs, as a correction coefficient by calibration, an offset correction value for correcting a luminance value output for a predetermined temperature for each image sensor and a predetermined temperature change rate for each image sensor. A gain correction value for correcting a difference in brightness value is calculated to correct the brightness signal. For example, when the luminance value for each imaging element arranged in a matrix of i rows and j columns is V ij , the NUC processing unit 122 performs the calculation shown in (Equation 1) to obtain the luminance value for each imaging element as V ′. Correct to ij .

Figure 2008035365
Figure 2008035365

(数1)において、Gijはゲイン補正値を、Oijはオフセット補正値を示しており、例えば黒体炉、シャッター等の温度分布が均一である物体を撮像した場合の撮像素子ごとの輝度値に基づいて算出した値である。 In (Equation 1), G ij represents a gain correction value, and O ij represents an offset correction value. For example, the luminance for each image sensor when an object having a uniform temperature distribution such as a black body furnace or a shutter is imaged. It is a value calculated based on the value.

また、BPR処理部123では、補正された撮像素子ごとの輝度値をV’ijに対して欠陥画素補正を実行し、撮像素子ごとに輝度値をV’ijを補正輝度値V”ijに補正する。 Further, the BPR processing unit 123, the corrected luminance value for each image pickup element 'perform defective pixel correction to ij, V the luminance value for each image pickup element' V correction in the correction luminance value V "ij a ij To do.

複数の遠赤外線撮像装置1、1において、撮像対象物の温度が同一である場合には同一の輝度値を出力するよう出力値を補正するためには、温度分布が略均一である対象物の絶対温度を取得し、絶対温度に対応して出力される輝度値が略同一となるようにする温度補正係数を算出する必要がある。そこで、本実施の形態では、複数の時点で撮像した路面上の計測点の出力輝度値、及び該計測点での路面の温度を複数取得し、一次関数に近似することにより、複数の遠赤外線撮像装置1、1での同一温度に対する出力輝度値を略一致させている。   In the plurality of far-infrared imaging devices 1 and 1, in order to correct the output value so that the same luminance value is output when the temperature of the imaging object is the same, the object having a substantially uniform temperature distribution is used. It is necessary to obtain an absolute temperature and calculate a temperature correction coefficient so that the luminance values output corresponding to the absolute temperature are substantially the same. Therefore, in the present embodiment, a plurality of far-infrared rays are obtained by obtaining a plurality of output luminance values of measurement points on the road surface imaged at a plurality of time points and a road surface temperature at the measurement points and approximating to a linear function. The output luminance values for the same temperature in the imaging devices 1 and 1 are substantially matched.

本実施の形態では、路面の温度を検出する手段として、公知の赤外線センサ等の非接触型の路面温度センサ(路面温度計測手段)9を用いる。路面温度センサ9は、車両の下部中央近傍に設置されており、路面との距離が比較的短いことから近赤外線を照射することにより路面の温度を計測する。   In the present embodiment, a non-contact type road surface temperature sensor (road surface temperature measuring means) 9 such as a known infrared sensor is used as means for detecting the road surface temperature. The road surface temperature sensor 9 is installed in the vicinity of the center of the lower part of the vehicle, and measures the temperature of the road surface by irradiating near infrared rays since the distance to the road surface is relatively short.

信号処理部12は、車両前方の路面部分に相当する計測点が車両の下部に到達するまでの所要時間に基づいて、演算装置3にて算出された温度補正係数を受信し、BPR処理部123で欠陥画素を補正した輝度値をV’ijを補正輝度値V”ijに補正する。 The signal processing unit 12 receives the temperature correction coefficient calculated by the calculation device 3 based on the time required for the measurement point corresponding to the road surface portion ahead of the vehicle to reach the lower part of the vehicle, and the BPR processing unit 123. The luminance value obtained by correcting the defective pixel in step V ′ ij is corrected to the corrected luminance value V ″ ij .

通信インタフェース部14は、LSI基板であり、通信ケーブル等の通信線2を介して外部の装置から受信した指令に従って、画像メモリ13に記憶された画像データの外部の装置への送出、撮像した画像の解像度による転送レートの変換、画像データを送出するためのデータのフォーマット変換等を行う。   The communication interface unit 14 is an LSI substrate, and sends image data stored in the image memory 13 to an external device and takes a captured image in accordance with a command received from the external device via the communication line 2 such as a communication cable. The conversion of the transfer rate according to the resolution of the data, the format conversion of the data for transmitting the image data, and the like are performed.

図4は、本発明の実施の形態に係る遠赤外線撮像システムの演算装置3の構成を示すブロック図である。演算装置3は画像処理ECUであり、少なくとも撮像装置インタフェース部31a、映像出力部31b、通信インタフェース部31c、画像メモリ32、及びRAM331を内蔵するLSI33で構成されている。   FIG. 4 is a block diagram showing a configuration of the arithmetic device 3 of the far infrared imaging system according to the embodiment of the present invention. The arithmetic device 3 is an image processing ECU, and includes at least an imaging device interface unit 31a, a video output unit 31b, a communication interface unit 31c, an image memory 32, and an LSI 33 incorporating a RAM 331.

撮像装置インタフェース部31aは、遠赤外線撮像装置1、1から映像信号の入力を行うとともに、演算装置3で算出されたオフセット補正値及びゲイン補正値を出力する。撮像装置インタフェース部31aは、遠赤外線撮像装置1、1から入力された画像データを、1フレーム単位に同期させて画像メモリ32に記憶する。また、映像出力部31bは、映像ケーブル8を介して液晶ディスプレイ等の表示装置4に対して画像データを出力する。   The imaging device interface unit 31 a inputs video signals from the far-infrared imaging devices 1 and 1 and outputs the offset correction value and gain correction value calculated by the arithmetic device 3. The imaging device interface unit 31a stores the image data input from the far-infrared imaging devices 1 and 1 in the image memory 32 in synchronization with one frame unit. The video output unit 31 b outputs image data to the display device 4 such as a liquid crystal display via the video cable 8.

通信インタフェース部31cは、車載LANケーブル6を介してブザー、スピーカ等の警報装置5に対して合成音等の出力信号を送信する。また、通信インタフェース部31cは、車載LANケーブル6を介して車速センサ2から車両の速度を、路面温度センサ9から路面の温度を、それぞれ受信し、RAM331に記憶する。   The communication interface unit 31 c transmits an output signal such as a synthesized sound to the alarm device 5 such as a buzzer or a speaker via the in-vehicle LAN cable 6. Further, the communication interface unit 31 c receives the vehicle speed from the vehicle speed sensor 2 and the road surface temperature from the road surface temperature sensor 9 via the in-vehicle LAN cable 6, and stores them in the RAM 331.

画像メモリ32は、SRAM、フラッシュメモリ、SDRAM等であり、撮像装置インタフェース部31aを介して遠赤外線撮像装置1、1から入力された画像データを記憶する。   The image memory 32 is an SRAM, flash memory, SDRAM or the like, and stores image data input from the far-infrared imaging devices 1 and 1 via the imaging device interface unit 31a.

図5及び図6は、本発明の実施の形態に係る遠赤外線撮像システムの演算装置3のLSI33の処理手順を示すフローチャートである。画像処理を行うLSI33は、画像メモリ32に記憶された画像データをフレーム単位で読み出し(ステップS501)、内蔵するタイマ等で計時を開始する(ステップS502)。LSI33は、周囲の輝度値が略均一である計測点を特定する(ステップS503)。本実施の形態では、計測点として、画像の中央近傍下方にて輝度値が略均一である領域に属する点を計測点として特定する。すなわち路面上の代表点として計測点を取得する。計測点を特定する方法は特に限定されるものではなく、路面上の一点を特定することさえできれば何でも良い。   5 and 6 are flowcharts showing a processing procedure of the LSI 33 of the arithmetic unit 3 of the far-infrared imaging system according to the embodiment of the present invention. The LSI 33 that performs image processing reads the image data stored in the image memory 32 in units of frames (step S501), and starts measuring time with a built-in timer or the like (step S502). The LSI 33 specifies measurement points where the surrounding luminance values are substantially uniform (step S503). In the present embodiment, as a measurement point, a point belonging to a region having a substantially uniform luminance value in the lower vicinity of the center of the image is specified as the measurement point. That is, a measurement point is acquired as a representative point on the road surface. The method for specifying the measurement point is not particularly limited, and any method may be used as long as one point on the road surface can be specified.

LSI33は、特定した計測点の左右の遠赤外線撮像装置1、1で撮像された画像の視差に基づいて、計測点の車両前端を原点とした座標系での位置座標を推算する(ステップS504)。LSI33は、速度センサ2から車両の速度を取得し(ステップS505)、位置座標を推算した計測点が、車両の移動により車両の下部に到達するまでの所要時間を算出する(ステップS506)。図7は、遠赤外線撮像装置1で撮像された画像の一例を示す図であり、図8は、所要時間算出方法の概念を模式的に示す図である。図7の例では、画像の中央近傍、すなわち車両の進行方向に路面が撮影されている。したがって、周囲の輝度値が略均一であり、画像の中央下方にて計測点P1を特定する。   The LSI 33 estimates the position coordinates in the coordinate system with the vehicle front end of the measurement point as the origin based on the parallax of the images captured by the left and right far-infrared imaging devices 1 and 1 at the specified measurement point (step S504). . The LSI 33 acquires the speed of the vehicle from the speed sensor 2 (step S505), and calculates the time required for the measurement point estimated from the position coordinates to reach the lower part of the vehicle due to the movement of the vehicle (step S506). FIG. 7 is a diagram illustrating an example of an image captured by the far-infrared imaging device 1, and FIG. 8 is a diagram schematically illustrating a concept of a required time calculation method. In the example of FIG. 7, the road surface is photographed in the vicinity of the center of the image, that is, in the traveling direction of the vehicle. Accordingly, the surrounding luminance values are substantially uniform, and the measurement point P1 is specified at the lower center of the image.

計測点P1の位置座標は、左右の遠赤外線撮像装置1、1で撮像された画像のステレオ視により推算できる。すなわち、図8に示す車両前端から計測点P1までの距離Lは容易に推定することができる。また、路面の温度を計測する路面温度センサ9の取付位置P2は自明であることから、車両の前端から路面温度センサ9の取付位置P2までの距離lも取得することができる。したがって、計測点P1が路面温度センサ9の下方にまで移動する所要時間ΔTは、速度センサ2で検出された車両の速度をVとした場合、(L+l)/Vで求めることができる。   The position coordinates of the measurement point P1 can be estimated by stereo viewing of images captured by the left and right far-infrared imaging devices 1 and 1. That is, the distance L from the vehicle front end to the measurement point P1 shown in FIG. 8 can be easily estimated. Further, since the mounting position P2 of the road surface temperature sensor 9 for measuring the road surface temperature is self-evident, the distance l from the front end of the vehicle to the mounting position P2 of the road surface temperature sensor 9 can also be acquired. Therefore, the required time ΔT for the measurement point P1 to move to below the road surface temperature sensor 9 can be obtained by (L + 1) / V, where V is the vehicle speed detected by the speed sensor 2.

LSI33は、算出した所要時間ΔTが経過したか否かを判断し(ステップS507)、LSI33が、所要時間ΔTが経過したと判断した場合(ステップS507:YES)、LSI33は、路面温度センサ9で計測した路面の温度を取得し(ステップS508)、計測点の出力輝度値と対応付けてRAM331に記憶する(ステップS509)。   The LSI 33 determines whether or not the calculated required time ΔT has elapsed (step S507), and if the LSI 33 determines that the required time ΔT has elapsed (step S507: YES), the LSI 33 is the road surface temperature sensor 9. The measured road surface temperature is acquired (step S508) and stored in the RAM 331 in association with the output luminance value of the measurement point (step S509).

LSI33は、直近の路面の温度及び出力輝度値が、既にRAM331に記憶されているか否かを判断し(ステップS510)、LSI33が、記憶されていると判断した場合(ステップS510:YES)、LSI33は、2組の路面の温度及び出力輝度値をRAM331から読み出して、一次補間した場合の一次関数を算出して(ステップS511)、出力輝度値が該一次関数に従うように、BPR処理部123で欠陥画素を補正した撮像素子ごとの輝度値をV’ijを補正輝度値V”ijに補正する(ステップS512)。 The LSI 33 determines whether or not the latest road surface temperature and output luminance value are already stored in the RAM 331 (step S510), and if the LSI 33 determines that they are stored (step S510: YES), the LSI 33 Reads out the temperature and output luminance values of the two sets of road surfaces from the RAM 331, calculates a linear function when linear interpolation is performed (step S511), and causes the BPR processing unit 123 so that the output luminance value follows the linear function. The luminance value of each image sensor that has corrected the defective pixel is corrected to V ′ ij as the corrected luminance value V ″ ij (step S512).

図9は、一次関数を求める方法の概要を示す図である。RAM331に記憶してある2組の路面の温度及び出力輝度値を、それぞれ(T1、V1)、(T2、V2)とした場合、図9に示すように2点(T1、V1)、(T2、V2)間を最小二乗法等により直線補間することにより、温度Tと輝度Vとの一次関数Fを算出する。   FIG. 9 is a diagram showing an outline of a method for obtaining a linear function. When the temperature and output luminance values of the two sets of road surfaces stored in the RAM 331 are (T1, V1) and (T2, V2), respectively, two points (T1, V1), (T2) as shown in FIG. , V2) is linearly interpolated by the least square method or the like to calculate a linear function F of the temperature T and the luminance V.

求める一次関数Fは、2点補間の場合には一義的に定まる。例えば2点(T1、V1)、(T2、V2)を用いた場合、撮像素子ごとの補正輝度値V”ijを用いて補正した温度Tijを算出する一次関数Fは、(数2)で表すことができる。 The obtained linear function F is uniquely determined in the case of two-point interpolation. For example, when two points (T1, V1) and (T2, V2) are used, the linear function F for calculating the temperature T ij corrected using the corrected luminance value V ″ ij for each image sensor is given by (Equation 2). Can be represented.

Figure 2008035365
Figure 2008035365

(数2)に示すように補正輝度値V”ijを用いて温度を補正することにより、異なる遠赤外線撮像装置1、1であっても、同一の対象物を撮像した場合には略同一の輝度値を出力することが可能となる。 As shown in (Expression 2), by correcting the temperature using the corrected luminance value V ″ ij , even when different far-infrared imaging devices 1 and 1 are imaged, they are substantially the same when imaging the same object. A luminance value can be output.

LSI33が、記憶されていないと判断した場合(ステップS510:NO)、LSI33は、ステップS501へ処理を戻し、上述した処理を繰り返すことにより、次のタイミングでの路面の温度及び出力輝度値を取得する。LSI33は、(数3)に示す一次関数Fの係数A、B、すなわち温度補正係数を遠赤外線撮像装置1、1へ送信する(ステップS513)。   When the LSI 33 determines that it is not stored (step S510: NO), the LSI 33 returns the process to step S501 and repeats the above-described process to obtain the road surface temperature and output luminance value at the next timing. To do. The LSI 33 transmits the coefficients A and B of the linear function F shown in (Equation 3), that is, the temperature correction coefficient, to the far-infrared imaging devices 1 and 1 (step S513).

Figure 2008035365
Figure 2008035365

なお、2点(T1、V1)、(T2、V2)間を最小二乗法等により直線補間することにより、温度Tと輝度Vとの一次関数Fを算出する場合、2点が近接している場合には誤差が大きくなる。そこで、例えばLSI33に2点の温度差(T2−T1)を算出させ、(T2−T1)が所定の温度差(例えば0.5度)より小さい場合には一次近似を行わないようにしても良い。   Note that when the linear function F between the temperature T and the luminance V is calculated by linear interpolation between the two points (T1, V1) and (T2, V2) by the least square method or the like, the two points are close to each other. In some cases, the error increases. Therefore, for example, the LSI 33 calculates the temperature difference (T2−T1) at two points, and when (T2−T1) is smaller than a predetermined temperature difference (for example, 0.5 degree), the primary approximation is not performed. good.

以下、遠赤外線撮像装置1、1の信号処理部12での出力された輝度信号(出力値)の補正処理について説明する。図10は、本発明の実施の形態に係る遠赤外線撮像装置1の信号処理部12の出力された輝度信号の補正処理の手順を示すフローチャートである。   Hereinafter, correction processing of the output luminance signal (output value) in the signal processing unit 12 of the far-infrared imaging devices 1 and 1 will be described. FIG. 10 is a flowchart showing a procedure for correcting the luminance signal output from the signal processing unit 12 of the far-infrared imaging device 1 according to the embodiment of the present invention.

遠赤外線撮像装置1の画像撮像部11は、温度分布が略均一である前方の路面を撮像し、撮像素子ごとの出力値が信号処理部12へ送信される。信号処理部12は、画像撮像部11から撮像素子ごとの輝度信号を受信し(ステップS1001)、デジタル信号Vijへ変換する(ステップS1002)。 The image capturing unit 11 of the far-infrared imaging device 1 captures a front road surface having a substantially uniform temperature distribution, and an output value for each image sensor is transmitted to the signal processing unit 12. The signal processing unit 12 receives a luminance signal for each image sensor from the image capturing unit 11 (step S1001), and converts it into a digital signal V ij (step S1002).

信号処理部12は、RAM125に記憶してあるオフセット補正値及びゲイン補正値を用いて、画像撮像部11で撮像された輝度信号を補正し(ステップS1003)、補正輝度値V”ijを演算装置3へ出力する。信号処理部12は、演算装置3にて算出された一次関数Fの温度補正係数A、Bの受信待ち状態となる(ステップS1004)。 The signal processing unit 12 corrects the luminance signal imaged by the image imaging unit 11 using the offset correction value and the gain correction value stored in the RAM 125 (step S1003), and calculates the corrected luminance value V ″ ij The signal processing unit 12 waits to receive the temperature correction coefficients A and B of the linear function F calculated by the arithmetic device 3 (step S1004).

信号処理部12が、一次関数Fの温度補正係数A、Bを受信した場合(ステップS1004:YES)、信号処理部12は、受信した一次関数Fの温度補正係数A、BをRAM125に記憶し、補正輝度値V”ijを用いて(数2)に従って算出した補正温度Tijを出力する(ステップS1005)。 When the signal processing unit 12 receives the temperature correction coefficients A and B of the linear function F (step S1004: YES), the signal processing unit 12 stores the received temperature correction coefficients A and B of the linear function F in the RAM 125. Then, the corrected temperature T ij calculated according to ( Equation 2) using the corrected luminance value V ″ ij is output (step S1005).

以後、信号処理部12は、RAM125に記憶された一次関数Fの温度補正係数A、Bを用いて、補正温度Tijを出力する。このようにすることで、異なる遠赤外線撮像装置1であっても、同一の対象物を撮像した場合には、同一の温度に対して略同一の輝度値を出力することができ、複数の遠赤外線撮像装置1、1で撮像された画像の明るさ、コントラスト等を略一致させることができ、障害物の検出精度を向上させることが可能となる。 Thereafter, the signal processing unit 12 outputs the correction temperature T ij using the temperature correction coefficients A and B of the linear function F stored in the RAM 125. By doing in this way, even if it is different far-infrared imaging devices 1, when the same subject is imaged, it is possible to output substantially the same luminance value for the same temperature, and to The brightness, contrast, and the like of the images captured by the infrared imaging devices 1 and 1 can be substantially matched, and the obstacle detection accuracy can be improved.

また、過去に算出された温度補正係数A、BをRAM331に履歴情報として記憶しておき、新たに算出された温度補正係数A、Bが、記憶されている値と大きく乖離している場合には、新たに算出された温度補正係数A、Bを遠赤外線撮像装置1、1へ送信しないようにすることが望ましい。算出誤差を抑制するためである。   Further, when the temperature correction coefficients A and B calculated in the past are stored in the RAM 331 as history information, and the newly calculated temperature correction coefficients A and B are greatly different from the stored values. It is desirable not to transmit the newly calculated temperature correction coefficients A and B to the far-infrared imaging devices 1 and 1. This is to suppress calculation errors.

以上のように本実施の形態によれば、計測された路面の温度及び該路面の温度に対する撮像素子の出力輝度値を基準として、複数の遠赤外線撮像装置1、1の撮像素子の出力輝度値を一次補間した温度補正係数を用いて補正することにより、計測された表面温度に対する出力輝度値を、遠赤外線撮像装置1、1、・・・が異なる場合であっても略一致させることができる。したがって、複数の遠赤外線撮像装置1、1、・・・で撮像された画像の明るさ、コントラスト等を略一致させることができ、障害物の検出精度を向上させることが可能となる。   As described above, according to the present embodiment, the output luminance values of the imaging elements of the plurality of far-infrared imaging devices 1 and 1 on the basis of the measured road surface temperature and the output luminance value of the imaging element with respect to the road surface temperature. By using the temperature correction coefficient obtained by linear interpolation, the output luminance value with respect to the measured surface temperature can be substantially matched even when the far-infrared imaging devices 1, 1,... Are different. . Therefore, the brightness, contrast, and the like of images captured by the plurality of far-infrared imaging devices 1, 1,... Can be substantially matched, and the obstacle detection accuracy can be improved.

また、本実施の形態では、遠赤外線撮像装置1の温度補正係数A、Bを演算装置3で算出して遠赤外線撮像装置1へフィードバックしているが、これに限定されるものではなく、遠赤外線撮像装置1内の画像処理部12で温度補正係数A、Bを算出しても良い。   In the present embodiment, the temperature correction coefficients A and B of the far-infrared imaging device 1 are calculated by the computing device 3 and fed back to the far-infrared imaging device 1, but the present invention is not limited to this. The temperature correction coefficients A and B may be calculated by the image processing unit 12 in the infrared imaging device 1.

本発明の実施の形態に係る遠赤外線撮像システムの構成を模式的に示す図である。It is a figure which shows typically the structure of the far-infrared imaging system which concerns on embodiment of this invention. 本発明の実施の形態に係る遠赤外線撮像装置の構成を示すブロック図である。It is a block diagram which shows the structure of the far-infrared imaging device which concerns on embodiment of this invention. 本発明の実施の形態に係る遠赤外線撮像装置の信号処理部の構成を示すブロック図である。It is a block diagram which shows the structure of the signal processing part of the far-infrared imaging device which concerns on embodiment of this invention. 本発明の実施の形態に係る遠赤外線撮像システムの演算装置の構成を示すブロック図である。It is a block diagram which shows the structure of the arithmetic unit of the far-infrared imaging system which concerns on embodiment of this invention. 本発明の実施の形態に係る遠赤外線撮像システムの演算装置のLSIの処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of LSI of the arithmetic unit of the far-infrared imaging system which concerns on embodiment of this invention. 本発明の実施の形態に係る遠赤外線撮像システムの演算装置のLSIの処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of LSI of the arithmetic unit of the far-infrared imaging system which concerns on embodiment of this invention. 遠赤外線撮像装置で撮像された画像の一例を示す図である。It is a figure which shows an example of the image imaged with the far-infrared imaging device. 所要時間算出方法の概念を模式的に示す図である。It is a figure which shows typically the concept of a required time calculation method. 一次関数を求める方法の概要を示す図である。It is a figure which shows the outline | summary of the method of calculating | requiring a linear function. 本発明の実施の形態に係る遠赤外線撮像装置の信号処理部の出力された輝度信号の補正処理の手順を示すフローチャートである。It is a flowchart which shows the procedure of the correction process of the luminance signal output of the signal processing part of the far-infrared imaging device which concerns on embodiment of this invention.

符号の説明Explanation of symbols

1 遠赤外線撮像装置
2 速度センサ
3 演算装置
9 路面温度センサ
11 画像撮像部
12 信号処理部
13 画像メモリ
14 通信インタフェース部
33 LSI
121 A/D変換部
122 NUC処理部
123 BPR処理部
125、331 RAM
DESCRIPTION OF SYMBOLS 1 Far-infrared imaging device 2 Speed sensor 3 Arithmetic device 9 Road surface temperature sensor 11 Image imaging part 12 Signal processing part 13 Image memory 14 Communication interface part 33 LSI
121 A / D converter 122 NUC processor 123 BPR processor 125, 331 RAM

Claims (4)

マトリックス状に配列された撮像素子を有し、車両の周辺の画像を撮像する複数の遠赤外線撮像装置と、
車両下部の路面の温度を計測する路面温度計測手段と、
前記遠赤外線撮像装置及び路面温度計測手段とデータ通信可能に接続してある演算装置と
を備え、計測された路面の温度に基づいて撮像素子ごとに出力値を補正して出力する遠赤外線撮像システムにおいて、
車両の速度を検出する速度検出手段を備え、
前記演算装置は、
複数の遠赤外線撮像装置から取得した画像データごとに画像の所定の位置に表示される計測点を特定する手段と、
特定された計測点までの距離を推算する手段と、
推算された距離及び車両の速度に基づいて、特定された計測点が車両の下部に移動するまでの所要時間を算出する手段と、
画像データ取得時から計時を開始する計時手段と、
算出した所要時間が経過したか否かを判断する手段と、
該手段で経過したと判断した場合、前記路面温度計測手段で計測した路面の温度を取得する手段と、
複数時点での路面の温度及び前記計測点の出力値に基づいて撮像素子ごとの補正係数を算出する手段と、
算出した補正係数を送信する手段と
を備え、
前記遠赤外線撮像装置は、
算出された補正係数を受信する手段と、
受信した補正係数にて出力値を補正して外部へ出力する手段と
を備えることを特徴とする遠赤外線撮像システム。
A plurality of far-infrared imaging devices that have imaging elements arranged in a matrix and that capture images of the periphery of the vehicle;
Road surface temperature measuring means for measuring the temperature of the road surface under the vehicle;
A far-infrared imaging system comprising: an arithmetic unit connected to the far-infrared imaging device and the road surface temperature measuring means so as to be able to perform data communication, and correcting and outputting an output value for each imaging device based on the measured temperature of the road surface In
A speed detecting means for detecting the speed of the vehicle;
The arithmetic unit is:
Means for specifying a measurement point displayed at a predetermined position of an image for each image data acquired from a plurality of far-infrared imaging devices;
Means for estimating the distance to the identified measurement point;
Means for calculating the time required for the identified measurement point to move to the lower part of the vehicle based on the estimated distance and the vehicle speed;
A timing means for starting timing from the time of image data acquisition;
Means for determining whether the calculated required time has elapsed;
Means for obtaining the temperature of the road surface measured by the road surface temperature measuring means when it is determined that the means has passed;
Means for calculating a correction coefficient for each image sensor based on the temperature of the road surface at a plurality of points in time and the output value of the measurement point;
Means for transmitting the calculated correction coefficient, and
The far-infrared imaging device is:
Means for receiving the calculated correction factor;
Means for correcting an output value with a received correction coefficient and outputting the corrected value to the outside.
前記遠赤外線撮像装置は、
複数の時点で取得した路面の温度、及び前記計測点に対する撮像素子の出力値を一次近似して温度に対する出力値を補正するようにしてあることを特徴とする請求項1記載の遠赤外線撮像システム。
The far-infrared imaging device is:
2. The far-infrared imaging system according to claim 1, wherein a temperature of the road surface acquired at a plurality of points in time and an output value of the imaging device for the measurement point are linearly approximated to correct an output value for the temperature. .
前記遠赤外線撮像装置は、
複数の時点で取得した路面の温度の差異を算出する手段と、
算出した差異が所定値より小さいか否かを判断する手段と、
該手段で小さいと判断した場合、温度に対する出力値を補正しないようにしてあることを特徴とする請求項1又は2記載の遠赤外線撮像システム。
The far-infrared imaging device is:
Means for calculating the difference in temperature of the road surface acquired at a plurality of points in time;
Means for determining whether the calculated difference is smaller than a predetermined value;
The far-infrared imaging system according to claim 1 or 2, wherein when the means determines that the value is small, the output value with respect to the temperature is not corrected.
マトリックス状に配列された撮像素子を有し、車両の周辺の画像を撮像する複数の遠赤外線撮像装置と、
車両下部の路面の温度を計測する路面温度計測手段と、
前記遠赤外線撮像装置及び路面温度計測手段とデータ通信可能に接続してある演算装置と
を用い、計測された路面の温度に基づいて撮像素子ごとに出力値を補正して出力する遠赤外線撮像方法において、
前記演算装置にて、
複数の遠赤外線撮像装置から取得した画像データごとに画像の所定の位置に表示される計測点を特定し、
特定された計測点までの距離を推算し、
推算された距離及び車両の速度に基づいて、特定された計測点が車両の下部に移動するまでの所要時間を算出し、
画像データ取得時から計時を開始し、
算出した所要時間が経過したか否かを判断し、
該手段で経過したと判断した場合、前記路面温度計測手段で計測した路面の温度を取得し、
複数時点での路面の温度及び前記計測点の出力値に基づいて撮像素子ごとの補正係数を算出し、
算出した補正係数を送信し、
前記遠赤外線撮像装置は、
算出された補正係数を受信し、
受信した補正係数にて出力値を補正して外部へ出力することを特徴とする遠赤外線撮像方法。
A plurality of far-infrared imaging devices that have imaging elements arranged in a matrix and that capture images of the periphery of the vehicle;
Road surface temperature measuring means for measuring the temperature of the road surface under the vehicle;
A far-infrared imaging method for correcting and outputting an output value for each image sensor based on the measured temperature of the road surface, using the far-infrared imaging device and an arithmetic device connected to the road surface temperature measuring means so as to be able to perform data communication In
In the arithmetic unit,
For each image data acquired from a plurality of far-infrared imaging devices, specify a measurement point displayed at a predetermined position of the image,
Estimate the distance to the specified measurement point,
Based on the estimated distance and vehicle speed, calculate the time required for the specified measurement point to move to the bottom of the vehicle,
Start timing from the time of image data acquisition,
Determine whether the calculated time has elapsed,
If it is determined that the means has passed, obtain the temperature of the road surface measured by the road surface temperature measuring means,
Calculate the correction coefficient for each image sensor based on the temperature of the road surface at multiple points in time and the output value of the measurement point,
Send the calculated correction factor,
The far-infrared imaging device is:
Receive the calculated correction factor,
A far infrared imaging method, wherein an output value is corrected with a received correction coefficient and output to the outside.
JP2006208380A 2006-07-31 2006-07-31 Far infrared imaging system and far infrared imaging method Expired - Fee Related JP4816308B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006208380A JP4816308B2 (en) 2006-07-31 2006-07-31 Far infrared imaging system and far infrared imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006208380A JP4816308B2 (en) 2006-07-31 2006-07-31 Far infrared imaging system and far infrared imaging method

Publications (2)

Publication Number Publication Date
JP2008035365A true JP2008035365A (en) 2008-02-14
JP4816308B2 JP4816308B2 (en) 2011-11-16

Family

ID=39124294

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006208380A Expired - Fee Related JP4816308B2 (en) 2006-07-31 2006-07-31 Far infrared imaging system and far infrared imaging method

Country Status (1)

Country Link
JP (1) JP4816308B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100378132C (en) * 2003-05-09 2008-04-02 太阳油墨制造株式会社 Photocuring/thermosetting inkjet composition and printed wiring board using same
US9819925B2 (en) 2014-04-18 2017-11-14 Cnh Industrial America Llc Stereo vision for sensing vehicles operating environment

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60231193A (en) * 1984-05-01 1985-11-16 Honda Motor Co Ltd Vehicular view field monitoring system
JP2005096752A (en) * 1999-01-14 2005-04-14 Matsushita Electric Ind Co Ltd Infrared ray image pickup device, and vehicle with the device mounted thereon

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60231193A (en) * 1984-05-01 1985-11-16 Honda Motor Co Ltd Vehicular view field monitoring system
JP2005096752A (en) * 1999-01-14 2005-04-14 Matsushita Electric Ind Co Ltd Infrared ray image pickup device, and vehicle with the device mounted thereon

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100378132C (en) * 2003-05-09 2008-04-02 太阳油墨制造株式会社 Photocuring/thermosetting inkjet composition and printed wiring board using same
US9819925B2 (en) 2014-04-18 2017-11-14 Cnh Industrial America Llc Stereo vision for sensing vehicles operating environment

Also Published As

Publication number Publication date
JP4816308B2 (en) 2011-11-16

Similar Documents

Publication Publication Date Title
EP3114430B1 (en) Calibration method, calibration device, and computer program product
JP4910529B2 (en) Obstacle detection system and obstacle detection method
JP6970577B2 (en) Peripheral monitoring device and peripheral monitoring method
JP2006322853A (en) Distance measuring device, distance measuring method and distance measuring program
JP2008026998A (en) Obstacle location calculation system and method
JP6970568B2 (en) Vehicle peripheral monitoring device and peripheral monitoring method
JP4742883B2 (en) Far-infrared imaging device and output value correction method
JPWO2017042998A1 (en) In-vehicle stereo camera device and correction method thereof
KR20200118073A (en) System and method for dynamic three-dimensional calibration
JP2008174028A (en) Target detection system and method
JP4816308B2 (en) Far infrared imaging system and far infrared imaging method
JP2007045336A (en) System and method for detecting obstacle
JP2008026999A (en) Obstacle detection system and obstacle detection method
JP2007174113A (en) Obstacle detection system and obstacle detection method
JP2007336288A (en) Obstacle detection system and obstacle detection method
JP2007174112A (en) Far-infrared imaging apparatus and output value correction method
JP2017078692A (en) Drive assisting information output device and drive assisting information output method
JP2007325120A (en) Far infrared imaging system and far infrared imaging method
JP2007153087A (en) System and method for determining collision with obstacle, and computer program
JP4835332B2 (en) Far infrared imaging system and far infrared imaging method
JP2008042759A (en) Image processing apparatus
JP4739833B2 (en) Vehicle stop detection device, car navigation device
JPWO2017042995A1 (en) In-vehicle stereo camera device and correction method thereof
JP5580062B2 (en) Obstacle detection alarm device
JP3099692B2 (en) Method of measuring the position of an object on a traveling path

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110711

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110802

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110815

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140909

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees