JP2008135856A - Body recognizing device - Google Patents

Body recognizing device Download PDF

Info

Publication number
JP2008135856A
JP2008135856A JP2006318963A JP2006318963A JP2008135856A JP 2008135856 A JP2008135856 A JP 2008135856A JP 2006318963 A JP2006318963 A JP 2006318963A JP 2006318963 A JP2006318963 A JP 2006318963A JP 2008135856 A JP2008135856 A JP 2008135856A
Authority
JP
Japan
Prior art keywords
luminance
infrared
distance
captured image
light irradiation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006318963A
Other languages
Japanese (ja)
Inventor
Shinya Kawamata
進也 川真田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2006318963A priority Critical patent/JP2008135856A/en
Publication of JP2008135856A publication Critical patent/JP2008135856A/en
Pending legal-status Critical Current

Links

Abstract

<P>PROBLEM TO BE SOLVED: To provide a body recognizing device capable of recognizing an object by a single imaging means while taking the distance to the object into consideration. <P>SOLUTION: A near-infrared night vision device 1 to which the body recognizing device according to the present invention is applied includes a near-infrared-ray projector 10 which projects near infrared rays, a single-lens near-infrared camera 12, a control unit 21 which controls the lamp power of the near-infrared-ray projector 10 according to a vehicle speed, and an ECU 20 having a recognizing unit 22 which recognizes a walker from an image picked up by the near-infrared camera 12. The control unit 21 controls the lamp power of the near-infrared-ray projector 10 so that the luminance of a walker at a distance of a TTC (prediction time to collision) of <4 seconds gets saturated. Further, the recognizing unit 22 decides that a walker having saturated luminance in the picked-up image is present at a distance of a TTC of <4 seconds (within a predetermined distance) and excludes the walker from a target to be warned. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、物体認識装置に関する。   The present invention relates to an object recognition apparatus.

メイン投光器により近赤外線を照射しつつメインカメラによりドライバの顔を撮像するとともに、サブ投光器により近赤外線を照射しつつサブカメラによりドライバの顔を撮像し、メインカメラおよびサブカメラの画像を用いて、三角測量の原理に基づきドライバの顔との距離を求める技術が特許文献1に記載されている。
特開2005−323180号公報
While imaging the driver's face with the main camera while irradiating the near infrared rays with the main projector, imaging the driver's face with the sub camera while irradiating the near infrared rays with the sub projector, and using the images of the main camera and the sub camera, A technique for obtaining a distance from a driver's face based on the principle of triangulation is described in Patent Document 1.
JP-A-2005-323180

このように、三角測量の原理を利用して対象物までの距離を求めるためには、複数のカメラが必要になる。一方、例えば自動車では、近年、運転支援や危険予知、危険回避支援などのために複数台のカメラが一台の車両に搭載されるようになってきており、コストや搭載性の問題などが生じてきている。   As described above, in order to obtain the distance to the object using the principle of triangulation, a plurality of cameras are required. On the other hand, for example, in an automobile, in recent years, a plurality of cameras have been mounted on a single vehicle for driving assistance, danger prediction, danger avoidance assistance, etc., resulting in problems such as cost and mountability. It is coming.

本発明は、上記問題点を解消する為になされたものであり、単一の撮像手段により対象物との距離を考慮して該対象物を認識することが可能な物体認識装置を提供することを目的とする。   The present invention has been made to solve the above problems, and provides an object recognition apparatus capable of recognizing an object in consideration of the distance to the object by a single imaging means. With the goal.

本発明に係る物体認識装置は、光を照射する光照射手段と、光照射手段の出力を調節する制御手段と、光照射手段により光が照射されている領域を撮像する単一の撮像手段と、撮像手段により撮像された画像から対象物を認識する認識手段とを備え、制御手段が、所定距離離れた対象物の撮像画像中の輝度が所定輝度となるように光照射手段の出力を調節し、認識手段が、対象物の撮像画像中の輝度を考慮して対象物を認識することを特徴とする。   An object recognition apparatus according to the present invention includes: a light irradiating unit that irradiates light; a control unit that adjusts an output of the light irradiating unit; a single imaging unit that images a region irradiated with light by the light irradiating unit; A recognition means for recognizing an object from an image picked up by the image pickup means, and the control means adjusts the output of the light irradiation means so that the luminance in the picked-up image of the object at a predetermined distance becomes a predetermined luminance. The recognition means recognizes the object in consideration of the luminance in the captured image of the object.

本発明に係る物体認識装置によれば、所定距離離れた対象物の撮像画像中の輝度が所定輝度となるように光照射手段の出力が調節されることにより、対象物の撮像画像中の輝度と該対象物までの距離とが関係付けられる。そのため、対象物を認識する際に該対象物の撮像画像中の輝度を考慮することにより、対象物との距離を考慮して該対象物を認識することが可能となる。   According to the object recognition device of the present invention, the brightness of the captured image of the target object is adjusted by adjusting the output of the light irradiation means so that the brightness of the captured image of the target object at a predetermined distance becomes the predetermined brightness. And the distance to the object. Therefore, by recognizing the luminance in the captured image of the object when recognizing the object, the object can be recognized in consideration of the distance from the object.

本発明に係る物体認識装置では、上記制御手段が、所定距離内に存在する対象物の撮像画像中の輝度が飽和するように光照射手段の出力を調節することが好ましい。また、その際に、撮像画像中の輝度が飽和している対象物については、上記所定距離内に存在していると上記認識手段によって認識することにより、対象物との距離を直接測定することなく、対象物との距離を考慮して該対象物を認識することが可能となる。   In the object recognition apparatus according to the present invention, it is preferable that the control unit adjusts the output of the light irradiation unit so that the luminance in the captured image of the target existing within a predetermined distance is saturated. At that time, for the object whose luminance in the captured image is saturated, the distance to the object is directly measured by recognizing the object within the predetermined distance by the recognition means. Instead, the object can be recognized in consideration of the distance to the object.

本発明に係る物体認識装置では、上記認識手段が、所定距離内に存在していると認識された対象物を認識対象から除外することが好ましい。   In the object recognition apparatus according to the present invention, it is preferable that the recognition means excludes an object recognized as being present within a predetermined distance from the recognition object.

例えば、車両の運転者に対して接近する検出対象物についての注意を喚起するような状況において、所定距離内の近距離にある対象物については、運転者の肉眼で認識させた方が好ましい場合がある。本発明に係る物体認識装置によれば、所定距離内に存在していると認識された対象物が認識対象から除外されるため、上述したような状況において、対象物との距離に応じた適切な注意喚起を行うことが可能となる。   For example, in a situation that calls attention to a detection object approaching the driver of the vehicle, it is preferable to recognize the object at a short distance within a predetermined distance with the naked eye of the driver There is. According to the object recognition device of the present invention, the object recognized as existing within the predetermined distance is excluded from the recognition object. It is possible to call attention.

本発明に係る物体認識装置では、上記制御手段が、撮像手段の感度および/または露光時間に応じて、光照射手段の出力を調節することが好ましい。   In the object recognition apparatus according to the present invention, it is preferable that the control unit adjusts the output of the light irradiation unit according to the sensitivity of the imaging unit and / or the exposure time.

対象物の撮像画像中の輝度は、撮像手段の感度および/または露光時間によっても変化する。本発明に係る物体認識装置によれば、撮像手段の感度および/または露光時間に応じて光照射手段の出力が調節されるため、より適切に対象物の撮像画像中の輝度を調節することが可能となる。   The luminance in the captured image of the object also changes depending on the sensitivity of the imaging means and / or the exposure time. According to the object recognition device of the present invention, since the output of the light irradiation unit is adjusted according to the sensitivity and / or the exposure time of the imaging unit, it is possible to more appropriately adjust the luminance in the captured image of the object. It becomes possible.

また、制御手段は、物体認識装置の移動速度に応じて、光照射手段の出力を調節することが好ましい。   Moreover, it is preferable that a control means adjusts the output of a light irradiation means according to the moving speed of an object recognition apparatus.

この場合には、所定輝度となる対象物との距離が移動速度に応じて調節されることになるため、対象物に到達するまでの時間を考慮して該対象物を認識することが可能となる。   In this case, since the distance to the object having a predetermined luminance is adjusted according to the moving speed, it is possible to recognize the object in consideration of the time until it reaches the object. Become.

本発明に係る物体認識装置は、光を照射する光照射手段と、光照射手段により光が照射されている領域を撮像する単一の撮像手段と、光照射手段の出力、および、撮像手段の感度並びに露光時間を調節する制御手段と、撮像手段により撮像された画像から対象物を認識する認識手段とを備え、制御手段が、所定距離離れた対象物の撮像画像中の輝度が所定輝度となるように、光照射手段の出力および撮像手段の感度並びに露光時間のうち少なくとも一つを調節し、認識手段が、対象物の撮像画像中の輝度を考慮して対象物を認識することを特徴とする。   An object recognition apparatus according to the present invention includes a light irradiation unit that irradiates light, a single imaging unit that images a region irradiated with light by the light irradiation unit, an output of the light irradiation unit, and an imaging unit A control unit that adjusts sensitivity and exposure time; and a recognition unit that recognizes an object from an image captured by the imaging unit. The control unit is configured such that the luminance in the captured image of the object separated by a predetermined distance is a predetermined luminance. As described above, at least one of the output of the light irradiation unit, the sensitivity of the imaging unit, and the exposure time is adjusted, and the recognition unit recognizes the target in consideration of the luminance in the captured image of the target. And

対象物の撮像画像中の輝度は、光照射手段の出力、撮像手段の感度や露光時間によって変化する。本発明に係る物体認識装置によれば、所定距離離れた対象物の撮像画像中の輝度が所定輝度となるように光照射手段の出力および撮像手段の感度並びに露光時間のうち少なくとも一つが調節されることにより、対象物の撮像画像中の輝度と該対象物までの距離とが関係付けられる。そのため、対象物を認識する際に該対象物の撮像画像中の輝度を考慮することにより、対象物との距離を考慮して該対象物を認識することができる。また、輝度調節の制御自由度を大きくすることが可能となる。   The luminance in the captured image of the object changes depending on the output of the light irradiation means, the sensitivity of the imaging means, and the exposure time. According to the object recognition apparatus of the present invention, at least one of the output of the light irradiation unit, the sensitivity of the imaging unit, and the exposure time is adjusted so that the luminance in the captured image of the object that is separated by a predetermined distance becomes the predetermined luminance. As a result, the luminance in the captured image of the target object is related to the distance to the target object. Therefore, when the object is recognized, the object can be recognized in consideration of the distance from the object by considering the luminance in the captured image of the object. In addition, it is possible to increase the degree of freedom in controlling brightness adjustment.

本発明に係る物体認識装置は、光を照射する光照射手段と、光照射手段により光が照射されている領域を撮像する単一の撮像手段と、撮像手段により撮像された画像の輝度を補正する補正手段と、補正手段により補正された画像から対象物を認識する認識手段とを備え、補正手段が、所定距離離れた対象物の撮像画像中の輝度が所定輝度となるように、撮像された画像の輝度を補正し、認識手段が、補正後の対象物の撮像画像中の輝度を考慮して対象物を認識することを特徴とする。   An object recognition apparatus according to the present invention includes a light irradiating unit that irradiates light, a single imaging unit that captures an area irradiated with light by the light irradiating unit, and a luminance correction of an image captured by the imaging unit. Correction means for recognizing the object from the image corrected by the correction means, and the correction means is imaged so that the luminance in the captured image of the object separated by a predetermined distance becomes the predetermined luminance. The brightness of the obtained image is corrected, and the recognition means recognizes the object in consideration of the brightness in the captured image of the corrected object.

本発明に係る物体認識装置によれば、所定距離離れた対象物の撮像画像中の輝度が所定輝度となるように撮像された画像の輝度が補正されることにより、対象物の撮像画像中の輝度と該対象物までの距離とが関係付けられる。そのため、対象物を認識する際に補正後の該対象物の輝度を考慮することにより、対象物との距離を考慮して該対象物を認識することが可能となる。   According to the object recognition device of the present invention, the brightness of an image captured so that the brightness in the captured image of the object separated by a predetermined distance becomes the predetermined brightness, thereby correcting the brightness in the captured image of the object. The brightness and the distance to the object are related. Therefore, by considering the corrected luminance of the object when recognizing the object, the object can be recognized in consideration of the distance from the object.

本発明によれば、所定距離離れた対象物の撮像画像中の輝度が所定輝度となるように光照射手段の出力を調節するとともに、対象物の撮像画像中の輝度を考慮して対象物を認識する構成としたので、単一の撮像手段により対象物との距離を考慮して該対象物を認識することが可能となる。   According to the present invention, the output of the light irradiation means is adjusted so that the luminance in the captured image of the object separated by a predetermined distance becomes the predetermined luminance, and the target is determined in consideration of the luminance in the captured image of the object. Since the recognition configuration is adopted, the object can be recognized in consideration of the distance from the object by a single imaging unit.

以下、図面を参照して本発明の好適な実施形態について詳細に説明する。図中、同一又は相当部分には同一符号を用いることとする。   DESCRIPTION OF EMBODIMENTS Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings. In the figure, the same reference numerals are used for the same or corresponding parts.

[第1実施形態]
まず、図1〜図6を用いて、第1実施形態に係る物体認識装置の構成について説明する。なお、ここでは、第1実施形態に係る物体認識装置が車両に搭載される近赤外線暗視装置1に適用された場合を例にして説明する。図1は、近赤外線暗視装置1の構成を示すブロック図である。図2は、近赤外線暗視装置1の近赤外線照射距離を説明するための図である。また、図3は、車速と対象物までの距離、対象物までの距離と対象物輝度、対象物輝度とランプパワー、および車速とランプパワーの関係を示す四象現グラフである。図4は50m前方にいる人物の輝度を示す図であり、図5は100m前方にいる人物の輝度を示す図である。また、図6は、人物との距離と画素輝度値との関係を示すグラフである。
[First Embodiment]
First, the configuration of the object recognition apparatus according to the first embodiment will be described with reference to FIGS. Here, the case where the object recognition device according to the first embodiment is applied to the near-infrared night vision device 1 mounted on a vehicle will be described as an example. FIG. 1 is a block diagram showing a configuration of the near-infrared night vision device 1. FIG. 2 is a diagram for explaining the near infrared irradiation distance of the near infrared night vision apparatus 1. FIG. 3 is a quadrant graph showing the relationship between the vehicle speed and the distance to the object, the distance to the object and the object brightness, the object brightness and the lamp power, and the relationship between the vehicle speed and the lamp power. FIG. 4 is a diagram showing the luminance of a person who is 50 meters ahead, and FIG. 5 is a diagram showing the luminance of a person who is 100 meters ahead. FIG. 6 is a graph showing the relationship between the distance to a person and the pixel luminance value.

近赤外線暗視装置1は、夜間走行時の運転者を支援するために、近赤外線カメラにより撮像された車両前方の近赤外線画像を表示するとともに、撮像画像から対象物である歩行者を認識して、その認識結果(歩行者情報)を近赤外線画像に重畳して表示するものである。近赤外線暗視装置1は、主として、2台の近赤外線投光器10,10、単一の近赤外線カメラ12、車速センサ14、電子制御装置(以下「ECU」という)20、および注意喚起装置30を備えている。なお、近赤外線投光器10は特許請求の範囲記載の光照射手段として機能し、近赤外線カメラ12は撮像手段として機能する。   The near-infrared night-vision device 1 displays a near-infrared image in front of the vehicle imaged by a near-infrared camera and assists a driver during night driving, and recognizes a pedestrian as a target object from the captured image. The recognition result (pedestrian information) is displayed superimposed on the near-infrared image. The near-infrared night vision device 1 mainly includes two near-infrared projectors 10, 10, a single near-infrared camera 12, a vehicle speed sensor 14, an electronic control device (hereinafter referred to as “ECU”) 20, and a warning device 30. I have. The near-infrared projector 10 functions as a light irradiating unit described in the claims, and the near-infrared camera 12 functions as an imaging unit.

2台の近赤外線投光器10,10は、車両の左右前端に配置され、車両前方に向けて取り付けられている。近赤外線投光器10は、車両の前方に近赤外線を照射する。近赤外線投光器10は、ECU20からの制御信号によって制御されるドライバ回路11により駆動される。ここで、近赤外線投光器10の出力すなわちランプパワーは、ECU20により車速に応じて調節される。ランプパワーの調節方法の詳細については後述する。近赤外線投光器10は、近赤外線暗視装置1の起動時にONされ、停止時にOFFされる。なお、車速に応じて近赤外線投光器10をON/OFFする構成としてもよい。   The two near-infrared projectors 10, 10 are arranged at the left and right front ends of the vehicle and are attached toward the front of the vehicle. The near-infrared projector 10 irradiates near-infrared rays in front of the vehicle. The near-infrared projector 10 is driven by a driver circuit 11 that is controlled by a control signal from the ECU 20. Here, the output of the near-infrared projector 10, that is, the lamp power, is adjusted by the ECU 20 according to the vehicle speed. Details of the lamp power adjustment method will be described later. The near-infrared projector 10 is turned on when the near-infrared night vision device 1 is activated, and is turned off when the near-infrared projector 1 is stopped. In addition, it is good also as a structure which turns ON / OFF the near-infrared light projector 10 according to a vehicle speed.

近赤外線カメラ12は、単眼の近赤外線カメラであり、車両の前側(例えば、ルームミラーの裏側)に配置され、車両前方に向けて取り付けられている。近赤外線カメラ12は、近赤外線(近赤外線投光器10からの近赤外線の反射光など)を取り込み、その近赤外線の強弱に応じた濃淡によって近赤外線映像を生成する。この近赤外線映像は、一定時間(例えば、1/30秒)毎のフレームの近赤外線画像からなる。近赤外線カメラ12では、一定時間毎に、各フレームの近赤外線画像情報を画像信号としてECU20に送信する。   The near-infrared camera 12 is a monocular near-infrared camera, and is disposed on the front side of the vehicle (for example, the back side of the room mirror) and attached toward the front of the vehicle. The near-infrared camera 12 takes in near-infrared light (such as reflected light of near-infrared light from the near-infrared projector 10), and generates a near-infrared image based on light and shade according to the strength of the near-infrared light. This near-infrared image is composed of a near-infrared image of a frame every certain time (for example, 1/30 second). The near-infrared camera 12 transmits near-infrared image information of each frame as an image signal to the ECU 20 at regular intervals.

車速センサ14は、近赤外線暗視装置1が搭載された車両の車輪速を検出するセンサである。車速センサ14もECU20に接続されており、検出結果をECU20に出力する。なお、ECU20では、車速センサ14の検出結果から車両の速度を演算する。   The vehicle speed sensor 14 is a sensor that detects the wheel speed of the vehicle on which the near infrared night vision device 1 is mounted. The vehicle speed sensor 14 is also connected to the ECU 20 and outputs a detection result to the ECU 20. The ECU 20 calculates the vehicle speed from the detection result of the vehicle speed sensor 14.

ECU20は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random AccessMemory)などからなり、ROMに記憶されているプログラムをCPUで実行することによって、制御部21および認識部22が構成される。ECU20では、一定時間毎に、近赤外線カメラ12から画像信号を受信し、画像中の歩行者の輝度を考慮して、近赤外線画像から運転者の注意を喚起する必要がある歩行者を認識する。そして、ECU20は、その歩行者の認識結果を注意喚起装置30に表示させる。なお、本実施形態では、制御部21が特許請求の範囲に記載の制御手段に相当し、認識部22が認識手段に相当する。   The ECU 20 includes a CPU (Central Processing Unit), a ROM (Read Only Memory), a RAM (Random Access Memory), and the like, and a control unit 21 and a recognition unit 22 are configured by the CPU executing a program stored in the ROM. Is done. The ECU 20 receives an image signal from the near-infrared camera 12 at regular intervals, and recognizes a pedestrian that needs to call the driver's attention from the near-infrared image in consideration of the luminance of the pedestrian in the image. . Then, the ECU 20 displays the pedestrian recognition result on the alerting device 30. In the present embodiment, the control unit 21 corresponds to the control unit described in the claims, and the recognition unit 22 corresponds to the recognition unit.

制御部21は、所定距離離れた歩行者の撮像画像中の輝度が所定輝度となるように近赤外線投光器10のランプパワーを調節する。本実施形態では、所定輝度を撮像画像の画素輝度値が飽和する輝度と定めた。そのため、所定距離内に存在する歩行者の撮像画像中の輝度が飽和するように近赤外線投光器10のランプパワーが調節される。   The control unit 21 adjusts the lamp power of the near-infrared projector 10 so that the luminance in the captured image of the pedestrian away from the predetermined distance becomes the predetermined luminance. In the present embodiment, the predetermined luminance is determined as the luminance at which the pixel luminance value of the captured image is saturated. Therefore, the lamp power of the near-infrared projector 10 is adjusted so that the luminance in the captured image of the pedestrian existing within a predetermined distance is saturated.

また、本実施形態では、図2に示されるように、所定距離L(m)を衝突予測時間(TTC(Time To Collision)=対象物との距離L/車速v、以下「TTC」という)が4秒となる距離と定めた。すなわち、歩行者の輝度が飽和する距離Lが車速v(m/sec)に応じて変化し、車速vが高いときには所定距離Lは遠くなり、車速vが低いときには所定距離Lは近くなる。その結果、制御部21では、TTCが4秒未満の距離に存在する歩行者の輝度が飽和するように近赤外線投光器10のランプパワーが調節される。なお、TTCを4秒と定めたのは、一般的に、運転者に対して余裕のある注意喚起を行うにはTTCが4秒以上であることが好ましいためであるが、所定距離がTTC4秒となる距離に限られないことは言うまでもない。   Further, in the present embodiment, as shown in FIG. 2, the predetermined distance L (m) is the collision prediction time (TTC (Time To Collision) = distance L with respect to the object / vehicle speed v, hereinafter referred to as “TTC”). The distance was determined to be 4 seconds. That is, the distance L at which the brightness of the pedestrian is saturated changes according to the vehicle speed v (m / sec). The predetermined distance L is far when the vehicle speed v is high, and the predetermined distance L is close when the vehicle speed v is low. As a result, the control unit 21 adjusts the lamp power of the near-infrared projector 10 so that the brightness of a pedestrian whose TTC is present at a distance of less than 4 seconds is saturated. The reason why TTC is set to 4 seconds is that, in general, TTC is preferably 4 seconds or more for alerting the driver with sufficient margin, but the predetermined distance is TTC 4 seconds. It goes without saying that the distance is not limited to.

ここで、車速と近赤外線投光器10のランプパワーとの関係(ランプパワー特性)を、図3の四象現グラフを参照しつつ説明する。この四象現グラフの第1象現には、TTCを4秒としたときの車速v(m/sec)と歩行者(対象物)までの距離L(m)との関係が示されている。この第1象現に示されるように、車速vが高くなるにしたがって距離Lは遠くなる。   Here, the relationship between the vehicle speed and the lamp power of the near-infrared projector 10 (lamp power characteristics) will be described with reference to the four-quadrant graph of FIG. The first quadrant of the four-quadrant graph shows the relationship between the vehicle speed v (m / sec) and the distance L (m) to the pedestrian (object) when TTC is 4 seconds. As shown in the first quadrant, the distance L increases as the vehicle speed v increases.

第2象現には、歩行者までの距離Lと歩行者の輝度(%)との関係が示されている。この第2象現に示されるように、歩行者までの距離Lが遠くなるにしたがって歩行者の輝度は低くなる。50m前方にいる人物の輝度、および100m前方にいる人物の輝度それぞれを図4、図5に示す。ここで、近赤外線投光器10のランプパワー、および近赤外線カメラ12の感度並びにシャッタースピードが予め定められている場合には、歩行者の撮像画像中の輝度は該歩行者までの距離に応じて一意的に定まる。そのため、近赤外線投光器10のランプパワー、および近赤外線カメラ12の感度並びにシャッタースピードを調節することにより、飽和輝度とその際の距離を調節することができる。以下、主として近赤外線投光器10のランプパワーを調節する場合を例にして説明するが、近赤外線投光器10のランプパワーに加えて、または代えて近赤外線カメラ12の感度やシャッタースピード(露光時間)を調節する構成としてもよい。   In the second quadrant, the relationship between the distance L to the pedestrian and the luminance (%) of the pedestrian is shown. As shown in the second quadrant, the luminance of the pedestrian decreases as the distance L to the pedestrian increases. FIG. 4 and FIG. 5 show the brightness of a person 50 meters ahead and the brightness of a person 100 meters ahead, respectively. Here, when the lamp power of the near-infrared projector 10, the sensitivity of the near-infrared camera 12, and the shutter speed are determined in advance, the luminance in the captured image of the pedestrian is unique according to the distance to the pedestrian. Is determined. Therefore, by adjusting the lamp power of the near-infrared projector 10, the sensitivity of the near-infrared camera 12, and the shutter speed, the saturation luminance and the distance at that time can be adjusted. Hereinafter, a case where the lamp power of the near-infrared projector 10 is mainly adjusted will be described as an example. However, in addition to or instead of the lamp power of the near-infrared projector 10, the sensitivity and shutter speed (exposure time) of the near-infrared camera 12 are set. It is good also as a structure to adjust.

第3象現には、歩行者の輝度と近赤外線投光器10のランプパワーP(%)との関係が示されている。この第3象現に示されるように、歩行者の輝度が低くなるにしたがってランプパワーPが増大するように調節される。なお、ランプパワーPが100(%)を超える領域については、近赤外線カメラ12の感度を上昇したり、シャッタースピードを遅くすることによって撮像画像の輝度が調節される。   In the third quadrant, the relationship between the brightness of the pedestrian and the lamp power P (%) of the near-infrared projector 10 is shown. As shown in the third quadrant, the lamp power P is adjusted to increase as the pedestrian brightness decreases. In the region where the lamp power P exceeds 100 (%), the brightness of the captured image is adjusted by increasing the sensitivity of the near-infrared camera 12 or decreasing the shutter speed.

そして、第4象現には、ランプパワーPと車速vとの関係(ランプパワー特性)が示されている。この第4象現に示されるように、車速vが高くなるにしたがってランプパワーPが増大するように調整される。すなわち、制御部21は、第4象現に示されるランプパワー特性に基づいてドライバ回路11を駆動することにより、TTC4秒未満の距離(所定距離内)に存在する歩行者の撮像画像中の輝度が飽和するように近赤外線投光器10のランプパワーを調節する。   The fourth quadrant shows the relationship between the lamp power P and the vehicle speed v (lamp power characteristics). As shown in the fourth quadrant, the lamp power P is adjusted to increase as the vehicle speed v increases. That is, the control unit 21 drives the driver circuit 11 based on the lamp power characteristic shown in the fourth quadrant, whereby the luminance in the captured image of the pedestrian existing within a distance (within a predetermined distance) of less than TTC 4 seconds. The lamp power of the near infrared projector 10 is adjusted so as to be saturated.

認識部22は、近赤外線画像から歩行者を抽出するとともに、歩行者の輝度を考慮して、抽出された歩行者が注意喚起対象となる歩行者であるか否かを認識する。歩行者の抽出方法としては、特に限定せず、各種方法が適用可能である。抽出方法としては、例えば、歩行者のテンプレートを用意し、テンプレートを用いたパターンマッチングによる方法がある。具体的には、近赤外線画像から所定の大きさの矩形領域を順次切り出し、テンプレートの画像と切り出した各矩形領域画像とのマッチング度を求め、そのマッチング度がしきい値以上の場合には、歩行者であると判定する。   The recognizing unit 22 extracts a pedestrian from the near-infrared image and recognizes whether or not the extracted pedestrian is a pedestrian to be alerted in consideration of the luminance of the pedestrian. The method for extracting pedestrians is not particularly limited, and various methods can be applied. As an extraction method, for example, there is a method of preparing a pedestrian template and pattern matching using the template. Specifically, a rectangular area of a predetermined size is sequentially cut out from the near-infrared image, and the degree of matching between the template image and each cut out rectangular area image is obtained. It is determined that the person is a pedestrian.

認識部22は、撮像画像中の輝度が飽和している歩行者については、TTC4秒未満の距離(所定距離内)に存在していると判定し、該歩行者を注意喚起(警告)対象から除外する。一方、撮像画像中の輝度が飽和していない歩行者については、TTC4秒以上の距離に存在していると判定し、該歩行者を注意喚起対象として認識する。なお、認識結果は、表示信号として注意喚起装置30に送信される。   The recognizing unit 22 determines that a pedestrian whose luminance in the captured image is saturated exists within a distance (within a predetermined distance) of less than TTC 4 seconds, and detects the pedestrian from an alert (warning) target. exclude. On the other hand, a pedestrian whose luminance in the captured image is not saturated is determined to be present at a distance of TTC 4 seconds or longer, and the pedestrian is recognized as an alerting target. The recognition result is transmitted to the alerting device 30 as a display signal.

ここで、図6を参照しつつ、輝度が飽和していると判断される画素輝度値、すなわち飽和輝度の設定方法について説明する。図6は、歩行者との距離と画素輝度値との関係を示すグラフであり、図6の横軸は歩行者との距離(m)であり、縦軸は画素の輝度値(%)である。図6において細線で示されるように、歩行者との距離が0〜30(m)の領域では、距離が遠くなるにしたがって画素輝度値が上昇し、歩行者との距離が30〜200(m)の領域では、距離が遠くなるにしたがって画素輝度値が低下している。なお、近赤外線投光器10のランプパワーが増大された場合には、画素輝度値が上昇する方向にグラフが平行移動し、逆に、ランプパワーが減少されたときには、画素輝度値が低下する方向にグラフが平行移動する。   Here, a method for setting a pixel luminance value, that is, a saturation luminance that is determined to be saturated, will be described with reference to FIG. FIG. 6 is a graph showing the relationship between the distance from the pedestrian and the pixel luminance value. The horizontal axis in FIG. 6 is the distance (m) from the pedestrian, and the vertical axis is the luminance value (%) of the pixel. is there. As indicated by a thin line in FIG. 6, in a region where the distance to the pedestrian is 0 to 30 (m), the pixel luminance value increases as the distance increases, and the distance to the pedestrian is 30 to 200 (m). In the area), the pixel luminance value decreases as the distance increases. When the lamp power of the near-infrared projector 10 is increased, the graph moves in a direction in which the pixel luminance value increases. Conversely, when the lamp power is decreased, the pixel luminance value decreases. The graph moves in parallel.

また、図6には、TTC4秒、車速60(km/h)のときの飽和輝度(80%)がグラフに重ねて示されている(図6中の太線参照)。すなわち、車速が60(km/h)のときにTTCが4秒となる距離66.7(m)での画素輝度値(80%)が飽和輝度として設定される。この場合、距離が66.7(m)以内に存在する歩行者はすべて輝度が飽和するため、輝度が飽和しているか否かを判定することによって、TTC4秒(66.7m)未満の距離に存在している歩行者を注意喚起対象から除外することができる。そのため、TTCが4秒以上の距離に存在する歩行者のみを検出して注意喚起することが可能となる。このように、TTC4秒未満の距離に存在している歩行者を注意喚起対象から除外するのは、歩行者が既に近距離にいる場合には、ヘッドライトのロービームの照射範囲内に入る可能性が高く、運転者の視線を注意喚起装置30に向けさせるよりも、歩行者を直接目視するようにすることが好ましいためである。   In FIG. 6, the saturation luminance (80%) at TTC 4 seconds and vehicle speed 60 (km / h) is shown superimposed on the graph (see the thick line in FIG. 6). That is, when the vehicle speed is 60 (km / h), the pixel luminance value (80%) at the distance 66.7 (m) where the TTC is 4 seconds is set as the saturation luminance. In this case, since all the pedestrians within the distance of 66.7 (m) are saturated in luminance, by determining whether the luminance is saturated, the distance is less than TTC 4 seconds (66.7 m). Existing pedestrians can be excluded from the alerting target. Therefore, it becomes possible to detect only a pedestrian whose TTC is present at a distance of 4 seconds or more and call attention. In this way, if a pedestrian who is present at a distance of less than 4 seconds is excluded from the alerting target, the possibility that the pedestrian is already within a short distance may fall within the irradiation range of the low beam of the headlight. This is because it is preferable to look directly at the pedestrian rather than directing the driver's line of sight toward the alerting device 30.

また、TTCを4秒以上に設定した場合には、飽和輝度は80(%)よりも低い値に設定され、逆に、TTCを4秒未満に設定したときには、飽和輝度は80(%)よりも高い値に設定される。なお、上述したように、車速に応じて近赤外線投光器10のランプパワーが調節されるが、車速に応じて飽和輝度を変更するようにしてもよい。   When the TTC is set to 4 seconds or more, the saturation luminance is set to a value lower than 80 (%). Conversely, when the TTC is set to less than 4 seconds, the saturation luminance is from 80 (%). Is also set to a high value. As described above, the lamp power of the near-infrared projector 10 is adjusted according to the vehicle speed, but the saturation luminance may be changed according to the vehicle speed.

注意喚起装置30は、近赤外線画像、および近赤外線画像から認識された歩行者の情報を運転者に提示するものであり、例えば、液晶ディスプレイやヘッドアップディスプレイなどを用いて構成される。注意喚起装置30では、ECU20から表示信号を受信し、表示信号に示される画像を表示する。歩行者情報の表示画像としては、例えば、撮像された近赤外線画像において認識された歩行者が矩形枠で囲まれて強調表示された画像などが挙げられる。   The alerting device 30 presents a near-infrared image and pedestrian information recognized from the near-infrared image to the driver, and is configured using, for example, a liquid crystal display or a head-up display. The alerting device 30 receives a display signal from the ECU 20 and displays an image indicated by the display signal. Examples of the display image of the pedestrian information include an image in which a pedestrian recognized in the captured near-infrared image is highlighted by being surrounded by a rectangular frame.

次に、図7〜9を用いて、近赤外線暗視装置1に適用されている物体認識装置の動作について説明する。図7は第1実施形態に係る物体認識装置による物体認識処理の処理手順を示すフローチャートである。また、図8および図9それぞれは、物体認識処理において実行されるランプパワー変更処理と飽和対象物除外処理の処理手順を示すフローチャートである。この物体認識処理は、ECU20によって行われるものであり、近赤外線暗視装置1の電源がオンされてからオフされるまでの間、所定のタイミングで繰り返し実行される。   Next, the operation of the object recognition device applied to the near infrared night vision device 1 will be described with reference to FIGS. FIG. 7 is a flowchart showing a processing procedure of object recognition processing by the object recognition apparatus according to the first embodiment. FIG. 8 and FIG. 9 are flowcharts showing the processing procedure of the lamp power changing process and the saturated object excluding process executed in the object recognition process. This object recognition process is performed by the ECU 20, and is repeatedly executed at a predetermined timing from when the near-infrared night vision apparatus 1 is turned on until it is turned off.

ステップS100では、近赤外線投光器10のランプパワーの初期設定が済んでいるか否かについての判断が行われる。ここで、近赤外線投光器10のランプパワーが既に初期設定済みである場合には、ステップS104に処理が移行する。一方、近赤外線投光器10のランプパワーの初期設定がまだ済んでいないときには、ステップS102において、ランプパワーの初期値として100(%)が設定される。すなわち、近赤外線投光器10は、出力100(%)で車両前方に近赤外線を照射する。その後、ステップS104に処理が移行する。   In step S100, a determination is made as to whether or not the initial setting of the lamp power of the near-infrared projector 10 has been completed. If the lamp power of the near-infrared projector 10 has already been initialized, the process proceeds to step S104. On the other hand, when the initial setting of the lamp power of the near-infrared projector 10 has not been completed yet, 100 (%) is set as the initial value of the lamp power in step S102. That is, the near-infrared projector 10 irradiates near-infrared rays in front of the vehicle with an output of 100 (%). Thereafter, the process proceeds to step S104.

ステップS104では、車速センサ14により検出された車輪速度に基づいて求められた車速が読み込まれる。続くステップS106では、近赤外線投光器10のランプパワー変更処理が実行される。ここで、図8を参照しつつ、ランプパワー変更処理について説明する。   In step S104, the vehicle speed obtained based on the wheel speed detected by the vehicle speed sensor 14 is read. In the subsequent step S106, the lamp power changing process of the near infrared projector 10 is executed. Here, the lamp power changing process will be described with reference to FIG.

ステップS200では、近赤外線投光器10のランプパワーの前回値Pn−1が一時的にメモリに記憶される。続くステップS202では、ランプパワーの補正量Ppが車速vとTTC(本実施形態では4秒)に応じて設定された飽和輝度Constとに基づいて求められる。   In step S200, the previous value Pn-1 of the lamp power of the near-infrared projector 10 is temporarily stored in the memory. In the subsequent step S202, the lamp power correction amount Pp is obtained based on the vehicle speed v and the saturation luminance Const set in accordance with TTC (4 seconds in the present embodiment).

続いて、ステップS204において、ステップS200で記憶されたランプパワー前回値Pn−1にステップS202で求められたランプパワー補正量Ppが加算され、ランプパワー今回値Pnが求められる。そして、求められたランプパワー今回値Pnに基づいて生成された制御信号によってドライバ回路11が制御され、近赤外線投光器10が駆動される。なお、本実施形態ではTTCを4秒に設定しているため、車速vとランプパワー今回値Pnとの関係は、上述した四象現グラフの第4象現に示されたランプパワー特性となる。ステップS204での処理が終了した後、図6のステップS108に処理が移行する。   Subsequently, in step S204, the lamp power correction value Pp obtained in step S202 is added to the lamp power previous value Pn−1 stored in step S200, and the lamp power current value Pn is obtained. Then, the driver circuit 11 is controlled by the control signal generated based on the obtained lamp power current value Pn, and the near-infrared projector 10 is driven. In this embodiment, since the TTC is set to 4 seconds, the relationship between the vehicle speed v and the current lamp power value Pn is the lamp power characteristic shown in the fourth quadrant of the above-described four-quadrant graph. After the process in step S204 is completed, the process proceeds to step S108 in FIG.

ステップS106では、近赤外線カメラ12から撮像画像が読み込まれるとともに、上述したように、テンプレートを用いたパターンマッチングによって、撮像画像から歩行者が抽出される。続くステップS110では、距離が近く輝度が飽和している歩行者を注意喚起対象から除外する飽和対象除外処理が実行される。ここで、図9を参照しつつ、飽和対象除外処理について説明する。   In step S106, a captured image is read from the near-infrared camera 12, and a pedestrian is extracted from the captured image by pattern matching using a template as described above. In the subsequent step S110, a saturation target exclusion process is performed in which a pedestrian whose distance is close and whose luminance is saturated is excluded from the alert target. Here, the saturation target exclusion process will be described with reference to FIG.

ステップS300では、ステップS106で抽出された歩行者が読み込まれる。続くステップS302では、ステップS300で読み込まれた歩行者の輝度が求められる。ここで、歩行者の輝度としては、歩行者の画素の輝度の平均値を用いることが好ましい。ただし、代表点を選択してその輝度を歩行者の輝度としてもよい。   In step S300, the pedestrian extracted in step S106 is read. In subsequent step S302, the luminance of the pedestrian read in step S300 is obtained. Here, it is preferable to use the average value of the luminance of the pedestrian pixels as the luminance of the pedestrian. However, a representative point may be selected and its luminance may be set as the luminance of the pedestrian.

続いて、ステップS304では、ステップS302で求められた歩行者の輝度が飽和輝度Constよりも高いか否かについての判断が行われる。飽和輝度Constについては上述したとおりであるので、ここでは説明を省略する。ここで、歩行者の輝度が飽和輝度Constよりも高い場合には、ステップS306において、該歩行者はTTC4秒未満の距離にいると判断されて、注意喚起対象から除外される。その後、ステップS308に処理が移行する。一方、歩行者の輝度が飽和輝度Const以下のときには、該歩行者はTTC4秒以上の距離にいると判断されて、注意喚起対象の歩行者として認識される。そのため、ステップS306の除外処理が行われることなく、ステップS308に処理が移行する。   Subsequently, in step S304, a determination is made as to whether or not the luminance of the pedestrian obtained in step S302 is higher than the saturation luminance Const. Since the saturation luminance Const is as described above, the description thereof is omitted here. Here, when the luminance of the pedestrian is higher than the saturated luminance Const, it is determined in step S306 that the pedestrian is at a distance of less than TTC 4 seconds, and is excluded from the alerting target. Thereafter, the process proceeds to step S308. On the other hand, when the luminance of the pedestrian is equal to or lower than the saturation luminance Const, it is determined that the pedestrian is at a distance of TTC 4 seconds or longer and is recognized as a pedestrian to be alerted. Therefore, the process proceeds to step S308 without performing the exclusion process in step S306.

ステップS308では、すべての歩行者について注意喚起対象であるか否かについてのチェックが行われたか否かについての判断が行われる。ここで、すべての歩行者についてのチェックが終了している場合には、図7に示されるステップS112に処理が移行する。一方、まだチェックしていない歩行者が残っているときには、ステップS300に処理が移行し、すべての歩行者についてチェックが終了までステップS300〜S308の処理が繰り返して実行される。   In step S308, a determination is made as to whether or not all pedestrians have been checked for whether or not they are to be alerted. Here, when the check about all the pedestrians is complete | finished, a process transfers to step S112 shown by FIG. On the other hand, when there are still pedestrians that have not been checked, the process proceeds to step S300, and the processes of steps S300 to S308 are repeatedly executed until the check is completed for all pedestrians.

すべての歩行者について注意喚起対象であるか否かの判断が行われた後、ステップS112では、注意喚起対象となる歩行者が認識されたか否かについての判断が行われる。ここで、注意喚起対象となる歩行者が認識されなかった場合には、運転者に対する注意喚起を行うことなく、本処理から一旦抜ける。一方、注意喚起対象となる歩行者が認識されたときには、ステップS114に処理が移行する。   After determining whether or not all pedestrians are to be alerted, in step S112, it is determined whether or not the pedestrian to be alerted has been recognized. Here, when the pedestrian to be alerted is not recognized, the process temporarily exits without alerting the driver. On the other hand, when a pedestrian to be alerted is recognized, the process proceeds to step S114.

ステップS114では、注意喚起装置30により、認識された歩行者を矩形枠で囲んで強調表示するなどによって、運転者に対して注意喚起が行われる。   In step S114, the alert device 30 alerts the driver, for example, by highlighting the recognized pedestrian in a rectangular frame.

本実施形態によれば、TTCが4秒となる距離(所定距離)で輝度が飽和する(所定輝度となる)ように近赤外線投光器10のランプパワーが設定される。このようにすれば、TTC4秒以内の距離に存在する歩行者はすべて輝度が飽和するため、歩行者の撮像画像中の輝度を考慮することにより、歩行者との距離を直接測定することなく、歩行者がTTC4秒未満の距離に存在しているか、TTC4秒以上の距離に存在しているかを判断することが可能となる。   According to the present embodiment, the lamp power of the near-infrared projector 10 is set so that the luminance is saturated (predetermined luminance) at a distance (predetermined distance) where TTC is 4 seconds. In this way, since all the pedestrians existing within a distance of TTC 4 seconds are saturated in luminance, the luminance in the captured image of the pedestrian is taken into consideration, and the distance to the pedestrian is not directly measured. It is possible to determine whether the pedestrian is present at a distance of less than TTC 4 seconds or at a distance of TTC 4 seconds or more.

また、本実施形態によれば、近赤外線投光器10のランプパワーが車速に応じて調節されるため、輝度が飽和する歩行者との距離を車速に応じて調節することができる。その結果、注意喚起対象となる歩行者に到達するまでの時間、すなわちTTCが4秒以上の歩行者のみを選択して認識することが可能となる。   Moreover, according to this embodiment, since the lamp power of the near-infrared projector 10 is adjusted according to the vehicle speed, the distance from the pedestrian whose brightness is saturated can be adjusted according to the vehicle speed. As a result, it is possible to select and recognize only a pedestrian whose time to reach a pedestrian to be alerted, that is, a TTC of 4 seconds or more.

例えば、歩行者が既に近距離にいる場合には、ヘッドライトのロービームの照射範囲内に入る可能性が高く、運転者の視線を注意喚起装置30に向けさせるよりも、歩行者を直接目視するようにすることが好ましい。本実施形態によれば、TTCが4秒未満の距離に存在していると認識された歩行者が注意喚起対象から除外されるため、歩行者との距離を直接測定することなく、TTCが4秒以上の距離に存在する歩行者、すなわち真に注意喚起が必要な歩行者のみを認識して注意喚起することが可能となる。   For example, when the pedestrian is already at a short distance, the possibility of entering the low beam irradiation range of the headlight is high, and the pedestrian is directly observed rather than directing the driver's line of sight toward the alerting device 30. It is preferable to do so. According to this embodiment, since the pedestrian recognized that the TTC is present at a distance of less than 4 seconds is excluded from the alerting target, the TTC is 4 without directly measuring the distance to the pedestrian. It is possible to recognize and call only pedestrians that exist at a distance of more than a second, that is, pedestrians that really need attention.

歩行者の撮像画像中の輝度は、近赤外線カメラ12の感度やシャッタースピード(露光時間)によっても変化する。本実施形態によれば、近赤外線カメラ12の感度および露光時間に応じて近赤外線投光器10のランプパワーを調節することができるため、より適切に歩行者の撮像画像中の輝度を調節することが可能となる。   The brightness in the captured image of the pedestrian varies depending on the sensitivity of the near infrared camera 12 and the shutter speed (exposure time). According to this embodiment, since the lamp power of the near-infrared projector 10 can be adjusted according to the sensitivity of the near-infrared camera 12 and the exposure time, it is possible to more appropriately adjust the luminance in the captured image of the pedestrian. It becomes possible.

実施形態によれば、TTCが4秒未満の距離に存在する歩行者の撮像画像中の輝度が飽和輝度となるように近赤外線投光器10のランプパワーおよび近赤外線カメラ12の感度、シャッタースピードを組み合わせて調節することができる。そのため、輝度調節の制御自由度を大きくすることが可能となる。   According to the embodiment, the lamp power of the near-infrared projector 10, the sensitivity of the near-infrared camera 12, and the shutter speed are combined so that the luminance in the captured image of the pedestrian existing at a distance of less than 4 seconds is a saturated luminance. Can be adjusted. Therefore, it is possible to increase the degree of freedom in controlling brightness adjustment.

[第2実施形態]
次に、図10を用いて、第2実施形態に係る物体認識装置の構成について説明する。図10は第2実施形態に係る物体認識装置が適用された近赤外線暗視装置2の構成を示すブロック図である。なお、図2において近赤外線暗視装置1と同一又は同等の構成要素については同一の符号が付されている。
[Second Embodiment]
Next, the configuration of the object recognition apparatus according to the second embodiment will be described with reference to FIG. FIG. 10 is a block diagram showing a configuration of the near-infrared night-vision device 2 to which the object recognition device according to the second embodiment is applied. In FIG. 2, the same or equivalent components as those of the near infrared night vision apparatus 1 are denoted by the same reference numerals.

近赤外線暗視装置2は、ECU20に代えてECU24を備えている点で近赤外線暗視装置1と異なる。このECU24は、所定距離離れた歩行者の撮像画像中の輝度が所定輝度となるように近赤外線投光器10のランプパワーを調節する制御部21に代えて、所定距離離れた歩行者の撮像画像中の輝度が所定輝度となるように撮像画像中の輝度を補正する補正部25を備えている点で上述したECU20と異なっている。補正部25は、特許請求の範囲に記載の補正手段として機能する。   The near-infrared night vision device 2 differs from the near-infrared night vision device 1 in that an ECU 24 is provided instead of the ECU 20. This ECU 24 replaces the control unit 21 that adjusts the lamp power of the near-infrared projector 10 so that the luminance in the captured image of the pedestrian away from the predetermined distance becomes the predetermined luminance, in the captured image of the pedestrian away from the predetermined distance. The ECU 20 differs from the ECU 20 described above in that it includes a correction unit 25 that corrects the luminance in the captured image so that the luminance of the image becomes a predetermined luminance. The correcting unit 25 functions as correcting means described in the claims.

本実施形態では、所定輝度を撮像画像の画素輝度値が飽和する輝度と定めた。そのため、所定距離内に存在する歩行者の撮像画像中の輝度が飽和するように撮像画像の輝度が調節される。また、本実施形態では、所定距離をTTCが4秒となる距離と定めた。すなわち、歩行者の輝度が飽和する距離が車速に応じて変化し、車速が高いときには所定距離は遠くなり、車速が低いときには所定距離は近くなる。その結果、補正部25では、TTCが4秒未満の距離に存在する歩行者の輝度が飽和するように撮像画像の輝度が調節される。   In the present embodiment, the predetermined luminance is determined as the luminance at which the pixel luminance value of the captured image is saturated. Therefore, the brightness of the captured image is adjusted so that the brightness in the captured image of the pedestrian existing within a predetermined distance is saturated. In the present embodiment, the predetermined distance is determined as a distance at which TTC is 4 seconds. That is, the distance at which the luminance of the pedestrian is saturated changes according to the vehicle speed, and the predetermined distance becomes far when the vehicle speed is high, and the predetermined distance becomes close when the vehicle speed is low. As a result, the correction unit 25 adjusts the brightness of the captured image so that the brightness of a pedestrian who has a TTC of less than 4 seconds is saturated.

また、上述した近赤外線暗視装置1では、近赤外線投光器10が、ECU20(制御部21)からの制御信号によって制御されるドライバ回路11によって駆動されていたが、近赤外線暗視装置2では、このような構成を備えておらず、近赤外線投光器10は、所定の一定出力(例えば、100%)で駆動される。   Moreover, in the near-infrared night vision apparatus 1 mentioned above, the near-infrared projector 10 was driven by the driver circuit 11 controlled by the control signal from ECU20 (control part 21), but in the near-infrared night vision apparatus 2, Without such a configuration, the near-infrared projector 10 is driven with a predetermined constant output (for example, 100%).

その他の構成については、上述した近赤外線暗視装置1と同一または同様であるので、ここでは説明を省略する。   Other configurations are the same as or similar to the above-described near-infrared night-vision device 1, and the description thereof is omitted here.

次に、図11、12を用いて、近赤外線暗視装置2に適用されている物体認識装置の動作について説明する。図11は第2実施形態に係る物体認識装置による物体認識処理の処理手順を示すフローチャートである。また、図12は、物体認識処理において実行される映像輝度変更処理の処理手順を示すフローチャートである。この物体認識処理は、ECU20によって行われるものであり、近赤外線暗視装置2の電源がオンされてからオフされるまでの間、所定のタイミングで繰り返し実行される。   Next, the operation of the object recognition device applied to the near infrared night vision device 2 will be described with reference to FIGS. FIG. 11 is a flowchart illustrating a processing procedure of object recognition processing by the object recognition apparatus according to the second embodiment. FIG. 12 is a flowchart showing the processing procedure of the video brightness change process executed in the object recognition process. This object recognition process is performed by the ECU 20, and is repeatedly executed at a predetermined timing from when the near-infrared night vision apparatus 2 is turned on until it is turned off.

近赤外線暗視装置2に適用されている物体認識装置の動作は、上述したランプパワー変更処理(図7のステップS106)に代えて映像輝度変更処理(図11のステップS406)が実行される点で第1実施形態と異なり、その他の処理内容(ステップS400〜S404、S408〜S414)は上述した処理内容(ステップS100〜S104、S108〜S114)と同一または同様であるので、ここでは説明を省略する。   The operation of the object recognition device applied to the near-infrared night vision device 2 is that a video brightness change process (step S406 in FIG. 11) is executed instead of the lamp power change process (step S106 in FIG. 7) described above. Unlike the first embodiment, the other processing contents (steps S400 to S404, S408 to S414) are the same as or similar to the above-described processing contents (steps S100 to S104, S108 to S114), and thus the description thereof is omitted here. To do.

映像輝度変更処理の具体的な処理手順は、図12のフローチャートで示されている。そこで、次に、図12を参照しつつ映像輝度変更処理について説明する。   A specific processing procedure of the video brightness changing process is shown in the flowchart of FIG. Next, the video luminance change process will be described with reference to FIG.

ステップS500では、補正前の映像輝度Bが一時的にメモリに記憶される。続くステップS502では、輝度の補正量Bpが車速vとTTC(本実施形態では4秒)に応じて設定された飽和輝度Constとに基づいて求められる。   In step S500, the video brightness B before correction is temporarily stored in the memory. In subsequent step S502, the luminance correction amount Bp is obtained based on the saturation luminance Const set according to the vehicle speed v and TTC (4 seconds in the present embodiment).

続いて、ステップS504において、ステップS500で記憶された補正前の映像輝度BにステップS502で求められた輝度補正量Bpが加算され、補正後の映像輝度Bが求められる。ステップS504での処理が終了した後、図11のステップS408に処理が移行する。なお、上述したように、ステップS408〜S414における処理内容は、ステップS108〜S114における処理内容と同一または同様であるので、ここでは説明を省略する。   Subsequently, in step S504, the luminance correction amount Bp obtained in step S502 is added to the video luminance B before correction stored in step S500, and the corrected video luminance B is obtained. After the process in step S504 is completed, the process proceeds to step S408 in FIG. Note that, as described above, the processing contents in steps S408 to S414 are the same as or similar to the processing contents in steps S108 to S114, and thus the description thereof is omitted here.

本実施形態によれば、TTCが4秒となる距離(所定距離)で輝度が飽和する(所定輝度となる)ように撮像画像の輝度が補正される。このようにすれば、TTC4秒以内の距離に存在する歩行者の撮像画像はすべて輝度が飽和するため、補正後の歩行者の輝度を考慮することにより、歩行者との距離を直接測定することなく、歩行者がTTC4秒未満の距離に存在しているか、TTC4秒以上の距離に存在しているかを判断することが可能となる。   According to the present embodiment, the brightness of the captured image is corrected so that the brightness is saturated (becomes predetermined brightness) at a distance (predetermined distance) at which TTC is 4 seconds. In this way, all captured images of pedestrians within a distance within 4 seconds of TTC are saturated in luminance, so the distance from the pedestrian can be directly measured by taking into account the corrected pedestrian luminance. Therefore, it is possible to determine whether the pedestrian is present at a distance of less than TTC 4 seconds or at a distance of TTC 4 seconds or more.

また、本実施形態によれば、輝度の補正量が車速に応じて調節されるため、輝度が飽和する歩行者との距離を車速に応じて調節することができる。その結果、注意喚起対象となる歩行者に到達するまでの時間、すなわちTTCが4秒以上の歩行者のみを選択して認識することが可能となる。その他、上述した第1実施形態と同様の効果を得ることができる   Moreover, according to this embodiment, since the brightness | luminance correction amount is adjusted according to a vehicle speed, the distance with the pedestrian where brightness | luminance is saturated can be adjusted according to a vehicle speed. As a result, it is possible to select and recognize only a pedestrian whose time to reach a pedestrian to be alerted, that is, a TTC of 4 seconds or more. In addition, the same effects as those of the first embodiment described above can be obtained.

以上、本発明の実施の形態について説明したが、本発明は、上記実施形態に限定されるものではなく種々の変形が可能である。例えば、上記実施形態では、近赤外線カメラで撮像した近赤外線画像に基づく物体認識に適用したが、近赤外線以外の不可視カメラで撮像した不可視画像あるいは可視カメラで撮像した可視画像に基づく物体認識にも適用可能である。   Although the embodiment of the present invention has been described above, the present invention is not limited to the above embodiment, and various modifications can be made. For example, in the above embodiment, the present invention is applied to object recognition based on a near-infrared image captured by a near-infrared camera, but also for object recognition based on an invisible image captured by an invisible camera other than near-infrared or a visible image captured by a visible camera. Applicable.

また、上記実施形態では、車両に搭載される近赤外線暗視装置に適用したが、車載装置に限定されることなく、また近赤外線暗視装置以外の様々な用途に適用可能である。   Moreover, in the said embodiment, although applied to the near-infrared night vision apparatus mounted in a vehicle, it is applicable to various uses other than a near-infrared night vision apparatus, without being limited to a vehicle-mounted apparatus.

また、上記実施形態では、歩行者を認識対象物としたが、認識対象物が歩行者に限られないことはいうまでもない。   Moreover, in the said embodiment, although the pedestrian was made into the recognition target object, it cannot be overemphasized that a recognition target object is not restricted to a pedestrian.

第1実施形態に係る物体認識装置が適用された近赤外線暗視装置の構成を示すブロック図である。It is a block diagram which shows the structure of the near-infrared night vision apparatus to which the object recognition apparatus which concerns on 1st Embodiment was applied. 近赤外線暗視装置の近赤外線照射距離を説明するための図である。It is a figure for demonstrating the near-infrared irradiation distance of a near-infrared night vision apparatus. 車速と対象物までの距離、対象物までの距離と対象物輝度、対象物輝度とランプパワー、および車速とランプパワーの関係を示す四象現グラフである。It is a four-quadrant graph showing the relationship between the vehicle speed and the distance to the object, the distance to the object and the object brightness, the object brightness and the lamp power, and the vehicle speed and the lamp power. 50m前方にいる人物の輝度を示す図である。It is a figure which shows the brightness | luminance of the person who is 50m ahead. 100m前方にいる人物の輝度を示す図である。It is a figure which shows the brightness | luminance of the person who is 100m ahead. 人物との距離と画素輝度値との関係を示すグラフである。It is a graph which shows the relationship between the distance with a person, and a pixel luminance value. 第1実施形態に係る物体認識装置による物体認識処理の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of the object recognition process by the object recognition apparatus which concerns on 1st Embodiment. 図7のフローチャートで示された物体認識処理において実行されるランプパワー変更処理の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of the lamp power change process performed in the object recognition process shown by the flowchart of FIG. 図7のフローチャートで示された物体認識処理において実行される飽和対象物除外処理の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of the saturation target exclusion process performed in the object recognition process shown by the flowchart of FIG. 第2実施形態に係る物体認識装置が適用された近赤外線暗視装置の構成を示すブロック図である。It is a block diagram which shows the structure of the near-infrared night vision apparatus to which the object recognition apparatus which concerns on 2nd Embodiment was applied. 第2実施形態に係る物体認識装置による物体認識処理の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of the object recognition process by the object recognition apparatus which concerns on 2nd Embodiment. 図11のフローチャートで示された物体認識処理において実行される映像輝度変更処理の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of the image | video brightness | luminance change process performed in the object recognition process shown by the flowchart of FIG.

符号の説明Explanation of symbols

1,2…近赤外線暗視装置、10…近赤外線投光器、11…ドライバ回路、12…近赤外線カメラ、14…車速センサ、20,24…ECU、21…制御部、22…認識部、25…補正部、30…注意喚起装置。   DESCRIPTION OF SYMBOLS 1, 2 ... Near-infrared night vision apparatus, 10 ... Near-infrared projector, 11 ... Driver circuit, 12 ... Near-infrared camera, 14 ... Vehicle speed sensor, 20, 24 ... ECU, 21 ... Control part, 22 ... Recognition part, 25 ... Correction unit, 30...

Claims (8)

光を照射する光照射手段と、
前記光照射手段の出力を調節する制御手段と、
前記光照射手段により光が照射されている領域を撮像する単一の撮像手段と、
前記撮像手段により撮像された画像から対象物を認識する認識手段と、を備え、
前記制御手段は、所定距離離れた対象物の撮像画像中の輝度が所定輝度となるように、前記光照射手段の出力を調節し、
前記認識手段は、前記対象物の撮像画像中の輝度を考慮して対象物を認識することを特徴とする物体認識装置。
Light irradiation means for irradiating light;
Control means for adjusting the output of the light irradiation means;
A single imaging means for imaging a region irradiated with light by the light irradiation means;
Recognizing means for recognizing an object from an image picked up by the image pickup means,
The control means adjusts the output of the light irradiation means so that the brightness in the captured image of the object separated by a predetermined distance becomes a predetermined brightness,
The object recognition apparatus characterized in that the recognition means recognizes an object in consideration of luminance in a captured image of the object.
前記制御手段は、前記所定距離内に存在する対象物の撮像画像中の輝度が飽和するように前記光照射手段の出力を調節することを特徴とする請求項1に記載の物体認識装置。   The object recognition apparatus according to claim 1, wherein the control unit adjusts the output of the light irradiation unit so that luminance in a captured image of an object existing within the predetermined distance is saturated. 前記認識手段は、前記撮像画像中の輝度が飽和している対象物については、前記所定距離内に存在していると認識することを特徴とする請求項2に記載の物体認識装置。   The object recognition apparatus according to claim 2, wherein the recognition unit recognizes that an object whose luminance in the captured image is saturated exists within the predetermined distance. 前記認識手段は、前記所定距離内に存在していると認識された対象物を認識対象から除外することを特徴とする請求項3に記載の物体認識装置。   The object recognition apparatus according to claim 3, wherein the recognition unit excludes an object recognized as existing within the predetermined distance from a recognition object. 前記制御手段は、前記撮像手段の感度および/または露光時間に応じて、前記光照射手段の出力を調節することを特徴とする請求項1〜4のいずれか1項に記載の物体認識装置。   5. The object recognition apparatus according to claim 1, wherein the control unit adjusts an output of the light irradiation unit according to a sensitivity and / or an exposure time of the imaging unit. 前記制御手段は、前記物体認識装置の移動速度に応じて、前記光照射手段の出力を調節することを特徴とする請求項1〜5のいずれか1項に記載の物体認識装置。   The object recognition apparatus according to claim 1, wherein the control unit adjusts an output of the light irradiation unit in accordance with a moving speed of the object recognition apparatus. 光を照射する光照射手段と、
前記光照射手段により光が照射されている領域を撮像する単一の撮像手段と、
前記光照射手段の出力、および、前記撮像手段の感度並びに露光時間を調節する制御手段と、
前記撮像手段により撮像された画像から対象物を認識する認識手段と、を備え、
前記制御手段は、所定距離離れた対象物の撮像画像中の輝度が所定輝度となるように、前記光照射手段の出力および前記撮像手段の感度並びに露光時間のうち少なくとも一つを調節し、
前記認識手段は、前記対象物の撮像画像中の輝度を考慮して対象物を認識することを特徴とする物体認識装置。
Light irradiation means for irradiating light;
A single imaging means for imaging a region irradiated with light by the light irradiation means;
Control means for adjusting the output of the light irradiation means and the sensitivity and exposure time of the imaging means;
Recognizing means for recognizing an object from an image picked up by the image pickup means,
The control unit adjusts at least one of the output of the light irradiation unit, the sensitivity of the imaging unit, and the exposure time so that the luminance in the captured image of the object separated by a predetermined distance becomes a predetermined luminance,
The object recognizing apparatus, wherein the recognizing unit recognizes an object in consideration of luminance in a captured image of the object.
光を照射する光照射手段と、
前記光照射手段により光が照射されている領域を撮像する単一の撮像手段と、
前記撮像手段により撮像された画像の輝度を補正する補正手段と、
前記補正手段により補正された画像から対象物を認識する認識手段と、を備え、
前記補正手段は、所定距離離れた対象物の撮像画像中の輝度が所定輝度となるように、撮像された前記画像の輝度を補正し、
前記認識手段は、補正後の前記対象物の撮像画像中の輝度を考慮して対象物を認識することを特徴とする物体認識装置。
Light irradiation means for irradiating light;
A single imaging means for imaging a region irradiated with light by the light irradiation means;
Correction means for correcting the brightness of the image captured by the imaging means;
Recognizing means for recognizing an object from the image corrected by the correcting means,
The correction unit corrects the luminance of the captured image so that the luminance in the captured image of the object that is separated by a predetermined distance becomes the predetermined luminance,
The object recognition apparatus characterized in that the recognition means recognizes an object in consideration of luminance in a captured image of the object after correction.
JP2006318963A 2006-11-27 2006-11-27 Body recognizing device Pending JP2008135856A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006318963A JP2008135856A (en) 2006-11-27 2006-11-27 Body recognizing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006318963A JP2008135856A (en) 2006-11-27 2006-11-27 Body recognizing device

Publications (1)

Publication Number Publication Date
JP2008135856A true JP2008135856A (en) 2008-06-12

Family

ID=39560406

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006318963A Pending JP2008135856A (en) 2006-11-27 2006-11-27 Body recognizing device

Country Status (1)

Country Link
JP (1) JP2008135856A (en)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102010001954A1 (en) 2009-02-16 2010-09-02 Toyota Jidosha Kabushiki Kaisha, Toyota-shi Environmental monitoring device for a vehicle
WO2010137563A1 (en) * 2009-05-25 2010-12-02 日立オートモティブシステムズ株式会社 Image processing apparatus
WO2011132313A1 (en) * 2010-04-23 2011-10-27 富士通株式会社 Image processing device, image processing method, and image processing program
JP2011221630A (en) * 2010-04-06 2011-11-04 Honda Motor Co Ltd Vehicle periphery monitoring device
WO2012164729A1 (en) * 2011-06-02 2012-12-06 トヨタ自動車株式会社 Vehicular field of view assistance device
CN103293558A (en) * 2013-06-05 2013-09-11 合肥汉翔电子科技有限公司 Comprehensive photoelectric detection system
WO2014103223A1 (en) * 2012-12-27 2014-07-03 株式会社デンソー Night-vision device
JP2016196233A (en) * 2015-04-03 2016-11-24 クラリオン株式会社 Road sign recognizing device for vehicle
RU186649U1 (en) * 2018-11-01 2019-01-28 Общество с ограниченной ответственностью "ИРВЭЙ" The unit for switching the visible light source into the infrared range of the vehicle infrared night vision system
RU2695032C1 (en) * 2018-10-08 2019-07-18 Общество с ограниченной ответственностью "ИРВЭЙ" Infrared night vision system
RU2697402C1 (en) * 2018-12-18 2019-08-14 Федеральное государственное унитарное предприятие "Всероссийский научно-исследовательский институт метрологии им. Д.И. Менделеева" Method of measuring infrared visibility and infrared visibility range of object
CN110245618A (en) * 2019-06-17 2019-09-17 深圳市汇顶科技股份有限公司 3D identification device and method
JP2020032760A (en) * 2018-08-27 2020-03-05 株式会社小糸製作所 Vehicle lighting fixture system and pair of right head lamp and left head lamp

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102010001954A1 (en) 2009-02-16 2010-09-02 Toyota Jidosha Kabushiki Kaisha, Toyota-shi Environmental monitoring device for a vehicle
WO2010137563A1 (en) * 2009-05-25 2010-12-02 日立オートモティブシステムズ株式会社 Image processing apparatus
JP2010272067A (en) * 2009-05-25 2010-12-02 Hitachi Automotive Systems Ltd Image processing apparatus
JP2011221630A (en) * 2010-04-06 2011-11-04 Honda Motor Co Ltd Vehicle periphery monitoring device
WO2011132313A1 (en) * 2010-04-23 2011-10-27 富士通株式会社 Image processing device, image processing method, and image processing program
WO2012164729A1 (en) * 2011-06-02 2012-12-06 トヨタ自動車株式会社 Vehicular field of view assistance device
WO2014103223A1 (en) * 2012-12-27 2014-07-03 株式会社デンソー Night-vision device
JP2014127924A (en) * 2012-12-27 2014-07-07 Denso Corp Night vision device
US9497395B2 (en) 2012-12-27 2016-11-15 Denso Corporation Night-vision device
CN103293558B (en) * 2013-06-05 2017-04-12 合肥智慧龙图腾知识产权股份有限公司 Comprehensive photoelectric detection system
CN103293558A (en) * 2013-06-05 2013-09-11 合肥汉翔电子科技有限公司 Comprehensive photoelectric detection system
JP2016196233A (en) * 2015-04-03 2016-11-24 クラリオン株式会社 Road sign recognizing device for vehicle
JP2020032760A (en) * 2018-08-27 2020-03-05 株式会社小糸製作所 Vehicle lighting fixture system and pair of right head lamp and left head lamp
CN110861570A (en) * 2018-08-27 2020-03-06 株式会社小糸制作所 Vehicle lamp system, and paired left and right headlamps
JP7165536B2 (en) 2018-08-27 2022-11-04 株式会社小糸製作所 Vehicle lighting system
RU2695032C1 (en) * 2018-10-08 2019-07-18 Общество с ограниченной ответственностью "ИРВЭЙ" Infrared night vision system
RU186649U1 (en) * 2018-11-01 2019-01-28 Общество с ограниченной ответственностью "ИРВЭЙ" The unit for switching the visible light source into the infrared range of the vehicle infrared night vision system
RU2697402C1 (en) * 2018-12-18 2019-08-14 Федеральное государственное унитарное предприятие "Всероссийский научно-исследовательский институт метрологии им. Д.И. Менделеева" Method of measuring infrared visibility and infrared visibility range of object
CN110245618A (en) * 2019-06-17 2019-09-17 深圳市汇顶科技股份有限公司 3D identification device and method
CN110245618B (en) * 2019-06-17 2021-11-09 深圳市汇顶科技股份有限公司 3D recognition device and method

Similar Documents

Publication Publication Date Title
JP2008135856A (en) Body recognizing device
EP2288287B1 (en) Driver imaging apparatus and driver imaging method
JP5680573B2 (en) Vehicle driving environment recognition device
US8767062B2 (en) Face imaging system and method for controlling the face imaging system
JP5435307B2 (en) In-vehicle camera device
JP5299026B2 (en) Vehicle display device
WO2016092537A1 (en) Object detection enhancement of reflection-based imaging unit
JP2005182306A (en) Vehicle display device
JP2007142624A (en) Vehicle mounted imaging apparatus
JP2010160606A (en) Information presentation system for vehicle
JP2008230296A (en) Vehicle drive supporting system
JP2000019259A (en) Environmental recognition device
JP5071198B2 (en) Signal recognition device, signal recognition method, and signal recognition program
JP2013005234A5 (en)
US20110035099A1 (en) Display control device, display control method and computer program product for the same
US20180335633A1 (en) Viewing direction detector and viewing direction detection system
JP2010257282A (en) Obstacle detection device and vehicle with the device mounted thereon
JP2006350670A (en) Night driving visibility support system
JP2016196233A (en) Road sign recognizing device for vehicle
JP2012099085A (en) Real-time warning system on windshield glass for vehicle, and operating method thereof
KR20150018927A (en) Apparatus for storaging image of camera at night and method for storaging image thereof
JP4779780B2 (en) Image display device
JP6668975B2 (en) Electronics and vehicles
KR20150079004A (en) Dispay apparatus of vehicle and contolling method for the same
JP2006226682A (en) Apparatus and method for infrared photographing and display of vehicle