JP2007251258A - Image recognizing device - Google Patents

Image recognizing device Download PDF

Info

Publication number
JP2007251258A
JP2007251258A JP2006067996A JP2006067996A JP2007251258A JP 2007251258 A JP2007251258 A JP 2007251258A JP 2006067996 A JP2006067996 A JP 2006067996A JP 2006067996 A JP2006067996 A JP 2006067996A JP 2007251258 A JP2007251258 A JP 2007251258A
Authority
JP
Japan
Prior art keywords
image
light source
specific light
image recognition
specific
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006067996A
Other languages
Japanese (ja)
Inventor
Yoshiko Okamoto
佳子 岡本
Katsumi Sakata
克己 阪田
Yoshikazu Hashimoto
欣和 橋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2006067996A priority Critical patent/JP2007251258A/en
Publication of JP2007251258A publication Critical patent/JP2007251258A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To improve detection precision in an object around an own vehicle and precision in the determination of a situation by coping with a backlight state. <P>SOLUTION: A specific light source detector 21 estimates whether an image is a specific light source, such as a headlight and a streetlamp, for example, from the size, shape, and a difference in luminance to the periphery of the image having luminance of at least a prescribed value in the image photographed by a camera 31. An exposure time corrector 22 corrects exposure control in the camera 31 so that optimum exposure time is used for an image from which the image of the specific light source is excluded. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

この発明は、カメラが撮影した画像に対する画像認識を行なう画像認識装置に関し、特に対向車のヘッドライト等が存在する場合にも高精度に画像認識を実行可能な画像認識装置に関する。   The present invention relates to an image recognition apparatus that performs image recognition on an image captured by a camera, and more particularly to an image recognition apparatus that can perform image recognition with high accuracy even when a headlight or the like of an oncoming vehicle is present.

近年、自車両の周囲を撮影し、画像認識によって歩行者や車両の存在を認識することで運転者による運転操作を支援する技術が考案されてきた。例えば、特許文献1は、赤外線画像から歩行者の像を認識する技術を開示している。   2. Description of the Related Art In recent years, a technique has been devised that assists a driving operation by a driver by photographing the surroundings of the host vehicle and recognizing the presence of a pedestrian or vehicle by image recognition. For example, Patent Literature 1 discloses a technique for recognizing a pedestrian image from an infrared image.

また、画像認識用に撮影した画像が逆光状態であると、露光時間が過度に小さくなり、見たい部分の露光が十分に得られず、まわりにある物体まで暗くなってしまう。そこで特許文献2では、画像内を所定エリア毎に分割し、注目したいエリアについて、露光制御することで、注目エリア外での逆光に影響されずに、露光制御するようにしている。   In addition, when an image taken for image recognition is in a backlit state, the exposure time becomes excessively short, and sufficient exposure of a portion to be viewed cannot be obtained, and the surrounding objects are darkened. Therefore, in Patent Document 2, the inside of an image is divided into predetermined areas, and exposure control is performed on the area to be noticed without being affected by the backlight outside the area of interest.

特開2005−159392号公報JP 2005-159392 A 特開2004−88545号公報JP 2004-88545 A

しかしながら、画像内に特定物体が存在するか否かを認識する場合、画像内のどこに対象となる物体(たとえば歩行者)が位置するかが分からないので、エリアを特定しても、そのエリア外に歩行者が居ると、結局逆光の影響を受けてしまう。   However, when recognizing whether or not a specific object exists in the image, it is not known where the target object (for example, a pedestrian) is located in the image. If there are pedestrians, they will be affected by backlighting.

そこで、対向車のヘッドライトや街灯が存在するなど車載カメラに特定光源の光が入射する状態であっても逆光の影響を受けず、画像内で特定の物体がどこに位置していても精度良く認識することが重要な課題となっていた。   Therefore, even if the light from the specific light source is incident on the on-vehicle camera, such as when there is a headlight or streetlight of an oncoming vehicle, it is not affected by the backlight, and it is accurate regardless of where the specific object is located in the image. Recognition was an important issue.

本発明は、上述した従来技術における問題点を解消し、課題を解決するためになされたものであり、自車両周辺の物体の検知精度や状況判断の精度を向上する画像認識装置を提供することを目的とする。   The present invention has been made to solve the above-described problems in the prior art and to solve the problems, and provides an image recognition device that improves the accuracy of detection of objects around the host vehicle and the accuracy of situation determination. With the goal.

上述した課題を解決し、目的を達成するため、請求項1の発明に係る画像認識装置は、カメラが撮影した画像に対し、特定の物体の画像認識を行なう画像認識装置であって、前記画像から特定光源の像を検出する特定光源検出手段と、前記特定光源検出手段による検出結果に基づいて、前記特定光源の像を除外した画像に対して最適な露光時間を用いるように前記カメラの撮影設定を制御する撮影設定制御手段と、を備えたことを特徴とする。   In order to solve the above-described problems and achieve the object, an image recognition apparatus according to the invention of claim 1 is an image recognition apparatus that performs image recognition of a specific object with respect to an image taken by a camera. A specific light source detecting means for detecting an image of the specific light source from the camera, and based on a detection result by the specific light source detecting means, the camera is configured to use an optimal exposure time for an image excluding the image of the specific light source. And a photographing setting control means for controlling the setting.

この請求項1の発明によれば画像認識装置は、カメラが撮影した画像内に特定光源の像が存在する場合に、特定光源の像を除外した画像に対して最適な露光時間を用いるように制御する。   According to the first aspect of the present invention, when the image of the specific light source is present in the image captured by the camera, the image recognition apparatus uses the optimum exposure time for the image excluding the image of the specific light source. Control.

また、請求項2の発明に係る画像認識装置は、請求項1に記載の発明において、前記特定光源は特定の周期で点灯と消灯とを繰り返す光源であって、前記撮影設定制御手段は、前記撮影の間隔が前記特定の周期に比して短くなるように前記カメラの撮影設定を変更することを特徴とする。   An image recognition apparatus according to a second aspect of the present invention is the image recognition apparatus according to the first aspect, wherein the specific light source is a light source that repeatedly turns on and off at a specific cycle, and the photographing setting control means The shooting setting of the camera is changed so that the shooting interval is shorter than the specific period.

この請求項2の発明によれば画像認識装置は、カメラが撮影した画像内にパルス光源の像が存在する場合に、撮影の間隔をパルス光源の点灯周期に比して短くなるように制御する。   According to the second aspect of the present invention, the image recognition device controls the imaging interval to be shorter than the lighting period of the pulsed light source when the image of the pulsed light source exists in the image captured by the camera. .

また、請求項3の発明に係る画像認識装置は、請求項1に記載の発明において、前記特定光源は、特定の周期で点灯と消灯とを繰り返す光源であって、前記撮影設定制御手段は、前記特定光源が消灯しているタイミングで撮影を行なうよう撮影設定を制御することを特徴とする。   The image recognition apparatus according to a third aspect of the present invention is the image recognition apparatus according to the first aspect, wherein the specific light source is a light source that repeatedly turns on and off at a specific cycle, and the photographing setting control means includes: The shooting setting is controlled so that shooting is performed when the specific light source is turned off.

この請求項3の発明によれば画像認識装置は、カメラが撮影した画像内にパルス光源の像が存在する場合に、パルス光源の消灯中に撮影を行なうように撮影タイミングの位相を制御する。   According to the third aspect of the present invention, the image recognition apparatus controls the phase of the photographing timing so that photographing is performed while the pulsed light source is turned off when an image of the pulsed light source exists in the image photographed by the camera.

また、請求項4の発明に係る画像認識装置は、カメラが撮影した画像に対し、特定の物体の画像認識を行なう画像認識装置であって、前記画像から特定光源の像を検出する特定光源検出手段と、前記特定光源検出手段による検出結果に基づいて、前記カメラに対する入射光を部分的に遮断する部分遮断手段を制御し、前記特定光源からの入射光を選択的に遮断する遮断制御手段と、を備えたことを特徴とする。   According to a fourth aspect of the present invention, there is provided an image recognition apparatus for recognizing a specific object from an image captured by a camera, wherein the specific light source detection detects an image of a specific light source from the image. And a blocking control unit for selectively blocking incident light from the specific light source by controlling partial blocking means for partially blocking incident light on the camera based on a detection result by the specific light source detecting unit. , Provided.

この請求項4の発明によれば画像認識装置は、カメラが撮影した画像内に特定光源の像が存在する場合に、特定光源からの入射光を選択的に遮断する。   According to the fourth aspect of the present invention, the image recognition device selectively blocks incident light from the specific light source when an image of the specific light source exists in the image taken by the camera.

また、請求項5の発明に係る画像認識装置は、請求項4に記載の発明において、前記遮断制御手段は、次回撮影時における前記特定光源の像の位置を予測し、当該予測位置に対する入射光を選択的に遮断することを特徴とする。   According to a fifth aspect of the present invention, in the image recognition apparatus according to the fourth aspect, the blocking control means predicts the position of the image of the specific light source at the time of the next shooting, and the incident light with respect to the predicted position. Is selectively cut off.

この請求項5の発明によれば画像認識装置は、カメラが撮影した画像内に特定光源の像が存在する場合に、次フレームにおける特定光源の像の位置を予測し、予測位置に対する入射光を選択的に遮断する。   According to the invention of claim 5, the image recognition device predicts the position of the image of the specific light source in the next frame when the image of the specific light source exists in the image captured by the camera, and determines the incident light with respect to the predicted position. Block selectively.

また、請求項6の発明に係る画像認識装置は、カメラが撮影した画像に対し、特定の物体の画像認識を行なう画像認識装置であって、前記画像認識結果と他の検知手段による検知結果と用いて周辺状況を判断する状況判断手段と、前記画像から特定光源の像を検出する特定光源検出手段と、を備え、前記状況判断手段は、前記特定光源検出手段による検出手段に基づき、前記特定光源の近傍に対する状況判断において前記他の検知手段による検知結果を優先して使用することを特徴とする。   An image recognition apparatus according to a sixth aspect of the present invention is an image recognition apparatus that performs image recognition of a specific object with respect to an image captured by a camera, the image recognition result and a detection result by other detection means. And a specific light source detecting means for detecting an image of a specific light source from the image, the status determining means based on the detection means by the specific light source detecting means. In the situation determination for the vicinity of the light source, the detection result by the other detection means is preferentially used.

この請求項6の発明によれば画像認識装置は、カメラが撮影した画像内に特定光源の像が存在する場合に、特定光源の近傍に対する状況判断において他の検知手段による検知結果を優先して使用する。   According to the sixth aspect of the present invention, when the image of the specific light source is present in the image captured by the camera, the image recognition device prioritizes the detection result by the other detection means in the situation determination for the vicinity of the specific light source. use.

また、請求項7の発明に係る画像認識装置は、請求項1〜6のいずれか一つに記載の発明において、前記特定光源検出手段は、所定値以上の輝度を有する像の大きさ、形状、周辺との輝度差のうち少なくともいずれかを用いて当該像が特定光源の像であるか否かを推定することを特徴とする。   An image recognition apparatus according to a seventh aspect of the present invention is the image recognition apparatus according to any one of the first to sixth aspects, wherein the specific light source detection means has a size and shape of an image having a luminance of a predetermined value or more. It is characterized in that it is estimated whether or not the image is a specific light source image using at least one of the luminance differences from the surroundings.

この請求項7の発明によれば画像認識装置は、カメラが撮影した画像内において所定値以上の輝度を有する像の大きさや形状、周辺との輝度差を用いて特定光源の像であるか否かを推定する。   According to the seventh aspect of the present invention, the image recognizing device is an image of a specific light source using the size and shape of an image having a luminance equal to or higher than a predetermined value in the image taken by the camera, and the luminance difference from the periphery. Estimate.

また、請求項8の発明に係る画像認識装置は、請求項7に記載の発明において、前記特定光源は他車両の前照灯であって、前記特定光源検出手段は、前記所定値以上の輝度を有する像の画像上の位置をさらに用いて当該像が前記前照灯であるか否かを推定することを特徴とする。   According to an eighth aspect of the present invention, in the image recognition apparatus according to the seventh aspect, the specific light source is a headlamp of another vehicle, and the specific light source detection means has a luminance greater than or equal to the predetermined value. It is further characterized in that it is estimated whether or not the image is the headlamp by further using a position of the image having the image on the image.

この請求項8の発明によれば画像認識装置は、カメラが撮影した画像内において所定値以上の輝度を有する像の大きさや形状、周辺との輝度差、画像上の位置を用いて他車両の前照灯の像であるか否かを推定する。   According to the eighth aspect of the present invention, the image recognition apparatus uses the size and shape of an image having a luminance equal to or higher than a predetermined value in the image captured by the camera, the luminance difference from the surroundings, and the position on the image, to detect the other vehicle. It is estimated whether it is a headlight image.

請求項1の発明によれば画像認識装置は、カメラが撮影した画像内に特定光源の像が存在する場合に、特定光源の像を除外した画像に対して最適な露光時間を用いるように制御するので、自車両周辺の物体の検知精度や状況判断の精度を向上する画像認識装置を得ることができるという効果を奏する。   According to the first aspect of the present invention, when the image of the specific light source is present in the image captured by the camera, the image recognition device is controlled to use the optimum exposure time for the image excluding the image of the specific light source. Therefore, there is an effect that it is possible to obtain an image recognition device that improves the detection accuracy of objects around the host vehicle and the accuracy of situation determination.

また、請求項2の発明によれば画像認識装置は、カメラが撮影した画像内にパルス光源の像が存在する場合に、撮影の間隔をパルス光源の点灯周期に比して短くなるように制御するので、逆光状態を避けて撮影し、画像認識精度を向上する画像認識装置を得ることができるという効果を奏する。   According to the second aspect of the present invention, the image recognition device controls the shooting interval to be shorter than the lighting cycle of the pulsed light source when an image of the pulsed light source exists in the image captured by the camera. Therefore, there is an effect that it is possible to obtain an image recognition device that captures images while avoiding a backlight condition and improves image recognition accuracy.

また、請求項3の発明によれば画像認識装置は、カメラが撮影した画像内にパルス光源の像が存在する場合に、パルス光源の消灯中に撮影を行なうように撮影タイミングの位相を制御するので、逆光状態を避けて撮影し、画像認識精度を向上する画像認識装置を得ることができるという効果を奏する。   According to a third aspect of the present invention, the image recognition device controls the phase of the photographing timing so that photographing is performed while the pulsed light source is turned off when an image of the pulsed light source exists in the image photographed by the camera. Therefore, there is an effect that it is possible to obtain an image recognition apparatus that captures images while avoiding a backlight state and improves image recognition accuracy.

また、請求項4の発明によれば画像認識装置は、カメラが撮影した画像内に特定光源の像が存在する場合に、特定光源からの入射光を選択的に遮断するので、画像内における高輝度領域の発生を回避し、認識すべき領域に最適な露光量を確保する画像認識装置を得ることができるという効果を奏する。   According to the invention of claim 4, the image recognition device selectively blocks incident light from the specific light source when an image of the specific light source is present in the image taken by the camera. There is an effect that it is possible to obtain an image recognition device that avoids the generation of a luminance region and secures an optimum exposure amount for the region to be recognized.

また、請求項5の発明によれば画像認識装置は、カメラが撮影した画像内に特定光源の像が存在する場合に、次フレームにおける特定光源の像の位置を予測し、予測位置に対する入射光を選択的に遮断するので、画像内における高輝度領域の発生を確実に回避し、認識すべき領域に最適な露光量を確保する画像認識装置を得ることができるという効果を奏する。   According to the invention of claim 5, the image recognition device predicts the position of the image of the specific light source in the next frame when the image of the specific light source exists in the image captured by the camera, and the incident light with respect to the predicted position. Therefore, it is possible to obtain an image recognition apparatus that reliably avoids the generation of a high luminance area in an image and secures an optimum exposure amount for the area to be recognized.

また、請求項6の発明によれば画像認識装置は、カメラが撮影した画像内に特定光源の像が存在する場合に、特定光源の近傍に対する状況判断において他の検知手段による検知結果を優先して使用するので、自車両周辺の物体の検知精度や状況判断の精度を向上する画像認識装置を得ることができるという効果を奏する。   According to the invention of claim 6, when the image of the specific light source is present in the image taken by the camera, the image recognition device prioritizes the detection result by other detection means in the situation determination for the vicinity of the specific light source. Therefore, there is an effect that it is possible to obtain an image recognition device that improves the accuracy of detection of objects around the host vehicle and the accuracy of situation determination.

また、請求項7の発明によれば画像認識装置は、カメラが撮影した画像内において所定値以上の輝度を有する像の大きさや形状、周辺との輝度差を用いて特定光源の像であるか否かを推定するので、逆光状態を精度良く検知し、自車両周辺の物体の検知精度や状況判断の精度を向上する画像認識装置を得ることができるという効果を奏する。   According to the seventh aspect of the present invention, is the image recognition device an image of a specific light source using the size and shape of an image having a luminance greater than or equal to a predetermined value in the image captured by the camera, and the luminance difference from the periphery? Therefore, it is possible to obtain an image recognition device that can accurately detect a backlight state and improve the accuracy of detecting an object around the host vehicle and the accuracy of situation determination.

また、請求項8の発明によれば画像認識装置は、カメラが撮影した画像内において所定値以上の輝度を有する像の大きさや形状、周辺との輝度差、画像上の位置を用いて他車両の前照灯の像であるか否かを推定するので、他車両の前照灯による逆光状態を回避し、自車両周辺の物体の検知精度や状況判断の精度を向上する画像認識装置を得ることができるという効果を奏する。   According to the invention of claim 8, the image recognition apparatus uses another vehicle by using the size and shape of an image having a luminance equal to or higher than a predetermined value in the image taken by the camera, the luminance difference from the periphery, and the position on the image. Therefore, it is possible to obtain an image recognition device that avoids a backlight condition caused by a headlamp of another vehicle and improves the accuracy of detection of objects around the host vehicle and the accuracy of situation determination. There is an effect that can be.

以下に添付図面を参照して、この発明に係る画像認識装置の好適な実施例について詳細に説明する。   Exemplary embodiments of an image recognition apparatus according to the present invention will be described below in detail with reference to the accompanying drawings.

図1は、本発明の実施例である車載用の画像認識装置10の概要構成を示す概要構成図である。同図に示すように、車両は以下のような構成を有している。画像認識装置10は、ナビゲーション装置30、カメラ31、プリクラッシュECU40、ディスプレイ43およびスピーカ44と接続している。   FIG. 1 is a schematic configuration diagram showing a schematic configuration of an in-vehicle image recognition apparatus 10 that is an embodiment of the present invention. As shown in the figure, the vehicle has the following configuration. The image recognition device 10 is connected to the navigation device 30, the camera 31, the pre-crash ECU 40, the display 43, and the speaker 44.

ナビゲーション装置30は、GPS(Global Positioning System)人工衛星と通信して特定した自車両の位置と、予め記憶した地図データ30aとを利用して走行経路の設定および誘導を行なう車載装置である。また、ナビゲーション装置30は、画像認識装置10に対して自車両の位置情報や周辺の地図情報、走行予定経路などを提供する。   The navigation device 30 is an in-vehicle device that sets and guides a travel route using the position of the host vehicle specified by communicating with a GPS (Global Positioning System) artificial satellite and map data 30a stored in advance. In addition, the navigation device 30 provides the image recognition device 10 with location information of the host vehicle, surrounding map information, a planned travel route, and the like.

カメラ31は、自車両周辺を撮影し、撮影結果を画像認識装置10に入力する撮影手段である。また、カメラ31はその内部に露光制御部31aおよび撮影タイミング制御部31bを有する。露光制御部31aは、撮影した画像の輝度分布に基づいて撮影時における露光時間を制御する処理を行なう。そして、撮影タイミング制御部31bは、撮影を実行するタイミングやその間隔(フレームレート)を制御する処理を行なう。   The camera 31 is a photographing unit that photographs the periphery of the host vehicle and inputs the photographing result to the image recognition device 10. The camera 31 includes an exposure control unit 31a and a photographing timing control unit 31b. The exposure control unit 31a performs processing for controlling the exposure time at the time of photographing based on the luminance distribution of the photographed image. Then, the photographing timing control unit 31b performs processing for controlling the timing of executing photographing and the interval (frame rate).

プリクラッシュECU40は、画像認識装置10が自車両の衝突を予測した場合に、画像認識装置10の制御をうけ、ブレーキ41やエンジン制御装置(EFI)42による車両の動作制御、またディスプレイ43やスピーカ44による通知制御を実行する電子制御装置である。   The pre-crash ECU 40 receives the control of the image recognition device 10 when the image recognition device 10 predicts a collision of the host vehicle, controls the operation of the vehicle by the brake 41 and the engine control device (EFI) 42, and displays the display 43 and the speaker. This is an electronic control device that executes notification control by the control unit 44.

ディスプレイ43はユーザすなわち自車両乗員に対して表示による通知を行なう出力手段であり、スピーカ44は音声による通知を行なう出力手段である。ディスプレイ43およびスピーカ44は、プリクラッシュECU40からの制御を受けて出力を行なう他、ナビゲーション装置30や図示しない車載オーディオ装置など各種車載装置で共用することができる。   The display 43 is an output means for notifying the user, that is, the vehicle occupant by display, and the speaker 44 is an output means for notifying by voice. The display 43 and the speaker 44 can be shared by various in-vehicle devices such as the navigation device 30 and an in-vehicle audio device (not shown) in addition to performing output under the control of the pre-crash ECU 40.

画像認識装置10は、その内部に前処理部11、車両認識部16、白線認識部17、歩行者認識部18、衝突判定部19および特定光源対処処理部20を有する。ここで、車両認識部16、白線認識部17、歩行者認識部18、衝突判定部19および特定光源対処処理部20はマイコン10aによって実現される機能部である。   The image recognition apparatus 10 includes a preprocessing unit 11, a vehicle recognition unit 16, a white line recognition unit 17, a pedestrian recognition unit 18, a collision determination unit 19, and a specific light source handling processing unit 20 therein. Here, the vehicle recognition unit 16, the white line recognition unit 17, the pedestrian recognition unit 18, the collision determination unit 19, and the specific light source countermeasure processing unit 20 are functional units realized by the microcomputer 10a.

前処理部11は、カメラ31が撮影した画像に対してフィルタリングやエッジ検出、輪郭抽出などの処理を施した後、車両認識部16、白線認識部17および歩行者認識部18に出力する。   The preprocessing unit 11 performs processing such as filtering, edge detection, and contour extraction on the image captured by the camera 31, and then outputs the image to the vehicle recognition unit 16, the white line recognition unit 17, and the pedestrian recognition unit 18.

車両認識部16は、前処理部11が出力した画像に対してパターンマッチングなどを施して車両を認識し、認識結果を衝突判定部19に出力する。また、白線認識部17は、前処理部11が出力した画像に対してパターンマッチングなどを施して白線を認識し、認識結果を衝突判定部19に出力する。   The vehicle recognition unit 16 performs pattern matching on the image output from the preprocessing unit 11 to recognize the vehicle, and outputs the recognition result to the collision determination unit 19. Further, the white line recognition unit 17 recognizes a white line by performing pattern matching or the like on the image output from the preprocessing unit 11, and outputs the recognition result to the collision determination unit 19.

歩行者認識部18は、前処理部11が出力した画像から歩行者が存在する可能性のある領域を歩行者候補領域として検出し、さらに歩行者候補領域に対してパターンマッチングなどを施して歩行者を認識し、衝突判定部19に出力する。   The pedestrian recognition unit 18 detects an area where a pedestrian may exist from the image output by the preprocessing unit 11 as a pedestrian candidate area, and further performs pattern matching on the pedestrian candidate area and walks. The person is recognized and output to the collision determination unit 19.

衝突判定部19は、車両認識部16、白線認識部17、歩行者認識部18による認識結果およびナビゲーション装置30が出力する位置情報を用いて、歩行者や他車両と自車両との衝突危険度を判定する。なお、衝突危険度の判定にはレーダなど図示しない他のセンサ出力をさらに用いることもできる。   The collision determination unit 19 uses the recognition results obtained by the vehicle recognition unit 16, the white line recognition unit 17, the pedestrian recognition unit 18, and the position information output by the navigation device 30, and the collision risk between the pedestrian and other vehicles and the host vehicle. Determine. It should be noted that other sensor outputs such as radar can be further used to determine the collision risk.

具体的には衝突判定部19は、歩行者や他車両との衝突が発生する確率、衝突する時間、衝突する位置までの距離、衝突する角度などを判定し、その判定結果に基づいてプリクラッシュECU40に対してブレーキ制御指示やEFI制御指示、ディスプレイ43による情報表示指示、スピーカ44による警告音声出力指示、などを出力する。   Specifically, the collision determination unit 19 determines the probability of a collision with a pedestrian or another vehicle, the collision time, the distance to the collision position, the collision angle, and the like, and pre-crash based on the determination result A brake control instruction, an EFI control instruction, an information display instruction by the display 43, a warning sound output instruction by the speaker 44, and the like are output to the ECU 40.

特定光源対処処理部20は、カメラ31が撮影した画像にヘッドライトや街灯など特定光源の像が含まれている場合に、特定光源への対処を行なう処理部であり、その内部に特定光源検知部21および露光時間補正部22を有する。   The specific light source handling processing unit 20 is a processing unit that deals with a specific light source when an image taken by the camera 31 includes an image of a specific light source such as a headlight or a streetlight. Part 21 and exposure time correction part 22.

特定光源検知部21は、カメラ31が撮影した画像に対して画像処理を行ない、特定光源の像を検知する処理を行なう。具体的には、特定光源検知部21は、画像内において所定値以上の輝度を有する像の大きさ、形状、周辺との輝度差などからその像が特定の光源、例えばヘッドライトや街灯の像であるか否かを推定する。   The specific light source detection unit 21 performs image processing on the image captured by the camera 31 and performs processing for detecting an image of the specific light source. Specifically, the specific light source detection unit 21 determines whether the image has a specific light source, for example, an image of a headlight or a streetlight, based on the size, shape, and luminance difference between the image having a luminance of a predetermined value or more in the image. It is estimated whether it is.

さらに、特に撮影画像に対して影響の大きい対向車両のヘッドライトについては、その画像上の位置をさらに用いてその像がヘッドライトであるか否かを推定する。   Furthermore, regarding the headlight of an oncoming vehicle that has a great influence on the captured image, it is estimated whether or not the image is a headlight by further using the position on the image.

露光時間補正部22は、特定光源検知部21の検知結果に基づいてカメラ31の露光時間を補正する処理を行なう。具体的には、特定光源検知部21が検知した特定光源の像を除外した画像に対して最適な露光時間を用いるように露光制御部31aの露光時間制御動作を補正する。   The exposure time correction unit 22 performs a process of correcting the exposure time of the camera 31 based on the detection result of the specific light source detection unit 21. Specifically, the exposure time control operation of the exposure control unit 31a is corrected so that an optimal exposure time is used for an image excluding the image of the specific light source detected by the specific light source detection unit 21.

この露光時間の制御と補正について図2および図3を参照してさらに説明する。まず、図2は、カメラ31が撮影した画像の一例であり、説明を簡明にするため各画素についても明確に表示している。   The control and correction of the exposure time will be further described with reference to FIGS. First, FIG. 2 is an example of an image taken by the camera 31, and each pixel is also clearly displayed for the sake of simplicity.

露光制御部31aによる露光時間の制御では、この画像に対し縦方向の輝度値合計を列毎に算出し(例えば左端の列から順に右端の列まで)、一列の輝度値合計が所定の閾値以上となる列の個数を記録する。そして、この列の個数が閾値以上であれば露光時間を短くする。   In the exposure time control by the exposure control unit 31a, the total luminance value in the vertical direction is calculated for each column for this image (for example, from the leftmost column to the rightmost column in order), and the total luminance value in one column is equal to or greater than a predetermined threshold value. Record the number of rows that become If the number of rows is equal to or greater than the threshold value, the exposure time is shortened.

例えば、図2において輝度値合計の閾値を5000、列数の閾値5とすると、対向車両の右ヘッドライトの像を含む4本の列、さらに対向車両の左ヘッドライトの像を含む4本の列の輝度値合計が閾値を超える。そのため、閾値を超えた列の個数は8となり、列数の閾値を超えるので露光時間が短くなる。   For example, in FIG. 2, if the threshold value of the total luminance value is 5000 and the threshold number of columns is 5, four columns including the image of the right headlight of the oncoming vehicle and four images including the image of the left headlight of the oncoming vehicle are provided. The total luminance value of the column exceeds the threshold value. Therefore, the number of columns exceeding the threshold value is 8, and the exposure time is shortened because the number of columns exceeds the threshold value.

このようにヘッドライトなどの特定光源を露光制御対象に含めると、特定光源の輝度値によって露光時間が短くなり、画像認識の対象とすべき周辺領域で露光量が不足し、画像認識精度、ひいては状況判断の精度が低下する。   When a specific light source such as a headlight is included in the exposure control target in this way, the exposure time is shortened depending on the luminance value of the specific light source, the exposure amount is insufficient in the peripheral area to be the target of image recognition, and the image recognition accuracy is extended. The accuracy of situation judgment is reduced.

そこで、図3に示すように、横方向の輝度値合計を行毎に算出し(例えば上端の行から順に下端の行まで)、一行の輝度値合計が所定の閾値以上となる列の個数を記録する。この行の輝度値合計の算出結果と列の輝度値合計の算出結果から、輝度値の大きい特定光源の像の領域を抽出することができる。   Therefore, as shown in FIG. 3, the total luminance value in the horizontal direction is calculated for each row (for example, from the top row to the bottom row in order), and the number of columns in which the total luminance value in one row is equal to or greater than a predetermined threshold is calculated. Record. From the calculation result of the total luminance value of the row and the calculation result of the total luminance value of the column, the region of the image of the specific light source having a large luminance value can be extracted.

そして、この特定光源の像を除外した画像に対して最適な露光制御を行なうことで、画像認識の対象とすべき周辺領域に対して十分な露光時間を確保し、画像認識精度、ひいては状況判断の精度を向上することができる。   Then, by performing optimal exposure control on the image excluding the image of the specific light source, a sufficient exposure time is ensured for the peripheral region to be subjected to image recognition, and the image recognition accuracy and thus the situation determination Accuracy can be improved.

つづいて、特定光源対処処理部20の処理動作について説明する。図4は、特定光源対処処理部20の処理動作を説明するフローチャートであり、カメラ31から画像を取得した場合に開始される処理である。   Next, the processing operation of the specific light source countermeasure processing unit 20 will be described. FIG. 4 is a flowchart for explaining the processing operation of the specific light source countermeasure processing unit 20, and is a process started when an image is acquired from the camera 31.

カメラ31から画像を取得すると、まず特定光源検知部21が画像内から所定値以上の輝度を示す領域を検出し(ステップS101)、検出した領域の大きさ、形状、周囲との濃度差から特定光源であるか否かを判定する(ステップS102)。   When an image is acquired from the camera 31, first, the specific light source detection unit 21 detects an area showing a luminance greater than or equal to a predetermined value from the image (step S101), and specifies from the size, shape, and density difference of the detected area. It is determined whether it is a light source (step S102).

その結果、画像内に特定光源が存在しなければ(ステップS103,No)そのまま処理を終了し、特定光源が存在する場合には(ステップS103,Yes)、特定光源に対応した領域を除外し、残りの領域に対して最適な露光時間となるよう露光時間を補正して(ステップS104)、処理を終了する。   As a result, if the specific light source does not exist in the image (No at Step S103), the process is terminated as it is. If the specific light source exists (Yes at Step S103), the region corresponding to the specific light source is excluded, The exposure time is corrected so that the optimal exposure time is obtained for the remaining area (step S104), and the process is terminated.

一方、画像認識は図5に示す処理によって行なわれる。同図に示すフローチャートは、カメラ31から画像を取得した場合に開始される処理である。まず、前処理部11が出力した画像に対し、車両認識部16による車両認識、白線認識部17による白線認識、歩行者認識部18による歩行者認識を行なう(ステップS1001)。衝突判定部19は、車両、白線、歩行者の認識結果と、ナビゲーション装置30から取得した(ステップS1002)位置情報とを用いて、衝突危険度を判定する(ステップS1003)。   On the other hand, image recognition is performed by the process shown in FIG. The flowchart shown in the figure is processing started when an image is acquired from the camera 31. First, vehicle recognition by the vehicle recognition unit 16, white line recognition by the white line recognition unit 17, and pedestrian recognition by the pedestrian recognition unit 18 are performed on the image output by the preprocessing unit 11 (step S1001). The collision determination unit 19 determines the collision risk level using the recognition result of the vehicle, the white line, and the pedestrian and the position information acquired from the navigation device 30 (step S1002) (step S1003).

その結果、衝突する可能性がないならば(ステップS1004,No)そのまま処理を終了し、衝突する可能性があるならば(ステップS1004,Yes)、危険度に応じてユーザへの通知や車両制御を実行して(ステップS1005)、処理を終了する。   As a result, if there is no possibility of collision (step S1004, No), the processing is terminated as it is, and if there is a possibility of collision (step S1004, Yes), notification to the user or vehicle control according to the degree of danger. Is executed (step S1005), and the process is terminated.

このように、画像内に特定光源が存在する場合には、特定光源の像を除外して露光時間を制御して画像認識を行なうことで、特定光源の影響による露光量不足を防ぎ、認識精度を向上することができる。   In this way, when a specific light source is present in the image, the image is recognized by excluding the image of the specific light source and controlling the exposure time, thereby preventing exposure shortage due to the influence of the specific light source, and recognition accuracy. Can be improved.

なお、図4に示した特定光源対処処理と、図5に示した画像認識処理とは、独立に実行してもよいし、連続して実行するように構成してもよい。また、マイコン10aの内部でメインルーチンによって呼び出される異なるサブルーチンとしても良い。   It should be noted that the specific light source handling process shown in FIG. 4 and the image recognition process shown in FIG. 5 may be executed independently or configured to be executed continuously. Moreover, it is good also as a different subroutine called by the main routine inside the microcomputer 10a.

ところで、特定光源に対する対処方法は、露光時間の制御に限らず、他の方法を用いることもできる。   By the way, the coping method for the specific light source is not limited to the control of the exposure time, and other methods can be used.

図6は、特定光源が存在する場合に、その光源からの入射光を選択的に遮断する場合の構成を示す概要構成図である。   FIG. 6 is a schematic configuration diagram showing a configuration in a case where incident light from a specific light source is selectively blocked when there is a specific light source.

同図では、カメラ31と液晶パネル32とがカメラユニット45を構成している。この液晶パネル32は、カメラ32に対する入射光を部分的に遮断する部分遮断手段である。また特定光源対処処理部20aは、特定光源検知部21の検知結果に基づいて液晶パネル32を制御することで、特定光源からの入射光を選択的に遮断する。   In the figure, the camera 31 and the liquid crystal panel 32 constitute a camera unit 45. The liquid crystal panel 32 is a partial blocking unit that partially blocks incident light to the camera 32. Further, the specific light source handling processing unit 20a selectively blocks incident light from the specific light source by controlling the liquid crystal panel 32 based on the detection result of the specific light source detection unit 21.

ここで、画像内における特定光源の像の位置は、自車両の走行や特定光源自体の移動によって変化する。そこで、液晶パネル制御部23は、次の撮影タイミングにおける特定光源の像の位置を予測し、予測位置に対する入射光を選択的に遮断するように液晶パネル32を制御する。   Here, the position of the image of the specific light source in the image changes depending on the travel of the host vehicle or the movement of the specific light source itself. Therefore, the liquid crystal panel control unit 23 predicts the position of the image of the specific light source at the next photographing timing, and controls the liquid crystal panel 32 so as to selectively block incident light at the predicted position.

その他の構成および動作は図1に示した構成と同様であるので、同一の構成要素には同一の符号を付して説明を省略する。   Since other configurations and operations are the same as those shown in FIG. 1, the same components are denoted by the same reference numerals and description thereof is omitted.

つづいて、図6に示した特定光源対処処理部20aの処理動作について説明する。図7は、特定光源対処処理部20aの処理動作を説明するフローチャートであり、カメラ31から画像を取得した場合に開始される処理である。   Next, the processing operation of the specific light source countermeasure processing unit 20a shown in FIG. 6 will be described. FIG. 7 is a flowchart for explaining the processing operation of the specific light source handling processing unit 20a, and is a process started when an image is acquired from the camera 31.

カメラ31から画像を取得すると、まず特定光源検知部21が画像内から所定値以上の輝度を示す領域を検出し(ステップS201)、検出した領域の大きさ、形状、周囲との濃度差から特定光源であるか否かを判定する(ステップS202)。   When an image is acquired from the camera 31, the specific light source detection unit 21 first detects an area showing a luminance of a predetermined value or more from the image (step S <b> 201), and specifies from the size, shape, and density difference with the surrounding area of the detected area. It is determined whether it is a light source (step S202).

その結果、画像内に特定光源が存在しなければ(ステップS203,No)そのまま処理を終了し、特定光源が存在する場合には(ステップS203,Yes)、特定光源の次フレームにおける位置を予測する(ステップS204)。そして、特定光源が次フレームに位置する領域を液晶パネルによってマスクし(ステップS205)、処理を終了する。   As a result, if the specific light source does not exist in the image (No at Step S203), the process is terminated, and if the specific light source exists (Step S203, Yes), the position of the specific light source in the next frame is predicted. (Step S204). Then, the area where the specific light source is located in the next frame is masked by the liquid crystal panel (step S205), and the process is terminated.

このように、画像内に特定光源が存在する場合には、特定光源からの入射光を選択的に遮断することで、画像から過度に輝度の高い像を排除し、特定光源の影響による露光量不足を防ぐことができる。   In this way, when a specific light source is present in the image, by selectively blocking the incident light from the specific light source, an excessively bright image is excluded from the image, and the exposure amount due to the influence of the specific light source Shortage can be prevented.

つぎに、特定光源がパルス光源である場合に、撮影タイミングを制御することで露光量の不足を回避する構成について図8を参照して説明する。   Next, a configuration for avoiding the shortage of exposure amount by controlling the photographing timing when the specific light source is a pulse light source will be described with reference to FIG.

街灯やヘッドライトをLEDで構成した場合、特定の周期で点灯と消灯とを繰り返すパルス光源となる場合がある。この場合、特定光源が消灯している間に撮影を行なうことで、特定光源による露光量不足を回避することができる。   When street lamps or headlights are constituted by LEDs, they may be pulsed light sources that repeatedly turn on and off at a specific cycle. In this case, by taking a picture while the specific light source is turned off, it is possible to avoid an insufficient exposure amount due to the specific light source.

具体的には、図8において特定光源対処処理部20bは、光センサユニット34による検知結果を取得し、また内部に特定光源検知部21、フレームレート設定部24および位相制御部25を有する。その他の構成および動作は図1に示した構成と同様であるので、同一の構成要素には同一の符号を付して説明を省略する。   Specifically, in FIG. 8, the specific light source handling processing unit 20 b acquires the detection result by the optical sensor unit 34 and includes a specific light source detection unit 21, a frame rate setting unit 24, and a phase control unit 25 inside. Since other configurations and operations are the same as those shown in FIG. 1, the same components are denoted by the same reference numerals and description thereof is omitted.

光センサユニット34は、フォトダイオードなどによって構成され、自車両周辺の光量を測定する。ここで、光センサユニット34はカメラ31の撮影範囲全体の光量を測定するものであってもよいし、カメラ31の撮影範囲内の方向ごとに、すなわち画像内の位置ごとに光量を測定するものであっても良い。   The optical sensor unit 34 is configured by a photodiode or the like, and measures the amount of light around the host vehicle. Here, the optical sensor unit 34 may measure the light amount of the entire photographing range of the camera 31 or measure the light amount for each direction within the photographing range of the camera 31, that is, for each position in the image. It may be.

特定光源がパルス光源である場合、光センサユニット34が測定する光量の変化から、そのパルス周期を取得することができる。そこで、特定光源検知部21が特定光源を検知した場合に、フレームレート設定部24は特定光源のパルス周期に基づいてカメラ31の撮影間隔、すなわちフレームレートを設定し、位相制御部25は、撮影の位相を制御する。   When the specific light source is a pulse light source, the pulse period can be acquired from the change in the light amount measured by the optical sensor unit 34. Therefore, when the specific light source detection unit 21 detects the specific light source, the frame rate setting unit 24 sets the shooting interval of the camera 31, that is, the frame rate, based on the pulse period of the specific light source, and the phase control unit 25 Control the phase of.

この撮影タイミングの制御について図9を参照して説明する。同図に示すように、対向車のヘッドライトの点滅が周期f1である場合、フレームレート設定部24によってフレームレートをf1に比して短い周期f2とすることで、対向車のヘッドライトがオフになったタイミングで撮影を行なうことができる。   The control of the photographing timing will be described with reference to FIG. As shown in the figure, when the blinking of the headlight of the oncoming vehicle is in the cycle f1, the headlight of the oncoming vehicle is turned off by setting the frame rate to a cycle f2 shorter than f1 by the frame rate setting unit 24. Shooting can be performed at the timing when

また、フレームレートの周期がヘッドライトの点灯周期と同じf1であっても、撮影のタイミングをヘッドライト点灯の逆位相となるように位相制御することで、ヘッドライトがオフになったタイミングで撮影を行なうことができる。   Also, even when the frame rate cycle is the same as the headlight lighting cycle f1, shooting is performed at the timing when the headlight is turned off by controlling the phase of the shooting so that it is in the opposite phase of the headlight lighting. Can be performed.

つづいて、図8に示した特定光源対処処理部20bの処理動作について説明する。図10は、特定光源対処処理部20bの処理動作を説明するフローチャートであり、カメラ31から画像を取得した場合に開始される処理である。   Next, the processing operation of the specific light source countermeasure processing unit 20b shown in FIG. 8 will be described. FIG. 10 is a flowchart for explaining the processing operation of the specific light source handling processing unit 20 b, and is a process that is started when an image is acquired from the camera 31.

カメラ31から画像を取得すると、まず特定光源検知部21が画像内から所定値以上の輝度を示す領域を検出し(ステップS301)、検出した領域の大きさ、形状、周囲との濃度差から特定光源であるか否かを判定する(ステップS302)。   When an image is acquired from the camera 31, first, the specific light source detection unit 21 detects an area showing a luminance of a predetermined value or more from the image (step S301), and specifies from the size, shape, and density difference of the detected area. It is determined whether it is a light source (step S302).

その結果、画像内に特定光源が存在しなければ(ステップS303,No)そのまま処理を終了し、特定光源が存在する場合には(ステップS303,Yes)、光センサユニット34から特定光源のパルス周期を取得する(ステップS304)。そして、パルス周期に基づいて撮影タイミングを制御し(ステップS305)、処理を終了する。   As a result, if the specific light source does not exist in the image (No at Step S303), the process is terminated as it is, and if the specific light source exists (Step S303, Yes), the pulse cycle of the specific light source from the optical sensor unit 34. Is acquired (step S304). Then, the imaging timing is controlled based on the pulse period (step S305), and the process is terminated.

このように、画像内にパルス光源が存在する場合には、パルス光源の周期を取得して光源がオフでるタイミングで撮影を行なうことで、画像から過度に輝度の高い像を排除し、特定光源の影響による露光量不足を防ぐことができる。   In this way, when a pulsed light source is present in the image, an image with an excessively high brightness is excluded from the image by acquiring the period of the pulsed light source and shooting at the timing when the light source is turned off. Insufficient exposure due to the influence of the can be prevented.

なお、図8においては光センサユニット34によって光量を測定する構成を例に説明を行なったが、構成を簡略化する場合には、カメラ31が撮影した画像に対する画像処理によって光量の変化を算出することで光センサユニット34を省略することができる。   In FIG. 8, the configuration in which the light amount is measured by the optical sensor unit 34 has been described as an example. However, when the configuration is simplified, a change in the light amount is calculated by image processing on an image captured by the camera 31. Thus, the optical sensor unit 34 can be omitted.

つぎに、特定光源が存在する場合に、特定光源の近傍に対する状況判断において他の検知手段による検知結果を優先する構成について図11を参照して説明する。   Next, in the case where a specific light source is present, a configuration in which priority is given to the detection result by another detection means in the situation determination for the vicinity of the specific light source will be described with reference to FIG.

同図に示す構成では、衝突判定部19は、車両認識部16、白線認識部17、歩行者認識部18による認識結果、ナビゲーション装置30が出力する位置情報に加え、レーダ33による検知結果を用いて歩行者や他車両と自車両との衝突危険度を判定する。   In the configuration shown in the figure, the collision determination unit 19 uses the detection results obtained by the radar 33 in addition to the recognition results obtained by the vehicle recognition unit 16, the white line recognition unit 17 and the pedestrian recognition unit 18 and the position information output from the navigation device 30. The collision risk between the pedestrian or other vehicle and the host vehicle is determined.

ここで、レーダ33は、電波の反射を利用して自車両の周辺の物体検知、および物体までの距離測定を行なう検知手段である。なお、ここでは一例としてレーダを利用する場合について説明するが、他の任意の検知手段を用いることができる。   Here, the radar 33 is a detection means for detecting an object around the own vehicle and measuring a distance to the object by using reflection of radio waves. In addition, although the case where a radar is used is described here as an example, any other detection means can be used.

特定光源対処処理部20cは、その内部に特定光源検知部21と判定優先度設定部26を有する。判定優先度設定部26は、特定光源検知部21が特定光源を検知した場合に、その周辺における状況判断においてレーダ33の検知結果を優先的に使用するように衝突判定部19aに指示する。   The specific light source handling processing unit 20c includes a specific light source detection unit 21 and a determination priority setting unit 26 therein. When the specific light source detection unit 21 detects the specific light source, the determination priority setting unit 26 instructs the collision determination unit 19a to preferentially use the detection result of the radar 33 in the situation determination around the specific light source.

つづいて、図11に示した特定光源対処処理部20cの処理動作について説明する。図12は、特定光源対処処理部20cの処理動作を説明するフローチャートであり、カメラ31から画像を取得した場合に開始される処理である。   Next, the processing operation of the specific light source countermeasure processing unit 20c shown in FIG. 11 will be described. FIG. 12 is a flowchart for explaining the processing operation of the specific light source handling processing unit 20 c, and is a process that is started when an image is acquired from the camera 31.

カメラ31から画像を取得すると、まず特定光源検知部21が画像内から所定値以上の輝度を示す領域を検出し(ステップS401)、検出した領域の大きさ、形状、周囲との濃度差から特定光源であるか否かを判定する(ステップS402)。   When an image is acquired from the camera 31, the specific light source detection unit 21 first detects an area showing a luminance of a predetermined value or more from the image (step S 401), and specifies the size, shape, and density difference from the surrounding area of the detected area. It is determined whether it is a light source (step S402).

その結果、画像内に特定光源が存在しなければ(ステップS403,No)そのまま処理を終了し、特定光源が存在する場合には(ステップS403,Yes)、特定光源が存在する領域について、他のセンサ出力を優先するように衝突判定部19aに指示し(ステップS404)、処理を終了する。   As a result, if the specific light source does not exist in the image (No at Step S403), the process is ended as it is, and if the specific light source exists (Yes at Step S403), another region is present for the region where the specific light source exists. The collision determination unit 19a is instructed to give priority to the sensor output (step S404), and the process ends.

このように、画像内に特定光源が存在する場合には、その周辺の状況判断において他の検知手段による検知結果を優先することで、状況判断の精度を向上することができる。   Thus, when a specific light source is present in the image, the accuracy of the situation determination can be improved by prioritizing the detection result by other detection means in the surrounding situation determination.

上述してきたように、本実施例にかかる画像認識装置10は、カメラ31が撮影した画像からヘッドライトや街灯などの特定の光源を検知し、特定光源が存在する場合には露光時間の補正、入射光の選択的な遮断、撮影タイミングの制御、状況判断における他の検知手段の優先などの対処を行なうことで、高い輝度の光源が画像内に存在する場合であっても自車両周辺の物体を精度良く検知して状況判断を行なうことができる。   As described above, the image recognition apparatus 10 according to the present embodiment detects a specific light source such as a headlight or a streetlight from an image captured by the camera 31, and corrects an exposure time when a specific light source exists. Even if a high-intensity light source is present in the image by selectively blocking incident light, controlling shooting timing, and prioritizing other detection means in situation determination, Can be detected with high accuracy.

なお、本発明は実施例から明らかなように、対向車両がヘッドライトを点灯している状態、すなわち夜間における画像認識に特に有効であり、さらに好適には自車両から近赤外線を前方照射し、その反射光である赤外線画像から画像認識をする際に高い効果を発揮するが、例えば可視光領域の画像認識や日中の画像認識に適用することもできる。   As is apparent from the examples, the present invention is particularly effective for the oncoming vehicle in which the headlights are turned on, that is, image recognition at night, and more preferably, the near-infrared ray is irradiated forward from the own vehicle, A high effect is exhibited when recognizing an image from an infrared image that is the reflected light, but it can also be applied to, for example, image recognition in the visible light region or daytime image recognition.

また、本実施例においては車載用画像認識として説明を行なったが、本発明はこれに限定されるものではなく、たとえは交通流監視装置やセキュリティ用途の監視装置などに適用することもできる。   Further, although the present embodiment has been described as on-vehicle image recognition, the present invention is not limited to this, and can be applied to, for example, a traffic flow monitoring device or a security monitoring device.

以上のように、本発明にかかる画像認識装置は、車両における画像認識に有用であり、特に逆光状態での状況判断に適している。   As described above, the image recognition apparatus according to the present invention is useful for image recognition in a vehicle, and is particularly suitable for situation determination in a backlight state.

本発明の実施例にかかる画像認識装置の概要構成を示す概要構成図である。1 is a schematic configuration diagram illustrating a schematic configuration of an image recognition apparatus according to an embodiment of the present invention. 露光時間の制御について説明する説明図である。It is explanatory drawing explaining control of exposure time. 露光時間の補正について説明する説明図である。It is explanatory drawing explaining correction | amendment of exposure time. 図1に示した特定光源対処処理部20の処理動作を説明するフローチャートである。It is a flowchart explaining the process operation | movement of the specific light source countermeasure process part 20 shown in FIG. 画像認識処理について説明するフローチャートである。It is a flowchart explaining an image recognition process. 入射光を選択的に遮断する場合の構成を示す概要構成図である。It is a schematic block diagram which shows the structure in the case of selectively interrupting incident light. 図6に示した特定光源対処処理部20aの処理動作を説明するフローチャートである。It is a flowchart explaining the processing operation of the specific light source countermeasure process part 20a shown in FIG. 撮影タイミングを制御する場合の構成を示す概要構成図である。It is a schematic block diagram which shows the structure in the case of imaging | photography timing control. 特定光源の点灯周期と撮影タイミング制御について説明する説明図である。It is explanatory drawing explaining the lighting period and imaging | photography timing control of a specific light source. 図8に示した特定光源対処処理部20bの処理動作を説明するフローチャートである。It is a flowchart explaining the process operation | movement of the specific light source countermeasure process part 20b shown in FIG. 他の検知手段による検知結果を優先する場合の構成を示す概要構成図である。It is a schematic block diagram which shows a structure in the case of giving priority to the detection result by another detection means. 図11に示した特定光源対処処理部20cの処理動作を説明するフローチャートである。It is a flowchart explaining the processing operation of the specific light source countermeasure processing unit 20c shown in FIG.

符号の説明Explanation of symbols

10 画像認識装置
10a マイコン
16 車両認識部
17 白線認識部
18 歩行者認識部
19,19a 衝突判定部
20,20a,20b,20c 特定光源対処処理部
21 特定光源検知部
22 露光時間補正部
23 液晶パネル制御部
24 フレームレート設定部
25 位相制御部
26 判定優先度設定部
30 ナビゲーション装置
30a 地図データ
31 カメラ
31a 露光制御部
31b 撮影タイミング制御部
32 液晶パネル
33 レーダ
34 光センサユニット
40 プリクラッシュECU
41 ブレーキ
42 EFI
43 ディスプレイ
44 スピーカ
45 カメラユニット
DESCRIPTION OF SYMBOLS 10 Image recognition apparatus 10a Microcomputer 16 Vehicle recognition part 17 White line recognition part 18 Pedestrian recognition part 19, 19a Collision determination part 20, 20a, 20b, 20c Specific light source countermeasure processing part 21 Specific light source detection part 22 Exposure time correction part 23 Liquid crystal panel Control unit 24 Frame rate setting unit 25 Phase control unit 26 Determination priority setting unit 30 Navigation device 30a Map data 31 Camera 31a Exposure control unit 31b Shooting timing control unit 32 Liquid crystal panel 33 Radar 34 Optical sensor unit 40 Pre-crash ECU
41 Brake 42 EFI
43 Display 44 Speaker 45 Camera unit

Claims (8)

カメラが撮影した画像に対し、特定の物体の画像認識を行なう画像認識装置であって、
前記画像から特定光源の像を検出する特定光源検出手段と、
前記特定光源検出手段による検出結果に基づいて、前記特定光源の像を除外した画像に対して最適な露光時間を用いるように前記カメラの撮影設定を制御する撮影設定制御手段と、
を備えたことを特徴とする画像認識装置。
An image recognition apparatus that performs image recognition of a specific object for an image captured by a camera,
Specific light source detection means for detecting an image of the specific light source from the image;
Shooting setting control means for controlling shooting settings of the camera so as to use an optimal exposure time for an image excluding the image of the specific light source based on a detection result by the specific light source detection means;
An image recognition apparatus comprising:
前記特定光源は特定の周期で点灯と消灯とを繰り返す光源であって、前記撮影設定制御手段は、前記撮影の間隔が前記特定の周期に比して短くなるように前記カメラの撮影設定を変更することを特徴とする請求項1に記載の画像認識装置。   The specific light source is a light source that repeatedly turns on and off at a specific cycle, and the shooting setting control means changes the shooting setting of the camera so that the shooting interval is shorter than the specific cycle. The image recognition apparatus according to claim 1. 前記特定光源は、特定の周期で点灯と消灯とを繰り返す光源であって、前記撮影設定制御手段は、前記特定光源が消灯しているタイミングで撮影を行なうよう撮影設定を制御することを特徴とする請求項1に記載の画像認識装置。   The specific light source is a light source that repeatedly turns on and off at a specific cycle, and the shooting setting control means controls shooting settings so that shooting is performed at a timing when the specific light source is turned off. The image recognition apparatus according to claim 1. カメラが撮影した画像に対し、特定の物体の画像認識を行なう画像認識装置であって、
前記画像から特定光源の像を検出する特定光源検出手段と、
前記特定光源検出手段による検出結果に基づいて、前記カメラに対する入射光を部分的に遮断する部分遮断手段を制御し、前記特定光源からの入射光を選択的に遮断する遮断制御手段と、
を備えたことを特徴とする画像認識装置。
An image recognition apparatus that performs image recognition of a specific object for an image captured by a camera,
Specific light source detection means for detecting an image of the specific light source from the image;
Based on a detection result by the specific light source detection means, a partial blocking means for partially blocking incident light to the camera, and a blocking control means for selectively blocking incident light from the specific light source;
An image recognition apparatus comprising:
前記遮断制御手段は、次回撮影時における前記特定光源の像の位置を予測し、当該予測位置に対する入射光を選択的に遮断することを特徴とする請求項4に記載の画像認識装置。   The image recognition apparatus according to claim 4, wherein the blocking control unit predicts the position of the image of the specific light source at the time of next shooting and selectively blocks incident light at the predicted position. カメラが撮影した画像に対し、特定の物体の画像認識を行なう画像認識装置であって、
前記画像認識結果と他の検知手段による検知結果と用いて周辺状況を判断する状況判断手段と、
前記画像から特定光源の像を検出する特定光源検出手段と、
を備え、前記状況判断手段は、前記特定光源検出手段による検出手段に基づき、前記特定光源の近傍に対する状況判断において前記他の検知手段による検知結果を優先して使用することを特徴とする画像認識装置。
An image recognition apparatus that performs image recognition of a specific object for an image captured by a camera,
Situation judging means for judging the surrounding situation using the image recognition result and the detection result by other detecting means,
Specific light source detection means for detecting an image of the specific light source from the image;
And the situation determination means preferentially uses the detection result by the other detection means in the situation determination for the vicinity of the specific light source based on the detection means by the specific light source detection means. apparatus.
前記特定光源検出手段は、所定値以上の輝度を有する像の大きさ、形状、周辺との輝度差のうち少なくともいずれかを用いて当該像が特定光源の像であるか否かを推定することを特徴とする請求項1〜6のいずれか一つに記載の画像認識装置。   The specific light source detection means estimates whether or not the image is a specific light source image using at least one of a size, a shape, and a luminance difference between the image having a luminance equal to or higher than a predetermined value. The image recognition apparatus according to any one of claims 1 to 6. 前記特定光源は他車両の前照灯であって、前記特定光源検出手段は、前記所定値以上の輝度を有する像の画像上の位置をさらに用いて当該像が前記前照灯であるか否かを推定することを特徴とする請求項7に記載の画像認識装置。   The specific light source is a headlamp of another vehicle, and the specific light source detection means further uses a position on the image of an image having a luminance equal to or higher than the predetermined value to determine whether the image is the headlamp. The image recognition apparatus according to claim 7, wherein the image is estimated.
JP2006067996A 2006-03-13 2006-03-13 Image recognizing device Pending JP2007251258A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006067996A JP2007251258A (en) 2006-03-13 2006-03-13 Image recognizing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006067996A JP2007251258A (en) 2006-03-13 2006-03-13 Image recognizing device

Publications (1)

Publication Number Publication Date
JP2007251258A true JP2007251258A (en) 2007-09-27

Family

ID=38595136

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006067996A Pending JP2007251258A (en) 2006-03-13 2006-03-13 Image recognizing device

Country Status (1)

Country Link
JP (1) JP2007251258A (en)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009182461A (en) * 2008-01-29 2009-08-13 Panasonic Electric Works Co Ltd Imaging device
JP2010219810A (en) * 2009-03-16 2010-09-30 Ricoh Co Ltd Imaging device, imaging method, program and recording medium
WO2013136498A1 (en) * 2012-03-15 2013-09-19 パイオニア株式会社 Image recognition device, image recognition method, image recognition program, and storage medium
US9071749B2 (en) 2011-06-21 2015-06-30 Samsung Electronics Co., Ltd. Camera apparatus and method of recognizing an object by using a camera
WO2015151404A1 (en) * 2014-03-31 2015-10-08 株式会社デンソー Rear condition display device and rear condition display method
JP2019506781A (en) * 2015-12-22 2019-03-07 ウーバー テクノロジーズ,インコーポレイテッド Intelligent lens masking system for autonomous vehicles
WO2019044009A1 (en) * 2017-08-29 2019-03-07 株式会社Jvcケンウッド Image generation control device, image generation control method, and image generation control program
JP2021513235A (en) * 2018-01-26 2021-05-20 プロフジー Methods and equipment for processing signals from event-based sensors
WO2023067670A1 (en) * 2021-10-19 2023-04-27 三菱電機株式会社 Vehicular lighting control device and vehicular lighting control method

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05313224A (en) * 1992-05-12 1993-11-26 Ricoh Co Ltd Automatic exposure deciding device for camera
JPH0951484A (en) * 1995-08-08 1997-02-18 Mazda Motor Corp Light quantity controller for electronic camera
JPH0973529A (en) * 1995-07-05 1997-03-18 Suzuki Motor Corp Two-wheeled vehicle monitor device
JP2000285224A (en) * 1999-03-30 2000-10-13 Matsushita Electric Ind Co Ltd On-vehicle picture storage device and on-vehicle picture recognition device
JP2002204391A (en) * 2000-10-23 2002-07-19 Hitachi Kokusai Electric Inc Control method for transmitting light-amount and tv camera apparatus using the method
JP2003075893A (en) * 2001-09-06 2003-03-12 Murakami Corp Circumference image pickup device for vehicle
JP2003209742A (en) * 2002-01-11 2003-07-25 Alpine Electronics Inc Imaging apparatus with infrared ray illumination

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05313224A (en) * 1992-05-12 1993-11-26 Ricoh Co Ltd Automatic exposure deciding device for camera
JPH0973529A (en) * 1995-07-05 1997-03-18 Suzuki Motor Corp Two-wheeled vehicle monitor device
JPH0951484A (en) * 1995-08-08 1997-02-18 Mazda Motor Corp Light quantity controller for electronic camera
JP2000285224A (en) * 1999-03-30 2000-10-13 Matsushita Electric Ind Co Ltd On-vehicle picture storage device and on-vehicle picture recognition device
JP2002204391A (en) * 2000-10-23 2002-07-19 Hitachi Kokusai Electric Inc Control method for transmitting light-amount and tv camera apparatus using the method
JP2003075893A (en) * 2001-09-06 2003-03-12 Murakami Corp Circumference image pickup device for vehicle
JP2003209742A (en) * 2002-01-11 2003-07-25 Alpine Electronics Inc Imaging apparatus with infrared ray illumination

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009182461A (en) * 2008-01-29 2009-08-13 Panasonic Electric Works Co Ltd Imaging device
JP2010219810A (en) * 2009-03-16 2010-09-30 Ricoh Co Ltd Imaging device, imaging method, program and recording medium
US9071749B2 (en) 2011-06-21 2015-06-30 Samsung Electronics Co., Ltd. Camera apparatus and method of recognizing an object by using a camera
WO2013136498A1 (en) * 2012-03-15 2013-09-19 パイオニア株式会社 Image recognition device, image recognition method, image recognition program, and storage medium
WO2015151404A1 (en) * 2014-03-31 2015-10-08 株式会社デンソー Rear condition display device and rear condition display method
JP2015198302A (en) * 2014-03-31 2015-11-09 株式会社デンソー Back situation display device and back situation display method
JP2019506781A (en) * 2015-12-22 2019-03-07 ウーバー テクノロジーズ,インコーポレイテッド Intelligent lens masking system for autonomous vehicles
US10884271B2 (en) 2015-12-22 2021-01-05 Uatc, Llc Lens masking system for a vehicle
WO2019044009A1 (en) * 2017-08-29 2019-03-07 株式会社Jvcケンウッド Image generation control device, image generation control method, and image generation control program
JP2019041351A (en) * 2017-08-29 2019-03-14 株式会社Jvcケンウッド Image generation control device, image generation control method, and image generation control program
JP7013730B2 (en) 2017-08-29 2022-02-15 株式会社Jvcケンウッド Image generation control device, image generation control method, and image generation control program
US11363211B2 (en) 2017-08-29 2022-06-14 Jvckenwood Corporation Image generation control device, image generation control method, and image generation control program
JP2021513235A (en) * 2018-01-26 2021-05-20 プロフジー Methods and equipment for processing signals from event-based sensors
JP7357624B2 (en) 2018-01-26 2023-10-06 プロフジー Method and apparatus for processing signals from event-based sensors
WO2023067670A1 (en) * 2021-10-19 2023-04-27 三菱電機株式会社 Vehicular lighting control device and vehicular lighting control method

Similar Documents

Publication Publication Date Title
US8543254B1 (en) Vehicular imaging system and method for determining roadway width
JP2007251258A (en) Image recognizing device
JP5680573B2 (en) Vehicle driving environment recognition device
EP3588939B1 (en) Bundling night vision and other driver assistance systems (das) using near infra red (nir) illumination and a rolling shutter
JP4544233B2 (en) Vehicle detection device and headlamp control device
JP5100159B2 (en) Automatic switching control method for in-vehicle projector
EP2637150B1 (en) Vehicle peripheral area observation system
CN103874931B (en) For the method and apparatus of the position of the object in the environment for asking for vehicle
JP4743037B2 (en) Vehicle detection device
JP5682304B2 (en) Image providing device
JP2005182306A (en) Vehicle display device
JP2008040615A (en) Vehicle detection device and head lamp controller
JP2008217267A (en) Road shape recognition apparatus
JP2008033872A (en) Visibility condition determining device for vehicle
US20140226349A1 (en) Apparatus for detecting other vehicle lights and light control apparatus for vehicles
EP3745714A1 (en) Display control device and display system
JP4980970B2 (en) Image pickup means adjustment device and object detection device
JP2010088045A (en) Night view system, and nighttime walker display method
CN112896035A (en) Vehicle light projection control device and method, and vehicle light projection system
JP2010188826A (en) Display device for vehicle
JP2005202787A (en) Display device for vehicle
JP4930256B2 (en) Adjacent vehicle detection device and adjacent vehicle detection method
JP2008258778A (en) Imaging system
JP2013025568A (en) Approaching obstacle detecting device and program
JP2015097018A (en) Arrow signal light detection device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090305

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101102

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110308