JP2009067240A - Departure notification device - Google Patents

Departure notification device Download PDF

Info

Publication number
JP2009067240A
JP2009067240A JP2007238036A JP2007238036A JP2009067240A JP 2009067240 A JP2009067240 A JP 2009067240A JP 2007238036 A JP2007238036 A JP 2007238036A JP 2007238036 A JP2007238036 A JP 2007238036A JP 2009067240 A JP2009067240 A JP 2009067240A
Authority
JP
Japan
Prior art keywords
image data
red
vehicle
image
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007238036A
Other languages
Japanese (ja)
Inventor
Takaaki Ito
崇晶 伊藤
Akinori Usami
彰規 宇佐美
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Wiring Systems Ltd
AutoNetworks Technologies Ltd
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Wiring Systems Ltd
AutoNetworks Technologies Ltd
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Wiring Systems Ltd, AutoNetworks Technologies Ltd, Sumitomo Electric Industries Ltd filed Critical Sumitomo Wiring Systems Ltd
Priority to JP2007238036A priority Critical patent/JP2009067240A/en
Publication of JP2009067240A publication Critical patent/JP2009067240A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a departure notification device capable of detecting a red region correctly and capable of preventing a driver from overlooking a notification that a vehicle should depart. <P>SOLUTION: Image data of RGB value formed by an imaging part 3 are converted to image data of HSV value, and a brake lamp of another vehicle (a vehicle ahead) stopping ahead of a vehicle 5, for example, is detected as a red region on the basis of the converted image data. Because red and yellow are more easily distinguished in HSV color space compared, for example, with RGB color space, mistaking yellow of a turn indicator for red of the brake lamp is inhibited. Then, on the basis of result of detection of the red region, whether the brake lamp under lighting has been put off or not is judged. If putting off of the brake lamp (that is, the starting motion of the vehicle ahead) has been confirmed, a voice output part 4 outputs that the vehicle should depart. The driver who has been notified that the vehicle should depart by voice instead of by an image can start the vehicle 5 at just the right time. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、停車中の車両が発車すべきタイミングで、発車すべき旨を報知する発車報知装置に関する。   The present invention relates to a departure notification device for notifying that a stopped vehicle should start at a timing when it should start.

従来、車両が交差点、踏切等で停車している場合に、赤信号から青信号への変化や、車両前方に停車している他の車両(以下、前方車両という)の発進動作等、停車中の車両が発車すべきタイミングの指標となる変化を検出する発車報知装置が提案されている(特許文献1参照)。
特許文献1に開示されている車載表示装置は、車両の前方を撮像し、撮像した画像の中から信号機の赤色領域を検出し、検出された赤色領域以外をモノクロームに変換してなる画像を、車載テレビのテレビ画面やカーナビゲーションシステムのナビゲーション画面の一部に表示するよう構成されている。
Conventionally, when a vehicle is stopped at an intersection or railroad crossing, it is stopped such as a change from a red signal to a green signal or a start operation of another vehicle stopped in front of the vehicle (hereinafter referred to as a forward vehicle). There has been proposed a departure notification device that detects a change that serves as an index of timing at which a vehicle should depart (see Patent Document 1).
The in-vehicle display device disclosed in Patent Document 1 images the front of the vehicle, detects a red region of the traffic light from the captured image, and converts an image other than the detected red region into monochrome, It is configured to be displayed on a part of a navigation screen of an in-vehicle television or a car navigation system.

このような車載表示装置を用いることによって、テレビ画面やナビゲーション画面を視認している運転者は、画面の一部に表示されている信号機の画像を見ることで赤信号から青信号への変化を容易に認識して、適切なタイミングで車両を発進させる。
特開2006−115376号公報
By using such an in-vehicle display device, a driver who is viewing a television screen or a navigation screen can easily change from a red signal to a green signal by looking at an image of a traffic light displayed on a part of the screen. And start the vehicle at an appropriate time.
JP 2006-115376 A

しかしながら、特許文献1の車載表示装置では、運転者が能動的に信号機の画像を見ない限り、信号の変化を認識することができない。このため、信号機の画像を表示しても運転者が赤信号から青信号への変化に気付かず、車両の発車が遅れることがある。車両の発車が遅れると、交通のスムーズな流れを阻害したり、後続車両からプレッシャーを掛けられて運転者がパニックに陥ったりすることがある。
このような不具合を予防すべく運転者に画像を視認するよう促すことが考えられるが、この場合、運転者が負担を感じて運転者の利便性が損なわれる。
However, in the in-vehicle display device disclosed in Patent Document 1, a change in signal cannot be recognized unless the driver actively views an image of the traffic light. For this reason, even if the image of the traffic light is displayed, the driver may not be aware of the change from the red signal to the green signal, and the departure of the vehicle may be delayed. If the departure of the vehicle is delayed, the smooth flow of traffic may be hindered or the driver may panic due to pressure from the following vehicle.
In order to prevent such a problem, it is conceivable to prompt the driver to view the image, but in this case, the driver feels a burden and the convenience of the driver is impaired.

ところで、停車中の車両はブレーキランプが赤く点灯し、発車する際にブレーキランプが消灯する。従って、前方車両の発進動作を検出するために、ブレーキランプの点灯から消灯への変化を検出することが考えられる。
特許文献1の車載表示装置のような従来の発車報知装置は、車両の前方を撮像したRGB(Red, Green, Blue)値の画像データを用いて赤色領域を求める。具体的には、注目画素のR値が所定値より大きく、R値>G値且つR値>B値であれば、注目画素は赤色の画素とみなされる。
しかしながら、黄色の画素であってもR値が所定値より大きく、R値>G値且つR値>B値であることが考えられる(例えばR=255、G=200、B=20)。このため、ブレーキランプではなく黄色いウインカーを誤検出することがありうる。
By the way, the brake lamp lights up in red when the vehicle is stopped, and the brake lamp is turned off when the vehicle departs. Therefore, in order to detect the start operation of the vehicle ahead, it is conceivable to detect a change from turning on the brake lamp to turning it off.
A conventional departure notification device such as the in-vehicle display device of Patent Document 1 obtains a red region using image data of RGB (Red, Green, Blue) values obtained by imaging the front of the vehicle. Specifically, if the R value of the target pixel is larger than a predetermined value, and R value> G value and R value> B value, the target pixel is regarded as a red pixel.
However, even for a yellow pixel, it is conceivable that the R value is larger than a predetermined value, and R value> G value and R value> B value (for example, R = 255, G = 200, B = 20). For this reason, a yellow turn signal may be erroneously detected instead of the brake lamp.

本発明は斯かる事情に鑑みてなされたものであり、その主たる目的は、停車中に撮像した画像データを変換してHSV(Hue, Saturation, Value)値の画像データを複数求め、求めた画像データ夫々から所定の検出対象の赤色領域を検出し、検出対象に所定の変化が生じたか否かを検出結果に基づいて判定し、所定の変化が生じた場合に、発車すべき旨を音声又は振動で報知する構成とすることにより、赤色領域を正確に検出し、また、発車すべき旨を報知する際に視覚以外の感覚に訴えることができる発車報知装置を提供することにある。   The present invention has been made in view of such circumstances, and its main object is to obtain a plurality of image data of HSV (Hue, Saturation, Value) values by converting image data picked up while the vehicle is stopped, and to obtain the obtained image. A red area of a predetermined detection target is detected from each of the data, and whether or not a predetermined change has occurred in the detection target is determined based on the detection result, and if a predetermined change has occurred, a voice or An object of the present invention is to provide a departure notification device capable of accurately detecting a red region and appealing to a sense other than vision when notifying that a departure is to be made by adopting a configuration for notification by vibration.

本発明の他の目的は、撮像した画像データに信号機の画像データが含まれているか否かを判定して、含まれている場合は赤信号を検出し、含まれてない場合はブレーキランプを、ブレーキランプの画像データの有無を判定することなく検出する構成とすることにより、発車すべきタイミングを正確且つ簡易に求めることができる発車報知装置を提供することにある。   Another object of the present invention is to determine whether or not captured image data includes traffic signal image data. If included, a red signal is detected, and if not, a brake lamp is turned on. An object of the present invention is to provide a departure notification device that can accurately and easily determine the timing at which a vehicle should depart by detecting the presence or absence of image data of a brake lamp.

本発明の他の目的は、検出対象の赤色領域とそれ以外の領域とを2値化処理する構成とすることにより、演算処理を軽減することができる発車報知装置を提供することにある。   Another object of the present invention is to provide a departure notification device capable of reducing arithmetic processing by adopting a configuration that binarizes a red region to be detected and other regions.

本発明の更に他の目的は、検出対象の赤色領域が存在しない場合、発車すべき旨の報知が不可能であることを警告しつつ、画像処理を継続する構成とすることにより、撮像した画像に信号機及び前方車両両方の画像が存在しない場合や、光線の加減で赤色領域が他の色の領域として検出されるような場合等に、発車すべき旨の報知が不可能であることを警告して運転者自身に発車タイミングを計るよう促し、また、光線の具合が変化して赤色領域が検出された場合に発車タイミングの判定を行なうことができる発車報知装置を提供することにある。   Still another object of the present invention is to capture a captured image by adopting a configuration in which image processing is continued while warning that it is impossible to notify when a red region to be detected does not exist. Warning that it is impossible to notify that the vehicle should depart when there is no image of both the traffic light and the vehicle ahead, or when the red area is detected as a different color area due to the light beam. Thus, it is intended to provide a departure notification device that prompts the driver to measure the departure timing, and that can determine the departure timing when the state of light changes and a red region is detected.

第1発明に係る発車報知装置は、停車中に車両前方を連続的又は断続的に撮像した画像データを時系列的に生成する撮像部を備え、停車中の車両が発車すべきタイミングで、発車すべき旨を報知する発車報知装置において、前記撮像部が生成した画像データを夫々HSV値の画像データに変換する画像変換手段と、該画像変換手段が変換した画像データに基づいて、所定の検出対象の赤色領域を検出する赤色検出手段と、時間的に相前後して撮像された複数の画像データ夫々に関する前記赤色検出手段の検出結果に基づいて、前記発車すべきタイミングの指標となる変化が前記検出対象に生じたか否かを判定する変化判定手段と、該変化判定手段が生じたと判定した場合、発車すべき旨を音声又は振動で報知する発車報知手段とを備えることを特徴とする。   The departure notification device according to the first aspect of the present invention includes an imaging unit that generates image data in which the front of the vehicle is continuously or intermittently imaged in a time series while the vehicle is stopped. In the departure notification device for notifying that the image should be generated, the image conversion unit that converts the image data generated by the imaging unit into the image data of the HSV value, and the predetermined detection based on the image data converted by the image conversion unit Based on the detection results of the red detection means for detecting the target red region and the red detection means for each of a plurality of image data captured in time sequence, there is a change that serves as an index of the timing to depart. A change determination unit that determines whether or not the detection target has occurred, and a departure notification unit that notifies, by voice or vibration, that the vehicle should depart when it is determined that the change determination unit has occurred. And features.

第2発明に係る発車報知装置は、前記画像変換手段が変換した画像データ又は前記撮像部が生成した画像データに、信号機の画像データが含まれているか否かを判定する信号判定手段を更に備え、該信号判定手段が含まれていると判定した場合、前記赤色検出手段は、前記検出対象の赤色領域として信号機の点灯している赤信号を、前記信号機の画像データに基づいて検出するようにしてあり、前記信号判定手段が否と判定した場合、前記赤色検出手段は、前記検出対象の赤色領域として前記車両前方で停車している車両の点灯しているブレーキランプを、所定の範囲の画像データに基づいて検出するようにしてあることを特徴とする。   The departure notification device according to a second aspect of the present invention further includes signal determination means for determining whether the image data converted by the image conversion means or the image data generated by the imaging section includes image data of a traffic light. When it is determined that the signal determination unit is included, the red detection unit detects a red signal in which a traffic light is lit as a red region to be detected based on image data of the traffic signal. When the signal determining means determines NO, the red detecting means displays a brake lamp that is lit on a vehicle parked in front of the vehicle as a red area to be detected in an image within a predetermined range. The detection is based on data.

第3発明に係る発車報知装置は、前記赤色検出手段は、赤色を示す所定範囲のH値を有し、明るい色を示す各所定値以上のS値及びV値を有する画素と、該画素以外の画素とを2値で区別することによって前記検出対象の赤色領域を検出するようにしてあることを特徴とする。   In the departure notification device according to a third aspect of the present invention, the red color detecting means has a pixel having an H value in a predetermined range indicating red, an S value and a V value greater than each predetermined value indicating a bright color, and other than the pixel It is characterized in that the red region to be detected is detected by discriminating it from the two pixels in binary.

第4発明に係る発車報知装置は、1の画像データに関する前記赤色検出手段の検出結果に前記検出対象の赤色領域の画素が所定個数以上存在するか否かを判定する存在判定手段と、該存在判定手段が否と判定した場合、発車すべき旨の報知が不可能であることを警告する不可能警告手段とを更に備え、前記赤色検出手段は、前記存在判定手段の判定結果に関わらず、前記画像データ以後の画像データに基づいて、前記検出対象の赤色領域を検出するようにしてあることを特徴とする。   A departure notification device according to a fourth aspect of the present invention is the presence determination means for determining whether or not a predetermined number or more of pixels in the red region to be detected are present in the detection result of the red detection means relating to one image data; When the determination means determines NO, it further comprises an impossible warning means that warns that it is impossible to notify that the vehicle should depart, and the red color detection means, regardless of the determination result of the presence determination means, The red region to be detected is detected based on image data after the image data.

第1発明にあっては、撮像部を備え、更に、画像変換手段、赤色検出手段、変化判定手段、及び発車報知手段を備える。
撮像部は、発車報知装置を搭載している車両が、例えば交差点、踏切等で停車中に、車両前方を連続的又は断続的に撮像した画像データを時系列的に生成する。撮像部が生成する画像データは、例えばRGB値の画像データ、YUV値の画像データ、NTSC企画の画像データ等、HSV値の画像データ以外の画像データである。以下では簡単のため、RGB値の画像データを例示する。
RGB値の画像データは、赤色を示すR値、緑色を示すG値、及び青色を示すB値夫々のデータを画素毎に有する。R値、G値及びB値夫々は、例えば0≦R,G,B≦255の整数値を有する。
In the first invention, an imaging unit is provided, and further an image conversion unit, a red detection unit, a change determination unit, and a departure notification unit are provided.
The imaging unit generates, in a time series, image data obtained by continuously or intermittently imaging the front of the vehicle while the vehicle on which the departure notification device is mounted stops at, for example, an intersection or a railroad crossing. The image data generated by the imaging unit is image data other than HSV image data, such as RGB value image data, YUV value image data, and NTSC project image data. In the following, for simplicity, image data of RGB values is illustrated.
The RGB value image data includes, for each pixel, R value indicating red, G value indicating green, and B value indicating blue. Each of the R value, the G value, and the B value has an integer value of 0 ≦ R, G, B ≦ 255, for example.

画像変換手段は、RGB値の画像データをHSV値の画像データに変換する。HSV値の画像データは色相を示すH値、彩度を示すS値、及び明度を示すV値夫々のデータを画素毎に有する。例えばH値は0°≦H≦360°の値を有し、S値は0≦S≦1の値を有し、V値は0≦V≦255の値を有する。この場合、H値が0°近傍及び360°近傍(例えば0°≦H<20°及び340°<H≦360°)の画素は赤色を示し、更にS値及びV値の両方が高い場合は明るい赤色(例えば点灯している赤信号やブレーキランプの色)を示し、S値及びV値が低い場合は暗い赤色(例えば消灯している赤信号やブレーキランプの色)を示す。ウインカーの色のような黄色の画素はH値が30°近傍であるため、赤色の画素と黄色の画素とが容易且つ正確に区別される。   The image conversion means converts RGB value image data into HSV value image data. The image data of the HSV value has, for each pixel, H value indicating hue, S value indicating saturation, and V value indicating lightness. For example, the H value has a value of 0 ° ≦ H ≦ 360 °, the S value has a value of 0 ≦ S ≦ 1, and the V value has a value of 0 ≦ V ≦ 255. In this case, when the H value is in the vicinity of 0 ° and 360 ° (for example, 0 ° ≦ H <20 ° and 340 ° <H ≦ 360 °), the pixel is red, and when both the S value and the V value are high, A bright red color (for example, a lit red signal or a brake lamp color) is displayed, and a dark red color (for example, an unlit red signal or a brake lamp color) is indicated when the S value and the V value are low. A yellow pixel such as a blinker color has an H value in the vicinity of 30 °, so that a red pixel and a yellow pixel can be easily and accurately distinguished.

赤色検出手段は、画像変換手段が変換した画像データに基づいて、所定の検出対象の赤色領域を検出する。
ここで、画像変換手段による画像データの変換は、撮像部が時系列的に生成した複数の画像データ夫々に対して実行され、赤色検出手段による赤色領域の検出は、画像変換手段が変更した複数の画像データ夫々に対して実行される。
The red detection means detects a predetermined red region to be detected based on the image data converted by the image conversion means.
Here, the conversion of the image data by the image conversion unit is executed for each of a plurality of image data generated in time series by the imaging unit, and the detection of the red region by the red detection unit is performed by a plurality of images changed by the image conversion unit. It is executed for each of the image data.

変化判定手段は、時間的に相前後して撮像された複数の画像データ夫々に関する赤色検出手段の検出結果に基づいて、停車中の車両が発車すべきタイミングの指標となる変化が検出対象に生じたか否かを判定する。ここで、検出対象が例えば信号機である場合、発車すべきタイミングの指標となる変化とは、点灯している赤信号の消灯であり、検出対象が前方車両である場合、発車すべきタイミングの指標となる変化とは、点灯しているブレーキランプの消灯である。   The change determination means generates a change in the detection target as an index of the timing at which the stopped vehicle should depart based on the detection result of the red detection means regarding each of a plurality of image data captured in time sequence. It is determined whether or not. Here, when the detection target is, for example, a traffic light, the change that is an indicator of the timing to depart is the turn-off of the lit red signal, and when the detection target is a forward vehicle, the change is an indicator of the timing to depart The change that becomes is the extinction of the lit brake lamp.

赤信号又はブレーキランプが点灯中の場合、先に撮像した画像データにおいて明るい赤色領域として検出された画素群は、後で撮像した画像データにおいても明るい赤色領域として検出されるため、この2つの画像データに大きな差異はない。ところが、赤信号又はブレーキランプが点灯から消灯へ変化した場合、先に撮像した画像データにおいて明るい赤色領域として検出された画素群は、後で撮像した画像データにおいて暗い赤色領域として検出されるため、この2つの画像データに大きな差異が生じる。つまり、例えば先に撮像した画像データと後で撮像した画像データとを比較することによって、発車すべきタイミングの指標となる変化が検出対象に生じたか否かが容易に判定される。   When the red signal or the brake lamp is lit, the pixel group detected as a bright red area in the image data captured earlier is detected as a bright red area in the image data captured later, so these two images There are no major differences in the data. However, when the red signal or the brake lamp changes from lighting to extinguishing, the pixel group detected as a bright red region in the image data captured earlier is detected as a dark red region in the image data captured later. A large difference occurs between the two image data. That is, for example, by comparing the image data captured earlier with the image data captured later, it is easily determined whether or not a change that is an index of the timing to depart has occurred in the detection target.

変化判定手段が、発車すべきタイミングの指標となる変化が検出対象に生じたと判定した場合、発車報知手段は、発車すべき旨を音声又は振動で報知する。音声又は振動による報知は運転者の聴覚又は触覚で受動的に知覚されるため、画像による報知のように、運転者が視覚で能動的に知覚する必要がない。   When the change determination unit determines that a change that is an index of the timing to depart has occurred in the detection target, the departure notification unit notifies the user that the vehicle should depart by voice or vibration. Since the notification by voice or vibration is passively perceived by the driver's sense of hearing or touch, there is no need for the driver to actively perceive visually unlike the notification by image.

第2発明にあっては、信号判定手段を更に備える。
信号判定手段は、例えばテンプレートマッチングの手法を用い、画像変換手段が変換したHSV値の画像データ又は撮像部が生成したRGB値の画像データ、即ち撮像部が撮像した景色全体の画像データ(以下、景色画像データという)に、信号機の画像データが含まれているか否かを判定する。
信号判定手段が、景色画像データに信号機の画像データが含まれていると判定した場合、赤色検出手段は、景色画像データに含まれている信号機の画像データに基づいて、検出対象の赤色領域を検出する。ここで、検出対象の赤色領域としては、信号機の点灯している赤信号を用いる。点灯している赤信号の消灯とは、即ち青信号の点灯であり、発車すべきタイミングの到来を意味している。
According to the second aspect of the present invention, signal determining means is further provided.
The signal determination unit uses, for example, a template matching method, and the image data of the HSV value converted by the image conversion unit or the image data of the RGB value generated by the imaging unit, that is, the image data of the entire landscape captured by the imaging unit (hereinafter referred to as “image data”). It is determined whether or not the image data of the traffic light is included in the landscape image data).
When the signal determination unit determines that the image data of the traffic signal is included in the landscape image data, the red detection unit detects the red region to be detected based on the image data of the traffic signal included in the landscape image data. To detect. Here, as the red region to be detected, a red signal in which a traffic light is lit is used. The extinguishing of the red signal that is lit means that the blue signal is lit, and means that the timing to depart from has arrived.

また、信号機の画像データ以外の画像データは無視しても問題はなく、この画像データを省いて赤色領域の検出演算を行なうため、演算処理を軽減し、演算時間を短縮することが可能となる。
一方、信号判定手段が、景色画像データに信号機の画像データが含まれていないと判定した場合、赤色検出手段は、所定の範囲の画像データに基づいて、検出対象の赤色領域を検出する。ここで、検出対象の赤色領域としては、車両前方で停車している車両(即ち前方車両)の点灯しているブレーキランプを用いる。点灯しているブレーキランプの消灯とは、即ち前方車両の発進動作であり、発車すべきタイミングの到来を意味している。
Further, there is no problem even if the image data other than the image data of the traffic light is ignored. Since this image data is omitted and the red area detection calculation is performed, the calculation process can be reduced and the calculation time can be shortened. .
On the other hand, when the signal determination unit determines that the image data of the traffic signal is not included in the scenery image data, the red detection unit detects the red region to be detected based on the image data in a predetermined range. Here, as the red region to be detected, a brake lamp that is lit by a vehicle that is stopped in front of the vehicle (that is, the preceding vehicle) is used. The extinguishing of the lit brake lamp is a start operation of the vehicle ahead, and means the arrival of the timing to depart.

景色画像データにブレーキランプの画像データが含まれているか否かを判定することなくブレーキランプの検出演算を行なうことによって、演算処理を軽減し、演算時間を短縮することが可能となる。また、所定の範囲の画像データ以外の画像データを省いて赤色領域の検出演算を行なうことで、演算処理を更に軽減し、演算時間を更に短縮することが可能となる。   By performing the brake lamp detection calculation without determining whether or not the landscape image data includes the brake lamp image data, the calculation processing can be reduced and the calculation time can be shortened. Further, by omitting the image data other than the image data in the predetermined range and performing the red region detection calculation, the calculation processing can be further reduced and the calculation time can be further shortened.

第3発明にあっては、検出対象の赤色領域とそれ以外の領域とを2値化処理する。具体的には赤色検出手段は、赤色を示す所定範囲のH値を有し、明るい色を示す各所定値以上のS値及びV値を有する画素(即ち明るい赤色の画素)と、この画素以外の画素(即ち暗い赤色や黄色、青色、緑色等の画素)とを2値で区別することによって、検出対象の赤色領域を検出する。   In the third invention, the red region to be detected and the other region are binarized. Specifically, the red detecting means has a pixel having an H value in a predetermined range indicating red and having an S value and a V value equal to or higher than each predetermined value indicating a bright color (that is, a bright red pixel), and other pixels. By distinguishing these pixels (that is, dark red, yellow, blue, green, etc.) by binary values, the detection target red region is detected.

点灯している赤信号、ブレーキランプ等は明るい赤色領域である。このため、赤色検出手段は、HSV値の画像データを、例えば明るい赤色の画素の値が“1”となり、この画素以外の画素の値が“0”となる2値画像データに変換する。つまり、HSV値で示されたカラー画像が、点灯している赤信号、ブレーキランプ等の明るい赤色領域を例えば白で示し、明るい赤色領域以外の領域を例えば黒で示したモノクロ画像に変換される。
このような2値のデータで構成された検出結果はデータ量が少ない。従って、この検出結果を用いた演算処理は簡易であり、演算時間が短い。また、検出算結果を記憶しておくための記憶容量が低減される。
Illuminated red signals, brake lamps, etc. are bright red areas. For this reason, the red detection means converts the image data of the HSV value into binary image data in which, for example, the value of a bright red pixel is “1” and the values of pixels other than this pixel are “0”. In other words, the color image indicated by the HSV value is converted into a monochrome image in which bright red areas such as a lit red signal and a brake lamp are indicated by white, for example, and areas other than the bright red area are indicated by black, for example. .
The detection result composed of such binary data has a small data amount. Therefore, the calculation process using the detection result is simple and the calculation time is short. Further, the storage capacity for storing the detection calculation result is reduced.

第4発明にあっては、存在判定手段と不可能警告手段とを更に備える。
赤色検出手段による1の画像データに対する赤色領域の検出の後、存在判定手段は、この1の画像データに関する赤色検出手段の検出結果に検出対象の赤色領域が存在するか否かを判定する。
不可能警告手段は、検出対象の赤色領域が存在していないと判定した場合、即ち、例えば撮像部が撮像した画像に信号機の画像も前方車両の画像も存在しない場合や、赤色の部分が光線の加減で赤色領域として検出できなかった場合等に、発車すべき旨の報知が不可能であることを警告する。
According to the fourth aspect of the present invention, there are further provided presence determination means and impossible warning means.
After detecting the red area for one image data by the red detection means, the presence determination means determines whether or not the detection target red area exists in the detection result of the red detection means for the one image data.
The impossibility warning means determines that the red region to be detected does not exist, that is, for example, when the image captured by the imaging unit does not include the image of the traffic light or the image of the preceding vehicle, If it cannot be detected as a red area due to the amount of increase or decrease, a warning is given that it is impossible to notify that the vehicle should depart.

ただし赤色検出手段は、存在判定手段の判定結果に関わらず、検出処理を行なった画像データ以後の画像データに基づいて、検出対象の赤色領域を検出する。このため、前回の画像データでは、光線の加減で赤色の部分が赤色領域として検出できなかったが、今回の画像データでは、光線の具合が変わって赤色の部分が赤色領域として検出できるようになった場合に改めて、点灯している赤信号やブレーキランプが検出され、消灯したか否かが判定されて、消灯した場合は発車すべき旨が運転者に報知される。   However, the red detection means detects the red region to be detected based on the image data after the image data subjected to the detection process, regardless of the determination result of the presence determination means. For this reason, in the previous image data, the red portion could not be detected as a red region due to the addition of light rays, but in this image data, the red portion can be detected as a red region because the condition of the light rays has changed. In this case, a red signal or a brake lamp that is lit is detected again, and it is determined whether or not the lamp is extinguished. If the lamp is extinguished, the driver is informed that the vehicle should depart.

第1発明の発車報知装置による場合、HSV色空間で画像データを処理するため、赤色と黄色との誤認識を回避して、赤色領域を正確に検出することができる。この結果、誤認識に基づく誤報(即ち発車を促すべきタイミングで発車すべき旨を報知しなかったり、発車を促すべきでないタイミングで発車すべき旨を報知したりすること)を抑制することができる。
また、発車すべき旨を音声又は振動で報知するため、運転者は、信号機、前方車両等の画像を能動的に視認することなく、赤信号の青信号への変化、前方車両の発進動作等が生じたことに気付くことができる。この結果、運転者の負担を軽減して利便性を向上させることができる。
In the case of the departure notification device according to the first aspect of the invention, the image data is processed in the HSV color space, so that erroneous recognition of red and yellow can be avoided and the red region can be detected accurately. As a result, it is possible to suppress misreporting based on misrecognition (that is, not informing that the vehicle should be departed at the timing at which departure is to be prompted, or informing the user to depart at the timing at which departure should not be prompted). .
In addition, in order to notify that the vehicle should be departed by voice or vibration, the driver can change the red signal to a green light, start the front vehicle, etc. without actively viewing images of traffic lights, front vehicles, etc. You can notice what happened. As a result, the burden on the driver can be reduced and convenience can be improved.

更に、赤信号の青信号への変化、前方車両の発進動作等に気付いた運転者が、適切なタイミングで車両を発進させることができるため、交通の流れをスムーズにすることができる。   Furthermore, since a driver who notices a change from a red signal to a green signal, a start operation of a preceding vehicle, etc. can start the vehicle at an appropriate timing, the traffic flow can be made smooth.

第2発明の発車報知装置による場合、撮像した景色に信号機が存在すれば赤信号の検出を優先的に行なうことによって、赤信号の点灯から消灯への変化に基づき発車すべきタイミングを正確に求めることができる。
また、信号機が撮像部の死角に位置していたり、停車場所に信号機が存在しなかったりして、撮像した景色に信号機が存在しなくても、前方車両の発進動作(具体的にはブレーキランプの点灯から消灯への変化)に基づき発車すべきタイミングを求めることができる。
In the departure notification device according to the second aspect of the invention, if there is a traffic light in the captured scene, the detection of the red signal is performed preferentially, so that the timing for departure should be obtained accurately based on the change from turning on to turning off the red signal. be able to.
Even if the traffic light is located in the blind spot of the image pickup unit or there is no traffic light at the stop, the start operation of the vehicle ahead (specifically, the brake lamp) The timing to depart from the vehicle can be determined based on the change from turning on to turning off.

ところで、前方車両のブレーキランプと車両との位置関係は大略一定であるため、景色画像データにおけるブレーキランプの画像データが含まれている可能性が高い範囲を所定の範囲として予め設定しておくことができる。この結果、撮像した画像におけるブレーキランプの有無を確認する処理を省くことができ、全体的な演算時間を短縮することができる。
しかも、景色画像データ全部ではなく、景色画像データの一部の画像データに基づいて赤色領域を検出するため、更に演算処理を軽減することができ、演算時間を短縮することができる。
By the way, since the positional relationship between the brake lamp of the preceding vehicle and the vehicle is substantially constant, a range in which the image data of the brake lamp in the landscape image data is highly likely to be included is set in advance as a predetermined range. Can do. As a result, the process of confirming the presence or absence of the brake lamp in the captured image can be omitted, and the overall calculation time can be shortened.
In addition, since the red region is detected based on a part of the image data of the landscape image data instead of the entire landscape image data, the calculation process can be further reduced and the calculation time can be shortened.

一方、信号機と車両との位置関係は不定であるため、所定の範囲を予め設定しておくことなく、景色画像データに信号機の画像データが含まれているか否かを判定することによって、撮像した景色に信号機が存在しないにも関わらず赤信号を検出するような無駄な処理を省くことができる。また、景色画像データに信号機の画像データが含まれていることが確認されれば信号機の画像データが含まれている範囲を特定することは容易であるため、景色画像データ全部ではなく、景色画像データの一部である信号機の画像データに基づいて赤色領域を検出することができる。この結果、演算処理を軽減することができ、演算時間を短縮することができる。   On the other hand, since the positional relationship between the traffic signal and the vehicle is indeterminate, the image is obtained by determining whether or not the image data of the traffic signal is included in the landscape image data without setting a predetermined range in advance. Although there is no traffic light in the scenery, it is possible to omit useless processing such as detecting a red signal. In addition, if it is confirmed that the image data of the traffic signal is included in the landscape image data, it is easy to specify the range in which the image data of the traffic signal is included. The red region can be detected based on the image data of the traffic light that is a part of the data. As a result, calculation processing can be reduced and calculation time can be shortened.

第3発明の発車報知装置による場合、2値化された検出結果を用いて、発車すべきタイミングの指標となる変化が検出対象に生じたか否かの判定を行なうことができるため、演算処理を軽減することができる。また、複数の検出結果を記憶しておくために、大容量の記憶手段を備える必要がない。   In the case of the departure notification device according to the third aspect of the invention, it is possible to determine whether or not a change that is an indicator of timing to leave has occurred in the detection target using the binarized detection result. Can be reduced. In addition, since a plurality of detection results are stored, it is not necessary to provide a large-capacity storage unit.

第4発明の発車報知装置による場合、撮像部が撮像した景色に信号機も前方車両も存在しなかったり、光線の加減で赤色領域が検出できなかったりして、発車すべき旨の報知ができないときに、報知不能であることを運転者に警告して、運転者自身に発車タイミングを計るよう促すことができる。ただし、画像処理は継続されるため、例えば光線の具合が変化して赤色領域が検出された場合には、通常通りに、発車すべき旨の報知を行なうことができる。   In the departure notification device according to the fourth aspect of the invention, when there is no traffic light or a preceding vehicle in the scene imaged by the imaging unit, or when the red area cannot be detected due to the light beam, it is not possible to notify that the vehicle should depart In addition, it is possible to warn the driver that notification is impossible and to prompt the driver to measure the departure timing. However, since the image processing is continued, for example, when the state of the light beam changes and a red region is detected, it is possible to notify that the vehicle should depart as usual.

以下、本発明を、その実施の形態を示す図面に基づいて詳述する。   Hereinafter, the present invention will be described in detail with reference to the drawings illustrating embodiments thereof.

図1は、本発明の実施の形態に係る発車報知装置の要部構成を示すブロック図である。
図中1は発車報知装置であり、発車報知装置1は車両5に備えられている。発車報知装置1はECU2、撮像部3及び音声出力部4を備え、ECU2はCPU20を有している。
車両5は発車報知装置1のほか、速度センサ51、トランスミッション52、フットブレーキ53、ブレーキランプ54、及びサイドブレーキ55を備える。
FIG. 1 is a block diagram showing a main configuration of a departure notification device according to an embodiment of the present invention.
In the figure, 1 is a departure notification device, and the departure notification device 1 is provided in a vehicle 5. The departure notification device 1 includes an ECU 2, an imaging unit 3, and an audio output unit 4, and the ECU 2 includes a CPU 20.
In addition to the departure notification device 1, the vehicle 5 includes a speed sensor 51, a transmission 52, a foot brake 53, a brake lamp 54, and a side brake 55.

速度センサ51は車両5の車速を検出するためのものであり、速度センサ51の検出結果はCPU20に与えられる。交差点、踏切等で停車しているときの車速は“0”であり、発車すると“0”を超過する。
また、交差点、踏切等で停車しているとき、運転者の操作によって、トランスミッション52の変速ギアはニュートラルにシフトチェンジされ(以下、シフトNにされるという)、フットブレーキ53及びサイドブレーキ55は夫々オンにされる。一方、発車するとトランスミッション52の変速ギアはニュートラル以外にシフトチェンジされ(以下、シフトN以外にされるという)、フットブレーキ53及びサイドブレーキ55は運転者によって夫々オフにされる。
The speed sensor 51 is for detecting the vehicle speed of the vehicle 5, and the detection result of the speed sensor 51 is given to the CPU 20. The vehicle speed is “0” when the vehicle stops at an intersection or railroad crossing, and exceeds “0” when the vehicle departs.
When the vehicle is stopped at an intersection or railroad crossing, the transmission gear of the transmission 52 is shifted to neutral (hereinafter referred to as shift N) by the driver's operation, and the foot brake 53 and the side brake 55 are respectively Turned on. On the other hand, when the vehicle departs, the transmission gear of the transmission 52 is shift-changed to other than neutral (hereinafter referred to as other than shift N), and the foot brake 53 and the side brake 55 are turned off by the driver.

以上のことから、本実施の形態では、速度センサ51の検出結果が示す車速が“0”となり、且つ、少なくともトランスミッション52がシフトN、フットブレーキ53がオン、又はサイドブレーキ55がオンになれば、車両5が停車したものとする。一方、速度センサ51が検出した車速が“0”を超過したならば、又は、トランスミッション52がシフトN以外になり、フットブレーキ53及びサイドブレーキ55夫々がオフになったならば、車両5が発車したものとする。
CPU20には、トランスミッション52のシフトポジション情報、並びにフットブレーキ53及びサイドブレーキ55のオン/オフを各示す信号が夫々与えられる。
From the above, in this embodiment, if the vehicle speed indicated by the detection result of the speed sensor 51 is “0” and at least the transmission 52 is shifted N, the foot brake 53 is turned on, or the side brake 55 is turned on. Assume that the vehicle 5 has stopped. On the other hand, if the vehicle speed detected by the speed sensor 51 exceeds “0”, or if the transmission 52 is other than Shift N and the foot brake 53 and the side brake 55 are turned off, the vehicle 5 starts. Shall be.
The CPU 20 is supplied with shift position information of the transmission 52 and signals indicating on / off of the foot brake 53 and the side brake 55, respectively.

ブレーキランプ54は一対の赤色のランプであり、車両5の後部左右に配設されており、フットブレーキ53がオンの場合は点灯し、オフの場合は消灯するよう構成されている。従って、ブレーキランプ54の消灯から点灯への変化は車両5の停車を意味し、点灯から消灯への変化は車両5の発車を意味する。   The brake lamps 54 are a pair of red lamps and are arranged on the left and right sides of the rear part of the vehicle 5. The brake lamps 54 are turned on when the foot brake 53 is turned on and turned off when the foot brake 53 is turned off. Therefore, a change from turning off to turning on the brake lamp 54 means that the vehicle 5 has stopped, and a change from turning on to turning off means that the vehicle 5 has started.

撮像部3は撮像素子31及びDSP32を有する。撮像素子31はCCD、CMOS等を用いてなり、車両5前部の横方向中央部に配設されており、車両5前方の景色を連続的又は断続的に撮像する。撮像素子31の出力は、画像処理用のDSP32に与えられ、DSP32は、撮像素子31の出力に基づいて、所定時間(例えば0.1秒)間隔で撮像された静止画像を示すRGB値の画像データを、時系列的に生成する。生成された画像データは撮像されたタイミングと関連付けられており、ECU2に与えられる。
本実施の形態においては、車両5の停車中に撮像部3がCPU20に制御されて起動し、発車すると停止するよう構成してあるが、撮像部3が常に作動している構成でもよい。
The imaging unit 3 includes an imaging element 31 and a DSP 32. The image pickup device 31 uses a CCD, a CMOS, or the like, and is disposed in the center in the lateral direction of the front portion of the vehicle 5, and continuously or intermittently captures the scenery in front of the vehicle 5. The output of the image sensor 31 is given to the DSP 32 for image processing, and the DSP 32 is an RGB value image indicating still images captured at predetermined time intervals (for example, 0.1 seconds) based on the output of the image sensor 31. Data is generated in time series. The generated image data is associated with the timing at which the image was taken and is given to the ECU 2.
In the present embodiment, the imaging unit 3 is controlled and activated by the CPU 20 while the vehicle 5 is stopped, and is stopped when the vehicle leaves the vehicle. However, the imaging unit 3 may be constantly operating.

音声出力部4はスピーカを用いてなり、チャイム、メロディ、メッセージ等の所定の音声や、図示しない車載ラジオ、車載テレビ等の音声を車内へ出力する。
ECU2はCPU20の他、不揮発性メモリ21、ワークメモリ22、及び、ASICを用いてなる画像処理部23を有する。
撮像部3からECU2へ与えられたRGB値の画像データは画像処理部23が受け取り、後述する画像処理及び検出処理を行なう。画像処理部23の処理結果は、CPU20に与えられ、また、ワークメモリ23に記憶される。
CPU20はアイドリングストップ支援装置1の制御中枢であり、ワークメモリ22を作業領域として用い、不揮発性メモリ21に記憶された制御プログラム及びデータに従って各種処理を実行する。例えばCPU20は、撮像部3を制御して撮像を開始/終了させ、音声出力部4を制御して、不揮発性メモリ21に予め記憶されている音声データ応じた音声を出力させる。
The audio output unit 4 uses a speaker, and outputs predetermined sounds such as chimes, melodies, and messages, and sounds such as in-vehicle radios and in-vehicle TVs (not shown) into the vehicle.
In addition to the CPU 20, the ECU 2 has a nonvolatile memory 21, a work memory 22, and an image processing unit 23 using an ASIC.
The image data of RGB values given from the imaging unit 3 to the ECU 2 is received by the image processing unit 23, and image processing and detection processing described later are performed. The processing result of the image processing unit 23 is given to the CPU 20 and stored in the work memory 23.
The CPU 20 is a control center of the idling stop support device 1, and uses the work memory 22 as a work area and executes various processes according to the control program and data stored in the nonvolatile memory 21. For example, the CPU 20 controls the imaging unit 3 to start / end imaging, and controls the audio output unit 4 to output audio corresponding to audio data stored in advance in the nonvolatile memory 21.

以上のような構成の発車報知装置1は、撮像部3が生成した画像データに基づいて、停車中の車両5が発車すべきタイミングであるか否かをECU2で判定し、発車すべきタイミングであれば、車両5を発車させるよう運転者を促す所定の報知音声を音声出力部4から出力する(以下、発車報知という)。   Based on the image data generated by the imaging unit 3, the departure notification device 1 configured as described above determines whether or not the stopped vehicle 5 is to be started at the ECU 2, and at the timing to start the departure. If there is, a predetermined notification sound that prompts the driver to start the vehicle 5 is output from the sound output unit 4 (hereinafter referred to as a departure notification).

車両5の運転者は、音声出力部4から出力された報知音声を聴聞することで、車両5を発車させるべきタイミングであることを認識し、車両5を発車させる。仮に、所定のメッセージや赤信号から青信号へ変化する信号機の画像等、発車すべきタイミングであることを運転者に報知するための報知画像を、図示しない車載テレビやカーナビゲーションシステム等の画面に表示する場合、運転者は報知画像が報知されるまで画面を視認している必要がある。しかしながら、本実施の形態では、発車すべき旨を音声で報知するため、運転者が例えば窓の外を眺めていても問題はない。また、報知音声と同時的に、又は報知音声と切り換えて出力可能であるならば、ラジオ音声、テレビ音声等が音声出力部4から出力されていてもよい。   The driver of the vehicle 5 recognizes that it is time to start the vehicle 5 by listening to the notification sound output from the sound output unit 4 and starts the vehicle 5. For example, a notification image for notifying the driver that it is time to depart, such as a predetermined message or an image of a traffic light that changes from a red signal to a blue signal, is displayed on a screen such as an in-vehicle TV or a car navigation system (not shown) When doing so, the driver needs to visually recognize the screen until the notification image is notified. However, in this embodiment, since it is notified by voice that the vehicle should depart, there is no problem even if the driver is looking out of the window, for example. In addition, radio sound, television sound, or the like may be output from the sound output unit 4 as long as it can be output simultaneously with the notification sound or by switching to the notification sound.

ECU2の画像処理部23は、CPU20に制御されて、車両5の停車中に撮像部3が時系列的に生成したRGB値の画像データ夫々をHSV値の画像データに変換し、変換したHSV値の画像データに基づいて、所定の検出対象の赤色領域を検出し、検出結果をCPU20に与える。画像処理部23の検出結果を与えられたCPU20は、時間的に相前後して撮像された複数の画像データ夫々に関する赤色領域の検出結果に基づいて、車両5が発車すべきタイミングの指標となる変化が検出対象に生じたか否かを判定する。   The image processing unit 23 of the ECU 2 is controlled by the CPU 20 to convert the RGB value image data generated by the imaging unit 3 in time series while the vehicle 5 is stopped into the HSV value image data, and the converted HSV value. On the basis of the image data, a red region to be detected is detected, and the detection result is given to the CPU 20. The CPU 20 given the detection result of the image processing unit 23 serves as an index of the timing at which the vehicle 5 should depart based on the detection result of the red region relating to each of a plurality of image data captured in time sequence. It is determined whether or not a change has occurred in the detection target.

最後にCPU20は、発車すべきタイミングの指標となる変化が検出対象に生じたと判定した場合に、発車報知を行なうよう音声出力部4を制御し、発車すべきタイミングの指標となる変化が検出対象に生じていないと判定した場合は、車両5が発車するまで、画像処理部23による画像データの変換及び赤色領域の検出、並びに変化発生の判定を繰り返し実行する。
ただし、CPU20は、検出対象の赤色領域を検出する前に、RGB値の画像データ又はHSV値の画像データに、信号機の画像データが含まれているか否かを判定する。信号機の画像データが含まれている場合と含まれていない場合とでは、異なる検出対象が用いられる。
以上のような画像処理部23は、画像変換手段及び赤色検出手段として機能する。
Finally, the CPU 20 controls the audio output unit 4 to perform departure notification when it is determined that a change that becomes an index of timing to depart has occurred in the detection target, and a change that becomes an index of timing to depart is detected. If it is determined that the image has not occurred, the image processing unit 23 repeatedly performs image data conversion, red area detection, and change occurrence determination until the vehicle 5 departs.
However, the CPU 20 determines whether the image data of the traffic light is included in the image data of RGB value or the image data of HSV value before detecting the red region to be detected. Different detection targets are used depending on whether the image data of the traffic light is included or not.
The image processing unit 23 as described above functions as an image conversion unit and a red detection unit.

図2及び図3は、夫々本発明の実施の形態に係る発車報知装置の撮像部が撮像した画像の一例を示す模式図であり、図2は、交差点で停車中の車両5前方の信号機S1,S2を含む画像PSを例示し、図3は、直線道路で停車中の車両5前方で停車している車両(即ち前方車両)Fの左右一対のブレーキランプBを含む画像PFを例示している。
図2においては、車両5が先頭車両であるため画像PSに前方車両は写っていない。図3においては、車両5が停車している近辺に信号機が存在しないか、又は信号機が前方車両Fの陰に隠れているため、画像PFに信号機は写っていない。
2 and 3 are schematic diagrams showing examples of images captured by the imaging unit of the departure notification device according to the embodiment of the present invention, respectively. FIG. 2 is a traffic light S1 in front of the vehicle 5 stopped at the intersection. , S2 is illustrated, and FIG. 3 illustrates an image PF including a pair of left and right brake lamps B of a vehicle (that is, a preceding vehicle) F that is stopped in front of the vehicle 5 that is stopped on a straight road. Yes.
In FIG. 2, since the vehicle 5 is the leading vehicle, the preceding vehicle is not shown in the image PS. In FIG. 3, there is no traffic signal in the vicinity where the vehicle 5 is stopped, or the traffic signal is hidden behind the front vehicle F, and therefore the traffic signal is not shown in the image PF.

ECU2では、まず、信号機の画像を含む所定のテンプレートTを用いて、テンプレートマッチングの手法で、画像PS(又は画像PF)内に信号機が写っているか否かが確認される。具体的には、画像処理部23が、テンプレートTの画像データと、テンプレートTに対応させた画像PSの一部(以下、対応画像という)の画像データとの類似度を算出する。類似度の算出は、対応画像を画像PSの他の一部に順次変更する(例えば1カラム分/1ロウ分ずつ対応位置をずらす)ことで画像PS全体に対して実行され、算出された類似度はCPU20に与えられる。類似度の算出結果を与えられたCPU20は、算出された類似度が最も高く、且つ、所定類似度以上である対応画像が信号機の画像であると判定する。   In the ECU 2, first, using a predetermined template T including an image of a traffic light, whether or not the traffic light is reflected in the image PS (or the image PF) is confirmed by a template matching method. Specifically, the image processing unit 23 calculates the similarity between the image data of the template T and the image data of a part of the image PS corresponding to the template T (hereinafter referred to as a corresponding image). The similarity is calculated for the entire image PS by sequentially changing the corresponding image to another part of the image PS (for example, by shifting the corresponding position by one column / one row). The degree is given to the CPU 20. The CPU 20 to which the calculation result of the similarity is given determines that the corresponding image having the highest calculated similarity and equal to or higher than the predetermined similarity is a traffic light image.

図2に示す画像PSの場合、信号機S1を含む対応画像や信号機S2を含む対応画像が所定類似度以上の類似度を有するが、信号機S1を含む対応画像の類似度が最も高いため、この対応画像が信号機の画像(以下、信号画像という)ASとして採用される。
画像PSの或る位置に信号画像ASが存在する場合、少なくともこの画像PSの撮像タイミング以降に撮像された画像PSにも、同じ位置に信号画像ASが存在する。このため、テンプレートマッチングは1回だけ実行すればよい。
In the case of the image PS shown in FIG. 2, the corresponding image including the traffic signal S1 and the corresponding image including the traffic signal S2 have a similarity greater than or equal to a predetermined similarity, but the correspondence image including the traffic signal S1 has the highest similarity. The image is employed as an image of a traffic light (hereinafter referred to as a signal image) AS.
When the signal image AS is present at a certain position in the image PS, the signal image AS is present at the same position in the image PS captured at least after the imaging timing of the image PS. For this reason, template matching need only be executed once.

信号機の画像が存在する場合、ECU2では検出対象として信号機が用いられ、検出対象の赤色領域として点灯している赤信号が用いられる。画像PSの場合、信号画像ASを用いて、信号機S1の点灯している赤信号が検出される。例えば1枚目の画像PSの信号画像ASに点灯している赤信号が写っており、2枚目の画像PSの信号画像ASにも点灯している赤信号が写っていれば、信号機S1が赤信号のままであること、即ちまだ発車すべきタイミングが到来していないことがわかる。一方、3枚目の画像PSの信号画像ASに消灯している赤信号が写っていれば、信号機S1が赤信号から青信号に変化したこと、即ち発車すべきタイミングが到来したことがわかる。   When there is an image of the traffic light, the ECU 2 uses the traffic light as a detection target, and uses a red signal that is lit as the red region of the detection target. In the case of the image PS, a red signal in which the traffic light S1 is lit is detected using the signal image AS. For example, if a red signal that is lit is reflected in the signal image AS of the first image PS and a red signal that is lit is also reflected in the signal image AS of the second image PS, the traffic light S1 is It can be seen that the signal remains red, that is, the timing to depart has not yet arrived. On the other hand, if a red signal that is extinguished is reflected in the signal image AS of the third image PS, it can be understood that the traffic light S1 has changed from a red signal to a blue signal, that is, the timing to depart.

しかしながら、図3に示す画像PFの場合、所定類似度以上の類似度を有する画像は存在しない。この場合、画像PFに信号機は写っておらず、代わりに前方車両FのブレーキランプBが写っている可能性が高いため、所定の範囲の画像として画像PFの上下左右方向中央領域の画像(以下、範囲画像という)AFが前方車両FのブレーキランプBの画像として採用される。   However, in the case of the image PF shown in FIG. 3, there is no image having a similarity higher than the predetermined similarity. In this case, since the traffic light is not shown in the image PF and there is a high possibility that the brake lamp B of the preceding vehicle F is shown instead, the image in the center area in the vertical and horizontal directions of the image PF (hereinafter referred to as a predetermined range image) AF is referred to as an image of the brake lamp B of the front vehicle F.

このような範囲画像を用いる場合、ECU2では検出対象として前方車両が用いられ、検出対象の赤色領域として点灯しているブレーキランプが用いられる。画像PFの場合、前方車両Fの点灯しているブレーキランプBが検出される。例えば1枚目の画像PFに点灯しているブレーキランプBが写っており、2枚目の画像PFにも点灯しているブレーキランプBが写っていれば、前方車両Fが停車中であること、即ちまだ発車すべきタイミングが到来していないことがわかる。一方、3枚目の画像PFに消灯しているブレーキランプBが写っていれば、前方車両Fが発進動作を行なったこと、即ち発車すべきタイミングが到来したことがわかる。   When such a range image is used, the ECU 2 uses a front vehicle as a detection target and uses a lit brake lamp as a red region of the detection target. In the case of the image PF, the brake lamp B in which the front vehicle F is lit is detected. For example, if the brake lamp B that is lit is reflected in the first image PF and the brake lamp B that is lit is also reflected in the second image PF, the preceding vehicle F is stopped. That is, it can be seen that the timing to depart has not yet arrived. On the other hand, if the brake lamp B which is turned off is reflected in the third image PF, it can be understood that the preceding vehicle F has started, that is, the timing for starting the vehicle has arrived.

ところで、本実施の形態においては、RGB値の画像データがHSV値の画像データに変更された後、HSV値の画像データを用いてテンプレートマッチングを行なうことによって信号画像AS又は範囲画像AFのHSV値の画像データが求められるようにしてあるが、この手順に限定されるものではない。例えば、RGB値の画像データを用いてテンプレートマッチングを行なうことによって信号画像AS又は範囲画像AFのRGB値の画像データが求められ、この画像データがHSV値の画像データに変換される手順でもよい。   By the way, in the present embodiment, after the RGB value image data is changed to the HSV value image data, the HSV value of the signal image AS or the range image AF is performed by performing template matching using the HSV value image data. However, the present invention is not limited to this procedure. For example, the image data of the RGB value of the signal image AS or the range image AF may be obtained by performing template matching using the image data of the RGB value, and this image data may be converted into the image data of the HSV value.

HSV値の画像データ(少なくとも信号画像AS又は範囲画像AFのHSV値の画像データ)は、画像処理部23によって2値の画像データに変換されてからワークメモリ22に与えられて記憶される。変換された2値の画像データはRGB値又はHSV値の画像データよりもデータ量が少ないため、2値の画像データに対する種々の演算は処理が軽く、また、2値の画像データが占有するワークメモリ22の記憶容量も小さい。   The image data of the HSV value (at least the image data of the HSV value of the signal image AS or the range image AF) is converted into binary image data by the image processing unit 23 and then given to the work memory 22 and stored therein. Since the converted binary image data has a smaller amount of data than RGB or HSV image data, various operations on the binary image data are light in processing, and the work occupied by the binary image data is also low. The storage capacity of the memory 22 is also small.

HSV値の画像データを2値の画像データに変換するために、画像データの全画素について、赤色を示す所定範囲のH値を有し、明るい色を示す各所定値以上のS値及びV値を有する画素(即ち明るい赤色の画素)の画素値が、白を表わす画素値“1”に置き換えられ、明るい赤色の画素以外の画素の画素値が、黒を表わす画素値“0”に置き換えられる。
具体的に、H値は0°≦H≦360°の値を有し、赤色を示す所定範囲のH値は、0°≦H<20°及び340°<H≦360°とする。また、S値は0≦S≦1の値を有し、明るい色を示す所定値以上のS値はS≧0.5とする。更に、V値は0≦V≦255の値を有し、明るい色を示す所定値以上のV値はV≧180とする。
In order to convert HSV image data into binary image data, all pixels of the image data have an H value in a predetermined range indicating red, and an S value and V value greater than each predetermined value indicating a bright color. Is replaced with a pixel value “1” representing white, and pixel values of pixels other than the bright red pixel are replaced with a pixel value “0” representing black. .
Specifically, the H value has a value of 0 ° ≦ H ≦ 360 °, and the H value in a predetermined range indicating red is 0 ° ≦ H <20 ° and 340 ° <H ≦ 360 °. The S value has a value of 0 ≦ S ≦ 1, and an S value equal to or higher than a predetermined value indicating a bright color is set to S ≧ 0.5. Further, the V value has a value of 0 ≦ V ≦ 255, and a V value equal to or higher than a predetermined value indicating a bright color is V ≧ 180.

従って、0°≦H<20°又は340°<H≦360°、且つS≧0.5、且つV≧180の画素値を有する画素の画素値は“1”となり、20°≦H≦340°、又はS<0.5、又はV<180の画素値を有する画素の画素値は“0”となる。
なお、景色画像データ全体を2値化処理してもよい。この場合、信号機又は前方車両の画像データ以外に対しては、たとえ明るい赤色の画素が含まれていたとしても、各画素値を“0”とすればよい。
Therefore, the pixel value of a pixel having a pixel value of 0 ° ≦ H <20 ° or 340 ° <H ≦ 360 °, S ≧ 0.5, and V ≧ 180 is “1”, and 20 ° ≦ H ≦ 340. The pixel value of a pixel having a pixel value of °, S <0.5, or V <180 is “0”.
The entire landscape image data may be binarized. In this case, it is only necessary to set each pixel value to “0” even if bright red pixels are included other than the traffic light or the image data of the vehicle ahead.

図4〜図6夫々は、本発明の実施の形態に係る発車報知装置によって検出された赤色領域を示す画像の一例を示す模式図である。図4〜図6夫々の(a),(b)には、点灯しているブレーキランプBの色である明るい赤色が白色として表わされ、明るい赤色以外、即ち黄色、緑色、青色、消灯しているブレーキランプBの色である暗い赤色等が黒色(図中ハッチング)として表わされている画像が例示されている。   4 to 6 are each a schematic diagram showing an example of an image showing a red region detected by the departure notification device according to the embodiment of the present invention. In each of FIGS. 4 to 6, (a) and (b), the bright red color of the lit brake lamp B is represented as white, and other than the bright red color, that is, yellow, green, blue, and off An image in which dark red or the like, which is the color of the brake lamp B, is represented as black (hatched in the figure) is illustrated.

図4〜図6夫々の(a)には、撮像タイミングt(tは自然数。以下、撮像タイミングを時刻という)の時点で撮像された画像データに基づく赤色領域の検出結果が示され、図4〜図6夫々の(b)には、時刻tから所定時間(本実施の形態では0.1秒)が経過した時刻t+1の時点で撮像された画像データに基づく赤色領域の検出結果が示されている。
図4(a)及び図5(a)夫々には、時刻tの時点で点灯しているブレーキランプBの赤色領域が白く示されており、赤色領域の画素数(即ち画素値が“1”である画素の個数)RPt は所定個数TH1(TH1は自然数)以上である。
Each of FIGS. 4 to 6A shows a detection result of a red region based on image data captured at the time of imaging timing t (t is a natural number; hereinafter, imaging timing is referred to as time). Each of FIGS. 6 (b) to 6 (b) shows a detection result of a red region based on image data captured at time t + 1 when a predetermined time (0.1 second in the present embodiment) has elapsed from time t. ing.
4A and 5A, the red region of the brake lamp B that is lit at time t is shown in white, and the number of pixels in the red region (that is, the pixel value is “1”). the pixel number) RP t is the predetermined number TH1 (TH1 is a natural number) or more.

図4(b)には、時刻t+1の時点で点灯しているブレーキランプBが赤色領域として白く示されており、赤色領域の画素数RPt+1 は所定個数TH1以上である。具体的に、図4(a),(b)ではRPt =RPt+1 ≧TH1である。
つまり、RPt (又はRPt+1 )≧TH1の場合、点灯しているブレーキランプBは検出結果に存在する。
In FIG. 4B, the brake lamp B that is lit at time t + 1 is shown in white as a red region, and the number of pixels RP t + 1 in the red region is equal to or greater than the predetermined number TH1. Specifically, in FIGS. 4A and 4B, RP t = RP t + 1 ≧ TH1.
That is, when RP t (or RP t + 1 ) ≧ TH1, the lit brake lamp B is present in the detection result.

一方、図5(b)には、時刻t+1の時点で消灯しているブレーキランプBが黒く示されており、赤色領域の画素数RPt+1 は所定個数TH1未満である。具体的に、図5(b)ではRPt+1 =0<TH1である。
つまり、RPt (又はRPt+1 )<TH1の場合、点灯しているブレーキランプBは検出結果に存在しない。
On the other hand, in FIG. 5B, the brake lamp B that is turned off at time t + 1 is shown in black, and the number of pixels RP t + 1 in the red region is less than the predetermined number TH1. Specifically, in FIG. 5B, RP t + 1 = 0 <TH1.
That is, when RP t (or RP t + 1 ) <TH1, the brake lamp B that is lit does not exist in the detection result.

図4〜図6夫々の(c)には、時刻tの検出結果と時刻t+1の検出結果との差分が示されている。ただし、本明細書では、2つの検出結果の差分とは、2つの検出結果の排他的論理和、即ち一方の検出結果の画素夫々の画素値“1”又は“0”と、他方の検出結果の対応する画素夫々の画素値“1”又は“0”との排他的論理和を意味しており、次のように求められる。   Each of FIG. 4 to FIG. 6C shows the difference between the detection result at time t and the detection result at time t + 1. However, in this specification, the difference between the two detection results is the exclusive OR of the two detection results, that is, the pixel value “1” or “0” of each pixel of one detection result and the other detection result. Means an exclusive OR with the pixel value “1” or “0” of each corresponding pixel, and is obtained as follows.

Figure 2009067240
つまり、検出結果の画像において白い画素(又は黒い画素)が黒い画素(又は白い画素)に変化している場合、検出結果の差分の画像ではこの画素は白い画素となり、検出結果の画像において白い画素(又は黒い画素)が白い画素(又は黒い画素)のまま変化していない場合、検出結果の差分の画像ではこの画素は黒い画素となる。
Figure 2009067240
That is, when a white pixel (or black pixel) is changed to a black pixel (or white pixel) in the detection result image, this pixel is a white pixel in the difference image of the detection result, and a white pixel is detected in the detection result image. When (or a black pixel) remains a white pixel (or a black pixel), the pixel is a black pixel in the difference image of the detection result.

図4(a)に示す検出結果と図4(b)に示す検出結果との差分である図4(c)の白色領域の画素数DRPt+1 は、DRPt+1 /RPt+1 の算出結果が所定値TH2(TH2は正の実数)未満である。
一方、図5(a)に示す検出結果と図5(b)に示す検出結果との差分である図5(c)の白色領域の画素数DRPt+1 は、DRPt+1 /RPt+1 の算出結果が所定値TH2以上である。
The number of pixels DRP t + 1 in the white area in FIG. 4C, which is the difference between the detection result shown in FIG. 4A and the detection result shown in FIG. 4B, is DRP t + 1 / RP t + 1. Is less than a predetermined value TH2 (TH2 is a positive real number).
On the other hand, the number of pixels DRP t + 1 in the white region in FIG. 5C, which is the difference between the detection result shown in FIG. 5A and the detection result shown in FIG. 5B, is DRP t + 1 / RP t. The calculation result of +1 is greater than or equal to the predetermined value TH2.

つまり、DRPt+1 /RPt+1 <TH2の場合、時刻tから時刻t+1へ時間が経過しても、点灯していたブレーキランプBは点灯したままであり、発車すべきタイミングはまだ到来していないことがわかる。一方、DRPt+1 /RPt+1 ≧TH2の場合、時刻tから時刻t+1へ時間が経過して、点灯していたブレーキランプBが消灯したため、発車すべきタイミングが到来したことがわかる。
ここで、白色領域の画素数DRPt+1 そのものを用いて発車すべきタイミングの到来を判定せず、白色領域の画素数DRPt+1 を時刻t+1の赤色領域の画素数RPt+1 で除算したものを用いて判定する理由は、RPt ,RPt+1 ,DRPt+1 夫々に含まれるノイズの影響を除去するためである。
That is, when DRP t + 1 / RP t + 1 <TH2, the brake lamp B that has been lit remains lit even when time elapses from time t to time t + 1, and the timing to depart is still coming. You can see that they are not. On the other hand, in the case of DRP t + 1 / RP t + 1 ≧ TH2, it can be seen that the time to depart has arrived because time has elapsed from time t to time t + 1 and the lit brake lamp B is extinguished.
Here, the arrival of the timing to depart from the white area pixel number DRP t + 1 itself is not determined, and the white area pixel number DRP t + 1 is determined by the red area pixel number RP t + 1 at time t + 1 . The reason for determining using the division is to remove the influence of noise included in each of RP t , RP t + 1 , and DRP t + 1 .

ところで、撮像部3が撮像した画像に信号機も前方車両も写ってないか、又は点灯しているブレーキランプの色が光線の加減で明るい赤色以外の色として写っているような場合、赤色領域の画素RPt は所定個数TH1以上存在しない。このような場合、発車すべきタイミングを正確に求めることはできない。
従って、CPU20は、RPt ≧TH1であるか否かを判定し、RPt <TH1である場合は、例えば図示しないインジケータを点灯、点滅等させるか、又は音声出力部4から所定のメッセージを出力することによって、発車報知が不可能であることを運転者に警告する。
By the way, when the traffic light or the vehicle ahead is not shown in the image picked up by the image pickup unit 3 or when the color of the lit brake lamp is shown as a color other than bright red due to the light beam, pixel RP t is absent or a predetermined number TH1. In such a case, it is not possible to accurately determine the timing for departure.
Therefore, the CPU 20 determines whether or not RP t ≧ TH1, and if RP t <TH1, for example, turns on or blinks an unillustrated indicator or outputs a predetermined message from the audio output unit 4 This warns the driver that departure notification is impossible.

ただし、RPt ≧TH1であれRPt <TH1であれ、時刻t+1に撮像された画像データに基づいて赤色領域が検出されるようにしてあるため、RPt+1 ≧TH1であれば(即ち、例えば光線の加減が変化して、点灯しているブレーキランプの色が明るい赤色として写るようになれば)、発車すべきタイミングを正確に求めて報知することが可能となる。 However, whether RP t ≧ TH1 or RP t <TH1, the red region is detected based on the image data captured at time t + 1, so that RP t + 1 ≧ TH1 (that is, For example, if the light intensity changes so that the color of the lit brake lamp appears as bright red), it is possible to accurately determine and notify the timing to depart.

図6(a)には、時刻tの時点で点灯しているブレーキランプBの赤色領域が白く示されており、赤色領域の画素数(即ち画素値が“1”である画素の個数)RPt は所定個数TH1以上である。
図6(b)には、ブレーキランプBが点灯から消灯へ変化したにも関わらず、時刻t+1の時点で消灯しているブレーキランプBが赤色領域として白く示されており、赤色領域の画素数(即ち画素値が“1”である画素の個数)RPt+1 は所定個数TH1以上である。
このような現象は、例えばブレーキランプBへの入射光量が大きいためブレーキランプBからの反射光量が大きくなり、消灯したブレーキランプBの色が明るい赤色として写るような場合に生じる。
In FIG. 6A, the red region of the brake lamp B that is lit at time t is shown in white, and the number of pixels in the red region (that is, the number of pixels having a pixel value “1”) RP. t is a predetermined number TH1 or more.
In FIG. 6B, the brake lamp B that has been turned off at time t + 1 even though the brake lamp B has changed from lighting to off is shown in white as a red area, and the number of pixels in the red area (That is, the number of pixels having a pixel value “1”) RP t + 1 is equal to or greater than a predetermined number TH1.
Such a phenomenon occurs when, for example, the amount of light incident on the brake lamp B is large, the amount of reflected light from the brake lamp B is large, and the color of the brake lamp B that is turned off appears as bright red.

ただし、ブレーキランプBが消灯した前方車両Fは発車するので、時刻tにおけるブレーキランプBの左右方向の離隔距離よりも時刻t+1におけるブレーキランプBの左右方向の離隔距離の方が見かけ上短くなる。このため、たとえRPt =RPt+1 であっても、図6(c)に示すように、図6(a)に示す検出結果と図6(b)に示す検出結果との差分である白色領域の画素数DRPt+1 は、DRPt+1 >0である。
以上のことから、本実施の形態においては、所定回数TH3(TH3は自然数。本実施の形態においてはTH3=3)回以上連続して白色領域の画素数が所定個数TH4(TH4は自然数)個以上であった場合(即ちDRPt+1 ,DRPt ,DRPt-1 ≧TH4)であった場合、前方車両Fが発車した、即ち発車すべきタイミングが到来したと見なす。
However, since the front vehicle F in which the brake lamp B is turned off starts, the lateral distance of the brake lamp B at the time t + 1 is apparently shorter than the lateral distance of the brake lamp B at the time t. Therefore, even if RP t = RP t + 1 , as shown in FIG. 6C, the difference between the detection result shown in FIG. 6A and the detection result shown in FIG. The number of pixels DRP t + 1 in the white region is DRP t + 1 > 0.
From the above, in the present embodiment, the number of pixels in the white region is continuously the predetermined number TH4 (TH4 is a natural number) TH3 (TH3 is a natural number. In the present embodiment, TH3 = 3) times or more. If it is the above (that is, DRP t + 1 , DRP t , DRP t−1 ≧ TH4), it is considered that the preceding vehicle F has departed, that is, the timing to depart has arrived.

ただし、TH3回以上連続して赤色領域の画素数が所定個数TH5(TH5はTH5>TH1の自然数)個を超過していた場合(即ちRPt+1 ,RPt ,RPt-1 >TH5)、赤色領域が不自然に大きく、ノイズの影響が大きすぎると考えられるため、たとえDRPt+1 ,DRPt ,DRPt-1 ≧TH4であっても、発車報知は行なわない。 However, when the number of pixels in the red region exceeds TH5 (TH5 is a natural number of TH5> TH1) continuously (TH3 is more than TH3 times) (that is, RP t + 1 , RP t , RP t-1 > TH5). Since the red region is unnaturally large and the influence of noise is considered to be too great, no departure notification is performed even if DRP t + 1 , DRP t , DRP t−1 ≧ TH4.

図7は、本発明の実施の形態に係る発車報知装置のCPUが実行する発車報知処理の手順を示すフローチャートである。
CPU20は、速度センサ51の検出結果に基づいて、車速VSが“0”であるか否かを判定し(S11)、VS>0の場合(S11でNO)、車両5が走行しているため、S11の処理を繰り返す。
FIG. 7 is a flowchart showing a procedure of departure notification processing executed by the CPU of the departure notification device according to the embodiment of the present invention.
The CPU 20 determines whether or not the vehicle speed VS is “0” based on the detection result of the speed sensor 51 (S11). If VS> 0 (NO in S11), the vehicle 5 is traveling. , S11 is repeated.

車速VS=0の場合(S11でYES)、CPU20は、3種類の停車条件の内、何れか1つ以上が成立しているか否かを判定する(S12)。ここで停車条件とは、次の3種類である。
1.トランスミッション52がシフトNである。
2.フットブレーキ53がオンである。
3.サイドブレーキ55がオンである。
停車条件が全部不成立である場合(S12でNO)、即ちトランスミッション52がシフトN以外であり、フットブレーキ53がオフであり、しかもサイドブレーキ55がオフである場合、車両5は停車していないため、CPU20は処理をS11へ戻す。
When the vehicle speed VS = 0 (YES in S11), the CPU 20 determines whether any one or more of the three types of stop conditions are satisfied (S12). Here, the stop conditions are the following three types.
1. Transmission 52 is shift N.
2. Foot brake 53 is on.
3. Side brake 55 is on.
If all the stop conditions are not satisfied (NO in S12), that is, if the transmission 52 is other than the shift N, the foot brake 53 is off, and the side brake 55 is off, the vehicle 5 has not stopped. The CPU 20 returns the process to S11.

停車条件の何れか1つ以上が成立している場合(S12でYES)、車両5は停車しているため、CPU20は撮像部3を制御して車両5前方の景色の撮像を開始させる(S13)。
次いでCPU20は、時刻t=1の時点で撮像部3が生成したRGB値の画像データに基づくテンプレートマッチングを画像処理部23に実行させる(S14)。この場合、撮像部3から画像処理部23へRGB値の画像データが与えられ、画像処理部23は与えられた画像データをHSV値の画像データに変換する。
ここで、各画素のRGB値をHSV値に変換するために、画像処理部23においては下記の変換式が用いられる。
If any one or more of the stop conditions are satisfied (YES in S12), the vehicle 5 is stopped, so the CPU 20 controls the image pickup unit 3 to start shooting the scenery in front of the vehicle 5 (S13). ).
Next, the CPU 20 causes the image processing unit 23 to execute template matching based on the RGB value image data generated by the imaging unit 3 at time t = 1 (S14). In this case, RGB image data is given from the imaging unit 3 to the image processing unit 23, and the image processing unit 23 converts the given image data into HSV value image data.
Here, in order to convert the RGB value of each pixel into an HSV value, the following conversion formula is used in the image processing unit 23.

H=60×(G−B)/(MAX−MIN) ,if MAX=R
H=60×(B−R)/(MAX−MIN)+120,if MAX=G
H=60×(R−G)/(MAX−MIN)+240,if MAX=B
S=(MAX−MIN)/MAX
V=MAX
ただし、0≦R,G,B≦256、R値、G値及びB値の内の最大値を最大値MAX、最小値を最小値MINとし、上式による算出結果がH<0であれば、H値の範囲を0≦H≦360とするために、更に次式を用いてH値を求める。
H=360−H
H = 60 × (GB) / (MAX-MIN), if MAX = R
H = 60 × (BR) / (MAX−MIN) +120, if MAX = G
H = 60 × (RG) / (MAX−MIN) +240, if MAX = B
S = (MAX-MIN) / MAX
V = MAX
However, if 0 ≦ R, G, B ≦ 256, the maximum value among the R value, G value, and B value is the maximum value MAX, the minimum value is the minimum value MIN, and the calculation result by the above formula is H <0, In order to make the range of the H value 0 ≦ H ≦ 360, the H value is further obtained using the following equation.
H = 360-H

また、最大値MAX=0である場合、最小値MIN=0(即ちR,G,B=0の黒色)であって、S値及びH値は定義されないが、V=0であるため、HSV値の画像データを2値の画像データに変換する際には、画素値は“0”となる。
RGB値の画像データをHSV値の画像データに変換した後、画像処理部23は、予め与えられているテンプレートTの画像データを用い、変換したHSV値の画像データに対して、前述したようにテンプレートマッチングを行ない、対応画像の画像データとテンプレートTの画像データとの類似度を算出して、算出結果をCPU20に与える。
CPU20は、画像処理部23から与えられた複数の算出結果に基づき、画像処理部23で算出された類似度が最も高く、且つ、所定類似度以上である対応画像の画像データの有無を判定することによって、HSV値の画像データに信号機の画像データが含まれているか否かを判定する(S15)。
When the maximum value MAX = 0, the minimum value MIN = 0 (that is, black of R, G, B = 0) and the S value and the H value are not defined, but since V = 0, HSV When the value image data is converted into binary image data, the pixel value becomes “0”.
After the RGB value image data is converted to the HSV value image data, the image processing unit 23 uses the image data of the template T given in advance and applies the converted HSV value image data as described above. Template matching is performed, the similarity between the image data of the corresponding image and the image data of the template T is calculated, and the calculation result is given to the CPU 20.
Based on a plurality of calculation results given from the image processing unit 23, the CPU 20 determines the presence or absence of image data of the corresponding image having the highest similarity calculated by the image processing unit 23 and equal to or higher than the predetermined similarity. Thus, it is determined whether the image data of the traffic light is included in the image data of the HSV value (S15).

HSV値の画像データに信号機の画像データが含まれている場合(S15でYES)、CPU20は、信号機の点灯している赤信号を検出対象の赤色領域として検出するように設定する(S16)。このためにCPU20は、信号画像が存在する範囲(即ち画像処理部23で算出された類似度が最も高い対応画像の画像データが元の画像データに占める範囲)を注目すべき範囲とし、注目すべき範囲の画像データ、即ち信号画像の画像データのみを使用してこの画像データ以外の画像データは無視するよう画像処理部23を設定する。更にCPU20は、後述する車両判定処理のサブルーチンで用いる各所定値TH1〜TH4の値を信号機用の値に設定する。
以下では、信号画像の画像データを注目画像データという。
When the image data of the traffic light is included in the image data of the HSV value (YES in S15), the CPU 20 sets so as to detect the red signal in which the traffic light is lit as the red region to be detected (S16). For this reason, the CPU 20 sets the range in which the signal image exists (that is, the range in which the image data of the corresponding image having the highest similarity calculated by the image processing unit 23 occupies the original image data) as the range to be noted. The image processing unit 23 is set so that only the image data in the power range, that is, the image data of the signal image is used and image data other than the image data is ignored. Further, the CPU 20 sets the values of the predetermined values TH1 to TH4 used in a subroutine for vehicle determination processing, which will be described later, to values for traffic lights.
Hereinafter, the image data of the signal image is referred to as attention image data.

一方、HSV値の画像データに信号機の画像データが含まれていない場合(S15でNO)、CPU20は、前方車両の点灯しているブレーキランプを検出対象の赤色領域として検出するように設定する(S17)。このためにCPU20は、範囲画像の画像データ(即ち画像処理部23で変換されたHSV値の画像データの所定の範囲の画像データ)のみを使用してこの画像データ以外の画像データは無視するよう画像処理部23を設定する。更にCPU20は、車両判定処理のサブルーチンで用いる各所定値TH1〜TH4の値を前方車両用の値に設定する。
以下では、範囲画像の画像データも注目画像データという。
On the other hand, when the image data of the traffic light is not included in the image data of the HSV value (NO in S15), the CPU 20 sets so as to detect the brake lamp that the front vehicle is lit as the red region to be detected ( S17). Therefore, the CPU 20 uses only the image data of the range image (that is, the image data of the predetermined range of the image data of the HSV value converted by the image processing unit 23) and ignores the image data other than this image data. The image processing unit 23 is set. Further, the CPU 20 sets the values of the predetermined values TH1 to TH4 used in the vehicle determination process subroutine to values for the forward vehicle.
Hereinafter, the image data of the range image is also referred to as attention image data.

S16又はS17の処理完了後、CPU20は、注目画像データに基づいて、
検出対象の赤色領域の検出を画像処理部23に実行させる(S18)。
この場合、画像処理部23は、赤色を示す所定範囲のH値を有し、明るい色を示す各所定値以上のS値及びV値を有する画素の画素値を“1”に置き換え、この画素以外の画素の画素値を“0”に置き換えることで、注目画像データの2値化処理を行なう。このようにして2値化された注目画像データ(以下、2値化データという)の画素値“1”の画素が検出された赤色領域である。
After the processing of S16 or S17 is completed, the CPU 20 based on the attention image data,
The detection of the red region to be detected is executed by the image processing unit 23 (S18).
In this case, the image processing unit 23 replaces the pixel value of a pixel having an H value in a predetermined range indicating red color and having an S value and a V value equal to or higher than each predetermined value indicating a bright color with “1”. By substituting the pixel values of the other pixels with “0”, the binarization processing of the target image data is performed. This is a red region in which a pixel having a pixel value “1” of the target image data binarized (hereinafter referred to as binarized data) is detected.

また、画像処理部23は、検出された赤色領域の画素数RPを計数し、更に、前後2回分の2値化データの差分を求めて、差分の画像データにおける白色領域の画素数DRPを計数する。ただし、前回の2値化データが存在しないため、ここで計数された画素数DRPの値は、無意味な値である。この後、計数された画素数RP及び画素数DRPはCPU20に与えられ、時刻t=1に対応する2値化データはワークメモリ22に与えられて記憶される。
S18の処理完了後、CPU20は変数tに“1”を代入して(S19)、画像処理部23から与えられた画素数RPを画素数RPt に代入し(S20)、画素数DRPを画素数DRPt に代入して(S20)、発車判定処理を行なうサブルーチン(図8〜図9参照)を呼び出し、実行する(S22)。
S22の処理完了後、CPU20は撮像部3を制御して車両5前方の景色の撮像を終了させ(S23)、処理をS11へ戻す。
In addition, the image processing unit 23 counts the number of pixels RP of the detected red region, further calculates a difference between the binarized data for two times before and after, and counts the number of pixels DRP of the white region in the difference image data. To do. However, since there is no previous binarized data, the value of the number of pixels DRP counted here is a meaningless value. Thereafter, the counted pixel number RP and pixel number DRP are given to the CPU 20, and binarized data corresponding to the time t = 1 is given to the work memory 22 and stored therein.
After the completion of the process S18, CPU 20 substitutes "1" in the variable t (S19), the number of pixels RP supplied from the image processing unit 23 substitutes the pixel number RP t (S20), the pixel number DRP pixels Substituting into the number DRP t (S20), a subroutine for performing departure determination processing (see FIGS. 8 to 9) is called and executed (S22).
After the process of S22 is completed, the CPU 20 controls the imaging unit 3 to end the imaging of the scenery in front of the vehicle 5 (S23), and returns the process to S11.

図8及び図9は、本発明の実施の形態に係る発車報知装置のCPUが実行する発車判定処理手順のサブルーチンを示すフローチャートである。
CPU20は、時刻t+1の時点で撮像部3が生成したRGB値の画像データに基づいて、検出対象の赤色領域の検出を画像処理部23に実行させる(S31)。
この場合、撮像部3から画像処理部23へRGB値の画像データが与えられ、画像処理部23は与えられた画像データに含まれる注目画像データ(即ち信号画像の画像データ又は範囲画像の画像データ)をHSV値の画像データに変換し、更に2値化処理を施して2値化データを求め、求められた2値化データに基づいて赤色領域の画素数RPを計数する。
8 and 9 are flowcharts showing a subroutine of departure determination processing procedures executed by the CPU of the departure notification device according to the embodiment of the present invention.
The CPU 20 causes the image processing unit 23 to detect the red region to be detected based on the RGB value image data generated by the imaging unit 3 at time t + 1 (S31).
In this case, image data of RGB values is given from the imaging unit 3 to the image processing unit 23, and the image processing unit 23 receives attention image data (that is, image data of a signal image or image data of a range image) included in the given image data. ) Are converted into image data of HSV values, and binarization processing is further performed to obtain binarized data, and the number of pixels RP in the red region is counted based on the obtained binarized data.

更に画像処理部23は、ワークメモリ22に記憶されている時刻tに対応する2値化データと時刻t+1に対応する2値化データとの排他的論理和を算出することによって差分の画像データを求め、求めた差分の画像データにおける画素値が“1”の画素の個数、即ち白色領域の画素数DRPt+1 を計数する。この後、計数された画素数RP及び画素数DRPはCPU20に与えられ、時刻t+1に対応する2値化データはワークメモリ22に与えられて記憶される。なお、この2値化データを記憶する際に、時刻tに対応する2値化データを上書きしてもよい。
S31の処理完了後、CPU20は画像処理部23から与えられた画素数RPを画素数RPt+1 に代入し(S32)、画素数DRPを画素数DRPt+1 に代入する(S33)。
Further, the image processing unit 23 calculates the exclusive logical sum of the binarized data corresponding to the time t stored in the work memory 22 and the binarized data corresponding to the time t + 1 to obtain the difference image data. The number of pixels having the pixel value “1” in the obtained difference image data, that is, the number of pixels DRP t + 1 in the white area is counted. Thereafter, the counted pixel number RP and pixel number DRP are given to the CPU 20, and the binarized data corresponding to the time t + 1 is given to the work memory 22 and stored therein. Note that when storing the binarized data, the binarized data corresponding to the time t may be overwritten.
After completing the process of S31, the CPU 20 substitutes the pixel number RP given from the image processing unit 23 for the pixel number RP t + 1 (S32), and substitutes the pixel number DRP for the pixel number DRP t + 1 (S33).

次いでCPU20は、時刻tに係る検出結果の画素数RPt が所定個数TH1以上であるか否かを判定する(S34)。
RPt <TH1である場合(S34でNO)、時刻tに係る注目画像データから検出された赤色領域が少なすぎて(即ち、撮像部3が撮像した画像に信号機も前方車両も写ってないか、又は点灯しているブレーキランプの色が光線の加減で明るい赤色以外の色として写っていて)、発車すべきタイミングを正確に求めることができないため、CPU20は、例えばインジケータを点灯させることによって、発車報知が不可能であることを運転者に警告する(S35)。
S35の処理完了後、CPU20は処理を後述するS57へ移し、車両5がまだ停車しているか発車したかを判定して、停車している場合はS31以降の処理を実行する。
Then CPU20 is the number of pixels RP t of the detection result according to the time t is equal to or a predetermined number TH1 or more (S34).
If RP t <TH1 (NO in S34), there are too few red regions detected from the target image data at time t (that is, the traffic light and the preceding vehicle are not shown in the image captured by the imaging unit 3). Or the color of the brake lamp that is lit is reflected as a color other than bright red due to the amount of light), and the timing at which to depart cannot be determined accurately, so the CPU 20 turns on the indicator, for example, The driver is warned that departure notification is impossible (S35).
After the process of S35 is completed, the CPU 20 moves the process to S57, which will be described later, and determines whether the vehicle 5 is still stopped or started, and executes the processes after S31 if the vehicle 5 is stopped.

RPt ≧TH1である場合(S34でYES)、CPU20はRPt+1 が“0”であるか否かを判定する(S51)。
RPt+1 =0である場合(S51でYES)、CPU20は音声出力部4を制御して発車報知を行なう(S52)。何故ならば、RPt+1 =0とは時刻tの時点で存在した赤色領域が時刻t+1の時点で完全に消失していることを意味し、これは点灯している赤信号又はブレーキランプが消灯したためと考えられるからである。
S52の処理完了後、CPU20は発車判定処理を終了し、この発車判定処理のサブルーチンを呼び出したルーチンへ処理を戻す。
If RP t ≧ TH1 (YES in S34), the CPU 20 determines whether RP t + 1 is “0” (S51).
If RP t + 1 = 0 (YES in S51), the CPU 20 controls the audio output unit 4 to issue a departure notification (S52). This is because RP t + 1 = 0 means that the red region that existed at time t has completely disappeared at time t + 1, which means that the red signal or brake lamp that is lit This is because it is considered to have been turned off.
After completing the process of S52, the CPU 20 ends the departure determination process and returns the process to the routine that called the departure determination process subroutine.

RPt+1 >0である場合(S51でNO)、CPU20はDRPt+1 /RPt+1 の算出結果が所定値TH2以上であるか否かを判定する(S53)。
DRPt+1 /RPt+1 ≧TH2である場合(S53でYES)、CPU20は、処理をS52へ移して発車報知を行なう。何故ならば、DRPt+1 /RPt+1 ≧TH2とは時刻tに係る検出結果と時刻t+1に係る検出結果との間に大きな差が生じていることを意味し、これは点灯している赤信号又はブレーキランプが消灯したためと考えられるからである。ここで、S53の処理を実行する際にはRPt+1 >0であるため、DRPt+1 /RPt+1 の算出結果が発散することはない。
When RP t + 1 > 0 (NO in S51), the CPU 20 determines whether or not the calculation result of DRP t + 1 / RP t + 1 is equal to or greater than a predetermined value TH2 (S53).
If DRP t + 1 / RP t + 1 ≧ TH2 (YES in S53), the CPU 20 moves the process to S52 and issues a departure notification. This is because DRP t + 1 / RP t + 1 ≧ TH2 means that there is a large difference between the detection result at time t and the detection result at time t + 1. This is because the red light or the brake lamp is turned off. Here, when the process of S53 is executed, since RP t + 1 > 0, the calculation result of DRP t + 1 / RP t + 1 does not diverge.

DRPt+1 /RPt+1 <TH2である場合(S53でNO)、CPU20は一先ずS52の処理を実行せずに、S54以降の処理を実行する。何故ならば、DRPt+1 /RPt+1 <TH2とは時刻tに係る検出結果と時刻t+1に係る検出結果との間に大差がないことを意味し、これは赤信号又はブレーキランプが点灯を継続している可能性が高いと考えられるからである。
CPU20は、t≧TH3であるか否かを判定し(S54)、t<TH3である場合(S54でNO)、少なくとも後述するS55の処理で必要な画素数DRPt-1 の値をまだ算出していないため、後述するS55及びS56の処理を実行せずに、処理をS57へ移す。
When DRP t + 1 / RP t + 1 <TH2 (NO in S53), the CPU 20 first executes the processes after S54 without executing the process of S52. This is because DRP t + 1 / RP t + 1 <TH2 means that there is no significant difference between the detection result at time t and the detection result at time t + 1. This is because there is a high possibility that the lighting is continued.
The CPU 20 determines whether or not t ≧ TH3 (S54). If t <TH3 (NO in S54), the CPU 20 still calculates the value of the number of pixels DRP t−1 necessary for at least the processing of S55 described later. Therefore, the process proceeds to S57 without executing the processes of S55 and S56 described later.

t≧TH3である場合(S54でYES)、過去3回の白色領域の画素数DRPt+1 ,DRPt ,DRPt-1 が夫々所定個数TH4以上であるか否かを判定し(S55)、DRPt+1 ,DRPt ,DRPt-1 <TH4である場合(S55でNO)、過去3回に亘る検出結果の差分に大差がない(即ち赤信号又はブレーキランプが点灯を継続している)ため、S56の処理を実行せずに、処理をS57へ移す。
DRPt+1 ,DRPt ,DRPt-1 ≧TH4である場合(S55でYES)、過去3回の赤色領域の画素数RPt+1 ,RPt ,RPt-1 が夫々所定個数TH5以下であるか否かを判定する(S56)。
If t ≧ TH3 (YES in S54), it is determined whether or not the number of pixels DRP t + 1 , DRP t , DRP t-1 in the past three white areas is greater than or equal to a predetermined number TH4 (S55). , DRP t + 1 , DRP t , DRP t-1 <TH4 (NO in S55), there is no great difference in the difference in the detection results over the past three times (ie, the red signal or the brake lamp continues to be lit) Therefore, the process proceeds to S57 without executing the process of S56.
When DRP t + 1 , DRP t , DRP t−1 ≧ TH4 (YES in S55), the past three red region pixel counts RP t + 1 , RP t , RP t-1 are each a predetermined number TH5 or less. It is determined whether or not (S56).

RPt+1 ,RPt ,RPt-1 ≦TH5である場合(S56でYES)、CPU20は、処理をS52へ移して発車報知を行なう。何故ならば、DRPt+1 ,DRPt ,DRPt-1 ≧TH4且つRPt+1 ,RPt ,RPt-1 ≦TH5とは、ノイズの影響ではなく過去3回の検出結果の差分に大きな差が生じていることを意味し、前方車両が発車してブレーキランプが前方へ遠ざかっているためと考えられるからである。
RPt+1 ,RPt ,RPt-1 >TH5である場合(S56でNO)、ノイズの影響によって過去3回の検出結果の差分に大きな差が生じているため、CPU20は処理をS57へ移す。
When RP t + 1 , RP t , RP t−1 ≦ TH5 (YES in S56), the CPU 20 moves the process to S52 and issues a departure notification. This is because DRP t + 1 , DRP t , DRP t−1 ≧ TH4 and RP t + 1 , RP t , RP t−1 ≦ TH5 is not the influence of noise but the difference between the past three detection results. This means that a large difference has occurred, and it is considered that the vehicle ahead has departed and the brake lamp has moved away.
If RP t + 1 , RP t , RP t-1 > TH5 (NO in S56), the CPU 20 causes the process to proceed to S57 because there is a large difference in the difference between the past three detection results due to the influence of noise. Transfer.

S35の処理完了後、又はS54、S55若しくはS56でNOの場合、CPU20は、速度センサ51の検出結果に基づいて、車速VSが“0”を超過しているか否かを判定し(S57)、VS=0の場合(S57でNO)、3種類の発車条件の内、3つ全部が成立しているか否かを判定する(S58)。ここで発車条件とは、次の3種類である。
1.トランスミッション52がシフトN以外である。
2.フットブレーキ53がオフである。
3.サイドブレーキ55がオフである。
発車条件の少なくとも1つが成立していない場合(S58でNO)、車両5はまだ停車しているため、変数tを“1”インクリメントして(S59)、CPU20は処理をS31へ戻す。
After completion of the process of S35, or when NO in S54, S55, or S56, the CPU 20 determines whether or not the vehicle speed VS exceeds “0” based on the detection result of the speed sensor 51 (S57). When VS = 0 (NO in S57), it is determined whether or not all three of the three types of departure conditions are satisfied (S58). Here, the departure conditions are the following three types.
1. Transmission 52 is other than shift N.
2. Foot brake 53 is off.
3. The side brake 55 is off.
If at least one of the departure conditions is not satisfied (NO in S58), since the vehicle 5 is still stopped, the variable t is incremented by “1” (S59), and the CPU 20 returns the process to S31.

車速VS>0である場合(S57でYES)、又は発車条件が全部成立している場合(S58でYES)、車両5が発車したため、CPU20は発車判定処理を終了し、この発車判定処理のサブルーチンを呼び出したルーチンへ処理を戻す。
S51、S53、並びにS55及びS56におけるCPU20は変化判定手段として機能し、S52におけるCPU20に制御された音声出力部4は発車報知手段として機能する。また、S15におけるCPU20は信号判定手段として機能し、S34におけるCPU20は存在判定手段として機能し、S35におけるCPU20に制御された音声出力部4は不可能警告手段として機能する。
When vehicle speed VS> 0 (YES in S57) or when all departure conditions are satisfied (YES in S58), since vehicle 5 has started, CPU 20 ends the departure determination process, and a subroutine for this departure determination process Return processing to the routine that called.
The CPU 20 in S51, S53, and S55 and S56 functions as a change determination unit, and the audio output unit 4 controlled by the CPU 20 in S52 functions as a departure notification unit. Further, the CPU 20 in S15 functions as a signal determination unit, the CPU 20 in S34 functions as a presence determination unit, and the audio output unit 4 controlled by the CPU 20 in S35 functions as an impossible warning unit.

以上のような発車報知装置1は、交差点、踏切等で車両5が停車している場合に、赤信号から青信号への変化や前方車両の発進動作等を検出したときに、発車すべき旨を運転者に音声で報知することができるため、車両5の運転者は適切なタイミングで車両を発進させることができる。この結果、交通の流れがスムーズになり、また、後続車両からプレッシャーを掛けられて運転者がパニックに陥るようなことがなくなる。
更に、黄色に点灯するウインカーをブレーキランプと誤認することが抑制されるため、ウインカーの消灯を以って、発車すべき旨を運転者に誤報してしまうことが抑制され、誤報によって運転者が混乱したり、誤報に従って運転者が車両5を発車させて事故を引き起こしたりすることが抑制される。
The departure notification device 1 as described above indicates that when a vehicle 5 is stopped at an intersection, a railroad crossing or the like, when a change from a red signal to a green signal, a start operation of a preceding vehicle, or the like is detected, the vehicle should be started. Since the driver can be notified by voice, the driver of the vehicle 5 can start the vehicle at an appropriate timing. As a result, the flow of traffic becomes smooth, and the driver does not panic because of pressure from the following vehicle.
Furthermore, since it is suppressed that the blinker that lights up in yellow is mistaken as a brake lamp, it is suppressed that the driver is notified of the departure by turning off the blinker. It is suppressed that the driver gets confused or causes the accident by causing the vehicle 5 to start according to the false alarm.

なお、報知音声の出力に限らず、例えば運転者の座席に振動発生部を内蔵し、停車中の車両5が発車すべきタイミングであれば運転者に所定の振動を与える構成でもよい。
また、撮像部3がRGB値の画像データを生成し、生成された画像データを画像処理部23がHSV値の画像データに変換する構成に限定されず、例えば撮像部3がYUV値の画像データを生成し、生成された画像データをECU2でHSV値の画像データに変換する構成する構成でもよい。
In addition to the output of the notification voice, for example, a vibration generating unit may be built in the driver's seat and a predetermined vibration may be given to the driver as long as the stopped vehicle 5 should depart.
The imaging unit 3 generates RGB value image data, and the image processing unit 23 is not limited to the configuration in which the image processing unit 23 converts the generated image data into HSV value image data. For example, the imaging unit 3 has YUV value image data. The ECU 2 may convert the generated image data into HSV value image data.

本発明の実施の形態に係る発車報知装置の要部構成を示すブロック図である。It is a block diagram which shows the principal part structure of the departure notification apparatus which concerns on embodiment of this invention. 本発明の実施の形態に係る発車報知装置の撮像部が撮像した信号機を含む画像の一例を示す模式図である。It is a schematic diagram which shows an example of the image containing the traffic signal imaged by the imaging part of the departure notification apparatus which concerns on embodiment of this invention. 本発明の実施の形態に係る発車報知装置の撮像部が撮像した前方車両のブレーキランプを含む画像の一例を示す模式図である。It is a schematic diagram which shows an example of the image containing the brake lamp of the front vehicle which the imaging part of the departure notification apparatus which concerns on embodiment of this invention imaged. 本発明の実施の形態に係る発車報知装置によって検出された赤色領域(具体的には点灯中のブレーキランプ)を示す画像の一例を示す模式図である。It is a schematic diagram which shows an example of the image which shows the red area | region (specifically the brake lamp in lighting) detected by the departure notification apparatus which concerns on embodiment of this invention. 本発明の実施の形態に係る発車報知装置によって検出された赤色領域(具体的には点灯から消灯へ変化したブレーキランプ)を示す画像の一例を示す模式図である。It is a schematic diagram which shows an example of the image which shows the red area | region (specifically the brake lamp which changed from lighting to light extinction) detected by the departure notification apparatus which concerns on embodiment of this invention. 本発明の実施の形態に係る発車報知装置によって検出された赤色領域(具体的には前方へ移動するブレーキランプ)を示す画像の一例を示す模式図である。It is a schematic diagram which shows an example of the image which shows the red area | region (specifically the brake lamp which moves ahead) detected by the departure notification apparatus which concerns on embodiment of this invention. 本発明の実施の形態に係る発車報知装置のCPUが実行する発車報知処理の手順を示すフローチャートである。It is a flowchart which shows the procedure of the departure notification process which CPU of the departure notification apparatus which concerns on embodiment of this invention performs. 本発明の実施の形態に係る発車報知装置のCPUが実行する発車判定処理手順のサブルーチンを示すフローチャートである。It is a flowchart which shows the subroutine of the departure determination processing procedure which CPU of the departure notification apparatus which concerns on embodiment of this invention performs. 本発明の実施の形態に係る発車報知装置のCPUが実行する発車判定処理手順のサブルーチンを示すフローチャートである。It is a flowchart which shows the subroutine of the departure determination processing procedure which CPU of the departure notification apparatus which concerns on embodiment of this invention performs.

符号の説明Explanation of symbols

1 発車報知装置
20 CPU
23 画像処理部(画像変換手段,赤色検出手段)
3 撮像部
4 音声出力部(発車報知手段,不可能警告手段)
5 車両
B ブレーキランプ
F 前方車両(車両前方で停車している車両)
S1 信号機
1 departure notification device 20 CPU
23 Image processing unit (image conversion means, red detection means)
3 imaging unit 4 audio output unit (departure notification means, impossible warning means)
5 Vehicle B Brake lamp F Front vehicle (vehicle stopped in front of the vehicle)
S1 traffic light

Claims (4)

停車中に車両前方を連続的又は断続的に撮像した画像データを時系列的に生成する撮像部を備え、
停車中の車両が発車すべきタイミングで、発車すべき旨を報知する発車報知装置において、
前記撮像部が生成した画像データを夫々HSV値の画像データに変換する画像変換手段と、
該画像変換手段が変換した画像データに基づいて、所定の検出対象の赤色領域を検出する赤色検出手段と、
時間的に相前後して撮像された複数の画像データ夫々に関する前記赤色検出手段の検出結果に基づいて、前記発車すべきタイミングの指標となる変化が前記検出対象に生じたか否かを判定する変化判定手段と、
該変化判定手段が生じたと判定した場合、発車すべき旨を音声又は振動で報知する発車報知手段と
を備えることを特徴とする発車報知装置。
An imaging unit that generates time-series image data obtained by continuously or intermittently imaging the front of the vehicle while stopped,
In the departure notification device for notifying that the vehicle to be stopped should depart at the timing to depart,
Image conversion means for converting the image data generated by the imaging unit into image data of HSV values;
A red detection means for detecting a red region of a predetermined detection target based on the image data converted by the image conversion means;
A change for determining whether or not a change serving as an index of the timing to depart has occurred in the detection target based on a detection result of the red detection unit relating to each of a plurality of pieces of image data captured in time sequence. A determination means;
A departure notification device, comprising: a departure notification means for notifying by voice or vibration that a departure should be made when it is determined that the change determination means has occurred.
前記画像変換手段が変換した画像データ又は前記撮像部が生成した画像データに、信号機の画像データが含まれているか否かを判定する信号判定手段を更に備え、
該信号判定手段が含まれていると判定した場合、前記赤色検出手段は、前記検出対象の赤色領域として信号機の点灯している赤信号を、前記信号機の画像データに基づいて検出するようにしてあり、
前記信号判定手段が否と判定した場合、前記赤色検出手段は、前記検出対象の赤色領域として前記車両前方で停車している車両の点灯しているブレーキランプを、所定の範囲の画像データに基づいて検出するようにしてあることを特徴とする請求項1に記載の発車報知装置。
A signal determination unit for determining whether the image data of the traffic light is included in the image data converted by the image conversion unit or the image data generated by the imaging unit;
When it is determined that the signal determination unit is included, the red detection unit detects a red signal in which a traffic light is lit as a red region to be detected based on image data of the traffic signal. Yes,
When the signal determination means determines NO, the red detection means uses a brake lamp that is lit on a vehicle parked in front of the vehicle as a red area to be detected based on a predetermined range of image data. The departure notification device according to claim 1, wherein the departure notification device is detected.
前記赤色検出手段は、赤色を示す所定範囲のH値を有し、明るい色を示す各所定値以上のS値及びV値を有する画素と、該画素以外の画素とを2値で区別することによって前記検出対象の赤色領域を検出するようにしてあることを特徴とする請求項1又は2に記載の発車報知装置。   The red detection means distinguishes a pixel having an S value and a V value having a predetermined range of H values indicating red and having a bright color or more, and a pixel other than the pixel by binary values. The departure notification device according to claim 1, wherein a red region of the detection target is detected. 1の画像データに関する前記赤色検出手段の検出結果に前記検出対象の赤色領域の画素が所定個数以上存在するか否かを判定する存在判定手段と、
該存在判定手段が否と判定した場合、発車すべき旨の報知が不可能であることを警告する不可能警告手段と
を更に備え、
前記赤色検出手段は、前記存在判定手段の判定結果に関わらず、前記画像データ以後の画像データに基づいて、前記検出対象の赤色領域を検出するようにしてあることを特徴とする請求項1乃至3の何れか一項に記載の発車報知装置。
Presence determination means for determining whether a predetermined number or more of pixels in the red region to be detected are present in the detection result of the red detection means for one image data;
An impossibility warning means that warns that it is impossible to notify that the vehicle should be departed when the presence determination means determines NO
The red color detecting unit detects a red region to be detected based on image data after the image data regardless of a determination result of the presence determining unit. 4. The departure notification device according to any one of items 3.
JP2007238036A 2007-09-13 2007-09-13 Departure notification device Pending JP2009067240A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007238036A JP2009067240A (en) 2007-09-13 2007-09-13 Departure notification device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007238036A JP2009067240A (en) 2007-09-13 2007-09-13 Departure notification device

Publications (1)

Publication Number Publication Date
JP2009067240A true JP2009067240A (en) 2009-04-02

Family

ID=40603963

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007238036A Pending JP2009067240A (en) 2007-09-13 2007-09-13 Departure notification device

Country Status (1)

Country Link
JP (1) JP2009067240A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013090095A (en) * 2011-10-17 2013-05-13 Olympus Imaging Corp Imaging device, imaging method, and program
WO2014002413A1 (en) * 2012-06-27 2014-01-03 日本電気株式会社 Preceding vehicle detection device, preceding vehicle detection method, and preceding vehicle detection program recording medium
CN104019901A (en) * 2014-06-16 2014-09-03 哈尔滨工业大学 Automobile meter indicator lamp color detecting method based on dynamic clustering method
CN108304813A (en) * 2018-02-08 2018-07-20 长安大学 A kind of method of intelligent recognition circle traffic signal light condition
US10248874B2 (en) 2016-11-22 2019-04-02 Ford Global Technologies, Llc Brake light detection

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013090095A (en) * 2011-10-17 2013-05-13 Olympus Imaging Corp Imaging device, imaging method, and program
WO2014002413A1 (en) * 2012-06-27 2014-01-03 日本電気株式会社 Preceding vehicle detection device, preceding vehicle detection method, and preceding vehicle detection program recording medium
CN104019901A (en) * 2014-06-16 2014-09-03 哈尔滨工业大学 Automobile meter indicator lamp color detecting method based on dynamic clustering method
US10248874B2 (en) 2016-11-22 2019-04-02 Ford Global Technologies, Llc Brake light detection
US10853673B2 (en) 2016-11-22 2020-12-01 Ford Global Technologies, Llc Brake light detection
CN108304813A (en) * 2018-02-08 2018-07-20 长安大学 A kind of method of intelligent recognition circle traffic signal light condition
CN108304813B (en) * 2018-02-08 2021-07-23 长安大学 Method for intelligently identifying state of round traffic signal lamp

Similar Documents

Publication Publication Date Title
JP5437855B2 (en) Obstacle detection device, obstacle detection system including the same, and obstacle detection method
JP5615862B2 (en) Vehicle perimeter monitoring device
JP4863951B2 (en) Traffic light recognition device
JP5113881B2 (en) Vehicle periphery monitoring device
JP5629521B2 (en) Obstacle detection system and method, obstacle detection device
JP6297396B2 (en) Traffic signal recognition device and computer program
JP2009116723A (en) Lane change support system
JP2009067240A (en) Departure notification device
JP4731177B2 (en) Infrared imaging display device and infrared imaging display method for vehicle
JP2008068675A (en) Apparatus for visually confirming vehicle periphery
JP2011227657A (en) Device for monitoring periphery of vehicle
JP6267493B2 (en) Arrow signal light detector
JP2011086097A (en) Obstacle detection device
JP2007193702A (en) Image processing device and image processing method
JP2009294781A (en) Device for deciding object presence
US9789818B2 (en) Image processing apparatus, imaging apparatus and drive assisting method
JP2004274538A (en) Apparatus for visually recognizing surrounding of vehicle
JP4818027B2 (en) In-vehicle image processing device
KR101850030B1 (en) Apparatus and method for lane change assistance using illumination
JP2015162165A (en) Object detection device and object detection system
JP2017059904A (en) Imaging device
JP2015153312A (en) vehicle driving support device
JP6754993B2 (en) In-vehicle image display device, in-vehicle image display method, and program
JP6644509B2 (en) Vehicle detection alarm device and vehicle detection alarm method
KR20150076884A (en) Device and method for alarming start of preceding-vehicle to rewarding-vehicle