JP2014021716A - Sign guidance display device and sign guidance display method - Google Patents

Sign guidance display device and sign guidance display method Download PDF

Info

Publication number
JP2014021716A
JP2014021716A JP2012159821A JP2012159821A JP2014021716A JP 2014021716 A JP2014021716 A JP 2014021716A JP 2012159821 A JP2012159821 A JP 2012159821A JP 2012159821 A JP2012159821 A JP 2012159821A JP 2014021716 A JP2014021716 A JP 2014021716A
Authority
JP
Japan
Prior art keywords
road sign
image
sign
speed
foreground
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012159821A
Other languages
Japanese (ja)
Inventor
Kijuro Obata
喜重郎 小幡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2012159821A priority Critical patent/JP2014021716A/en
Publication of JP2014021716A publication Critical patent/JP2014021716A/en
Pending legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Instructional Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a sign guidance display device and a sign guidance display method, which are capable of securing color reproducibility of the guide image of a road sign, the guide image generated on the basis of a pickup image.SOLUTION: A sign guidance display device includes: an on-vehicle camera 2; means 4 for controlling a shutter speed of the camera at a normal speed; means 5 for detecting a road sign on the basis of a pickup image picked up by the on-vehicle camera 2 at a normal speed; the means 4 for controlling a shutter speed at a high speed using the detection by the means 5 as a trigger; means 6 for cut out an image of the road sign from a pickup image picked up with the shutter speed controlled at a high speed, to discriminate a foreground portion from a background portion; the means 4 for controlling the shutter speed at a low speed after the cutting-out; means 7 for determining a chromatic color of the road sign on the basis of a pickup image with the shutter speed controlled at a low speed; and means 8 for synthesizing the chromatic color to the foreground portion/background portion, and generating and displaying a guidance image.

Description

本発明は、標識案内表示装置および標識案内表示方法に係り、特に、道路標識の案内表示に好適な標識案内表示装置および標識案内表示方法に関する。   The present invention relates to a sign guide display device and a sign guide display method, and more particularly to a sign guide display device and a sign guide display method suitable for guide display of a road sign.

従来から、車載機においては、車載カメラの撮像画像に基づいて道路標識を画像認識することが行われており、このような道路標識の画像認識は、例えば、認識結果に応じた警報を出力して安全かつ適法な運転への注意を喚起すること等に利用されていた(例えば、特許文献1、2参照)。   Conventionally, in an in-vehicle device, a road sign is image-recognized based on an image captured by an in-vehicle camera. For example, such a road sign image recognition outputs an alarm according to a recognition result. It has been used to call attention to safe and legal driving (see, for example, Patent Documents 1 and 2).

特開2008−197769号公報JP 2008-197769 A 特表2010−515184号公報Special table 2010-515184 gazette

ところで、車載カメラは、特に夜間などでの感度を上げる目的で、色の出方よりも感度を優先しているため、夜間における撮像画像に基づいて道路標識の色を認識することが困難であるといった欠点を有している。   By the way, the in-vehicle camera gives priority to the sensitivity over the color appearance for the purpose of increasing the sensitivity especially at night, so it is difficult to recognize the color of the road sign based on the captured image at night. It has the disadvantages.

このため、夜間における撮像画像に基づいて認識(生成)された道路標識を車内モニタに案内表示しようとする場合には、道路標識の本来の色を適切に再現することができない虞があった。   For this reason, when trying to guide and display a road sign recognized (generated) based on a captured image at night on the in-vehicle monitor, the original color of the road sign may not be appropriately reproduced.

この点について、特許文献1においては、夜間画像からR値を削減することによって、道路標識本来の青色部分を判定することが行われている。   Regarding this point, in Patent Document 1, the original blue portion of the road sign is determined by reducing the R value from the nighttime image.

また、特許文献2においては、カメラから受信された第1の画像情報に基づいて交通標識を見つけ出し、この見つけ出された交通標識を高コントラストで撮影することによって得られた第2の画像情報に基づいて、交通標識を識別することが行われている。   Further, in Patent Document 2, a traffic sign is found based on the first image information received from the camera, and the second image information obtained by photographing the found traffic sign with high contrast is used. On the basis of which traffic signs are identified.

しかるに、特許文献1における色判定は、パターンマッチングのために行われるものであり、道路標識を案内表示する際の色再現性の確保を目的としたものではない。   However, the color determination in Patent Document 1 is performed for pattern matching, and is not intended to ensure color reproducibility when displaying and displaying road signs.

また、特許文献2においては、カメラのシャッタースピードを上げて交通標識の文字や図形の認識精度を確保することはできても、色再現性を確保することまではできない。   Further, in Patent Document 2, although it is possible to increase the shutter speed of the camera and ensure the recognition accuracy of characters and figures of traffic signs, it is not possible to ensure color reproducibility.

そこで、本発明は、このような点に鑑みなされたものであり、撮像画像に基づて生成される道路標識の案内画像の色再現性を確保することができ、ひいては、ナビゲーション機能に頼らずとも前方の道路標識をユーザに正確に把握させることができる標識案内表示装置および標識案内表示方法を提供することを目的とするものである。   Therefore, the present invention has been made in view of such points, and can ensure the color reproducibility of the road sign guide image generated based on the captured image, and thus does not rely on the navigation function. It is an object of the present invention to provide a sign guide display device and a sign guide display method that allow a user to accurately grasp a road sign ahead.

前述した目的を達成するため、本発明に係る標識案内表示装置は、車両に搭載され、道路標識を表示部に案内表示するための標識案内表示装置であって、前記車両の前方の所定の撮像領域を撮像する車載カメラと、この車載カメラのシャッタ速度を所定の通常速度に制御する第1の制御手段と、この第1の制御手段によって前記シャッタ速度が前記通常速度に制御された状態における前記車載カメラの撮像画像に基づいて、前記道路標識を検知する検知手段と、この検知手段による前記道路標識の検知を契機として、前記シャッタ速度を前記通常速度から所定の高速に変更制御する第2の制御手段と、この第2の制御手段によって前記シャッタ速度が前記高速に変更制御された状態における前記撮像画像から、前記検知手段によって検知された前記道路標識の画像を切り出し、切り出された当該道路標識の画像を、背景部分と前景部分とに判別する背景/前景判別手段と、この背景/前景判別手段による前記道路標識の画像の切り出し後に、前記シャッタ速度を前記高速から所定の低速に変更制御する第3の制御手段と、この第3の制御手段によって前記シャッタ速度が前記低速に変更制御された状態における前記撮像画像に基づいて、前記検知された道路標識に配色されている有彩色を判定する色判定手段と、この色判定手段によって判定された前記有彩色を前記背景/前景判別手段によって判別された前記背景部分または前記前景部分に合成することによって、前記検知された道路標識の案内画像を生成し、生成された当該案内画像を前記表示部に表示する案内表示手段とを備えたことを特徴としている。   In order to achieve the above-described object, a sign guide display device according to the present invention is a sign guide display device that is mounted on a vehicle and guides and displays a road sign on a display unit. An in-vehicle camera that captures an image of the area, a first control unit that controls a shutter speed of the in-vehicle camera to a predetermined normal speed, and the shutter speed controlled to the normal speed by the first control unit. Detection means for detecting the road sign based on a captured image of the in-vehicle camera and second control for changing the shutter speed from the normal speed to a predetermined high speed when triggered by detection of the road sign by the detection means The detection means is detected from the captured image in a state where the shutter speed is controlled to be changed to the high speed by the control means and the second control means. The road sign image is cut out, and after the road sign image is cut out by the background / foreground discrimination means for discriminating the cut out image of the road sign into a background part and a foreground part, Third detection means for changing the shutter speed from the high speed to a predetermined low speed, and the detection based on the captured image in a state where the shutter speed is changed to the low speed by the third control means. Color determining means for determining a chromatic color arranged on the road sign, and combining the chromatic color determined by the color determining means with the background portion or the foreground portion determined by the background / foreground determining means A guidance display means for generating a guidance image of the detected road sign and displaying the generated guidance image on the display unit. It is characterized in that was.

また、本発明に係る標識案内表示方法は、道路標識を車載機の表示部に案内表示するための標識案内表示方法であって、車両の前方の所定の撮像領域を撮像する車載カメラのシャッタ速度を、所定の通常速度に制御する第1のステップと、この第1のステップにおいて前記シャッタ速度が前記通常速度に制御された状態における前記車載カメラの撮像画像に基づいて、前記道路標識を検知する第2のステップと、この第2のステップにおける前記道路標識の検知を契機として、前記シャッタ速度を前記通常速度から所定の高速に変更制御する第3のステップと、この第3のステップにおいて前記シャッタ速度が前記高速に変更制御された状態における前記撮像画像から、前記第2のステップにおいて検知された前記道路標識の画像を切り出し、切り出された当該道路標識の画像を、背景部分と前景部分とに判別する第4のステップと、この第4のステップにおける前記道路標識の画像の切り出し後に、前記シャッタ速度を前記高速から所定の低速に変更制御する第5のステップと、この第5のステップにおいて前記シャッタ速度が前記低速に変更制御された状態における前記撮像画像に基づいて、前記検知された道路標識に配色されている有彩色を判定する第6のステップと、この第6のステップにおいて判定された前記有彩色を前記第4のステップにおいて判別された前記背景部分または前記前景部分に合成することによって、前記検知された道路標識の案内画像を生成し、生成された当該案内画像を前記表示部に表示する第7のステップとを含むことを特徴としている。   The sign guide display method according to the present invention is a sign guide display method for guiding and displaying a road sign on a display unit of an in-vehicle device, and a shutter speed of an in-vehicle camera that images a predetermined imaging area in front of the vehicle. The road sign is detected on the basis of a first step of controlling the vehicle speed to a predetermined normal speed and a captured image of the in-vehicle camera in a state where the shutter speed is controlled to the normal speed in the first step. A second step, a third step of changing the shutter speed from the normal speed to a predetermined high speed, triggered by the detection of the road sign in the second step, and the shutter in the third step. The image of the road sign detected in the second step is cut out from the captured image in a state where the speed is changed to the high speed. A fourth step of discriminating the clipped image of the road sign into a background portion and a foreground portion; and after the cutout of the road sign image in the fourth step, the shutter speed is changed from the high speed to a predetermined low speed. And a chromatic color arranged on the detected road sign based on the captured image in a state where the shutter speed is changed and controlled to the low speed in the fifth step. A sixth step of determining, and combining the chromatic color determined in the sixth step with the background portion or the foreground portion determined in the fourth step, thereby detecting the detected road sign. And a seventh step of generating a guide image and displaying the generated guide image on the display unit.

そして、このような本発明によれば、高速のシャッタ速度の下で撮像された撮像画像に基づいて、文字や図形が正確に反映された道路標識の画像を切り出して当該道路標識の背景部分と前景部分とを適切に判別し、その後、低速のシャッタの下で撮像された撮像画像に基づいて、道路標識に配色されている有彩色を正確に判定し、そして、このようにして適切に判別された背景部分または前景部分に正確に判定された有彩色を合成して道路標識の案内画像を生成することができる。これにより、撮像画像に基づて生成される道路標識の案内画像の色再現性を確保することができ、ひいては、ナビゲーション機能に頼らずとも前方の道路標識をユーザに正確に把握させることができる。   According to the present invention as described above, based on a captured image captured under a high shutter speed, a road sign image in which characters and figures are accurately reflected is cut out and a background portion of the road sign is extracted. Appropriately determine the foreground part, and then accurately determine the chromatic color that is colorized on the road sign based on the captured image captured under the low-speed shutter, and thus properly determine A road sign guide image can be generated by synthesizing the accurately determined chromatic color in the background portion or the foreground portion. As a result, the color reproducibility of the road sign guide image generated based on the captured image can be ensured, and the user can accurately grasp the road sign ahead without relying on the navigation function. .

さらに、本発明の標識案内表示装置において、前記背景/前景判別手段は、前記切り出された道路標識の画像に対する2値化処理を行った上で、当該2値化処理後の道路標識の画像を用いた前記背景部分および前記前景部分の判別を行い、前記案内表示手段は、前記背景部分および前記前景部分のうちの前記2値化処理によって黒色となった一方に、前記判定された有彩色を合成してもよい。   Further, in the sign guide display device of the present invention, the background / foreground discrimination means performs binarization processing on the clipped road sign image, and then displays the binarized road sign image. The background part and the foreground part used are discriminated, and the guidance display means turns the black color by the binarization processing of the background part and the foreground part into the determined chromatic color. You may synthesize.

そして、このような構成によれば、背景部分および前景部分の判別を簡便に行うことができるとともに、道路標識の画像上に、判定された有彩色を正確に配色することができるので、表示の迅速性を向上させつつ色再現性を更に適正に確保することができる。   According to such a configuration, the background portion and the foreground portion can be easily determined, and the determined chromatic color can be accurately arranged on the road sign image. The color reproducibility can be further ensured while improving the speed.

さらにまた、本発明の標識案内表示装置において、前記案内表示手段は、前記背景部分および前記前景部分のうちの前記2値化処理によって白色となった他方に、そのまま白色を割り当ててもよい。   Furthermore, in the sign guide display device of the present invention, the guide display means may assign white as it is to the other of the background portion and the foreground portion that has become white due to the binarization process.

そして、このような構成によれば、文字・図形部分または背景部分が白色の道路標識を正確な配色にて簡便かつ迅速に表示することができる。   According to such a configuration, a road sign whose character / graphic part or background part is white can be displayed simply and quickly with an accurate color scheme.

また、本発明の標識案内表示装置において、前記第3の制御手段による前記変更制御によって前記車載カメラの感度が上げられた際に、前記撮像画像に対する画像処理によって前記感度を更に向上させる感度向上手段を備えてもよい。   In the sign guide display device of the present invention, when the sensitivity of the in-vehicle camera is increased by the change control by the third control unit, the sensitivity improvement unit further improves the sensitivity by image processing on the captured image. May be provided.

そして、このような構成によれば、低速のシャッタ速度での撮像の際に、車載カメラの感度を画像処理によって更に向上させることで、道路標識の色判定を更に高精度に行うことができ、ひいては、案内画像の色再現性を更に向上させることができる。   And according to such a configuration, when imaging at a low shutter speed, by further improving the sensitivity of the in-vehicle camera by image processing, the color determination of the road sign can be performed with higher accuracy, As a result, the color reproducibility of the guide image can be further improved.

さらに、本発明の標識案内表示装置において、前記背景/前景判別手段は、前記シャッタ速度が前記高速に変更された後に、前記検知された道路標識に対して前記車両が当該道路標識を前照灯によって十分に照明し得るとみなされる距離まで接近したことを検知した上で、この検知時における前記撮像画像に基づいた前記背景部分および前記前景部分の判別を行ってもよい。同様に、本発明の標識案内表示方法において、前記第4のステップは、前記シャッタ速度が前記高速に変更された後に、前記検知された道路標識に対して前記車両が当該道路標識を前照灯によって十分に照明し得るとみなされる距離まで接近したことを検知する第4−1のステップと、この第4−1のステップにおける検知時の前記撮像画像に基づいた前記背景部分および前記前景部分の判別を行う第4−2のステップとを含んでもよい。   Further, in the sign guide display device according to the present invention, the background / foreground discrimination means is configured such that after the shutter speed is changed to the high speed, the vehicle displays the road sign with respect to the detected road sign. In this case, the background portion and the foreground portion may be determined based on the captured image at the time of detection after detecting that the distance has been approached to be sufficiently illuminated. Similarly, in the sign guide display method according to the present invention, the fourth step includes a step in which the vehicle places a headlamp on the detected road sign after the shutter speed is changed to the high speed. 4-1 for detecting that a distance close to a distance that can be sufficiently illuminated is detected, and the background portion and the foreground portion based on the captured image at the time of detection in the step 4-1 And a 4-2 step of performing the determination.

そして、このような本発明によれば、十分に明るい状態において高速のシャッタ速度で撮像された画像に基づいて、背景部分および前景部分をさらに確実に判別することができるので、更に高品位の案内画像を得ることができる。   Further, according to the present invention, the background portion and the foreground portion can be more reliably determined based on the image captured at a high shutter speed in a sufficiently bright state, so that a higher quality guide is provided. An image can be obtained.

さらにまた、本発明の標識案内表示装置において、前記背景/前景判別手段は、前記検知された道路標識の画像の大きさに基づいて、当該道路標識までの前記車両からの距離を判断してもよい。   Furthermore, in the sign guide display device of the present invention, the background / foreground determining means may determine the distance from the vehicle to the road sign based on the size of the detected road sign image. Good.

そして、このような構成によれば、背景部分および前景部分の判別タイミングを、道路標識の画像の大きさに基づいて簡便に把握することができるので、処理および構成の複雑化を避けることができる。   According to such a configuration, it is possible to easily grasp the determination timing of the background portion and the foreground portion based on the size of the road sign image, so that the processing and the configuration can be prevented from becoming complicated. .

また、本発明の標識案内表示装置は、ナビゲーション機能を有しない車載AV装置に搭載されてもよい。   The sign guide display device of the present invention may be mounted on an in-vehicle AV device that does not have a navigation function.

そして、このような構成によれば、昨今の所謂ディスプレイオーディオに有効に対応することができる。   And according to such a structure, it can respond effectively to what is called display audio these days.

本発明によれば、撮像画像に基づて生成される道路標識の案内画像の色再現性を確保することができ、ひいては、ナビゲーション機能に頼らずとも前方の道路標識をユーザに正確に把握させることができる。   According to the present invention, the color reproducibility of a road sign guide image generated based on a captured image can be ensured, and as a result, the user can accurately grasp the road sign ahead without relying on the navigation function. be able to.

本発明の第1実施形態において、標識案内表示装置を示すブロック図The block diagram which shows the sign guide display apparatus in 1st Embodiment of this invention. 本発明の第1実施形態において、標識案内表示装置の動作例を示す模式図The schematic diagram which shows the operation example of a sign guide display apparatus in 1st Embodiment of this invention. 本発明の第1実施形態において、標識案内表示方法を示すフローチャートThe flowchart which shows the sign guide display method in 1st Embodiment of this invention. 本発明の第2実施形態において、標識案内表示装置を示すブロック図The block diagram which shows the sign guide display apparatus in 2nd Embodiment of this invention. 本発明の第2実施形態において、標識案内表示方法を示すフローチャートThe flowchart which shows the sign guide display method in 2nd Embodiment of this invention.

(第1実施形態)
(標識案内表示装置)
(First embodiment)
(Sign guide display device)

以下、本発明に係る標識案内表示装置の第1実施形態について、図1および図2を参照して説明する。   Hereinafter, a first embodiment of a sign guide display device according to the present invention will be described with reference to FIGS. 1 and 2.

図1に示すように、本実施形態における標識案内表示装置1は、車両の前方の所定の撮像領域を撮像する車載カメラ2を有している。この車載カメラ2は、車両の移動にともなって変化する前方の撮像領域を、設定されたシャッタ速度(換言すれば、露光時間)で逐次撮像する車内または車外カメラであって、CCDやCMOS等の固体撮像素子を備えたデジタルカメラであってもよい。   As shown in FIG. 1, the sign guide display device 1 according to the present embodiment includes an in-vehicle camera 2 that images a predetermined imaging area in front of the vehicle. This in-vehicle camera 2 is an in-vehicle or out-of-vehicle camera that sequentially images a forward imaging area that changes as the vehicle moves at a set shutter speed (in other words, exposure time), such as a CCD or CMOS. It may be a digital camera provided with a solid-state image sensor.

また、図1に示すように、標識案内表示装置1は、撮像画像取得部3を有している。この撮像画像取得部3には、車載カメラ2によって撮像された撮像画像のデータが入力(取得)されるようになっている。   As shown in FIG. 1, the sign guide display device 1 includes a captured image acquisition unit 3. Data of a captured image captured by the in-vehicle camera 2 is input (acquired) to the captured image acquisition unit 3.

さらに、図1に示すように、標識案内表示装置1は、制御部4を有している。この制御部4は、第1の制御手段として機能し、車載カメラ2のシャッタ速度を、所定の通常速度に制御するようになっている。なお、このような通常速度への制御のトリガは、車両の走行中に、不図示のディマーセンサによる外光検出等によって、車外が夜間になったと判断されたことや、前回生成された道路標識の案内画像を表示すべき期間が終了したこと等であってもよい。また、このときの制御は、車載カメラ2の起動制御をともなってもよい。さらに、通常速度は、従来からなされていた車載カメラ2を用いたLDW (Lane Departure Warning:車線逸脱警告) や前方車両認識を行う場合に設定される常識的なシャッタ速度であってもよい。   Furthermore, as shown in FIG. 1, the sign guide display device 1 has a control unit 4. The control unit 4 functions as first control means, and controls the shutter speed of the in-vehicle camera 2 to a predetermined normal speed. It should be noted that such a trigger for control to the normal speed is caused by the fact that the outside of the vehicle has been determined to be nighttime by detecting outside light by a dimmer sensor (not shown) while the vehicle is traveling, or the road sign generated last time It may be that the period during which the guide image is to be displayed has ended. Moreover, the control at this time may be accompanied by start-up control of the vehicle-mounted camera 2. Further, the normal speed may be a common-sense shutter speed that is set when performing LDW (Lane Departure Warning) using a vehicle-mounted camera 2 that has been conventionally used, or forward vehicle recognition.

さらにまた、図1に示すように、標識案内表示装置1は、検知手段としての道路標識検知部5を有している。この道路標識検知部5は、制御部4(第1の制御手段)によって車載カメラ2のシャッタ速度が通常速度に制御されたことを、例えば制御部4からの通知等によって検知すると、この通常速度の制御状態における車載カメラ2の撮像画像(以下、常速撮像画像と称する)を撮像画像取得部3から取得するようになっている。そして、道路標識検知部5は、取得された常速撮像画像に基づいて、道路標識を検知するようになっている。このとき、道路標識検知部5は、常速撮像画像中の輝度差に基づいて道路標識の輪郭(換言すれば、エッジ)を抽出することによって道路標識を検知するようにしてもよい。   Furthermore, as shown in FIG. 1, the sign guide display device 1 has a road sign detection unit 5 as detection means. When this road sign detection unit 5 detects that the shutter speed of the in-vehicle camera 2 is controlled to the normal speed by the control unit 4 (first control means), for example, by a notification from the control unit 4, the normal speed is detected. A captured image of the in-vehicle camera 2 in the control state (hereinafter referred to as a normal speed captured image) is acquired from the captured image acquisition unit 3. And the road sign detection part 5 detects a road sign based on the acquired normal-speed captured image. At this time, the road sign detection unit 5 may detect the road sign by extracting the outline of the road sign (in other words, the edge) based on the luminance difference in the normal-speed captured image.

また、制御部4は、道路標識検知部5によって道路標識が検知されたことを、例えば道路標識検知部5からの通知等によって検知すると、これを契機として、第2の制御手段として機能するようになっている。この第2の制御手段として機能において、制御部4は、車載カメラ2のシャッタ速度を通常速度から所定の高速に変更制御するようになっている。   Further, when the control part 4 detects that the road sign is detected by the road sign detection part 5 by, for example, a notification from the road sign detection part 5, the control part 4 functions as a second control unit. It has become. In the function as the second control means, the control unit 4 controls to change the shutter speed of the in-vehicle camera 2 from the normal speed to a predetermined high speed.

さらに、図1に示すように、標識案内表示装置1は、背景/前景判別手段としての背景/前景判別部6を有している。この背景/前景判別部6は、制御部4(第2の制御手段)によって車載カメラ2シャッタ速度が高速に変更制御されたことを、例えば制御部4からの通知等によって検知すると、この変更制御状態における車載カメラ2の撮像画像(以下、高速撮像画像と称する)を撮像画像取得部3から取得するようになっている。そして、背景/前景判別部6は、取得された高速撮像画像から、道路標識検知部5によって検知された道路標識の画像を切り出し、切り出された当該道路標識の画像を、背景部分と前景部分とに判別(換言すれば、区分)するようになっている。   Further, as shown in FIG. 1, the sign guide display device 1 has a background / foreground determination unit 6 as background / foreground determination means. When the background / foreground determination unit 6 detects that the in-vehicle camera 2 shutter speed has been controlled to be changed at high speed by the control unit 4 (second control means), for example, by notification from the control unit 4, the change control is performed. A captured image (hereinafter referred to as a high-speed captured image) of the in-vehicle camera 2 in the state is acquired from the captured image acquisition unit 3. Then, the background / foreground discrimination unit 6 cuts out the road sign image detected by the road sign detection unit 5 from the acquired high-speed captured image, and extracts the extracted road sign image as the background part and the foreground part. Are distinguished (in other words, classified).

さらにまた、制御部4は、背景/前景判別部6によって道路標識の画像の切り出しまたは当該画像に基づく背景/前景部分の判別が行われたことを、例えば背景/前景判別部6からの通知等によって検知すると、これを契機として、第3の制御手段として機能するようになっている。この第3の制御手段として機能において、制御部4は、車載カメラ2のシャッタ速度を、高速から所定の低速(通常速度よりも低い速度)に変更制御するようになっている。   Furthermore, the control unit 4 notifies the background / foreground determination unit 6 that the background / foreground determination unit 6 cut out the road sign image or determined the background / foreground part based on the image, for example. When this is detected, it functions as a third control means triggered by this. In the function as the third control means, the control unit 4 changes the shutter speed of the in-vehicle camera 2 from a high speed to a predetermined low speed (a speed lower than the normal speed).

また、図1に示すように、標識案内表示装置1は、色判定手段としての色判定部7を有している。この色判定部7は、制御部4(第3の制御手段)によって車載カメラ2のシャッタ速度が低速に変更制御されたことを、例えば制御部4からの通知等によって検知すると、この変更制御状態における車載カメラ2の撮像画像(以下、低速撮像画像と称する)を撮像画像取得部3から取得するようになっている。そして、色判定部7は、取得された低速撮像画像に基づいて、道路標識検知部5によって検知された道路標識に配色されている有彩色を判定するようになっている。この判定には、道路標識に該当する画素の信号値(R、G、B)を利用したり、また、その他にも、公知の種々の色認識技術を利用してもよい。   As shown in FIG. 1, the sign guide display device 1 includes a color determination unit 7 as a color determination unit. When the color determination unit 7 detects that the shutter speed of the in-vehicle camera 2 is changed to the low speed by the control unit 4 (third control means), for example, by a notification from the control unit 4, the change control state A captured image of the in-vehicle camera 2 (hereinafter referred to as a low-speed captured image) is acquired from the captured image acquisition unit 3. And the color determination part 7 determines the chromatic color currently arranged by the road sign detected by the road sign detection part 5 based on the acquired low-speed captured image. For this determination, the signal values (R, G, B) of the pixels corresponding to the road sign may be used, and various other known color recognition techniques may be used.

さらに、図1に示すように、標識案内表示装置1は、案内表示手段としての案内表示処理部8を有している。この案内表示処理部8には、背景/前景判別部6による背景部分/前景部分の判別結果を示すデータおよび色判定部7の判定結果を示すデータが、背景/前景判別部6および色判定部7からそれぞれ入力されるようになっている。案内表示処理部8は、これらの入力データに基づいて、色判定部7によって判定された有彩色を、背景/前景判別部6によって判別された背景部分または前景部分に合成することによって、検知された道路標識の案内画像を生成するようになっている。そして、案内表示処理部8は、生成された案内画像を、表示部9に表示するようになっている。   Furthermore, as shown in FIG. 1, the sign guide display device 1 has a guide display processing unit 8 as a guide display means. The guidance display processing unit 8 includes data indicating the determination result of the background / foreground part by the background / foreground determination unit 6 and the data indicating the determination result of the color determination unit 7 as the background / foreground determination unit 6 and the color determination unit. 7 is input. Based on these input data, the guidance display processing unit 8 is detected by combining the chromatic color determined by the color determination unit 7 with the background portion or foreground portion determined by the background / foreground determination unit 6. A road sign guide image is generated. The guidance display processing unit 8 displays the generated guidance image on the display unit 9.

このような構成によれば、高速撮像画像に基づいて、文字や図形が正確に反映された道路標識の画像を切り出して道路標識の背景部分と前景部分とを適切に判別し、その後、低速撮像画像に基づいて、道路標識に配色されている有彩色を正確に判定し、そして、このようにして適切に判別された背景部分または前景部分に正確に判定された有彩色を合成して道路標識の案内画像を生成することができる。これにより、撮像画像に基づて生成される道路標識の案内画像の色再現性を確保することができ、ナビゲーション機能(標識案内機能)に頼らずとも前方の道路標識をユーザに正確に把握させることができる。   According to such a configuration, based on the high-speed captured image, a road sign image in which characters and figures are accurately reflected is cut out to appropriately determine the background portion and the foreground portion of the road sign, and then the low-speed imaging is performed. Based on the image, the chromatic color arranged on the road sign is accurately determined, and the chromatic color accurately determined on the background part or the foreground part appropriately determined in this way is combined to be the road sign. The guide image can be generated. As a result, the color reproducibility of the road sign guide image generated based on the captured image can be ensured, and the user can accurately grasp the road sign ahead without relying on the navigation function (sign guide function). be able to.

上記構成に加えて、更に、本実施形態において、背景/前景判別部6は、高速撮像画像から切り出された道路標識の画像に対する2値化処理を行い、当該2値化処理後の道路標識の画像を用いて、前述した背景部分および前景部分の判別を行うようになっている。ここで、2値化処理においては、道路標識の画像のうち、輝度値が所定の閾値を超える画素の輝度値が、いずれも白色に相当する値(例えば、8bit表現における「255」)に統一され、また、輝度値が当該閾値未満の画素の輝度値が、いずれも黒色に相当する値(例えば、「0」)に統一される。そして、背景/前景認識部6は、このような2値化処理によって統一された白色および黒色の一方(例えば、黒色)に相当する画素群を、背景部分と判別し、他方(例えば、白色)に相当する画素群を、前景部分と判別するようになっている。さらに、本実施形態において、案内表示処理部8は、このようにして背景/前景判別部6によって判別された背景部分および前景部分のうち、2値化処理によって黒色となった一方に、色判定部7によって判定された有彩色を合成するようになっている。   In addition to the above-described configuration, in the present embodiment, the background / foreground determination unit 6 performs binarization processing on the road sign image cut out from the high-speed captured image, and the road sign after the binarization processing is performed. Using the image, the above-described background portion and foreground portion are discriminated. Here, in the binarization processing, the luminance values of pixels whose luminance values exceed a predetermined threshold in the road sign image are all unified to a value corresponding to white (for example, “255” in 8-bit expression). In addition, the luminance values of the pixels whose luminance values are less than the threshold value are unified to a value corresponding to black (for example, “0”). Then, the background / foreground recognition unit 6 determines a pixel group corresponding to one of white and black (for example, black) unified by such binarization processing as a background portion, and the other (for example, white). The pixel group corresponding to is determined as the foreground portion. Further, in the present embodiment, the guidance display processing unit 8 performs color determination on one of the background portion and the foreground portion thus determined by the background / foreground determination portion 6 that has become black due to the binarization processing. The chromatic colors determined by the unit 7 are combined.

このような構成によれば、背景部分および前景部分の判別を簡便に行うことができるとともに、道路標識の画像上に、判定された有彩色を正確に配色することができるので、表示の迅速性を向上させつつ色再現性を更に適正に確保することができる。   According to such a configuration, the background portion and the foreground portion can be easily determined, and the determined chromatic color can be accurately arranged on the image of the road sign. As a result, the color reproducibility can be more appropriately ensured.

上記構成に加えて、更に、本実施形態において、案内表示処理部8は、背景/前景判別部6によって判別された背景部分および前景部分のうち、2値化処理によって白色となった他方に、そのまま白色を割り当てるようになっている。   In addition to the above-described configuration, in the present embodiment, the guidance display processing unit 8 further includes the background part and the foreground part determined by the background / foreground determining part 6 on the other side that has become white due to the binarization process. White color is assigned as it is.

このような構成によれば、文字・図形部分または背景部分が白色の道路標識を正確な配色にて簡便かつ迅速に表示することができる。   According to such a configuration, a road sign whose character / graphic part or background part is white can be displayed simply and quickly with an accurate color scheme.

上記構成に加えて、更に、本実施形態において、背景/前景判別部6は、制御部4によってシャッタ速度が高速に変更された後に、道路標識検知部5によって検知された道路標識に対して車両が当該道路標識を前照灯によって十分に照明し得るとみなされる所定距離まで接近したことを検知した上で、この検知時における高速撮像画像に基づいた背景部分および前景部分の判別を行うようになっている。   In addition to the above-described configuration, in the present embodiment, the background / foreground discrimination unit 6 further detects the vehicle with respect to the road sign detected by the road sign detection unit 5 after the shutter speed is changed to high speed by the control unit 4. Detecting that the road sign has been approached to a predetermined distance that can be sufficiently illuminated by the headlamp, and determining the background portion and the foreground portion based on the high-speed captured image at the time of detection It has become.

このような構成によれば、十分に明るい状態において撮像された高速撮像画像に基づいて、背景部分および前景部分をさらに確実に認識することができるので、更に高品位の案内画像を得ることができる。   According to such a configuration, the background portion and the foreground portion can be more reliably recognized based on the high-speed captured image captured in a sufficiently bright state, so that a higher-quality guide image can be obtained. .

上記構成に加えて、更に、本実施形態において、背景/前景判別部6は、道路標識検知部5によって検知された道路標識の画像の大きさ(例えば、占有ピクセル数等)に基づいて、車両が前記所定距離に達したことを判定するようになっている。   In addition to the above-described configuration, in the present embodiment, the background / foreground determination unit 6 further determines whether the vehicle is based on the size of the road sign image detected by the road sign detection unit 5 (for example, the number of occupied pixels). Is determined to have reached the predetermined distance.

このような構成によれば、背景部分および前景部分の判別タイミングを、道路標識の画像の大きさに基づいて簡便に把握することができるので、処理および構成の複雑化を避けることができる。   According to such a configuration, it is possible to easily grasp the discrimination timing of the background portion and the foreground portion based on the size of the road sign image, so that the processing and the configuration can be prevented from becoming complicated.

なお、標識案内表示装置1の前述した各構成部3〜8は、データの一時保存に利用されるRAM、構成部3〜8の機能を実現するためのプログラムが記憶されたROM等のプログラム記憶装置、このプログラム記憶装置に記憶されたプログラムを実行するCPU等の演算処理装置等によって具現化してもよい。   In addition, each of the above-described components 3 to 8 of the sign guide display device 1 is a program storage such as a RAM that is used for temporary storage of data and a ROM that stores a program for realizing the functions of the components 3 to 8. The present invention may be embodied by a device, an arithmetic processing unit such as a CPU that executes a program stored in the program storage device, or the like.

次に、図2は、本実施形態における動作例を示す模式図である。   Next, FIG. 2 is a schematic diagram illustrating an operation example in the present embodiment.

すなわち、図2(a)は、通常のシャッタ速度で撮像された常速撮像画像に基づいて道路標識が検知された状態を示している。なお、図2(a)における道路標識を囲む破線枠fは、道路標識が検知されていることを示す検知枠fである。この検知枠fは、撮像画像とともに表示部10に表示されてもよい。   That is, FIG. 2A shows a state where a road sign is detected based on a normal speed captured image captured at a normal shutter speed. A broken line frame f surrounding the road sign in FIG. 2A is a detection frame f indicating that the road sign is detected. The detection frame f may be displayed on the display unit 10 together with the captured image.

次に、図2(b)は、図2(a)の状態から、シャッタ速度が高速に変更された上で、車両が道路標識に接近して所定距離に到達した時点で高速撮像画像が撮像・表示された状態を示している。   Next, FIG. 2B shows that a high-speed captured image is taken when the vehicle approaches a road sign and reaches a predetermined distance after the shutter speed is changed to a high speed from the state of FIG. -Indicates the displayed state.

次に、図2(c)は、図2(b)において撮像された高速撮像画像から、図2(a)において検知された道路標識の画像が切り出され、2値化処理によって背景部分と前景部分とに判別された状態を示している。なお、図2(c)においては、2値化処理によって黒色となった部分に相当する画像部位が背景部分に判別され、2値化処理によって白色となった部分に相当する画像部位が前景部分に判別されている。このとき、道路標識の画像は、高速撮像画像から切り出されたものであるため、いわゆる見かけ上の感度は低いが、解像度が高く、道路標識中の文字や図形が明瞭に映り込んでいるため、背景部分と前景部分とを適切に判別することができる。   Next, FIG. 2 (c) shows that the road sign image detected in FIG. 2 (a) is cut out from the high-speed captured image captured in FIG. 2 (b), and the background portion and foreground are obtained by binarization processing. A state determined as a part is shown. In FIG. 2C, the image portion corresponding to the black portion by the binarization processing is determined as the background portion, and the image portion corresponding to the white portion by the binarization processing is the foreground portion. Has been determined. At this time, since the road sign image is cut out from the high-speed captured image, so-called apparent sensitivity is low, but the resolution is high, and characters and figures in the road sign are clearly reflected, The background portion and the foreground portion can be appropriately determined.

次に、図2(d)は、図2(c)における道路標識の画像の切り出しが行われた後に、シャッタ速度が低速に変更された上で、車両が道路標識に更に接近して、低速撮像画像が撮像・表示された状態を示している。   Next, FIG. 2 (d) shows that after the image of the road sign in FIG. 2 (c) is cut out, the shutter speed is changed to a low speed, and the vehicle further approaches the road sign, resulting in a low speed. The captured image is captured and displayed.

次に、図2(e)は、図2(d)において撮像された低速撮像画像に基づいて、道路標識に配色されている有彩色「青」が判定された状態を示している。このとき、低速撮像画像は、解像度が低く、ボケやブレがあるものの、見かけ上の感度が高いため、実際の道路標識の色を忠実に反映したものとなっている。このため、正確な色判定を行うことができる。   Next, FIG. 2E shows a state in which the chromatic color “blue” arranged on the road sign is determined based on the low-speed captured image captured in FIG. At this time, the low-speed captured image has a low resolution and is blurred or blurred, but has a high apparent sensitivity, and thus reflects the color of the actual road sign faithfully. For this reason, accurate color determination can be performed.

最後に、図2(f)は、図2(c)において判別された背景部分(黒色)に、図2(e)において判定された青が合成されるとともに、図2(c)において判別された前景部分(白色)に、そのまま白色が割り当てられることによって案内画像が生成・表示された状態を示している。この案内画像は、実際の撮像画像の表示画面上に重畳表示してもよい。このとき、案内画像は、図2(c)において適切に判別された背景部分に、図2(e)において正確に判定された有彩色が合成されたものであるため、色再現性が良好な画像となっている。このような案内画像は、所定期間中(例えば、当該道路標識が撮像画像中から検知されなくなるまで)継続的に表示するようにしてもよい。   Finally, in FIG. 2 (f), blue determined in FIG. 2 (e) is combined with the background portion (black) determined in FIG. 2 (c), and also determined in FIG. 2 (c). The guide image is generated and displayed by assigning white to the foreground part (white) as it is. This guidance image may be displayed in a superimposed manner on the actual captured image display screen. At this time, the guide image is obtained by combining the chromatic color accurately determined in FIG. 2 (e) with the background portion appropriately determined in FIG. 2 (c), so that the color reproducibility is good. It is an image. Such a guidance image may be continuously displayed during a predetermined period (for example, until the road sign is not detected from the captured image).

(標識案内表示方法) (Sign guide display method)

次に、前述した標識案内表示装置1を適用した本発明に係る標識案内表示方法の第1実施形態について、図3を参照して説明する。   Next, a first embodiment of a sign guide display method according to the present invention to which the above-described sign guide display device 1 is applied will be described with reference to FIG.

本実施形態においては、まず、図3のステップ1(ST1)において、制御部4の制御により、夜間検知等のトリガの発生を契機として、車載カメラ2のシャッタ速度を通常速度に設定する。   In this embodiment, first, in step 1 (ST1) of FIG. 3, the shutter speed of the in-vehicle camera 2 is set to a normal speed, triggered by the occurrence of a trigger such as nighttime detection, under the control of the control unit 4.

次いで、ステップ2(ST2)において、道路標識検知部5により、常速撮像画像中に道路標識が存在するか否かを判定する。そして、ステップ2(ST2)において肯定的な判定結果が得られた場合には、ステップ3(ST3)に進み、否定的な判定結果が得られた場合には、ステップ2(ST2)を繰り返す。   Next, in step 2 (ST2), the road sign detection unit 5 determines whether a road sign is present in the normal speed captured image. If a positive determination result is obtained in step 2 (ST2), the process proceeds to step 3 (ST3). If a negative determination result is obtained, step 2 (ST2) is repeated.

次いで、ステップ3(ST3)において、制御部4の制御により、車載カメラ2のシャッタ速度を高速に変更する。   Next, in step 3 (ST3), the shutter speed of the in-vehicle camera 2 is changed to a high speed under the control of the control unit 4.

次いで、ステップ4(ST4)において、背景/前景判別部6により、ステップ2(ST2)において検知された道路標識の画像の大きさに基づいて、車両が当該道路標識まで所定距離の地点に到達したか否かを判定する。そして、ステップ4(ST4)において肯定的な判定結果が得られた場合には、ステップ5(ST5)に進み、否定的な判定結果が得られた場合には、ステップ4(ST4)を繰り返す。   Next, in step 4 (ST4), the vehicle has reached a predetermined distance to the road sign based on the size of the road sign image detected in step 2 (ST2) by the background / foreground discrimination unit 6. It is determined whether or not. If a positive determination result is obtained in step 4 (ST4), the process proceeds to step 5 (ST5). If a negative determination result is obtained, step 4 (ST4) is repeated.

次いで、ステップ5(ST5)において、背景/前景判別部6により、高速撮像画像からステップ2(ST2)において検知された道路標識の画像を切り出し、この切り出された画像を、背景部分と前景部分とに判別する。   Next, in step 5 (ST5), the background / foreground discrimination unit 6 cuts out the road sign image detected in step 2 (ST2) from the high-speed captured image, and the cut-out image is divided into the background portion and the foreground portion. To determine.

次いで、ステップ6(ST6)において、制御部4の制御により、車載カメラ2のシャッタ速度を低速に変更する。   Next, in step 6 (ST6), the shutter speed of the in-vehicle camera 2 is changed to a low speed under the control of the control unit 4.

次いで、ステップ7(ST7)において、色判定部7により、低速撮像画像に基づいて、ステップ2(ST2)において検知された道路標識に配色されている有彩色を判定する。   Next, in step 7 (ST7), the color determination unit 7 determines a chromatic color arranged on the road sign detected in step 2 (ST2) based on the low-speed captured image.

次いで、ステップ8(ST8)において、案内表示処理部8により、ステップ5(ST5)における背景部分/前景部分の判別結果よおびステップ7(ST7)における有彩色の判定結果に基づいて、ステップ2(ST2)において検知された道路標識の案内画像を生成・表示して、処理を終了する。   Next, in step 8 (ST8), the guidance display processing unit 8 performs step 2 (ST5) based on the determination result of the background / foreground part in step 5 (ST5) and the determination result of chromatic color in step 7 (ST7). A guide image of the road sign detected in ST2) is generated and displayed, and the process is terminated.

(第2実施形態) (Second Embodiment)

次に、本発明の第2実施形態について、第1実施形態との差異を中心に、図4および図5を参照して説明する。   Next, a second embodiment of the present invention will be described with reference to FIG. 4 and FIG. 5 with a focus on differences from the first embodiment.

本実施形態における標識案内表示装置21の第1実施形態との相違点は、感度向上手段としての感度向上部22が備えられている点にある。   The difference between the sign guidance display device 21 in the present embodiment and the first embodiment is that a sensitivity improving unit 22 as a sensitivity improving means is provided.

ここで、感度向上部22は、制御部4(第3の制御手段)の制御によって車載カメラ2のシャッタ速度が低速になることによって車載カメラ2の見かけ上の感度が上げられた際に、低速撮像画像に対する画像処理によって、感度を更に向上させるようになっている。この画像処理としては、例えば、互いに前後する複数フレーム分の低速撮像画像を積分することや、同一フレームの低速撮像画像中の隣接画素を加算すること等を挙げることができる。   Here, the sensitivity improving unit 22 is slow when the apparent sensitivity of the in-vehicle camera 2 is increased due to the low shutter speed of the in-vehicle camera 2 under the control of the control unit 4 (third control means). The sensitivity is further improved by image processing on the captured image. Examples of the image processing include integration of low-speed captured images for a plurality of frames that are adjacent to each other, addition of adjacent pixels in the low-speed captured images of the same frame, and the like.

そして、色判定部7は、このような感度向上部22による画像処理後の低速撮像画像に基づいて、道路標識検知部5によって検知された道路標識に配色されている有彩色の判定を行うようになっている。   Then, the color determination unit 7 determines the chromatic color arranged on the road sign detected by the road sign detection unit 5 based on the low-speed captured image after the image processing by the sensitivity improvement unit 22. It has become.

また、本実施形態における標識案内表示方法においては、第1実施形態におけるステップ6(ST6)とステップ7(ST7)との間において、感度向上部22により、感度を更に向上させるステップ9(ST9)を実行する。   In the sign guide display method according to this embodiment, the sensitivity is further improved by the sensitivity improving unit 22 between Step 6 (ST6) and Step 7 (ST7) in the first embodiment (ST9). Execute.

本実施形態によれば、低速のシャッタ速度での撮像の際に、車載カメラ2の感度を画像処理によって更に向上させることで、道路標識の色判定を更に高精度に行うことができ、ひいては、案内画像の色再現性を更に向上させることができる。   According to the present embodiment, when the image is captured at a low shutter speed, the sensitivity of the in-vehicle camera 2 is further improved by image processing, so that the color determination of the road sign can be performed with higher accuracy. The color reproducibility of the guide image can be further improved.

なお、本発明は、前述した実施の形態に限定されるものではなく、本発明の特徴を損なわない限度において種々変更してもよい。   In addition, this invention is not limited to embodiment mentioned above, You may change variously in the limit which does not impair the characteristic of this invention.

例えば、本発明の標識案内表示装置1、21は、ナビゲーション機能を有しない車載AV装置に搭載されていてもよい。   For example, the sign guide display devices 1 and 21 of the present invention may be mounted on an in-vehicle AV device that does not have a navigation function.

また、道路標識の構成によっては、2値化処理による黒色部分が前景部分となり、白色部分が背景領域となってもよい。   Further, depending on the configuration of the road sign, the black portion by the binarization process may be the foreground portion, and the white portion may be the background region.

さらに、背景部分および前景部分のいずれと判別すべきかについては、2値化画素値の配置状態に基づいて判断してもよい。例えば、道路標識の周縁部(輪郭付近)を枠状に埋める同一の2値化画素値を有する画素群およびこれらの画素群とは異なる位置に配置された同一の2値画素値を有する画素群については、背景部分と判別し、一方、道路標識の中央側に複数のパーツに分かれるように配置された同一の2値画素値を有する画素群については、これらを前景部分と判別してもよい。   Further, whether the background portion or the foreground portion should be determined may be determined based on the arrangement state of the binarized pixel values. For example, a pixel group having the same binarized pixel value that fills the periphery (near the contour) of the road sign in a frame shape, and a pixel group having the same binary pixel value arranged at a position different from these pixel groups For the pixel group having the same binary pixel value arranged so as to be divided into a plurality of parts on the center side of the road sign, these may be determined as the foreground part. .

1 標識案内表示装置
2 車載カメラ
4 制御部
5 道路標識検知部
6 背景/前景判別部
7 色判定部
8 案内表示処理部
10 表示部
DESCRIPTION OF SYMBOLS 1 Sign guidance display apparatus 2 Car-mounted camera 4 Control part 5 Road sign detection part 6 Background / foreground discrimination part 7 Color judgment part 8 Guide display processing part 10 Display part

Claims (9)

車両に搭載され、道路標識を表示部に案内表示するための標識案内表示装置であって、
前記車両の前方の所定の撮像領域を撮像する車載カメラと、
この車載カメラのシャッタ速度を所定の通常速度に制御する第1の制御手段と、
この第1の制御手段によって前記シャッタ速度が前記通常速度に制御された状態における前記車載カメラの撮像画像に基づいて、前記道路標識を検知する検知手段と、
この検知手段による前記道路標識の検知を契機として、前記シャッタ速度を前記通常速度から所定の高速に変更制御する第2の制御手段と、
この第2の制御手段によって前記シャッタ速度が前記高速に変更制御された状態における前記撮像画像から、前記検知手段によって検知された前記道路標識の画像を切り出し、切り出された当該道路標識の画像を、背景部分と前景部分とに判別する背景/前景判別手段と、
この背景/前景判別手段による前記道路標識の画像の切り出し後に、前記シャッタ速度を前記高速から所定の低速に変更制御する第3の制御手段と、
この第3の制御手段によって前記シャッタ速度が前記低速に変更制御された状態における前記撮像画像に基づいて、前記検知された道路標識に配色されている有彩色を判定する色判定手段と、
この色判定手段によって判定された前記有彩色を前記背景/前景判別手段によって判別された前記背景部分または前記前景部分に合成することによって、前記検知された道路標識の案内画像を生成し、生成された当該案内画像を前記表示部に表示する案内表示手段と
を備えたことを特徴とする標識案内表示装置。
A sign guide display device mounted on a vehicle for displaying a road sign on a display unit,
An in-vehicle camera that images a predetermined imaging area in front of the vehicle;
First control means for controlling the shutter speed of the in-vehicle camera to a predetermined normal speed;
Detecting means for detecting the road sign based on a captured image of the vehicle-mounted camera in a state where the shutter speed is controlled to the normal speed by the first control means;
Triggered by detection of the road sign by the detection means, second control means for controlling the shutter speed to be changed from the normal speed to a predetermined high speed;
The image of the road sign detected by the detection means is cut out from the captured image in a state where the shutter speed is controlled to be changed to the high speed by the second control means, and the cut out image of the road sign is A background / foreground discrimination means for discriminating between a background portion and a foreground portion;
Third control means for changing the shutter speed from the high speed to a predetermined low speed after the image of the road sign is cut out by the background / foreground discrimination means;
Color determining means for determining a chromatic color arranged on the detected road sign based on the captured image in a state where the shutter speed is controlled to be changed to the low speed by the third control means;
By synthesizing the chromatic color determined by the color determination unit with the background part or the foreground part determined by the background / foreground determination unit, a guidance image of the detected road sign is generated and generated. A sign guide display device comprising: guide display means for displaying the guide image on the display unit.
前記背景/前景判別手段は、
前記切り出された道路標識の画像に対する2値化処理を行った上で、当該2値化処理後の道路標識の画像を用いた前記背景部分および前記前景部分の判別を行い、
前記案内表示手段は、
前記背景部分および前記前景部分のうちの前記2値化処理によって黒色となった一方に、前記判定された有彩色を合成すること
を特徴とする請求項1に記載の標識案内表示装置。
The background / foreground discrimination means includes
After performing the binarization process on the clipped road sign image, the background part and the foreground part using the road sign image after the binarization process are determined,
The guidance display means includes
The sign guide display device according to claim 1, wherein the determined chromatic color is synthesized with one of the background portion and the foreground portion that has become black due to the binarization process.
前記案内表示手段は、
前記背景部分および前記前景部分のうちの前記2値化処理によって白色となった他方に、そのまま白色を割り当てること
を特徴とする請求項2に記載の標識案内表示装置。
The guidance display means includes
The sign guidance display device according to claim 2, wherein white is assigned as it is to the other of the background portion and the foreground portion that has become white due to the binarization process.
前記第3の制御手段による前記変更制御によって前記車載カメラの感度が上げられた際に、前記撮像画像に対する画像処理によって前記感度を更に向上させる感度向上手段を備えたこと
を特徴とする請求項1乃至請求項3のいずれか1項に記載の標識案内表示装置。
2. The apparatus according to claim 1, further comprising: a sensitivity improving unit that further improves the sensitivity by image processing on the captured image when the sensitivity of the in-vehicle camera is increased by the change control by the third control unit. The sign guide display device according to any one of claims 3 to 4.
前記背景/前景判別手段は、
前記シャッタ速度が前記高速に変更された後に、前記検知された道路標識に対して前記車両が当該道路標識を前照灯によって十分に照明し得るとみなされる距離まで接近したことを検知した上で、この検知時における前記撮像画像に基づいた前記背景部分および前記前景部分の判別を行うこと
を特徴とする請求項1乃至請求項4のいずれか1項に記載の標識案内表示装置。
The background / foreground discrimination means includes
After the shutter speed is changed to the high speed, it is detected that the vehicle has approached the detected road sign to a distance where the road sign can be sufficiently illuminated by a headlamp. The sign guidance display device according to any one of claims 1 to 4, wherein the background portion and the foreground portion are determined based on the captured image at the time of detection.
前記背景/前景判別手段は、
前記検知された道路標識の画像の大きさに基づいて、当該道路標識までの前記車両からの距離を判断すること
を特徴とする請求項5に記載の標識案内表示装置。
The background / foreground discrimination means includes
The sign guide display device according to claim 5, wherein a distance from the vehicle to the road sign is determined based on a size of the detected road sign image.
ナビゲーション機能を有しない車載AV装置に搭載されること
を特徴とする請求項1乃至請求項6のいずれか1項に記載の標識案内表示装置。
The sign guide display device according to any one of claims 1 to 6, wherein the sign guide display device is mounted on an in-vehicle AV device having no navigation function.
道路標識を車載機の表示部に案内表示するための標識案内表示方法であって、
車両の前方の所定の撮像領域を撮像する車載カメラのシャッタ速度を、所定の通常速度に制御する第1のステップと、
この第1のステップにおいて前記シャッタ速度が前記通常速度に制御された状態における前記車載カメラの撮像画像に基づいて、前記道路標識を検知する第2のステップと、
この第2のステップにおける前記道路標識の検知を契機として、前記シャッタ速度を前記通常速度から所定の高速に変更制御する第3のステップと、
この第3のステップにおいて前記シャッタ速度が前記高速に変更制御された状態における前記撮像画像から、前記第2のステップにおいて検知された前記道路標識の画像を切り出し、切り出された当該道路標識の画像を、背景部分と前景部分とに判別する第4のステップと、
この第4のステップにおける前記道路標識の画像の切り出し後に、前記シャッタ速度を前記高速から所定の低速に変更制御する第5のステップと、
この第5のステップにおいて前記シャッタ速度が前記低速に変更制御された状態における前記撮像画像に基づいて、前記検知された道路標識に配色されている有彩色を判定する第6のステップと、
この第6のステップにおいて判定された前記有彩色を前記第4のステップにおいて判別された前記背景部分または前記前景部分に合成することによって、前記検知された道路標識の案内画像を生成し、生成された当該案内画像を前記表示部に表示する第7のステップと
を含むことを特徴とする標識案内表示方法。
A sign guide display method for displaying a road sign on a display unit of an in-vehicle device,
A first step of controlling a shutter speed of an in-vehicle camera that images a predetermined imaging area in front of the vehicle to a predetermined normal speed;
A second step of detecting the road sign based on a captured image of the in-vehicle camera in a state where the shutter speed is controlled to the normal speed in the first step;
A third step of changing and controlling the shutter speed from the normal speed to a predetermined high speed triggered by the detection of the road sign in the second step;
In the third step, the road sign image detected in the second step is cut out from the captured image in a state where the shutter speed is controlled to be changed to the high speed, and the road sign image cut out is extracted. A fourth step of distinguishing between the background portion and the foreground portion;
A fifth step of controlling to change the shutter speed from the high speed to a predetermined low speed after cutting out the image of the road sign in the fourth step;
A sixth step of determining a chromatic color arranged on the detected road sign based on the captured image in a state where the shutter speed is controlled to be changed to the low speed in the fifth step;
A guide image of the detected road sign is generated by synthesizing the chromatic color determined in the sixth step with the background portion or the foreground portion determined in the fourth step. And a seventh step of displaying the guidance image on the display unit.
前記第4のステップは、
前記シャッタ速度が前記高速に変更された後に、前記検知された道路標識に対して前記車両が当該道路標識を前照灯によって十分に照明し得るとみなされる距離まで接近したことを検知する第4−1のステップと、
この第4−1のステップにおける検知時の前記撮像画像に基づいた前記背景部分および前記前景部分の判別を行う第4−2のステップと
を含むことを特徴とする請求項8に記載の標識案内表示方法。
The fourth step includes
After the shutter speed is changed to the high speed, it is detected that the vehicle has approached the detected road sign to a distance considered to be able to sufficiently illuminate the road sign with a headlight. -1 step;
The sign guide according to claim 8, further comprising: a 4-2 step of determining the background portion and the foreground portion based on the captured image at the time of detection in the 4-1 step. Display method.
JP2012159821A 2012-07-18 2012-07-18 Sign guidance display device and sign guidance display method Pending JP2014021716A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012159821A JP2014021716A (en) 2012-07-18 2012-07-18 Sign guidance display device and sign guidance display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012159821A JP2014021716A (en) 2012-07-18 2012-07-18 Sign guidance display device and sign guidance display method

Publications (1)

Publication Number Publication Date
JP2014021716A true JP2014021716A (en) 2014-02-03

Family

ID=50196526

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012159821A Pending JP2014021716A (en) 2012-07-18 2012-07-18 Sign guidance display device and sign guidance display method

Country Status (1)

Country Link
JP (1) JP2014021716A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112396668A (en) * 2020-12-03 2021-02-23 北京百度网讯科技有限公司 Method and device for identifying abnormal light color in signal lamp and road side equipment

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112396668A (en) * 2020-12-03 2021-02-23 北京百度网讯科技有限公司 Method and device for identifying abnormal light color in signal lamp and road side equipment
CN112396668B (en) * 2020-12-03 2024-05-07 阿波罗智联(北京)科技有限公司 Method and device for identifying abnormal lamp color in signal lamp and road side equipment

Similar Documents

Publication Publication Date Title
JP4248558B2 (en) Road marking line detection device
CN108860045B (en) Driving support method, driving support device, and storage medium
US20150371097A1 (en) Image recognition system for vehicle for traffic sign board recognition
JP4863951B2 (en) Traffic light recognition device
JP5115792B2 (en) Image processing apparatus and method, and program
JP5071198B2 (en) Signal recognition device, signal recognition method, and signal recognition program
EP2723060A1 (en) Vehicle-mounted camera device
JP2015125709A (en) Arrow signal recognition device
JP5533766B2 (en) Vehicle display device
JP2011216051A (en) Program and device for discriminating traffic light
JP6420650B2 (en) Outside environment recognition device
JP5260696B2 (en) Edge point extraction device, lane detection device, and program
JP6094252B2 (en) Road sign recognition device
JP2012027773A (en) Pseudo grayscale image generation device and program
JP4927647B2 (en) Vehicle periphery monitoring device
JP2017016194A (en) Vehicle external environment recognition apparatus
US20080012942A1 (en) Imaging System
JP4826355B2 (en) Vehicle surrounding display device
JP6335037B2 (en) Outside environment recognition device
JP2013258596A (en) Image pick-up device
JP6375911B2 (en) Curve mirror detector
KR20200005282A (en) Apparatus and method for lateral image processing of a mirrorless car
JP2007124676A (en) On-vehicle image processor
JP4782491B2 (en) Imaging device
JP2015097018A (en) Arrow signal light detection device