JP2014229100A - Vehicular display device - Google Patents

Vehicular display device Download PDF

Info

Publication number
JP2014229100A
JP2014229100A JP2013108744A JP2013108744A JP2014229100A JP 2014229100 A JP2014229100 A JP 2014229100A JP 2013108744 A JP2013108744 A JP 2013108744A JP 2013108744 A JP2013108744 A JP 2013108744A JP 2014229100 A JP2014229100 A JP 2014229100A
Authority
JP
Japan
Prior art keywords
sign
image
vehicle
road surface
road
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013108744A
Other languages
Japanese (ja)
Other versions
JP6102509B2 (en
Inventor
吉郎 高松
Yoshiro Takamatsu
吉郎 高松
拓良 柳
Hiroyoshi Yanagi
柳  拓良
渡辺 省吾
Shogo Watanabe
省吾 渡辺
則政 岸
Norimasa Kishi
則政 岸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2013108744A priority Critical patent/JP6102509B2/en
Publication of JP2014229100A publication Critical patent/JP2014229100A/en
Application granted granted Critical
Publication of JP6102509B2 publication Critical patent/JP6102509B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Instrument Panels (AREA)
  • Traffic Control Systems (AREA)
  • Instructional Devices (AREA)
  • Navigation (AREA)

Abstract

PROBLEM TO BE SOLVED: To comprehensibly display a road mark blocked by an obstacle.SOLUTION: A vehicular display device includes a control device 10 for executing: a present position obtainment function for obtaining a present position of a vehicle itself; an image obtainment function for obtaining a pickup image of surrounding of the vehicle itself; a road mark information obtainment function for obtaining road mark information in which an image of a road mark of a road at an individual spot viewed from a pre-set viewpoint is correlated with positional information of the spot; and a display control function for displaying, on a display 30, an overlap image produced by overlapping, using a given common viewpoint as reference, a pickup image obtained on demand at an individual spot on the image of the road mark. Further, in a case where a blocked zone is extracted when applying the overlapping processing, the display control function sets transparency of a control zone higher, while in the case of no block zone being extracted, does not change the transparency of the control zone.

Description

本発明は、車両に設けられたカメラの撮像画像に基づいて、車両前方の状況を乗員に提示する車両用の表示装置に関する。   The present invention relates to a display device for a vehicle that presents a situation in front of the vehicle to an occupant based on a captured image of a camera provided in the vehicle.

この種の装置に関し、自車両前方に設定した仮想先行車両の画像を、実際に撮像された自車両の前方の風景に重ねて表示する経路案内システムに関し、実在する先行車両と仮想先行車両とが重なる部分を算出してその重なる部分の仮想先行車両の光透過度を高くする技術が知られている(特許文献1)。   With regard to this type of device, a route guidance system for displaying an image of a virtual preceding vehicle set in front of the host vehicle in a superimposed manner on a landscape in front of the actually captured vehicle. A technique for calculating an overlapping portion and increasing the light transmittance of the virtual preceding vehicle of the overlapping portion is known (Patent Document 1).

特開2006−284195号公報JP 2006-284195 A

しかしながら、従来の装置では、乗員が路面に表示された標識が視認しにくいという問題がある。   However, the conventional apparatus has a problem that it is difficult for the occupant to visually recognize the sign displayed on the road surface.

本発明が解決しようとする課題は、乗員が路面に表示された路面標識を視認しやすくすることである。   The problem to be solved by the present invention is to make it easier for an occupant to visually recognize a road surface sign displayed on the road surface.

本発明は、各地点において随時取得される撮像画像と、その撮像画像が取得された地点における路面標識の画像とを所定の共通視点を基準として重畳してディスプレイに表示させる際に、路面標識の画像を隠蔽する隠蔽領域が抽出された場合には、この隠蔽領域に応じた制御領域の透過度を相対的に高く変更することにより、上記課題を解決する。   The present invention provides an image of a road surface sign when a captured image acquired at each point at any time and an image of a road surface sign at the point where the captured image is acquired are displayed on a display with a predetermined common viewpoint as a reference. When a concealment area for concealing an image is extracted, the above problem is solved by changing the transparency of the control area corresponding to the concealment area to be relatively high.

本発明によれば、撮像画像に重畳表示させる路面標識が障害物によって隠蔽されてしまう場合であっても、障害物によって生じる撮像画像の隠蔽領域に応じて設定される制御領域の透過度を高くして路面標識を視認しやすくするので、乗員が路面標識を視認しやすくすることができる。   According to the present invention, even when a road surface marker to be displayed superimposed on a captured image is concealed by an obstacle, the transparency of the control region set in accordance with the concealed region of the captured image caused by the obstacle is increased. Thus, the road marking can be easily seen, so that the occupant can easily see the road marking.

本実施形態に係る情報提供システムのブロック構成図である。It is a block block diagram of the information provision system which concerns on this embodiment. 路面標識情報を説明するための図である。It is a figure for demonstrating road marking information. 本実施形態の重畳画像の一例を示す図である。It is a figure which shows an example of the superimposed image of this embodiment. 本実施形態の重畳画像であって、撮像画像の制御領域の透過度を第1透過度にした場合の重畳画像の一例を示す図である。It is a superimposition image of this embodiment, Comprising: It is a figure which shows an example of a superimposition image when the transparency of the control area | region of a captured image is made into the 1st transparency. 本実施形態の重畳画像であって、撮像画像の制御領域の透過度を第1透過度よりも低い第2透過度にした場合の重畳画像の一例を示す図である。It is a superimposition image of this embodiment, Comprising: It is a figure which shows an example of a superimposition image when the transparency of the control area | region of a captured image is made into the 2nd transparency lower than a 1st transparency. 本実施形態に係る車両用表示装置の制御手順を説明するためのフローチャートである。It is a flowchart for demonstrating the control procedure of the display apparatus for vehicles which concerns on this embodiment. 本実施形態に係る車両用表示装置の第1サブルーチンを説明するためのフローチャートである。It is a flowchart for demonstrating the 1st subroutine of the display apparatus for vehicles which concerns on this embodiment. 本実施形態に係る車両用表示装置の第2サブルーチンを説明するためのフローチャートである。It is a flowchart for demonstrating the 2nd subroutine of the display apparatus for vehicles which concerns on this embodiment.

以下、本発明の実施形態を図面に基づいて説明する。本実施形態では、本発明に係る車両用表示装置を、情報提供システム1に適用した場合を例にして説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. In the present embodiment, a case where the vehicle display device according to the present invention is applied to the information providing system 1 will be described as an example.

図1は、本実施形態に係る車両用表示装置100を備える情報提供システム1のブロック構成を示す図である。車両用表示装置100及びこれを含む情報提供システム1は、車両に搭載されている。情報提供システム1は、ドライバに自車両の周囲の様子を示す画像情報を提供する。車両用表示装置100は、自車両の周囲の撮像画像に路面標識の画像を重畳させた画像情報を生成して提示する。   FIG. 1 is a diagram illustrating a block configuration of an information providing system 1 including a vehicle display device 100 according to the present embodiment. The vehicle display device 100 and the information providing system 1 including the same are mounted on a vehicle. The information providing system 1 provides the driver with image information indicating the surroundings of the host vehicle. The vehicle display device 100 generates and presents image information in which an image of a road surface sign is superimposed on a captured image around the host vehicle.

図1に示すように、情報提供システム1は、車両用表示装置100と、車載装置200とを有する。車載装置200は、車両コントローラ50と、ナビゲーション装置60とを備える。車両用表示装置100と各車載装置200とは、相互に情報の授受を行うためにCAN(Controller Area Network)その他の車載LANによって接続されている。   As shown in FIG. 1, the information providing system 1 includes a vehicle display device 100 and an in-vehicle device 200. The in-vehicle device 200 includes a vehicle controller 50 and a navigation device 60. The vehicle display device 100 and each vehicle-mounted device 200 are connected by a CAN (Controller Area Network) or other vehicle-mounted LAN in order to exchange information with each other.

本実施形態の車両コントローラ50は、車両情報51を記憶する。車両情報51は、車両に対する運転席の位置、ドライバごとの運転席の位置、運転席に着座するドライバの視点の位置、ドライバの視点から視認可能な領域を示す視野情報を含む。車両の運転席の位置は車種ごとに定義され、ドライバごとの運転席の位置は、識別された各ドライバの座席位置の調整量を考慮して各車両の運転席の位置に基づいて定義される。各ドライバの識別は、各ドライバが使用する鍵情報に基づいて行うことができる。ドライバの視点や視野領域は、基本情報としてドライバが入力したドライバの身長などの身体情報に基づいて算出し、記憶してもよい。また、ドライバの視点や視野領域は、座席位置の調整量に基づいて算出したドライバの身長などに基づいて算出して、記憶してもよい。後述する表示制御機能は、この車両情報51を参照して重畳画像を生成する。   The vehicle controller 50 according to the present embodiment stores vehicle information 51. The vehicle information 51 includes the position of the driver's seat with respect to the vehicle, the position of the driver's seat for each driver, the position of the viewpoint of the driver seated on the driver's seat, and visual field information indicating a region that is visible from the viewpoint of the driver. The position of the driver's seat of the vehicle is defined for each vehicle type, and the position of the driver's seat for each driver is defined based on the position of the driver's seat of each vehicle in consideration of the adjustment amount of the seat position of each identified driver. . Each driver can be identified based on key information used by each driver. The viewpoint and field of view of the driver may be calculated and stored based on physical information such as the height of the driver input by the driver as basic information. Further, the driver's viewpoint and field of view may be calculated and stored based on the height of the driver calculated based on the seat position adjustment amount. A display control function to be described later generates a superimposed image with reference to the vehicle information 51.

本実施形態のナビゲーション装置60は、位置検出装置61と、地図情報62とを備え、自車両の現在位置から目的地までの経路を示してドライバを誘導する。また、本実施形態のナビゲーション装置60は、後述する路面標識情報41を格納する記憶装置40を備えてもよい。また、ナビゲーション装置60は、外部との通信が可能であり、通信回線を介して各地点の路面標識情報41を取得することもできる。ナビゲーション装置70は、取得した情報、演算した情報を、車両用表示装置100、ディスプレイ30に出力する。ナビゲーション装置60は、情報の出力手段としてスピーカ41を備えていてもよい。   The navigation device 60 of the present embodiment includes a position detection device 61 and map information 62, and guides the driver by showing a route from the current position of the host vehicle to the destination. Moreover, the navigation apparatus 60 of this embodiment may be provided with the memory | storage device 40 which stores the road surface marking information 41 mentioned later. In addition, the navigation device 60 can communicate with the outside, and can also acquire road surface sign information 41 at each point via a communication line. The navigation device 70 outputs the acquired information and the calculated information to the vehicle display device 100 and the display 30. The navigation device 60 may include a speaker 41 as information output means.

また、同図に示すように、本実施形態の車両用表示装置100は、制御装置10と、カメラ20と、ディスプレイ30とを備える。   As shown in the figure, the vehicular display device 100 of this embodiment includes a control device 10, a camera 20, and a display 30.

本実施形態のカメラ20は、CCD等の撮像素子を用いたカメラであり、車両の周囲を撮像する。特に限定されないが、本実施形態のカメラ20は、車両の天井又はバックミラー近傍に設けられ車両の進行方向前方を撮像する。カメラ20の設置位置は、これに限定されず、サイドミラー近傍に設けてもよい。また、カメラ20は単数でも複数でもよい。本実施形態では、広角のカメラ20を一つ設けている。複数のカメラ20を用いる場合には、各カメラ20の設置位置に応じて共通の座標に変換し、一の視点から見た撮像画像を取得すればよい。   The camera 20 of the present embodiment is a camera using an image sensor such as a CCD, and images the surroundings of the vehicle. Although not particularly limited, the camera 20 of the present embodiment is provided near the ceiling of the vehicle or in the vicinity of the rearview mirror, and images the front in the traveling direction of the vehicle. The installation position of the camera 20 is not limited to this, and may be provided near the side mirror. Moreover, the camera 20 may be single or plural. In the present embodiment, one wide-angle camera 20 is provided. When a plurality of cameras 20 are used, the coordinates may be converted into common coordinates according to the installation positions of the cameras 20, and a captured image viewed from one viewpoint may be acquired.

本実施形態のディスプレイ30は、車両のドライバが視認可能なダッシュボード周囲に設置され、本実施形態の重畳画像、車両前方の撮像画像、ナビゲーション装置60の案内情報などを提示する。   The display 30 of the present embodiment is installed around a dashboard that can be visually recognized by the driver of the vehicle, and presents a superimposed image, a captured image of the front of the vehicle, guidance information of the navigation device 60, and the like.

続いて、本実施形態の制御装置10について説明する。本実施形態の車両用表示装置100の制御装置10は、カメラ20の撮像画像と路面標識情報とを重畳した重畳画像の透過度を制御してディスプレイ30に表示するプログラムが格納されたROM(Read Only Memory)12と、このROMに格納されたプログラムを実行することで、車両用表示装置100と情報提供システム1として機能する動作回路としてのCPU(Central Processing Unit)11と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)13と、を備えるコンピュータである。   Then, the control apparatus 10 of this embodiment is demonstrated. The control device 10 of the vehicle display device 100 according to the present embodiment is a ROM (Read ROM) that stores a program for controlling the transparency of a superimposed image obtained by superimposing a captured image of the camera 20 and road surface marking information and displaying the superimposed image on the display 30. Only memory) 12 and a CPU (Central Processing Unit) 11 as an operation circuit that functions as the vehicle display device 100 and the information providing system 1 by executing a program stored in the ROM, and an accessible storage device And a RAM (Random Access Memory) 13 that functions as a computer.

本実施形態に係る車両用表示装置100の制御装置10は、現在位置取得機能と、画像取得機能と、路面標識情報取得機能と、表示制御機能とを有する。本実施形態の制御装置10は、上記機能を実現するためのソフトウェアと、上述したハードウェアの協働により各機能を実行する。   The control device 10 of the vehicle display device 100 according to the present embodiment has a current position acquisition function, an image acquisition function, a road surface sign information acquisition function, and a display control function. The control apparatus 10 of this embodiment performs each function by cooperation of the software for implement | achieving the said function, and the hardware mentioned above.

以下、本実施形態に係る車両用表示装置100の各機能について説明する。   Hereinafter, each function of the vehicle display device 100 according to the present embodiment will be described.

まず、本実施形態の制御装置10の現在位置取得機能について説明する。制御装置10は、ナビゲーション装置60のGPS(Global Positioning System)を備える位置検出装置61が検出した位置情報を取得する。現在位置情報の取得手法はこれに限定されず、制御装置10は、路側装置に搭載された高度道路交通システム:ITS(Intelligent Transport Systems)が提供する位置情報を、近距離通信を介して、自車両の現在位置として取得することができる。   First, the current position acquisition function of the control device 10 of the present embodiment will be described. The control device 10 acquires the position information detected by the position detection device 61 provided with the GPS (Global Positioning System) of the navigation device 60. The method for acquiring the current position information is not limited to this, and the control device 10 can automatically acquire the position information provided by the intelligent transport systems (ITS) installed in the roadside device via short-range communication. It can be acquired as the current position of the vehicle.

本実施形態の制御装置10の画像取得機能について説明する。制御装置10は、カメラ20が撮像した自車両周囲の撮像画像を取得する。取得した撮像画像は、障害物や隠蔽領域の抽出処理に利用されるとともに、車両前方の状況を示す映像としてディスプレイ30に提示される画像として利用される。   The image acquisition function of the control apparatus 10 of this embodiment is demonstrated. The control device 10 acquires a captured image around the host vehicle captured by the camera 20. The acquired captured image is used for extraction processing of obstacles and concealment areas, and is also used as an image presented on the display 30 as a video showing the situation ahead of the vehicle.

本実施形態の路面標識情報取得機能について説明する。制御装置10は、予め設定された視点から見た各地点における道路の路面標識の画像と、その路面標識が存在する地点の位置情報とが対応づけられた路面標識情報41を取得する。路面標識情報41は、制御装置10又はナビゲーション装置60の制御装置40に格納されており、制御装置10の読み込みを許可する。   The road surface sign information acquisition function of this embodiment will be described. The control device 10 acquires road surface sign information 41 in which an image of a road surface sign of a road at each point viewed from a preset viewpoint is associated with position information of a point where the road surface sign exists. The road surface sign information 41 is stored in the control device 10 or the control device 40 of the navigation device 60, and permits the control device 10 to be read.

路面標識の画像は、予め各道路を走行した別の車両が撮像して収集したものであってもよいし、自車両が過去に各道路を走行したときに撮像して収集したものであってもよい。もちろん、他車両により撮像された路面標識と自車両により撮像された路面標識との両方を利用することも可能である。例えば、予め他車両により撮像された路面標識の画像を基本情報とし、自車両が走行した経験のある道路の路面標識については自車両の撮像した路面標識の画像を利用し、自車両が走行した経験の無い道路の路面標識については他車両の撮像した路面標識の画像を利用するようにしてもよい。もちろん、コンピュータで合成した路面標識の画像を用いてもよい。   The road surface sign image may be captured and collected in advance by another vehicle that traveled on each road, or captured and collected when the vehicle traveled on each road in the past. Also good. Of course, it is also possible to use both a road sign imaged by another vehicle and a road sign imaged by the own vehicle. For example, an image of a road sign imaged in advance by another vehicle is used as basic information, and for the road surface sign of a road on which the host vehicle has traveled, the image of the road sign imaged by the host vehicle is used to drive the host vehicle. For road signs on roads with no experience, images of road signs taken by other vehicles may be used. Of course, a road surface image synthesized by a computer may be used.

路面標識情報41の態様は特に限定されないが、その一例を図2に示す。本例における路面標識情報41は、路面標識の画像を含む。路面標識の画像は、その路面標識が表示される地点を特定する位置情報と対応づけられている。地点を特定する位置情報は、緯度経度情報であってもよいし、その地点が含まれる道路を特定する道路識別情報、道路を特定するノード情報、ノードにより特定される走行リンク情報であってもよい。路面標識情報41が路面標識の画像と位置情報とを対応づけているため、取得された自車両の現在位置に基づいて、その現在位置を通過するタイミングでドライバが視認する路面標識の画像を特定することができる。なお、自車両は移動しているため、一のタイミングにおいて取得された現在位置と、そのタイミングにおける車速情報とに基づいて、所定時間経過後である将来のタイミングにおける現在位置を予測し、将来のタイミングにおいてドライバが視認する路面標識の画像を特定することができる。各タイミングは車両コントローラ50の時計52により計時することができる。   Although the aspect of the road surface marking information 41 is not particularly limited, an example is shown in FIG. The road surface sign information 41 in this example includes an image of the road surface sign. The image of the road surface sign is associated with position information that identifies the point where the road sign is displayed. The position information for specifying the point may be latitude / longitude information, road identification information for specifying the road including the point, node information for specifying the road, or travel link information specified by the node. Good. Since the road sign information 41 associates the road sign image with the position information, the road sign image identified by the driver at the timing of passing the current position is specified based on the acquired current position of the host vehicle. can do. Since the host vehicle is moving, based on the current position acquired at one timing and the vehicle speed information at that timing, the current position at a future timing after a predetermined time has passed is estimated. It is possible to specify an image of the road surface sign that the driver visually recognizes at the timing. Each timing can be measured by a clock 52 of the vehicle controller 50.

図2に示す路面標識情報の例では、路面標識の画像が、その標識が示す情報の内容に応じて、案内標識の画像、警戒標識の画像、規制標識の画像、及び指示標識の画像に区分されている。特に限定されないが、標識の区分は、その道路を管理する国の法律や地方自治体や管理者の規則に基づいて定義することができる。また、異なる国に対応させる観点から、道路標識及び信号に関する条約(所謂ウィーン条約)に基づいて定義することができる。   In the example of the road sign information shown in FIG. 2, the road sign image is divided into a guide sign image, a warning sign image, a regulatory sign image, and an instruction sign image according to the content of the information indicated by the sign. Has been. Although not particularly limited, the classification of the sign can be defined based on the laws of the country that manages the road and the rules of local governments and managers. Moreover, it can be defined based on a convention on road signs and signals (so-called Vienna Convention) from the viewpoint of dealing with different countries.

案内標識の画像は、ドライバの利用に供される情報、施設、サービスの内容を示す。例えば、案内標識の画像は、方向案内や施設の利用案内などを示す。   The image of the guide sign indicates the contents of information, facilities, and services provided to the driver. For example, an image of a guidance sign indicates direction guidance, facility usage guidance, or the like.

警戒標識の画像は、ドライバに警戒を求める危険警告の内容を示す。例えば、警戒標識の画像は、踏切の存在、学校の存在、信号機の存在、合流交通の存在を示す。
規制標識の画像は、ドライバに規制の存在やその内容を示す。例えば、規制標識の画像は、優先されるレーンなどの存在、禁止や制限の存在、運転者の義務の存在、又は特別規制の存在及びその内容を示す。例えば、規制標識は、回転禁止、進路変更禁止、駐停車禁止、最高速度(速度制限)の存在及びその内容を示す。
指示標識の画像は、ドライバに方向、位置、設備の存在やその内容を示す。例えば、指示標識の画像は、横断歩道の存在、停止線の存在、中央線(走行区画)の存在、車線境界線の存在及びその内容を示す。
路面標識情報41は、路面標識が警戒標識、規制標識、案内標識、指示標識のいずれの区分に属するかを識別する付加情報を路面標識と対応づけて記憶している。この路面標識情報41の付加情報を参照すれば、路面標識が警戒標識、規制標識、案内標識のいずれであるかの判断をすることができる。
The warning sign image shows the contents of a danger warning requesting the driver to be wary. For example, an image of a warning sign indicates the presence of a level crossing, the presence of a school, the presence of a traffic light, and the presence of merging traffic.
The image of the restriction sign indicates the existence of the restriction and the contents thereof to the driver. For example, the image of the regulation sign indicates the existence of priority lanes, the existence of prohibition or restriction, the existence of a driver's duty, or the existence and contents of special regulations. For example, the restriction sign indicates the existence of the prohibition of rotation, the prohibition of changing the course, the prohibition of parking and stopping, the existence of the maximum speed (speed limit), and the content thereof.
The image of the indication sign indicates to the driver the direction, the position, the presence of equipment, and the contents thereof. For example, the image of the instruction sign indicates the presence of a pedestrian crossing, the presence of a stop line, the presence of a center line (traveling section), the presence of a lane boundary line, and the contents thereof.
The road surface sign information 41 stores additional information for identifying whether the road surface sign belongs to a warning sign, a regulation sign, a guidance sign, or an instruction sign, in association with the road sign. By referring to the additional information of the road surface sign information 41, it can be determined whether the road surface sign is a warning sign, a regulation sign, or a guide sign.

ドライバは、警戒標識や規制標識の存在について特に高い注意を払い、それらの標識の存在を必ず視認することが求められる。もちろん、ドライバは指示標識や案内標識にも注意を払う必要があるが、相対的な注意度としては警戒標識や規制標識に対して求められる注意度は、指示標識や案内標識に対して求められる注意度よりも高い。   Drivers are required to pay particular attention to the presence of warning signs and regulatory signs and to be sure to visually recognize the presence of such signs. Of course, the driver needs to pay attention to the instruction sign and the guidance sign, but the degree of attention required for the warning sign and the regulation sign is required for the instruction sign and the guidance sign as a relative attention degree. Higher than attention.

次に、表示制御機能を説明する。本実施形態の制御装置10は、各地点において随時取得される撮像画像とその撮像画像が取得された地点における路面標識の画像とを所定の共通視点を基準として重畳した重畳画像をディスプレイに表示させる。撮像画像及び路面標識の画像はそれぞれ所定の透過度の画像であるので、重畳させると撮像画像の映像と路面標識の画像とが重なり合って見える。特に限定されないが、共通視点としては、各ドライバの視点の位置に基づいて定義することが好ましい。   Next, the display control function will be described. The control device 10 according to the present embodiment displays on the display a superimposed image obtained by superimposing a captured image acquired at each point at any time and a road surface sign image at the point where the captured image is acquired with a predetermined common viewpoint as a reference. . Since the picked-up image and the road surface sign image are images having a predetermined transparency, when the images are superimposed, the image of the picked-up image and the road surface mark image appear to overlap each other. Although not particularly limited, the common viewpoint is preferably defined based on the viewpoint position of each driver.

図3Aは、撮像画像と路面標識の画像と所定の共通視点を基準として重畳した重畳画像の一例を示す図である。本例では、自車両の前方を走行する先行他車両が存在するため、撮像画像にはその他車両(障害物)の像VXが含まれる。他車両の画像VXは、重畳した路面標識の画像を隠蔽してしまうので、ドライバは重畳画像を見ても路面標識を視認することができない。本実施形態では、所定の共通視点を基準として撮像画像と路面標識の画像とを重畳したときに、障害物の像と路面標識の像とが重なりあう領域(隠蔽領域)が抽出された場合には、障害物が路面標識を隠蔽する可能性があると判断する。   FIG. 3A is a diagram illustrating an example of a superimposed image in which a captured image, a road surface sign image, and a predetermined common viewpoint are superimposed. In this example, since there is a preceding other vehicle traveling in front of the host vehicle, the captured image includes an image VX of the other vehicle (obstacle). Since the image VX of the other vehicle conceals the superimposed road sign image, the driver cannot visually recognize the road sign even when viewing the superimposed image. In the present embodiment, when a captured image and a road sign image are superimposed on the basis of a predetermined common viewpoint, an area (a concealment area) where the obstacle image and the road sign image overlap is extracted. Determines that the obstacle may conceal the road sign.

本実施形態における制御装置10は、撮像画像と路面標識の画像とを、共通視点を基準として重畳したときに、撮像画像のうち、路面標識の画像を隠蔽する障害物の像の一部又は全部に対応する隠蔽領域が抽出された場合には、隠蔽領域に基づいて設定された制御領域の透過度を相対的に高く変更する。特に限定されないが、制御装置10は、制御領域の透過度を、隠蔽領域が抽出された場合には、隠蔽領域が抽出される前(時間的に)の透過度よりも相対的に高い透過度としてもよいし、制御領域以外の領域の透過度よりも相対的に高い透過度としてもよいし、撮像画像をディスプレイ30に表示するときの透過度よりも相対的に高い透過度としてもよい。   The control device 10 according to the present embodiment, when the captured image and the road sign image are superimposed on the basis of the common viewpoint, part or all of the obstacle image that conceals the road sign image among the captured images. When the concealment region corresponding to is extracted, the transparency of the control region set based on the concealment region is changed to be relatively high. Although not particularly limited, the control device 10 determines that the transparency of the control area is relatively higher than the transparency before the hidden area is extracted (temporally) when the hidden area is extracted. Alternatively, the transmittance may be relatively higher than the transmittance of the region other than the control region, or may be higher than the transmittance when the captured image is displayed on the display 30.

他方、撮像画像のうち、路面標識の画像を隠蔽する障害物の像の一部又は全部に対応する隠蔽領域が抽出されない場合には、隠蔽領域に基づいて設定された制御領域の透過度を維持する(変更しない)又は相対的に低くする。   On the other hand, when the concealment area corresponding to a part or all of the obstacle image concealing the road sign image is not extracted from the captured image, the transparency of the control area set based on the concealment area is maintained. Yes (do not change) or relatively low.

これにより、ドライバは、撮像画像に含まれる障害物が路面標識を隠蔽しても、重畳画像において路面標識を視認することができる。   Thereby, the driver can visually recognize the road surface sign in the superimposed image even if the obstacle included in the captured image conceals the road surface sign.

本実施形態における制御領域は、路面標識の画像を隠蔽する障害物の像に対応する領域に基づいて設定される。制御領域は、隠蔽領域を形成する障害物の像の一部であってもよいし全部であってもよい。例えば、他車両の画像の一部が横断歩道の路面標識を隠蔽している場合には、他車両の画像の一部が路面標識を隠す隠蔽領域となる。この場合において、その隠蔽領域と同じ領域を制御領域として設定してもよいし、隠蔽領域を形成する他車両の画像の全体に対応する領域を制御領域として設定してもよい。   The control area in the present embodiment is set based on an area corresponding to an obstacle image that hides the road surface sign image. The control area may be a part or all of the image of the obstacle that forms the hidden area. For example, when a part of the image of the other vehicle conceals the road sign of the pedestrian crossing, a part of the image of the other vehicle becomes a concealment area that hides the road sign. In this case, the same area as the concealment area may be set as the control area, or an area corresponding to the entire image of the other vehicle forming the concealment area may be set as the control area.

図3Bは、路面標識の画像を隠蔽し、隠蔽領域を形成する他車両の画像の全部を制御領域として設定し、その透過度を高くした場合の重畳画像の一例を示す図である。制御領域は、路面標識の画像と障害物の画像とが重なる隠蔽領域と同じ領域であってもよいし、路面標識の画像の一部又は全部と重なり部分を有する障害物全部に対応する領域であってもよい。   FIG. 3B is a diagram illustrating an example of a superimposed image when a road surface sign image is concealed and all the images of other vehicles forming the concealment area are set as control areas and the transmittance thereof is increased. The control area may be the same area as the concealment area where the road sign image and the obstacle image overlap, or the control area is an area corresponding to all obstacles that overlap with part or all of the road sign image. There may be.

また、図3Cは、図3Bにおける制御領域の透過度よりも低い透過度とした重畳画像の一例を示す。図3Bでは隠蔽領域を形成する他車両の画像VXを高い透過度で示すので、制御領域を略透明化し、これを透かして路面標識を表示することができる。図3Cでは隠蔽領域を形成する他車両の画像VXの全体を制御領域とし、これを相対的に低い透過度で示す。図3Cの例では、制御領域を半透明化し、これを透かして路面標識が図3Bに比べてぼんやりと示される。このように、路面標識を隠す隠蔽領域に応じた制御領域の透過度を変更できるので、場面に応じて制御標識の透過度を変更し、路面標識の見え方を制御することができる。   Moreover, FIG. 3C shows an example of a superimposed image with a transparency lower than that of the control region in FIG. 3B. In FIG. 3B, since the image VX of the other vehicle forming the hidden area is shown with high transparency, the control area can be made substantially transparent, and the road surface sign can be displayed through the control area. In FIG. 3C, the entire image VX of the other vehicle forming the concealment area is set as the control area, and this is shown with a relatively low transmittance. In the example of FIG. 3C, the control area is made translucent, and through this, the road surface sign is shown more blurred than in FIG. 3B. Thus, since the transparency of the control area according to the concealment area that hides the road surface sign can be changed, the transparency of the control sign can be changed according to the scene to control the appearance of the road surface sign.

つまり、路面標識の画像が他車両などの障害物によって隠蔽されてしまう場合には、路面標識の画像を隠す障害物(本例では他車両VX)の像の一部又は全部の透過度を高めて、路面標識の画像が見やすいようにする。これにより、ドライバは、自車両の走行に影響を及ぼす可能性のある他車両などの存在にかかわらず、路面標識を視認することができる。   That is, when the road sign image is concealed by an obstacle such as another vehicle, the transparency of a part or all of the image of the obstacle (in this example, the other vehicle VX) that hides the road sign image is increased. To make it easier to see the road marking image. Thereby, the driver can visually recognize the road surface sign regardless of the presence of other vehicles or the like that may affect the traveling of the host vehicle.

なお、図3B、図3Cに示す例では、路面標識を隠蔽する障害物(他車両)の全体を制御領域とし、この制御領域VXの透過度を変更する制御をした場合の例を示すが、障害物の像のうち、路面標識を隠蔽する隠蔽領域に対応する制御領域VXPのみの透過度を変更することも可能である。この場合における制御領域は、他車両の画像と路面の横断歩道標識、路側の横断歩道標識、道路の縁石の像とが重なる領域である。   In the example shown in FIGS. 3B and 3C, an example is shown in which the entire obstacle (other vehicle) that hides the road surface sign is set as the control area, and control is performed to change the transparency of the control area VX. Of the image of the obstacle, it is also possible to change the transmittance of only the control area VXP corresponding to the concealment area that conceals the road surface sign. In this case, the control area is an area where the image of the other vehicle overlaps the road crossing sign, the road side crossing sign, and the road curb image.

本実施形態において、制御領域の画像の透過度を変更する手法は特に限定されず、出願時に知られた手法を適宜に用いることができる。例えば、制御領域に対応する障害物の像の画素密度を低くする一方で路面標識の画像の画素密度を高くし、表示する重畳画像に対する路面標識画像の画素の混合率(存在率)を高くして、路面標識の画像を優先的にドライバに示してもよい。制御領域やこの制御領域を生じさせる障害物の像を構成する画素の色を、重畳される撮像画像の画素の色に変更することで、撮像画像の情報を優先的にドライバに示してもよい。   In the present embodiment, the method for changing the transparency of the image in the control region is not particularly limited, and a method known at the time of filing can be appropriately used. For example, while reducing the pixel density of the obstacle image corresponding to the control area, the pixel density of the road sign image is increased, and the mixing ratio (presence ratio) of the road sign image pixel to the superimposed image to be displayed is increased. Thus, the road surface sign image may be preferentially shown to the driver. Information of the captured image may be preferentially shown to the driver by changing the color of the pixel constituting the control region and the image of the obstacle causing the control region to the color of the pixel of the superimposed captured image. .

ここで、障害物とは、自車両の走行に影響を与える可能性のある物体であって、例えば、自車両の先行他車両、自車両の対向他車両、又は自車両と交差する交差他車両などの他車両である。他車両は、四輪車のみならず、二輪車や大型のトレーラなども含む。   Here, the obstacle is an object that may affect the traveling of the host vehicle. For example, the preceding other vehicle of the host vehicle, the other vehicle opposite to the host vehicle, or the other vehicle that intersects the host vehicle. And other vehicles. Other vehicles include not only automobiles but also motorcycles and large trailers.

本処理において、制御装置10は、隠蔽領域が抽出されたタイミングにおける自車両から路面標識までの距離が近いほど制御領域の透過度を高く変更する。これにより、障害物が存在した場合であっても、ドライバが視認すべき走行位置近傍の路面標識を、明確に表示することができる。   In this process, the control device 10 changes the transmittance of the control region to be higher as the distance from the own vehicle to the road surface marker at the timing when the concealment region is extracted. Thereby, even if there is an obstacle, the road surface marker in the vicinity of the traveling position to be visually recognized by the driver can be clearly displayed.

本処理において、制御装置10は、隠蔽領域が抽出されたタイミングにおける自車両の車速が速いほど制御領域の透過度を高く変更する。これにより、障害物が存在した場合であっても、自車両の車速が速く、これに応じてドライバが視認すべき路面標識も速い速度で自車両に接近している場合には、これを明確に表示することができる。   In this process, the control device 10 changes the transparency of the control region to be higher as the vehicle speed of the host vehicle is higher at the timing when the concealment region is extracted. As a result, even if there is an obstacle, the vehicle speed of the host vehicle is fast, and if the road surface sign that the driver should visually recognize is approaching the host vehicle at a high speed accordingly, this is clear. Can be displayed.

本処理において、制御装置10は撮像画像に対する隠蔽領域の面積比が所定値以上である場合には、路面標識の一部又は全部を隠蔽する障害物の全部に対応する領域を制御領域として設定する。これにより、隠蔽領域が撮像画像に対して占める面積割合が大きい場合には、隠蔽領域の原因となる障害物の全部を制御領域として広い範囲の透過度を高くすることができるので、障害物の影響を排除して路面標識をドライバに視認しやすくすることができる。他方、制御装置10は撮像画像に対する隠蔽領域の面積比が所定値未満である場合には、隠蔽領域のみの相対的に狭い範囲を制御領域とし、この制御領域の透過度を高くするので、障害物の影響を最小限で排除し、路面標識をドライバに視認しやすくすることができる。   In this process, when the area ratio of the concealment area with respect to the captured image is equal to or greater than a predetermined value, the control device 10 sets an area corresponding to all obstacles that conceal part or all of the road surface sign as the control area. . As a result, when the area ratio occupied by the concealment area with respect to the captured image is large, the transparency of a wide range can be increased using all of the obstacles causing the concealment area as a control area. It is possible to eliminate the influence and make it easier for the driver to visually recognize the road surface sign. On the other hand, when the area ratio of the concealment area to the captured image is less than a predetermined value, the control device 10 sets a relatively narrow range of only the concealment area as the control area and increases the transparency of the control area. The influence of objects can be eliminated to the minimum, and the road surface sign can be easily seen by the driver.

面積比を評価する閾値は、道路種別、走行地域、道路形状、運転席の高さ(視野の広さ)に応じて適宜に設定することができる。道路種別が車両専用道路である、道路が直進形状である、運転席が高い(視野が広い)場合には、閾値を高く設定する。具体的に、道路種別が見通しのよい車両専用道路である、道路が直進形状である、運転席が高い(視野が広い)場合には、閾値を高く設定して、隠蔽領域が大きい場合に限って第1障害物の全部を制御領域とする。   The threshold value for evaluating the area ratio can be appropriately set according to the road type, the travel area, the road shape, and the height of the driver's seat (the width of the field of view). If the road type is a vehicle-only road, the road is straight, and the driver's seat is high (wide field of view), the threshold value is set high. Specifically, if the road type is a vehicle-only road with good visibility, the road is straight, and the driver's seat is high (wide field of view), set a high threshold and only if the concealment area is large. The entire first obstacle is used as the control area.

他方、道路種別が見通しの悪い市街道路である、道路が直進形状ではななく曲がっている、運転席が低い(視野が狭い)場合には、閾値を低く設定して、隠蔽領域が小さくても第1障害物の全部を制御領域とする。これにより、周囲の確認が容易な環境であるときには制御領域を小さくし、周囲の確認が困難な環境であるときには制御領域を大きくすることができる。   On the other hand, if the road type is an urban road with poor visibility, the road is not straight, but is curved, and the driver's seat is low (the field of view is narrow), the threshold is set low, and the concealment area is small. The entire first obstacle is set as the control area. As a result, the control area can be reduced when the environment is easily confirmed, and the control area can be increased when the environment is difficult to confirm.

先に、図2に基づいて説明したように、路面標識情報41は、路面に表示された案内標識、路面に常時された警戒標識、路面に表示された規制標識、路面に表示された指示標識その他の道路標識の画像である。先述したように、ドライバは、案内標識及び指示標識に対する注意度よりも高い注意度で、警戒標識及び規制標識の情報を認識することが求められる。   As described above with reference to FIG. 2, the road surface sign information 41 includes a guide sign displayed on the road surface, a warning sign always displayed on the road surface, a regulation sign displayed on the road surface, and an indication sign displayed on the road surface. It is an image of other road signs. As described above, the driver is required to recognize the information on the warning sign and the regulation sign with a degree of attention higher than the degree of attention with respect to the guide sign and the instruction sign.

本実施形態の制御装置10は、障害物の像に隠蔽される路面標識が警戒標識又は規制標識である場合の透過度を、障害物の像に隠蔽される路面標識が案内標識又は指示標識である場合の透過度よりも高く設定する。このように、相対的に高い注意度が要求される警戒標識又は規制標識に区分される路面標識を隠蔽する隠蔽領域に応じた制御領域の透過度を、相対的に低い注意度が要求される案内標識又は指示標識に区分される路面標識を隠蔽する隠蔽領域に応じた生業領域の透過度よりも高くするので、高い注意度が要求される路面標識については障害物の像を透明にし、ドライバがより視認しやすいようにすることができる。   The control device 10 according to the present embodiment is configured so that the transparency when the road surface sign concealed in the obstacle image is a warning sign or a control sign, and the road sign concealed in the obstacle image is a guide sign or an instruction sign. Set higher than the transparency in some cases. Thus, a relatively low degree of attention is required for the transparency of the control area corresponding to the concealment area that conceals the road sign classified as a warning sign or a restriction sign that requires a relatively high degree of attention. Since it is higher than the transparency of the work area according to the concealment area that conceals the road sign classified as a guide sign or instruction sign, the road image of the obstacle is made transparent for the road sign that requires high attention, and the driver Can be made easier to visually recognize.

続いて、本実施形態の情報提供システム1の重畳画像の表示手順を、図4のフローチャートに基づいて説明する。なお、図4に示す処理内容は、所定周期で連続的に行われる。   Subsequently, the display procedure of the superimposed image of the information providing system 1 of the present embodiment will be described based on the flowchart of FIG. Note that the processing content shown in FIG. 4 is continuously performed at a predetermined cycle.

図4に示すように、ステップS110において、制御装置10は、自車両の現在位置をナビゲーション装置60から取得するとともに、カメラ20から撮像画像を取得する。   As shown in FIG. 4, in step S <b> 110, the control device 10 acquires the current position of the host vehicle from the navigation device 60 and acquires a captured image from the camera 20.

次にステップS120において、制御装置10は、記憶装置40又はナビゲーション装置60が記憶する路面標識情報41を参照し、自車両の現在位置においてドライバが視認できる路面標識の画像を取得する。制御装置10は、自車両の実際の現在位置と読み込んだ路面標識の位置とを一致させる観点から、処理速度及び自車両の速度などを考慮して、撮像画像に重畳させる路面標識を選択する。   Next, in step S120, the control device 10 refers to the road surface sign information 41 stored in the storage device 40 or the navigation device 60, and acquires an image of the road surface sign that the driver can visually recognize at the current position of the host vehicle. The control device 10 selects a road surface sign to be superimposed on the captured image in consideration of the processing speed, the speed of the own vehicle, and the like from the viewpoint of matching the actual current position of the own vehicle with the position of the read road surface sign.

ステップS130において、制御装置10は重畳処理を実行する。制御装置10は、カメラ20による撮像画像と、そのタイミングにおける路面標識の画像とを重畳させて、重畳画像を生成する(図3Aを参照)。   In step S130, the control device 10 executes a superimposition process. The control device 10 superimposes the image captured by the camera 20 and the road surface sign image at the timing to generate a superimposed image (see FIG. 3A).

ステップS140において、制御装置10は、撮像画像に路面標識を隠蔽する隠蔽領域が存在するか否かを判断する。具体的に、制御装置10は、撮像画像と路面標識の画像とを共通視点を基準として重畳したときに、撮像画像のうち、路面標識の画像を隠蔽する障害物の像の一部又は全部に対応する隠蔽領域が抽出可能であるか否かを判断する。つまり、制御装置10は、重畳画像において、路面標識の画像と重なる像を形成する障害物が存在するか否かを判断する。   In step S140, the control device 10 determines whether or not there is a concealment area that conceals the road surface marker in the captured image. Specifically, when the captured image and the road sign image are superimposed with the common viewpoint as a reference, the control device 10 covers a part or all of the obstacle image that hides the road sign image in the captured image. It is determined whether or not the corresponding hidden area can be extracted. In other words, the control device 10 determines whether or not there is an obstacle that forms an image that overlaps the road marking image in the superimposed image.

ステップS140において隠蔽領域が存在すると判断された場合には、ステップS150へ進み、ステップS150において、障害物が路面標識の画像を隠蔽する隠蔽領域を抽出する。さらに、隠蔽領域に基づいて制御領域を設定する。制御領域は、撮像画像から検出された障害物の画像と路面標識の画像とが重複する領域(隠蔽領域そのもの)であってもよいし、隠蔽領域を形成する障害物の画像の全体であってもよい。   If it is determined in step S140 that a concealment area exists, the process proceeds to step S150, and in step S150, a concealment area where an obstacle conceals an image of a road surface sign is extracted. Furthermore, a control area is set based on the concealment area. The control area may be an area where the obstacle image detected from the captured image and the road surface image overlap (the concealment area itself), or the entire obstacle image forming the concealment area. Also good.

続くステップS160において、制御装置10は、設定された制御領域の透過度を高く設定し、路面標識が明確に視認できる重畳画像を生成する。その後、ステップS170において、制御装置10は、制御領域の透過度を高く変更した重畳画像をディスプレイ30に表示する。設定された制御領域の透過度は、制御領域が設定される前の透過度よりも相対的に高い値としてもよいし、制御領域以外の領域よりも相対的に高い値としてもよい。また、制御領域の透過度は、撮像画像をディスプレイ30に表示する際の透過度よりも相対的に高い値としてもよい。   In subsequent step S160, the control device 10 sets the transparency of the set control region high, and generates a superimposed image in which the road surface sign can be clearly recognized. Thereafter, in step S <b> 170, the control device 10 displays a superimposed image in which the transparency of the control area is changed to be high on the display 30. The transparency of the set control area may be a value relatively higher than the transparency before the control area is set, or may be a relatively higher value than areas other than the control area. Further, the transparency of the control area may be a value relatively higher than the transparency when the captured image is displayed on the display 30.

図5は、隠蔽領域を抽出した後に、透過度を制御する範囲を設定する処理の一例を示すフローチャート図である。   FIG. 5 is a flowchart showing an example of processing for setting a range for controlling the transparency after extracting the concealment region.

図5に示すように、ステップS150において隠蔽領域が抽出され、制御領域が設定されたら、ステップS210において、撮像画像に対する隠蔽領域の面積比が所定値以上であるか否かを判断する。   As shown in FIG. 5, when the concealment region is extracted and the control region is set in step S150, it is determined in step S210 whether or not the area ratio of the concealment region to the captured image is equal to or greater than a predetermined value.

ステップS210において、隠蔽領域の面積比が所定値以上である場合には、ステップS220へ進み、隠蔽領域を含む障害物全体の像に対応する領域を制御領域として設定し、その制御領域の透過度を高く設定する。この場合には、ステップS170において、図3B,図3Cに示すような重畳画像が提示される。   In step S210, if the area ratio of the concealment area is equal to or greater than the predetermined value, the process proceeds to step S220, and an area corresponding to the entire obstacle image including the concealment area is set as the control area, and the transparency of the control area is set. Set high. In this case, in step S170, superimposed images as shown in FIGS. 3B and 3C are presented.

他方、ステップS210において、隠蔽領域の面積比が所定値未満である場合には、ステップS230へ進み、隠蔽領域を含む障害物全体の像ではなく、隠蔽領域に対応する領域(隠蔽領域と同じ領域)を制御領域として設定し、その制御領域の透過度を高く設定する。この場合には、ステップS170において、図3B,図3Cに示す、他車両に隠蔽された路面に描かれた横断歩道標識や、路側に設置された立体の横断歩道標識や、道路縁石などの隠蔽部分の領域が透けて、路面標識が視認できる重畳画像がドライバに提示される。   On the other hand, if the area ratio of the concealment area is less than the predetermined value in step S210, the process proceeds to step S230, not the image of the entire obstacle including the concealment area, but the area corresponding to the concealment area (the same area as the concealment area) ) As a control area, and the transparency of the control area is set high. In this case, in step S170, a pedestrian crossing sign drawn on a road surface concealed by another vehicle, a three-dimensional pedestrian crossing sign installed on the road side, a road curb, or the like is hidden in step S170. The driver can be presented with a superimposed image through which the partial area can be seen and the road surface sign can be visually recognized.

図6は、制御領域の透過度を設定する処理の一例を示すフローチャート図である。
図6に示すように、ステップS150において隠蔽領域が抽出されたら、ステップS310において、撮像画像の障害物によって隠蔽される路面標識が警戒標識若しくは規制標識であるか、又は案内標識若しくは指示標識であるかを判断する。路面標識が警戒標識、規制標識、案内標識、指示領域のいずれであるかは参照した路面標識情報41を参照して判断することができる。
FIG. 6 is a flowchart illustrating an example of processing for setting the transparency of the control region.
As shown in FIG. 6, when the concealment area is extracted in step S150, the road surface sign concealed by the obstacle in the captured image is a warning sign or a restriction sign, or a guide sign or an instruction sign in step S310. Determine whether. Whether the road sign is a warning sign, a regulation sign, a guide sign, or an instruction area can be determined with reference to the referenced road sign information 41.

ステップS310において、隠蔽された路面標識が警戒標識又は規制標識である場合には、ステップS320へ進み、路面標識が案内標識又は指示標識である場合よりも相対的に制御領域の透過度を高く設定する。   In step S310, when the concealed road surface sign is a warning sign or a control sign, the process proceeds to step S320, and the control region is set to have a relatively higher transmittance than when the road surface sign is a guide sign or an instruction sign. To do.

他方、ステップS310において、隠蔽された路面標識が警戒標識又は規制標識ではない場合、つまり、路面標識が案内領域又は指示領域である場合には、ステップS330へ進み、路面標識が警戒標識又は規制標識である場合よりも相対的に透過度を低く設定する。   On the other hand, if the concealed road surface sign is not a warning sign or a restriction sign in step S310, that is, if the road sign is a guidance area or an instruction area, the process proceeds to step S330, where the road sign is a warning sign or a restriction sign. The transmissivity is set relatively lower than in the case of.

ステップS320又はステップS330において透過度が設定されたら、ステップS170へ進み、重畳画像をディスプレイ30に表示する。   When the transparency is set in step S320 or step S330, the process proceeds to step S170, and the superimposed image is displayed on the display 30.

本実施形態の車両用表示装置100によれば、以下の効果を奏する。   The vehicle display device 100 of the present embodiment has the following effects.

[1]本実施形態の車両用表示装置100によれば、撮像画像に重畳表示させる路面標識が障害物によって隠蔽されてしまう場合であっても、隠蔽領域に応じた制御領域の透過度を高くして路面標識を視認しやすくするので、乗員が路面標識を視認しやすくすることができる。すなわち、路面標識の画像が他車両などの障害物によって隠蔽されてしまう場合には、路面標識の画像を隠す障害物の像の一部又は全部の透過度を高めて、路面標識の画像が見やすいようにすることにより、他車両などの存在にかかわらず、路面標識をドライバに示すことができる。   [1] According to the vehicular display device 100 of the present embodiment, even when the road surface sign to be superimposed on the captured image is hidden by an obstacle, the transparency of the control area corresponding to the hidden area is increased. Thus, the road marking can be easily seen, so that the occupant can easily see the road marking. That is, when the road sign image is concealed by an obstacle such as another vehicle, the transparency of a part or all of the obstacle image that hides the road sign image is increased so that the road sign image is easy to see. By doing so, the road surface sign can be shown to the driver regardless of the presence of other vehicles.

[2]本実施形態の車両用表示装置100によれば、隠蔽領域が抽出されたタイミングにおける、自車両から路面標識までの距離が近いほど制御領域の透過度を高く変更するので、障害物が存在した場合であっても、ドライバが視認すべき走行位置近傍の路面標識を、明確に表示することができる。   [2] According to the vehicle display device 100 of the present embodiment, the transparency of the control region is changed to be higher as the distance from the own vehicle to the road surface sign is shorter at the timing when the concealment region is extracted. Even if it exists, the road surface marker in the vicinity of the traveling position to be visually recognized by the driver can be clearly displayed.

[3]本実施形態の車両用表示装置100によれば、隠蔽領域が抽出されたタイミングにおける、自車両の車速が速いほど制御領域の透過度を高く変更するので、障害物が存在した場合であっても、自車両の車速が速く、これに応じてドライバが視認すべき路面標識も速い速度で自車両に接近している場合には、これを明確に表示することができる。   [3] According to the vehicle display device 100 of the present embodiment, the transparency of the control area is changed higher as the vehicle speed of the host vehicle is higher at the timing when the concealment area is extracted. Even in such a case, when the vehicle speed of the host vehicle is high and the road sign that the driver should visually recognize is approaching the host vehicle at a high speed, this can be clearly displayed.

[4]本実施形態の車両用表示装置100によれば、撮像画像に対する隠蔽領域の面積比が所定値以上である場合には、障害物の全部に対応する領域を制御領域として設定する。隠蔽領域形成の原因となる障害物の全部に相当する広い範囲を制御領域とし、この制御領域の透過度を高くするので、障害物の影響を排除してドライバが路面標識を視認しやすいようにすることができる。他方、制御装置10は、撮像画像に対する隠蔽領域の面積比が所定値未満である場合には、障害物の一部に対応する領域だけを制御領域として設定するので、障害物の影響を最小限で排除し、路面標識をドライバに視認しやすくすることができる。   [4] According to the vehicle display device 100 of the present embodiment, when the area ratio of the concealment area to the captured image is greater than or equal to a predetermined value, the area corresponding to the entire obstacle is set as the control area. A wide range corresponding to all the obstacles that cause the concealment area formation is set as the control area, and the transparency of this control area is increased, so that the influence of the obstacle is eliminated and the driver can easily see the road surface sign. can do. On the other hand, when the area ratio of the concealment area with respect to the captured image is less than a predetermined value, the control device 10 sets only the area corresponding to a part of the obstacle as the control area, thereby minimizing the influence of the obstacle. This makes it easier for the driver to visually recognize the road surface sign.

[5]本実施形態の車両用表示装置100によれば、障害物の像に隠蔽される路面標識が警戒標識又は規制標識である場合には、その透過度を障害物の像に隠蔽される路面標識が案内標識又は指示標識である場合の透過度よりも高く設定する。このように、相対的に高い注意度が要求される警戒標識又は規制標識が障害物により隠蔽される場合には、そのような路面標識を隠蔽する隠蔽領域に応じた制御領域の透過度を、相対的に低い注意度が要求される案内標識又は指示標識などの路面標識を隠蔽する隠蔽領域に応じた制御領域の透過度よりも高く設定するので、高い注意度が要求される路面標識については障害物の像による隠蔽状態を解消し、ドライバがより視認しやすいようにすることができる。   [5] According to the vehicle display device 100 of the present embodiment, when the road surface sign concealed in the obstacle image is a warning sign or a restriction sign, the transmittance is concealed in the obstacle image. It is set higher than the transmittance when the road surface sign is a guide sign or an instruction sign. In this way, when a warning sign or a control sign that requires a relatively high degree of attention is concealed by an obstacle, the transparency of the control area corresponding to the concealment area that conceals such a road surface sign, Because it is set higher than the transparency of the control area according to the concealment area that conceals the road sign such as a guide sign or instruction sign that requires a relatively low degree of attention, for road signs that require a high degree of attention It is possible to eliminate the concealed state due to the image of the obstacle and make it easier for the driver to visually recognize.

[6]本実施形態において、隠蔽領域を形成する障害物を、自車両の先行他車両、自車両の対向他車両、又は自車両と交差する交差他車両とし、これらの障害物によって生じる隠蔽領域を抽出するので、自車両に接近する他車両が自車走行路の路面標識を隠蔽してもドライバに路面標識を視認させることができる。   [6] In the present embodiment, the obstacle that forms the concealment area is a preceding other vehicle of the own vehicle, an opposite other vehicle of the own vehicle, or an intersection other vehicle that intersects with the own vehicle, and the concealment area caused by these obstacles Therefore, even if another vehicle approaching the host vehicle conceals the road surface sign of the own vehicle traveling path, the driver can visually recognize the road surface sign.

なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。   The embodiment described above is described for facilitating the understanding of the present invention, and is not described for limiting the present invention. Therefore, each element disclosed in the above embodiment is intended to include all design changes and equivalents belonging to the technical scope of the present invention.

すなわち、本明細書では、本発明に係る車両用表示装置100と車載装置200とを備える情報提供システム1を例にして説明するが、本発明はこれに限定されるものではない。   That is, in the present specification, the information providing system 1 including the vehicle display device 100 and the in-vehicle device 200 according to the present invention will be described as an example, but the present invention is not limited to this.

本明細書では、本発明に係る車両用表示装置の一態様として、制御装置10と、カメラ20と、ディスプレイ30とを備える車両用表示装置100を一例として説明するが、これに限定されるものではない。   In this specification, the vehicle display device 100 including the control device 10, the camera 20, and the display 30 will be described as an example of the vehicle display device according to the present invention. However, the present invention is not limited thereto. is not.

本明細書では、現在位置取得手段と、画像取得手段と、路面標識情報取得手段と、表示制御手段と、を備える本発明に係る車両用表示装置の一例として、現在位置取得機能と、画像取得機能と、路面標識情報取得機能と、表示制御機能とを実行する制御装置10を備える車両用表示装置100を一例として説明するが、これに限定されるものではない。   In the present specification, as an example of the vehicle display device according to the present invention including a current position acquisition unit, an image acquisition unit, a road surface sign information acquisition unit, and a display control unit, a current position acquisition function, an image acquisition Although the vehicle display device 100 including the control device 10 that executes the function, the road surface information acquisition function, and the display control function will be described as an example, the present invention is not limited to this.

1…情報提供システム
100…車両用表示装置
10…制御装置
11…CPU
12…ROM
13…RAM
20…カメラ
30…ディスプレイ
40…記憶装置
41…路面標識情報
200…車載装置
50…車両コントローラ
60…ナビゲーション装置
DESCRIPTION OF SYMBOLS 1 ... Information provision system 100 ... Display apparatus for vehicles 10 ... Control apparatus 11 ... CPU
12 ... ROM
13 ... RAM
DESCRIPTION OF SYMBOLS 20 ... Camera 30 ... Display 40 ... Memory | storage device 41 ... Road surface sign information 200 ... In-vehicle apparatus 50 ... Vehicle controller 60 ... Navigation apparatus

Claims (6)

自車両の現在位置を取得する現在位置取得手段と、
前記自車両に設けられたカメラにより撮像された、前記自車両の周囲の撮像画像を取得する画像取得手段と、
予め設定された視点から見た各地点における道路の路面標識の画像と、当該路面標識が存在する地点の位置情報とが対応づけられた路面標識情報を取得する路面標識情報取得手段と、
各地点において随時取得される前記撮像画像と、当該撮像画像が取得された地点における路面標識の画像とを所定の共通視点を基準として重畳した重畳画像をディスプレイに表示させる表示制御手段と、
前記表示制御手段は、前記路面標識の画像を隠蔽する障害物の像の一部又は全部に対応する隠蔽領域が抽出された場合には、前記隠蔽領域に基づいて前記撮像画像内に設定された制御領域の透過度を相対的に高く変更し、前記撮像画像と前記路面標識の画像とを重畳することを特徴とする車両用表示装置。
Current position acquisition means for acquiring the current position of the host vehicle;
Image acquisition means for acquiring a captured image around the host vehicle, which is captured by a camera provided in the host vehicle;
Road surface sign information acquisition means for acquiring road surface sign information in which an image of a road surface sign at each point viewed from a preset viewpoint and position information of a point where the road surface sign exists are associated with each other;
Display control means for displaying on the display a superimposed image obtained by superimposing the captured image acquired as needed at each point and a road surface sign image at the point where the captured image was acquired, with a predetermined common viewpoint as a reference;
The display control means is set in the captured image based on the concealment region when a concealment region corresponding to a part or all of the obstacle image concealing the road surface sign image is extracted. A vehicular display device, wherein the transparency of the control region is changed to be relatively high, and the captured image and the image of the road surface sign are superimposed.
前記表示制御手段は、前記隠蔽領域が抽出されたタイミングにおける、前記自車両から前記路面標識までの距離が近いほど前記制御領域の透過度を高く変更することを特徴とする請求項1に記載の車両用表示装置。   2. The display control unit according to claim 1, wherein the display control unit changes the transmittance of the control region to be higher as the distance from the host vehicle to the road surface marker is shorter at a timing when the concealment region is extracted. Vehicle display device. 前記表示制御手段は、前記隠蔽領域が抽出されたタイミングにおける、前記自車両の車速が速いほど前記制御領域の透過度を高く変更することを特徴とする請求項1又は2に記載の車両用表示装置。   3. The vehicle display according to claim 1, wherein the display control unit changes the transparency of the control region to be higher as the vehicle speed of the host vehicle is higher at the timing when the concealment region is extracted. apparatus. 前記撮像画像に対する前記隠蔽領域の面積比が所定値以上である場合には、前記障害物の全部に対応する領域を前記制御領域として抽出し、前記撮像画像に対する前記隠蔽領域の面積比が所定値未満である場合には、前記隠蔽領域を前記制御領域として抽出することを特徴とする請求項1〜3の何れか一項に記載の車両用表示装置。   When the area ratio of the concealment area with respect to the captured image is equal to or greater than a predetermined value, an area corresponding to all the obstacles is extracted as the control area, and the area ratio of the concealment area with respect to the captured image is a predetermined value The vehicular display device according to any one of claims 1 to 3, wherein the concealment area is extracted as the control area if the area is less than the range. 前記路面標識情報は、路面に表示された案内標識、路面に常時された警戒標識、路面に表示された規制標識、路面に表示された指示標識その他の道路標識の画像であり、
前記表示制御手段は、前記障害物の像に隠蔽される前記路面標識が警戒標識又は規制標識である場合の前記透過度を、前記障害物の像に隠蔽される前記路面標識が案内標識又は指示標識である場合の前記透過度よりも高く設定することを特徴とする請求項1〜4の何れか一項に記載の車両用表示装置。
The road surface sign information is an image of a guide sign displayed on the road surface, a warning sign always on the road surface, a regulation sign displayed on the road surface, an instruction sign displayed on the road surface, and other road signs,
The display control means indicates the transparency when the road sign concealed in the obstacle image is a warning sign or a control sign, and the road sign concealed in the obstacle image is a guide sign or instruction. The vehicle display device according to any one of claims 1 to 4, wherein the display device is set to be higher than the transmittance in the case of a sign.
前記障害物は、前記自車両の先行他車両、前記自車両の対向他車両、又は前記自車両と交差する交差他車両であることを特徴とする請求項1〜5の何れか一項に記載の車両用表示装置。   6. The obstacle according to any one of claims 1 to 5, wherein the obstacle is a preceding other vehicle of the own vehicle, an opposite other vehicle of the own vehicle, or an intersecting other vehicle that intersects the own vehicle. Vehicle display device.
JP2013108744A 2013-05-23 2013-05-23 Vehicle display device Active JP6102509B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013108744A JP6102509B2 (en) 2013-05-23 2013-05-23 Vehicle display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013108744A JP6102509B2 (en) 2013-05-23 2013-05-23 Vehicle display device

Publications (2)

Publication Number Publication Date
JP2014229100A true JP2014229100A (en) 2014-12-08
JP6102509B2 JP6102509B2 (en) 2017-03-29

Family

ID=52128889

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013108744A Active JP6102509B2 (en) 2013-05-23 2013-05-23 Vehicle display device

Country Status (1)

Country Link
JP (1) JP6102509B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019044185A1 (en) * 2017-08-28 2019-03-07 株式会社デンソー Video output device, video generation program, and non-transitory tangible computer-readable medium
JP2019064318A (en) * 2017-09-28 2019-04-25 株式会社Subaru Vehicular object information provision device
JP2019064319A (en) * 2017-09-28 2019-04-25 株式会社Subaru Vehicular object information provision device
JP2020154548A (en) * 2019-03-19 2020-09-24 株式会社Jvcケンウッド Recording-reproducing controller, recording-reproducing control method, and program

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003337040A (en) * 2002-05-17 2003-11-28 Alpine Electronics Inc Method for displaying three-dimensional map
JP2005127995A (en) * 2003-09-30 2005-05-19 Mazda Motor Corp Route guidance system, method, and program
JP2007183764A (en) * 2006-01-05 2007-07-19 Hitachi Ltd Onboard equipment
JP2009231937A (en) * 2008-03-19 2009-10-08 Mazda Motor Corp Surroundings monitoring device for vehicle
JP2012208111A (en) * 2011-12-05 2012-10-25 Pioneer Electronic Corp Image display device and control method

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003337040A (en) * 2002-05-17 2003-11-28 Alpine Electronics Inc Method for displaying three-dimensional map
JP2005127995A (en) * 2003-09-30 2005-05-19 Mazda Motor Corp Route guidance system, method, and program
JP2007183764A (en) * 2006-01-05 2007-07-19 Hitachi Ltd Onboard equipment
JP2009231937A (en) * 2008-03-19 2009-10-08 Mazda Motor Corp Surroundings monitoring device for vehicle
JP2012208111A (en) * 2011-12-05 2012-10-25 Pioneer Electronic Corp Image display device and control method

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019044185A1 (en) * 2017-08-28 2019-03-07 株式会社デンソー Video output device, video generation program, and non-transitory tangible computer-readable medium
JP2019041334A (en) * 2017-08-28 2019-03-14 株式会社Soken Video output device and video generation program
US11148595B2 (en) 2017-08-28 2021-10-19 Denso Corporation Image output device, and non-transitory tangible computer-readable medium for outputting image around vehicle to display device
JP2019064318A (en) * 2017-09-28 2019-04-25 株式会社Subaru Vehicular object information provision device
JP2019064319A (en) * 2017-09-28 2019-04-25 株式会社Subaru Vehicular object information provision device
JP7164941B2 (en) 2017-09-28 2022-11-02 株式会社Subaru Object information providing device for vehicle
JP7193911B2 (en) 2017-09-28 2022-12-21 株式会社Subaru Object information providing device for vehicle
JP2020154548A (en) * 2019-03-19 2020-09-24 株式会社Jvcケンウッド Recording-reproducing controller, recording-reproducing control method, and program
JP7255257B2 (en) 2019-03-19 2023-04-11 株式会社Jvcケンウッド RECORDING/PLAYBACK CONTROL DEVICE, RECORDING/PLAYBACK CONTROL METHOD, AND PROGRAM

Also Published As

Publication number Publication date
JP6102509B2 (en) 2017-03-29

Similar Documents

Publication Publication Date Title
CN111247575B (en) Vehicle driving assistance system, method, and computer-readable storage medium
CA3002628C (en) Display control method and display control device
US11996018B2 (en) Display control device and display control program product
WO2019097763A1 (en) Superposed-image display device and computer program
US20160054452A1 (en) System and Method for Detecting Objects Obstructing a Driver&#39;s View of a Road
JP6136565B2 (en) Vehicle display device
JP2016218732A (en) Automobile peripheral information display system
US20190244515A1 (en) Augmented reality dsrc data visualization
US20090306852A1 (en) Driving operation support device for a vehicle
WO2012131871A1 (en) Information display device, control method, program, and storage medium
JP2010234959A (en) Information display device
WO2022009848A1 (en) Host vehicle location estimation device and travel control device
WO2020246113A1 (en) Display control device and display control program
JP6102509B2 (en) Vehicle display device
JP2019027996A (en) Display method for vehicle and display device for vehicle
JP7283448B2 (en) Display controller and display control program
CN110462699B (en) Display control device for vehicle and display unit for vehicle
CN112384959A (en) Vehicle driving support system, vehicle driving support method, and vehicle driving support program
JP7416114B2 (en) Display control device and display control program
US10864856B2 (en) Mobile body surroundings display method and mobile body surroundings display apparatus
JP5353780B2 (en) Display control apparatus, method and program
JP2016068654A (en) Projection control system for vehicle and control method of image projection
WO2021020033A1 (en) Display control device, display control method, and display control program
JP2022043996A (en) Display control device and display control program
KR20170055624A (en) Apparatus for displaying traffic lane using head-up display and method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160328

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170131

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170213

R151 Written notification of patent or utility model registration

Ref document number: 6102509

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151