JP2018074286A - Driving support device - Google Patents

Driving support device Download PDF

Info

Publication number
JP2018074286A
JP2018074286A JP2016209798A JP2016209798A JP2018074286A JP 2018074286 A JP2018074286 A JP 2018074286A JP 2016209798 A JP2016209798 A JP 2016209798A JP 2016209798 A JP2016209798 A JP 2016209798A JP 2018074286 A JP2018074286 A JP 2018074286A
Authority
JP
Japan
Prior art keywords
vehicle
obstacle
video
driving support
host vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016209798A
Other languages
Japanese (ja)
Inventor
雨陽 張
Yuyang Zhang
雨陽 張
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Motors Corp
Original Assignee
Mitsubishi Motors Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Motors Corp filed Critical Mitsubishi Motors Corp
Priority to JP2016209798A priority Critical patent/JP2018074286A/en
Publication of JP2018074286A publication Critical patent/JP2018074286A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To improve a driving support effect concerning a driving support device.SOLUTION: A driving support device includes: an estimation section 1 for recognizing an obstacle included in a video of an on-vehicle camera 11 and estimating a probability of a collision between an obstacle and a vehicle 20; a generation section 2 for generating an overview video from a virtual view point set on an outer side of a vehicle on the basis of a video of the on-vehicle camera 11; and a control section 3 for allowing an on-vehicle display 15 to display an overview video when a vehicle speed of the vehicle 20 is at least equal to or less than a predetermined vehicle speed and also a collision probability is equal to or more than a predetermined value.SELECTED DRAWING: Figure 1

Description

本発明は、車両外に設定された視点(仮想的な視点)からの俯瞰映像をディスプレイに表示することで、運転者に障害物の存在を報知する運転支援装置に関する。   The present invention relates to a driving support apparatus that notifies a driver of the presence of an obstacle by displaying a bird's-eye view video from a viewpoint (virtual viewpoint) set outside a vehicle on a display.

従来、車載カメラで撮影された映像に画像処理を施すことによって、車両外に設定された視点(仮想的な視点)からの俯瞰映像、すなわち、車両を空から見下ろしているような映像を生成する技術が開発されている。画像処理の具体的な手法としては、ホモグラフィ行列を用いた平面射影変換や、三次元空間での投影処理などが知られている。このような技術を用いることで、車両周囲の客観的な状況をわかりやすい映像で運転者に提供することができ、運転支援効果を高めることができる(特許文献1,2参照)。   Conventionally, by performing image processing on a video captured by an in-vehicle camera, an overhead view video from a viewpoint (virtual viewpoint) set outside the vehicle, that is, a video looking down on the vehicle from the sky is generated. Technology has been developed. As specific methods of image processing, planar projective transformation using a homography matrix, projection processing in a three-dimensional space, and the like are known. By using such a technique, the objective situation around the vehicle can be provided to the driver with an easy-to-understand video, and the driving support effect can be enhanced (see Patent Documents 1 and 2).

特開2015-182670号公報JP-A-2015-182670 特開2011-034273号公報JP 2011-034273

ところで、上記のような俯瞰映像は、運転者によって注視されうるものであることから、車両の走行中にはむやみに表示させないことが望ましい。一方、車両と障害物との衝突リスク低減の観点からは、車両の走行中であっても俯瞰映像を表示させて、運転支援効果を高めることが望ましい場合もある。例えば、交差点での左折時に車両周囲の状況を俯瞰映像で提供すれば、運転者は車両の左側に存在する自動二輪車や自転車に気付きやすくなり、巻き込み衝突を回避可能となる。従来の運転支援装置ではこのような俯瞰映像の提供手法が確立されておらず、運転支援効果を高める上で改善の余地がある。   By the way, since the bird's-eye view video as described above can be watched by the driver, it is desirable not to display it unnecessarily while the vehicle is traveling. On the other hand, from the viewpoint of reducing the risk of collision between the vehicle and the obstacle, it may be desirable to display a bird's-eye view image even when the vehicle is traveling to enhance the driving support effect. For example, if the situation around the vehicle is provided as a bird's-eye view when making a left turn at an intersection, the driver can easily notice a motorcycle or a bicycle on the left side of the vehicle, and can avoid a collision. The conventional driving support apparatus has not established such a method for providing an overhead view image, and there is room for improvement in enhancing the driving support effect.

本件の目的の一つは、上記のような課題に鑑みて創案されたものであり、運転支援効果を改善しうる運転支援装置を提供することである。なお、この目的に限らず、後述する「発明を実施するための形態」に示す各構成から導き出される作用効果であって、従来の技術では得られない作用効果を奏することも、本件の他の目的として位置付けることができる。   One of the purposes of the present case was created in view of the above-described problems, and is to provide a driving support device that can improve the driving support effect. It should be noted that the present invention is not limited to this purpose, and is an operational effect that is derived from each configuration shown in “Mode for Carrying Out the Invention” to be described later. Can be positioned as a purpose.

(1)開示の運転支援装置は、車載カメラの映像に含まれる障害物を認識するとともに、前記障害物と車両とが衝突する確率を推定する推定部を備える。また、前記映像に基づき、前記車両外に設定された仮想的な視点からの俯瞰映像を生成する生成部を備える。さらに、少なくとも前記車両の車速が所定車速以下であって前記確率が所定値以上である場合に、前記俯瞰映像を車載ディスプレイに表示させる制御部を備える。
なお、前記障害物とは前記車両の周囲に存在する「対象」であって、前記車両が衝突する可能性のあるものを意味する。前記障害物には、他車両,自転車,物体,人などが含まれる。
(1) The disclosed driving support apparatus includes an estimation unit that recognizes an obstacle included in the video of the in-vehicle camera and estimates a probability that the obstacle and the vehicle collide. Moreover, the production | generation part which produces | generates the bird's-eye view image from the virtual viewpoint set out of the said vehicle based on the said image | video is provided. Furthermore, a control unit is provided that displays the overhead image on an in-vehicle display when at least the vehicle speed of the vehicle is equal to or lower than a predetermined vehicle speed and the probability is equal to or higher than a predetermined value.
The obstacle means a “target” existing around the vehicle and may cause the vehicle to collide. The obstacle includes other vehicles, bicycles, objects, people, and the like.

(2)前記生成部が、前記車両を鉛直下方に見下ろした鉛直俯瞰映像と、前記視点から前記車両を斜め下に見下ろした傾斜俯瞰映像とを生成することが好ましい。
(3)前記制御部が、前記車両のウィンカーの作動状態に応じて、前記鉛直俯瞰映像と前記傾斜俯瞰映像とを切り替えて表示することが好ましい。例えば、前記制御部が、前記ウィンカーの非作動時に前記鉛直俯瞰映像を表示し、前記ウィンカーの作動時に前記傾斜俯瞰映像を表示することが好ましい。
(4)前記生成部が、前記障害物の種類に応じて前記俯瞰映像の視点位置または俯瞰方向を変更することが好ましい。
(2) It is preferable that the generation unit generates a vertical overhead view image in which the vehicle is looked down vertically and a tilted overhead view image in which the vehicle is looked down obliquely from the viewpoint.
(3) It is preferable that the said control part switches and displays the said vertical bird's-eye view image and the said inclination bird's-eye view image according to the operating state of the blinker of the said vehicle. For example, it is preferable that the control unit displays the vertical overhead image when the winker is not operated, and displays the tilt overhead image when the winker is operated.
(4) It is preferable that the said production | generation part changes the viewpoint position or overhead direction of the said bird's-eye view image | video according to the kind of said obstruction.

(5)前記生成部が、前記車両に対する前記障害物の相対位置に応じて前記俯瞰映像の視点位置または俯瞰方向を変更することが好ましい。
(6)前記制御部が、前記俯瞰映像中の前記障害物を強調して表示することが好ましい。例えば、前記制御部が、前記俯瞰映像中で前記障害物の位置を表すマークを前記障害物に重畳させて表示することが好ましい。
(7)前記制御部が、交差点内における前記俯瞰映像の視点位置を路面座標系に固定することが好ましい。
(5) It is preferable that the said production | generation part changes the viewpoint position or overhead direction of the said bird's-eye view image | video according to the relative position of the said obstruction with respect to the said vehicle.
(6) It is preferable that the said control part emphasizes and displays the said obstruction in the said bird's-eye view image | video. For example, it is preferable that the control unit displays a mark representing the position of the obstacle in the overhead view so as to be superimposed on the obstacle.
(7) It is preferable that the said control part fixes the viewpoint position of the said bird's-eye view image in an intersection to a road surface coordinate system.

車両と障害物との衝突確率が所定値以上となる低速走行時に俯瞰映像を表示することで、運転者に障害物の存在を知らしめることができ、運転支援効果を高めることができる。   By displaying a bird's-eye view image during low-speed traveling where the collision probability between the vehicle and the obstacle is a predetermined value or more, the driver can be informed of the presence of the obstacle, and the driving support effect can be enhanced.

運転支援装置のブロック構成図である。It is a block block diagram of a driving assistance device. 運転支援装置が搭載された車両の斜視図である。It is a perspective view of the vehicle carrying a driving assistance device. 障害物の存在方向を説明するための模式図である。It is a schematic diagram for demonstrating the presence direction of an obstruction. 左折時に障害物となりうる対象を説明するための模式図である。It is a schematic diagram for demonstrating the object which can become an obstruction at the time of a left turn. 右折時に障害物となりうる対象を説明するための模式図である。It is a schematic diagram for demonstrating the object which can become an obstruction at the time of a right turn. (A),(B)はディスプレイの表示例(A方向の歩行者)である。(A) and (B) are display examples (pedestrians in direction A) of the display. (A)〜(C)はディスプレイの表示例(B方向の自転車)である。(A)-(C) are the example of a display (B direction bicycle). (A)〜(C)はディスプレイの表示例(C方向の自動二輪車)である。(A)-(C) are the example of a display (Motorcycle of a C direction). (A),(B)はディスプレイの表示例(D方向の歩行者)である。(A) and (B) are display examples (pedestrians in the direction D). (A),(B)はディスプレイの表示例(E方向の歩行者)である。(A) and (B) are display examples (pedestrians in the E direction). (A),(B)はディスプレイの表示例(F方向の自転車)である。(A) and (B) are display examples (bicycle in the F direction). 制御内容を説明するためのフローチャートである。It is a flowchart for demonstrating the content of control.

図面を参照して、実施形態としての運転支援装置について説明する。なお、以下に示す実施形態はあくまでも例示に過ぎず、以下の実施形態で明示しない種々の変形や技術の適用を排除する意図はない。本実施形態の各構成は、それらの趣旨を逸脱しない範囲で種々変形して実施することができる。また、必要に応じて取捨選択することができ、あるいは適宜組み合わせることができる。   A driving assistance apparatus as an embodiment will be described with reference to the drawings. Note that the embodiment described below is merely an example, and there is no intention to exclude various modifications and technical applications that are not explicitly described in the following embodiment. Each configuration of the present embodiment can be implemented with various modifications without departing from the spirit thereof. Further, they can be selected as necessary, or can be appropriately combined.

[1.ハードウェア構成]
図1は、本実施形態の運転支援装置10の機能を説明するためのブロック図である。運転支援装置10は、車両に搭載される電子制御装置(コンピュータ)であり、車両周囲の障害物を自動的に検出して運転者に報知する機能(注意警告機能)を持つ。本実施形態の運転支援装置10は、障害物の種類や相対距離,相対速度などから障害物に対する衝突リスクを推定し、衝突リスクが高い障害物に関する情報を運転者に報知する機能を持つ。ここでいう障害物とは、車両の周囲に存在する「対象」であって、車両が衝突する可能性のあるものを意味する。障害物には、他車両,自転車,物体,人などが含まれる。以下、運転支援装置10が搭載された自車両に符号20を付して説明する。
[1. Hardware configuration]
FIG. 1 is a block diagram for explaining functions of the driving support device 10 of the present embodiment. The driving support device 10 is an electronic control device (computer) mounted on the vehicle, and has a function (attention warning function) of automatically detecting an obstacle around the vehicle and notifying the driver. The driving support device 10 of the present embodiment has a function of estimating a collision risk for an obstacle from the type, relative distance, and relative speed of the obstacle, and notifying the driver of information regarding the obstacle with a high collision risk. The obstacle referred to here means a “target” existing around the vehicle, which may collide with the vehicle. Obstacles include other vehicles, bicycles, objects, people, and the like. Hereinafter, the vehicle 20 on which the driving support device 10 is mounted will be described with reference numeral 20.

運転支援装置10には、プロセッサ(中央処理装置),メモリ(メインメモリ,主記憶装置),補助記憶装置,インタフェース装置,記録媒体ドライブなどが内蔵される。図1に示すように、運転支援装置10の入力側には、カメラ11(車載カメラ),車速センサ12,GPS(Global Positioning System)装置13,ウィンカーレバー14が接続される。以下、これらを総称して入力装置11〜14と呼ぶ。一方、運転支援装置10の出力側には、ディスプレイ15(車載ディスプレイ),スピーカー16(車載スピーカー)が接続される。以下、これらを総称して出力装置15,16と呼ぶ。   The driving support device 10 includes a processor (central processing unit), a memory (main memory, main storage device), an auxiliary storage device, an interface device, a recording medium drive, and the like. As shown in FIG. 1, a camera 11 (on-vehicle camera), a vehicle speed sensor 12, a GPS (Global Positioning System) device 13, and a blinker lever 14 are connected to the input side of the driving support device 10. Hereinafter, these are collectively referred to as input devices 11 to 14. On the other hand, a display 15 (vehicle-mounted display) and a speaker 16 (vehicle-mounted speaker) are connected to the output side of the driving support device 10. Hereinafter, these are collectively referred to as output devices 15 and 16.

カメラ11は、自車両20の周囲の画像(静止画や動画などの映像)を撮影する撮像装置であり、例えば撮像素子〔CCD(Charge-Coupled Device),CMOS(Complementary Metal-Oxide-Semiconductor)など〕を内蔵したビデオカメラである。図2に示す自車両20は、車体の前後左右にカメラ11が設置されたものである。各々の撮影範囲を合成することで、自車両20の周囲全体の状況を把握することができる。   The camera 11 is an imaging device that captures images around the host vehicle 20 (images such as still images and moving images). For example, an imaging device [CCD (Charge-Coupled Device), CMOS (Complementary Metal-Oxide-Semiconductor), etc. ] Is a built-in video camera. The own vehicle 20 shown in FIG. 2 has cameras 11 installed on the front, rear, left and right sides of the vehicle body. By synthesizing the respective shooting ranges, it is possible to grasp the entire situation around the host vehicle 20.

車速センサ12は自車両20の走行速度(車速)を検出し、GPS装置13は車両位置(例えば、緯度,経度,標高)に関する測位情報を検出する。また、GPS装置13は、内蔵された地図情報との照合により、自車両20の位置が交差点付近であるか否か(交差点からの距離が所定距離以下であるか否か)を判断する機能を持つ。ウィンカーレバー14はウィンカー(方向指示器)の作動状態を制御するためのスイッチであり、運転者によって操作される。これらの入力装置11〜14で得られた各種情報は運転支援装置10に入力される。   The vehicle speed sensor 12 detects the traveling speed (vehicle speed) of the host vehicle 20, and the GPS device 13 detects positioning information related to the vehicle position (for example, latitude, longitude, altitude). In addition, the GPS device 13 has a function of determining whether or not the position of the host vehicle 20 is near the intersection (whether or not the distance from the intersection is equal to or less than a predetermined distance) by collating with the built-in map information. Have. The winker lever 14 is a switch for controlling the operating state of the winker (direction indicator), and is operated by the driver. Various information obtained by these input devices 11 to 14 is input to the driving support device 10.

出力装置15,16は、運転支援装置10の制御対象となる装置である。ディスプレイ15,スピーカー16は、カメラ11で撮影された画像やGPS装置13で検出された測位情報,自車両20の周辺の地図,運転支援装置10での制御内容などを出力するものである。自車両20にカーナビゲーションシステムやカーオーディオシステム,マルチメディアシステムなどが搭載されている場合には、ディスプレイ15,スピーカー16に代えて、あるいは加えて、これらのシステムに含まれる汎用の映像表示装置,音声出力装置を利用してもよい。   The output devices 15 and 16 are devices to be controlled by the driving support device 10. The display 15 and the speaker 16 are for outputting images taken by the camera 11, positioning information detected by the GPS device 13, a map around the host vehicle 20, control contents in the driving support device 10, and the like. When the own vehicle 20 is equipped with a car navigation system, a car audio system, a multimedia system, etc., instead of or in addition to the display 15 and the speaker 16, general-purpose video display devices included in these systems, An audio output device may be used.

[2.ソフトウェア構成]
運転支援装置10には、推定部1,生成部2,制御部3が設けられる。これらは、運転支援装置10の機能を便宜的に分類して示したものであり、個々の要素を独立したプログラムとして記述してもよいし、これらの機能を兼ね備えた複合プログラムとして記述してもよい。これらのプログラムは、運転支援装置10に内蔵されたメモリや補助記憶装置に記憶され、プロセッサによって実行される。あるいは、これらのプログラムが光ディスクや半導体メモリなどの記録媒体(リムーバブルメディア)に記録され、記録媒体ドライブを介してメモリ上に読み込まれた上で実行される。
[2. Software configuration]
The driving support device 10 includes an estimation unit 1, a generation unit 2, and a control unit 3. These are the functions of the driving support device 10 classified for convenience, and each element may be described as an independent program, or may be described as a composite program having these functions. Good. These programs are stored in a memory or an auxiliary storage device built in the driving support device 10 and executed by the processor. Alternatively, these programs are recorded on a recording medium (removable medium) such as an optical disk or a semiconductor memory, and are read into the memory via a recording medium drive and executed.

推定部1は、カメラ11で撮影された映像に画像解析処理を施して、自車両20の周囲に存在する障害物を認識するものである。カメラ11で撮影された映像に適切な処理を施すことで、映像中の障害物の位置,種類(他車両,自転車,物体,人など),移動速度などを把握することができる。障害物の検出手法には公知の手法(オプティカルフロー解析,パターンマッチングなど)が採用される。   The estimation unit 1 performs an image analysis process on the video imaged by the camera 11 to recognize an obstacle existing around the host vehicle 20. Appropriate processing is performed on the video imaged by the camera 11 so that the position, type (other vehicle, bicycle, object, person, etc.), moving speed, etc. of the obstacle in the video image can be grasped. Known methods (optical flow analysis, pattern matching, etc.) are employed as the obstacle detection method.

また、推定部1は認識されたそれぞれの障害物について、自車両20を基準とした相対位置(自車両20から障害物を見たときの方向)を推定する機能を持つ。本実施形態の推定部1は、図3に示すように、障害物の相対位置(存在方向)をおもに六方向に分類する。A方向は自車両20の左前方,B方向は左側方,C方向は左後方,D方向は右前方,E方向は右側方,F方向は右後方である。例えば、図4中の歩行者21はA方向に存在する障害物とみなされる。同様に、自転車22はB方向に存在し、バイク23(自動二輪車)はC方向に存在するものとみなされる。また、図5中の歩行者24,歩行者25,自転車26のそれぞれが存在する方向は、D方向,E方向,F方向となる。なお、障害物の相対位置(存在方向)は、カメラ11の撮影範囲とその障害物が映っている映像上の位置とに基づいて推定される。   In addition, the estimation unit 1 has a function of estimating a relative position (direction when the obstacle is viewed from the host vehicle 20) with respect to each recognized obstacle as a reference. As shown in FIG. 3, the estimation unit 1 of the present embodiment classifies the relative positions (existing directions) of obstacles mainly into six directions. The A direction is the left front of the host vehicle 20, the B direction is the left side, the C direction is the left rear, the D direction is the front right, the E direction is the right side, and the F direction is the right rear. For example, the pedestrian 21 in FIG. 4 is regarded as an obstacle existing in the A direction. Similarly, the bicycle 22 exists in the B direction, and the motorcycle 23 (motorcycle) is considered to exist in the C direction. Moreover, the directions in which each of the pedestrian 24, the pedestrian 25, and the bicycle 26 in FIG. 5 exist are the D direction, the E direction, and the F direction. The relative position (existing direction) of the obstacle is estimated based on the shooting range of the camera 11 and the position on the video where the obstacle is reflected.

さらに、推定部1は障害物の種類,相対位置,相対速度,衝突余裕時間(TTC,Time to Collision),衝突余裕度(MTC,Margin to Collision)などに基づき、障害物が自車両20に衝突する確率(換言すれば衝突リスク)を推定する機能を持つ。この確率が高いほど、衝突の可能性が高いものと判断される。具体的な確率の算出手法には公知の手法が採用される。   Further, the estimation unit 1 collides with the host vehicle 20 based on the type of obstacle, relative position, relative speed, collision margin time (TTC, Time to Collision), collision margin (MTC, Margin to Collision), and the like. It has a function to estimate the probability of performing (in other words, collision risk). The higher the probability, the higher the possibility of a collision. A known method is employed as a specific probability calculation method.

生成部2は、カメラ11の映像に基づき、車両外に設定された仮想的な視点からの俯瞰映像を生成するものである。俯瞰映像とは、カメラ11で撮影された映像に適切な画像処理を施すことによって得られる加工映像であって、自車両20や障害物を見下ろすような角度で自車両20の周囲を俯瞰して見せる映像である。画像処理の具体的な手法としては、ホモグラフィ行列を用いた平面射影変換や、三次元空間での投影処理などを採用することができる。   The generation unit 2 generates an overhead video from a virtual viewpoint set outside the vehicle based on the video of the camera 11. The bird's-eye view image is a processed image obtained by performing appropriate image processing on the image captured by the camera 11 and looks down at the surroundings of the host vehicle 20 at an angle that looks down on the host vehicle 20 or an obstacle. It is a video to show. As a specific method of image processing, planar projective transformation using a homography matrix, projection processing in a three-dimensional space, or the like can be employed.

例えば、カメラ11で撮影された映像中の障害物が所定の投影面(例えば、路面や仮想曲面)に投影されているものと仮定し、その投影面を任意の視点から眺めたときの形状を推定する。本実施形態の生成部2は、鉛直俯瞰映像(いわゆる2D映像)と傾斜俯瞰映像(いわゆる3Dマルチアラウンド映像)との二種類を生成する機能を持つ。なお、ホモグラフィ行列を用いた平面射影変換を実施する場合には、鉛直俯瞰映像,傾斜俯瞰映像のそれぞれの視点及び俯瞰方向に対応する要素を含むホモグラフィ行列を用いることで、鉛直俯瞰映像,傾斜俯瞰映像のそれぞれを容易に生成可能である。   For example, it is assumed that an obstacle in an image captured by the camera 11 is projected on a predetermined projection surface (for example, a road surface or a virtual curved surface), and the shape when the projection surface is viewed from an arbitrary viewpoint is shown. presume. The generation unit 2 of the present embodiment has a function of generating two types of vertical overhead video (so-called 2D video) and inclined overhead video (so-called 3D multi-around video). In addition, when performing the planar projective transformation using the homography matrix, by using the homography matrix including elements corresponding to the viewpoint and the overhead direction of the vertical overhead view image and the inclined overhead view image, Each tilted overhead view image can be easily generated.

鉛直俯瞰映像とは、自車両20を鉛直下方に見下ろした俯瞰映像である。つまり、少なくとも俯瞰方向が鉛直下方であれば、その映像は鉛直俯瞰映像である。鉛直俯瞰映像の視点位置は、好ましくは自車両20の鉛直上方に設定される。また、俯瞰映像内に自車両20が視認可能である限り、自車両20の鉛直上方からずれた位置に視点位置を設定してもよい。鉛直俯瞰映像の例を図6(A)の左側に示す。   The vertical bird's-eye view image is a bird's-eye view image of the host vehicle 20 looking down vertically. That is, if at least the overhead view direction is vertically downward, the video is a vertical overhead video. The viewpoint position of the vertical overhead view image is preferably set vertically above the host vehicle 20. Further, as long as the host vehicle 20 is visible in the bird's-eye view video, the viewpoint position may be set at a position shifted from vertically above the host vehicle 20. An example of a vertical overhead view image is shown on the left side of FIG.

傾斜俯瞰映像とは、自車両20を斜め下に見下ろした俯瞰映像である。つまり、鉛直俯瞰映像以外の俯瞰映像はすべて傾斜俯瞰映像となる。鉛直俯瞰映像の視点が好ましくは自車両20の鉛直上方であるのに対し、傾斜俯瞰映像の視点は任意の位置に設定される。また、鉛直俯瞰映像の俯瞰方向が鉛直下方向きであるのに対し、傾斜俯瞰映像の俯瞰方向は鉛直線に対して傾斜した方向に設定される。傾斜俯瞰映像の視点位置,俯瞰方向は、好ましくは障害物の種類に応じて、あるいは障害物の相対位置に応じて設定,変更される。   The tilted bird's-eye view image is a bird's-eye view image when the host vehicle 20 is looked down obliquely downward. That is, all the overhead view images other than the vertical overhead view image are tilted overhead view images. While the viewpoint of the vertical bird's-eye view image is preferably vertically above the host vehicle 20, the viewpoint of the tilted bird's-eye view image is set at an arbitrary position. Moreover, while the overhead view direction of the vertical overhead view image is vertically downward, the overhead view direction of the inclined overhead view image is set to a direction inclined with respect to the vertical line. The viewpoint position and the bird's-eye direction of the tilted bird's-eye view image are preferably set and changed according to the type of obstacle or according to the relative position of the obstacle.

生成部2は、自車両20と障害物とがともに含まれ、かつ、それらの相対的な位置関係が運転者にとってわかりやすいような俯瞰映像を、傾斜俯瞰映像として生成する。例えば、自車両20が右折しようとしている場合には、自車両20と自車両20の進行方向に近い障害物(自車両20から見て右側に存在する障害物)とがともに含まれる俯瞰映像を生成する。一方、自車両20が左折しようとしている場合には、自車両20と自車両20から見て左側に存在する障害物とがともに含まれる俯瞰映像を生成する。   The generation unit 2 generates an overhead view image that includes both the host vehicle 20 and the obstacle and that is easy for the driver to understand the relative positional relationship between them, as the inclined overhead view image. For example, when the host vehicle 20 is going to turn right, an overhead view image including both the host vehicle 20 and an obstacle close to the traveling direction of the host vehicle 20 (an obstacle present on the right side when viewed from the host vehicle 20) is displayed. Generate. On the other hand, when the host vehicle 20 is about to turn left, an overhead view image including both the host vehicle 20 and an obstacle existing on the left side when viewed from the host vehicle 20 is generated.

傾斜俯瞰映像の視点位置を障害物の種類に応じて変更する際には、以下のような手法を採用することが考えられる。
・障害物が歩行者であるとき、視点位置を自車両20の後方に設定する
・障害物が歩行者であるとき、上面視における俯瞰方向が障害物の移動方向に
垂直となる視点位置を設定する
・障害物が歩行者以外のとき、視点位置を自車両20の前方に設定する
・障害物が歩行者以外のとき、上面視における俯瞰方向が障害物の移動方向に
平行となる視点位置を設定する
When changing the viewpoint position of the tilted bird's-eye view image according to the type of obstacle, the following method may be adopted.
・ When the obstacle is a pedestrian, set the viewpoint position behind the vehicle 20 ・ When the obstacle is a pedestrian, set the viewpoint position where the overhead view in the top view is perpendicular to the movement direction of the obstacle・ When the obstacle is not a pedestrian, set the viewpoint position in front of the vehicle 20 ・ When the obstacle is a person other than the pedestrian, set the viewpoint position where the overhead view in the top view is parallel to the moving direction of the obstacle Set

例えば、歩行者は歩行中に立ち止まったり急に進行方向を変更したりする場合があるため、その歩行者の挙動の追跡が容易となるような視点からの俯瞰映像を提供することが好ましい。そこで、自車両20の後方に視点位置を設定することで、歩行者の動きがわかりやすくなるようにする。あるいは、歩行者の移動方向を横方向(上面視で移動方向に垂直な方向)から眺めることができるように視点位置を設定する。
一方、歩行者以外の障害物(例えば自動二輪車や自転車)は、急には止まらないことが多く、障害物の挙動を追跡することよりは自車両20との位置関係がわかりやすい俯瞰映像を提供することが好ましい。そこで、自車両20の前方に視点位置を設定することで、自車両20と障害物との距離がわかりやすくなるようにする。あるいは、障害物の移動方向に沿った方向(上面視で移動方向に平行な方向)から眺めることができるように視点位置を設定する。
For example, since a pedestrian may stop or suddenly change the direction of travel while walking, it is preferable to provide a bird's-eye view video from a viewpoint that makes it easy to track the behavior of the pedestrian. Therefore, the viewpoint position is set behind the host vehicle 20 so that the movement of the pedestrian can be easily understood. Alternatively, the viewpoint position is set so that the moving direction of the pedestrian can be viewed from the lateral direction (a direction perpendicular to the moving direction when viewed from above).
On the other hand, obstacles other than pedestrians (for example, motorcycles and bicycles) often do not stop suddenly, and provide a bird's-eye view image in which the positional relationship with the host vehicle 20 is easy to understand rather than tracking the behavior of the obstacles. It is preferable. Therefore, the viewpoint position is set in front of the host vehicle 20 so that the distance between the host vehicle 20 and the obstacle can be easily understood. Alternatively, the viewpoint position is set so that the object can be viewed from a direction along the moving direction of the obstacle (a direction parallel to the moving direction in a top view).

傾斜俯瞰映像の例を、図6(B)に示す。傾斜俯瞰映像は、カメラ11で撮影された映像を変換したものであり、実際の位置が投影面から離れているほど映像上ではゆがんで(大きく変形して)表示されることになる。しかし、その映像を視認した運転者は、他車両や人などの障害物がその位置に存在することを容易に把握することができる。なお、図6(B)に示されたような自車両20の映像は、あらかじめ用意された画像を傾斜俯瞰映像に合成したものとする。なぜならば、自車両20に設けられたカメラ11の撮影範囲には、自車両20自身が含まれないからである。   An example of the tilted overhead view video is shown in FIG. The tilted bird's-eye view image is obtained by converting the image taken by the camera 11, and the more the actual position is away from the projection plane, the more distorted (largely deformed) the image is displayed. However, the driver who visually recognizes the image can easily grasp that an obstacle such as another vehicle or a person exists at the position. Note that the video of the host vehicle 20 as shown in FIG. 6B is obtained by synthesizing an image prepared in advance with a tilted overhead video. This is because the shooting range of the camera 11 provided in the host vehicle 20 does not include the host vehicle 20 itself.

本実施形態の生成部2は、二種類の傾斜俯瞰映像を生成する機能を持つ。第一の傾斜俯瞰映像は、路面座標系を基準とした傾斜俯瞰映像(視点の位置が路面座標系上に固定された傾斜俯瞰映像)である。この傾斜俯瞰映像は、自車両20の動きと障害物の動きとの双方を客観的に観察できる俯瞰映像となる。第二の傾斜俯瞰映像は、車両座標系を基準とした傾斜俯瞰映像(視点の位置が車両座標系上に固定された傾斜俯瞰映像)である。この傾斜俯瞰映像は、自車両20の動きに追従する視点からの俯瞰映像となる。運転者は、これらの種類を好みに応じてあらかじめ設定しておく(客観表示モードのオン・オフを選択的に設定しておく)ことができるようになっている。例えば、傾斜俯瞰映像の表示モードとして「客観表示モード」が選択されている場合には前者が提供される。反対に「客観表示モード」が選択されていない場合には後者が提供される。   The generation unit 2 of the present embodiment has a function of generating two types of tilted overhead video. The first tilt bird's-eye view image is a tilt bird's-eye view image based on the road surface coordinate system (a tilt bird's-eye view image in which the position of the viewpoint is fixed on the road surface coordinate system). This tilted bird's-eye view video is a bird's-eye view video that allows objective observation of both the movement of the host vehicle 20 and the movement of the obstacle. The second tilted bird's-eye view image is a tilted bird's-eye view image based on the vehicle coordinate system (a tilted bird's-eye view image in which the position of the viewpoint is fixed on the vehicle coordinate system). This tilted bird's-eye view video is a bird's-eye view video from a viewpoint that follows the movement of the host vehicle 20. The driver can set these types in advance according to his / her preference (selectively setting on / off of the objective display mode). For example, when the “objective display mode” is selected as the display mode of the tilted overhead view video, the former is provided. Conversely, when the “objective display mode” is not selected, the latter is provided.

制御部3は、衝突の可能性が高いと判断された障害物の存在を運転者に報知するものである。制御部3は、自車両20と衝突する確率が所定値以上の障害物についての情報をディスプレイ15に表示させ、スピーカー16から音声案内を発話させる機能を持つ。障害物の報知条件を以下に列挙する。なお、本実施形態では、条件2中の「所定車速」が0〜30[km/h]の範囲内で設定されるものとする。また、交差点中心からの地図上での距離が数十[m]以内であることをもって、条件3が成立するものとする。   The control unit 3 notifies the driver of the presence of an obstacle determined to have a high possibility of collision. The control unit 3 has a function of causing the display 15 to display information on an obstacle having a probability of colliding with the host vehicle 20 of a predetermined value or more, and uttering voice guidance from the speaker 16. Obstacle notification conditions are listed below. In the present embodiment, the “predetermined vehicle speed” in condition 2 is set within a range of 0 to 30 [km / h]. In addition, Condition 3 is established when the distance on the map from the intersection center is within several tens [m].

条件1:衝突の確率が所定値以上の障害物が存在する。
条件2:自車両20の車速が所定車速以下である。
条件3:自車両20の位置が交差点付近である。
条件4:自車両20のウィンカーが作動中である。
Condition 1: There is an obstacle with a collision probability of a predetermined value or more.
Condition 2: The vehicle speed of the host vehicle 20 is a predetermined vehicle speed or less.
Condition 3: The position of the host vehicle 20 is near the intersection.
Condition 4: The winker of the host vehicle 20 is operating.

制御部3は、少なくとも条件1が成立した場合に音声案内を実施する。ディスプレイ15への情報表示は、条件1〜3のすべてが成立した場合に実施する。このとき、条件4が不成立の場合には鉛直俯瞰映像を表示し、条件4が成立する場合には傾斜俯瞰映像を表示する。つまり、交差点近傍を低速で走行している自車両20が右左折しようとした場合に限り、傾斜俯瞰映像がディスプレイ15に表示される。一方、交差点付近であっても自車両20が右左折しようとしていない場合には、鉛直俯瞰画像がディスプレイ15に表示される。このとき、ディスプレイ15がカーナビゲーションシステムの映像表示装置である場合には、カーナビゲーションシステムによる経路案内や地図表示が継続されるようにしてもよい。   The control unit 3 performs voice guidance when at least the condition 1 is satisfied. Information display on the display 15 is performed when all of the conditions 1 to 3 are satisfied. At this time, when the condition 4 is not satisfied, the vertical overhead image is displayed, and when the condition 4 is satisfied, the inclined overhead image is displayed. That is, the inclination overhead view image is displayed on the display 15 only when the host vehicle 20 traveling at a low speed in the vicinity of the intersection is going to turn right or left. On the other hand, if the host vehicle 20 is not about to turn right or left even near the intersection, a vertical overhead image is displayed on the display 15. At this time, when the display 15 is a video display device of a car navigation system, route guidance and map display by the car navigation system may be continued.

本実施形態の制御部3は、俯瞰映像中の障害物を強調して表示する機能を持つ。例えば図6(A),(B)中に示すように、障害物の周囲に矩形の破線枠を重畳させることによって、障害物の存在を強調する。あるいは、障害物の周囲の輝度を高めることによって、障害物の存在を強調してもよい。具体的な強調表示の手法としては、公知の手法を採用することができる。   The control unit 3 of the present embodiment has a function of highlighting and displaying obstacles in the overhead view video. For example, as shown in FIGS. 6A and 6B, the presence of an obstacle is emphasized by superimposing a rectangular dashed frame around the obstacle. Alternatively, the presence of an obstacle may be emphasized by increasing the brightness around the obstacle. As a specific highlighting technique, a known technique can be employed.

図6〜図11は、ディスプレイ15に表示される映像を例示するものである。
図6(A),(B)は、自車両20から見てA方向に障害物(歩行者)が存在する場合の映像例である。自車両20が左折しない場合(ウィンカーが作動していない場合)には、ディスプレイ15に鉛直俯瞰映像が表示される。このとき、図6(A)に示すように、ディスプレイ15の左側に鉛直俯瞰映像を表示しつつ、ディスプレイ15の右側にカメラ11の映像を表示させてもよい。一方、自車両20が左折する場合(ウィンカーが作動している場合)には、図6(B)に示すように、ディスプレイ15に自車両20の後方側からの傾斜俯瞰映像が表示される。傾斜俯瞰映像には、自車両20と障害物との相対的な位置関係がわかりやすく表現される。このとき、自車両20から見て左側の領域が多く含まれる傾斜俯瞰画像が提供されるように、視点位置を設定することが好ましい。また、視点位置は自車両20の後方以外の位置に設定してもよく、例えば自車両20の近傍(自車両20の側方)に設定してもよいし、上面視における俯瞰方向が障害物の移動方向に垂直となる位置に設定してもよい。傾斜俯瞰映像を提供することにより、歩行者との距離感や方角が運転者に直感的に把握されることになり、左前方の歩行者に対する運転者の注意が喚起される。したがって、運転支援効果が向上する。
6 to 11 exemplify videos displayed on the display 15.
6A and 6B are examples of images when an obstacle (pedestrian) is present in the A direction when viewed from the host vehicle 20. When the host vehicle 20 does not turn left (when the winker is not operating), a vertical overhead view image is displayed on the display 15. At this time, as shown in FIG. 6A, the video of the camera 11 may be displayed on the right side of the display 15 while the vertical overhead view video is displayed on the left side of the display 15. On the other hand, when the host vehicle 20 makes a left turn (when the winker is operating), as shown in FIG. 6B, a tilt overhead view image from the rear side of the host vehicle 20 is displayed on the display 15. The relative overhead relationship between the host vehicle 20 and the obstacle is easily expressed in the tilted overhead view video. At this time, it is preferable to set the viewpoint position so as to provide a tilted bird's-eye view image that includes a lot of the left region as viewed from the host vehicle 20. Further, the viewpoint position may be set to a position other than the rear of the host vehicle 20, for example, may be set in the vicinity of the host vehicle 20 (side of the host vehicle 20), and the overhead view in the top view is an obstacle. It may be set at a position perpendicular to the moving direction. By providing the tilted bird's-eye view image, the driver can intuitively grasp the sense of distance from the pedestrian and the direction, and the driver's attention is drawn to the left front pedestrian. Therefore, the driving support effect is improved.

図7(A)〜(C)は、自車両20から見てB方向に障害物(自転車)が存在する場合の映像例である。自車両20が左折しない場合(ウィンカーが作動していない場合)には、図7(A)に示すように、ディスプレイ15に鉛直俯瞰映像とカメラ11の映像とが表示される。一方、自車両20が左折する場合(ウィンカーが作動している場合)には、図7(B)に示すように、ディスプレイ15に自車両20から見て左側の領域が多く含まれる傾斜俯瞰画像が表示される。なお、図7(C)に示すように、自車両20の前方側からの傾斜俯瞰映像を表示してもよい。また、図6(B)の映像例と同様に、自車両20の近傍に視点位置を設定してもよいし、上面視における俯瞰方向が障害物の移動方向に平行となる視点位置を設定してもよい。傾斜俯瞰映像を提供することにより、左側方の自転車に対する運転者の注意が喚起され、運転支援効果が向上する。   7A to 7C are examples of images when an obstacle (bicycle) is present in the B direction when viewed from the host vehicle 20. When the host vehicle 20 does not turn left (when the winker is not operating), as shown in FIG. 7A, the vertical overhead view image and the image of the camera 11 are displayed on the display 15. On the other hand, when the host vehicle 20 turns to the left (when the winker is operating), as shown in FIG. 7B, the tilted overhead view image in which the display 15 includes a lot of the left region as viewed from the host vehicle 20. Is displayed. Note that, as shown in FIG. 7C, an oblique overhead view image from the front side of the host vehicle 20 may be displayed. 6B, a viewpoint position may be set in the vicinity of the host vehicle 20, or a viewpoint position in which the overhead view in the top view is parallel to the moving direction of the obstacle is set. May be. By providing the tilted overhead view image, the driver's attention is drawn to the left side bicycle, and the driving support effect is improved.

図8(A)〜(C)は、自車両20から見てC方向に障害物(自動二輪車)が存在する場合の映像例である。自車両20が左折しない場合(ウィンカーが作動していない場合)には、図8(A)に示すように、ディスプレイ15に鉛直俯瞰映像とカメラ11の映像とが表示される。一方、自車両20が左折する場合(ウィンカーが作動している場合)には、図8(B)に示すように、ディスプレイ15に自車両20から見て左側の領域が多く含まれる傾斜俯瞰画像が表示される。なお、図8(C)に示すように、自車両20の前方側からの傾斜俯瞰映像を表示してもよい。障害物が自転車である場合と同様に、自車両20の近傍に視点位置を設定してもよいし、上面視における俯瞰方向が障害物の移動方向に平行となる視点位置を設定してもよい。傾斜俯瞰映像を提供することにより、左後方の自動二輪車に対する運転者の注意が喚起され、運転支援効果が向上する。   8A to 8C are examples of images when an obstacle (motorcycle) is present in the C direction as viewed from the host vehicle 20. When the host vehicle 20 does not turn left (when the winker is not operating), as shown in FIG. 8A, the vertical overhead view image and the camera 11 image are displayed on the display 15. On the other hand, when the host vehicle 20 makes a left turn (when the winker is operating), as shown in FIG. 8B, a tilted overhead view image in which the display 15 includes a large area on the left side when viewed from the host vehicle 20. Is displayed. Note that, as shown in FIG. 8C, an oblique overhead view image from the front side of the host vehicle 20 may be displayed. Similarly to the case where the obstacle is a bicycle, the viewpoint position may be set in the vicinity of the host vehicle 20, or the viewpoint position where the overhead view in the top view is parallel to the moving direction of the obstacle may be set. . By providing the tilted overhead view image, the driver's attention is drawn to the left rear motorcycle, and the driving support effect is improved.

図9(A),(B)は、自車両20から見てD方向に障害物(歩行者)が存在する場合の映像例である。自車両20が右折しない場合(ウィンカーが作動していない場合)には、図9(A)に示すように、ディスプレイ15に鉛直俯瞰映像とカメラ11の映像とが表示される。一方、自車両20が右折する場合(ウィンカーが作動している場合)には、ディスプレイ15に自車両20から見て右側の領域が多く含まれる傾斜俯瞰映像が表示される。傾斜俯瞰映像の視点位置は、例えば自車両20の近傍に設定される。このとき、図9(B)に示すように、自車両20の後方に視点位置を設定してもよい。あるいは、上面視における俯瞰方向が障害物の移動方向に垂直となる位置に視点位置を設定してもよい。このような傾斜俯瞰映像を提供することで、右前方の歩行者に対する運転者の注意が喚起され、運転支援効果が向上する。   FIGS. 9A and 9B are examples of images when an obstacle (pedestrian) is present in the direction D as viewed from the host vehicle 20. When the host vehicle 20 does not turn right (when the winker is not operating), the vertical overhead view image and the camera 11 image are displayed on the display 15 as shown in FIG. On the other hand, when the host vehicle 20 turns to the right (when the winker is operating), the display 15 displays a tilted overhead view image including many areas on the right side when viewed from the host vehicle 20. The viewpoint position of the tilted bird's-eye view video is set in the vicinity of the host vehicle 20, for example. At this time, the viewpoint position may be set behind the host vehicle 20 as shown in FIG. Alternatively, the viewpoint position may be set to a position where the overhead view direction in the top view is perpendicular to the moving direction of the obstacle. By providing such an overhead view video, the driver's attention is drawn to the pedestrian on the right front, and the driving support effect is improved.

図10(A),(B)は、自車両20から見てE方向に障害物(歩行者)が存在する場合の映像例である。自車両20が右折しない場合(ウィンカーが作動していない場合)には、図10(A)に示すように、ディスプレイ15に鉛直俯瞰映像とカメラ11の映像とが表示される。一方、自車両20が右折する場合(ウィンカーが作動している場合)には、図10(B)に示すように、ディスプレイ15に傾斜俯瞰映像が表示される。傾斜俯瞰映像を提供することにより、右側方の歩行者に対する運転者の注意が喚起され、運転支援効果が向上する。   FIGS. 10A and 10B are examples of images when an obstacle (pedestrian) is present in the E direction as viewed from the host vehicle 20. When the host vehicle 20 does not turn right (when the winker is not operating), as shown in FIG. 10A, the vertical overhead view image and the image of the camera 11 are displayed on the display 15. On the other hand, when the host vehicle 20 makes a right turn (when the winker is operating), an inclined overhead view video is displayed on the display 15 as shown in FIG. By providing the tilted overhead view image, the driver's attention is drawn to the pedestrian on the right side, and the driving support effect is improved.

図11(A),(B)は、自車両20から見てC方向に障害物(自転車)が存在する場合の映像例である。自車両20が右折しない場合(ウィンカーが作動していない場合)には、図11(A)に示すように、ディスプレイ15に鉛直俯瞰映像とカメラ11の映像とが表示される。一方、自車両20が右折する場合(ウィンカーが作動している場合)には、図11(B)に示すように、ディスプレイ15に傾斜俯瞰映像が表示される。なお、図6(B)の映像例と同様に、傾斜俯瞰映像の視点位置を自車両20の前方に設定してもよい。傾斜俯瞰映像を提供することにより、右後方の自転車に対する運転者の注意が喚起され、運転支援効果が向上する。   FIGS. 11A and 11B are examples of images when an obstacle (bicycle) is present in the C direction as viewed from the host vehicle 20. When the host vehicle 20 does not turn right (when the winker is not operating), as shown in FIG. 11A, the vertical overhead view video and the video of the camera 11 are displayed on the display 15. On the other hand, when the host vehicle 20 makes a right turn (when the winker is operating), an inclined overhead view video is displayed on the display 15 as shown in FIG. Note that the viewpoint position of the tilted bird's-eye view image may be set in front of the host vehicle 20 as in the image example of FIG. By providing the tilted overhead view image, the driver's attention is drawn to the right rear bicycle, and the driving support effect is improved.

[3.フローチャート]
図12は、運転支援装置10で実施される制御内容を説明するためのフローチャート例である。このフローは所定の周期で繰り返し実施される。まず、入力装置11〜14で得られた各種情報が運転支援装置10へと入力される(ステップA1)。推定部1では、カメラ11で撮影された映像に画像解析処理が施され、障害物が存在する場合にはその存在が認識される(ステップA2)。また、認識された障害物の種類,相対位置,相対速度,衝突余裕時間,衝突余裕度などに基づき、衝突の確率が推定される(ステップA3)。
[3. flowchart]
FIG. 12 is an example of a flowchart for explaining the contents of control performed by the driving support device 10. This flow is repeatedly performed at a predetermined cycle. First, various information obtained by the input devices 11 to 14 is input to the driving support device 10 (step A1). The estimation unit 1 performs image analysis processing on the video imaged by the camera 11 and recognizes the presence of an obstacle (step A2). Further, the probability of collision is estimated based on the recognized type of obstacle, relative position, relative speed, collision margin time, collision margin, and the like (step A3).

その後、衝突の確率が所定値以上であるか否か(条件1)が判定される(ステップA4)。ここで、衝突の確率が所定値未満であれば、次回の実行周期まで本フローを終了する。一方、衝突の確率が所定値以上であれば、車速が所定車速以下であるか否か(条件2)が判定されるとともに(ステップA5)、自車両20が交差点付近に位置しているか否か(条件3)が判定される(ステップA6)。条件2,3のいずれかが不成立の場合には、制御部3が障害物の存在をスピーカー16からの音声で報知し(ステップA7)、次回の実行周期まで本フローを終了する。一方、条件2,3がともに成立する場合には、ウィンカーが作動中であるか否か(条件4)が判定される(ステップA8)。   Thereafter, it is determined whether or not the collision probability is equal to or higher than a predetermined value (condition 1) (step A4). Here, if the probability of collision is less than a predetermined value, this flow ends until the next execution cycle. On the other hand, if the collision probability is equal to or higher than a predetermined value, it is determined whether or not the vehicle speed is equal to or lower than the predetermined vehicle speed (condition 2) (step A5), and whether or not the own vehicle 20 is located near the intersection. (Condition 3) is determined (step A6). If either of the conditions 2 and 3 is not satisfied, the control unit 3 notifies the presence of an obstacle by voice from the speaker 16 (step A7), and this flow is terminated until the next execution cycle. On the other hand, if both conditions 2 and 3 are satisfied, it is determined whether or not the winker is operating (condition 4) (step A8).

ステップA8でウィンカーが作動していない場合、自車両20が直進しようとしているものと判断され、自車両20の直上から鉛直下方向きの俯瞰方向が設定され(ステップA9)、生成部2で鉛直俯瞰映像が生成される(ステップA10)。その後、鉛直俯瞰映像がディスプレイ15に表示されるとともに(ステップA16)、映像中の障害物が強調表示され(ステップA17)、障害物の存在がスピーカー16から音声で報知される(ステップA18)。   If the winker is not actuated at step A8, it is determined that the host vehicle 20 is going straight ahead, and an overhead view direction that is vertically downward is set directly above the host vehicle 20 (step A9). A video is generated (step A10). Thereafter, the vertical overhead view video is displayed on the display 15 (step A16), the obstacle in the video is highlighted (step A17), and the presence of the obstacle is notified by voice from the speaker 16 (step A18).

ステップA8でウィンカーが作動している場合、自車両20が右左折しようとしているものと判断され、自車両20と障害物との双方を見渡すことのできる視点位置及び俯瞰方向が設定され(ステップA11)、生成部2で傾斜俯瞰映像が生成される(ステップA12)。なお、自車両20の進行方向と障害物の存在する方向とが相違する場合には、ステップA11の代わりにステップA9へ進むようにしてもよい。
その後、傾斜俯瞰映像の表示モードが客観表示モードであるか否かが判定される(ステップA13)。ここで、客観表示モードが選択されている場合には、視点位置が路面座標系に固定される(ステップA14)。一方、客観表示モードが選択されていない場合には、視点位置が車両座標系に固定される(ステップA15)。また、傾斜俯瞰映像がディスプレイ15に表示されるとともに(ステップA16)、映像中の障害物が強調表示され(ステップA17)、障害物の存在がスピーカー16から音声で報知される(ステップA18)。
If the winker is operating in step A8, it is determined that the host vehicle 20 is going to turn left and right, and a viewpoint position and an overhead direction that can overlook both the host vehicle 20 and the obstacle are set (step A11). ), The inclined overhead view video is generated by the generation unit 2 (step A12). If the traveling direction of the host vehicle 20 is different from the direction in which the obstacle exists, the process may proceed to step A9 instead of step A11.
Thereafter, it is determined whether or not the display mode of the inclined overhead view video is the objective display mode (step A13). Here, when the objective display mode is selected, the viewpoint position is fixed to the road surface coordinate system (step A14). On the other hand, when the objective display mode is not selected, the viewpoint position is fixed to the vehicle coordinate system (step A15). In addition, an oblique overhead view video is displayed on the display 15 (step A16), an obstacle in the video is highlighted (step A17), and the presence of the obstacle is notified by voice from the speaker 16 (step A18).

[4.作用,効果]
(1)自車両20と障害物との衝突の確率が所定値以上である低速走行時に俯瞰映像を表示することで、運転者に障害物の存在を知らしめることができ、運転支援効果を高めることができる。また、車速が所定車速以上の場合には俯瞰映像を表示しないため、通常の運転操作を阻害することなく運転支援効果を改善でき、有益でない情報提供による煩雑さを回避することができる。
[4. Action, effect]
(1) By displaying a bird's-eye view image during low-speed traveling where the probability of a collision between the host vehicle 20 and an obstacle is a predetermined value or more, the driver can be informed of the presence of the obstacle and enhance the driving support effect. be able to. In addition, since the bird's-eye view image is not displayed when the vehicle speed is equal to or higher than the predetermined vehicle speed, the driving support effect can be improved without obstructing the normal driving operation, and the troublesomeness due to the provision of unhelpful information can be avoided.

(2)傾斜俯瞰映像を用いることで、自車両20と障害物との位置関係がわかりやすい客観的な映像を提供することができ、運転支援効果を改善できる。なお、鉛直俯瞰映像と比較して、傾斜俯瞰映像の方が奥行き方向の情報量が多いことから、運転者は自車両20の周囲の状況をより適切に把握することが可能となる。したがって、運転支援効果を高めることができる。   (2) By using the inclined overhead view video, it is possible to provide an objective video in which the positional relationship between the host vehicle 20 and the obstacle is easy to understand, and the driving support effect can be improved. In addition, since the amount of information in the depth direction is larger in the tilt overhead view image than in the vertical overhead view image, the driver can more appropriately grasp the situation around the host vehicle 20. Therefore, the driving support effect can be enhanced.

(3)ウィンカーの作動状態に応じて鉛直俯瞰映像と傾斜俯瞰映像とを切り替えることで、その後の自車両20の動き(右左折なのか直進なのか)に応じた種類の俯瞰映像を提供することができる。例えば、自車両20が交差点を直進する場合には、たとえ自車両20から見てA方向に歩行者が存在したとしても、その歩行者と自車両20との位置関係を傾斜俯瞰映像で提供する必然性は低い。上述の実施形態では、ウィンカーの作動状態に応じて俯瞰映像の種類が選択されるため、自車両20の走行状況に適した情報を提供することができ、運転支援効果を高めることができる。   (3) Providing a kind of overhead view video according to the subsequent movement of the vehicle 20 (whether it is turning right or left or straight ahead) by switching between the vertical overhead view image and the inclined overhead view image according to the operating state of the winker. Can do. For example, when the host vehicle 20 goes straight through an intersection, even if there is a pedestrian in the A direction when viewed from the host vehicle 20, the positional relationship between the pedestrian and the host vehicle 20 is provided as a tilted overhead video. The necessity is low. In the above-mentioned embodiment, since the kind of bird's-eye view image is selected according to the operating state of the blinker, information suitable for the traveling state of the host vehicle 20 can be provided, and the driving support effect can be enhanced.

(4)図6〜図11に示すように、障害物の種類に応じて俯瞰映像の視点位置,俯瞰方向を変更することで、障害物の種類に見合った俯瞰映像を提供することができ、運転支援効果を高めることができる。例えば、障害物が歩行者である場合には、その歩行者の急な方向転換や立ち止まり動作が把握しやすい俯瞰映像を提供することができる。一方、障害物が歩行者以外の場合には、自車両20との位置関係が把握しやすい俯瞰映像を提供することができる。
(5)図6〜図11に示すように、障害物の相対位置に応じて俯瞰映像の視点位置,俯瞰方向を変更することで、障害物の相対位置に見合った向きの俯瞰映像を提供することができ、運転支援効果を高めることができる。例えば、障害物が自車両20の左側に存在する場合には、自車両20から見て左側の領域が多く含まれる傾斜俯瞰画像が提供されるように、視点位置が設定される。一方、障害物が自車両20の右側に存在する場合には、自車両20から見て右側の領域が多く含まれる傾斜俯瞰画像が提供されるように、視点位置が設定される。これにより、運転支援効果を高めることができる。
(4) As shown in FIGS. 6 to 11, by changing the viewpoint position and the overhead direction of the overhead view video according to the type of the obstacle, it is possible to provide the overhead view video corresponding to the type of the obstacle, Driving support effect can be enhanced. For example, when the obstacle is a pedestrian, it is possible to provide a bird's-eye view image that makes it easy to grasp the pedestrian's sudden change of direction or stopping motion. On the other hand, when the obstacle is other than a pedestrian, it is possible to provide a bird's-eye view image that makes it easy to grasp the positional relationship with the host vehicle 20.
(5) As shown in FIGS. 6 to 11, by changing the viewpoint position and the overhead direction of the overhead view video according to the relative position of the obstacle, the overhead view video in the direction corresponding to the relative position of the obstacle is provided. And the driving support effect can be enhanced. For example, when an obstacle is present on the left side of the host vehicle 20, the viewpoint position is set so that an inclined overhead view image including a large area on the left side when viewed from the host vehicle 20 is provided. On the other hand, when an obstacle is present on the right side of the host vehicle 20, the viewpoint position is set so as to provide a tilted overhead image including many areas on the right side when viewed from the host vehicle 20. Thereby, the driving support effect can be enhanced.

(6)図6〜図11に示すように、俯瞰映像中の障害物を強調して表示することで、障害物に対する運転者の注意をより効果的に惹起することができ、運転支援効果を高めることができる。
(7)視点位置を路面座標系に固定することで、自車両20の動きと障害物の動きとの双方を客観的に観察できる俯瞰映像を提供することができ、運転支援効果を高めることができる。
(6) As shown in FIGS. 6 to 11, by highlighting the obstacles in the overhead view image, the driver's attention to the obstacles can be more effectively evoked, and the driving support effect can be obtained. Can be increased.
(7) By fixing the viewpoint position to the road surface coordinate system, it is possible to provide a bird's-eye view image that allows objective observation of both the movement of the host vehicle 20 and the movement of the obstacle, thereby enhancing the driving support effect. it can.

[5.変形例]
上述の実施形態では、カメラ11を用いて障害物を認識する運転支援装置10について詳述したが、カメラ11の代わりに電磁波や音波の反射波を用いて障害物を検出するレーダー装置を使用してもよい。また、カメラ11で撮影された映像中の白線や横断歩道,信号機などを認識することで、自車両20の位置が交差点近傍であるか否かを判断してもよい。これらの手法を採用した場合であっても、上述の実施形態と同様の作用・効果を奏する運転支援装置10を実現することができる。
[5. Modified example]
In the above-described embodiment, the driving support device 10 that recognizes an obstacle using the camera 11 has been described in detail. However, instead of the camera 11, a radar device that detects an obstacle using an electromagnetic wave or a reflected wave of a sound wave is used. May be. Further, by recognizing a white line, a pedestrian crossing, a traffic light, or the like in a video photographed by the camera 11, it may be determined whether or not the position of the host vehicle 20 is near the intersection. Even when these methods are employed, it is possible to realize the driving support device 10 that exhibits the same operations and effects as the above-described embodiment.

1 推定部
2 生成部
3 制御部
10 運転支援装置
11 カメラ
12 車速センサ
13 GPS装置
14 ウィンカーレバー
15 ディスプレイ
16 スピーカー
DESCRIPTION OF SYMBOLS 1 Estimation part 2 Generation | occurrence | production part 3 Control part 10 Driving assistance apparatus 11 Camera 12 Vehicle speed sensor 13 GPS apparatus 14 Winker lever 15 Display 16 Speaker

Claims (7)

車載カメラの映像に含まれる障害物を認識するとともに、前記障害物と車両とが衝突する確率を推定する推定部と、
前記映像に基づき、前記車両外に設定された仮想的な視点からの俯瞰映像を生成する生成部と、
少なくとも前記車両の車速が所定車速以下であって前記確率が所定値以上である場合に、前記俯瞰映像を車載ディスプレイに表示させる制御部と、を備える
ことを特徴とする、運転支援装置。
Recognizing an obstacle included in the image of the in-vehicle camera, and estimating an probability that the obstacle and the vehicle collide,
Based on the video, a generation unit that generates an overhead video from a virtual viewpoint set outside the vehicle;
And a control unit that displays the bird's-eye view video on a vehicle-mounted display when the vehicle speed is at or below a predetermined vehicle speed and the probability is at or above a predetermined value.
前記生成部が、前記車両を鉛直下方に見下ろした鉛直俯瞰映像と、前記視点から前記車両を斜め下に見下ろした傾斜俯瞰映像とを生成する
ことを特徴とする、請求項1記載の運転支援装置。
2. The driving support device according to claim 1, wherein the generation unit generates a vertical overhead view image in which the vehicle is looked down vertically and an inclined overhead view image in which the vehicle is looked down obliquely from the viewpoint. .
前記制御部が、前記車両のウィンカーの作動状態に応じて、前記鉛直俯瞰映像と前記傾斜俯瞰映像とを切り替えて表示する
ことを特徴とする、請求項2記載の運転支援装置。
The driving support device according to claim 2, wherein the control unit switches between the vertical overhead view image and the inclined overhead view image according to an operating state of the winker of the vehicle.
前記生成部が、前記障害物の種類に応じて前記俯瞰映像の視点位置または俯瞰方向を変更する
ことを特徴とする、請求項1〜3のいずれか1項に記載の運転支援装置。
The driving support device according to any one of claims 1 to 3, wherein the generation unit changes a viewpoint position or an overhead direction of the overhead view video according to a type of the obstacle.
前記生成部が、前記車両に対する前記障害物の相対位置に応じて前記俯瞰映像の視点位置または俯瞰方向を変更する
ことを特徴とする、請求項1〜4のいずれか1項に記載の運転支援装置。
The driving support according to any one of claims 1 to 4, wherein the generation unit changes a viewpoint position or an overhead direction of the overhead image according to a relative position of the obstacle with respect to the vehicle. apparatus.
前記制御部が、前記俯瞰映像中の前記障害物を強調して表示する
ことを特徴とする、請求項1〜5のいずれか1項に記載の運転支援装置。
The driving support device according to claim 1, wherein the control unit highlights and displays the obstacle in the overhead view video.
前記制御部が、交差点内における前記俯瞰映像の視点位置を路面座標系に固定する
ことを特徴とする、請求項1〜6のいずれか1項に記載の運転支援装置。
The driving support apparatus according to any one of claims 1 to 6, wherein the control unit fixes a viewpoint position of the bird's-eye view image in an intersection to a road surface coordinate system.
JP2016209798A 2016-10-26 2016-10-26 Driving support device Pending JP2018074286A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016209798A JP2018074286A (en) 2016-10-26 2016-10-26 Driving support device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016209798A JP2018074286A (en) 2016-10-26 2016-10-26 Driving support device

Publications (1)

Publication Number Publication Date
JP2018074286A true JP2018074286A (en) 2018-05-10

Family

ID=62111664

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016209798A Pending JP2018074286A (en) 2016-10-26 2016-10-26 Driving support device

Country Status (1)

Country Link
JP (1) JP2018074286A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020137583A1 (en) * 2018-12-26 2020-07-02 株式会社デンソー Image generation device and image display system
WO2020157901A1 (en) * 2019-01-31 2020-08-06 三菱電機株式会社 Driving assistance device
WO2021210134A1 (en) * 2020-04-16 2021-10-21 日本電信電話株式会社 Image transmission device, image transmission method, and program
JP7174389B1 (en) 2022-02-18 2022-11-17 株式会社ヒューマンサポートテクノロジー Object position estimation display device, method and program

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210321049A1 (en) * 2018-12-26 2021-10-14 Denso Corporation Image generation apparatus and image display system
JP2020107963A (en) * 2018-12-26 2020-07-09 株式会社デンソー Image generation device and image display system
US11863900B2 (en) 2018-12-26 2024-01-02 Denso Corporation Image generation apparatus and image display system for superimposition of three-dimensional objects into bird's view images
WO2020137583A1 (en) * 2018-12-26 2020-07-02 株式会社デンソー Image generation device and image display system
US11708032B2 (en) 2019-01-31 2023-07-25 Mitsubishi Electric Corporation Driving support device
JPWO2020157901A1 (en) * 2019-01-31 2021-09-09 三菱電機株式会社 Driving support device
JP7163418B2 (en) 2019-01-31 2022-10-31 三菱電機株式会社 Driving support device
CN113329913A (en) * 2019-01-31 2021-08-31 三菱电机株式会社 Driving support device
WO2020157901A1 (en) * 2019-01-31 2020-08-06 三菱電機株式会社 Driving assistance device
WO2021210134A1 (en) * 2020-04-16 2021-10-21 日本電信電話株式会社 Image transmission device, image transmission method, and program
JP7416219B2 (en) 2020-04-16 2024-01-17 日本電信電話株式会社 Video distribution device, video distribution method and program
JP7174389B1 (en) 2022-02-18 2022-11-17 株式会社ヒューマンサポートテクノロジー Object position estimation display device, method and program
JP2023120758A (en) * 2022-02-18 2023-08-30 株式会社ヒューマンサポートテクノロジー Object position estimation display device, method, and program

Similar Documents

Publication Publication Date Title
JP7397807B2 (en) Rider assistance system and method
JP4687160B2 (en) Perimeter monitoring device
US8717196B2 (en) Display apparatus for vehicle
US11034294B2 (en) Driving notification method and driving notification system
JP4745403B2 (en) Information processing apparatus and control method thereof
JP6592074B2 (en) Vehicle control device, vehicle control method, program, and information acquisition device
JP2019509534A (en) System and method for estimating future paths
US20210339679A1 (en) Interactive Safety System for Vehicles
US10618467B2 (en) Stereo image generating method using mono cameras in vehicle and providing method for omnidirectional image including distance information in vehicle
JPWO2018105135A1 (en) Vehicle peripheral information acquisition device and vehicle
JP2012071635A (en) Parking assistance device
JP2012071635A5 (en)
JP2006227811A (en) Driving support apparatus
JP5516988B2 (en) Parking assistance device
US20210316721A1 (en) Vehicle and method of controlling the same
US11082616B2 (en) Overlooking image generation system for vehicle and method thereof
JP4601505B2 (en) Top-view image generation apparatus and top-view image display method
JP2011048520A (en) Device and method for monitoring vehicle periphery
JP2018074286A (en) Driving support device
JP2010198428A (en) On-vehicle system
US10347126B2 (en) Driving assistance device
WO2018173454A1 (en) Information display device, information display method, and program
JP2023165721A (en) display control device
JP2007025739A (en) Image display device for vehicle
WO2020148957A1 (en) Vehicle control device and method