JP2018074286A - Driving support device - Google Patents
Driving support device Download PDFInfo
- Publication number
- JP2018074286A JP2018074286A JP2016209798A JP2016209798A JP2018074286A JP 2018074286 A JP2018074286 A JP 2018074286A JP 2016209798 A JP2016209798 A JP 2016209798A JP 2016209798 A JP2016209798 A JP 2016209798A JP 2018074286 A JP2018074286 A JP 2018074286A
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- obstacle
- video
- driving support
- host vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
Description
本発明は、車両外に設定された視点(仮想的な視点)からの俯瞰映像をディスプレイに表示することで、運転者に障害物の存在を報知する運転支援装置に関する。 The present invention relates to a driving support apparatus that notifies a driver of the presence of an obstacle by displaying a bird's-eye view video from a viewpoint (virtual viewpoint) set outside a vehicle on a display.
従来、車載カメラで撮影された映像に画像処理を施すことによって、車両外に設定された視点(仮想的な視点)からの俯瞰映像、すなわち、車両を空から見下ろしているような映像を生成する技術が開発されている。画像処理の具体的な手法としては、ホモグラフィ行列を用いた平面射影変換や、三次元空間での投影処理などが知られている。このような技術を用いることで、車両周囲の客観的な状況をわかりやすい映像で運転者に提供することができ、運転支援効果を高めることができる(特許文献1,2参照)。
Conventionally, by performing image processing on a video captured by an in-vehicle camera, an overhead view video from a viewpoint (virtual viewpoint) set outside the vehicle, that is, a video looking down on the vehicle from the sky is generated. Technology has been developed. As specific methods of image processing, planar projective transformation using a homography matrix, projection processing in a three-dimensional space, and the like are known. By using such a technique, the objective situation around the vehicle can be provided to the driver with an easy-to-understand video, and the driving support effect can be enhanced (see
ところで、上記のような俯瞰映像は、運転者によって注視されうるものであることから、車両の走行中にはむやみに表示させないことが望ましい。一方、車両と障害物との衝突リスク低減の観点からは、車両の走行中であっても俯瞰映像を表示させて、運転支援効果を高めることが望ましい場合もある。例えば、交差点での左折時に車両周囲の状況を俯瞰映像で提供すれば、運転者は車両の左側に存在する自動二輪車や自転車に気付きやすくなり、巻き込み衝突を回避可能となる。従来の運転支援装置ではこのような俯瞰映像の提供手法が確立されておらず、運転支援効果を高める上で改善の余地がある。 By the way, since the bird's-eye view video as described above can be watched by the driver, it is desirable not to display it unnecessarily while the vehicle is traveling. On the other hand, from the viewpoint of reducing the risk of collision between the vehicle and the obstacle, it may be desirable to display a bird's-eye view image even when the vehicle is traveling to enhance the driving support effect. For example, if the situation around the vehicle is provided as a bird's-eye view when making a left turn at an intersection, the driver can easily notice a motorcycle or a bicycle on the left side of the vehicle, and can avoid a collision. The conventional driving support apparatus has not established such a method for providing an overhead view image, and there is room for improvement in enhancing the driving support effect.
本件の目的の一つは、上記のような課題に鑑みて創案されたものであり、運転支援効果を改善しうる運転支援装置を提供することである。なお、この目的に限らず、後述する「発明を実施するための形態」に示す各構成から導き出される作用効果であって、従来の技術では得られない作用効果を奏することも、本件の他の目的として位置付けることができる。 One of the purposes of the present case was created in view of the above-described problems, and is to provide a driving support device that can improve the driving support effect. It should be noted that the present invention is not limited to this purpose, and is an operational effect that is derived from each configuration shown in “Mode for Carrying Out the Invention” to be described later. Can be positioned as a purpose.
(1)開示の運転支援装置は、車載カメラの映像に含まれる障害物を認識するとともに、前記障害物と車両とが衝突する確率を推定する推定部を備える。また、前記映像に基づき、前記車両外に設定された仮想的な視点からの俯瞰映像を生成する生成部を備える。さらに、少なくとも前記車両の車速が所定車速以下であって前記確率が所定値以上である場合に、前記俯瞰映像を車載ディスプレイに表示させる制御部を備える。
なお、前記障害物とは前記車両の周囲に存在する「対象」であって、前記車両が衝突する可能性のあるものを意味する。前記障害物には、他車両,自転車,物体,人などが含まれる。
(1) The disclosed driving support apparatus includes an estimation unit that recognizes an obstacle included in the video of the in-vehicle camera and estimates a probability that the obstacle and the vehicle collide. Moreover, the production | generation part which produces | generates the bird's-eye view image from the virtual viewpoint set out of the said vehicle based on the said image | video is provided. Furthermore, a control unit is provided that displays the overhead image on an in-vehicle display when at least the vehicle speed of the vehicle is equal to or lower than a predetermined vehicle speed and the probability is equal to or higher than a predetermined value.
The obstacle means a “target” existing around the vehicle and may cause the vehicle to collide. The obstacle includes other vehicles, bicycles, objects, people, and the like.
(2)前記生成部が、前記車両を鉛直下方に見下ろした鉛直俯瞰映像と、前記視点から前記車両を斜め下に見下ろした傾斜俯瞰映像とを生成することが好ましい。
(3)前記制御部が、前記車両のウィンカーの作動状態に応じて、前記鉛直俯瞰映像と前記傾斜俯瞰映像とを切り替えて表示することが好ましい。例えば、前記制御部が、前記ウィンカーの非作動時に前記鉛直俯瞰映像を表示し、前記ウィンカーの作動時に前記傾斜俯瞰映像を表示することが好ましい。
(4)前記生成部が、前記障害物の種類に応じて前記俯瞰映像の視点位置または俯瞰方向を変更することが好ましい。
(2) It is preferable that the generation unit generates a vertical overhead view image in which the vehicle is looked down vertically and a tilted overhead view image in which the vehicle is looked down obliquely from the viewpoint.
(3) It is preferable that the said control part switches and displays the said vertical bird's-eye view image and the said inclination bird's-eye view image according to the operating state of the blinker of the said vehicle. For example, it is preferable that the control unit displays the vertical overhead image when the winker is not operated, and displays the tilt overhead image when the winker is operated.
(4) It is preferable that the said production | generation part changes the viewpoint position or overhead direction of the said bird's-eye view image | video according to the kind of said obstruction.
(5)前記生成部が、前記車両に対する前記障害物の相対位置に応じて前記俯瞰映像の視点位置または俯瞰方向を変更することが好ましい。
(6)前記制御部が、前記俯瞰映像中の前記障害物を強調して表示することが好ましい。例えば、前記制御部が、前記俯瞰映像中で前記障害物の位置を表すマークを前記障害物に重畳させて表示することが好ましい。
(7)前記制御部が、交差点内における前記俯瞰映像の視点位置を路面座標系に固定することが好ましい。
(5) It is preferable that the said production | generation part changes the viewpoint position or overhead direction of the said bird's-eye view image | video according to the relative position of the said obstruction with respect to the said vehicle.
(6) It is preferable that the said control part emphasizes and displays the said obstruction in the said bird's-eye view image | video. For example, it is preferable that the control unit displays a mark representing the position of the obstacle in the overhead view so as to be superimposed on the obstacle.
(7) It is preferable that the said control part fixes the viewpoint position of the said bird's-eye view image in an intersection to a road surface coordinate system.
車両と障害物との衝突確率が所定値以上となる低速走行時に俯瞰映像を表示することで、運転者に障害物の存在を知らしめることができ、運転支援効果を高めることができる。 By displaying a bird's-eye view image during low-speed traveling where the collision probability between the vehicle and the obstacle is a predetermined value or more, the driver can be informed of the presence of the obstacle, and the driving support effect can be enhanced.
図面を参照して、実施形態としての運転支援装置について説明する。なお、以下に示す実施形態はあくまでも例示に過ぎず、以下の実施形態で明示しない種々の変形や技術の適用を排除する意図はない。本実施形態の各構成は、それらの趣旨を逸脱しない範囲で種々変形して実施することができる。また、必要に応じて取捨選択することができ、あるいは適宜組み合わせることができる。 A driving assistance apparatus as an embodiment will be described with reference to the drawings. Note that the embodiment described below is merely an example, and there is no intention to exclude various modifications and technical applications that are not explicitly described in the following embodiment. Each configuration of the present embodiment can be implemented with various modifications without departing from the spirit thereof. Further, they can be selected as necessary, or can be appropriately combined.
[1.ハードウェア構成]
図1は、本実施形態の運転支援装置10の機能を説明するためのブロック図である。運転支援装置10は、車両に搭載される電子制御装置(コンピュータ)であり、車両周囲の障害物を自動的に検出して運転者に報知する機能(注意警告機能)を持つ。本実施形態の運転支援装置10は、障害物の種類や相対距離,相対速度などから障害物に対する衝突リスクを推定し、衝突リスクが高い障害物に関する情報を運転者に報知する機能を持つ。ここでいう障害物とは、車両の周囲に存在する「対象」であって、車両が衝突する可能性のあるものを意味する。障害物には、他車両,自転車,物体,人などが含まれる。以下、運転支援装置10が搭載された自車両に符号20を付して説明する。
[1. Hardware configuration]
FIG. 1 is a block diagram for explaining functions of the
運転支援装置10には、プロセッサ(中央処理装置),メモリ(メインメモリ,主記憶装置),補助記憶装置,インタフェース装置,記録媒体ドライブなどが内蔵される。図1に示すように、運転支援装置10の入力側には、カメラ11(車載カメラ),車速センサ12,GPS(Global Positioning System)装置13,ウィンカーレバー14が接続される。以下、これらを総称して入力装置11〜14と呼ぶ。一方、運転支援装置10の出力側には、ディスプレイ15(車載ディスプレイ),スピーカー16(車載スピーカー)が接続される。以下、これらを総称して出力装置15,16と呼ぶ。
The
カメラ11は、自車両20の周囲の画像(静止画や動画などの映像)を撮影する撮像装置であり、例えば撮像素子〔CCD(Charge-Coupled Device),CMOS(Complementary Metal-Oxide-Semiconductor)など〕を内蔵したビデオカメラである。図2に示す自車両20は、車体の前後左右にカメラ11が設置されたものである。各々の撮影範囲を合成することで、自車両20の周囲全体の状況を把握することができる。
The
車速センサ12は自車両20の走行速度(車速)を検出し、GPS装置13は車両位置(例えば、緯度,経度,標高)に関する測位情報を検出する。また、GPS装置13は、内蔵された地図情報との照合により、自車両20の位置が交差点付近であるか否か(交差点からの距離が所定距離以下であるか否か)を判断する機能を持つ。ウィンカーレバー14はウィンカー(方向指示器)の作動状態を制御するためのスイッチであり、運転者によって操作される。これらの入力装置11〜14で得られた各種情報は運転支援装置10に入力される。
The
出力装置15,16は、運転支援装置10の制御対象となる装置である。ディスプレイ15,スピーカー16は、カメラ11で撮影された画像やGPS装置13で検出された測位情報,自車両20の周辺の地図,運転支援装置10での制御内容などを出力するものである。自車両20にカーナビゲーションシステムやカーオーディオシステム,マルチメディアシステムなどが搭載されている場合には、ディスプレイ15,スピーカー16に代えて、あるいは加えて、これらのシステムに含まれる汎用の映像表示装置,音声出力装置を利用してもよい。
The
[2.ソフトウェア構成]
運転支援装置10には、推定部1,生成部2,制御部3が設けられる。これらは、運転支援装置10の機能を便宜的に分類して示したものであり、個々の要素を独立したプログラムとして記述してもよいし、これらの機能を兼ね備えた複合プログラムとして記述してもよい。これらのプログラムは、運転支援装置10に内蔵されたメモリや補助記憶装置に記憶され、プロセッサによって実行される。あるいは、これらのプログラムが光ディスクや半導体メモリなどの記録媒体(リムーバブルメディア)に記録され、記録媒体ドライブを介してメモリ上に読み込まれた上で実行される。
[2. Software configuration]
The driving
推定部1は、カメラ11で撮影された映像に画像解析処理を施して、自車両20の周囲に存在する障害物を認識するものである。カメラ11で撮影された映像に適切な処理を施すことで、映像中の障害物の位置,種類(他車両,自転車,物体,人など),移動速度などを把握することができる。障害物の検出手法には公知の手法(オプティカルフロー解析,パターンマッチングなど)が採用される。
The
また、推定部1は認識されたそれぞれの障害物について、自車両20を基準とした相対位置(自車両20から障害物を見たときの方向)を推定する機能を持つ。本実施形態の推定部1は、図3に示すように、障害物の相対位置(存在方向)をおもに六方向に分類する。A方向は自車両20の左前方,B方向は左側方,C方向は左後方,D方向は右前方,E方向は右側方,F方向は右後方である。例えば、図4中の歩行者21はA方向に存在する障害物とみなされる。同様に、自転車22はB方向に存在し、バイク23(自動二輪車)はC方向に存在するものとみなされる。また、図5中の歩行者24,歩行者25,自転車26のそれぞれが存在する方向は、D方向,E方向,F方向となる。なお、障害物の相対位置(存在方向)は、カメラ11の撮影範囲とその障害物が映っている映像上の位置とに基づいて推定される。
In addition, the
さらに、推定部1は障害物の種類,相対位置,相対速度,衝突余裕時間(TTC,Time to Collision),衝突余裕度(MTC,Margin to Collision)などに基づき、障害物が自車両20に衝突する確率(換言すれば衝突リスク)を推定する機能を持つ。この確率が高いほど、衝突の可能性が高いものと判断される。具体的な確率の算出手法には公知の手法が採用される。
Further, the
生成部2は、カメラ11の映像に基づき、車両外に設定された仮想的な視点からの俯瞰映像を生成するものである。俯瞰映像とは、カメラ11で撮影された映像に適切な画像処理を施すことによって得られる加工映像であって、自車両20や障害物を見下ろすような角度で自車両20の周囲を俯瞰して見せる映像である。画像処理の具体的な手法としては、ホモグラフィ行列を用いた平面射影変換や、三次元空間での投影処理などを採用することができる。
The
例えば、カメラ11で撮影された映像中の障害物が所定の投影面(例えば、路面や仮想曲面)に投影されているものと仮定し、その投影面を任意の視点から眺めたときの形状を推定する。本実施形態の生成部2は、鉛直俯瞰映像(いわゆる2D映像)と傾斜俯瞰映像(いわゆる3Dマルチアラウンド映像)との二種類を生成する機能を持つ。なお、ホモグラフィ行列を用いた平面射影変換を実施する場合には、鉛直俯瞰映像,傾斜俯瞰映像のそれぞれの視点及び俯瞰方向に対応する要素を含むホモグラフィ行列を用いることで、鉛直俯瞰映像,傾斜俯瞰映像のそれぞれを容易に生成可能である。
For example, it is assumed that an obstacle in an image captured by the
鉛直俯瞰映像とは、自車両20を鉛直下方に見下ろした俯瞰映像である。つまり、少なくとも俯瞰方向が鉛直下方であれば、その映像は鉛直俯瞰映像である。鉛直俯瞰映像の視点位置は、好ましくは自車両20の鉛直上方に設定される。また、俯瞰映像内に自車両20が視認可能である限り、自車両20の鉛直上方からずれた位置に視点位置を設定してもよい。鉛直俯瞰映像の例を図6(A)の左側に示す。
The vertical bird's-eye view image is a bird's-eye view image of the
傾斜俯瞰映像とは、自車両20を斜め下に見下ろした俯瞰映像である。つまり、鉛直俯瞰映像以外の俯瞰映像はすべて傾斜俯瞰映像となる。鉛直俯瞰映像の視点が好ましくは自車両20の鉛直上方であるのに対し、傾斜俯瞰映像の視点は任意の位置に設定される。また、鉛直俯瞰映像の俯瞰方向が鉛直下方向きであるのに対し、傾斜俯瞰映像の俯瞰方向は鉛直線に対して傾斜した方向に設定される。傾斜俯瞰映像の視点位置,俯瞰方向は、好ましくは障害物の種類に応じて、あるいは障害物の相対位置に応じて設定,変更される。
The tilted bird's-eye view image is a bird's-eye view image when the
生成部2は、自車両20と障害物とがともに含まれ、かつ、それらの相対的な位置関係が運転者にとってわかりやすいような俯瞰映像を、傾斜俯瞰映像として生成する。例えば、自車両20が右折しようとしている場合には、自車両20と自車両20の進行方向に近い障害物(自車両20から見て右側に存在する障害物)とがともに含まれる俯瞰映像を生成する。一方、自車両20が左折しようとしている場合には、自車両20と自車両20から見て左側に存在する障害物とがともに含まれる俯瞰映像を生成する。
The
傾斜俯瞰映像の視点位置を障害物の種類に応じて変更する際には、以下のような手法を採用することが考えられる。
・障害物が歩行者であるとき、視点位置を自車両20の後方に設定する
・障害物が歩行者であるとき、上面視における俯瞰方向が障害物の移動方向に
垂直となる視点位置を設定する
・障害物が歩行者以外のとき、視点位置を自車両20の前方に設定する
・障害物が歩行者以外のとき、上面視における俯瞰方向が障害物の移動方向に
平行となる視点位置を設定する
When changing the viewpoint position of the tilted bird's-eye view image according to the type of obstacle, the following method may be adopted.
・ When the obstacle is a pedestrian, set the viewpoint position behind the
例えば、歩行者は歩行中に立ち止まったり急に進行方向を変更したりする場合があるため、その歩行者の挙動の追跡が容易となるような視点からの俯瞰映像を提供することが好ましい。そこで、自車両20の後方に視点位置を設定することで、歩行者の動きがわかりやすくなるようにする。あるいは、歩行者の移動方向を横方向(上面視で移動方向に垂直な方向)から眺めることができるように視点位置を設定する。
一方、歩行者以外の障害物(例えば自動二輪車や自転車)は、急には止まらないことが多く、障害物の挙動を追跡することよりは自車両20との位置関係がわかりやすい俯瞰映像を提供することが好ましい。そこで、自車両20の前方に視点位置を設定することで、自車両20と障害物との距離がわかりやすくなるようにする。あるいは、障害物の移動方向に沿った方向(上面視で移動方向に平行な方向)から眺めることができるように視点位置を設定する。
For example, since a pedestrian may stop or suddenly change the direction of travel while walking, it is preferable to provide a bird's-eye view video from a viewpoint that makes it easy to track the behavior of the pedestrian. Therefore, the viewpoint position is set behind the
On the other hand, obstacles other than pedestrians (for example, motorcycles and bicycles) often do not stop suddenly, and provide a bird's-eye view image in which the positional relationship with the
傾斜俯瞰映像の例を、図6(B)に示す。傾斜俯瞰映像は、カメラ11で撮影された映像を変換したものであり、実際の位置が投影面から離れているほど映像上ではゆがんで(大きく変形して)表示されることになる。しかし、その映像を視認した運転者は、他車両や人などの障害物がその位置に存在することを容易に把握することができる。なお、図6(B)に示されたような自車両20の映像は、あらかじめ用意された画像を傾斜俯瞰映像に合成したものとする。なぜならば、自車両20に設けられたカメラ11の撮影範囲には、自車両20自身が含まれないからである。
An example of the tilted overhead view video is shown in FIG. The tilted bird's-eye view image is obtained by converting the image taken by the
本実施形態の生成部2は、二種類の傾斜俯瞰映像を生成する機能を持つ。第一の傾斜俯瞰映像は、路面座標系を基準とした傾斜俯瞰映像(視点の位置が路面座標系上に固定された傾斜俯瞰映像)である。この傾斜俯瞰映像は、自車両20の動きと障害物の動きとの双方を客観的に観察できる俯瞰映像となる。第二の傾斜俯瞰映像は、車両座標系を基準とした傾斜俯瞰映像(視点の位置が車両座標系上に固定された傾斜俯瞰映像)である。この傾斜俯瞰映像は、自車両20の動きに追従する視点からの俯瞰映像となる。運転者は、これらの種類を好みに応じてあらかじめ設定しておく(客観表示モードのオン・オフを選択的に設定しておく)ことができるようになっている。例えば、傾斜俯瞰映像の表示モードとして「客観表示モード」が選択されている場合には前者が提供される。反対に「客観表示モード」が選択されていない場合には後者が提供される。
The
制御部3は、衝突の可能性が高いと判断された障害物の存在を運転者に報知するものである。制御部3は、自車両20と衝突する確率が所定値以上の障害物についての情報をディスプレイ15に表示させ、スピーカー16から音声案内を発話させる機能を持つ。障害物の報知条件を以下に列挙する。なお、本実施形態では、条件2中の「所定車速」が0〜30[km/h]の範囲内で設定されるものとする。また、交差点中心からの地図上での距離が数十[m]以内であることをもって、条件3が成立するものとする。
The
条件1:衝突の確率が所定値以上の障害物が存在する。
条件2:自車両20の車速が所定車速以下である。
条件3:自車両20の位置が交差点付近である。
条件4:自車両20のウィンカーが作動中である。
Condition 1: There is an obstacle with a collision probability of a predetermined value or more.
Condition 2: The vehicle speed of the
Condition 3: The position of the
Condition 4: The winker of the
制御部3は、少なくとも条件1が成立した場合に音声案内を実施する。ディスプレイ15への情報表示は、条件1〜3のすべてが成立した場合に実施する。このとき、条件4が不成立の場合には鉛直俯瞰映像を表示し、条件4が成立する場合には傾斜俯瞰映像を表示する。つまり、交差点近傍を低速で走行している自車両20が右左折しようとした場合に限り、傾斜俯瞰映像がディスプレイ15に表示される。一方、交差点付近であっても自車両20が右左折しようとしていない場合には、鉛直俯瞰画像がディスプレイ15に表示される。このとき、ディスプレイ15がカーナビゲーションシステムの映像表示装置である場合には、カーナビゲーションシステムによる経路案内や地図表示が継続されるようにしてもよい。
The
本実施形態の制御部3は、俯瞰映像中の障害物を強調して表示する機能を持つ。例えば図6(A),(B)中に示すように、障害物の周囲に矩形の破線枠を重畳させることによって、障害物の存在を強調する。あるいは、障害物の周囲の輝度を高めることによって、障害物の存在を強調してもよい。具体的な強調表示の手法としては、公知の手法を採用することができる。
The
図6〜図11は、ディスプレイ15に表示される映像を例示するものである。
図6(A),(B)は、自車両20から見てA方向に障害物(歩行者)が存在する場合の映像例である。自車両20が左折しない場合(ウィンカーが作動していない場合)には、ディスプレイ15に鉛直俯瞰映像が表示される。このとき、図6(A)に示すように、ディスプレイ15の左側に鉛直俯瞰映像を表示しつつ、ディスプレイ15の右側にカメラ11の映像を表示させてもよい。一方、自車両20が左折する場合(ウィンカーが作動している場合)には、図6(B)に示すように、ディスプレイ15に自車両20の後方側からの傾斜俯瞰映像が表示される。傾斜俯瞰映像には、自車両20と障害物との相対的な位置関係がわかりやすく表現される。このとき、自車両20から見て左側の領域が多く含まれる傾斜俯瞰画像が提供されるように、視点位置を設定することが好ましい。また、視点位置は自車両20の後方以外の位置に設定してもよく、例えば自車両20の近傍(自車両20の側方)に設定してもよいし、上面視における俯瞰方向が障害物の移動方向に垂直となる位置に設定してもよい。傾斜俯瞰映像を提供することにより、歩行者との距離感や方角が運転者に直感的に把握されることになり、左前方の歩行者に対する運転者の注意が喚起される。したがって、運転支援効果が向上する。
6 to 11 exemplify videos displayed on the
6A and 6B are examples of images when an obstacle (pedestrian) is present in the A direction when viewed from the
図7(A)〜(C)は、自車両20から見てB方向に障害物(自転車)が存在する場合の映像例である。自車両20が左折しない場合(ウィンカーが作動していない場合)には、図7(A)に示すように、ディスプレイ15に鉛直俯瞰映像とカメラ11の映像とが表示される。一方、自車両20が左折する場合(ウィンカーが作動している場合)には、図7(B)に示すように、ディスプレイ15に自車両20から見て左側の領域が多く含まれる傾斜俯瞰画像が表示される。なお、図7(C)に示すように、自車両20の前方側からの傾斜俯瞰映像を表示してもよい。また、図6(B)の映像例と同様に、自車両20の近傍に視点位置を設定してもよいし、上面視における俯瞰方向が障害物の移動方向に平行となる視点位置を設定してもよい。傾斜俯瞰映像を提供することにより、左側方の自転車に対する運転者の注意が喚起され、運転支援効果が向上する。
7A to 7C are examples of images when an obstacle (bicycle) is present in the B direction when viewed from the
図8(A)〜(C)は、自車両20から見てC方向に障害物(自動二輪車)が存在する場合の映像例である。自車両20が左折しない場合(ウィンカーが作動していない場合)には、図8(A)に示すように、ディスプレイ15に鉛直俯瞰映像とカメラ11の映像とが表示される。一方、自車両20が左折する場合(ウィンカーが作動している場合)には、図8(B)に示すように、ディスプレイ15に自車両20から見て左側の領域が多く含まれる傾斜俯瞰画像が表示される。なお、図8(C)に示すように、自車両20の前方側からの傾斜俯瞰映像を表示してもよい。障害物が自転車である場合と同様に、自車両20の近傍に視点位置を設定してもよいし、上面視における俯瞰方向が障害物の移動方向に平行となる視点位置を設定してもよい。傾斜俯瞰映像を提供することにより、左後方の自動二輪車に対する運転者の注意が喚起され、運転支援効果が向上する。
8A to 8C are examples of images when an obstacle (motorcycle) is present in the C direction as viewed from the
図9(A),(B)は、自車両20から見てD方向に障害物(歩行者)が存在する場合の映像例である。自車両20が右折しない場合(ウィンカーが作動していない場合)には、図9(A)に示すように、ディスプレイ15に鉛直俯瞰映像とカメラ11の映像とが表示される。一方、自車両20が右折する場合(ウィンカーが作動している場合)には、ディスプレイ15に自車両20から見て右側の領域が多く含まれる傾斜俯瞰映像が表示される。傾斜俯瞰映像の視点位置は、例えば自車両20の近傍に設定される。このとき、図9(B)に示すように、自車両20の後方に視点位置を設定してもよい。あるいは、上面視における俯瞰方向が障害物の移動方向に垂直となる位置に視点位置を設定してもよい。このような傾斜俯瞰映像を提供することで、右前方の歩行者に対する運転者の注意が喚起され、運転支援効果が向上する。
FIGS. 9A and 9B are examples of images when an obstacle (pedestrian) is present in the direction D as viewed from the
図10(A),(B)は、自車両20から見てE方向に障害物(歩行者)が存在する場合の映像例である。自車両20が右折しない場合(ウィンカーが作動していない場合)には、図10(A)に示すように、ディスプレイ15に鉛直俯瞰映像とカメラ11の映像とが表示される。一方、自車両20が右折する場合(ウィンカーが作動している場合)には、図10(B)に示すように、ディスプレイ15に傾斜俯瞰映像が表示される。傾斜俯瞰映像を提供することにより、右側方の歩行者に対する運転者の注意が喚起され、運転支援効果が向上する。
FIGS. 10A and 10B are examples of images when an obstacle (pedestrian) is present in the E direction as viewed from the
図11(A),(B)は、自車両20から見てC方向に障害物(自転車)が存在する場合の映像例である。自車両20が右折しない場合(ウィンカーが作動していない場合)には、図11(A)に示すように、ディスプレイ15に鉛直俯瞰映像とカメラ11の映像とが表示される。一方、自車両20が右折する場合(ウィンカーが作動している場合)には、図11(B)に示すように、ディスプレイ15に傾斜俯瞰映像が表示される。なお、図6(B)の映像例と同様に、傾斜俯瞰映像の視点位置を自車両20の前方に設定してもよい。傾斜俯瞰映像を提供することにより、右後方の自転車に対する運転者の注意が喚起され、運転支援効果が向上する。
FIGS. 11A and 11B are examples of images when an obstacle (bicycle) is present in the C direction as viewed from the
[3.フローチャート]
図12は、運転支援装置10で実施される制御内容を説明するためのフローチャート例である。このフローは所定の周期で繰り返し実施される。まず、入力装置11〜14で得られた各種情報が運転支援装置10へと入力される(ステップA1)。推定部1では、カメラ11で撮影された映像に画像解析処理が施され、障害物が存在する場合にはその存在が認識される(ステップA2)。また、認識された障害物の種類,相対位置,相対速度,衝突余裕時間,衝突余裕度などに基づき、衝突の確率が推定される(ステップA3)。
[3. flowchart]
FIG. 12 is an example of a flowchart for explaining the contents of control performed by the driving
その後、衝突の確率が所定値以上であるか否か(条件1)が判定される(ステップA4)。ここで、衝突の確率が所定値未満であれば、次回の実行周期まで本フローを終了する。一方、衝突の確率が所定値以上であれば、車速が所定車速以下であるか否か(条件2)が判定されるとともに(ステップA5)、自車両20が交差点付近に位置しているか否か(条件3)が判定される(ステップA6)。条件2,3のいずれかが不成立の場合には、制御部3が障害物の存在をスピーカー16からの音声で報知し(ステップA7)、次回の実行周期まで本フローを終了する。一方、条件2,3がともに成立する場合には、ウィンカーが作動中であるか否か(条件4)が判定される(ステップA8)。
Thereafter, it is determined whether or not the collision probability is equal to or higher than a predetermined value (condition 1) (step A4). Here, if the probability of collision is less than a predetermined value, this flow ends until the next execution cycle. On the other hand, if the collision probability is equal to or higher than a predetermined value, it is determined whether or not the vehicle speed is equal to or lower than the predetermined vehicle speed (condition 2) (step A5), and whether or not the
ステップA8でウィンカーが作動していない場合、自車両20が直進しようとしているものと判断され、自車両20の直上から鉛直下方向きの俯瞰方向が設定され(ステップA9)、生成部2で鉛直俯瞰映像が生成される(ステップA10)。その後、鉛直俯瞰映像がディスプレイ15に表示されるとともに(ステップA16)、映像中の障害物が強調表示され(ステップA17)、障害物の存在がスピーカー16から音声で報知される(ステップA18)。
If the winker is not actuated at step A8, it is determined that the
ステップA8でウィンカーが作動している場合、自車両20が右左折しようとしているものと判断され、自車両20と障害物との双方を見渡すことのできる視点位置及び俯瞰方向が設定され(ステップA11)、生成部2で傾斜俯瞰映像が生成される(ステップA12)。なお、自車両20の進行方向と障害物の存在する方向とが相違する場合には、ステップA11の代わりにステップA9へ進むようにしてもよい。
その後、傾斜俯瞰映像の表示モードが客観表示モードであるか否かが判定される(ステップA13)。ここで、客観表示モードが選択されている場合には、視点位置が路面座標系に固定される(ステップA14)。一方、客観表示モードが選択されていない場合には、視点位置が車両座標系に固定される(ステップA15)。また、傾斜俯瞰映像がディスプレイ15に表示されるとともに(ステップA16)、映像中の障害物が強調表示され(ステップA17)、障害物の存在がスピーカー16から音声で報知される(ステップA18)。
If the winker is operating in step A8, it is determined that the
Thereafter, it is determined whether or not the display mode of the inclined overhead view video is the objective display mode (step A13). Here, when the objective display mode is selected, the viewpoint position is fixed to the road surface coordinate system (step A14). On the other hand, when the objective display mode is not selected, the viewpoint position is fixed to the vehicle coordinate system (step A15). In addition, an oblique overhead view video is displayed on the display 15 (step A16), an obstacle in the video is highlighted (step A17), and the presence of the obstacle is notified by voice from the speaker 16 (step A18).
[4.作用,効果]
(1)自車両20と障害物との衝突の確率が所定値以上である低速走行時に俯瞰映像を表示することで、運転者に障害物の存在を知らしめることができ、運転支援効果を高めることができる。また、車速が所定車速以上の場合には俯瞰映像を表示しないため、通常の運転操作を阻害することなく運転支援効果を改善でき、有益でない情報提供による煩雑さを回避することができる。
[4. Action, effect]
(1) By displaying a bird's-eye view image during low-speed traveling where the probability of a collision between the
(2)傾斜俯瞰映像を用いることで、自車両20と障害物との位置関係がわかりやすい客観的な映像を提供することができ、運転支援効果を改善できる。なお、鉛直俯瞰映像と比較して、傾斜俯瞰映像の方が奥行き方向の情報量が多いことから、運転者は自車両20の周囲の状況をより適切に把握することが可能となる。したがって、運転支援効果を高めることができる。
(2) By using the inclined overhead view video, it is possible to provide an objective video in which the positional relationship between the
(3)ウィンカーの作動状態に応じて鉛直俯瞰映像と傾斜俯瞰映像とを切り替えることで、その後の自車両20の動き(右左折なのか直進なのか)に応じた種類の俯瞰映像を提供することができる。例えば、自車両20が交差点を直進する場合には、たとえ自車両20から見てA方向に歩行者が存在したとしても、その歩行者と自車両20との位置関係を傾斜俯瞰映像で提供する必然性は低い。上述の実施形態では、ウィンカーの作動状態に応じて俯瞰映像の種類が選択されるため、自車両20の走行状況に適した情報を提供することができ、運転支援効果を高めることができる。
(3) Providing a kind of overhead view video according to the subsequent movement of the vehicle 20 (whether it is turning right or left or straight ahead) by switching between the vertical overhead view image and the inclined overhead view image according to the operating state of the winker. Can do. For example, when the
(4)図6〜図11に示すように、障害物の種類に応じて俯瞰映像の視点位置,俯瞰方向を変更することで、障害物の種類に見合った俯瞰映像を提供することができ、運転支援効果を高めることができる。例えば、障害物が歩行者である場合には、その歩行者の急な方向転換や立ち止まり動作が把握しやすい俯瞰映像を提供することができる。一方、障害物が歩行者以外の場合には、自車両20との位置関係が把握しやすい俯瞰映像を提供することができる。
(5)図6〜図11に示すように、障害物の相対位置に応じて俯瞰映像の視点位置,俯瞰方向を変更することで、障害物の相対位置に見合った向きの俯瞰映像を提供することができ、運転支援効果を高めることができる。例えば、障害物が自車両20の左側に存在する場合には、自車両20から見て左側の領域が多く含まれる傾斜俯瞰画像が提供されるように、視点位置が設定される。一方、障害物が自車両20の右側に存在する場合には、自車両20から見て右側の領域が多く含まれる傾斜俯瞰画像が提供されるように、視点位置が設定される。これにより、運転支援効果を高めることができる。
(4) As shown in FIGS. 6 to 11, by changing the viewpoint position and the overhead direction of the overhead view video according to the type of the obstacle, it is possible to provide the overhead view video corresponding to the type of the obstacle, Driving support effect can be enhanced. For example, when the obstacle is a pedestrian, it is possible to provide a bird's-eye view image that makes it easy to grasp the pedestrian's sudden change of direction or stopping motion. On the other hand, when the obstacle is other than a pedestrian, it is possible to provide a bird's-eye view image that makes it easy to grasp the positional relationship with the
(5) As shown in FIGS. 6 to 11, by changing the viewpoint position and the overhead direction of the overhead view video according to the relative position of the obstacle, the overhead view video in the direction corresponding to the relative position of the obstacle is provided. And the driving support effect can be enhanced. For example, when an obstacle is present on the left side of the
(6)図6〜図11に示すように、俯瞰映像中の障害物を強調して表示することで、障害物に対する運転者の注意をより効果的に惹起することができ、運転支援効果を高めることができる。
(7)視点位置を路面座標系に固定することで、自車両20の動きと障害物の動きとの双方を客観的に観察できる俯瞰映像を提供することができ、運転支援効果を高めることができる。
(6) As shown in FIGS. 6 to 11, by highlighting the obstacles in the overhead view image, the driver's attention to the obstacles can be more effectively evoked, and the driving support effect can be obtained. Can be increased.
(7) By fixing the viewpoint position to the road surface coordinate system, it is possible to provide a bird's-eye view image that allows objective observation of both the movement of the
[5.変形例]
上述の実施形態では、カメラ11を用いて障害物を認識する運転支援装置10について詳述したが、カメラ11の代わりに電磁波や音波の反射波を用いて障害物を検出するレーダー装置を使用してもよい。また、カメラ11で撮影された映像中の白線や横断歩道,信号機などを認識することで、自車両20の位置が交差点近傍であるか否かを判断してもよい。これらの手法を採用した場合であっても、上述の実施形態と同様の作用・効果を奏する運転支援装置10を実現することができる。
[5. Modified example]
In the above-described embodiment, the driving
1 推定部
2 生成部
3 制御部
10 運転支援装置
11 カメラ
12 車速センサ
13 GPS装置
14 ウィンカーレバー
15 ディスプレイ
16 スピーカー
DESCRIPTION OF
Claims (7)
前記映像に基づき、前記車両外に設定された仮想的な視点からの俯瞰映像を生成する生成部と、
少なくとも前記車両の車速が所定車速以下であって前記確率が所定値以上である場合に、前記俯瞰映像を車載ディスプレイに表示させる制御部と、を備える
ことを特徴とする、運転支援装置。 Recognizing an obstacle included in the image of the in-vehicle camera, and estimating an probability that the obstacle and the vehicle collide,
Based on the video, a generation unit that generates an overhead video from a virtual viewpoint set outside the vehicle;
And a control unit that displays the bird's-eye view video on a vehicle-mounted display when the vehicle speed is at or below a predetermined vehicle speed and the probability is at or above a predetermined value.
ことを特徴とする、請求項1記載の運転支援装置。 2. The driving support device according to claim 1, wherein the generation unit generates a vertical overhead view image in which the vehicle is looked down vertically and an inclined overhead view image in which the vehicle is looked down obliquely from the viewpoint. .
ことを特徴とする、請求項2記載の運転支援装置。 The driving support device according to claim 2, wherein the control unit switches between the vertical overhead view image and the inclined overhead view image according to an operating state of the winker of the vehicle.
ことを特徴とする、請求項1〜3のいずれか1項に記載の運転支援装置。 The driving support device according to any one of claims 1 to 3, wherein the generation unit changes a viewpoint position or an overhead direction of the overhead view video according to a type of the obstacle.
ことを特徴とする、請求項1〜4のいずれか1項に記載の運転支援装置。 The driving support according to any one of claims 1 to 4, wherein the generation unit changes a viewpoint position or an overhead direction of the overhead image according to a relative position of the obstacle with respect to the vehicle. apparatus.
ことを特徴とする、請求項1〜5のいずれか1項に記載の運転支援装置。 The driving support device according to claim 1, wherein the control unit highlights and displays the obstacle in the overhead view video.
ことを特徴とする、請求項1〜6のいずれか1項に記載の運転支援装置。 The driving support apparatus according to any one of claims 1 to 6, wherein the control unit fixes a viewpoint position of the bird's-eye view image in an intersection to a road surface coordinate system.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016209798A JP2018074286A (en) | 2016-10-26 | 2016-10-26 | Driving support device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016209798A JP2018074286A (en) | 2016-10-26 | 2016-10-26 | Driving support device |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018074286A true JP2018074286A (en) | 2018-05-10 |
Family
ID=62111664
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016209798A Pending JP2018074286A (en) | 2016-10-26 | 2016-10-26 | Driving support device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018074286A (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020137583A1 (en) * | 2018-12-26 | 2020-07-02 | 株式会社デンソー | Image generation device and image display system |
WO2020157901A1 (en) * | 2019-01-31 | 2020-08-06 | 三菱電機株式会社 | Driving assistance device |
WO2021210134A1 (en) * | 2020-04-16 | 2021-10-21 | 日本電信電話株式会社 | Image transmission device, image transmission method, and program |
JP7174389B1 (en) | 2022-02-18 | 2022-11-17 | 株式会社ヒューマンサポートテクノロジー | Object position estimation display device, method and program |
-
2016
- 2016-10-26 JP JP2016209798A patent/JP2018074286A/en active Pending
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210321049A1 (en) * | 2018-12-26 | 2021-10-14 | Denso Corporation | Image generation apparatus and image display system |
JP2020107963A (en) * | 2018-12-26 | 2020-07-09 | 株式会社デンソー | Image generation device and image display system |
US11863900B2 (en) | 2018-12-26 | 2024-01-02 | Denso Corporation | Image generation apparatus and image display system for superimposition of three-dimensional objects into bird's view images |
WO2020137583A1 (en) * | 2018-12-26 | 2020-07-02 | 株式会社デンソー | Image generation device and image display system |
US11708032B2 (en) | 2019-01-31 | 2023-07-25 | Mitsubishi Electric Corporation | Driving support device |
JPWO2020157901A1 (en) * | 2019-01-31 | 2021-09-09 | 三菱電機株式会社 | Driving support device |
JP7163418B2 (en) | 2019-01-31 | 2022-10-31 | 三菱電機株式会社 | Driving support device |
CN113329913A (en) * | 2019-01-31 | 2021-08-31 | 三菱电机株式会社 | Driving support device |
WO2020157901A1 (en) * | 2019-01-31 | 2020-08-06 | 三菱電機株式会社 | Driving assistance device |
WO2021210134A1 (en) * | 2020-04-16 | 2021-10-21 | 日本電信電話株式会社 | Image transmission device, image transmission method, and program |
JP7416219B2 (en) | 2020-04-16 | 2024-01-17 | 日本電信電話株式会社 | Video distribution device, video distribution method and program |
JP7174389B1 (en) | 2022-02-18 | 2022-11-17 | 株式会社ヒューマンサポートテクノロジー | Object position estimation display device, method and program |
JP2023120758A (en) * | 2022-02-18 | 2023-08-30 | 株式会社ヒューマンサポートテクノロジー | Object position estimation display device, method, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7397807B2 (en) | Rider assistance system and method | |
JP4687160B2 (en) | Perimeter monitoring device | |
US8717196B2 (en) | Display apparatus for vehicle | |
US11034294B2 (en) | Driving notification method and driving notification system | |
JP4745403B2 (en) | Information processing apparatus and control method thereof | |
JP6592074B2 (en) | Vehicle control device, vehicle control method, program, and information acquisition device | |
JP2019509534A (en) | System and method for estimating future paths | |
US20210339679A1 (en) | Interactive Safety System for Vehicles | |
US10618467B2 (en) | Stereo image generating method using mono cameras in vehicle and providing method for omnidirectional image including distance information in vehicle | |
JPWO2018105135A1 (en) | Vehicle peripheral information acquisition device and vehicle | |
JP2012071635A (en) | Parking assistance device | |
JP2012071635A5 (en) | ||
JP2006227811A (en) | Driving support apparatus | |
JP5516988B2 (en) | Parking assistance device | |
US20210316721A1 (en) | Vehicle and method of controlling the same | |
US11082616B2 (en) | Overlooking image generation system for vehicle and method thereof | |
JP4601505B2 (en) | Top-view image generation apparatus and top-view image display method | |
JP2011048520A (en) | Device and method for monitoring vehicle periphery | |
JP2018074286A (en) | Driving support device | |
JP2010198428A (en) | On-vehicle system | |
US10347126B2 (en) | Driving assistance device | |
WO2018173454A1 (en) | Information display device, information display method, and program | |
JP2023165721A (en) | display control device | |
JP2007025739A (en) | Image display device for vehicle | |
WO2020148957A1 (en) | Vehicle control device and method |