JP2019046071A - Information providing device and information provision method - Google Patents

Information providing device and information provision method Download PDF

Info

Publication number
JP2019046071A
JP2019046071A JP2017167386A JP2017167386A JP2019046071A JP 2019046071 A JP2019046071 A JP 2019046071A JP 2017167386 A JP2017167386 A JP 2017167386A JP 2017167386 A JP2017167386 A JP 2017167386A JP 2019046071 A JP2019046071 A JP 2019046071A
Authority
JP
Japan
Prior art keywords
vehicle
image
virtual
image representing
host vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017167386A
Other languages
Japanese (ja)
Other versions
JP7088643B2 (en
Inventor
竜樹 久保
Tatsuki Kubo
竜樹 久保
環 武内
Tamaki Takeuchi
環 武内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2017167386A priority Critical patent/JP7088643B2/en
Priority to US16/040,836 priority patent/US20190066382A1/en
Publication of JP2019046071A publication Critical patent/JP2019046071A/en
Application granted granted Critical
Publication of JP7088643B2 publication Critical patent/JP7088643B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)

Abstract

To provide an information providing technique with which it is possible to give a sense of safety to people aboard the own vehicle.SOLUTION: The information providing device comprises a generation unit for generating an image that represents a virtual vehicle, and a superimposition unit for superimposing the image that represents the virtual vehicle on a landscape image that represents a landscape around the own vehicle. The image that represents the virtual vehicle is superimposed on an area that corresponds to a location in the landscape image where the own vehicle travel from now. The location where the own vehicle travels from now moves along a scheduled travel route to the destination of the own vehicle, and, with at least one intermediate location is set on the scheduled travel route, when the location where the own vehicle travels from now passes through the intermediate location, an afterimage that represents the virtual vehicle is superimposed on an area in the landscape image that corresponds to the intermediate location.SELECTED DRAWING: Figure 1

Description

本発明は、車両の乗員に情報を提供する技術に関する。   The present invention relates to a technology for providing information to a vehicle occupant.

近年、自動運転機能を有する車両の開発が精力的に進められている。例えば、運転者の操作が不要な自動運転によって駐車を行うことができる車両が市販されている。   In recent years, development of vehicles having an automatic driving function has been vigorously promoted. For example, there are commercially available vehicles that can perform parking by automatic driving that requires no driver's operation.

特開2016−182891号公報JP, 2016-182891, A

しかしながら、従来の自動運転機能を有する車両は、自動運転において当該車両がこれからどのような挙動をするかを乗員に予め知らせることができなかったので、自動運転中の当該車両の挙動に不慣れな乗員に恐怖感を抱かせるおそれがあった。   However, a vehicle having a conventional automatic driving function can not notify the occupant in advance of how the vehicle will behave in automatic driving, so an occupant unfamiliar with the behavior of the vehicle in automatic driving Was afraid to

なお、特許文献1で開示されている車輌用画像表示システムでは、自動運転システムが自車輌に予定した走行行動と異なる予定外の走行行動を取らせようとする場合に、事前に予定外の走行行動を仮想車輌によって視覚的に表すイメージ画像を予告表示している。特許文献1で開示されている車輌用画像表示システムは、自動運転システムが自車輌に予定した走行行動と異なる予定外の走行行動を取らせようとする場合を想定しているため、自動運転システムが自車輌に予定した走行行動を取らせている場合に仮想車輌を含むイメージ画像を表示することができない。   In the image display system for a vehicle disclosed in Patent Document 1, when the autonomous driving system tries to cause the vehicle to take an unscheduled traveling action different from the planned traveling action, the unplanned traveling is performed in advance. An image of the action visually represented by a virtual vehicle is displayed in advance. The image display system for a vehicle disclosed in Patent Document 1 assumes that the autonomous driving system tries to cause the vehicle to take an unscheduled traveling action different from the planned traveling action. Can not display an image including a virtual vehicle when it causes the own vehicle to take a planned running action.

また、自動運転でない場合でも、車両に慣れ親しんでいない乗員であれば、これからの車両の走行に対する見通しがたっていないと、不安感を抱くおそれがある。   In addition, even in the case of not being driven automatically, an occupant who is not familiar with the vehicle may feel anxious when the prospect of the vehicle traveling from now on is not clear.

本発明は、上記課題に鑑みて、自車両の乗員に安心感を与えることができる情報提供技術を提供することを目的とする。   An object of the present invention is to provide an information providing technology capable of giving a sense of security to an occupant of a host vehicle in view of the above-mentioned problems.

本発明に係る情報提供装置は、仮想車両を表す像を生成する生成部と、自車両の周辺の風景を表す風景画像に前記仮想車両を表す像を重畳する重畳部と、を備え、前記仮想車両を表す像は、前記風景画像中の前記自車両がこれから走行する位置に対応する領域に重畳され、前記自車両がこれから走行する位置は、前記自車両の目的地までの走行予定経路に沿って移動するとともに、前記走行予定経路上に少なくとも一つの中間位置を設け、前記自車両がこれから走行する位置が前記中間位置を通過すると、前記仮想車両を表す像の残像が前記風景画像中の前記中間位置に対応する領域に重畳される構成(第1の構成)である。   An information providing apparatus according to the present invention includes a generation unit that generates an image representing a virtual vehicle, and a superimposing unit that superimposes an image representing the virtual vehicle on a landscape image representing a landscape around the host vehicle. The image representing the vehicle is superimposed on the area corresponding to the position where the vehicle in the landscape image is to travel from now, and the position at which the vehicle is traveling from now is along the planned travel route to the destination of the vehicle. And at least one intermediate position is provided on the planned travel route, and when the position where the own vehicle travels from now passes the intermediate position, the afterimage of the image representing the virtual vehicle is the one in the landscape image. It is the composition (the 1st composition) superimposed on the field corresponding to an intermediate position.

上記第1の構成の情報提供装置において、前記仮想車両を表す像は、前記風景画像中において、前記自車両の現在位置に出現し、その後前記目的地まで移動する構成(第2の構成)であってもよい。   In the information providing apparatus of the first configuration, the image representing the virtual vehicle appears at the current position of the vehicle in the landscape image and then moves to the destination (second configuration) It may be.

上記第1または第2の構成の情報提供装置において、前記自車両が自動運転を行ってこれから走行する位置が前記中間位置を通過すると、前記仮想車両を表す像の残像が前記風景画像中の前記中間位置に対応する領域に重畳される構成(第3の構成)であってもよい。   In the information providing apparatus of the first or second configuration, when the position where the host vehicle is driving automatically and the position where the host vehicle is traveling passes the intermediate position, an afterimage of an image representing the virtual vehicle is the image in the landscape image. The configuration (third configuration) may be superimposed on the area corresponding to the intermediate position.

上記第1〜第3いずれかの構成の情報提供装置において、前記仮想車両を表す像の残像は、前記仮想車両を表す像と異なる態様である構成(第4の構成)であってもよい。   In the information providing device according to any one of the first to third configurations, the afterimage of the image representing the virtual vehicle may be a configuration (fourth configuration) different from the image representing the virtual vehicle.

上記第1〜第4いずれかの構成の情報提供装置において、前記中間位置は、前記自車両の進行方向が切り替わる位置である構成(第5の構成)であってもよい。   In the information provision device according to any one of the first to fourth configurations, the intermediate position may be a configuration (fifth configuration) where the traveling direction of the host vehicle is switched.

上記第1〜第5いずれかの構成の情報提供装置において、前記生成部は、前記自車両がこれから走行する位置が移動した移動経路を表す像を生成し、前記重畳部は、前記風景画像に前記移動経路を表す像を重畳する構成(第6の構成)であってもよい。   In the information provision device according to any one of the first to fifth configurations, the generation unit generates an image representing a movement route along which the position where the host vehicle is traveling has moved, and the superposition unit is configured to A configuration (sixth configuration) may be adopted in which an image representing the movement path is superimposed.

本発明に係る情報提供方法は、仮想車両を表す像を生成する生成工程と、自車両の周辺の風景を表す風景画像に前記仮想車両を表す像を重畳する重畳工程と、を備え、前記仮想車両を表す像は、前記風景画像中の前記自車両がこれから走行する位置に対応する領域に重畳され、前記自車両がこれから走行する位置は、前記自車両の目的地までの走行予定経路に沿って移動するとともに、前記走行予定経路上に少なくとも一つの中間位置を設け、前記自車両がこれから走行する位置が前記中間位置を通過すると、前記仮想車両を表す像の残像が前記風景画像中の前記中間位置に対応する領域に重畳される構成(第7の構成)である。   An information providing method according to the present invention includes a generation step of generating an image representing a virtual vehicle, and a superimposing step of superimposing an image representing the virtual vehicle on a landscape image representing a scenery around the host vehicle. The image representing the vehicle is superimposed on the area corresponding to the position where the vehicle in the landscape image is to travel from now, and the position at which the vehicle is traveling from now is along the planned travel route to the destination of the vehicle. And at least one intermediate position is provided on the planned travel route, and when the position where the own vehicle travels from now passes the intermediate position, the afterimage of the image representing the virtual vehicle is the one in the landscape image. It is a configuration (seventh configuration) superimposed on the area corresponding to the intermediate position.

本発明によると、自車両がこれからどのような挙動をするかを自車両の乗員に予め知らせることができるので、自車両の乗員に安心感を与えることができる。   According to the present invention, since it is possible to notify in advance to the occupant of the host vehicle what behavior the host vehicle will perform from now on, it is possible to give a sense of security to the occupant of the host vehicle.

情報提供装置の構成例を示す図Diagram showing an example of the configuration of an information providing apparatus 4つの車載カメラが車両に配置される位置を例示する図A diagram illustrating the position where four on-board cameras are placed on the vehicle 仮想投影面の例を示す図Figure showing an example of a virtual projection plane 情報提供装置の動作例を示すフローチャートFlow chart showing an operation example of the information providing apparatus 出力画像の一例を示す図A diagram showing an example of an output image 出力画像の一例を示す図A diagram showing an example of an output image 出力画像の一例を示す図A diagram showing an example of an output image 出力画像の一例を示す図A diagram showing an example of an output image 出力画像の一例を示す図A diagram showing an example of an output image 出力画像の一例を示す図A diagram showing an example of an output image 出力画像の一例を示す図A diagram showing an example of an output image 出力画像の一例を示す図A diagram showing an example of an output image 出力画像の一例を示す図A diagram showing an example of an output image

以下、本発明の例示的な実施形態について、図面を参照しながら詳細に説明する。   Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the drawings.

<1.情報提供装置の構成例>
図1は情報提供装置の構成例を示す図である。図1に示す情報提供装置201は、例えば自動車などの車両に搭載されている。以下、情報提供装置201が搭載される車両を「自車両」という。また、自車両の直進進行方向であって、運転席からステアリングに向かう方向を「前方」という。また、自車両の直進進行方向であって、ステアリングから運転席に向かう方向を「後方」という。また、自車両の直進進行方向及び鉛直線に垂直な方向であって、前方向を向いている運転手の右側から左側に向かう方向を「左方向」という。また、自車両の直進進行方向及び鉛直線に垂直な方向であって、前方向を向いている運転手の左側から右側に向かう方向を「右方向」という。
<1. Configuration Example of Information Providing Device>
FIG. 1 is a diagram showing an example of the configuration of an information providing apparatus. The information providing device 201 illustrated in FIG. 1 is mounted on a vehicle such as an automobile, for example. Hereinafter, a vehicle on which the information providing device 201 is mounted is referred to as a "vehicle". In addition, a direction in which the host vehicle travels straight ahead, which is directed from the driver's seat to steering, is referred to as "forward". In addition, a direction in which the host vehicle travels straight and is directed from the steering to the driver's seat is referred to as “rearward”. In addition, a direction perpendicular to the straight traveling direction of the vehicle and the vertical line, that is, a direction from the right to the left of the driver facing the front is referred to as “left direction”. Further, a direction perpendicular to the straight traveling direction of the vehicle and the vertical line, that is, a direction from the left to the right of the driver facing the front is referred to as “right direction”.

図1に示すフロントカメラ11、バックカメラ12、左サイドカメラ13、右サイドカメラ14、車両制御ECU15、情報提供装置201、表示装置31、及びスピーカ32は自車両に搭載される。   The front camera 11, the back camera 12, the left side camera 13, the right side camera 14, the vehicle control ECU 15, the information providing device 201, the display device 31, and the speaker 32 shown in FIG. 1 are mounted on the vehicle.

図2は、4つの車載カメラ(フロントカメラ11、バックカメラ12、左サイドカメラ13、及び右サイドカメラ14)が自車両V1に配置される位置を例示する図である。   FIG. 2 is a view exemplifying the positions at which four on-vehicle cameras (front camera 11, back camera 12, left side camera 13 and right side camera 14) are disposed in the host vehicle V1.

フロントカメラ11は自車両V1の前端に設けられる。フロントカメラ11の光軸11aは上からの平面視で自車両V1の前後方向に沿っている。フロントカメラ11は自車両V1の前方向を撮影する。バックカメラ12は自車両V1の後端に設けられる。バックカメラ12の光軸12aは上からの平面視で自車両V1の前後方向に沿っている。バックカメラ12は自車両V1の後方向を撮影する。フロントカメラ11及びバックカメラ12の取付位置は、自車両V1の左右中央であることが好ましいが、左右中央から左右方向に多少ずれた位置であってもよい。   The front camera 11 is provided at the front end of the host vehicle V1. The optical axis 11a of the front camera 11 is along the front-rear direction of the vehicle V1 in plan view from above. The front camera 11 shoots the front of the host vehicle V1. The back camera 12 is provided at the rear end of the host vehicle V1. The optical axis 12a of the back camera 12 is along the front-rear direction of the vehicle V1 in plan view from above. The back camera 12 shoots the rear of the host vehicle V1. The attachment positions of the front camera 11 and the back camera 12 are preferably at the left and right center of the host vehicle V1, but may be slightly offset from the left and right center in the left and right direction.

左サイドカメラ13は自車両V1の左側ドアミラーM1に設けられる。左サイドカメラ13の光軸13aは上からの平面視で自車両V1の左右方向に沿っている。左サイドカメラ13は自車両V1の左方向を撮影する。右サイドカメラ14は自車両V1の右側ドアミラーM2に設けられる。右サイドカメラ14の光軸14aは上からの平面視で自車両V1の左右方向に沿っている。右サイドカメラ14は自車両V1の右方向を撮影する。なお、自車両V1がいわゆるドアミラーレス車である場合には、左サイドカメラ13は左サイドドアの回転軸(ヒンジ部)の周辺にドアミラーを介することなく取り付けられ、右サイドカメラ14は右サイドドアの回転軸(ヒンジ部)の周辺にドアミラーを介することなく取り付けられる。   The left side camera 13 is provided on the left side door mirror M1 of the host vehicle V1. The optical axis 13a of the left side camera 13 is along the left-right direction of the vehicle V1 in plan view from above. The left side camera 13 shoots the left direction of the host vehicle V1. The right side camera 14 is provided on the right side door mirror M2 of the host vehicle V1. The optical axis 14a of the right side camera 14 is in the left-right direction of the vehicle V1 in a plan view from above. The right side camera 14 shoots the right direction of the host vehicle V1. When the host vehicle V1 is a so-called door mirrorless car, the left side camera 13 is attached around the rotation axis (hinge part) of the left side door without passing through the door mirror, and the right side camera 14 is the right side door It is attached around the axis of rotation (hinge part) without interposing a door mirror.

各車載カメラの水平方向の画角θは180度以上である。このため、4つの車載カメラ(フロントカメラ11、バックカメラ12、左サイドカメラ13、及び右サイドカメラ14)によって、自車両V1の水平方向における全周囲を撮影することができる。なお、本実施形態では、車載カメラの数を4つとしているが、車載カメラの撮影画像を用いて後述する俯瞰画像を作成するために必要な車載カメラの数は4つに限られることはなく、複数のカメラであればよい。一例として、各車載カメラの水平方向の画角θが比較的広い場合は、4つよりも少ない3つのカメラから取得される3つの撮影画像に基づき俯瞰画像を生成してもよい。さらに、別の例として、各車載カメラの水平方向の画角θが比較的狭い場合は、4つよりも多い5つのカメラから得られる5つの撮影画像に基づき俯瞰画像を生成してもよい。   The angle of view θ in the horizontal direction of each on-vehicle camera is 180 degrees or more. Therefore, it is possible to capture the entire circumference of the host vehicle V1 in the horizontal direction by the four on-vehicle cameras (the front camera 11, the back camera 12, the left side camera 13 and the right side camera 14). In the present embodiment, the number of in-vehicle cameras is four, but the number of in-vehicle cameras necessary for creating a bird's-eye-view image to be described later using a captured image of the in-vehicle camera is not limited to four. And multiple cameras are sufficient. As one example, when the horizontal angle of view θ of each on-vehicle camera is relatively wide, a bird's-eye image may be generated based on three captured images acquired from three cameras less than four. Furthermore, as another example, when the horizontal angle of view θ of each on-vehicle camera is relatively narrow, a bird's-eye image may be generated based on five captured images obtained from five or more cameras.

図1に戻って、4つの車載カメラ(フロントカメラ11、バックカメラ12、左サイドカメラ13、及び右サイドカメラ14)は、撮影画像を情報提供装置201に出力する。車両制御ECU15は、自車両の自動運転に関する制御情報を情報提供装置201に出力する。車両制御ECU15は、例えば車載カメラの撮影画像の解析結果を用いたり、自車両に搭載したレーダ装置から出力される情報、クラウドセンターとの通信、車車間通信、路車間通信などで得られる情報などを用いたりすることで、自動運転での走行予定経路を立案する。   Returning to FIG. 1, the four on-vehicle cameras (front camera 11, back camera 12, left side camera 13, and right side camera 14) output the photographed image to the information providing device 201. The vehicle control ECU 15 outputs control information regarding automatic driving of the host vehicle to the information providing device 201. The vehicle control ECU 15 uses, for example, an analysis result of a captured image of a vehicle-mounted camera, information output from a radar device mounted on the vehicle, communication with a cloud center, information obtained by inter-vehicle communication, road-vehicle communication, etc. By using or, to plan the planned travel route in automatic driving.

情報提供装置201は、4つの車載カメラ(フロントカメラ11、バックカメラ12、左サイドカメラ13、及び右サイドカメラ14)から出力される撮影画像を処理し、処理後の画像を表示装置31に出力する。また、情報提供装置201は、音声をスピーカ32から出力させる制御を行う。   The information providing device 201 processes the captured image output from the four on-vehicle cameras (front camera 11, back camera 12, left side camera 13, and right side camera 14), and outputs the processed image to the display device 31. Do. Further, the information providing device 201 performs control to output a sound from the speaker 32.

表示装置31は、自車両のドライバーが表示装置31の表示画面を視認できる位置に設けられ、情報提供装置201から出力される画像を表示する。表示装置31としては、例えばセンターコンソールに設置されるディスプレイ、運転席の対向位置に設置されるメータディスプレイ、フロントガラスに画像を投影するヘッドアップディスプレイなどを挙げることができる。   The display device 31 is provided at a position where the driver of the host vehicle can visually recognize the display screen of the display device 31, and displays an image output from the information providing device 201. Examples of the display device 31 include a display installed on a center console, a meter display installed on the opposite position of the driver's seat, and a head-up display projecting an image on a windshield.

スピーカ32は、情報提供装置201の制御に従って音声を出力する。   The speaker 32 outputs sound in accordance with the control of the information providing device 201.

情報提供装置201は、ASIC(application specific integrated circuit)やFPGA(field-programmable gate array)等のハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって構成することができる。ソフトウェアを用いて情報提供装置201を構成する場合、ソフトウェアにて実現される部位についてのブロック図は、その部位の機能ブロック図を表すことになる。ソフトウェアを用いて実現される機能をプログラムとして記述し、当該プログラムをプログラム実行装置上で実行することによって、その機能を実現するようにしてもよい。プログラム実行装置としては、例えばCPU(Central Processing Unit)、RAM(Random Access Memory)、及びROM(Read Only Memory)を備えるコンピュータを挙げることができる。   The information providing apparatus 201 can be configured by hardware such as an application specific integrated circuit (ASIC) or a field-programmable gate array (FPGA), or a combination of hardware and software. When software is used to configure the information providing apparatus 201, a block diagram of a part implemented by software represents a functional block diagram of the part. A function implemented using software may be described as a program, and the function may be implemented by executing the program on a program execution device. Examples of the program execution device include a computer provided with a central processing unit (CPU), a random access memory (RAM), and a read only memory (ROM).

情報提供装置201は、撮影画像取得部21と、画像生成部22と、音声制御部23と、を備える。   The information providing device 201 includes a photographed image acquisition unit 21, an image generation unit 22, and an audio control unit 23.

撮影画像取得部21は、4つの車載カメラ(フロントカメラ11、バックカメラ12、左サイドカメラ13、及び右サイドカメラ14)からアナログ又はデジタルの撮影画像を所定の周期(例えば、1/30秒周期)で時間的に連続して取得する。そして、取得した撮影画像がアナログの場合には、撮影画像取得部21は、そのアナログの撮影画像をデジタルの撮影画像に変換(A/D変換)する。撮影画像取得部21は、取得した撮影画像、或いは、取得及び変換した撮影画像を、画像生成部22に出力する。   The captured image acquisition unit 21 has a predetermined cycle (for example, 1/30 second cycle) of analog or digital captured images from four on-vehicle cameras (front camera 11, back camera 12, left side camera 13, and right side camera 14). Obtained continuously in time). Then, if the acquired captured image is analog, the captured image acquisition unit 21 converts the analog captured image into a digital captured image (A / D conversion). The captured image acquisition unit 21 outputs the acquired captured image or the captured and acquired image obtained by conversion to the image generation unit 22.

画像生成部22は、俯瞰画像生成部22aと、仮想車両生成部22bと、走行予定経路取得部22cと、重畳部22dと、を備える。   The image generation unit 22 includes an overhead image generation unit 22a, a virtual vehicle generation unit 22b, a planned traveling route acquisition unit 22c, and a superposition unit 22d.

俯瞰画像生成部22aは、撮影画像取得部21によって取得された撮影画像を仮想投影面に投影して投影画像に変換する。具体的には、俯瞰画像生成部22aは、図3に示す仮想的な三次元空間における仮想投影面100の第1領域R1にフロントカメラ11の撮影画像を投影して、フロントカメラ11の撮影画像を第1の投影画像に変換する。同様に、俯瞰画像生成部22aは、図3に示す仮想投影面100の第2〜第4領域R2〜R4それぞれにバックカメラ12の撮影画像、左サイドカメラ13の撮影画像、及び右サイドカメラ14の撮影画像を投影して、バックカメラ12の撮影画像、左サイドカメラ13の撮影画像、及び右サイドカメラ14の撮影画像それぞれを第2〜第4の投影画像に変換する。   The overhead image generation unit 22a projects the captured image acquired by the captured image acquisition unit 21 on a virtual projection plane and converts it into a projected image. Specifically, the overhead image generation unit 22a projects the photographed image of the front camera 11 onto the first region R1 of the virtual projection plane 100 in the virtual three-dimensional space shown in FIG. Into a first projected image. Similarly, the overhead image generation unit 22a generates the photographed image of the back camera 12, the photographed image of the left side camera 13, and the right side camera 14 in each of the second to fourth regions R2 to R4 of the virtual projection plane 100 shown in FIG. The photographed image of the rear camera 12 is projected, and the photographed image of the back camera 12, the photographed image of the left side camera 13 and the photographed image of the right side camera 14 are converted into second to fourth projected images.

図3に示す仮想投影面100は、例えば略半球状(お椀形状)をしている。仮想投影面100の中心部分(お椀の底部分)は、自車両V1が存在する位置として定められている。このように仮想投影面100が曲面を含むようにすることで、自車両V1から離れた位置に存在する物体の像の歪みを少なくすることができる。また、第1〜第4領域R1〜R4それぞれは、隣接する他の領域と重複する部分を有している。このような重複部分を設けることで、領域の境界部分に投影される物体の像が投影画像から消失することを防止することができる。   The virtual projection plane 100 shown in FIG. 3 has, for example, a substantially hemispherical shape (a bowl shape). The central portion (bottom portion of the bowl) of the virtual projection plane 100 is defined as the position where the host vehicle V1 is present. As described above, when the virtual projection plane 100 includes the curved surface, distortion of the image of the object present at the position away from the host vehicle V1 can be reduced. Further, each of the first to fourth regions R1 to R4 has a portion overlapping with another adjacent region. By providing such an overlapping portion, it is possible to prevent the image of the object projected on the boundary of the region from disappearing from the projection image.

俯瞰画像生成部22aは、複数の投影画像に基づいて仮想視点からみた仮想視点画像を生成する。具体的には、俯瞰画像生成部22aは、第1〜第4の投影画像を仮想投影面100の第1〜第4領域R1〜R4に仮想的に貼り付ける。   The overhead image generation unit 22a generates a virtual viewpoint image viewed from a virtual viewpoint based on a plurality of projection images. Specifically, the overhead image generator 22a virtually pastes the first to fourth projection images to the first to fourth regions R1 to R4 of the virtual projection plane 100.

また、俯瞰画像生成部22aは、自車両V1の三次元形状を示すポリゴンのモデルを仮想的に構成する。この自車両V1のモデルは、仮想投影面100が設定される仮想的な三次元空間において、自車両V1が存在する位置として定められた位置(仮想投影面100の中心部分)に第1領域R1が前側、第4領域R4が後ろ側に成るように配置される。   In addition, the overhead image generation unit 22a virtually configures a model of a polygon that indicates the three-dimensional shape of the host vehicle V1. The model of the vehicle V1 is located in the first region R1 at a position (the central portion of the virtual projection surface 100) determined as the position where the vehicle V1 is present in a virtual three-dimensional space in which the virtual projection surface 100 is set Is disposed on the front side, and the fourth region R4 is on the rear side.

さらに、俯瞰画像生成部22aは、仮想投影面100が設定される仮想的な三次元空間において、仮想視点を設定する。仮想視点は、視点位置及び視野方向によって規定される。仮想投影面100の少なくとも一部が視野に入る限り、仮想視点の視点位置及び視野方向は、任意の視点位置及び任意の視野方向に設定することができる。本実施形態では、仮想視点の視点位置を自車両より後方且つ上方とし、仮想視点の視野方向を自車両の前方且つ下方とする。これにより、俯瞰画像生成部22aが生成する仮想視点画像が俯瞰画像となる。また、仮想視点の視点位置を自車両より後方且つ上方とし、仮想視点の視野方向を自車両の前方且つ下方とすることで、運転者は自車両と後述する仮想車両との位置関係をより的確に確認することができる。なお、本実施形態とは異なり、例えば視点位置を標準的な運転者の目の位置とし、視野方向を自車両の前方にしてもよい。   Furthermore, the overhead image generation unit 22a sets a virtual viewpoint in a virtual three-dimensional space in which the virtual projection plane 100 is set. The virtual viewpoint is defined by the viewpoint position and the viewing direction. The viewpoint position and the viewing direction of the virtual viewpoint can be set to any viewpoint position and any viewing direction as long as at least a part of the virtual projection plane 100 is in the field of view. In this embodiment, the viewpoint position of the virtual viewpoint is behind and above the host vehicle, and the viewing direction of the virtual viewpoint is ahead of and below the host vehicle. Thus, the virtual viewpoint image generated by the overhead image generation unit 22a becomes an overhead image. Further, by setting the viewpoint position of the virtual viewpoint behind and above the host vehicle and setting the viewing direction of the virtual viewpoint ahead and below the host vehicle, the driver makes the positional relationship between the host vehicle and a virtual vehicle described later more accurate. Can be confirmed. Note that, unlike the present embodiment, for example, the viewpoint position may be a standard driver eye position, and the viewing direction may be in front of the host vehicle.

俯瞰画像生成部22aは、設定した仮想視点に応じて、仮想投影面100における必要な領域(仮想視点からみえる領域)の画像を仮想的に切り出す。また、俯瞰画像生成部22aは、設定した仮想視点に応じて、ポリゴンのモデルに関してレンダリングを行い、自車両V1のレンダリング像を生成する。そして、俯瞰画像生成部22aは、切り出した画像に対して自車両V1のレンダリング像を重畳した俯瞰画像を生成する。すなわち、俯瞰画像生成部22aは、自車両を表す像を生成している。また、自車両V1のレンダリング像(自車両を表す像)は、俯瞰画像中の自車両の現在位置に対応する領域に重畳されている。   The overhead view image generation unit 22a virtually cuts out an image of a necessary area (area seen from the virtual viewpoint) on the virtual projection plane 100 according to the set virtual viewpoint. Further, the overhead view image generation unit 22a performs rendering on a model of a polygon according to the set virtual viewpoint, and generates a rendering image of the host vehicle V1. Then, the overhead image generation unit 22a generates an overhead image in which the rendering image of the vehicle V1 is superimposed on the clipped image. That is, the overhead image generator 22a generates an image representing the vehicle. In addition, the rendering image of the vehicle V1 (image representing the vehicle) is superimposed on the area corresponding to the current position of the vehicle in the overhead image.

仮想車両生成部22bは、CG(Computer Graphics)を用いて仮想車両を表す像を生成する。   The virtual vehicle generation unit 22 b generates an image representing the virtual vehicle using CG (Computer Graphics).

走行予定経路取得部22cは、自動運転が実行されたときの自車両の現在位置から目的地までの走行予定経路に関する情報(走行予定経路情報)を取得する。例えば、走行予定経路取得部22cは、車両制御ECU16から走行予定経路情報を取得する。   The planned travel route acquisition unit 22c acquires information (scheduled travel route information) on a planned travel route from the current position of the vehicle when the automatic driving is performed to the destination. For example, the planned traveling route acquisition unit 22 c acquires planned traveling route information from the vehicle control ECU 16.

重畳部22dは、仮想車両を表す像を俯瞰画像に重畳する。仮想車両を表す像は、俯瞰画像中の自車両が自動運転を行ってこれから走行する位置に対応する領域に重畳される。自車両が自動運転を行ってこれから走行する位置は、自動運転が実行されたときの自車両の目的地までの走行予定経路に沿って移動する。   The superimposing unit 22d superimposes an image representing a virtual vehicle on the overhead image. The image representing the virtual vehicle is superimposed on the area corresponding to the position where the host vehicle in the overhead image automatically drives and travels. The position where the own vehicle performs automatic driving and travels from now moves along the planned travel route to the destination of the own vehicle when the automatic driving is performed.

音声制御部23は、例えば俯瞰画像中で仮想車両が移動している期間に、仮想車両が移動していることを報知する通知音(例えば一定リズムの電子音)をスピーカ32に発生させる。   The sound control unit 23 causes the speaker 32 to generate a notification sound (for example, an electronic sound of a constant rhythm) notifying that the virtual vehicle is moving, for example, while the virtual vehicle is moving in the overhead image.

<2.情報提供装置の動作例>
図4は、情報提供装置201の動作例を示すフローチャートである。情報提供装置201は、自車両が自動運転を行う直前に図4に示すフロー動作を開始する。本実施形態では、自車両が自動運転によって自動駐車を行うものとする。したがって、本実施形態では、駐車位置が目的地となる。
<2. Operation Example of Information Providing Device>
FIG. 4 is a flowchart showing an operation example of the information providing apparatus 201. The information provision device 201 starts the flow operation shown in FIG. 4 immediately before the host vehicle performs automatic driving. In the present embodiment, it is assumed that the host vehicle performs automatic parking by automatic driving. Therefore, in the present embodiment, the parking position is the destination.

図4に示すフロー動作が開始されると、まず撮影画像取得部21が4つの車載カメラ(フロントカメラ11、バックカメラ12、左サイドカメラ13、及び右サイドカメラ14)から撮影画像を取得する(ステップS10)。   When the flow operation illustrated in FIG. 4 is started, first, the captured image acquisition unit 21 acquires captured images from four on-vehicle cameras (front camera 11, back camera 12, left side camera 13, and right side camera 14) ( Step S10).

次に俯瞰画像生成部22aが撮影画像取得部21によって取得された撮影画像を用いて俯瞰画像を生成する(ステップS20)。なお、後述する図5〜図13の俯瞰図では駐車車両の図示を省略している。   Next, the overhead image generation unit 22a generates an overhead image using the captured image acquired by the captured image acquisition unit 21 (step S20). In addition, illustration of a parking vehicle is abbreviate | omitted in the bird's-eye view of FIGS. 5-13 mentioned later.

次に仮想車両生成部22bが仮想車両を表す像を生成する(ステップS30)。   Next, the virtual vehicle generation unit 22b generates an image representing the virtual vehicle (step S30).

次に重畳部22dが仮想車両を表す像を俯瞰画像に重畳する(ステップS40)。   Next, the superposing unit 22d superimposes an image representing the virtual vehicle on the overhead image (step S40).

本実施形態では、仮想車両を表す像が、俯瞰画像中において、自車両の現在位置に出現し、その後自車両が自動運転を行ってこれから走行する位置まで移動するように、重畳部22dが仮想車両を表す像を俯瞰画像に重畳する。   In the present embodiment, the superimposing unit 22d is configured so that an image representing a virtual vehicle appears at the current position of the vehicle in the overhead image, and then moves to a position where the vehicle performs automatic driving and travels from here. An image representing the vehicle is superimposed on the overhead image.

具体的には、仮想車両を表す像が俯瞰画像に重畳されていない状態で、ステップS40の処理を行う場合には、仮想車両を表す像は、俯瞰画像中の自車両の現在位置に対応する領域に重畳される。したがって、ステップS40の処理により、情報提供装置201から表示装置31に出力される俯瞰画像は、例えば図5に示す俯瞰画像から図6に示す俯瞰画像に変化する。図5に示す俯瞰画像には自車両のレンダリング像VR1が重畳されており、図6に示す俯瞰画像には自車両のレンダリング像VR1及び仮想車両を表す像V2が重畳されている。なお、仮想車両を表す像V2は、後述する図8〜図11では透過性を有するように図示されていないが、実際には透過性を有する像である。   Specifically, when the process of step S40 is performed in a state in which the image representing the virtual vehicle is not superimposed on the overhead image, the image representing the virtual vehicle corresponds to the current position of the vehicle in the overhead image. It is superimposed on the area. Therefore, the bird's-eye view image output from the information providing device 201 to the display device 31 changes from, for example, the bird's-eye view shown in FIG. 5 to the bird's-eye view shown in FIG. The rendering image VR1 of the host vehicle is superimposed on the overhead image shown in FIG. 5, and the rendering image VR1 of the host vehicle and an image V2 representing a virtual vehicle are superimposed on the overhead image shown in FIG. In addition, although the image V2 showing a virtual vehicle is not illustrated so that it may have permeability in FIGS. 8-11 mentioned later, it is an image which has permeability actually.

また、画像生成部22は、仮想車両を表す像V2を俯瞰画像に重畳する場合、図6に示す俯瞰画像の左下隅に、横軸を俯瞰画像中の仮想車両の位置から自動運転での停止位置までの距離、縦軸を俯瞰画像中の仮想車両の位置における自動運転での自車両の車速としたグラフも俯瞰画像に重畳する。グラフ内の車両の向きは仮想車両が停止位置まで進行方向を示しており、図6では仮想車両が停止位置まで前進することを示している。グラフ内の黒丸は仮想車両の状態(位置及び速度)を示している。このグラフにより、自動運転において自車両がこれからどのような挙動をするかをより明確に自車両の乗員に予め知らせることができる。   In addition, when superimposing the image V2 representing the virtual vehicle on the overhead image, the image generation unit 22 stops the automatic driving from the position of the virtual vehicle in the overhead image at the lower left corner of the overhead image shown in FIG. A graph in which the distance to the position and the vertical axis indicate the vehicle speed of the host vehicle in automatic driving at the position of the virtual vehicle in the overhead image is also superimposed on the overhead image. The direction of the vehicle in the graph indicates the traveling direction of the virtual vehicle to the stop position, and FIG. 6 shows that the virtual vehicle advances to the stop position. Black circles in the graph indicate the state (position and speed) of the virtual vehicle. With this graph, it is possible to inform in advance the occupants of the vehicle of the behavior of the vehicle from now on more clearly in automatic driving.

一方、すでに仮想車両を表す像が俯瞰画像に重畳されている状態で、ステップS40の処理を行う場合には、仮想車両を表す像は、俯瞰画像中の自車両が自動運転を行ってこれから走行する位置に対応した領域に重畳される。したがって、ステップS40の処理が繰り返されることにより、情報提供装置201から表示装置31に出力される俯瞰画像は、例えば図6に示す俯瞰画像から図7に示す俯瞰画像に変化する。そして、その後、仮想車両を表す像が俯瞰画像中の目的地まで移動する(後述する図8及び図9参照)。   On the other hand, when the process of step S40 is performed in a state in which the image representing the virtual vehicle is already superimposed on the overhead image, the image representing the virtual vehicle is automatically driven by the host vehicle in the overhead image Is superimposed on the area corresponding to the position where the Therefore, by repeating the process of step S40, the bird's-eye view image output from the information providing device 201 to the display device 31 changes, for example, from the bird's-eye view shown in FIG. 6 to the bird's-eye view shown in FIG. Thereafter, the image representing the virtual vehicle moves to the destination in the overhead image (see FIGS. 8 and 9 described later).

上記のように俯瞰画像中で仮想車両が自動運転における自車両の目的地までの走行予定経路に沿って移動するので、自動運転において自車両がこれからどのような挙動をするかを自車両の乗員に予め知らせることができる。これにより、自車両の乗員に安心感を与えることができる。   As described above, the virtual vehicle moves in the overhead image along the planned travel route to the destination of the vehicle in automatic driving, so the behavior of the vehicle in the automatic driving may be determined by the driver of the vehicle. Can be informed in advance. Thereby, the occupant of the host vehicle can feel secure.

また、上記のように自車両と仮想車両が俯瞰画像に含まれるため、自車両の乗員は自車両と仮想車両との位置関係を直感的に把握することができる。したがって、自車両の乗員は、自動運転において自車両がこれからどのような挙動をするかを直感的に把握することができる。これにより、自車両の乗員の安心感が増す。   In addition, since the host vehicle and the virtual vehicle are included in the overhead image as described above, the occupant of the host vehicle can intuitively grasp the positional relationship between the host vehicle and the virtual vehicle. Therefore, the occupant of the host vehicle can intuitively grasp what behavior the host vehicle will perform in automatic driving. This increases the sense of security of the occupant of the host vehicle.

また、上記のように仮想車両を表す像が自車両の現在位置に出現し、その後自車両が自動運転を行ってこれから走行する位置に移動することで、仮想車両があたかも自車両から分離するように見えるため、運転者は仮想車両の走行経路が自動運転における自車両の目的地までの走行予定経路であることを直感的に把握することができる。   Also, as described above, an image representing a virtual vehicle appears at the current position of the host vehicle, and then the host vehicle performs automatic driving and moves to a position where it will travel from now on, thereby separating the virtual vehicle from the host vehicle Because the driver looks like in the above, the driver can intuitively understand that the traveling route of the virtual vehicle is the planned traveling route to the destination of the own vehicle in automatic driving.

ステップS40に続くステップS50において、画像生成部22は、仮想車両が走行予定経路上の中間位置に到着したか否かを判定する。本実施形態では、自動運転において、自車両の進行方向が前進から後進に切り替わる位置を走行予定経路上の中間位置としている。なお、走行予定経路上の中間位置は、例えば、自車両の進行方向が後進から前進に切り替わる位置、自車両がUターンする位置、自車両が左折する位置、自車両が右折する位置などであってもよい。   In step S50 following step S40, the image generation unit 22 determines whether the virtual vehicle has arrived at an intermediate position on the planned travel route. In the present embodiment, in automatic driving, a position at which the traveling direction of the host vehicle switches from forward to reverse is taken as an intermediate position on the planned travel route. Note that the intermediate position on the planned travel route is, for example, a position where the traveling direction of the host vehicle switches from reverse to forward, a position where the host vehicle makes a U-turn, a position where the host vehicle turns left, a position where the host vehicle turns right, etc. May be

仮想車両が走行予定経路上の中間位置に到着していなければ、ステップS10に戻る。一方、仮想車両が走行予定経路上の中間位置に到着していれば、ステップS60に移行する。   If the virtual vehicle has not arrived at the intermediate position on the planned travel route, the process returns to step S10. On the other hand, if the virtual vehicle has arrived at the intermediate position on the planned travel route, the process proceeds to step S60.

ステップS60において、重畳部22dは、仮想車両を表す像の残像を俯瞰画像に重畳する。仮想車両を表す像の残像は、俯瞰画像中の走行予定経路上の中間位置に対応する領域に重畳される。   In step S60, the superposing unit 22d superimposes the afterimage of the image representing the virtual vehicle on the overhead image. The afterimage of the image representing the virtual vehicle is superimposed on the area corresponding to the intermediate position on the planned travel route in the overhead image.

ステップS60に続くステップS70において、画像生成部22は、仮想車両が目的地に到着したか否かを判定する。   In step S70 following step S60, the image generation unit 22 determines whether the virtual vehicle has arrived at the destination.

自車両が目的地に到着していなければ、直ちにステップS10に戻る。一方、仮想車両が目的地に到着していれば、フロー動作を終了する。   If the host vehicle has not arrived at the destination, the process immediately returns to step S10. On the other hand, if the virtual vehicle has arrived at the destination, the flow operation is ended.

ステップS60の処理が実行される直前の俯瞰画像は例えば図8に示すようになり、フロー動作が終了する直前の俯瞰画像は例えば図9に示すようになる。図9に示す俯瞰画像中の仮想車両を表す像の残像A1は、仮想車両を表す像V2と異なる態様である。例えば、点滅の有無や色などによって互いに異なる態様にすればよい。仮想車両を表す像の残像A1と仮想車両を表す像V2とを異なる態様にすることで、自車両の乗員が仮想車両を表す像の残像A1と仮想車両を表す像V2とを混同することを防止することができる。   For example, the bird's-eye view image immediately before the process of step S60 is executed is as shown in FIG. 8, and the bird's-eye view image just before the end of the flow operation is as shown in FIG. The afterimage A1 of the image representing the virtual vehicle in the overhead image shown in FIG. 9 is an aspect different from the image V2 representing the virtual vehicle. For example, the modes may be different from each other depending on the presence or absence of blinking, the color, and the like. By making the afterimage A1 of the image representing the virtual vehicle different from the image V2 representing the virtual vehicle, it is possible that the occupant of the host vehicle confuses the afterimage A1 of the image representing the virtual vehicle with the image V2 representing the virtual vehicle. It can be prevented.

上記のように走行予定経路上の中間位置に仮想車両を表す像の残像を残すことで、自車両の乗員は、走行予定経路上のどの位置が中間位置であるかを明確に把握することができる。   By leaving an afterimage of the image representing the virtual vehicle at an intermediate position on the planned travel route as described above, the occupant of the own vehicle can clearly grasp which position on the planned planned route is the intermediate position. it can.

また、中間位置を自動運転中に自車両の進行方向が切り替わる位置とすることで、自車両の乗員は、自動運転において自車両の挙動が大きく変化する位置を明確に把握することができ、安心感が増す。ここで、自車両の進行方向が切り替わる位置とは、自車両の進行方向の変化率が閾値より大きくなる位置を意味している。例えば、閾値を比較的大きく設定することで、自車両の進行方向が切り替わる位置は、自車両の前進と後進とが切り替わる位置のみになる。一方、閾値を比較的小さく設定することで、自車両の進行方向が切り替わる位置は、自車両の前進と後進とが切り替わる位置のみならず、縦列駐車などにおいて操舵角を大きく変化させる位置等も含むことになる。   In addition, by setting the intermediate position to a position at which the traveling direction of the host vehicle is switched during automatic driving, the occupant of the host vehicle can clearly understand the position at which the behavior of the host vehicle changes significantly in automatic driving. Feeling is increased. Here, the position at which the traveling direction of the host vehicle is switched means a position at which the rate of change in the traveling direction of the host vehicle is larger than a threshold. For example, by setting the threshold relatively large, the position at which the traveling direction of the host vehicle is switched is only the position at which the host vehicle is switched between forward and reverse. On the other hand, by setting the threshold relatively small, the position at which the traveling direction of the host vehicle switches includes not only the position at which the host vehicle switches forward and backward but also the position at which the steering angle is largely changed in parallel parking etc. It will be.

<3.その他>
本明細書中に開示されている種々の技術的特徴は、上記実施形態のほか、その技術的創作の主旨を逸脱しない範囲で種々の変更を加えることが可能である。また、本明細書中に示される複数の変形例は可能な範囲で組み合わせて実施されてよい。
<3. Other>
Various technical features disclosed in the present specification can be modified in various ways without departing from the spirit of the technical creation in addition to the above embodiment. Also, the plurality of modifications shown in the present specification may be implemented in combination as far as possible.

例えば、自車両が自動運転を行ってこれから走行する位置が移動した移動経路を表す像を画像生成部22が生成し、重畳部22dが俯瞰画像にその移動経路を表す像を重畳するようにしてもよい。この場合、情報提供装置201は、フロー動作が終了する直前の俯瞰画像として、図9に示す俯瞰画像の代わりに図10に示す俯瞰画を生成する。図10に示す俯瞰画像には、上記の移動経路を表す像W1が重畳されている。これにより、自動運転において自車両がこれからどのような挙動をするかをより明確に自車両の乗員に予め知らせることができる。   For example, the image generation unit 22 generates an image representing a moving route where the position where the own vehicle travels from now on moves automatically, and the superimposing unit 22 d superimposes an image representing the moving route on the overhead image. It is also good. In this case, the information provision device 201 generates a bird's-eye view shown in FIG. 10 instead of the bird's-eye view shown in FIG. 9 as the bird's-eye view immediately before the end of the flow operation. On the overhead image shown in FIG. 10, an image W1 representing the above moving path is superimposed. As a result, it is possible to notify in advance the occupants of the vehicle of the behavior of the vehicle from now on more clearly in automatic driving.

また例えば、仮想車両を表す像が後進するときは、俯瞰画像生成部23aが、例えば図11に示す俯瞰画像のように、仮想視点の視点位置を自車両のほぼ真上に変更し、仮想視点の視野方向をほぼ真下(ほぼ重力方向)に変更してもよい。これにより、仮想車両を表す像が後進するときの仮想車両を表す像の動きを自車両の乗員が把握し易くなる。   Also, for example, when the image representing the virtual vehicle moves backward, the overhead image generation unit 23a changes the viewpoint position of the virtual viewpoint to almost directly above the host vehicle, as in the overhead image shown in FIG. The direction of the field of view may be changed almost directly below (approximately in the direction of gravity). As a result, the occupant of the host vehicle can easily grasp the movement of the image representing the virtual vehicle when the image representing the virtual vehicle moves backward.

また例えば、情報提供装置201は、図4に示すフロー動作を開始する前に、他車両がもうすぐ出庫する予定であることを検知した場合、図12に示すような俯瞰画像を生成するようにしてもよい。図12に示すような俯瞰画像には、他車両の出庫予定進路を示す指標B1と、自車両の停止を促す指標B2とが重畳されている。これにより、自車両ともうすぐ出庫する予定である他車両との接触を防止することができる。また、自動運転の目的地までの走行予定経路に、もうすぐ出庫する予定である他車両の駐車位置を含めることが可能となる。他車両がもうすぐ出庫する予定であることの検知には、例えば車載カメラの撮影画像の解析結果を用いたり、自車両に搭載したレーダ装置から出力される情報、クラウドセンターとの通信、車車間通信、路車間通信などで得られる情報などを用いたりすることができる。   Further, for example, the information providing device 201 generates an overhead image as shown in FIG. 12 when detecting that another vehicle is scheduled to leave immediately before starting the flow operation shown in FIG. 4. It is also good. On the bird's-eye view image as shown in FIG. 12, an index B1 indicating a planned leaving route of another vehicle and an index B2 prompting the vehicle to stop are superimposed. As a result, it is possible to prevent contact between the own vehicle and another vehicle scheduled to leave the house soon. Moreover, it becomes possible to include the parking position of the other vehicle which is scheduled to leave the housing soon, in the planned travel route to the destination of the automatic driving. For example, to detect that another vehicle is about to leave, use the analysis result of the captured image of the onboard camera, or information output from the radar device mounted on the own vehicle, communication with the cloud center, inter-vehicle communication , Information obtained by road-vehicle communication, etc. can be used.

また例えば、画像生成部23は、俯瞰画像生成部22aによって生成される俯瞰画像の他に、自車両の周辺状況を模式的に示す上面図を表す画像を生成し、例えば図13に示すように、俯瞰画像生成部22aによって生成される俯瞰画像と、自車両の周辺状況を模式的に示す上面図を表す画像とを、表示装置31の表示画面に同時に表示するようにしてもよい。これにより、自車両の乗員は、自車両の周辺状況を容易に把握することができる。自車両の周辺状況を模式的に示す上面図を表す画像は、例えばクラウドセンターとの通信、車車間通信、路車間通信などで得られる情報などを用いて作成することができる。   Further, for example, in addition to the overhead image generated by the overhead image generation unit 22a, the image generation unit 23 generates an image representing a top view schematically showing the surrounding situation of the vehicle, for example, as shown in FIG. A bird's-eye view image generated by the bird's-eye view image generation unit 22a and an image representing a top view schematically showing the surroundings of the vehicle may be simultaneously displayed on the display screen of the display device 31. Thus, the occupant of the host vehicle can easily grasp the peripheral situation of the host vehicle. An image representing a top view schematically showing the surroundings of the host vehicle can be created using, for example, information obtained by communication with a cloud center, inter-vehicle communication, road-vehicle communication, or the like.

また例えば、情報提供装置201は、自動運転の目的地までの走行予定経路として複数の候補ルートがある場合、各候補ルートの概要を示す画像を表示装置31に表示させ、自車両の乗員に複数の候補ルートから一つのルートを選択させるようにしてもよい。或いは、情報提供装置201は、自動運転の目的地までの走行予定経路として複数の候補ルートがある場合、各候補ルートについて図4に示すフロー動作を実行して、その後、自車両の乗員に複数の候補ルートから一つのルートを選択させるようにしてもよい。   Further, for example, when there are a plurality of candidate routes as the planned travel route to the destination of the automatic driving, the information providing device 201 causes the display device 31 to display an image showing an outline of each candidate route, One of the candidate routes may be selected. Alternatively, when there are a plurality of candidate routes as the planned travel route to the destination of the automatic driving, the information providing apparatus 201 executes the flow operation shown in FIG. One of the candidate routes may be selected.

また、上述した実施形態では、仮想車両を表す像の出現位置が自車両の現在位置であったが、仮想車両を表す像の出現位置が出現当初から自車両が自動運転を行ってこれから走行する位置であってもよい。   Further, in the above-described embodiment, the appearance position of the image representing the virtual vehicle is the current position of the vehicle, but the appearance position of the image representing the virtual vehicle is automatically driven from the appearance appearance It may be a position.

また、上述した実施形態では、情報提供装置201から表示装置31に出力される画像(出力画像)の生成に撮影画像を用いたが、撮影画像を用いずに自車両周辺の風景を表すCG(Computer Graphics)を用いて出力画像を生成してもよい。自車両周辺の風景を表すCGを用いて出力画像を生成する場合には、情報提供装置201は例えば自車両に搭載されているナビゲーション装置から自車両周辺の風景を表すCGを取得するようにすればよい。   Further, in the embodiment described above, the captured image is used to generate the image (output image) output from the information providing device 201 to the display device 31. However, CG representing the scenery around the host vehicle without using the captured image Computer Graphics) may be used to generate the output image. In the case of generating an output image using CG representing the scenery around the host vehicle, the information providing device 201 acquires CG representing the scenery around the host vehicle from a navigation device mounted on the host vehicle, for example. Just do it.

また、情報提供装置201から表示装置31に出力される出力画像に、自車両の車速情報や自車両のシフトレバーのレンジ情報などを含めてもよい。   Further, the output image output from the information providing device 201 to the display device 31 may include vehicle speed information of the host vehicle, range information of the shift lever of the host vehicle, and the like.

また、図4に示すフローチャートにおいて、ステップS50及びS60を省いてもよい。   Moreover, in the flowchart shown in FIG. 4, steps S50 and S60 may be omitted.

また、仮想車両を表す像が重畳されている俯瞰画像において、仮想車両と障害物との距離が閾値以下である場合に、その障害物の近傍位置に、仮想車両に近接する障害物であることを示す指標を重畳してもよい。これにより、自車両の乗員は、自動運転システムが仮想車両と障害物との接近を正しく認識できていることを知ることができるので、安心感が増す。   Further, in the overhead image on which the image representing the virtual vehicle is superimposed, when the distance between the virtual vehicle and the obstacle is equal to or less than the threshold value, the obstacle is close to the virtual vehicle at a position near the obstacle. You may superimpose the index which shows. As a result, the occupant of the host vehicle can know that the automatic driving system can correctly recognize the approach between the virtual vehicle and the obstacle, which increases the sense of security.

上記実施形態及び上記変形例では、自車両が自動運転を行ってこれから走行する位置に対応する領域に、仮想車両を表す像を重畳しているが、自車両が自動運転を行わずにこれから走行する位置に対応する領域に、仮想車両を表す像を重畳してもよい。この場合、目的地までの走行予定路は、例えば、ナビゲーション装置によって案内される案内経路を用いることができる。そして、例えば見通しの悪いS字カーブやクランク路の途中に中間位置を設けることで、出力画像上で仮想車両が隠れている状態であっても、自車両の乗員は仮想車両の残像を頼りにして仮想車両に自車両を追従させる運転を行うことができる。これにより、出力画像上で仮想車両が隠れた場合であっても自車両の乗員に安心感を与えることができる。   In the above embodiment and the above modification, although the image representing the virtual vehicle is superimposed on the area corresponding to the position where the own vehicle performs automatic driving and travels from now on, the own vehicle travels from now on without performing the automatic driving An image representing the virtual vehicle may be superimposed on the area corresponding to the position where the virtual vehicle is located. In this case, for example, a guidance route guided by the navigation device can be used as the planned travel route to the destination. Then, for example, by providing an intermediate position in the middle of a poor S-curve or a crank path, even when the virtual vehicle is hidden on the output image, the occupant of the host vehicle relies on the afterimage of the virtual vehicle. Thus, it is possible to drive the virtual vehicle to follow the own vehicle. As a result, even when the virtual vehicle is hidden on the output image, the occupants of the own vehicle can be given a sense of security.

また、上述した実施形態及び上記変形例では、運転者が自車両と仮想車両との位置関係を直感的に把握できるように、仮想車両を表す像だけでなく自車両を表す像も俯瞰画像に重畳したが、自車両を表す像を俯瞰画像に重畳しないようにしてもよい。   Further, in the embodiment and the modification described above, not only an image representing a virtual vehicle but also an image representing the vehicle are also overhead images so that the driver can intuitively grasp the positional relationship between the vehicle and the virtual vehicle. Although the image is superimposed, an image representing the host vehicle may not be superimposed on the overhead image.

また、上述した実施形態及び上記変形例では、情報提供装置が出力する出力画像は俯瞰画像であったが、情報提供装置が出力する出力画像は俯瞰画像に限定されることはなく、例えばフロントカメラ11の撮影画像に仮想車両を表す像などを重畳してもよい。   Further, in the embodiment and the modification described above, the output image output from the information providing apparatus is a bird's eye image, but the output image output from the information providing apparatus is not limited to a bird's eye image, for example, a front camera An image or the like representing a virtual vehicle may be superimposed on the 11 captured images.

21 カメラ画像取得部
22 画像生成部
23 音声制御部
201 情報提供装置
21 camera image acquisition unit 22 image generation unit 23 voice control unit 201 information providing apparatus

Claims (7)

仮想車両を表す像を生成する生成部と、
自車両の周辺の風景を表す風景画像に前記仮想車両を表す像を重畳する重畳部と、を備え、
前記仮想車両を表す像は、前記風景画像中の前記自車両がこれから走行する位置に対応する領域に重畳され、
前記自車両がこれから走行する位置は、前記自車両の目的地までの走行予定経路に沿って移動するとともに、
前記走行予定経路上に少なくとも一つの中間位置を設け、前記自車両がこれから走行する位置が前記中間位置を通過すると、前記仮想車両を表す像の残像が前記風景画像中の前記中間位置に対応する領域に重畳される、情報提供装置。
A generation unit that generates an image representing a virtual vehicle;
And a superimposing unit that superimposes an image representing the virtual vehicle on a landscape image representing a landscape around the vehicle.
The image representing the virtual vehicle is superimposed on a region corresponding to a position where the vehicle in the landscape image is to travel.
The position where the host vehicle travels from now on moves along the planned travel route to the destination of the host vehicle.
At least one intermediate position is provided on the planned travel route, and when the position where the own vehicle travels from now passes the intermediate position, an afterimage of an image representing the virtual vehicle corresponds to the intermediate position in the landscape image. An information providing device superimposed on the area.
前記仮想車両を表す像は、前記風景画像中において、前記自車両の現在位置に出現し、その後前記目的地まで移動する、請求項1に記載の情報提供装置。   The information providing device according to claim 1, wherein the image representing the virtual vehicle appears at the current position of the vehicle in the landscape image and then moves to the destination. 前記自車両が自動運転を行ってこれから走行する位置が前記中間位置を通過すると、前記仮想車両を表す像の残像が前記風景画像中の前記中間位置に対応する領域に重畳される、請求項1または請求項2に記載の情報提供装置。   When the position where the own vehicle performs automatic driving and traveling from here passes the intermediate position, an afterimage of an image representing the virtual vehicle is superimposed on a region corresponding to the intermediate position in the landscape image. Or the information provision apparatus of Claim 2. 前記仮想車両を表す像の残像は、前記仮想車両を表す像と異なる態様である、請求項1〜3のいずれか一項に記載の情報提供装置。   The information providing device according to any one of claims 1 to 3, wherein an afterimage of an image representing the virtual vehicle is different from an image representing the virtual vehicle. 前記中間位置は、前記自車両の進行方向が切り替わる位置である、請求項1〜4のいずれか一項に記載の情報提供装置。   The information provision device according to any one of claims 1 to 4, wherein the intermediate position is a position at which the traveling direction of the host vehicle is switched. 前記生成部は、前記自車両がこれから走行する位置が移動した移動経路を表す像を生成し、
前記重畳部は、前記風景画像に前記移動経路を表す像を重畳する、請求項1〜5のいずれか一項に記載の情報提供装置。
The generation unit generates an image representing a movement route along which the position at which the host vehicle travels is moved.
The information providing device according to any one of claims 1 to 5, wherein the superimposing unit superimposes an image representing the movement path on the landscape image.
仮想車両を表す像を生成する生成工程と、
自車両の周辺の風景を表す風景画像に前記仮想車両を表す像を重畳する重畳工程と、を備え、
前記仮想車両を表す像は、前記風景画像中の前記自車両がこれから走行する位置に対応する領域に重畳され、
前記自車両がこれから走行する位置は、前記自車両の目的地までの走行予定経路に沿って移動するとともに、
前記走行予定経路上に少なくとも一つの中間位置を設け、前記自車両がこれから走行する位置が前記中間位置を通過すると、前記仮想車両を表す像の残像が前記風景画像中の前記中間位置に対応する領域に重畳される、情報提供方法。
Generating an image representing a virtual vehicle;
And a superimposing step of superimposing an image representing the virtual vehicle on a landscape image representing a landscape around the vehicle.
The image representing the virtual vehicle is superimposed on a region corresponding to a position where the vehicle in the landscape image is to travel.
The position where the host vehicle travels from now on moves along the planned travel route to the destination of the host vehicle.
At least one intermediate position is provided on the planned travel route, and when the position where the own vehicle travels from now passes the intermediate position, an afterimage of an image representing the virtual vehicle corresponds to the intermediate position in the landscape image. An information provision method superimposed on the area.
JP2017167386A 2017-08-31 2017-08-31 Information providing device and information providing method Active JP7088643B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017167386A JP7088643B2 (en) 2017-08-31 2017-08-31 Information providing device and information providing method
US16/040,836 US20190066382A1 (en) 2017-08-31 2018-07-20 Driving support device, driving support method, information providing device and information providing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017167386A JP7088643B2 (en) 2017-08-31 2017-08-31 Information providing device and information providing method

Publications (2)

Publication Number Publication Date
JP2019046071A true JP2019046071A (en) 2019-03-22
JP7088643B2 JP7088643B2 (en) 2022-06-21

Family

ID=65814380

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017167386A Active JP7088643B2 (en) 2017-08-31 2017-08-31 Information providing device and information providing method

Country Status (1)

Country Link
JP (1) JP7088643B2 (en)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1089977A (en) * 1996-09-13 1998-04-10 Daihatsu Motor Co Ltd Traveling guide system
JP2004045185A (en) * 2002-07-11 2004-02-12 Denso Corp On-vehicle route display device
JP2004317275A (en) * 2003-04-16 2004-11-11 Alpine Electronics Inc Navigation system
JP2005127996A (en) * 2003-09-30 2005-05-19 Mazda Motor Corp Route guidance system, method, and program
JP2007198962A (en) * 2006-01-27 2007-08-09 Matsushita Electric Ind Co Ltd Guidance display device for vehicle
JP2009198267A (en) * 2008-02-20 2009-09-03 Pioneer Electronic Corp Navigation device, display control method, display control program, and recording medium
JP2011191269A (en) * 2010-03-16 2011-09-29 Toyota Central R&D Labs Inc Traveling method calculator and program
JP2013238529A (en) * 2012-05-16 2013-11-28 Toyota Motor Corp Information processor of mobile body, information processing method of mobile body, and driving support device
JP2016182891A (en) * 2015-03-26 2016-10-20 修一 田山 Vehicular image display system and method

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5446139B2 (en) 2008-06-10 2014-03-19 日産自動車株式会社 Parking assistance device and parking assistance method
JP6299401B2 (en) 2014-05-09 2018-03-28 日産自動車株式会社 Parking assistance device and parking assistance method

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1089977A (en) * 1996-09-13 1998-04-10 Daihatsu Motor Co Ltd Traveling guide system
JP2004045185A (en) * 2002-07-11 2004-02-12 Denso Corp On-vehicle route display device
JP2004317275A (en) * 2003-04-16 2004-11-11 Alpine Electronics Inc Navigation system
JP2005127996A (en) * 2003-09-30 2005-05-19 Mazda Motor Corp Route guidance system, method, and program
JP2007198962A (en) * 2006-01-27 2007-08-09 Matsushita Electric Ind Co Ltd Guidance display device for vehicle
JP2009198267A (en) * 2008-02-20 2009-09-03 Pioneer Electronic Corp Navigation device, display control method, display control program, and recording medium
JP2011191269A (en) * 2010-03-16 2011-09-29 Toyota Central R&D Labs Inc Traveling method calculator and program
JP2013238529A (en) * 2012-05-16 2013-11-28 Toyota Motor Corp Information processor of mobile body, information processing method of mobile body, and driving support device
JP2016182891A (en) * 2015-03-26 2016-10-20 修一 田山 Vehicular image display system and method

Also Published As

Publication number Publication date
JP7088643B2 (en) 2022-06-21

Similar Documents

Publication Publication Date Title
JP6254554B2 (en) Information presentation system
CN108973682B (en) Vehicle control system, vehicle control method, and storage medium
JP6801787B2 (en) Parking support method and parking support device
WO2020261781A1 (en) Display control device, display control program, and persistent tangible computer-readable medium
JP2019006275A (en) Vehicle control system, vehicle control method, and vehicle control program
JP2018203007A (en) Vehicle control system, vehicle control method and vehicle control program
EP3967554B1 (en) Vehicular display system
JP2017166913A (en) Display controller and display control method
JP2019046069A (en) Driving support device and driving support method
JP2008151507A (en) Apparatus and method for merge guidance
JP2010185761A (en) Navigation system, road map display method
US20190066382A1 (en) Driving support device, driving support method, information providing device and information providing method
JPWO2019008762A1 (en) Parking assistance method and parking assistance device
JP2013078151A (en) Display device for vehicle
JP2021043815A (en) Image processing device
JP2017111739A (en) Driving support apparatus and driving support method
JP6962397B2 (en) Display control device and display control method
JP2023138849A (en) Presentation control device and presentation control program
JP7217090B2 (en) Information providing device and information providing method
JP2021006805A (en) Display control device and display control program
JP7059525B2 (en) Parking support method and parking support device
JP7088643B2 (en) Information providing device and information providing method
JP2022043996A (en) Display control device and display control program
JP7051335B2 (en) Driving support device and driving support method
JP2021037894A (en) Display control device and display control program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200331

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210407

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210525

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210818

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20211007

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220405

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220510

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20220607

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220609

R150 Certificate of patent or registration of utility model

Ref document number: 7088643

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150