JP6644256B2 - Overhead video generation device, overhead video generation system, overhead video generation method and program - Google Patents

Overhead video generation device, overhead video generation system, overhead video generation method and program Download PDF

Info

Publication number
JP6644256B2
JP6644256B2 JP2015250426A JP2015250426A JP6644256B2 JP 6644256 B2 JP6644256 B2 JP 6644256B2 JP 2015250426 A JP2015250426 A JP 2015250426A JP 2015250426 A JP2015250426 A JP 2015250426A JP 6644256 B2 JP6644256 B2 JP 6644256B2
Authority
JP
Japan
Prior art keywords
vehicle
image
overhead
control unit
virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015250426A
Other languages
Japanese (ja)
Other versions
JP2017114237A (en
JP2017114237A5 (en
Inventor
一史 春原
一史 春原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2015250426A priority Critical patent/JP6644256B2/en
Priority to PCT/JP2016/075021 priority patent/WO2017110144A1/en
Publication of JP2017114237A publication Critical patent/JP2017114237A/en
Publication of JP2017114237A5 publication Critical patent/JP2017114237A5/ja
Priority to US15/997,847 priority patent/US10549693B2/en
Application granted granted Critical
Publication of JP6644256B2 publication Critical patent/JP6644256B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)

Description

本発明は、俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラムに関する。   The present invention relates to an overhead image generation apparatus, an overhead image generation system, an overhead image generation method, and a program.

車両の俯瞰映像を車両画像と共に表示する車両周辺表示装置に関する技術が知られている(例えば、特許文献1参照)。この技術は、車両が前進から後退に切り替わったとき、車両画像よりも後方について俯瞰映像の表示領域を広げる。   2. Description of the Related Art A technique related to a vehicle periphery display device that displays a bird's-eye view image of a vehicle together with a vehicle image is known (for example, see Patent Document 1). This technology enlarges the display area of the bird's-eye view image behind the vehicle image when the vehicle switches from forward to reverse.

特開2015−076645号公報JP 2015-076645 A

ところで、車両の運転者は、右左折時または車線変更時に、サイドミラーとバックミラーとによる確認と目視による確認とで、後方を含めた車両周辺を確認する。しかしながら、サイドミラーとバックミラーとによる確認と目視による確認とでは、車両周辺に死角が生じやすい。そこで、適切に車両周辺の確認を可能とする技術が望まれている。   By the way, when turning right or left or changing lanes, the driver of the vehicle checks the surroundings of the vehicle including the rear by checking with the side mirror and the rearview mirror and checking with the naked eye. However, blind spots are likely to be generated around the vehicle when checking with the side mirror and the rearview mirror and checking with the naked eye. Therefore, a technology that enables appropriate confirmation of the vicinity of the vehicle is desired.

本発明は、上記に鑑みてなされたものであって、適切に車両周辺の確認を可能とすることを目的とする。   The present invention has been made in view of the above, and an object of the present invention is to enable appropriate confirmation of the vicinity of a vehicle.

上述した課題を解決し、目的を達成するために、本発明に係る俯瞰映像生成装置は、車両の周辺を撮影した周辺映像を取得する映像取得部と、前記車両の旋回方向への移動を推定する車両情報を取得する車両情報取得部と、前記車両情報取得部で取得した前記車両情報に基づいて、前記車両の旋回方向への移動が推定された場合、前記旋回方向において前記車両が移動する方向とは反対の方向に、前記車両を寄せて位置させた状態で、前記車両を上方から見下ろした前記車両の仮想自車両画像を含む俯瞰映像を生成する制御部とを有することを特徴とする。   In order to solve the above-described problems and achieve the object, an overhead image generation device according to the present invention includes an image acquisition unit configured to acquire a peripheral image of an area around a vehicle, and estimates a movement of the vehicle in a turning direction. A vehicle information acquisition unit for acquiring vehicle information to be performed, and when the movement of the vehicle in the turning direction is estimated based on the vehicle information acquired by the vehicle information acquisition unit, the vehicle moves in the turning direction A control unit that generates a bird's-eye view image including a virtual self-vehicle image of the vehicle when the vehicle is viewed from above, in a state where the vehicle is positioned in a direction opposite to the direction. .

本発明に係る俯瞰映像生成システムは、上記の俯瞰映像生成装置と、前記車両の周辺を撮影し前記映像取得部に周辺映像を供給する撮影部とを有することを特徴とする。   A bird's-eye view image generation system according to the present invention includes the above-described bird's-eye view image generation device and a shooting unit that shoots a periphery of the vehicle and supplies a surrounding image to the video acquisition unit.

本発明に係る俯瞰映像生成方法は、車両の周辺を撮影した周辺映像を取得する映像取得ステップと、前記車両の旋回方向への移動を推定する車両情報を取得する車両情報取得ステップと、前記車両情報取得ステップで取得した前記車両情報に基づいて、前記車両の旋回方向への移動が推定された場合、前記旋回方向において前記車両が移動する方向とは反対の方向に、前記車両を寄せて位置させた状態で、前記車両を上方から見下ろした前記車両の仮想自車両画像を含む俯瞰映像を生成する制御ステップとを含む。   The overhead view image generation method according to the present invention includes: an image acquisition step of acquiring a peripheral image of a periphery of a vehicle; a vehicle information acquisition step of acquiring vehicle information for estimating a movement of the vehicle in a turning direction; When the vehicle is estimated to move in the turning direction based on the vehicle information acquired in the information acquiring step, the vehicle is moved in a direction opposite to the direction in which the vehicle moves in the turning direction, and And generating a bird's-eye view image including a virtual own-vehicle image of the vehicle when the vehicle is viewed from above.

本発明に係るプログラムは、車両の周辺を撮影した周辺映像を取得する映像取得ステップと、前記車両の旋回方向への移動を推定する車両情報を取得する車両情報取得ステップと、前記車両情報取得ステップで取得した前記車両情報に基づいて、前記車両の旋回方向への移動が推定された場合、前記旋回方向において前記車両が移動する方向とは反対の方向に、前記車両を寄せて位置させた状態で、前記車両を上方から見下ろした前記車両の仮想自車両画像を含む俯瞰映像を生成する制御ステップとを俯瞰映像生成装置として動作するコンピュータに実行させる。   A program according to the present invention includes: a video acquisition step of acquiring a peripheral video of a periphery of a vehicle; a vehicle information acquisition step of acquiring vehicle information for estimating a movement of the vehicle in a turning direction; and the vehicle information acquisition step. When the movement of the vehicle in the turning direction is estimated based on the vehicle information obtained in the above, a state in which the vehicle is positioned in a direction opposite to the direction in which the vehicle moves in the turning direction Then, the computer operating as the overhead image generation device executes the control step of generating an overhead image including a virtual own vehicle image of the vehicle when the vehicle is viewed from above.

本発明によれば、適切に車両周辺の確認を可能とすることができるという効果を奏する。   ADVANTAGE OF THE INVENTION According to this invention, it is effective in the ability to confirm the periphery of a vehicle appropriately.

図1は、第一実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。FIG. 1 is a block diagram illustrating a configuration example of the overhead video generation system according to the first embodiment. 図2は、第一実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。FIG. 2 is a flowchart illustrating a flow of processing in the overhead image generation device of the overhead image generation system according to the first embodiment. 図3は、第一実施形態に係る俯瞰映像生成システムで生成した俯瞰映像を示す図である。FIG. 3 is a diagram illustrating an overhead video generated by the overhead video generation system according to the first embodiment. 図4は、第二実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。FIG. 4 is a diagram illustrating another example of the overhead view video generated by the overhead view video generation system according to the second embodiment. 図5は、第三実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。FIG. 5 is a diagram illustrating another example of the overhead image generated by the overhead image generation system according to the third embodiment. 図6は、第四実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。FIG. 6 is a block diagram illustrating a configuration example of the overhead view video generation system according to the fourth embodiment. 図7は、第四実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。FIG. 7 is a flowchart illustrating a flow of processing in the overhead image generation device of the overhead image generation system according to the fourth embodiment. 図8は、第四実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。FIG. 8 is a diagram illustrating another example of the overhead view image generated by the overhead view image generation system according to the fourth embodiment. 図9は、第五実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。FIG. 9 is a flowchart illustrating the flow of processing in the overhead image generation device of the overhead image generation system according to the fifth embodiment. 図10は、第五実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。FIG. 10 is a diagram illustrating another example of the overhead view image generated by the overhead view image generation system according to the fifth embodiment. 図11は、第六実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。FIG. 11 is a block diagram illustrating a configuration example of an overhead view video generation system according to the sixth embodiment. 図12は、第六実施形態に係る俯瞰映像生成システムの左後方周辺撮影カメラと右後方周辺撮影カメラで撮影する範囲を示す平面図である。FIG. 12 is a plan view showing a range photographed by the left rear peripheral photographing camera and the right rear peripheral photographing camera of the overhead view video generation system according to the sixth embodiment. 図13は、第六実施形態に係る俯瞰映像生成システムで生成した俯瞰映像を示す図である。FIG. 13 is a diagram illustrating an overhead video generated by the overhead video generation system according to the sixth embodiment. 図14は、俯瞰映像生成システムの他の構成例を示すブロック図である。FIG. 14 is a block diagram illustrating another configuration example of the overhead view video generation system. 図15は、俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。FIG. 15 is a diagram illustrating another example of the overhead view video generated by the overhead view video generation system. 図16は、俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。FIG. 16 is a diagram illustrating another example of the overhead view video generated by the overhead view video generation system. 図17は、俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。FIG. 17 is a diagram illustrating another example of the overhead view video generated by the overhead view video generation system.

以下に添付図面を参照して、本発明に係る俯瞰映像生成装置40、俯瞰映像生成システム1、俯瞰映像生成方法およびプログラムの実施形態を詳細に説明する。なお、以下の実施形態により本発明が限定されるものではない。   Hereinafter, an embodiment of an overhead video generation device 40, an overhead video generation system 1, an overhead video generation method, and a program according to the present invention will be described in detail with reference to the accompanying drawings. The present invention is not limited by the following embodiments.

[第一実施形態]
図1は、第一実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。俯瞰映像生成システム1は、車両100の俯瞰映像B(図3参照)を生成する。
[First embodiment]
FIG. 1 is a block diagram illustrating a configuration example of the overhead video generation system according to the first embodiment. The overhead view image generation system 1 generates an overhead view image B of the vehicle 100 (see FIG. 3).

まず、車両について説明する。車両100は、図1に示すように、俯瞰映像生成システム1と、表示パネル101と、地図情報記憶部102と、現在地情報検出部103と、方向指示器操作検出部104と、ギア操作検出部105と、ステアリング操作検出部106と、角速度センサ107とを有する。本実施形態では、俯瞰映像生成システム1に、表示パネル101と、地図情報記憶部102と、現在地情報検出部103と、方向指示器操作検出部104と、ギア操作検出部105と、ステアリング操作検出部106と、角速度センサ107とを含めていないが、各部を俯瞰映像生成システム1に含めてもよい。俯瞰映像生成システム1は、車両100に載置されているものに加えて、可搬型で車両において利用可能な装置であってもよい。   First, the vehicle will be described. As shown in FIG. 1, the vehicle 100 includes an overhead image generation system 1, a display panel 101, a map information storage unit 102, a current position information detection unit 103, a direction indicator operation detection unit 104, and a gear operation detection unit 105, a steering operation detection unit 106, and an angular velocity sensor 107. In the present embodiment, the overhead view image generation system 1 includes a display panel 101, a map information storage unit 102, a current location information detection unit 103, a direction indicator operation detection unit 104, a gear operation detection unit 105, and a steering operation detection. Although the unit 106 and the angular velocity sensor 107 are not included, each unit may be included in the overhead image generation system 1. The overhead view video generation system 1 may be a device that is portable and can be used in a vehicle, in addition to the device mounted on the vehicle 100.

表示パネル101は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)または有機EL(Organic Electro-Luminescence)ディスプレイを含むディスプレイである。表示パネル101は、俯瞰映像生成システム1の俯瞰映像生成装置40から出力された映像信号に基づいて、俯瞰映像を表示する。表示パネル101は、俯瞰映像生成システム1に専用のものであっても、例えば、ナビゲーションシステムを含む他のシステムと共同で使用するものであってもよい。表示パネル101は、運転者から視認容易な位置に配置されている。   The display panel 101 is a display including, for example, a liquid crystal display (LCD) or an organic EL (Organic Electro-Luminescence) display. The display panel 101 displays an overhead video based on the video signal output from the overhead video generation device 40 of the overhead video generation system 1. The display panel 101 may be dedicated to the overhead image generation system 1 or may be used jointly with another system including a navigation system, for example. The display panel 101 is arranged at a position that is easily visible from the driver.

地図情報記憶部102は、地図情報を記憶する。地図情報は、例えば、交差点を含む道路地図である。地図情報は、複数車線を有する道路においては車線情報を含んでもよい。地図情報は、目的地に対する経路案内情報を含んでもよい。経路案内情報は、例えば、交差点における右左折情報と複数車線を有する道路の交差点付近における車線変更情報とを含んでもよい。地図情報記憶部102は、記憶している地図情報を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。   The map information storage unit 102 stores map information. The map information is, for example, a road map including an intersection. The map information may include lane information on a road having a plurality of lanes. The map information may include route guidance information for the destination. The route guidance information may include, for example, right / left turn information at an intersection and lane change information near an intersection of a road having a plurality of lanes. The map information storage unit 102 outputs the stored map information to the vehicle information acquisition unit 42 of the overhead view image generation device 40 of the overhead view image generation system 1.

現在地情報検出部103は、車両100の現在地を検出する。現在地情報検出部103は、例えば、GPS(Global Positioning System)受信機である。現在地情報検出部103は、取得した車両100の現在地情報を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。   The current location information detection unit 103 detects the current location of the vehicle 100. The current location information detection unit 103 is, for example, a GPS (Global Positioning System) receiver. The current position information detection unit 103 outputs the obtained current position information of the vehicle 100 to the vehicle information acquisition unit 42 of the overhead image generation device 40 of the overhead image generation system 1.

方向指示器操作検出部104は、方向指示器に対する操作を検出する。より詳しくは、方向指示器操作検出部104は、例えば、方向指示器を操作するスイッチに対する操作を方向指示器操作情報として検出する。方向指示器操作検出部104は、検出した方向指示器操作情報を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。   The direction indicator operation detection unit 104 detects an operation on the direction indicator. More specifically, the direction indicator operation detection unit 104 detects, for example, an operation on a switch that operates the direction indicator as direction indicator operation information. The direction indicator operation detection unit 104 outputs the detected direction indicator operation information to the vehicle information acquisition unit 42 of the overhead image generation device 40 of the overhead image generation system 1.

ギア操作検出部105は、ギアに対する操作を検出する。より詳しくは、ギア操作検出部105は、ギアに対する選択操作をギア操作情報として検出する。ギア操作検出部105は、検出したギア操作情報を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。   The gear operation detection unit 105 detects an operation on a gear. More specifically, the gear operation detection unit 105 detects a selection operation for a gear as gear operation information. The gear operation detection unit 105 outputs the detected gear operation information to the vehicle information acquisition unit 42 of the overhead image generation device 40 of the overhead image generation system 1.

ステアリング操作検出部106は、ステアリングホイールに対する操作を検出する。より詳しくは、ステアリング操作検出部106は、ステアリングホイールの操作角度をステアリング操作情報として検出する。ステアリング操作検出部106は、検出したステアリング操作情報を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。   The steering operation detection unit 106 detects an operation on the steering wheel. More specifically, the steering operation detection unit 106 detects an operation angle of the steering wheel as steering operation information. The steering operation detection unit 106 outputs the detected steering operation information to the vehicle information acquisition unit 42 of the overhead image generation device 40 of the overhead image generation system 1.

角速度センサ107は、車両100の角速度を検出する。角速度センサ107は、例えばジャイロセンサである。角速度センサ107は、検出した角速度を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。   The angular velocity sensor 107 detects the angular velocity of the vehicle 100. The angular velocity sensor 107 is, for example, a gyro sensor. The angular velocity sensor 107 outputs the detected angular velocity to the vehicle information acquisition unit 42 of the overhead video generation device 40 of the overhead video generation system 1.

俯瞰映像生成システム1は、第一撮影装置20と、記憶装置30と、俯瞰映像生成装置40とを有する。   The overhead view image generation system 1 includes a first photographing device 20, a storage device 30, and an overhead view image generation device 40.

第一撮影装置20は、車両100の周辺を撮影する。第一撮影装置20は、前方用周辺撮影カメラ21と、後方用周辺撮影カメラ22と、左側方用周辺撮影カメラ23と、右側方用周辺撮影カメラ24とを有する。第一撮影装置20は、前方用周辺撮影カメラ21と後方用周辺撮影カメラ22と左側方用周辺撮影カメラ23と右側方用周辺撮影カメラ24とで、車両100の全方位を撮影する。第一撮影装置20は、前方用周辺撮影カメラ21と後方用周辺撮影カメラ22と左側方用周辺撮影カメラ23と右側方用周辺撮影カメラ24とで撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。   The first photographing device 20 photographs the periphery of the vehicle 100. The first photographing device 20 includes a front peripheral photographing camera 21, a rear peripheral photographing camera 22, a left peripheral photographing camera 23, and a right peripheral photographing camera 24. The first photographing device 20 photographs the omnidirectional direction of the vehicle 100 with the front peripheral photographing camera 21, the rear peripheral photographing camera 22, the left peripheral photographing camera 23, and the right peripheral photographing camera 24. The first photographing device 20 acquires an image photographed by the front peripheral photographing camera 21, the rear peripheral photographing camera 22, the left peripheral photographing camera 23, and the right peripheral photographing camera 24 by the overhead image generating device 40. Output to the unit 41.

前方用周辺撮影カメラ21は、車両100の前方に配置され、車両100の前方を中心とした周辺を撮影する。前方用周辺撮影カメラ21は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。   The front peripheral photographing camera 21 is arranged in front of the vehicle 100 and photographs the periphery around the front of the vehicle 100. The front peripheral camera 21 outputs the captured video to the video acquisition unit 41 of the overhead video generation device 40.

後方用周辺撮影カメラ22は、車両100の後方に配置され、車両100の後方を中心とした周辺を撮影する。後方用周辺撮影カメラ22は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。   The rear peripheral photographing camera 22 is arranged behind the vehicle 100 and photographs the periphery around the rear of the vehicle 100. The rear peripheral camera 22 outputs the captured image to the image acquisition unit 41 of the overhead image generation device 40.

左側方用周辺撮影カメラ23は、車両100の左側方に配置され、車両100の左側方を中心とした周辺を撮影する。左側方用周辺撮影カメラ23は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。   The left side surrounding photographing camera 23 is arranged on the left side of the vehicle 100 and photographs the periphery around the left side of the vehicle 100. The left peripheral imaging camera 23 outputs the captured video to the video acquisition unit 41 of the overhead video generation device 40.

右側方用周辺撮影カメラ24は、車両100の右側方に配置され、車両100の右側方を中心とした周辺を撮影する。右側方用周辺撮影カメラ24は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。   The right side peripheral photographing camera 24 is disposed on the right side of the vehicle 100 and photographs the periphery around the right side of the vehicle 100. The right side peripheral camera 24 outputs the captured image to the image acquisition unit 41 of the overhead image generation device 40.

記憶装置30は、俯瞰映像生成装置40における各種処理に要するデータおよび各種処理結果を記憶する。記憶装置30は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、または、ハードディスク、光ディスクなどの記憶装置である。   The storage device 30 stores data required for various processes in the overhead view video generation device 40 and various processing results. The storage device 30 is, for example, a semiconductor memory device such as a random access memory (RAM), a read only memory (ROM), or a flash memory, or a storage device such as a hard disk or an optical disk.

俯瞰映像生成装置40は、例えば、CPU(Central Processing Unit)などで構成された演算処理装置である。俯瞰映像生成装置40は、記憶装置30に記憶されているプログラムをメモリにロードして、プログラムに含まれる命令を実行する。俯瞰映像生成装置40は、映像取得部41と、車両情報取得部42と、俯瞰映像生成部43aと表示制御部43bとを含む制御部43と、を有する。   The bird's-eye view image generation device 40 is, for example, an arithmetic processing device including a CPU (Central Processing Unit). The bird's-eye view video generation device 40 loads a program stored in the storage device 30 into a memory, and executes an instruction included in the program. The overhead view image generation device 40 includes an image acquisition unit 41, a vehicle information acquisition unit 42, and a control unit 43 including an overhead view image generation unit 43a and a display control unit 43b.

映像取得部41は、車両100の周辺を撮影した周辺映像を取得する。より詳しくは、映像取得部41は、第一撮影装置20の前方用周辺撮影カメラ21と後方用周辺撮影カメラ22と左側方用周辺撮影カメラ23と右側方用周辺撮影カメラ24とが出力した映像を取得する。映像取得部41は、取得した映像を俯瞰映像生成部43aに出力する。   The image acquisition unit 41 acquires a peripheral image of the periphery of the vehicle 100. More specifically, the image acquiring unit 41 outputs the images output by the front peripheral photographing camera 21, the rear peripheral photographing camera 22, the left peripheral photographing camera 23, and the right peripheral photographing camera 24 of the first photographing device 20. To get. The image acquisition unit 41 outputs the acquired image to the overhead image generation unit 43a.

車両情報取得部42は、車両100の旋回方向への移動を推定する車両情報を取得する。車両100の旋回方向への移動を推定する情報とは、車両100の周辺の地図情報と車両100の現在地情報と車両100の方向指示器操作情報と車両100のギア操作情報と車両100のステアリング操作情報と車両100の角速度との少なくともいずれか一つの車両情報などである。より詳しくは、車両情報取得部42は、地図情報記憶部102と現在地情報検出部103と方向指示器操作検出部104とギア操作検出部105とステアリング操作検出部106と角速度センサ107との少なくともいずれか一つが出力した車両情報を取得する。車両情報取得部42は、取得した車両情報を表示制御部43bに出力する。   The vehicle information acquisition unit 42 acquires vehicle information for estimating the movement of the vehicle 100 in the turning direction. The information for estimating the movement of the vehicle 100 in the turning direction includes map information around the vehicle 100, current location information of the vehicle 100, direction indicator operation information of the vehicle 100, gear operation information of the vehicle 100, and steering operation of the vehicle 100. The vehicle information includes at least one of the information and the angular velocity of the vehicle 100. More specifically, the vehicle information acquisition unit 42 includes at least one of the map information storage unit 102, the current location information detection unit 103, the direction indicator operation detection unit 104, the gear operation detection unit 105, the steering operation detection unit 106, and the angular velocity sensor 107. The vehicle information output by one of them is acquired. The vehicle information acquisition unit 42 outputs the acquired vehicle information to the display control unit 43b.

制御部43は、車両100を上方から見た仮想自車両画像Aと、映像取得部41で取得した映像を、車両100の上方から見た映像に視点変換して、俯瞰映像Bを生成する俯瞰映像生成部43aと、俯瞰映像生成部43aで生成した映像を加工し、表示パネル101に送る表示制御部43bとを含む。制御部43は、俯瞰映像生成部43aで生成した映像を加工し、表示パネル101に送る。例えば、制御部43は、俯瞰映像生成部43aで生成した俯瞰映像Bを、表示制御部43bで仮想自車両画像Aを寄せて表示パネル101に表示されるように加工し、表示パネル101に送る。また、制御部44は、俯瞰映像生成部43aで生成した俯瞰映像Bを、表示制御部43bで仮想自車両画像Aを寄せておよび縮小して表示パネル101に表示されるように加工し、表示パネル101に送る。   The control unit 43 converts the viewpoint of the virtual vehicle image A viewed from above the vehicle 100 and the image acquired by the image acquisition unit 41 into an image viewed from above the vehicle 100 to generate an overhead image B. It includes a video generation unit 43a and a display control unit 43b that processes the video generated by the overhead video generation unit 43a and sends the processed video to the display panel 101. The control unit 43 processes the image generated by the overhead image generation unit 43a and sends the processed image to the display panel 101. For example, the control unit 43 processes the bird's-eye view image B generated by the bird's-eye view image generation unit 43a so that the display control unit 43b brings the virtual vehicle image A closer to the display panel 101 and sends the processed image to the display panel 101. . Further, the control unit 44 processes the overhead view image B generated by the overhead view image generation unit 43a so that the virtual own vehicle image A is shifted and reduced by the display control unit 43b and displayed on the display panel 101. Send to panel 101.

俯瞰映像生成部43aは、前方用周辺撮影カメラ21と後方用周辺撮影カメラ22と左側方用周辺撮影カメラ23と右側方用周辺撮影カメラ24とで撮影した映像に基づいて、俯瞰映像Bを生成する。俯瞰映像Bを生成する方法は、公知のいずれの方法でもよく、限定されない。俯瞰映像Bには、仮想自車両画像A、および、前方映像B1と後方映像B2と左側方映像B3と右側方映像B4との少なくともいずれか一つを含む。俯瞰映像Bは、矩形状のフレームF内に生成される。フレームFは、前方映像B1を表示する第一フレームF1と、後方映像B2を表示する第二フレームF2と、左側方映像B3を表示する第三フレームF3と、右側方映像B4を表示する第四フレームF4との少なくともいずれか一つを含む。俯瞰映像生成部43aは、生成した俯瞰映像Bを表示制御部43bに出力する。   The bird's-eye view image generation unit 43a generates a bird's-eye view image B based on the images taken by the front peripheral photographing camera 21, the rear peripheral photographing camera 22, the left peripheral photographing camera 23, and the right peripheral photographing camera 24. I do. The method of generating the bird's-eye view video B may be any known method, and is not limited. The bird's-eye view video B includes a virtual host vehicle image A and at least one of a front video B1, a rear video B2, a left video B3, and a right video B4. The bird's-eye view video B is generated in a rectangular frame F. The frame F includes a first frame F1 displaying the front image B1, a second frame F2 displaying the rear image B2, a third frame F3 displaying the left image B3, and a fourth frame F4 displaying the right image B4. And at least one of the frames F4. The bird's-eye view video generation unit 43a outputs the generated bird's-eye view video B to the display control unit 43b.

表示制御部43bは、車両情報取得部42で取得した車両情報に基づいて、車両100の旋回方向(左右方向)の移動が推定された場合、旋回方向において車両100が移動する方向とは反対の方向に、車両100を寄せて位置させた状態で、車両100を上方から見下ろした仮想自車両画像Aを含む俯瞰映像Bを生成する。車両100の旋回方向の移動とは、車両100が走行中の道路が延びる方向(以下、「走行道路方向」という)に対して、逸れる方向の移動である。旋回方向の移動は、車両100の前後方向の前側に向かって左右方向の移動である。例えば、右左折時や車線変更時に、車両100は、旋回方向に移動する。車両100の旋回方向の移動には、屈曲またはカーブしている道路に沿った車両100の移動は含まない。表示制御部43bは、例えば、走行道路方向とのズレが15°以上となったら、逸れる方向の移動と判定するようにしてもよい。これは、走行時の多少のブレやステアリングホイールの遊びを、車両100の旋回方向の移動として判定しないためである。   When the movement of the vehicle 100 in the turning direction (left-right direction) is estimated based on the vehicle information acquired by the vehicle information acquiring unit 42, the display control unit 43b is opposite to the direction in which the vehicle 100 moves in the turning direction. A bird's-eye view video B including a virtual host vehicle image A in which the vehicle 100 is viewed from above is generated in a state where the vehicle 100 is positioned in the direction. The movement of the vehicle 100 in the turning direction is a movement in a direction deviating from the direction in which the road on which the vehicle 100 is traveling extends (hereinafter, referred to as “traveling road direction”). The movement in the turning direction is a movement in the left-right direction toward the front side of the vehicle 100 in the front-rear direction. For example, when turning left or right or when changing lanes, the vehicle 100 moves in the turning direction. The movement of the vehicle 100 in the turning direction does not include the movement of the vehicle 100 along a curved or curved road. The display control unit 43b may determine that the movement is in a deviating direction, for example, when the deviation from the traveling road direction is 15 ° or more. This is because a slight blur during driving or a play of the steering wheel is not determined as the movement of the vehicle 100 in the turning direction.

次に、図2を用いて、俯瞰映像生成システム1の俯瞰映像生成装置40における処理の流れについて説明する。図2は、俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。   Next, the flow of processing in the overhead image generation device 40 of the overhead image generation system 1 will be described with reference to FIG. FIG. 2 is a flowchart showing the flow of processing in the overhead image generation device of the overhead image generation system.

表示制御部43bは、旋回方向の移動が推定されるか否かを判定する(ステップS11)。より詳しくは、表示制御部43bは、車両情報取得部42で取得した、車両100の周辺の地図情報と車両100の現在地情報と車両100の方向指示器操作情報と車両100のギア操作情報と車両100のステアリング操作情報と車両100の角速度との少なくともいずれか一つの車両情報に基づいて、車両100の旋回方向の移動が推定されるか否かを判定する。   The display control unit 43b determines whether the movement in the turning direction is estimated (Step S11). More specifically, the display control unit 43b acquires the map information around the vehicle 100, the current location information of the vehicle 100, the turn signal operation information of the vehicle 100, the gear operation information of the vehicle 100, and the vehicle information acquired by the vehicle information acquisition unit 42. It is determined whether or not the movement of the vehicle 100 in the turning direction is estimated based on at least one of the steering operation information of the vehicle 100 and the angular velocity of the vehicle 100.

表示制御部43bが、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100の旋回方向の移動が推定されるか否かを判定する場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100が経路案内情報で右左折が予定されている交差点の所定距離内に近づいた場合、車両100の旋回方向の移動が推定されると判定する。所定距離は、例えば、5mとしてもよい。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100が経路案内情報で車線変更が予定されている地点の所定距離内に近づいた場合、車両100の旋回方向の移動が推定されると判定する。所定距離は、例えば、5mとしてもよい。表示制御部43bは、車両100の旋回方向の移動が推定されると判定した際に、推定した車両100の移動方向を記憶装置30に記憶する。   When the display control unit 43b determines whether or not the movement in the turning direction of the vehicle 100 is estimated based on the map information around the vehicle 100 acquired by the vehicle information acquisition unit 42 and the current location information of the vehicle 100 Will be described. For example, based on the map information around the vehicle 100 and the current location information of the vehicle 100, the display control unit 43b, when the vehicle 100 approaches within a predetermined distance of an intersection where a right / left turn is scheduled in the route guidance information, It is determined that the movement of the vehicle 100 in the turning direction is estimated. The predetermined distance may be, for example, 5 m. For example, based on the map information around the vehicle 100 and the current location information of the vehicle 100, the display control unit 43b, when the vehicle 100 approaches within a predetermined distance of a point where a lane change is scheduled in the route guidance information, It is determined that the movement of the vehicle 100 in the turning direction is estimated. The predetermined distance may be, for example, 5 m. When determining that the movement of the vehicle 100 in the turning direction is estimated, the display control unit 43b stores the estimated movement direction of the vehicle 100 in the storage device 30.

表示制御部43bが、車両情報取得部42で取得した方向指示器操作情報に基づいて、車両100の旋回方向の移動が推定されるか否かを判定する場合について説明する。例えば、表示制御部43bは、方向指示器操作情報に基づいて、方向指示器が操作された場合、車両100の旋回方向の移動が推定されると判定する。表示制御部43bは、車両100の旋回方向の移動が推定されると判定した際に、推定した車両100の移動方向を記憶装置30に記憶する。   A case in which the display control unit 43b determines whether or not the movement of the vehicle 100 in the turning direction is estimated based on the direction indicator operation information acquired by the vehicle information acquisition unit 42 will be described. For example, based on the direction indicator operation information, the display control unit 43b determines that the movement of the vehicle 100 in the turning direction is estimated when the direction indicator is operated. When determining that the movement of the vehicle 100 in the turning direction is estimated, the display control unit 43b stores the estimated movement direction of the vehicle 100 in the storage device 30.

表示制御部43bが、車両情報取得部42で取得したギア操作情報とステアリング操作情報とに基づいて、車両100の旋回方向の移動が推定されるか否かを判定する場合について説明する。例えば、表示制御部43bは、ギア操作情報とステアリング操作情報との少なくともいずれか一方に基づいて、ステアリングホイールが操作された場合、または、リバースギアが選択されて、かつ、ステアリングホイールが操作された場合、車両100の旋回方向の移動が推定されると判定する。表示制御部43bは、車両100の旋回方向の移動が推定されると判定した際に、推定した車両100の移動方向を記憶装置30に記憶する。   The case where the display control unit 43b determines whether or not the movement in the turning direction of the vehicle 100 is estimated based on the gear operation information and the steering operation information acquired by the vehicle information acquisition unit 42 will be described. For example, based on at least one of the gear operation information and the steering operation information, the display control unit 43b operates when the steering wheel is operated, or when the reverse gear is selected and the steering wheel is operated. In this case, it is determined that the movement of the vehicle 100 in the turning direction is estimated. When determining that the movement of the vehicle 100 in the turning direction is estimated, the display control unit 43b stores the estimated movement direction of the vehicle 100 in the storage device 30.

表示制御部43bが、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報、および、ステアリング操作情報と車両100の角速度との少なくともいずれか一方に基づいて、車両100の旋回方向の移動が推定されるか否かを判定する場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、ステアリング操作情報と車両100の角速度との少なくともいずれか一方に基づいて、走行道路方向に対して逸れる方向にステアリング操作がされた場合、または、走行道路方向に対して逸れる方向に角速度が変化した場合、車両100の旋回方向の移動が推定されると判定する。例えば、走行道路方向とのズレが15°以上となったら、逸れる方向の移動と判定するようにしてもよい。このように、車両100の周辺の地図情報と車両100の現在地情報、および、ステアリング操作情報と車両100の角速度との少なくともいずれか一方を組み合わせて判定するのは、例えば、屈曲またはカーブしている道路に沿ってステアリング操作がされたり、角速度が変化したりした場合に、誤って車両100の旋回方向の移動が推定されると判定しないためである。表示制御部43bは、車両100の旋回方向の移動が推定されると判定した際に、推定した車両100の移動方向を記憶装置30に記憶する。   The display control unit 43b controls the vehicle 100 based on at least one of the map information around the vehicle 100 and the current location information of the vehicle 100 acquired by the vehicle information acquisition unit 42 and / or the steering operation information and the angular velocity of the vehicle 100. A case will be described in which it is determined whether or not the movement in the turning direction is estimated. For example, based on at least one of the map information around the vehicle 100 and the current location information of the vehicle 100 and / or the steering operation information and the angular velocity of the vehicle 100, the display control unit 43b determines the direction deviating from the traveling road direction. When the steering operation is performed on the vehicle, or when the angular velocity changes in a direction deviating from the traveling road direction, it is determined that the movement of the vehicle 100 in the turning direction is estimated. For example, if the deviation from the traveling road direction is equal to or more than 15 °, the movement may be determined to deviate. As described above, the determination based on the combination of the map information around the vehicle 100 and the current location information of the vehicle 100 and / or the steering operation information and the angular velocity of the vehicle 100 is, for example, a bending or a curve. This is because when the steering operation is performed along the road or the angular velocity changes, it is not determined that the movement of the vehicle 100 in the turning direction is erroneously estimated. When determining that the movement of the vehicle 100 in the turning direction is estimated, the display control unit 43b stores the estimated movement direction of the vehicle 100 in the storage device 30.

表示制御部43bが、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つに基づいて、車両100の旋回方向の移動が推定されるか否かを判定する場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つに基づいて、車両100が経路案内情報で右左折が予定されている交差点の所定距離内に近づいた場合で、かつ、方向指示器が操作された場合、または、走行道路方向に対して逸れる方向にステアリング操作がされた場合、または、走行道路方向に対して逸れる方向に角速度が変化した場合、車両100の旋回方向の移動が推定されると判定する。所定距離は、例えば、5mとしてもよい。例えば、走行道路方向とのズレが15°以上となったら、逸れる方向の移動と判定するようにしてもよい。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つに基づいて、車両100が経路案内情報で車線変更が予定されている地点の所定距離内に近づいた場合で、かつ、方向指示器が操作された場合、または、走行道路方向に対して逸れる方向にステアリング操作がされた場合、または、走行道路方向に対して逸れる方向に角速度が変化した場合、車両の旋回方向の移動が推定されると判定する。所定距離は、例えば、5mとしてもよい。例えば、走行道路方向とのズレが15°以上となったら、逸れる方向の移動と判定するようにしてもよい。このように、車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つを組み合わせて判定するのは、例えば、経路案内では右左折や車線変更が案内されているものの、運転者が経路案内に従わないで直進する場合に、誤って車両100が旋回方向に移動すると推定しないためである。表示制御部43bは、車両100の旋回方向の移動が推定されると判定した際に、推定した車両100の移動方向を記憶装置30に記憶する。   The display control unit 43b controls at least one of the map information around the vehicle 100 and the current location information of the vehicle 100 acquired by the vehicle information acquisition unit 42, and the direction indicator operation information, the steering operation information, and the angular velocity of the vehicle 100. Based on the above, a case will be described in which it is determined whether or not the movement of the vehicle 100 in the turning direction is estimated. For example, the display control unit 43b controls the vehicle based on at least one of the map information around the vehicle 100, the current location information of the vehicle 100, and the direction indicator operation information, the steering operation information, and the angular velocity of the vehicle 100. When 100 is within a predetermined distance of an intersection where a right or left turn is planned in the route guidance information, and the direction indicator is operated, or the steering operation is performed in a direction deviating from the traveling road direction. If the angular velocity changes in a direction deviating from the traveling road direction, it is determined that the movement of the vehicle 100 in the turning direction is estimated. The predetermined distance may be, for example, 5 m. For example, if the deviation from the traveling road direction is equal to or more than 15 °, the movement may be determined to deviate. For example, the display control unit 43b controls the vehicle based on at least one of the map information around the vehicle 100, the current location information of the vehicle 100, and the direction indicator operation information, the steering operation information, and the angular velocity of the vehicle 100. 100 is within a predetermined distance of the point where the lane change is scheduled in the route guidance information, and the direction indicator is operated, or the steering operation is performed in a direction deviating from the traveling road direction. If the angular velocity changes in a direction deviating from the traveling road direction, it is determined that the movement of the vehicle in the turning direction is estimated. The predetermined distance may be, for example, 5 m. For example, if the deviation from the traveling road direction is equal to or more than 15 °, the movement may be determined to deviate. As described above, the determination based on the combination of at least one of the map information around the vehicle 100 and the current location information of the vehicle 100, and the direction indicator operation information, the steering operation information, and the angular velocity of the vehicle 100 is performed, for example. This is because, although the vehicle guides a right or left turn or a lane change in the route guidance, it is not estimated that the vehicle 100 erroneously moves in the turning direction when the driver goes straight without following the route guidance. When determining that the movement of the vehicle 100 in the turning direction is estimated, the display control unit 43b stores the estimated movement direction of the vehicle 100 in the storage device 30.

表示制御部43bは、車両100の旋回方向の移動が推定されていない場合(ステップS11でNo)、ステップS12に進む。   When the movement of the vehicle 100 in the turning direction has not been estimated (No in Step S11), the display control unit 43b proceeds to Step S12.

表示制御部43bは、車両100が旋回方向に移動すると推定した場合(ステップS11でYes)、ステップS13に進む。   When the display control unit 43b estimates that the vehicle 100 moves in the turning direction (Yes in step S11), the process proceeds to step S13.

表示制御部43bは、仮想自車両画像Aを中央に位置させた、通常の俯瞰映像Bを生成する(ステップS12)。より詳しくは、表示制御部43bは、車両100を中央に位置させた状態で、車両100を上方から見下ろした仮想自車両画像Aを含む俯瞰映像Bを生成する。この俯瞰映像Bは、仮想自車両画像Aの中心CがフレームFの中央に位置する。   The display control unit 43b generates a normal bird's-eye view video B in which the virtual host vehicle image A is positioned at the center (Step S12). More specifically, the display control unit 43b generates the bird's-eye view video B including the virtual own vehicle image A looking down on the vehicle 100 from above while the vehicle 100 is located at the center. In this overhead view video B, the center C of the virtual own vehicle image A is located at the center of the frame F.

表示制御部43bは、車両100の移動方向を取得する(ステップS13)。表示制御部43bは、ステップS11で記憶装置30に記憶した車両100の移動方向を取得する。   The display control unit 43b acquires the moving direction of the vehicle 100 (Step S13). The display control unit 43b acquires the moving direction of the vehicle 100 stored in the storage device 30 in step S11.

表示制御部43bは、仮想自車両画像Aをずらして位置させた状態で表示パネル101に表示される俯瞰映像Bを生成する(ステップS14)。より詳しくは、表示制御部43bは、旋回方向において車両100の移動方向と反対の方向に、車両100を寄せて位置させた状態で、車両100を上方から見下ろした仮想自車両画像Aを含む俯瞰映像Bを生成する。本実施形態では、表示制御部43bは、旋回方向において車両100の移動方向とは反対の方向で、かつ、フレームFの上側に、車両100を寄せて位置させた状態で、車両100を上方から見下ろした仮想自車両画像Aを含む俯瞰映像Bを生成する。   The display control unit 43b generates the bird's-eye view video B displayed on the display panel 101 with the virtual own vehicle image A shifted and positioned (step S14). More specifically, the display control unit 43b is a bird's-eye view including the virtual self-vehicle image A when the vehicle 100 is viewed from above in a state where the vehicle 100 is positioned in a direction opposite to the moving direction of the vehicle 100 in the turning direction. Image B is generated. In the present embodiment, the display control unit 43b moves the vehicle 100 from above in a state in which the vehicle 100 is positioned closer to the upper side of the frame F in the direction opposite to the moving direction of the vehicle 100 in the turning direction. A bird's-eye view video B including the virtual vehicle image A that is looked down is generated.

より詳しくは、まず、表示制御部43bは、車両100の移動方向が、走行道路方向に対して、左右どちらの方向に位置するかを判定する。表示制御部43bは、車両100の移動方向を右方向と判定した場合、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの左上に位置させる。この場合、仮想自車両画像Aの中心線LAは、フレームFの中心線LFよりも左側に位置する。仮想自車両画像Aの中心Cは、フレームFの上側に位置する。表示制御部43bは、車両100の移動方向を左方向と判定した場合、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの右上に位置させる。この場合、仮想自車両画像Aの中心線LAは、フレームFの中心線LFよりも右側に位置する。仮想自車両画像Aの中心Cは、フレームFの上側に位置する。そして、表示制御部43bは、仮想自車両画像AをフレームFの左上または右上に位置させた俯瞰映像Bを生成する。これにより、仮想自車両画像AがフレームFの左上に位置している場合、俯瞰映像Bには、仮想自車用画像Aの右側が広く表示される。仮想自車両画像AがフレームFの右上に位置している場合、俯瞰映像Bには、仮想自車用画像Aの左側が広く表示される。仮想自車用画像Aは車両Vを示しているため、車両Vの周辺において、旋回方向への移動時に注意すべき情報が表示される範囲を広く表示することができる。   More specifically, first, the display control unit 43b determines whether the moving direction of the vehicle 100 is located in the left or right direction with respect to the traveling road direction. When determining that the moving direction of the vehicle 100 is the right direction, the display control unit 43b positions the virtual own vehicle image A on the upper left of the frame F in the overhead view video B. In this case, the center line LA of the virtual host vehicle image A is located on the left side of the center line LF of the frame F. The center C of the virtual vehicle image A is located above the frame F. When determining that the moving direction of the vehicle 100 is the left direction, the display control unit 43b positions the virtual own vehicle image A on the upper right of the frame F in the overhead view video B. In this case, the center line LA of the virtual host vehicle image A is located on the right side of the center line LF of the frame F. The center C of the virtual vehicle image A is located above the frame F. Then, the display control unit 43b generates a bird's-eye view video B in which the virtual vehicle image A is positioned at the upper left or upper right of the frame F. Thereby, when the virtual own vehicle image A is located at the upper left of the frame F, the right side of the virtual own vehicle image A is widely displayed in the overhead view video B. When the virtual vehicle image A is located at the upper right of the frame F, the left side of the virtual vehicle image A is widely displayed in the overhead view video B. Since the virtual vehicle image A shows the vehicle V, it is possible to display a wide range around the vehicle V in which information to be noted when moving in the turning direction is displayed.

本実施形態では、車両100の移動方向が左方向であり、図3に示すように、俯瞰映像Bは、仮想自車両画像AがフレームFの右上に位置している。図3は、俯瞰映像生成システムで生成した俯瞰映像を示す図である。俯瞰映像Bは、仮想自車両画像Aと、広い範囲の後方映像B2と左側方映像B3と、狭い範囲の前方映像B1と右側方映像B4とを含む。フレームFは、第二フレームF2と第三フレームF3とを広く含み、第一フレームF1と第四フレームF4とを狭く含む。このように、俯瞰映像Bには、車両100の移動方向である左側が広く表示される。   In the present embodiment, the moving direction of the vehicle 100 is the left direction, and in the overhead view video B, the virtual own vehicle image A is located at the upper right of the frame F as shown in FIG. FIG. 3 is a diagram illustrating an overhead video generated by the overhead video generation system. The bird's-eye view image B includes a virtual host vehicle image A, a wide range rear image B2 and left side image B3, and a narrow range front image B1 and right side image B4. The frame F broadly includes the second frame F2 and the third frame F3, and narrowly includes the first frame F1 and the fourth frame F4. As described above, the bird's-eye view video B broadly displays the left side, which is the moving direction of the vehicle 100.

表示制御部43bは、車両100の旋回方向に移動が完了した場合、仮想自車両画像Aを元の状態に復帰した俯瞰映像Bを生成する。   When the movement of the vehicle 100 in the turning direction is completed, the display control unit 43b generates the bird's-eye view video B in which the virtual own vehicle image A is restored to the original state.

表示制御部43bは、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100の旋回方向への移動を推定した場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100が経路案内情報で右左折が予定されている交差点から所定距離以上に離れた場合、車両100の旋回方向の移動が完了したと判定する。所定距離は、例えば、5mとしてもよい。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報とに基づいて、車両100が経路案内情報で車線変更が予定されている地点から所定距離以上に離れた場合、車両100の旋回方向の移動が完了したと判定する。所定距離は、例えば、5mとしてもよい。   The case where the display control unit 43b estimates the movement of the vehicle 100 in the turning direction based on the map information around the vehicle 100 acquired by the vehicle information acquisition unit 42 and the current location information of the vehicle 100 will be described. For example, based on the map information around the vehicle 100 and the current location information of the vehicle 100, the display control unit 43b, when the vehicle 100 is separated from the intersection scheduled to turn right or left in the route guidance information by a predetermined distance or more, It is determined that the movement of the vehicle 100 in the turning direction has been completed. The predetermined distance may be, for example, 5 m. For example, based on the map information around the vehicle 100 and the current location information of the vehicle 100, the display control unit 43b, when the vehicle 100 is separated from the point where the lane change is scheduled in the route guidance information by a predetermined distance or more, It is determined that the movement of the vehicle 100 in the turning direction has been completed. The predetermined distance may be, for example, 5 m.

表示制御部43bが、車両情報取得部42で取得した方向指示器操作情報に基づいて、車両100の旋回方向への移動を推定した場合について説明する。例えば、表示制御部43bは、方向指示器操作情報に基づいて、方向指示器の操作が解除された場合、車両100の旋回方向の移動が完了したと判定する。   A case where the display control unit 43b estimates the movement of the vehicle 100 in the turning direction based on the direction indicator operation information acquired by the vehicle information acquisition unit 42 will be described. For example, when the operation of the direction indicator is released based on the direction indicator operation information, the display control unit 43b determines that the movement of the vehicle 100 in the turning direction is completed.

表示制御部43bが、車両情報取得部42で取得したギア操作情報とステアリング操作情報とに基づいて、車両100の旋回方向への移動を推定した場合について説明する。例えば、表示制御部43bは、ギア操作情報とステアリング操作情報との少なくともいずれか一方に基づいて、ステアリングホイールが復帰方向に操作された場合、または、リバースギアの選択が解除されて、かつ、ステアリングホイールが復帰方向に操作された場合、車両100の旋回方向の移動が完了したと判定する。   A case where the display control unit 43b estimates the movement of the vehicle 100 in the turning direction based on the gear operation information and the steering operation information acquired by the vehicle information acquisition unit 42 will be described. For example, based on at least one of the gear operation information and the steering operation information, the display control unit 43b determines whether the steering wheel has been operated in the return direction, or the reverse gear has been deselected, and When the wheel is operated in the return direction, it is determined that the movement of the vehicle 100 in the turning direction has been completed.

表示制御部43bが、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報、および、ステアリング操作情報と車両100の角速度との少なくともいずれか一方に基づいて、車両100の旋回方向への移動を推定した場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、ステアリング操作情報と車両100の角速度との少なくともいずれか一方に基づいて、ステアリングホイールが復帰方向に操作がされた場合、または、角速度が復帰方向に変化した場合、車両100の旋回方向の移動が完了したと判定する。   The display control unit 43b controls the vehicle 100 based on at least one of the map information around the vehicle 100 and the current location information of the vehicle 100 acquired by the vehicle information acquisition unit 42 and / or the steering operation information and the angular velocity of the vehicle 100. The case where the movement in the turning direction is estimated will be described. For example, based on at least one of the map information around the vehicle 100, the current location information of the vehicle 100, and the steering operation information and the angular velocity of the vehicle 100, the display control unit 43b controls the operation of the steering wheel in the return direction based on at least one of the steering operation information and the angular velocity of the vehicle 100. When the angular velocity has changed in the return direction, or when the angular velocity has changed in the return direction, it is determined that the movement of the vehicle 100 in the turning direction has been completed.

表示制御部43bが、車両情報取得部42で取得した車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両の角速度との少なくともいずれか一つに基づいて、車両100の旋回方向への移動を推定した場合について説明する。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つに基づいて、車両100が経路案内情報で右左折が予定されている交差点から所定距離以上離れた場合で、かつ、方向指示器の操作が解除された場合、または、ステアリングホイールが復帰方向に操作された場合、または、角速度が復帰方向に変化した場合、車両100の旋回方向の移動が完了したと判定する。所定距離は、例えば、5mとしてもよい。例えば、表示制御部43bは、車両100の周辺の地図情報と車両100の現在地情報、および、方向指示器操作情報とステアリング操作情報と車両100の角速度との少なくともいずれか一つに基づいて、車両100が経路案内情報で車線変更が予定されている地点から所定距離以上離れた場合で、かつ、方向指示器の操作が解除された場合、または、ステアリングホイールが復帰方向に操作された場合、または、角速度が復帰方向に変化した場合、車両100の旋回方向の移動が完了したと判定する。所定距離は、例えば、5mとしてもよい。   The display control unit 43b controls at least one of the map information around the vehicle 100 and the current location information of the vehicle 100 acquired by the vehicle information acquisition unit 42, and the turn signal operation information, the steering operation information, and the angular velocity of the vehicle. A case will be described in which the movement of the vehicle 100 in the turning direction is estimated based on. For example, the display control unit 43b controls the vehicle based on at least one of the map information around the vehicle 100, the current location information of the vehicle 100, and the direction indicator operation information, the steering operation information, and the angular velocity of the vehicle 100. 100 is a predetermined distance or more away from the intersection where the right and left turns are scheduled in the route guidance information, and the operation of the turn signal is canceled, or the steering wheel is operated in the return direction, or If the angular velocity changes in the return direction, it is determined that the movement of the vehicle 100 in the turning direction has been completed. The predetermined distance may be, for example, 5 m. For example, the display control unit 43b controls the vehicle based on at least one of the map information around the vehicle 100, the current location information of the vehicle 100, and the direction indicator operation information, the steering operation information, and the angular velocity of the vehicle 100. 100 is a predetermined distance or more away from the point where the lane change is scheduled in the route guidance information, and when the operation of the turn signal is released, or when the steering wheel is operated in the return direction, or If the angular velocity changes in the return direction, it is determined that the movement of the vehicle 100 in the turning direction has been completed. The predetermined distance may be, for example, 5 m.

このような場合に、表示制御部43bは、車両100の旋回方向に移動が完了したと判定して、仮想自車両画像Aを元の状態に復帰した俯瞰映像Bを生成する。   In such a case, the display control unit 43b determines that the movement of the vehicle 100 in the turning direction has been completed, and generates the bird's-eye view video B in which the virtual own vehicle image A is restored to the original state.

このようにして、俯瞰映像生成システム1は、俯瞰映像Bを生成して、俯瞰映像生成システム1の外部の表示パネル101に映像信号を出力する。外部の表示パネル101は、俯瞰映像生成システム1から出力された映像信号に基づいて、例えば、ナビゲーション画面とともに俯瞰映像Bを表示する。   In this manner, the overhead video generation system 1 generates the overhead video B and outputs a video signal to the display panel 101 outside the overhead video generation system 1. The external display panel 101 displays, for example, an overhead image B together with a navigation screen based on the image signal output from the overhead image generation system 1.

上述したように、本実施形態に係る俯瞰映像生成システム1は、車両情報取得部42で取得した車両情報に基づいて、車両100の旋回方向の移動が推定される場合、旋回方向において車両100の移動方向とは反対の方向に、車両100を寄せて位置させた状態で、車両100を上方から見下ろした仮想自車両画像Aを含む俯瞰映像Bを生成することができる。これにより、例えば、車両100の移動方向が左方向の場合、俯瞰映像Bは、車両100の移動方向である左側を広く表示することができる。例えば、車両100の移動方向が右方向の場合、俯瞰映像Bは、車両100の移動方向である右側を広く表示することができる。このようにして、俯瞰映像Bには、車両100の移動方向を広く表示することができる。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。   As described above, the overhead view image generation system 1 according to the present embodiment, when the movement of the vehicle 100 in the turning direction is estimated based on the vehicle information acquired by the vehicle information acquisition unit 42, In a state where the vehicle 100 is positioned in a direction opposite to the moving direction, the overhead view video B including the virtual own vehicle image A in which the vehicle 100 is viewed from above can be generated. Thus, for example, when the moving direction of the vehicle 100 is the left direction, the bird's-eye view video B can widely display the left side, which is the moving direction of the vehicle 100. For example, when the moving direction of the vehicle 100 is the right direction, the overhead view video B can widely display the right side, which is the moving direction of the vehicle 100. In this way, the bird's-eye view video B can display the moving direction of the vehicle 100 widely. In this way, the overhead view image generation system 1 more appropriately confirms information that needs attention when the vehicle 100 moves in the turning direction, around the vehicle, more specifically, in accordance with the movement of the vehicle 100 in the turning direction. Can be possible.

[第二実施形態]
図4を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図4は、本実施形態に係る俯瞰映像生成システムで生成した俯瞰映像を示す図である。俯瞰映像生成システム1は、基本的な構成は第一実施形態の俯瞰映像生成システム1と同様である。以下の説明においては、俯瞰映像生成システム1と同様の構成要素には、同一の符号または対応する符号を付し、その詳細な説明は省略する。本実施形態の俯瞰映像生成システム1は、俯瞰映像生成装置40における処理が、第一実施形態の俯瞰映像生成システム1と異なる。
[Second embodiment]
The overhead view image generation system 1 according to the present embodiment will be described with reference to FIG. FIG. 4 is a diagram illustrating an overhead video generated by the overhead video generation system according to the present embodiment. The overhead view image generation system 1 has the same basic configuration as the overhead view image generation system 1 of the first embodiment. In the following description, the same components as those of the overhead view video generation system 1 will be assigned the same reference numerals or corresponding reference numerals, and detailed description thereof will be omitted. The overhead view video generation system 1 of the present embodiment differs from the overhead view video generation system 1 of the first embodiment in processing in the overhead view video generation device 40.

表示制御部43bは、図2に示すフローチャートのステップS14で、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する際に、車両100のサイドミラーMより後方の俯瞰映像Bを生成する。より詳しくは、表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの左上または右上に位置させる際に、車両100のサイドミラーMより後方がフレームFに収まる位置に位置させる。   The display control unit 43b generates the overhead image B behind the side mirror M of the vehicle 100 when generating the overhead image B in which the virtual own vehicle image A is shifted in step S14 of the flowchart illustrated in FIG. I do. More specifically, when the virtual own vehicle image A is positioned at the upper left or upper right of the frame F in the overhead view video B, the display control unit 43b positions the virtual vehicle image A behind the side mirror M of the vehicle 100 in the frame F. .

本実施形態では、車両100の移動方向が左方向であり、図4に示すように、俯瞰映像Bは、仮想自車両画像AがフレームFの右上に、車両100のサイドミラーMより後方がフレームFに収まる位置に位置している。俯瞰映像Bは、仮想自車両画像AのサイドミラーMより後方と、広い範囲の後方映像B2と左側方映像B3と、狭い範囲の右側方映像B4とを含む。フレームFは、第二フレームF2と第三フレームF3とを広く含み、第四フレームF4を狭く含み、第一フレームF1を含まない。このように、俯瞰映像Bには、車両100の移動方向である左側と後方とが広く表示される。   In the present embodiment, the moving direction of the vehicle 100 is the left direction. As shown in FIG. 4, the bird's-eye view image B includes a virtual host vehicle image A in the upper right of the frame F and a frame behind the side mirror M of the vehicle 100 It is located in a position that fits in F. The bird's-eye view image B includes a portion behind the side mirror M of the virtual host vehicle image A, a wide range rear image B2, a left side image B3, and a narrow range right side image B4. The frame F broadly includes the second frame F2 and the third frame F3, narrowly includes the fourth frame F4, and does not include the first frame F1. As described above, the bird's-eye view video B widely displays the left side and the rear side, which are the moving directions of the vehicle 100.

上述したように、本実施形態に係る俯瞰映像生成システム1は、車両100のサイドミラーMより後方の俯瞰映像Bを生成することができる。このため、俯瞰映像生成システム1は、車両100の移動方向と後方とをより広く表示することができる。このような表示とすることで、サイドミラーMによる目視範囲と俯瞰映像Bとして表示される範囲の起点が一致し、サイドミラーMによる目視範囲および死角に対する俯瞰映像Bの位置関係が把握しやすい。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。   As described above, the overhead image generation system 1 according to the present embodiment can generate the overhead image B behind the side mirror M of the vehicle 100. Therefore, the overhead view video generation system 1 can display the moving direction and the rear of the vehicle 100 more widely. With such a display, the viewing range of the side mirror M and the starting point of the range displayed as the bird's-eye view image B coincide, and the positional relationship of the bird's-eye view image B with the view range and the blind spot of the side mirror M can be easily grasped. In this way, the overhead view image generation system 1 more appropriately confirms information that needs attention when the vehicle 100 moves in the turning direction, around the vehicle, more specifically, in accordance with the movement of the vehicle 100 in the turning direction. Can be possible.

[第三実施形態]
図5を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図5は、本実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。本実施形態の俯瞰映像生成システム1は、俯瞰映像生成装置40における処理が、第一実施形態の俯瞰映像生成システム1と異なる。
[Third embodiment]
The overhead view image generation system 1 according to the present embodiment will be described with reference to FIG. FIG. 5 is a diagram illustrating another example of the overhead view video generated by the overhead view video generation system according to the present embodiment. The overhead view video generation system 1 of the present embodiment differs from the overhead view video generation system 1 of the first embodiment in processing in the overhead view video generation device 40.

表示制御部43bは、図2に示すフローチャートのステップS14で、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する際に、仮想自車両画像Aを縮小した俯瞰映像Bを生成する。より詳しくは、表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの左上または右上に位置させる際に、仮想自車両画像Aを縮小する。ここでいう仮想自車両画像Aの縮小表示とは、俯瞰映像Bをより広範囲に表示することで図3に対して相対的に仮想自車両画像Aが小さく表示されることである。   The display control unit 43b generates a bird's-eye view image B obtained by reducing the virtual host vehicle image A when generating the bird's-eye view video B in which the virtual host vehicle image A is shifted in step S14 of the flowchart shown in FIG. . More specifically, the display control unit 43b reduces the size of the virtual vehicle image A when positioning the virtual vehicle image A on the upper left or upper right of the frame F in the overhead view video B. Here, the reduced display of the virtual own vehicle image A means that the virtual own vehicle image A is displayed smaller than that of FIG.

本実施形態では、車両100の移動方向が左方向であり、図5に示すように、俯瞰映像Bは、車両100がフレームFの右上に図3よりも小さく表示されている。俯瞰映像Bは、縮小した仮想自車両画像Aと、広い範囲の後方映像B2と左側方映像B3と、狭い範囲の前方映像B1と右側方映像B4とを含む。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第一フレームF1と第四フレームF4とを狭く含む。このように、俯瞰映像Bには、車両100の移動方向である左側と後方とがより広く表示される。   In the present embodiment, the moving direction of the vehicle 100 is the left direction, and as shown in FIG. 5, the overhead view video B is displayed on the upper right of the frame F in a smaller size than in FIG. The bird's-eye view image B includes a reduced virtual host vehicle image A, a wide range rear image B2 and left side image B3, and a narrow range front image B1 and right side image B4. The frame F includes the second frame F2 and the third frame F3 more widely, and includes the first frame F1 and the fourth frame F4 narrowly. As described above, the bird's-eye view video B displays the left side and the rear side, which are the moving directions of the vehicle 100, more widely.

上述したように、本実施形態に係る俯瞰映像生成システム1は、仮想自車両画像Aを縮小した俯瞰映像Bを生成することができる。このため、俯瞰映像生成システム1は、車両100の移動方向と後方とをより広く表示することができる。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。   As described above, the overhead image generation system 1 according to the present embodiment can generate the overhead image B in which the virtual vehicle image A is reduced. Therefore, the overhead view video generation system 1 can display the moving direction and the rear of the vehicle 100 more widely. In this way, the overhead view image generation system 1 more appropriately confirms information that needs attention when the vehicle 100 moves in the turning direction, around the vehicle, more specifically, in accordance with the movement of the vehicle 100 in the turning direction. Can be possible.

[第四実施形態]
図6ないし図8を参照しながら、本実施形態に係る俯瞰映像生成システム1Aについて説明する。図6は、本実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。本実施形態の俯瞰映像生成システム1Aは、俯瞰映像生成装置40の車両情報取得部42が、さらに車速センサ108から車速を取得する点で、第一実施形態の俯瞰映像生成システム1と異なる。
[Fourth embodiment]
The overhead view video generation system 1A according to the present embodiment will be described with reference to FIGS. FIG. 6 is a block diagram illustrating a configuration example of the overhead video generation system according to the present embodiment. The overhead view image generation system 1A of the present embodiment differs from the overhead view image generation system 1 of the first embodiment in that the vehicle information acquisition unit 42 of the overhead view image generation device 40 further acquires the vehicle speed from the vehicle speed sensor 108.

車速センサ108は、車速を検出する。より詳しくは、車速センサ108は、車両100の駆動軸またはタイヤに配置されている。車速センサ108は、駆動軸またはタイヤの回転に応じたパルス信号を検出する。車速センサ108は、検出した車速を俯瞰映像生成システム1の俯瞰映像生成装置40の車両情報取得部42へ出力する。   The vehicle speed sensor 108 detects a vehicle speed. More specifically, the vehicle speed sensor 108 is disposed on a drive shaft or a tire of the vehicle 100. The vehicle speed sensor 108 detects a pulse signal according to the rotation of the drive shaft or the tire. The vehicle speed sensor 108 outputs the detected vehicle speed to the vehicle information acquisition unit 42 of the overhead image generation device 40 of the overhead image generation system 1.

車両情報取得部42は、さらに車速センサ108で出力された車速を取得する。車両情報取得部42は、取得した車速も含む車両情報を表示制御部43bに出力する。   The vehicle information acquisition unit 42 further acquires the vehicle speed output from the vehicle speed sensor 108. The vehicle information acquisition unit 42 outputs vehicle information including the acquired vehicle speed to the display control unit 43b.

表示制御部43bは、図2に示すフローチャートのステップS14で、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する際に、車両情報取得部42で取得した車速に基づいて、車両100が減速している状態と車両100が加速している状態とでは、車両100が減速している状態における俯瞰映像Bの方が、車両100が移動する方向を広くした俯瞰映像Bを生成する。表示制御部43bは、図2に示すフローチャートのステップS14に進むと、図7に示すフローチャートの処理を行う。図7は、本実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。   The display control unit 43b, based on the vehicle speed acquired by the vehicle information acquisition unit 42, when generating the bird's-eye view video B in which the virtual own vehicle image A is shifted in step S14 of the flowchart shown in FIG. In the state where the vehicle 100 is decelerating and the state where the vehicle 100 is accelerating, the overhead image B in the state where the vehicle 100 is decelerating generates the overhead image B in which the direction in which the vehicle 100 moves is widened. . When proceeding to step S14 of the flowchart shown in FIG. 2, the display control unit 43b performs the processing of the flowchart shown in FIG. FIG. 7 is a flowchart illustrating a flow of processing in the overhead video generation device of the overhead video generation system according to the present embodiment.

表示制御部43bは、車両100が減速しているか否かを判定する(ステップS1411)。表示制御部43bは、車両100が減速している場合(ステップS1411でYes)、仮想自車両画像Aをずらして位置させ、車両100が移動する方向を広くした俯瞰映像Bを生成する(ステップS1412)。より詳しくは、表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの左上に位置させる際に、仮想自車両画像AをフレームFの左上端に寄せて位置させる。表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの右上に位置させる際に、仮想自車両画像AをフレームFの右上端に寄せて位置させる。   The display control unit 43b determines whether the vehicle 100 is decelerating (Step S1411). When the vehicle 100 is decelerating (Yes in Step S1411), the display control unit 43b shifts the virtual own vehicle image A to a position and generates an overhead image B in which the moving direction of the vehicle 100 is widened (Step S1412). ). More specifically, when the virtual own vehicle image A is positioned at the upper left of the frame F in the overhead view video B, the display control unit 43b positions the virtual own vehicle image A near the upper left corner of the frame F. When the virtual own vehicle image A is positioned at the upper right of the frame F in the overhead view video B, the display control unit 43b positions the virtual own vehicle image A near the upper right end of the frame F.

表示制御部43bは、車両100が減速していない場合(ステップS1411でNo)、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する(ステップS1413)。ステップS1413の処理は、ステップS14と同様の処理である。   When the vehicle 100 is not decelerating (No in Step S1411), the display control unit 43b generates the overhead image B in which the virtual own vehicle image A is shifted (Step S1413). The processing in step S1413 is the same as the processing in step S14.

本実施形態では、車両100の移動方向が左方向であり、図8に示すように、俯瞰映像Bは、仮想自車両画像AがフレームFの右上端に寄せて表示されている。仮想自車両画像Aの中心Cは、図3における仮想自車両画像Aの中心Cよりも右上端寄りに位置する。俯瞰映像Bは、仮想自車両画像Aと、広い範囲の後方映像B2と左側方映像B3とを含む。フレームFは、第二フレームF2と第三フレームF3とを含み、第一フレームF1と第四フレームF4とを含まない。このように、俯瞰映像Bには、車両100の移動方向である左側と後方がより広く表示される。   In the present embodiment, the moving direction of the vehicle 100 is the left direction, and the overhead image B is displayed such that the virtual own vehicle image A is shifted to the upper right end of the frame F as shown in FIG. The center C of the virtual host vehicle image A is located closer to the upper right end than the center C of the virtual host vehicle image A in FIG. The bird's-eye view image B includes a virtual host vehicle image A, a wide range rear image B2, and a left side image B3. The frame F includes the second frame F2 and the third frame F3, and does not include the first frame F1 and the fourth frame F4. As described above, the bird's-eye view video B displays the left side and the rear side, which are the moving directions of the vehicle 100, more widely.

上述したように、本実施形態に係る俯瞰映像生成システム1Aは、車両100が減速している状態と車両100が加速している状態とでは、車両100が減速している状態における俯瞰映像Bの方が、車両100が移動する方向を広くした俯瞰映像Bを生成することができる。このため、俯瞰映像生成システム1Aは、車両100の移動方向と後方とをより広く表示することができる。このように、俯瞰映像生成システム1Aは、車両100の旋回方向の移動に加えて、車両100が減速しているか加速しているかに応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。   As described above, the overhead view image generation system 1A according to the present embodiment includes the overhead view image B in the state where the vehicle 100 is decelerating between the state where the vehicle 100 is decelerating and the state where the vehicle 100 is accelerating. This can generate the overhead image B in which the direction in which the vehicle 100 moves is widened. For this reason, the overhead view image generation system 1A can display the moving direction and the rear of the vehicle 100 more widely. As described above, the overhead view image generation system 1A determines whether or not the vehicle 100 is around the vehicle 100, more specifically, depending on whether the vehicle 100 is decelerating or accelerating, in addition to the movement of the vehicle 100 in the turning direction. Information to be noted when moving in the turning direction can be more appropriately confirmed.

[第五実施形態]
図9、図10を参照しながら、本実施形態に係る俯瞰映像生成システム1Aについて説明する。本実施形態の俯瞰映像生成システム1Aは、俯瞰映像生成装置40における処理が、第四実施形態の俯瞰映像生成システム1Aと異なる。
[Fifth embodiment]
The overhead view video generation system 1A according to the present embodiment will be described with reference to FIGS. The overhead view image generation system 1A of the present embodiment is different from the overhead view image generation system 1A of the fourth embodiment in the processing in the overhead view image generation device 40.

表示制御部43bは、図2に示すフローチャートのステップS14で、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する際に、車両情報取得部42で取得した車速に基づいて、車両100が減速している状態と車両100が加速している状態とでは、車両100が加速している状態における俯瞰映像Bの方が、旋回方向において車両100の移動方向とは反対の方向を広くした俯瞰映像Bを生成する。表示制御部43bは、図2に示すフローチャートのステップS14に進むと、図9に示すフローチャートの処理を行う。図9は、第五実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。   The display control unit 43b, based on the vehicle speed acquired by the vehicle information acquisition unit 42, when generating the bird's-eye view video B in which the virtual own vehicle image A is shifted in step S14 of the flowchart shown in FIG. Between the state where the vehicle 100 is decelerating and the state where the vehicle 100 is accelerating, the overhead view image B in the state where the vehicle 100 is accelerating has a wider turning direction opposite to the moving direction of the vehicle 100. The generated overhead view video B is generated. When proceeding to step S14 of the flowchart shown in FIG. 2, the display control unit 43b performs the processing of the flowchart shown in FIG. FIG. 9 is a flowchart illustrating the flow of processing in the overhead image generation device of the overhead image generation system according to the fifth embodiment.

表示制御部43bは、車両100が加速しているか否かを判定する(ステップS1421)。表示制御部43bは、車両100が加速している場合(ステップS1421でYes)、仮想自車両画像Aをずらして位置させ、旋回方向において車両の移動方向とは反対の方向を広くした俯瞰映像Bを生成する(ステップS1422)。より詳しくは、表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの左上に位置させる際に、仮想自車両画像AをフレームFの左上端から離して位置させる。表示制御部43bは、俯瞰映像Bにおいて、仮想自車両画像AをフレームFの右上に位置させる際に、仮想自車両画像AをフレームFの右上端から離して位置させる。   The display control unit 43b determines whether the vehicle 100 is accelerating (Step S1421). When the vehicle 100 is accelerating (Yes in step S1421), the display control unit 43b shifts the virtual own-vehicle image A and positions the virtual own-vehicle image A, and widens the direction opposite to the moving direction of the vehicle in the turning direction. Is generated (step S1422). More specifically, the display control unit 43b positions the virtual vehicle image A away from the upper left corner of the frame F when the virtual vehicle image A is positioned at the upper left of the frame F in the overhead view video B. The display control unit 43b positions the virtual own vehicle image A away from the upper right end of the frame F when the virtual own vehicle image A is positioned at the upper right of the frame F in the overhead view video B.

表示制御部43bは、車両100が加速していない場合(ステップS1421でNo)、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する(ステップS1423)。ステップS1423の処理は、ステップS14と同様の処理である。   When the vehicle 100 is not accelerating (No in Step S1421), the display control unit 43b generates the overhead image B in which the virtual own vehicle image A is shifted and positioned (Step S1423). The processing in step S1423 is the same processing as step S14.

本実施形態では、車両100の移動方向が左方向であり、図10に示すように、俯瞰映像Bは、仮想自車両画像AがフレームFの右上端から離れて表示されている。仮想自車両画像Aの中心Cは、図3における仮想自車両画像Aの中心Cよりも中央寄りに位置する。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第一フレームF1と第四フレームF4とを狭く含む。俯瞰映像Bは、仮想自車両画像Aと、広い範囲の後方映像B2と左側方映像B3と、狭い範囲の前方映像B1と右側方映像B4とを含む。このように、俯瞰映像Bには、車両100の移動方向である左側と後方とに加えて、移動方向と反対の方向が表示される。   In the present embodiment, the moving direction of the vehicle 100 is the left direction, and the overhead image B is displayed such that the virtual host vehicle image A is away from the upper right end of the frame F as shown in FIG. The center C of the virtual host vehicle image A is located closer to the center than the center C of the virtual host vehicle image A in FIG. The frame F includes the second frame F2 and the third frame F3 more widely, and includes the first frame F1 and the fourth frame F4 narrowly. The bird's-eye view image B includes a virtual host vehicle image A, a wide range rear image B2 and left side image B3, and a narrow range front image B1 and right side image B4. As described above, in the bird's-eye view video B, the direction opposite to the moving direction is displayed in addition to the left and rear directions that are the moving directions of the vehicle 100.

上述したように、本実施形態に係る俯瞰映像生成システム1Aは、車両100が減速している状態と車両100が加速している状態とでは、車両100が加速している状態における俯瞰映像Bの方が、旋回方向において車両100が移動する方向と反対の方向を広くした俯瞰映像Bを生成することができる。このため、俯瞰映像生成システム1Aは、車両100の移動方向と後方とに加えて、移動方向と反対の方向を表示することができる。これにより、車両100が加速している状態において、運転者は、車両100の移動方向に加えて、旋回方向において車両100の移動方向と反対の方向も俯瞰映像Bで確認することができる。このように、俯瞰映像生成システム1Aは、車両100の旋回方向の移動に加えて、車両100が減速しているか加速しているかに応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。   As described above, the overhead view image generation system 1A according to the present embodiment includes the overhead view image B in the state where the vehicle 100 is accelerating in the state where the vehicle 100 is decelerating and the state where the vehicle 100 is accelerating. This can generate the overhead view image B in which the direction opposite to the direction in which the vehicle 100 moves in the turning direction is widened. For this reason, the overhead view video generation system 1A can display the direction opposite to the moving direction in addition to the moving direction and the rear of the vehicle 100. Thus, in a state where the vehicle 100 is accelerating, the driver can check the bird's-eye view image B not only in the moving direction of the vehicle 100 but also in a direction opposite to the moving direction of the vehicle 100 in the turning direction. As described above, the overhead view image generation system 1A determines whether or not the vehicle 100 is around the vehicle 100, more specifically, depending on whether the vehicle 100 is decelerating or accelerating, in addition to the movement of the vehicle 100 in the turning direction. Information to be noted when moving in the turning direction can be more appropriately confirmed.

[第六実施形態]
図11ないし図13を参照しながら、本実施形態に係る俯瞰映像生成システム1Bについて説明する。図11は、第六実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。本実施形態の俯瞰映像生成システム1Bは、さらに第二撮影装置50を有する点で、第一実施形態の俯瞰映像生成システム1と異なる。
[Sixth embodiment]
An overhead video generation system 1B according to the present embodiment will be described with reference to FIGS. FIG. 11 is a block diagram illustrating a configuration example of a bird's-eye view video generation system according to the sixth embodiment. The overhead view video generation system 1B of the present embodiment differs from the overhead view video generation system 1 of the first embodiment in that the overhead view video generation system 1B further includes a second imaging device 50.

第二撮影装置50は、図12に示すように、車両100の左後方Q1を撮影する左後方用周辺撮影カメラ51と、右後方Q2を撮影する右後方用周辺撮影カメラ52とを有する。第二撮影装置50は、左後方用周辺撮影カメラ51と右後方用周辺撮影カメラ52とで撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。   As shown in FIG. 12, the second photographing device 50 includes a left rear peripheral photographing camera 51 that photographs the left rear Q1 of the vehicle 100, and a right rear peripheral photographing camera 52 that photographs the right rear Q2. The second photographing device 50 outputs the images photographed by the left rear peripheral photographing camera 51 and the right rear peripheral photographing camera 52 to the image acquisition unit 41 of the overhead image generating device 40.

左後方用周辺撮影カメラ51は、図中の符号Q1で示す領域を撮影する。符号Q1で示す領域は、左折時に、運転者がサイドミラーとバックミラーによる確認と目視による確認をする際に、左後方に生じる死角を含む領域である。左後方用周辺撮影カメラ51は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。   The left rear peripheral photographing camera 51 photographs an area indicated by reference numeral Q1 in the figure. The region indicated by the reference sign Q1 is a region including a blind spot generated at the rear left when the driver checks with the side mirror and the rearview mirror and checks visually with the left turn. The left rear peripheral imaging camera 51 outputs the captured video to the video acquisition unit 41 of the overhead video generation device 40.

右後方用周辺撮影カメラ52は、図中の符号Q2で示す領域を撮影する。符号Q2で示す領域は、右折時に、運転者がサイドミラーとバックミラーによる確認と目視による確認をする際に、右後方に生じる死角を含む領域である。右後方用周辺撮影カメラ52は、撮影した映像を俯瞰映像生成装置40の映像取得部41へ出力する。   The right rear peripheral photographing camera 52 photographs an area indicated by reference numeral Q2 in the figure. The area indicated by reference numeral Q2 is an area including a blind spot that occurs rearward right when the driver checks with the side mirror and the rearview mirror and checks visually with a right turn. The right rear peripheral imaging camera 52 outputs the captured video to the video acquisition unit 41 of the overhead video generation device 40.

映像取得部41は、さらに左後方用周辺撮影カメラ51と右後方用周辺撮影カメラ52とが出力した周辺映像を取得する。映像取得部41は、取得した左後方周辺映像と右後方周辺映像とを含む周辺映像を俯瞰映像生成部43aに出力する。   The image acquisition unit 41 further acquires the peripheral images output by the left rear peripheral photographing camera 51 and the right rear peripheral photographing camera 52. The image acquisition unit 41 outputs the acquired peripheral video including the left rear peripheral video and the right rear peripheral video to the overhead video generation unit 43a.

表示制御部43bは、図2に示すフローチャートのステップS14で、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成する際に、映像取得部41で取得した、車両100が移動する方向の側部後方映像B5を生成する。表示制御部43bは、フレームFの下部に俯瞰映像Bを表示し、フレームFの上部に位置する第五フレームF5に側部後方映像B5を表示する映像を生成する。例えば、第五フレームF5は、仮想自車両画像AのサイドミラーMより前方に該当するフレームF内の位置としてもよい。例えば、第五フレームF5は、フレームFの上部の三分の一など所定領域に該当するフレームF内の位置としてもよい。   In step S14 of the flowchart illustrated in FIG. 2, the display control unit 43b generates the overhead image B in which the virtual own vehicle image A is shifted, and the direction in which the vehicle 100 moves acquired by the image acquisition unit 41. Is generated. The display control unit 43b displays the bird's-eye view video B at the bottom of the frame F, and generates a video displaying the side rear video B5 at the fifth frame F5 located at the top of the frame F. For example, the fifth frame F5 may be a position in the frame F corresponding to the front of the side mirror M of the virtual host vehicle image A. For example, the fifth frame F5 may be a position in the frame F corresponding to a predetermined area such as the upper third of the frame F.

本実施形態では、車両100の移動方向が左方向であり、図13に示すように、フレームFの下部に俯瞰映像Bが表示され、フレームFの上部に側部後方映像B5が表示されている。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第四フレームF4を狭く含み、第一フレームF1は含まない。さらに、フレームFの上部には、第五フレームF5を含む。第五フレームF5は、仮想自車両画像AのサイドミラーMより前方に該当するフレームF内の位置である。   In the present embodiment, the moving direction of the vehicle 100 is the left direction, and the overhead view image B is displayed at the lower part of the frame F and the side rear image B5 is displayed at the upper part of the frame F as shown in FIG. . The frame F broadly includes the second frame F2 and the third frame F3, narrowly includes the fourth frame F4, and does not include the first frame F1. Further, the upper part of the frame F includes a fifth frame F5. The fifth frame F5 is a position in the frame F corresponding to the virtual host vehicle image A ahead of the side mirror M.

上述したように、本実施形態に係る俯瞰映像生成システム1Bは、俯瞰映像Bとともに、右左折時に運転者から死角となる側部後方映像B5を表示する映像を生成することができる。このため、俯瞰映像生成システム1Bは、車両100の移動方向と後方とをより確実に表示することができる。これにより、運転者は、車両100の移動方向に加えて、右左折時に運転者から死角となる領域を側部後方映像B5で確認することができる。このように、俯瞰映像生成システム1Bは、車両100の旋回方向の移動に応じて、車両周辺の、より具体的には、車両100の旋回方向への移動時に注意すべき情報をより適切に確認可能とすることができる。   As described above, the bird's-eye view image generation system 1B according to the present embodiment can generate, together with the bird's-eye view image B, a video image that displays the side rear image B5 that becomes a blind spot from the driver when making a right or left turn. For this reason, the bird's-eye view video generation system 1B can more reliably display the moving direction and the rear of the vehicle 100. Thus, the driver can check the side rear image B5 in addition to the moving direction of the vehicle 100 and the area in which the driver becomes a blind spot when turning right or left. As described above, the bird's-eye view image generation system 1B more appropriately confirms information that needs attention when the vehicle 100 moves in the turning direction in accordance with the movement of the vehicle 100 in the turning direction. Can be possible.

さて、これまで本発明に係る俯瞰映像生成システム1について説明したが、上述した実施形態以外にも種々の異なる形態にて実施されてよいものである。   Now, the overhead view image generation system 1 according to the present invention has been described above, but may be implemented in various different forms other than the above-described embodiment.

図示した俯瞰映像生成システム1の各構成要素は、機能概念的なものであり、必ずしも物理的に図示の如く構成されていなくてもよい。すなわち、各装置の具体的形態は、図示のものに限られず、各装置の処理負担や使用状況などに応じて、その全部または一部を任意の単位で機能的または物理的に分散または統合してもよい。   The illustrated components of the overhead view video generation system 1 are functionally conceptual, and need not necessarily be physically configured as illustrated. In other words, the specific form of each device is not limited to the one shown in the figure, and all or a part of each device may be functionally or physically dispersed or integrated in arbitrary units according to the processing load and usage status of each device. You may.

制御部43は、俯瞰映像生成部43aが、車両100を上方から見た仮想自車両画像Aと、映像取得部41で取得した映像を、車両100の上方から見た映像に変換して、俯瞰映像Bとして出力し、表示制御部43bが、俯瞰映像生成部43aで生成した映像のうち、仮想自車両画像Aと仮想自車両画像Aの周囲の映像を抽出した映像に加工し、表示パネル101に送るものとして説明したが、この構成に限定されるものではない。例えば、表示制御部が、仮想自車両画像Aと仮想自車両画像Aの周囲の映像をフレームF内にどのように配置するかを判定し、俯瞰映像生成部が、表示制御部の制御で、表示制御部が判定したフレームF内の仮想自車両画像Aと仮想自車両画像Aの周囲の映像との配置に基づいて、仮想自車両画像Aと、映像取得部41で取得した映像を、車両100の上方から見た映像に変換して、俯瞰映像Bとして表示制御部に出力し、さらに、表示制御部は、俯瞰映像Bを表示パネル101に送ってもよい。   The control unit 43 converts the virtual vehicle image A viewed from above the vehicle 100 and the image acquired by the image acquisition unit 41 into an image seen from above the vehicle 100, and the overhead image generation unit 43a The image is output as the image B, and the display control unit 43b processes the virtual own vehicle image A and the image around the virtual own vehicle image A from the images generated by the bird's-eye view image generating unit 43a into images that are extracted. However, the present invention is not limited to this configuration. For example, the display control unit determines how the virtual own-vehicle image A and the surrounding images of the virtual own-vehicle image A are arranged in the frame F, and the overhead image generating unit controls the display control unit, Based on the arrangement of the virtual host vehicle image A in frame F determined by the display control unit and the video surrounding the virtual host vehicle image A, the virtual host vehicle image A and the video acquired by the video acquisition unit 41 are 100 may be converted into an image viewed from above and output to the display control unit as an overhead image B, and the display control unit may send the overhead image B to the display panel 101.

図14に示すように、俯瞰映像生成システム1Cの俯瞰映像生成部27は、第一撮影装置20の機能の一つとしてもよい。図14は、俯瞰映像生成システムの他の構成例を示すブロック図である。この場合、俯瞰映像生成装置40の映像取得部41は、第一撮影装置20の俯瞰映像生成部27で生成された俯瞰映像Bを取得する。表示制御部43bは、第一撮影装置20の俯瞰映像生成部27で生成された俯瞰映像Bのうち、仮想自車両画像Aと仮想自車両画像Aの周囲の映像を抽出した映像に加工し、表示パネル101に送る。このように、俯瞰映像生成システム1Cにおいては、第一撮影装置20の俯瞰映像生成部27と俯瞰映像生成装置40の表示制御部43bとで制御部としての機能を実現している。   As illustrated in FIG. 14, the overhead image generation unit 27 of the overhead image generation system 1 </ b> C may be one of the functions of the first imaging device 20. FIG. 14 is a block diagram illustrating another configuration example of the overhead view video generation system. In this case, the video acquisition unit 41 of the overhead video generation device 40 acquires the overhead video B generated by the overhead video generation unit 27 of the first imaging device 20. The display control unit 43b processes the virtual own-vehicle image A and the surrounding images of the virtual own-vehicle image A from the overhead view image B generated by the overhead view image generation unit 27 of the first imaging device 20 into an extracted image, Send to display panel 101. As described above, in the overhead video generation system 1C, the function as a control unit is realized by the overhead video generation unit 27 of the first imaging device 20 and the display control unit 43b of the overhead video generation device 40.

俯瞰映像生成システム1の構成は、例えば、ソフトウェアとして、メモリにロードされたプログラムなどによって実現される。上記実施形態では、これらのハードウェアまたはソフトウェアの連携によって実現される機能ブロックとして説明した。すなわち、これらの機能ブロックについては、ハードウェアのみ、ソフトウェアのみ、または、それらの組み合わせによって種々の形で実現できる。   The configuration of the bird's-eye view video generation system 1 is realized by, for example, a program loaded into a memory as software. In the above-described embodiment, the description has been given as the functional block realized by the cooperation of the hardware or the software. That is, these functional blocks can be realized in various forms by only hardware, only software, or a combination thereof.

上記に記載した構成要素には、当業者が容易に想定できるもの、実質的に同一のものを含む。さらに、上記に記載した構成は適宜組み合わせが可能である。また、本発明の要旨を逸脱しない範囲において構成の種々の省略、置換または変更が可能である。   The components described above include those that can be easily assumed by those skilled in the art and those that are substantially the same. Further, the configurations described above can be appropriately combined. Further, various omissions, substitutions, or changes in the configuration can be made without departing from the spirit of the present invention.

例えば、図15に示す俯瞰映像Bは、第二実施形態と第四実施形態とを組み合わせたものである。図15は、俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。表示制御部43bは、図2に示すフローチャートのステップS14で、このような俯瞰映像Bを生成してもよい。この場合、俯瞰映像Bは、仮想自車両画像AがフレームFの右上に、車両100のサイドミラーMより後方がフレームFに収まる位置に位置し、かつ、仮想自車両画像AがフレームFの右上端に寄せて表示されている。これにより、俯瞰映像Bには、車両100の移動方向である左側と後方とがより広く表示される。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第一フレームF1と第四フレームF4とを含まない。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の確認が容易になるような俯瞰映像Bを生成することができる。   For example, overhead image B shown in FIG. 15 is a combination of the second embodiment and the fourth embodiment. FIG. 15 is a diagram illustrating another example of the overhead view video generated by the overhead view video generation system. The display control unit 43b may generate such an overhead image B in step S14 of the flowchart illustrated in FIG. In this case, the bird's-eye view video B is located at a position where the virtual own-vehicle image A is located at the upper right of the frame F, the position behind the side mirror M of the vehicle 100 is within the frame F, and the virtual own-vehicle image A is located at the upper right of the frame F It is displayed near the edge. As a result, in the bird's-eye view video B, the left side and the rear side, which are the moving directions of the vehicle 100, are displayed more widely. The frame F includes the second frame F2 and the third frame F3 more widely, and does not include the first frame F1 and the fourth frame F4. As described above, the overhead view image generation system 1 can generate the overhead view image B that makes it easy to check around the vehicle in accordance with the movement of the vehicle 100 in the turning direction.

例えば、図16に示す俯瞰映像Bは、第三実施形態と第四実施形態とを組み合わせたものである。図16は、俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。表示制御部43bは、図2に示すフローチャートのステップS14で、このような俯瞰映像Bを生成してもよい。この場合、俯瞰映像Bは、仮想自車両画像AがフレームFの右上に図3よりも小さく表示され、かつ、仮想自車両画像AがフレームFの右上端に寄せて表示されている。これにより、俯瞰映像Bには、車両100の移動方向である左側と後方とがより広く表示される。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第一フレームF1と第四フレームF4とを含まない。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の確認が容易になるような俯瞰映像Bを生成することができる。   For example, a bird's-eye view video B shown in FIG. 16 is a combination of the third embodiment and the fourth embodiment. FIG. 16 is a diagram illustrating another example of the overhead view video generated by the overhead view video generation system. The display control unit 43b may generate such an overhead image B in step S14 of the flowchart illustrated in FIG. In this case, in the bird's-eye view video B, the virtual vehicle image A is displayed on the upper right of the frame F in a smaller size than in FIG. 3, and the virtual vehicle image A is displayed close to the upper right end of the frame F. As a result, in the bird's-eye view video B, the left side and the rear side, which are the moving directions of the vehicle 100, are displayed more widely. The frame F includes the second frame F2 and the third frame F3 more widely, and does not include the first frame F1 and the fourth frame F4. As described above, the bird's-eye view image generation system 1 can generate the bird's-eye view image B that makes it easy to check around the vehicle according to the movement of the vehicle 100 in the turning direction.

例えば、図17に示す俯瞰映像Bは、第二実施形態と第三実施形態と第四実施形態とを組み合わせたものである。図17は、俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。表示制御部43bは、図2に示すフローチャートのステップS14で、このような俯瞰映像Bを生成してもよい。この場合、俯瞰映像Bは、仮想自車両画像AがフレームFの右上に、車両100のサイドミラーMより後方がフレームFに収まる位置に位置し、かつ、仮想自車両画像AがフレームFの右上に図3よりも小さく表示され、かつ、仮想自車両画像AがフレームFの右上端に寄せて表示されている。これにより、俯瞰映像Bには、車両100の移動方向である左側と後方とがより広く表示される。フレームFは、第二フレームF2と第三フレームF3とをより広く含み、第一フレームF1と第四フレームF4とを含まない。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の確認が容易になるような俯瞰映像Bを生成することができる。   For example, overhead image B shown in FIG. 17 is a combination of the second embodiment, the third embodiment, and the fourth embodiment. FIG. 17 is a diagram illustrating another example of the overhead view video generated by the overhead view video generation system. The display control unit 43b may generate such an overhead image B in step S14 of the flowchart illustrated in FIG. In this case, the bird's-eye view video B is located at a position where the virtual own vehicle image A is located at the upper right of the frame F, the rear side of the side mirror M of the vehicle 100 is within the frame F, and the virtual own vehicle image A is located at the upper right of the frame F. 3 is displayed smaller than that of FIG. 3, and the virtual host vehicle image A is displayed close to the upper right end of the frame F. As a result, in the overhead view video B, the left side and the rear side, which are the moving directions of the vehicle 100, are displayed more widely. The frame F includes the second frame F2 and the third frame F3 more widely, and does not include the first frame F1 and the fourth frame F4. As described above, the overhead view image generation system 1 can generate the overhead view image B that makes it easy to check around the vehicle in accordance with the movement of the vehicle 100 in the turning direction.

表示制御部43bは、図2に示すフローチャートのステップS14で、所望の俯瞰映像Bを生成するように、第一撮影装置20の前方用周辺撮影カメラ21と後方用周辺撮影カメラ22と左側方用周辺撮影カメラ23と右側方用周辺撮影カメラ24と、第二撮影装置50の左後方用周辺撮影カメラ51と右後方用周辺撮影カメラ52とのカメラの向き、画角を変える制御を行ってもよい。例えば、表示制御部43bは、車両100の移動方向を撮影するカメラの向きを変えたり、画角を広げたりしてもよい。このように、俯瞰映像生成システム1は、車両100の旋回方向の移動に応じて、車両周辺の確認が容易になるような俯瞰映像Bを生成することができる。   In step S14 of the flowchart shown in FIG. 2, the display control unit 43b generates the desired overhead image B by using the front peripheral photographing camera 21, the rear peripheral photographing camera 22, and the left peripheral photographing camera 22 of the first photographing device 20. Even if control is performed to change the camera orientation and the angle of view of the peripheral photographing camera 23, the right peripheral photographing camera 24, and the left rear peripheral photographing camera 51 and the right rear peripheral photographing camera 52 of the second photographing device 50. Good. For example, the display control unit 43b may change the direction of the camera that captures the moving direction of the vehicle 100 or widen the angle of view. As described above, the bird's-eye view image generation system 1 can generate the bird's-eye view image B that makes it easy to check around the vehicle according to the movement of the vehicle 100 in the turning direction.

表示制御部43bは、図2に示すフローチャートにおいて、車両100が旋回方向に移動すると推定した場合、仮想自車両画像Aをずらして位置させた俯瞰映像Bを生成するものとしたが、ステップS14で、所定条件に応じて、フレームFにおける仮想自車両画像Aの位置を徐々にずらすようにしてもよい。例えば、表示制御部43bは、車両100の加速度に応じて、フレームFにおける仮想自車両画像Aの位置を徐々にずらしてもよい。これにより、外部の表示パネル101に表示される俯瞰映像Bにおいて、フレームF内の仮想自車両画像Aの位置が徐々に変化する。このため、運転者は、車両周辺の確認をより容易にすることができる。   In the flowchart shown in FIG. 2, when the display control unit 43b estimates that the vehicle 100 moves in the turning direction, the display control unit 43b generates the bird's-eye view image B in which the virtual own vehicle image A is shifted, but in step S14. Alternatively, the position of the virtual host vehicle image A in the frame F may be gradually shifted according to a predetermined condition. For example, the display control unit 43b may gradually shift the position of the virtual own vehicle image A in the frame F according to the acceleration of the vehicle 100. Thereby, in the bird's-eye view video B displayed on the external display panel 101, the position of the virtual host vehicle image A in the frame F gradually changes. For this reason, the driver can more easily check around the vehicle.

1 俯瞰映像生成システム
20 第一撮影装置
21 前方用周辺撮影カメラ
22 後方用周辺撮影カメラ
23 左側方用周辺撮影カメラ
24 右側方用周辺撮影カメラ
30 記憶装置
40 俯瞰映像生成装置
41 映像取得部
42 車両情報取得部
43 制御部
43a 俯瞰映像生成部
43b 表示制御部
50 第二撮影装置
51 左後方用周辺撮影カメラ
52 右後方用周辺撮影カメラ
100 車両
101 表示パネル
102 地図情報記憶部
104 方向指示器操作検出部
105 ギア操作検出部
107 角速度センサ
108 車速センサ
A 仮想自車両画像
B 俯瞰映像
F フレーム
Reference Signs List 1 overhead image generation system 20 first imaging device 21 front peripheral imaging camera 22 rear peripheral imaging camera 23 left side peripheral imaging camera 24 right side peripheral imaging camera 30 storage device 40 overhead image generation device 41 image acquisition unit 42 vehicle Information acquisition unit 43 Control unit 43a Overhead view image generation unit 43b Display control unit 50 Second photographing device 51 Left rear peripheral photographing camera 52 Right rear peripheral photographing camera 100 Vehicle 101 Display panel 102 Map information storage unit 104 Direction indicator operation detection Unit 105 Gear operation detection unit 107 Angular speed sensor 108 Vehicle speed sensor A Virtual own vehicle image B Overhead image F frame

Claims (7)

車両の周辺を撮影した周辺映像を取得する映像取得部と、
前記車両の速度および旋回方向への移動を推定するための車両情報を取得する車両情報取得部と、
前記映像取得部が取得した周辺映像に基づき、前記車両を示す仮想自車両画像を含み、前記車両を上方から見下ろした俯瞰映像を生成し、前記車両の運転者から視認容易な表示パネルに表示させる制御部と、
を備え、
前記制御部は、前記車両情報取得部で取得した車両情報に基づいて、前記車両の旋回方向への移動が推定された場合、前記旋回方向において前記車両が移動する方向とは反対の方向に前記車両を寄せて位置させ、前記車両が移動する方向の周辺映像を、前記車両が減速している状態と前記車両が加速している状態とでは、前記車両が減速している状態における前記俯瞰映像の方が、前記車両が移動する方向を広くした俯瞰映像を生成することを特徴とする俯瞰映像生成装置。
An image acquisition unit that acquires a peripheral image of the periphery of the vehicle,
A vehicle information acquisition unit that acquires vehicle information for estimating the speed and the movement of the vehicle in the turning direction,
Based on the surrounding image acquired by the image acquisition unit, a virtual self-vehicle image showing the vehicle is included, and a bird's-eye view image of the vehicle looking down from above is generated and displayed on a display panel that is easily visible from the driver of the vehicle. Control unit;
With
The control unit is configured to, when the movement in the turning direction of the vehicle is estimated based on the vehicle information acquired by the vehicle information acquiring unit, be performed in a direction opposite to a direction in which the vehicle moves in the turning direction. Positioning the vehicle close to it and displaying a peripheral image in the direction in which the vehicle moves, the overhead view image in a state where the vehicle is decelerating between a state where the vehicle is decelerating and a state where the vehicle is accelerating Generates an overhead video in which the direction in which the vehicle moves is widened .
前記制御部は、前記車両が減速している状態と前記車両が加速している状態とでは、前記車両が加速している状態における前記俯瞰映像の方が、前記車両の旋回方向において前記車両が移動する方向とは反対の方向を広くした前記俯瞰映像を生成することを特徴とする請求項に記載の俯瞰映像生成装置。 In the state where the vehicle is decelerating and in the state where the vehicle is accelerating, the control unit is configured such that the overhead view image in the state in which the vehicle is accelerating has the vehicle in the turning direction of the vehicle. The overhead view image generation device according to claim 1 , wherein the overhead view image in which a direction opposite to a moving direction is widened is generated. 前記制御部は、前記車両の旋回方向において前記車両が移動する方向とは反対の方向に、前記仮想自車両画像を寄せて位置させた状態で、前記仮想自車両画像を縮小した前記俯瞰映像を生成することを特徴とする請求項1または2に記載の俯瞰映像生成装置。 The control unit, in a direction opposite to the direction in which the vehicle moves in the turning direction of the vehicle, in a state where the virtual own vehicle image is located close to the virtual own vehicle image, the overhead view image in which the virtual own vehicle image is reduced overhead image generating apparatus according to claim 1 or 2, characterized in that to generate. 前記制御部は、前記車両の旋回方向において前記車両が移動する方向とは反対の方向に、前記仮想自車両画像を寄せて位置させた状態で、前記俯瞰映像の上端部を前記仮想自車両画像における前記車両のサイドミラーの位置とすることで、前記車両のサイドミラーより後方の前記俯瞰映像を生成することを特徴とする請求項1からのいずれか1項に記載の俯瞰映像生成装置。 The control unit is configured to move the virtual host vehicle image in a direction opposite to the direction in which the vehicle moves in the turning direction of the vehicle, and to position the virtual host vehicle image in an upper end portion of the overhead view image in the virtual host vehicle image. The overhead view image generation device according to any one of claims 1 to 3 , wherein the overhead view image behind the side mirror of the vehicle is generated by setting a position of a side mirror of the vehicle in (1). 請求項1からのいずれか一項に記載の俯瞰映像生成装置と、
前記車両の周辺を撮影し前記映像取得部に周辺映像を供給する撮影部と、または前記制御部が生成した俯瞰映像を表示する表示制御部および表示パネルと、の少なくともいずれかを有することを特徴とする俯瞰映像生成システム。
An overhead view video generation device according to any one of claims 1 to 4 ,
A photographing unit that photographs the periphery of the vehicle and supplies a peripheral image to the image acquiring unit; or a display control unit and a display panel that display an overhead image generated by the control unit. Overhead image generation system.
車両の周辺を撮影した周辺映像を取得する映像取得ステップと、
前記車両の速度および旋回方向への移動を推定するための車両情報を取得する車両情報取得ステップと、
前記映像取得ステップで取得した周辺映像に基づき、前記車両を示す仮想自車両画像を含み、前記車両を上方から見下ろした俯瞰映像を生成する制御ステップと、
生成した前記俯瞰映像を表示する表示ステップと、を含み、
前記制御ステップにおいては、前記車両情報取得ステップで取得した車両情報に基づいて、前記車両の旋回方向への移動が推定された場合、前記旋回方向において前記車両が移動する方向とは反対の方向に前記車両を寄せて位置させ、前記車両が移動する方向の周辺映像を、前記車両が減速している状態と前記車両が加速している状態とでは、前記車両が減速している状態における前記俯瞰映像の方が、前記車両が移動する方向を広くした俯瞰映像を生成することを特徴とする俯瞰映像生成方法。
An image acquisition step of acquiring a peripheral image of the periphery of the vehicle,
A vehicle information acquisition step of acquiring vehicle information for estimating a speed and a movement of the vehicle in a turning direction,
Based on the surrounding image acquired in the image acquisition step, including a virtual own vehicle image showing the vehicle, a control step of generating a bird's-eye view image looking down on the vehicle from above,
A display step of displaying the generated bird's-eye view image ,
In the control step, based on the vehicle information acquired in the vehicle information acquisition step, when the movement of the vehicle in the turning direction is estimated, in a direction opposite to the direction in which the vehicle moves in the turning direction. Positioning the vehicle close to it and displaying a peripheral image of the direction in which the vehicle moves, the overhead view in a state where the vehicle is decelerating between a state where the vehicle is decelerating and a state where the vehicle is accelerating A bird's-eye view image generation method, wherein the video generates a bird's-eye view image in which the direction in which the vehicle moves is widened .
車両の周辺を撮影した周辺映像を取得する映像取得ステップと、
前記車両の速度および旋回方向への移動を推定するための車両情報を取得する車両情報取得ステップと、
前記映像取得ステップで取得した周辺映像に基づき、前記車両を示す仮想自車両画像を含み、前記車両を上方から見下ろした俯瞰映像を生成する制御ステップと、
生成した前記俯瞰映像を表示する表示ステップと、を含み、
前記制御ステップにおいては、前記車両情報取得ステップで取得した車両情報に基づいて、前記車両の旋回方向への移動が推定された場合、前記旋回方向において前記車両が移動する方向とは反対の方向に前記車両を寄せて位置させ、前記車両が移動する方向の周辺映像を、前記車両が減速している状態と前記車両が加速している状態とでは、前記車両が減速している状態における前記俯瞰映像の方が、前記車両が移動する方向を広くした俯瞰映像を生成することを特徴とする、上記各ステップを俯瞰映像生成装置として動作するコンピュータに実行させるためのプログラム。
An image acquisition step of acquiring a peripheral image of the periphery of the vehicle,
A vehicle information acquisition step of acquiring vehicle information for estimating the speed and the movement of the vehicle in the turning direction,
A control step of generating a bird's-eye view image of the vehicle, including a virtual host vehicle image indicating the vehicle, based on the peripheral image acquired in the image acquisition step,
A display step of displaying the generated bird's-eye view image ,
In the control step, based on the vehicle information acquired in the vehicle information acquisition step, when the movement of the vehicle in the turning direction is estimated, in a direction opposite to the direction in which the vehicle moves in the turning direction. Positioning the vehicle close to it and displaying a peripheral image of the direction in which the vehicle moves, the overhead view in a state where the vehicle is decelerating between a state where the vehicle is decelerating and a state where the vehicle is accelerating A program for causing a computer that operates as an overhead image generation apparatus to execute the above steps , wherein the image generates an overhead image in which the direction in which the vehicle moves is widened .
JP2015250426A 2015-12-22 2015-12-22 Overhead video generation device, overhead video generation system, overhead video generation method and program Active JP6644256B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015250426A JP6644256B2 (en) 2015-12-22 2015-12-22 Overhead video generation device, overhead video generation system, overhead video generation method and program
PCT/JP2016/075021 WO2017110144A1 (en) 2015-12-22 2016-08-26 Overhead view video image generation device, overhead view video image generation system, overhead view video image generation method, and program
US15/997,847 US10549693B2 (en) 2015-12-22 2018-06-05 Bird's-eye view video generation device, bird's-eye view video generation system, bird's-eye view video generation method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015250426A JP6644256B2 (en) 2015-12-22 2015-12-22 Overhead video generation device, overhead video generation system, overhead video generation method and program

Publications (3)

Publication Number Publication Date
JP2017114237A JP2017114237A (en) 2017-06-29
JP2017114237A5 JP2017114237A5 (en) 2018-04-26
JP6644256B2 true JP6644256B2 (en) 2020-02-12

Family

ID=59233219

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015250426A Active JP6644256B2 (en) 2015-12-22 2015-12-22 Overhead video generation device, overhead video generation system, overhead video generation method and program

Country Status (1)

Country Link
JP (1) JP6644256B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7067225B2 (en) * 2018-04-16 2022-05-16 株式会社Jvcケンウッド Vehicle display control device, vehicle display system, vehicle display control method, and program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1179958B1 (en) * 1999-04-16 2012-08-08 Panasonic Corporation Image processing device and monitoring system
JP5045172B2 (en) * 2007-03-20 2012-10-10 マツダ株式会社 Vehicle driving support device
JP2010079454A (en) * 2008-09-24 2010-04-08 Sanyo Electric Co Ltd Driving support device
JP5182042B2 (en) * 2008-11-28 2013-04-10 富士通株式会社 Image processing apparatus, image processing method, and computer program
JP5321267B2 (en) * 2009-06-16 2013-10-23 日産自動車株式会社 Vehicular image display device and overhead image display method
JP2014103433A (en) * 2012-11-16 2014-06-05 Honda Motor Co Ltd Image display device for vehicle
JP6363393B2 (en) * 2014-05-21 2018-07-25 トヨタ自動車株式会社 Vehicle periphery monitoring device

Also Published As

Publication number Publication date
JP2017114237A (en) 2017-06-29

Similar Documents

Publication Publication Date Title
WO2017110144A1 (en) Overhead view video image generation device, overhead view video image generation system, overhead view video image generation method, and program
JP6521086B2 (en) Display support apparatus and display support method
US9589194B2 (en) Driving assistance device and image processing program
CN107848416B (en) Display control device, display device, and display control method
JP6586849B2 (en) Information display device and information display method
CN110861638A (en) Apparatus for controlling parking of vehicle, system having the same, and method thereof
JP2013060128A (en) Rear side video display device for motorcycle
CN110386066B (en) Vehicle display control device and method, vehicle display system, and storage medium
JP2008280026A (en) Driving assistance device
JP7006460B2 (en) Vehicle display control device, vehicle display system, vehicle display control method, and program
JP6277933B2 (en) Display control device, display system
JP2009227245A (en) Operation device for on-vehicle equipment
JP2008276642A (en) Traveling lane recognition device and traveling lane recognition method
WO2017179206A1 (en) Display control device for parking assistance, and display control method for parking assistance
JP2018097431A (en) Driving support apparatus, driving support system and driving support method
WO2018159016A1 (en) Bird&#39;s eye view image generation device, bird&#39;s eye view image generation system, bird&#39;s eye view image generation method and program
JP2006088758A (en) Display device for vehicle
US20190333252A1 (en) Display control device, display system, and display control method
US20210049985A1 (en) Image control apparatus, display apparatus, mobile body, image data generation method, and recording medium
WO2019171528A1 (en) Drive assistance device and drive assistance method
WO2015182148A1 (en) Object-detecting device, and vehicle having object-detecting device installed therein
JP6644256B2 (en) Overhead video generation device, overhead video generation system, overhead video generation method and program
JP2009067292A (en) In-vehicle camera system
JP2017114218A (en) Bird&#39;s-eye video generation device, bird&#39;s-eye video generation system, bird&#39;s-eye video generation method and program
JP2018005827A (en) Lane change support device and lane change support method

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180319

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190702

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190826

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191216

R150 Certificate of patent or registration of utility model

Ref document number: 6644256

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150