JP7366982B2 - 制御装置、制御方法、及び制御プログラム - Google Patents

制御装置、制御方法、及び制御プログラム Download PDF

Info

Publication number
JP7366982B2
JP7366982B2 JP2021190067A JP2021190067A JP7366982B2 JP 7366982 B2 JP7366982 B2 JP 7366982B2 JP 2021190067 A JP2021190067 A JP 2021190067A JP 2021190067 A JP2021190067 A JP 2021190067A JP 7366982 B2 JP7366982 B2 JP 7366982B2
Authority
JP
Japan
Prior art keywords
image
bird
dimensional image
eye view
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021190067A
Other languages
English (en)
Other versions
JP2023076997A (ja
Inventor
達朗 藤原
八州志 照田
純平 森田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2021190067A priority Critical patent/JP7366982B2/ja
Priority to CN202211463122.5A priority patent/CN116160957A/zh
Priority to US17/991,201 priority patent/US20230158956A1/en
Publication of JP2023076997A publication Critical patent/JP2023076997A/ja
Application granted granted Critical
Publication of JP7366982B2 publication Critical patent/JP7366982B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/31Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing stereoscopic vision
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • G06T15/205Image-based rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/107Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • B60R2300/605Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint the adjustment being automatic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8073Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for vehicle security, e.g. parked vehicle surveillance, burglar detection
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning

Description

本発明は、制御装置、制御方法、及び制御プログラムに関する。
近年、地球の気候変動に対する具体的な対策として、低炭素社会又は脱炭素社会の実現に向けた取り組みが活発化している。車両においても、CO排出量の削減が強く要求され、燃費効率の向上に寄与する車両の自動運転及び運転支援の導入が急速に進んでいる。
従来、車両の前後左右に搭載したカメラ毎に所定範囲の画像を撮像し、撮像した各画像の結合画像に基づいて車両及び車両の周囲の周辺画像(例えば俯瞰画像)を生成するとともに、俯瞰画像に基づいてその3次元画像を生成する画像生成方法が知られている。特許文献1には、車両のサイドミラーの開閉に応じて、各カメラで撮像する画像の撮像範囲を変更するとともに、撮像した画像の結合画像における撮像画像同士間の境界位置を変更して俯瞰画像を生成するようにした車両周囲監視装置が記載されている。また、特許文献2には、生成された俯瞰画像上で全体が表示されていない目標物に対して、俯瞰画像上の境界線を変更し目標物の全体が表示されるようにした車両周辺監視装置が記載されている。
特許第5112998号公報 特開2013-093865号公報
ところで、例えば車両の駐車支援時などにおいても俯瞰画像や3次元画像を車両の表示装置上に表示する場合がある。その際に、俯瞰画像や3次元画像における撮像画像同士間の境界線が駐車予定の駐車枠内あるいは駐車中の駐車枠内に重なって表示されてしまうことがある。この場合、境界線が重なって表示された駐車枠の画像は歪んだ画像となり視認性が低下して駐車時の画像として望ましくない。しかしながら、特許文献1や特許文献2には、駐車支援時における駐車枠と撮像画像同士間の境界線との対応関係については記載されていない。したがって、駐車支援時における俯瞰画像及び3次元画像の視認性については改良の余地がある。
本発明は、所定対象を迅速に認識できる移動体の周辺画像を表示可能な制御装置、制御方法、及び制御プログラムを提供することを目的とする。
本発明は、
移動体の複数の撮像装置により取得された各撮像データに基づいて、前記移動体及び前記移動体の周辺を示す俯瞰画像及び3次元画像を生成する画像処理部と、
前記画像処理部により生成された前記俯瞰画像及び前記3次元画像を表示装置に表示させる表示制御部と、
前記俯瞰画像及び前記3次元画像における前記各撮像データの境界領域に所定対象が存在するか否かを判定する判定部と、を備え、
前記画像処理部は、前記判定部によって前記境界領域に前記所定対象が存在すると判定された場合に、表示される前記俯瞰画像及び前記3次元画像のうち前記3次元画像の前記境界領域を優先的に変更する、
制御装置である。
本発明は、
移動体の複数の撮像装置により取得された各撮像データに基づいて、前記移動体及び前記移動体の周辺を示す俯瞰画像及び3次元画像を生成し、生成した前記俯瞰画像及び前記3次元画像を表示装置に表示させるプロセッサによる制御方法であって、
前記プロセッサが、
前記俯瞰画像及び前記3次元画像における前記各撮像データの境界領域に所定対象が存在するか否かを判定し、
前記境界領域に前記所定対象が存在すると判定した場合に、表示される前記俯瞰画像及び前記3次元画像のうち前記3次元画像の前記境界領域を優先的に変更する、
制御方法である。
本発明は、
移動体の複数の撮像装置により取得された各撮像データに基づいて、前記移動体及び前記移動体の周辺を示す俯瞰画像及び3次元画像を生成し、生成した前記俯瞰画像及び前記3次元画像を表示装置に表示させるプロセッサに、
前記俯瞰画像及び前記3次元画像における前記各撮像データの境界領域に所定対象が存在するか否かを判定し、
前記境界領域に前記所定対象が存在すると判定した場合に、表示される前記俯瞰画像及び前記3次元画像のうち前記3次元画像の前記境界領域を優先的に変更する、
処理を実行させるための制御プログラムである。
本発明の制御装置、制御方法、及び制御プログラムによれば、所定対象を迅速に認識可能な移動体の周囲画像を表示することができる。
本実施形態の制御装置を搭載した車両の一例を示す側面図である。 図1に示す車両の上面図である。 図1に示す車両の内部構成を示すブロック図である。 複数のカメラの各撮像データにより生成された合成画像の一例を示す図である。 図4に示す合成画像の境界領域を変更した合成画像を示す図である。 第1実施例における制御ECUの表示制御を示すフローチャートである。 複数のカメラの各撮像データに基づいて生成された俯瞰画像の一例を示す図である。 車両のタッチパネルに表示される俯瞰画像と3次元画像の一例を示す図である。 第2実施例における制御ECUの表示制御を示すフローチャートである。 第3実施例における複数のカメラの各撮像データに基づいて生成された俯瞰画像の一例を示す図である。 複数のカメラの各撮像データに基づいて生成された3次元画像の一例を示す図である。 車両のタッチパネルに表示される俯瞰画像と3次元画像の一例を示す図である。
以下、本発明の制御装置、制御方法、及び制御プログラムの一実施形態を、添付図面に基づいて説明する。なお、図面は、符号の向きに見るものとする。また、本明細書等では説明を簡単かつ明確にするために、前後、左右、上下の各方向は、図1及び図2に示す車両10の運転者から見た方向に従って記載し、図面には、車両10の前方をFr、後方をRr、左方をL、右方をR、上方をU、下方をD、として示す。
<本発明の制御装置を搭載した車両10>
図1は、本発明の制御装置を搭載した車両10の側面図である。図2は、図1に示した車両10の上面図である。車両10は、本発明の移動体の一例である。
車両10は、駆動源(図示略)と、駆動源の動力によって駆動される駆動輪及び転舵可能な転舵輪を含む車輪と、を有する自動車である。本実施形態では、車両10は、左右一対の前輪及び後輪を有する四輪の自動車である。車両10の駆動源は、例えば電動機である。なお、車両10の駆動源は、ガソリンエンジンやディーゼルエンジン等の内燃機関であってもよいし、電動機と内燃機関との組み合わせであってもよい。また、車両10の駆動源は、左右一対の前輪を駆動してもよいし、左右一対の後輪を駆動してもよいし、左右一対の前輪及び後輪の四輪を駆動してもよい。前輪及び後輪は、双方が転舵可能な転舵輪であってもよいし、いずれか一方が転舵可能な転舵輪であってもよい。
車両10は、更にサイドミラー11L,11Rを備える。サイドミラー11L,11Rは、車両10の前席ドアの外側に設けられた、運転者が後方及び後側方を確認するためのミラー(バックミラー)である。サイドミラー11L,11Rは、それぞれ垂直方向に延びる回転軸によって車両10の本体に固定されており、この回転軸を中心に回転することにより開閉可能である。サイドミラー11L,11Rの開閉は、例えば、車両10の運転席付近に設けられた操作部に対する運転者からの操作によって電動で行われる。サイドミラー11L,11Rが閉じた状態の車両10の幅は、サイドミラー11L,11Rが開いた状態の車両10の幅より狭くなる。このことから、例えば狭い駐車空間への進入時などには、車両10が周辺の障害物と衝突しないよう、サイドミラー11L,11Rを閉状態とする操作が運転者によって行われることが多い。
車両10は、更に前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、及び右側方カメラ12Rを備える。前方カメラ12Frは、車両10の前方に設けられ、車両10の前方を撮像するデジタルカメラである。後方カメラ12Rrは、車両10の後方に設けられ、車両10の後方を撮像するデジタルカメラである。左側方カメラ12Lは、車両10の左のサイドミラー11Lに設けられ、車両10の左側方を撮像するデジタルカメラである。右側方カメラ12Rは、車両10の右のサイドミラー11Rに設けられ、車両10の右側方を撮像するデジタルカメラである。前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L及び右側方カメラ12Rは、本発明の撮像装置の一例である。
<車両10の内部構成>
図3は、図1に示した車両10の内部構成の一例を示すブロック図である。図3に示すように、車両10は、センサ群16と、ナビゲーション装置18と、制御ECU(Electronic Control Unit)20と、EPS(Electric Power Steering)システム22と、通信部24と、を有する。車両10は、更に駆動力制御システム26と、制動力制御システム28と、を有する。制御ECU20は、本発明の制御装置の一例である。
センサ群16は、制御ECU20による制御に用いられる各種の検出値を取得する。センサ群16には、前方カメラ12Frと、後方カメラ12Rrと、左側方カメラ12Lと、右側方カメラ12Rとが含まれる。また、センサ群16には、前方ソナー群32aと、後方ソナー群32bと、左側方ソナー群32cと、右側方ソナー群32dとが含まれる。また、センサ群16には、車輪センサ34a,34bと、車速センサ36と、操作検出部38とが含まれる。
前方カメラ12Frと、後方カメラ12Rrと、左側方カメラ12Lと、右側方カメラ12Rとは、車両10の周辺を撮像することにより得られる周辺画像を出力する。前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12Rによって撮像される周辺画像は、それぞれ前方画像、後方画像、左側方画像、右側方画像と称される。左側方画像と右側方画像とによって構成される画像を側方画像と称してもよい。
前方ソナー群32aと、後方ソナー群32bと、左側方ソナー群32cと、右側方ソナー群32dとは、車両10の周辺に音波を発射すると共に、他物体からの反射音を受信する。前方ソナー群32aは、例えば4つのソナーを含む。前方ソナー群32aを構成するソナーは、車両10の左斜め前方、前方左側、前方右側及び右斜め前方にそれぞれ設けられている。後方ソナー群32bは、例えば4つのソナーを含む。後方ソナー群32bを構成するソナーは、車両10の左斜め後方、後方左側、後方右側及び右斜め後方にそれぞれ設けられている。左側方ソナー群32cは、例えば2つのソナーを含む。左側方ソナー群32cを構成するソナーは、車両10の左側部前方及び左側部後方にそれぞれ設けられている。右側方ソナー群32dは、例えば2つのソナーを含む。右側方ソナー群32dを構成するソナーは、車両10の右側部前方及び右側部後方にそれぞれ設けられている。
車輪センサ34a,34bは、車両10の車輪の回転角度を検出する。車輪センサ34a,34bは、角度センサによって構成されていてもよいし、変位センサによって構成されていてもよい。車輪センサ34a,34bは、車輪が所定角度回転する毎に検出パルスを出力する。車輪センサ34a,34bから出力される検出パルスは、車輪の回転角度及び車輪の回転速度の算出に用いられる。車輪の回転角度に基づいて、車両10の移動距離が算出される。車輪センサ34aは、例えば、左後輪の回転角度θaを検出する。車輪センサ34bは、例えば、右後輪の回転角度θbを検出する。
車速センサ36は、車両10の車体の速度、すなわち車速Vを検出し、検出した車速Vを制御ECU20に出力する。車速センサ36は、例えば、トランスミッションのカウンタシャフトの回転に基づいて車速Vを検出する。
操作検出部38は、操作入力部14を用いて行われるユーザによる操作内容を検出し、検出した操作内容を制御ECU20に出力する。操作入力部14には、例えばサイドミラー11L,11Rの開閉状態を切り替えるドアミラースイッチや、シフトレバー(セレクトレバーやセレクタ)など各種のユーザインタフェースが含まれる。
ナビゲーション装置18は、例えばGPS(Global Positioning System)を用いて車両10の現在位置を検出すると共に、目的地までの経路をユーザに案内する。ナビゲーション装置18は、地図情報データベースが備えられた不図示の記憶装置を有する。
ナビゲーション装置18には、タッチパネル42と、スピーカ44とが備えられている。タッチパネル42は、制御ECU20の入力装置及び表示装置として機能する。ユーザは、タッチパネル42を介して各種の指令を入力する。また、タッチパネル42には、各種の画面が表示される。ユーザは、タッチパネル42を介して例えば駐車支援に関する指令を入力し得る。また、タッチパネル42には、駐車支援に関する画面が表示され得る。例えば、タッチパネル42には、車両10の駐車支援を要求する駐車支援ボタンが表示される。駐車支援ボタンには、制御ECU20の自動操舵による駐車を要求する自動駐車支援ボタンや、運転者の操作で駐車する際の補助を要求する駐車補助支援ボタンが含まれる。なお、タッチパネル42以外の構成要素、例えばスマートフォン等を入力装置又は表示装置として用いるようにしてもよい。スピーカ44は、車両10の搭乗者に対して各種の案内情報を音声で出力する。
制御ECU20は、入出力部50と、演算部52と、記憶部54とを有する。演算部52は、例えばCPU(Central Processing Unit)によって構成される。演算部52は、記憶部54に記憶されているプログラムに基づいて各部を制御することにより各種の制御を行う。
演算部52は、表示制御部55と、対象有無判定部56と、画像処理部57と、を含む。画像処理部57は、車両10のカメラにより取得された撮像データに基づいて車両10の周辺画像を生成する。具体的には、画像処理部57は、前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12Rによって取得された各撮像データを合成して合成画像を生成し、この合成画像を上方から見た様子を示す車両10及び車両10の周辺の俯瞰画像を生成する。
また、画像処理部57は、前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12Rによって取得された各撮像データの合成画像を3次元的に再構成する画像処理を施し、車両10及び車両10の周辺を回転して例えば斜め上方から見た様子を仮想的に示す3次元画像を生成する。
また、画像処理部57は、生成された周辺画像(俯瞰画像及び3次元画像)におけるマスク領域を設定する。マスク領域とは、カメラの撮像画像中に映り込んだ車両10のボディを隠すために設定される領域を意味する。マスク領域は、車両10を囲う形状の領域として設定される。画像処理部57は、マスク領域内の車両10が位置している空間に対応する部分に、車両10を示す車両画像を重畳して表示する。車両画像は、車両10を上方から見た様子を示す画像であり、予め生成されて記憶部54等に記憶されている。なお、画像処理部57は、左側方カメラ12Lと右側方カメラ12Rによって取得された側方画像(左側方画像と右側方画像)におけるマスク領域を設定するようにしてもよい。
また、画像処理部57は、各カメラによって取得された撮像データの合成画像を再合成処理して、合成画像における隣り合う撮像画像同士間の境界領域を変更する。画像処理部57は、例えば、撮像画像中に存在する所定対象が境界領域に重なって表示される場合に、所定対象の位置に応じて再合成処理を行うことにより境界領域を変更する。所定対象とは、駐車枠(駐車スペース)、駐車枠線、障害物など、車両10の運転者が注視すべき対象である。
対象有無判定部56は、画像処理部57で生成された俯瞰画像及び3次元画像における各撮像データの境界領域に所定の対象物が存在するか否かを判定する。
表示制御部55は、画像処理部57によって生成された周辺画像を車両10の表示装置に表示させる。具体的には、表示制御部55は、前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12Rの各撮像データを合成することにより生成された車両10の俯瞰画像及び3次元画像をタッチパネル42に表示させる。また、表示制御部55は、対象有無判定部56の判定結果に基づいて、撮像データの再合成処理が施された俯瞰画像及び3次元画像をタッチパネル42に表示させる。
更に、制御ECU20は、ステアリング110の操作を制御ECU20の制御によって自動で行う自動操舵による車両10の駐車支援を行う。この駐車支援は、例えば、駐車時に、車両10の運転者が選択した駐車枠に停車するように自動操舵する制御である。自動操舵の支援では、アクセルペダル(図示せず)、ブレーキペダル(図示せず)及び操作入力部14の操作が自動で行われる。また、制御ECU20は、アクセルペダル、ブレーキペダル及び操作入力部14の操作をユーザが行って車両10を駐車させる際の補助支援を行う。
EPSシステム22は、舵角センサ100と、トルクセンサ102と、EPSモータ104と、レゾルバ106と、EPS ECU108と、を有する。舵角センサ100は、ステアリング110の舵角θstを検出する。トルクセンサ102は、ステアリング110に加わるトルクTQを検出する。
EPSモータ104は、ステアリング110に連結されたステアリングコラム112に対して駆動力又は反力を付与することにより、乗員によるステアリング110の操作支援や駐車支援時の自動操舵を可能とする。レゾルバ106は、EPSモータ104の回転角度θmを検出する。EPS ECU108は、EPSシステム22の全体の制御を司る。EPS ECU108には、入出力部(図示せず)と、演算部(図示せず)と、記憶部(図示せず)とが備えられている。
通信部24は、他の通信装置120との間で無線通信を行うことを可能とするものである。他の通信装置120とは、基地局や、他車両の通信装置や、車両10の搭乗者が所持するスマートフォン等の情報端末などである。
駆動力制御システム26には、駆動ECU130が備えられている。駆動力制御システム26は、車両10の駆動力制御を実行する。駆動ECU130は、不図示のアクセルペダルに対するユーザによる操作に基づいて、不図示のエンジン等を制御することによって、車両10の駆動力を制御する。
制動力制御システム28には、制動ECU132が備えられている。制動力制御システム28は、車両10の制動力制御を実行する。制動ECU132は、不図示のブレーキペダルに対するユーザによる操作に基づいて、不図示のブレーキ機構等を制御することによって、車両10の制動力を制御する。
<画像処理部57による境界領域の変更>
次に、各撮像データの合成画像における境界領域の変更処理について図4及び図5を参照して説明する。
図4は、前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12Rによって取得される各撮像データにより生成された合成画像の一例を示す図である。図5は、図4に示す合成画像の境界領域を変更して生成した合成画像の一例を示す図である。
図4に示すように、合成画像60を生成する場合、画像処理部57は、前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、及び右側方カメラ12Rによって撮像される各撮像領域の撮像データを、車両10の鉛直上方の所定視点位置から見下ろした画像となるように、画像の歪なども補正しつつ視点変換を行う。更に、画像処理部57は、この変換処理により得られた各変換画像から、互いの境界領域の画像が整合するようにして変換画像毎に設定された所定の画角範囲の前方画像61、左側方画像62、右側方画像63、及び後方画像64を抽出する。そして、画像処理部57は、これらの画像61~64を合成して合成画像60を生成する。なお、合成画像60の中央部には車両10を囲うようにマスク領域65が設けられている。また、マスク領域65内には、車両10を示す車両画像67を表示してもよい。
前方画像61、左側方画像62、右側方画像63、及び後方画像64における隣り合う撮像画像同士間には、撮像画像の境界領域である境界線66a~66dが存在している。前方画像61、左側方画像62、右側方画像63、及び後方画像64から抽出される画角範囲は、隣り合う撮像画像同士間の境界領域が整合する画角範囲であればよく、一義的な範囲とは限らない。このため、抽出される画角範囲によって、隣り合う撮像画像同士間の境界線66a~66dの位置も変化し得る。
前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、及び右側方カメラ12Rによって撮像し得る各画像の画角範囲は、隣り合う撮像画像同士がある程度の領域で重なり合うような広さに設定されている。したがって、隣り合う撮像画像同士間の境界領域は、この重なり合う領域内において、境界領域の整合を条件に任意に抽出することが可能である。
ところで、境界領域の画像、特に境界線66a~66dにおける画像は、互いの境界領域の画像が整合するように抽出されるが、異なる画像の合成部分であるために歪みが生じて視認性が低下する場合が多い。そこで、画像処理部57は、合成画像60において、境界線66a~66d上に良好な視認性を要求される所定の対象物が重なって撮像されているような場合には、境界線66a~66dがその対象物と重ならないように境界領域(境界線66a~66d)の位置を変更する。
例えば、図4に示す合成画像60が、ある駐車スペースPに車両を駐車しようとしている様子を示す合成画像であるとする。駐車スペースPには車両の後方に障害物68が存在しており、この場合には、障害物68が所定の対象物として良好な視認性が要求される。ところが、合成画像60においては、左側方画像62と後方画像64との境界線66c上、及び右側方画像63と後方画像64との境界線66d上に障害物68が存在する。
そこで、画像処理部57は、例えば図5に示すように、障害物68に対して、左側方画像62と後方画像64との境界線69c及び右側方画像63と後方画像64との境界線69dが重ならないように境界領域を変更する。具体的には、左側方画像62と後方画像64との境界線69c及び右側方画像63と後方画像64との境界線69dをそれぞれ側方側へずらすように変更する。これにより、車両の駐車スペースPへの駐車時において障害物68の視認性が向上し、迅速かつ確実に障害物68の認識が可能になる。
<制御ECU20による表示制御>
次に、制御ECU20による表示制御について説明する。
[第1実施例]
制御ECU20による表示制御の第1実施例を図6から図8を参照して説明する。
図6は、駐車枠を選択して車両10を駐車する際の制御ECU20による表示制御を示すフローチャートである。図7は、車両10の前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12Rによって取得される各撮像データにより生成された俯瞰画像の一例を示す図である。図8は、車両10のタッチパネル42に表示される俯瞰画像と3次元画像の一例を示す図である。
例えば、車両10に乗車した運転者が駐車場で車両10を駐車させようとしているとする。制御ECU20は、車両10の運転者からの駐車支援の要求があったか否か判定する(ステップS11)。駐車支援の要求は、操作入力部14における自動駐車支援ボタンや駐車補助支援ボタンの運転者による操作に基づいて、例えば駐車支援信号として制御ECU20に出力される。
ステップS11において、駐車支援の要求がない場合(ステップS11:No)には、制御ECU20は、駐車支援の要求があるまで待機する。
ステップS11において、駐車支援の要求があった場合(ステップS11:Yes)には、制御ECU20は、画像処理部57により、前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12Rによって取得された各撮像データの合成画像に基づいて、俯瞰画像及び3次元画像を生成する(ステップS12)。
次に、制御ECU20は、画像処理部57により、生成された画像に基づいて、その駐車場に車両10を駐車することが可能な駐車枠、すなわち他の車両が駐車されていない空の駐車枠が存在しているか判定する(ステップS13)。空の駐車枠が存在しているか否かの判定は、前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12Rによって取得された各撮像データの合成画像に基づいて判定してもよいし、合成される前の各撮像データの画像に基づいて判定してもよい。あるいは、合成画像から生成される俯瞰画像や3次元画像に基づいて判定してもよい。
例えば、駐車可能な駐車枠が存在するか判定するために用いる俯瞰画像70を図7に示す。俯瞰画像70には、5箇所の駐車枠P1~P5のうち3箇所の駐車枠P1,P2,P4に他車両Vが駐車され、2箇所の駐車枠P3,P5に他車両Vが駐車されていない様子が表示されている。前方画像71、左側方画像72、右側方画像73、及び後方画像74の境界部分には境界線76a~76dが表示されている。マスク領域75内には自車両である車両10を示す車両画像77が表示されている。
制御ECU20は、ステップS13において、俯瞰画像70に基づき駐車枠P3,P5が駐車可能な駐車枠であると判定する。
次に、制御ECU20は、画像処理部57により、駐車可能であると判定した駐車枠P3,P5に、境界線76a~76dが重なるか否かを判定する(ステップS14)。
ステップS14において、駐車可能な駐車枠P3,P5上に境界線76a~76dが重なる場合(ステップS14:No)には、制御ECU20は、表示制御部55により、車両10のタッチパネル42に、ステップS12で生成した俯瞰画像と3次元画像をそのままの画像で変更せずに、車両10を駐車させる駐車枠の選択画面として表示する(ステップS16)。
ステップS14において、駐車可能な駐車枠P3,P5上に境界線76a~76dが重なる場合(ステップS14:Yes)には、制御ECU20は、画像処理部57により、ステップS12で生成した3次元画像の境界線76a~76dの中の駐車枠P3,P5上に重なる境界線が駐車枠P3,P5上に重ならなくなるように、各撮像データの合成処理を再度行うことにより境界線を変更する(ステップS15)。
次に、制御ECU20は、表示制御部55により、ステップS12で生成した俯瞰画像そのままの画像と、ステップS14で境界線76a~76dが駐車枠P3,P5上に重ならないように生成した3次元画像と、を駐車枠の選択画面としてタッチパネル42に表示する(ステップS16)。
例えば、図7に示す俯瞰画像70の場合、境界線76a~76dのうち境界線76cが駐車可能な駐車枠P5上に重なっている。そこで、制御ECU20は、画像処理部57により、境界線76cが駐車可能な駐車枠P5上に重ならないように各撮像データを合成処理し直して、駐車枠P5上に重ならない境界線78cとなるように変更する。
そして、制御ECU20は、表示制御部55により、図8に示すように、タッチパネル42に設けられている第1表示領域42aと第2表示領域42bのうち、第1表示領域42aには駐車枠P5上に境界線が重ならなくなった3次元画像を表示させ、第2表示領域42bには上記ステップS12で生成された俯瞰画像(境界線76cを変更していない俯瞰画像70)を表示させる。
車両10の運転者は、タッチパネル42に表示された駐車可能な駐車枠(例えば駐車枠P3,P5のいずれか)にタッチして駐車枠を選択する。制御ECU20は、選択された駐車枠に、自動操舵によって車両10を駐車させる駐車支援を行う。
[第2実施例]
制御ECU20による表示制御の第2実施例を図9に示すフローチャートを参照して説明する。上記第1実施例では、境界線上に所定の対象物(駐車枠)が存在する場合、タッチパネル42に表示する俯瞰画像と3次元画像のうち3次元画像のみの境界領域(境界線)を変更する表示制御について説明したが、第2実施例では、3次元画像と俯瞰画像の両方の境界領域(境界線)を変更する表示制御について説明する。
制御ECU20は、車両10の運転者からの駐車支援の要求があったか否か判定する(ステップS21)。駐車支援の要求は、第1実施例と同様に自動駐車支援ボタンや駐車補助支援ボタンの操作に基づいて制御ECU20に出力される。
ステップS21において、駐車支援の要求がない場合(ステップS21:No)には、制御ECU20は、駐車支援の要求があるまで待機する。
ステップS21において、駐車支援の要求があった場合(ステップS21:Yes)には、制御ECU20は、画像処理部57により、前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12Rによって取得された各撮像データの合成画像に基づいて、俯瞰画像及び3次元画像を生成する(ステップS22)。
次に、制御ECU20は、画像処理部57により、生成された画像に基づいて、その駐車場に車両10を駐車することが可能な駐車枠、すなわち他の車両が駐車されていない空の駐車枠が存在しているか判定する(ステップS23)。空の駐車枠が存在しているか否かの判定は、第1実施例と同様に、各撮像データの合成画像に基づいて判定してもよいし、合成される前の各撮像データの画像に基づいて判定してもよいし、合成画像から生成される俯瞰画像や3次元画像に基づいて判定してもよい。
次に、制御ECU20は、第1実施例と同様に、駐車可能であると判定した駐車枠P3,P5(図7参照)上に境界線76a~76dが重なっているか否か判定する(ステップS24)。
ステップS24において、駐車可能な駐車枠P3,P5上に境界線76a~76dが重なっていない場合(ステップS24:No)には、制御ECU20は、表示制御部55により、車両10のタッチパネル42に、ステップS22で生成した俯瞰画像と3次元画像をそのままの画像で、駐車枠の選択画面として表示する(ステップS25)。
ステップS24において、駐車可能な駐車枠P3,P5上に境界線76a~76dが重なっている場合(ステップS24:Yes)には、制御ECU20は、画像処理部57により、ステップS22で生成した俯瞰画像と3次元画像のうち、まず3次元画像における境界線76a~76dの中の駐車枠P3,P5上に重なっている境界線が駐車枠P3,P5上に重ならないように、各撮像データの合成処理を再度行うことにより境界線を変更する(ステップS26)。
制御ECU20は、ステップS26で境界線76a~76dが駐車枠P3,P5上に重ならないように生成し直した3次元画像を駐車枠の選択画面としてタッチパネル42に表示する(ステップS27)。
次に、制御ECU20は、ステップS22で生成した俯瞰画像と3次元画像のうち、俯瞰画像における境界線76a~76dの中の駐車枠P3,P5上に重なっている境界線が駐車枠P3,P5上に重ならないように、各撮像データの合成処理を再度行うことにより境界線を変更する(ステップS28)。
制御ECU20は、表示制御部55により、ステップS28で境界線76a~76dが駐車枠P3,P5上に重ならないように生成し直した俯瞰画像を駐車枠の選択画面としてタッチパネル42に表示する(ステップS29)。
この場合、図8において、タッチパネル42の第2表示領域42bに表示される俯瞰画像も、第1表示領域42aに表示されている3次元画像と同様に、駐車枠P5上に境界線が重ならなくなった画像として表示される。
[第3実施例]
制御ECU20による表示制御の第3実施例について、図10~図12を参照して説明する。
図10は、車両10の前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12Rによって取得される各撮像データにより生成された俯瞰画像の一例を示す図である。図11は、同じカメラ12Fr,12Rr,12L,12Rによって取得される各撮像データにより生成された3次元画像の一例を示す図である。図12は、車両10のタッチパネル42に表示される俯瞰画像と3次元画像の一例を示す図である。
第3実施例は、車両10が所定の駐車スペースPにバック駐車する場合の制御ECU20による表示制御を示す。図10及び図11に示すように、駐車スペースPには車両10の駐車目標位置となる駐車枠線88が設けられている。したがって、このバック駐車時においては、車両10(車両画像87)と駐車枠線88との位置関係を正確に認識できるようにするために視認性が良好な駐車枠線88の画像が要求される。
そこで、制御ECU20は、例えば図10の俯瞰画像80Aに示すように、車両10がバックする際に左側方画像82と後方画像84との境界線86c上及び右側方画像83と後方画像84との境界線86d上に駐車枠線88が重なって表示されると判定された場合には、画像処理部57により、駐車枠線88と境界線86c,86dとが重ならなくなるように各撮像データの合成処理を再度行う。
そして、図10の俯瞰画像80A及び図11の3次元画像80Bに示す境界線89c,89dのように、駐車枠線88と重ならない側方側にずらした境界線に変更する。なお、この境界線の変更は、上記第1実施例と第2実施例で説明したように、3次元画像80Bのみを変更してもよいし、3次元画像80Bを変更した後に更に俯瞰画像80Aを変更するようにしてもよい。
これにより、車両10のタッチパネル42には、少なくとも3次元画像において駐車枠線88が境界線に重なっていない画像、すなわち視認性が良好な駐車枠線88が表示された3次元画像80Bが表示される。なお、図12に示すタッチパネル42の第1表示領域42aと第2表示領域42bには、駐車枠線88に境界線が重なっていない俯瞰画像80Aと3次元画像80Bがそれぞれ表示されている。
以上説明したように、制御ECU20は、画像処理部57により、対象有無判定部56によって境界線上に所定の対象物が存在すると判定された場合に、表示される俯瞰画像及び3次元画像のうち3次元画像の境界線を優先的に変更する。
なお、俯瞰画像及び3次元画像のうち3次元画像の境界線を優先的に変更するとは、俯瞰画像の境界線を変更することをユーザが指定したり、ユーザが3次元画像よりも俯瞰画像を頻繁に参照していたりといった、俯瞰画像の境界線を優先して変更すべき他の要因がない限り、3次元画像の境界線を優先して変更することをいう。
これにより、境界線上に所定の対象物が存在する場合に、車両10の運転者にとって俯瞰画像よりも周辺の状況を認識し易い3次元画像の境界線が優先的に変更されるので、運転者による所定の対象物の迅速な認識が可能になる。このため、例えば、狭い駐車空間への進入中や、狭い駐車空間からの進出中に、車両10が周辺の障害物と衝突しないか等を正確に確認できる。また、狭い駐車空間への進入中に、車両10の停車後に車両10の搭乗者が容易に降車可能なスペースがあるか等の確認が容易になる。また、車両10が停車中に、車両10の搭乗者が降車時に接触するような障害物がないか等の確認が容易になる。
また、制御ECU20は、画像処理部57により、対象有無判定部56によって境界線上に所定の対象物が存在すると判定された場合に、俯瞰画像及び3次元画像のうち3次元画像のみの境界線を変更する。このため、少なくとも周辺の状況を認識し易い3次元画像の境界線が変更されるので、所定の対象物の迅速な認識は可能である。
また、制御ECU20は、画像処理部57により、対象有無判定部56によって境界線上に所定の対象物が存在すると判定された場合に、3次元画像の境界線を変更してタッチパネル42に表示した後に、俯瞰画像の境界線を変更してタッチパネル42に表示する。これにより、3次元画像により所定の対象物の迅速な認識が可能であるとともに、俯瞰画像によっても視認性の良い画像で対象物を確認することが可能であり利便性が向上する。
なお、上記実施形態では、境界線上に所定の対象物が重なって表示されると判定された際に、俯瞰画像と3次元画像のうち常に3次元画像の境界線を優先して変更する場合を説明したが、これに限定されない。例えば、制御ECU20は、車両10のユーザ(例えば車両10の運転者)に関する情報に基づいて、俯瞰画像及び3次元画像のうちいずれかの境界線を優先的に変更してもよい。
ユーザに関する情報は、例えばユーザによる設定である。すなわち、制御ECU20は、俯瞰画像と3次元画像のうち俯瞰画像の境界線を優先して変更すべきことが車両10のユーザ(例えば車両10の運転者)により設定された場合は、俯瞰画像と3次元画像のうち俯瞰画像の境界線を優先して変更するようにしてもよい。これにより、車両10における本機能のユーザビリティを向上させることができる。
又は、ユーザに関する情報は、過去にユーザが俯瞰画像及び3次元画像のそれぞれを参照した履歴情報であってもよい。例えば、制御ECU20は、過去にユーザが俯瞰画像及び3次元画像のそれぞれを参照した履歴情報に基づいて、車両10の運転者が俯瞰画像と3次元画像のうちどちらの画像を頻繁に参照しているかを判定し、より頻繁に参照している画像の境界線を優先して変更するようにしてもよい。これにより、車両10における本機能のユーザビリティを向上させることができる。
過去にユーザが俯瞰画像及び3次元画像のそれぞれを参照した履歴情報は、例えば、車両10に設けられた、車両10の運転者の視線を検出する視線センサによる検出結果に基づいて取得される。また、運転者の操作によって俯瞰画像と3次元画像のいずれかがタッチパネル42によって表示可能である場合に、過去にユーザが俯瞰画像及び3次元画像のそれぞれを参照した履歴情報を、運転者の操作による、俯瞰画像と3次元画像の表示の切替履歴に基づいて取得するようにしてもよい。
駐車枠の選択時や車両10の駐車時に表示する3次元画像と俯瞰画像について説明したが、本発明はこれに限らず、車両10の発進時に表示する3次元画像と俯瞰画像にも適用することができる。
以上、本発明の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、適宜、変形、改良、等が可能である。
例えば、上記実施形態では、制御ECU20が俯瞰画像及び3次元画像を車両10のタッチパネル42に表示する場合について説明したが、これに限定されない。例えば、制御ECU20は、通信部24を介して、車両10の搭乗者が所持する情報端末(例えばスマートフォン等)の表示画面上に俯瞰画像及び3次元画像を表示するようにしてもよい。
また、上記実施形態では、移動体を車両とした例を説明したが、これに限らない。本発明の思想は、車両に限らず、駆動源を備えて駆動源の動力により移動可能なロボット、船舶、航空機などにも適用することができる。
なお、前述した実施形態で説明した制御方法は、予め用意された制御プログラムをコンピュータで実行することにより実現できる。本制御プログラムは、コンピュータが読み取り可能な記憶媒体に記録され、記憶媒体から読み出されることによって実行される。また、本制御プログラムは、フラッシュメモリ等の非一過性の記憶媒体に記憶された形で提供されてもよいし、インターネット等のネットワークを介して提供されてもよい。本制御プログラムを実行するコンピュータは、制御装置に含まれるものであってもよいし、制御装置と通信可能なスマートフォン、タブレット端末、又はパーソナルコンピュータ等の電子機器に含まれるものでもあってもよいし、これら制御装置及び電子機器と通信可能なサーバ装置に含まれるものであってもよい。
また、本明細書には少なくとも以下の事項が記載されている。なお、括弧内には、上記した実施形態において対応する構成要素等を示しているが、これに限定されるものではない。
(1) 移動体(車両10)の複数の撮像装置(前方カメラ12Fr、後方カメラ12Rr、左側方カメラ12L、右側方カメラ12R)により取得された各撮像データに基づいて、前記移動体及び前記移動体の周辺を示す俯瞰画像及び3次元画像を生成する画像処理部(画像処理部57)と、
前記画像処理部により生成された前記俯瞰画像及び前記3次元画像を表示装置(タッチパネル42)に表示させる表示制御部(表示制御部55)と、
前記俯瞰画像及び前記3次元画像における前記各撮像データの境界領域に所定対象(障害物68、駐車枠線88)が存在するか否かを判定する判定部(対象有無判定部56)と、を備え、
前記画像処理部は、前記判定部によって前記境界領域に前記所定対象が存在すると判定された場合に、表示される前記俯瞰画像及び前記3次元画像のうち前記3次元画像の前記境界領域を優先的に変更する、
制御装置。
(1)によれば、境界領域に所定対象が存在する場合に、ユーザにとってより周辺の状況を認識し易い3次元画像の境界領域を優先的に変更することで、運転者による所定対象の迅速な認識が可能になる。
(2) (1)に記載の制御装置であって、
前記画像処理部は、前記判定部によって前記境界領域に前記所定対象が存在すると判定された場合に、前記俯瞰画像及び前記3次元画像のうち前記3次元画像のみの前記境界領域を変更する、
制御装置。
(2)によれば、少なくとも周辺の状況を認識し易い3次元画像の境界領域が変更されるので、所定対象の迅速な認識は可能である。
(3) (1)に記載の制御装置であって、
前記画像処理部は、前記判定部によって前記境界領域に前記所定対象が存在すると判定された場合に、前記3次元画像の前記境界領域を変更して前記表示制御部に出力した後に、前記俯瞰画像の前記境界領域を変更して前記表示制御部に出力する、
制御装置。
(3)によれば、3次元画像により所定対象の迅速な認識が可能であるとともに、俯瞰画像によっても視認性の良い画像で所定対象を確認することが可能であり利便性が向上する。
(4) (1)から(3)のいずれかに記載の制御装置であって、
前記画像処理部は、前記判定部によって前記境界領域に前記所定対象が存在すると判定された場合に、前記移動体のユーザに関する情報に基づいて、前記俯瞰画像及び前記3次元画像のうちいずれかの前記境界領域を優先的に変更する、
制御装置。
(4)によれば、俯瞰画像及び3次元画像のうちユーザに関する情報に応じた画像の境界領域を優先的に変更することで、ユーザビリティを向上させることができる。
(5) (4)に記載の制御装置であって、
前記移動体のユーザに関する情報は、過去に前記ユーザが前記俯瞰画像及び前記3次元画像のそれぞれを参照した履歴情報を含む、
制御装置。
(5)によれば、俯瞰画像及び3次元画像のうち、ユーザがより頻繁に参照する画像の境界領域を優先的に変更することで、ユーザビリティを向上させることができる。
(6) 移動体の複数の撮像装置により取得された各撮像データに基づいて、前記移動体及び前記移動体の周辺を示す俯瞰画像及び3次元画像を生成し、生成した前記俯瞰画像及び前記3次元画像を表示装置に表示させるプロセッサによる制御方法であって、
前記プロセッサが、
前記俯瞰画像及び前記3次元画像における前記各撮像データの境界領域に所定対象が存在するか否かを判定し、
前記境界領域に前記所定対象が存在すると判定した場合に、表示される前記俯瞰画像及び前記3次元画像のうち前記3次元画像の前記境界領域を優先的に変更する、
制御方法。
(6)によれば、境界領域に所定対象が存在する場合に、ユーザにとってより周辺の状況を認識し易い3次元画像の境界領域を優先的に変更することで、運転者による所定対象の迅速な認識が可能になる。
(7) 移動体の複数の撮像装置により取得された各撮像データに基づいて、前記移動体及び前記移動体の周辺を示す俯瞰画像及び3次元画像を生成し、生成した前記俯瞰画像及び前記3次元画像を表示装置に表示させるプロセッサに、
前記俯瞰画像及び前記3次元画像における前記各撮像データの境界領域に所定対象が存在するか否かを判定し、
前記境界領域に前記所定対象が存在すると判定した場合に、表示される前記俯瞰画像及び前記3次元画像のうち前記3次元画像の前記境界領域を優先的に変更する、
処理を実行させるための制御プログラム。
(7)によれば、境界領域に所定対象が存在する場合に、ユーザにとってより周辺の状況を認識し易い3次元画像の境界領域を優先的に変更することで、運転者による所定対象の迅速な認識が可能になる。
10 車両(移動体)
12Fr 前方カメラ(撮像装置)
12Rr 後方カメラ(撮像装置)
12L 左側方カメラ(撮像装置)
12R 右側方カメラ(撮像装置)
20 制御ECU(制御装置)
42 タッチパネル(表示装置)
55 表示制御部
56 対象有無判定部(判定部)
57 画像処理部
65,75 マスク領域
66a~66d,69c,69d 境界線
68 障害物(所定対象)
70,80A 俯瞰画像
76a~76d,78c 境界線
80B 3次元画像
86a,86b,89c,89d 境界線
88 駐車枠線(所定対象)
P1~P5 駐車枠(所定対象)

Claims (7)

  1. 移動体の複数の撮像装置により取得された各撮像データに基づいて、前記移動体及び前記移動体の周辺を示す俯瞰画像及び3次元画像を生成する画像処理部と、
    前記画像処理部により生成された前記俯瞰画像及び前記3次元画像を表示装置に表示させる表示制御部と、
    前記俯瞰画像及び前記3次元画像における前記各撮像データの境界領域に所定対象が存在するか否かを判定する判定部と、を備え、
    前記画像処理部は、前記判定部によって前記境界領域に前記所定対象が存在すると判定された場合に、表示される前記俯瞰画像及び前記3次元画像のうち前記3次元画像の前記境界領域を優先的に変更する、
    制御装置。
  2. 請求項1に記載の制御装置であって、
    前記画像処理部は、前記判定部によって前記境界領域に前記所定対象が存在すると判定された場合に、前記俯瞰画像及び前記3次元画像のうち前記3次元画像のみの前記境界領域を変更する、
    制御装置。
  3. 請求項1に記載の制御装置であって、
    前記画像処理部は、前記判定部によって前記境界領域に前記所定対象が存在すると判定された場合に、前記3次元画像の前記境界領域を変更して前記表示制御部に出力した後に、前記俯瞰画像の前記境界領域を変更して前記表示制御部に出力する、
    制御装置。
  4. 請求項1から3のいずれか1項に記載の制御装置であって、
    前記画像処理部は、前記判定部によって前記境界領域に前記所定対象が存在すると判定された場合に、前記移動体のユーザに関する情報に基づいて、前記俯瞰画像及び前記3次元画像のうちいずれかの前記境界領域を優先的に変更する、
    制御装置。
  5. 請求項4に記載の制御装置であって、
    前記移動体のユーザに関する情報は、過去に前記ユーザが前記俯瞰画像及び前記3次元画像のそれぞれを参照した履歴情報を含む、
    制御装置。
  6. 移動体の複数の撮像装置により取得された各撮像データに基づいて、前記移動体及び前記移動体の周辺を示す俯瞰画像及び3次元画像を生成し、生成した前記俯瞰画像及び前記3次元画像を表示装置に表示させるプロセッサによる制御方法であって、
    前記プロセッサが、
    前記俯瞰画像及び前記3次元画像における前記各撮像データの境界領域に所定対象が存在するか否かを判定し、
    前記境界領域に前記所定対象が存在すると判定した場合に、表示される前記俯瞰画像及び前記3次元画像のうち前記3次元画像の前記境界領域を優先的に変更する、
    制御方法。
  7. 移動体の複数の撮像装置により取得された各撮像データに基づいて、前記移動体及び前記移動体の周辺を示す俯瞰画像及び3次元画像を生成し、生成した前記俯瞰画像及び前記3次元画像を表示装置に表示させるプロセッサに、
    前記俯瞰画像及び前記3次元画像における前記各撮像データの境界領域に所定対象が存在するか否かを判定し、
    前記境界領域に前記所定対象が存在すると判定した場合に、表示される前記俯瞰画像及び前記3次元画像のうち前記3次元画像の前記境界領域を優先的に変更する、
    処理を実行させるための制御プログラム。
JP2021190067A 2021-11-24 2021-11-24 制御装置、制御方法、及び制御プログラム Active JP7366982B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021190067A JP7366982B2 (ja) 2021-11-24 2021-11-24 制御装置、制御方法、及び制御プログラム
CN202211463122.5A CN116160957A (zh) 2021-11-24 2022-11-21 控制装置、控制方法以及控制程序
US17/991,201 US20230158956A1 (en) 2021-11-24 2022-11-21 Control device, control method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021190067A JP7366982B2 (ja) 2021-11-24 2021-11-24 制御装置、制御方法、及び制御プログラム

Publications (2)

Publication Number Publication Date
JP2023076997A JP2023076997A (ja) 2023-06-05
JP7366982B2 true JP7366982B2 (ja) 2023-10-23

Family

ID=86385082

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021190067A Active JP7366982B2 (ja) 2021-11-24 2021-11-24 制御装置、制御方法、及び制御プログラム

Country Status (3)

Country Link
US (1) US20230158956A1 (ja)
JP (1) JP7366982B2 (ja)
CN (1) CN116160957A (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002166802A (ja) 2000-11-30 2002-06-11 Toyota Motor Corp 車両周辺モニタ装置
JP2007104373A (ja) 2005-10-05 2007-04-19 Alpine Electronics Inc 車両用画像表示装置
JP2007251880A (ja) 2006-03-20 2007-09-27 Alpine Electronics Inc 車両用画像表示装置および画像合成方法
JP2010245803A (ja) 2009-04-06 2010-10-28 Sanyo Electric Co Ltd 画像処理装置
JP2010287163A (ja) 2009-06-15 2010-12-24 Alpine Electronics Inc 車載用画像表示装置および画像のトリミング方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5961472B2 (ja) * 2012-07-27 2016-08-02 日立建機株式会社 作業機械の周囲監視装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002166802A (ja) 2000-11-30 2002-06-11 Toyota Motor Corp 車両周辺モニタ装置
JP2007104373A (ja) 2005-10-05 2007-04-19 Alpine Electronics Inc 車両用画像表示装置
JP2007251880A (ja) 2006-03-20 2007-09-27 Alpine Electronics Inc 車両用画像表示装置および画像合成方法
JP2010245803A (ja) 2009-04-06 2010-10-28 Sanyo Electric Co Ltd 画像処理装置
JP2010287163A (ja) 2009-06-15 2010-12-24 Alpine Electronics Inc 車載用画像表示装置および画像のトリミング方法

Also Published As

Publication number Publication date
CN116160957A (zh) 2023-05-26
JP2023076997A (ja) 2023-06-05
US20230158956A1 (en) 2023-05-25

Similar Documents

Publication Publication Date Title
JP5251804B2 (ja) 運転支援装置
JP2020120327A (ja) 周辺表示制御装置
JP6998360B2 (ja) 車両用表示装置及び駐車支援システム
JP2021043815A (ja) 画像処理装置
JP7176421B2 (ja) 駐車支援装置
US20230290154A1 (en) Control device, control method, and computer-readable recording medium
JP7366982B2 (ja) 制御装置、制御方法、及び制御プログラム
JP2021094938A (ja) 車両用表示装置及び駐車支援システム
US20230176396A1 (en) Control device, control method, and recording medium
JP7398492B2 (ja) 制御装置、制御方法、及び制御プログラム
US20230177790A1 (en) Control device, control method, and recording medium
US20230179757A1 (en) Control device, control method, and recording medium
US20230158957A1 (en) Control device, control method, and storage medium
JP7408714B2 (ja) 制御装置、制御方法、及び制御プログラム
JP2023063108A (ja) 制御装置および車両
JP7408715B2 (ja) 制御装置、制御方法、及び制御プログラム
US20240067166A1 (en) Control device, control method, and storage medium
JP7444915B2 (ja) 情報端末、制御方法、及び制御プログラム
US20230236596A1 (en) Information terminal, control system, and control method
US20240109415A1 (en) Control device and moving body
JP2023139485A (ja) 制御装置、制御方法、及び制御プログラム
CN116890640A (zh) 控制装置以及移动体
CN116409308A (zh) 控制装置和移动体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231011

R150 Certificate of patent or registration of utility model

Ref document number: 7366982

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150