JP2020042355A - 周辺監視装置 - Google Patents

周辺監視装置 Download PDF

Info

Publication number
JP2020042355A
JP2020042355A JP2018167140A JP2018167140A JP2020042355A JP 2020042355 A JP2020042355 A JP 2020042355A JP 2018167140 A JP2018167140 A JP 2018167140A JP 2018167140 A JP2018167140 A JP 2018167140A JP 2020042355 A JP2020042355 A JP 2020042355A
Authority
JP
Japan
Prior art keywords
vehicle
image
virtual
control unit
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018167140A
Other languages
English (en)
Other versions
JP7172309B2 (ja
Inventor
渡邊 一矢
Kazuya Watanabe
一矢 渡邊
欣司 山本
Kinji Yamamoto
欣司 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd filed Critical Aisin Seiki Co Ltd
Priority to JP2018167140A priority Critical patent/JP7172309B2/ja
Priority to CN201910836583.4A priority patent/CN110877575A/zh
Priority to US16/561,216 priority patent/US20200084395A1/en
Publication of JP2020042355A publication Critical patent/JP2020042355A/ja
Application granted granted Critical
Publication of JP7172309B2 publication Critical patent/JP7172309B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/029Steering assistants using warnings or proposing actions to the driver without influencing the steering system
    • B62D15/0295Steering assistants using warnings or proposing actions to the driver without influencing the steering system by overlaying a vehicle path based on present steering angle over an image without processing that image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint

Abstract

【課題】検知部が動作状態にあるか否かを、表示部に表示される画像から容易に認識可能とする。【解決手段】実施形態の周辺監視装置は、一例として、車両の現在の舵角を取得する取得部と、車両の周辺を撮像する撮像部から撮像画像を取得する画像取得部と、車両を示す車両画像と、撮像画像に基づいた車両の周辺を表した周辺画像と、を含む合成画像を表示部に表示させ、車両に接触する物体を検知可能な検知部が動作状態にある場合、合成画像内において車両画像で示された車両の位置を基準として、取得部が取得した現在の舵角で車両が所定距離進んだ場合の位置に、車両の形状を示す仮想的な仮想車両画像を重畳表示させる制御部と、を備える。【選択図】図5

Description

本発明の実施形態は、周辺監視装置に関する。
撮像部によって車両の周辺を撮像して得られる撮像画像に基づいて、車両の車両画像およびその周辺の周辺画像を含む合成画像を生成し、当該生成した合成画像を含む表示画面を表示部に表示させることによって、車両の周辺の状況を運転者に提供する技術が開発されている。
特許第5529058号公報 特許第5605606号公報 特許第5182137号公報
ところで、車両は、当該車両に接触する可能性がある物体を検知する検知部を有しているが、当該検知部が動作状態にある否かを、表示部に表示された表示画面から容易に認識可能とすることが求められている。
そこで、実施形態の課題の一つは、検知部が動作状態にあるか否かを、表示部に表示される画像から容易に認識可能とする周辺監視装置を提供することである。
実施形態の周辺監視装置は、一例として、車両の現在の舵角を取得する取得部と、車両の周辺を撮像する撮像部から撮像画像を取得する画像取得部と、車両を示す車両画像と、撮像画像に基づいた車両の周辺を表した周辺画像と、を含む合成画像を表示部に表示させ、車両に接触する物体を検知可能な検知部が動作状態にある場合、合成画像内において車両画像で示された車両の位置を基準として、取得部が取得した現在の舵角で車両が所定距離進んだ場合の位置に、車両の形状を示す仮想的な仮想車両画像を重畳表示させる制御部と、を備える。よって、一例として、車両の運転者が、表示部に仮想車両画像が表示されているか否かに基づいて、検知部が動作状態にあるか否かを、表示部に表示される画像から容易に認識することができる。
また、実施形態の周辺監視装置は、一例として、制御部は、検知部によって物体が検知された場合、仮想車両画像内において物体と接触する部分画像の表示態様を変化させ、かつ合成画像内において、車両が前記物体に接触する接触位置において仮想車両画像の移動を停止させる。よって、一例として、車両の運転者が、仮想車両画像から、車両の車体のうち物体に接触する位置を認識して車両を運転できるので、検知された物体との車両の接触を回避し易くすることができる。
また、実施形態の周辺監視装置は、一例として、仮想車両画像は、ポリゴンで構成される車両の形状を示す画像であり、部分画像は、仮想車両画像を構成するポリゴンのうち、物体と接触する部分のポリゴンである。よって、一例として、車両の運転者が、仮想車両画像から、車両の車体のうち物体に接触する位置を認識して車両を運転できるので、検知された物体との車両の接触を回避し易くすることができる。
また、実施形態の周辺監視装置は、一例として、制御部は、物体の位置と仮想車両画像で示された車両の位置の間の距離に応じて部分画像の表示態様を変更する。よって、一例として、部分画像の表示態様の変化を確認することで、車両と物体との位置関係をより詳細に把握できるので、当該検知された物体に車両が接触しないように、より容易に車両を運転することができる。
また、実施形態の周辺監視装置は、一例として、制御部は、検知部が動作状態にある場合、合成画像内の車両画像で示された車両の進行方向に対して、車両に対して物体が接近してくる方向を識別可能とする指標を表示させ、検知部によって車両に接近する物体が検知された場合、指標の表示態様を変更する。よって、一例として、車両の運転者は、表示態様が変更された接近物指標を視認することによって、車両に接触する可能性がある物体がいずれの方向から接近しているのかを容易に認識することができる。
また、実施形態の周辺監視装置は、一例として、制御部は、車両が所定距離進んだ場合の位置として、車両が物体と接触する接触位置、または接触前の位置まで進んだ場合の位置に、仮想車両画像を重畳表示する。よって、一例として、車両の運転者はどの位置において車両が物体と接触するかを容易に認識することができる。
また、実施形態の周辺監視装置は、一例として、車両画像は、車両の俯瞰画像である。よって、一例として、車両とその周辺の物体との位置関係を正確に把握することができる。
また、実施形態の周辺監視装置は、一例として、仮想車両画像は、車両の三次元の形状を示す画像である。よって、一例として、よりリアリティのある仮想車両画像を表示部に表示させることができる。
また、実施形態の周辺監視装置は、一例として、仮想車両画像は、車両の形状を示す半透明の画像である。よって、一例として、車両の運転者が、仮想車両画像と車両画像とを容易に区別することができ、かつ仮想車両画像が、車両の未来の位置を示す画像であることを直感的に認識することが可能となる。
また、実施形態の周辺監視装置は、一例として、仮想車両画像は、車両の輪郭を強調表示した画像である。よって、一例として、車両の運転者が、仮想車両画像から、車両の未来の位置を容易に認識することができる。
また、実施形態の周辺監視装置は、一例として、仮想車両画像は、車両の輪郭から内側に向かうに従って透過率を高くした画像である。よって、一例として、車両の運転者が、仮想車両画像から、車両の未来の位置を容易に認識することができる。
図1は、第1の実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。 図2は、第1の実施形態にかかる車両の一例の平面図である。 図3は、第1の実施形態にかかる車両の機能構成の一例を示すブロック図である。 図4は、第1の実施形態にかかる車両が有するECUの機能構成の一例を示すブロック図である。 図5は、第1の実施形態にかかる車両が有するECUによる表示画面の表示例を示す図である。 図6は、第1の実施形態にかかる車両が有するECUによる表示画面の表示例を示す図である。 図7は、第1の実施形態にかかる車両が有するECUによる仮想車両画像の表示方法の一例を説明するための図である。 図8は、第1の実施形態にかかる車両が有するECUによる仮想車両画像の表示方法の一例を説明するための図である。 図9は、第1の実施形態にかかる車両が有するECUによる仮想車両画像を構成するポリゴンの色の決定方法の一例を説明するための図である。 図10は、第1の実施形態にかかる車両が有するECUによる表示画面の一例を示す図である。 図11は、第1の実施形態にかかる車両が有するECUによって部分画像を強調表示する処理の一例を説明するための図である。 図12は、第1の実施形態にかかる車両が有するECUによって部分画像を強調表示する処理の一例を説明するための図である。 図13は、第2の実施形態にかかる車両が有するECUによる表示画面の一例を示す図である。 図14は、第2の実施形態にかかる車両が有するECUによる表示画面の一例を示す図である。 図15は、第2の実施形態にかかる車両が有するECUによる表示画面の一例を示す図である。 図16は、第2の実施形態にかかる車両が有するECUによる表示画面の一例を示す図である。
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によって実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも1つを得ることが可能である。
本実施形態にかかる周辺監視装置を搭載する車両は、内燃機関(エンジン)を駆動源とする自動車(内燃機関自動車)であっても良いし、電動機(モータ)を駆動源とする自動車(電気自動車、燃料電池自動車等)であっても良いし、それらの双方を駆動源とする自動車(ハイブリッド自動車)であっても良い。また、車両は、種々の変速装置、内燃機関や電動機の駆動に必要な種々の装置(システム、部品等)を搭載可能である。また、車両における車輪の駆動に関わる装置の方式、個数、レイアウト等は、種々に設定可能である。
(第1の実施形態)
図1は、第1の実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。図1に示すように、車両1は、車体2と、操舵部4と、加速操作部5と、制動操作部6と、変速操作部7と、モニタ装置11と、を備える。車体2は、乗員が乗車する車室2aを有する。車室2a内には、乗員としての運転手が座席2bに臨む状態で、操舵部4や、加速操作部5、制動操作部6、変速操作部7等が設けられている。操舵部4は、例えば、ダッシュボード24から突出したステアリングホイールである。加速操作部5は、例えば、運転手の足下に位置されたアクセルペダルである。制動操作部6は、例えば、運転手の足下に位置されたブレーキペダルである。変速操作部7は、例えば、センターコンソールから突出したシフトレバーである。
モニタ装置11は、例えば、ダッシュボード24の車幅方向(すなわち、左右方向)の中央部に設けられる。モニタ装置11は、例えば、ナビゲーションシステムまたはオーディオシステム等の機能を有していても良い。モニタ装置11は、表示装置8、音声出力装置9、および操作入力部10を有する。また、モニタ装置11は、スイッチ、ダイヤル、ジョイスティック、および押しボタン等の各種の操作入力部を有しても良い。
表示装置8は、LCD(Liquid Crystal Display)やOELD(Organic Electroluminescent Display)等で構成され、画像データに基づいて各種画像を表示可能である。音声出力装置9は、スピーカ等で構成され、音声データに基づいて各種音声を出力する。音声出力装置9は、車室2a内において、モニタ装置11以外の異なる位置に設けられていても良い。
操作入力部10は、タッチパネル等で構成され、乗員による各種情報の入力を可能とする。また、操作入力部10は、表示装置8の表示画面に設けられ、表示装置8に表示される画像を透過可能である。これにより、操作入力部10は、表示装置8の表示画面に表示される画像を乗員に視認させることを可能とする。操作入力部10は、表示装置8の表示画面上における乗員のタッチ操作を検出することによって、乗員による各種情報の入力を受け付ける。
図2は、第1の実施形態にかかる車両の一例の平面図である。図1および図2に示すように、車両1は、四輪自動車等であり、左右2つの前輪3Fと、左右2つの後輪3Rと、を有する。4つの車輪3の全てまたは一部が、転舵可能である。
車両1は、複数の撮像部15(車載カメラ)を搭載する。本実施形態では、車両1は、例えば、4つの撮像部15a〜15dを搭載する。撮像部15は、CCD(Charge Coupled Device)またはCIS(CMOS Image Sensor)等の撮像素子を有するデジタルカメラである。撮像部15は、所定のフレームレートで車両1の周囲を撮像可能である。そして、撮像部15は、車両1の周囲を撮像して得られた撮像画像を出力する。撮像部15は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には、例えば、140°〜220°の範囲を撮像可能である。また、撮像部15の光軸は、斜め下方に向けて設定されている場合もある。
具体的には、撮像部15aは、例えば、車体2の後側の端部2eに位置し、リアハッチのドア2hのリアウィンドウの下方の壁部に設けられている。そして、撮像部15aは、車両1の周囲のうち、当該車両1の後方の領域を撮像可能である。撮像部15bは、例えば、車体2の右側の端部2fに位置し、右側のドアミラー2gに設けられている。そして、撮像部15bは、車両1の周囲のうち、当該車両の側方の領域を撮像可能である。撮像部15cは、例えば、車体2の前側、すなわち、車両1の前後方向の前方側の端部2cに位置し、フロントバンパやフロントグリル等に設けられている。そして、撮像部15cは、車両1の周囲のうち、当該車両1の前方の領域を撮像可能である。撮像部15dは、例えば、車体2の左側、すなわち、車幅方向の左側の端部2dに位置し、左側のドアミラー2gに設けられている。そして、撮像部15dは、車両1の周囲のうち、当該車両1の側方の領域を撮像可能である。
また、車両1は、車両1の外部に存在する物体との距離を計測可能な複数のレーダー16を有する。レーダー16は、ミリ波レーダー等であり、車両1の進行方向に存在する物体との距離を計測可能である。本実施形態では、車両1は、複数のレーダー16a〜16dを有する。レーダー16cは、車両1のフロントバンパの右側の端部に設けられ、車両1の右側の前方に存在する物体との距離を計測可能である。また、レーダー16dは、車両1のフロントバンパの左側の端部に設けられ、車両1の左側の前方に存在する物体との距離を計測可能である。レーダー16bは、車両1のリアバンパの右側の端部に設けられ、車両1の右側の後方に存在する物体との距離を計測可能である。また、レーダー16aは、車両1のリアバンパの左側の端部に設けられ、車両1の左側の後方に存在する物体との距離を計測可能である。
また、車両1は、当該車両1から近距離に存在する外部の物体との距離を計測可能なソナー17を有する。本実施形態では、車両1は、複数のソナー17a〜17hを有する。ソナー17a〜17dは、車両1のリアバンパに設けられ、車両の後方に存在する物体との距離を計測可能である。ソナー17e〜17hは、車両1のフロントバンパに設けられ、車両1の前方に存在する物体との距離を計測可能である。
図3は、第1の実施形態にかかる車両の機能構成の一例を示すブロック図である。図3に示すように、車両1は、操舵システム13と、ブレーキシステム18と、舵角センサ19と、アクセルセンサ20と、シフトセンサ21と、車輪速センサ22と、GPS(Global Positioning System)受信機25、車内ネットワーク23と、ECU(Electronic Control Unit)14と、を備える。モニタ装置11、操舵システム13、レーダー16、ソナー17、ブレーキシステム18、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22、GPS受信機25、およびECU14は、電気通信回線である車内ネットワーク23を介して電気的に接続されている。車内ネットワーク23は、CAN(Controller Area Network)等により構成される。
操舵システム13は、電動パワーステアリングシステムやSBW(Steer By Wire)システム等である。操舵システム13は、アクチュエータ13aおよびトルクセンサ13bを有する。そして、操舵システム13は、ECU14等によって電気的に制御され、アクチュエータ13aを動作させて、操舵部4に対して、トルクを付加して操舵力を補うことによって、車輪3を転舵する。トルクセンサ13bは、運転者が操舵部4に与えるトルクを検出し、その検出結果をECU14に送信する。
ブレーキシステム18は、車両1のブレーキのロックを制御するABS(Anti-lock Brake System)、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:Electronic Stability Control)、ブレーキ力を増強させてブレーキをアシストする電動ブレーキシステム、およびBBW(Brake By Wire)を含む。ブレーキシステム18は、アクチュエータ18aおよびブレーキセンサ18bを有する。ブレーキシステム18は、ECU14等によって電気的に制御され、アクチュエータ18aを介して、車輪3に制動力を付与する。ブレーキシステム18は、左右の車輪3の回転差等から、ブレーキのロック、車輪3の空回り、および横滑りの兆候等を検出して、ブレーキのロック、車輪3の空回り、および横滑りを抑制する制御を実行する。ブレーキセンサ18bは、制動操作部6の可動部としてのブレーキペダルの位置を検出する変位センサであり、ブレーキペダルの位置の検出結果をECU14に送信する。
舵角センサ19は、ステアリングホイール等の操舵部4の操舵量を検出するセンサである。本実施形態では、舵角センサ19は、ホール素子等で構成され、操舵部4の回転部分の回転角度を操舵量として検出し、その検出結果をECU14に送信する。アクセルセンサ20は、加速操作部5の可動部としてのアクセルペダルの位置を検出する変位センサであり、その検出結果をECU14に送信する。GPS受信機25は、人工衛星から受信した電波に基づいて、車両1の現在位置を取得する。
シフトセンサ21は、変速操作部7の可動部(バー、アーム、ボタン等)の位置を検出するセンサであり、その検出結果をECU14に送信する。車輪速センサ22は、ホール素子等を有し、車輪3の回転量や単位時間当たりの車輪3の回転数を検出するセンサであり、その検出結果をECU14に送信する。
ECU14は、コンピュータ等で構成され、ハードウェアとソフトウェアが協働することにより、車両1の制御全般を司る。具体的には、ECU14は、CPU(Central Processing Unit)14a、ROM(Read Only Memory)14b、RAM(Random Access Memory)14c、表示制御部14d、音声制御部14e、およびSSD(Solid State Drive)14fを備える。CPU14a、ROM14b、およびRAM14cは、同一の回路基板内に設けられていても良い。
CPU14aは、ROM14b等の不揮発性の記憶装置に記憶されたプログラムを読み出し、当該プログラムに従って各種の演算処理を実行する。例えば、CPU14aは、表示装置8に表示させる画像データに対する画像処理、駐車位置等の目標位置までの目標経路に従った車両1の走行の制御等を実行する。
ROM14bは、各種プログラムおよび当該プログラムの実行に必要なパラメータ等を記憶する。RAM14cは、CPU14aでの演算で用いられる各種データを一時的に記憶する。表示制御部14dは、ECU14での演算処理のうち、主として、撮像部15から取得してCPU14aへ出力する画像データに対する画像処理、CPU14aから取得した画像データを表示装置8に表示させる表示用の画像データへの変換等を実行する。音声制御部14eは、ECU14での演算処理のうち、主として、CPU14aから取得して音声出力装置9に出力させる音声の処理を実行する。SSD14fは、書き換え可能な不揮発性の記憶部であって、ECU14の電源がオフされた場合にあってもCPU14aから取得したデータを記憶し続ける。
図4は、第1の実施形態にかかる車両が有するECUの機能構成の一例を示すブロック図である。図4に示すように、ECU14は、画像取得部400、取得部401、検知部402、および制御部403と、を備える。例えば、回路基板に搭載されたCPU14a等のプロセッサが、ROM14bまたはSSD14f等の記憶媒体内に格納された周辺監視プログラムを実行することにより、ECU14は、画像取得部400、取得部401、検知部402、および制御部403の機能を実現する。画像取得部400、取得部401、検知部402、および制御部403の一部または全部を回路等のハードウェアによって構成しても良い。
画像取得部400は、撮像部15により車両1の周辺を撮像して得られる撮像画像を取得する。取得部401は、車両1の現在の舵角を取得する。本実施形態では、取得部401は、舵角センサ19により検出される操舵量を、車両1の現在の舵角として取得する。
検知部402は、車両1に接触する物体を検知可能である。本実施形態では、検知部402は、撮像部15によって車両1の進行方向を撮像して得られる撮像画像、レーダー16により計測される距離(車両1と、当該車両1の進行方向に存在する物体との間の距離)等に基づいて、車両1に接触する可能性がある物体を検知する。また、本実施形態では、検知部402は、車両1に接触する可能性がある静止物、車両1に接近してきて接触する可能性がある動体の両方を、車両1に接触する可能性がある物体として検知する。
例えば、検知部402は、撮像部15の撮像により得られる撮像画像に対する画像処理(例えば、オプティカルフロー)によって、車両1に接触する可能性がある物体を検知する。または、検知部402は、レーダー16により計測される距離の変化に基づいて、車両1に接触する可能性がある物体を検知する。
本実施形態では、検知部402は、撮像部15の撮像により得られる撮像画像またはレーダー16により距離の計測結果に基づいて、車両1に接触する可能性がある物体を検知しているが、車両1から比較的近距離に存在する物体を検知する場合には、ソナー17による距離の計測結果に基づいて、車両1に接触する可能性がある物体を検知することも可能である。
また、本実施形態では、検知部402は、車両1が有する図示しないメインスイッチの操作に応じて、動作状態(ON)または非動作状態(OFF)へと遷移する。ここで、動作状態は、車両1に接触する物体を検知する状態である。一方、非動作状態は、車両1に接触する物体を検知しない状態である。
本実施形態では、検知部402は、当該メインスイッチの操作に応じて、動作状態または非動作状態に遷移しているが、これに限定するものではない。例えば、検知部402は、車輪速センサ22による車輪3の回転数の検出結果等に基づく車両1の速度が予め設定された速度(例えば、12km/h)以下となった場合に、自動的に(メインスイッチの操作によらずに)、動作状態に遷移しても良い。また、検知部402は、車両1の速度が予め設定された速度より速くなった場合に、自動的に(メインスイッチの操作によらずに)、非動作状態に遷移しても良い。
制御部403は、撮像部15によって車両1の進行方向を撮像して得られる撮像画像と、車両画像および周辺画像を含む合成画像と、を含む表示画面を、表示制御部14dを介して、表示装置8に表示させる。また、制御部403は、本実施形態では、制御部403は、合成画像と、撮像画像とを含む表示画面を表示装置8に表示させているが、少なくとも、合成画像を含む表示画面を表示装置8に表示させるものであれば良い。したがって、例えば、制御部403は、撮像画像を含まず、合成画像を含む表示画面を表示装置8に表示させても良い。
ここで、車両画像は、車両1を示す画像である。本実施形態では、車両画像は、車両1を上方から見た俯瞰画像である。これにより、車両1とその周辺の物体との位置関係を正確に把握することができる。また、本実施形態では、車両画像は、ビットマップ形式の画像であっても良いし、複数のポリゴンで構成される車両の形状を示す画像であっても良い。ここで、複数のポリゴンで構成される車両画像とは、複数のポリゴン(本実施形態では、三角形のポリゴン)により表現された立体的な車両1の形状である。
また、周辺画像は、撮像部15によって車両1の周囲を撮像して得られる撮像画像に基づいて生成される、車両1の周辺(周囲)を表した画像である。本実施形態では、周辺画像は、車両1の周辺(周囲)を上方から見た俯瞰画像である。また、本実施形態では、周辺画像は、車両画像の後輪軸の中央を中心とする、車両1の周辺の俯瞰画像である。
また、制御部403は、検知部402が動作状態にある場合、合成画像内において車両画像で示された車両1の位置を基準として、取得部401により取得した現在の舵角で車両1が所定距離進んだ場合の位置に、仮想車両画像を重畳表示させる。一方、制御部403は、検知部402が非動作状態にある場合、仮想車両画像を表示させない。これにより、車両1の運転者は、表示装置8に表示される表示画面に仮想車両画像が含まれるか否かに基づいて、検知部402が動作状態にあるか否かを、表示装置8に表示される表示画面から容易に認識することができる。
ここで、所定距離は、予め設定された距離であり、例えば、1.0〜2.0mである。また、現在の舵角は、車両1の現在位置における舵角である。本実施形態では、制御部403は、取得部401により取得される舵角を、車両1の現在位置における舵角として取得する。
また、仮想車両画像は、車両1の形状を示す仮想的な画像である。本実施形態では、仮想車両画像は、複数のポリゴンで構成される車両1の形状を示す画像である。ここで、複数のポリゴンで構成される仮想車両画像とは、複数のポリゴン(本実施形態では、三角形のポリゴン)により表示された立体的な車両1の形状(車両1の三次元の形状)である。これにより、よりリアリティのある仮想車両画像を表示装置8に表示させることができる。
本実施形態では、制御部403は、複数のポリゴンで構成される車両1の形状を示す画像を、仮想車両画像として合成画像に含めているが、例えば、ビットマップ形式の車両1の形状を示す画像を仮想車両画像として合成画像に含めることも可能である。
本実施形態では、制御部403は、検知部402が動作状態にありかつシフトセンサ21によって変速操作部7の位置がDレンジにあることが検出された場合、車両1の前方に仮想車両画像を表示させる。これにより、車両1の前方から接近してくる物体を検知可能であることを運転者に知らせる。
一方、制御部403は、検知部402が動作状態にありかつシフトセンサ21によって変速操作部7の位置がRレンジにあることが検出された場合、車両1の後方に仮想車両画像を表示させる。これにより、車両1の後方から接近してくる物体を検知可能であることを運転者に知らせる。
また、制御部403は、検知部402によって、車両1に接触する物体が検知されなかった場合には、合成画像内において、車両画像が示す車両1の位置を基準として、現在の舵角で所定距離進んだ場合の位置に対して仮想車両画像を重畳表示し続ける。すなわち、制御部403は、検知部402によって、車両1に接触する物体が検知されなかった場合、車両1の移動に伴って、合成画像内における仮想車両画像の位置も移動させる。
一方、制御部403は、検知部402によって、車両1に接触する物体が検知された場合、仮想車両画像内において当該検知された物体と接触する部分の画像(以下、部分画像と言う)の表示態様を変化させる。これにより、車両1の運転者が、仮想車両画像から、車両1の車体のうち物体に接触する位置を認識して車両1を運転できるので、検知された物体との車両1の接触を回避し易くすることができる。
本実施形態では、制御部403は、部分画像を点滅させたり、色を変化させたり、部分画像の輪郭を強調表示したりして、部分画像を、仮想車両画像の他の部分と異なる表示態様に変化させる。また、本実施形態では、制御部403は、仮想車両画像がポリゴンで構成される場合、仮想車両画像を構成するポリゴンのうち、物体と接触する部分のポリゴンを部分画像として特定する。そして、制御部403は、特定したポリゴンの表示態様を変化させるものとする。
また、制御部403は、車両1に接触する物体が検知された場合、合成画像内において、車両1が物体に接触する接触位置まで仮想車両画像を移動させた後、当該接触位置から仮想車両画像を移動させない。本実施形態では、制御部403は、車両1に接触する物体が検知された場合、合成画像内において車両1が物体に接触する接触位置から仮想車両画像を移動させずに固定しているが、これに限定するものではない。例えば、制御部403は、接触位置の手前の位置で、仮想車両画像の移動を停止させ、その位置から仮想車両画像を移動させずに固定しても良い。すなわち、制御部403は、車両1が所定距離進んだ場合の位置として、車両1が物体と接触する接触位置、または接触前の位置まで進んだ場合の位置に、仮想車両画像を重畳表示する。これにより、車両1の運転者はどの位置において車両1が物体と接触するかを容易に認識することができる。
また、本実施形態では、制御部403は、車両1に接触する物体が検知されて仮想車両画像を接触位置に固定させた後、車両1の運転者が操舵部4を操舵して車両1の進行方向が変わり、検知部402によって車両1に接触する物体が検知されなくなった場合には、接触位置における仮想車両画像の固定を解除する。そして、制御部403は、再び、車両1の移動に伴って、合成画像内における仮想車両画像の位置を移動させる。
さらに、制御部403は、検知部402が動作状態にある場合、合成画像内の車両画像で示された車両1の進行方向に対して接近物指標を表示させる。これにより、車両1の運転者は、表示装置8に表示される表示画面に接近物指標が含まれるか否かに基づいて、検知部402が動作状態にあるか否かを、表示装置8に表示される表示画面から容易に認識することができる。
ここで、接近物指標は、車両1に対して物体が接近してくる方向(以下、接近方向と言う)を識別可能とする指標である。本実施形態では、接近物指標は、接近方向を指し示す矢印である。また、本実施形態では、接近物指標は、車両1に接触する可能性がある物体のうち動体の接近方向を識別可能とする指標である。
そして、制御部403は、検知部402によって車両1に接近する物体が検知された場合、接近物指標の表示態様を変更する。これにより、車両1の運転者は、表示態様が変更された接近物指標を視認することによって、車両1に接触する可能性がある物体がいずれの方向から接近しているのかを容易に認識することができる。本実施形態では、制御部403は、接近物指標の色を変えたり、点滅させたりすることによって、接近物指標の表示態様を、車両1に接近する物体が検知されていない場合の接近物指標の表示態様と異ならせる。
本実施形態では、制御部403は、車両1に接触する可能性がある物体として静止物が検知された場合には、仮想車両画像内の部分画像の表示態様を変更し、車両1に接触する可能性がある物体として動体が検知された場合には、接近物指標の表示態様を変更しているが、車両1に接触する可能性がある物体として動体が検知された場合に、仮想車両画像内の部分画像の表示態様を変更することも可能である。この場合、制御部403は、接近指標を合成画像に含めても良いし、接近物指標を合成画像に含めなくても良い。
次に、図5〜12を用いて、制御部403によって表示装置8に表示される表示画面の具体例について説明する。
図5は、第1の実施形態にかかる車両が有するECUによる表示画面の表示例を示す図である。ここでは、シフトセンサ21によって変速操作部7の位置がDレンジにあることが検出された場合における表示画面の表示処理について説明する。本実施形態では、制御部403は、図5に示すように、車両画像G1および周辺画像G2を含む合成画像G3と、撮像部15によって車両1の進行方向(例えば、車両1の前方)を撮像して得られる撮像画像G4と、を含む表示画面Gを表示装置8に表示させる。
そして、検知部402が動作状態にある場合、制御部403は、図5に示すように、周辺画像G2内において、車両画像G1が示す車両1の位置を基準として、現在位置P1における舵角(取得部401により取得される舵角)で車両1が所定距離進んだ場合の位置P2に、仮想車両画像G5を重畳表示させる。ここで、仮想車両画像G5は、図5に示すように、車両1の形状を示す半透明の画像である。これにより、車両1の運転者が、仮想車両画像G5と車両画像G1とを容易に区別することができ、かつ仮想車両画像G5が、車両1の未来の位置P2を示す画像であることを直感的に認識することが可能となる。
また、本実施形態では、制御部403は、車両1の輪郭から内側に向かうに従って透過率を高くした画像を仮想車両画像G5として表示させるものとする。これにより、車両1の運転者が、仮想車両画像G5と車両画像G1とを容易に区別することができ、かつ仮想車両画像G5が、車両1の未来の位置を示す画像であることをより直感的に認識し易くすることができる。
さらに、制御部403は、仮想車両画像G5の輪郭を、当該仮想車両画像G5の他の部分とは異なる表示態様(例えば、異なる色、点滅、枠線の重畳)で表示して、当該輪郭を強調表示させても良い。これにより、車両1の運転者が、仮想車両画像G5から、車両1の未来の位置を容易に認識することができる。
また、検知部402が動作状態にある場合、制御部403は、図5に示すように、周辺画像G2内において、車両1の進行方向(例えば、車両1の前方)でありかつ仮想車両画像G5の位置を基準とする予め設定された位置(例えば、仮想車両画像G5の右側および左側)に、接近物指標G6を表示させる。その際、本実施形態では、制御部403は、接近物指標G6をグレースケールで表示するものとする。
図6は、第1の実施形態にかかる車両が有するECUによる表示画面の表示例を示す図である。本実施形態では、検知部402によって車両1に接触する物体が検知されない場合、制御部403は、図5に示すように、車両1の移動に伴って、周辺画像G2内における仮想車両画像G5の位置も移動させる。一方、検知部402によって車両1に接触する物体O(例えば、壁や垣根)が検知された場合、制御部403は、図6に示すように、周辺画像G2内において、当該検知された物体Oに車両1が接触する接触位置P3まで、仮想車両画像G5を移動させる。その後、制御部403は、図6に示すように、車両1が移動したとしても、接触位置P3から仮想車両画像G5を移動させずに固定する。
その際、制御部403は、図6に示すように、仮想車両画像G5内において当該検知された物体Oと接触する部分画像PGの表示態様を、仮想車両画像G5の他の部分の表示態様と異ならせる。例えば、制御部403は、部分画像PGを赤色で表示し、仮想車両画像G5内の部分画像PG以外の部分を白色で表示する。これにより、車両1の運転者は、現在の舵角で車両1を走行させた場合に、車両1の車体2のうち検知された物体Oに接触する位置を把握できるので、当該検知された物体Oに車両1が接触しないように、より容易に車両1を運転することができる。
また、本実施形態では、制御部403は、検知された物体Oの位置と仮想車両画像G5で示された車両1の現在位置P1との間の距離に応じて、部分画像PGの表示態様を変更することも可能である。これにより、部分画像PGの表示態様の変化を確認することで、車両1と物体Oとの位置関係をより詳細に把握できるので、当該検知された物体Oに車両1が接触しないように、より容易に車両1を運転することができる。具体的には、制御部403は、検知された物体Oの位置と仮想車両画像G5で示す車両1の現在位置P1との間の距離が短くなるに従って、赤色で表示された部分画像PGの赤みを増したり、部分画像PGを点滅させたりして、部分画像PGを強調表示する。
一方、制御部403は、検知された物体Oの位置と仮想車両画像G5で示す車両1の現在位置P1との距離が長くなるに従って部分画像PGの赤みを減らしたり、部分画像PGの点滅の間隔を長くしたりして、部分画像PGの強調表示を解除する。その後、車両1の運転者が操舵部4を操舵して車両1の進行方向が変わり、検知部402によって車両1に接触する物体Oが検知されなくなった場合、制御部403は、部分画像PGの表示態様を、仮想車両画像G5の他の部分と同じ表示態様に戻す。さらに、制御部403は、接触位置P3での仮想車両画像G5の固定を解除して、再び、車両1の移動に伴って、合成画像G3内における仮想車両画像G5の位置を移動させる。
ここでは、検知部402によって検知された物体Oが壁や垣根等の静止物であることを想定しているため、制御部403は、仮想車両画像G5内の部分画像PGの表示態様を変化させているが、接近物指標G6の表示態様を変更していない。これにより、車両1の運転者は、検知部402により検知された物体が、静止している物体なのか若しくは車両1に向かって接近してくる動体なのかを識別することができる。
本実施形態では、制御部403は、接近物指標G6の表示態様を、検知部402によって車両1に接触する可能性がある動体が検知されていない際の接近物指標G6の表示態様であるグレースケールで表示している。ただし、検知部402により検知された物体が他の車両や歩行者等の動体である場合には、制御部403は、周辺画像G2に含まれる接近物指標G6のうち、検知された動体が検知された方向に存在する接近物指標G6の表示態様を変更させる。その際、制御部403は、接近物指標G6の表示態様を変更させるとともに、仮想車両画像G5内において、当該検知された動体と接触する部分画像PGの表示態様も変更しても良い。
なお、検知部402により検知された物体が、車両1に向かって接近してくる動体である場合、制御部403は、上述したように、接近物指標G6のうち、検知された物体が接近してくる方向に存在する接近物指標G6の表示態様を変更する。例えば、制御部403は、検知された物体が接近してくる方向に存在する接近物指標G6の色を黄色等に変更したり、接近物指標G6を点滅させたりする。または、各接近物指標G6が複数の矢印を含む場合、制御部403は、検知された動体が存在する方向に表示される接近物指標G6が含む複数の矢印を、仮想車両画像G5から遠い矢印から順に表示態様を変更するアニメーションで表示しても良い。
図7および図8は、第1の実施形態にかかる車両が有するECUによる仮想車両画像の表示方法の一例を説明するための図である。図7において、X軸は、車両1の車幅方向に対応する軸であり、Z軸は、車両1の進行方向に対応する軸であり、Y軸は、車両1の高さ方向に対応する軸である。仮想車両画像G5が複数のポリゴンPLで構成される場合、制御部403は、図7および図8に示すように、各ポリゴンPLが有する頂点V1,V2,V3の法線ベクトルnのY軸の方向(路面に垂直な方向)における値(以下、Y成分と言う)を求める。そして、制御部403は、法線ベクトルnのY成分に基づいて、ポリゴンPLの透過率を決定する。
具体的には、制御部403は、ポリゴンPLが有する頂点V1,V2,V3の法線ベクトルnのY成分を求める。次いで、制御部403は、頂点V1,V2,V3の法線ベクトルnのY成分に基づいて、ポリゴンPLに含まれる画素を決定する。その際、制御部403は、法線ベクトルnのY成分が大きくなるに従って、透過率を高くするものとする。これにより、制御部403は、車両1の輪郭から内側に向かうに従って透過した画像を仮想車両画像G5として表示することが可能となる。本実施形態では、ポリゴンPLを構成する画素の色を白色としているが、これに限定するものではなく、例えば、車両1のボディーの色などの任意の色とすることも可能である。
図9は、第1の実施形態にかかる車両が有するECUによる仮想車両画像を構成するポリゴンの色の決定方法の一例を説明するための図である。図9において、横軸は、仮想車両画像を構成するポリゴンが有する頂点を構成する色の種類(例えば、RGB)を表し、縦軸は、仮想車両画像を構成するポリゴンが有する頂点を構成する色の値(例えば、RGB値)を表す。本実施形態では、検知部402によって車両1に接触する物体が検知された場合、制御部403は、仮想車両画像内において当該検知された物体と接触する部分画像の表示態様を、仮想車両画像の他の部分の表示態様を異ならせる。
具体的には、検知部402によって車両1に接触する物体が検知されていない場合、制御部403は、図9に示すように、仮想車両画像を構成するポリゴンが有する各頂点のRGB各色の値を等しくする。そして、制御部403は、ポリゴンが有する各頂点のRGB各色の値に基づいて、当該各頂点で囲まれるポリゴン内の領域の色を、線形補間等によって補間して、ポリゴン全体の色を決定する。これにより、制御部403は、仮想車両画像を白色で表示する。
一方、検知部402によって車両1に接触する物体が検知された場合、制御部403は、図9に示すように、仮想車両画像を構成するポリゴンのうち部分画像を構成するポリゴンが有する各頂点のGBの値を、当該各頂点のRの値より小さくする。この場合も、制御部403は、ポリゴンが有する各頂点のRGB各色の値に基づいて、当該各頂点で囲まれるポリゴン内の領域の色を、線形補間等によって補間して、ポリゴン全体の色を決定する。これにより、制御部403は、部分画像を赤色で表示する。
本実施形態では、制御部403は、部分画像を構成するポリゴンが有する各頂点のGBの値を、当該各頂点のRの値より小さくし、部分画像を赤色で表示させることで、部分画像を強調表示させているが、これに限定するものではない。例えば、制御部403は、部分画像を構成するポリゴンが有する各頂点のRBの値を、当該各頂点のGの値より小さくし、部分画像を緑色で表示させることで、部分画像を強調表示させても良い。
その際、制御部403は、検知された物体の位置と仮想車両画像が示す車両1の位置との間の距離が短くなるに従って、部分画像を構成するポリゴンが有する各頂点のGBの値を小さくすることも可能である。これによって、制御部403は、部分画像の赤みを増して、部分画像を強調表示する。これにより、車両1の車体内において外部の物体と接触する部分が容易に認識可能となるので、車両1の運転者は外部の物体との接触を回避し易くなる。なお、制御部403は、仮想車両画像を構成するポリゴンのうち部分画像以外のポリゴンが有する各頂点のRGB各色の値は等しいままとする。これにより、制御部403は、部分画像以外のポリゴンを白色で表示する。
図10は、第1の実施形態にかかる車両が有するECUによる表示画面の一例を示す図である。例えば、図10に示すように、時刻t1において、検知部402によって車両1に接触する物体O(静止物)が検知された場合、制御部403は、仮想車両画像G5内において検知された物体Oと接触する部分画像PGを赤色で強調表示する。
具体的には、制御部403は、路面に平行なXZ平面(図7参照)における、部分画像PGを構成するポリゴンの各頂点から物体Oまでのユークリッド距離を求める。次いで、制御部403は、部分画像PGを構成するポリゴンの各頂点と物体Oとの間のユークリッド距離に応じて、当該各頂点のGBの値を、当該各頂点のRの値より小さくする。そして、制御部403は、部分画像PGを構成するポリゴンの各頂点のRGB値に基づいて、フラグメントシェーダによって、部分画像PGを構成するポリゴンに含まれる画素の色を決定する。また、制御部403は、ポリゴンが有する各頂点のRGB各色の値に基づいて、当該各頂点で囲まれるポリゴン内の領域の色を、線形補間等によって補間して、ポリゴン全体の色を決定する。これにより、制御部403は、部分画像PGを赤色で表示する。また、仮想車両画像を構成するポリゴンのRGB値を計算する際に、当該ポリゴンが有する各頂点と物体との間の距離に応じて部分画像を構成するポリゴンのRGB値を同時に計算しても良い。これにより、仮想車両画像および部分画像を分けずに生成することができる。
その後、車両1が移動し続けて、時刻t1より後の時刻t2において、仮想車両画像PGが物体Oに接触する接触位置P3またはその直前の位置に達した場合、制御部403は、図10に示すように、接触位置P3から仮想車両画像PGを移動させず、仮想車両画像PGを接触位置P3に表示し続ける。
そして、時刻t2より後の時刻t3までに、車両1の舵角が変更されて、車両1が物体Oに接触する可能性が無くなった場合(すなわち、検知部402により物体Oが検知されなくなった場合)、制御部403は、図10に示すように、接触位置P3における仮想車両画像PGの固定を解除し、時刻t3における車両画像G1が示す車両1の位置を基準として、所定距離進んだ場合の位置P2に対して仮想車両画像G5を表示する。
その際、制御部403は、仮想車両画像G5内の部分画像PGを赤色で表示する強調表示を解除しても良い。すなわち、制御部403は、時刻t3において、仮想車両画像G5内の部分画像PGの表示態様を、仮想車両画像G5の他の部分と同じ表示態様に戻す。これにより、車両1の運転者は、車両1の現在の舵角で物体901との接触を回避可能であることを認識することができる。
図11および図12は、第1の実施形態にかかる車両が有するECUによって部分画像を強調表示する処理の一例を説明するための図である。本実施形態では、検知部402によって物体Oが検知されると、制御部403は、図11に示すように、まず、仮想車両画像G5内の部分画像を構成するポリゴンが有する各頂点VからXZ面1100(図7に示すX軸およびZ軸により定義される平面)に対する垂線1101が、当該XZ面1100と交わる点V´を求める。次いで、制御部403は、XZ面1100における、点V´と、物体Oの位置とのユークリッド距離Lを求める。
次に、制御部403は、図12に示す強度分布1200に従って、求めたユークリッド距離Lに対応する強調表示の度合いを特定する。ここで、強度分布1200は、部分画像を強調表示する際の強調表示の度合いの分布であり、ユークリッド距離Lが短くになるに従って、強調表示の度合いが大きくなる。
本実施形態では、強度分布1200は、物体Oの位置を中心として、ユークリッド距離Lが遠くなるに従って強調表示の度合いを小さく低くする同心円状の強度分布である。本実施形態では、強度分布1200は、ユークリッド距離Lが予め設定された距離(例えば、1.7〜3.0m)以下となった際に強調表示の度合いが急峻に上がる高次曲線により表される。例えば、強度分布1200は、ユークリッド距離Lが予め設定された距離以下となった際にGBの値が急峻に下がりRが強調される強度分布である。
これにより、制御部403は、図12に示すように、仮想車両画像G5を構成するポリゴンのうち物体Oまでのユークリッド距離Lが近いポリゴンになるほど、赤色で強調表示される。その結果、制御部403は、図12に示すように、仮想車両画像G5を構成するポリゴンのうち部分画像PGを構成するポリゴンを赤色によって強調表示することが可能となる。
このように、第1の実施形態にかかる車両1によれば、車両1の運転者は、表示装置8に表示される表示画面に仮想車両画像が含まれるか否かに基づいて、検知部402が動作状態にあるか否かを、表示装置8に表示される表示画面から容易に認識することができる。
(第2の実施形態)
本実施形態は、撮像部によって車両の進行方向を撮像して得られる撮像画像に代えて、車両の周辺の三次元画像を含む表示画面を表示装置に表示させる例である。以下の説明では、第1の実施形態と同様の構成については説明を省略する。
図13および図14は、第2の実施形態にかかる車両が有するECUによる表示画面の一例を示す図である。本実施形態では、検知部402が非動作状態である場合、制御部403は、図13に示すように、合成画像G3と、車両1およびその周辺の三次元の画像(以下、三次元周辺画像と言う)G7と、を含む表示画面Gを表示装置8に表示させる。これにより、合成画像G3に加えて、三次元周辺画像G7を視認することで、車両1とその周辺の物体との位置関係をより詳細に把握することができる。
ここで、三次元周辺画像G7は、上述したように、車両1およびその周辺の三次元の画像である。本実施形態では、三次元周辺画像G7は、撮像部15によって車両1の周辺を撮像して得られる画像を、お椀状または円筒状の三次元の面に貼り付けて生成される画像である。また、本実施形態では、三次元周辺画像G7には、図13に示すように、車両1の三次元の画像である三次元車両画像G8が含まれる。本実施形態では、三次元車両画像G8は、仮想車両画像G5と同様に、複数のポリゴンで構成され、車両1の三次元の形状を示す画像である。
また、本実施形態では、制御部403は、三次元周辺画像G7内の路面に対して、三次元車両画像G8の位置を識別可能とする車両位置情報Iを表示させる。例えば、車両位置情報Iは、三次元周辺画像G7内の路面上において、三次元車両画像G8が存在する位置をグレースケールや三次元車両画像G8が存在する位置を囲む線(例えば、破線)で表示する情報である。
そして、検知部402が動作状態である場合、制御部403は、図14に示すように、第1の実施形態と同様に、周辺画像G2内に接近物指標G6を表示させるとともに、三次元周辺画像G7に対しても接近物指標G9を表示させる。その際、制御部403は、図14に示すように、三次元周辺画像G7に含める接近物指標G9をグレースケールで表示するものとする。本実施形態では、制御部403は、車両画像G1と周囲の物体との位置関係を把握し易くするため、三次元周辺画像G7には、仮想車両画像G5を表示しないが、これに限定するものではなく、三次元周辺画像G7に対して仮想車両画像G5を表示することも可能である。
図15および図16は、第2の実施形態にかかる車両が有するECUによる表示画面の一例を示す図である。本実施形態では、検知部402によって車両1に接近してくる物体(例えば、車両1の進行方向の左側から接近してくる物体)が検知された場合、制御部403は、図15に示すように、周辺画像G2に含まれる接近物指標G6および三次元周辺画像G7に含まれる接近物指標G9のうち、検知された物体が接近してくる方向(例えば、左側)に存在する接近物指標G6,G9の表示態様を変更する。
また、検知部402によって車両1の進行方向の左右両方から接近してくる場合、制御部403は、図16示すように、車両1の進行方向(例えば、前方)の左右両方に存在する接近物指標G6,G9の表示態様の色を黄色等に変更したり、当該接近物指標G6,G9を点滅させたりする。または、接近物指標G6,G9が複数の矢印を含む場合、制御部403は、検知された動体が存在する方向に表示される接近物指標G6,G9が含む複数の矢印を、仮想車両画像G5から遠い矢印から順に表示態様を変更するアニメーションで表示しても良い。
本実施形態では、検知部402が動作状態である場合、接近物指標G6,G9をグレースケール等で予め表示しておくことにより、検知部402によって車両1に接近してくる物体が検知され、接近物指標G6,G9の表示態様が変更され際に、その表示態様の変更によって、車両1の運転者が、車両1に接近してくる物体が検知されたことを容易に認識することができる。本実施形態では、制御部403は、検知部402が動作状態である場合、仮想車両画像G5および接近物指標G6,G9の両方を表示画面Gに表示させているが、少なくとも、仮想車両画像G5が表示されていれば良い。
このように、第2の実施形態にかかる車両1によれば、合成画像G3に加えて、三次元周辺画像G7を視認することで、車両1とその周辺の物体との位置関係をより詳細に把握することができる。
1…車両、8…表示装置、14…ECU、14a…CPU、14b…ROM、14c…RAM、14d…表示制御部、14f…SSD、15…撮像部、16…レーダー、17…ソナー、400…画像取得部、401…取得部、402…検知部、403…制御部。

Claims (11)

  1. 車両の現在の舵角を取得する取得部と、
    前記車両の周辺を撮像する撮像部から撮像画像を取得する画像取得部と、
    前記車両を示す車両画像と、前記撮像画像に基づいた前記車両の周辺を表した周辺画像と、を含む合成画像を表示部に表示させ、前記車両に接触する物体を検知可能な検知部が動作状態にある場合、前記合成画像内において前記車両画像で示された前記車両の位置を基準として、前記取得部が取得した前記現在の舵角で前記車両が所定距離進んだ場合の位置に、前記車両の形状を示す仮想的な仮想車両画像を重畳表示させる制御部と、
    を備える周辺監視装置。
  2. 前記制御部は、前記検知部によって前記物体が検知された場合、前記仮想車両画像内において前記物体と接触する部分画像の表示態様を変化させ、かつ前記合成画像内において、前記車両が前記物体に接触する接触位置において前記仮想車両画像の移動を停止させる請求項1に記載の周辺監視装置。
  3. 前記仮想車両画像は、ポリゴンで構成される前記車両の形状を示す画像であり、
    前記部分画像は、前記仮想車両画像を構成する前記ポリゴンのうち、前記物体と接触する部分の前記ポリゴンである請求項2に記載の周辺監視装置。
  4. 前記制御部は、前記物体の位置と前記仮想車両画像で示された前記車両の位置の間の距離に応じて前記部分画像の表示態様を変更する請求項2または3に記載の周辺監視装置。
  5. 前記制御部は、前記検知部が動作状態にある場合、前記合成画像内の前記車両画像で示された前記車両の進行方向に対して、前記車両に対して前記物体が接近してくる方向を識別可能とする指標を表示させ、前記検知部によって前記車両に接近する前記物体が検知された場合、前記指標の表示態様を変更する請求項1から4のいずれか一に記載の周辺監視装置。
  6. 前記制御部は、前記車両が前記所定距離進んだ場合の位置として、前記車両が前記物体と接触する接触位置、または接触前の位置まで進んだ場合の位置に、前記仮想車両画像を重畳表示する請求項1から5のいずれか一に記載の周辺監視装置。
  7. 前記車両画像は、前記車両の俯瞰画像である請求項1から6のいずれか一に記載の周辺監視装置。
  8. 前記仮想車両画像は、前記車両の三次元の形状を示す画像である請求項1から6のいずれか一に記載の周辺監視装置。
  9. 前記仮想車両画像は、前記車両の形状を示す半透明の画像である請求項1から8のいずれか一に記載の周辺監視装置。
  10. 前記仮想車両画像は、前記車両の輪郭を強調表示した画像である請求項1から7のいずれか一に記載の周辺監視装置。
  11. 前記仮想車両画像は、前記車両の輪郭から内側に向かうに従って透過率を高くした画像である請求項1から10のいずれか一に記載の周辺監視装置。
JP2018167140A 2018-09-06 2018-09-06 周辺監視装置 Active JP7172309B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018167140A JP7172309B2 (ja) 2018-09-06 2018-09-06 周辺監視装置
CN201910836583.4A CN110877575A (zh) 2018-09-06 2019-09-05 周边监视装置
US16/561,216 US20200084395A1 (en) 2018-09-06 2019-09-05 Periphery monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018167140A JP7172309B2 (ja) 2018-09-06 2018-09-06 周辺監視装置

Publications (2)

Publication Number Publication Date
JP2020042355A true JP2020042355A (ja) 2020-03-19
JP7172309B2 JP7172309B2 (ja) 2022-11-16

Family

ID=69718963

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018167140A Active JP7172309B2 (ja) 2018-09-06 2018-09-06 周辺監視装置

Country Status (3)

Country Link
US (1) US20200084395A1 (ja)
JP (1) JP7172309B2 (ja)
CN (1) CN110877575A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3800111A1 (en) * 2019-09-12 2021-04-07 Aisin Seiki Kabushiki Kaisha Periphery monitoring device

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022082487A (ja) * 2020-11-23 2022-06-02 株式会社デンソー 周辺画像生成装置、表示制御方法
US20230256985A1 (en) * 2022-02-14 2023-08-17 Continental Advanced Lidar Solutions Us, Llc Method and system for avoiding vehicle undercarriage collisions

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002240662A (ja) * 2000-12-15 2002-08-28 Honda Motor Co Ltd 駐車支援装置
JP2005186758A (ja) * 2003-12-25 2005-07-14 Equos Research Co Ltd 駐車支援装置
JP2012023505A (ja) * 2010-07-13 2012-02-02 Denso Corp 運転支援装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5439890B2 (ja) * 2009-03-25 2014-03-12 富士通株式会社 画像処理方法、画像処理装置及びプログラム
KR101558586B1 (ko) * 2009-06-15 2015-10-07 현대자동차일본기술연구소 차량 주위 영상 표시장치 및 방법
JP5479956B2 (ja) * 2010-03-10 2014-04-23 クラリオン株式会社 車両用周囲監視装置
CN103237685B (zh) * 2010-12-30 2017-06-13 明智汽车公司 盲区显示装置及方法
JP5459560B2 (ja) * 2011-06-27 2014-04-02 アイシン精機株式会社 周辺監視装置
JP6642972B2 (ja) * 2015-03-26 2020-02-12 修一 田山 車輌用画像表示システム及び方法
MY182014A (en) * 2015-05-29 2021-01-18 Nissan Motor Information presentation system
JP6699427B2 (ja) * 2015-11-17 2020-05-27 株式会社Jvcケンウッド 車両用表示装置および車両用表示方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002240662A (ja) * 2000-12-15 2002-08-28 Honda Motor Co Ltd 駐車支援装置
JP2005186758A (ja) * 2003-12-25 2005-07-14 Equos Research Co Ltd 駐車支援装置
JP2012023505A (ja) * 2010-07-13 2012-02-02 Denso Corp 運転支援装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3800111A1 (en) * 2019-09-12 2021-04-07 Aisin Seiki Kabushiki Kaisha Periphery monitoring device
US11620834B2 (en) 2019-09-12 2023-04-04 Aisin Corporation Periphery monitoring device

Also Published As

Publication number Publication date
US20200084395A1 (en) 2020-03-12
JP7172309B2 (ja) 2022-11-16
CN110877575A (zh) 2020-03-13

Similar Documents

Publication Publication Date Title
US10173670B2 (en) Parking assistance device
JP6743593B2 (ja) 駐車支援装置
US20160075377A1 (en) Parking assist system, parking assist method and parking assist control program
JP7151293B2 (ja) 車両周辺表示装置
CN111108023B (zh) 停车辅助装置
JP2014069722A (ja) 駐車支援装置、駐車支援方法およびプログラム
JP2016084094A (ja) 駐車支援装置
US11620834B2 (en) Periphery monitoring device
WO2018150642A1 (ja) 周辺監視装置
CN110730735B (zh) 泊车辅助方法及泊车辅助装置
US20170259847A1 (en) Driving assistance device
JP5991112B2 (ja) 駐車支援装置、制御方法、およびプログラム
WO2017057006A1 (ja) 周辺監視装置
JP7172309B2 (ja) 周辺監視装置
JP2019054420A (ja) 画像処理装置
JP2018036444A (ja) 表示制御装置
JP2017094922A (ja) 周辺監視装置
JP7283514B2 (ja) 表示制御装置
CN110546047A (zh) 停车辅助装置
JP7114919B2 (ja) 走行支援装置
JP7130923B2 (ja) 表示制御装置
JP6601097B2 (ja) 表示制御装置
JP2021064868A (ja) 駐車支援装置
JP2017211814A (ja) 駐車支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210806

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220708

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221017

R150 Certificate of patent or registration of utility model

Ref document number: 7172309

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150