JP6939494B2 - 画像表示装置 - Google Patents

画像表示装置 Download PDF

Info

Publication number
JP6939494B2
JP6939494B2 JP2017237036A JP2017237036A JP6939494B2 JP 6939494 B2 JP6939494 B2 JP 6939494B2 JP 2017237036 A JP2017237036 A JP 2017237036A JP 2017237036 A JP2017237036 A JP 2017237036A JP 6939494 B2 JP6939494 B2 JP 6939494B2
Authority
JP
Japan
Prior art keywords
image
vehicle
rear side
imaging range
composite image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017237036A
Other languages
English (en)
Other versions
JP2019106596A (ja
Inventor
由香 志土地
由香 志土地
五朗 浅井
五朗 浅井
邦泰 杉原
邦泰 杉原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2017237036A priority Critical patent/JP6939494B2/ja
Priority to US16/199,476 priority patent/US11040661B2/en
Priority to CN201811424232.4A priority patent/CN109910750B/zh
Priority to EP19167601.4A priority patent/EP3539827B1/en
Priority to EP18210205.3A priority patent/EP3495205B1/en
Priority to BR102018075622-2A priority patent/BR102018075622A2/pt
Publication of JP2019106596A publication Critical patent/JP2019106596A/ja
Application granted granted Critical
Publication of JP6939494B2 publication Critical patent/JP6939494B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/02Rear-view mirror arrangements
    • B60R1/06Rear-view mirror arrangements mounted on vehicle exterior
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • B60R2300/605Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint the adjustment being automatic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8046Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for replacing a rear-view mirror system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking

Description

本発明は、車両に搭載された複数の撮像手段が撮像した画像を合成し、合成した画像を表示可能な画像表示装置の技術分野に関する。
このような画像表示装置の一例が特許文献1から特許文献2に記載されている。具体的には、特許文献1には、自車両の後側方領域を撮像可能なカメラが撮像した後側方画像と自車両の後方領域を撮像可能なカメラが撮像した後方画像とを、仮想視点から自車両の周囲後方を見渡した画像となるように自車両の周囲後方において切れ目なく合成することで合成画像を生成し、生成した合成画像を車室内ミラーが有する表示装置に表示可能な画像表示装置が記載されている。特許文献2には、自車両の右後側方領域を撮像可能なカメラが撮像した右後側方画像と自車両の左後側方領域を撮像可能なカメラが撮像した左後側方画像とを自車両の後方を走行している後方車両までの距離に応じてトリミングし、トリミングした左後側方画像及び右後側方画像を合成することで合成画像を生成し、生成した合成画像を表示可能な画像表示装置が記載されている。
その他、合成画像を表示可能な画像表示装置が記載された先行技術文献ではないものの、本発明に関連する先行技術文献として、特許文献3があげられる。特許文献3には、車両が駐車した状態から後退する特定動作を行う場合には、カメラにより撮像される水平画角の広い広角画像を表示し、車両がこの特定動作を行わない場合には、カメラにより撮像される水平画角の狭い狭角画像を表示する画像表示装置が記載されている。
特開2008−230558号公報 特開2006−338566号公報 特開2005−112267号公報
特許文献1及び2の夫々に記載された画像表示装置は、合成画像を表示する際に、車両が後退しているか否かを何ら考慮していない。このため、特許文献1及び2の夫々に記載された画像表示装置は、車両が後退する場合に車両の乗員にとって有益な合成画像を表示していない可能性があるという技術的問題を有している。更に、特許文献3に記載された画像表示装置は、そもそも合成画像を表示しないがゆえに、車両が後退する場合に車両の乗員にとって有益な合成画像を表示することができないという技術的問題を有している。
本発明は、車両に搭載された複数の撮像手段が夫々撮像した複数の画像を合成して合成画像を生成する画像表示装置であって、車両が後退する場合に車両の乗員にとって有益な合成画像を生成することが可能な画像表示装置を提供することを課題とする。
本発明の画像表示装置の第1の態様は、車両の後方を撮像可能な後方撮像手段によって撮像された後方画像と前記車両の後側方を撮像可能な後側方撮像手段によって撮像された後側方画像とを合成して合成画像を生成する合成手段と、前記合成画像を表示する表示手段とを備え、前記合成手段は、前記車両が後退している場合に生成される前記合成画像に、前記車両が後退していない場合に生成される前記合成画像に対して車両の下方側の光景が含まれるように、前記合成画像を生成する。
本発明の画像表示装置の第2の態様は、車両の後方を撮像可能な後方撮像手段によって撮像された後方画像と前記車両の後側方を撮像可能な後側方撮像手段によって撮像された後側方画像とを合成して合成画像を生成する合成手段と、前記合成画像を表示する表示手段とを備え、前記合成手段は、駐車スペースへの駐車のために前記車両が後退している場合における前記合成画像の生成方法と、駐車スペースからの出庫のために前記車両が後退している場合における前記合成画像の生成方法とが異なるものとなるように、前記合成画像を生成する。
図1は、本実施形態の車両の構成を示すブロック図である。 図2(a)は、本実施形態の車両における後方カメラ、左後側方カメラ及び右後側方カメラの夫々の設置位置及び撮像範囲を示す平面図であり、図2(b)は、本実施形態の車両における後方カメラ、左後側方カメラ及び右後側方カメラの夫々の設置位置及び撮像範囲を示す側面図である。 図3は、本実施形態の画像合成処理によって生成される合成画像を示す平面図である。 図4は、画像表示動作の第1具体例の流れを示すフローチャートである。 図5(a)は、左後側方カメラの実際の撮像範囲と仮想的な上方撮像範囲との間の位置関係を、車両の左側面と共に示す側面図であり、図5(b)は、左後側方カメラの実際の撮像範囲と仮想的な下方撮像範囲との間の位置関係を、車両の左側面と共に示す側面図である。 図6(a)は、仮想的な上方撮像範囲を左後側方カメラが撮像した場合に取得される左後側方画像と左後側方カメラが実際に撮像した左後側方画像との間の位置関係を示す平面図であり、図6(b)は、仮想的な下方撮像範囲を左後側方カメラが撮像した場合に取得される左後側方画像と左後側方カメラが実際に撮像した左後側方画像との間の位置関係を示す平面図である。 図7(a)は、車両が後退していない場合に生成される合成画像を示す平面図であり、図7(b)は、車両が後退している場合に生成される合成画像を示す平面図である。 図8は、車両が後退していない場合に調整された左後側方カメラの撮像範囲、及び、車両が後退している場合に調整された左後側方カメラの撮像範囲を示す側面図である。 図9は、車両が後退していない場合に選択された左後側方カメラの撮像範囲、及び、車両が後退している場合に選択された左後側方カメラの撮像範囲を示す側面図である。 図10は、画像表示動作の第2具体例の流れを示すフローチャートである。 図11(a)は、側方撮像範囲を上方撮像範囲と共に示す平面図であり、図11(b)は、仮想的な側方撮像範囲を左後側方カメラが撮像した場合に取得される左後側方画像と左後側方カメラが実際に撮像した左後側方画像との間の位置関係を示す平面図であり、図11(c)は、仮想的な側方撮像範囲を右後側方カメラが撮像した場合に取得される右後側方画像と右後側方カメラが実際に撮像した右後側方画像との間の位置関係を示す平面図である。 図12(a)は、車両が駐車スペースへの駐車という目的で後退している場合に生成される合成画像を示す平面図であり、図12(B)は、車両が駐車スペースからの出庫という目的で後退している場合に生成される合成画像を示す平面図である。 図13は、車両が駐車スペースへの駐車という目的で後退している場合に調整された左後側方カメラ及び右後側方カメラの撮像範囲、並びに、車両が駐車スペースからの出庫という目的で後退している場合に調整された左後側方カメラ及び右後側方カメラ撮像範囲を示す側面図である。 図14は、車両が駐車スペースへの駐車という目的で後退している場合に選択された左後側方カメラ及び右後側方カメラの撮像範囲、並びに、車両が駐車スペースからの出庫という目的で後退している場合に選択された左後側方カメラ及び右後側方カメラ撮像範囲を示す側面図である。
以下、図面を参照しながら、画像表示装置の実施形態について説明する。以下では、画像表示装置の実施形態が搭載された車両1を用いて説明を進める。
(1)車両1の構成
初めに、図1及び図2(a)から図2(b)を参照しながら、本実施形態の車両1の構成について説明する。図1は、本実施形態の車両1の構成を示すブロック図である。図2(a)は、本実施形態の車両1における後方カメラ11B、左後側方カメラ11BL及び右後側方カメラ11BRの設置位置及び撮像範囲を示す平面図であり、図2(b)は、本実施形態の車両1における後方カメラ11B、左後側方カメラ11BL及び右後側方カメラ11BRの設置位置及び撮像範囲を示す側面図である。尚、以下の説明では、右、左及び後方は、特段の注記がない場合は、夫々、車両1の進行方向に対する右、左及び後方を意味するものとする。また、以下の説明では、必要に応じて、右側が+Y側に対応し、左側が−Y側に対応し、後方側が−X側に対応し、前方側が+X側に対応し、上側が+Z側に対応し、且つ、下側が−Z側に対応するXYZ座標系を用いて、説明を進める。
図1に示すように、車両1は、後述する付記における「後方撮像手段」の一具体例である後方カメラ11Bと、後述する付記における「後側方撮像手段」の一具体例である左後側方カメラ11BLと、後述する付記における「後側方撮像手段」の一具体例である右後側方カメラ11BRと、シフトポジションセンサ12と、ECU(Electrical Control Unit)13と、後述する付記における「表示手段」の一具体例であるディスプレイ14とを備える。
後方カメラ11Bは、図2(a)及び図2(b)に示すように、車両1の後方(特に、真後)に位置する後方領域を撮像する撮像機器である。後方領域は、車両1の車室内にバックミラーが設置されていると仮定した場合において、当該バックミラーに写りこむ領域の少なくとも一部を含む領域である。つまり、本実施形態では、後方カメラ11Bは、車両1の車室内に設置されるバックミラーに代わる、いわゆる電子ミラーの一部を構成する。車両1の後方領域を撮像するために、後方カメラ11Bの撮影中心は、車両1から真っ直ぐ後方に位置している。つまり、後方カメラ11Bが備えるレンズ等の光学系の光軸は、車両1から真っ直ぐ後方に向かって延びる。その結果、後方カメラ11Bの撮像範囲(或いは、画角)IRBは、後方領域を含むように設定される。
左後側方カメラ11BLは、図2(a)及び図2(b)に示すように、車両1の後方(特に、左側方の後方(つまり、左後側方))に位置する左後側方領域を撮像する撮像機器である。左後側方領域は、車両1の左側にある左ドアにドアミラーが設置されていると仮定した場合において、左ドアが閉状態にある状況下で当該左ドアに設置されたドアミラーに写りこむ領域の少なくとも一部に含む領域である。つまり、本実施形態では、左後側方カメラ11BLは、車両1の左ドアに設置されるドアミラーに代わる、いわゆる電子ミラーの一部を構成する。車両1の左後側方領域を撮像するために、左後側方カメラ11BLの撮影中心は、車両1の後方から左側に位置している。言い換えれば、左後側方カメラ11BLの撮影中心は、後方カメラ11Bの撮影中心よりも左側に位置している。つまり、左後側方カメラ11BLが備えるレンズ等の光学系の光軸は、上述した後方カメラ11Bが備える光学系の光軸よりも左側の空間において、後方に向かって延びる。その結果、左後側方カメラ11BLの撮像範囲(或いは、画角)IRBLは、左後側方領域を含むように設定される。尚、撮像範囲IRBLは、撮像範囲IRBと部分的に重複していてもよい。
右後側方カメラ11BRは、図2(a)及び図2(b)に示すように、車両1の(特に、右側方の後方(つまり、右後側方))に位置する右後側方領域を撮像する撮像機器である。右後側方領域は、車両1の右側にある右ドアにドアミラーが設置されていると仮定した場合において、右ドアが閉状態にある状況下で当該右ドアに設置されたドアミラーに写りこむ領域の少なくとも一部に含む領域である。つまり、本実施形態では、右後側方カメラ11BRは、車両1の右ドアに設置されるドアミラーに代わる、いわゆる電子ミラーの一部を構成する。車両1の右後側方領域を撮像するために、右後側方カメラ11BRの撮影中心は、車両1の後方から右側に位置している。言い換えれば、右後側方カメラ11BRの撮影中心は、後方カメラ11Bの撮影中心よりも右側に位置している。つまり、右後側方カメラ11BRが備えるレンズ等の光学系の光軸は、上述した後方カメラ11Bが備える光学系の光軸よりも右側の空間において、後方に向かって延びる。その結果、右後側方カメラ11BRの撮像範囲(或いは、画角)IRBRは、右後側方領域を含むように設定される。尚、撮像範囲IRBRは、撮像範囲IRBと部分的に重複していてもよい。
シフトポジションセンサ12は、車両1が備えるギア機構(つまり、トランスミッション)のギアレンジを検出可能な検出装置である。つまり、シフトポジションセンサ12は、ギア機構の現在のギアレンジが何であるかを検出可能な検出装置である。
ECU13は、車両1の全体の動作を制御する。本実施形態では特に、ECU13は、後方カメラ11Bが撮像した画像(つまり、後方領域の状況を示す画像であり、以下、“後方画像111B”と称する)、左後側方カメラ11BLが撮像した画像(つまり、左後側方領域の状況を示す画像であり、以下、“左後側方画像111BL”と称する)、及び右後側方カメラ11BRが撮像した画像(右後側方領域の状況を示す画像であり、以下、“右後側方画像111BR”と称する)をディスプレイ14に表示するための画像表示動作を行う。画像表示動作を行うために、ECU13は、ECU13の内部に論理的に実現される処理ブロックとして、画像取得部131と、後述する付記における「合成手段」の一具体例である画像合成部132とを備える。
画像取得部131は、後方カメラ11B、左後側方カメラ11BL及び右後側方カメラ11BRから、夫々、後方画像111B、左後側方画像111BL及び右後側方画像111BRを取得する。
画像合成部132は、後方画像111B、左後側方画像111BL及び右後側方画像111BRを合成する画像合成処理を行うことで、合成画像111Cを生成する。具体的には、画像合成部132は、後方画像111Bをトリミングすることで、後方画像111Bから、後方画像111Bの少なくとも一部の画像部分に相当する後方画像112Bを抽出する。更に、画像合成部132は、左後側方画像111BLをトリミングすることで、左後側方画像111BLから、左後側方画像111BLの少なくとも一部の画像部分に相当する左後側方画像112BLを抽出する。更に、画像合成部132は、右後側方画像111BRをトリミングすることで、右後側方画像111BRから、右後側方画像111BRの少なくとも一部の画像部分に相当する右後側方画像112BRを抽出する。その後、画像合成部132は、後方領域の左側に左後側方領域が位置し、且つ、後方領域の右側に右後側方領域が位置する合成画像111Cを生成する。つまり、画像合成部132は、図3に示すように、後方画像112Bの左側に左後側方画像112BLが隣接し、且つ、後方画像112Bの右側に右後側方画像112BRが隣接する合成画像111Cを生成する。
更に、画像合成部132は、生成した合成画像111Cを表示するように、ディスプレイ14を制御する。尚、ディスプレイ14は、車両1の車室内に設置されており、車室内にいる車両1の乗員に対して合成画像111Cを表示する。
(2)ECU13が行う画像表示動作の具体例
続いて、ECU13が行う画像表示動作の具体例について説明する。本実施形態では、ECU13は、画像表示動作の第1具体例及び画像表示動作の第2具体例の少なくとも一方を行うことができる。このため、以下では、画像表示動作の第1具体例及び画像表示動作の第2具体例について順に説明する。
(2−1)画像表示動作の第1具体例
(2−1−1)画像表示動作の第1具体例の流れ
はじめに、図4を参照しながら、画像表示動作の第1具体例の流れについて説明する。図4は、画像表示動作の第1具体例の流れを示すフローチャートである。
図4に示すように、画像合成部132は、シフトポジションセンサ12の検出結果に基づいて、車両1が後退しているか否かを判定する(ステップS11)。つまり、画像合成部132は、ギア機構の現在のギアレンジが、Rレンジ(つまり、車両1が後退する際に用いられるレンジ)であるか否かを判定する。
ステップS11の判定の結果、車両1が後退していない(つまり、現在のギアレンジがRレンジでない)と判定された場合には(ステップS11:No)、画像合成部132は、後方画像111Bから、撮像範囲IRBの少なくとも一部である仮想的な上方撮像範囲IRB_Uを後方カメラ11Bが撮像した場合に取得される画像部分を、後方画像112Bとして抽出する(ステップS13)。更に、画像合成部132は、左後側方画像111BLから、撮像範囲IRBLの少なくとも一部である仮想的な上方撮像範囲IRBL_Uを左後側方カメラ11BLが撮像した場合に取得される画像部分を、左後側方画像112BLとして抽出する(ステップS13)。更に、画像合成部132は、右後側方画像111BRから、撮像範囲IRBRの少なくとも一部である仮想的な上方撮像範囲IRBR_Uを右後側方カメラ11BRが撮像した場合に取得される画像部分を、右後側方画像112BLとして抽出する(ステップS13)。
他方で、ステップS11の判定の結果、車両1が後退している(つまり、現在のギアレンジがRレンジである)と判定された場合には(ステップS11:Yes)、画像合成部132は、後方画像111Bから、撮像範囲IRBの少なくとも一部である仮想的な下方撮像範囲IRB_Lを後方カメラ11Bが撮像した場合に取得される画像部分を、後方画像112Bとして抽出する(ステップS12)。更に、画像合成部132は、左後側方画像111BLから、撮像範囲IRBLの少なくとも一部である仮想的な下方撮像範囲IRBL_Lを左後側方カメラ11BLが撮像した場合に取得される画像部分を、左後側方画像112BLとして抽出する(ステップS12)。更に、画像合成部132は、右後側方画像111BRから、撮像範囲IRBRの少なくとも一部である仮想的な下方撮像範囲IRBR_Lを右後側方カメラ11BRが撮像した場合に取得される画像部分を、右後側方画像112BLとして抽出する(ステップS12)。
ここで、図5(a)から図5(b)及び図6(a)から図6(b)を参照しながら、上方撮像範囲IRB_U、上方撮像範囲IRBL_U及び上方撮像範囲IRBR_U、並びに、下方撮像範囲IRB_L、下方撮像範囲IRBL_L及び下方撮像範囲IRBR_Lについて説明する。但し、図面の煩雑化を避けるために、図5(a)から図5(b)及び図6(a)から図6(b)では、上方撮像範囲IRB_U及び上方撮像範囲IRBR_U、並びに、下方撮像範囲IRB_L及び下方撮像範囲IRBR_Lの記載を省略する。
図5(a)は、撮像範囲IRBLと上方撮像範囲IRBL_Uとの間の位置関係を、車両1の左側面と共に示す側面図である。一方で、図5(b)は、撮像範囲IRBLと下方撮像範囲IRBL_Lとの間の位置関係を、車両1の左側面と共に示す側面図である。図5(a)及び図5(b)に示すように、上方撮像範囲IRBL_Uは、撮像範囲IRBLのうち下方撮像範囲IRBL_Lよりも上方の部分を含む撮像範囲である。下方撮像範囲IRBL_Lは、撮像範囲IRBLのうち上方撮像範囲IRBL_Uよりも下方の部分を含む撮像範囲である。画像合成部132は、必要に応じて、撮像範囲IRBL中での上方撮像範囲IRBL_U及び下方撮像範囲IRBL_Lの少なくとも一方の位置を調整(つまり、変更)してもよい。
撮像範囲IRBと上方撮像範囲IRB_Uと下方撮像範囲IRB_Lとの間にも、撮像範囲IRBLと上方撮像範囲IRBL_Uと下方撮像範囲IRBL_Lとの間に成立する関係が同様に成立する。撮像範囲IRBRと上方撮像範囲IRBR_Uと下方撮像範囲IRBR_Lとの間にも、撮像範囲IRBLと上方撮像範囲IRBL_Uと下方撮像範囲IRBL_Lとの間に成立する関係が同様に成立する。
更に、下方撮像範囲IRBL_Lは、車両1の後輪(特に、左後輪)の少なくとも一部をその内部に含む撮像範囲であることが好ましい。この場合、下方撮像範囲IRBL_Lは、車両1の後輪の少なくとも一部と共に、当該後輪の近傍の路面をその内部に含む撮像範囲であることがより好ましい。更に、下方撮像範囲IRBL_Lは、車両1の車体(例えば、車体の左側面であり、例えば、左ドア等)の少なくとも一部をその内部に含む撮像範囲であることが好ましい。この場合、下方撮像範囲IRBL_Lは、車両1の車体の少なくとも一部と共に、当該車体の近傍の路面をその内部に含む撮像範囲であることがより好ましい。
下方撮像範囲IRBR_Lについても、下方撮像範囲IRBL_Lと同様に、車両1の後輪(特に、右後輪)及び車両1の車体(例えば、車体の右側面であり、例えば、右ドア等)の少なくとも一部を、その近傍の路面と共にその内部に含む撮像範囲であることが好ましい。一方で、下方撮像範囲IRB_Lは、その設置位置によっては、車両1の後輪及び車両1の車体の少なくとも一部を、その近傍の路面と共にその内部に含む撮像範囲でなくてもよい。もちろん、下方撮像範囲IRB_Lも、車両1の後輪及び車両1の車体の少なくとも一部を、その近傍の路面と共にその内部に含む撮像範囲であってもよい。
このような上方撮像範囲IRBL_Uを左後側方カメラ11BLが撮像した場合に取得される画像部分に相当する左後側方画像112BL(以降、この左後側方画像112BLを、“左後側方画像112BL_U”と称する)と左後側方画像111BLとの関係は、図6(a)に示されている。一方で、このような下方撮像範囲IRBL_Lを左後側方カメラ11BLが撮像した場合に取得される画像部分に相当する左後側方画像112BL(以降、この左後側方画像112BLを、“左後側方画像112BL_L”と称する)と左後側方画像111BLとの関係は、図6(b)に示されている。図6(a)及び図6(b)に示すように、左後側方画像112BL_Uは、左後側方画像112BL_Lよりも上方の画像部分を含む。言い換えれば、左後側方画像112BL_Lは、左後側方画像112BL_Uよりも下方の画像部分を含む。つまり、第1具体例では、画像合成部132は、車両1が後退しているか否かの判定結果に基づいて、左後側方画像111BLから抽出される左後側方画像112BLの左後側方画像111BL内での位置(特に、上下方向における位置)を調整又は変更することができる。言い換えれば、画像合成部132は、車両1が後退しているか否かの判定結果に基づいて、左後側方画像111BLからトリミングされる画像部分の左後側方画像111BL内での位置を調整又は変更することができる。
上方撮像範囲IRB_Uを後方カメラ11Bが撮像した場合に取得される画像部分に相当する後方画像112Bと下方撮像範囲IRB_Lを後方カメラ11Bが撮像した場合に取得される画像部分に相当する後方画像112Bとの間にも、左後側方画像112BL_Uと左後側方画像112BL_Lとの間に成立する関係が同様に成立する。上方撮像範囲IRBR_Uを右後側方カメラ11BRが撮像した場合に取得される画像部分に相当する右後側方画像112BRと下方撮像範囲IRBR_Lを右後側方カメラ11BRが撮像した場合に取得される画像部分に相当する右後側方画像112BRとの間にも、左後側方画像112BL_Uと左後側方画像112BL_Lとの間に成立する関係が同様に成立する。
再び図4において、その後、画像合成部132は、ステップS12又はS13で抽出した後方画像112B、左後側方画像112BL及び右後側方画像112BRを用いて、後方画像112Bの左側に左後側方画像112BLが隣接し、且つ、後方画像112Bの右側に右後側方画像112BRが隣接する合成画像111Cを生成する(ステップS14)。尚、合成画像111Cを生成する過程で、後方画像112B、左後側方画像112BL及び右後側方画像112BRが合成画像111C中で切れ目なくつながるように、画像合成部132は、画像合成処理の一部として、視点変換処理、画像回転処理、拡大縮小処理及び画像成形処理の少なくとも一つを行ってもよい。視点変換処理は、後方画像111B及び112B、左後側方画像111BL及び112BL、並びに、右後側方画像111BR及び112BRの少なくとも一つの視点を変換する処理である。画像回転処理は、後方画像111B及び112B、左後側方画像111BL及び112BL、並びに、右後側方画像111BR及び112BRの少なくとも一つを回転させる処理である。拡大縮小処理は、後方画像111B及び112B、左後側方画像111BL及び112BL、並びに、右後側方画像111BR及び112BRの少なくとも一つを拡大又は縮小する処理である。画像成形処理は、後方画像111B及び112B、左後側方画像111BL及び112BL、並びに、右後側方画像111BR及び112BRの少なくとも一つの形状を変換する処理である。
ここで、図7(a)及び図7(b)を参照しながら、ステップS14で生成される合成画像111Cについてより具体的に説明する。
図7(a)は、車両1が後退していない場合に生成される合成画像111Cを示す平面図である。車両1が後退していない場合には、下方撮像範囲IRBL_Lよりも上方の範囲を含む上方撮像範囲IRBL_Uが、後方画像112B、左後側方画像112BL及び右後側方画像112BRの抽出のために用いられる。このため、図7(a)に示すように、合成画像111Cには、相対的に遠方の光景が写っている画像となる。つまり、合成画像111Cには、車両1の後方に広がる光景のうち相対的に上方の光景が写っている。
一方で、図7(b)は、車両1が後退している場合に生成される合成画像111Cを示す平面図である。車両1が後退している場合には、上方撮像範囲IRBL_Uよりも下方の範囲を含む下方撮像範囲IRBL_Lが、後方画像112B、左後側方画像112BL及び右後側方画像112BRの抽出のために用いられる。このため、図7(b)に示すように、合成画像111Cには、合成画像111Cには、車両1の後方に広がる光景のうち相対的に下方の光景が写っている。このため、合成画像111Cには、車両1の近傍の路面が含まれる可能性が相対的に高くなる。その結果、合成画像111Cには、車両1が後退している場合に乗員が注意を払うべき対象(例えば、図7(b)に示すように、路面に描画された駐車区画線PLや、車両1が駐車しようとしている駐車スペースの周囲に駐車されている他の車両2等)が含まれる可能性が相対的に高くなる。
上述したように下方撮像範囲IRBR_Lに後輪及び車体の少なくとも一部が含まれている場合には、図7(b)に示すように、車両1が後退している場合に抽出される左後側方画像112BLにも、後輪及び車体の少なくとも一部が含まれている。後方画像12B及び右後側方画像112BRについても同様である。従って、この場合に生成される合成画像111Cにも、後輪及び車体の少なくとも一部が含まれている。
一方で、後方画像12B、左後側方画像112BL及び右後側方画像112BRの少なくとも一つに後輪及び車体の少なくとも一部が含まれている場合には、後方画像12B、左後側方画像112BL及び右後側方画像112BRが切れ目なくつながった合成画像111Cを生成することは難しい。このため、後方画像12B、左後側方画像112BL及び右後側方画像112BRが切れ目なくつながった合成画像111Cを生成することは難しい場合には、画像合成部132は、図7(b)に示すように、後方画像12B、左後側方画像112BL及び右後側方画像112BRが個別に表示される(言い換えれば、切れ目なくつながっていない)合成画像111Cを生成してもよい。つまり、画像合成部132は、後方画像12B、左後側方画像112BL及び右後側方画像112BRが単に並べられた合成画像111Cを生成してもよい。
図7(a)及び図7(b)に示す、車両1が後退している場合に生成される合成画像111Cと車両1が後退していない場合に生成される合成画像111Cとの違いを考慮すれば、車両1が後退している場合に下方撮像範囲に対応する画像部分を抽出する処理(つまり、図4のステップS12の処理)は、実質的には、車両1が後退している場合に生成される合成画像111Cに、車両が後退していない場合に生成される合成画像111Cに含まれる光景よりも下方の光景が含まれるように(つまり、車両が後退していない場合に生成される合成画像111Cに含まれる光景に対して車両の下方側の光景が含まれるように)、合成画像111Cを生成する処理と等価である。
再び図4において、その後、ディスプレイ14は、ステップS14で生成された合成画像111Cを表示する(ステップS15)。
以上説明したように、画像表示動作の第1具体例によれば、車両1が後退している場合には、相対的に下方の光景(例えば、車両1の近傍の路面を含む光景)を含む合成画像111Cが表示される。このため、車両1が後退している場合であっても相対的に上方の光景(例えば、車両1から遠く離れた地点の光景)を含む合成画像111Cが表示される場合と比較して、車両1の乗員は、合成画像111Cから、車両1の後退にとって障害となる事象が発生していないかを適切に確認することができる。具体的には、例えば、乗員は、合成画像111Cから、車両1の後退にとって障害となる障害物(例えば、他の車両や、歩行者や、路面に設置された構造物や、その他の任意の物体)が車両1の周囲に存在していないかを適切に確認することができる。言い換えれば、乗員は、車両1が後退している場合に乗員が注意を払うべき対象(例えば、上述した図7(b)に示すように、路面に描画された駐車区画線PLや、路面上に駐車されている他の車両2等)を適切に確認することができる。更には、乗員は、合成画像111Cから、後退中の車両1の状況(例えば、車両1の位置等)を適切に確認することができる。このため、乗員は、車両1の周囲の状況をより適切に把握しながら、車両1を適切に後退させることができる。つまり、画像合成部132は、車両1が後退する場合に乗員にとって有益な合成画像111C(例えば、車両1を相対的に容易に後退させるために有益な合成画像111C)を生成することができる。
更に、合成画像111Cに車両1の後輪及び車体の少なくとも一部が含まれると、乗員は、合成画像111Cに写っている車両1以外の物体と車両1との位置関係を相対的に容易に把握することができる。具体的には、乗員は、車両1が後退している場合に乗員が注意を払うべき対象と車両1との位置関係を相対的に容易に把握することができる。更に、合成画像111Cに車両1の後輪及び車体の少なくとも一部と共に路面が含まれると、乗員は、路面上で車両1がどこに位置しているかを相対的に容易に把握することができる。このため、合成画像111Cに車両1の後輪及び車体の少なくとも一部(更には、路面)が含まれている場合には、乗員は、後退中の車両1の状況(例えば、車両1の位置等)をより一層適切に確認することができる。但し、路面上で車両1がどこに位置しているかを相対的に容易に把握するという技術的効果は、合成画像111Cに後輪及び車体とは異なる車両1の少なくとも一部が含まれる場合においても享受可能である。このため、画像合成部132は、合成画像111Cに後輪及び車体とは異なる車両1の少なくとも一部が含まれるように、合成画像111Cを生成してもよい。
(2−1−2)画像表示動作の第1具体例の変形例
上述した説明では、車両1が後退している場合には、画像合成部132は、下方撮像範囲IRB_Lに対応する後方画像112B、下方撮像範囲IRBL_Lに対応する左後側方画像112BL及び下方撮像範囲IRBR_Lに対応する右後側方画像112BRを抽出している。しかしながら、画像合成部132は、車両1が後退している場合において、少なくとも一つが下方撮像範囲に対応する一方で少なくとも他の一つが上方撮像範囲に対応する後方画像112B、左後側方画像112BL及び右後側方画像112BRを抽出してもよい。つまり、車両1が後退している場合であっても、合成画像111Cに含まれる後方画像112B、左後側方画像112BL及び右後側方画像112BRのうちの少なくとも一つが下方撮像範囲に対応している画像部分出る限りは、後方画像112B、左後側方画像112BL及び右後側方画像112BRのうちの少なくとも他の一つが上方撮像範囲に対応する画像部分であってもよい。つまり、合成画像111Cに含まれる後方画像112B、左後側方画像112BL及び右後側方画像112BRの全てに相対的に下方の光景が写っていなくてもよい。この場合であっても、上述した技術的効果が相応に享受可能である。
上述した説明では、車両1が後退している場合に相対的に下方の光景を含む合成画像111Cを生成するために、画像合成部132は、車両1が後退しているか否かの判定結果に基づいて、左後側方画像111BLから抽出される左後側方画像112BLの位置(言い換えれば、左後側方画像111BLのトリミング位置)を調整している。つまり、画像合成部132は、左後側方画像111BL(更には、後方画像111B及び右後側方画像111BR)に対して画像処理を施すことで、相対的に下方の光景を含む合成画像111Cを生成している。しかしながら、画像合成部132は、その他の方法を用いて、相対的に下方の光景を含む合成画像111Cを生成してもよい。以下、相対的に下方の光景を含む合成画像111Cを生成するためのその他の方法の一例について説明する。
画像合成部132は、左後側方カメラ11BLを制御することで、相対的に下方の光景を含む合成画像111Cを生成してもよい。例えば、画像合成部132は、撮像範囲IRBLが変わるように左後側方カメラ11BLの光学パラメータを制御することで、相対的に下方の光景を含む合成画像111Cを生成してもよい。光学パラメータの一例として、左後側方カメラ11BLが備える光学系(例えば、レンズ等)の焦点距離が一例としてあげられる。この場合、画像合成部132は、車両1が後退していない場合には、図8の上部に示すように、左後側方カメラ11BLの撮像範囲IRBLが上述した上方撮像範囲IRBL_Uとなるように、左後側方カメラ11BLを制御してもよい。一方で、画像合成部132は、車両1が後退している場合には、図8の下部に示すように、左後側方カメラ11BLの撮像範囲IRBLが上述した下方撮像範囲IRBL_Lとなるように、左後側方カメラ11BLを制御してもよい。尚、この場合には、画像合成部132は、車両1が後退しているか否かの判定結果に基づいて、左後側方画像111BLから抽出される左後側方画像112BLの位置(言い換えれば、左後側方画像111BLのトリミング位置)を調整しなくてもよい。また、詳細な説明は省略するが、画像合成部132は、左後側方カメラ11BLに加えて又は代えて、後方カメラ11B及び右後側方カメラ11BRの少なくとも一方を制御することで、車両1が後退している場合に相対的に下方の光景を含む合成画像111Cを生成してもよい。
或いは、撮像範囲IRBLが異なる複数の左後側方カメラ11BLを車両1が備えている場合には、画像合成部132は、車両1が後退しているか否かの判定結果に基づいて複数の左後側方カメラ11BLから実際に左後側方画像111BLを撮像する一の左後側方カメラ11BLを選択することで、相対的に下方の光景を含む合成画像111Cを生成してもよい。具体的には、車両1は、撮像範囲IRBLが上述した上方撮像範囲IRBL_Uとなる左後側方カメラ11BL_Uと、撮像範囲IRBLが上述した下方撮像範囲IRBL_Lとなる左後側方カメラ11BL_Lとを備えていてもよい。この場合、画像合成部132は、車両1が後退していない場合には、図9の上部に示すように、左後側方カメラ11BL_Uが左後側方画像111BLを撮像するように、左後側方カメラ11BL_Uを制御してもよい。一方で、画像合成部132は、車両1が後退している場合には、図9の下部に示すように、左後側方カメラ11BL_Lが左後側方画像111BLを撮像するように、左後側方カメラ11BL_Uを制御してもよい。尚、この場合には、画像合成部132は、車両1が後退しているか否かの判定結果に基づいて、左後側方画像111BLから抽出される左後側方画像112BLの位置(言い換えれば、左後側方画像111BLのトリミング位置)を調整しなくてもよい。また、詳細な説明は省略するが、撮像範囲IRBが異なる複数の後方カメラ11Bを車両1が備えている場合には、画像合成部132は、車両1が後退しているか否かの判定結果に基づいて複数の後方カメラ11Bから実際に後方画像111Bを撮像する一の後方カメラ11Bを選択することで、相対的に下方の光景を含む合成画像111Cを生成してもよい。撮像範囲IRBRが異なる複数の右後側方カメラ11BRを車両1が備えている場合には、画像合成部132は、車両1が後退しているか否かの判定結果に基づいて複数の右後側方カメラ11BRから実際に右後側方画像111BRを撮像する一の右後側方カメラ11BRを選択することで、相対的に下方の光景を含む合成画像111Cを生成してもよい。
(2−2)画像表示動作の第2具体例
(2−2−1)画像表示動作の第2具体例の流れ
続いて、図10を参照しながら、画像表示動作の第1具体例の流れについて説明する。図10は、画像表示動作の第2具体例の流れを示すフローチャートである。尚、画像表示動作の第1具体例で行われる処理と同一の処理については、同一のステップ番号を付してその詳細な説明を省略する。
図10に示すように、第2具体例においても、第1具体例と同様に、ステップS11の処理が行われる。ステップS11の判定の結果、車両1が後退していない(つまり、現在のギアレンジがRレンジでない)と判定された場合には(ステップS11:No)、第2具体例においても、第1具体例と同様に、ステップS13の処理が行われる。
他方で、ステップS11の判定の結果、車両1が後退していると判定された場合には(ステップS11:Yes)、画像合成部132は、車両1が後退している目的を特定する(ステップS21及びステップS22)。具体的には、画像合成部132は、まず、車両1が、駐車スペースへの駐車という目的で後退しているか否かを判定する(ステップS21)。画像合成部132は、例えば、シフトポジションセンサ12の検出結果に基づいて、車両1が後退している目的を特定可能である。例えば、ギア機構のギアレンジが、Dレンジ(つまり、車両1が前進する際に用いられるレンジ)からRレンジ(つまり、車両1が後退する際に用いられるレンジ)へと切り替えられた場合には、画像合成部132は、車両1が、駐車スペースへの駐車という目的で後退していると判定してもよい。
ステップS21の判定の結果、車両1が駐車スペースへの駐車という目的で後退していると判定された場合には(ステップS21:Yes)、第1具体例で行われたステップS12の処理が行われる。
他方で、ステップS21の判定の結果、車両1が駐車スペースへの駐車という目的で後退しているわけではないと判定された場合には(ステップS21:No)、画像合成部132は、続いて、車両1が、駐車スペースからの出庫という目的で後退しているか否かを判定する(ステップS22)。例えば、ギア機構のギアレンジが、Pレンジ(つまり、駐車スペースに駐車中の車両1に用いられるレンジ)からRレンジへと切り替えられた場合には、画像合成部132は、車両1が、駐車スペースからの出庫という目的で後退していると判定してもよい。
ステップS22の判定の結果、車両1が駐車スペースからの出庫という目的で後退していると判定された場合には(ステップS22:Yes)、画像合成部132は、左後側方画像111BLから、撮像範囲IRBLの少なくとも一部である仮想的な側方撮像範囲IRBL_Sを左後側方カメラ11BLが撮像した場合に取得される画像部分を、左後側方画像112BLとして抽出する(ステップS23)。更に、画像合成部132は、右後側方画像111BRから、撮像範囲IRBRの少なくとも一部である仮想的な側方撮像範囲IRBR_Sを右後側方カメラ11BRが撮像した場合に取得される画像部分を、右後側方画像112BLとして抽出する(ステップS23)。一方で、画像合成部132は、後方画像111Bから、上述した下方撮像範囲IRB_Lを後方カメラ11Bが撮像した場合に取得される画像部分を、後方画像112Bとして抽出する(ステップS23)。
ここで、図11(a)から図11(c)を参照しながら、側方撮像範囲IRBL_S及び側方撮像範囲IRBR_Sについて説明する。図11(a)は、側方撮像範囲IRBL_S及び側方撮像範囲IRBR_Sを、下方撮像範囲IRBL_L及び下方撮像範囲IRBR_Lと共に示す平面図である。図11(a)に示すように、側方撮像範囲IRBL_Sは、撮像範囲IRBLのうち下方撮像範囲IRBL_Lよりも左方の部分を含む撮像範囲である。側方撮像範囲IRBL_Sは、撮像範囲IRBL内において下方撮像範囲IRBL_Lを左方に拡大することで得られる撮像範囲であることが好ましい。同様に、側方撮像範囲IRBR_Sは、撮像範囲IRBRのうち下方撮像範囲IRBR_Lよりも右方の部分を含む撮像範囲である。側方撮像範囲IRBR_Sは、撮像範囲IRBR内において下方撮像範囲IRBR_Lを右方に拡大することで得られる撮像範囲であることが好ましい。更に、画像合成部132は、必要に応じて、撮像範囲IRBL中での側方撮像範囲IRBL_Sの位置及び撮像範囲IRBR中での側方撮像範囲IRBR_Sの位置の少なくとも一方を調整(つまり、変更)してもよい。尚、説明の便宜上図示しないものの、側方撮像範囲IRBL_Sは、下方撮像範囲IRBL_Lと同様に、撮像範囲IRBLのうち上方撮像範囲IRBL_Uよりも下方の部分を含む撮像範囲である。側方撮像範囲IRBR_Sは、下方撮像範囲IRBR_Lと同様に、撮像範囲IRBRのうち上方撮像範囲IRBR_Uよりも下方の部分を含む撮像範囲である。
このような側方撮像範囲IRBL_Sを左後側方カメラ11BLが撮像した場合に取得される画像部分に相当する左後側方画像112BL(以降、この左後側方画像112BLを、“左後側方画像112BL_S”と称する)と左後側方画像111BL及び左後側方画像112BL_Lとの間の関係は、図11(b)に示されている。図11(b)に示すように、左後側方画像112BL_Sは、左後側方画像112BL_Lよりも左方の画像部分を含む。つまり、第1具体例では、画像合成部132は、車両1が後退している目的に基づいて、左後側方画像111BLから抽出される左後側方画像112BLの左後側方画像111BL内での位置(特に、左右方向における位置)を調整又は変更することができる。言い換えれば、画像合成部132は、車両1が後退している目的に基づいて、左後側方画像111BLからトリミングされる画像部分の左後側方画像111BL内での位置を調整又は変更することができる。
同様に、このような側方撮像範囲IRBR_Sを右後側方カメラ11BRが撮像した場合に取得される画像部分に相当する右後側方画像112BR(以降、この右後側方画像112BRを、“右後側方画像112BR_S”と称する)と右後側方画像111BR及び右後側方画像112BL_Lとの間の関係は、図11(c)に示されている。図11(c)に示すように、右後側方画像112BR_Sは、右後側方画像112BR_Lよりも右方の画像部分を含む。つまり、第1具体例では、画像合成部132は、車両1が後退している目的に基づいて、右後側方画像111BRから抽出される右後側方画像112BRの右後側方画像111BR内での位置(特に、左右方向における位置)を調整又は変更することができる。言い換えれば、画像合成部132は、車両1が後退している目的に基づいて、右後側方画像111BRからトリミングされる画像部分の右後側方画像111BR内での位置を調整又は変更することができる。
再び図10において、その後、画像合成部132は、ステップS12、S13又はS23で抽出した後方画像112B、左後側方画像112BL及び右後側方画像112BRを用いて、合成画像111Cを生成する(ステップS14)。その後、ディスプレイ14は、ステップS14で生成された合成画像111Cを表示する(ステップS15)。
ここで、図12(a)及び図12(b)を参照しながら、ステップS14で生成される合成画像111Cについてより具体的に説明する。図12(a)は、車両1が駐車スペースへの駐車という目的で後退している場合に生成される合成画像111Cを示す平面図である。尚、この場合に生成される合成画像111Cは、第1具体例において車両1が後退している場合に生成される合成画像111Cと同一である。従って、既に説明したように、合成画像111Cには、車両1が後退している場合に乗員が注意を払うべき対象(特に、駐車スペースに駐車するために車両1が後退している場合に乗員が注意を払うべき対象)が含まれる可能性が相対的に高くなる。
一方で、図12(b)は、車両1が駐車スペースからの出庫という目的で後退している場合に生成される合成画像111Cを示す平面図である。図12(a)及び図12(b)に示すように、車両1が駐車スペースからの出庫という目的で後退している場合には、合成画像111Cには、車両1の左右方向において車両1から相対的に離れた位置まで見渡すことが可能な光景が写っている。このため、合成画像111Cには、出庫しようとしている車両1に近づくように走行スペースを走行してくる他の車両等が含まれる可能性が相対的に高くなる。つまり、合成画像111Cには、駐車スペースから出庫するために車両1が後退している場合に乗員が注意を払うべき対象(例えば、車両1が出庫しようとしている駐車スペースの周囲に駐車されている他の車両2に加えて、出庫しようとしている車両1に近づくように走行スペースを走行してくる他の車両等)が含まれる可能性が相対的に高くなる。
図12(a)及び図12(b)に示す、車両1が駐車スペースへの駐車という目的で後退している場合に生成される合成画像111Cと車両1が駐車スペースからの出庫という目的で後退している場合に生成される合成画像111Cとの違いを考慮すれば、車両1が駐車スペースからの出庫という目的で後退している場合に側方撮像範囲に対応する画像部分を抽出する処理(つまり、図10のステップS23の処理)は、実質的には、駐車スペースからの出庫のために車両1が後退している場合に生成される合成画像111Cに、駐車スペースへの駐車のために車両1が後退している場合に生成される合成画像111Cに含まれる光景よりも側方の光景が含まれるように、合成画像111Cを生成する処理と等価である。
尚、車両1が駐車スペースからの出庫という目的で後退している場合に抽出される左後側方画像112BL_S及び右後側方画像112BL_Sの大きさは、夫々、車両1が駐車スペースへの駐車という目的で後退している場合に抽出される左後側方画像112BL_L及び右後側方画像112BL_Lの大きさよりも大きくなる。なぜならば、側方撮像範囲IRBL_S及び側方撮像範囲IRBR_Sは、夫々、下方撮像範囲IRBL_L及び下方撮像範囲IRBR_Lを拡大することで得られる撮像範囲であるからである。このため、画像合成部132は、車両1が駐車スペースからの出庫という目的で後退している場合には、車両1が駐車スペースへの駐車という目的で後退している場合と比較して、合成画像111C中で左後側方画像112BL及び右後側方画像112BLの夫々が表示される領域の割合が大きくなるように、合成画像111Cを生成してもよい。更に、合成画像111C中で左後側方画像112BL及び右後側方画像112BLの夫々が表示される領域の割合が大きくなると、必然的に、合成画像111C中で後方画像112Bが表示される領域の割合が小さくなる。このため、画像合成部132は、車両1が駐車スペースからの出庫という目的で後退している場合には、車両1が駐車スペースへの駐車という目的で後退している場合と比較して、より小さな後方画像112Bを抽出してもよい。或いは、画像合成部132は、車両1が駐車スペースからの出庫という目的で後退している場合には、車両1が駐車スペースへの駐車という目的で後退している場合と同じ大きさの後方画像112Bを抽出し、当該抽出した後方画像112Bを縮小し(典型的には、左右方向に縮小し)、縮小した後方画像112Bを用いて合成画像111Cを生成してもよい。尚、図12(b)は、縮小した後方画像112Bを用いて生成された合成画像111Cの一例を示している。
再び図10において、他方で、ステップS22の判定の結果、車両1が駐車スペースからの出庫という目的で後退しているわけではないと判定された場合には(ステップS22:No)、車両1は、駐車スペースへの駐車という目的及び駐車スペースからの出庫という目的とは異なる目的で後退していると推定される。この場合には、第1具体例で行われたステップS12の処理が行われる。
以上説明したように、画像表示動作の第2具体例によれば、画像表示動作の第1具体例によって享受可能な効果と同様の効果を享受可能である。第2具体例では更に、画像合成部132は、車両1が後退する場合に乗員にとって有益な合成画像111Cを生成することができる。以下、その理由について説明する。まず、駐車スペースへの駐車のために車両1が後退している場合に乗員が注意を払うべき対象は、駐車スペースからの出庫のために車両1が後退している場合に乗員が注意を払うべき対象と同一であるとは限らない。例えば、駐車スペースへの駐車のために車両1が後退している場合には、乗員は、車両1の駐車するべき位置を示す駐車スペースの枠線、及び、駐車スペースに隣接して駐車している他の車両の少なくとも一方に注意を払うことが好ましい。一方で、駐車スペースからの出庫のために車両1が後退している場合には、乗員は、駐車スペースに隣接して駐車している他の車両、及び、駐車スペースにつながる走行スペースを車両1に近づくように走行してくる他の車両の少なくとも一方に注意を払うことが好ましい。このため、第2具体例では、車両1が後退している目的の違いに応じて合成画像111Cの内容が変わるがゆえに、乗員は、車両1の周囲の状況をより適切に把握しながら、車両1を適切に後退させることができる。つまり、乗員は、車両1が後退している目的の違いに関わらず、車両1の周囲の状況をより適切に把握しながら、車両1を適切に後退させることができる。
(2−2−2)画像表示動作の第2具体例の変形例
上述した説明では、車両1が駐車スペースからの出庫という目的で後退している場合に相対的に側方の光景を含む合成画像111Cを生成するために、画像合成部132は、車両1が後退している目的に基づいて、左後側方画像111BLから抽出される左後側方画像112BLの位置及び右後側方画像111BRから抽出される右後側方画像112BRの位置を調整している。つまり、画像合成部132は、左後側方画像111BL(更には、後方画像111B及び右後側方画像111BR)に対して画像処理を施すことで、つまり、画像合成部132は、左後側方画像111BL(更には、後方画像111B及び右後側方画像111BR)に対して画像処理を施すことで、相対的に側方の光景を含む合成画像111Cを生成している。しかしながら、画像合成部132は、その他の方法を用いて、相対的に側方の光景を含む合成画像111Cを生成してもよい。尚、相対的に側方の光景を含む合成画像111Cを生成するためのその他の方法の一例として、第1具体例で説明した、相対的に下方の光景を含む合成画像111Cを生成するためのその他の方法の一例が用いられてもよい。
つまり、画像合成部132は、左後側方カメラ11BL及び右後側方カメラ11BRを制御することで、相対的に側方の光景を含む合成画像111Cを生成してもよい。具体的には、画像合成部132は、車両1が駐車スペースへの駐車という目的で後退している場合には、図13の上部に示すように、左後側方カメラ11BLの撮像範囲IRBLが下方撮像範囲IRBL_Lとなり且つ右後側方カメラ11BRの撮像範囲IRBRが下方撮像範囲IRBR_Lとなるように、左後側方カメラ11BL及び右後側方カメラ11BRを制御してもよい。一方で、画像合成部132は、車両1が駐車スペースからの出庫という目的で後退している場合には、図13の下部に示すように、左後側方カメラ11BLの撮像範囲IRBLが側方撮像範囲IRBL_Sとなり且つ右後側方カメラ11BRの撮像範囲IRBRが側方撮像範囲IRBR_Sとなるように、左後側方カメラ11BL及び右後側方カメラ11BRを制御してもよい。
或いは、撮像範囲IRBLが異なる複数の左後側方カメラ11BLを車両1が備えている場合には、画像合成部132は、車両1が後退している目的に基づいて複数の左後側方カメラ11BLから実際に左後側方画像111BLを撮像する一の左後側方カメラ11BLを選択することで、相対的に側方の光景を含む合成画像111Cを生成してもよい。具体的には、車両1は、撮像範囲IRBLが下方撮像範囲IRBL_Lとなる左後側方カメラ11BL_Lと、撮像範囲IRBLが側方撮像範囲IRBL_Sとなる左後側方カメラ11BL_Sと、撮像範囲IRBRが下方撮像範囲IRBR_Lとなる右後側方カメラ11BR_Lと、撮像範囲IRBRが側方撮像範囲IRBR_Sとなる右後側方カメラ11BR_Sとを備えていてもよい。この場合、画像合成部132は、車両1が駐車スペースへの駐車という目的で後退している場合には、図14の上部に示すように、左後側方カメラ11BL_Lが左後側方画像111BLを撮像し且つ右後側方カメラ11BR_Lが右後側方画像111BRを撮像するように、左後側方カメラ11BL_L及び右後側方カメラ11BR_Lを制御してもよい。一方で、画像合成部132は、車両1が駐車スペースからの出庫という目的で後退している場合には、図14の下部に示すように、左後側方カメラ11BL_Sが左後側方画像111BLを撮像し且つ右後側方カメラ11BR_Sが右後側方画像111BRを撮像するように、左後側方カメラ11BL_S及び右後側方カメラ11BR_Sを制御してもよい。
上述した説明では、側方撮像範囲IRBL_S及び側方撮像範囲IRBR_Sは、夫々、下方撮像範囲IRBL_L及び下方撮像範囲IRBR_Lを拡大することで得られる撮像範囲である。このため、側方撮像範囲IRBL_S及び側方撮像範囲IRBR_Sは、夫々、下方撮像範囲IRBL_L及び下方撮像範囲IRBR_Lよりも大きくなる。しかしながら、側方撮像範囲IRBL_Sは、下方撮像範囲IRBL_Lよりも左方の部分を含む撮像範囲である限りは、どのような撮像範囲であってもよい。同様に、側方撮像範囲IRBR_Sは、下方撮像範囲IRBR_Lよりも右方の部分を含む撮像範囲である限りは、どのような撮像範囲であってもよい。
上述した説明では、車両1が駐車スペースからの出庫という目的で後退している場合には、車両1が駐車スペースへの駐車という目的で後退している場合に用いられる下方撮像範囲IRBL_L及び下方撮像範囲IRBR_Lと夫々異なる側方撮像範囲IRBL_S及び側方撮像範囲IRBR_Sが用いられる。しかしながら、車両1が駐車スペースからの出庫という目的で後退している場合にであっても、車両1が駐車スペースへの駐車という目的で後退している場合に用いられる下方撮像範囲IRBL_L及び下方撮像範囲IRBR_Lがそのまま用いられてもよい。但し、この場合には、合成画像111C中での左後側方画像112BL及び右後側方画像112BLの視認性を向上させるために、画像合成部132は、合成画像111C中で左後側方画像112BL及び右後側方画像112BLの夫々が表示される領域の割合を大きくすることが好ましい(図13(b)参照)。つまり、画像合成部132は、車両1が駐車スペースからの出庫という目的で後退している場合には、車両1が駐車スペースへの駐車という目的で後退している場合と同じ大きさの左後側方画像112BL及び右後側方画像112BRを抽出し、当該抽出した左後側方画像112BL及び右後側方画像112BRを引き伸ばし(典型的には、左右方向に引き伸ばし)、引き伸ばした左後側方画像112BL及び右後側方画像112BRを用いて合成画像111Cを生成してもよい。この場合であっても、画像合成部132は、車両1が後退する場合に乗員にとって相応に有益な合成画像111Cを生成することができる。
(3)付記
以上説明した実施形態に関して、更に以下の付記を開示する。
(3−1)付記1
付記1に記載の画像表示装置は、車両の後方を撮像可能な後方撮像手段によって撮像された後方画像と前記車両の後側方を撮像可能な後側方撮像手段によって撮像された後側方画像とを合成して合成画像を生成する合成手段と、前記合成画像を表示する表示手段とを備え、前記合成手段は、前記車両が後退している場合に生成される前記合成画像に、前記車両が後退していない場合に生成される前記合成画像に対して車両の下方側の光景が含まれるように、前記合成画像を生成することを特徴とする画像表示装置である。
付記1に記載の画像表示装置によれば、合成手段は、車両が後退している場合に生成される合成画像に、車両が後退していない場合に生成される合成画像に含まれる光景よりも下方の光景が含まれるように、合成画像を生成することができる。その結果、表示手段は、車両が後退している場合には、相対的に下方の光景(例えば、車両の近傍の路面を含む光景)を含む合成画像を表示する。このため、車両が後退している場合であっても相対的に上方の光景(例えば、車両から遠く離れた地点の光景)を含む合成画像が表示される場合と比較して、車両の乗員は、車両の後退にとって障害となる事象が発生していないかを適切に確認することができる。更には、乗員は、後退中の車両の状況(例えば、車両の位置等)を適切に確認することができる。つまり、付記1に記載の画像表示装置は、車両が後退する場合に乗員にとって有益な合成画像(例えば、車両を相対的に容易に後退させるために有益な合成画像)を生成することができる。
(3−2)付記2
付記2に記載の画像表示装置は、前記合成手段は、前記車両が後退している場合に、前記合成画像に前記車両の少なくとも一部が含まれるように、前記合成画像を生成することを特徴とする付記1に記載の画像表示装置である。
付記2に記載の画像表示装置によれば、乗員は、合成画像から、車両の後退にとって障害となる事象が車両の周辺に発生していないかを適切に確認することができる。更には、乗員は、合成画像中での車両の状況(例えば、位置)から、後退中の車両の状況をより適切に確認することができる。
(3−3)付記3
付記3に記載の画像表示装置は、前記合成手段は、前記車両が後退している場合に、前記合成画像に前記車両の少なくとも一部と共に路面が含まれるように、前記合成画像を生成することを特徴とする付記2に記載の画像表示装置である。
付記3に記載の画像表示装置によれば、乗員は、合成画像から、車両の後退にとって障害となる事象が車両の周辺の路面に発生していないかを適切に確認することができる。更には、乗員は、合成画像中での車両の状況(特に、路面上での車両の位置)から、後退中の車両の状況をより適切に確認することができる。
(3−4)付記4
付記4に記載の画像表示装置は、前記車両の少なくとも一部は、前記車両の後輪及び/又は前記車両の車体の少なくとも一部を含むことを特徴とする付記2又は3に記載の画像表示装置である。
付記4に記載の画像表示装置によれば、乗員は、合成画像から、車両の後退にとって障害となる事象が車両の周辺に発生していないかを適切に確認することができる。更には、乗員は、合成画像中での車両の状況(例えば、後輪の位置及び車体の位置の少なくとも一方)から、後退中の車両の状況をより適切に確認することができる。
(3−5)付記5
付記5に記載の画像表示装置は、前記合成手段は、(i)前記車両が後退していない場合には、前記後方画像と前記後側方画像との境界において、前記後方画像に含まれる光景と前記後側方画像に含まれる光景とが切れ目なくつながるように、前記合成画像を生成し、(ii)前記車両が後退している場合に、前記後方画像と前記後側方画像との境界において、前記後方画像に含まれる光景と前記後側方画像に含まれる光景とが不連続となることを許容した上で、前記合成画像を生成することを特徴とする付記2から4のいずれか一項に記載の画像表示装置である。
車両が後退していることに起因して合成画像に後輪及び車体の少なくとも一方が含まれる場合には、後方画像と後側方画像とを切れ目なく合成することが困難である可能性がある。この場合、付記5に記載の画像表示装置によれば、後方画像に含まれる光景と後側方画像に含まれる光景とが不連続となることが許容されるため、後方画像と後側方画像とを切れ目なく合成することが困難である場合であっても、合成手段は、無理に後方画像と後側方画像とを切れ目なく合成しなくてもよくなる。
(3−6)付記6
付記6に記載の画像表示装置は、前記合成手段は、駐車スペースへの駐車のために前記車両が後退している場合における前記合成画像の生成方法と、駐車スペースからの出庫のために前記車両が後退している場合における前記合成画像の生成方法とが異なるものとなるように、前記合成画像を生成することを特徴とする付記1から5のいずれか一項に記載の画像表示装置である。
付記6に記載の画像表示装置によれば、車両が後退している目的に応じた合成画像が表示される。このため、乗員は、車両が後退している目的が駐車スペースへの駐車という目的であろうが駐車スペースからの出庫という目的であろうが、車両の周囲の状況をより適切に把握しながら、車両を適切に後退させることができる。
(3−7)付記7
付記7に記載の画像表示装置は、車両の後方を撮像可能な後方撮像手段によって撮像された後方画像と前記車両の後側方を撮像可能な後側方撮像手段によって撮像された後側方画像とを合成して合成画像を生成する合成手段と、前記合成画像を表示する表示手段とを備え、前記合成手段は、駐車スペースへの駐車のために前記車両が後退している場合における前記合成画像の生成方法と、駐車スペースからの出庫のために前記車両が後退している場合における前記合成画像の生成方法とが異なるものとなるように、前記合成画像を生成することを特徴とする画像表示装置である。
付記7に記載の画像表示装置によれば、付記6に記載の画像表示装置と同様に、乗員は、車両が後退している目的が駐車スペースへの駐車という目的であろうが駐車スペースからの出庫という目的であろうが、車両の周囲の状況をより適切に把握しながら、車両を適切に後退させることができる。つまり、付記7に記載の画像表示装置は、車両が後退する場合に乗員にとって有益な合成画像(例えば、車両が後退している目的に応じて最適化された合成画像)を生成することができる。
(3−8)付記8
付記8に記載の画像表示装置は、前記合成手段は、前記車両のギアレンジがDレンジからRレンジに切り替えられた後に前記車両が後退し始めた場合には、駐車スペースへの駐車のために前記車両が後退していると判定し、前記車両のギアレンジがPレンジからRレンジに切り替えられた後に前記車両が後退し始めた場合には、駐車スペースからの出庫のために前記車両が後退していると判定することを特徴とする付記6又は7に記載の画像表示装置である。
付記8に記載の画像表示装置によれば、合成手段は、車両が後退している目的が駐車スペースへの駐車という第1の目的であるのか又は駐車スペースからの出庫という第2の目的であるかを適切に判定することができる。従って、合成手段は、この判定の結果を踏まえて、車両が後退している目的に応じて合成画像の生成方法を変えることができる。
(3−9)付記9
付記9に記載の画像表示装置は、前記合成手段は、駐車スペースからの出庫のために前記車両が後退している場合に生成される前記合成画像に、駐車スペースへの駐車のために前記車両が後退している場合に生成される前記合成画像に含まれる光景よりも側方の光景が含まれるように、前記合成画像を生成することを特徴とする付記6から8のいずれか一項に記載の画像表示装置である。
付記9に記載の画像表示装置によれば、合成手段は、駐車スペースからの出庫のために車両が後退している場合に生成される合成画像に、駐車スペースへの駐車のために車両が後退している場合に生成される合成画像に対して車両の側方側の光景が含まれるように、合成画像を生成することができる。このため、駐車スペースからの出庫のために車両が後退している場合には、乗員は、車両の側方の状況をより適切に確認することができる。このため、乗員は、合成画像から、駐車スペースからの出庫のために車両が後退している場合に注意を払うべき対象(例えば、駐車スペースに隣接して駐車している他の車両、及び、駐車スペースにつながる走行スペースを走行している他の車両の少なくとも一方)に適切に注意を払うことができる。
(3−10)付記10
付記10に記載の画像表示装置は、前記合成手段は、駐車スペースからの出庫のために前記車両が後退している場合には、駐車スペースへの駐車のために前記車両が後退している場合と比較して、前記合成画像中で前記後側方画像が表示される領域の割合が大きくなるように、前記合成画像を生成することを特徴とする付記6から9のいずれか一項に記載の画像表示装置である。
付記10に記載の画像表示装置によれば、駐車スペースからの出庫のために車両が後退している場合には、合成画像中での後側方画像の視認性が向上する。このため、乗員は、車両の後側方の状況をより適切に確認することができる。このため、乗員は、合成画像から、駐車スペースからの出庫のために車両が後退している場合に注意を払うべき対象に適切に注意を払うことができる。
(3−11)その他の付記
付記11に記載の画像表示装置は、前記合成手段は、前記後方画像のうちの少なくとも一部である後方画像部分及び前記後側方画像のうちの少なくとも一部である後側方画像部分を抽出し、前記後方画像部分と前記後側方画像部分とを合成して前記合成画像を生成し、前記合成手段は、前記車両が後退している場合に抽出される前記後方画像部分に、前記車両が後退していない場合に抽出される前記後方画像部分よりも下方の位置の画像部分が含まれるように、前記後方画像部分を抽出することを特徴とする付記1から6のいずれか一項に記載の画像表示装置である。つまり、付記11に記載の画像表示装置は、後方画像に対して画像処理を施すことで、車両が後退している場合に生成される合成画像に、車両が後退していない場合に生成される合成画像に対して車両の下方側の光景が含まれるという第1の条件を満たす合成画像を生成してもよい。
付記12に記載の画像表示装置は、前記合成手段は、前記後方画像のうちの少なくとも一部である後方画像部分及び前記後側方画像のうちの少なくとも一部である後側方画像部分を抽出し、前記後方画像部分と前記後側方画像部分とを合成して前記合成画像を生成し、前記合成手段は、前記車両が後退している場合に抽出される前記後側方画像部分に、前記車両が後退していない場合に抽出される前記後側方画像部分よりも下方の位置の画像部分が含まれるように、前記後側方画像部分を抽出することを特徴とする付記1から6及び11のいずれか一項に記載の画像表示装置である。つまり、付記12に記載の画像表示装置は、後側方画像に対して画像処理を施すことで、上述した第1の条件を満たす合成画像を生成してもよい。
付記13に記載の画像表示装置は、前記合成手段は、前記車両が後退している場合における前記後方撮像手段の撮像範囲に、前記車両が後退していない場合における前記後方撮像手段の撮像範囲よりも下方の範囲が含まれるように、前記後方撮像手段の動作パラメータを調整することを特徴とする付記1から6及び11から12のいずれか一項に記載の画像表示装置である。つまり、付記13に記載の画像表示装置は、後方撮像手段を制御する(特に、後方撮像手段の撮像範囲を調整する)ことで、上述した第1の条件を満たす合成画像を生成してもよい。
付記14に記載の画像表示装置は、前記合成手段は、前記車両が後退している場合における前記後側方撮像手段の撮像範囲に、前記車両が後退していない場合における前記後側方撮像手段の撮像範囲よりも下方の範囲が含まれるように、前記後側方撮像手段の動作パラメータを調整することを特徴とする付記1から6及び11から13のいずれか一項に記載の画像表示装置である。つまり、付記14に記載の画像表示装置は、後側方撮像手段を制御する(特に、後側方撮像手段の撮像範囲を調整する)ことで、上述した第1の条件を満たす合成画像を生成してもよい。
付記15に記載の画像表示装置は、前記車両は、第1の撮像範囲を撮像可能な第1の前記後方撮像手段と、前記第1の撮像範囲よりも下方の範囲を含む第2の撮像範囲を撮像可能な第2の前記後方撮像手段とを備え、前記合成手段は、(i)前記車両が後退していない場合には、前記第1の後方撮像手段によって撮像された前記後方画像と前記後側方画像とを合成して前記合成画像を生成し、(ii)前記車両が後退している場合には、前記第2の後方撮像手段によって撮像された前記後方画像と前記後側方画像とを合成して前記合成画像を生成することを特徴とする付記1から6及び11から14のいずれか一項に記載の画像表示装置である。つまり、付記15に記載の画像表示装置は、複数の後方撮像手段のうちのいずれかを実際に後方画像を取得するための一の後方撮像手段として選択することで、上述した第1の条件を満たす合成画像を生成してもよい。
付記16に記載の画像表示装置は、前記車両は、第3の撮像範囲を撮像可能な第1の前記後側方撮像手段と、前記第3の撮像範囲よりも下方の範囲を含む第4の撮像範囲を撮像可能な第2の前記後側方撮像手段とを備え、前記合成手段は、(i)前記車両が後退していない場合には、前記第1の後側方撮像手段によって撮像された前記後側方画像と前記後方画像とを合成して前記合成画像を生成し、(ii)前記車両が後退している場合には、前記第2の後側方撮像手段によって撮像された前記後側方画像と前記後方画像とを合成して前記合成画像を生成することを特徴とする付記1から6及び11から15のいずれか一項に記載の画像表示装置である。つまり、付記16に記載の画像表示装置は、複数の後側方撮像手段のうちのいずれかを実際に後側方画像を取得するための一の後側方撮像手段として選択することで、上述した第1の条件を満たす合成画像を生成してもよい。
付記17に記載の画像表示装置は、前記合成手段は、前記後方画像のうちの少なくとも一部である後方画像部分及び前記後側方画像のうちの少なくとも一部である後側方画像部分を抽出し、前記後方画像部分と前記後側方画像部分とを合成して前記合成画像を生成し、前記合成手段は、駐車スペースからの出庫のために前記車両が後退している場合に抽出される前記後側方画像部分に、駐車スペースへの駐車のために前記車両が後退していない場合に抽出される前記後側方画像部分よりも側方の位置の画像部分が含まれるように、前記後側方画像部分を抽出することを特徴とする付記9に記載の画像表示装置である。つまり、付記17に記載の画像表示装置は、後側方画像に対して画像処理を施すことで、駐車スペースからの出庫のために車両が後退している場合に生成される合成画像に、駐車スペースへの駐車のために車両が後退している場合に生成される合成画像に含まれる光景よりも側方の光景が含まれるという第2の条件を満たす合成画像を生成してもよい。
付記18に記載の画像表示装置は、前記合成手段は、前記車両が後退している場合における前記後側方撮像手段の撮像範囲に、前記車両が後退していない場合における前記後側方撮像手段の撮像範囲よりも側方の範囲が含まれるように、前記後側方撮像手段の動作パラメータを調整することを特徴とする付記9又は17に記載の画像表示装置である。つまり、付記18に記載の画像表示装置は、後側方撮像手段を制御する(特に、後側方撮像手段の撮像範囲を調整する)ことで、上述した第2の条件を満たす合成画像を生成してもよい。
付記19に記載の画像表示装置は、前記車両は、第5の撮像範囲を撮像可能な第3の前記後側方撮像手段と、前記第5の撮像範囲よりも側方の範囲を含む第6の撮像範囲を撮像可能な第4の前記後側方撮像手段とを備え、前記合成手段は、(i)駐車スペースへの駐車のために前記車両が後退している場合には、前記第3の後側方撮像手段によって撮像された前記後側方画像と前記後方画像とを合成して前記合成画像を生成し、(ii)駐車スペースからの出庫のために前記車両が後退している場合には、前記第4の後側方撮像手段によって撮像された前記後側方画像と前記後方画像とを合成して前記合成画像を生成することを特徴とする付記9及び17から18のいずれか一項に記載の画像表示装置である。つまり、付記19に記載の画像表示装置は、複数の後側方撮像手段のうちのいずれかを実際に後側方画像を取得するための一の後側方撮像手段として選択することで、上述した第2の条件を満たす合成画像を生成してもよい。
付記20に記載の画像表示装置は、前記合成手段は、前記後方画像のうちの少なくとも一部である後方画像部分及び前記後側方画像のうちの少なくとも一部である後側方画像部分を抽出し、前記後方画像部分と前記後側方画像部分とを合成して前記合成画像を生成し、前記合成手段は、駐車スペースからの出庫のために前記車両が後退している場合には、駐車スペースへの駐車のために前記車両が後退している場合に抽出される前記後側方画像部分と同じ位置の前記後側方画像部分を抽出し、当該抽出した後側方画像部分を引き伸ばした上で前記後方画像部分と合成して前記合成画像を生成することを特徴とする付記10に記載の画像表示装置である。つまり、付記20に記載の画像表示装置は、後側方画像に対して画像処理を施すことで、駐車スペースからの出庫のために車両が後退している場合には、駐車スペースへの駐車のために車両が後退している場合と比較して、合成画像中で後側方画像が表示される領域の割合が大きくなるという第3の条件を満たす合成画像を生成してもよい。
本発明は、請求の範囲及び明細書全体から読み取るこのできる発明の要旨又は思想に反しない範囲で適宜変更可能であり、そのような変更を伴う画像表示装置もまた本発明の技術思想に含まれる。
1 車両
11B 後方カメラ
11BL、11BL_U、11BL_L、11BL_S 左後側方カメラ
11BR、11BR_U、11BR_S 右後側方カメラ
12 シフトポジションセンサ
13 ECU
131 画像取得部
132 画像合成部
14 ディスプレイ
111B、112B 後方画像
111BL、112BL 左後側方画像
111BR、112BR 右後側方画像
111C 合成画像
IRB、IRBL、IRBR 撮像範囲
IRB_U、IRBL_U、IRBR_U 上方撮像範囲
IRB_L、IRBL_L、IRBR_L 下方撮像範囲
IRB_S、IRBL_S、IRBR_S 側方撮像範囲

Claims (7)

  1. 車両の後方を撮像可能な後方撮像手段によって撮像された後方画像と前記車両の後側方を撮像可能な後側方撮像手段によって撮像された後側方画像とを合成して合成画像を生成する合成手段と、
    前記合成画像を表示する表示手段と
    を備え、
    前記合成手段は、前記車両が後退している場合に生成される前記合成画像に、前記車両が後退していない場合に生成される前記合成画像に対して車両の下方側の光景が含まれ、且つ、前記合成画像に前記車両の少なくとも一部が含まれるように、前記合成画像を生成し、
    前記合成手段は、(i)前記車両が後退していない場合には、前記後方画像と前記後側方画像との境界において、前記後方画像に含まれる光景と前記後側方画像に含まれる光景とが切れ目なくつながるように、前記合成画像を生成し、(ii)前記車両が後退している場合に、前記後方画像と前記後側方画像との境界において、前記後方画像に含まれる光景と前記後側方画像に含まれる光景とが不連続となることを許容した上で、前記合成画像を生成する
    ことを特徴とする画像表示装置。
  2. 前記合成手段は、前記車両が後退している場合に、前記合成画像に前記車両の少なくとも一部と共に路面が含まれるように、前記合成画像を生成する
    ことを特徴とする請求項に記載の画像表示装置。
  3. 前記車両の少なくとも一部は、前記車両の後輪及び/又は前記車両の車体の少なくとも一部を含む
    ことを特徴とする請求項又はに記載の画像表示装置。
  4. 前記合成手段は、駐車スペースへの駐車のために前記車両が後退している場合における前記合成画像の生成方法と、駐車スペースからの出庫のために前記車両が後退している場合における前記合成画像の生成方法とが異なるものとなるように、前記合成画像を生成する
    ことを特徴とする請求項1からのいずれか一項に記載の画像表示装置。
  5. 前記合成手段は、前記車両のギアレンジがDレンジからRレンジに切り替えられた後に前記車両が後退し始めた場合には、駐車スペースへの駐車のために前記車両が後退していると判定し、前記車両のギアレンジがPレンジからRレンジに切り替えられた後に前記車両が後退し始めた場合には、駐車スペースからの出庫のために前記車両が後退していると判定する
    ことを特徴とする請求項に記載の画像表示装置。
  6. 前記合成手段は、駐車スペースからの出庫のために前記車両が後退している場合に生成される前記合成画像に、駐車スペースへの駐車のために前記車両が後退している場合に生成される前記合成画像に含まれる光景よりも側方の光景が含まれるように、前記合成画像を生成する
    ことを特徴とする請求項4又は5に記載の画像表示装置。
  7. 前記合成手段は、駐車スペースからの出庫のために前記車両が後退している場合には、駐車スペースへの駐車のために前記車両が後退している場合と比較して、前記合成画像中で前記後側方画像が表示される領域の割合が大きくなるように、前記合成画像を生成する
    ことを特徴とする請求項からのいずれか一項に記載の画像表示装置。
JP2017237036A 2017-12-11 2017-12-11 画像表示装置 Active JP6939494B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2017237036A JP6939494B2 (ja) 2017-12-11 2017-12-11 画像表示装置
US16/199,476 US11040661B2 (en) 2017-12-11 2018-11-26 Image display apparatus
CN201811424232.4A CN109910750B (zh) 2017-12-11 2018-11-27 图像显示装置
EP19167601.4A EP3539827B1 (en) 2017-12-11 2018-12-04 Image display apparatus
EP18210205.3A EP3495205B1 (en) 2017-12-11 2018-12-04 Image display apparatus
BR102018075622-2A BR102018075622A2 (pt) 2017-12-11 2018-12-10 Aparelho de exibição de imagem

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017237036A JP6939494B2 (ja) 2017-12-11 2017-12-11 画像表示装置

Publications (2)

Publication Number Publication Date
JP2019106596A JP2019106596A (ja) 2019-06-27
JP6939494B2 true JP6939494B2 (ja) 2021-09-22

Family

ID=64606752

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017237036A Active JP6939494B2 (ja) 2017-12-11 2017-12-11 画像表示装置

Country Status (5)

Country Link
US (1) US11040661B2 (ja)
EP (2) EP3495205B1 (ja)
JP (1) JP6939494B2 (ja)
CN (1) CN109910750B (ja)
BR (1) BR102018075622A2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6939494B2 (ja) * 2017-12-11 2021-09-22 トヨタ自動車株式会社 画像表示装置
US11186295B2 (en) * 2017-12-22 2021-11-30 Veripat, LLC Vehicle with escape feature using synthesized vehicle view
JP6769500B2 (ja) * 2019-02-13 2020-10-14 株式会社Jvcケンウッド 車両用映像制御装置、車両用映像システム、映像制御方法、及びプログラム
US20210405651A1 (en) * 2020-06-26 2021-12-30 Tusimple, Inc. Adaptive sensor control

Family Cites Families (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6891563B2 (en) 1996-05-22 2005-05-10 Donnelly Corporation Vehicular vision system
DE19816054B4 (de) 1997-04-18 2007-02-22 Volkswagen Ag Kamerasystem zum Überwachen einer nicht unmittelbar einsehbaren Umgebung eines Fahrzeugs
CN100438623C (zh) * 1999-04-16 2008-11-26 松下电器产业株式会社 图象处理装置及监视系统
EP1542194B1 (en) * 2002-07-17 2009-05-13 Fico Mirrors, S.A. Device for the active monitoring of the safety perimeter of a motor vehicle
JP2005112267A (ja) * 2003-10-10 2005-04-28 Nissan Motor Co Ltd 車両用後退支援装置および車両用後退支援方法
JP2005223524A (ja) * 2004-02-04 2005-08-18 Nissan Motor Co Ltd 車両周辺監視装置
JP4468859B2 (ja) 2005-06-06 2010-05-26 アルパイン株式会社 画像合成装置および合成方法
JP2007099261A (ja) * 2005-09-12 2007-04-19 Aisin Aw Co Ltd 駐車支援方法及び駐車支援装置
JP2007114020A (ja) * 2005-10-19 2007-05-10 Aisin Aw Co Ltd 車両の移動距離検出方法、車両の移動距離検出装置、車両の現在位置検出方法及び車両の現在位置検出装置
JP5088669B2 (ja) 2007-03-23 2012-12-05 株式会社デンソー 車両周辺監視装置
JPWO2009141846A1 (ja) * 2008-05-19 2011-09-22 パナソニック株式会社 車両周囲監視装置および車両周囲監視方法
JP5099451B2 (ja) * 2008-12-01 2012-12-19 アイシン精機株式会社 車両周辺確認装置
JP4914458B2 (ja) * 2009-02-12 2012-04-11 株式会社日本自動車部品総合研究所 車両周辺表示装置
WO2010099416A1 (en) * 2009-02-27 2010-09-02 Magna Electronics Alert system for vehicle
JP5271154B2 (ja) * 2009-05-29 2013-08-21 富士通テン株式会社 画像生成装置及び画像表示システム
WO2011014497A1 (en) 2009-07-27 2011-02-03 Magna Electronics Inc. Vehicular camera with on-board microcontroller
JP5031801B2 (ja) * 2009-07-28 2012-09-26 日立オートモティブシステムズ株式会社 車載用画像表示装置
US20120133768A1 (en) 2009-08-06 2012-05-31 Said Youssef Stephan Rear Vision Video Camera and Display Screen System for a Vehicle
US20120154590A1 (en) * 2009-09-11 2012-06-21 Aisin Seiki Kabushiki Kaisha Vehicle surrounding monitor apparatus
DE112010005565T5 (de) * 2010-05-14 2013-02-28 Mitsubishi Electric Corp. Einparkunterstützungsvorrichtung, Einparkunterstützungssystem und Einparkunterstützungskameraeinheit
JP5812598B2 (ja) * 2010-12-06 2015-11-17 富士通テン株式会社 物体検出装置
KR101376210B1 (ko) * 2012-08-06 2014-03-21 현대모비스 주식회사 어라운드 뷰 모니터 시스템 및 모니터링 방법
JP5904093B2 (ja) * 2012-10-30 2016-04-13 株式会社デンソー 車載画像生成装置
JP6054738B2 (ja) * 2012-12-25 2016-12-27 京セラ株式会社 カメラモジュール、カメラシステムおよび画像表示方法
US10093247B2 (en) * 2013-05-23 2018-10-09 GM Global Technology Operations LLC Enhanced front curb viewing system
US20150002954A1 (en) * 2013-06-26 2015-01-01 Magna Mirrors Of America, Inc. Exterior rearview mirror assembly
US9513702B2 (en) * 2013-07-15 2016-12-06 Lg Electronics Inc. Mobile terminal for vehicular display system with gaze detection
JP6231345B2 (ja) * 2013-10-18 2017-11-15 クラリオン株式会社 車両用発進支援装置
KR102176773B1 (ko) * 2014-06-11 2020-11-09 현대모비스 주식회사 자동차의 주차시스템
US10701299B2 (en) * 2014-08-18 2020-06-30 Jaguar Land Rover Limited Display system and method
JP6206395B2 (ja) * 2014-12-26 2017-10-04 トヨタ自動車株式会社 電子ミラー装置
JP2017117120A (ja) * 2015-12-22 2017-06-29 パナソニックIpマネジメント株式会社 運転支援装置、運転支援方法及び運転支援プログラム
JP6313355B2 (ja) * 2016-03-31 2018-04-18 株式会社Subaru 車両周囲監視装置
JP6723820B2 (ja) * 2016-05-18 2020-07-15 株式会社デンソーテン 画像生成装置、画像表示システムおよび画像表示方法
JP2017215447A (ja) * 2016-05-31 2017-12-07 パナソニックIpマネジメント株式会社 表示制御装置および表示制御方法
CN109417611A (zh) * 2016-07-13 2019-03-01 索尼公司 图像生成设备、图像生成方法和程序
US20180154831A1 (en) * 2016-07-29 2018-06-07 Faraday&Future Inc. Composite display from one or more cameras
KR101976425B1 (ko) * 2016-09-22 2019-05-09 엘지전자 주식회사 차량 운전 보조 장치
US10334156B2 (en) * 2016-12-01 2019-06-25 GM Global Technology Operations LLC Systems and methods for varying field of view of outside rear view camera
WO2019026348A1 (ja) * 2017-07-31 2019-02-07 株式会社Jvcケンウッド 表示制御装置、表示制御システム、表示制御方法およびプログラム
US10744941B2 (en) * 2017-10-12 2020-08-18 Magna Electronics Inc. Vehicle vision system with bird's eye view display
JP6939494B2 (ja) * 2017-12-11 2021-09-22 トヨタ自動車株式会社 画像表示装置
JP7159802B2 (ja) * 2018-11-15 2022-10-25 トヨタ自動車株式会社 車両用電子ミラーシステム

Also Published As

Publication number Publication date
EP3539827A1 (en) 2019-09-18
CN109910750A (zh) 2019-06-21
US11040661B2 (en) 2021-06-22
EP3495205B1 (en) 2020-10-07
EP3495205A1 (en) 2019-06-12
CN109910750B (zh) 2022-05-24
EP3539827B1 (en) 2020-10-07
US20190176702A1 (en) 2019-06-13
JP2019106596A (ja) 2019-06-27
BR102018075622A2 (pt) 2019-06-25

Similar Documents

Publication Publication Date Title
JP6939494B2 (ja) 画像表示装置
CN110027552B (zh) 图像显示装置
KR101354068B1 (ko) 차량주변화상생성장치
US8675069B2 (en) Vehicle surroundings monitoring apparatus
JP4907883B2 (ja) 車両周辺画像表示装置および車両周辺画像表示方法
JP3372944B2 (ja) 監視システム
JP4248570B2 (ja) 画像処理装置並びに視界支援装置及び方法
JP7069692B2 (ja) 画像表示装置
JP4315968B2 (ja) 画像処理装置並びに視界支援装置及び方法
JP3753681B2 (ja) 監視システム
KR102135857B1 (ko) 화상 표시 장치
KR20020033816A (ko) 감시시스템
WO2012169354A1 (ja) 作業車両の周辺監視装置
CN107027329B (zh) 将行进工具的周围环境的局部图像拼接成一个图像
JP2009524171A (ja) 複数の画像を結合して鳥瞰図画像にする方法
JP5966513B2 (ja) 車両の後側方撮影装置
WO2019058585A1 (ja) 表示制御装置
WO2019034916A1 (en) SYSTEM AND METHOD FOR PRESENTING AND CONTROLLING VIRTUAL CAMERA IMAGE FOR A VEHICLE
JP4674900B2 (ja) 車載画像表示装置
US20210209725A1 (en) Dynamic imaging system
KR101861523B1 (ko) 차량 운전 보조 장치 및 방법
CN104859542B (zh) 车载监控系统及车载监控处理方法
JP2021111854A (ja) 車両用電子ミラーシステム
JP5429399B2 (ja) 運転補助装置
JP5091882B2 (ja) 画像処理装置並びに視界支援装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200624

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210707

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210803

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210816

R151 Written notification of patent or utility model registration

Ref document number: 6939494

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151