JP7222254B2 - 周辺表示制御装置 - Google Patents

周辺表示制御装置 Download PDF

Info

Publication number
JP7222254B2
JP7222254B2 JP2019011351A JP2019011351A JP7222254B2 JP 7222254 B2 JP7222254 B2 JP 7222254B2 JP 2019011351 A JP2019011351 A JP 2019011351A JP 2019011351 A JP2019011351 A JP 2019011351A JP 7222254 B2 JP7222254 B2 JP 7222254B2
Authority
JP
Japan
Prior art keywords
vehicle
virtual viewpoint
image
virtual
target position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019011351A
Other languages
English (en)
Other versions
JP2020120327A (ja
Inventor
欣司 山本
一矢 渡邊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to JP2019011351A priority Critical patent/JP7222254B2/ja
Priority to US16/751,498 priority patent/US11440475B2/en
Publication of JP2020120327A publication Critical patent/JP2020120327A/ja
Application granted granted Critical
Publication of JP7222254B2 publication Critical patent/JP7222254B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/28Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with an adjustable field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/102Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using 360 degree surveillance camera system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/306Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using a re-scaling of images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • B60R2300/605Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint the adjustment being automatic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint

Description

本発明の実施形態は、周辺表示制御装置に関する。
従来、車両に設けられた複数の撮像部(カメラ)により車両周囲の状況をそれぞれ異なる方向で撮像し、撮像した複数の画像に対して画像処理を行うとともに、各画像を繋げて、例えば俯瞰画像を生成する技術が知られている。このような俯瞰画像に、自車の位置を示すための自車画像(自車画像)を重畳して表示することにより、周囲の状況(例えば障害物等)に対する自車の位置を利用者に把握させやすくする周辺表示制御装置が提案されている。上述したように、俯瞰画像は、自車両とその周囲に存在する物体との位置関係を理解させやすいが、周囲に存在する立体物の歪みや延びが目立ち易い。自車画像は整った形状で表示されているため、自車画像と周囲に立体物とのギャップが大きく、俯瞰画像は、リアリティに欠ける画像になってしまう場合があった。そこで、周辺画像を表示する場合の視点位置を変更して、自車画像や周囲の立体物を斜めから見た画像として表示することで、周辺の立体物の歪みや延びを軽減した仮想視点画像を生成して表示する周辺表示制御装置が提案されている。また、俯瞰画像と仮想視点画像を並べて表示する、いわゆる二画面表示を行う周辺表示制御装置が提案されている。
特許第3300334号公報 特開2017-175182号公報 特許第3947375号公報
しかしながら、自車両が目標位置に移動する過程を、従来技術による仮想視点画像で表示する場合、自車両が目標位置に近づくに連れて、仮想視点画像が俯瞰視の画像になり、俯瞰画像と同様に周囲の立体物の歪みや延びが目立つリアリティ性に欠ける画像になってしまう場合があった。また、二画面表示を行っている場合には、俯瞰画像と仮想視点画像とが最終的に実質的に同じような内容の画像になり、二画面表示のメリットが低減してしまうという問題があった。
そこで、実施形態の課題の一つは、自車両が目標位置に移動する過程を、仮想視点画像で表示する場合に、リアリティ性の低下を回避し、認識し易い表示を可能にする周辺表示制御装置を提供することである。
本発明の実施形態にかかる周辺表示制御装置は、例えば、自車両の周辺を撮像した撮像画像データを取得する画像取得部と、上記自車両が移動する目標位置を取得する目標取得部と、上記自車両が上記目標位置に移動する際に、上記自車両の移動方向に対する上記目標位置の相対角度に基づき、上記自車両を挟んで上記目標位置を臨む位置に設定される仮想視点と当該仮想視点から上記自車両または上記目標位置の少なくとも一方を含む領域を臨む場合の注視点との距離を維持するとともに上記仮想視点と上記注視点の高さを維持した状態で上記仮想視点と上記注視点の少なくとも一方を、移動させながら仮想視点画像を生成する画像生成部と、上記仮想視点画像を表示装置に出力する出力部と、を含む。この構成によれば、例えば、仮想視点と注視点の距離が変化せず、また仮想視点と注視点の高さも変化しない。その結果、自車両が目標位置に向かって移動した場合でも、仮想視点画像は路面に対して平行に移動することになり、仮想視点から目標位置や周辺の立体物を見下ろす角度は変化しない。つまり、周辺の立体物の見え方(歪み具合や延び具合等)の変化が抑制され、仮想視点画像のリアリティ性の低下が回避できる。
また、実施形態のかかる周辺表示制御装置の上記画像生成部は、例えば、上記仮想視点を上記自車両の周囲に設定する仮想円筒の外周面に設定し、上記注視点を上記自車両の車両中心に対応する位置に設定してもよい。この構成によれば、例えば、注視点が車両中心に対応する位置に設定されているため、仮想視点画像の中心付近に自車両を表示し続けることができる。その結果、周辺の立体物の見え方(歪み具合や延び具合等)の変化抑制を行いつつ、目標位置に近づく自車両の挙動を把握させやすい表示ができる。
また、実施形態のかかる周辺表示制御装置の上記画像生成部は、例えば、上記画像生成部は、上記仮想視点および上記注視点を上記自車両の周囲に設定する仮想円筒の外周面に設定してもよい。この場合、仮想視点と注視点は、同一の仮想円(筒)に設定してもよいし、異なる仮想円(筒)に設定してもよい。この構成によれば、例えば、注視点は、自車両より遠くに設定されることになり、仮想視点からの視野に自車両および目標位置を含め易くなる。その結果、周辺の立体物の見え方(歪み具合や延び具合等)の変化抑制を行いつつ、自車両が目標位置に近づく過程において、自車両と目標位置との位置関係がより把握しやすい表示ができる。
また、実施形態のかかる周辺表示制御装置の上記画像生成部は、例えば、上記画像生成部は、上記仮想視点を上記目標位置を中心とする仮想円筒の外周面に設定し、上記注視点を上記目標位置に設定してもよい。この構成によれば、例えば、目標位置を仮想視点画像に表示し続けることができる。その結果、周辺の立体物の見え方(歪み具合や延び具合等)の変化抑制を行いつつ、自車両が目標位置に近づく過程において、目標位置は実質的に同じ位置に表示され続けて、目標位置を認識させやすい表示ができる。
また、実施形態のかかる周辺表示制御装置の上記画像生成部は、例えば、上記画像生成部は、上記自車両が上記目標位置への移動を完了した場合、上記仮想視点の高さを変更するようにしてもよい。この構成によれば、例えば、自車両が目標位置に到達したことを利用者に理解させやすい表示ができる。
図1は、実施形態にかかる周辺表示制御装置を搭載可能な車両の例示的かつ模式的な上面図である。 図2は、実施形態にかかる周辺表示制御装置を含む車両の機能構成を示す例示的かつ模式的なブロック図である。 図3は、実施形態にかかる周辺表示制御装置をCPUで実現する場合の構成を例示的かつ模式的に示すブロック図である。 図4は、実施形態にかかる周辺表示制御装置において、各撮像部により撮像される被撮像領域とその重複領域を説明する例示的かつ模式的な俯瞰図である。 図5は、実施形態にかかる周辺表示制御装置における車両と仮想投影面を示す模式的かつ例示的な説明図である。 図6は、実施形態1にかかる周辺表示制御装置において、仮想視点を自車両の周囲に設定する仮想円筒の外周面に設定し、注視点を自車両の車両中心に対応する位置に設定する場合を説明する例示的かつ模式的な俯瞰図である。 図7は、実施形態1にかかる周辺表示制御装置において、仮想視点を自車両の周囲に設定する仮想円筒の外周面に設定し、注視点を自車両の車両中心に対応する位置に設定する場合を説明する例示的かつ模式的な側面図である。 図8は、図6、図7に示すように仮想視点と注視点を設定した場合に、自車両の移動に伴い遷移する仮想視点画像と、俯瞰画像を二画面表示して表示する模式的かつ例示的な表示画像を示す図である。 図9は、実施形態2にかかる周辺表示制御装置において、仮想視点および注視点を自車両の周囲に設定する異なる仮想円筒の外周面に設定する場合を説明する例示的かつ模式的な俯瞰図である。 図10は、実施形態2にかかる周辺表示制御装置において、仮想視点および注視点を自車両の周囲に設定する異なる仮想円筒の外周面に設定する場合を説明する例示的かつ模式的な側面図である。 図11は、図9、図10に示すように仮想視点と注視点を設定した場合に、自車両の移動に伴い遷移する仮想視点画像と、俯瞰画像を二画面表示して表示する模式的かつ例示的な表示画像を示す図である。 図12は、実施形態3にかかる周辺表示制御装置において、仮想視点を、目標位置を中心とする仮想円筒の外周面に設定し、注視点を目標位置に設定する場合を説明する例示的かつ模式的な俯瞰図である。 図13は、実施形態3にかかる周辺表示制御装置において、仮想視点を、目標位置を中心とする仮想円筒の外周面に設定し、注視点を目標位置に設定する場合を説明する例示的かつ模式的な側面図である。 図14は、図12、図13に示すように仮想視点と注視点を設定した場合に、自車両の移動に伴い遷移する仮想視点画像と、俯瞰画像を二画面表示して表示する模式的かつ例示的な表示画像を示す図である。 図15は、比較例として、仮想視点を自車両の周囲に設定する仮想円筒の外周面に設定し、注視点を目標位置に設定する場合を説明する例示的かつ模式的な俯瞰図である。 図16は、比較例として、仮想視点を自車両の周囲に設定する仮想円筒の外周面に設定し、注視点を目標位置に設定する場合を説明する例示的かつ模式的な側面図である。 図17は、図15、図16に示すように仮想視点と注視点を設定した場合に、自車両の移動に伴い遷移する仮想視点画像と、俯瞰画像を二画面表示して表示する比較例としての模式的な表示画像を示す図である。 図18は、実施形態にかかる周辺表示制御装置において、自車両が目標位置への移動を完了した場合、仮想視点の高さを変更(低くした)場合を説明する模式的かつ例示的な表示画像を示す図である。 図19は、実施形態にかかる周辺表示制御装置における、画像表示処理の流れの一例を示すフローチャートである。
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。
本実施形態において、周辺表示制御装置を搭載する車両1は、例えば、不図示の内燃機関を駆動源とする自動車、すなわち内燃機関自動車であってもよいし、不図示の電動機を駆動源とする自動車、すなわち電気自動車や燃料電池自動車等であってもよいし、それらの双方を駆動源とするハイブリッド自動車であってもよいし、他の駆動源を備えた自動車であってもよい。また、車両1は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置、例えばシステムや部品等を搭載することができる。また、車両1における車輪3の駆動に関わる装置の方式や、数、レイアウト等は、種々に設定することができる。
図1に例示されるように、車体2は、不図示の乗員が乗車する車室2aを構成している。車室2a内には、乗員としての運転者の座席に臨む状態で、操舵部や、加速操作部、制動操作部、変速操作部等が設けられている。操舵部は、例えば、ダッシュボードから突出したステアリングホイールであり、加速操作部は、例えば、運転者の足下に位置されたアクセルペダルであり、制動操作部は、例えば、運転者の足下に位置されたブレーキペダルであり、変速操作部は、例えば、センターコンソールから突出したシフトレバーである。
また、車室2a内には、図2に示されるように、表示出力部としての表示装置8や、音声出力部としての音声出力装置9が設けられている。表示装置8は、例えば、LCD(liquid crystal display)や、OELD(organic electroluminescent display)等である。音声出力装置9は、例えば、スピーカである。また、表示装置8は、例えば、タッチパネル等、透明な操作入力部10で覆われている。乗員は、操作入力部10を介して表示装置8の表示画面に表示される画像を視認することができる。また、乗員は、表示装置8の表示画面に表示される画像に対応した位置で手指等により操作入力部10を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示装置8や、音声出力装置9、操作入力部10等は、例えば、ダッシュボードの車幅方向すなわち左右方向の中央部に位置されたモニタ装置11に設けられている。モニタ装置11は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。また、モニタ装置11とは異なる車室2a内の他の位置に不図示の音声出力装置を設けることができるし、モニタ装置11の音声出力装置9と他の音声出力装置から、音声を出力することができる。なお、モニタ装置11は、例えば、ナビゲーションシステムやオーディオシステムと兼用されうる。
また、図1に例示されるように、車両1は、例えば、四輪自動車であり、左右二つの前輪3Fと、左右二つの後輪3Rとを有する。これら四つの車輪3は、いずれも転舵可能に構成されうる。図2に例示されるように、車両1は、少なくとも二つの車輪3を操舵する操舵システム13を有している。操舵システム13は、アクチュエータ13aと、トルクセンサ13bとを有する。操舵システム13は、ECU14(electronic control unit)等によって電気的に制御されて、アクチュエータ13aを動作させる。操舵システム13は、例えば、電動パワーステアリングシステムや、SBW(steer by wire)システム等である。操舵システム13は、アクチュエータ13aによって操舵部にトルク、すなわちアシストトルクを付加して操舵力を補ったり、アクチュエータ13aによって車輪3を転舵したりする。この場合、アクチュエータ13aは、一つの車輪3を転舵してもよいし、複数の車輪3を転舵してもよい。また、トルクセンサ13bは、例えば、運転者が操舵部に与えるトルクを検出する。
また、図1に例示されるように、車体2には、複数の撮像部15として、例えば四つの撮像部15a~15dが設けられている。撮像部15は、例えば、CCD(charge coupled device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部15は、所定のフレームレートで動画データを出力することができる。撮像部15は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°~220°の範囲を撮影することができる。また、撮像部15の光軸は斜め下方に向けて設定されている。よって、撮像部15は、車両1が移動可能な路面や車両1が駐車可能な領域を含む車体2の周辺の外部の環境を逐次撮影し、撮像画像データとして出力する。
撮像部15aは、例えば、車体2の後側の端部2eに位置され、リヤトランクの下方の壁部に設けられている。撮像部15bは、例えば、車体2の右側の端部2fに位置され、右側のドアミラー2gに設けられている。撮像部15cは、例えば、車体2の前側、すなわち車両前後方向の前方側の端部2cに位置され、フロントバンパー等に設けられている。撮像部15dは、例えば、車体2の左側、すなわち車幅方向の左側の端部2dに位置され、左側の突出部としてのドアミラー2gに設けられている。ECU14は、複数の撮像部15で得られた撮像画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、車両1を上方から見た仮想的な俯瞰画像を生成したりすることができる。
また、ECU14は、撮像部15の画像から、車両1の周辺の路面に示された区画線等を識別し、区画線等で示された駐車区画を検出することもできる。
また、図1に例示されるように、車体2には、複数の測距部16,17として、例えば四つの測距部16a~16dと、八つの測距部17a~17hとが設けられている。測距部16,17は、例えば、超音波を発射してその反射波を捉えるソナー(ソナーセンサ、超音波探知器)とすることができる。ECU14は、測距部16,17の検出結果により、車両1の周囲に位置された障害物等の物体の有無や当該物体までの距離を測定することができる。なお、測距部17は、例えば、比較的近距離の物体の検出に用いられ、測距部16は、例えば、測距部17よりも遠い比較的長距離の物体の検出に用いられうる。また、測距部17は、例えば、車両1の前方および後方の物体の検出に用いられ、測距部16は、車両1の側方の物体の検出に用いられうる。
また、図2に例示されるように、周辺表示制御装置を含む車両制御システム100では、ECU14や、モニタ装置11、操舵システム13、測距部16,17等の他、ブレーキシステム18、舵角センサ19、アクセルセンサ20、駆動システム21、車輪速センサ22、シフトセンサ23等が、電気通信回線としての車内ネットワーク24を介して電気的に接続されている。車内ネットワーク24は、例えば、CAN(controller area network)として構成されている。ECU14は、車内ネットワーク24を通じて制御信号を送ることで、操舵システム13、ブレーキシステム18、駆動システム21等を制御することができる。また、ECU14は、車内ネットワーク24を介して、トルクセンサ13b、ブレーキセンサ18b、舵角センサ19、測距部16,17、アクセルセンサ20、シフトセンサ23、車輪速センサ22等の検出結果や、操作入力部10等の操作信号等を、受け取ることができる。
ECU14は、例えば、CPU14a(central processing unit)や、ROM14b(read only memory)、RAM14c(random access memory)、表示制御部14d、音声制御部14e、SSD14f(solid state drive、フラッシュメモリ)等を有している。CPU14aは、例えば、表示装置8で表示される画像に関連した画像処理や、駐車支援を実行する際の車両1の駐車目標位置の決定、移動距離の演算(算出)、時間ごとの目標車速や移動目標位置の演算(算出)、物体との干渉の有無の判定、車両1の制御の切り換え(自動制御と自動制御の解除の切り換え)等の、各種の演算処理および制御を実行することができる。
CPU14aは、ROM14b等の不揮発性の記憶装置にインストールされ記憶されたプログラムを読み出し、当該プログラムにしたがって演算処理を実行することができる。RAM14cは、CPU14aでの演算で用いられる各種のデータを一時的に記憶する。また、表示制御部14dは、ECU14での演算処理のうち、主として、撮像部15で得られた画像データを用いた画像処理や、表示装置8で表示される画像データの合成等を実行する。また、音声制御部14eは、ECU14での演算処理のうち、主として、音声出力装置9で出力される音声データの処理を実行する。また、SSD14fは、書き換え可能な不揮発性の記憶部であって、ECU14の電源がOFFされた場合にあってもデータを記憶することができる。なお、CPU14aや、ROM14b、RAM14c等は、同一パッケージ内に集積されうる。また、ECU14は、CPU14aに替えて、DSP(digital signal processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD14fに替えてHDD(hard disk drive)が設けられてもよいし、SSD14fやHDDは、ECU14とは別に設けられてもよい。
ブレーキシステム18は、例えば、ブレーキのロックを抑制するABS(anti-lock brake system)や、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:electronic stability control)、ブレーキ力を増強させる(ブレーキアシストを実行する)電動ブレーキシステム、BBW(brake by wire)等である。ブレーキシステム18は、アクチュエータ18aを介して、車輪3ひいては車両1に制動力を与える。また、ブレーキシステム18は、左右の車輪3の回転差などからブレーキのロックや、車輪3の空回り、横滑りの兆候等を検出して、各種制御を実行することができる。ブレーキセンサ18bは、例えば、制動操作部の可動部の位置を検出するセンサである。ブレーキセンサ18bは、可動部としてのブレーキペダルの位置を検出することができる。ブレーキセンサ18bは、変位センサを含む。
舵角センサ19は、例えば、ステアリングホイール等の操舵部の操舵量を検出するセンサである。舵角センサ19は、例えば、ホール素子などを用いて構成される。ECU14は、運転者による操舵部の操舵量や、自動操舵時の各車輪3の操舵量等を、舵角センサ19から取得して各種制御を実行する。なお、舵角センサ19は、操舵部に含まれる回転部分の回転角度を検出する。舵角センサ19は、角度センサの一例である。
アクセルセンサ20は、例えば、加速操作部の可動部の位置を検出するセンサである。アクセルセンサ20は、可動部としてのアクセルペダルの位置を検出することができる。アクセルセンサ20は、変位センサを含む。
駆動システム21は、駆動源としての内燃機関(エンジン)システムやモータシステムである。駆動システム21は、アクセルセンサ20により検出された運転者(利用者)の要求操作量(例えばアクセルペダルの踏み込み量)にしたがいエンジンの燃料噴射量や吸気量の制御やモータの出力値を制御する。また、利用者の操作に拘わらず、車両1の走行状態に応じて、操舵システム13やブレーキシステム18の制御と協働してエンジンやモータの出力値を制御しうる。
車輪速センサ22は、各車輪3に設けられ各車輪3の回転量や単位時間当たりの回転数を検出するセンサであり、検出した回転数を示す車輪速パルス数を検出値として出力する。車輪速センサ22は、例えば、ホール素子などを用いて構成されうる。CPU14aは、車輪速センサ22から取得した検出値に基づき、車両1の車速や移動量などを演算し、各種制御を実行する。CPU14aは、各車輪3の車輪速センサ22の検出値に基づいて車両1の車速を算出する場合、四輪のうち最も小さな検出値の車輪3の速度に基づき車両1の車速を決定し、各種制御を実行する。また、CPU14aは、四輪の中で他の車輪3に比べて検出値が大きな車輪3が存在する場合、例えば、他の車輪3に比べて単位期間(単位時間や単位距離)の回転数が所定数以上多い車輪3が存在する場合、その車輪3はスリップ状態(空転状態)であると見なし、各種制御を実行する。車輪速センサ22は、ブレーキシステム18に設けられている場合もある。その場合、CPU14aは、車輪速センサ22の検出結果をブレーキシステム18を介して取得する。
シフトセンサ23は、例えば、変速操作部の可動部の位置を検出するセンサである。シフトセンサ23は、可動部としての、レバーや、アーム、ボタン等の位置を検出することができる。シフトセンサ23は、変位センサを含んでもよいし、スイッチとして構成されてもよい。
なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、一例であって、種々に設定(変更)することができる。
本実施形態において、ECU14は、ハードウェアとソフトウェア(制御プログラム)が協働することにより、表示装置8に表示する画像の画像生成処理を司る。ECU14は、撮像部15が撮像した撮像画像データ(撮像画像)に画像処理、例えば視点変換処理等を施して生成した車両周囲画像に、車両1(自車両)の位置および仮想視点から車両1を臨む場合の車両1の向きや姿勢を示す自車画像と、車両1(自車画像)を移動させようとする目標位置の少なくとも一方を重畳して表示装置8に表示させる。その場合に、ECU14は、車両1が目標位置に移動する際に、車両1の移動方向に対する目標位置の相対角度に基づき、仮想視点と当該仮想視点から車両1または目標位置の少なくとも一方を含む領域を臨む場合の注視点の少なくとも一方を、移動させながら仮想視点画像を生成する。なお、仮想視点は、車両1を挟んで目標位置を臨む位置に設定される。また、仮想視点画像は、仮想視点と注視点との距離を維持するとともに仮想視点と注視点の高さを維持した状態で生成される。
図3は、CPU14aで周辺表示制御装置を実現する場合の構成を例示的かつ模式的に示すブロック図である。CPU14aは、ROM14bから読み出した周辺表示制御プログラムを実行することにより周辺表示制御部30を実現する。周辺表示制御部30(周辺表示制御装置)は、その機能を実現するための各種モジュールを含む。周辺表示制御部30は、例えば、画像取得部32、目標取得部34、画像生成部36、出力部38等を含む。また、画像生成部36は、自車両位置取得部36a、相対角取得部36b、仮想視点設定部36c、注視点設定部36d、視点/注視点変更部36e、仮想視点画像生成部36f等の詳細モジュールを含む。
画像取得部32は、各撮像部15が撮像した撮像画像データ(撮像画像)を、表示制御部14dを介して取得する。各撮像部15(15a~15d)は、図4に示すような被撮像領域40を撮像可能である。各被撮像領域40は、隣接する被撮像領域40の一部が互いに重なった重複領域42を含む。重複領域42を形成することにより被撮像領域40を繋ぎ合わせるときに欠落領域が生じないようにしている。例えば、被撮像領域40のうち撮像部15cが撮像した車両1の前方の被撮像領域40Fの車幅方向左側と、撮像部15dが撮像した車両1の左側方の被撮像領域40SLの車両前方側とは、重複領域42FLを形成する。被撮像領域40のうち被撮像領域40SLの車両後方側と、撮像部15aが撮像した車両1の後方の被撮像領域40Rの車幅方向左側とは、重複領域42RLを形成する。被撮像領域40のうち被撮像領域40Rの車幅方向右側と、撮像部15bが撮像した車両1の右側方の被撮像領域40SRの車両後方側とは、重複領域42RRを形成する。そして、被撮像領域40のうち被撮像領域40SRの車両前方側と被撮像領域40Fの車幅方向右側とは、重複領域42FRを形成する。各撮像部15は、撮像した撮像画像データに撮像部15ごとの識別符号を添付して画像取得部32に出力してもよいし、画像取得部32側で取得した撮像画像データごとに出力元を識別する識別符号を添付するようにしてもよい。
目標取得部34は、車両1が移動する目標位置を取得する。目標位置は、例えば利用者が手動で指定することで取得してもよいし、CPU14a(ECU14)が車両1の駐車支援等の走行支援を行う過程で自動で取得してもよい。目標位置は、例えば利用者が表示装置8に表示される、撮像部15で撮像された撮像画像上の任意の位置を操作入力部10等を用いて指定してもよい。また、CPU14a(ECU14)が撮像部15の撮像画像から、車両1の周辺の路面に示された区画線等を識別して、区画線等で示された駐車区画を検出可能な場合、検出された駐車区画の中から目標位置を指定させるようにしてもよい。また、周知の駐車支援や走行支援において、目標位置に移動する過程で切り返しを行う位置や一旦停止する位置等を目標位置としてもよい。目標位置の取得は、これらの例に限定されず、車両1を移動させるべき位置が取得できれば、他の方法で取得するものでもよい。
画像生成部36は、画像取得部32が取得した撮像画像データ(撮像画像)に基づき車両1の周囲の状況を仮想空間で示して、車両1が現在の位置から目標位置まで移動する過程を示す仮想視点画像を生成する。具体的には、図4で説明したように、各被撮像領域40を重複領域42が形成されるように繋ぎ合わせて、車両1の周囲(例えば360°)を示す二次元合成画像データを作成する。なお、重複領域42においては、重複する撮像画像データのブレンド処理を実行してもよい。例えば、重複領域42FLにおいて、前方の被撮像領域40Fの撮像画像データと左側方の被撮像領域40SLの撮像画像データのそれぞれa%を利用して画像をブレンドするブレンド処理を実行する。ブレンド処理を実行することにより、前方の被撮像領域40Fと左側方の被撮像領域40SLとが、徐々に変化するように合成され、明るさや色合いの違いによって生じる境界線を目立ちにくくすることができる。同様に、他の重複領域42についてもブレンド処理を施すことで、合成した二次元合成画像データ全体において境界線を目立ちにくくすることができる。
続いて、画像生成部36は、ROM14b等に予め記憶された、図5に示すような、三次元形状モデルである仮想投影面Spを読み出す。仮想投影面Spは、座標(X,Y,Z)が規定されるメッシュ構造のデータで、合成した二次元合成画像データの各画素のデータが、メッシュの交点(座標X,Y,Zで規定される交点)に投影される。
仮想投影面Spは、例えば、図5に示すように、地面Grに沿った底面Spgと、底面Spgすなわち地面Grから立ち上がった側面Spsと、を有している。地面Grは、車両1の高さ方向(上下方向:Y)と直交する水平面(X-Z平面)であり、車輪3の接地面でもある。底面Spgは、例えば略円形の平坦面であり、車両1を基準とする水平面である。側面Spsは、底面Spgと接して底面Spgの一部から高さ方向に立ち上り底面Spgの一部を取り囲む、例えば曲面である。図5に示されるように、側面Spsについて、垂直方向(車両1の上下方向:Y)に断面を取った場合の仮想断面の形状は、例えば、楕円状の一部あるいは放物線状である。側面Spsは、例えば、車両1を中心として高さ方向(Y)に沿う中心線周りの回転面として構成される。つまり、側面Spsは、車両1の周囲を取り囲んでいる。二次元合成画像データを仮想投影面Spに投影することにより、車両1を中心として周囲状況を示す三次元の車両周囲画像(データ)を生成することができる。なお、別の例では、二次元合成画像データ生成することなく、仮想投影面Spに撮像部15の撮像した撮像画像データを投影するようにしてもよい。車両周囲画像の生成手法は、一例であり、周知の周辺画像生成技術を利用することができる。
このように生成される三次元の車両周囲画像(データ)は、仮想視点の位置を変化させることにより、車両1の周囲の状況を任意の視点から見た場合の画像とすることができる。例えば、図5に示すように、車両1(自車両)を挟んで目標位置(例えば車両1の前方の位置)を、例えば車両1より高い位置から臨むような(例えば、見下ろすような)位置に仮想視点Eを設定する。また、この仮想視点Eから車両1または目標位置の少なくとも一方を含む領域を臨む場合の視点の方向である注視点Tを設定する。この場合、三次元の車両周囲画像は、車両1の後方上空から車両1を見下ろしつつ、車両1の前方の領域を表示するような仮想視点画像となる。また、仮想視点Eの位置を車両1の右側方上空に設定する場合、車両1を挟んで、車両1の左側方を臨むような三次元の車両周囲画像(仮想視点画像)となる。なお、本実施形態の画像生成部36は、仮想視点Eと注視点Tとの距離を維持するとともに仮想視点Eと注視点Tの高さを維持した状態で仮想視点画像を生成する。その結果、生成される仮想視点画像は、車両1が目標位置Pに向かって移動した場合でも、地面Grに対して平行に移動することになり、仮想視点Eから目標位置や周辺の立体物を見下ろす角度は変化しない。仮想視点Eから目標位置や周辺の立体物を見下ろす角度が変化しないことに基づく効果は、図面を用いて後述する。
上述したような仮想視点画像を生成するために、画像生成部36は、上述したように、自車両位置取得部36a、相対角取得部36b、仮想視点設定部36c、注視点設定部36d、視点/注視点変更部36e、仮想視点画像生成部36f等の詳細モジュールを含む。
自車両位置取得部36aは、例えば、操作入力部10等を介して利用者から周辺表示要求がなされた場合に、相対座標系上の原点に車両1の例えば中心位置を設定し、この位置を自車両位置とする。なお、車両1の中心位置とは、例えば、車両1の車幅方向の中点を通る前後方向線と、車長方向の中点を通る車幅方向線との交点、またはこの交点から法線を引き地面Grと交わる点とすることができる。
相対角取得部36bは、車両1の移動方向に対して目標位置が存在する方向で規定される相対角度を取得する。図6には、車両1と目標位置Pとが示されている。図6の場合、目標位置Pを含む目標領域Ptが併せて示されている。前述したように、目標位置Pは、目標取得部34によって取得された位置であり、例えば、利用者が操作入力部10等を用いて指定した位置である。相対角取得部36bは、相対座標系上で、車両1の中心位置Cgを通り車長方向(前後方向)に延びる第1方向線L1と、中心位置Cgと目標位置Pとを通る第2方向線L2とが成す角度を相対角度θとして取得する。
仮想視点設定部36cは、相対角取得部36bで取得した相対角度θに基づき、仮想視点Eの位置を設定する。仮想視点画像は、車両1が目標位置Pに移動する過程で、車両1に関連する周囲の状況を利用者に認識させる画像であるため、仮想視点画像には、車両1と目標位置Pの少なくとも一方が写っていることが望ましい。そのため、仮想視点Eは、車両1を挟んで目標位置Pとは反対側に設定されることが望ましい。本実施形態の仮想視点設定部36cは、例えば、図6に示されるように、目標位置Pと中心位置Cgとを結ぶ第2方向線L2を車両1を超えて延ばした延長線と、車両1を取り囲むように設定された、中心位置Cgを中心とする例えば半径rの仮想円44との交点を視点方向参照点E0とする。そして、仮想視点設定部36cは、視点方向参照点E0を、仮想円44を底面として地面Grに対して垂直に立ち上がる仮想円筒44Aの外周面上を高さ方向に距離hだけ移動した位置を仮想視点Eとする。
注視点設定部36dは、車両1または目標位置Pの少なくとも一方を含む領域を臨むように注視点Tを設定する。注視点Tは、仮想視点画像を表示する場合に、主として注目したい位置に設定する。例えば、図6に示されるように、車両1の中心位置Cgと同じ位置に設定してもよいし、車両1と目標位置Pとの間の位置に設定してもよいし、目標位置Pと同じ位置に設定してもよい。注視点Tは、予め初期設定位置として設定されてもよいし、仮想視点画像を表示するたびに、利用者が操作入力部10等を用いて手動で設定できるようにしてもよい。
視点/注視点変更部36eは、車両1が目標位置Pに移動する際に車両1の挙動に対応して、相対座標系上の仮想視点Eの位置と注視点Tの位置を変更する。ただし、視点/注視点変更部36eは、仮想視点Eから注視点Tまでの距離を維持するとともに仮想視点Eと注視点Tの高さを維持した状態で仮想視点Eの位置と注視点Tの位置を変更する。つまり、仮想視点Eと注視点Tとの相対関係を維持したまま、地面Grに対して平行に移動させる。例えば、車両1が目標位置Pに接近するように移動すれば、仮想視点Eと注視点Tとは相対位置関係を維持したまま目標位置Pに近づくように位置が変更されうる。また、目標位置Pに対して車両1が旋回する場合は、仮想視点Eと注視点Tとは相対位置関係を維持したまま車両1の旋回角度に応じて仮想視点Eが仮想円筒44Aの外周面上を地面Grと平行に移動しつつ、注視点Tが移動しうる。なお、視点/注視点変更部36eは、車両1が目標位置Pへの移動を完了した場合、仮想視点Eの高さを変更させることができる。例えば、仮想視点Eの位置を少し下げる。この場合、仮想視点画像の見え方が変化し、車両1が目標位置に到達したことを利用者に理解させやすい仮想視点画像を生成することができる。
仮想視点画像生成部36fは、視点/注視点変更部36eによる仮想視点Eや注視点Tの位置の変更にしたがい、つまり、車両1の移動(挙動)にしたがい、画像取得部32が取得した撮像画像データ(撮像画像)を図5に示すような仮想投影面Spに投影する。その結果、車両1の移動(挙動)に対応して、変化する仮想視点画像を逐次更新することができる。出力部38は、仮想視点画像生成部36fで生成された仮想視点画像を表示制御部14dを介して表示装置8に出力し表示させる。
このように構成される周辺表示制御部30を用いて生成される仮想視点画像の表示例を図6~図14を用いて説明する。なお、参考例として、周辺に存在する立体物が変形し易い表示例を図15~図17を用いて示す。また、図18は、車両1が目標位置Pへの移動を完了した場合に、視点/注視点変更部36eが仮想視点Eの高さを変更する場合の仮想視点画像の表示例である。
<実施形態1>
図6~図8は、実施形態1として、注視点設定部36dにより注視点Tが車両1の中心位置Cgに設定された場合である。なお、実施形態1において、注視点Tは、例えば、地面Grと同じ高さに設定する例を示すが、これに限定されない。また、この例では、仮想視点画像の表示要求が行われた時点で、画像取得部32により車両1の周囲の撮像画像が取得され、目標取得部34により例えば車両1の右斜め前方の位置が目標位置P(目標領域Pt)として取得(指定)されたものとする。
前述したように、仮想視点画像の表示要求が行われると、自車両位置取得部36aは、車両1の現在の位置(例えば、中心位置Cg)を相対座標系上の原点位置に設定して、この位置を自車両位置として取得する。続いて、相対角取得部36bは相対座標系上で車両1の中心位置Cgを通り車長方向に延びる第1方向線L1と、中心位置Cgと目標位置Pとを通る第2方向線L2とが成す角度を相対角度θとして取得する。そして、仮想視点設定部36cは、相対角取得部36bで取得した相対角度θに基づき、仮想視点Eの位置を設定する。図6の場合、前述したように、仮想視点設定部36cは、車両1を超えて延ばした第2方向線L2の延長線と、車両1の中心位置Cgを中心とする半径r(例えば、r=4m)の仮想円44との交点位置を視点方向参照点E0とする。そして、図7に示すように、仮想視点設定部36cは、視点方向参照点E0を仮想円筒44Aの外周面上で高さ方向に距離h(例えば、2m)だけ移動して、その位置に仮想視点Eを設定する。実施形態1の場合、図6、図7に示すように、仮想視点Eは、車両1の左斜め後方の上空に設定される例である。視点/注視点変更部36eは、車両1と目標位置P(目標領域Pt)との相対位置の変化に応じて(目標位置Pに対する車両1の移動状況に応じて)、仮想視点Eと注視点Tの位置を変化させる。この場合、仮想視点Eと注視点Tは、一定の関係を維持した状態で車両1の挙動にしたがって移動することになる。つまり、図6、図7に矢印F1で示されるように、仮想視点Eと注視点Tとの距離が維持された状態で、かつ仮想視点Eと注視点Tの高さが維持された状態で、仮想視点Eと注視点Tとが、車両1の挙動に応じて位置を変えることになる。そして、仮想視点画像生成部36fは、図5で説明したように、仮想視点Eから注視点Tを見た場合の撮像画像を仮想投影面Spに投影することにより仮想視点画像を逐次生成する。
図8は、仮想視点Eと注視点Tとの距離を維持した状態で、かつ仮想視点Eと注視点Tの高さを維持した状態で、車両1に対応する自車画像1Aが目標位置P(目標領域Pt)に向かって、移動する場合の仮想視点画像46Aの推移を示す図である。図8は、一例として、仮想視点画像46Aと、車両1を真上から見下ろした場合の俯瞰画像46Bとを並べて表示装置8に表示させた例である。なお、仮想視点画像46Aに表示する自車画像1Aは、予めROM14b等に記憶された画像データである。自車画像1Aは、車両1の形状を示す画像であり、車両1の構成面(表面)は、例えば、複数のポリゴンで構成することができる。つまり、自車画像1Aは、複数のポリゴン(主として三角形のポリゴン)により表示された立体的な形状(三次元の形状)である。これにより、よりリアリティのある自車画像1Aを表示することができる。また、複数のポリゴンで構成される自車画像1Aは、X軸、Y軸、Z軸それぞれに対して回転可能であり、仮想視点Eの位置に応じて自車画像1Aを所望の方向に向けることができる。一方、俯瞰画像46Bに表示する自車画像1Aは、車両1を直上から俯瞰視した固定の画像としてROM14b等に記憶された画像を用いることができる。他の実施形態で示す自車画像1Aも同様である。
なお、図8に示すように、俯瞰画像46Bの場合、車両1(自車画像1A)の周囲に存在する立体物(例えば、他車両48等)の形状は、仮想視点Eを車両1(自車画像1A:注視点T)の直上の位置に設定するため、車両1と他車両48との相対位置関係により他車両48の見え方(歪み具合や延び具合等)が異なる。その一方で、俯瞰視することにより、車両1(自車画像1A)から周囲の立体物(他車両48等)までの距離や形状の把握が、仮想視点Eが注視点Tの直上に存在することがない仮想視点画像46Aに比べて容易になる。したがって、図8に示すように、仮想視点画像46Aと俯瞰画像46Bとを並べて表示することにより、車両1の周囲の状況を利用者により認識させやすい表示を行うことができる。
図6、図7に示すように実施形態1の場合、仮想視点Eは、車両1の中心位置Cgを中心とする仮想円筒44A(仮想円44)上に設定される。そして、仮想視点Eは、仮想円筒44Aの同じ高さ(例えば、h=2m)で、車両1の中心位置Cgに設定された注視点Tを見下ろしながら相対角取得部36bの取得する相対角度θにしたがって地面Grと平行に移動する。つまり、仮想視点Eから車両1を見下ろす角度および車両1の周囲に存在する立体物(例えば、他車両48等)を見下ろす角度は、それぞれ実質的に変化しない。その結果、車両1が目標位置P(目標領域Pt)に向かって移動するのに伴い仮想視点Eが仮想円筒44A上を周方向に移動する場合でも、図8に示されるように、車両1および周囲に存在する他車両48等は、仮想視点Eの位置に応じて地面Gr上を回転しているように見えることになる。この場合、自車画像1Aの見かけの大きさは実質的に変化しない。また、図8に示されるように、車両1(自車画像1A)が目標位置P(目標領域Pt)に徐々に近づく場合、周辺に存在する他車両48等は、仮想視点Eからの距離に応じて、拡大されながら近づいてくることになるので、車両1の移動の過程で形状が不自然に伸縮したり歪んだりすることが抑制される。
このように、本実施形態の周辺表示制御部30(周辺表示制御装置)によれば、仮想視点画像46Aを表示する場合、車両1(自車画像1A)の周囲に存在する立体物の見え方(歪み具合や延び具合等)の変化を抑制することができる。その結果、仮想視点画像46Aのリアリティ性の低下を回避させつつ、目標位置P(目標領域Pt)に近づく車両1(自車画像1A)の挙動を把握させやすい表示ができる。
<実施形態2>
図9~図11は、実施形態2として、注視点設定部36dにより注視点Tが車両1の中心位置Cgを中心とする仮想円上に設定される場合である。なお、実施形態2において、注視点Tは、例えば、地面Grと同じ高さに設定する例を示すが、これに限定されない。実施形態2の場合、視点方向参照点E0を設定するための半径r1の第1仮想円50とは別の、第1仮想円50の半径r1より大きな半径r2の第2仮想円52上に注視点Tを設定する例を示している。なお、別の実施例では、視点方向参照点E0と注視点Tを同一の半径の仮想円上に設定してもよい。また、実施形態2の場合も実施形態1と同様に、仮想視点画像の表示要求が行われた時点で、画像取得部32により車両1の周囲の撮像画像が取得され、目標取得部34により例えば車両1の右斜め前方の位置が目標位置P(目標領域Pt)として取得(指定)されたものとする。
実施形態1と同様に、仮想視点画像の表示要求が行われると、自車両位置取得部36aは、車両1の現在の位置(例えば、中心位置Cg)を相対座標系上の原点位置に設定して、この位置を自車両位置として取得する。続いて、相対角取得部36bは相対座標系上で車両1の中心位置Cgを通り車長方向に延びる第1方向線L1と、中心位置Cgと目標位置Pとを通る第2方向線L2とが成す角度を相対角度θとして取得する。そして、仮想視点設定部36cは、相対角取得部36bで取得した相対角度θに基づき、仮想視点Eの位置を設定する。図9の場合、仮想視点設定部36cは、車両1を超えて延ばした第2方向線L2の延長線と、車両1の中心位置Cgを中心とする半径r1(例えば、r=4m)の第1仮想円50との交点位置を視点方向参照点E0とする。そして、図10に示すように、仮想視点設定部36cは、視点方向参照点E0を仮想円筒50Aの外周面上で高さ方向に距離h(例えば、2m)だけ移動して、その位置に仮想視点Eを設定する。実施形態2の場合、図9、図10に示すように、仮想視点Eは、車両1の左斜め後方の上空に設定される例である。視点/注視点変更部36eは、車両1と目標位置P(目標領域Pt)との相対位置の変化に応じて(目標位置Pに対する車両1の移動状況に応じて)、仮想視点Eと注視点Tの位置を変化させる。この場合、仮想視点Eと注視点Tは、一定の関係を維持した状態で車両1の挙動にしたがって移動することになる。つまり、図9、図10に矢印F2で示されるように、仮想視点Eと注視点Tとの距離が維持された状態で、かつ仮想視点Eと注視点Tの高さが維持された状態で、仮想視点Eと注視点Tとが、車両1の挙動に応じて位置を変えることになる。そして、仮想視点画像生成部36fは、図5で説明したように、仮想視点Eから注視点Tを見た場合の撮像画像を仮想投影面Spに投影することにより仮想視点画像を逐次生成する。
図11は、仮想視点Eと注視点Tとの距離を維持した状態で、かつ仮想視点Eと注視点Tの高さを維持した状態で、車両1に対応する自車画像1Aが目標位置P(目標領域Pt)に向かって、移動する場合の仮想視点画像46Aの推移を示す図である。図11の場合も仮想視点画像46Aと俯瞰画像46Bとを並べて表示装置8に表示させた例である。
図9、図10に示すように実施形態2の場合も、仮想視点Eは、車両1の中心位置Cgを中心とする仮想円筒50A(第1仮想円50)上に設定される。そして、仮想視点Eは、仮想円筒50Aの同じ高さ(例えば、h=2m)で、車両1の中心位置Cgを中心とする第2仮想円52上に設定された注視点Tを見下ろしながら相対角取得部36bの取得する相対角度θにしたがって地面Grと平行に移動する。つまり、仮想視点Eから車両1を見下ろす角度および車両1の周囲に存在する立体物(例えば、他車両48等)を見下ろす角度は、それぞれ実質的に変化しない。その結果、車両1が目標位置P(目標領域Pt)に向かって移動するのに伴い仮想視点Eが仮想円筒50A上を周方向に移動する場合(注視点Tが第2仮想円52上を周方向に移動する場合)でも、図11に示されるように、車両1(自車画像1A)および周囲に存在する他車両48等は、仮想視点Eの位置に応じて地面Gr上を回転しているように見えることになる。この場合、自車画像1Aの見かけの大きさは実質的に変化しない。また、図11に示されるように、車両1(自車画像1A)が目標位置P(目標領域Pt)に徐々に近づく場合、周辺に存在する他車両48等は、仮想視点Eからの距離に応じて、拡大されながら近づいてくることになるので、車両1の移動の過程で形状が不自然に伸縮したり歪んだりすることが抑制される。
このように、本実施形態の周辺表示制御部30(周辺表示制御装置)によれば、仮想視点画像46Aを表示する場合、車両1(自車画像1A)の周囲に存在する立体物の見え方(歪み具合や延び具合等)の変化を抑制することができる。その結果、仮想視点画像46Aのリアリティ性の低下を回避することができる。また、実施形態2のように、注視点Tを車両1の中心位置Cgより目標位置Pに近い位置に設定することにより、仮想視点Eからの視野に車両1および目標位置P(目標領域Pt)を含め易くなる。その結果、周辺の立体物の見え方(歪み具合や延び具合等)の変化抑制を行いつつ、車両1が目標位置P(目標領域Pt)に近づく過程において、車両1(自車画像1A)と目標位置P(目標領域Pt)との位置関係を利用者により把握させやすい表示が可能になる。
<実施形態3>
図12~図14は、実施形態3として、注視点設定部36dにより注視点Tが、例えば目標位置Pに設定されるとともに、仮想視点Eが目標位置Pを中心とする仮想円筒上を移動する場合である。すなわち、車両1が目標位置Pに接近する場合でも仮想視点Eは、目標位置P(目標領域Pt)に接近しない。なお、実施形態3において、注視点Tは、例えば、地面Grと同じ高さに設定する例を示すが、これに限定されない。また、実施形態3の場合も実施形態1、実施形態2と同様に、仮想視点画像の表示要求が行われた時点で、画像取得部32により車両1の周囲の撮像画像が取得され、目標取得部34により例えば車両1の右斜め前方の位置が目標位置P(目標領域Pt)として取得(指定)されたものとする。
実施形態1、実施形態2と同様に、仮想視点画像の表示要求が行われると、自車両位置取得部36aは、車両1の現在の位置(例えば、中心位置Cg)を相対座標系上の原点位置に設定して、この位置を自車両位置として取得する。続いて、相対角取得部36bは相対座標系上で車両1の中心位置Cgを通り車長方向に延びる第1方向線L1と、中心位置Cgと目標位置Pとを通る第2方向線L2とが成す角度を相対角度θとして取得する。そして、仮想視点設定部36cは、相対角取得部36bで取得した相対角度θに基づき、仮想視点Eの位置を設定する。図12の場合、仮想視点設定部36cは、車両1を超えて延ばした第2方向線L2の延長線と、目標位置Pを中心とする半径R(例えば、R=10m)の仮想円54との交点位置を視点方向参照点E0とする。そして、図13に示すように、仮想視点設定部36cは、視点方向参照点E0を仮想円筒54Aの外周面上で高さ方向に距離h(例えば、2m)だけ移動して、その位置に仮想視点Eを設定する。実施形態3の場合、図12、図13に示すように、仮想視点Eは、車両1の左斜め後方の上空に設定される例である。視点/注視点変更部36eは、車両1と目標位置P(目標領域Pt)との相対位置の変化に応じて(目標位置Pに対する車両1の移動状況に応じて)、仮想視点Eを仮想円筒54Aの周方向に移動させ得るが、注視点Tの位置は変化させない。つまり、図12、図13に矢印F3で示されるように、仮想視点Eと注視点Tとの距離が維持された状態で、かつ仮想視点Eと注視点Tの高さが維持された状態で、仮想視点Eは注視点Tを中心として円軌道上を移動することになる。その結果、車両1(自車画像1A)の移動開始(例えば、仮想視点画像の表示開始時)から移動完了までの間、目標位置P(目標領域Pt)は、仮想視点画像に表示続けられる。そして、仮想視点画像生成部36fは、図5で説明したように、仮想視点Eから注視点Tを見た場合の撮像画像を仮想投影面Spに投影することにより仮想視点画像を逐次生成する。この場合、自車画像1Aは、目標位置P(目標領域Pt)に接近するのにしたがい徐々に遠ざかるように小さく表示されることになる。
図14は、注視点Tと目標位置Pとが同じ位置に設定され、かつ仮想視点Eと注視点Tとの距離を維持した状態で、かつ仮想視点Eと注視点Tの高さを維持した状態で、車両1に対応する自車画像1Aが目標位置P(目標領域Pt)に向かって、移動する場合の仮想視点画像46Aの推移を示す図である。図14の場合も仮想視点画像46Aと俯瞰画像46Bとを並べて表示装置8に表示させた例である。
図12、図13に示すように実施形態3の場合、仮想視点Eは、目標位置Pを中心とする仮想円筒54A(仮想円54)上に設定される。そして、仮想視点Eは、仮想円筒54Aの同じ高さ(例えば、h=2m)で、仮想視点Eから常に同じ距離に存在する注視点Tを見下ろしながら相対角取得部36bの取得する相対角度θにしたがって地面Grと平行に仮想円筒54A上を周方向に移動し得る。この場合の、仮想視点Eから注視点Tまでの距離は、常に一定となるので、仮想視点Eから車両1を見下ろす角度および車両1の周囲に存在する立体物(例えば、他車両48等)を見下ろす角度は、それぞれ実質的に変化しない。その結果、車両1が目標位置P(目標領域Pt)に向かい移動するのに伴い仮想視点Eが仮想円筒54A上を周方向に移動する場合でも、図14に示されるように、車両1および周囲に存在する他車両48等は、仮想視点Eの位置に応じて地面Gr上を回転しているように見えることになる。この場合、自車画像1Aの見かけの大きさは目標位置P(目標領域Pt)に近づくにしたがい徐々に小さくなる。また、図14に示されるように、車両1(自車画像1A)が目標位置P(目標領域Pt)に徐々に近づく場合、周辺に存在する他車両48等は、仮想視点Eの位置に応じて向きが変化するが、車両1の移動の過程で形状が不自然に伸縮したり歪んだりすることは抑制される。
このように、本実施形態の周辺表示制御部30(周辺表示制御装置)によれば、仮想視点画像46Aを表示する場合、車両1(自車画像1A)の周囲に存在する立体物の見え方(歪み具合や延び具合等)の変化を抑制することができる。その結果、仮想視点画像46Aのリアリティ性の低下を回避することができる。また、実施形態3のように、仮想視点Eを目標位置Pに設定した注視点Tを中心とする仮想円筒54A上に設定することにより、目標位置P(目標領域Pt)を仮想視点画像46Aに表示し続けることができる。その結果、周辺の立体物の見え方(歪み具合や延び具合等)の変化抑制を行いつつ、車両1が目標位置P(目標領域Pt)に近づく過程において、目標位置Pを実質的に同じ位置に表示し続けるような、目標位置P(目標領域Pt)を利用者により認識させやすい表示が可能になる。
<比較例>
図15~図17は、比較例として、注視点Tが目標位置Pに設定され、仮想視点Eが車両1の中心位置Cgを中心とする仮想円筒64A(仮想円64)上に設定された場合である。この比較例においても、仮想視点画像の表示要求が行われた時点で、車両1の周囲の撮像画像が取得され、例えば車両1の右斜め前方の位置が目標位置P(目標領域Pt)が指定されたものとする。
比較例においても、仮想視点画像の表示要求が行われると、車両1の現在の位置(例えば、中心位置Cg)を相対座標系上の原点位置に設定して、この位置を自車両位置とるす。続いて、相対座標系上で車両1の中心位置Cgを通り車長方向に延びる第1方向線L1と、中心位置Cgと目標位置Pとを通る第2方向線L2とが成す角度を相対角度θとする。そして、仮想視点Eは、車両1を超えて延ばした第2方向線L2の延長線と、車両1の中心位置Cgを中心とする半径r(例えば、r=4m)の仮想円64との交点位置を視点方向参照点E0とする。そして、図16に示すように、視点方向参照点E0を仮想円筒64Aの外周面上で高さ方向に距離h(例えば、2m)だけ移動した位置に仮想視点Eを設定する。比較例の場合、図15、図16に示すように、仮想視点Eは、車両1の左斜め後方の上空に設定される例である。比較例の場合、仮想視点Eは、車両1の移動に伴い仮想円筒64A上を周方向に移動しながら、目標位置P(注視点T)に向かって接近して行く。したがって、仮想視点Eと注視点Tの距離が徐々に小さくなり、車両1が目標位置Pに到達した場合には、仮想視点Eは注視点Tを直上から見下ろし、俯瞰視することになる。つまり、図15、図16に矢印F4で示されるように、仮想視点Eと注視点Tとの距離が車両1の移動(目標位置Pへの接近)に伴い短くなる。そして、仮想視点Eから注視点Tを見た場合の撮像画像を仮想投影面Spに逐次投影すると、仮想視点Eから車両1を見下ろす角度や車両1の周囲に存在する立体物(例えば、他車両48等)を見下ろす角度が変化する。その結果、図17に示すように、自車画像1Aの周囲に存在する他車両48等の立体物の見え方(歪み具合や延び具合等)が変化してしまう。例えば、他車両48が徐々に肥大するとともに延びて仮想視点画像46Aのリアリティ性が低下してしまう。その結果、他車両48等の立体物のまでの距離や形状の把握をさせ難くしてしまったり、また、静止物であるにも拘わらず、表示が肥大化したり延びたりすることにより、移動しているように見えてしまう場合がある。また、車両1(自車画像1A)が目標位置Pに到達した場合には、俯瞰視となるため、仮想視点画像46Aと俯瞰画像46Bとが実質的に同じ表示内容となり、二画面で表示する意味が低下してしまう。
このように、仮想視点Eと注視点Tとの距離を維持しない比較例の場合、仮想視点画像46Aのリアリティ性が低下して、表示品質の低下を招いてしまう。一方、仮想視点Eと注視点Tとの距離を維持した状態で仮想視点画像を生成する本実施形態1~実施形態3の場合、仮想視点画像46Aのリアリティ性の低下を回避することができる。また、二画面表示を行う場合、仮想視点画像46Aの表示によるリアリティ性の高い表示と、俯瞰画像46Bの表示による周辺の物体との位置関係が把握性し易い表示と、をバランスよく利用者に提供することができる。
なお、図8、図11、図14は、仮想視点画像46Aと俯瞰画像46Bとを並べて二画面で表示する例を示しているが、仮想視点画像46Aとのみ表示でもよく、車両1が目標位置Pに対して移動する場合にリアリティ性の高い表示を提供することができる。
図18は、車両1(自車画像1A)が目標位置P(目標領域Pt)に到達する前後の仮想視点画像46Aの表示例を説明する図である。前述したように、本実施形態の視点/注視点変更部36eは、車両1が移動している場合、仮想視点Eは、所定の高さ(例えば、h=2m)を維持する。すなわち、仮想視点Eから車両1を見下ろす場合の見下ろし角度は変化しない。そのため、車両1(自車画像1A)が目標位置P(目標領域Pt)に到達したか否かの判断が難しい場合がある。そこで、視点/注視点変更部36eは、車両1が目標位置Pへの移動を完了した場合、仮想視点Eの高さを変更する。例えば、仮想視点Eの位置を仮想円筒面上で下方に移動する。その結果、車両1に対する仮想視点Eの仰角が浅くなり、仮想視点画像46Aに表示される自車画像1Aの挙動が、今までの地面Grに沿って回転するような態様から別の態様を示す。例えば、自車画像1Aを今までより低い位置から臨むような画像になる。つまり、前面(後面、側面)を正面から見るような表示となる。したがって、車両1が目標位置Pに到達したことを利用者に理解させやすい表示ができる。なお、視点/注視点変更部36eは、目標位置Pに到達した場合の自車画像1Aが、今までと別の挙動を示せばよく、例えば、仮想視点Eの位置を仮想円筒面上で上方に移動するようにしてもよく、車両1が目標位置Pに到達したことを利用者に理解させやすい表示ができる。また、視点/注視点変更部36eは、車両1が目標位置Pに到達した場合(例えば、駐車完了時)に、仮想視点Eが車両1の周囲を移動(例えば、同じ高さで一周)するようにしてもよい。この場合、車両1が目標位置Pに到達したことを利用者にさらに理解させやすい表示ができる。
<画像表示処理フロー>
このように構成される周辺表示制御装置(周辺表示制御部30)による、画像表示処理の流れの一例を図19のフローチャートを用いて説明する。なお、図19のフローチャートは、例えば、車両1の電源がONされている場合に、所定の処理周期で繰り返し実行されるものとする。
まず、周辺表示制御部30は、利用者が操作入力部10等を操作して、仮想視点画像46Aの表示要求をしているか否かを確認する(S100)。要求がない場合(S100のNo)、一旦このフローを終了する。一方、周辺表示制御部30が、仮想視点画像46Aの表示要求を確認した場合(S100のYes)、画像取得部32は、各撮像部15が撮像する車両1の周囲の撮像画像データ(撮像画像)を取得する(S102)。続いて、画像生成部36は、画像取得部32が取得した現在の撮像画像データ(撮像画像)を用いて車両1の周囲を表示する俯瞰画像46Bを生成して、出力部38は表示制御部14dを介して表示装置8に出力して表示させる(S104)。なお、この場合、俯瞰画像46Bは、主として目標位置Pを設定するために利用するため、表示装置8に全画面表示してもよいし、他の表画像を並べて表示するようにしてもよい。
自車両位置取得部36aは、相対座標系上の原点に車両1の例えば中心位置Cgを設定し、この位置を自車両位置とする(S106)。続いて、目標取得部34は、目標位置P(目標領域Pt)が決定されていない場合(S108のNo)、例えば、音声出力装置9から出力する音声ガイドや俯瞰画像46B上に表示するガイドメッセージ等を利用者に提供し、操作入力部10等を介して目標位置Pを指定させるとともに、目標位置Pの相対位置データを取得する(S110)。なお、S108において、既に目標位置P(目標領域Pt)が設定済みの場合(S108のYes)、S110の処理をスキップする。
続いて、相対角取得部36bは、図6等で説明したように、相対座標系上で、車両1の中心位置Cgを通り車長方向(前後方向)に延びる第1方向線L1と、中心位置Cgと目標位置Pとを通る第2方向線L2とが成す角度を相対角度θとして取得する(S112)。そして、仮想視点設定部36cは、図6等で説明したように、まず、仮想円44を用いて視点方向参照点E0を取得する。そして、仮想円44を底面として地面Grに対して垂直に立ち上がる仮想円筒44Aの外周面上を高さ方向に距離hだけ移動させて仮想視点Eの位置を設定する(S114)。続いて、注視点設定部36dは、車両1または目標位置Pの少なくとも一方を含む領域を臨むように注視点Tを設定する(S116)。注視点Tは、例えば、図6に示すように、車両1の中心位置Cgに設定したり、図9に示すように、第2仮想円52上に設定したり、図12に示すように、目標位置Pに設定したりすることができる。上述した実施形態1~実施形態3で示したように、注視点Tの位置に応じて仮想視点画像46Aの表示内容が異なる。したがって、注視点Tは、利用者が操作入力部10等を用いて適宜選択できるようにしてもよいし、予めデフォルトとして注視点設定部36dに設定しておいてもよい。
仮想視点Eおよび注視点Tが設定されたら、仮想視点画像生成部36fは、図5で説明したように、仮想視点Eの位置と注視点Tの位置にしたがい、画像取得部32が取得した撮像画像データ(撮像画像)を仮想投影面Spに投影し仮想視点画像46Aを生成し、出力部38は、表示制御部14dを介して表示装置8に出力して表示させる(S118)。そして、自車両位置取得部36aは、車両1が目標位置Pに到達したか判定し、到達していない場合(S120のNo)、S102に移行し、S102以降の処理を繰り返し実行する。この間、車両1が目標位置Pに対して移動した場合、視点/注視点変更部36eは、仮想視点Eの位置や注視点Tの位置を変更し、仮想視点画像生成部36fは、車両1の挙動に応じた仮想視点画像46Aを逐次生成して、表示装置8の表示内容を更新し、図8、図11、図14等に示すような表示を実行する。
S120において、自車両位置取得部36aが、車両1は目標位置Pに到達したと判定した場合(S120のYes)、視点/注視点変更部36eは、仮想視点Eの高さを変更する(S122)。例えば、図18に示すように、仮想視点Eの位置を仮想円筒面上で下方に移動して車両1に対する仮想視点Eの仰角を浅くする。その結果、仮想視点画像46Aに表示される自車画像1Aが、今までより低い位置から臨むような画像になり、車両1が目標位置Pに到達したことを利用者に理解させやすい表示となる。そして、このフローを終了する。
なお、仮想視点画像46Aの表示は、車両1が例えば走行支援装置や駐車支援装置等の制御により、アクセル操作、ブレーキ操作、操舵操作等全ての運転操作が自動で実行されて走行(移動)する場合に実行されることができる。また、一部の運転操作のみが自動制御され、残りの運転操作が運転者に委ねられる半自動制御で走行(移動)する場合に実行されてもよい。また、音声や表示メッセージ等による操作指示のみで、運転者が運転操作を行う手動走行で走行する場合や、操作指示もなく、運転者の意思による運転操作で走行(移動)する場合に実行されてもよい。
このように、実施形態の周辺表示制御装置によれば、車両1を目標位置Pに移動させる過程を、仮想視点画像46Aで表示する場合に、リアリティ性の低下を回避して、認識し易い違和感が軽減された表示を提供することができる。
なお、上述した各実施形態で示した、仮想視点Eの位置や注視点Tの位置は、一例である。したがって、仮想視点Eから注視点Tまでの距離を維持するとともに仮想視点Eと注視点Tの高さを維持した状態で、仮想視点Eの位置と注視点Tの位置の少なくとも一方を変更すればよく、仮想視点Eと注視点Tの位置を適宜変更しても、本実施形態と同様な効果を得ることができる。
実施形態のCPU14aで実行される周辺表示処理のためのプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
さらに、周辺表示処理プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、実施形態で実行される周辺表示処理プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1 車両、1A 自車画像、8 表示装置、10 操作入力部、14 ECU、14a CPU、15,15a,15b,15c,15d 撮像部、30 周辺表示制御部、32 画像取得部、34 目標取得部、36 画像生成部、36a 自車両位置取得部、36b 相対角取得部、36c 仮想視点設定部、36d 注視点設定部、36e 視点/注視点変更部、36f 仮想視点画像生成部、38 出力部、44,54 仮想円、44A,50A,54A 仮想円筒、46A 仮想視点画像、46B 俯瞰画像、48 他車両、50 第1仮想円、52 第2仮想円、100 車両制御システム、E 仮想視点、E0 視点方向参照点、T 注視点

Claims (5)

  1. 自車両の周辺を撮像した撮像画像データを取得する画像取得部と、
    前記自車両が移動する目標位置を取得する目標取得部と、
    前記自車両が前記目標位置に移動する際に、前記自車両の移動方向に対する前記目標位置の相対角度に基づき、前記自車両を挟んで前記目標位置を臨む位置に設定される仮想視点と当該仮想視点から前記自車両または前記目標位置の少なくとも一方を含む領域を臨む場合の注視点との距離を維持するとともに前記仮想視点と前記注視点の高さを維持した状態で前記仮想視点と前記注視点の少なくとも一方を、移動させながら仮想視点画像を生成する画像生成部と、
    前記仮想視点画像を表示装置に出力する出力部と、
    を含む、周辺表示制御装置。
  2. 前記画像生成部は、前記仮想視点を前記自車両の周囲に設定する仮想円筒の外周面に設定し、前記注視点を前記自車両の車両中心に対応する位置に設定する、請求項1に記載の周辺表示制御装置。
  3. 前記画像生成部は、前記仮想視点および前記注視点を前記自車両の周囲に設定する仮想円筒の外周面に設定する、請求項1に記載の周辺表示制御装置。
  4. 前記画像生成部は、前記仮想視点を前記目標位置を中心とする仮想円筒の外周面に設定し、前記注視点を前記目標位置に設定する、請求項1に記載の周辺表示制御装置。
  5. 前記画像生成部は、前記自車両が前記目標位置への移動を完了した場合、前記仮想視点の高さを変更する、請求項1から請求項4のいずれか1項に記載の周辺表示制御装置。


JP2019011351A 2019-01-25 2019-01-25 周辺表示制御装置 Active JP7222254B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019011351A JP7222254B2 (ja) 2019-01-25 2019-01-25 周辺表示制御装置
US16/751,498 US11440475B2 (en) 2019-01-25 2020-01-24 Periphery display control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019011351A JP7222254B2 (ja) 2019-01-25 2019-01-25 周辺表示制御装置

Publications (2)

Publication Number Publication Date
JP2020120327A JP2020120327A (ja) 2020-08-06
JP7222254B2 true JP7222254B2 (ja) 2023-02-15

Family

ID=71732122

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019011351A Active JP7222254B2 (ja) 2019-01-25 2019-01-25 周辺表示制御装置

Country Status (2)

Country Link
US (1) US11440475B2 (ja)
JP (1) JP7222254B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6699761B2 (ja) * 2017-01-16 2020-05-27 富士通株式会社 情報処理プログラム、情報処理方法および情報処理装置
JP7443705B2 (ja) 2019-09-12 2024-03-06 株式会社アイシン 周辺監視装置
JP7065068B2 (ja) * 2019-12-13 2022-05-11 本田技研工業株式会社 車両周囲監視装置、車両、車両周囲監視方法およびプログラム
US11410387B1 (en) * 2020-01-17 2022-08-09 Facebook Technologies, Llc. Systems, methods, and media for generating visualization of physical environment in artificial reality
US10950034B1 (en) 2020-01-27 2021-03-16 Facebook Technologies, Llc Systems, methods, and media for generating visualization of physical environment in artificial reality
JP7398637B2 (ja) * 2020-05-28 2023-12-15 パナソニックIpマネジメント株式会社 表示制御装置、車両及び表示制御方法
CN112836296B (zh) * 2021-01-28 2022-09-13 西南交通大学 一种虚拟轨道列车空间动力学模型的建模方法
JP7375792B2 (ja) * 2021-05-26 2023-11-08 トヨタ自動車株式会社 駐車支援装置
CN114115543B (zh) * 2021-11-30 2022-06-10 深圳市南天门网络信息有限公司 一种体感交互系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003264825A (ja) 2002-03-06 2003-09-19 Nissan Motor Co Ltd 車載カメラ映像合成表示装置
JP2008296697A (ja) 2007-05-30 2008-12-11 Aisin Seiki Co Ltd 駐車支援装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010112433A (ko) 1999-04-16 2001-12-20 마츠시타 덴끼 산교 가부시키가이샤 화상처리장치 및 감시시스템
JP3300334B2 (ja) 1999-04-16 2002-07-08 松下電器産業株式会社 画像処理装置および監視システム
JP3947375B2 (ja) 2001-08-24 2007-07-18 アイシン精機株式会社 駐車補助装置
JP5313072B2 (ja) * 2009-07-29 2013-10-09 日立オートモティブシステムズ株式会社 外界認識装置
WO2011158609A1 (ja) 2010-06-15 2011-12-22 アイシン精機株式会社 運転支援装置
JP6548900B2 (ja) * 2015-01-20 2019-07-24 株式会社デンソーテン 画像生成装置、画像生成方法及びプログラム
JP6477562B2 (ja) 2016-03-18 2019-03-06 株式会社デンソー 情報処理装置
JP6723820B2 (ja) * 2016-05-18 2020-07-15 株式会社デンソーテン 画像生成装置、画像表示システムおよび画像表示方法
US11193784B2 (en) * 2017-10-13 2021-12-07 Waymo Llc End of trip sequence

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003264825A (ja) 2002-03-06 2003-09-19 Nissan Motor Co Ltd 車載カメラ映像合成表示装置
JP2008296697A (ja) 2007-05-30 2008-12-11 Aisin Seiki Co Ltd 駐車支援装置

Also Published As

Publication number Publication date
US20200238909A1 (en) 2020-07-30
JP2020120327A (ja) 2020-08-06
US11440475B2 (en) 2022-09-13

Similar Documents

Publication Publication Date Title
JP7222254B2 (ja) 周辺表示制御装置
EP3132997B1 (en) Parking assistance device
JP7151293B2 (ja) 車両周辺表示装置
US11787335B2 (en) Periphery monitoring device
WO2018070298A1 (ja) 表示制御装置
JP7091624B2 (ja) 画像処理装置
WO2018150642A1 (ja) 周辺監視装置
JP6876236B2 (ja) 表示制御装置
JP6554866B2 (ja) 画像表示制御装置
WO2019058585A1 (ja) 表示制御装置
CN110997409B (zh) 周边监控装置
CN112492262A (zh) 图像处理装置
JP7283514B2 (ja) 表示制御装置
JP7119798B2 (ja) 表示制御装置
JP2019054439A (ja) 画像処理装置
US11475676B2 (en) Periphery monitoring device
JP7130923B2 (ja) 表示制御装置
JP7259914B2 (ja) 周辺監視装置
JP2018186432A (ja) 表示制御装置
JP6965563B2 (ja) 周辺監視装置
JP6601097B2 (ja) 表示制御装置
JP2018186387A (ja) 表示制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211210

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221228

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230117

R150 Certificate of patent or registration of utility model

Ref document number: 7222254

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150