JP7069548B2 - 周辺監視装置 - Google Patents

周辺監視装置 Download PDF

Info

Publication number
JP7069548B2
JP7069548B2 JP2017038796A JP2017038796A JP7069548B2 JP 7069548 B2 JP7069548 B2 JP 7069548B2 JP 2017038796 A JP2017038796 A JP 2017038796A JP 2017038796 A JP2017038796 A JP 2017038796A JP 7069548 B2 JP7069548 B2 JP 7069548B2
Authority
JP
Japan
Prior art keywords
vehicle
image
display
control unit
hitch
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017038796A
Other languages
English (en)
Other versions
JP2018144526A (ja
Inventor
陽司 乾
哲也 丸岡
一矢 渡邊
欣司 山本
いつ子 大橋
拓也 橋川
尚孝 久保田
崇 平槙
修 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to JP2017038796A priority Critical patent/JP7069548B2/ja
Priority to US15/890,700 priority patent/US20180253106A1/en
Publication of JP2018144526A publication Critical patent/JP2018144526A/ja
Application granted granted Critical
Publication of JP7069548B2 publication Critical patent/JP7069548B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60DVEHICLE CONNECTIONS
    • B60D1/00Traction couplings; Hitches; Draw-gear; Towing devices
    • B60D1/01Traction couplings or hitches characterised by their type
    • B60D1/06Ball-and-socket hitches, e.g. constructional details, auxiliary devices, their arrangement on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60DVEHICLE CONNECTIONS
    • B60D1/00Traction couplings; Hitches; Draw-gear; Towing devices
    • B60D1/24Traction couplings; Hitches; Draw-gear; Towing devices characterised by arrangements for particular functions
    • B60D1/36Traction couplings; Hitches; Draw-gear; Towing devices characterised by arrangements for particular functions for facilitating connection, e.g. hitch catchers, visual guide means, signalling aids
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60DVEHICLE CONNECTIONS
    • B60D1/00Traction couplings; Hitches; Draw-gear; Towing devices
    • B60D1/58Auxiliary devices
    • B60D1/62Auxiliary devices involving supply lines, electric circuits, or the like
    • B60K35/28
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/002Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles specially adapted for covering the peripheral part of the vehicle, e.g. for viewing tyres, bumpers or the like
    • B60R1/003Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles specially adapted for covering the peripheral part of the vehicle, e.g. for viewing tyres, bumpers or the like for viewing trailer hitches
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00Conjoint control of vehicle sub-units of different type or different function
    • B60W10/18Conjoint control of vehicle sub-units of different type or different function including control of braking systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00Conjoint control of vehicle sub-units of different type or different function
    • B60W10/20Conjoint control of vehicle sub-units of different type or different function including control of steering systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • B60W30/0956Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/18Propelling the vehicle
    • B60W30/18009Propelling the vehicle related to particular drive situations
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/18Propelling the vehicle
    • B60W30/18009Propelling the vehicle related to particular drive situations
    • B60W30/18036Reversing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • B62D15/0285Parking performed automatically
    • B60K2360/173
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/808Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for facilitating docking to a trailer
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2300/00Indexing codes relating to the type of vehicle
    • B60W2300/14Trailers, e.g. full trailers, caravans
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/16Ratio selector position
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/215Selection or confirmation of options
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2555/00Input parameters relating to exterior conditions, not covered by groups B60W2552/00, B60W2554/00
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2710/00Output or target parameters relating to a particular sub-units
    • B60W2710/18Braking system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2710/00Output or target parameters relating to a particular sub-units
    • B60W2710/20Steering systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2720/00Output or target parameters relating to overall vehicle dynamics
    • B60W2720/10Longitudinal speed
    • B60W2720/106Longitudinal acceleration

Description

本発明の実施形態は、周辺監視装置に関する。
従来、車両に設置された撮像装置で車両の周辺環境を撮像し、撮像された画像を車室内に設けられた表示画面を介して運転者に提供する技術が知られている。運転者は、車両にトレーラ(被牽引車)を連結する作業において、表示画面に表示された画像を、車両とトレーラとの位置関係の確認に役立てることができる。
特許第3945467号公報 特開2006-1533号公報
本発明の課題の一つは、車両とトレーラとの連結作業を容易化する周辺監視装置を提供することである。
本発明の実施形態にかかる周辺監視装置は、一例として、車両に設けられた第1の連結装置と被牽引車に設けられた第2の連結装置とが映った第1の画像を取得する第1取得部と、前記第2の連結装置の高さ情報を取得する第2取得部と、前記第1の画像における前記第2の連結装置の表示位置と前記高さ情報とに基づいて前記第1の連結装置と前記第2の連結装置との位置関係を演算し、前記位置関係に基づいて前記第1の連結装置と前記第2の連結装置とが連結するに至るまでの前記車両の経路を演算し、前記経路に従って前記車両を誘導する誘導制御部と、前記第1の連結装置と前記第2の連結装置との距離が所定値より大きい場合、前記第1の画像を前記車両の室内に設けられた表示画面に表示し、前記距離が前記所定値より小さい場合、前記第1の画像を前記第1の連結装置、又は、前記第2の連結装置の前記高さ情報に基づいて、地面より高い位置に設定された水平面に投影し、前記水平面に投影された前記第1の画像を前記車両の上方から見た第2の画像を生成し、前記第2の画像を前記表示画面に表示する表示制御部と、を備えた。
よって、上記周辺監視装置は、連結作業において車両を自動誘導できるので、車両とトレーラとの連結作業を容易化することが可能である。また、上記周辺監視装置は、自動誘導中においては第2の連結装置の表示位置の移動速度を車両の速度に対応させることができるので、乗員は、より簡単に連結装置同士の位置合わせを行うことが可能となる。
また、上記周辺監視装置では、一例として、前記第1取得部は、前記第2の連結装置の表示位置を特定する入力を前記車両に設けられた操作入力部を介して取得する。
よって、上記周辺監視装置は、簡単なアルゴリズムで第2の連結装置の表示位置を特定することができる。
また、上記周辺監視装置では、一例として、前記誘導制御部は、前記第1の画像に対して画像認識処理を実行することによって前記第2の連結装置の表示位置を特定する。
よって、乗員による入力を要することなく第2の連結装置の表示位置が特定されるので、乗員の操作負担が軽減される。
また、上記周辺監視装置では、一例として、第2取得部は、前記高さ情報を前記車両に設けられた操作入力部を介して取得する。
よって、上記周辺監視装置は、簡単なアルゴリズムで第2の連結装置の高さ情報を取得することができる。
また、上記周辺監視装置では、一例として、前記第1の画像に対してステレオ画像処理を実行することによって前記高さ情報を取得する。
よって、乗員による高さ情報の入力を不要とすることができるので、乗員の操作負担が軽減される。
図1は、第1の実施形態の周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。 図2は、車両が備える第1の実施形態の周辺監視システムの構成を示す図である。 図3は、第1の実施形態の車両に連結されるトレーラの一例を示す図である。 図4は、車両の後方を撮像する第1の実施形態のカメラの撮像領域を説明するための図である。 図5は、第1の実施形態のECUの機能的構成を示すブロック図である。 図6は、ヒッチボールの高さ情報を説明するための図である。 図7は、第1の実施形態のECUの動作を説明するフローチャートである。 図8は、第1の実施形態のECUの動作を説明するフローチャートである。 図9は、第1の実施形態のECUの動作を説明するフローチャートである。 図10は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図11は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図12は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図13は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図14は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図15は、3次元空間内の位置を特定する方法の一例を説明するための図である。 図16は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図17は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図18は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図19は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図20は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図21は、第1の実施形態の広域俯瞰画像が示す領域の例を示す図である。 図22は、第1の実施形態の広域俯瞰画像が示す領域の例を示す図である。 図23は、第1の実施形態のECUによる表示画面の表示例を示す図である。 図24は、第1の実施形態のECUによる表示画面の表示例を示す図である。
以下、本実施形態の周辺監視装置を車両1に搭載した例をあげて説明する。
<第1の実施形態>
実施形態の車両1は、例えば、不図示の内燃機関を駆動源とする自動車、すなわち内燃機関自動車であってもよいし、不図示の電動機を駆動源とする自動車、すなわち電気自動車または燃料電池自動車等であってもよいし、それらの双方を駆動源とするハイブリッド自動車であってもよいし、他の駆動源を備えた自動車であってもよい。また、車両1は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置、例えばシステムや部品等を搭載することができる。また、車両1における車輪3の駆動に関わる装置の方式、数、およびレイアウト等は、種々に設定することができる。
図1は、第1の実施形態の周辺監視装置を搭載する車両1の車室2aの一部が透視された状態の一例が示された斜視図である。図2は、車両1が備える第1の実施形態の周辺監視システム100の構成を示す図である。
図1に例示されるように、車体2は、不図示の乗員が乗車する車室2aを構成している。車室2a内には、乗員としての運転者の座席2bに臨む状態で、操舵部4、加速操作部5、制動操作部6、変速操作部7等が設けられている。操舵部4は、例えば、ダッシュボード24から突出したステアリングホイールであり、加速操作部5は、例えば、運転者の足下に位置されたアクセルペダルであり、制動操作部6は、例えば、運転者の足下に位置されたブレーキペダルであり、変速操作部7は、例えば、センターコンソールから突出したシフトレバーである。なお、操舵部4、加速操作部5、制動操作部6、変速操作部7等は、これらには限定されない。
また、車室2a内には、表示画面8が設けられている。表示画面8は、例えば、LCD(liquid crystal display)またはOELD(organic electroluminescent display)等である。また、表示画面8は、例えば、タッチパネル等、透明な操作入力部9で覆われている。乗員は、表示画面8に表示される画像を操作入力部9を介して視認することができる。また、乗員は、表示画面8に表示される画像に対応した位置で手指等で操作入力部9を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示画面8、操作入力部9等は、例えば、ダッシュボード24の車幅方向すなわち左右方向の中央部に位置されたモニタ装置11に設けられている。モニタ装置11は、スイッチ、ダイヤル、ジョイスティック、または押しボタン等の不図示の操作入力部を有することができる。モニタ装置11は、例えば、ナビゲーションシステムまたはオーディオシステムと兼用され得る。
また、図1に例示されるように、車両1は、例えば、四輪自動車である。車両1は、左右2つの前輪3Fと、左右2つの後輪3Rとを有する。これら4つの車輪3は、いずれも転舵可能に構成されうる。図2に例示されるように、車両1は、少なくとも2つの車輪3を操舵する操舵システム13を有している。操舵システム13は、アクチュエータ13aと、トルクセンサ13bとを有する。操舵システム13は、ECU14(electronic control unit)等によって電気的に制御されて、アクチュエータ13aを動作させる。操舵システム13は、例えば、電動パワーステアリングシステム、またはSBW(steer by wire)システム、等である。操舵システム13は、アクチュエータ13aによって操舵部4にトルク、すなわちアシストトルクを付加して操舵力を補ったり、アクチュエータ13aによって車輪3を転舵したりする。
また、図1に例示されるように、車両1の後方には、ヒッチボール16が設けられている。ヒッチボール16は、牽引対象のトレーラを車両1に連結する連結装置である。
図3は、牽引対象のトレーラ200の一例を示す図である。この例では、トレーラ200はキャンピングトレーラであるが、牽引対象のトレーラ200はキャンピングトレーラに限定されない。トレーラ200の前端部には、ヒッチカプラ201が取り付けられている。ヒッチカプラ201は、トレーラ200側の連結装置であり、ヒッチボール16と連結可能である。連結作業においては、ヒッチボール16がヒッチカプラ201の真下にくるように車両1が移動せしめられ、その後、ヒッチカプラ201とヒッチボール16とが連結される。
なお、ヒッチボール16およびヒッチカプラ201は連結装置の組み合わせの一例である。例えば第5輪およびキングピンの組み合わせなど、他の任意の連結装置が採用され得る。
また、図1に例示されるように、車体2には、複数のカメラ15として、例えば4つのカメラ15a~15dが設けられている。各カメラ15は、例えば、CCD(charge coupled device)またはCIS(CMOS image sensor)等の撮像素子を内蔵する撮像装置である。各カメラ15は、所定のフレームレートで動画(撮像画像)を出力することができる。各カメラ15は、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°~220°の範囲を撮影することができる。よって、各カメラ15は、車両1の周辺環境を逐次撮影し、撮像画像として出力する。
カメラ15aは、例えば、車体2の後側の端部2cに位置され、リアハッチのドア2dのリアウインドウの下方の壁部に設けられている。図4に例示されるように、カメラ15aの光軸は、カメラ15aの撮像領域800にヒッチボール16が入るように、水平方向よりも若干地面700の方向に向けて設定されている。カメラ15bは、例えば、車体2の右側のドアミラー2eに設けられている。カメラ15cは、例えば、車体2の前側、すなわち車両前後方向のフロントバンパーまたはフロントグリル等に設けられている。カメラ15dは、例えば、車体2の左側のドアミラー2eに設けられている。
図2に例示されるように、周辺監視システム100は、モニタ装置11、操舵システム13、およびECU14の他に、ブレーキシステム18、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22等を備える。モニタ装置11、操舵システム13、ECU14、ブレーキシステム18、舵角センサ19、アクセルセンサ20、シフトセンサ21、および車輪速センサ22は、電気通信回線としての車内ネットワーク23に接続されている。車内ネットワーク23は、例えば、CAN(controller area network)として構成されている。ECU14は、車内ネットワーク23を通じて制御信号を送ることで、操舵システム13、ブレーキシステム18等を制御することができる。また、ECU14は、車内ネットワーク23を介して、トルクセンサ13b、ブレーキセンサ18b、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22等のセンサ値や、操作入力部9等の操作情報を、受け取ることができる。
ブレーキシステム18は、例えば、ブレーキのロックを抑制するABS(anti-lock brake system)、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:electronic stability control)、ブレーキ力を増強させる(ブレーキアシストを実行する)電動ブレーキシステム、またはBBW(brake by wire)等である。ブレーキシステム18は、アクチュエータ18aを介して、車輪3ひいては車両1に制動力を与える。ブレーキセンサ18bは、例えば、制動操作部6の可動部(例えば、ブレーキペダル)の位置を検出するセンサである。
舵角センサ19は、例えば、ステアリングホイール等の操舵部4の操舵量を検出するセンサである。ECU14は、運転者による操舵部4の操舵量、または自動操舵時の各車輪3の操舵量等を、舵角センサ19から取得して各種制御を実行する。
アクセルセンサ20は、例えば、加速操作部5の可動部(例えば、アクセルペダル)の位置を検出するセンサである。
シフトセンサ21は、例えば、変速操作部7の可動部の位置(レンジ)を検出するセンサである。シフトセンサ21は、例えば、パーキングレンジ、リバースレンジ、ドライブレンジ、およびニュートラルレンジを含む複数のレンジのうちから、可動部のレンジを検出する。
車輪速センサ22は、車輪3の回転量または単位時間当たりの回転数を検出するセンサである。車輪速センサ22は、各車輪3に配置され、各車輪3で検出した回転数を示す車輪速パルス数をセンサ値として出力する。ECU14は、車輪速センサ22から取得したセンサ値に基づいて車両1の移動量などを演算し、各種制御を実行する。
ECU14は、周辺監視装置の一例である。ECU14は、例えば、CPU(Central Processing Unit)14a、ROM(Read Only Memory)14b、RAM(Random Access Memory)14c、およびSSD(Solid State Drive)14dを備える。CPU14aは、演算装置であり、ROM14b、RAM14c、およびSSD14dは、記憶装置である。即ち、ECU14は、コンピュータのハードウェア構成を備える。なお、ECU14は、複数のコンピュータによって構成されてもよい。
CPU14aは、ROM14bにインストールされ記憶された周辺監視プログラム140を実行することによって、周辺監視装置としての機能を実現する。周辺監視プログラム140は、ROM14bに替えてSSD14dにインストールされていてもよい。RAM14cは、CPU14aでの演算で用いられる各種のデータを一時的に記憶する。SSD14dは、書き換え可能な不揮発性の記憶装置であって、ECU14の電源がオフされた場合にあってもデータを記憶することができる。CPU14a、ROM14b、およびRAM14c等は、同一パッケージ内に集積され得る。また、ECU14は、CPU14aに替えて、DSP(Digital Signal Processor)等の他の論理演算プロセッサまたは論理回路等が用いられる構成であってもよい。また、SSD14dに替えてHDD(Hard Disk Drive)が設けられてもよいし、SSD14dまたはHDDは、ECU14とは別に設けられてもよい。
周辺監視プログラム140は、コンピュータにインストール可能な形式又は実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disk)、またはフラッシュメモリ等の、コンピュータで読み取り可能な記録媒体に記録されて提供され得る。
また、周辺監視プログラム140は、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、周辺監視プログラム140は、インターネット等のネットワーク経由で提供または配布され得る。
ECU14は、複数のカメラ15で得られた撮像画像に基づいて演算処理または画像処理を実行し、より広い視野角の画像を生成したり、車両1を上方から見た仮想的な俯瞰画像を生成したりすることができる。また、ECU14は、各カメラ15で得られた広角画像のデータに演算処理または画像処理を実行し、特定の領域を切り出した画像を生成したり、特定の領域のみを示す画像を生成したり、特定の領域のみが強調されたような画像を生成したりする。また、ECU14は、撮像画像をカメラ15が撮像した視点とは異なる視点(仮想視点)から撮像したような仮想画像に変換(視点変換)することができる。ECU14は、取得した撮像画像を表示画面8に表示することで、例えば、車両1の右側方や左側方の安全確認、車両1を俯瞰してその周囲の安全確認を実行できるような周辺監視情報を提供することができる。また、車両1の後退時には、ECU14は、カメラ15aで得られた撮像画像に基づいて、車両1の後方の環境を示す画像を表示画面8に表示する。車両1の後方の環境を示す画像を表示画面8に表示するモードを、リアビューモードと表記する。また、カメラ15aで得られた撮像画像を、後方画像と表記する。
ここで、運転者は、車両1にトレーラ200を連結する場合、車両1の後方にトレーラ200の略正面を臨む位置に車両1を移動させ、その後、車両1を後退させることによって、ヒッチボール16とヒッチカプラ201とを連結可能な位置まで車両1を移動させる。本実施形態の周辺監視装置としてのECU14は、車両1の後退時に、リアビューモードで動作するとともに、ヒッチボール16とヒッチカプラ201とを連結可能な位置まで車両1を自動で誘導することができる。
図5は、第1の実施形態のECU14の機能的構成を示すブロック図である。ECU14は、第1取得部101、第2取得部102、誘導制御部103、および表示制御部104として機能する。CPU14aは、ROM14bから周辺監視プログラム140を読み出して実行することによって、第1取得部101、第2取得部102、誘導制御部103、および表示制御部104としての機能を実現する。
第1取得部101は、各カメラ15から撮像画像を取得する。特に、第1取得部101は、リアビューモードにおいて、ヒッチボール16とヒッチカプラ201とが映っている後方画像をカメラ15aから取得する。
また、第1取得部101は、リアビューモードにおいて、ヒッチボール16およびヒッチカプラ201を特定する入力を取得する。一例では、表示制御部104は、ヒッチボール16とヒッチカプラ201とが映っている後方画像を表示画面8に表示する。そして、乗員がヒッチボール16およびヒッチカプラ201が表示されている位置をそれぞれタッチすると、それぞれのタッチ操作が操作入力部9によって検出され、検出されたそれぞれのタッチ操作がヒッチボール16を特定する入力およびヒッチカプラ201を特定する入力として第1取得部101によって取得される。
また、第1取得部101は、舵角センサ19のセンサ値、シフトセンサ21のセンサ値、および車輪速センサ22のセンサ値を取得する。
第2取得部102は、ヒッチボール16の高さ情報を取得する。ヒッチボール16の高さ情報は、例えば図6に示されるように、地面700からヒッチボール16のボール部分の中心までの距離Hを示す。ヒッチボール16の高さ情報は、車両1を誘導する経路の演算において、ヒッチカプラ201の高さ情報の代用として用いられる。ヒッチボール16とヒッチカプラ201とはほとんど同じ高さに位置すると仮定されるからである。
なお、ヒッチボール16の高さ情報の取得方法は特定の方法に限定されない。ここでは、ヒッチボール16の高さ情報は、例えば次のように取得される。表示制御部104は、ヒッチボール16の高さ情報の入力を促す設定画面を表示画面8に表示する。乗員は、設定画面においてタッチ操作を行うことによって、ヒッチボール16の高さ情報を入力する。第2取得部102は、入力されたヒッチボール16の高さ情報を取得する。なお、設定画面の表示タイミングは、特定のタイミングに限定されない。設定画面は、任意のタイミングで呼び出され得る。
誘導制御部103は、第1取得部101および第2取得部102が取得した各種情報に基づいて、車両1がヒッチボール16とヒッチカプラ201とを連結可能な位置に至るまでの車両1の経路を演算する。車両1の経路の演算アルゴリズムは後述する。
表示制御部104は、リアビューモードにおいて、ヒッチボール16とヒッチカプラ201とが映っているカメラ15aからの後方画像を表示画面8に表示する。また、表示制御部104は、リアビューモードにおいて、ヒッチボール16を含むヒッチボール16の周辺が映っている俯瞰画像である局所俯瞰画像を後方画像に基づいて生成し、生成した局所俯瞰画像を表示画面8に表示する。局所俯瞰画像の生成アルゴリズムについては後述する。
表示制御部104は、リアビューモードにおいて、ヒッチボール16とヒッチカプラ201との距離が予め決められたしきい値Dth1より大きい場合には、後方画像を表示画面8に表示し、ヒッチボール16とヒッチカプラ201との距離がDth1より小さい場合には、局所俯瞰画像を表示する。
以降、リアビューモードのうちの後方画像を表示するモードを第1リアビューモードと表記する。また、リアビューモードのうちの局所俯瞰画像を表示するモードを第2リアビューモードと表記する。
なお、リアビューモードにおいて、表示制御部104は、後方画像と局所俯瞰画像とを同時に表示してもよい。後方画像と局所俯瞰画像とを同時に表示する場合は、表示制御部104は、表示画面8に複数の表示領域を設け、一の表示領域に後方画像を表示し、他の表示領域に局所俯瞰画像を表示する。
また、リアビューモードにおいて、表示制御部104は、局所俯瞰画像を表示せず、常に後方画像を表示してもよい。また、後方画像と局所俯瞰画像との表示切り替えの条件は、ヒッチボール16とヒッチカプラ201との距離にかかる条件だけに限定されない。
表示制御部104は、さらに、ヒッチボール16およびヒッチカプラ201の表示位置にそれぞれ識別情報を表示する。各識別情報の形状は特定の形状に限定されない。ここでは一例として、各識別情報は十字線の形状を有することとする。また、表示制御部104は、車両1の移動に応じて変化するヒッチカプラ201の表示位置に、十字線を追従させる。
図7~図9は、第1の実施形態の周辺監視装置としてのECU14の動作を説明するフローチャートである。また、図10~図14は、第1の実施形態の周辺監視装置としてのECU14による表示画面8の表示例を示す図である。
まず、第2取得部102は、ヒッチボール16の高さ情報を取得する(S101)。なお、前述したように、ヒッチボール16の高さ情報は、任意のタイミングで取得可能である。
続いて、表示制御部104は、リアビューモードの開始タイミングに至ったか否かを判定する(S102)。リアビューモードの開始タイミングの判定方法は特定の方法に限定されない。一例では、表示制御部104は、シフトセンサ21からのセンサ値を第1取得部101を介して逐次取得し、変速操作部7の位置を監視する。表示制御部104は、変速操作部7がリバースレンジ以外に位置している場合、リアビューモードの開始タイミングに至っていないと判定し、変速操作部7の位置が他のレンジからリバースレンジに遷移した場合、リアビューモードの開始タイミングに至ったと判定する。
リアビューモードの開始タイミングに至っていないと判定された場合には(S102、No)、表示制御部104は、S102の判定処理を再び実行する。リアビューモードの開始タイミングに至ったと判定された場合には(S102、Yes)、表示制御部104は、カメラ15aからの後方画像を第1取得部101を介して取得して、取得した後方画像を表示画面8に表示する(S103)。即ち、表示制御部104は、リアビューモードでの動作を開始する。表示制御部104は、所定のフレームレートで逐次出力される後方画像を表示画面8に逐次出力する。
リアビューモードが開始すると、図10に例示されるように、表示画面8の表示領域80に、後方画像が表示される。図10の例では、表示領域80に表示された後方画像には、車両1のリアバンパーを映した画像300、ヒッチボール16を映した画像301、トレーラ200を映した画像400、およびヒッチカプラ201を映した画像401が含まれている。また、表示領域80の右上には、OKボタン500が表示されている。OKボタン500については後述する。
なお、表示制御部104は、カメラ15aからの後方画像を必ずしもそのまま表示画面8に表示しなくてもよい。表示制御部104は、カメラ15aからの後方画像に対して任意の加工を行った後、表示画面8に表示してもよい。加工とは、合成、切り抜き、フィルタ処理、任意の情報の重畳、などを含む。
続いて、第1取得部101は、ヒッチボール16を特定する入力(正確には、ヒッチボール16の表示位置を特定する入力)を取得する(S104)。すると、表示制御部104は、表示画面8上のヒッチボール16の表示位置に十字線(第1の十字線501)を重畳表示する(S105)。
ヒッチボール16を特定する入力は、前述したように、例えばタッチ操作によって入力される。図11の上段に例示されるように、ヒッチボール16を映した画像301が乗員の手指600によりタッチされると、タッチされた位置はヒッチボール16を特定する入力として取得される。そして、図11の下段に例示されるように、表示制御部104は、タッチされた位置に第1の十字線501を重畳表示する。第1の十字線501は、点線など実線以外の種類の線で表示されてもよいし、任意の色で着色表示されてもよい。
続いて、第1取得部101は、ヒッチカプラ201を特定する入力(正確には、ヒッチカプラ201の表示位置を特定する入力)を取得する(S106)。すると、表示制御部104は、表示画面8上のヒッチカプラ201の表示位置に十字線(第2の十字線502)を重畳表示する(S107)。
ヒッチカプラ201を特定する入力は、前述したように、例えばタッチ操作によって入力される。図12の上段に例示されるように、ヒッチカプラ201を映した画像401が手指600によりタッチされると、タッチされた位置はヒッチカプラ201を特定する入力として取得される。そして、図12の下段に例示されるように、表示制御部104は、タッチされた位置に第2の十字線502を重畳表示する。第2の十字線502は、点線など実線以外の種類の線で表示されてもよいし、任意の色で着色表示されてもよい。
なお、S104の処理とS106の処理との順番は、上記に限定されない。S104の処理よりも先にS106の処理が実行されてもよい。
また、S104およびS106の処理の際に、第1取得部101が、表示画面8の表示内容を拡大または縮小する操作入力を受け付けて、表示制御部104が、受け付けた操作入力に従って画像を拡大または縮小して表示画面8に表示してもよい。例えば、操作入力部9は、ピンチアウトの入力を受け付けた時、第1取得部101は、その入力を、画像を拡大する操作入力として取得する。ピンチアウトとは、2本の指で操作入力部9を触れて、その2本の指を広げるようにスライドさせる操作である。表示制御部104は、2本の指のちょうど中間の部分を中心として、表示中の画像を拡大する。また、操作入力部9は、ピンチインの入力を受け付けた時、第1取得部101は、その入力を、画像を縮小する操作入力として取得する。ピンチインとは、2本の指で操作入力部9を触れて、その2本の指で対象をつまむようにスライドさせる操作である。表示制御部104は、2本の指のちょうど中間の部分を中心として、表示中の画像を縮小する。このように、表示画面8の表示内容を乗員による操作入力に応じて拡大/縮小することが可能に構成されることで、乗員は、S104およびS106の処理の際に、画像を拡大してタッチすることが可能である。よって、乗員は、ヒッチボール16およびヒッチカプラ201が映っている位置をより正確にタッチすることが可能となる。
続いて、誘導制御部103は、誘導開始のタイミングに至ったか否かを判定する(S108)。誘導開始のタイミングに至っていないと判定された場合(S108、No)、S108の処理が再び実行される。誘導開始のタイミングに至ったと判定された場合(S108、Yes)、誘導制御部103は、自動誘導を開始する。
誘導開始のタイミングの判定方法は特定の方法に限定されない。ここでは一例として、図13の上段に例示されるように、OKボタン500が手指600によってタッチされると、OKボタン500をタッチする入力は、自動誘導の設定完了通知として取得される。誘導制御部103は、自動誘導の設定完了通知を取得すると、誘導開始のタイミングに至ったと判定する。自動誘導が開始すると、表示制御部104は、例えば図13の下段に例示されるように、自動誘導を実行中である旨を示す識別情報503を表示する。
自動誘導の開始時には、誘導制御部103は、経路の演算を行う。具体的には、まず、誘導制御部103は、3次元空間内のヒッチボール16の位置を演算する(S109)。3次元空間の原点は、特定の位置に限定されない。また、3次元空間の座標系は、特定の座標系に限定されない。
図15は、3次元空間内の位置を特定する方法の一例を説明するための図である。本図において、枠150は、後方画像の枠に対応する。カメラ15aによって得られた撮像画像においては、地面700上の点702とカメラ15aとを結ぶ直線701上の各位置に存在する対象物は、撮像画像上の一点151に重なって表示される。しかしながら、直線701の或る位置703の地面700からの高さ情報Hiが既知である場合、位置703の3次元空間内の座標は一意に決まる。即ち、高さ情報と後方画像における表示位置とから、3次元空間内の位置が求まる。このような関係に基づき、誘導制御部103は、ヒッチボール16の表示位置と高さ情報とを用いて3次元空間内のヒッチボール16の位置を演算する。
さらに、誘導制御部103は、同様の手順で、3次元空間内のヒッチカプラ201の位置を演算する(S110)。上述したように、ここでは、誘導制御部103は、ヒッチカプラ201の高さ情報をヒッチボール16の高さ情報で代用する。
続いて、誘導制御部103は、3次元空間内におけるヒッチボール16およびヒッチカプラ201の位置関係に基づいて、現在の位置から、ヒッチボール16とヒッチカプラ201とが連結可能な位置、即ちヒッチカプラ201の真下にヒッチボール16が存在する位置、に車両1が至るまでの車両1の経路を演算する(S111)。
現在位置からヒッチボール16とヒッチカプラ201とが連結可能な位置までの経路の演算方法は、特定の方法に限定されない。一例では、誘導制御部103は、ヒッチボール16の現在位置から地面700に下ろした垂線の足と、ヒッチカプラ201から地面700に下ろした垂線の足とを演算する。即ち、誘導制御部103は、ヒッチボール16とヒッチカプラ201との水平的な位置関係を演算する。誘導制御部103は、ヒッチボール16の現在位置から地面に下ろした垂線の足を始点とし、ヒッチカプラ201から地面に下ろした垂線の足を終点とする、ヒッチボール16の経路を演算する。そして、誘導制御部103は、ヒッチボール16の経路を車両1の経路に変換する。
なお、水平的な位置関係は、地面700に下ろした垂線の足同士の位置関係に限定されない。例えば、ヒッチカプラ201またはヒッチボール16の高さの水平面など、地面700以外の任意の水平面に下ろした垂線の足同士の位置関係であってもよい。
続いて、誘導制御部103は、車両1が演算された経路に沿って移動するように、自動操舵を実行する(S112)。誘導制御部103は、車両1が演算された経路に沿って移動するように舵角を決定し、操舵システム13に指示を出して車輪3を決定した舵角に転舵する。乗員は、加速操作部5および制動操作部6を操作するだけで車両1を経路に沿って移動させることができる。なお、誘導制御部103は、操舵だけでなく加減速も自動で制御してもよい。
誘導の開始後、ECU14は、車両1が経路の終点に至ったと判定されるまで(S113、Yes)、S113からS115またはS116までのループ処理を繰り返し実行する。ループ処理の実行タイミングは任意に設計可能である。ループ処理は、例えば0.1秒毎、または、1フレームの後方画像が取得される毎など、所定の時間間隔で実行されてもよいし、車両1が0.05mなど所定の距離だけ移動する毎に実行されてもよい。
ループ処理において、まず、誘導制御部103は、車両1が経路の終点に至ったか否かを判定する(S113)。具体的には、誘導制御部103は、車両1の現在位置を推定する。そして、誘導制御部103は、推定された現在位置が経路の終点と一致するか否かを判定する。
車両1の現在位置の推定方法は、特定の方法に限定されない。一例では、誘導制御部103は、車輪速センサ22のセンサ値を第1取得部101を介して取得して、取得したセンサ値を用いたホイールオドメトリによって現在位置を推定する。別の例では、誘導制御部103は、不図示のGPS(Global Positioning System)を用いて現在位置を特定する。さらに別の例では、誘導制御部103は、逐次取得される後方画像を用いてオプティカルフローを作成し、作成したオプティカルフローに基づいて現在位置を推定する。
車両1が経路の終点に至っていないと判定された場合(S113、No)、表示制御部104は、ヒッチボール16とヒッチカプラ201との距離がDth1より小さいか否かを判定する(S114)。
ヒッチボール16とヒッチカプラ201との距離がDth1より小さくないと判定された場合(S114、No)、表示制御部104は、第1リアビューモードで表示を実行する(S115)。
第1リアビューモードでは、図8に例示されるように、第1取得部101は、まず、後方画像を取得する(S201)。表示制御部104は、後方画像におけるヒッチボール16およびヒッチカプラ201の表示位置をそれぞれ特定する(S202)。
カメラ15aとヒッチボール16との位置関係は固定されている。よって、表示制御部104は、S104の処理によって特定された位置を、ヒッチボール16の表示位置とすることができる。
ヒッチカプラ201の表示位置の特定方法としては、任意の方法が採用可能である。一例では、表示制御部104は、S106の処理によって特定された位置を中心とする単位領域内の画像を記憶する。単位領域は、後方画像に比べて小さい領域であって、大きさが固定された領域である。表示制御部104は、現在の後方画像に位置を変えながら逐次、単位領域を設定し、設定された各単位領域内の画像と記憶している画像とを比較することによって、記憶している画像と最も類似している単位領域を探索する。類似/非類似の判断は、例えば特徴量の比較によって判断される。表示制御部104は、探索された単位領域の中心を、現在の後方画像におけるヒッチカプラ201の表示位置として決定する。表示制御部104は、ヒッチカプラ201の表示位置を決定した後、記憶している単位領域内の画像を、決定された表示位置を中心とする単位領域内の画像で上書きしてもよい。
別の例では、表示制御部104は、誘導制御部103が推定した車両1の現在位置に基づいて、カメラ15aとヒッチカプラ201との3次元空間内の位置関係を演算し、演算によって得られた位置関係に基づいてヒッチカプラ201の表示位置を特定する。カメラ15aとヒッチカプラ201との3次元空間内の位置関係は、ホイールオドメトリ、GPSからの信号、または画像処理など、任意の方法で演算され得る。
続いて、表示制御部104は、後方画像に第1の十字線501および第2の十字線502を重畳する(S203)。即ち、表示制御部104は、特定されたヒッチボール16の表示位置に第1の十字線501を重畳し、特定されたヒッチカプラ201の表示位置に第2の十字線502を重畳する。
続いて、表示制御部104は、第1の十字線501および第2の十字線502が重畳された後方画像を表示画面8に表示する(S204)。そして、S201の処理に制御が移る。
第1のリアビューモードでは、S201~S204のループ処理が繰り返し実行されることで、ヒッチカプラ201の表示位置の移動に追従するように第2の十字線502の表示位置が逐次更新される。
図7に戻り、ヒッチボール16とヒッチカプラ201との距離がDth1より小さいと判定された場合(S114、Yes)、表示制御部104は、第2リアビューモードで表示を実行する(S116)。
第2リアビューモードでは、図9に例示されるように、第1取得部101は、まず、後方画像を取得する(S301)。表示制御部104は、S202と同様の手順で、後方画像におけるヒッチボール16およびヒッチカプラ201の表示位置をそれぞれ特定する(S302)。表示制御部104は、特定したそれぞれの位置を記憶しておく。
続いて、表示制御部104は、仮想投影面と仮想視点とを設定する(S303)。
仮想投影面は、地面700と平行な平面すなわち水平面であり、地面700からの仮想投影面の高さは、ヒッチカプラ201の高さと等しい。なお、仮想投影面の高さは、ヒッチカプラ201の高さと厳密に一致していなくてもよく、ヒッチカプラ201の高さとおよそ等しければよい。即ち、仮想投影面の高さは、ヒッチカプラ201の高さと対応する。例えば、表示制御部104は、ヒッチボール16の高さ情報を以て仮想投影面の高さとする。仮想視点は、車両1の後方に位置し、車両1に対して相対的な位置に固定されている。例えば、仮想視点は、ヒッチボール16の真上に位置し、仮想視点の光軸は下向きに固定されている。
続いて、表示制御部104は、後方画像を仮想投影面に投影する(S304)。そして、表示制御部104は、仮想投影面に投影された画像を仮想視点から見た画像に視点変換する(S305)。表示制御部104は、S305の処理によって局所俯瞰画像を得る。
表示制御部104は、局所俯瞰画像に第1の十字線501および第2の十字線502を重畳する(S306)。即ち、表示制御部104は、ヒッチボール16の表示位置に第1の十字線501を重畳し、ヒッチカプラ201の表示位置に第2の十字線502を重畳する。
表示制御部104は、S302の処理によって特定したヒッチボール16およびヒッチカプラ201の表示位置に対し、S303およびS304の演算を実行することで、局所俯瞰画像内のヒッチボール16の表示位置とヒッチカプラ201の表示位置とを得ることができる。なお、局所俯瞰画像内のヒッチボール16およびヒッチカプラ201の表示位置の特定方法はこれに限定されない。
続いて、表示制御部104は、第1の十字線501および第2の十字線502が重畳された局所俯瞰画像を表示画面8に表示する(S307)。そして、S301の処理に制御が移る。
第2リアビューモードでは、S301~S307のループ処理が繰り返し実行されることで、ヒッチカプラ201の表示位置の移動に追従するように第2の十字線502の表示位置が逐次更新される。
図14に例示されるように、第2リアビューモードでは、表示画面8の表示領域80には、ヒッチボール16を真上から見た局所俯瞰画像が表示される。仮に、後方画像を仮想的な地面700に投影した後に視点変換によって局所俯瞰画像を生成した場合、車両1の移動速度と局所俯瞰画像内の地面700の移動速度とが対応する。しかしながら、ヒッチボール16およびヒッチカプラ201は位置的にカメラ15aと地面700との間に介在するので、車両1の移動速度に対するヒッチカプラ201の表示位置の移動速度が大きく、その結果、乗員は、表示内容に違和感を覚えやすい。また、車両1の移動速度に対するヒッチカプラ201の表示位置の移動速度が大きくなるので、乗員は、表示画面8を介して連結装置間の距離を確認しながら車両1を後退させる際に、ブレーキペダルとしての制動操作部6の操作遅れなどを起こす虞がある。第1の実施形態では、ヒッチカプラ201の高さに対応する高さに仮想投影面が設定され、局所俯瞰画像は、その仮想投影面に投影された後方画像から生成されている。よって、ヒッチカプラ201の表示位置の移動速度が車両1の移動速度に対応する。よって、乗員が違和感を覚える問題が解消され、乗員が制動操作部6の操作遅れを起こす可能性が低減される。つまり、乗員は、より簡単にヒッチボール16とヒッチカプラ201との位置合わせを行うことが可能である。
図7に戻り、S113の判定処理において、車両1が経路の終点に至ったと判定された場合(S113、Yes)、ECU14は、車両1の誘導を終了し(S117)、第1の実施形態の周辺監視装置としての動作が終了する。
なお、以上の説明においては、ヒッチボール16とヒッチカプラ201との距離がDth1と等しい場合には、表示制御部104は、第1リアビューモードで表示を実行する、として説明したが、ヒッチボール16とヒッチカプラ201との距離がDth1と等しい場合の処理はこれに限定されない。ヒッチボール16とヒッチカプラ201との距離がDth1と等しい場合、表示制御部104は、第2リアビューモードで表示を実行してもよい。
また、ヒッチカプラ201の高さ情報がヒッチボール16の高さ情報で代用される、として説明した。ヒッチカプラ201の高さ情報は、ヒッチボール16の高さ情報とは別に入力されてもよい。例えば、表示制御部104は、ヒッチカプラ201の高さ情報そのものの入力を促し、第2取得部102は、ヒッチカプラ201の高さ情報そのものを取得してもよい。
以上述べたように、第1の実施形態では、第1取得部101は、カメラ15aから、ヒッチボール16およびヒッチカプラ201が映った後方画像を取得する。第2取得部102は、ヒッチカプラ201の高さ情報を取得する。誘導制御部103は、後方画像におけるヒッチカプラ201の表示位置とヒッチカプラ201の高さ情報とに基づいてヒッチボール16とヒッチカプラ201との位置関係を演算し、ヒッチボール16とヒッチカプラ201とが連結するに至るまでの車両1の経路を、演算された位置関係に基づいて演算し、経路に沿って車両1を誘導する。
これにより、周辺監視装置としてのECU14は、連結作業において車両1を自動誘導できるので、車両1とトレーラ200との連結作業を容易化することが可能である。
また、第1の実施形態では、表示制御部104は、ヒッチボール16とヒッチカプラ201との距離が所定値Dth1よりも大きい場合、後方画像を表示画面8に表示する。また、表示制御部104は、ヒッチボール16とヒッチカプラ201との距離が所定値Dth1よりも小さい場合、後方画像をヒッチカプラ201の高さ情報に対応する水平面である仮想投影面に投影し、仮想投影面に投影された後方画像を車両1の上方から見た局所俯瞰画像を生成し、局所俯瞰画像を表示画面8に表示する。
これにより、周辺監視装置としてのECU14は、自動誘導中においては車両1の移動速度に対するヒッチカプラ201の表示位置の移動速度がよりよく対応するようにヒッチカプラ201を表示するので、乗員は、より簡単にヒッチボール16とヒッチカプラ201との位置合わせを行うことが可能となる。
なお、ヒッチボール16とヒッチカプラ201との距離が所定値Dth1と等しい場合には、表示制御部104は、任意の処理を実行し得る。ヒッチボール16とヒッチカプラ201との距離が所定値Dth1と等しい場合には、表示制御部104は、後方画像を表示画面8に表示してもよいし、局所俯瞰画像を生成して表示画面8に表示してもよい。
また、第1の実施形態では、第1取得部101は、ヒッチカプラ201の表示位置を特定する入力を操作入力部9を介して取得する。よって、周辺監視装置としてのECU14は、簡単なアルゴリズムでヒッチカプラ201の表示位置を特定することができる。
なお、周辺監視装置としてのECU14は、第1取得部101が操作入力部9からヒッチカプラ201の表示位置を特定する入力を取得する以外の方法でヒッチカプラ201の表示位置を特定してもよい。一例では、誘導制御部103は、任意の画像認識処理によって後方画像内のヒッチカプラ201の表示位置を特定する。画像認識処理は、例えばパターンマッチングである。よって、乗員による表示画面8のタッチ入力を要することなくヒッチカプラ201の表示位置が特定されるので、乗員の操作負担が軽減される。
また、第1の実施形態では、第2取得部102は、ヒッチカプラ201の高さ情報を操作入力部9を介して取得する。よって、周辺監視装置としてのECU14は、簡単なアルゴリズムでヒッチカプラ201の高さ情報を取得することができる。
なお、表示制御部104は、S104またはS106の処理の際に、入力を促す識別情報を表示画面8に表示してもよい。例えば、S106の処理の際に、表示制御部104は、図16に例示されるように、入力を促す識別情報として、「ヒッチ位置を押してください」と記述されたテキスト情報504を表示領域80に表示してもよい。よって、周辺監視装置としてのECU14は、どのような入力をすべきか、乗員にわかりやすく示すことが可能となる。
また、表示制御部104は、車両1が経路の終点に至ったと判定された場合(S113、Yes)、車両1が経路の終点に至った旨を示す識別情報を表示画面8に表示してもよい。例えば、S117の処理の際に、表示制御部104は、図17に例示されるように、車両1が経路の終点に至った旨を示す識別情報として、「ヒッチ位置に到達しました」と記述されたテキスト情報505を表示領域80に表示してもよい。よって、周辺監視装置としてのECU14は、ヒッチボール16とヒッチカプラ201とが連結可能になった旨を、乗員にわかりやすく示すことが可能となる。なお、車両1が経路の終点に至った旨の通知方法はこれに限定されない。例えば表示制御部104は、S117の処理の際に、車両1が経路の終点に至った旨を示すために、第1の十字線501または第2の十字線502の表示様態(色、太さ、線の種類、大きさ、など)を変更してもよい。
また、誘導制御部103が画像認識処理を用いることによってヒッチカプラ201の表示位置を特定する場合において、ヒッチカプラ201の表示位置の特定に成功したタイミングで、表示制御部104は、表示画面8の表示内容に変更を加えてもよい。
例えば図18に例示されるように、画像認識処理を実行中においては、表示制御部104は、第2のOKボタン506を、グレーなどの暗い色で着色した様態で表示する。そして、画像認識処理によってヒッチカプラ201の表示位置が特定された場合には、表示制御部104は、特定された位置に第2の十字線502を表示するとともに、第2のOKボタン506を、黄色または白色などの明るい色で着色した様態で表示する。第2のOKボタン506が暗い色で着色して表示されている場合には、第2のOKボタン506に対するタッチ入力が受け付けられず、第2のOKボタン506が明るい色で着色して表示されている場合には、第2のOKボタン506に対するタッチ入力が受け付けられる。乗員は、ヒッチカプラ201の表示位置に第2の十字線502が表示されているか否かを判断し、ヒッチカプラ201の表示位置に第2の十字線502が表示されていると判断した場合には、明るい色で着色して表示されている第2のOKボタン506をタッチする。すると、ヒッチカプラ201の表示位置を特定する処理が完了する。乗員は、ヒッチカプラ201の表示位置に第2の十字線502が表示されていないと判断した場合には、第2のOKボタン506をタッチしないで、正しいヒッチカプラ201の表示位置をタッチ操作によって入力してもよい。
また、表示制御部104は、画像認識処理によってヒッチカプラ201の表示位置が捕捉できている場合には、ヒッチカプラ201の表示位置を囲む枠を重畳表示し、画像認識処理によってヒッチカプラ201の表示位置が捕捉できていない場合には、当該枠を表示しないようにしてもよい。枠の形状は、特定の形状に限定されない。例えば、枠は、円形、菱形、正方形、または長方形の形状を有する。
また、画像認識処理は、車両1が停止しているときに実行されてもよいし、車両1が移動中に実行されてもよい。
また、誘導制御部103は、画像認識処理によって後方画像内のヒッチカプラ201の表示位置を特定する際、当該表示位置の探索領域を所定の情報に基づいて絞り込んでもよい。
一例では、誘導制御部103は、舵角センサ19のセンサ値に基づいて、現在の舵角でそのまま車両1を後退した場合の予想軌跡を演算する。そして、誘導制御部103は、予想軌跡を視点変換の後に後方画像に重ね合わせ、後方画像における予想軌跡上の領域を優先的に探索する。よって、乗員が、ヒッチカプラ201に向けて車両1を後退できるように操舵部4を操作する場合、その車両1の予想軌跡上を探索することで、ヒッチカプラ201の表示位置の特定を効率的に実行することが可能となる。
別の例では、誘導制御部103は、ヒッチカプラ201の表示位置を特定するタッチ操作の入力を第1取得部101を介して取得して、後方画像のうちのタッチされた部分の周辺を優先的に探索する。
また、表示制御部104は、図19の上段に例示されるように、第1の十字線501と第2の十字線502との間を結ぶ線形状の画像507を表示してもよい。画像507の形状は、直線であってもよいし、本図に示されるように曲線であってもよい。画像507の形状は、誘導制御部103によって演算された経路と対応した形状を有していてもよい。また、画像507の表示様態(色、太さ、線の種類、など)は任意に設計可能である。車両1の移動によって表示画面8上のヒッチカプラ201の表示位置が移動した場合、表示制御部104は、図19の下段に例示されるように、表示画面8上のヒッチカプラ201の表示位置の移動に応じて線分507の形状を変更する。よって、乗員は、画像507の傾斜角度または長さなどから、ヒッチボール16とヒッチカプラ201との位置関係を直感的に把握することが可能となる。
また、誘導制御部103は、自動誘導を開始する前に、複数通りの経路を演算し、乗員に、演算された複数通りの経路のうちから一を選択させてもよい。例えば、表示制御部104は、それぞれ異なる経路に対応する複数の線形状の画像507を表示領域80に表示する。乗員は、表示されている画像507のうちから、タッチ入力によって希望する経路を選択することができる。
また、表示制御部104は、第1の十字線501または第2の十字線502の表示位置の周辺の画素の輝度の操作またはガンマ補正することによって、特定されたヒッチボール16またはヒッチカプラ201の表示位置をより目立つように表示してもよい。よって、ヒッチボール16またはヒッチカプラ201の表示位置の誘目性が向上するので、制動操作部6の操作遅れの発生を抑制することが可能となる。
また、表示制御部104は、図20の上段に例示されるように、表示画面8に表示領域80とは異なる表示領域81を設け、表示領域81に、局所俯瞰画像に比べて広域の領域を示す広域俯瞰画像を表示してもよい。広域俯瞰画像は、例えば車両1を示す画像520を含んでおり、車両1の前後左右の周辺環境を示している。車両1を示す画像520は、車両1を上方から撮影した実写画像から生成された画像であってもよいし、車両1を模式的に示すイラスト画像であってもよい。広域俯瞰画像は、例えば、カメラ15a~15dから取得された4つの撮像画像を地面700に投影し、車両1の上方に設けられた仮想視点からみた画像にそれぞれ視点変換し、その後、視点変換された4つの画像をシームレスに接続することによって生成される。
さらに、表示制御部104は、ヒッチカプラ201を特定する入力が取得された場合(S106)、または、画像認識処理などによってヒッチカプラ201の表示位置が特定された場合、図20の下段に例示されるように、広域俯瞰画像にヒッチカプラ201を示す画像521が含まれるように、仮想視点の高さを調整したり、広域俯瞰画像を拡大または縮小したりしてもよい。例えば、図20の上段に例示される広域俯瞰画像は、図21に例示される車両1とトレーラ200との位置関係を示す図において、領域801の範囲を俯瞰した画像に該当する。また、図20の下段に例示される広域俯瞰画像は、図22に例示される車両1とトレーラ200との位置関係を示す図において、領域802の範囲を俯瞰した画像に該当する。広域俯瞰画像が示す領域がヒッチカプラ201の位置を含むように拡大されるので、乗員は、車両1の後退の開始時点から車両1とヒッチカプラ201との距離を直感的に把握することが可能となる。なお、ヒッチカプラ201を示す画像521は、実写画像から生成された画像であってもよいし、ヒッチカプラ201を模式的に示す表示モデルであってもよい。
また、表示制御部104は、図23に例示されるように、ヒッチボール16とヒッチカプラ201との間の距離を定量的に示すテキスト情報508を表示してもよい。なお、図23は、第2リアビューモードでの表示例を示しているが、表示制御部104は、第1リアビューモードにおいてテキスト情報508を表示してもよい。
また、表示制御部104は、図24に例示されるように、表示画面8に表示領域80とは異なる表示領域82を設け、表示領域82に、車両1およびトレーラ200をともに側方から見た画像を表示してもよい。この例では、車両1の側面を示す画像530と、トレーラ200の側面を示す画像531とが表示領域82の横方向に離間して配置されており、画像530の表示位置と画像531の表示位置との離間間隔は、車両1とトレーラ200との距離に対応する。よって、乗員は、表示領域82の表示内容から、車両1とトレーラ200との距離を定性的に把握することが可能となる。さらに、この例では、表示領域82の横方向に、距離を示す目盛りが表示されている。よって、乗員は、目盛りから、車両1とトレーラ200との距離をより正確に把握することが可能となる。なお、画像530および画像531は、それぞれ、実写画像から生成されたものであってもよいし、イラスト画像であってもよい。
また、誘導制御部103は、自動誘導の実行中において、車両1の周囲の障害物の検出を行い、検出された障害物に車両1が衝突する前に、車両1の緊急停止を行ってもよい。障害物は、例えばカメラ15a~15dからの撮像画像を用いて検出される。または、測距ソナー、レーザレンジスキャナなど、任意のセンサが車両1に設けられ、当該センサを用いて障害物が検出され得る。誘導制御部103は、演算された経路から車体2の移動軌跡を求め、移動軌跡上に障害物が検出された場合、車両1の緊急停止を行ってもよい。障害物に車両1が衝突するとは、車両1が車体2の側方に障害物を巻き込む事象を含む。また、誘導制御部103は、検出された障害物に車両1が衝突する前に、乗員または車両1の外部に対し、警報を発報してもよい。誘導制御部103は、クラクションまたは不図示のスピーカなどから車室2a内または車室2a外に音響によって警報してもよいし、各種灯火類の点灯または明滅によって警報してもよいし、表示画面8に所定の内容の表示を行うことによって警報してもよい。
また、誘導制御部103は、ヒッチボール16とヒッチカプラ201との距離に応じて車両1の上限速度を制限してもよい。一例では、誘導制御部103は、ヒッチボール16とヒッチカプラ201との距離が所定の距離Dth2よりも大きい場合、車両1の速度を制限せず、ヒッチボール16とヒッチカプラ201との距離が所定の距離Dth2よりも小さい場合、車両1の上限速度を所定の小さい値に制限する。ヒッチボール16とヒッチカプラ201との距離が近くなってヒッチボール16とヒッチカプラ201とを位置合わせする際に、車両1が所定値以上の速度が出ないように制御されることで、乗員による制動操作部6の操作遅れが発生したとしても、車両1が経路の終点から超過する距離を小さく抑えることが可能である。よって、ヒッチボール16とヒッチカプラ201との位置合わせが容易化される。また、車両1とトレーラ200とが衝突するリスクが低減される。
また、第2取得部102は、ヒッチボール16の高さ情報だけでなく、ヒッチボール16と車両1との水平距離情報を取得してもよい。水平距離情報は、例えば、図6に例示される、車両1の後端部からヒッチボール16までの水平距離Dである。誘導制御部103は、ヒッチボール16の高さ情報および水平距離情報に基づいて、ヒッチボール16の3次元空間内の位置を特定する。また、表示制御部104は、ヒッチボール16の3次元空間内の位置に基づいて、ヒッチボール16の表示位置を特定する。よって、ヒッチボール16に関し、表示位置を特定するタッチ操作の入力を不要とすることが可能である。
<第2の実施形態>
第1の実施形態では、第2取得部102は、乗員の入力によってヒッチカプラ201の高さ情報を取得する例について説明した。第2取得部102は、高さ情報を乗員の入力から取得するのではなく、後方画像に対してステレオ画像処理を行うことによって高さ情報を演算してもよい。
即ち、第2取得部102は、カメラ15aからの後方画像を第1取得部101を介して複数取得して、取得した複数の後方画像に対してステレオ画像処理を実行することによって、ヒッチカプラ201の高さ情報を演算する。
一例では、第2取得部102は、車両1の移動中に、それぞれ異なるタイミングで、ヒッチカプラ201が映っている複数の後方画像を取得する。第2取得部102は、ヒッチカプラ201の表示位置を、当該表示位置を特定する入力に基づいて特定する。第2取得部102は、取得したタイミングが異なる複数の後方画像を用いてモーションステレオ法に基づく演算を行うことによって、ヒッチカプラ201の高さ情報を演算する。第2取得部102は、演算に必要な車両1の移動量を、誘導制御部103から取得する。
車両1に車高の変更を可能にする車高調整機構が設けられている場合には、第2取得部102は、車両1の停止中などにおいて車高を上下させ、それぞれ車高が異なるタイミングにおいて撮像された複数の撮像画像を取得し、取得した複数の後方画像を用いてモーションステレオ法に基づく演算を行うことによって、ヒッチカプラ201の高さ情報を演算してもよい。
車両1にカメラ15aが複数設けられている場合には、第2取得部102は、複数のカメラ15aからそれぞれ撮像画像を取得し、取得した複数の撮像画像を用いて2眼ステレオ法に基づく演算を行うことによって、ヒッチカプラ201の高さ情報を演算してもよい。また、カメラ15aとしてステレオカメラが適用され、当該ステレオカメラからの後方画像に基づいて高さ情報を取得してもよい。
よって、乗員による高さ情報の入力を不要とすることができるので、乗員の操作負担が軽減される。
また、誘導制御部103は、第1の実施形態と同様に、画像認識処理を用いてヒッチカプラ201の表示位置を特定してもよい。誘導制御部103は、画像認識処理を用いてヒッチカプラ201の表示位置を特定し、第2取得部102は、特定されたヒッチカプラ201の高さ情報をステレオ画像処理によって取得する。よって、ヒッチカプラ201に関し、表示位置を特定するタッチ入力を不要とすることが可能である。なお、第1の実施形態と同様に、誘導制御部103は、ヒッチカプラ201の表示位置の探索領域を、舵角センサ19のセンサ値またはタッチ操作の入力に基づいて絞ってもよい。
また、周辺監視装置としてのECU14は、乗員に車両1の後退を開始させ、第2取得部102は、車両1の後退中にステレオ画像処理によってヒッチカプラ201の高さ情報を取得し、誘導制御部103は、高さ情報が取得された場合に、自動誘導を開始してもよい。
また、第2取得部102は、ステレオ画像処理に基づいて、ヒッチカプラ201の高さ情報を含む、3次元空間内の位置を特定してもよい。その場合には、誘導制御部103は、第2取得部102が特定したヒッチカプラ201の3次元空間内の位置を用いて経路を演算することができる。
また、車両1に、レーザレンジスキャナ、測距ソナー、などのセンサが設けられている場合には、第2取得部102は、当該センサからのセンサ値に基づいてヒッチカプラ201の高さ情報または3次元空間内の位置を特定してもよい。
また、車両1に車高調整機構が設けられている場合には、誘導制御部103は、ヒッチボール16の高さ情報とヒッチカプラ201の高さ情報とを比較することによって、ヒッチボール16とヒッチカプラ201とが干渉するか否かを判断する。誘導制御部103は、ヒッチボール16とヒッチカプラ201とが干渉すると判断した場合には、車高調整機構を制御することによって、ヒッチボール16がヒッチカプラ201と干渉しなくなるように、車高を下げてもよい。
以上、本発明の実施形態を例示したが、上記実施形態および変形例はあくまで一例であって、発明の範囲を限定することは意図していない。上記実施形態や変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、組み合わせ、変更を行うことができる。また、各実施形態や各変形例の構成や形状は、部分的に入れ替えて実施することも可能である。
1…車両、2…車体、2a…車室、2b…座席、2c…端部、2d…ドア、2e…ドアミラー、3…車輪、3F…前輪、3R…後輪、4…操舵部、5…加速操作部、6…制動操作部、7…変速操作部、8…表示画面、9…操作入力部、11…モニタ装置、13…操舵システム、13a…アクチュエータ、13b…トルクセンサ、15,15a,15b,15c,15d…カメラ、16…ヒッチボール、18…ブレーキシステム、18a…アクチュエータ、18b…ブレーキセンサ、19…舵角センサ、20…アクセルセンサ、21…シフトセンサ、22…車輪速センサ、23…車内ネットワーク、24…ダッシュボード、80,81,82…表示領域、100…周辺監視システム、101…第1取得部、102…第2取得部、103…誘導制御部、104…表示制御部、140…周辺監視プログラム、150…枠、151…一点、200…トレーラ、201…ヒッチカプラ、300,301,400,401,507,520,521,530,531…画像、500…OKボタン、501…第1の十字線、502…第2の十字線、503…識別情報、504,505,508…テキスト情報、506…OKボタン、600…手指、700…地面、701…直線、702…点、703…位置、800…撮像領域、801,802…領域。

Claims (5)

  1. 車両に設けられた第1の連結装置と被牽引車に設けられた第2の連結装置とが映った第1の画像を取得する第1取得部と、
    前記第2の連結装置の高さ情報を取得する第2取得部と、
    前記第1の画像における前記第2の連結装置の表示位置と前記高さ情報とに基づいて前記第1の連結装置と前記第2の連結装置との位置関係を演算し、前記位置関係に基づいて前記第1の連結装置と前記第2の連結装置とが連結するに至るまでの前記車両の経路を演算し、前記経路に従って前記車両を誘導する誘導制御部と、
    前記第1の連結装置と前記第2の連結装置との距離が所定値より大きい場合、前記第1の画像を前記車両の室内に設けられた表示画面に表示し、前記距離が前記所定値より小さい場合、前記第1の画像を前記第1の連結装置、又は、前記第2の連結装置の前記高さ情報に基づいて、地面より高い位置に設定された水平面に投影し、前記水平面に投影された前記第1の画像を前記車両の上方から見た第2の画像を生成し、前記第2の画像を前記表示画面に表示する表示制御部と、
    を備えた周辺監視装置。
  2. 前記第1取得部は、前記第2の連結装置の表示位置を特定する入力を前記車両に設けられた操作入力部を介して取得する、
    請求項1に記載の周辺監視装置。
  3. 前記誘導制御部は、前記第1の画像に対して画像認識処理を実行することによって前記第2の連結装置の表示位置を特定する、
    請求項1に記載の周辺監視装置。
  4. 前記第2取得部は、前記高さ情報を前記車両に設けられた操作入力部を介して取得する、
    請求項1から3の何れか一項に記載の周辺監視装置。
  5. 前記第2取得部は、前記第1の画像に対してステレオ画像処理を実行することによって前記高さ情報を取得する、
    請求項1から3の何れか一項に記載の周辺監視装置。
JP2017038796A 2017-03-01 2017-03-01 周辺監視装置 Active JP7069548B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017038796A JP7069548B2 (ja) 2017-03-01 2017-03-01 周辺監視装置
US15/890,700 US20180253106A1 (en) 2017-03-01 2018-02-07 Periphery monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017038796A JP7069548B2 (ja) 2017-03-01 2017-03-01 周辺監視装置

Publications (2)

Publication Number Publication Date
JP2018144526A JP2018144526A (ja) 2018-09-20
JP7069548B2 true JP7069548B2 (ja) 2022-05-18

Family

ID=63355196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017038796A Active JP7069548B2 (ja) 2017-03-01 2017-03-01 周辺監視装置

Country Status (2)

Country Link
US (1) US20180253106A1 (ja)
JP (1) JP7069548B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10332002B2 (en) * 2017-03-27 2019-06-25 GM Global Technology Operations LLC Method and apparatus for providing trailer information
US10427716B2 (en) * 2017-09-12 2019-10-01 Ford Global Technologies, Llc Hitch assist system and method
US10351061B1 (en) * 2018-03-09 2019-07-16 Deere & Company Implement attachment guidance system
US11198340B2 (en) * 2018-05-01 2021-12-14 Continental Automotive Systems, Inc. Coupler and tow-bar detection for automated trailer hitching via cloud points
KR102650306B1 (ko) * 2018-10-16 2024-03-22 주식회사 에이치엘클레무브 차량 제어 시스템, 차량 제어 방법
US11030476B2 (en) * 2018-11-29 2021-06-08 Element Ai Inc. System and method for detecting and tracking objects
CN111347859B (zh) * 2018-12-21 2021-12-21 郑州宇通客车股份有限公司 一种车载电池防撞系统和一种车辆
US10864848B2 (en) 2018-12-21 2020-12-15 Continental Automotive Systems, Inc. Reverse lights trailer hitch assist
US11491833B2 (en) * 2019-01-29 2022-11-08 Ford Global Technologies, Llc System and methods for vehicle alignment control
JP7286387B2 (ja) * 2019-04-08 2023-06-05 清水建設株式会社 位置推定システム、位置推定装置、位置推定方法、及びプログラム
US11192552B2 (en) * 2019-06-13 2021-12-07 Ford Global Technologies, Llc Vehicle motion control for trailer alignment
DE102020003141A1 (de) * 2020-05-26 2021-12-02 Jost-Werke Deutschland Gmbh Fahrerassistenzsystem und Verfahren zum Ankuppeln eines Anhängers an ein Zugfahrzeug

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002308029A (ja) 2001-04-09 2002-10-23 Matsushita Electric Ind Co Ltd 運転支援装置
JP2002359839A (ja) 2001-03-29 2002-12-13 Matsushita Electric Ind Co Ltd リアビューカメラの画像表示方法及びその装置
JP2007022415A (ja) 2005-07-20 2007-02-01 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置
JP2007108159A (ja) 2005-09-15 2007-04-26 Auto Network Gijutsu Kenkyusho:Kk 運転支援装置
JP2010109452A (ja) 2008-10-28 2010-05-13 Panasonic Corp 車両周囲監視装置及び車両周囲監視方法
JP2012257107A (ja) 2011-06-09 2012-12-27 Aisin Seiki Co Ltd 画像生成装置
US20160288601A1 (en) 2015-04-01 2016-10-06 Robert Bosch Gmbh Trailer coupling assistance system with vehicle video camera
US20160378118A1 (en) 2015-06-23 2016-12-29 GM Global Technology Operations LLC Smart trailer hitch control using hmi assisted visual servoing

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9373149B2 (en) * 2006-03-17 2016-06-21 Fatdoor, Inc. Autonomous neighborhood vehicle commerce network and community
WO2009036176A1 (en) * 2007-09-11 2009-03-19 Magna Electronics Imaging system for vehicle
GB2513393B (en) * 2013-04-26 2016-02-03 Jaguar Land Rover Ltd Vehicle hitch assistance system
US10150505B2 (en) * 2015-04-14 2018-12-11 Continental Automotive Systems, Inc. Automated hitching assist system

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002359839A (ja) 2001-03-29 2002-12-13 Matsushita Electric Ind Co Ltd リアビューカメラの画像表示方法及びその装置
JP2002308029A (ja) 2001-04-09 2002-10-23 Matsushita Electric Ind Co Ltd 運転支援装置
JP2007022415A (ja) 2005-07-20 2007-02-01 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置
JP2007108159A (ja) 2005-09-15 2007-04-26 Auto Network Gijutsu Kenkyusho:Kk 運転支援装置
JP2010109452A (ja) 2008-10-28 2010-05-13 Panasonic Corp 車両周囲監視装置及び車両周囲監視方法
JP2012257107A (ja) 2011-06-09 2012-12-27 Aisin Seiki Co Ltd 画像生成装置
US20160288601A1 (en) 2015-04-01 2016-10-06 Robert Bosch Gmbh Trailer coupling assistance system with vehicle video camera
US20160378118A1 (en) 2015-06-23 2016-12-29 GM Global Technology Operations LLC Smart trailer hitch control using hmi assisted visual servoing

Also Published As

Publication number Publication date
US20180253106A1 (en) 2018-09-06
JP2018144526A (ja) 2018-09-20

Similar Documents

Publication Publication Date Title
JP7069548B2 (ja) 周辺監視装置
JP6806156B2 (ja) 周辺監視装置
JP6897340B2 (ja) 周辺監視装置
JP6156486B2 (ja) 周辺監視装置、及びプログラム
JP6340969B2 (ja) 周辺監視装置、及びプログラム
US10131277B2 (en) Surroundings monitoring apparatus
JP6743593B2 (ja) 駐車支援装置
JP6760122B2 (ja) 周辺監視装置
US11591018B2 (en) Parking assistance device
US11620834B2 (en) Periphery monitoring device
WO2018070298A1 (ja) 表示制御装置
JP5991112B2 (ja) 駐車支援装置、制御方法、およびプログラム
JP2012056428A (ja) 運転支援装置
EP3792868A1 (en) Image processing device
JP2012086684A (ja) 駐車支援装置
WO2018061261A1 (ja) 表示制御装置
JP2019054420A (ja) 画像処理装置
JP2017094922A (ja) 周辺監視装置
US11292387B2 (en) Towing assistance apparatus
JP6720729B2 (ja) 表示制御装置
US11475676B2 (en) Periphery monitoring device
JP2022023870A (ja) 表示制御装置
JP2020043418A (ja) 周辺監視装置
JP2019022110A (ja) 表示制御装置
JP2019046086A (ja) 周辺監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220418

R150 Certificate of patent or registration of utility model

Ref document number: 7069548

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150