JP6489230B2 - 表示制御方法および表示制御装置 - Google Patents

表示制御方法および表示制御装置 Download PDF

Info

Publication number
JP6489230B2
JP6489230B2 JP2017546348A JP2017546348A JP6489230B2 JP 6489230 B2 JP6489230 B2 JP 6489230B2 JP 2017546348 A JP2017546348 A JP 2017546348A JP 2017546348 A JP2017546348 A JP 2017546348A JP 6489230 B2 JP6489230 B2 JP 6489230B2
Authority
JP
Japan
Prior art keywords
image
vehicle
display control
control method
speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017546348A
Other languages
English (en)
Other versions
JPWO2017068692A1 (ja
Inventor
高江 康彦
康彦 高江
寸田 剛司
剛司 寸田
達弥 志野
達弥 志野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Publication of JPWO2017068692A1 publication Critical patent/JPWO2017068692A1/ja
Application granted granted Critical
Publication of JP6489230B2 publication Critical patent/JP6489230B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/28Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with an adjustable field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B60W40/105Speed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0108Measuring and analyzing of parameters relative to traffic conditions based on the source of data
    • G08G1/0112Measuring and analyzing of parameters relative to traffic conditions based on the source of data from the vehicle, e.g. floating car data [FCD]
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125Traffic data processing
    • G08G1/0133Traffic data processing for classifying traffic situation
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/04Detecting movement of traffic to be counted or controlled using optical or ultrasonic detectors
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/445Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/306Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using a re-scaling of images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00Input parameters relating to overall vehicle dynamics
    • B60W2520/10Longitudinal speed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00Input parameters relating to infrastructure
    • B60W2552/05Type of road, e.g. motorways, local streets, paved or unpaved roads
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Transportation (AREA)
  • Automation & Control Theory (AREA)
  • Chemical & Material Sciences (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Analytical Chemistry (AREA)
  • Human Computer Interaction (AREA)
  • Combustion & Propulsion (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、対象物の検出情報の表示制御を行う表示制御方法および表示制御装置に関する。
従来、カメラで撮像した車外の撮像画像を車内のモニタに表示する技術が知られている。このような技術において、車両の走行速度が速い場合には、対象物が撮像される撮像画像の大きさを大きくする技術が知られている(たとえば特許文献1)。
特開2014−182543号公報
しかしながら、撮像画像には対象物の他に風景なども撮像されるため、車両の走行速度によってはドライバーに提示される情報が過多となり、ドライバーが必要な対象物の情報を把握することが困難な場合があった。
本発明が解決しようとする課題は、対象物の検出情報を適切に表示することが可能な表示制御方法および表示制御装置を提供することである。
本発明は、車両の車速指標に応じて、カメラにより撮像された撮像画像に基づく第1画像と、検出器の検出結果に基づいて描画された画像に基づく第2画像とを切り替えて表示することで、上記課題を解決する。
本発明によれば、車両の車速指標に応じて、カメラにより撮像された撮像画像に基づく第1画像と、検出器の検出結果に基づいて描画された画像に基づく第2画像とを切り替えることで、対象物の検出情報を、自車両の走行速度に応じた適切な表示形態で表示することができる。
本実施形態に係る情報提示装置の構成を示す構成図である。 走行情報と車速指標との関係の一例を示す図である。 車速指標と提示画像の画像タイプとの関係の一例を示す図である。 撮像画像タイプの提示画像および俯瞰画像タイプの提示画像の一例を示す図である。 車速指標または自車両の走行速度と、提示画像の生成に用いる撮像画像との関係を説明するための図である。 自車両の走行速度と撮像画像のマスク幅との関係を説明するための図である。 図6(B)に示すマスク処理後の画像に対して、ボンネット画像を重畳した画像の一例を示す図である。 図6(A)に示す画像において、検出対象物を強調表示した画像の一例を示す図である。 図8(A)に示す画像において、制御対象物を強調表示した画像の一例を示す図である。 図9(A),(B)に示す画像に対して、自車両から検出対象物までの距離情報を重畳した画像(撮像画像に基づく提示画像)の一例を示す図である。 車速指標に基づいて描画された俯瞰画像の一例を示す図である。 図11に示す画像に対して、検出対象物を配置した画像の一例を示す図である。 図12に示す画像において、制御対象物を強調表示した画像の一例を示す図である。 図13に示す画像に対して、距離ガイドラインを重畳した画像(俯瞰画像に基づく提示画像)の一例を示す図である。 本実施形態に係る情報提示処理の一例を示すフローチャートである。 ステップS108の撮像画像提示処理を示すフローチャートである。 ステップS109の俯瞰画像提示処理を示すフローチャートである。 ステップS113の画像切り替え処理を示すフローチャートである。 撮像画像に基づく提示画像から俯瞰画像に基づく提示画像への切り替え画像の一例を示す図である。 俯瞰画像に基づく提示画像から撮像画像に基づく提示画像への切り替え画像の一例を示す図である。 車速指標と提示画像の遷移との関係の一例を示す図である。
以下、本発明の実施形態を図面に基づいて説明する。なお、本実施形態では、車両に搭載される情報提示装置を例示して説明する。また、本実施形態に係る情報提示装置は、歩行者、自転車、バイク、自動車、路上障害物、構造物、信号機、標識、車線、道路端(縁石やガードレールなど)などを対象物として検出し、検出した対象物に関する提示情報を、車両のドライバーに提示するものである。
図1は、本実施形態に係る情報提示装置100の構成を示す図である。図1に示すように、本実施形態に係る情報提示装置100は、カメラ110と、測距センサ120と、車速センサ130と、ナビゲーション装置140と、ディスプレイ150と、報知装置160と、制御装置170とを有している。これら装置は、相互に情報の授受を行うためにCAN(Controller Area Network)その他の車載LANによって接続されている。
カメラ110は、自車両の周囲を撮像する1または複数のカメラから構成される。本実施形態では、自車両の前方を撮像するカメラ110として、自車両から近距離の位置に存在する対象物の撮影に適した近距離カメラと、自車両から中距離の位置に存在する対象物の撮影に適した中距離カメラと、自車両から長距離の位置に存在する対象物の撮影に適した遠距離カメラと、を有する。カメラ110により撮像された撮像画像は、制御装置170に出力される。
測距センサ120は、自車両の前方の対象物を検出する前方レーダー、自車両の後方の対象物を検出する後方レーダー、および自車両の側方に存在する対象物を検出する側方レーダーなどから構成される。また、測距センサ120として、超音波センサ、音波センサ、赤外線センサなどを用いることもできる。測距センサ120は、自車両の周囲に存在する対象物の位置および自車両から対象物までの距離を検出し、その検出結果を、制御装置170に出力する。
車速センサ130は、ドライブシャフトなどの駆動系の回転速度を計測し、これに基づいて車両の走行速度(以下、車速ともいう)を検出する。車速センサ130により検出された車速情報は制御装置170に出力される。
ナビゲーション装置140は、地図データベース、GPSセンサ、方位センサを含み、自車両の現在位置を計測し、計測した現在位置周辺の地図データをディスプレイ150に表示する。また、ナビゲーション装置140は、自車両が走行する道路の種別(たとえば、駐車場、市街地の道路、高速道路など)を特定し、特定した道路の種別を制御装置170に出力する。なお、ナビゲーション装置140が、ディスプレイ150、報知装置160、および制御装置170を兼ね備える構成としてもよい。
ディスプレイ150は、制御装置170の制御により、自車両の周囲に存在する対象物に関する提示情報を、ディスプレイ150が備える画面に提示する。ディスプレイ150としては、たとえば、ナビゲーション装置140が有するディスプレイ、ルームミラーに組み込まれたディスプレイ、メーター部に組み込まれたディスプレイ、あるいは、フロントガラスに映し出されるヘッドアップディスプレイなどが挙げられる。
報知装置160は、音、音声、光、または振動などを発することで、後述するように、撮像画像に基づく提示情報と俯瞰画像に基づく提示情報とが切り替わることを、ドライバーに報知する。報知装置160としては、たとえば、スピーカー、警告ランプ、あるいは、振動体を埋設したハンドルやシートなどのハプティック装置などが挙げられる。
制御装置170は、対象物に関する提示情報の表示制御を行うためのプログラムを格納したROM(Read Only Memory)と、このROMに格納されたプログラムを実行するCPU(Central Processing Unit)と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)とから構成される。なお、動作回路としては、CPU(Central Processing Unit)に代えて又はこれとともに、MPU(Micro Processing Unit)、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)などを用いることができる。
制御装置170は、ROMに格納されたプログラムをCPUにより実行することにより、各種走行情報を取得する情報取得機能と、自車両の周囲に存在する対象物を検出する対象物検出機能と、車速指標を設定する車速指標設定機能と、提示画像の画像タイプを選択する画像タイプ選択機能と、撮像画像に基づいて提示画像を生成する第1画像生成機能と、俯瞰画像に基づいて提示画像を生成する第2画像生成機能と、提示画像をディスプレイ150に表示する表示機能と、自車両の自動走行を制御する走行制御機能と、を実現する。以下において、制御装置170が備える各機能について説明する。
制御装置170の情報取得機能は、カメラ110、測距センサ120、車速センサ130およびナビゲーション装置140から各種走行情報を取得する。たとえば、情報取得機能は、カメラ110により撮像された撮像画像をカメラ110から取得し、測距センサ120の検出結果を測距センサ120から取得し、自車両の走行速度を車速センサ130から取得し、また、自車両の位置情報(自車両が走行する道路の種別情報も含む)をナビゲーション装置140から取得する。
制御装置170の対象物検出機能は、カメラ110により撮像された撮像画像および測距センサ120の検出結果に基づいて、自車両の周囲に存在する対象物を検出する。また、対象物検出機能は、カメラ110により撮像された撮像画像や測距センサ120の検出結果に基づいて、対象物の位置や自車両から対象物までの距離も検出する。さらに、対象物検出機能は、撮像画像に撮像された対象物の色や形状に基づいて、歩行者、自転車、バイク、自動車、路上障害物、構造物、信号機、標識、車線、道路端(縁石やガードレール)などの対象物の種別、標識に記載された制限速度、信号機の信号の色なども検出することができる。
制御装置170の車速指標設定機能は、自車両の走行速度に関連する指標を、車速指標として設定する。本実施形態において、車速指標設定機能は、「1」〜「5」の5段階で、車速指標を設定する。車速指標は、自車両が遅い速度で走行している場面ほど低い数値になる傾向にあり、自車両が速い速度で走行している場面ほど高い数値になる傾向にある。
図2は、各種走行情報と車速指標との関係の一例を示す図である。車速指標設定機能は、自車両の走行速度Vに応じて、車速指標を設定することができる。たとえば図2に示す例において、車速指標設定機能は、自車両の走行速度Vがゼロ以上かつX1未満であり、自車両が停止または極低速で走行していると判断できる場合には、車速指標を「1」として設定する。また、車速指標設定機能は、自車両の走行速度VがX1以上かつX2未満であり、自車両が低速で走行していると判断できる場合には、車速指標を「2」として設定する。同様に、車速指標設定機能は、図2に示すように、自車両の走行速度Vが速いほど、車速指標を大きい数値に設定する。なお、図2に示す例において、X1,X2,X3およびX4の関係は、X1<X2<X3<X4となっている。
また、車速指標設定機能は、トランスミッションの変速比に応じて、車速指標を設定することができる。たとえば、車速指標設定機能は、トランスミッションから変速比の情報を取得し、トランスミッションの変速比が「1速」〜「5速以上」のいずれに対応するかを判断する。たとえば図2に示す例において、車速指標設定機能は、トランスミッションの変速比が「1速」に対応する変速比である場合には、車速指標を「1」として設定する。また、車速指標設定機能は、トランスミッションの変速比が「2速」に対応する変速比である場合には、車速指標を「2」として設定する。同様に、車速指標設定機能は、図2に示すように、トランスミッションの変速比が小さいほど、車速指標を大きい数値に設定する。また、車速指標設定機能は、シフトレバーを操作してトランスミッションの変速比を変えることができる場合には、シフトレバーの位置に応じて、車速指標を設定する構成としてもよい。
また、車速指標設定機能は、自車両が走行する道路の道路種別に基づいて、車速指標を設定することができる。たとえば、車速指標設定機能は、ナビゲーション装置140から自車両が走行する道路の種別情報を取得する。そして、車速指標設定機能は、自車両が「駐車場」で駐停車または走行している場合には、自車両が停止または徐行していると判断し、車速指標を「1」として設定する。また、車速指標設定機能は、自車両が「市街地を除く一般市町村道」を走行している場合には、車速指標を「2」として設定する。同様に、車速指標設定機能は、図2に示すように、自車両が「市街地道路」を走行する場合には車速指標を「3」として設定し、自車両が「幹線道路」を走行する場合には車速指標を「4」として設定し、自車両が「自動車専用道路または高速道路」を走行する場合には車速指標を「5」として設定することができる。
さらに、車速指標設定機能は、自車両が走行する道路の制限速度Vrに基づいて、車速指標を設定することができる。たとえば図2に示す例において、車速指標設定機能は、自車両が走行する道路の制限速度VrがX1未満である場合には、車速指標を「1」として設定する。また、車速指標設定機能は、自車両が走行する道路の制限速度VrがX1以上かつX2未満である場合には、車速指標を「2」として設定する。同様に、車速指標設定機能は、図2に示すように、自車両が走行する道路の制限速度Vrが速いほど、車速指標を大きい数値に設定することができる。
加えて、車速指標設定機能は、自車両から対象物までの距離Dに応じて、車速指標を設定することができる。たとえば図2に示す例において、車速指標設定機能は、自車両から対象物までの距離DがD1未満である場合には、車速指標を「1」として設定する。また、車速指標設定機能は、自車両から対象物までの距離DがD1以上かつD2未満である場合には、車速指標を「2」として設定する。同様に、車速指標設定機能は、図2に示すように、自車両から対象物までの距離Dが長いほど、車速指標を大きい数値に設定することができる。なお、図2に示す例において、D1,D2,D3およびD4の関係は、D1<D2<D3<D4となっている。
また、車速指標設定機能は、自車両の走行シーンに基づいて、車速指標を設定することができる。たとえば、車速指標設定機能は、自車両の走行速度V、自車両の走行場所(たとえば駐車場、商店街、複数車線の道路など)および自車両の周囲で検出された対象物の種別や数などに基づいて、自車両の走行シーンが、予め定めた走行シーンであるか否かを判定する。そして、車速指標設定機能は、図2に示すように、車速指標を、各走行シーンに応じた数値に設定することができる。
たとえば、図2に示す例において、車速指標設定機能は、自車両が駐車場や商店街を走行しており、周囲に歩行者や自転車が多数存在する場合には、自車両の走行シーンを「停車・徐行シーン」と判定する。そして、車速指標設定機能は、図2に示すように、車速指標を、「停車・徐行シーン」に対応する「1」に設定することができる。また、車速指標設定機能は、自車両の側方に自転車通行帯を検出し、さらに、自車両の周囲に自転車を検出した場合には、自車両の走行シーンを「自転車並走シーン」と判定する。そして、車速指標設定機能は、図2に示すように、車速指標を、「自転車並走シーン」に対応する「2」に設定することができる。さらに、車速指標設定機能は、自車両が対向車両と対面通行可能な道路を走行しており、さらに、対向車両が15〜40km/hで走行している場合には、自車両の走行シーンを「街中走行シーン」と判定する。そして、車速指標設定機能は、図2に示すように、車速指標を、「街中走行シーン」に対応する「3」に設定することができる。加えて、車速指標設定機能は、自車両が複数の車線を有する道路を走行しており、さらに、他車両が40〜60km/hで走行している場合には、自車両の走行シーンを「郊外走行シーン」と判定する。そして、車速指標設定機能は、図2に示すように、車速指標を、「郊外走行シーン」に対応する「4」に設定することができる。また、車速指標設定機能は、自車両が信号機のない複数車線の道路を走行しており、さらに、他車両が60km/h以上で走行している場合には、自車両の走行シーンを「高速巡航シーン」と判定する。そして、車速指標設定機能は、図2に示すように、車速指標を、「高速巡航シーン」に対応する「5」に設定することができる。
制御装置170の画像タイプ選択機能は、車速指標設定機能により設定された車速指標に基づいて、提示画像の画像タイプを選択する。具体的には、画像タイプ選択機能は、図3に示すように、車速指標が「1」または「2」である場合には、撮像画像に基づく提示画像を提示する撮像画像タイプを、提示画像の画像タイプとして選択する。また、画像タイプ選択機能は、図3に示すように、車速指標が「3」〜「5」である場合には、俯瞰画像に基づく提示画像を提示する俯瞰画像タイプを、提示画像の画像タイプとして選択する。
ここで、図4(A)は、撮像画像タイプが選択された場合の提示画像の一例を示す図であり、図4(B)は、俯瞰画像タイプが選択された場合の提示画像の一例を示す図である。このように、撮像画像タイプが選択された場合には、図4(A)に示すように、撮像画像に基づく提示画像が表示され、俯瞰画像タイプが選択された場合には、図4(B)に示すように、俯瞰画像に基づく提示画像が表示されることとなる。
制御装置170の第1画像生成機能は、画像タイプ選択機能により撮像画像タイプが選択された場合に、図4(A)に示すように、カメラ110に撮像された撮像画像に基づいて提示画像を生成する。以下に、第1画像生成機能による提示画像の生成方法について詳細に説明する。
まず、第1画像生成機能は、車速指標または自車両の走行速度Vに基づいて、提示画像の生成に用いる撮像画像を選択する。本実施形態に係る情報提示装置100は、自車両から近距離の位置に存在する対象物の撮影に適した近距離カメラと、自車両から中距離の位置に存在する対象物の撮影に適した中距離カメラと、自車両から長距離の位置に存在する対象物の撮影に適した遠距離カメラと、を有する。そして、第1画像生成機能は、たとえば図5に示すように、車速指標が「1」の場合には、提示画像の生成に用いる撮像画像として、近距離カメラにより撮像された撮像画像を選択する。同様に、第1画像生成機能は、車速指標が「2」の場合には、提示画像の生成に用いる撮像画像として、中距離カメラにより撮像された撮像画像を選択する。なお、遠距離カメラは、車速指標が「3」以上である場合(すなわち、提示画像が俯瞰画像タイプとなる場合)に、対象物を検出するために用いられる。
なお、第1画像生成機能は、図5に示すように、自車両の走行速度Vがゼロ以上かつX1未満である場合に、提示画像の生成に用いる撮像画像として、近距離カメラにより撮像された撮像画像を選択し、自車両の走行速度VがX1以上かつX2未満である場合に、提示画像の生成に用いる撮像画像として、中距離カメラにより撮像された撮像画像を選択する構成とすることもできる。
次いで、第1画像生成機能は、自車両の走行速度Vに応じて、選択した撮像画像にマスク処理を施す。ここで、図6は、撮像画像のマスク処理を説明する図であり、(A)はマスク処理前の撮像画像であり、(B)はマスク処理後の撮像画像である。たとえば、図6(A)に示すように、カメラ110で撮像された撮像画像の幅をLとし、マスク処理が行われるマスク幅をdとした場合に、第1画像生成機能は、下記式(1)に示すように、自車両の走行速度Vおよび上限速度Vlimitに基づいて、マスク幅dを算出することができる。
マスク幅d=L/2×V/Vlimit ・・・(1)
なお、上限速度Vlimitは、撮像画像タイプが選択される場合の走行速度Vの上限値である。たとえば、走行速度VがX2未満である場合に車速指標が「2」に設定され、撮像画像に基づく提示画像が表示される場合には、「X2」が上限速度Vlimitとなる。
このように、第1画像生成機能は、自車両の走行速度Vが速いほど、マスク幅dを広く算出する。そして、第1画像生成機能は、算出したマスク幅dだけ、撮像画像の左右方向(Y方向)の端部をマスクするマスク処理を行う。これにより、自車両の走行速度Vが速い場合には、図6(B)に示すように、カメラ110で撮像された撮像画像と比べて、左右方向(Y方向)に短い画像が生成される。なお、第1画像生成機能は、車速指標に応じたマスク幅dだけ、撮像画像をマスクすることもできる。この場合、第1画像生成機能は、車速指標が「2」である場合には、車速指標が「1」である場合よりも、マスク幅が広くなるようにマスク処理を行う。
次いで、第1画像生成機能は、マスク処理を行った撮像画像に対して、自車両のボンネットを模したボンネット画像を重畳する。具体的には、第1画像生成機能は、図7(A)に示すように、マスク処理を行った撮像画像の下側に、ボンネット画像を重畳する。なお、ボンネット画像は、たとえば、コンピューターグラフィックスにより予め描画された画像であり、制御装置170のROMに記憶しておく構成とすることができる。また、自車両の実際のボンネットの撮像画像を、ボンネット画像として制御装置170のROMに記憶しておく構成としてもよい。なお、図7(A),(B)は、図6(B)に示すマスク処理後の画像に対して、ボンネット画像を重畳した画像の一例を示す図である。
さらに、第1画像生成機能は、自車両の走行速度Vまたは車速指標に応じて、ボンネット画像の大きさ、形状を変更することができる。たとえば、第1画像生成機能は、自車両の走行速度VがX1未満である場合には、図7(A)に示すように、ボンネット画像の上下方向(X方向)の長さを比較的短くし、自車両の走行速度VがX1以上である場合には、図7(B)に示すように、ボンネット画像の上下方向(X方向)の長さを比較的長くすることができる。また、第1画像生成機能は、自車両の走行速度VがX1以上である場合には、ボンネット画像の上端部分(ボンネット画像を台形とした場合にその上底部分)の長さを短くする構成としてもよい。また、第1画像生成機能は、自車両の車速指標が「1」の場合に、図7(A)に示すように、ボンネット画像の上下方向(X方向)の長さを比較的短くし、自車両の車速指標が「2」である場合に、図7(B)に示すように、ボンネット画像の上下方向(X方向)の長さを比較的長くする構成とすることもできる。なお、図7(A),(B)に示す例では、ボンネット画像の大きさ、形状を2段階で変化させる構成を例示したが、この構成に限定されず、たとえば、自車両の走行速度Vに応じて、より多段的に、ボンネット画像の大きさ、形状を変化させる構成としてもよい。あるいは、自車両の走行速度Vに応じて、連続的に、ボンネット画像の大きさ、形状を変化させる構成としてもよい。
次いで、第1画像生成機能は、対象物検出機能の検出結果に基づいて、撮像画像内の対象物を強調表示する。ここで、図8は、図6(A)に示す画像において、対象物を強調表示した画像の一例である。なお、図8に示す例では、説明の便宜のために、歩行者のみが対象物として検出された場面を例示する(後述する図9、図10も同様。)。この場合、第1画像生成機能は、たとえば、図8(A)に示すように、対象物検出機能に検出された対象物(以下、検出対象物ともいう。)に枠線e1,e2を重畳することで、検出対象物を強調して表示することができる。また、第1画像生成機能は、たとえば図8(B)に示すように、検出対象物に下線e3,e4を重畳することで、検出対象物を強調して表示する構成とすることもできる。さらに、第1画像生成機能は、たとえば図8(C)に示すように、検出対象物に丸(点)e5,e6を重畳することで、検出対象物を強調して表示する構成とすることもできる。
次に、第1画像生成機能は、対象物検出機能により検出された検出対象物のうち、自車両の自動走行制御の対象となる対象物(以下、制御対象物といもいう。)を、他の検出対象物とは異なる表示形態で強調表示する。ここで、図9は、図8(A)に示す画像において、制御対象物を強調表示した画像の一例を示す図である。たとえば、第1画像生成機能は、図9(A)に示すように、検出対象物に黄色の枠線e1(図9(A)中では黒の実線で示す。)を重畳した場合には、制御対象物に赤色の枠線f1(図9(A)中では黒の破線で示す。)を重畳することで、制御対象物を他の検出対象物とは異なる表示形態で強調表示することができる。また、第1画像生成機能は、図9(B)に示すように、検出対象物に細い枠線e1を重畳した場合には、制御対象物に太い枠線f2を重畳することで、制御対象物を他の検出対象物とは異なる表示形態で強調表示することができる。
続いて、第1画像生成機能は、制御対象物を強調表示した画像に対して、自車両から検出対象物(制御対象物を含む)までの距離情報を重畳する。ここで、図10は、図9(A),(B)に示す画像に対して、自車両から検出対象物(制御対象物を含む)までの距離情報を重畳した画像の一例を示す図である。たとえば、第1画像生成機能は、図10(A),(B)に示すように、検出対象物の下方に、自車両から検出対象物(制御対象物を含む)までの距離を示す数値を重畳することで、自車両から検出対象物までの距離情報を重畳することができる。また、第1画像生成機能は、図10(C)に示すように、検出対象物の下方に、自車両から検出対象物(制御対象物を含む)までの距離を示すパターン(模様またはアイコンなど)g1,g2を重畳する構成とすることもできる。なお、図10(C)に示す例では、自車両から検出対象物(制御対象物を含む)までの距離が長いほど、パターンの長さは長くなる。
以上のように、第1画像生成機能は、カメラ110により撮像された撮像画像に対して、(1)マスク処理、(2)ボンネット画像の重畳処理、(3)検出対象物の強調表示、(4)制御対象物の強調表示、(5)距離情報の重畳処理を行うことで、提示画像を生成する。
制御装置170の第2画像生成機能は、たとえばコンピューターグラフィックスなどを用いて描画することで、自車両を上方から俯瞰したような俯瞰画像を生成する。そして、第2画像生成機能は、生成した俯瞰画像に基づいて、提示画像を生成する。以下に、第2画像生成機能による提示画像の生成方法を詳細に説明する。
まず、第2画像生成機能は、図11に示すように、車速指標に応じた俯角の俯瞰画像を描画する。たとえば、第2画像生成機能は、車速指標が「3」である場合には、図11(A)に示すように、俯角が比較的小さい俯瞰画像を描画する。また、第2画像生成機能は、車速指標が「4」である場合には、図11(B)に示すように、俯角が中程度の俯瞰画像を描画し、車速指標が「5」である場合には、図11(C)に示すように、俯角が比較的大きい俯瞰画像を描画する。このように、第2画像生成機能は、車速指標が大きいほど、俯角の大きい俯瞰画像を描画する。そして、第2画像生成機能は、自車両V1を示すアイコンを、俯瞰画像の中央または中央下側に描画する。なお、図11は、車速指標に基づいて描画された俯瞰画像の一例を示す図である。また、図11に示す例では、自車両V1が3車線の道路を走行する場面に描画される俯瞰画像を例示しているが、たとえば、カメラ110、測距センサ120、ナビゲーション装置140などから自車両V1が2車線の道路を走行する場面であると判断できる場合には、自車両V1が2車線の道路を走行する場面を示す俯瞰画像を描画することができる。
次いで、第2画像生成機能は、図12(A)〜(C)に示すように、描画した俯瞰画像に対して、対象物検出機能により検出された検出対象物を示すアイコンを配置する。たとえば、第2画像生成機能は、対象物検出機能から検出対象物の相対位置および相対距離の情報を取得する。そして、第2画像生成機能は、図12(A)〜(C)に示すように、検出対象物を示すアイコンを、自車両V1と検出対象物との実際の位置関係に対応する俯瞰画像上の位置に配置する。たとえば、図12(A)〜(C)に示す例では、他車両t1が自車両V1の前方を走行しているため、俯瞰画像上においても、自車両V1を示すアイコンの前方に他車両t1を示すアイコンを配置する。
なお、本実施形態では、図12(A)〜(C)に示すように、車速指標が大きいほど、自車両をより上方から俯瞰しているように俯瞰画像を描画する。そのため、車速指標が大きいほど、検出対象物が表示される表示範囲は広くなる。たとえば、図12(A)では、俯角が比較的小さいため検出対象物t1だけが俯瞰画像上に表示され、図12(B)では、俯角が中程度であるため検出対象物t1〜t3が俯瞰画像上に表示され、図12(C)では、俯角が比較的大きいため自車両の周囲に存在する検出対象物t1〜t5が俯瞰画像上に表示される。なお、図12(A)〜(C)は、図11(A)〜(C)に示す俯瞰画像のそれぞれに対して、検出対象物を配置した画像の一例を示す図である。
次いで、第2画像生成機能は、図13に示すように、検出対象物を配置した俯瞰画像において、制御対象物を強調して表示する。ここで、図13は、図12に示す画像に対して、制御対象物を強調表示した画像の一例を示す図である。たとえば、第2画像生成機能は、図13(A)〜(C)に示すように、検出対象物のうち制御対象物c1を示すアイコン全体を黄色(図13に示す例では濃いグレーで示す。)で表示することで、制御対象物を検出対象物とは異なる表示形態で強調表示することができる。また、第2画像生成機能は、図13(D)〜(F)に示すように、制御対象物を示すアイコンに赤色の枠線(図13に示す例では黒色の枠線で示す。)を重畳することで、制御対象物を強調表示する構成とすることもできる。
続いて、第2画像生成機能は、図14(A)〜(F)に示すように、制御対象物を強調表示した俯瞰画像に対して、距離ガイドラインを重畳する。図14は、図13に示す画像に対して、距離ガイドラインを重畳した画像の一例を示す図である。なお、第2画像生成機能は、自車両と他車両との距離に基づいて、距離ガイドラインが示す距離を変更することができる。たとえば、第2画像生成機能は、自車両と他車両との車間距離が短い場合に、距離ガイドラインが示す距離を短くすることができる。
このように、第2画像生成機能は、(1)車速指標に応じた俯角の俯瞰画像の描画、(2)検出対象物の配置、(3)制御対象物の強調表示、(4)距離ガイドラインの重畳処理を行うことで、提示画像を生成する。
制御装置170の表示機能は、第1画像生成機能または第2画像生成機能により生成された提示画像の画像データを、ディスプレイ150に送信し、ディスプレイ150の画面に表示する。これにより、ドライバーに提示画像を提示することができる。
制御装置170の走行制御機能は、自車両の自動走行を制御する。たとえば、走行制御機能は、カメラ110や測距センサ120の検出結果に基づいて、自車両が走行する車線(以下、自車線ともいう。)のレーンマークを検出し、自車両が自車線内に走行するように、自車両の幅員方向における走行位置を制御するレーンキープ制御を行うことができる。この場合、走行制御機能は、自車両が適切な走行位置を走行するように、ステアリングアクチュエータなどの動作を制御することができる。また、走行制御機能は、先行車両と一定の車間距離を空けて、先行車両に自動で追従する追従走行制御を行うこともできる。この場合、走行制御機能は、自車両と先行車両とが一定の車間距離で走行するように、エンジンやブレーキなどの駆動機構の動作を制御することができる。さらに、走行制御機能は、対象物検出機能により特定された制御対象物に基づいて、自車両の走行を制御する。たとえば、走行制御機能は、制御対象物を回避するように、あるいは、制御対象物の手前で停止するように、ステアリングアクチュエータ、エンジン、およびブレーキなどを制御する。
続いて、図15を参照して、本実施形態に係る情報提示処理について説明する。図15は、本実施形態に係る情報提示処理を示すフローチャートである。なお、以下に説明する情報提示処理は、制御装置170により実行される。また、以下に説明する情報提示処理は、イグニッションがオンになった場合に開始し、イグニッションがオフとなるまで繰り返し行われる。
まず、ステップS101では、情報取得機能により、カメラ110により撮像された撮像画像、測距センサ120の検出結果、車速センサ130により検出された自車両の走行速度V、ナビゲーション装置140により検出された自車両の位置情報など、各種走行情報が取得される。そして、ステップS102では、車速指標設定機能により、ステップS101で取得した各種走行情報に基づいて、図2に示すように、車速指標の設定が行われる。
ステップS103では、対象物検出機能により、ステップS101で取得した撮像画像および測距センサ120の検出結果に基づいて、自車両の周囲に存在する対象物が検出対象物として検出される。また、ステップS104では、対象物検出機能により、検出対象物のうち自動走行制御の対象となる対象物が、制御対象物として特定される。
ステップS105では、画像タイプ選択機能により、直前のステップS102の処理(今回処理時のステップS102の処理)が、最初の車速指標の設定処理であるか否かの判断が行われる。すなわち、イグニッションがオンとなり、図15の情報提示処理が開始された直後のステップS105では、直前のステップS102の処理までは車速指標が設定されていないため、直前のステップS102が最初の車速指標の設定処理と判断され、ステップS106に進む。一方、ステップS102で車速指標が設定された後に、ステップS110でイグニッションがオンであると判断され、ステップS101に戻った後、再度、ステップS102の処理が行われた場合には、直前のステップS102は最初の車速指標の設定処理と判断されず、ステップS112に進む。
ステップS106では、画像タイプ選択機能により、ステップS102で設定された車速指標に基づいて、提示画像の画像タイプの選択が行われる。そして、ステップS107では、制御装置150により、ステップS106で選択された提示画像の画像タイプが、撮像画像タイプであるか、俯瞰画像タイプであるかの判断が行われる。提示画像の画像タイプが撮像画像タイプである場合には、ステップS108に進み、一方、提示画像の画像タイプが俯瞰画像タイプである場合には、ステップS109に進む。
ステップS108では、カメラ110で撮像された撮像画像に基づいて提示画像を生成し、撮像画像に基づく提示画像を提示する、撮像画像提示処理が行われる。ここで、図16は、ステップS108に示す撮像画像提示処理を示すフローチャートである。以下に、図16を参照して、ステップS108の撮像画像提示処理について説明する。
まず、ステップS201では、第1画像生成機能により、複数のカメラ110により撮像された撮像画像の中から、提示画像の生成に用いる撮像画像が決定される。たとえば、第1画像生成機能は、図6に示すように、自車両の走行速度Vまたは車速指標に応じて、提示画像の生成に用いる撮像画像を選択することができる。
ステップS202では、第1画像生成機能により、ステップS201で選択された撮像画像に対して、マスク処理が施される。たとえば、第1画像生成機能は、図6(A),(B)に示すように、自車両の走行速度Vに応じたマスク幅dだけ、撮像画像の左右方向(Y方向)の端部をマスクすることができる。これにより、図6(A)に示す撮像画像に基づいて、図6(B)に示すように、マスク処理が行われた撮像画像が生成される。
ステップS203では、第1画像生成機能により、図7に示すように、ステップS202でマスク処理された撮像画像に対して、ボンネット画像が重畳される。また、第1画像生成機能は、自車両の走行速度Vまたは車速指標に基づいて、ボンネット画像の大きさ、形状を変更して、撮像画像に重畳することができる。
ステップS204では、第1画像生成機能により、ステップS203でボンネット画像を重畳した撮像画像において、検出対象物の強調表示が行われる。たとえば、第1画像生成機能は、図8(A)〜(C)に示すように、ステップS103で検出された検出対象物に、枠線、下線、丸(点)などを重畳することで、検出対象物を強調して表示することができる。
ステップS205では、第1画像生成機能により、ステップS204で検出対象物が強調表示された撮像画像において、さらに、制御対象物の強調表示が行われる。たとえば、第1画像生成機能は、図9(A),(B)に示すように、ステップS104で特定された制御対象物に、他の検出対象物とは異なる表示形態の枠線などを重畳することで、制御対象物を他の検出対象物とは異なる表示形態で強調表示することができる。
ステップS206では、第1画像生成機能により、ステップS205で制御対象物が強調表示された撮像画像に対して、自車両から検出対象物(制御対象物を含む)までの距離情報が重畳される。たとえば、第1画像生成機能は、図10(A)〜(C)に示すように、検出対象物の下方に、ステップS103で取得した検出対象物の距離情報を重畳することができる。
このように、ステップS202〜206では、ステップS201で選択された撮像画像に対し、マスク処理、ボンネット画像の重畳処理、検出対象物の強調表示、制御対象物の強調表示、および距離情報の重畳処理が行われ、これにより、提示画像が生成される。そして、ステップS207では、表示機能により、ステップS206で生成された提示画像が、ディスプレイ150の画面に表示される。
ステップS207で提示画像が表示されると、図15に戻り、ステップS110に進む。ステップS110では、制御装置170により、イグニッションがオフになったか否かの判断が行われ、イグニッションがオフになるまでは、図15に示す情報提示処理が繰り返される。一方、イグニッションがオフになった場合には、図15に示す情報提示処理が終了する。
また、ステップS107において、提示画像の画像タイプが俯瞰画像タイプであると判断された場合には、ステップS109に進む。ステップS109では、コンピューターグラフィックスなどを用いて描画した俯瞰画像に基づいて提示画像を生成し、生成した俯瞰画像に基づく提示画像を提示する俯瞰画像提示処理が行われる。ここで、図17は、ステップS109に示す俯瞰画像提示処理を示すフローチャートである。以下に、図17を参照して、ステップS109の俯瞰画像提示処理について説明する。
まず、ステップS301では、第2画像生成機能により、図11に示すように、車速指標に応じた俯角の俯瞰画像が描画される。すなわち、第2画像生成機能は、ステップS102で設定した車速指標に基づいて俯瞰画像の俯角を決定し、図11(A)〜(C)に示すように、決定した俯角の俯瞰画像を描画する。
ステップS302では、第2画像生成機能により、ステップS301で描画された俯瞰画像上に、検出対象物を示すアイコンが配置される。具体的には、第2画像生成機能は、図12(A)〜(C)に示すように、ステップS103で検出された検出対象物を示すアイコンを、自車両と検出対象物との実際の位置関係に応じた俯瞰画像上の位置に配置する。
ステップS303では、第2画像生成機能により、ステップS302で検出対象物を配置した俯瞰画像において、図13(A)〜(F)に示すように、制御対象物の強調表示が行われる。さらに、ステップS304では、第2画像生成機能により、ステップS303で制御対象物が強調表示された俯瞰画像に対して、図14(A)〜(F)に示すように、距離ガイドラインの重畳が行われる。
このように、ステップS302〜S304では、ステップS301で描画された俯瞰画像に対して、検出対象物の配置、制御対象物の強調表示、および距離ガイドラインの重畳処理が行われ、これにより、提示画像が生成される。そして、ステップS305では、表示機能により、ステップS304で生成された提示画像が、ディスプレイ150の画面に表示される。
また、図15に戻り、ステップS105において、ステップS102における車速指標の設定が最初の車速指標の設定ではないと判断された場合、すなわち、前回処理において車速指標を設定している場合には、ステップS112に進む。
ステップS112では、表示機能により、車速指標が、提示画像の画像タイプの異なる車速指標に変化したか否かの判断が行われる。本実施形態では、図3に示すように、車速指標が「1」または「2」の場合は、提示画像の画像タイプとして撮像画像タイプが選択され、車速指標が「3」〜「5」の場合は、提示画像の画像タイプとして俯瞰画像タイプが選択される。そのため、表示機能は、たとえば、車速指標が「2」から「3」に変わり、提示画像の画像タイプが「撮像画像タイプ」から「俯瞰画像タイプ」に変化した場合には、車速指標が、提示画像の画像タイプの異なる車速指標に変化したと判断する。また同様に、表示機能は、たとえば、車速指標が「3」から「2」に変わり、提示画像の画像タイプが「俯瞰画像タイプ」から「撮像画像タイプ」に変化した場合には、車速指標が、提示画像の画像タイプの異なる車速指標に変化したと判断する。
そして、車速指標が、提示画像の画像タイプの異なる車速指標に変化したと判断された場合には、ステップS113に進む。一方、車速指標が、提示画像の画像タイプの異なる車速指標に変化していないと判断された場合には、ステップS107に進み、上述したステップS107〜S110の処理が行われる。
ステップS113では、提示画像の画像タイプが変更されているため、撮像画像に基づく提示画像と、俯瞰画像に基づく提示画像とを切り替えるための画像切り替え処理が行われる。ここで、図18は、ステップS113に示す画像切り替え処理を示すフローチャートである。以下に、図18を参照して、ステップS113の画像切り替え処理について説明する。
ステップS401では、表示機能により、撮像画像に基づく提示画像と、俯瞰画像に基づく提示画像とを切り替える切り替え時間が設定される。たとえば、表示機能は、予め定めた時間(たとえば1秒)を、切り替え時間として設定することができる。また、表示機能は、自車両の加速度に基づいて、切り替え時間を設定することもできる。たとえば、表示機能は、自車両の加速度が速いほど、切り替え時間を短くする構成とすることができる。
ステップS402では、表示機能により、撮像画像に基づく提示画像と俯瞰画像に基づく提示画像とが切り替わることをドライバーに報知する報知処理が行われる。たとえば、表示機能は、報知装置160であるスピーカーから提示画像が切り替わることを示す警告音やガイダンス音声を出力し、または、振動体を埋設したハンドルやシートなどのハプティック装置を振動させることで、ドライバーがディスプレイ150に注目していない場合でも、提示画像の切り替わりをドライバーに把握させることができる。
ステップS403では、表示機能により、切り替え画像の表示が行われる。表示機能は、図19および図20に示すように、撮像画像に基づく提示画像から俯瞰画像に基づく提示画像へと遷移するアニメーション画像、または、俯瞰画像に基づく提示画像から撮像画像に基づく提示画像へと遷移するアニメーション画像を、切り替え画像としてディスプレイ150に表示する。また、表示機能は、ステップS401で設定した画像切り替え時間をかけて、切り替え画像のアニメーションを表示する。これにより、画像切り替え時間をかけて、撮像画像に基づく提示画像と、俯瞰画像に基づく提示画像とが切り替わることとなる。
図19は、撮像画像に基づく提示画像から俯瞰画像に基づく提示画像へと遷移する場合の切り替え画像の一例を示す図である。表示機能は、撮像画像に基づく提示画像から俯瞰画像に基づく提示画像へと遷移する場合に、まず、図19(A)に示す撮像画像に基づく提示画像を、図19(B),(C)に示すように、外側から中央に向かって次第に小さくしていく。また、撮像画像に基づく提示画像を小さくしていくと同時に、図19(B),(C)に示すように、ディスプレイ150の下方から俯瞰画像に基づく提示画像がせり上がるように、俯瞰画像に基づく提示画像を表示する。その結果、図19(D)に示すように、撮像画像に基づく提示画像が消え、俯瞰画像に基づく提示画像のみが、ディスプレイ150の画面に表示される。
また、図20は俯瞰画像に基づく提示画像から撮像画像に基づく提示画像へと遷移する場合の切り替え画像の一例を示す図ある。表示機能は、俯瞰画像に基づく提示画像から撮像画像に基づく提示画像へと遷移する場合に、まず、図20(A)に示す俯瞰画像に基づく提示画像を、図20(B),(C)に示すように、ディスプレイ150の下方に消えていくように表示する。また、図20(B),(C)に示すように、俯瞰画像に基づく提示画像を下方に消えるように表示するとともに、撮像画像に基づく提示画像を、ディスプレイ150の中央から次第に大きくなるように表示していく。その結果、図20(D)に示すように、俯瞰画像に基づく提示画像が消え、撮像画像に基づく提示画像のみが、ディスプレイ150の画面に表示される。
以上のように、本実施形態に係る情報提示処理が行われる。続いて、図21を参照して、車速指標と、ディスプレイ150の画面に表示される提示画像の遷移との関係について説明する。図21は、車速指標と提示画像の遷移との関係の一例を示す図である。
たとえば、車速指標が「1」である場合には、図21(A)に示すように、撮像画像に基づく提示画像の提示が行われる。また、車速指標が「1」から「2」に変わると、同じく撮像画像に基づく提示画像が提示されるが、図21(B)に示すように、車速指標が「1」である場合と比べて、左右方向の端部がマスク処理された提示画像が表示される。さらに、車速指標が「2」から「3」へと変わると、まず、図21(C)に示すように、切り替え画像が表示され、画像切り替え処理が行われる。その後、図21(D)に示すように、俯瞰画像に基づく提示画像が表示される。また、車速指標が「3」から「4」へと変わると、図21(E)に示すように、俯角のより大きい俯瞰画像に基づく提示画像が表示され、車速指標が「4」から「5」に変わると、図21(F)に示すように、俯角が最も大きい俯瞰画像に基づく提示画像が表示される。なお、車速指標が小さくなる場合も同様に、それぞれの車速指標に応じた提示画像が提示されるとともに、車速指標が「3」から「2」へと変わる場合には、切り替え画像が表示され、画像切り替え処理が行われる。
なお、自動走行制御が行われている場合のみに、車速指標に応じて提示画像を遷移させる構成とすることができる。この場合、自動走行制御が解除された場合には、車速指標に関係なく、図21(D)に示す提示画像へと遷移し、自動走行制御が再度開始されるまで、図21(D)に示す提示画像を提示する構成とすることができる。
以上のように、本実施形態に係る情報提示装置100は、車速指標が低い場合には、撮像画像に基づく提示画像を表示し、車速指標が高い場合には、俯瞰画像に基づく提示画像を表示する。ここで、車速指標が低い場合には、自車両が駐車場や一般市町村道などを比較的遅い速度で走行し、自車両の周囲に歩行者、自転車、信号機などが多く存在する傾向にある。このような場合に、歩行者、自転車、信号機などの対象物を実際の撮像画像で提示することで、情報提示装置100が歩行者、自転車、信号機などの対象物を検出できているか否かを、撮像画像と比較して、ドライバーに適切に把握させることができる。また、自車両の走行速度が速い場合には、自車両が一般道路や高速道路を走行する場面であり、自車両の周囲には、走行中の他車両が存在する傾向にある。このような場合に、俯瞰画像に基づく提示画像を表示することで、自車両の周囲における他車両の走行状態を、ドライバーに適切に把握させることができる。特に、本実施形態では、俯瞰画像を、コンピューターグラフィックスなどを用いて描画することで、撮像画像と比べて、自車両の周囲における他車両の走行状態を1つの画面で表示することができるとともに、画面に表示する対象物の情報を適宜絞ることができるため、ドライバーが必要とする自車両の周囲を走行する他車両の情報をドライバーに適切に把握させることができる。
また、本実施形態では、自車両の走行速度Vが低いほど車速指標を低く設定し、自車両の走行速度Vが速いほど車速指標を高く設定する。または、トランスミッションの変速比が高いほど車速指標を低く設定し、トランスミッションの変速比が低いほど車速指標を高く設定する。同様に、自車両が走行する道路の道路種別や制限速度Vr、自車両から対象物までの距離D、あるいは自車両の走行シーンが、自車両の周囲に歩行者、自転車、信号機などが多く存在し、自車両が比較的遅い速度で走行する場面で予測される走行状態となった場合に、車速指標を低く設定し、反対に、自車両の周囲に他車両が多く存在し、自車両が比較的速い速度で走行する場面で予測される走行状態となった場合に、車速指標を高く設定する。これにより、車速指標が低い場合には、自車両の周囲に歩行者、自転車、信号機などが多く存在する場面に適した、撮像画像に基づく提示情報を提示することができる。また、車速指標が高い場合には、自車両の周囲に他車両が多く存在する場面に適した、俯瞰画像に基づく提示情報を提示することができる。
さらに、本実施形態では、撮像画像に基づく提示画像を提示する場合に、自車両の走行速度Vが速いほど、マスク幅dを大きくし、撮像画像の左右端部をマスク処理する。ここで、車両の走行速度Vが速いほど、ドライバーの視野が狭くなることが知られている。本実施形態では、自車両の走行速度Vと撮像画像の大きさとの関係が、自車両の走行速度Vとドライバーの視野との関係と一致するように、自車両の走行速度Vが速いほどマスク幅dを大きくして、マスク処理を行うことで、ドライバーの違和感を軽減することができる。また、自車両の走行速度Vが速くなるほど、撮像画像の左右両端において風景が後方に流れる速度(オプティカルフロー)が速くなるため左右両端の画像がぼけてしまう。本実施形態では、自車両の走行速度が速くなるほど、撮像画像の左右両端をマスクすることで、このような画像のぼけによる、ドライバーの違和感を軽減することができる。
また、自車両の走行速度Vとドライバーの視野との関係と一致させるために、自車両の走行速度Vが速くなるほど、ドライバーに提示する提示画像を小さくしてしまうと、ドライバーに対象物の情報を適切に提示することができなくなる。さらに、自車両の走行速度Vが速い場合には、歩行者や自転車が自車両の周囲を通行する場面よりも、自車両の周囲に、自車両と同じ道路を走行している他車両が存在する場面であることが想定され、このような場合には、自車両と他車両との位置関係が重要となる。そこで、本実施形態では、車速指標が「3」以上となる場合には、俯瞰画像に基づく提示画像を提示する。これにより、自車両の走行速度Vとドライバーの視野との関係が一致しない場合でも、俯瞰画像に基づく提示画像はドライバーの視点とは大きく異なるため、ドライバーの違和感を軽減することができるとともに、自車両の走行速度Vが高い場合に重要な自車両の周囲を走行する他車両の情報を、ドライバーに適切に提示することができる。
さらに、本実施形態では、撮像画像に基づく提示画像を提示する場合に、図7(A),(B)に示すように、自車両のボンネットを模したボンネット画像を重畳して表示する。これにより、撮像画像が自車両の前方を撮像した画像であることをドライバーに直感的に把握させることができる。また、本実施形態では、自車両の走行速度Vまたは車速指標が大きいほど、ボンネット画像の上下方向(X方向)の長さを長くする。これにより、自車両の走行速度Vが速くなるほど、自車両のボンネットをより高いアングルから見るような視覚効果が得られる。その結果、その後、自車両が加速していき、撮像画像に基づく提示画像から俯瞰画像に基づく提示画像へと変わることで、自車両をより上方から俯瞰するように提示画像のアングルが変化する場合でも、俯瞰画像に基づく提示画像を提示する前から、自車両の走行速度Vに応じてアングルが変化しているため、アングルの変化によるドライバーの違和感を軽減することができる。
加えて、本実施形態では、自車両の前方を撮像するカメラ110として、自車両から近距離の位置に存在する対象物の撮影に適した近距離カメラ(魚眼カメラ)と、自車両から中距離の位置に存在する対象物の撮影に適した中距離カメラと、自車両から長距離の位置に存在する対象物の撮影に適した遠距離カメラと、を有する。そして、車速指標が低い場合には、近距離カメラにより撮像された撮像画像に基づいて提示画像を生成し、車速指標が高い場合には、中距離カメラにより撮像された撮像画像に基づいて提示画像を生成する。これにより、車速指標が低い場合には、自車両の近傍を通行する歩行者や自転車などを適切に検出することができ、車速指標が高い場合には、自車両の前方を走行する自転車やバイクなどを適切に検出することができる。
また、本実施形態では、撮像画像に基づく提示画像を提示する場合に、カメラ110や測距センサ120により検出された検出対象物を強調して表示する。これにより、情報提示装置100が検出している検出対象物をドライバーに適切に把握させることができる。さらに、本実施形態では、自動走行制御の対象となる制御対象物を、他の検出対象物とは異なる表示形態で強調して表示する。これにより、自動走行制御の対象となる制御対象物をドライバーに適切に把握させることもできる。加えて、本実施形態では、自車両から検出対象物(制御対象物を含む)までの距離情報を、検出対象物に重畳して表示する。これにより、自車両から検出対象物までの距離をドライバーに適切に把握させることができる。
さらに、本実施形態では、俯瞰画像に基づく提示画像を提示する場合に、車速指標に応じて、俯角の異なる俯瞰画像を描画する。具体的には、車速指標が高いほど、より自車両を上方から俯瞰しているような視覚効果を出すために、俯角の大きい俯瞰画像を描画する。これにより、図14(A)〜(F)に示すように、自車両の速度が速いほど、自車両の周囲をより広範に表示して、自車両の周囲を走行する他車両の走行状態をドライバーに提示することができる。その結果、自車両の走行速度が中程度である場合も、自車両が高速で走行している場合も、自車両と他車両とが接近する前に、自車両に接近する他車両をドライバーに適切に提示することができる。たとえば、自車両が高速で走行している場合には、自車両が低速で走行している場合と比べて、他車両が自車両に高速で接近する傾向にある。このような場合でも、自車両の周囲をより広範に提示することで、自車両に高速で接近する他車両を早いタイミングで(他車両が自車両に接近する前に)ドライバーに提示することができる。
加えて、本実施形態では、俯瞰画像に基づく提示画像を提示する場合に、カメラ110や測距センサ120により検出された検出対象物を、自車両と検出対象物との実際の位置関係に対応する俯瞰画像上の位置に配置する。これにより、情報提示装置100が検出している対象物が自車両の周囲のどの位置を走行しているかを、ドライバーに適切に把握させることができる。また、本実施形態では、自動走行制御の対象となる制御対象物を強調して表示する。これにより、自動走行制御の対象となる制御対象物をドライバーに把握させることもできる。加えて、本実施形態では、自車両から検出対象物までの距離を示唆する距離ガイドラインを俯瞰画像に重畳して表示する。これにより、自車両から検出対象物までの距離をドライバーに適切に把握させることができる。
また、上述した実施形態では、撮像画像に基づく提示画像と、俯瞰画像に基づく提示画像とを切り替える場合に、撮像画像に基づく提示画像から俯瞰画像に基づく提示画像への遷移、または、俯瞰画像に基づく提示画像から撮像画像に基づく提示画像への遷移を示す切り替え画像を提示する。これにより、ドライバーの視点に近い撮像画像に基づく提示画像から、ドライバーの視点とは異なる俯瞰画像に基づく提示画像へと切り替わることによる、ドライバーの違和感を軽減することができる。同様に、ドライバーの視点とは異なる俯瞰画像に基づく提示画像から、ドライバーの視点に近い撮像画像に基づく提示画像へと切り替わることによる、ドライバーの違和感を軽減することができる。特に、本実施形態では、撮像画像に基づく提示画像と、俯瞰画像に基づく提示画像との切り替えを連続的にアニメーションで表示することで、よりドライバーの違和感を軽減することができる。さらに、本実施形態では、自車両の加速度が速いほど切り替え時間(切り替え画像の提示時間)を短くすることで(アニメーションの速度を速くすることで)、提示画像の切り替え動作が自車両の加速度と一体的に行われることとなり、ドライバーに自車両との一体感を与えることができる。
なお、以上に説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
たとえば、上述した実施形態では、自車両の走行速度V、トランスミッションの変速比、自車両が走行する道路の道路種別、自車両が走行する道路の制限速度Vr、自車両から対象物までの距離D、および自車両の走行シーンのいずれかに基づいて車速指標を算出し、算出した車速指標に基づいて、提示画像を切り替える構成を例示したが、この構成に限定されず、たとえば、車速指標を算出することなく、走行速度V、トランスミッションの変速比、道路種別、制限速度D、対象物までの距離D、または自車両の走行シーンそのものに基づいて、提示画像を切り替える構成としてもよい。
また、上述した実施形態では、撮像画像に基づく提示画像を表示する場合に、自車両の走行速度Vまたは車速指標に基づいて、撮像画像の左右端部をマスク処理する構成を例示したが、この構成に加えて、たとえば、自車両の走行速度Vまたは車速指標に基づいて、提示画像の上下端部をマスク処理する構成としてもよい。
なお、上述した実施形態に係るカメラ110は本発明のカメラに、カメラ110および測距センサ120は本発明の検出器に、それぞれ相当する。
100…情報提示装置
110…カメラ
120…測距センサ
130…車速センサ
140…ナビゲーション装置
150…ディスプレイ
160…報知装置
170…制御装置

Claims (22)

  1. カメラを含む検出器により検出された対象物の検出情報の表示制御を行う表示制御方法であって、
    前記検出情報は、前記カメラにより撮像された撮像画像に基づく第1画像と、前記検出器の検出結果に基づいて描画された画像に基づく第2画像とを含み、
    車両の走行速度が所定速度未満である場合には、前記第1画像を表示し、
    前記車両の走行速度が前記所定速度以上である場合には、前記第2画像を表示する表示制御方法。
  2. カメラを含む検出器により検出された対象物の検出情報の表示制御を行う表示制御方法であって、
    前記検出情報は、前記カメラにより撮像された撮像画像に基づく第1画像と、前記検出器の検出結果に基づいて描画された画像に基づく第2画像とを含み、
    車両の走行速度、変速機の変速比、車両が走行する道路の制限速度、車両から前記対象物までの距離、並びに、停車シーン、徐行シーン、自転車並走シーン、街中走行シーン、郊外走行シーンおよび高速巡航シーンのいずれか1つ以上のシーンを含む車両の走行シーンのうちいずれか1つの車速指標が、所定速度未満の車速であることを示す場合には前記第1画像を表示し、前記車速指標が、前記所定速度以上の車速であることを示す場合には前記第2画像を表示する表示制御方法。
  3. 請求項2に記載の表示制御方法であって、
    前記車速指標は、変速機の変速比であり、
    前記変速比が所定値以上である場合には、前記第1画像を表示し、
    前記変速比が前記所定値未満である場合には、前記第2画像を表示する表示制御方法。
  4. 請求項2に記載の表示制御方法であって、
    前記車速指標は、車両の走行速度であり、
    前記走行速度が所定速度未満である場合には、前記第1画像を表示し、
    前記走行速度が前記所定速度以上である場合には、前記第2画像を表示する表示制御方法。
  5. 請求項2に記載の表示制御方法であって、
    前記車速指標は、車両が走行する道路の制限速度であり、
    前記制限速度が所定速度未満である場合には、前記第1画像を表示し、
    前記制限速度が前記所定速度以上である場合には、前記第2画像を表示する表示制御方法。
  6. 請求項2に記載の表示制御方法であって、
    前記車速指標は、車両から前記対象物までの距離であり、
    前記距離が所定距離未満である場合には、前記第1画像を表示し、
    前記距離が前記所定距離以上である場合には、前記第2画像を表示する表示制御方法。
  7. 請求項2に記載の表示制御方法であって、
    前記車速指標は、車両の走行シーンであり、
    車両の走行状態に基づいて前記車両の走行シーンを判定し、前記車両の走行シーンに基づいて、前記第1画像と第2画像とを切り替えて表示する表示制御方法。
  8. 請求項2〜7のいずれかに記載の表示制御方法であって、
    前記第1画像を表示する場合に、前記第1画像の端部を、車両の走行速度または前記車速指標に応じた幅だけマスク処理する表示制御方法。
  9. 請求項2〜8のいずれかに記載の表示制御方法であって、
    前記第1画像を表示する場合に、前記第1画像に車両のボンネットを模したボンネット画像を重畳する表示制御方法。
  10. 請求項9に記載の表示制御方法であって、
    車両の走行速度または前記車速指標に応じて、前記第1画像に重畳する前記ボンネット画像の大きさまたは形状を変更する表示制御方法。
  11. 請求項2〜10のいずれかに記載の表示制御方法であって、
    複数のカメラにより撮像された前記撮像画像を取得し、車両の走行速度または前記車速指標に基づいて、前記複数のカメラにより撮像された前記撮像画像の中から、前記第1画像の生成に用いる撮像画像を選択する表示制御方法。
  12. 請求項2〜11のいずれかに記載の表示制御方法であって、
    前記第1画像内において、前記検出器により検出された前記対象物を強調して表示する表示制御方法。
  13. 請求項2〜12のいずれかに記載の表示制御方法であって、
    前記検出器により検出された前記対象物のうち1または2以上の対象物を対象として車両の走行を制御している場合には、前記第1画像内において、前記制御の対象となる前記対象物を、前記制御の対象としない前記対象物とは異なる表示形態で強調して表示する表示制御方法。
  14. 請求項2〜13のいずれかに記載の表示制御方法であって、
    前記第1画像を表示する場合に、車両から前記対象物までの距離を示唆する距離情報を重畳する表示制御方法。
  15. 請求項2〜14のいずれかに記載の表示制御方法であって、
    前記第2画像は、自車両を上方から俯瞰した俯瞰画像に基づく画像である表示制御方法。
  16. 請求項15に記載の表示制御方法であって、
    前記第2画像を表示する場合に、前記車速指標に応じて、俯角の異なる前記第2画像を表示する表示制御方法。
  17. 請求項2〜16のいずれかに記載の表示制御方法であって、
    前記第2画像を表示する場合に、前記第2画像内に、前記検出器により検出された前記対象物を配置する表示制御方法。
  18. 請求項2〜17のいずれかに記載の表示制御方法であって、
    前記検出器により検出された前記対象物のうち1または2以上の対象物を対象として車両の走行を制御している場合には、前記第2画像内において、前記制御の対象となる前記対象物を強調して表示する表示制御方法。
  19. 請求項2〜18のいずれかに記載の表示制御方法であって、
    前記第2画像を表示する場合に、車両から前記対象物までの距離を示唆する距離情報を重畳する表示制御方法。
  20. 請求項2〜19のいずれかに記載の表示制御方法であって、
    前記第1画像と前記第2画像とを切り替える場合に、前記第1画像から前記第2画像への遷移、または、前記第2画像から前記第1画像への遷移を表す切り替え画像を表示する表示制御方法。
  21. 請求項20に記載の表示制御方法であって、
    車両の加速度に基づいて、前記第1画像と前記第2画像との切り替え時間を変更する表示制御方法。
  22. カメラを含む検出器により検出された対象物の検出情報の表示制御を行う表示制御装置であって、
    前記検出情報は、前記カメラにより撮像された撮像画像に基づく第1画像と、前記検出器の検出結果に基づいて描画された画像に基づく第2画像とを含み、
    車両の走行速度が所定速度未満である場合には、前記第1画像を表示し、
    前記車両の走行速度が前記所定速度以上である場合には、前記第2画像を表示する表示制御装置。
JP2017546348A 2015-10-22 2015-10-22 表示制御方法および表示制御装置 Active JP6489230B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/079877 WO2017068692A1 (ja) 2015-10-22 2015-10-22 表示制御方法および表示制御装置

Publications (2)

Publication Number Publication Date
JPWO2017068692A1 JPWO2017068692A1 (ja) 2018-09-27
JP6489230B2 true JP6489230B2 (ja) 2019-03-27

Family

ID=58556887

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017546348A Active JP6489230B2 (ja) 2015-10-22 2015-10-22 表示制御方法および表示制御装置

Country Status (11)

Country Link
US (1) US10322674B2 (ja)
EP (1) EP3367366B1 (ja)
JP (1) JP6489230B2 (ja)
KR (1) KR102086272B1 (ja)
CN (1) CN108140318A (ja)
BR (1) BR112018008099A2 (ja)
CA (1) CA3002628C (ja)
MX (1) MX2018004891A (ja)
MY (1) MY187205A (ja)
RU (1) RU2704773C1 (ja)
WO (1) WO2017068692A1 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7092688B2 (ja) * 2017-02-17 2022-06-28 住友重機械工業株式会社 作業機械用周辺監視システム
EP3611591B1 (en) * 2017-04-13 2021-12-22 Panasonic Corporation Method for controlling an electrically driven vehicle and electrically driven vehicle controlled with the method
JP7028609B2 (ja) * 2017-11-08 2022-03-02 フォルシアクラリオン・エレクトロニクス株式会社 画像表示装置、及び画像表示システム
CN112740009A (zh) * 2018-09-21 2021-04-30 本田技研工业株式会社 车辆检查系统
JP7054739B2 (ja) * 2018-09-21 2022-04-14 本田技研工業株式会社 車両検査システム
EP3864573A1 (en) 2018-10-11 2021-08-18 Tesla, Inc. Systems and methods for training machine models with augmented data
JP7200645B2 (ja) * 2018-12-11 2023-01-10 トヨタ自動車株式会社 車載装置、プログラム、及び車両
DE102019202576A1 (de) * 2019-02-26 2020-08-27 Volkswagen Aktiengesellschaft Verfahren zum Betreiben eines Fahrerinformationssystems in einem Ego-Fahrzeug und Fahrerinformationssystem
DE102019202588A1 (de) 2019-02-26 2020-08-27 Volkswagen Aktiengesellschaft Verfahren zum Betreiben eines Fahrerinformationssystems in einem Ego-Fahrzeug und Fahrerinformationssystem
DE102019202581B4 (de) * 2019-02-26 2021-09-02 Volkswagen Aktiengesellschaft Verfahren zum Betreiben eines Fahrerinformationssystems in einem Ego-Fahrzeug und Fahrerinformationssystem
EP3817374A1 (en) * 2019-04-30 2021-05-05 SZ DJI Technology Co., Ltd. Method, apparatus and system for adjusting field of view of observation, and storage medium and mobile apparatus
JP7310372B2 (ja) * 2019-07-03 2023-07-19 三菱自動車工業株式会社 表示制御装置
CN110758243B (zh) * 2019-10-31 2024-04-02 的卢技术有限公司 一种车辆行驶过程中的周围环境显示方法和系统
US11531107B2 (en) * 2019-11-19 2022-12-20 Volvo Car Corporation Long range LIDAR-based speed estimation
JP7357284B2 (ja) * 2020-02-12 2023-10-06 パナソニックIpマネジメント株式会社 描画システム、表示システム、移動体、描画方法及びプログラム
CN113665360A (zh) * 2020-05-15 2021-11-19 上海仙豆智能机器人有限公司 显示控制方法、车载终端及存储介质
JP7342926B2 (ja) * 2021-02-08 2023-09-12 株式会社デンソー 表示制御装置及び表示制御プログラム
WO2022168540A1 (ja) * 2021-02-08 2022-08-11 株式会社デンソー 表示制御装置及び表示制御プログラム
CN113810595B (zh) * 2021-06-16 2023-03-17 荣耀终端有限公司 视频拍摄的编码方法、设备和存储介质
CN118270037A (zh) * 2022-06-08 2024-07-02 上海集度汽车有限公司 显示方法、车辆及介质
CN115297276B (zh) * 2022-10-09 2023-01-17 东风悦享科技有限公司 一种视野自适应切换的远程驾驶图像处理系统和方法

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3400584B2 (ja) * 1994-12-19 2003-04-28 本田技研工業株式会社 車載用表示装置
CN100438623C (zh) * 1999-04-16 2008-11-26 松下电器产业株式会社 图象处理装置及监视系统
US7145519B2 (en) * 2002-04-18 2006-12-05 Nissan Motor Co., Ltd. Image display apparatus, method, and program for automotive vehicle
US7526103B2 (en) * 2004-04-15 2009-04-28 Donnelly Corporation Imaging system for vehicle
JP4658724B2 (ja) * 2005-07-20 2011-03-23 株式会社オートネットワーク技術研究所 後側方視認システム
JP4365359B2 (ja) * 2005-09-06 2009-11-18 株式会社ナビタイムジャパン ナビゲーションシステム、ナビゲーション装置およびナビゲーション装置における動作モード制御方法
JP2007282098A (ja) * 2006-04-11 2007-10-25 Denso Corp 画像処理装置及び画像処理プログラム
JP4945177B2 (ja) * 2006-07-05 2012-06-06 三洋電機株式会社 車両の運転支援装置
US8004394B2 (en) 2006-11-07 2011-08-23 Rosco Inc. Camera system for large vehicles
JP5045172B2 (ja) * 2007-03-20 2012-10-10 マツダ株式会社 車両用運転支援装置
JP4281817B2 (ja) * 2007-03-28 2009-06-17 トヨタ自動車株式会社 撮像システム
US8012061B2 (en) * 2007-03-30 2011-09-06 Caterpillar Inc. Vehicle overspeed system implementing impeller clutch lockout
JP4945315B2 (ja) * 2007-05-23 2012-06-06 三洋電機株式会社 運転支援システム及び車両
JP5262515B2 (ja) * 2008-09-25 2013-08-14 日産自動車株式会社 車両用表示装置および表示方法
JP2010218058A (ja) * 2009-03-13 2010-09-30 Denso It Laboratory Inc 運転支援装置及び運転支援方法
JP5087051B2 (ja) * 2009-07-02 2012-11-28 富士通テン株式会社 画像生成装置及び画像表示システム
RU102331U1 (ru) * 2010-09-24 2011-02-27 Малышев Павел Михайлович Система повышения безопасности управления транспортным средством
JP5316550B2 (ja) * 2011-01-05 2013-10-16 株式会社デンソー 後方視界支援システム
EP2481637B1 (en) * 2011-01-28 2014-05-21 Nxp B.V. Parking Assistance System and Method
JP5408198B2 (ja) * 2011-08-01 2014-02-05 日産自動車株式会社 映像表示装置及び映像表示方法
JP5682788B2 (ja) * 2011-09-27 2015-03-11 アイシン精機株式会社 車両周辺監視装置
JP5867273B2 (ja) * 2012-04-27 2016-02-24 富士通株式会社 接近物体検知装置、接近物体検知方法及び接近物体検知用コンピュータプログラム
EP2680677A1 (en) * 2012-06-25 2014-01-01 General Electric Company Image display method
JP5643272B2 (ja) * 2012-09-21 2014-12-17 株式会社小松製作所 作業車両用周辺監視システム及び作業車両
US9758099B2 (en) * 2013-03-15 2017-09-12 Gentex Corporation Display system and method thereof
JP6081247B2 (ja) 2013-03-19 2017-02-15 アルパイン株式会社 車両後方画像の表示切替装置および表示切替方法
JP6177585B2 (ja) * 2013-05-23 2017-08-09 アルパイン株式会社 ナビゲーション装置
JP2015144406A (ja) * 2013-12-27 2015-08-06 株式会社Jvcケンウッド 視界支援装置、視界支援方法、及び視界支援プログラム

Also Published As

Publication number Publication date
CN108140318A (zh) 2018-06-08
BR112018008099A2 (ja) 2018-11-06
EP3367366A1 (en) 2018-08-29
RU2704773C1 (ru) 2019-10-30
MY187205A (en) 2021-09-10
US20180312110A1 (en) 2018-11-01
CA3002628C (en) 2022-03-08
WO2017068692A1 (ja) 2017-04-27
CA3002628A1 (en) 2017-04-27
EP3367366A4 (en) 2018-11-14
JPWO2017068692A1 (ja) 2018-09-27
MX2018004891A (es) 2018-06-20
KR102086272B1 (ko) 2020-03-06
US10322674B2 (en) 2019-06-18
EP3367366B1 (en) 2021-05-05
KR20180067600A (ko) 2018-06-20

Similar Documents

Publication Publication Date Title
JP6489230B2 (ja) 表示制御方法および表示制御装置
JP6658905B2 (ja) 走行支援装置及びコンピュータプログラム
JP6547836B2 (ja) 駐車支援方法及び駐車支援装置
CN111052733B (zh) 周围车辆显示方法及周围车辆显示装置
JP5987791B2 (ja) ヘッドアップディスプレイ及びプログラム
JP5070809B2 (ja) 運転支援装置、運転支援方法、及び、プログラム
EP2487906B1 (en) Control device and vehicle surrounding monitoring device
JP6307895B2 (ja) 車両用周辺監視装置
JP7354649B2 (ja) 周辺監視装置
JP7002246B2 (ja) 車両用表示方法及び車両用表示装置
JP7019239B2 (ja) 車両用表示方法及び車両用表示装置
CN111034186B (zh) 周围车辆显示方法及周围车辆显示装置
JP7476568B2 (ja) 重畳画像表示装置、重畳画像描画方法及びコンピュータプログラム
JP2009226978A (ja) 車両用周囲監視装置
JP7047586B2 (ja) 車両用表示制御装置
JP2017191472A (ja) 画像表示方法及び画像表示装置
JP2020085688A (ja) 表示システム、表示制御方法、およびプログラム
JP6102509B2 (ja) 車両用表示装置
JP2023165721A (ja) 表示制御装置
JP7342926B2 (ja) 表示制御装置及び表示制御プログラム
JP7517252B2 (ja) 車両用表示装置、車両用表示システム、車両用表示方法及びプログラム
JP2019028568A (ja) 車両用表示方法及び車両用表示装置
JP2020140603A (ja) 表示制御装置、表示制御方法、および表示制御プログラム

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A5211

Effective date: 20180418

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190211

R151 Written notification of patent or utility model registration

Ref document number: 6489230

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151