JP7121120B2 - 車両制御装置 - Google Patents

車両制御装置 Download PDF

Info

Publication number
JP7121120B2
JP7121120B2 JP2020525312A JP2020525312A JP7121120B2 JP 7121120 B2 JP7121120 B2 JP 7121120B2 JP 2020525312 A JP2020525312 A JP 2020525312A JP 2020525312 A JP2020525312 A JP 2020525312A JP 7121120 B2 JP7121120 B2 JP 7121120B2
Authority
JP
Japan
Prior art keywords
image
obstacle
captured
vehicle
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020525312A
Other languages
English (en)
Other versions
JPWO2019239725A1 (ja
Inventor
克哉 松雪
智 大久保
宗俊 柘植
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Astemo Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Astemo Ltd filed Critical Hitachi Astemo Ltd
Publication of JPWO2019239725A1 publication Critical patent/JPWO2019239725A1/ja
Application granted granted Critical
Publication of JP7121120B2 publication Critical patent/JP7121120B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/04Display arrangements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/04Display arrangements
    • G01S7/06Cathode-ray tube displays or other two dimensional or three-dimensional displays
    • G01S7/24Cathode-ray tube displays or other two dimensional or three-dimensional displays the display being orientated or displaced in accordance with movement of object carrying the transmitting and receiving apparatus, e.g. true-motion radar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/51Display arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/165Anti-collision systems for passive traffic, e.g. including static obstacles, trees
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/168Driving aids for parking, e.g. acoustic or visual feedback on parking space
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/31Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing stereoscopic vision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Mechanical Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Signal Processing (AREA)
  • Transportation (AREA)
  • Electromagnetism (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本発明は、自車両に搭載された複数のカメラで撮像された画像を表示する車両制御装置に関する。
従来、車両の前方、後方および左右方向の全ての領域を例えば4台のカメラで撮影し、得られた複数の原画像を合成して、一つの俯瞰映像に加工することで、車両周辺の様子を認識できるようにした車両周辺監視システムが提案されている。このような車両周辺監視システムは、自動運転や自動駐車など、車両を自動で制御する車両制御装置が車両周辺の状況を認識するために利用されている。例えば特許文献1には、俯瞰表示画像における重複領域に障害物が存在することを検知した場合に、重複領域を撮影するカメラの原画像へ切り替える監視システムの技術が示されている。
特開2007―235529号公報
車両周辺監視システムでは、俯瞰映像を作成するとき、通常、隣り合うカメラで撮影した映像の端部は重複しており、これら重複領域の画像を変換することにより、連続性を持たせた俯瞰映像を表示装置に表示している。そのため、重複領域に物体が存在する場合、その物体が俯瞰映像に鮮明に表示されず、物体の存在は認識できるが、その詳細を確認できない。したがって、例えば車両が通過する領域に物体が存在する場合、車両制御装置もしくは運転者により回避行動をとる必要がある。
しかし、隣り合うカメラの重複領域と自動制御中の車両の通過予定領域が重なる場合に、運転者は物体の有無を映像で詳細に確認できず、適切な対応を瞬時に判断することが難しくなるという課題がある。
本発明は、上記の点に鑑みてなされたものであり、その目的とするところは、乗員が障害物の有無を映像で容易に確認することができる車両制御装置を提供することである。
上記課題を解決する本発明の車両制御装置は、車両の外界を撮像する複数の撮像部と、該複数の撮像部で撮像された複数の撮像画像を合成して周辺映像を生成する周辺映像合成部と、前記車両の走行経路上に障害物が存在するか否かを判定する衝突判定部と、前記複数の撮像部で撮像された複数の撮像画像の中から前記障害物が撮像されている撮像画像を選択し、該選択された撮像画像を含む警報映像を生成する警報映像生成部と、該衝突判定部により前記障害物が存在しないと判定された場合に前記周辺映像を表示させ、前記障害物が存在すると判定された場合に前記警報映像を表示させる処理を行う表示映像切替部と、を備えることを特徴とする。
本発明によれば、乗員が自車両の障害物の有無を映像で容易に確認することができる。
本発明に関連する更なる特徴は、本明細書の記述、添付図面から明らかになるものである。また、上記した以外の、課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
本発明の一実施形態の車両制御装置の全体構成図。 車両制御装置を搭載した車両の概略構成図。 車両制御装置の機能構成を示すブロック図。 車両が通過する領域内に障害物が存在しない場合に表示部に表示される合成映像の一例を示す図。 一実施形態の車両制御装置によって表示される警報映像の第一の例を示す図。 一実施形態の車両制御装置によって表示される警報映像の第二の例を示す図。 一実施形態の車両制御装置によって表示される警報映像の第三の例を示す図。 一実施形態の車両制御装置によって表示される警報映像の第四の例を示す図。 一実施形態の車両制御装置によって表示される警報映像の第五の例を示す図。 一実施形態の車両制御装置における制御の内容を説明するためのフローチャート。 一実施形態の車両制御装置によって表示される警報画面の第六の例を示す図。 車両に取り付けられたカメラが撮影する領域に基づいて、車両を中心に隣接する領域を格子状に分割した状態を示す図。
以下、本発明の車両制御装置の一実施形態について図面を参照して説明する。
図1は、本発明の一実施形態の車両制御装置の全体構成図、図2は、車両制御装置を搭載した車両の概略構成図である。
車両制御装置10は、車両20の自動運転制御を行うものであり、例えば、車両20を目標駐車位置に自動駐車させる制御を行う。そして、その際に、車両の乗員に車両周辺の状況を認識させるために、車両20に取り付けられた複数のカメラ25F、25B、25L、25Rから取得した画像を用いて作成した俯瞰映像や3D映像等の合成画像を表示部23に表示する機能を有する。
車両制御装置10は、図1に示すように、入力側に操作部24、撮像部25および測距センサ26が接続されており、各データD24、D25、D26が入力されるようになっている。また、出力側には表示部23が接続されており、表示部23に対してデータD104を出力するようになっている。表示部23と操作部24は、運転者による視認および操作が可能なように、車室内の操作可能な位置に取り付けられており、撮像部25と測距センサ26は、車両周辺の環境を検出するように車両の外部に取り付けられている。
撮像部25は、車両20の外界を撮像するために、車両20の外部に複数が取り付けられている。撮像部25は、例えば図2に示すように、車両20の前方を撮影するカメラ25Fと、車両20の左側を撮影するカメラ25Lと、車両20の後方を撮影するカメラ25Bと、車両20の右側を撮影するカメラ25Rによって構成されている。なお、図2に示す例では、車両の前後左右にカメラを一つずつ設けた構成としているが、一つのカメラに代えて、同じ方向を二つのカメラで撮像するステレオカメラとしても良い。また、撮像部25は、カメラに限定されず、ライダー(LIDAR:Light Detecting and Ranging)などで構成することもでき、これらの取り付け位置は、図2に示す位置に限定されない。撮像部25で撮影されたデータD25は、車両制御装置10に入力される。
測距センサ26は、ソナー、レーザーレーダ、或いはミリ波レーダによって構成することができる。測距センサ26は、車両20の周辺に位置する物体との距離を測定する。測距センサ26は、車両20の前後左右に分かれて複数が配置されている。測距センサ26による測距データD26は、車両制御装置10に入力される。測距センサ26は、車両20の周辺に位置する障害物を検出するために設けられている。車両20の周辺に位置する障害物とは、車両20の前方、側方、後方から車両20に接近してくる障害物を含む。例えば車両20の前方を走行する先行車両や車両20の後方を横切る車両は障害物の一つである。車両制御装置10は、測距データD26および撮像データD25の両方に基づいて障害物を検出してもよく、また、撮像データD25のみに基づいて障害物を検出してもよい。
次に、図3を用いて、車両制御装置10の具体的な動作について説明する。
図3は、車両制御装置10の機能構成を示すブロック図であり、車両制御装置10の具体的な内部構造を示している。車両制御装置10は、マイクロコンピュータで構成しても良い。以下に説明する車両制御装置10の動作は、コンピュータプログラムで実現することも可能である。
車両制御装置10は、状態管理部101と、経路生成部102と、経路解析部103と、制御画像生成部104と、空間認識部105を有している。
状態管理部101は、操作部24から入力される設定データD24に基づいて経路生成が必要であるか否かを判断する。例えば運転者により操作部24が操作され、目的地が設定されると、目的地情報を含む設定データD24が、状態管理部101に入力され、経路生成が必要であると判断する。状態管理部101は、経路生成が必要と判断すると、経路生成部102に対して目的地情報を含む経路生成要求データD101を入力する。
経路生成部102は、状態管理部101から入力された経路生成要求データD101に基づいて、車両20の現在位置から目的地までの走行経路データD102を生成し、記憶保持する。自動駐車制御の場合、現在位置は目標駐車位置の近辺であり、目的地は目標駐車位置となる。
経路解析部103は、走行経路データD102に基づいて走行計画データD103を策定する。経路解析部103は、走行計画データD103として、走行経路上に所定間隔で車両20を走行させる走行目標点を設定する。そして、経路生成部102より入力される走行経路データD102に基づいて、各走行目標点における目標加減速量と目標操舵量とを設定する。走行計画データD103は、走行目標点のデータと、各走行目標点における目標加減速量および目標操舵量のデータを含む。経路解析部103は、策定した走行計画データD103を制御画像生成部104と空間認識部105の衝突判定部1052とに供給する。
制御画像生成部104は、周辺映像合成部1041と、警報映像生成部1042と、表示映像切替部1043とを備える。周辺映像合成部1041は、撮像部25のカメラ25F、25B、25L、25Rで撮像された複数の撮像画像を合成して周辺画像を生成する。周辺映像合成部1041は、撮像部25から撮像データD25の供給を受ける。そして、例えば、車両周辺を表示できる車両上方の仮想視点から見下ろした映像に視点変換した俯瞰画像や、車両20の斜め後ろ上方の仮想視点から前方を見下ろした映像に視点変換した3D画像などの合成画像を生成する。周辺映像は、合成画像のみ、或いは、合成画像に車両20が通過する領域やメッセージなどの表示を重ねて表示した映像である。周辺映像合成部1041は、合成画像を含む周辺映像のデータを車両周辺映像データD1041として表示映像切替部1043に出力する。
警報映像生成部1042は、後述する障害物検知部1051から提供される障害物データD1051に基づいて、複数の撮像部25で撮像された複数の撮像画像の中から障害物が撮像されている撮像画像を選択し、選択された撮像画像を含む警報映像を生成する。警報映像は、障害物を撮像した撮像部25で撮影された原画像の撮像データD25を用いて生成される。警報映像は、原画像のみ、或いは、原画像に車両20が通過する領域やメッセージ、障害物を囲む矩形の枠線などの表示を重ねて表示した映像である。警報映像生成部1042は、障害物を撮影している撮像部25で撮像された原画像を含む警報映像のデータを警報映像データD1042として表示映像切替部1043に出力する。
表示映像切替部1043は、空間認識部105の認識結果に基づいて、表示部23に表示させる映像を切り替える処理を行う。表示映像切替部1043は、空間認識部105の衝突判定部1052により走行経路上に障害物が存在しないと判定された場合は、周辺映像データD1041を表示部23に出力し、俯瞰画像や3D画像などの合成画像を含む周辺映像を表示部23に表示させる処理を行う。一方、走行経路上に障害物が存在すると判定された場合は、警報映像データD1042を表示部23に出力し、障害物が撮像された原画像を含む警報映像を表示部23に表示させる処理を行う。そして、障害物が走行経路から経路外に移動した場合に、警報映像の表示を停止し、周辺映像を表示させる処理を行う。
空間認識部105は、障害物検知部1051と、衝突判定部1052とを備える。障害物検知部1051には、撮像データD25と測距データD26とが入力される。障害物検知部1051は、撮像データD25と測距データD26との少なくとも一方を用いて、障害物を検出する。障害物検知部1051は、撮像データD25と測距データD26との双方を用いて障害物を検知しても良い。障害物検知部1051は、検知された障害物情報D1051を衝突判定部1052と警報映像生成部1042に供給する。警報映像生成部1042では、障害物が検知された領域を撮像した撮像画像を、障害物が撮像されている撮像画像として選択する。
衝突判定部1052は、走行計画データD103と障害物情報D1051に基づいて、車両20が通過する領域内、つまり、走行経路上に障害物が存在するか否かを判定する。
衝突判定部1052は、判定結果を障害物検出データD1052として、表示映像切替部1043に供給する。
図4は、車両が通過する領域内に障害物が存在しない場合に表示部に表示される合成映像の一例を示す図であり、自動駐車制御中に表示される映像の一例である。図4において、車両20の側方に示されている線は駐車枠Pであり、太い線は目標駐車位置P1を示している。
図4に示す例では、走行経路I1内に障害物が存在していない。したがって、複数の撮像部25で撮像された映像を合成した合成映像を含む周辺映像が表示部23に表示される。周辺映像である3D映像D1と俯瞰映像D2には、合成画像の上に走行経路I1がハッチングで重畳表示される。運転者は、これらの合成映像を見ることによって車両20の周辺を確認することができる。図4に示す第一の例では、車両周辺の状況確認を容易にするための周辺映像として、3D映像D1と俯瞰映像D2の2つを表示部23に並べて表示しているが、これに限定されるものではなく、3D映像D1と俯瞰映像D2のどちらか一方のみを表示してもよい。
図5は、一実施形態の車両制御装置によって表示される警報映像の第一の例を示す図である。警報映像D3は、走行経路I1内に障害物を検出した際に表示部23に表示される原画像を含む映像である。図5に示す第一の例では、走行経路I1内に障害物B1が存在している。
警報映像生成部1042は、障害物B1が検知された領域を撮像した撮像画像を、障害物B1が撮像されている撮像画像として選択し、その選択した撮像画像を含む警報映像D3を生成する。そして、表示映像切替部1043は、警報映像D3を表示部23に表示させる処理を行う。
したがって、表示部23には、図4に示すような合成映像は表示されず、障害物B1を撮像するカメラ25Fで撮像された原画像を用いた警報映像D3が表示される。警報映像D3では、原画像の上に、走行経路I1がハッチングで重畳して表示される。運転者は、警報映像D3を見ることによって、障害物B1を正確に視認することができる。
図6は、一実施形態の車両制御装置によって表示される警報映像の第二の例を示す図である。表示映像切替部1043は、障害物B2の移動方向を警報映像D3に表示する処理を行ってもよい。図6に示す第二の例では、走行経路I1内に、移動する障害物B2を検出した場合に、警報映像D3として、障害物B2の移動方向を示す矢印アイコンI2を原画像の上に重畳して表示している。図6に示す障害物B2は、自車両の前方を右から左に移動する他車両である。運転者は、警報映像D3に示される移動方向の矢印アイコンI2を見ることによって、障害物B2の動きも確認することができる。
図7は、一実施形態の車両制御装置によって表示される警報映像の第三の例を示す図である。表示映像切替部1043は、障害物B2を囲む矩形の枠線I3を表示させる処理を行ってもよい。図7に示す第三の例では、走行経路I1内に移動する障害物B2を検出した場合に、警報映像として、検出した障害物を囲む矩形の枠線I3を原画像の上に重畳して表示している。運転者は、警報映像D3に表示される枠線I3によって、障害物B2の存在を容易に確認することができる。
図8は、一実施形態の車両制御装置によって表示される警報映像の第四の例を示す図である。
表示映像切替部1043は、障害物B2を囲む枠線I4を警報映像D3に表示させる処理と、枠線I4で囲まれた領域内の色を通常時の色とは別の特別色に切り替えて警報映像D3に表示させる処理を行ってもよい。図8に示す第四の例では、走行経路I1内に移動する障害物B2を検出した場合に、警報映像として、検出した障害物B2の周囲を矩形の枠線I4で囲み、枠線I4で囲まれた領域内の色を特別色に切り替えて原画像の上に重畳して表示している。運転者は、警報映像D3に表示される枠線I4で囲まれた領域内の色の変化によって、障害物B2の存在を容易に確認することができる。
図9は、一実施形態の車両制御装置によって表示される警報映像の第五の例を示す図である。表示映像切替部1043は、走行経路上に障害物B2を検知した場合、走行経路I1の色を切り替えて警報映像D3に表示させる処理を行ってもよい。図9に示す第五の例では、走行経路I1内に移動する障害物B2を検出した場合に、警報映像として、走行経路I1の色を通常時の色から別の色に切り替えて原画像の上に重畳して表示している。運転者は、警報映像D3に表示される走行経路I1の色の変化によって、障害物B2の存在を容易に確認することができる。
次に、本実施形態の車両制御装置による映像表示方法について説明する。図10は、一実施形態の車両制御装置における制御の内容を説明するためのフローチャートである。
まず、状態管理部101において、操作部24から入力される設定データD24の有無を判定する(ステップS1)。ここで、設定データD24が無い場合(False)、制御画像生成部104は、複数の撮像部25より提供される各撮像データD25を取得する(ステップS2)。そして、周辺映像合成部1041により各撮像データD25を合成して、合成画像を含む周辺映像の周辺映像データD1041を生成する(ステップS3)。
周辺映像合成部1041により周辺映像データD1041が生成されると、制御画像生成部104において、経路解析部103より提供される走行計画データD103の有無を判定する(ステップS4)。ここで、走行計画データD103が無い場合、経路情報がない(False)と判断して、表示映像切替部1043により合成映像表示が設定される(ステップS5)。そして、ステップS3にて生成した周辺映像データD1041がモニタである表示部23に出力され、表示部23に合成画像を含む周辺映像が表示される(ステップS6)。以降、ステップS1から処理を繰り返す。
一方、ステップS1にて設定データD24が有ると判定された場合(True)、状態管理部101は、目的地情報を含む経路生成要求データD101を経路生成部102に入力する。経路生成部102は、入力された経路生成要求データD101に基づいて、現在位置から目的地までの経路の算出を行い、経路データD102を生成する(ステップS7)。
経路生成部102により生成された経路データD102は、経路解析部103に入力され、経路解析部103により経路解析が行われる(ステップS8)。経路解析部103は、入力された経路データD102に基づいて走行計画データD103を算出する。そして、映像取得(ステップS2)と周辺映像の合成(ステップS3)が実行された後、ステップS4にて走行計画データD103が有ると判断され(True)、次のステップS9以降に移行する。
制御画像生成部104は、経路解析部103より提供される走行計画データD103に基づいて、所定間隔で設けられている走行目標点データに含まれる目標操舵量から描画される走行予定の経路線を、ステップS3にて生成した車両周辺映像データD1041に重畳表示するように合成する(ステップS9)。
次に、障害物検知部1051は、測距センサ26から入力される測距データD26と撮像部25から入力される撮像データD25の少なくともいずれか一方に基づいて、障害物の検出を行い、その結果を障害物データD1051として衝突判定部1052と警報映像生成部1042へ入力する(ステップS10)。警報映像生成部1042は、障害物データD1051より、障害物を撮影しているカメラ25を特定し、そのカメラ25で撮像された撮像画像の撮像データD25を特定する。そして、警報映像生成部1042は、障害物データD1051に基づいて撮像データD25から、警報映像データD1042を生成する。
そして、ステップS10で障害物を検出した場合(True)、衝突判定を実行する(ステップS11)。衝突判定部1052は、障害物データD1051と走行計画データD103から自車両が障害物に衝突する可能性について衝突予測を行う。ここでは、検知した障害物が走行経路上に存在するかを判定し、その判定結果を障害物検出データD1052として表示映像切替部1043へ供給する。
ステップS11にて衝突する可能性があると予測される場合(True)、警報映像生成部1042から警報映像データD1042を取得する(ステップS12)。
表示映像切替部1043は、警報映像データD1042を取得すると、警報映像を作成し(ステップS13)、警報映像表示を設定する処理を行う(ステップS14)。表示映像切替部1043は、ステップS11の衝突判定において、障害物に衝突しない状況から衝突する状況に変化したと判定した場合に、表示部23に警報映像データD1042を表示すると同時に、衝突が予測される障害物の検知を乗員に通知するための報知音を一度吹鳴させる処理を行っても良い。また、走行経路上に障害物が存在し続けていることを乗員に報知するため、警報映像データD1042を設定している間、報知音を繰り返し吹鳴しても良い。
ここで、繰り返し吹鳴する報知音は、障害物データD1051に含まれる障害物との距離に応じて、吹鳴間隔を変えても良い。例えば、障害物との距離が離れている場合は、吹鳴間隔を長くし、障害物との距離が近い場合は、吹鳴間隔を短くすることで、乗員は障害物との距離を判断することが可能となる。そして、繰り返し吹鳴する報知音は、障害物データD1051に含まれる障害物との距離に応じて、報知音の音量を変えても良い。例えば、障害物との距離が離れている場合は、音量を小さくし、障害物との距離が近い場合は、音量を大きくすることで、乗員は障害物との距離を判断することが可能となる。また、繰り返し吹鳴する報知音は、障害物データD1051に含まれる障害物との距離に応じて、報知音の周波数を変えても良い。例えば、障害物との距離が離れている場合は、低い周波数の報知音とし、障害物との距離が近い場合は、高い周波数の報知音とすることで、乗員は障害物との距離を判断することが可能となる。
ステップS10で障害物を検出しなかった場合(False)、合成映像の表示を設定する(ステップS15)。制御画像生成部104の表示映像切替部1043は、合成画像を含む車両周辺映像データD104を表示部23に出力する(ステップS6)。
図11は、自動駐車制御中に走行経路内に障害物を検知した場合に表示する原画像である警報映像の第六の例を示している。
警報映像生成部1042は、カメラ25L、カメラ25F、或いは、測距センサ26など、複数のセンサによって同一の障害物B1を検知した場合に、これらの複数のセンサが検知する領域をそれぞれ撮像したカメラ25Lとカメラ25Fの撮像画像を、障害物B1が撮像されている撮像画像としてそれぞれ選択し、その選択された撮像画像を含む警報映像D3、D4を生成する。
図11に示す第六の例では、二つの警報映像D3、D4が表示部23に並べて表示されている。警報映像D3、D4は、それぞれカメラ25Lとカメラ25Fにより撮像された原画像を含む映像である。運転者は、警報映像D3、D4を見ることによって、障害物B1を正確に視認することができる。
なお、警報映像生成部1042は、カメラ25L、カメラ25F、或いは、測距センサ26など、複数のセンサによって同一の障害物を検知した場合に、これらの複数のセンサの中で最も検知精度の高いセンサが検知する領域を撮像した撮像画像を、障害物が撮像されている撮像画像として選択する構成としてもよい。例えば、測距センサ26と撮像部25の両方で障害物を検知した場合、測距データD26の方が撮像データD25よりも検知精度が高いので、測距データD26の検知領域を撮影するカメラの撮像画像を警報映像として表示してもよい。
図12は、車両に取り付けられたカメラが撮影する領域に基づいて、車両を中心に隣接する領域を格子状に分割したものである。各格子領域は次のように構成される。
車両前方の領域A2は、前方を撮影するカメラ25Fのみで撮影される領域となり、車両後方の領域A7は、後方を撮影するカメラ25Bのみで撮影される領域となる。そして、車両左側の領域A4は、左側を撮影するカメラ25Lのみで撮影される領域となり、車両右側の領域A5は、右側を撮影するカメラ25Rのみで撮影される領域となる。車両左前の領域A1は、前方を撮影するカメラ25Fと左側を撮影するカメラ25Lとの両方で撮影される領域となり、車両右前の領域A3は、前方を撮影するカメラ25Fと右側を撮影するカメラ25Rとの両方で撮影される領域となる。また、車両左後の領域A6は、後方を撮影するカメラ25Bと左側を撮影するカメラ25Lとの両方で撮影される領域となり、車両右後の領域A8は、後方を撮影するカメラ25Bと右側を撮影するカメラ25Rとの両方で撮影される領域となる。
表示部23に表示するカメラ映像は、障害物検知部1051によって検出された障害物が位置する格子領域によって選択される。例えば、領域A1に障害物が存在する場合、表示映像切替部1043は、前方を撮影するカメラ25Fと左側を撮影するカメラ25Lのカメラ映像を警報映像として表示する。そして、例えば、領域A2に障害物が存在する場合、表示映像切替部1043は前方を撮影するカメラ25Fのカメラ映像を警報映像として表示する。
上述の車両制御装置10によれば、車両20の走行経路上に障害物が存在しない場合には、複数の撮像部25で撮像された撮像画像を合成した合成画像を含む周辺映像D1、D2が表示部23に表示される。そして、車両20の走行経路上に障害物が存在する場合には、障害物を撮像した撮像部25で撮像された原画像を含む警報映像D3、D4が表示部23に表示される。したがって、運転者は、車両20の走行経路上に障害物が存在する場合に、警報映像D3、D4を見ることによって、障害物B1、B2を正確に視認することができ、その障害物の存在を容易に確認することができる。
以上、本発明の実施形態について詳述したが、本発明は、前記の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の精神を逸脱しない範囲で、種々の設計変更を行うことができるものである。例えば、前記した実施の形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施形態の構成の一部を他の実施形態の構成に置き換えることが可能であり、また、ある実施形態の構成に他の実施形態の構成を加えることも可能である。さらに、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
10 車両制御装置20 車両23 表示部24 操作部25 撮像部25F、25B、25L、25R カメラ26 測距センサ101 状態管理部102 経路生成部103 経路解析部104 制御画像生成部1041 周辺映像合成部1042 警報映像生成部1043 表示映像切替部105 空間認識部1051 障害物検知部1052 衝突判定部B1、B2 障害物D1、D2 周辺映像D3、D4 警報映像I1 走行経路

Claims (1)

  1. 車両の外界を撮像する複数の撮像部と、
    該複数の撮像部で撮像された複数の撮像画像を合成して周辺映像を生成する周辺映像合成部と、
    前記車両の走行経路上に障害物が存在するか否かを判定する衝突判定部と、
    前記複数の撮像部で撮像された複数の撮像画像の中から前記障害物が撮像されている撮像画像を選択し、該選択された撮像画像を含む警報映像を生成する警報映像生成部と、
    該衝突判定部により前記障害物が存在しないと判定された場合に前記周辺映像を表示させ、前記障害物が存在すると判定された場合に前記警報映像を表示させる処理を行う表示映像切替部と、
    を備え
    前記警報映像生成部は、前記障害物が検知された領域を撮像した撮像画像を、前記障害物が撮像されている撮像画像として選択し、複数のセンサによって同一の障害物を検知した場合に、前記複数のセンサの中で最も検知精度の高いセンサが検知する領域を撮像した撮像画像、または、前記複数のセンサが検知する領域をそれぞれ撮像した複数の撮像画像を、前記障害物が撮像されている撮像画像として選択し、
    前記表示映像切替部は、前記走行経路上に前記障害物を検知した場合に、前記障害物の移動方向を前記警報映像に表示させる処理と、前記障害物を囲む枠線を前記警報映像に表示させる処理と、前記枠線で囲まれた領域内の色を通常時の色とは別の特別色に切り替えて前記警報映像に表示させる処理と、前記車両の走行領域の色を切り替えて前記警報映像に表示させる処理と、報知音を吹鳴させる処理と、前記障害物との距離に応じて前記報知音の吹鳴間隔と音量と周波数を変える処理と、を行う
    ことを特徴とする車両制御装置。
JP2020525312A 2018-06-14 2019-04-23 車両制御装置 Active JP7121120B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018113546 2018-06-14
JP2018113546 2018-06-14
PCT/JP2019/017124 WO2019239725A1 (ja) 2018-06-14 2019-04-23 車両制御装置

Publications (2)

Publication Number Publication Date
JPWO2019239725A1 JPWO2019239725A1 (ja) 2021-07-15
JP7121120B2 true JP7121120B2 (ja) 2022-08-17

Family

ID=68843188

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020525312A Active JP7121120B2 (ja) 2018-06-14 2019-04-23 車両制御装置

Country Status (4)

Country Link
US (1) US11276309B2 (ja)
JP (1) JP7121120B2 (ja)
CN (1) CN112272946B (ja)
WO (1) WO2019239725A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021199098A1 (ja) * 2020-03-30 2021-10-07 三菱電機株式会社 駐車支援装置
CN116968638B (zh) * 2023-07-31 2024-04-09 广州博太电子有限公司 一种车辆行驶预警方法、系统、介质及计算机

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011205513A (ja) 2010-03-26 2011-10-13 Aisin Seiki Co Ltd 車両周辺監視装置
JP2013131177A (ja) 2011-12-22 2013-07-04 Aisin Seiki Co Ltd 障害物警報装置
JP2013134597A (ja) 2011-12-26 2013-07-08 Aisin Seiki Co Ltd 障害物警報装置
JP2013132976A (ja) 2011-12-26 2013-07-08 Aisin Seiki Co Ltd 障害物警報装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4114292B2 (ja) * 1998-12-03 2008-07-09 アイシン・エィ・ダブリュ株式会社 運転支援装置
JP4956915B2 (ja) * 2005-05-20 2012-06-20 日産自動車株式会社 映像表示装置及び映像表示方法
JP2006341641A (ja) * 2005-06-07 2006-12-21 Nissan Motor Co Ltd 映像表示装置及び映像表示方法
JP4807104B2 (ja) * 2006-03-01 2011-11-02 日産自動車株式会社 車両周囲監視システム及び画像表示方法
DE102008001648A1 (de) * 2008-05-08 2009-11-12 Robert Bosch Gmbh Fahrerassistenzverfahren zum Bewegen eines Kraftfahrzeugs und Fahrerassistenzvorrichtung
JP2010068069A (ja) * 2008-09-09 2010-03-25 Denso Corp 車両周辺撮影システム
JP5031801B2 (ja) * 2009-07-28 2012-09-26 日立オートモティブシステムズ株式会社 車載用画像表示装置
KR101562589B1 (ko) * 2010-04-30 2015-10-23 엘지전자 주식회사 영상 표시 장치 및 그 방법
CA2808461C (en) * 2011-06-07 2015-12-08 Komatsu Ltd. Perimeter monitoring device for work vehicle
JP5765576B2 (ja) * 2011-12-22 2015-08-19 アイシン精機株式会社 障害物警報装置
US9412273B2 (en) * 2012-03-14 2016-08-09 Autoconnect Holdings Llc Radar sensing and emergency response vehicle detection
CN202573990U (zh) * 2012-03-27 2012-12-05 北京汽车股份有限公司 全景影像系统及车辆
US20150109444A1 (en) * 2013-10-22 2015-04-23 GM Global Technology Operations LLC Vision-based object sensing and highlighting in vehicle image display systems
WO2015125979A1 (ja) * 2015-04-28 2015-08-27 株式会社小松製作所 作業機械の周辺監視装置及び作業機械の周辺監視方法
KR101860610B1 (ko) * 2015-08-20 2018-07-02 엘지전자 주식회사 디스플레이 장치 및 이를 포함하는 차량
JP6478414B2 (ja) * 2016-09-13 2019-03-06 本田技研工業株式会社 車両制御装置、車両制御方法、および車両制御プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011205513A (ja) 2010-03-26 2011-10-13 Aisin Seiki Co Ltd 車両周辺監視装置
JP2013131177A (ja) 2011-12-22 2013-07-04 Aisin Seiki Co Ltd 障害物警報装置
JP2013134597A (ja) 2011-12-26 2013-07-08 Aisin Seiki Co Ltd 障害物警報装置
JP2013132976A (ja) 2011-12-26 2013-07-08 Aisin Seiki Co Ltd 障害物警報装置

Also Published As

Publication number Publication date
US20210118300A1 (en) 2021-04-22
CN112272946B (zh) 2023-06-09
CN112272946A (zh) 2021-01-26
JPWO2019239725A1 (ja) 2021-07-15
WO2019239725A1 (ja) 2019-12-19
US11276309B2 (en) 2022-03-15

Similar Documents

Publication Publication Date Title
JP4846426B2 (ja) 車両周囲監視装置
JP4760831B2 (ja) 車両周囲監視装置及び車両周囲監視方法
JP4883977B2 (ja) 車両用画像表示装置
JP5704902B2 (ja) 運転支援装置及び運転支援方法
WO2011043006A1 (ja) 制御装置および車両周囲監視装置
JP5329582B2 (ja) 車両用周辺監視装置
JP2006227811A (ja) 運転支援装置
JP2006252389A (ja) 周辺監視装置
JP2007034988A (ja) 車両の障害物回避報知装置
JP2018133072A (ja) 情報処理装置およびプログラム
JP7121120B2 (ja) 車両制御装置
CN106169061A (zh) 图像处理设备和图像处理方法
JP2019120994A (ja) 表示制御装置および表示制御方法
JP2007028363A (ja) トップビュー画像生成装置及びトップビュー画像表示方法
JP5718080B2 (ja) 車両用周辺監視装置
JP2007124097A (ja) 車両周辺視認装置
JPWO2019193715A1 (ja) 運転支援装置
JP6344105B2 (ja) 車両用警告システム
WO2020148957A1 (ja) 車両制御装置及び方法
JP2013161440A (ja) 車両周辺監視装置
JP2011211432A (ja) 車載用撮像装置
JP2011191859A (ja) 車両の周辺監視装置
WO2019187749A1 (ja) 車両用情報提供装置
JP2017194784A (ja) 車両用運転支援装置及び車両用運転支援プログラム
JP2012166689A (ja) 運転支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220311

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220804

R150 Certificate of patent or registration of utility model

Ref document number: 7121120

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150