JP6785953B2 - 車載用監視カメラ装置 - Google Patents

車載用監視カメラ装置 Download PDF

Info

Publication number
JP6785953B2
JP6785953B2 JP2019516811A JP2019516811A JP6785953B2 JP 6785953 B2 JP6785953 B2 JP 6785953B2 JP 2019516811 A JP2019516811 A JP 2019516811A JP 2019516811 A JP2019516811 A JP 2019516811A JP 6785953 B2 JP6785953 B2 JP 6785953B2
Authority
JP
Japan
Prior art keywords
obstacle
image
vehicle
surveillance camera
obstacles
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019516811A
Other languages
English (en)
Other versions
JPWO2018207303A1 (ja
Inventor
谷口 琢也
琢也 谷口
智能 小城戸
智能 小城戸
成晃 竹原
成晃 竹原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2018207303A1 publication Critical patent/JPWO2018207303A1/ja
Application granted granted Critical
Publication of JP6785953B2 publication Critical patent/JP6785953B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • B60W30/0956Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/22Display screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/90Calibration of instruments, e.g. setting initial or reference parameters; Testing of instruments, e.g. detecting malfunction
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/173Reversing assist
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/176Camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/178Warnings
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/179Distances to obstacles or vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/21Optical features of instruments using cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/408Radar; Laser, e.g. lidar
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2300/00Purposes or special features of road vehicle drive control systems
    • B60Y2300/08Predicting or avoiding probable or impending collision
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

この発明は車載用監視カメラ装置に関し、特に、車両の周囲をカメラで監視し、衝突の危険がある障害物をドライバーに伝える車両車載用監視カメラ装置に関するものである。
広く普及している車載用監視カメラとして、車両が後退する際に、車両の後方の障害物をドライバーが確認できるようにするための車両後方監視カメラがある。
また、そのような監視カメラに、後方の障害物または接近物を監視するためのレーダーが備えられている場合もある。当該レーダーは、自車両が後退する時に、自車両に衝突する可能性のある障害物を広範囲に探す構成となっている。そのため、レーダーの検知範囲は、監視カメラの視野範囲よりも広いため、レーダーで検知された物体が、監視カメラの視野範囲外にあって、監視カメラの映像からは確認できない場合がある。
これに対し、撮像範囲を180°近くまで広げることが可能な広角レンズを用いることで、大幅に視野範囲を広げた後方監視カメラが用いられている場合がある。しかしながら、その場合には、広角レンズにより画像に歪を生じているため、ドライバーが対象物の位置関係を把握するのが困難となる欠点がある。
この欠点を克服するため、例えば特許文献1に記載の車両用映像補正装置では、広角レンズによる歪を画像処理により取り除く技術が用いられている。特許文献1に記載の装置では、撮像部で撮像された映像内に画像補正処理の基準となる特定位置を設定し、当該特定位置に対して左右方向の映像部分を上下方向にシフトさせて、車両の幅方向に対する映像内の歪曲を直線状に補正する。
特開2006−178667号公報
しかしながら、特許文献1に記載のような技術を用いることで、例えば180°にわたるような視野角の広い映像を取得したとしても、それを歪なく表示するためには、大きな表示装置が必要となる。そのため、そのような大きな表示装置を、車両内の狭い運転席に設置することは困難であるという課題があった。
この発明は、かかる課題を解決するためになされたものであり、大きな表示装置を必要とせずに、ドライバーが、検知された障害物の方向を迅速に把握することが可能な、車載用監視カメラ装置を得ることを目的とする。
この発明は、レーダーまたはカメラで検知した障害物のうち、自車両に衝突する可能性のある障害物を、第1の障害物として検知する障害物検知部と、前記第1の障害物と前記自車両とが接触するまでの時間を検出する衝突リスク判定部と、標準レンズよりも広い撮像範囲を有する広角レンズにより撮影された第1の画像が入力され、前記第1の画像の歪を補正して第2の画像を生成する歪補正部と、前記衝突リスク判定部が検出した前記接触するまでの時間のうち、最も短い時間を有する前記第1の障害物を第2の障害物として抽出し、当該第2の障害物が横方向の中央に位置するように一定範囲の画像を前記第2の画像から切り出して、第3の画像を生成するカメラ視点表示制御部と、前記第3の画像を表示する第1の表示装置とを備え、前記カメラ視点表示制御部は、前記第3の画像の視野範囲または視野の中心方向を示す画像を前記第3の画像に重畳させ、前記衝突リスク判定部は、前記第1の障害物の位置、進路、速度と、前記自車両の位置、進路、速度とに基づいて、前記自車両の進路と前記第1の障害物の進路とが交差する交点を求め、前記接触するまでの時間を、前記第1の障害物が前記交点に到達するまでの第1の到達時間と、前記自車両が前記交点に到達するまでの第2の到達時間とのうちのいずれか一方の小さい方の到達時間として検出する、車載用監視カメラ装置である。
この発明に係る車載用監視カメラ装置は、広角レンズで撮影した画像から障害物の画像を切り取り、切り取った当該画像に対して、当該画像の視野範囲または当該画像の視野の中心方向を示す画像を重畳して表示するようにしたので、大きな表示装置を必要とせずに、ドライバーが、障害物の方向を迅速に把握することができる。
この発明の実施の形態1に係る車載用監視カメラ装置の構成を示したブロック図である。 この発明の実施の形態1に係る車載用監視カメラ装置の処理の流れを示したフローチャートである。 この発明の実施の形態1に係る車載用監視カメラ装置の処理の流れを示したフローチャートである。 この発明の実施の形態1に係る車載用監視カメラ装置における衝突リスク判定部による検出方法を説明する図である。 この発明の実施の形態1に係る車載用監視カメラ装置における表示装置の画面例を示した図である。 この発明の実施の形態1に係る車載用監視カメラ装置における障害物表示重畳部により重畳されるマークの形状と色とを接触までの時間または距離ごとに定義したデータテーブルの一例を示した図である。 この発明の実施の形態1に係る車載用監視カメラ装置におけるカメラの撮像範囲を示した図である。 この発明の実施の形態2に係る車載用監視カメラ装置の構成を示したブロック図である。 この発明の実施の形態2に係る車載用監視カメラ装置の処理の流れを示したフローチャートである。
以下、図面に基づいて、この発明の実施の形態に係る車載用監視カメラ装置について説明する。
実施の形態1.
図1は、この発明の実施の形態1に係る車載用監視カメラ装置の構成を示すブロック図である。車載用監視カメラ装置100は車両に搭載されている。以下では、車載用監視カメラ装置100が搭載されている車両を「自車両」と呼び、他の車両を「他車両」と呼ぶこととする。
まず、図1に示すように、車載用監視カメラ装置100には、カメラ1が接続されている。カメラ1は、図5に示すように、自車両101の後部に設けられている。カメラ1は、標準レンズよりも広い撮像範囲を有する広角レンズを装備している。広角レンズは、撮像範囲を180°まで広げることができる。そのため、カメラ1は、図5に示す撮像範囲50のように、カメラ1のレンズ位置を中心とする、例えば180°にわたる広い視野角の撮像範囲の画像を取得することができる。カメラ1は、自車両101の後方を撮像し、画像1を出力する。
車載用監視カメラ装置100は、画像を取得する手段として、歪補正部2を備える。歪補正部2は、カメラ1から画像1を受信し、広角レンズによる画像1の歪を取り除いて画像2を得る。広角レンズによる画像の歪を画像処理により取り除く方法は、例えば特許文献1にも記載されているように、種々提案されている。そのため、歪補正部2は、例えば、そのような既存の技術のうちの1つを用いて、画像1の歪を取り除くようにすればよく、ここでは、画像1の歪を取り除く方法については、特に限定しない。
さらに、図1に示すように、車載用監視カメラ装置100には、ミリ波レーダー11が接続されている。ミリ波レーダー11は、例えば、自車両101の後部に設けられている。ミリ波レーダー11は、ミリ波帯の電波を放射し、当該電波が障害物の表面で反射した反射波を受信する。ミリ波レーダー11は、当該反射波を用いて、反射点の座標を、障害物に関する感知情報として出力する。
車載用監視カメラ装置100は、障害物の情報を取得する手段として、障害物検知部3と衝突リスク判定部4とを備えている。
障害物検知部3は、ミリ波レーダー11から感知情報を予め設定された周期で受信し、当該感知情報に含まれる反射点の座標に基づいて、当該反射点の座標の集合を障害物として特定するとともに、当該集合の時系列的な動きに基づいて、障害物の位置、進路、速度を検知する。さらに、障害物検知部3は、障害物の位置、進路、速度と、自車両101の位置、進路、速度とに基づいて、自車両101に接触する可能性のある障害物を検知する。以下では、この障害物を「第1の障害物」と呼ぶこととする。
衝突リスク判定部4は、障害物検知部3によって検知された第1の障害物に自車両101が接触するまで時間と、第1の障害物と自車両との間の距離を検出する。
図3を用いて、衝突リスク判定部4における「接触するまでの時間」の検出方法について説明する。衝突リスク判定部4は、第1の障害物102の位置、進路、速度と、自車両101の位置、進路、速度とに基づいて、自車両101の進路と第1の障害物102の進路とが交差する交点40を求める。次に、衝突リスク判定部4は、第1の障害物102の交点40までの到達時間A(符号41参照)と、自車両101の交点40までの到達時間B(符号42参照)とを求める。衝突リスク判定部4は、到達時間Aと到達時間Bとのうちのいずれか一方の小さい方の到達時間を「接触するまでの時間」として求める。また、衝突リスク判定部4は、第1の障害物102の位置と自車両101の位置とに基づいて、第1の障害物102と自車両101との間の距離を、「障害物と自車両との距離」として求める。なお、図3の例においては、障害物102を歩行者としているが、これに限定されずに、障害物102には、動物、三輪車、自転車、単車、他の車両などの動的障害物、および、ガードレール、電柱などの静的障害物が含まれる。
また、車載用監視カメラ装置100は、表示を行う手段として、カメラ視点表示制御部5と障害物表示重畳部7とを備える。カメラ視点表示制御部5には、視点記憶部6が接続されている。視点記憶部6はメモリから構成されている。視点記憶部6は、障害物の情報を保存している。障害物の情報とは、例えば、障害物のIDとする。
カメラ視点表示制御部5は、次の3つの動作(1)〜(3)を行う。
(1)カメラ視点表示制御部5は、視点記憶部6に障害物の情報が記録されているか否かを判定し、記録されていない場合に、衝突リスク判定部4で検出された「接触するまでの時間」のうち、最も短い時間を有する第1の障害物を抽出し、抽出した第1の障害物を、第2の障害物として、当該第2の障害物の情報を視点記憶部6に記憶させる。
(2)カメラ視点表示制御部5は、視点記憶部6から第2の障害物の情報を読込み、第2の障害物の画像を画像2から切り出して、画像3を生成する。第2の障害物の画像を切り出す際には、当該第2の障害物が画像の横方向の中心に位置するように、予め設定された一定の範囲を、画像2から切り出す。一定の範囲とは、例えば、予め設定された画素範囲とする。一定の範囲は、第2の障害物までの距離に依らずに、固定値とする。また、このとき、画像の縦方向の中心については、障害物の位置に依らずに一定とする。それにより、自車両101からの距離が遠いほど、その障害物の画像内の位置は水平線に近づくことになる。このように、画像の縦方向の中心を一定とすることで、ドライバーが障害物までの距離を把握しやすくなる。
(3)カメラ視点表示制御部5は、ドライバーが第2の障害物の方向を把握できるように、例えば図4Aに示すように、画像3の視野範囲と視野の中心方向とを示すレーダーチャート31を画像3に重畳する。図4Aは、レーダーチャート31の一例を示す。図4Aに示すように、レーダーチャート31は、自車両101を中心とした半円形を有している。レーダーチャート31には、画像3の視野範囲32と視野の中心方向33とが表示されている。図4Aにおいては、色付けされたエリアが視野範囲32を示し、実線が視野の中心方向33を示す。ここでは、レーダーチャート31が、画像3の視野範囲32と視野の中心方向33との両方を表示しているが、いずれか一方だけを表示するようにしてもよい。
なお、レーダーチャート31について、さらに詳しく説明する。図4Aと図5とを比較する。図5において、符号50は、カメラ1の撮像範囲を示す。また、符号52は、画像3として表示されている範囲を示す。以下では、当該範囲を、画像3の表示範囲または視野範囲と呼ぶ。また、符号53は、障害物102の方向を示す。なお、障害物102の方向は、画像3の視野の中心方向を示す。このとき、図5の撮像範囲50と、図4Aのレーダーチャート31の半円とが対応する。同様に、図5の表示範囲52と、図4Aの視野範囲32とが対応する。さらに、図5の方向53と、図4Aの視野の中心方向33とが対応する。
障害物表示重畳部7は、画像3に表示された第2の障害物に対して、衝突リスク判定部4で検出された当該第2の障害物の接触までの時間または当該第2の障害物までの距離に応じて、形状と色とが切り替えられるマークを重畳した画像4を生成し、表示装置9に画像4を出力する。なお、図1に示すように、車載用監視カメラ装置100には、表示装置9と表示装置10とが接続されている。当該マークは、画像3に表示された第2の障害物に対して、ドライバーの注意を喚起するための強調表示である。当該マークは、接触までに時間または距離に応じて、形状と色とを変えるようにしたので、当該マークの形状と色とにより、ドライバーは、第2の障害物の優先度、すなわち、緊急度を認識することができる。
図4Aに、画像4(符号30)に重畳されるマーク34の一例を示す。また、図4Bに、接触までの時間または距離ごとに、マーク34の形状と色とを定義したデータテーブルの一例を示す。図4Bに示すように、接触までの時間が2秒以内または接触までの距離が3m未満の場合、優先度が高いことを示すように、マークの形状は、矩形形状で、かつ、マークの色は赤に設定されている。また、接触までの時間が2秒以上5秒未満または接触までの距離が3m以上6m未満の場合、優先度が中程度であることを示すように、マークの形状は、丸括弧で、かつ、マークの色は緑に設定されている。一方、接触までの時間が5秒以上または接触までの距離が6m以上の場合、優先度が低いことを示すように、マークの形状は、閉じ括弧のみが表示され、かつ、マークの色は青に設定されている。このように、画像4にマーク34とレーダーチャート31とを表示することで、ドライバーに対して、障害物の方向と優先度とを同時に提示することができる。なお、マークの形状および色は、単なる一例であり、これらに限定されない。
さらに、車載用監視カメラ装置100は、カメラ出力部12を備えている。カメラ出力部12は、カメラ1から取得した画像1の全体を表示するために、カメラ1から取得した画像1を表示装置10にそのまま出力する。ドライバーが、表示装置9の画像4と表示装置10の画像1とを同時に見ることで、画像1により、自車両101の後方全体の状態を180°の広い視野角で大まかに把握しながら、画像4により、障害物の位置関係を正確に把握することができる。
なお、カメラ視点表示制御部5は、上記動作(1)〜(3)に加えて、下記の動作(4)をさらに行う。カメラ視点表示制御部5には、図1に示すように、操作装置8を接続することができる。
(4)カメラ視点表示制御部5は、操作装置8からの信号を受信し、障害物に自車両101が接触するまで時間の順、障害物との距離の順、または、障害物への視点の方向の順のいずれかの順序に従って、視点記憶部6に記憶されている障害物IDを変更する仕組みを備える。これにより、現在、表示装置9に表示されている障害物を、次の障害物に切り替えるときに、どの順序に従って、次の障害物を選択するかを、ドライバーが指定することができる。詳細については後述する。
次に、図2Aおよび図2Bのフローチャートに基づいて、実施の形態1に係る車載用監視カメラ装置100の動作について説明する。
図2Aに示すように、まず、歪補正部2が、カメラ1から取得した画像1から、広角レンズによる歪を除去し、画像2を生成する(ステップS1)。
次に、障害物検知部3は、ミリ波レーダー11からの反射点の集合と、その時系列的な動きとに基づいて、1以上の障害物を特定し、それらの障害物の位置と進路と速度とを検知し、障害物の位置、進路、速度と自車両の位置、進路、速度とに基づいて、それらの障害物の中から自車両に接触する可能性のある障害物を、第1の障害物として抽出する(ステップS2)。
次に、衝突リスク判定部4が、第1の障害物へ接触する時間を図3に示した方法で検知すると共に、第1の障害物と自車両との距離を検知する(ステップS3)。この時、新たに検知された障害物には新しいIDを付し、前回検知された障害物には前回と同じIDを付す。
次に、カメラ視点表示制御部5は、表示装置9に表示させる障害物を選択するため、視点記憶部6が記憶している障害物のIDを読込み、その障害物が画像2内に存在しているか判定する(ステップS4)。
存在しない場合は、障害物がいなくなったものとし、検知された第1の障害物の中で接触までの時間が最も短い障害物のIDを、視点記憶部6に記憶させる(ステップS5)。一方、存在する場合は、そのまま、ステップS6に進む。
次に、カメラ視点表示制御部5が、視点記憶部6に記憶されている障害物のIDを読込み、該当する障害物が画像の横方向の中央となるように、予め設定された画素範囲を、画像2から切り出して、画像3を生成する。この時、画像の縦方向の中心については、障害物までの距離が把握できるよう障害物の位置に依らず一定とし、遠い障害物ほど、水平線に近づく様子がわかるようにする。さらに、障害物表示重畳部7が、画像3に対して、自車両101を中心とした半円のレーダーチャート31を重畳する(ステップS6)。
その後、障害物表示重畳部7は、画像3に対して、図4Aに示すように、衝突までの時間に応じて、形状と色とを変化させるように、図4Bのテーブルで定義されたマーク34を重畳する。重畳方法は、画像3内の障害物102に対応する画素範囲37に対して、マーク34を重畳させる。さらに、障害物表示重畳部7は、画像3において、図4Aに示すように、画像3内に表示されていないその他の障害物の存在を示す左側障害物情報および右側障害物情報を、それぞれ、矢印35,36で示す。また、矢印35,36内には、障害物の数を示す数字を表示させる。これにより、図4Aに示す画像4が生成される(ステップS7)。
車載用監視カメラ装置100には、図1に示すように、操作装置8を接続することができる。操作装置8を車載用監視カメラ装置100に接続した場合の操作装置8へのドライバーの操作による動作をステップS8以降に記載する。
操作装置8は、ドライバーによって視点切替の操作入力がなされた場合に、カメラ視点表示制御部5に対して、操作入力があったことを示す信号を送信する。そのため、カメラ視点表示制御部5は、操作装置8からの当該信号の有無に基づいて、視点切替の操作入力があったかどうかを確認する(ステップS8)。操作入力があった場合、図2BのステップS9に進む。一方、操作入力が無かった場合、ステップS1の処理に戻る。
操作入力があった場合、カメラ視点表示制御部5は、操作装置8に入力された切替順序がいずれであるかについて判断する(ステップS9)。切替順序は、例えば、「接触までの時間順」、「視点の方向順」、「障害物との距離順」の3通りとする。
ステップS9の判定で、切替順序が「接触までの時間順」である場合は、カメラ視点表示制御部5は、ステップS2で検出された障害物のうち、視点記憶部6に記憶されている障害物の次に接触までの時間が短い障害物のIDを、表示対象として視点記憶部6に記憶する。ただし、該当する障害物が無い場合には、最も接触までの時間が短い障害物のIDを、表示対象として視点記憶部6に記憶する(ステップS10)。
ステップS9の判定で、切替順序が「視点の方向順」である場合は、カメラ視点表示制御部5は、ステップS2で検出された障害物であって、且つ、視点記憶部6に記憶されている障害物の右側にある障害物のうち、視点方向が一番近い障害物のIDを、表示対象として視点記憶部6に記憶させる。ただし、障害物の右側には、対象となる障害物が存在しない場合は、視点方向の一番左側にある障害物のIDを視点記憶部6に記憶させる(ステップS11)。
ステップS9の判定で、切替順序が「障害物との距離順」である場合は、カメラ視点表示制御部5は、ステップS2で検出された障害物のうち、視点記憶部6に記憶されている障害物の次に自車両101との距離が短い障害物のIDを、表示対象として視点記憶部6に記憶する。ただし、該当する障害物が無い場合には、最も自車両101との距離が短い障害物のIDを、表示対象として視点記憶部6に記憶する(ステップS12)。
ステップS1からステップS12までの処理は、周期的なループ処理になっており、ステップS12まで処理が完了した後、カメラ1の画像1が入力されるタイミングまで待って、ステップS1からステップS12までの処理が再度開始される。
尚、図2A及び図2Bにおいては、カメラ出力部12の動作についての記載を省略しているが、カメラ出力部12は、常に、カメラ1が出力する画像1を、表示装置10に出力して、カメラ1全体の画像がドライバーに見えるようにしている。
このようなシステム構成と動作で実施することにより、自車両101の後退時に、車両周囲180°にわたる広い範囲を、大きな表示装置を用いなくとも、衝突リスクのある障害物の存在と位置の把握を、ドライバーが迅速に行うことが可能になる。
以上のように、実施の形態1においては、車載用監視カメラ装置100が、ミリ波レーダー11で検知した障害物のうち、自車両101に衝突する可能性のある障害物を、第1の障害物として検知する障害物検知部3と、第1の障害物と自車両101とが接触するまでの時間または第1の障害物と自車両との間の距離を検出する衝突リスク判定部4と、広角レンズにより撮影された第1の画像が入力され、第1の画像の歪を補正して第2の画像を生成する歪補正部2と、衝突リスク判定部4が検出した時間または距離のうち、最も短い時間または最も短い距離を有する第1の障害物を第2の障害物として抽出し、当該第2の障害物が横方向の中央に位置するように一定範囲の画像を第2の画像から切り出して、第3の画像を生成するカメラ視点表示制御部5と、第3の画像を表示する第1の表示装置9とを備えている。また、カメラ視点表示制御部5は、第3の画像の視野範囲または第3の画像の視野の中心方向を示す画像としてのレーダーチャート31を、第3の画像に重畳させることで、第2の障害物の方向を表示する。これにより、標準サイズの表示装置よりも大きな表示装置を必要とせずに、ドライバーが、検知された障害物までの距離および方向を迅速に把握することができる。なお、レーダーチャート31は単なる一例であり、第3の画像の視野範囲または第3の画像の視野の中心方向を示す画像であれば、いずれのものでもよい。例えば、当該画像の形状は、図4Aに示したような半円形ではなく、円形であってもよく、矩形であってもよい。また、画像の視野範囲32および視野の中心方向33の表示形態および表示方法も、例えば、視野の中心方向33を矢印で示すなど、他の表示形態及び表示方法であってもよい。
また、実施の形態1においては、第3の画像内に表示されている第2の障害物を強調するための強調表示としてのマーク34を、第3の画像における第2の障害物に対して重畳する障害物表示重畳部7を備えている。これにより、ドライバーは、障害物の衝突リスクの程度を瞬時に把握することができる。
また、実施の形態1においては、第3の画像内に表示する第2の障害物を、第1の障害物のうちの他の1つに切り替える切替指示が入力される操作装置8を用いるようにしてもよい。その場合には、ドライバーの切替指示に従って、第3の画像内に表示する第2の障害物を、他の1つに切り替えることができる。
また、実施の形態1においては、障害物表示重畳部7が、第3の画像内に表示されていない他の前記第1の障害物の存在を示す情報を、矢印35,36で示すようにしてもよい。その場合には、ドライバーが矢印35,36に指で触れることにより、画面に表示されていない他の障害物を表示することができる。
実施の形態2.
図6は、この発明の実施の形態2に係る車載用監視カメラ装置100Aの構成を示すブロック図である。車載用監視カメラ装置100Aは自車両101に搭載されている。
まず、図6に示すように、車載用監視カメラ装置100Aには、実施の形態1と同様に、カメラ1が接続されている。実施の形態1と同様に、カメラ1は、図5に示すように、自車両101の後部に設けられている。カメラ1は、広角レンズを装備している。そのため、カメラ1は、図5に示す撮像範囲50のように、カメラ1を中心とする、例えば180°にわたる広い視野角の撮像範囲の画像を取得することができる。カメラ1は、自車両101の後方を撮像し、画像5を出力する。
車載用監視カメラ装置100Aは、表示する画像を取得する手段として、実施の形態1と同様に、歪補正部2を備える。歪補正部2は、カメラ1から画像5を受信し、実施の形態1と同様の方法で、広角レンズによる画像5の歪を取り除いて画像6を得る。
さらに、車載用監視カメラ装置100Aは、障害物検知部63と衝突リスク判定部64とを備えている。
上記の実施の形態1で示した障害物検知部3は、ミリ波レーダー11の感知情報を用いていたが、一方、実施の形態2における障害物検知部63は、歪補正部2を介してカメラ1から得られる画像6を用いる。障害物検知部63は、画像6に画像認識処理を行って、障害物の存在を検知するとともに、障害物が検知された画素座標を逆射影変換し、障害物の位置を検知する。さらに、障害物検知部63は、過去の画像処理で得られた画像6に含まれる障害物の位置の時系列的な変化をもとに、その障害物の位置、進路、速度を検知するとともに、その障害物の位置、進路、速度と、自車両101の位置、進路、速度とに基づいて、自車両101に接触する可能性のある障害物を第一の障害物として検知する。
衝突リスク判定部64は、上記実施の形態1で示した衝突リスク判定部4と同一の検出方法にて、「接触するまでの時間」および「障害物と自車両との距離」を検出する。
さらに、車載用監視カメラ装置100Aは、表示を行う手段として、カメラ視点表示制御部65と障害物表示重畳部66とを備える。
カメラ視点表示制御部65は、次の3つの動作(1)〜(3)を行う。
(1)カメラ視点表示制御部65は、障害物検知部63によって検知された障害物のうち、距離が短い順に、最大4つの障害物を抽出する。
(2)カメラ視点表示制御部65は、抽出したそれぞれの障害物ごとに、画像6から、障害物が画像の横方向の中心に位置するように、一定の範囲を切り出して、画像7を生成する。画像7は、障害物ごとに生成されるので、画像7の個数は最大4つである。ここで、一定の範囲とは、例えば、予め設定された画素範囲である。また、画像の縦方向の中心は、実施の形態1と同様に、障害物までの距離が把握できるように、障害物の位置に依らずに一定とする。
(3)カメラ視点表示制御部65は、画像7に対して、画像7の視野範囲または視野の中心方向を示す画像としてのレーダーチャート31を重畳する。レーダーチャート31は、上記の実施の形態1で説明したレーダーチャート31と同じであるため、ここでは、その説明を省略する。
障害物表示重畳部66は、画像7の障害物に対して、障害物と自車両との距離に応じて、形状と色の変化するマーク34を重畳した画像8を生成し、4つの表示装置67,68,69,70に、それぞれ、表示する。なお、マークの形状と色については、例えば、図4Bのデータテーブルで予め定義しておく。なお、画像8の例は、例えば、図4Aに示す画像4(符号30)と同じでよい。
次に、図7のフローチャートに基づいて、実施の形態2に係る車載用監視カメラ装置100Aの動作について説明する。
まず、歪補正部2が、カメラ1から取得した画像5から、広角レンズによる画像の歪を除去し、画像6を生成する(ステップS21)。
次に、障害物検知部63は、画像6を用いて、画像認識処理により、第1の障害物の存在、および、その位置を検知する(ステップS22)。
次に、検知された第1の障害物の位置と自車両101の位置とに基づいて、衝突リスク判定部64が、第1の障害物と自車両101との距離を検知する(ステップS23)。
次に、カメラ視点表示制御部65が、第1の障害物の中で、自車両101と接触するまでの時間、または距離が短い順に、最大4つの障害物を、第2の障害物として抽出する(ステップS24)。尚、第1の障害物が4つ以内の場合は、抽出される第2の障害物の数は、第1の障害物の数と同一になる。
次に、カメラ視点表示制御部65は、画像6から、これらの第2の障害物ごとに、当該第2の障害物が画像の横方向の中心となるように一定の範囲の画像を、画像7として切り出す(ステップS25)。画像7の個数は、第2の障害物の個数と同じである。また、一定の範囲とは、実施の形態1と同様に、例えば、予め設定された画素範囲とする。
さらに、カメラ視点表示制御部65は、各画像7に対し、切り出した画像の視野範囲または視野の中心方向を示すレーダーチャート31を重畳する(ステップS26)。
最後に、障害物表示重畳部66が、図4Bのデータテーブルに従って、自車両101と障害物との距離に応じて、形状と色とを変えたマークを各画像7に対して重畳した画像8を生成する(ステップS27)。画像8の個数は、第2の障害物の個数と同じである。
次に、障害物表示重畳部66が、外部の表示装置67,68,69,70に対して、各画像8を出力する(ステップS28)。
ステップS21からステップS28までの動作は、カメラ1からの画像5の入力を起点とした、周期的なループ処理になっており、ステップS28まで処理が完了した後、カメラ1からの画像5が入力されるタイミングまで待って、ステップS21からステップS28までの処理が再度開始される。
実施の形態2においては、このようなシステム構成と動作で実施することにより、自車両101の後退時に、車両周囲180°にわたる広い範囲を、大きな表示装置を用いなくとも、複数存在する衝突リスクのある障害物の存在と位置の把握をドライバーが迅速に行うことが可能となる。
なお、実施の形態2では、図1に示すカメラ出力部12と表示装置10とが設けられていないが、実施の形態2においても、図1に示すカメラ出力部12と表示装置10とを設けて、画像5を表示するようにしてもよい。
なお、実施の形態2では、図1に示す操作装置8が設けられていないが、実施の形態2においても、図1に示す操作装置8を設けて、ドライバーが指定する切替順序に従って、障害物の切り替えが行えるようにしてもよい。
以上のように、実施の形態2においては、カメラ1で検知した障害物のうち、自車両に衝突する可能性のある障害物を、第1の障害物として検知する障害物検知部63と、第1の障害物と自車両101とが接触するまでの時間または第1の障害物と自車両との間の距離を検出する衝突リスク判定部64と、広角レンズにより撮影された第1の画像が入力され、第1の画像の歪を補正して第2の画像を生成する歪補正部2と、衝突リスク判定部64が検出した時間または距離のうち、最も短い時間または最も短い距離を有する第1の障害物を第2の障害物として抽出し、当該第2の障害物が横方向の中央に位置するように一定範囲の画像を前記第2の画像から切り出して、第3の画像を生成するカメラ視点表示制御部65と、第3の画像を表示する第1の表示装置67〜70とを備えている。また、カメラ視点表示制御部5は、第1の画像の撮像範囲に対する第3の画像の視野範囲または第3の画像の視野の中心方向を示す画像としてのレーダーチャート31を、第3の画像に重畳させることで、第2の障害物の方向を表示する。これにより、実施の形態1と同様の効果を得ることができる。
さらに、実施の形態2においては、カメラ視点表示制御部5は、第2の障害物として、複数の第1の障害物を抽出して、各第1の障害物ごとに第3の画像を生成する。まら、表示装置として、複数の表示装置67〜70が設けられ、各表示装置67〜70の画面において、各第1の障害物ごとに生成された各第3の画像をそれぞれ表示させる。これにより、ドライバーは、画面を切り替えることなく、複数の障害物を表示装置で表示することができる。
1 カメラ、2 歪補正部、3,63 障害物検知部、4,64 衝突リスク判定部、5,65 カメラ視点表示制御部、6 視点記憶部、7,66 障害物表示重畳部、8 操作装置、9,10,67,68,69,70 表示装置、11 ミリ波レーダー、12 カメラ出力部、100,100A 車載用監視カメラ装置、101 自車両、102 障害物。

Claims (10)

  1. レーダーまたはカメラで検知した障害物のうち、自車両に衝突する可能性のある障害物を、第1の障害物として検知する障害物検知部と、
    前記第1の障害物と前記自車両とが接触するまでの時間を検出する衝突リスク判定部と、
    標準レンズよりも広い撮像範囲を有する広角レンズにより撮影された第1の画像が入力され、前記第1の画像の歪を補正して第2の画像を生成する歪補正部と、
    前記衝突リスク判定部が検出した前記接触するまでの時間のうち、最も短い時間を有する前記第1の障害物を第2の障害物として抽出し、当該第2の障害物が横方向の中央に位置するように一定範囲の画像を前記第2の画像から切り出して、第3の画像を生成するカメラ視点表示制御部と、
    前記第3の画像を表示する第1の表示装置と
    を備え、
    前記カメラ視点表示制御部は、前記第3の画像の視野範囲または視野の中心方向を示す画像を前記第3の画像に重畳させ
    前記衝突リスク判定部は、前記第1の障害物の位置、進路、速度と、前記自車両の位置、進路、速度とに基づいて、前記自車両の進路と前記第1の障害物の進路とが交差する交点を求め、前記接触するまでの時間を、前記第1の障害物が前記交点に到達するまでの第1の到達時間と、前記自車両が前記交点に到達するまでの第2の到達時間とのうちのいずれか一方の小さい方の到達時間として検出する、
    車載用監視カメラ装置。
  2. 前記第3の画像内に表示されている前記第2の障害物を強調するための強調表示を、前記第3の画像における前記第2の障害物に対して重畳する障害物表示重畳部を備えた、
    請求項1に記載の車載用監視カメラ装置。
  3. 前記障害物表示重畳部は、前記強調表示の色を、前記衝突リスク判定部が検出した前記時間に応じて切り替える、
    請求項2に記載の車載用監視カメラ装置。
  4. 前記障害物表示重畳部は、前記強調表示の形状を、前記衝突リスク判定部が検出した前記時間に応じて切り替える、
    請求項2に記載の車載用監視カメラ装置。
  5. 前記障害物表示重畳部は、前記第3の画像内に表示されていない他の前記第1の障害物の存在を示す情報を、前記第3の画像に重畳する、
    請求項2から4までのいずれか1項に記載の車載用監視カメラ装置。
  6. 前記第3の画像内に表示する前記第2の障害物を、前記第1の障害物のうちの他の1つに切り替える切替指示が入力される操作装置
    を備えた、
    請求項1から5までのいずれか1項に記載の車載用監視カメラ装置。
  7. 前記操作装置に入力される前記切替指示による切替順序は、前記衝突リスク判定部が検出した前記時間に基づく、
    請求項6に記載の車載用監視カメラ装置。
  8. 前記操作装置に入力される前記切替指示による切替順序は、前記第1の障害物が存在する方向に基づく、
    請求項6に記載の車載用監視カメラ装置。
  9. 前記第1の画像を表示する第2の表示装置を備えた、
    請求項1から8までのいずれか1項に記載の車載用監視カメラ装置。
  10. 前記カメラ視点表示制御部は、前記第2の障害物として、複数の前記第1の障害物を抽出して、各前記第1の障害物ごとに前記第3の画像を生成し、
    前記第1の表示装置は、複数の画面を有し、各画面において、各前記第1の障害物ごとに生成された各前記第3の画像をそれぞれ表示させる、
    請求項1から9までのいずれか1項に記載の車載用監視カメラ装置。
JP2019516811A 2017-05-11 2017-05-11 車載用監視カメラ装置 Active JP6785953B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/017826 WO2018207303A1 (ja) 2017-05-11 2017-05-11 車載用監視カメラ装置

Publications (2)

Publication Number Publication Date
JPWO2018207303A1 JPWO2018207303A1 (ja) 2019-11-07
JP6785953B2 true JP6785953B2 (ja) 2020-11-18

Family

ID=64105305

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019516811A Active JP6785953B2 (ja) 2017-05-11 2017-05-11 車載用監視カメラ装置

Country Status (5)

Country Link
US (1) US11214248B2 (ja)
JP (1) JP6785953B2 (ja)
CN (1) CN110612562B (ja)
DE (1) DE112017007528T5 (ja)
WO (1) WO2018207303A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7092688B2 (ja) * 2017-02-17 2022-06-28 住友重機械工業株式会社 作業機械用周辺監視システム
DE112018007484T5 (de) * 2018-04-16 2021-02-25 Mitsubishi Electric Corporation Hindernis-Detektionsvorrichtung, automatische Bremsvorrichtung unter Verwendung einer Hindernis-Detektionsvorrichtung, Hindernis-Detektionsverfahren und automatisches Bremsverfahren unter Verwendung eines Hindernis-Detektionsverfahrens
CN111506052A (zh) * 2019-01-14 2020-08-07 上海博泰悦臻网络技术服务有限公司 障碍物的监控方法、系统、计算机存储介质及车载终端
WO2020206380A1 (en) * 2019-04-05 2020-10-08 FLIR Belgium BVBA Passage planning and navigation systems and methods
JP2021006011A (ja) * 2019-06-27 2021-01-21 株式会社クボタ 農作業車のための障害物検出システム
JP7308089B2 (ja) * 2019-07-18 2023-07-13 株式会社小松製作所 作業車両の表示システムおよび作業車両の表示方法
DE102019213423A1 (de) * 2019-09-04 2021-03-04 Robert Bosch Gmbh Verfahren und Vorrichtung zum Betreiben eines automatisierten Fahrzeugs
KR20210054107A (ko) * 2019-11-04 2021-05-13 현대자동차주식회사 차량의 디스플레이 장치 및 방법
US11615542B2 (en) * 2019-11-14 2023-03-28 Panasonic Avionics Corporation Automatic perspective correction for in-flight entertainment (IFE) monitors
US11594144B2 (en) * 2020-01-31 2023-02-28 Honeywell International Inc. Collision awareness using cameras mounted on a vehicle
US11733369B2 (en) * 2021-02-11 2023-08-22 Waymo Llc Methods and systems for three dimensional object detection and localization
CN113184704A (zh) * 2021-04-28 2021-07-30 徐州重型机械有限公司 安全控制系统、方法、控制装置和起重机
CN115503745A (zh) * 2021-06-04 2022-12-23 丰田自动车株式会社 车辆用显示装置、车辆用显示系统、车辆用显示方法以及存储有程序的非临时性存储介质
KR102615479B1 (ko) * 2021-11-24 2023-12-19 현대모비스 주식회사 램프 및 그것의 동작 방법, 차량

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006054662A (ja) * 2004-08-11 2006-02-23 Mitsubishi Electric Corp 運転支援装置
JP2006178667A (ja) 2004-12-21 2006-07-06 Nissan Motor Co Ltd 車両用映像補正装置及び車両用映像補正方法
KR100724134B1 (ko) * 2006-01-09 2007-06-04 삼성전자주식회사 이미지 매칭 속도와 블렌딩 방법을 개선한 파노라마 영상제공 방법 및 장치
JP4404103B2 (ja) 2007-03-22 2010-01-27 株式会社デンソー 車両外部撮影表示システムおよび画像表示制御装置
JP4981566B2 (ja) 2007-07-20 2012-07-25 株式会社デンソーアイティーラボラトリ 運転支援装置および運転支援方法
JP5156307B2 (ja) 2007-09-14 2013-03-06 株式会社日立製作所 車載カメラシステム
US8633810B2 (en) * 2009-11-19 2014-01-21 Robert Bosch Gmbh Rear-view multi-functional camera system
JP5414714B2 (ja) * 2011-03-04 2014-02-12 日立オートモティブシステムズ株式会社 車戴カメラ及び車載カメラシステム
JP5741173B2 (ja) * 2011-04-19 2015-07-01 トヨタ自動車株式会社 画像表示装置、及び、画像表示方法
EP2723069B1 (en) * 2011-06-16 2017-10-18 Aisin Seiki Kabushiki Kaisha Vehicle periphery monitoring device
JP2015022340A (ja) 2013-07-16 2015-02-02 スズキ株式会社 運転支援装置
US20150109444A1 (en) * 2013-10-22 2015-04-23 GM Global Technology Operations LLC Vision-based object sensing and highlighting in vehicle image display systems
JP2016075818A (ja) 2014-10-07 2016-05-12 株式会社デンソー 情報表示装置および情報表示方法
JP6752024B2 (ja) * 2016-02-12 2020-09-09 日立オートモティブシステムズ株式会社 画像処理装置

Also Published As

Publication number Publication date
US11214248B2 (en) 2022-01-04
JPWO2018207303A1 (ja) 2019-11-07
WO2018207303A1 (ja) 2018-11-15
DE112017007528T5 (de) 2020-01-23
CN110612562A (zh) 2019-12-24
US20200148203A1 (en) 2020-05-14
CN110612562B (zh) 2022-02-25

Similar Documents

Publication Publication Date Title
JP6785953B2 (ja) 車載用監視カメラ装置
US8330816B2 (en) Image processing device
CA2912349C (en) Information processing device, approaching object notification method, and program
JP6307895B2 (ja) 車両用周辺監視装置
JP5057936B2 (ja) 鳥瞰画像生成装置および方法
JP4985250B2 (ja) 駐車支援装置
JPWO2011036892A1 (ja) 運転支援表示装置
JP6744236B2 (ja) 画像表示装置
JP2007235529A (ja) 車両周囲監視システム及び画像表示方法
US10579884B2 (en) Image processing device and image processing method
JP2012227699A (ja) 画像表示装置、及び、画像表示方法
JP4693561B2 (ja) 車両周辺監視装置
TWI533694B (zh) 車用障礙物偵測顯示系統
JP2012040883A (ja) 車両周囲画像生成装置
WO2016092967A1 (ja) 画像生成装置及び画像生成方法
JP2008059178A (ja) 運転支援装置およびプログラム
JP2013161440A (ja) 車両周辺監視装置
JP6523801B2 (ja) 画像処理装置および画像処理方法
JP6555240B2 (ja) 車両用撮影表示装置及び車両用撮影表示プログラム
JP2010016746A (ja) 周辺監視装置
JP2013171391A (ja) 車両周辺監視システム
JP2011077806A (ja) 車両周辺監視装置
JP6439913B2 (ja) 移動体検出装置
JP6425014B2 (ja) 移動体検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200428

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200617

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200929

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201027

R150 Certificate of patent or registration of utility model

Ref document number: 6785953

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250