JP2008219063A - 車両周辺監視装置及び方法 - Google Patents

車両周辺監視装置及び方法 Download PDF

Info

Publication number
JP2008219063A
JP2008219063A JP2007049157A JP2007049157A JP2008219063A JP 2008219063 A JP2008219063 A JP 2008219063A JP 2007049157 A JP2007049157 A JP 2007049157A JP 2007049157 A JP2007049157 A JP 2007049157A JP 2008219063 A JP2008219063 A JP 2008219063A
Authority
JP
Japan
Prior art keywords
bird
vehicle
eye view
obstacle
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2007049157A
Other languages
English (en)
Inventor
Hitoshi Hongo
仁志 本郷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2007049157A priority Critical patent/JP2008219063A/ja
Priority to EP08003510A priority patent/EP1964719A2/en
Priority to US12/037,545 priority patent/US20080205706A1/en
Priority to CNA2008100825013A priority patent/CN101256073A/zh
Publication of JP2008219063A publication Critical patent/JP2008219063A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/211Image signal generators using stereoscopic image cameras using a single 2D image sensor using temporal multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/221Image signal generators using stereoscopic image cameras using a single 2D image sensor using the relative movement between cameras and objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning

Abstract

【課題】専用センサを用いることなく障害物検出と障害物の静止/移動検出を行う。
【解決手段】車両周辺監視装置は、車両に設置されたカメラの撮影画像を視点変換によって鳥瞰図画像に変換し、時刻t及び(t+1)の鳥瞰図画像の位置合わせを、それらの画像データに基づいて行う。この際、車両近傍に立体物が存在していないと仮定し、車両近傍の画像データに基づいて位置合わせを行う。これにより、高さのない平面標識は位置ずれなく重なるが、高さのある障害物には位置ずれが生じ、差分領域が形成される。この差分領域を障害物の描画領域として捉えて障害物を検出する。更に、位置合わせ後の鳥瞰図画像間における、障害物が地面に設置している点(470等)の移動量から、障害物の静止/移動を分類検出し、分類結果に応じて警告内容を異ならせる。
【選択図】図7

Description

本発明は、カメラを用いて車両の周辺を監視する車両周辺監視装置及び車両周辺監視方法に関する。
車載カメラを用いて車両周辺の障害物を検出する手法として、ステレオカメラを用いる手法がある。ステレオカメラを用いれば、障害物までの距離を測ることができる。このた、前方の車両や歩行者などを検出するためにステレオカメラが用いられることがある。
ステレオカメラは、2つのカメラにて形成されるため、それ自体の使用がコストアップを招く。また、障害物までの距離に応じてステレオカメラのベースラインを調整する必用があり、2つのカメラに対して極めて高精度なカメラキャリブレーションを施す必要がある。即ち、2つのカメラの取り付け位置や取り付け角度を極めて高精度に調整してやる必要があり、導入が煩雑である。また、車両の振動などによってその調整がずれてしまい、使用中に障害物の検出精度が劣化していく可能性も高い。
そこで単眼カメラで障害物を検出する手法が求められる。単眼カメラにて障害物を検出する手法として、パターン認識により障害物としての前方車両を検出する手法がある。予めカメラパラメータ(カメラ設置条件等)を把握しておくことにより、画像上における前方車両の位置から車間距離を推定することができる。
また、下記特許文献1では、以下のような手法が提案されている。車両の移動中に、単眼カメラによって、異なる第1及び第2の地点での周辺画像を、時系列的に視差付けされた第1及び第2の画像として撮影する。そして、車両に取り付けられた舵角センサとパルスカウンタを介した車輪速センサを用いて第1の地点から第2の地点までの車両の移動データを算出する。更に、移動データを基に第1の画像を第2の地点に射影変換して第3の画像を生成し、第3の画像と第2の画像との差分から、障害物を検出する。
また、下記特許文献2では、以下のような手法が提案されている。この手法でも、特許文献1の手法と同様、速度検出装置を用いて車両(自車両)の速度情報を検出している。そして、その速度情報を基に、異なる時刻の画像間のオプティカルフローを求めることで障害物の接近を検出する。
特許第3494434号公報 特許第3463858号公報
しかしながら、パターン認識により障害物を検出する手法は、学習していないパターンの識別を不得手とするため汎用性に欠ける。
また、舵角センサと車輪速センサを用いる手法では、車両の移動量を精度良く検出することが困難であるため、これらのセンサから得た移動データには比較的大きさ誤差が含まれる。従って、障害物がない部分にも差分が現れてしまい、障害物を誤検出する可能性も高まる。また、専用のセンサ(舵角センサと車輪速センサ)が必要となる分、コストアップを招く。特許文献2に記載の手法でも、専用のセンサ(速度検出装置)を用いるため、同様の問題が生じる。
そこで本発明は、専用のセンサを必要とすることなく、車両にとっての障害物となりうる立体物を良好に検出することができる車両周辺監視装置及び車両周辺監視方法を提供することを目的とする。
本発明に係る車両周辺監視装置は、車両に設置されたカメラの撮影画像を視点変換によって鳥瞰図画像に変換する視点変換手段と、異なる時刻に得られた2つの撮影画像に基づく2つの鳥瞰図画像の位置合わせを、前記2つの鳥瞰図画像に基づいて行う位置合わせ手段と、位置合わせ後の前記2つの鳥瞰図画像間の差分に基づいて、前記車両周辺の立体物を検出する立体物検出手段と、を備えたことを特徴とする。
これにより、専用のセンサが不要となる。従って、当然、そのセンサの誤差に由来する立体物の誤検出もなくなる。結果、障害物となりうる立体物の良好な検出を期待できる。また、専用のセンサを必要としない分、コストダウンも図られる。
具体的には例えば、前記2つの鳥瞰図画像の夫々において、前記車両からの距離が比較的遠い被写体が現れる画像領域を第1画像領域と呼び且つ前記車両からの距離が比較的近い被写体が現れる画像領域を第2画像領域と呼んだ場合、前記位置合わせ手段は、前記2つの鳥瞰図画像の位置合わせを行うための画像データから各第1画像領域の画像データを除外し、各第2画像領域の画像データに基づいて前記2つの鳥瞰図画像の位置合わせを行う。
これにより、障害物となりうる立体物に影響されにくい立体物検出が可能となる。
また例えば、前記立体物検出手段は、位置合わせ後の前記2つの鳥瞰図画像間の差分に基づいて、前記立体物を検出するとともに該立体物が静止物体及び動物体の何れであるかを分類して検出する。
これにより、安全確認の支援を促進することが可能となる。
具体的には例えば、前記立体物検出手段は、前記差分に基づき位置合わせ後の前記2つの鳥瞰図画像内において前記立体物が描画されている立体物領域を特定し、前記立体物領域内の特定点の、位置合わせ後の前記2つの鳥瞰図画像間における移動量に基づいて、前記立体物を前記静止物体又は前記動物体に分類する。
そして例えば、前記立体物領域内において前記車両に最も近い点が前記特定点とされる。
また例えば、当該車両周辺監視装置は、前記立体物検出手段の検出結果に基づいて外部に警告を行う警告手段を更に備え、前記警告手段は、検出された前記立体物が前記静止物体である場合と前記動物体である場合とで、警告内容を異ならせる。
また例えば、当該車両周辺監視装置は、前記立体物との関係における前記車両の危険度を判定する危険度判定手段と、判定された前記危険度に応じて外部に警告を行う警告手段と、を更に備え、前記危険度判定手段は、検出された前記立体物の、前記静止物体と前記動物体との間の分類結果、位置合わせ後の前記2つの鳥瞰図画像から検出される、前記車両に対する前記立体物の相対的な移動の方向、位置合わせ後の前記2つの鳥瞰図画像から検出される、前記車両に対する前記立体物の相対的な移動の速度、前記立体物を含む鳥瞰図画像から検出される、前記車両に対する前記立体物の相対的な位置、及び、前記立体物を含む鳥瞰図画像上における前記立体物の大きさ、の内の何れか1以上に基づいて前記危険度を判定する。
また例えば、前記位置合わせ手段による前記2つの鳥瞰図画像の位置合わせ結果から前記車両の移動状態を推定する車両移動状態推定手段を更に備え、前記位置合わせ手段は、前記2つの鳥瞰図画像の取得後に得られる他の2つの鳥瞰図画像の位置合わせを行う際、その位置合わせの条件に、推定された前記移動状態に応じた制限を加える。
これにより、障害物となりうる立体物の誤検出を抑制することが可能となる。
そして、本発明に係る車両は、上記の何れかに記載の車両周辺監視装置を搭載したことを特徴とする。
また、本発明に係る車両周辺監視方法は、車両に設置されたカメラの撮影画像を視点変換によって鳥瞰図画像に変換し、異なる時刻に得られた2つの撮影画像に基づく2つの鳥瞰図画像の位置合わせを、前記2つの鳥瞰図画像に基づいて行い、位置合わせ後の前記2つの鳥瞰図画像間の差分に基づいて、前記車両周辺の立体物を検出する。
本発明によれば、専用のセンサを必要とすることなく、車両にとっての障害物となりうる立体物を良好に検出することができる車両周辺監視装置及び車両周辺監視方法を提供することができる。
本発明の意義ないし効果は、以下に示す実施の形態の説明により更に明らかとなろう。ただし、以下の実施の形態は、あくまでも本発明の一つの実施形態であって、本発明ないし各構成要件の用語の意義は、以下の実施の形態に記載されたものに制限されるものではない。
以下、本発明の実施の形態につき、図面を参照して具体的に説明する。参照される各図において、同一の部分には同一の符号を付し、同一の部分に関する重複する説明を原則として省略する。
図1は、本発明の実施形態に係る車両周辺監視装置1の機能ブロック図である。図2(a)は、車両周辺監視装置1が搭載され且つカメラ2が設置された車両3の側面外観図である。図2(b)は、その車両3を上空から見た外観図である。車両3は、自動車であり、路面上を走行或いは路面上に停止するものとする。図2(b)において、扇型領域100は、上空から見たカメラ2の撮影領域を表している。また、以下の説明において、路面と地面は同じものを意味し、高さとは、路面からの高さを意味するものとする。
図1の車両周辺監視装置1は、視点変換によってカメラ2の撮影画像から鳥瞰図画像(俯瞰図画像)を生成する視点変換部11と、異なる時刻の鳥瞰図画像の位置合わせを行う位置合わせ部(画像合成部)12と、位置合わせ結果を参照して障害物を検出し、障害物に関する障害物情報を出力する障害物検出部13と、障害物情報に基づいて危険度を判定する危険度判定部14と、危険度に応じた警告処理を行う警告部15と、位置合わせ結果に基づいて車両3の移動状態を推定する車両移動状態推定部16と、を備えている。
カメラ2は、車両3の後部に設置され、車両3の後方周辺を撮影する単眼カメラである。但し、カメラ2は、車両3の前方や側面に備えられているものであってもよい。カメラ2の撮影領域内に車両3の後方の路面及び立体物が含まれるように(即ち、カメラ2の光軸が車両3の後方下向きを向くように)、カメラ2は設置されている。カメラ2は、所定のフレーム周期(例えば、1/60秒周期)にて、順次、車両3の後方に位置する被写体(路面及び立体物を含む)を撮影し、撮影によって得られた画像(以下、撮影画像と呼ぶ)を視点変換部11に送る。
[視点変換部]
視点変換部11は、カメラ2からの撮影画像を視点変換によって鳥瞰図画像(俯瞰図画像)に変換する。鳥瞰図画像は、実際のカメラ2の撮影画像を仮想カメラの視点(仮想視点)から見た画像に変換したものである。より具体的には、鳥瞰図画像は、実際のカメラ2の撮影画像を、地上面を鉛直方向に見下ろした画像に変換したもの(換言すれば、撮影画像を路面上へ投影した画像)である。この種の画像変換は、一般に、視点変換と呼ばれる。
視点変換によって撮影画像を鳥瞰図画像に変換することを鳥瞰変換と呼ぶ。鳥瞰変換の手法として、公知の手法を用いることができる。例えば、特開2006−287892号公報または特開平3−99952号公報に記載されているような、公知の透視投影変換を用いて鳥瞰変換を行う。撮影画像上における各点の座標を(xbu、ybu)で表し、この撮影画像を透視投影変換にて変換した鳥瞰図画像上における各点の座標を(xau、yau)で表すと、座標(xbu、ybu)を座標(xau、yau)に変換するための式は、下記式(1)によって表される。
Figure 2008219063
ここで、θaは、図2(a)に示す如く、地面とカメラ2の光軸との成す角度である(但し、90°<θa<180°)。(180°−θa)はカメラ2の俯角である。hは、カメラ2の高さに基づく量(カメラ座標系と世界座標系の、高さ方向の平行移動量)である。fは、カメラ2の焦点距離である。Haは、仮想カメラの高さを表す。透視投影変換に必要なパラメータ(θa、h、f及びHa)は、例えば、事前に設定され、予め車両周辺監視装置1(視点変換部11)に与えられる。
また、透視投影変換ではなく、特開2006−148745号公報に記載されているような平面射影変換によって鳥瞰変換を行うようにしてもよい。平面射影変換を用いる場合、カメラ2の撮影領域内に、鳥瞰図画像内における座標位置が既知の4以上の特徴点を配置し、その4以上の特徴点の撮影画像上における座標情報に基づいてホモグラフィ行列を求める。このホモグラフィ行列を用いれば、任意の撮影画像を鳥瞰図画像に変換することが可能である。
[位置合わせ部]
次に、図1の位置合わせ部12の機能について説明する。視点変換部11によって得られた各鳥瞰図画像は位置合わせ部12に送られる。位置合わせ部12は、時間的に隣接する2つの鳥瞰図画像の位置合わせを行う。今、或る時刻tを基準とし、上記フレーム周期を単位時間とする時刻を考える。従って、カメラ2は、時刻t、(t+1)、(t+2)、・・・、において、順次、撮影画像を取得する。
時刻t、(t+1)、(t+2)、・・・の撮影画像から得られた鳥瞰図画像も、撮影画像と同様、時刻t、(t+1)、(t+2)、・・の鳥瞰図画像という。時刻tと(t+1)に着目し、時刻t及び(t+1)の鳥瞰図画像間の位置合わせの手法を説明する。尚、時刻t−(t+1)間を含め、車両3が実空間内で移動している場合を想定する。
図3に、時刻t及び(t+1)における撮影画像及び鳥瞰図画像の例を示す。図3において、各画像(撮影画像及び鳥瞰図画像)の下方側は車両3側に対応している。図3において、符号200及び201は、それぞれ時刻t及び(t+1)における撮影画像を表し、符号300及び301は、それぞれ時刻t及び(t+1)における鳥瞰図画像を表す。
今、カメラ2の撮影領域内の路面に高さのない平面標識が描かれており、且つ、カメラ2の撮影領域内に高さのある立体物が存在している場合を想定する。平面標識は、例えば、路面にペイントされた白線や交通標識である。立体物は、車両3にとっての障害物であると捉え、以下、立体物を障害物と呼ぶことにする。説明の簡略化上、障害物は1つであるとする。平面標識は、路面上に固定されており実空間内で静止している。但し、障害物は、駐車場に固定されたポールなどの静止物体と人などの動物体とに分類され、障害物が動物体である場合、障害物は実空間内で移動しうる。図3は、カメラ2及び車両3に対して、障害物が直進してきている場合を想定している。
図3において、符号210は撮影画像200上における上記障害物を表し、符号220は撮影画像200上における上記平面標識を表す。
同様に、符号211は撮影画像201上における上記障害物を表し、符号221は撮影画像201上における上記平面標識を表す。
同様に、符号310は鳥瞰図画像300上における上記障害物を表し、符号320は鳥瞰図画像300上における上記平面標識を表す。
同様に、符号311は鳥瞰図画像301上における上記障害物を表し、符号321は鳥瞰図画像301上における上記平面標識を表す。
位置合わせ部12は、位置合わせ対象となっている2つの鳥瞰図画像(今の例の場合、鳥瞰図画像300及び301)の位置合わせを行う。この際、高さのない平面標識は位置ずれなく重なるが、障害物には位置ずれが生じる。鳥瞰図画像上には路面上への障害物の投影画像が現れるが、車両3移動中の時刻t−(t+1)間で仮想カメラの視点位置が異なるため、時刻t−(t+1)間で該投影画像(投影画像の形状)は原理的に異なってくるからである。従って、高さのない平面標識などに基づいて2つの鳥瞰図画像の位置合わせを行うようにすれば、位置合わせ後の2つの鳥瞰図画像間における差分から障害物を検出することが可能となる。尚、車両3が停止しており且つ障害物も静止している場合は、前記差分から障害物を検出することはできない。但し、車両3が停止していても障害物が移動している場合は、前記差分から障害物を検出可能である。
図4は、位置合わせ部12による位置合わせ後の鳥瞰図画像300及び301を、重ね合わせて示した図である。位置合わせ後の鳥瞰図画像300及び301が互いに重なる画像部分を重なり部という。図4における太線302で囲まれた領域内が重なり部である。重なり部内において、平面標識は位置ずれなく重なるが、障害物の描画領域には差分が生じる。図4において、破線310aは、位置合わせ後の鳥瞰図画像300上における障害物を表し、実線311aは、位置合わせ後の鳥瞰図画像301上における障害物を表す。
位置合わせ部12は、高さのない被写体が描画されている画像領域の画像データに基づいて位置合わせを行うことにより、障害物に影響されにくい位置合わせを実現する。これの具体的な実現手法を、図5を参照して説明する。図5には、図3と同様の鳥瞰図画像300及び301が示されている。
各鳥瞰図画像の全体の画像領域を、車両3からの距離(実空間における距離)が比較的遠い被写体が表れる遠側画像領域と車両3からの距離(実空間における距離)が比較的近い被写体が表れる近側画像領域とに分類して考える。上述したように各画像(撮影画像及び鳥瞰図画像)の下方側が車両3側に対応しているため、鳥瞰図画像において、上方側に遠側画像領域が配置され、下方側に近側画像領域が配置されることになる。図5には、各鳥瞰図画像が遠側及び近側画像領域に分類されている様子が示されている。即ち、鳥瞰図画像300は、上方側に配置された遠側画像領域330Fと下方側に配置された近側画像領域330Nに分類され、鳥瞰図画像301は、上方側に配置された遠側画像領域331Fと下方側に配置された近側画像領域331Nに分類される。
そして、位置合わせ部12は、鳥瞰図画像300における近側画像領域330N内の画像(以下、第1参照画像と呼ぶ)と鳥瞰図画像301における近側画像領域331N内の画像(以下、第2参照画像と呼ぶ)との間における移動ベクトルを求める。この移動ベクトルは、第1参照画像と第2参照画像との間における画像の動きの方向及び大きさを特定する。そして、この移動ベクトルに従って、鳥瞰図画像300と301との間の位置合わせを行う。例えば、鳥瞰図画像300を基準とする場合、第1参照画像を基準とした第1−第2参照画像間の移動ベクトルを求め、その移動ベクトルに従って鳥瞰図画像301を平行移動させる座標変換を行う。そして、鳥瞰図画像300と座標変換後の鳥瞰図画像301とを位置合わせ後の鳥瞰図画像とする。このように、鳥瞰図画像300と301との間の位置合わせを行うに際して、遠側画像領域330F及び331Fの画像データを用いない。
後にも説明されるが、車両3に障害物が近づくと警告報知がなされ、この警告報知に応じて運転者は車両3を停止させる。従って、車両3の移動中においては、通常、車両3の後方近傍に障害物は存在しないはずである。これに鑑み、近側画像領域の画像データにのみ基づいて所望の位置合わせを行うようにする。
移動ベクトルの導出法は周知である。例えば、画像マッチング法(代表点マッチング法やブロックマッチング法)などを用いて上記移動ベクトルを導出することが可能である。或いは、エッジ抽出フィルタなどを用いて移動ベクトル導出に有効な複数の位置合わせ用特徴点を第1参照画像から抽出し、各位置合わせ用特徴点が第2参照画像において何れの画像位置(座標位置)に存在しているかを探索することによって、上記移動ベクトルを導出するようにしても良い。位置合わせ用特徴点とは、エッジ量などが比較的多く、探索しやすい特徴的な点を意味する。例えば、エッジ抽出フィルタを第1参照画像の各画素に順次適用していってエッジ抽出フィルタの出力値が所定値以上となる画素を位置合わせ用特徴点とする。
各鳥瞰図画像において、遠側画像領域と近側画像領域とを分類する境界線位置(図5における符合340及び341に対応)は予め設定されていてもよい。この場合、位置合わせ部12は、各鳥瞰図画像における予め設定された領域内の画像データに基づいて上記移動ベクトルを求めることになる。
但し、以下のようにして上記移動ベクトルを求めるようにしてもよい。即ち、上記のエッジ抽出フィルタなどを用いて、第1参照画像から位置合わせ用特徴点となるべき点を第1参照画像の下方側から探索してゆく。この探索を、位置合わせ用特徴点が所定の数だけ見つかるまで行い、最終的に複数の位置合わせ用特徴点(前記所定の数の位置合わせ用特徴点)を抽出する。そして、抽出した各位置合わせ用特徴点が第2参照画像において何れの画像位置(座標位置)に存在しているかを探索することによって、上記移動ベクトルを導出する。この場合、上記境界線位置のような概念は存在しないが、結果的に、2つの鳥瞰図画像の位置合わせを行うための画像データから各遠側画像領域の画像データが除外され、各近側画像領域の画像データのみに基づいて位置合わせ用の移動ベクトルが求められることになる。
尚、図1にも表れているように、位置合わせ部12には車両移動状態推定部16の推定結果が与えられるが、この推定結果の利用方法については後述する。
[障害物検出部]
次に、図1の障害物検出部13の機能について説明する。障害物検出部13には、位置合わせ後の鳥瞰図画像が与えられる。視点変換部11にて得られた鳥瞰図画像及び位置合わせ部12にて求められた移動ベクトルを障害物検出部13に与え、それらに基づいて、障害物検出部13が位置合わせ後の鳥瞰図画像を生成するようにしてもよい。
説明の具体化のため、時刻t及び(t+1)における2つの鳥瞰図画像に着目して、障害物検出部13の機能の説明を行う。位置合わせ後の鳥瞰図画像を、「位置合わせ後画像」と呼ぶことにする。位置合わせ後の時刻tの鳥瞰図画像を、時刻tの位置合わせ後画像(又は時刻tにおける位置合わせ後画像)と呼ぶ。他の時刻(時刻(t+1)など)についても同様とする。
障害物検出部13は、時刻t及び(t+1)における位置合わせ後画像間において、差分をとり、差分が現れる画像領域を障害物の描画領域として検出する。より具体的には例えば、時刻t及び(t+1)における位置合わせ後画像間における差分画像を生成し、該差分画像において、濃度値が所定値以上となっている部分領域を差分領域として抽出する。或いは、この差分画像において、濃度値が所定値以上となっている画素が多く存在している領域とそれ以外の領域とを領域分割し、前者の領域を差分領域として抽出する。尚、差分画像は、位置合わせ後画像間の重なり部に対してのみ生成される。
図4に示す例の場合、障害物310aが描画されている画像領域と障害物311aが描画されている画像領域との合成領域が差分領域として抽出されることになる。車両3が移動しており且つカメラ2の撮影領域内に静止物体又は動物体の障害物が存在している場合、或いは、車両3が静止していてもカメラ2の撮影領域内で障害物が移動している場合は、差分領域が抽出される。この場合、障害物検出部13は、障害物が存在している旨を表す障害物有無情報を危険度判定部14に送る。車両3が静止しており且つカメラ2の撮影領域内に障害物が存在していても該障害物が静止物体である場合、或いは、車両3の移動状態に関わらずカメラ2の撮影領域内に障害物が存在していない場合は、差分領域は抽出されない。この場合、障害物検出部13は、障害物が存在していない旨を表す障害物有無情報を危険度判定部14に送る。図6に、障害物有無情報を含む障害物情報の構成を示す。図6に示される他の情報の生成手法は、後述の説明から明らかとなる。
差分領域が抽出された場合を想定して、障害物検出部13の機能説明を継続する。障害物検出部13は、差分領域内のオプティカルフローを求め、このオプティカルフローに基づいて差分領域内に現れている障害物が静止物体と動物体の何れであるかを分類検出する。
図7(a)を参照する。図7(a)は、障害物が静止物体である場合に対応している。図7(a)において、破線400は時刻tにおける位置合わせ後画像を表し、実線401は時刻(t+1)における位置合わせ後画像を表す。符合410が付された破線内の画像領域は、位置合わせ後画像400における障害物の描画領域を表し、符合411が付された実線内の画像領域は、位置合わせ後画像401における障害物の描画領域を表す。位置合わせ後画像400と401の間における差分領域は、画像領域410と411の合成領域となる。
図7(a)に示す例の場合、障害物検出部13は、差分領域内における、位置合わせ後画像400と401の間のオプティカルフローを求める。オプティカルフローは、着目した画像間における物体上の各点の移動方向と移動距離を表す移動ベクトルの分布である。オプティカルフローの導出手法は公知であり、例えば特許第3435084号公報に記載されているような公知の手法を用いればよい。例えば、オプティカルフローの導出に有効な複数の部分画像(矩形領域)を複数の特徴点として抽出し、オプティカルフローの導出対象の画像間で各特徴点の対応座標位置を求めればオプティカルフローが求まる。但し、各特徴点は互いに重ならないように設定される。オプティカルフロー導出用の特徴点は、上述の位置合わせ用特徴点の決定手法と同様の手法にて決定されてもよいし、差分領域内にグリッド(格子)を定義してグリッドの各交点を特徴点とするようにしてもよい。図7(a)において、差分領域の内部に記載された複数の矢印は、導出されたオプティカルフローを形成する移動ベクトル群(移動ベクトルの集まり)を表す。
障害物検出部13は、差分領域内において最も車両3側に近い点(以下、特定点という)の、位置合わせ後画像400と401の間における移動量を算出する。特定点は、1つの画素から形成されていてもよいし、複数の画素から形成された矩形領域などであってもよい。図7(a)に示す例の場合、位置合わせ後画像400における特定点と位置合わせ後画像401における特定点とは完全に重なっており、上記移動量はゼロである。図7(a)において、符号415が重なった特定点を表している。
本実施形態の場合、カメラ2は車両3の後方下向きに取り付けられ、鳥瞰図画像の下方側が車両3側に対応している。従って、差分領域内の最も下方側に位置する点が特定点となる。鳥瞰図画像の上下方向を画像の垂直方向と捉え、鳥瞰図画像上において下方側に位置する画素ほど垂直座標値が大きくなると考えた場合、差分領域内において最も垂直座標値が大きい点が特定点とされる。尚、垂直座標値が最大となる点を特定点とする、といった取り決めは予め定められている。
鳥瞰図画像は、カメラ2の撮影画像の路面上への投影画像に相当するため、原理上、特定点は障害物が地面に接している点に相当することになる。従って、図7(a)に示す如く位置合わせ後画像400と401の間で特定点が移動していないということは、その障害物が静止物体であることを表している。
図7(b)に、障害物が動物体である場合の位置合わせ後画像を示す。図7(b)において、破線450は時刻tにおける位置合わせ後画像を表し、実線451は時刻(t+1)における位置合わせ後画像を表す。符合460が付された破線内の画像領域は、位置合わせ後画像450における障害物の描画領域を表し、符合461が付された実線内の画像領域は、位置合わせ後画像451における障害物の描画領域を表す。位置合わせ後画像450と451の間における差分領域は、画像領域460と461の合成領域となる。
図7(b)に示す例の場合、障害物検出部13は、差分領域内における、位置合わせ後画像450と451の間のオプティカルフローを求める。図7(b)において、画像領域460−461間に記載された複数の矢印は、導出されたオプティカルフローを形成する移動ベクトル群(移動ベクトルの集まり)を表す。
図7(b)に示す例の場合、位置合わせ後画像450における特定点470と位置合わせ後画像451における特定点471は重なっていない。障害物検出部13は、位置合わせ後画像450と451の間における特定点の移動量(即ち、位置合わせ後の画像空間における特定点470と特定点471の距離)を算出し、この移動量に基づいて、障害物が動物体であると判断する。
実際には例えば、障害物検出部13は、2つの位置合わせ後画像間における特定点の移動量を算出する。そして、この移動量が所定の閾値未満あれば差分領域に現れる障害物が静止物体であると判断し、障害物が静止物体である旨を表す静止/動物体分類情報を危険度判定部14に送る。一方、この移動量が該閾値以上あれば該障害物が動物体であると判断し、障害物が動物体である旨を表す静止/動物体分類情報を危険度判定部14に送る(図6参照)。
また、上記のオプティカルフローを形成する移動ベクトル群における各移動ベクトルの向き(方向)は、車両3に対する障害物の相対的な移動の方向(以下、「相対移動方向」という)を表し、該移動ベクトル群の各移動ベクトルの大きさは、車両3に対する障害物の相対的な移動の速度(以下、「相対移動速度」という)を表している。障害物検出部13は、導出したオプティカルフローに基づいて、相対移動方向及び相対移動速度を特定し、特定した相対移動方向を表す障害物移動方向情報及び相対移動速度を表す障害物移動速度情報を危険度判定部14に送る(図6参照)。
また、障害物が描画された鳥瞰図画像上における障害物の位置は、車両3に対する障害物の相対的な位置(以下、「相対位置」という)を表している。障害物検出部13は、最新の鳥瞰図画像に基づいて、その鳥瞰図画像上における障害物の位置を検出し、その位置を表す(換言すれば、上記相対位置を表す)相対位置情報を危険度判定部14に送る(図6参照)。鳥瞰図画像上における障害物の位置は、例えば、着目した1枚の鳥瞰図画像上における障害物の上記特定点の座標位置で表すことができる。この座標位置は、1枚の鳥瞰図画像上における座標位置であるので、位置合わせの前でも後でも不変である。時刻t及び(t+1)に着目した場合、時刻(t+1)における位置合わせ前又は後の鳥瞰図画像上の障害物の位置から相対位置情報を生成すればよい。
また、障害物が描画された鳥瞰図画像上における障害物の大きさは、実空間における障害物の大きさに比例する。障害物検出部13は、最新の鳥瞰図画像に基づいて、その鳥瞰図画像上における障害物の大きさを検出し、その大きさを特定する障害物サイズ情報を危険度判定部14に送る(図6参照)。鳥瞰図画像上における障害物の大きさは、例えば、鳥瞰図画像上における障害物を囲む最小の矩形領域の面積で表すことができる。この面積は、位置合わせの前でも後でも不変である。時刻t及び(t+1)に着目した場合、時刻(t+1)における位置合わせ前又は後の鳥瞰図画像上の上記面積から障害物サイズ情報を生成すればよい。
[危険度判定部]
次に、図1の危険度判定部14の機能について説明する。図1の危険度判定部14は、障害物有無情報、静止/動物体分類情報、障害物移動方向情報、障害物移動速度情報、相対位置情報及び障害物サイズ情報を含む障害物情報(図6参照)に基づいて、障害物との関係における危険度を判定する。
危険度は、主として、障害物と車両3との衝突の危険性を表している。危険度は、例えば0以上の値とされ、危険度の数値が大きい(高い)ほど、危険性が高いことを表す。危険度の数値をDで表す。障害物有無情報が障害物の不存在を示している場合、危険度は、最小値であるゼロとされる。以下、障害物有無情報が障害物の存在を示している場合を想定して、危険度の判定手法(算出手法)について説明する。
例えば、静止/動物体分類情報と障害物移動方向情報と相対位置情報を参照して、図8(a)及び(b)に示すような危険度判定を行う。障害物が動物体である場合において、障害物移動方向情報に基づき該動物体が車両3に接近していると判断されるとき、危険度を「高」とする。その動物体が車両3に接近していると判断されなくても相対位置情報に基づく該動物体の位置(相対位置)が鳥瞰図画像上の所定の危険領域内に属すると判断されるとき、危険度を「中」とする。障害物移動方向情報に基づき該動物体が車両3から遠ざかっていると判断されるとき、危険度を「低」とする。
障害物が静止物体である場合は、相対位置情報にて特定される静止物体の位置(相対位置)に基づき危険度を判定する。例えば、鳥瞰図画像内を車両3との関係において最近傍領域と近傍領域と遠方領域に分類し、静止物体の位置(相対位置)が鳥瞰図画像上の最近傍領域内に属するとき、近傍領域内に属するとき、遠方領域内に属するとき、危険度を夫々「高」、「中」、「低」とする。
尚、危険度に関し、「低」、「中」、「高」の順に危険度の数値が大きくなるものとする。また、障害物の相対移動方向が何れの方向を向いている時に、動物体(障害物)が車両3に接近している或いは車両3から遠ざかっていると判断されるかは、予め設定されている。本実施形態の場合、障害物が鳥瞰図画像の中央下方よりに移動しているとき、動物体(障害物)が車両3に接近していると判断される。また、最近傍領域と近傍領域と遠方領域は、互いに重ならない領域とする。鳥瞰図画像内を最近傍領域と近傍領域と遠方領域に分類する境界線を、予め設定しておくことができる。本実施形態の場合、鳥瞰図画像内の中央下方よりの領域を最近傍領域とし、鳥瞰図画像内の上方よりの領域を遠方領域とし、最近傍領域と遠方領域に挟まれた領域を近傍領域とすればよい。
また例えば、障害物情報に基づき、以下の算出式(2)によって危険度Dを算出することもできる。ここで、k1〜k5は、重み付け係数であり、夫々0以上の値とする。重み付け係数k1〜k5の内、何れか1以上の重み付け係数をゼロとすることもできる。
D=k1・E1+k2・E2+k3・E3+k4・E4+k5・E5 ・・・(2)
1は、障害物が静止物体及び動物体の何れであるかに応じて値が異なる評価値である。例えば、障害物が動物体である場合、障害物が静止物体である場合よりも、評価値E1を大きくする。
2は、障害物の相対移動方向に応じて値が変化する評価値である。例えば、相対移動方向に基づき、障害物が車両3に接近していると判断される場合、E2=E2Aとし、障害物が車両3に対して略静止していると判断される場合、E2=E2Bとし、障害物が車両3から遠ざかっていると判断される場合、E2=E2Cとする。ここで、E2A>E2B>E2C、である。
3は、障害物の相対移動速度に応じて値が変化する評価値である。例えば、相対移動速度によって表される相対速度が第1基準速度よりも大きい場合、E3=E3Aとし、該相対速度が第1基準速度よりも小さく且つ第2基準速度よりも大きい場合、E3=E3Bとし、該相対速度が第2基準速度よりも小さい場合、E3=E3Cとする。ここで、E3A>E3B>E3C、であり、第1基準速度は第2基準速度よりも大きい。
4は、障害物の相対位置に応じて値が変化する評価値である。例えば、上述の如く、鳥瞰図画像内を車両3との関係において最近傍領域と近傍領域と遠方領域に分類し、障害物の位置(相対位置)が鳥瞰図画像上の最近傍領域内に属するとき、近傍領域内に属するとき、遠方領域内に属するとき、評価値E4を、夫々、E4A、E4B及びE4Cとする。ここで、E4A>E4B>E4C、である。
5は、障害物サイズ情報にて表される障害物の大きさに応じて値が変化する評価値である。例えば、その障害物の大きさが所定の第1サイズ範囲内に属するとき、E5=E5Aとし、その障害物の大きさが所定の第2サイズ範囲内に属するとき、E5=E5Bとし、その障害物の大きさが第1サイズ範囲内にも第2サイズ範囲内にも属さないとき、E5=E5Cとする。第1サイズ範囲と第2サイズ範囲は互いに重複しない範囲であり、E5A>E5B>E5C、である。例えば、第1サイズ範囲は鳥瞰図画像上における人体の大きさを基準として設定され、カメラ2の撮影領域内に障害物としての人体が存在する場合、E5=E5Aとなるように第1サイズ範囲は設定される。また、異常に大きな障害物が検出された時、それは誤検出である可能性が高い。或いは、非常に小さな障害物(小石など)に対しては、危険性は低いと判断することが妥当である。そこで、異常に大きな障害物或いは非常に小さな障害物が検出された時には、E5=E5Cとなるように、第2サイズ範囲を定めておく。
[警告部]
次に、図1の警告部15の機能について説明する。図1の警告部15には、危険度判定部14にて判定された危険度に応じた警告を運転者に対して行う。警告の媒体は任意である。例えば、図示されないスピーカを用いた音声出力で警告を行っても良いし、図示されない表示装置を用いた映像表示で警告を行ってもよい。
例えば、危険度を表す値Dと、所定の閾値DTH1、DTH2及びDTH3と、を比較する。ここで、DTH1>DTH2>DTH3>0、である。そして、
D>DTH1である時、危険度が「高」であると判断して高危険度警告を行い、
TH1>D>DTH2である時、危険度が「中」であると判断して中危険度警告を行い、
TH2>D>DTH3である時、危険度が「低」であると判断して低危険度警告を行い、
TH3>Dであるとき、警告を行わない。
そして、低危険度警告と中危険度警告と高危険度警告との間で警告内容を異ならせる。警告内容には、警告を映像表示で行う場合における警告の表示内容、警告を音声出力で行う場合における警告の音の強度、音の種類、警告音声文言の内容などが含まれる。
低危険度警告、中危険度警告、高危険度警告の順番で、次第に運転者に対する警告レベルを上げる。例えば、音声出力にて警告を行う場合、低危険度警告と中危険度警告と高危険度警告との間で警告音(音の強度、音の種類又は警告音声文言)を異ならせる。また例えば、低危険度警告では映像表示のみで警告を行い、中危険度警告では映像表示と比較的小さな音による音声出力とで警告を行い、高危険度警告では映像表示と比較的大きな音による音声出力とで警告を行うようにしてもよい。
また、障害物が静止物体及び動物体の何れであるかに対して特に注目して警告内容を決定するようにしてもよい。この場合、必要に応じて、障害物情報が警告部15に送られる。例えば、障害物が静止物体である場合と動物体である場合とで警告内容を異ならせるとよい。
[車両移動状態推定部]
次に、図1の車両移動状態推定部16の機能について説明する。車両移動状態推定部16には、位置合わせ部12にて導出された移動ベクトルが与えられる。この移動ベクトルは、車両3の移動方向及び移動速度を表している。従って、車両移動状態推定部16は、この移動ベクトルから車両3の移動方向及び移動速度を推定することが可能である。車両移動状態推定部16は、位置合わせ部12による位置合わせの度に導出される移動ベクトルを蓄積し、蓄積した各移動ベクトルに基づいて車両3の移動状態(即ち、移動方向及び移動速度)を推定する。この推定結果は、位置合わせ部12に送られる。
位置合わせ部12は、推定された車両3の移動状態に基づいて、次回以降に行う位置合わせの条件に制限を加える。例えば、時刻t以前の2つの鳥瞰図画像間について算出された移動ベクトルから、「時刻t以前において車両3が真っ直ぐ一定速度で後退し続けている」と推定された場合を想定する。
位置合わせ部12は、次の単位時間経過後、時刻t及び(t+1)の2つの鳥瞰図画像に対する位置合わせを行うのであるが、真っ直ぐ一定速度で後退し続けている車両3の移動方向が次のタイミングで急に前進方向に変化したり、車両3の速度が上記一定速度から急激に変化したりすることは、車両3の特性上、考え難い。
これを考慮し、時刻t及び(t+1)の2つの鳥瞰図画像間における位置合わせ用の移動ベクトルが、時刻t−(t+1)間で車両3が前進方向に進行していることを表すような移動ベクトルとなったり、時刻t−(t+1)間における車両3の速度が異常な速度(上記一定速度と大きくかけ離れた速度)であることを表すような移動ベクトルになったりしないように、位置合わせの条件に制限を加える。つまり、位置合わせする際、推定された車両3の移動状態に基づき、時刻tの鳥瞰図画像を基準として時刻(t+1)の鳥瞰図画像を平行移動させる方向及び量に制限を加える。これにより、誤った位置合わせの発生が抑制され、ひいては、障害物の誤検出も抑制される。
[動作フロー]
次に、図9を参照して、図1の車両周辺監視装置1の全体的な動作の流れを説明する。図9は、その動作の流れを表すフローチャートである。
まず、カメラ2から撮影画像を取得し(ステップS1)、視点変換部11が鳥瞰変換を行って鳥瞰図画像を生成する(ステップS2)。生成された鳥瞰図画像は、図示されないフレームメモリ(及び必要に応じて不揮発性記録媒体)に記憶される(ステップS3)。次に、位置合わせ部12は、該フレームメモリの記憶内容を参照し、時間的に隣接する2つの鳥瞰図画像の位置合わせを行う(ステップS4)。この際、上述したように、車両移動状態推定部16による車両3の移動状態の推定結果が参照される。次に、障害物検出部13が、位置合わせ部12による位置合わせ結果を参照しつつ、障害物検出を行うとともに障害物が静止物体と動物体の何れであるかを分類検出する(ステップS5及びS6)。次に、障害物検出部13の検出結果に基づいて、危険度判定部14が危険度の判定を行い(ステップS7)、判定された危険度に応じて警告部15が警告処理を行う(ステップS8)。これらの処理(ステップS1〜S8)は、順次、繰り返し実行される。
[従来手法に対する優位性]
上述の従来手法との比較において、本実施形態に係る車両周辺監視装置1の優位性を考察する。
上述の従来手法は、全て、障害物を検出することはできても、障害物が静止しているか或いは移動しているかを区別することはできない。車両が走行する路面上にある障害物は全て危険な物と判断できるため、通常は、障害物の静止/移動に関わらず、それを危険物として検出し、警告を行っても問題はない。
しかし、壁や塀に向かって駐車する状況や狭い道路内で電柱の側を通り抜ける状況などにおいては、障害物の静止/移動が区別して検出された方が良い。そうような状況では、静止物体が絶えず障害物として検出される。従って、そうような状況において新たに歩行者や車が自車両に近づいてきたことを想定した場合、検出された障害物が既に存在する静止した障害物であるのか、新たに近づいてきた障害物であるのかを判別できないとすると、漫然と同じ警告を出し続けるしかないからである。
この点、本実施形態に係る車両周辺監視装置1では、障害物を静止物体と動物体とで分類検出することができるため、検出された障害物が静止物体である場合と動物体である場合とで警告内容を変えるといったことが可能である。このため、より詳細に障害物に関する情報を運転者に提示することができ、より安全確認が支援される。
また、上記特許文献1及び2に記載の手法では専用のセンサが必要となるが、車両周辺監視装置1では、これが不要であるためコストダウン等も図られる。また、そのセンサの誤差に由来する誤検出もなくなる。
尚、ステレオカメラを用いた場合、障害物までの距離や障害物の表面形状を計測することができるが、障害物の背景に壁などがある場合、障害物(特にその壁に似た色を持つ障害物)を特定することが困難となる。また、障害物の静止/移動を区別して検出するためには特定した物体を同定しながら追跡する必要があり、自車両が移動している場合は自車両の動きを考慮する必要があることから、障害物の静止/移動の識別は困難となる。
<<変形等>>
上述の実施形態の変形例または注釈事項として、以下に、注釈1及び注釈2を記す。各注釈に記載した内容は、矛盾なき限り、任意に組み合わせることが可能である。
[注釈1]
図1の車両周辺監視装置1は、例えば、車両3のカーナビゲーションシステム(不図示)内に組み込まれ、そのカーナビゲーションシステムの一部となりうる。
[注釈2]
図1の車両周辺監視装置1は、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって実現可能である。また、車両周辺監視装置1にて実現される機能の全部または一部を、プログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしてもよい。
本発明の実施形態に係る車両周辺監視装置の機能ブロック図である。 図1の車両周辺監視装置が搭載され且つカメラが設置された車両の側面外観図(a)と、その車両を上空から見た外観図(b)である。 時刻t及び(t+1)における撮影画像及び鳥瞰図画像の例を示す図である。 図3の鳥瞰図画像を位置合わせした結果を示す図である。 図1の位置合わせ部による位置合わせ処理を説明するための図である。 図1の障害物検出部にて生成される障害物情報の構成を示す図である。 障害物が静止物体である場合における位置合わせ後の各鳥瞰図画像を示す図(a)と、障害物が動物体である場合における位置合わせ後の各鳥瞰図画像を示す図(b)である。 図1の危険度判定部による危険度判定の手法例を示す図である。 図1の車両周辺監視装置の全体的な動作の流れを表すフローチャートである。
符号の説明
1 車両周辺監視装置
2 カメラ
3 車両
11 視点変換部
12 位置合わせ部
13 障害物検出部
14 危険度判定部
15 警告部
16 車両移動状態推定部
100 撮影領域

Claims (10)

  1. 車両に設置されたカメラの撮影画像を視点変換によって鳥瞰図画像に変換する視点変換手段と、
    異なる時刻に得られた2つの撮影画像に基づく2つの鳥瞰図画像の位置合わせを、前記2つの鳥瞰図画像に基づいて行う位置合わせ手段と、
    位置合わせ後の前記2つの鳥瞰図画像間の差分に基づいて、前記車両周辺の立体物を検出する立体物検出手段と、を備えた
    ことを特徴とする車両周辺監視装置。
  2. 前記2つの鳥瞰図画像の夫々において、前記車両からの距離が比較的遠い被写体が現れる画像領域を第1画像領域と呼び且つ前記車両からの距離が比較的近い被写体が現れる画像領域を第2画像領域と呼んだ場合、
    前記位置合わせ手段は、前記2つの鳥瞰図画像の位置合わせを行うための画像データから各第1画像領域の画像データを除外し、各第2画像領域の画像データに基づいて前記2つの鳥瞰図画像の位置合わせを行う
    ことを特徴とする請求項1に記載の車両周辺監視装置。
  3. 前記立体物検出手段は、位置合わせ後の前記2つの鳥瞰図画像間の差分に基づいて、前記立体物を検出するとともに該立体物が静止物体及び動物体の何れであるかを分類して検出する
    ことを特徴とする請求項1または請求項2に記載の車両周辺監視装置。
  4. 前記立体物検出手段は、前記差分に基づき位置合わせ後の前記2つの鳥瞰図画像内において前記立体物が描画されている立体物領域を特定し、前記立体物領域内の特定点の、位置合わせ後の前記2つの鳥瞰図画像間における移動量に基づいて、前記立体物を前記静止物体又は前記動物体に分類する
    ことを特徴とする請求項3に記載の車両周辺監視装置。
  5. 前記立体物領域内において前記車両に最も近い点が前記特定点とされる
    ことを特徴とする請求項4に記載の車両周辺監視装置。
  6. 前記立体物検出手段の検出結果に基づいて外部に警告を行う警告手段を更に備え、
    前記警告手段は、検出された前記立体物が前記静止物体である場合と前記動物体である場合とで、警告内容を異ならせる
    ことを特徴とする請求項3〜請求項5の何れかに記載の車両周辺監視装置。
  7. 前記立体物との関係における前記車両の危険度を判定する危険度判定手段と、
    判定された前記危険度に応じて外部に警告を行う警告手段と、を更に備え、
    前記危険度判定手段は、
    検出された前記立体物の、前記静止物体と前記動物体との間の分類結果、
    位置合わせ後の前記2つの鳥瞰図画像から検出される、前記車両に対する前記立体物の相対的な移動の方向、
    位置合わせ後の前記2つの鳥瞰図画像から検出される、前記車両に対する前記立体物の相対的な移動の速度、
    前記立体物を含む鳥瞰図画像から検出される、前記車両に対する前記立体物の相対的な位置、及び、
    前記立体物を含む鳥瞰図画像上における前記立体物の大きさ、
    の内の何れか1以上に基づいて前記危険度を判定する
    ことを特徴とする請求項3〜請求項5の何れかに記載の車両周辺監視装置。
  8. 前記位置合わせ手段による前記2つの鳥瞰図画像の位置合わせ結果から前記車両の移動状態を推定する車両移動状態推定手段を更に備え、
    前記位置合わせ手段は、前記2つの鳥瞰図画像の取得後に得られる他の2つの鳥瞰図画像の位置合わせを行う際、その位置合わせの条件に、推定された前記移動状態に応じた制限を加える
    ことを特徴とする請求項1〜請求項7の何れかに記載の車両周辺監視装置。
  9. 請求項1〜請求項8の何れかに記載の車両周辺監視装置を搭載した
    ことを特徴とする車両。
  10. 車両に設置されたカメラの撮影画像を視点変換によって鳥瞰図画像に変換し、
    異なる時刻に得られた2つの撮影画像に基づく2つの鳥瞰図画像の位置合わせを、前記2つの鳥瞰図画像に基づいて行い、
    位置合わせ後の前記2つの鳥瞰図画像間の差分に基づいて、前記車両周辺の立体物を検出する
    ことを特徴とする車両周辺監視方法。
JP2007049157A 2007-02-28 2007-02-28 車両周辺監視装置及び方法 Withdrawn JP2008219063A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007049157A JP2008219063A (ja) 2007-02-28 2007-02-28 車両周辺監視装置及び方法
EP08003510A EP1964719A2 (en) 2007-02-28 2008-02-26 Apparatus and method for monitoring a vehicle's surroundings
US12/037,545 US20080205706A1 (en) 2007-02-28 2008-02-26 Apparatus and method for monitoring a vehicle's surroundings
CNA2008100825013A CN101256073A (zh) 2007-02-28 2008-02-27 车辆四周监视装置及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007049157A JP2008219063A (ja) 2007-02-28 2007-02-28 車両周辺監視装置及び方法

Publications (1)

Publication Number Publication Date
JP2008219063A true JP2008219063A (ja) 2008-09-18

Family

ID=39575939

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007049157A Withdrawn JP2008219063A (ja) 2007-02-28 2007-02-28 車両周辺監視装置及び方法

Country Status (4)

Country Link
US (1) US20080205706A1 (ja)
EP (1) EP1964719A2 (ja)
JP (1) JP2008219063A (ja)
CN (1) CN101256073A (ja)

Cited By (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010073036A (ja) * 2008-09-19 2010-04-02 Mitsubishi Motors Corp 車両周辺監視装置
JP2010128939A (ja) * 2008-11-28 2010-06-10 Aisin Seiki Co Ltd 鳥瞰画像生成装置
JP2010128795A (ja) * 2008-11-27 2010-06-10 Aisin Seiki Co Ltd 障害物検出装置
JP2010193198A (ja) * 2009-02-18 2010-09-02 Aisin Seiki Co Ltd 物体下端位置検出装置及び物体下端位置検出プログラム
JP2010221994A (ja) * 2009-02-27 2010-10-07 Nissan Motor Co Ltd 車両用運転操作補助装置、車両用運転操作補助方法および自動車
JP2010221993A (ja) * 2009-02-27 2010-10-07 Nissan Motor Co Ltd 車両用運転操作補助装置、車両用運転操作補助方法および自動車
JP2010231400A (ja) * 2009-03-26 2010-10-14 Toshiba Corp 障害物危険度算出装置、方法及びプログラム
JP2010239190A (ja) * 2009-03-30 2010-10-21 Aisin Seiki Co Ltd 障害物検出装置
JP2011070593A (ja) * 2009-09-28 2011-04-07 Mitsubishi Motors Corp 車両周辺監視装置
JP2011134322A (ja) * 2009-12-23 2011-07-07 Intel Corp モデル・ベースの競技場位置合わせ
JP2011223265A (ja) * 2010-04-08 2011-11-04 Nikon Corp 画像評価装置
CN102288165A (zh) * 2010-06-21 2011-12-21 日产自动车株式会社 移动距离检测装置和移动距离检测方法
WO2012023412A1 (ja) 2010-08-19 2012-02-23 日産自動車株式会社 立体物検出装置及び立体物検出方法
JP2012168828A (ja) * 2011-02-16 2012-09-06 Nissan Motor Co Ltd 並走体検出装置及び並走体検出方法
JP2012174180A (ja) * 2011-02-24 2012-09-10 Alpine Electronics Inc 立体物検出装置および立体物検出方法
WO2012141219A1 (ja) 2011-04-13 2012-10-18 日産自動車株式会社 走行支援装置及びその隣接車両検出方法
JP2012227639A (ja) * 2011-04-18 2012-11-15 Nissan Motor Co Ltd 走行支援装置及び走行支援方法
JP2013001155A (ja) * 2011-06-13 2013-01-07 Alpine Electronics Inc 車載カメラ姿勢検出装置および方法
WO2013018537A1 (ja) * 2011-08-02 2013-02-07 日産自動車株式会社 走行支援装置および走行支援方法
WO2013018673A1 (ja) 2011-08-02 2013-02-07 日産自動車株式会社 立体物検出装置及び立体物検出方法
WO2013018672A1 (ja) 2011-08-02 2013-02-07 日産自動車株式会社 移動体検出装置及び移動体検出方法
JP2013050750A (ja) * 2011-08-30 2013-03-14 Nissan Motor Co Ltd 移動体検出装置及び移動体検出方法
WO2013038818A1 (ja) 2011-09-12 2013-03-21 日産自動車株式会社 立体物検出装置
WO2013094242A1 (ja) 2011-12-19 2013-06-27 日産自動車株式会社 立体物検出装置
WO2013125404A1 (ja) 2012-02-23 2013-08-29 日産自動車株式会社 立体物検出装置
WO2013125403A1 (ja) 2012-02-23 2013-08-29 日産自動車株式会社 立体物検出装置
WO2013129356A1 (ja) 2012-03-01 2013-09-06 日産自動車株式会社 立体物検出装置
WO2013129352A1 (ja) 2012-03-01 2013-09-06 日産自動車株式会社 立体物検出装置
WO2013129354A1 (ja) 2012-03-01 2013-09-06 日産自動車株式会社 立体物検出装置
WO2013129358A1 (ja) 2012-03-02 2013-09-06 日産自動車株式会社 立体物検出装置
WO2013129361A1 (ja) 2012-03-02 2013-09-06 日産自動車株式会社 立体物検出装置
JP2013201958A (ja) * 2012-03-28 2013-10-07 National Agriculture & Food Research Organization 走行制御装置
WO2013157301A1 (ja) 2012-04-16 2013-10-24 日産自動車株式会社 立体物検出装置及び立体物検出方法
WO2014017519A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び立体物検出方法
WO2014017625A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置および立体物検出方法
WO2014017624A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置および立体物検出方法
WO2014017520A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び立体物検出方法
WO2014017434A1 (ja) 2012-07-27 2014-01-30 クラリオン株式会社 画像処理装置
WO2014017600A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置および立体物検出方法
WO2014017626A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 カメラ装置、立体物検出装置及びレンズ洗浄方法
WO2014017518A1 (ja) * 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び立体物検出方法
WO2014017523A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 水滴検出装置及び水滴検出装置を用いた立体物検出装置
WO2014017521A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置
WO2014017517A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び立体物検出方法
WO2014017302A1 (ja) 2012-07-27 2014-01-30 クラリオン株式会社 車載用周囲環境認識装置
WO2014017601A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置および立体物検出方法
WO2014017317A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び異物検出装置
JP2014038401A (ja) * 2012-08-13 2014-02-27 Honda Motor Co Ltd 車両周辺監視装置
JP2014089687A (ja) * 2012-10-30 2014-05-15 Hyundai Motor Company Co Ltd Avmシステムの障害物検出装置及び方法
JP2016218850A (ja) * 2015-05-22 2016-12-22 日産自動車株式会社 路面標示検出装置及び路面標示検出方法
JP2017102824A (ja) * 2015-12-04 2017-06-08 クラリオン株式会社 追跡装置
JP2017107327A (ja) * 2015-12-08 2017-06-15 富士通株式会社 物体検出装置および物体検出方法
JP2017161423A (ja) * 2016-03-10 2017-09-14 株式会社デンソー 車載用情報提示装置、情報提示方法
JP2017531872A (ja) * 2014-10-13 2017-10-26 コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH 障害物検出装置及び障害物検出方法
KR20170124310A (ko) * 2016-05-02 2017-11-10 현대자동차주식회사 영상기반 장애물 인식 시스템 및 방법
KR101825687B1 (ko) * 2015-04-24 2018-02-05 한국전자통신연구원 차영상을 이용한 장애물 검출장치 및 그 방법
JP2018097777A (ja) * 2016-12-16 2018-06-21 株式会社デンソーテン 障害物検出装置および障害物検出方法
JP2018097776A (ja) * 2016-12-16 2018-06-21 株式会社デンソーテン 障害物検出装置および障害物検出方法
KR102003387B1 (ko) * 2018-10-11 2019-07-24 한국과학기술원 조감도 이미지를 이용한 교통 장애물의 검출 및 거리 측정 방법, 교통 장애물을 검출하고 거리를 측정하는 프로그램을 저장한 컴퓨터 판독가능 기록매체
WO2022195925A1 (ja) * 2021-03-16 2022-09-22 株式会社J-QuAD DYNAMICS 運転状態判定装置、運転支援装置、運転状態判定方法、および運転状態判定プログラム
JP7418481B2 (ja) 2022-02-08 2024-01-19 本田技研工業株式会社 学習方法、学習装置、移動体制御装置、移動体制御方法、およびプログラム
WO2024048080A1 (ja) * 2022-08-29 2024-03-07 三菱重工業株式会社 情報処理装置、情報処理方法およびプログラム

Families Citing this family (54)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5354514B2 (ja) * 2008-03-31 2013-11-27 現代自動車株式会社 脇見運転検出警報システム
JP5253017B2 (ja) * 2008-07-03 2013-07-31 アルパイン株式会社 周辺監視装置、障害物検出方法及びコンピュータプログラム
FR2937775B1 (fr) * 2008-10-24 2010-12-31 Valeo Vision Sas Procede de detection d'un objet cible pour vehicule automobile
JP5421072B2 (ja) * 2008-11-19 2014-02-19 クラリオン株式会社 接近物体検知システム
FR2945491A1 (fr) * 2009-05-18 2010-11-19 Peugeot Citroen Automobiles Sa Procede et dispositif pour etendre une zone de visibilite
US8655019B2 (en) * 2009-09-24 2014-02-18 Panasonic Corporation Driving support display device
TWI392366B (zh) 2009-12-31 2013-04-01 Ind Tech Res Inst 全周鳥瞰影像距離介面產生方法與系統
CN102906593B (zh) * 2010-05-19 2015-06-17 三菱电机株式会社 车辆后方监视装置
US9959595B2 (en) 2010-09-21 2018-05-01 Mobileye Vision Technologies Ltd. Dense structure from motion
US9118816B2 (en) * 2011-12-06 2015-08-25 Mobileye Vision Technologies Ltd. Road vertical contour detection
CN102096803B (zh) * 2010-11-29 2013-11-13 吉林大学 基于机器视觉的行人安全状态识别系统
EP2680247B1 (en) * 2011-02-21 2018-12-26 Nissan Motor Co., Ltd Periodic stationary object detection device and periodic stationary object detection method
US9534902B2 (en) 2011-05-11 2017-01-03 The Boeing Company Time phased imagery for an artificial point of view
KR20130021986A (ko) * 2011-08-24 2013-03-06 현대모비스 주식회사 환경 적응형 보행자 인식 장치 및 방법
US8903127B2 (en) * 2011-09-16 2014-12-02 Harman International (China) Holdings Co., Ltd. Egomotion estimation system and method
US9393908B2 (en) 2011-11-01 2016-07-19 Aisin Seiki Kabushiki Kaisha Obstacle alarm device
WO2013065120A1 (ja) * 2011-11-01 2013-05-10 アイシン精機株式会社 障害物警報装置
DE102011117297A1 (de) 2011-11-01 2013-05-02 Volkswagen Aktiengesellschaft Verfahren zum Betreiben eines Fahrerassistenzsystems und dazugehöriges Fahrerassistenzsystem
KR101361663B1 (ko) * 2012-03-21 2014-02-12 주식회사 코아로직 차량용 영상 처리 장치 및 방법
JP6003226B2 (ja) * 2012-05-23 2016-10-05 株式会社デンソー 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム
JP5814187B2 (ja) * 2012-06-07 2015-11-17 日立建機株式会社 自走式産業機械の表示装置
CN103575292B (zh) * 2012-07-19 2016-07-06 国基电子(上海)有限公司 测量装置及测量方法
CN104380039B (zh) * 2012-07-31 2017-11-17 哈曼国际工业有限公司 使用单个相机检测障碍物的系统和方法
KR101896715B1 (ko) * 2012-10-31 2018-09-07 현대자동차주식회사 주변차량 위치 추적 장치 및 방법
CN103886573B (zh) * 2012-12-20 2018-10-12 联想(北京)有限公司 物体检测方法和物体检测装置
CN104118380B (zh) * 2013-04-26 2017-11-24 富泰华工业(深圳)有限公司 行车侦测系统及方法
KR101511992B1 (ko) * 2013-09-06 2015-04-14 현대모비스(주) 조향 휠 제어 방법 및 이를 위한 위한 시스템
CN104512329B (zh) * 2013-09-27 2017-04-05 比亚迪股份有限公司 倒车安全辅助方法、装置及汽车
CN103596014B (zh) * 2013-11-26 2016-12-07 天津大学 多视点分布式视频编码中视点间边信息的生成方法
US20150286878A1 (en) 2014-04-08 2015-10-08 Bendix Commercial Vehicle Systems Llc Generating an Image of the Surroundings of an Articulated Vehicle
JP6260462B2 (ja) * 2014-06-10 2018-01-17 株式会社デンソー 運転支援装置
DE102014108684B4 (de) 2014-06-20 2024-02-22 Knorr-Bremse Systeme für Nutzfahrzeuge GmbH Fahrzeug mit Umfeldüberwachungseinrichtung sowie Verfahren zum Betreiben einer solchen Überwachungseinrichtung
US9409519B2 (en) * 2014-08-27 2016-08-09 Toyota Jidosha Kabushiki Kaisha Generating spatial information for a heads-up display
US20160063332A1 (en) * 2014-08-27 2016-03-03 Toyota Jidosha Kabushiki Kaisha Communication of external sourced information to a driver
JP5949861B2 (ja) * 2014-09-05 2016-07-13 トヨタ自動車株式会社 車両の接近物体検出装置及び車両の接近物体検出方法
DE102014014662A1 (de) * 2014-09-19 2016-03-24 Mekra Lang North America, Llc Anzeigeeinrichtung für Fahrzeuge, insbesondere Nutzfahrzeuge
CN104200542A (zh) * 2014-09-24 2014-12-10 西安酷派软件科技有限公司 车辆预警方法、车辆预警装置、终端和行车记录仪
US9880253B2 (en) 2014-10-28 2018-01-30 Nissan North America, Inc. Vehicle object monitoring system
US9725040B2 (en) 2014-10-28 2017-08-08 Nissan North America, Inc. Vehicle object detection system
US9834141B2 (en) 2014-10-28 2017-12-05 Nissan North America, Inc. Vehicle object detection system
KR102227850B1 (ko) * 2014-10-29 2021-03-15 현대모비스 주식회사 차량용 후방 카메라의 영상 보정 방법
EP3048558A1 (en) 2015-01-21 2016-07-27 Application Solutions (Electronics and Vision) Ltd. Object detecting method and object detecting apparatus
JP6542539B2 (ja) * 2015-02-10 2019-07-10 クラリオン株式会社 車両用進入可否判定装置
US10776636B2 (en) 2015-12-29 2020-09-15 Faraday&Future Inc. Stereo camera-based detection of objects proximate to a vehicle
US10699136B2 (en) 2016-01-29 2020-06-30 Faraday & Future Inc. System and method for camera-based detection of object heights proximate to a vehicle
JP6595401B2 (ja) * 2016-04-26 2019-10-23 株式会社Soken 表示制御装置
US10796425B1 (en) * 2016-09-06 2020-10-06 Amazon Technologies, Inc. Imagery-based member deformation gauge
WO2018051746A1 (ja) * 2016-09-16 2018-03-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ作成方法及び三次元データ作成装置
JP2018110328A (ja) 2017-01-04 2018-07-12 株式会社デンソーテン 画像処理装置および画像処理方法
JP6852534B2 (ja) * 2017-04-12 2021-03-31 アイシン精機株式会社 障害物検知報知装置、方法及びプログラム
JP6985089B2 (ja) * 2017-09-29 2021-12-22 トヨタ自動車株式会社 立体物接地判定装置
DE102017221839A1 (de) 2017-12-04 2019-06-06 Robert Bosch Gmbh Verfahren zur Positionsbestimmung für ein Fahrzeug, Steuergerät und Fahrzeug
JP7298436B2 (ja) * 2019-10-14 2023-06-27 株式会社デンソー 障害物識別装置および障害物識別プログラム
KR20210112672A (ko) * 2020-03-05 2021-09-15 삼성전자주식회사 객체를 검출하기 위한 프로세서 및 객체 검출 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000177513A (ja) * 1998-12-16 2000-06-27 Toyota Autom Loom Works Ltd 車両における後退支援装置及び車両
JP2005311868A (ja) * 2004-04-23 2005-11-04 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置
JP2006268076A (ja) * 2005-03-22 2006-10-05 Sanyo Electric Co Ltd 運転支援システム
JP2007129560A (ja) * 2005-11-04 2007-05-24 Toyota Motor Corp 物体検出装置
JP2007235642A (ja) * 2006-03-02 2007-09-13 Hitachi Ltd 障害物検知システム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0399952A (ja) 1989-09-12 1991-04-25 Nissan Motor Co Ltd 車両用周囲状況モニタ
US5598164A (en) * 1992-08-10 1997-01-28 Reppas; George S. Vehicle obstacle avoidance system
KR100191302B1 (ko) * 1994-11-11 1999-06-15 하기와라 가즈토시 차량용 지도 표시장치
US6788802B2 (en) 1998-05-21 2004-09-07 Sanyo Electric Co., Ltd. Optical flow estimation method and image synthesis method
JP3463858B2 (ja) 1998-08-27 2003-11-05 矢崎総業株式会社 周辺監視装置及び方法
US7366595B1 (en) * 1999-06-25 2008-04-29 Seiko Epson Corporation Vehicle drive assist system
JP3494434B2 (ja) 1999-10-21 2004-02-09 松下電器産業株式会社 駐車支援装置
DE10013425A1 (de) * 2000-03-17 2001-09-27 Bosch Gmbh Robert Aufnahmevorrichtung und Verfahren zur Fahrzeugumfelderfassung mit wenigstens einer Kamera
JP3773433B2 (ja) * 2000-10-11 2006-05-10 シャープ株式会社 移動体の周囲監視装置
JP4156214B2 (ja) * 2001-06-13 2008-09-24 株式会社デンソー 車両周辺画像処理装置及び記録媒体
JP3885999B2 (ja) * 2001-12-28 2007-02-28 本田技研工業株式会社 物体検出装置
US7356408B2 (en) * 2003-10-17 2008-04-08 Fuji Jukogyo Kabushiki Kaisha Information display apparatus and information display method
JP2005268847A (ja) * 2004-03-16 2005-09-29 Olympus Corp 画像生成装置、画像生成方法、および画像生成プログラム
JP4681856B2 (ja) 2004-11-24 2011-05-11 アイシン精機株式会社 カメラの校正方法及びカメラの校正装置
JP4596978B2 (ja) 2005-03-09 2010-12-15 三洋電機株式会社 運転支援システム
JP2006341641A (ja) * 2005-06-07 2006-12-21 Nissan Motor Co Ltd 映像表示装置及び映像表示方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000177513A (ja) * 1998-12-16 2000-06-27 Toyota Autom Loom Works Ltd 車両における後退支援装置及び車両
JP2005311868A (ja) * 2004-04-23 2005-11-04 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置
JP2006268076A (ja) * 2005-03-22 2006-10-05 Sanyo Electric Co Ltd 運転支援システム
JP2007129560A (ja) * 2005-11-04 2007-05-24 Toyota Motor Corp 物体検出装置
JP2007235642A (ja) * 2006-03-02 2007-09-13 Hitachi Ltd 障害物検知システム

Cited By (104)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010073036A (ja) * 2008-09-19 2010-04-02 Mitsubishi Motors Corp 車両周辺監視装置
JP2010128795A (ja) * 2008-11-27 2010-06-10 Aisin Seiki Co Ltd 障害物検出装置
JP2010128939A (ja) * 2008-11-28 2010-06-10 Aisin Seiki Co Ltd 鳥瞰画像生成装置
JP2010193198A (ja) * 2009-02-18 2010-09-02 Aisin Seiki Co Ltd 物体下端位置検出装置及び物体下端位置検出プログラム
JP2010221994A (ja) * 2009-02-27 2010-10-07 Nissan Motor Co Ltd 車両用運転操作補助装置、車両用運転操作補助方法および自動車
JP2010221993A (ja) * 2009-02-27 2010-10-07 Nissan Motor Co Ltd 車両用運転操作補助装置、車両用運転操作補助方法および自動車
JP2010231400A (ja) * 2009-03-26 2010-10-14 Toshiba Corp 障害物危険度算出装置、方法及びプログラム
JP2010239190A (ja) * 2009-03-30 2010-10-21 Aisin Seiki Co Ltd 障害物検出装置
JP2011070593A (ja) * 2009-09-28 2011-04-07 Mitsubishi Motors Corp 車両周辺監視装置
JP2011134322A (ja) * 2009-12-23 2011-07-07 Intel Corp モデル・ベースの競技場位置合わせ
JP2011223265A (ja) * 2010-04-08 2011-11-04 Nikon Corp 画像評価装置
CN102288165A (zh) * 2010-06-21 2011-12-21 日产自动车株式会社 移动距离检测装置和移动距离检测方法
EP2400315A1 (en) 2010-06-21 2011-12-28 Nissan Motor Co., Ltd. Travel distance detection device and travel distance detection method
JP2012003662A (ja) * 2010-06-21 2012-01-05 Nissan Motor Co Ltd 移動距離検出装置及び移動距離検出方法
US8854456B2 (en) 2010-06-21 2014-10-07 Nissan Motor Co., Ltd. Travel distance detection device and travel distance detection method
US10397544B2 (en) 2010-08-19 2019-08-27 Nissan Motor Co., Ltd. Three-dimensional object detection device and three-dimensional object detection method
WO2012023412A1 (ja) 2010-08-19 2012-02-23 日産自動車株式会社 立体物検出装置及び立体物検出方法
JP2012168828A (ja) * 2011-02-16 2012-09-06 Nissan Motor Co Ltd 並走体検出装置及び並走体検出方法
JP2012174180A (ja) * 2011-02-24 2012-09-10 Alpine Electronics Inc 立体物検出装置および立体物検出方法
WO2012141219A1 (ja) 2011-04-13 2012-10-18 日産自動車株式会社 走行支援装置及びその隣接車両検出方法
US10142595B2 (en) 2011-04-13 2018-11-27 Nissan Motor Co., Ltd. Driving assistance device and method of detecting vehicle adjacent thereto
JP2012227639A (ja) * 2011-04-18 2012-11-15 Nissan Motor Co Ltd 走行支援装置及び走行支援方法
US9361687B2 (en) 2011-06-13 2016-06-07 Alpine Electronics, Inc. Apparatus and method for detecting posture of camera mounted on vehicle
JP2013001155A (ja) * 2011-06-13 2013-01-07 Alpine Electronics Inc 車載カメラ姿勢検出装置および方法
JPWO2013018537A1 (ja) * 2011-08-02 2015-03-05 日産自動車株式会社 走行支援装置および走行支援方法
US9092676B2 (en) 2011-08-02 2015-07-28 Nissan Motor Co., Ltd. Object detector and object detection method
WO2013018672A1 (ja) 2011-08-02 2013-02-07 日産自動車株式会社 移動体検出装置及び移動体検出方法
WO2013018673A1 (ja) 2011-08-02 2013-02-07 日産自動車株式会社 立体物検出装置及び立体物検出方法
WO2013018537A1 (ja) * 2011-08-02 2013-02-07 日産自動車株式会社 走行支援装置および走行支援方法
US9235767B2 (en) 2011-08-02 2016-01-12 Nissan Motor Co., Ltd. Detection region modification for driving assistance apparatus and driving assistance method
US9665781B2 (en) 2011-08-02 2017-05-30 Nissan Motor Co., Ltd. Moving body detection device and moving body detection method
JP2013050750A (ja) * 2011-08-30 2013-03-14 Nissan Motor Co Ltd 移動体検出装置及び移動体検出方法
US9349057B2 (en) 2011-09-12 2016-05-24 Nissan Motor Co., Ltd. Three-dimensional object detection device
WO2013038818A1 (ja) 2011-09-12 2013-03-21 日産自動車株式会社 立体物検出装置
JP5614504B2 (ja) * 2011-09-12 2014-10-29 日産自動車株式会社 立体物検出装置
US9740943B2 (en) 2011-12-19 2017-08-22 Nissan Motor Co., Ltd. Three-dimensional object detection device
WO2013094242A1 (ja) 2011-12-19 2013-06-27 日産自動車株式会社 立体物検出装置
WO2013125404A1 (ja) 2012-02-23 2013-08-29 日産自動車株式会社 立体物検出装置
US9783127B2 (en) 2012-02-23 2017-10-10 Nissan Motor Co., Ltd. Three-dimensional object detection device
WO2013125403A1 (ja) 2012-02-23 2013-08-29 日産自動車株式会社 立体物検出装置
US9558556B2 (en) 2012-02-23 2017-01-31 Nissan Motor Co., Ltd. Three-dimensional object detection device
WO2013129354A1 (ja) 2012-03-01 2013-09-06 日産自動車株式会社 立体物検出装置
US9830519B2 (en) 2012-03-01 2017-11-28 Nissan Motor Co., Ltd. Three-dimensional object detection device
US9832444B2 (en) 2012-03-01 2017-11-28 Nissan Motor Co., Ltd. Three-dimensional object detection device
WO2013129352A1 (ja) 2012-03-01 2013-09-06 日産自動車株式会社 立体物検出装置
WO2013129356A1 (ja) 2012-03-01 2013-09-06 日産自動車株式会社 立体物検出装置
US9135511B2 (en) 2012-03-01 2015-09-15 Nissan Motor Co., Ltd. Three-dimensional object detection device
US9754172B2 (en) 2012-03-02 2017-09-05 Nissan Motor Co., Ltd. Three-dimenisional object detection device
WO2013129358A1 (ja) 2012-03-02 2013-09-06 日産自動車株式会社 立体物検出装置
WO2013129361A1 (ja) 2012-03-02 2013-09-06 日産自動車株式会社 立体物検出装置
US9239960B2 (en) 2012-03-02 2016-01-19 Nissan Motor Co., Ltd. Three-dimensional object detection device
JP2013201958A (ja) * 2012-03-28 2013-10-07 National Agriculture & Food Research Organization 走行制御装置
WO2013157301A1 (ja) 2012-04-16 2013-10-24 日産自動車株式会社 立体物検出装置及び立体物検出方法
US9141870B2 (en) 2012-04-16 2015-09-22 Nissan Motor Co., Ltd. Three-dimensional object detection device and three-dimensional object detection method
US9558546B2 (en) 2012-07-27 2017-01-31 Nissan Motor Co., Ltd. Three-dimensional object detection device, and three-dimensional object detection method
US9726883B2 (en) 2012-07-27 2017-08-08 Nissan Motor Co., Ltd Three-dimensional object detection device and foreign matter detection device
WO2014017625A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置および立体物検出方法
US9189691B2 (en) 2012-07-27 2015-11-17 Nissan Motor Co., Ltd. Three-dimensional object detection device and three-dimensional object detection method
WO2014017624A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置および立体物検出方法
WO2014017434A1 (ja) 2012-07-27 2014-01-30 クラリオン株式会社 画像処理装置
US9251426B2 (en) 2012-07-27 2016-02-02 Nissan Motor Co., Ltd. Three-dimensional object detection device, three-dimensional object detection method
US9349059B2 (en) 2012-07-27 2016-05-24 Nissan Motor Co., Ltd. Three-dimensional object detection device
WO2014017600A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置および立体物検出方法
WO2014017317A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び異物検出装置
JPWO2014017625A1 (ja) * 2012-07-27 2016-07-11 日産自動車株式会社 立体物検出装置および立体物検出方法
JPWO2014017624A1 (ja) * 2012-07-27 2016-07-11 日産自動車株式会社 立体物検出装置および立体物検出方法
JPWO2014017518A1 (ja) * 2012-07-27 2016-07-11 日産自動車株式会社 立体物検出装置及び立体物検出方法
EP2879369A4 (en) * 2012-07-27 2016-09-07 Nissan Motor WATER DROPLETE DETECTION DEVICE, AND THREE DIMENSIONAL OBJECT DETECTION DEVICE USING SAID WATER DROPLETE DETECTION DEVICE
US10096124B2 (en) 2012-07-27 2018-10-09 Nissan Motor Co., Ltd. Water droplet detection device, and three-dimensional object detection device using water droplet detection device
WO2014017520A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び立体物検出方法
WO2014017601A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置および立体物検出方法
US9569675B2 (en) 2012-07-27 2017-02-14 Nissan Motor Co., Ltd. Three-dimensional object detection device, and three-dimensional object detection method
US9591274B2 (en) 2012-07-27 2017-03-07 Nissan Motor Co., Ltd. Three-dimensional object detection device, and three-dimensional object detection method
US9589193B2 (en) 2012-07-27 2017-03-07 Nissan Motor Co., Ltd Three-dimensional object detection device and three-dimensional object detection method
WO2014017302A1 (ja) 2012-07-27 2014-01-30 クラリオン株式会社 車載用周囲環境認識装置
US9862320B2 (en) 2012-07-27 2018-01-09 Nissan Motor Co., Ltd. Three-dimensional object detection device, and three-dimensional object detection method
WO2014017626A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 カメラ装置、立体物検出装置及びレンズ洗浄方法
WO2014017518A1 (ja) * 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び立体物検出方法
US9721460B2 (en) 2012-07-27 2017-08-01 Clarion Co., Ltd. In-vehicle surrounding environment recognition device
WO2014017519A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び立体物検出方法
WO2014017517A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び立体物検出方法
WO2014017521A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置
US9804386B2 (en) 2012-07-27 2017-10-31 Nissan Motor Co., Ltd. Camera device, three-dimensional object detection device, and lens cleaning method
WO2014017523A1 (ja) 2012-07-27 2014-01-30 日産自動車株式会社 水滴検出装置及び水滴検出装置を用いた立体物検出装置
JP2014038401A (ja) * 2012-08-13 2014-02-27 Honda Motor Co Ltd 車両周辺監視装置
JP2014089687A (ja) * 2012-10-30 2014-05-15 Hyundai Motor Company Co Ltd Avmシステムの障害物検出装置及び方法
KR101916467B1 (ko) * 2012-10-30 2018-11-07 현대자동차주식회사 Avm 시스템의 장애물 검출 장치 및 방법
US10417507B2 (en) 2014-10-13 2019-09-17 Conti Temic Microelectronic Gmbh Freespace detection apparatus and freespace detection method
JP2017531872A (ja) * 2014-10-13 2017-10-26 コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH 障害物検出装置及び障害物検出方法
KR101825687B1 (ko) * 2015-04-24 2018-02-05 한국전자통신연구원 차영상을 이용한 장애물 검출장치 및 그 방법
JP2016218850A (ja) * 2015-05-22 2016-12-22 日産自動車株式会社 路面標示検出装置及び路面標示検出方法
JP2017102824A (ja) * 2015-12-04 2017-06-08 クラリオン株式会社 追跡装置
WO2017094567A1 (ja) * 2015-12-04 2017-06-08 クラリオン株式会社 追跡装置
US10755421B2 (en) 2015-12-04 2020-08-25 Clarion Co., Ltd. Tracking device
JP2017107327A (ja) * 2015-12-08 2017-06-15 富士通株式会社 物体検出装置および物体検出方法
JP2017161423A (ja) * 2016-03-10 2017-09-14 株式会社デンソー 車載用情報提示装置、情報提示方法
KR20170124310A (ko) * 2016-05-02 2017-11-10 현대자동차주식회사 영상기반 장애물 인식 시스템 및 방법
KR102371588B1 (ko) 2016-05-02 2022-03-07 현대자동차주식회사 영상기반 장애물 인식 시스템 및 방법
JP2018097776A (ja) * 2016-12-16 2018-06-21 株式会社デンソーテン 障害物検出装置および障害物検出方法
JP2018097777A (ja) * 2016-12-16 2018-06-21 株式会社デンソーテン 障害物検出装置および障害物検出方法
KR102003387B1 (ko) * 2018-10-11 2019-07-24 한국과학기술원 조감도 이미지를 이용한 교통 장애물의 검출 및 거리 측정 방법, 교통 장애물을 검출하고 거리를 측정하는 프로그램을 저장한 컴퓨터 판독가능 기록매체
WO2022195925A1 (ja) * 2021-03-16 2022-09-22 株式会社J-QuAD DYNAMICS 運転状態判定装置、運転支援装置、運転状態判定方法、および運転状態判定プログラム
JP7418481B2 (ja) 2022-02-08 2024-01-19 本田技研工業株式会社 学習方法、学習装置、移動体制御装置、移動体制御方法、およびプログラム
WO2024048080A1 (ja) * 2022-08-29 2024-03-07 三菱重工業株式会社 情報処理装置、情報処理方法およびプログラム

Also Published As

Publication number Publication date
EP1964719A2 (en) 2008-09-03
CN101256073A (zh) 2008-09-03
US20080205706A1 (en) 2008-08-28

Similar Documents

Publication Publication Date Title
JP2008219063A (ja) 車両周辺監視装置及び方法
CN107272021B (zh) 使用雷达和视觉定义的图像检测区域的对象检测
JP5407898B2 (ja) 対象物検出装置及びプログラム
US10169667B2 (en) External environment recognizing device for vehicle and vehicle behavior control device
JP5867273B2 (ja) 接近物体検知装置、接近物体検知方法及び接近物体検知用コンピュータプログラム
JP6795027B2 (ja) 情報処理装置、物体認識装置、機器制御システム、移動体、画像処理方法およびプログラム
JP5297078B2 (ja) 車両の死角における移動物体を検知するための方法、および死角検知装置
JP6450294B2 (ja) 物体検出装置、物体検出方法、及びプログラム
JP6246014B2 (ja) 外界認識システム、車両、及びカメラの汚れ検出方法
JP2020064046A (ja) 車両位置決定方法及び車両位置決定装置
JP2010198552A (ja) 運転状況監視装置
KR101103526B1 (ko) 스테레오 카메라를 이용한 충돌회피 방법
EP3282389B1 (en) Image processing apparatus, image capturing apparatus, moving body apparatus control system, image processing method, and program
JP2016120892A (ja) 立体物検出装置、立体物検出方法および立体物検出プログラム
JP6129268B2 (ja) 車両用運転支援システムおよび運転支援方法
EP3545464A1 (en) Information processing device, imaging device, equipment control system, mobile object, information processing method, and computer-readable recording medium
JP2009237898A (ja) 画像認識装置
JP2008158640A (ja) 移動物体検出装置
Berriel et al. A particle filter-based lane marker tracking approach using a cubic spline model
JP2018073275A (ja) 画像認識装置
KR20180047149A (ko) 충돌 위험 경고 장치 및 방법
JP2009276906A (ja) 走行情報提供装置
JP2011103058A (ja) 誤認識防止装置
KR102003387B1 (ko) 조감도 이미지를 이용한 교통 장애물의 검출 및 거리 측정 방법, 교통 장애물을 검출하고 거리를 측정하는 프로그램을 저장한 컴퓨터 판독가능 기록매체
KR20150055345A (ko) 영상 분석을 이용한 차간 거리 추정 방법 및 그 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111003

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111209

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20120126