JP4934308B2 - 運転支援システム - Google Patents

運転支援システム Download PDF

Info

Publication number
JP4934308B2
JP4934308B2 JP2005301989A JP2005301989A JP4934308B2 JP 4934308 B2 JP4934308 B2 JP 4934308B2 JP 2005301989 A JP2005301989 A JP 2005301989A JP 2005301989 A JP2005301989 A JP 2005301989A JP 4934308 B2 JP4934308 B2 JP 4934308B2
Authority
JP
Japan
Prior art keywords
bird
eye view
view image
image
synthesized
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005301989A
Other languages
English (en)
Other versions
JP2007109166A (ja
Inventor
長輝 楊
仁志 本郷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2005301989A priority Critical patent/JP4934308B2/ja
Priority to CNA200610132158XA priority patent/CN1953553A/zh
Priority to US11/580,859 priority patent/US20070085901A1/en
Priority to EP06122404A priority patent/EP1775952A3/en
Publication of JP2007109166A publication Critical patent/JP2007109166A/ja
Application granted granted Critical
Publication of JP4934308B2 publication Critical patent/JP4934308B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • G06T3/4038Scaling the whole image or part thereof for image mosaicing, i.e. plane images composed of plane sub-images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint

Description

この発明は、運転支援システムに関する。
自動車などの運転者にとって、バックするときには、死角が生じるため後方確認が難しくなる。そこで、運転者の死角となりやすい車両の後方を監視する車載カメラを装備し、その撮像画像をカーナビゲーション等の画面に表示するシステムが既に開発されている。
しかしながら、広範囲を映し出すために広角レンズを用いると映像にレンズ歪みが生じる。さらに、カメラから離れるほど通常のレンズより小さく映り、撮像画像からでは車両後方の距離やスペースを把握しにくくなる。
そこで、カメラの映像を単に表示するのではなく、画像処理技術を利用して、より人間に優しい映像を見せる研究がなされている。その1つに、撮影した画像を座標変換して、地面の上方から眺めたような鳥瞰図画像を生成して、表示するものがある。上方からの鳥瞰図を表示することによって、運転者は車両後方の距離やスペースを把握し易くなる。
また、駐車のための運転支援装置として、複数のカメラから得た映像を幾何変換によって全周鳥瞰図画像に変換して、モニタに表示させる装置が開発されている(特開平11−78692号公報参照)。この装置では、車両全周のシーンを上空から見た映像として運転者に提示することができるため、車両の周辺を360度死角なくカバーできるという長所がある。
しかしながら、鳥瞰図画像では、図1に示すように、高さのある物体200は、カメラ1と物体200とを結んだ延長線上へ像が変形するように地面上に投影される。図2に示すように、車両100の前後左右それぞれにカメラ1F、1B、1L、1Rを取り付けた場合において、車両の左後端から左斜め後方に高さのある物体200が存在すると、左側カメラ1Lによる物体投影像は200Lとなり、後方カメラ1Bによる物体投影像は200Bとなる。
両物体投影像200L、200Bは、左側カメラ1Lの撮像画像から得られた鳥瞰図画像と後方カメラ1Bの撮像画像から得られた鳥瞰図画像とが重なり合う重なり部に存在するものとする。そして、この重なり部を図3に示すように、車両の左後端から左斜め後方に延びる境界線Dによって左側カメラ領域SLと後方カメラ領域SBとに分けると、左側カメラ領域SLに後方カメラ1Bによる物体投影像200Bが存在し、後方カメラ領域SBに左側カメラ1Lによる物体投影像200Lが存在する。
この重なり部を合成する際に、左側カメラ領域SLに対しては左側カメラ1Lの撮像画像から得られた鳥瞰図画像のみを採用し、後方カメラ領域SBに対しては後方カメラ1Bの撮像画像から得られた鳥瞰図画像のみを採用するようにすると、合成後に得られる全周鳥瞰図画像において両物体投影像200L、200Bが消失してしまうという問題がある。
そこで、この問題を解決するために、上記重なり部を合成する際に、両鳥瞰図画像を平均化することが考えられる。しかしながら、このようにすると、合成後に得られる全周鳥瞰図画像において両物体投影像200L、200Bが存在するため物体200が2重像として現われてしまう。また、両物体投影像200L、200Bは背景画像と平均化されるため、物体200と背景の色によっては物体投影像200L、200Bが非常に見にくくなる。
また、後方カメラ1Bから得られた鳥瞰図画像とサイドカメラ1L、1Rから得られた鳥瞰図画像とを合成する際に、それらの重なり部においてはサイドカメラ1L、1Rから得られた鳥瞰図画像のみを採用してサイドカメラ優先の合成鳥瞰図画像を生成するとともに、それらの重なり部においては後方カメラ1Bから得られた鳥瞰図画像のみを採用して後方カメラ優先の合成鳥瞰図画像を生成し、これら2種類の合成鳥瞰図画像を左右に並べて表示する方法が開発されている(特許第3372944号公報参照)。
しかしながら、この方法では、運転者は2つの鳥瞰図画像を見比べて車両周辺の状況を把握しなければならず、逆に運転者の負担が増え安全性を損なうことにもなりかねない。
特開平11−78692号公報 特許第3372944号公報
この発明は、高さのある物体が合成鳥瞰図画像上において消失してしまうという問題を解消でき、しかもその物体を認識しやすくすることができる運転支援システムを提供することを目的とする。
請求項1に記載の発明は、車両に搭載されかつ車両周辺を撮像する複数の撮像装置によって撮像された画像それぞれを鳥瞰図画像に変換し、得られた各鳥瞰図画像を合成して合成鳥瞰図画像を生成し、生成された合成鳥瞰図画像を表示器に表示させる運転支援システムにおいて、2つの鳥瞰図画像が重なり合う各重なり部を合成する際には、重なり部に対して2つの領域が交互に配置されるような境界線を設定し、重なり部のうち境界線により分けられた一方の領域においては一方の鳥瞰図画像を採用し、境界線により分けられた他方の領域においては他方の鳥瞰図画像を採用することにより、重なり部を合成する手段を備えていることを特徴とする。
請求項2に記載の発明は、車両に搭載されかつ車両周辺を撮像する複数の撮像装置によって撮像された画像それぞれを鳥瞰図画像に変換し、得られた各鳥瞰図画像を合成して合成鳥瞰図画像を生成し、生成された合成鳥瞰図画像を表示器に表示させる運転支援システムにおいて、2つの鳥瞰図画像が重なり合う各重なり部を合成する際には、重なり部に対して櫛歯状の境界線を設定し、重なり部のうち櫛歯状の境界線により分けられた一方の領域においては一方の鳥瞰図画像を採用し、櫛歯状の境界線により分けられた他方の領域においては他方の鳥瞰図画像を採用することにより、重なり部を合成する手段を備えていることを特徴とする。
請求項3に記載の発明は、車両に搭載されかつ車両周辺を撮像する複数の撮像装置によって撮像された画像それぞれを鳥瞰図画像に変換し、得られた各鳥瞰図画像を合成して合成鳥瞰図画像を生成し、生成された合成鳥瞰図画像を表示器に表示させる運転支援システムにおいて、各鳥瞰図画像を合成する際に、2つの鳥瞰図画像が重なり合う各重なり部においては、予め設定された一方の鳥瞰図画像のみを採用することにより得られる第1の合成鳥瞰図画像を生成するための第1の合成鳥瞰図画像生成手段、各鳥瞰図画像を合成する際に、2つの鳥瞰図画像が重なり合う各重なり部においては、予め設定された他方の鳥瞰図画像のみを採用することにより得られる第2の合成鳥瞰図画像を生成するための第2の合成鳥瞰図画像生成手段、ならびに第1の合成鳥瞰図画像生成手段と第2の合成鳥瞰図画像生成手段とを交互に切り換えることにより、第1の合成鳥瞰図画像と第2の合成鳥瞰図画像とを交互に切り換えて表示器に表示させる制御手段を備えていることを特徴とする。
この発明の請求項4に記載の発明は、車両に搭載されかつ車両周辺を撮像する複数の撮像装置によって撮像された画像それぞれを鳥瞰図画像に変換し、得られた各鳥瞰図画像を合成して合成鳥瞰図画像を生成し、生成された合成鳥瞰図画像を表示器に表示させる運転支援システムにおいて、各鳥瞰図画像を合成する際に、2つの鳥瞰図画像が重なり合う各重なり部においては、予め設定された一方の鳥瞰図画像のみを採用することにより得られる第1の合成鳥瞰図画像を生成するための第1の合成鳥瞰図画像生成手段、各鳥瞰図画像を合成する際に、2つの鳥瞰図画像が重なり合う各重なり部においては、予め設定された他方の鳥瞰図画像のみを採用することにより得られる第2の合成鳥瞰図画像を生成するための第2の合成鳥瞰図画像生成手段、2つの鳥瞰図画像が重なり合う各重なり部において、2つの鳥瞰図画像を比較することにより、高さのある物体が存在するか否かを判別する判別手段、判別手段によって少なくとも1つの重なり部において高さのある物体が存在すると判別されている場合には、第1の合成鳥瞰図画像生成手段と第2の合成鳥瞰図画像生成手段とを交互に切り換えることにより、第1の合成鳥瞰図画像と第2の合成鳥瞰図画像とを交互に切り換えて表示器に表示させる第1制御手段、ならびに判別手段によっていずれの重なり部においても、高さのある物体が存在しないと判別されている場合には、第1の合成鳥瞰図画像生成手段および第2の合成鳥瞰図画像生成手段のうち予め設定された一方の合成鳥瞰図画像生成手段により合成鳥瞰図画像を生成させて、表示器に表示させる第2制御手段を備えていることを特徴とする。
請求項に記載の発明は、車両に搭載されかつ車両周辺を撮像する複数の撮像装置によって撮像された画像それぞれを鳥瞰図画像に変換し、得られた各鳥瞰図画像を合成して合成鳥瞰図画像を生成し、生成された合成鳥瞰図画像を表示器に表示させる運転支援システムにおいて、2つの鳥瞰図画像が重なり合う各重なり部において、2つの鳥瞰図画像のうち高さのある物体がより大きく現れている方の鳥瞰図画像を優先鳥瞰図画像として決定する優先鳥瞰図画像決定手段、各鳥瞰図画像を合成する際に、2つの鳥瞰図画像が重なり合う各重なり部においては、優先鳥瞰図画像決定手段によって決定された優先鳥瞰図画像のみを採用することにより、合成鳥瞰図画像を生成する合成鳥瞰図画像生成手段、ならびに 合成鳥瞰図画像生成手段によって生成された合成鳥瞰図画像を表示器に表示させる手段 を備えていることを特徴とする。
請求項に記載の発明は、請求項に記載の発明において、優先鳥瞰図画像決定手段は、2つの鳥瞰図画像が重なり合う重なり部において、一方の鳥瞰図画像と他方の鳥瞰図画像との差分をとり、差分量が所定量より大きな領域を差分領域として決定する手段、および上記2つの鳥瞰図画像の差分領域内でのエッジ強度の積算値を算出し、エッジ強度の積算値が大きい方の鳥瞰図画像を優先鳥瞰図画像として決定する手段を備えていることを特徴とする。
請求項7に記載の発明は、請求項1のいずれか一項に記載の発明において、2つの鳥瞰図画像が重なり合う各重なり部において、2つの鳥瞰図画像を比較することにより、高さのある物体が存在するか否かを判別する判別手段、および 判別手段によって少なくとも1つの重なり部において高さのある物体が存在すると判別されている場合には、合成鳥瞰図画像において上記高さのある物体像を明示するためのマークを表示させる手段を備えていることを特徴とする。
請求項8に記載の発明は、請求項1のいずれか一項に記載の発明において、2つの鳥瞰図画像が重なり合う各重なり部において、2つの鳥瞰図画像を比較することにより、高さのある物体が存在するか否かを判別する判別手段、および 判別手段によって少なくとも1つの重なり部において高さのある物体が存在すると判別されている場合には、警告音を発生する手段を備えていることを特徴とする。
この発明によれば、高さのある物体が合成鳥瞰図画像上において消失してしまうという問題を解消でき、しかもその物体を認識しやすくすることができるようになる。
以下、図面を参照して、この発明の実施例について説明する。
〔1〕鳥瞰図画像の生成方法についての説明
まず、1台のカメラによって撮像された撮像画像から鳥瞰図画像を生成する方法について説明する。
図4に示すように、車両100の後部に後方斜め下向きにカメラ1が配置されているものとする。水平面とカメラ1の光軸とのなす角は、図4にαで表される角度と、βで表される角度との2種類がある。αは、一般的には、見下ろし角または俯角αと呼ばれている。この明細書では、角度βを水平面に対するカメラ1の傾き角度θということにする。
図5は、カメラ座標系XYZと、カメラ1の撮像面Sの座標系Xbubuと、2次元地面座標系Xw w を含む世界座標系Xw w w との関係を示している。
カメラ座標系XYZでは、カメラの光学中心を原点Oとして、光軸方向にZ軸が、Z軸に直交しかつ地面に平行な方向にX軸が、Z軸およびX軸に直交する方向にY軸がとられている。撮像面Sの座標系Xbubuでは、撮像面Sの中心に原点をとり、撮像面Sの横方向にXbu軸が、撮像面Sの縦方向にYbuが取られている。
世界座標系Xw w w では、カメラ座標系XYZの原点Oを通る垂線と地面との交点を原点Ow とし、地面と垂直な方向にYw 軸が、カメラ座標系XYZのX軸と平行な方向にXw 軸が、Xw 軸およびYw 軸に直交する方向にZw 軸がとられている。
世界座標系Xw w w とカメラ座標系XYZとの間の平行移動量は〔0,h,0〕であり、X軸周りの回転量はθである。
したがって、カメラ座標系XYZの座標(x,y,z)と世界座標系Xw w w の座標(xw ,yw ,zw )との間の変換式は、次式(1)で表される。
Figure 0004934308
また、撮像面Sの座標系Xbubuの座標(xbu,ybu)と、カメラ座標系XYZの座標(x,y,z)との間の変換式は、カメラ1の焦点距離をfとすると、次式(2)で表される。
Figure 0004934308
上記式(1)、(2)から、撮像面Sの座標系Xbubuの座標(xbu,ybu)と二次元地面座標系Xw w の座標(xw ,zw )との間の変換式(3)が得られる。
Figure 0004934308
また、二次元地面座標系Xw w から仮想カメラの鳥瞰図座標系Xauauへの投影は、平行投影によって行われる。カメラ1の焦点距離をfとし、仮想カメラの高さ位置をHとすると、二次元地面座標系Xw w の座標(xw ,zw )と鳥瞰図座標系Xauauの座標(xau,yau)との間の変換式は、次式(4)で表される。仮想カメラの高さ位置Hは予め設定されている。
Figure 0004934308
上記式(4)から、次式(5)が得られる。
Figure 0004934308
得られた式(5)を上記式(3)に代入すると、次式(6)が得られる。
Figure 0004934308
上記式(6)から、入力画像Iの座標(xbu,ybu)を、鳥瞰図座標系Xauauの座標(xau,yau)に変換するための式(7)が得られる。
Figure 0004934308
上記式(7)を用いて、入力画像Iを鳥瞰図画像に変換する。
〔2〕全周鳥瞰図画像の生成方法の基本的な考え方についての説明
図6、図7は、車両に設けられたカメラを示している。
車両の前部、後部、左側部および右側部それぞれに、カメラ(撮像装置)1F、1B、1L、1Rが設けられている。カメラ1Fは前方斜め下向きに配置され、カメラ1Bは後方斜め下向きに配置され、カメラ1Lは左方向斜め下向きに配置され、カメラ1Fは右方向斜め下向きに配置されている。
図8に示すように、各カメラ1F、1B、1L、1Rで撮像された画像から鳥瞰図画像10F、10B、10L、10Rを生成する。次に、図9に示すように、各カメラ1F、1B、1L、1R毎に生成された鳥瞰図画像10F、10B、10L、10Rを、後方カメラ1Bに対する鳥瞰図画像10Bを基準として、他の3つの鳥瞰図画像10F、10L、10Rを回転と平行移動により、後方カメラ1Bの鳥瞰図画像座標に変換する。この場合、図9に示すように、2つの鳥瞰図画像が重なる部分が生ずる。この重なり部において、両鳥瞰図画像をどのように合成するかが本実施例1の特徴である。
鳥瞰図画像10Fと鳥瞰図画像10Lとの重なり部20FLにおいて、左上頂点と右下頂点とを結ぶ線を一般的境界線DFLとする。鳥瞰図画像10Fと鳥瞰図画像10Rとの重なり部20FRにおいて、右上頂点と左下頂点とを結ぶ線を一般的境界線DFRとする。鳥瞰図画像10Bと鳥瞰図画像10Lとの重なり部20BLにおいて、右上頂点と左下頂点とを結ぶ線を一般的境界線DBLとする。鳥瞰図画像10Bと鳥瞰図画像10Rとの重なり部20BRにおいて、左上頂点と右下頂点とを結ぶ線を一般的境界線DBRとする。なお、実際には、重なり部は矩形とはならないので、通常は、重なり部を2分するような適当な境界線が一般的境界線とされている。
従来においては、2つの鳥瞰図画像が重なる重なり部においては、一般的境界線によって分けられた一方の領域においては一方の鳥瞰図画像を採用し、他方の領域においては他方の鳥瞰図画像を採用している。具体的には、例えば、鳥瞰図画像10Bと鳥瞰図画像10Lとの重なり部20BLにおいては、一般的境界線DBLの上側の領域においては鳥瞰図画像10Lを採用し、一般的境界線DBLの下側の領域においては鳥瞰図画像10Bを採用している。このため、高さのある物体が合成鳥瞰図画像上において消失してしまうという問題があった。
本実施例1では、各重なり部において、一般的境界線によって分けられた2つの領域それぞれにおいて、2つの異なる領域がスリット状に交互に現れるような櫛歯状の境界線を設ける。そして、櫛歯状の境界線によって分けられた一方の領域においては一方の鳥瞰図画像を採用し、他方の領域においては他方の鳥瞰図画像を採用している。
例えば図10に示すように、鳥瞰図画像10Bと鳥瞰図画像10Lとの重なり部20BLにおいて、櫛歯が一般的境界線DBLの方向に並んでおりかつ櫛歯がモニタ画面の垂直方向に平行となるような櫛歯状の境界線D’BLを用いる。そして、当該重なり部20BL内の櫛歯状の境界線D’BLの上側の領域SLにおいては鳥瞰図画像10Lを採用し、櫛歯状の境界線D’BLの下側の領域SBにおいては鳥瞰図画像10Bを採用する。
このような合成方法を用いると、例えば、図2に示すように、車両の左後端から左斜め後方に高さのある物体200が存在した場合、その物体200は合成後の全周鳥瞰図画像上では図11に示すように現れる。図11において、D’BLは櫛歯状の境界線を示し、200Lは左側カメラ1Lの撮像画像から得られた物体200の鳥瞰図画像を示し、200Bは後方カメラ1Bの撮像画像から得られた物体200の鳥瞰図画像を示している。図11から分かるように、高さのある物体200の投影像は消失せず、しかも物体像は背景と平均化されていないため、物体200を明確に認識することできる。また、左側カメラ1Lの撮像画像から得られた物体像と後方カメラ1Bの撮像画像から得られた物体像とが交互に現れるため、これら2つの物体像が1つの物体像として認識されやすくなる。
なお、櫛歯状の境界線としては、図12に示すように、櫛歯が一般的境界線の方向に並んでおりかつ櫛歯がモニタ画面の水平方向に平行となるような櫛歯状の境界線を用いてもよい。また、一般的境界線に対して櫛歯が直交するような櫛歯状の境界線を用いてもよい。さらに、一般的境界線に対して櫛歯が平行となるような櫛歯状の境界線を用いてもよい。
なお、櫛歯状の境界線における櫛歯の長さと間隔は、モニタの解像度や、二重像が映りにくくなるように調整することが好ましい。
〔3〕全周鳥瞰図画像の生成方法の具体的に手法についての説明
ところで、上記式(7)から、入力画像I(カメラの撮像画像に対してレンズ歪み補正が行なわれた画像)の各画素の座標に対応する鳥瞰図画像上の座標を予め求めることができる。
また、各カメラ1F、1B、1L、1Rに対応する鳥瞰図画像上の座標の、全周鳥瞰図画像上の座標への変換は、所定の回転と所定の平行移動とによって行なわれる。つまり、各カメラの撮像画像の歪み補正後の入力画像Iを鳥瞰図画像に変換し、得られた鳥瞰図画像を全周鳥瞰図画像に変換するための変換パラメータは全て固定値となる。そこで、各カメラ1F、1B、1L、1Rから得られた入力画像I((レンズ歪み補正によって得られた画像)の各画素の座標に対応する全周鳥瞰図画像上の座標を予め求めることができる。
また、全周鳥瞰図画像において、2つの鳥瞰図画像が重なる領域および各重なり部において上述した櫛歯状の境界線によって分けられる領域も予め分かっているので、全周鳥瞰図画像上の各重なり部内の各座標において、2つの鳥瞰図画像のうち、いずれを採用するかも予め求めることができる。
そこで、この実施例では、全周鳥瞰図画像上の各座標毎に、各カメラ1F、1B、1L、1Rから得られた入力画像I(レンズ歪み補正によって得られた画像)における各画素の画像のうち、どの画素の画像を割り当てるかを示す座標逆変換テーブルが予め用意されている。座標逆変換テーブルには、全周鳥瞰図画像上の各座標毎に、その座標に嵌め込むべき画像を指定するためのデータが記憶されている。全周鳥瞰図画像上の各座標に割り当てるべき画像を指定するためのデータは、カメラを指定するためのデータと、そのカメラから得られた入力画像I(レンズ歪み補正によって得られた画像)の画素位置を指定するためのデータ(座標データ)とから構成される。入力画像Iとして、レンズ歪みを考慮することで、各カメラ1F、1B、1L、1Rによって撮像された画像をそのまま用いてもよい。
〔4〕運転支援システム構成の説明
図13は、自動車に設けられた運転支援システムの電気的構成を示している。
運転支援システムは、4台のカメラ1L、1R、1F、1Bと、カメラ1L、1R、1F、1Bによって撮像された画像から全周鳥瞰図画像を生成するための画像処理ユニット2と、画像処理ユニット2によって生成された全周鳥瞰図画像を表示するモニタ(表示器)3とを備えている。画像処理ユニット2は、上述した座標逆変換テーブルを記憶したメモリを備えている。
カメラ1L、1R、1F、1Bとしては、例えばCCDカメラが用いられる。画像処理ユニット2は、例えば、マイクロコンピュータから構成されている。モニタ3としては、例えば、ナビゲーションシステムのモニタが用いられる。
画像処理ユニット2は、カメラ1L、1R、1F、1Bによって撮像された画像と座標逆変換テーブルとを用いて、全周鳥瞰図画像を生成する。画像処理ユニット2によって生成された全周鳥瞰図画像は、モニタ3に表示される。
図14は、画像処理ユニット2による処理手順を示している。
まず、各カメラ1F、1B、1L、1Rの撮像画像を読み込む(ステップS1)。次に読み込んだ各撮像画像に対してレンズ歪み補正を行う(ステップS2)。以下、レンズ歪み補正によって得られた画像を入力画像Iと呼ぶことにする。
次に、各カメラ1F、1B、1L、1Rの撮像画像から得られた入力画像Iと、座標逆変換テーブルとを用いて、全周鳥瞰図画像を生成する(ステップS3)。得られた全周鳥瞰図画像をモニタ3に表示させる(ステップS4)。そして、ステップS1に戻る。
実施例2においても、運転支援システムの電気的構成は実施例1と同じである。実施例2と実施例1とでは、画像処理ユニット2の処理内容が異なっている。
実施例2では、サイドカメラ優先の全周鳥瞰図画像と、前後カメラ優先の全周鳥瞰図画像とが交互にモニタに表示される。サイドカメラ優先の全周鳥瞰図画像とは、図9に示す全周鳥瞰図座標系において、2つの鳥瞰図画像が重なり合う各重なり部では、左右カメラの撮像画像から得られた鳥瞰図画像のみを採用することにより得られた全周鳥瞰図画像をいう。具体的には、図9の重なり部20FLおよび20BLにおいては左側カメラ1Lから得られた鳥瞰図画像10Lのみを採用し、図9の重なり部20FRおよび20BRにおいては右側カメラ1Rから得られた鳥瞰図画像10Rのみを採用することにより得られた全周鳥瞰図画像をいう。
前後カメラ優先の全周鳥瞰図画像とは、図9に示す全周鳥瞰図座標系において、2つの鳥瞰図画像が重なり合う各重なり部では、前後カメラの撮像画像によって得られた鳥瞰図画像のみを採用することにより得られた全周鳥瞰図画像をいう。具体的には、図9の重なり部20FLおよび20FRにおいては前方カメラ1Fから得られた鳥瞰図画像10Fのみを採用し、図9の重なり部20BLおよび20BRにおいては後方カメラ1Bから得られた鳥瞰図画像10Bのみを採用することにより得られた全周鳥瞰図画像をいう。
画像処理ユニット2は、座標逆変換テーブルとして、サイドカメラ優先の全周鳥瞰図画像を生成するための第1の座標逆変換テーブルと、前後カメラ優先の全周鳥瞰図画像を生成するための第2の座標逆変換テーブルとを備えている。
図15は、画像処理ユニット2による処理手順を示している。
まず、フラグFをリセット(F=0)する(ステップS11)。各カメラ1F、1B、1L、1Rの撮像画像を読み込む(ステップS12)。次に読み込んだ各撮像画像に対してレンズ歪み補正を行う(ステップS13)。以下、レンズ歪み補正によって得られた画像を入力画像Iと呼ぶことにする。
次に、フラグFがセットされているか否かを判別する(ステップS14)。フラグFがリセットされている場合(F=0)には、フラグFをセット(F=1)した後(ステップ15)、入力画像Iと第1の座標逆変換テーブルとを用いて、サイドカメラ優先の全周鳥瞰図画像を生成する(ステップS16)。得られたサイドカメラ優先の全周鳥瞰図画像をモニタ3に表示させる(ステップS17)。そして、ステップS12に戻る。
上記ステップS14において、フラグFがセットされている場合(F=1)には、フラグFをリセット(F=0)した後(ステップ18)、入力画像Iと第2の座標逆変換テーブルとを用いて、前後カメラ優先の全周鳥瞰図画像を生成する(ステップS19)。得られた前後カメラ優先の全周鳥瞰図画像をモニタ3に表示させる(ステップS20)。そして、ステップS12に戻る。
上記実施例2では、サイドカメラ優先の全周鳥瞰図画像と、前後カメラ優先の全周鳥瞰図画像とが交互にモニタに表示されるので、例えば、図2に示すように、車両の左後端から左斜め後方に高さのある物体200が存在した場合に、この高さのある物体200の投影像は消失せずに表示される。また、この高さのある物体200の投影像は、サイドカメラ優先の合成鳥瞰図画像と前後カメラ優先の合成鳥瞰図画像とではその向きが異なるため、それらの画像が切り換わるタイミングで物体200の投影像が動いているように見える。このため、運転者は、その物体200を認識しやすくなる。
図15では、撮像画像の取込み間隔が比較的長い場合を想定しているが、撮像画像の取込み間隔が例えば1フレーム毎のように短い場合には、数フレーム毎に(例えば、15フレーム毎に)、サイドカメラ優先の全周鳥瞰図画像と前後カメラ優先の全周鳥瞰図画像とを切り替えて表示するようにしてもよい。
座標逆変換テーブルとして、サイドカメラ優先の全周鳥瞰図画像を生成するための第1の座標逆変換テーブルと、前後カメラ優先の全周鳥瞰図画像を生成するための第2の座標逆変換テーブルとを設けているが、これらの2つの座標逆変換テーブルの代わりに1つの座標逆変換テーブルを用いることも可能である。この場合には、例えば、左側カメラ1Lから得られた鳥瞰図画像10Lと後方カメラ1Bから得られた鳥瞰図画像10Bとの重なり部内の各座標に対して、両方の鳥瞰図画像10L、10Bの対応する画素位置を示すデータ(カメラを指定するデータおよび座標データ)を記憶しておき、サイドカメラ優先の全周鳥瞰図画像を生成する際には鳥瞰図画像10Lの対応する画素位置を示すデータを採用し、前後カメラ優先の全周鳥瞰図画像を生成する際には鳥瞰図画像10Bの対応する画素位置を示すデータを採用するようにすればよい。
ところで、図2に示すように、車両の前後左右それぞれにカメラ1F、1B、1L、1Rを取り付けた場合において、車両の左後端から左斜め後方に高さのある物体200が存在すると、左側カメラ1Lによる物体投影像は200Lとなり、後方カメラ1Bによる物体投影像は200Bとなる。
このため、図9に示す全周鳥瞰図画像座標系において、両物体投影像200L、200Bが、左側カメラ1Lの撮像画像から得られた鳥瞰図画像と後方カメラ1Bの撮像画像から得られた鳥瞰図画像との重なり部に存在した場合、それらの投影像200L、200Bは異なる位置に現れる。したがって、この重なり部で両鳥瞰図画像の差分を取ると、両物体投影像200L、200Bが差分値として検出される。
2つの鳥瞰図画像が重なり合う重なり部において、それぞれの鳥瞰図画像を濃淡画像に変換した後、両濃淡画像の差分をとると、高さのある物体(障害物)が存在する場合には、差分値の絶対値が所定の閾値以上である差分領域が抽出される。したがって、各重なり部毎に差分領域が抽出されるか否かによって、各重なり部に高さのある障害物が存在するか否かを判定することができる。
そこで、図9に示す全周鳥瞰図画像座標系において鳥瞰図画像が重なり合う各重なり部毎に高さのある物体(障害物)が存在するか否かを判別し、少なくとも1つの重なり部に障害物が存在する場合には、サイドカメラ優先の全周鳥瞰図画像と前後カメラ優先の全周鳥瞰図画像とを交互に生成して交互に表示させるようにし、いずれの重なり部にも障害物が存在しない場合には、サイドカメラ優先の全周鳥瞰図画像および前後カメラ優先の全周鳥瞰図画像とのうち予め定めた一方の全周鳥瞰図画像を生成して表示させるようにしてもよい。
なお、少なくとも1つの重なり部に障害物が存在する場合には、障害物が存在する重なり部のみについて、サイドカメラ優先の鳥瞰図画像と前後カメラ優先の鳥瞰図画像とを交互に生成して交互に表示させ、その他の重なり部については同じ種類の鳥瞰図画像を生成して表示させるようにしてもよい。
上記実施例2では、サイドカメラ優先の全周鳥瞰図画像と、前後カメラ優先の全周鳥瞰図画像とを交互にモニタに表示させているが、サイドカメラ優先の全周鳥瞰図画像と前後カメラ優先の全周鳥瞰図画像とを車両の移動状態に応じて、切り換えるようにしてもよい。
例えば、図2に示すように、車両の左後端から左斜め後方に高さのある物体200が存在した場合において、車両が後方に直進すると、この物体200は後方カメラ1Bの撮像領域から外れてしまう。そこで、このような場合には、サイドカメラ優先の全周鳥瞰図画像を生成して表示させる。一方、図2に示すように、車両の左後端から左斜め後方に高さのある物体200が存在した場合において、左斜め後方に車両が曲がりながら後退した場合には、この物体200は左側カメラ1Lの撮像領域から外れてしまう。そこで、このような場合には、前後カメラ優先の全周鳥瞰図画像を生成して表示させる。
実施例3においても、運転支援システムの電気的構成は実施例1と同様である。なお、車両の移動状態は、例えば、車両ギヤセンサ、ハンドルの操作方向、車速パルス等に基づいて判別される。
画像処理ユニット2は、座標逆変換テーブルとして、サイドカメラ優先の全周鳥瞰図画像を生成するための第1の座標逆変換テーブルと、前後カメラ優先の全周鳥瞰図画像を生成するための第2の座標逆変換テーブルとを備えている。
図16は、画像処理ユニット2による処理手順を示している。
まず、各カメラ1F、1B、1L、1Rの撮像画像を読み込む(ステップS31)。次に読み込んだ各撮像画像に対してレンズ歪み補正を行う(ステップS32)。以下、レンズ歪み補正によって得られた画像を入力画像Iと呼ぶことにする。
次に、車両の移動状態を判別する(ステップS33)。具体的には、車両が前方または後方に直進している第1移動状態であるか、車両が斜め前方に曲がりながら前進しているかまたは車両が斜め後方に曲がりながら後退している第2移動状態であるかを判別する。
車両の移動状態が第1移動状態であると判別した場合には、入力画像Iと第1の座標逆変換テーブルとを用いて、サイドカメラ優先の全周鳥瞰図画像を生成する(ステップS34)。得られたサイドカメラ優先の全周鳥瞰図画像をモニタ3に表示させる(ステップS35)。そして、ステップS31に戻る。
上記ステップS33において、車両の移動状態が第2移動状態であると判別した場合には、入力画像Iと第2の座標逆変換テーブルとを用いて、前後カメラ優先の全周鳥瞰図画像を生成する(ステップS36)。得られた前後カメラ優先の全周鳥瞰図画像をモニタ3に表示させる(ステップS37)。そして、ステップS31に戻る。
実施例3においても、実施例2で説明したように、第1の座標逆変換テーブルと第2の座標逆変換テーブルとの2つの座標逆変換テーブルの代わりに、1つの座標逆変換テーブルを用いることも可能である。
実施例4では、図9に示す全周鳥瞰図座標系において2つの鳥瞰図画像が重なり合う各重なり部毎に、いずれの鳥瞰図画像に障害物(高さのある物体)がより大きく現れているかを判別し、その重なり部を合成する際には、障害物がより大きく現れている方の鳥瞰図画像のみを採用するようにしている。
実施例4においても、運転支援システムの電気的構成は実施例1と同様である。画像処理ユニット2は、座標逆変換テーブルを備えている。座標逆変換テーブルとしては、1つの逆変換テーブルが用意されている。ただし、2つの鳥瞰図画像が重なり合う重なり部内の各座標に対しては、その2つの鳥瞰図画像の対応する画素位置を示す2種類のデータが記憶されている。
例えば、左側カメラ1Lから得られた鳥瞰図画像10Lと後方カメラ1Bから得られた鳥瞰図画像10Bとの重なり部内の各座標に対しては、両方の鳥瞰図画像10L、10Bの対応する画素位置を示すデータが記憶されている。この重なり部において、両鳥瞰図画像10L、10Bのうち、例えば、鳥瞰図画像10Lの方に障害物がより大きく現れている場合には、その鳥瞰図画像10Lの対応する画素位置を示すデータを選択する。
図17は、画像処理ユニット2による処理手順を示している。
まず、各カメラ1F、1B、1L、1Rの撮像画像を読み込む(ステップS41)。次に読み込んだ各撮像画像に対してレンズ歪み補正を行う(ステップS42)。以下、レンズ歪み補正によって得られた画像を入力画像Iと呼ぶことにする。
次に、入力画像Iと座標逆変換テーブルとを用いて、各カメラ1F、1B、1L、1R毎に、全周鳥瞰図画像座標上での2つの鳥瞰図画像が重なる部分における鳥瞰図画像を生成する(ステップS43)。
ステップS43で得られた鳥瞰図画像に基づいて、2つの鳥瞰図画像が重なり合う各重なり部毎に、2つの鳥瞰図画像のうちのいずれを優先するかを判定する(ステップS44)。つまり、各重なり部毎に、優先鳥瞰図画像を決定する。この処理の詳細については、後述する。
次に、ステップS44の決定結果と入力画像Iと座標逆変換テーブルとを用いて、各重なり部においてステップS44で優先すると判定された鳥瞰図画像のみを採用した全周鳥瞰図画像を生成する(ステップS45)。得られた全周鳥瞰図画像をモニタ3に表示させる(ステップS46)。そして、ステップS41に戻る。
図18は、上記ステップS44の処理の詳細な手順を示している。
ここでは、左側カメラ1Lから得られた鳥瞰図画像10Lと後方カメラ1Bから得られた鳥瞰図画像10Bとの重なり部を例にとって説明する。重なり部の鳥瞰図画像のうち、左側カメラ1Lの撮像から得られた画像を30L、後方カメラ1Bから得られた画像を30Bで表すことする。
重なり部の鳥瞰図画像30L、30Bそれぞれを濃淡画像40L、40Bに変換する(ステップS51)。図19(a)は、濃淡画像40L、40Bの一例を示している。
両濃淡画像40L、40Bの差分領域を求める(ステップS52)。具体的には、両濃淡画像40L、40Bの差分をとり、差分値の絶対値が所定の域値以上の領域を差分領域とする。濃淡画像40L、40Bが図19(a)である場合には、差分領域は図19(b)に示すようになる。
各濃淡画像40L、40B毎に、ステップS52に求めた差分領域内においてエッジ抽出処理を行なう(ステップS53)。つまり、各濃淡画像40L、40B毎に、差分領域内の各画素に対してエッジ強度を算出する。次に、各濃淡画像40L、40B毎に、差分領域内のエッジ強度の総和を算出する(ステップS54)。そして、エッジ強度の総和が大きい方の鳥瞰図画像を優先鳥瞰図画像と決定する(ステップS55)。なお、エッジ強度の総和(積算値)の代わりに、検出されたエッジの数やエッジ部で囲まれた領域の面積を用いるようにしてもよい。
濃淡画像40L、40Bが図19(a)である場合には、濃淡画像40Lにおける差分領域内のエッジ部は図19(c)の左図のようになり、濃淡画像40Bにおける差分領域内のエッジ部は図19(c)の右図のようになる。濃淡画像40Lにおける差分領域内のエッジ部の領域は、濃淡画像40Bにおける差分領域内のエッジ部の領域より大きくなるので、左側カメラ1Lから得られた鳥瞰図画像が優先鳥瞰図画像とされる。
上述したように、2つの鳥瞰図画像が重なり合う各重なり部毎に、差分領域が抽出されるか否かによって、その重なり部に高さのある物体(障害物)が存在するか否かを判定することができる。
上記実施例1、2、3、4において、各重なり部に障害物が存在するか否かを判別し、少なくとも1つの重なり部において障害物が存在すると判別した場合には、表示される全周鳥瞰図画像上において障害物を明示するためのマークを表示したり、警告音を発生させたりすることが好ましい。障害物を明示するためのマークとしては、例えば、障害物像を囲むようなマークが用いられる。
鳥瞰図画像においては、高さのある物体200はカメラ1と物体200とを結んだ延長線上へ像が変形するように地面上に投影されることを示す模式図である。 車両の左後端から左斜め後方に高さのある物体200が存在する場合に、左側カメラ1Lによる物体投影像200Lと、後方カメラ1Bによる物体投影像200Bとを示す模式図である。 左側カメラ領域SLに後方カメラ1Bによる物体投影像200Bが存在し、後方カメラ領域SBに左側カメラ1Lによる物体投影像200Lが存在することを示す模式図である。 車両100の後部に設けられたカメラ1を示す模式図である。 カメラ座標系XYZと、カメラ1の撮像面Sの座標系Xbubuと、2次元地面座標系Xw w を含む世界座標系Xw w w との関係を示す模式図である。 カメラ1F、1B、1L、1Rの配置例を示す平面図である。 図6の側面図である。 各カメラ1F、1B、1L、1Rで撮像された画像から得られる鳥瞰図画像10F、10B、10L、10Rを示す模式図である。 図8の後方カメラ1Bに対する鳥瞰図画像10Bを基準として、他の3つの鳥瞰図画像10F、10L、10Rを回転と平行移動により、後方カメラ1Bの鳥瞰図画像座標に変換することにより、4つの鳥瞰図画像10F、10B、10L、10Rが合成されることを示す模式図である。 鳥瞰図画像10Bと鳥瞰図画像10Lとの重なり部において実施例1で用いられる櫛歯状の境界線D’BLの一例を示す模式図である。 合成後の重なり部の画像例を示す模式図である。 鳥瞰図画像10Bと鳥瞰図画像10Lとの重なり部において実施例1で用いられる櫛歯状の境界線D’BLの他の例を示す模式図である。 自動車に設けられた運転支援システムの電気的構成を示すブロック図である。 画像処理ユニット2による処理手順を示すフローチャートである。 画像処理ユニット2による処理手順を示すフローチャートである。 画像処理ユニット2による処理手順を示すフローチャートである。 画像処理ユニット2による処理手順を示すフローチャートである。 図17のステップS44の処理の詳細な手順を示を示すフローチャートである。 図18の処理を説明するための模式図である
符号の説明
1F、1B、1L、1R カメラ
2 画像処理ユニット
3 モニタ

Claims (8)

  1. 車両に搭載されかつ車両周辺を撮像する複数の撮像装置によって撮像された画像それぞれを鳥瞰図画像に変換し、得られた各鳥瞰図画像を合成して合成鳥瞰図画像を生成し、生成された合成鳥瞰図画像を表示器に表示させる運転支援システムにおいて、
    2つの鳥瞰図画像が重なり合う各重なり部を合成する際には、重なり部に対して2つの領域が交互に配置されるような境界線を設定し、重なり部のうち境界線により分けられた一方の領域においては一方の鳥瞰図画像を採用し、境界線により分けられた他方の領域においては他方の鳥瞰図画像を採用することにより、重なり部を合成する手段を備えていることを特徴とする運転支援システム。
  2. 車両に搭載されかつ車両周辺を撮像する複数の撮像装置によって撮像された画像それぞれを鳥瞰図画像に変換し、得られた各鳥瞰図画像を合成して合成鳥瞰図画像を生成し、生成された合成鳥瞰図画像を表示器に表示させる運転支援システムにおいて、
    2つの鳥瞰図画像が重なり合う各重なり部を合成する際には、重なり部に対して櫛歯状の境界線を設定し、重なり部のうち櫛歯状の境界線により分けられた一方の領域においては一方の鳥瞰図画像を採用し、櫛歯状の境界線により分けられた他方の領域においては他方の鳥瞰図画像を採用することにより、重なり部を合成する手段を備えていることを特徴とする運転支援システム。
  3. 車両に搭載されかつ車両周辺を撮像する複数の撮像装置によって撮像された画像それぞれを鳥瞰図画像に変換し、得られた各鳥瞰図画像を合成して合成鳥瞰図画像を生成し、生成された合成鳥瞰図画像を表示器に表示させる運転支援システムにおいて、
    各鳥瞰図画像を合成する際に、2つの鳥瞰図画像が重なり合う各重なり部においては、予め設定された一方の鳥瞰図画像のみを採用することにより得られる第1の合成鳥瞰図画像を生成するための第1の合成鳥瞰図画像生成手段、
    各鳥瞰図画像を合成する際に、2つの鳥瞰図画像が重なり合う各重なり部においては、予め設定された他方の鳥瞰図画像のみを採用することにより得られる第2の合成鳥瞰図画像を生成するための第2の合成鳥瞰図画像生成手段、ならびに
    第1の合成鳥瞰図画像生成手段と第2の合成鳥瞰図画像生成手段とを交互に切り換えることにより、第1の合成鳥瞰図画像と第2の合成鳥瞰図画像とを交互に切り換えて表示器に表示させる制御手段、
    を備えていることを特徴とする運転支援システム。
  4. 車両に搭載されかつ車両周辺を撮像する複数の撮像装置によって撮像された画像それぞれを鳥瞰図画像に変換し、得られた各鳥瞰図画像を合成して合成鳥瞰図画像を生成し、生成された合成鳥瞰図画像を表示器に表示させる運転支援システムにおいて、
    各鳥瞰図画像を合成する際に、2つの鳥瞰図画像が重なり合う各重なり部においては、予め設定された一方の鳥瞰図画像のみを採用することにより得られる第1の合成鳥瞰図画像を生成するための第1の合成鳥瞰図画像生成手段、
    各鳥瞰図画像を合成する際に、2つの鳥瞰図画像が重なり合う各重なり部においては、予め設定された他方の鳥瞰図画像のみを採用することにより得られる第2の合成鳥瞰図画像を生成するための第2の合成鳥瞰図画像生成手段、
    2つの鳥瞰図画像が重なり合う各重なり部において、2つの鳥瞰図画像を比較することにより、高さのある物体が存在するか否かを判別する判別手段、
    判別手段によって少なくとも1つの重なり部において高さのある物体が存在すると判別されている場合には、第1の合成鳥瞰図画像生成手段と第2の合成鳥瞰図画像生成手段とを交互に切り換えることにより、第1の合成鳥瞰図画像と第2の合成鳥瞰図画像とを交互に切り換えて表示器に表示させる第1制御手段、ならびに
    判別手段によっていずれの重なり部においても、高さのある物体が存在しないと判別されている場合には、第1の合成鳥瞰図画像生成手段および第2の合成鳥瞰図画像生成手段のうち予め設定された一方の合成鳥瞰図画像生成手段により合成鳥瞰図画像を生成させて、表示器に表示させる第2制御手段、
    を備えていることを特徴とする運転支援システム。
  5. 車両に搭載されかつ車両周辺を撮像する複数の撮像装置によって撮像された画像それぞれを鳥瞰図画像に変換し、得られた各鳥瞰図画像を合成して合成鳥瞰図画像を生成し、生成された合成鳥瞰図画像を表示器に表示させる運転支援システムにおいて、
    2つの鳥瞰図画像が重なり合う各重なり部において、2つの鳥瞰図画像のうち高さのある物体がより大きく現れている方の鳥瞰図画像を優先鳥瞰図画像として決定する優先鳥瞰図画像決定手段、
    各鳥瞰図画像を合成する際に、2つの鳥瞰図画像が重なり合う各重なり部においては、優先鳥瞰図画像決定手段によって決定された優先鳥瞰図画像のみを採用することにより、合成鳥瞰図画像を生成する合成鳥瞰図画像生成手段、ならびに
    合成鳥瞰図画像生成手段によって生成された合成鳥瞰図画像を表示器に表示させる手段、
    を備えていることを特徴とする運転支援システム。
  6. 優先鳥瞰図画像決定手段は、
    2つの鳥瞰図画像が重なり合う重なり部において、一方の鳥瞰図画像と他方の鳥瞰図画像との差分をとり、差分量が所定量より大きな領域を差分領域として決定する手段、および
    上記2つの鳥瞰図画像の差分領域内でのエッジ強度の積算値を算出し、エッジ強度の積算値が大きい方の鳥瞰図画像を優先鳥瞰図画像として決定する手段、
    を備えていることを特徴とする請求項5に記載の運転支援システム。
  7. 2つの鳥瞰図画像が重なり合う各重なり部において、2つの鳥瞰図画像を比較することにより、高さのある物体が存在するか否かを判別する判別手段、および
    判別手段によって少なくとも1つの重なり部において高さのある物体が存在すると判別されている場合には、合成鳥瞰図画像において上記高さのある物体像を明示するためのマークを表示させる手段、
    を備えていることを特徴とする請求項1のいずれか一項に記載の運転支援システム。
  8. 2つの鳥瞰図画像が重なり合う各重なり部において、2つの鳥瞰図画像を比較することにより、高さのある物体が存在するか否かを判別する判別手段、および
    判別手段によって少なくとも1つの重なり部において高さのある物体が存在すると判別されている場合には、警告音を発生する手段、
    を備えていることを特徴とする請求項1のいずれか一項に記載の運転支援システム。
JP2005301989A 2005-10-17 2005-10-17 運転支援システム Expired - Fee Related JP4934308B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2005301989A JP4934308B2 (ja) 2005-10-17 2005-10-17 運転支援システム
CNA200610132158XA CN1953553A (zh) 2005-10-17 2006-10-12 驾驶辅助系统
US11/580,859 US20070085901A1 (en) 2005-10-17 2006-10-16 Vehicle drive assistant system
EP06122404A EP1775952A3 (en) 2005-10-17 2006-10-17 Vehicle driving assistance system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005301989A JP4934308B2 (ja) 2005-10-17 2005-10-17 運転支援システム

Publications (2)

Publication Number Publication Date
JP2007109166A JP2007109166A (ja) 2007-04-26
JP4934308B2 true JP4934308B2 (ja) 2012-05-16

Family

ID=37684403

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005301989A Expired - Fee Related JP4934308B2 (ja) 2005-10-17 2005-10-17 運転支援システム

Country Status (4)

Country Link
US (1) US20070085901A1 (ja)
EP (1) EP1775952A3 (ja)
JP (1) JP4934308B2 (ja)
CN (1) CN1953553A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10044933B2 (en) 2014-03-07 2018-08-07 Hitachi Construction Machinery Co., Ltd. Periphery monitoring device for work machine
US10417743B2 (en) 2015-11-06 2019-09-17 Mitsubishi Electric Corporation Image processing device, image processing method and computer readable medium
US11403742B2 (en) 2018-03-28 2022-08-02 Mitsubishi Electric Corporation Image processing device, image processing method, and recording medium for generating bird's eye synthetic image

Families Citing this family (60)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101438590B (zh) * 2006-05-09 2011-07-13 日产自动车株式会社 车辆周围图像提供装置和车辆周围图像提供方法
DE102006052779A1 (de) * 2006-11-09 2008-05-15 Bayerische Motoren Werke Ag Verfahren zur Erzeugung eines Gesamtbilds der Umgebung eines Kraftfahrzeugs
JP2008187566A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
JP4969269B2 (ja) * 2007-02-21 2012-07-04 アルパイン株式会社 画像処理装置
JP2009017462A (ja) * 2007-07-09 2009-01-22 Sanyo Electric Co Ltd 運転支援システム及び車両
JP5120880B2 (ja) 2007-10-15 2013-01-16 アルパイン株式会社 画像処理装置及び画像処理方法
JP2009100342A (ja) * 2007-10-18 2009-05-07 Sanyo Electric Co Ltd カメラ校正装置及び方法、並びに、車両
JP5269427B2 (ja) * 2008-01-31 2013-08-21 株式会社東芝 超音波診断装置、画像診断装置、及びプログラム
JP5108605B2 (ja) * 2008-04-23 2012-12-26 三洋電機株式会社 運転支援システム及び車両
DE102008029181A1 (de) 2008-06-19 2009-02-19 Daimler Ag Verfahren zur Überwachung der Umgebung eines Fahrzeugs
DE102008034594B4 (de) * 2008-07-25 2021-06-24 Bayerische Motoren Werke Aktiengesellschaft Verfahren sowie Informationssystem zur Information eines Insassen eines Fahrzeuges
JP2010141836A (ja) * 2008-12-15 2010-06-24 Sanyo Electric Co Ltd 障害物検知装置
KR100966288B1 (ko) * 2009-01-06 2010-06-28 주식회사 이미지넥스트 주변 영상 생성 방법 및 장치
JP5068779B2 (ja) * 2009-02-27 2012-11-07 現代自動車株式会社 車両周囲俯瞰画像表示装置及び方法
KR100956858B1 (ko) * 2009-05-19 2010-05-11 주식회사 이미지넥스트 차량 주변 영상을 이용하는 차선 이탈 감지 방법 및 장치
JP5108840B2 (ja) * 2009-07-29 2012-12-26 クラリオン株式会社 車両用周辺監視装置および車両用周辺画像表示方法
KR101669197B1 (ko) * 2009-12-17 2016-10-25 엘지이노텍 주식회사 광각 이미지 생성 장치
TWI392366B (zh) 2009-12-31 2013-04-01 Ind Tech Res Inst 全周鳥瞰影像距離介面產生方法與系統
CN102137247B (zh) * 2010-01-22 2013-01-30 财团法人工业技术研究院 全周鸟瞰图像距离界面产生方法与系统
JP5479956B2 (ja) * 2010-03-10 2014-04-23 クラリオン株式会社 車両用周囲監視装置
KR101448411B1 (ko) 2010-08-19 2014-10-07 닛산 지도우샤 가부시키가이샤 입체물 검출 장치 및 입체물 검출 방법
JP5497617B2 (ja) * 2010-11-16 2014-05-21 住友重機械工業株式会社 画像生成装置及び操作支援システム
JP5541412B2 (ja) * 2011-04-13 2014-07-09 日産自動車株式会社 走行支援装置及びその雨滴検出方法
CN103038689B (zh) * 2011-05-16 2016-01-20 松下电器产业株式会社 透镜单元以及摄像装置
JP5483120B2 (ja) 2011-07-26 2014-05-07 アイシン精機株式会社 車両周辺監視システム
MY171030A (en) * 2011-09-12 2019-09-23 Nissan Motor Three-dimensional object detection device
DE102011082881A1 (de) 2011-09-16 2013-03-21 Bayerische Motoren Werke Aktiengesellschaft Darstellung der Umgebung eines Kraftfahrzeugs in einer bestimmten Ansicht unter Verwendung räumlicher Information
US9019347B2 (en) 2011-10-13 2015-04-28 Aisin Seiki Kabushiki Kaisha Image generator
JP5870608B2 (ja) * 2011-10-13 2016-03-01 アイシン精機株式会社 画像生成装置
JP5808677B2 (ja) * 2012-01-13 2015-11-10 住友重機械工業株式会社 画像生成装置及び操作支援システム
FR2990662B1 (fr) * 2012-05-16 2015-08-07 Renault Sa Camera de recul integree au logo
US9798936B2 (en) * 2012-07-31 2017-10-24 Harman International Industries, Incorporated System and method for detecting obstacles using a single camera
WO2014073282A1 (ja) * 2012-11-08 2014-05-15 住友重機械工業株式会社 舗装機械用画像生成装置及び舗装機械用操作支援システム
US20140125802A1 (en) * 2012-11-08 2014-05-08 Microsoft Corporation Fault tolerant display
JP6115104B2 (ja) * 2012-12-04 2017-04-19 アイシン精機株式会社 車両の制御装置、及び制御方法
JP5752728B2 (ja) * 2013-02-28 2015-07-22 富士フイルム株式会社 車両間距離算出装置およびその動作制御方法
JP6169381B2 (ja) * 2013-03-19 2017-07-26 住友重機械工業株式会社 ショベル
JP6355298B2 (ja) * 2013-05-30 2018-07-11 住友重機械工業株式会社 画像生成装置及びショベル
KR20150019192A (ko) * 2013-08-13 2015-02-25 현대모비스 주식회사 Avm 시스템을 위한 영상 합성 장치 및 그 방법
KR101573576B1 (ko) * 2013-10-08 2015-12-01 현대자동차주식회사 Avm 시스템의 이미지 처리 방법
CN104571101A (zh) * 2013-10-17 2015-04-29 厦门英拓通讯科技有限公司 一种可实现车辆任意位置移动的系统
JP6232994B2 (ja) * 2013-12-16 2017-11-22 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
EP3085074B1 (en) 2013-12-19 2020-02-26 Intel Corporation Bowl-shaped imaging system
JP2014123955A (ja) * 2014-01-17 2014-07-03 Sumitomo Heavy Ind Ltd ショベル
DE102014107235A1 (de) * 2014-05-22 2015-11-26 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Verfahren zur Darstellung einer Fahrzeugumgebung auf einer Anzeigevorrichtung; eine Anzeigevorrichtung; ein System aus einer Mehrzahl an Bilderfassungseinheiten und einer Anzeigevorrichtung; ein Computerprogramm
CN106537892B (zh) * 2014-05-29 2021-01-05 株式会社尼康 摄像装置及车辆
US10442355B2 (en) * 2014-09-17 2019-10-15 Intel Corporation Object visualization in bowl-shaped imaging systems
US9437001B2 (en) 2014-09-18 2016-09-06 Intel Corporation Tracking objects in bowl-shaped imaging systems
EP3076363B1 (en) * 2015-03-30 2019-09-25 KNORR-BREMSE Systeme für Nutzfahrzeuge GmbH Image synthesizer and a method for synthesizing an image
JP6224029B2 (ja) * 2015-05-21 2017-11-01 富士通テン株式会社 画像処理装置および画像処理方法
EP3142066A1 (en) * 2015-09-10 2017-03-15 KNORR-BREMSE Systeme für Nutzfahrzeuge GmbH Image synthesizer for a surround monitoring system
EP3144162B1 (en) 2015-09-17 2018-07-25 KNORR-BREMSE Systeme für Nutzfahrzeuge GmbH Apparatus and method for controlling a pressure on at least one tyre of a vehicle
JP6512145B2 (ja) * 2016-03-22 2019-05-15 株式会社デンソー 画像処理装置、画像処理方法、及びプログラム
JP6756555B2 (ja) * 2016-09-09 2020-09-16 株式会社タダノ 俯瞰画像システム、俯瞰画像表示方法およびプログラム
DE102017201000A1 (de) * 2017-01-23 2018-07-26 Robert Bosch Gmbh Verfahren zum Kombinieren einer Vielzahl von Kamerabildern
WO2019058614A1 (ja) * 2017-09-19 2019-03-28 株式会社Jvcケンウッド 表示制御装置、表示制御システム、表示制御方法およびプログラム
JP7005269B2 (ja) 2017-10-18 2022-01-21 キヤノン株式会社 情報処理装置、システム、情報処理方法及びプログラム
TWI688502B (zh) * 2018-02-14 2020-03-21 先進光電科技股份有限公司 用於警告車輛障礙物的設備
KR102281609B1 (ko) * 2020-01-16 2021-07-29 현대모비스 주식회사 어라운드뷰 합성 시스템 및 방법
CN112232275B (zh) * 2020-11-03 2021-12-24 上海西井信息科技有限公司 基于双目识别的障碍物检测方法、系统、设备及存储介质

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3390289B2 (ja) * 1995-06-16 2003-03-24 富士重工業株式会社 警報装置
US6734896B2 (en) * 2000-04-28 2004-05-11 Matsushita Electric Industrial Co., Ltd. Image processor and monitoring system
US7266219B2 (en) * 2000-07-19 2007-09-04 Matsushita Electric Industrial Co., Ltd. Monitoring system
JP3695319B2 (ja) * 2000-11-30 2005-09-14 トヨタ自動車株式会社 車両周辺モニタ装置
JP2002354468A (ja) * 2001-05-30 2002-12-06 Clarion Co Ltd 画像合成方法及び装置並び車両周囲状況モニタ装置
EP1291668B1 (en) * 2001-09-07 2005-11-30 Matsushita Electric Industrial Co., Ltd. Vehicle surroundings display device and image providing system
KR100866450B1 (ko) 2001-10-15 2008-10-31 파나소닉 주식회사 차량 주위 감시 장치 및 그 조정 방법
JP3819284B2 (ja) * 2001-11-29 2006-09-06 クラリオン株式会社 車両周囲監視装置
JP3813085B2 (ja) * 2001-12-18 2006-08-23 株式会社デンソー 車両周辺画像処理装置及び記録媒体
US7145519B2 (en) * 2002-04-18 2006-12-05 Nissan Motor Co., Ltd. Image display apparatus, method, and program for automotive vehicle
AU2002368104A1 (en) * 2002-07-17 2004-02-09 Fico Mirrors, Sa Device and method for the active monitoring of the safety perimeter of a motor vehicle
US7248968B2 (en) * 2004-10-29 2007-07-24 Deere & Company Obstacle detection using stereo vision

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10044933B2 (en) 2014-03-07 2018-08-07 Hitachi Construction Machinery Co., Ltd. Periphery monitoring device for work machine
US10417743B2 (en) 2015-11-06 2019-09-17 Mitsubishi Electric Corporation Image processing device, image processing method and computer readable medium
US11403742B2 (en) 2018-03-28 2022-08-02 Mitsubishi Electric Corporation Image processing device, image processing method, and recording medium for generating bird's eye synthetic image

Also Published As

Publication number Publication date
EP1775952A2 (en) 2007-04-18
CN1953553A (zh) 2007-04-25
EP1775952A3 (en) 2007-06-13
JP2007109166A (ja) 2007-04-26
US20070085901A1 (en) 2007-04-19

Similar Documents

Publication Publication Date Title
JP4934308B2 (ja) 運転支援システム
JP4596978B2 (ja) 運転支援システム
US7728879B2 (en) Image processor and visual field support device
JP4248570B2 (ja) 画像処理装置並びに視界支援装置及び方法
JP3511892B2 (ja) 車両用周囲モニタ装置
US7161616B1 (en) Image processing device and monitoring system
JP5684144B2 (ja) 周辺映像生成方法および装置
JP4315968B2 (ja) 画像処理装置並びに視界支援装置及び方法
EP1916846B1 (en) Device and method for monitoring vehicle surroundings
JP4257356B2 (ja) 画像生成装置および画像生成方法
JP4642723B2 (ja) 画像生成装置および画像生成方法
JP5209578B2 (ja) 車両用画像表示装置
JP5953824B2 (ja) 車両用後方視界支援装置及び車両用後方視界支援方法
JP5422902B2 (ja) 画像処理装置、画像処理プログラム、画像処理システム及び画像処理方法
JP2008077628A (ja) 画像処理装置並びに車両周辺視界支援装置及び方法
JP4606322B2 (ja) 車両運転支援装置
KR20150052148A (ko) 차량용 후방 촬상 시스템
JP5090126B2 (ja) 車載用撮像装置
US20190199940A1 (en) Image display apparatus
KR20020033816A (ko) 감시시스템
JP4830380B2 (ja) 車両周辺監視装置及び車両周辺監視方法
KR20100081964A (ko) 주변 영상 생성 방법 및 장치
JP5168186B2 (ja) 画像処理装置
JPH11151975A (ja) 死角範囲表示装置
JP5271186B2 (ja) 車両用画像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080723

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110401

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120126

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120220

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150224

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees