JP2016213759A - 後方モニタ - Google Patents

後方モニタ Download PDF

Info

Publication number
JP2016213759A
JP2016213759A JP2015097740A JP2015097740A JP2016213759A JP 2016213759 A JP2016213759 A JP 2016213759A JP 2015097740 A JP2015097740 A JP 2015097740A JP 2015097740 A JP2015097740 A JP 2015097740A JP 2016213759 A JP2016213759 A JP 2016213759A
Authority
JP
Japan
Prior art keywords
image
moving object
vehicle
camera
moving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015097740A
Other languages
English (en)
Other versions
JP6293089B2 (ja
Inventor
加藤 浩之
Hiroyuki Kato
浩之 加藤
典久 宮川
Norihisa Miyagawa
典久 宮川
博基 足立
Hiroki Adachi
博基 足立
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HAGIWARA ELECTRIC CO Ltd
Original Assignee
HAGIWARA ELECTRIC CO Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by HAGIWARA ELECTRIC CO Ltd filed Critical HAGIWARA ELECTRIC CO Ltd
Priority to JP2015097740A priority Critical patent/JP6293089B2/ja
Publication of JP2016213759A publication Critical patent/JP2016213759A/ja
Application granted granted Critical
Publication of JP6293089B2 publication Critical patent/JP6293089B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】複数のカメラによって得られる車両後方の映像を簡単な処理によって合成し、更に後方の移動物体を検出してその画像を合わせて表示する後方モニタを提供する。
【解決手段】本発明の後方モニタは後方カメラ21、右側後方カメラ22、左側後方カメラ23と、各カメラの映像から後方画像、右側後方画像及び左側後方画像を作成する画像作成手段3と、後方画像から路面領域を抽出する路面領域抽出手段4と、後方画像から移動物体を検出し、車両と移動物体との距離を検出する移動物体検出手段5と、移動物体検出手段により移動物体が検出された場合には、移動物体との距離又は変化に基づき、後方画像から移動体領域を抽出する移動体領域抽出手段6と、各側後方画像と、後方画像における路面領域及び移動体領域の画像とを合成して所定曲面に投影した3面合成画像を作成する画像合成手段7と、3面合成画像を表示する表示手段8とを備える。
【選択図】図1

Description

本発明は、車両の後方の映像を表示する後方モニタに関する。詳しくは、複数のカメラによって得られる車両後方の映像を簡単な処理によって合成し、更に後方の移動物体を検出してその画像を合わせて表示する後方モニタに関する。
従来、車両のバックミラーの代わりに、車両の後方をカメラで撮影して、路面や接近する物体等を画面に表示する後方モニタが種々実用化されている。通常、後方モニタに用いられるカメラは広範囲を撮影するために、撮影される画像が大きく歪み、そのまま表示すると見づらいという問題がある。このため、補正テーブル等を用いて撮影された画像の歪をなくす手法がある(例えば、特許文献1を参照)。また、近年では、車両に複数のカメラを備え、各カメラを用いて得られる2次元画像データを1つの3次元投影面形状に合成する方法等を用いて、視認性を高めた画像処理装置が開発されている(例えば、特許文献2を参照)。
複数のカメラで撮影した画像を合成する場合、各画像の境界に物体が位置すると形状が欠けたり各画像に同時に存在したりする問題があるため、これを解消するため手段が提案されている。特許文献2に記載されている画像処理装置は、車両の前後左右に設けられたカメラにより映像を撮像し、運転状態に基づいて、複数の映像の合成条件を変化させている。
特開平10−271490号公報 特開2010−128951号公報
前記のように、複数のカメラにより撮影した画像を合成する場合、カメラの位置や向きが異なると、各画像に含まれる物体の大きさがそれぞれ異なって写っていたり、異なる形状で写っていたりする。このため、ルックアップテーブル等の固定された条件によって画像を合成しても、画像の境界に位置する物体の全てを継ぎ目がなく、歪みが少なくなるように表示することは困難である。例えば、1つの物体の継ぎ目がなくなるように合成するとカメラとの距離が異なる他の物体の継ぎ目や歪みが生じたり、物体が投影範囲から外れたりする。このような画像の合成における不整合等を解決するために、特許文献2に記載されている画像処理装置は、車両の前後左右に4つのカメラを備え、各画像を3次元画像データに合成し、車両の走行速度等の運転状態を検出することにより、1つの視点で合成位置に急激な変化を生じない画像を表示するとされている。
しかし、車両後方の映像をモニタする用途においては、大幅に簡単な処理によって複数のカメラによって撮影された画像を合成することが求められている。また、運転者が注意すべき後方の接近物体等を検出し、その物体を含めて車両後方の映像を見易く表示することが必要とされる。
本発明は、上記実情に鑑みてなされたものであり、複数のカメラによって得られる車両後方の映像を簡単な処理によって合成し、更に後方の移動物体を検出してその画像を合わせて表示する後方モニタを提供することを目的とする。
1.車両の後方、右側後方及び左側後方の映像を表示する後方モニタであって、
前記車両の後方を撮影する後方カメラ、右側後方を撮影する右側後方カメラ、及び左側後方を撮影する左側後方カメラと、
前記後方カメラ、前記右側後方カメラ及び前記左側後方カメラによって撮影された映像から、それぞれ後方画像、右側後方画像及び左側後方画像を作成する画像作成手段と、
前記後方画像から所定の路面領域を抽出する路面領域抽出手段と、
前記後方画像から移動物体を検出すると共に、前記車両と前記移動物体との距離を検出する移動物体検出手段と、
前記移動物体検出手段により移動物体が検出された場合には、前記移動物体との距離又はその変化に基づき、前記後方画像から前記移動物体の画像領域を移動体領域として抽出する移動体領域抽出手段と、
前記右側後方画像と、前記左側後方画像と、前記後方画像における前記路面領域及び前記移動体領域の画像と、を合成して所定の曲面に投影した3面合成画像を作成する画像合成手段と、
前記3面合成画像を表示する表示手段と、
を備えることを特徴とする後方モニタ。
2.前記移動体領域抽出手段は、前記移動物体検出手段により検出された前記移動物体との距離が所定値以下である場合、及び前記移動物体との距離が小さくなるように変化している場合に、前記移動体領域を抽出する前記1.記載の後方モニタ。
3.前記移動物体検出手段は、前記後方画像からエッジを抽出し、そのエッジの強度に基づいて前記移動物体を検出する前記1.又は2.に記載の後方モニタ。
4.前記画像合成手段は、前記移動物体検出手段により検出された前記移動物体との距離に基づいて前記所定の曲面の曲率を変更する前記1.乃至3.のいずれかに記載の後方モニタ。
本発明によれば、前記車両の後方、右側後方及び左側後方を撮影する後方カメラ、右側後方を撮影する右側後方カメラ、及び左側後方を撮影する左側後方カメラと、前記各カメラによって撮影された映像からそれぞれ後方画像、右側後方画像及び左側後方画像を作成する画像作成手段と、後方画像から所定の路面領域を抽出する路面領域抽出手段と、後方画像から移動物体を検出すると共に移動物体との距離を検出する移動物体検出手段と、移動物体が検出された場合には、後方画像から移動物体の画像領域を移動体領域として抽出する移動体領域抽出手段と、右側後方画像、左側後方画像、後方画像における路面領域及び移動体領域の画像を合成して所定の曲面に投影した3面合成画像を作成する画像合成手段と、3面合成画像を表示する表示手段と、を備えるため、極めて簡単な処理によって、車両の後方から接近する移動物体等を検出して視認性に優れたモニタとすることができる。左右側後方カメラの画像により車両後方の広い視野を確保し、その死角となる範囲を後方カメラによる画像によって補うようにすることによって、各画像の境界部の処理を容易にし、違和感のない合成画像を表示することができる。また、後方に移動物体を検出した場合には、後方画像からその移動物体を含む画像を抽出して合成するので、各画像の境界付近に移動物体が位置しても、その形状が欠けたり2つに表示されたりすることがなく、移動物体の視認性を向上させることができる。
前記移動体領域抽出手段は、前記移動物体検出手段により検出された前記移動物体との距離が所定値以下である場合、及び前記移動物体との距離が小さくなるように変化している場合に、前記移動体領域を抽出するようにすれば、運転者が注意を払うべき近距離の移動物体及び急速に接近する移動物体に応じて、移動物体を含む画像を表示することができる。
前記移動物体検出手段は、前記後方画像からエッジを抽出し、そのエッジの強度に基づいて前記移動物体を検出する場合には、簡単な処理により画像から移動物体を検出することができる。
前記画像合成手段は、前記移動物体検出手段により検出された前記移動物体との距離に基づいて前記所定の曲面の曲率を変更する場合は、注目すべき移動物体の形状の歪みを軽減することができ、注目すべき移動物体を違和感なく表示することができる。
後方モニタの構成を説明するためのブロック図である。 各カメラの車両に設けられている位置及び撮影範囲を示す模式平面図である。 各カメラによって得られた画像の例である。 図3において歪み補正をした各画像の例である。 図4において、画像(a’)の路面領域Sを破線で囲んで示す模式図、及び各画像(b’)(c’)の切り出す範囲を破線で囲んで示す模式図である。 各側後方カメラの画像を合成した例である。 3面合成画像の作成例である。 後方モニタの処理を説明するためのフローチャートである。 車両に移動物体が接近した状態を説明するための模式平面図である。 車両に移動物体が接近したときの各カメラによって得られた画像の例である。 図10において歪み補正をした各画像の例である。 図11において画像(a’)の路面領域Sを破線で囲んで示す模式図、及び各画像(b’)(c’)の切り出す範囲を破線で囲んで示す模式図である。 図11において後方カメラの画像中の移動体領域を破線で囲んで示す模式図である。 各側後方カメラの画像を合成した例である。 3面合成画像の作成例である。 車両に移動物体が接近したときの後方カメラによって得られた画像の例である。 図16において移動体領域を破線で囲んで示す画像の例である。
ここで示される事項は例示的なもの及び本発明の実施形態を例示的に説明するためのものであり、本発明の原理と概念的な特徴とを最も有効に且つ難なく理解できる説明であると思われるものを提供する目的で述べたものである。この点で、本発明の根本的な理解のために必要である程度以上に本発明の構造的な詳細を示すことを意図してはおらず、図面と合わせた説明によって本発明の幾つかの形態が実際にどのように具現化されるかを当業者に明らかにするものである。
本実施形態に係る後方モニタ(1)は、車両の後方、右側後方及び左側後方の映像を表示する後方モニタであって、車両(91)の後方を撮影する後方カメラ(21)、右側後方を撮影する右側後方カメラ(22)、及び左側後方を撮影する左側後方カメラ(23)と、画像作成手段(3)と、路面領域抽出手段(4)と、移動物体検出手段(5)と、移動体領域抽出手段(6)と、画像合成手段(7)と、表示手段(8)と、を備える(例えば、図1を参照)。
前記車両の種類は特に限定されず、自動車、列車、電車、自転車、自走式のロボット、遠隔操作式のロボット等を例示することができる。また、車両の走行方法としてタイヤや車輪の他、無限軌道等も含めることができる。
画像作成手段(3)は、後方カメラ(21)、右側後方カメラ(22)及び左側後方カメラ(23)によって撮影された画像(a、b、c)をキャプチャし、それぞれ後方画像(a’)、右側後方画像(b’)及び左側後方画像(c’)を作成する手段である。
路面領域抽出手段(4)は、後方画像(a’)から所定の路面領域(S)を抽出する手段である。
移動物体検出手段(5)は、後方画像(a’)から移動物体を検出すると共に、車両(91)とその移動物体との距離を検出する手段である。
移動体領域抽出手段(6)は、移動物体検出手段(5)により移動物体が検出された場合には、移動物体との距離又は距離の変化に基づき、後方画像(a’)から前記移動物体の画像領域を移動体領域(M)として抽出する手段である。
画像合成手段(7)は、右側後方画像(b’)と、左側後方画像(c’)と、後方画像(a’)における路面領域(S)及び移動体領域(M)の画像と、を合成して所定の曲面(Q)に投影した3面合成画像を作成する手段である。
表示手段(8)は、前記3面合成画像を別途設けられる表示装置に表示する手段である。
後方カメラ(21)、右側後方カメラ(22)及び左側後方カメラ(23)は、それぞれ車両(91)の後方、右側後方及び左側後方の映像を取得することができればよく、その種類や設置位置を問わない。例えば、図2に示すように、後方カメラ(21)は車両(91)の後面に固定して設けられる。また、右側後方カメラ(22)及び左側後方カメラ(23)(以下、側後方カメラと略す)は、車両(91)の右側面及び左側面に固定して配設されている。
また、各カメラ(21、22、23)は、それぞれ撮影する範囲(92a、93a、94a)の一部が、隣のカメラの撮影する範囲の一部と重複するように配設される。それぞれ広範囲の映像を得るために、各カメラ(21、22、23)には魚眼レンズが用いられることが好ましい。
図2に示した例では、右側後方カメラ(22)の撮影範囲(93a)と左側後方カメラ(23)の撮影範囲(94a)とは、車両後方で重なるようにされている。しかし、左右の側後方カメラのみを使用する場合には車両後方に死角が生じるため、車両の後方は後方カメラ(21)の撮影範囲(92a)によってカバーされている。なお、右側後方カメラ(22)の撮影範囲(93a)と左側後方カメラ(23)の撮影範囲(94a)とは重ならないようにされていてもよい。
画像作成手段(3)は、各カメラ(21、22、23)により撮影された映像をキャプチャして、それぞれの画像(a,b,c)の歪を補正するように構成されている。好ましくは、各画像(a,b,c)を球面画像(a’、b’、c’)に変換するように構成することができる(例えば、図3、4参照)。カメラによって得られる画像は、視点を中心として配置される球面に投影された視野を、平面に対して垂直に投影し直すことによって得られると見なすことができる。このため、各画像(a,b,c)を前記球面に投影した結果である前記球面の画像(a’、b’、c’)を取得することで歪を補正することができる。前記球面画像への変換は、使用するカメラに合わせて、周知の方法を任意に適用することができ、所定の射影式に基づいた座標変換によりおこなうことができる。これによって、補正(変換)後の後方画像(a’)、右側後方画像(b’)及び左側後方画像(c’)を得ることができる。
路面領域抽出手段(4)は、後方画像(a’)において、後方の路面領域(S)を抽出する手段である。本実施形態においては、左右の側後方カメラの死角となる車両後方の領域の画像を補うために、後方カメラによる画像から路面領域(S)を抽出する。よって、「路面領域」は実際の道路の領域を意図するものではなく、少なくとも、左右の側後方カメラの画像をつないだときに欠落する車両後方の領域であればよい。このため、路面領域(S)は、後方画像(a’)において車両の後端から、後方側に延びる一定の領域とすることができ、左右の側後方カメラの視野、後方カメラ(21)の設置高さ等に基づいて予め設定しておくことができる(例えば、図5参照)。なお、路面領域は、後方カメラ(21)によって得られる画像(a)において抽出するように構成されてもよい。
路面領域(S)の情報は、画像合成手段(7)に出力される。
移動物体検出手段(5)は、後方画像(a’)により、移動物体を検出すると共に車両(91)と前記移動物体との距離を検出する手段である。移動物体を検出する具体的な方法は特に問わず、例えば、時間が前後する後方画像(a’)間の各画素の移動を予測するオプティカルフローを用いて移動量を求めることができる。また、各後方画像(a’)におけるエッジを抽出し、そのエッジの移動量が路面領域等の移動量に対して一定以上大きい場合には、移動物体と判定することができる。その場合、後方画像(a’)において検出されたエッジの強度が一定以上であるときに、移動物体として検出するようにすることができる。また、移動物体検出手段(5)は、路面上の移動物体を検出するように構成することができる。例えば、後方画像(a’)の路面領域(S)において、移動物体を検出するようにすることができる。また、時間が前後する後方画像(a’)において移動物体との距離を検出し、車両(91)に近づいている移動物のみを移動物体として検出するようにしてもよい。
車両(91)と検出された移動物体との距離の検出方法は特に問わない。例えば、後方画像(a’)上の移動物体の位置に基づいて、車両(91)と移動物体との距離を算定することができる。
移動物体検出手段(5)は、後方画像から複数の移動物体を検出する場合もある。複数の移動物体が検出された場合、車両(91)に最も急速に接近する移動物体(すなわち車両(91)と移動物体との距離が最も急速に小さくなるように変化する移動物体)や、車両(91)に最も近い移動物体を適宜判定し、その移動物体に対して以下の移動体領域抽出手段等を適用するように構成することができる。
移動体領域抽出手段(6)は、移動物体検出手段(5)により移動物体が検出された場合には、その移動物体との距離又はその変化により、後方画像(a’)における移動物体の画像領域を移動体領域(M)として抽出するように構成される。移動体領域(M)は、検出された移動物体全体の画像が含まれる領域であり、移動物体全体は例えば前記エッジの情報等に基づいて認識することが可能である。
移動体領域(M)として、移動物体(96)そのものの領域を抽出してもよいし(図17参照)、移動物体(96)そのものの領域に加え、その上方を含めても良い(図13参照)。移動体領域(M)に移動物体とその上方を含めることにより、移動物体の付近の画像の境目が少なくなり、移動物体の自然な視認性が高まるからである。また、後方画像(a’)のうち、移動物体(96)を含み、上下の端が後方画像(a’)の上下の端に到達する領域を移動体領域(M)としてもよい。この場合、移動体領域(M)の幅は、移動物体(96)の幅とすることができる。
移動体領域(M)の情報は、画像合成手段(7)に出力される。
画像合成手段(7)は、右側後方画像(b’)と、左側後方画像(c’)と、後方画像(a’)における前記路面領域(S)及び前記移動体領域(M)の画像と、を合成して所定の曲面に投影した3面合成画像を作成するように構成される。前記のとおり、路面領域(S)は路面領域抽出手段(4)により設定され、移動体領域(M)は移動体領域抽出手段(6)により設定される。よって、画像合成手段(7)は、後方画像(a’)から路面領域(S)及び移動体領域(M)に相当する部分の画像を抽出することになる。
本実施形態においては、移動物体検出手段(5)により所定の条件を満たす移動物体が検出されないときには、右側後方画像(b’)と、左側後方画像(c’)と、後方画像(a’)中の路面領域(S)の画像と、を合成するように構成されている(図14参照)。一方、距離又はその変化量等が所定の条件を満たす移動物体が検出されたときには、更に後方画像(a’)中の移動体領域(M)を加えて画像が合成される(図15参照)。
隣り合う画像の合成に際して、違和感をなくすように各画像の境目となる部分の差異を低減する処理は、周知の手法を適用することができる。例えば、境目を含む一定幅において所定の混合比率で各画像を混合することを挙げることができる。
また、画像合成手段(7)は、上記合成した画像を所定の曲面(Q)に投影することにより3面合成画像を作成する。上記曲面(Q)は、使用カメラにより、3面合成画像が自然な視認性となるように任意に設定することができる。(例えば、車両の接地面付近を底部とする碗状の球面や、特許文献2に例示されている車両が配置される矩形の配置面から延設された円形状の平面と前記平面から延設された曲面とからなる球面等、任意の球面の一部とすることができる)。また、この曲面(Q)の曲率は、注目する移動物体があるときにその移動物体が最も歪みなく表現されるように、移動物体検出手段(5)により検出された移動物体との距離に基づいて変えるようにすることができる。
上記3面合成画像は表示手段(8)に出力され、表示手段(8)は、その3面合成画像を別途設けられる液晶ディスプレイ等の表示装置に表示するように構成される。
以上の画像作成手段(3)、路面領域抽出手段(4)、移動物体検出手段(5)、移動体領域抽出手段(6)、画像合成手段(7)等は、ハードウェア、ソフトウェアのいずれによって実現されてもよく、具体的な構成は問わない。例えば、図示しないCPU、メモリ(ROM、RAM等)、入出力回路等を備えるマイクロコントローラ(マイクロコンピュータ)を中心に、入出力インターフェース等周辺回路を備えることにより構成することができる。マイクロコントローラとして、画像処理に向いたプロセッサを使用することができる。また、プログラム可能な論理回路、ゲートアレーその他の論理回路を用いて構成されてもよい。
本実施形態の後方モニタは、具体的には図1に示すように構成することができる。後方モニタ1は、後方カメラ21、2つの側後方カメラ22及び23、画像作成手段3、路面領域抽出手段4、移動物体検出手段5、移動体領域抽出手段6、画像合成手段7等を備えて構成されている。
図2は、各カメラとその画角(撮影範囲)の例を示している。各カメラは、いずれも魚眼レンズを用いたカメラである。後方カメラ21は、車両91の後端であるバックドアのドアノブ付近に設けられ、車両91の後方の範囲92aを撮影する。側後方カメラ22、23はそれぞれ車両91の側面から延出するドアミラーに設けられており、車両91の後方を含む左右の範囲93a、94aを撮影する。
後方モニタ1の具体的な動作を、図8に示すフローチャートに基づき説明する。
始めに、画像作成手段3は、後方カメラ21、側後方カメラ22及び23によって撮影される映像をキャプチャすることによって、それぞれ画像(a、b、c)を取得する(ステップS1)。取得される各画像(a、b、c)は、図3に示すように、魚眼レンズによる円形の画像となる。
画像作成手段3により、各取得画像(a、b、c)はそれぞれ球面画像に変換され、後方画像a’、右側後方画像b’及び左側後方画像c’が作成される(ステップS2)。図4は、これによって作成された後方画像、右側後方画像及び左側後方画像(a’、b’、c’)を表している。
次に、路面領域抽出手段4によって、後方画像a’から、路面領域Sが抽出される(ステップS3)。図5(a’)において破線部で囲まれた部分は、路面領域Sを示している。路面領域Sは、左右の側後方カメラの死角となる領域をカバーするように、後方カメラ21によって得られる画像において予め定めた領域とされればよい。領域の形状は直線又は曲線によって囲まれている任意の形状であり、例えば、図5(a’)に示されているように、三角形とすることができる。また、図12(a’)に示されているように長方形としてもよい。
また、移動物体検出手段5によって、後方画像a’から、車両91に接近する移動物体や、車両91に最も近い移動物体が検出されると共に、その移動物体との距離が検出される(ステップS4)。移動物体が複数検出された場合は、車両91に最も近い移動物体、車両91に最も急速に接近する移動物体等を適宜選択して、以降の処理を行うようにすることができる。
後方モニタ1は、通常、右側後方画像b’と、左側後方画像c’と、後方画像a’中の路面領域Sの画像と、をつなぐことによって合成する。具体的には、図5に破線で示されるような右側後方画像b’及び左側後方画像c’の予め定められた領域をそれぞれ切り出して、切り出された左右の各画像と(図6を参照。)、後方画像a’中の路面領域Sの画像とを合成する(ステップS5)。路面領域Sの画像は前面に配置される。更に、各画像の合成にあたり、画像間の境目を中心とした一定幅において所定の混合比率で各画像を混合し、画像間の継ぎ目を軽減する。
これによって、図7に示すような3面合成画像が作成される。この3面合成画像は、所定の曲面Q上に投影した画像として作成することができる。
また、前記ステップS5において移動物体が検出されたかどうか、を判断する(ステップS6)。移動物体が検出された場合には、移動体領域抽出手段6によって、移動物体との距離又はその変化に基づき、後方画像a’から移動物体の画像領域が移動体領域(M)として抽出される(ステップS7)。そして、上記3面合成画像は、更に移動体領域(M)の画像を前面に重ねるように合成される(ステップS8)。すなわち、上記3面合成画像は、右側後方画像b’と、左側後方画像c’と、後方画像a’中の路面領域S及び移動体領域(M)の画像と、がつながれて合成されることとなる。そして、画像間の境目を中心とした一定幅において所定の混合比率で各画像を混合し、画像間の継ぎ目を軽減する。
例えば、図9に示されるように車両91の後方に車両96が接近した場合には、ステップS5において車両96が検出される。そして、ステップS7において、図13に示すように車両96の画像領域が抽出される。これによって、上記3面合成画像には、図15に示すように、接近する車両96が明確に合成される。
上記のように、右側後方画像b’、左側後方画像c’、後方画像a’中の路面領域Sの画像、移動体領域(M)の画像を合成して3面合成画像を作成する場合、その合成手順は問わない。
曲面Q上に投影した画像として作成された3面合成画像は、別途設けられる表示装置に出力して表示する(ステップS9)。
本後方モニタ1では、後方画像a’から移動物体が検出されない場合は、図4に示す後方画像a’中の路面領域Sの画像のみが合成されるため、図7に示すように後方画像a’が3面合成画像中に占める割合が少ない。
一方、図11に示すように後方画像a’から移動物体96が検出された場合は、図12、13の後方画像a’の破線部分に示すように、移動物体96の全体が含まれるような移動体領域(M)の画像が3面合成画像に合成される。このため、図10に表されているように右側後方画像b’や左側後方画像c’に移動物体96の一部が含まれていても、それらは3面合成画像においては後方画像a’から切り出した移動体領域(M)の画像によって隠されることとなり、違和感なく移動物体を表示することができる。また、3面合成画像は曲面Q上に投影した画像として作成されるため、表示される移動物体96の形状の歪みを少なくすることができる。
尚、本発明においては、以上に示した実施形態に限られず、目的、用途に応じて本発明の範囲内で種々変更した態様とすることができる。
1;後方モニタ、21;後方カメラ、22、23;側後方カメラ、
3;画像作成手段、4;路面領域抽出手段、5;移動物体検出手段、6;移動体領域抽出手段、7;画像合成手段、8;表示手段、91;車両。

Claims (4)

  1. 車両の後方、右側後方及び左側後方の映像を表示する後方モニタであって、
    前記車両の後方を撮影する後方カメラ、右側後方を撮影する右側後方カメラ、及び左側後方を撮影する左側後方カメラと、
    前記後方カメラ、前記右側後方カメラ及び前記左側後方カメラによって撮影された映像から、それぞれ後方画像、右側後方画像及び左側後方画像を作成する画像作成手段と、
    前記後方画像から所定の路面領域を抽出する路面領域抽出手段と、
    前記後方画像から移動物体を検出すると共に、前記車両と前記移動物体との距離を検出する移動物体検出手段と、
    前記移動物体検出手段により移動物体が検出された場合には、前記移動物体との距離又はその変化に基づき、前記後方画像から前記移動物体の画像領域を移動体領域として抽出する移動体領域抽出手段と、
    前記右側後方画像と、前記左側後方画像と、前記後方画像における前記路面領域及び前記移動体領域の画像と、を合成して所定の曲面に投影した3面合成画像を作成する画像合成手段と、
    前記3面合成画像を表示する表示手段と、
    を備えることを特徴とする後方モニタ。
  2. 前記移動体領域抽出手段は、前記移動物体検出手段により検出された前記移動物体との距離が所定値以下である場合、及び前記移動物体との距離が小さくなるように変化している場合に、前記移動体領域を抽出する請求項1記載の後方モニタ。
  3. 前記移動物体検出手段は、前記後方画像からエッジを抽出し、そのエッジの強度に基づいて前記移動物体を検出する請求項1又は2に記載の後方モニタ。
  4. 前記画像合成手段は、前記移動物体検出手段により検出された前記移動物体との距離に基づいて前記所定の曲面の曲率を変更する請求項1乃至3のいずれかに記載の後方モニタ。
JP2015097740A 2015-05-12 2015-05-12 後方モニタ Active JP6293089B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015097740A JP6293089B2 (ja) 2015-05-12 2015-05-12 後方モニタ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015097740A JP6293089B2 (ja) 2015-05-12 2015-05-12 後方モニタ

Publications (2)

Publication Number Publication Date
JP2016213759A true JP2016213759A (ja) 2016-12-15
JP6293089B2 JP6293089B2 (ja) 2018-03-14

Family

ID=57551894

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015097740A Active JP6293089B2 (ja) 2015-05-12 2015-05-12 後方モニタ

Country Status (1)

Country Link
JP (1) JP6293089B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019068343A (ja) * 2017-10-04 2019-04-25 株式会社ザクティ 自動二輪車用カメラ装置
JP2019101879A (ja) * 2017-12-05 2019-06-24 トヨタ自動車株式会社 画像表示装置
JP2019159840A (ja) * 2018-03-13 2019-09-19 萩原電気ホールディングス株式会社 画像合成装置及び画像合成方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002298299A (ja) * 2001-03-30 2002-10-11 Toshiba Corp 車両の運転支援装置
JP2004021307A (ja) * 2002-06-12 2004-01-22 Matsushita Electric Ind Co Ltd 運転支援装置
JP2004038624A (ja) * 2002-07-04 2004-02-05 Nissan Motor Co Ltd 車両認識方法、車両認識装置及び車両認識用プログラム
JP2005223524A (ja) * 2004-02-04 2005-08-18 Nissan Motor Co Ltd 車両周辺監視装置
JP2009081664A (ja) * 2007-09-26 2009-04-16 Nissan Motor Co Ltd 車両用周辺監視装置および映像表示方法
JP2010257282A (ja) * 2009-04-27 2010-11-11 Alps Electric Co Ltd 障害物検知装置、および当該装置を搭載した車両
JP2012162212A (ja) * 2011-02-09 2012-08-30 Honda Motor Co Ltd 車両用周辺監視装置
JP2014090315A (ja) * 2012-10-30 2014-05-15 Denso Corp 車載画像生成装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002298299A (ja) * 2001-03-30 2002-10-11 Toshiba Corp 車両の運転支援装置
JP2004021307A (ja) * 2002-06-12 2004-01-22 Matsushita Electric Ind Co Ltd 運転支援装置
JP2004038624A (ja) * 2002-07-04 2004-02-05 Nissan Motor Co Ltd 車両認識方法、車両認識装置及び車両認識用プログラム
JP2005223524A (ja) * 2004-02-04 2005-08-18 Nissan Motor Co Ltd 車両周辺監視装置
JP2009081664A (ja) * 2007-09-26 2009-04-16 Nissan Motor Co Ltd 車両用周辺監視装置および映像表示方法
JP2010257282A (ja) * 2009-04-27 2010-11-11 Alps Electric Co Ltd 障害物検知装置、および当該装置を搭載した車両
JP2012162212A (ja) * 2011-02-09 2012-08-30 Honda Motor Co Ltd 車両用周辺監視装置
JP2014090315A (ja) * 2012-10-30 2014-05-15 Denso Corp 車載画像生成装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019068343A (ja) * 2017-10-04 2019-04-25 株式会社ザクティ 自動二輪車用カメラ装置
JP2019101879A (ja) * 2017-12-05 2019-06-24 トヨタ自動車株式会社 画像表示装置
US10965872B2 (en) 2017-12-05 2021-03-30 Toyota Jidosha Kabushiki Kaisha Image display apparatus
JP2019159840A (ja) * 2018-03-13 2019-09-19 萩原電気ホールディングス株式会社 画像合成装置及び画像合成方法

Also Published As

Publication number Publication date
JP6293089B2 (ja) 2018-03-14

Similar Documents

Publication Publication Date Title
US10899277B2 (en) Vehicular vision system with reduced distortion display
US11472338B2 (en) Method for displaying reduced distortion video images via a vehicular vision system
EP3565739B1 (en) Rear-stitched view panorama for rear-view visualization
JP4583883B2 (ja) 車両用周囲状況表示装置
US8130270B2 (en) Vehicle-mounted image capturing apparatus
JP6091586B1 (ja) 車両用画像処理装置および車両用画像処理システム
JP4257356B2 (ja) 画像生成装置および画像生成方法
JP6469849B2 (ja) ボウル型イメージングシステムにおけるオブジェクト視覚化
US20150042799A1 (en) Object highlighting and sensing in vehicle image display systems
JP4248570B2 (ja) 画像処理装置並びに視界支援装置及び方法
JP4315968B2 (ja) 画像処理装置並びに視界支援装置及び方法
JP5321711B2 (ja) 車両用周辺監視装置および映像表示方法
JP5422902B2 (ja) 画像処理装置、画像処理プログラム、画像処理システム及び画像処理方法
JP5953824B2 (ja) 車両用後方視界支援装置及び車両用後方視界支援方法
KR101093316B1 (ko) 차량주행중 영상정합 방법 및 그 시스템
JP2009081664A (ja) 車両用周辺監視装置および映像表示方法
JP5760999B2 (ja) 画像処理装置及び画像処理方法
JP5178454B2 (ja) 車両周囲監視装置及び車両周囲監視方法
US9162621B2 (en) Parking support apparatus
JP2007180720A (ja) 車両運転支援装置
JP6293089B2 (ja) 後方モニタ
JP2007027948A (ja) 車両周辺監視装置及び車両周辺監視方法
JP5271186B2 (ja) 車両用画像表示装置
KR101614247B1 (ko) 파노라마 영상의 접합면 표시장치
JP7029350B2 (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170327

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180131

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180213

R150 Certificate of patent or registration of utility model

Ref document number: 6293089

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250