JP5113881B2 - 車両周辺監視装置 - Google Patents

車両周辺監視装置 Download PDF

Info

Publication number
JP5113881B2
JP5113881B2 JP2010128181A JP2010128181A JP5113881B2 JP 5113881 B2 JP5113881 B2 JP 5113881B2 JP 2010128181 A JP2010128181 A JP 2010128181A JP 2010128181 A JP2010128181 A JP 2010128181A JP 5113881 B2 JP5113881 B2 JP 5113881B2
Authority
JP
Japan
Prior art keywords
moving object
vehicle
information display
host vehicle
moving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010128181A
Other languages
English (en)
Other versions
JP2011253448A (ja
Inventor
博彦 柳川
秀樹 大塚
勝之 今西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Soken Inc
Original Assignee
Denso Corp
Nippon Soken Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp, Nippon Soken Inc filed Critical Denso Corp
Priority to JP2010128181A priority Critical patent/JP5113881B2/ja
Priority to US13/150,454 priority patent/US8958977B2/en
Publication of JP2011253448A publication Critical patent/JP2011253448A/ja
Application granted granted Critical
Publication of JP5113881B2 publication Critical patent/JP5113881B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/168Driving aids for parking, e.g. acoustic or visual feedback on parking space

Description

本発明は、車両周辺の移動体を監視する車両周辺監視装置に関する。
カメラにより撮影した画像を表示し、運転者の視界を支援する車両周辺監視装置として、例えば、特許文献1に記載されるように、画角が180度(もしくはそれ以上)となる広角レンズを備えたカメラ装置が提案されている。このようなカメラ装置によれば、広い視野範囲を撮影することができる反面、図3に示すように、撮影画像における周囲の物体が小さくなってしまう。特に、後退発進の場合には、左右に駐車された車両とのクリアランスにも注意する必要があり、画面上に小さく表示される物体に運転者は気づきにくい。
そのため、例えば、特許文献2に記載されるように、撮影画像から移動物体を切り出し、移動物体を強調表示するモニタ装置が提案されている。特許文献2では、撮影画像の特徴点のオプティカルフローを計算し、各特徴点の動きベクトルを求めることにより、移動物体の切り出しが可能となる。そして、切り出した移動物体を強調して表示することにより、車両前方の死角に移動物体が存在することを容易に認識することができる。
特開2005−110202号 特開2005−123968号
しかしながら、特許文献2のようにオプティカルフローにより動きベクトルを抽出する画像処理は、計算量が膨大となる。そのため、移動物体の動きに追従して精度良く切り出しを行うためには、別途専用のプロセッサを設け、処理時間を短くする必要が生じる。
本発明は、このようなオプティカルフローによる画像処理を用いることなく、撮影画像から移動物体を検出し、その移動物体の存在を運転者が容易に気づくことができる車両周辺監視装置を提供することを目的とする。
上記目的を達成するために成された請求項1に記載の発明は、自車両に搭載され、自車両外部の周辺を広角レンズによって撮影する撮影装置と、撮影装置にて撮影された撮影画像に撮影画像の2つの無限遠点を結ぶ広角レンズの歪みに合わせた曲線の検出ラインを設定し、検出ラインに沿って移動する移動物体の移動に伴って生じる検出ライン上の画素の明るさの変化量が所定閾値以上となる位置の時間的変化を監視することにより、移動物体の移動方向を検出する検出手段と、検出手段により検出された結果に応じて、情報表示を生成する生成手段とを有する制御装置と、撮影画像及び情報表示を表示する表示装置とを備えることを特徴とする。このように、請求項1に記載の発明においては、移動物体の移動に伴って生じる検出ライン上の画素の明るさの変化を検出することで、オプティカルフローによる画像処理を用いることなく、少ない計算量で移動物体を検出することができる。そして、その検出結果に応じて情報表示を生成し、表示装置にて撮影画像とともに表示するため、運転者は移動物体を容易に認識することができる。ここで、検出ラインとは、必ずしもライン状である必要はなく、所定幅の領域であればよい。また、広角レンズの歪みに合わせた曲線の検出ラインを設定するため、検出に要する処理負荷を削減でき、実空間の路面上に投影した場合に直線に近づくような検出ラインとすることができ、移動物体の検出率を向上することができる。更に、該曲線の検出ラインは、撮影画像の2つの無限遠点を結ぶものであるため、無限遠点付近の移動物体を精度良く検出することができる。また、検出ラインに沿って移動する移動物体の移動に伴って生じる検出ライン上の画素の明るさの変化量が所定閾値以上となる位置の時間的変化を監視することにより、移動物体の移動方向を検出することができる。
この所定閾値は、常に固定である必要はなく、明るさが増加する場合と減少する場合とで変えてもよいし、昼間と夜間とで変えてもよい。実験等により、好適な所定閾値を定めておけば、移動物体の検出精度を向上することができる。
また、移動物体が、検出ライン上においていずれの方向へ移動しているかを検出することができる。
また、請求項4に記載の発明では、検出ラインの実空間上の距離を算出し、自車両から移動物体の位置までの距離を検出する。すなわち、検出ラインを実空間の路面上に投影した場合の距離を、撮影装置のレンズ画角やレンズ歪み係数に応じて算出する。これにより、移動物体が自車両からどの程度離れた位置に存在するかを検出することができる。
かかる生成手段は、請求項5に記載された発明のように、撮影画像の端点近傍から移動物体の位置に対応する点の近傍まで、第1端部に沿うよう情報表示を生成する。これにより、運転者は、どの位置に移動物体が存在するかを容易に把握することができる。
また、請求項6に記載の発明では、移動物体の移動方向が撮影画像における第2端部から他の端部へ向かう方向である場合、第2端部に沿うよう情報表示を生成する。これにより、運転者は、いずれの方向から移動物体が移動してくるかを瞬時に認識することができる。ゆえに、例えば、広角レンズにより、画像周囲の移動物体が小さく撮影された場合であっても、移動物体に対する注意喚起を運転者へ促すことができ、安全性を向上させることができる。
また、請求項7に記載の発明では、移動物体が自車両に近づくと判断した場合、情報表示の生成を行い、移動物体が自車両から遠ざかると判断した場合、情報表示の生成を行わないよう構成する。移動物体が自車両に近づく場合は運転者への注意喚起の必要性が高いが、自車両から遠ざかる場合には注意喚起の必要性は低い。ゆえに、移動物体が自車両に近づくか遠ざかるかを判断し、遠ざかる場合には情報表示の生成を行わないこととする。これにより、運転者にとって必要性の低い情報表示を抑制することができる。
また、情報表示の態様は、請求項8に記載された発明のように、移動物体の位置もしくは自車両から移動物体までの距離に応じて変化させてもよい。または、請求項9に記載された発明のように、移動物体の移動速度に応じて変化させてもよい。具体的には、請求項10に記載された発明のように、情報表示の色、太さ、点滅間隔の少なくともいずれか1つを変化させるよう構成する。このように、警告度合いに関係のある検出結果に応じて情報表示の態様を変化させることにより、運転者に対して好適な注意喚起を与えることができる。
ここで、広角レンズで撮影された画像には、2つの無限遠点(消失点とも言う)が存在する。広角レンズの画角によって、撮影画像中に無限遠点が存在する場合と、撮影画像外に仮想的な無限遠点が存在する場合とがあり得るが、本発明はいずれの場合をも含む概念である
また、請求項に記載の発明では、自車両の速度が所定値以上となる場合、検出手段による明るさの変化の検出もしくは生成手段による情報表示の生成を中断することを特徴とする。自車両の速度が速くなると、撮影画像における背景の変化量も大きくなり、背景画素の明るさの変化量を移動物体が存在すると誤検出してしまうことがある。そのため、自車両の速度が所定値以上である場合には、移動物体の検出もしくは情報表示の生成を中断することで、運転者に対する誤った注意喚起を防止することができる。
また、請求項10に記載の発明では、自車両の移動距離が所定値以上となる場合、検出手段による明るさの変化の検出もしくは生成手段による情報表示の生成を中止することを特徴とする。例えば、自車両周辺の見通しが悪い状況であっても、自車両の全長分の距離を移動すれば、運転者が目視にて移動物体を確認できる場面も多い。そのため、移動物体の検出もしくは情報表示の生成を中止することにより、運転者に対する必要性の低い注意喚起を抑制することができる。
また、請求項11に記載の発明では、自車両のギア位置が後退位置となる場合、検出手段による明るさの変化の検出及び生成手段による情報表示の生成を行うことを特徴とする。これにより、特に後退時のように、運転者が移動物体を目視により確認しづらい状況において、安全性を向上させることができる。
第1の実施形態における車両周辺監視装置の全体構成を示す概略図である。 駐車場において後退発進する様子を示した俯瞰図である。 表示装置における後方画像の表示例を示す図である。 撮影画像において移動物体を検出する領域を示す図である。 昼間における移動物体を撮影した後方画像、及び検出ライン上における画素の明るさの変化を示すグラフである。 夜間における移動物体を撮影した後方画像、及び検出ライン上における画素の明るさの変化を示すグラフである 右方向から移動物体が接近してくる場合の合成画像を示す図である。 左方向から移動物体が接近してくる場合の合成画像を示す図である。 第1の実施形態における車両周辺監視装置の処理を示すフローチャートである。 第1の実施形態の変形例1における車両周辺監視装置の処理を示すフローチャートである。 第1の実施形態の変形例3における車両周辺監視装置の処理を示すフローチャートである。
以下、本発明の実施形態について図面を参照しながら説明する。なお、ここで示す実施の形態はあくまでも一実施例であって、本発明は必ずしもこの実施の形態に限定されるものではない。
(第1の実施形態)
第1の実施形態における車両周辺監視装置の構成について、図1乃至図3を用いて説明する。図1は、本実施形態による車両周辺監視装置100の全体構成を示す概略図である。カメラ装置110は、例えば、レンズ面が曲面状に形成されている広角レンズによって構成される。そして、図2に示すように車両後方の端部に配置され、車両の後方180度を撮影する。図2は、本実施形態による車両周辺監視装置100を備えた自車両1が、駐車場において後退発進する様子を示した図である。図2は、車両3と車両4との間に前進駐車された自車両1が後退で発進する状況を示しており、車両1の後方かつ運転者にとって右側(右手側)より、走行車両2が自車両1に接近してくる様子が分かる。自車両1に配置されたカメラ装置110は、破線Lで示される自車両1の後方180度の範囲を撮影する。
制御装置120は、図示しないCPU、後述する各機能を実現するプログラム等を記憶した記憶媒体としてのROM、ワークエリアとしてデータを一時格納するRAM、及びこれらを接続するバスを含んで構成される。CPUが、ROMに記憶されるプログラムを実行することにより、各機能が実現される。
制御装置120は、その機能により、車両状態取得部121(本発明の速度取得手段、ギア位置取得手段に相当)、移動物体検出部122(本発明の検出手段に相当)、及び合成画像生成部123(本発明の生成手段に相当)のブロックに分けることができる。車両状態取得部121は、自車両内の各種センサからギアの位置、車速といった車両の情報を取得し、その情報を移動物体検出部122に出力する。移動物体検出部122は、カメラ装置110から出力される撮影画像から、移動物体を検出し、その検出結果及び撮影画像を合成画像生成部123に出力する。また、車両状態取得部121から出力されるギアの位置や車速によって、移動物体の検出を中止したり開始したりする。合成画像生成部123は、移動物体の検出結果に基づき、撮影画像に対して、運転者が移動物体を認識できるような情報表示を合成し、表示装置130に出力する。また、音声出力装置140に対し、警告音の出力を指示してもよい。
表示装置130は、例えば、液晶ディスプレイ、有機ELディスプレイ、プラズマディスプレイ等を用いて構成することができる。そして、車室内における運転者が視認可能な位置に設けられ、制御装置120から出力される画像を逐次表示する。図3は、表示装置130における後方画像の表示例である。広角レンズの特性上、走行車両2のように、画像周囲の物体は小さく撮影されることとなる。なお、運転者が視認する都合上、カメラ装置110が撮影した後方画像が左右反転され、表示装置130に表示される。
音声出力装置140は、例えば、スピーカー等を用いて構成することができ、制御装置120からの指示に基づき、アラーム音や音声メッセージを出力する。
次に、移動物体検出部122における移動物体の検出処理について図4乃至図6を用いて説明する。
移動物体検出部122は、まず、撮影画像のうち移動物体を検出する領域を決定する。図4は、移動物体を検出する領域を示す図である。2つの点Pl、Prを結ぶ検出ラインL1(破線)が、移動物体を検出する領域である。ここで、2つの点Pl、Prは、検出したい領域に応じて任意の位置に定めればよく、本実施形態では、左側の無限遠点Plと右側の無限遠点Prとに定めることとする。これら無限遠点Pl、Prは、カメラ装置101を車両に配置した際の高さ、角度、カメラ装置101のレンズ画角及びレンズ歪み係数から任意に設計的に計算すればよい。オプティカルフロー等により無限遠点を検出することもできるが、本実施形態では、予め定めた無限遠点を用いる。なお、無限遠点Pl、Prをそれぞれ同じ分だけ縦方向にずらした2つの点をPl、Prと定めてもよい。また、レンズ画角が180度より小さい場合は、撮影画像の領域外に仮想的な無限遠点Pl、Prを定めておけばよい。
そして、2つの無限遠点Pl、Prとを、レンズ歪み係数に基づいた線で結ぶことにより、検出ラインL1を設定する。すなわち、検出ラインL1を、図4に示すように、実空間の路面上に投影すると直線となるようなレンズの歪みに合わせた線として設定する。この検出ラインL1は、必ずしも1ラインとする必要はなく、所定幅の領域としてもよい。そして、このように検出ラインL1を決定した後、撮影画像の歪みが緩和されるように、画像に対して歪み補正を行ってもよい。
次に、移動物体検出部122は、撮影画像における検出ラインL1上の画素の明るさを監視する。図5は、走行車両2が自車両1に接近してきた場合の後方画像と、検出ラインL1上における画素の明るさの変化を示すグラフの一例である。後方画像は、表示装置130に表示するよう左右反転されている。また、撮影画像の歪みが緩和されるよう、検出ラインL1を含めた画像に対し、歪み補正が行われた状態である。ここで、自車両1の画像は、後方画像と自車両1との位置関係を示すべく、後方画像に対して貼付した画像である。
グラフ横軸は検出ラインL1上における自車両1からの距離[m]を表しており、画像中心、すなわち自車両1の位置を0として、右方向への距離を正数、左方向への距離を負数で表す。横軸の目盛は5[m]刻みであり、右方向への距離として50[m]まで、左方向への距離として−50[m]までを表す。この距離は、実空間における検出ラインL1上の距離であり、カメラ装置101のレンズ画角及びレンズ歪み係数から計算する。歪み補正が行われた場合には、補正による変化も考慮して計算する。これにより、検出ラインL1上の画素の位置と、検出ラインL1を実空間の路面上に投影した場合の直線距離との対応づけを図る。なお、予めこのような対応付けを図らず、検出ラインL1上における特定の点に対し、それぞれ、実空間における直線距離への変換を行ってもよい。
一方、グラフ縦軸は画素の明るさを表しており、8ビット階調として0〜255の輝度レベルを示す。
図5(a)は、走行車両2が存在しない場合の明るさを示している。図5(b)及び(c)は、走行車両2が自車両1に接近してきた場合の明るさを示しており、図5(c)は図(b)の1秒後の状況を示している。これらの図から分かるように、走行車両2が存在する位置において、明るさが大きく減少している。具体的には、図5(b)において、楕円D1で示すように、距離が−7[m]付近で明るさが大きく(輝度レベル100程度)減少している。また、図(c)においては、楕円D2で示すように、距離が−2[m]付近で明るさが大きく(輝度レベル100程度)減少している。図5に示す昼間の例では、検出ラインL1と走行車両2のタイヤ部分が交わったことにより、明るさが大きく減少する結果となっている。しかしながら、検出ラインL1上にどのような背景が撮影されているか、走行車両2のどの部分が検出ラインL1と交わるかによって、明るさが増加する場合もあり得る。従って、昼間の撮影画像であっても、明るさの減少だけでなく、明るさの増加も監視する。
一方、図6は、夜間における後方画像と、検出ラインL1上における画素の明るさの変化を示すグラフの一例である。図6(a)は、走行車両2が存在しない場合の明るさを示している。図6(b)及び(c)は、走行車両2が自車両1に接近してきた場合の明るさを示しており、図6(c)は図(b)の1秒後の状況を示している。夜間の場合、走行車両2のヘッドライトにより、走行車両2が存在する位置において、明るさが大きく増加する。具体的には、図6(b)において、楕円D3で示すように、距離が−10[m]付近で明るさが大きく(輝度レベル200程度)増加している。また、図(c)においては、楕円D4で示すように、距離が−5[m]付近で明るさが大きく(輝度レベル200程度)増加している。
そして、移動物体検出部122は、この明るさの変化量(増加量もしくは減少量)が、所定の閾値以上となる場合、その位置に移動物体が存在すると判断する。ここで、所定の閾値は、実験等により予め適切な値を定めておいてもよいが、移動物体が存在しない検出ラインL1上の画素の明るさに応じて変更するのが好ましい。例えば、図5のように、移動物体が存在しない検出ラインL1上の画素の明るさが256階調における中程度(輝度レベル100〜150程度)であれば、閾値を100とする。また、例えば、図6のように暗かったり(輝度レベル0〜50程度)、逆に明るかったり(輝度レベル200〜255程度)すれば、閾値を150とする。
さらに、移動物体検出部122は、移動物体の位置の時間的変化を監視することにより、移動物体の移動方向及び移動速度を算出する。図5の例では、−7[m]付近に存在していた走行車両2が、1秒後には、−2[m]付近に移動していることから、走行車両2は左側から右側へ時速18[km]で移動してくることを算出できる。同様に、図6の例では、−10[m]付近に存在していた走行車両2が、1秒後には、−5[m]付近に移動していることから、走行車両2は左側から右側へ時速18[km]で移動してくることを算出できる。なお、明るさの変化量が所定の閾値以上となる位置が複数存在する場合、自車両1に接近する移動方向であり、かつ自車両1との距離が最も近い物体のみ、移動物体として検出してもよい。
そして、移動物体検出部122は、撮影画像とともに、移動物体の検出結果として、移動物体の位置、移動方向及び移動速度を合成画像生成部123に出力する。
続いて、合成画像生成部123における情報表示の合成処理について図7乃至図8を用いて説明する。合成画像生成部123は、撮影画像に対し、移動物体検出部122から出力される検出結果に基づき、情報表示の合成画像を生成する。図7乃至図8は、本実施形態における合成画像の生成例である。
合成画像生成部123は、移動物体の移動方向に応じて、撮影画像の左端もしくは右端に沿ってマーカM1を合成する。図7は、右方向から左方向へ走行車両2が移動する場合の合成画像である。運転者に対して右方向への注意喚起を促すため、右枠に沿って、赤色のマーカM1を合成する。ここで、マーカM1の色は、運転者への注意喚起を促す色であればよく、例えば、黄色や橙色にしてもよい。
また、合成画像生成部123は、移動物体の位置に応じて、撮影画像の上端及び下端に沿ってマーカM2を合成する。図8は、左方向から右方向へ走行車両2が移動する場合の合成画像である。撮影画像の端(もしくはその近傍)から走行車両2の位置(もしくはその近傍)まで、撮影画像の上端及び下端に沿って赤色のマーカM2を合成する。このマーカM2は、図8(a)及び(b)に示すように、自車両1と移動物体との距離が近いほど、上端及び下端のマーカM2が長くなる。このマーカM2と前述したマーカM1とを同時に表示させると、図8のように左方向から右方向へ移動する場合は逆コの字、反対に、右方向から左方向へ移動する場合はコの字状のマーカMが形成されることとなる。なお、このマーカM2は、上端もしくは下端のいずれか一方のみとしてもよい。
そして、左方向から右方向へ移動する走行車両2の位置が0(自車両1の位置)を超えるまでは、自車両に接近してくる移動物体、すなわち警告が必要な移動物体と判断し、マーカMの合成を継続する。一方、走行車両2の位置が0を越えた場合は、自車両から遠ざかる移動物体、すなわち警告が不要な移動物体と判断し、マーカMの合成を中止する。
ここで、マーカMの態様は、走行車両2の位置、すなわち自車両1と走行車両2との距離に応じて変化させてもよい。例えば、自車両1に対して走行車両2が遠くに位置する場合はマーカMの色を黄色とし、走行車両2が接近するにつれ、橙色、赤色といった警告度合いの強い色に変化させる。また、移動物体が遠くに位置する場合はマーカMの線を細く、移動物体が接近するにつれて線を太くしたり、移動物体が遠くに位置する場合は点滅なしもしくは点滅間隔を長くし、移動物体が接近するにつれて点滅間隔を短くしたりする。
同様に、走行車両2の移動速度に応じてマーカMの態様を変化させてもよい。例えば、走行車両2の移動速度が速いほど、マーカMの色を黄色、橙色、赤色といった警告度合いの強い色にしたり、マーカMの線を太くしたり、マーカMの点滅間隔を短くしたりする。なお、マーカM1、M2は同一の表示態様としてもよいし、それぞれ別の表示態様としてもよい。また、マーカMに代えて、アラーム音や音声メッセージを生成してもよいし、移動物体への注意喚起を高めるべく、マーカMに加え、アラーム音や音声メッセージを生成してもよい。
このように、合成画像生成部123において生成された合成画像は、表示装置130にて画面に表示され、生成されたアラーム音や音声メッセージは、音声出力装置140にて出力される。なお、移動物体が存在しない場合、撮影画像に対する情報表示の合成は行われず、表示装置130は、撮影画像そのものを表示することとなる。
続いて、本実施形態による車両周辺監視装置100全体の処理フローについて図9用いて説明する。図9は、車両周辺監視装置100の処理を示すフローチャートである。
まず、ステップS101で、イグニッション(IG)がオン(ON)になると、車両周辺監視装置100が起動され、制御装置120における車両状態取得部121は、ギアの位置を監視する。
次に、ステップS102では、ギアの位置が後退位置(Rレンジ)に変化したことを検出すると(ステップS102:Y)、ステップS103へ進む。ステップS103では、カメラ装置110から出力される撮影画像の入力を受ける。
そして、ステップS104で、上述した移動物体の検出処理を行う。移動物体が検出された場合(ステップS104:Y)、ステップS105へ進む。ステップS105では、上述した情報表示の合成処理や、アラーム音や音声メッセージの生成処理を行う。一方、移動物体が検出されなかった場合(ステップS104:N)、情報表示の合成処理は行わず、撮影画像そのものを表示装置130に出力する。
ステップS106では、合成画像生成部123から出力される画像を表示し、また、音声出力装置140は、アラーム音や音声メッセージを出力する。これらステップS103〜S106の処理は、ギアの位置がRレンジの間継続される。ギアの位置がRレンジ以外に変化すると(ステップS102:N)、これらステップS103〜S106の処理は中断される(ステップS107)。
なお、駐車状態からの後退発進時にのみ移動物体の検出処理を行いたい場合は、イグニッションがオンされた後のギア位置が、Pレンジ(駐車位置)からRレンジへ変化したことを検出すればよい。または、イグニッションがオンされた後の車速が0の間に、Rレンジへ変化したことを検出してもよい。
このように、2つの端点Pl、Prを結ぶ検出ラインL1を設定し、検出ラインL1における画素の明るさの変化量を監視することにより、オプティカルフローを用いず、少ない計算量で移動物体を検出することができる。さらに、情報表示としてマーカM1、M2を画面に表示させることで、広角レンズの特性上、小さく撮影される画像周囲の移動物体に対しても、注意喚起を促すことができる。特に、後退発進する場面のように、左右の駐車車両とのクリアランス等に注意しつつ運転する状況では、画面に表示される後方画像を運転者が常に注視することは困難であり、小さく表示される画像周囲の移動物体には気づきにくい。しかしながら、マーカM1、M2が画面に表示されれば、後方画像を常に注視しなくとも、運転者は移動物体の存在を容易に認識することができる。このように、運転者に対して注意喚起することで、運転の安全性を向上させることができる。
また、マーカM1の表示により、いずれの方向に移動物体が存在するかが分かるため、運転者は瞬時にその方向に対して注意を払うことができる。加えて、マーカM2の表示により、どの位置に移動物体が存在するかを把握することができる。このマーカM2は、移動物体が接近するほど長く表示されるため、運転者に対して移動物体の接近度合いを警告することができる。そして、移動物体が自車両に接近してくる場合はマーカMを合成し、遠ざかる場合は合成しないことにより、運転者にとって必要性の低い情報表示が行われることを抑制することができる。
さらに、移動物体の位置や移動速度に応じてマーカM1、M2の表示態様を変化させることにより、移動物体に対する警告度合いを表し、運転者に対して好適な注意喚起を与えることができる。また、アラーム音や音声メッセージを出力により、運転者に対して聴覚による注意喚起を与えることもできる。
なお、本実施形態では、情報表示としてマーカの合成処理について説明したが、合成を用いない表示方法でもよい。例えば、撮影画像における画素の色を変更したり、液晶ディスプレイに生成される画素の色を変更したりして、情報表示を行ってもよい。
(第1の実施形態の変形例1)
第1の実施形態では、図9のフローチャートに示すように、ギアの位置を監視することにより、移動物体の検出を開始または中断する車両周辺監視装置100について説明した。本変形例では、ギアの位置に加え、自車両1の速度を監視することにより、移動物体の検出を中断する車両周辺監視装置100について図10を用いて説明する。
図10は、本変形例における車両周辺監視装置100の処理を示すフローチャートである。第1の実施形態と同一の処理については同一の番号を付し、記載を省略する。
まず、ステップS101で、イグニッション(IG)がオン(ON)になると、車両周辺監視装置100が起動され、自車両のギア位置及び速度を監視する。そして、ステップS108で、自車両の速度が所定値α未満である場合(ステップS108:Y)、上述した移動物体の検出処理を行う。一方、自車両の速度が所定値α以上である場合(ステップS108:N)、移動物体の検出処理を中断し、ステップS109へ進む。
ステップS109では、移動物体検出処理を中断する旨の合成メッセージを生成する。例えば、「車速が速すぎるため検出を中断します」というメッセージを撮影画像に対して合成し、表示装置130にて画面に所定時間表示する(ステップS106)。
移動物体検出処理は、上述した通り、検出ラインL1における画素の明るさの変化量が所定の閾値以上となる場合、移動物体が存在すると判断する。しかし、自車両の速度が速くなると、撮影画像における背景の変化量も大きくなる。そして、検出ラインL1上における背景画素の明るさの変化量を、移動物体が存在すると誤検出してしまうことがある。背景のパターンにもよるが、自車両の速度が速くなるにつれて、誤検出の割合も高くなる。そのため、本変形例のように、自車両の速度が所定値α以上である場合には、移動物体の検出処理を中断する。この所定値αは、実験等により好適な値を予め定めておけばよい。
これにより、運転者に対して誤った注意喚起を促すことを抑制することができる。なお、本変形例では、自車両の速度が所定値α以上である場合、移動物体の検出処理を中断したが、合成画像生成部123における情報表示の合成処理を中断してもよい。
(第1の実施形態の変形例2)
本変形例では、自車両1の速度から自車両の移動距離を算出することにより、移動物体の検出を中止する車両周辺監視装置100について説明する。
移動物体検出部122は、自車両1の移動距離が所定値β以上となった場合、移動物体の検出処理を中止する。中止にともなう合成メッセージの生成は行わない。ここで、所定値βは、自車両1の全長に相当する距離を設定するとよい。すなわち、図2に示す駐車場のような状況では、自車両1の全長分の距離を後退すれば、運転者が目視にて移動物体を確認できることとなる。ゆえに、移動物体の検出処理を中止し、運転者により必要性の低い注意喚起を促すことを抑制することができる。なお、本変形例では、自車両1の移動距離が所定値β以上となった場合、移動物体の検出処理を中止したが、合成画像生成部123における情報表示の合成処理を中止してもよい。
(第1の実施形態の変形例3)
第1の実施形態では、前進駐車された自車両1が後退発進する状況において、後方画像を表示する場合について説明した。本変形例では、前進する自車両1が見通しの悪い交差点等へ進入するときに、前方画像を表示する例について図11を用いて説明する。
図11は、本実施形態における車両周辺監視装置100の処理を示すフローチャートである。上述の実施形態と同一の処理については同一の番号を付し、記載を省略する。
まず、ステップS101で、イグニッション(IG)がオン(ON)になると、車両周辺監視装置100が起動され、自車両のギア位置及び速度を監視する。
次に、ステップS110及びS111で、ギアの位置が前進位置(Dレンジ等)かつ自車両1が交差点に進入することを検出すると(ステップS110:Y、ステップS111:Y)、ステップS103〜S106の処理を行う。交差点に進入しているか否かは、自車両1が減速し、停止したことにより判断してもよいし、ナビゲーション装置(図示せず)からの情報を取得して見通しの悪い交差点に進入しているか否かを判断してもよい。また、無線通信装置(図示せず)を備え、路車間通信によって、自車両1が交差点に進入することを検出するようにしてもよい。なお、カメラ装置110が自車両1の前方端部に配置され、自車両1の前方180度を撮影する点以外は、ステップS103〜S106の処理は上述した実施形態と同一である。
一方、ギアの位置が前進位置以外に変化した場合(ステップS110:N)や、自車両1が交差点に位置しない場合(ステップS111:N)は、ステップS103〜S106の処理を中断する(ステップS107)。
このように、自車両1が前進し、見通しの悪い交差点等へ進入する場合においても、本発明を適用することができる。そして、オプティカルフローを用いず、少ない計算量で移動物体を検出するとともに、情報表示としてマーカM1、M2を画面に表示させることで運転者に注意喚起を促し、安全性を向上することができる。
なお、上述した各実施形態では、左側と右側に無限遠点を有する撮影画像における移動物体検出処理について説明した。しかしながら、本発明は、上側と下側に無限遠点を有する撮影画像においても適用可能である。さらに、移動物体としては、車両だけでなく、バイク、自転車、及び通行者の検出も可能である。
また、本発明は、上述した実施形態の構成要素を適宜組み合わせることが可能であり、その組み合わせにより多くのバリエーションが可能となる。
100 車両周辺監視装置
110 カメラ装置
120 制御装置
121 車両状態取得部
122 移動物体検出部
123 合成画像生成部
130 表示装置
140 音声出力装置

Claims (11)

  1. 自車両に搭載され、前記自車両外部の周辺を広角レンズによって撮影する撮影装置と、
    前記撮影装置にて撮影された撮影画像に前記撮影画像の2つの無限遠点を結ぶ前記広角レンズの歪みに合わせた曲線の検出ラインを設定し、前記検出ラインに沿って移動する移動物体の移動に伴って生じる前記検出ライン上の画素の明るさの変化量が所定閾値以上となる位置の時間的変化を監視することにより、前記移動物体の移動方向を検出する検出手段と、前記検出手段により検出された結果に応じて、情報表示を生成する生成手段とを有する制御装置と、
    前記撮影画像及び前記情報表示を表示する表示装置と
    を備えることを特徴とする車両周辺監視装置。
  2. 前記検出手段は、前記検出ラインの実空間上の距離を算出し、前記自車両から前記移動物体の位置までの距離を検出することを特徴とする請求項に記載の車両周辺監視装置。
  3. 前記生成手段は、前記撮影画像の端点近傍から前記移動物体の位置に対応する点の近傍まで、前記第1端部に沿うよう前記情報表示を生成することを特徴とする請求項又はに記載の車両周辺監視装置。
  4. 前記生成手段は、前記移動物体の移動方向が前記撮影画像における第2端部から他の端部へ向かう方向である場合、当該第2端部に沿うよう前記情報表示を生成することを特徴とする請求項乃至いずれかに記載の車両周辺監視装置。
  5. 前記生成手段は、前記検出手段により検出された結果に基づき、前記移動物体が前記自車両に近づくと判断した場合、前記情報表示の生成を行い、前記移動物体が前記自車両から遠ざかると判断した場合、前記情報表示の生成を行わないことを特徴とする請求項乃至いずれかに記載の車両周辺監視装置。
  6. 前記生成手段は、前記移動物体の位置もしくは前記自車両から前記移動物体までの距離に応じて、前記情報表示の態様を変化させることを特徴とする請求項乃至いずれかに記載の車両周辺監視装置。
  7. 前記検出手段は、前記移動物体の位置の時間的変化を監視することにより、前記移動物体の移動速度を検出し、
    前記生成手段は、前記移動物体の移動速度に応じて、前記情報表示の態様を変化させることを特徴とする請求項乃至いずれかに記載の車両周辺監視装置。
  8. 前記生成手段は、前記情報表示の態様として、当該情報表示の色、太さ、点滅間隔の少なくともいずれか1つを変化させることを特徴とする請求項又はに記載の車両周辺監視装置。
  9. 前記制御装置は、前記自車両の速度を取得する速度取得手段を有し、
    前記速度取得手段にて取得した前記自車両の速度が所定値以上となる場合、前記検出手段による前記明るさの変化の検出もしくは前記生成手段による前記情報表示の生成を中断することを特徴とする請求項1乃至いずれかに記載の車両周辺監視装置。
  10. 前記制御装置は、前記自車両の速度を取得する速度取得手段を有し、
    前記速度取得手段にて取得した前記自車両の速度から移動距離を算出し、当該移動距離が所定値以上となる場合、前記検出手段による前記明るさの変化の検出もしくは前記生成手段による前記情報表示の生成を中止することを特徴とする請求項1乃至いずれかに記載の車両周辺監視装置。
  11. 前記撮影装置は、前記自車両の後方を撮影し、
    前記制御装置は、前記自車両のギア位置を取得するギア位置取得手段を有し、
    前記ギア位置取得手段にて取得した前記自車両のギア位置が後退位置となる場合、前記検出手段による前記明るさの変化の検出及び前記生成手段による前記情報表示の生成を行うことを特徴とする請求項1乃至10いずれかに記載の車両周辺監視装置。
JP2010128181A 2010-06-03 2010-06-03 車両周辺監視装置 Expired - Fee Related JP5113881B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010128181A JP5113881B2 (ja) 2010-06-03 2010-06-03 車両周辺監視装置
US13/150,454 US8958977B2 (en) 2010-06-03 2011-06-01 Vehicle perimeter monitor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010128181A JP5113881B2 (ja) 2010-06-03 2010-06-03 車両周辺監視装置

Publications (2)

Publication Number Publication Date
JP2011253448A JP2011253448A (ja) 2011-12-15
JP5113881B2 true JP5113881B2 (ja) 2013-01-09

Family

ID=45065124

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010128181A Expired - Fee Related JP5113881B2 (ja) 2010-06-03 2010-06-03 車両周辺監視装置

Country Status (2)

Country Link
US (1) US8958977B2 (ja)
JP (1) JP5113881B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5477394B2 (ja) * 2012-01-10 2014-04-23 株式会社デンソー 車両周辺監視装置
JP5459324B2 (ja) * 2012-01-17 2014-04-02 株式会社デンソー 車両周辺監視装置
EP2814016A4 (en) * 2012-02-06 2016-05-25 Toyota Motor Co Ltd OBJECT DETECTION DEVICE
JP2013171391A (ja) * 2012-02-20 2013-09-02 Toyota Motor Corp 車両周辺監視システム
JP5930808B2 (ja) * 2012-04-04 2016-06-08 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、およびプログラム
CN102890470A (zh) * 2012-09-28 2013-01-23 华北电力大学 一种可移动智能监控与分析装置
JP2014071080A (ja) * 2012-10-01 2014-04-21 Denso Corp 車両の移動方向検出装置、及びコンピュータプログラム
JPWO2015162910A1 (ja) * 2014-04-24 2017-04-13 パナソニックIpマネジメント株式会社 車載用表示装置、車載用表示装置の制御方法、プログラム
JP6224029B2 (ja) * 2015-05-21 2017-11-01 富士通テン株式会社 画像処理装置および画像処理方法
DE102016210632A1 (de) * 2016-06-15 2017-12-21 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum Überprüfen eines Medienverlustes eines Kraftfahrzeuges sowie Kraftfahrzeug und System zum Ausführen eines solchen Verfahrens
JP6703471B2 (ja) * 2016-11-18 2020-06-03 株式会社Soken 物体検知装置
US20220262128A1 (en) * 2019-07-12 2022-08-18 Nissan Motor Co., Ltd. Information processing device, information processing method, and information processing program

Family Cites Families (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6431294A (en) * 1987-07-27 1989-02-01 Hino Motors Ltd Vehicle abnormality sensing informing device
JP2779632B2 (ja) 1988-12-21 1998-07-23 日本信号株式会社 画像式車両検知方法
KR100412434B1 (ko) 1996-11-09 2004-03-19 현대자동차주식회사 영상시스템을 이용한 차량인식방법
US7647180B2 (en) * 1997-10-22 2010-01-12 Intelligent Technologies International, Inc. Vehicular intersection management techniques
JP3373773B2 (ja) * 1998-01-27 2003-02-04 株式会社デンソー レーンマーク認識装置、車両走行制御装置および記録媒体
US6591000B1 (en) * 1998-04-21 2003-07-08 Denso Corporation Apparatus and method for preprocessing a picked-up image, lane mark recognizing system, related vehicle traveling control system, and recording media
EP1078803B1 (en) * 1998-05-11 2007-03-07 Hitachi, Ltd. Vehicle and device and method for controlling running of the same
JP2000238594A (ja) * 1998-12-25 2000-09-05 Aisin Aw Co Ltd 運転支援装置
US6633669B1 (en) * 1999-10-21 2003-10-14 3M Innovative Properties Company Autogrid analysis
JP3645196B2 (ja) * 2001-02-09 2005-05-11 松下電器産業株式会社 画像合成装置
JP4100026B2 (ja) * 2002-04-11 2008-06-11 三菱自動車工業株式会社 発進支援装置
EP1504276B1 (en) * 2002-05-03 2012-08-08 Donnelly Corporation Object detection system for vehicle
JP2004056486A (ja) * 2002-07-19 2004-02-19 Auto Network Gijutsu Kenkyusho:Kk 車両周辺監視装置
JP2005025692A (ja) * 2003-07-04 2005-01-27 Suzuki Motor Corp 車両用情報提供装置
JP2005110202A (ja) * 2003-09-08 2005-04-21 Auto Network Gijutsu Kenkyusho:Kk カメラ装置及び車両周辺監視装置
JP4228212B2 (ja) 2003-10-17 2009-02-25 三菱自動車工業株式会社 ノーズビューモニタ装置
US7672507B2 (en) * 2004-01-30 2010-03-02 Hewlett-Packard Development Company, L.P. Image processing methods and systems
JP2005316607A (ja) * 2004-04-27 2005-11-10 Toyota Motor Corp 画像処理装置及び画像処理方法
WO2005125208A1 (ja) 2004-06-15 2005-12-29 Matsushita Electric Industrial Co., Ltd. 監視装置および車両周辺監視装置
JP4760089B2 (ja) 2004-10-14 2011-08-31 日産自動車株式会社 車載画像処理装置、および画像処理方法
JP4643220B2 (ja) * 2004-10-21 2011-03-02 富士通オプティカルコンポーネンツ株式会社 光送信装置
JP2007008200A (ja) * 2005-06-28 2007-01-18 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置
JP4473232B2 (ja) * 2006-04-26 2010-06-02 株式会社日本自動車部品総合研究所 車載用車両前方環境検出装置および車両用照明装置
US20090263023A1 (en) * 2006-05-25 2009-10-22 Nec Corporation Video special effect detection device, video special effect detection method, video special effect detection program, and video replay device
JP2008098858A (ja) * 2006-10-10 2008-04-24 Auto Network Gijutsu Kenkyusho:Kk 車両周辺監視装置
US9317110B2 (en) * 2007-05-29 2016-04-19 Cfph, Llc Game with hand motion control
JP5271511B2 (ja) * 2007-06-14 2013-08-21 富士通テン株式会社 運転支援装置および画像表示装置
US7965866B2 (en) * 2007-07-03 2011-06-21 Shoppertrak Rct Corporation System and process for detecting, tracking and counting human objects of interest
JP4724888B2 (ja) * 2007-08-06 2011-07-13 大阪府 移動体検知装置、移動体撮像システム、移動体撮像方法、および移動体検知プログラム
JP2009060404A (ja) * 2007-08-31 2009-03-19 Denso Corp 映像処理装置
US8694195B2 (en) * 2007-12-04 2014-04-08 Volkswagen Ag Motor vehicle having a wheel-view camera and method for controlling a wheel-view camera system
US8427574B2 (en) * 2008-09-11 2013-04-23 Panasonic Corporation Camera body and imaging device controlling display based on detected mounting state of lens
JP5456330B2 (ja) * 2009-02-04 2014-03-26 アルパイン株式会社 画像表示装置及びそのカメラ取り付け角度算出方法
JP5403330B2 (ja) * 2009-02-25 2014-01-29 アイシン精機株式会社 駐車支援装置
JP5035284B2 (ja) 2009-03-25 2012-09-26 株式会社日本自動車部品総合研究所 車両周辺表示装置
US8350724B2 (en) * 2009-04-02 2013-01-08 GM Global Technology Operations LLC Rear parking assist on full rear-window head-up display
US8330673B2 (en) * 2009-04-02 2012-12-11 GM Global Technology Operations LLC Scan loop optimization of vector projection display
EP2327460B1 (en) * 2009-07-24 2022-01-12 Nintendo Co., Ltd. Game system and controller
JP5493705B2 (ja) * 2009-10-27 2014-05-14 富士通株式会社 車両位置検出装置、車両位置検出方法、及び車両位置検出プログラム
JP5035321B2 (ja) * 2009-11-02 2012-09-26 株式会社デンソー 車両周辺表示制御装置および車両周辺表示制御装置用のプログラム
JP2011118482A (ja) * 2009-11-30 2011-06-16 Fujitsu Ten Ltd 車載装置および認知支援システム
JP5396620B2 (ja) * 2010-01-08 2014-01-22 任天堂株式会社 情報処理プログラム及び情報処理装置
JP5640430B2 (ja) * 2010-03-31 2014-12-17 ソニー株式会社 画像配信管理サーバ及び画像配信管理システム
JP5578518B2 (ja) * 2010-06-10 2014-08-27 任天堂株式会社 呼吸指示プログラム、呼吸指示装置、呼吸指示システム、および呼吸指示処理方法
US8414349B2 (en) * 2011-06-01 2013-04-09 Nintendo Co., Ltd. Remotely controlled mobile device control system

Also Published As

Publication number Publication date
JP2011253448A (ja) 2011-12-15
US8958977B2 (en) 2015-02-17
US20110301846A1 (en) 2011-12-08

Similar Documents

Publication Publication Date Title
JP5113881B2 (ja) 車両周辺監視装置
JP5744352B2 (ja) 車両周辺表示装置
JP4687411B2 (ja) 車両周辺画像処理装置及びプログラム
JP5704902B2 (ja) 運転支援装置及び運転支援方法
JP5213063B2 (ja) 車両表示装置および表示方法
US20110228980A1 (en) Control apparatus and vehicle surrounding monitoring apparatus
US9691283B2 (en) Obstacle alert device
JP2009116723A (ja) 車線変更支援装置
EP2476587B1 (en) Vehicle surrounding monitor apparatus
US20100201818A1 (en) Vehicle periphery displaying apparatus
JP6205640B2 (ja) 車両用警告装置
KR102045088B1 (ko) 영상 표시 방법 및 이를 위한 위한 장치
JP2010130646A (ja) 車両周辺確認装置
KR101888960B1 (ko) 도로 평탄도 측정 장치 및 방법
JP2007221200A (ja) 車両周辺監視装置
WO2013065341A1 (ja) 障害物警報装置
JP2012221116A (ja) 車両用危険予知システム
JP2016088187A (ja) 車両用透過表示装置
JP2010095202A (ja) ルームミラー位置後視カメラ画像表示装置
JP4986070B2 (ja) 車両用周囲監視装置
JP5861449B2 (ja) 障害物警報装置
JP2013161440A (ja) 車両周辺監視装置
JP2011211432A (ja) 車載用撮像装置
KR102010407B1 (ko) 스마트 리어뷰 시스템
US9082021B2 (en) Obstacle alert device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120613

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120613

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120730

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121009

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121012

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151019

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5113881

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees