JP5054612B2 - 接近物検出装置および接近物検出方法 - Google Patents

接近物検出装置および接近物検出方法 Download PDF

Info

Publication number
JP5054612B2
JP5054612B2 JP2008127798A JP2008127798A JP5054612B2 JP 5054612 B2 JP5054612 B2 JP 5054612B2 JP 2008127798 A JP2008127798 A JP 2008127798A JP 2008127798 A JP2008127798 A JP 2008127798A JP 5054612 B2 JP5054612 B2 JP 5054612B2
Authority
JP
Japan
Prior art keywords
vehicle
optical flow
moving image
approaching object
turning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008127798A
Other languages
English (en)
Other versions
JP2009277021A (ja
Inventor
利幸 青木
裕人 森實
吉孝 内田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd, Hitachi Ltd filed Critical Clarion Co Ltd
Priority to JP2008127798A priority Critical patent/JP5054612B2/ja
Publication of JP2009277021A publication Critical patent/JP2009277021A/ja
Application granted granted Critical
Publication of JP5054612B2 publication Critical patent/JP5054612B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、車両の前部側方から接近する接近物を検出する接近物検出装置および接近物検出方法に関する。
近年、道路を走行する乗用車などの車両においては、しばしば、車両の前端部にカメラが設けられ、そのカメラにより取得される左右側方の映像が車内の表示装置に表示され、ドライバが交差点などにおいて左右側方から接近する接近物(車両、自転車、人など)を容易に確認できるようにされている。特許文献1には、その映像(動画像)の中から、接近物を自動的に検出する接近物検出装置が開示されている。
その接近物検出装置では、動画像中における接近物検出の基礎技術としてオプティカルフローが用いられている。オプティカルフローとは、動画像の中で移動する物体の見かけの移動速度をベクトルとして表したものである。例えば、動画像における移動物体上に固定した点Pが、ある時刻(つまり、あるフレーム)で画素位置(x1,y1)にあり、単位時間後の時刻(例えば、次のフレーム)に画素位置(x2,y2)に移動したとすれば、画素位置(x1,y1)におけるオプティカルフローは、(x2−x1,y2−y1)なるベクトルで表すことができる。
一般に、車両が走行しているとき、車両の前部側方の動画像の広い領域には、車両の進行方向と反対方向の成分を有するオプティカルフローが現れる。そこで、特許文献1に記載の接近物検出装置では、そのオプティカルフローが現れた広い領域の中にあって、車両の走行方向と同じ方向成分を有するオプティカルフローの小領域が現れた場合には、その小領域部分に自車両に接近する接近物があると判断する。このようにして、前部側方の動画像から得られるオプティカルフローにより接近物を検出することができる。
しかしながら、車両が交差点などで旋回(右折または左折)する場合には、その動画像に現れるオプティカルフローの状況が大きく変化するために、オプティカルフローからだけでは接近物を検出することができなくなり、接近物を誤検出(検出漏れを含む)するようになる。そこで、特許文献1に記載された接近物検出装置では、操舵角検出手段を設け、その操舵角検出手段により車両の旋回を検出したときには、オプティカルフローによる接近物の検出を停止させ、接近物の誤検出を防止するとしている。
特開2005−276056号公報
特許文献1に記載された接近物検出装置の場合には、旋回を検出するための操舵角検出手段として操舵角センサやジャイロ装置などが必要となる。また、接近物検出装置には、操舵角センサやジャイロ装置などからの信号を受けるためのコネクタやインタフェース回路が必要となる。そのため、接近物検出装置の部品数が多くなり、その分、接近物検出装置が大型化したり、その製造コストが増加したりする。
そこで、本発明の目的は、ハードウエアを増加させることなく、車両の旋回を検出し、適切に接近物を検出することが可能な接近物検出装置および接近物検出方法を提供することにある。
本発明の接近物検出装置は、車両の前端部に設けられたカメラにより撮影された車両の前部側方の動画像に基づき、車両の側方から接近する接近物を検出する接近物検出装置であって、前記カメラから車両の前部側方の動画像を取得する画像取得部と、その取得した動画像を記憶する画像記憶部と、その画像記憶部に記憶した動画像に基づきオプティカルフローを算出するオプティカルフロー算出部と、前記動画像において、その動画像の消失点と高さが略々同じとなる領域およびその領域に接する上部の領域を併せた領域を、前記車両の旋回を検出するための判定領域に設定しておき、前記算出したオプティカルフローのうち、前記判定領域部分に現れた前記車両の走行方向と同じ方向のオプティカルフローが占める部分の面積またはその面積の増加率があらかじめ定められたしきい値より大きくなった場合に、車両の旋回を検出する旋回検出部と、前記算出したオプティカルフローに基づき、車両の前部側方から接近する接近物を検出する接近物検出部と、を備え、前記旋回検出部が前記車両の旋回を検出したときには、前記接近物検出部による接近物の検出動作を停止することを特徴とする。
通常、カメラにより取得される動画像において、遠景の地物はあまり変化しないので、オプティカルフローが現れにくい。それに対し、車両が旋回する場合には、遠景部分の地物は、車両が旋回する方向とは反対方向に大きく移動する。すなわち、遠景部分には、車両が旋回する方向とは反対方向のオプティカルフローが広く現れる。旋回検出部は、この現象を利用することにより、遠景部分に現れるオプティカルフローを監視し、車両の旋回を検出する。
なお、本明細書では、オプティカルフローとは、オプティカルフローベクトルの水平方向成分のベクトルを指すものとする。オプティカルフローは、一般には、2次元のベクトルであるが、本明細書では、その水平方向(左右方向)成分のみを対象とし、オプティカルフローの水平方向成分のベクトルを、単に、オプティカルフローと呼ぶ。従って、オプティカルフローの上下方向成分は無視され、上下方向のオプティカルフローが現れても、オプティカルフローが現れるとはいわない。
本発明によれば、ハードウエアを増加させることなく、車両の旋回を検出し、適切に接近物を検出することが可能な接近物検出装置および接近物検出方法が提供される。
以下、図面を参照して本発明の実施形態について詳しく説明する。
まず、図1および図2を参照して、本発明の実施形態に係る接近物検出装置を構成する機能ブロックについて説明する。ここで、図1は、本発明の実施形態に係る接近物検出装置の機能ブロックの構成の例を示した図、図2は、接近物検出装置を搭載した車両における側方カメラの設置位置およびその側方カメラの撮影範囲の例を示した図である。
図1に示すように、接近物検出装置1は、2つの側方カメラ4(4a,4b)、画像処理装置2、汎用データ処理装置3、表示装置5、音声出力装置6などの機能ブロックを含んで構成される。
ここで、側方カメラ4は、例えば、CCD(Charge Coupled Device)カメラなどにより構成され、図2に示すように、車両7の左右の前端部に設けられる。そして、車両7の前部側方の映像を動画像で撮影し、その撮影した動画像を、例えば、アナログまたはディジタルのビデオ信号として画像処理装置2へ送信する。
さらに、図2に示すように、車両7が交差点に差し掛かったとき、車両7が走行中の道路に交差する道路の左右方向は、側方カメラ4の撮影範囲内に含まれる。そこで、画像処理装置2および汎用データ処理装置3は、側方カメラ4により撮影された左右の道路の動画像を取得し、その動画像を表示装置5などに表示するとともに、その動画像の中から車両7(自車)側に接近する接近物を検出する。
図1に示したように、画像処理装置2は、画像取得部21、画像記憶部22、オプティカルフロー算出部23、旋回検出部24、接近物検出部25などの機能ブロックを含んで構成される。
図1において、画像取得部21は、側方カメラ4から入力されるビデオ信号などを受信し、そのビデオ信号の1フレームのフレーム画像から画素ごとのRGBの輝度信号のディジタル値(以下、単に、画像データという)を生成し、画像記憶部22に格納する。
画像記憶部22は、RAM(Random Access Memory)などからなり、画像取得部21を介して側方カメラ4から取得された左右の動画像の画像データを一時記憶する。その場合、画像記憶部22は、所定フレーム数(最小で2フレーム)のフレーム画像を一時記憶する記憶容量を有し、最新のフレーム画像が記憶されるたびに、過去のフレーム画像は古い順に廃棄される。
オプティカルフロー算出部23は、画像記憶部22に記憶された少なくとも2フレーム画像分の画像データに基づき、それぞれの画素についてオプティカルフローを算出する。オプティカルフローは、例えば、2つのフレーム画像を比較し、2つのフレーム画像のそれぞれに含まれる同じ物体について、それぞれ対応する点を同定することによって算出することができる。オプティカルフローの算出方法は、すでに確立された公知技術が存在するので、その説明を割愛する。
旋回検出部24は、オプティカルフロー算出部23によって算出された各画素のオプティカルフローに基づき、車両の旋回を検出する。その検出の方法については、別途、図を用いて詳しく説明する。
接近物検出部25は、オプティカルフロー算出部23によって算出された各画素のオプティカルフローに基づき、車両7の前部側方から接近する接近物を検出する。その検出は、例えば、特許文献1などに記載された公知技術に従って行うことができるが、原理的には、車両7の直進走行によって現れる走行方向と反対方向のオプティカルフローの中に、走行方向と同じ方向のオプティカルフローを有する領域が現れた場合に、その領域を接近物として検出する。
なお、オプティカルフロー算出部23、旋回検出部24および接近物検出部25は、例えば、FPGA(Field Programmable Gate Array)などを用いた専用の処理回路で構成してもよく、また、汎用の信号処理プロセッサやマイクロプロセッサなどを用いたプログラムによる制御回路で構成してもよい。
汎用データ処理装置3は、少なくともCPU(Central Processing Unit)とメモリとを含んで構成され、画像処理装置2から車両前部側方の動画像、旋回検出部24による車両7の旋回の検出結果、接近物検出部25による接近物の検出結果などを取得し、その取得した情報を、適宜、処理して、表示装置5や音声出力装置6へ出力する。ここで、表示装置5は、LCD(Liquid Crystal Display)などによって構成され、また、音声出力装置6は、スピーカなどにより構成される。
本実施形態では、汎用データ処理装置3、表示装置5および音声出力装置6は、それぞれ、カーナビゲーション装置のデータ処理装置、表示装置および音声出力装置であることを想定しているが、カーナビゲーション装置とは、独立したものであってもよい。
また、汎用データ処理装置3をカーナビゲーション装置などから独立した形態で設けた場合には、その処理能力に余裕が生じるので、画像処理装置2におけるオプティカルフロー算出部23、旋回検出部24および接近物検出部25の機能を汎用データ処理装置3により実現してもよい。
続いて、図3および図4を参照して、オプティカルフローを用いて車両7の旋回を検出する原理について説明する。図3は、車両の運動の相違によるオプティカルフローの現れ方の相違の例を示した図、また、図4は、交差点を車両が右折する際に右側の側方カメラ4bにより撮影される動画像に現れるオプティカルフローの例を示した図である。なお、図3および図4では、オプティカルフローの向きを矢印の向きで表し、オプティカルフローの大きさを矢印の長さで表している。
一般に、車両7が直進走行をしている場合、側方カメラ4によって撮影される動画像中では、近景の地物は、車両7の走行方向と反対方向に移動するが、遠景の地物は、あまり移動しない。なお、本実施形態の場合、車両7の走行方向は、右側の側方カメラ4bによって得られる動画像では、右から左への方向であり、左側の側方カメラ4aによって得られる動画像では、左から右への方向である。
従って、車両7が図3(a)に示すような交差点を直進走行する場合、側方カメラ4bによって撮影される動画像には、図3(b)に示すように、ビルなどの近景の地物部分には車両7の走行方向と反対方向(左から右への方向)の大きなオプティカルフローが現れる。また、道路の向こう側の家並みなどの遠景の地物部分にも、車両7の走行方向と反対方向(左から右への方向)のオプティカルフローが現れるが、そのオプティカルフローの大きさは、遠景に行くほど小さくなる。これは、車両7(つまり、側方カメラ4b)が直進運動する場合に現れるオプティカルフローの大きさが、地物までの距離に反比例するからである。
これに対し、車両7が旋回する場合には、側方カメラ4によって撮影される動画像中では、近景の地物だけでなく、遠景の地物も、車両7の旋回方向と反対方向に同じように大きく移動する。
従って、車両7が図3(a)に示すような交差点で右へ旋回する場合(ただし、ここでは、車両7が停止した状態で旋回する場合を考える)、側方カメラ4bによって撮影される動画像には、図3(c)に示すように、ビルなどの近景の地物部分にも、また、道路の向こう側の家並みなどの遠景の地物部分にも、車両7の旋回方向と反対方向(右から左への方向)のオプティカルフローが現れ、そのオプティカルフローの大きさは、近景部分、遠景部分にかかわらず、ほぼ同じである。これは、車両7(つまり、側方カメラ4b)が旋回運動する場合に現れるオプティカルフローは、側方カメラ4から地物までの距離に関係なく、ほぼ同じ大きさになるからである。
次に、車両7が交差点を右折または左折する場合、つまり、車両7が交差点を走行しつつ旋回する場合を考える。このような車両7の右折または左折走行には、旋回運動とともに直進運動が含まれている。
従って、車両7が図4(a)に示すような交差点を右折する場合、側方カメラ4bによって撮影される動画像には、図4(b)に示すように、図3(b)に示した直進運動によって現れるオプティカルフローと、図3(c)に示した旋回運動によって現れるオプティカルフローと、を重ね合わせたオプティカルフローが現れる。
すなわち、直進運動によって現れるオプティカルフローが旋回運動によって現れるオプティカルフローよりも大きいビルなどの近景の地物部分には、車両7の走行方向と反対方向(左から右への方向)のオプティカルフローが現れる。それに対し、直進運動によって現れるオプティカルフローが旋回運動によって現れるオプティカルフローよりも小さい、道路の向こう側の家並みなどの遠景の地物部分には、車両7の旋回方向と反対方向(右から左への方向)のオプティカルフローが現れる。
以上のように、車両7が右折する場合には、側方カメラ4bによって撮影される動画像の遠景の地物部分には、車両7の旋回方向と反対方向のオプティカルフローが現れ、近景の地物部分には、車両7の走行方向と反対方向のオプティカルフローが現れる。このとき、撮影された動画上で遠景部分に現れるオプティカルフローの方向は、車両7の旋回方向と反対方向で、右から左の方向であり、これは車両7の走行方向と一致する。画像処理装置2は、このことを利用して車両7の旋回を検出する。
すなわち、画像処理装置2は、車両7が直進走行をしているときには、近景部分には走行方向と反対方向のオプティカルフローを検出し、遠景部分には、オプティカルフローを検出しないが、そういう状態が継続しているとき、遠景部分と推定される領域の広い範囲に、走行方向と同じ方向のオプティカルフローを検出したとすれば、そのオプティカルフローは、車両7の旋回により生じたものと判断される。
言い換えると、画像処理装置2は、側方カメラ4bによって撮影された動画像の遠景部分と推定される領域の広い範囲に、走行方向と同じ方向のオプティカルフローを検出したとき、車両7が旋回、つまり、右折しつつあると判定する。
なお、以上の説明において、近景および遠景の境界となる距離は、車両7の直進走行の速度と旋回の速度とによって定まる値であり、必ずしもある値に定めることはできない。ただ、車両7が、交差点で減速して、例えば、時速10km程度の速度で右折または左折した場合には、おおむね30〜40mよりも遠い距離にある地物は、遠景ということができる。
また、以上の説明では、車両7が交差点を右折する場合、側方カメラ4bによって撮影された動画像について説明したが、車両7が交差点を左折する場合について、以下に補足する。
車両7が図4(a)に示すような交差点を左折する場合には、側方カメラ4bによって撮影される動画像には、旋回運動によって現れるオプティカルフローと直進運動によって現れるオプティカルフローが同じ方向になる(いずれも、左から右への方向)。従って、近景の地物部分にも遠景の地物部分にも同じ方向の大きなオプティカルフローが現れる。この場合、その方向は異なるものの、遠景の地物部分に(所定の大きさよりも大きな)オプティカルフローが現れることについては、車両7が右折する場合と変わりがない。
従って、車両7が交差点を左折する場合であっても、画像処理装置2の旋回検出部24は、側方カメラ4bから取得された動画像の遠景部分の広い範囲に車両の進行方向と同じ方向のオプティカルフローが現れたことを検出することにより、車両7の旋回を検出することができる。
さらに、補足すれば、以上の説明は、側方カメラ4bによって撮影された動画像について説明したものであるが、側方カメラ4aによって撮影された動画像についても、例えば、その説明で「右」を「左」と言い換え、図3および図4の図を左右対称に描き直すだけで全く同様に適用することができる。
本実施形態では、以上のようなオプティカルフローによる車両7の旋回の検出をより容易にかつ確実に行えるようにするために、側方カメラ4から取得される動画像の中に、遠景部分になり得る部分を、あらかじめ、遠景領域として設定しておく。ここで、遠景領域とは、例えば、図4(b)で太線で囲む領域として示すように、側方カメラ4から取得される動画像において、その動画像の消失点と高さが略々同じ領域とその領域に連続する上部の領域とを併せた領域をいうものとする。
なお、動画像の中における消失点の位置や旋回検出のための領域(前記の遠景領域:図4(b)参照)は、通常、接近物検出装置1を設計する段階で設定される。その場合、消失点の位置の設定には、各カメラの消失点方向を表すマークが記入されたテストチャート板を利用する。すなわち、テストチャート板が設けられた位置から所定の距離離間した位置に、所定の方向を向いた車両7を設置し、その車両7の所定の位置に搭載された側方カメラ4によって撮影される画像の中の消失点が、テストチャートの中の消失点方向を表すマークと一致するように、側方カメラ4の設置方向を調整する。
以上のようにして、側方カメラ4の設置位置および設置方向が定められると、その動画像における消失点の高さは、極端に急な坂道でもない限り、常に、略々同じ高さ位置になると考えてよい。従って、消失点の高さ位置は、略々定数とみなすことができ、そのため、図4(b)に示したように、遠景領域をあらかじめ固定した領域として設定することができる。
なお、本実施形態では、遠景領域は、図4(b)に示したように、側方カメラ4から取得される動画像の最上部(例えば、空などの部分)を含んでいないが、遠景領域がその最上部部分も含むとしても構わない。その場合、遠景領域は、消失点と高さが略々同じ領域およびその上部のすべての領域とを併せた領域ということになる。
続いて、画像処理装置2における車両7の旋回の検出動作について、具体的に説明する。旋回検出部24は、側方カメラ4から取得された動画像中の「遠景領域」に、車両7の走行方向と同じ方向のオプティカルフローが広く現れたか否かを判定することにより車両7の旋回を検出する。すなわち、旋回検出部24は、「遠景領域」に現れた車両7の走行方向と同じ方向のオプティカルフローが占める領域の面積が、所定の面積以上になったか否かを判定し、所定の面積以上であった場合には、車両7が右折または左折しているものと判定し、車両7の旋回を検出する。
ここで、図4からも分かるように、車両7が直進走行している場合には、あらかじめ定めた「遠景領域」であっても、近くにビルなど大きな地物があったときには、そのビルの部分には、車両7の走行方向と反対方向のオプティカルフローが現れる。従って、「遠景領域」にオプティカルフローが現れた場合、そのオプティカルフローが車両7の旋回によって現れたものであるか、または、直進走行時の近くの大きな地物によって現れたものであるかを識別する必要がある。
その識別は、左右の側方カメラ4a,4bのそれぞれから取得される動画像に基づき得られるオプティカルフローそれぞれについて、そのオプティカルフローの方向を判定することによって可能となる。
ちなみに、車両7が右折するときには、図4(b)に示したように、右の側方カメラ4bから取得される動画像の遠景領域には、左向きのオプティカルフローが広く現れ、近くの地物部分には、右向きのオプティカルフローが現れる。また、車両7が左折するときには、左の側方カメラ4aから取得される動画像の遠景領域には、右向きのオプティカルフローが広く現れ、近くの地物部分には、左向きのオプティカルフローが現れる。なお、この遠景領域に広く現れるオプティカルフローの方向は、車両7が旋回する方向とは反対方向に対応している。
すなわち、上記の場合には、車両7の旋回によって現れるオプティカルフローと、直進走行によって現れるオプティカルフローとで、その方向が互いに逆向きになるため、車両7の旋回によって現れるオプティカルフローの領域を確定させることができる。
従って、旋回検出部24は、右の側方カメラ4bから取得される動画像の遠景領域において、左向きのオプティカルフローが占める領域の面積が所定の面積以上になったときには、車両7が右折していると判定する。また、左の側方カメラ4aから取得される動画像の遠景領域において、右向きのオプティカルフローが占める領域の面積が所定の面積以上になったときには、車両7が右折していると判定する。
なお、車両7が右折する場合、左の側方カメラ4aから取得される動画像の遠景領域には、車両7が直進走行する場合に近くの地物部分に現れるオプティカルフローの方向と同じ方向(右向き)のオプティカルフローが現れる。また、車両7が左折する場合、右の側方カメラ4bから取得される動画像の遠景領域には、車両7が直進走行する場合に近くの地物部分に現れるオプティカルフローの方向と同じ方向(左向き)のオプティカルフローが現れる。
従って、右の側方カメラ4bから取得される動画像のオプティカルフローに基づき、左折を判定することはできないし、また、左の側方カメラ4aから取得される動画像のオプティカルフローに基づき、右折を判定することはできない。従って、本実施形態では、旋回検出部24は、右の側方カメラ4bから取得される動画像のオプティカルフローからは、車両7の右折のみを判定し、左の側方カメラ4aから取得される動画像のオプティカルフローからは、車両7の左折のみを判定するものとする。
旋回検出部24は、以上のようにして、側方カメラ4bおよび4aから取得された動画像から、車両7の右折または左折の判定をそれぞれ独立して行い、そのいずれかの一方により、車両7の右折または左折が判定されたとき、車両7の旋回を検出する。
続いて、本発明の実施形態に係る接近物検出装置1において実行される接近物検出の手順について説明する。図5は、本発明の実施形態に係る接近物検出装置1の画像処理装置2における接近物検出の処理手順の例を示した図である。なお、この図5に示した処理手順は、側方カメラ4により車両7の前部側方の動画像が1フレーム撮影されるたびに実行される。
図5に示すように、画像処理装置2は、画像取得部21の処理として、まず、側方カメラ4から1フレームのフレーム画像を取得し(ステップS1)、その取得したフレーム画像を画像記憶部22に格納する。次に、画像処理装置2は、画像記憶部22に、ステップS1で取得したフレーム画像の前のフレームのフレーム画像(以下、前フレーム画像という)が存在するか否かを判定し(ステップS2)、前フレーム画像が存在しなかった場合には(ステップS2でNo)、ステップS1へ戻り、再度、側方カメラ4から最新のフレーム画像を取得する。
一方、前フレーム画像が存在した場合には(ステップS2でYes)、画像処理装置2は、オプティカルフロー算出部23の処理として、前フレーム画像とステップS1で取得したフレーム画像とに基づき、オプティカルフローを算出する(ステップS3)。
次に、画像処理装置2は、旋回検出部24の処理として、オプティカルフロー算出部23により算出されたオプティカルフローに基づき、所定の遠景領域に現れたオプティカルフローが占める領域の面積を算出し(ステップS4)、その算出された面積に基づき、車両7の旋回を判定する(ステップS5)。
ここで、所定の遠景領域に現れたオプティカルフローとは、車両7の走行方向と同じ方向のオプティカルフローを指すものとする。すなわち、左の側方カメラ4aから取得される動画像から得られるオプティカルフローにあっては、右向きのオプティカルフローであり、右の側方カメラ4bから取得される動画像から得られるオプティカルフローにあっては、左向きのオプティカルフローである。
次に、ステップS5における判定の結果、前記のオプティカルフローが占める領域の面積が所定の閾値よりも大きい場合には(ステップS6でYes)、画像処理装置2は、車両7が旋回していると判定し、接近物の検出などステップS7以降の処理を行わず、ステップS1の処理へ戻る。
一方、車両7の走行方向と同じ方向のオプティカルフローが占める領域の面積が所定の閾値に達しなかった場合には(ステップS6でNo)、車両7が旋回しているとは判定されない。その場合には、画像処理装置2は、接近物検出部25の処理として、オプティカルフロー算出部23により算出されたオプティカルフローに基づき、車両7に接近する接近物を検出する(ステップS7)。
ステップS7では、画像処理装置2は、車両7の直進走行に伴い現れる車両7の走行方向と反対方向のオプティカルフローの中に、車両7の走行方向と同じ方向のオプティカルフローの小面積の領域が現れた場合に、その領域を接近物として検出する。なお、このような検出方法によれば、画像処理装置2は、車両7が交差点に差し掛かったとき、その車両7が走行する道路に交差する両側の道路において当該交差点に接近する接近物(車両など)を検出することができる。
次に、画像処理装置2は、ステップS7での判定により接近物を検出した場合には(ステップS8でYes)、汎用データ処理装置3を介して表示装置5および音声出力装置6の少なくとも一方に、接近物ありの警報を出力し(ステップS9)、さらに、側方カメラ4により撮影され、画像記憶部22に記憶されている当該フレームのフレーム画像を、汎用データ処理装置3を介して表示装置5に表示する(ステップS10)。
一方、ステップS7での判定により、接近物を検出しなかった場合には(ステップS8でNo)、画像処理装置2は、接近物ありの警報を出力せずに、側方カメラ4により撮影され、画像記憶部22に記憶されている当該フレームのフレーム画像を、汎用データ処理装置3を介して表示装置5に表示する(ステップS10)。なお、この場合、接近物が検出されていないので、ステップS10をもスキップし、側方カメラ4により撮影されたフレーム画像を表示装置5に表示しないとしてもよい。
なお、以上に説明した接近物検出の処理手順においては、画像処理装置2が車両7の旋回を判定するとき、車両7の走行方向と同じ方向のオプティカルフローが占める領域の面積に基づき、車両7の旋回を判定している(ステップS5)が、面積そのものではなく、その面積の増加率に基づき、車両7の旋回を判定してもよい。すなわち、ステップS6では、その面積の増加率が所定の閾値よりも大きくなった場合、車両7が旋回し始めたと判定するとしてもよい。面積の増加率に基づき車両7の旋回を判定した場合には、面積そのものによる旋回の判定よりも、通常、早く車両7の旋回を検出することができる。
なお、面積の増加率に基づき車両7の旋回を判定する場合には、車両7が旋回し続けていることを判定することができない。従って、この場合には、面積そのものによる旋回の判定も併せて行う必要がある。
以上、本実施形態によれば、接近物検出装置1は、側方カメラ4から得られる動画像に基づくオプティカルフローにより、車両7の旋回を検出することができ、車両7へ接近する接近物を検出することができ、さらには、車両7の旋回を検出したときには、接近物の検出動作を停止することができる。従って、本実施形態に係る接近物検出装置1においては、車両7の旋回に伴う接近物の誤検出を防止することができる。
また、本実施形態に係る接近物検出装置1においては、車両7の旋回に伴う接近物の誤検出を防止するに当たって、車両7の旋回を検出するための操舵角センサやジャイロ装置などからの信号を受信するためのコネクタなども含めたインタフェース回路を必要としない。従って、接近物検出装置1を小型化したり、その製造コストを低減したりすることができる。
とくに、自律航法を有さない安価なカーナビゲーション装置に接近物検出装置1を後付けするような場合には、操舵角センサやジャイロ装置などからの信号を受信するためのコネクタなどが不要であることは、カーナビゲーション装置のハードウエアに改造を加える必要がないことを意味するので、接近物検出装置1の製造コストを低減する上で、大きなメリットとなる。
次に、図6を参照して、本実施形態の変形例について説明する。図6は、車両の前端部に広角カメラを設けた場合のその広角カメラによる撮影範囲の例を示した図である。
図6に示すように、車両7aには、その前端部の中央に広角カメラ4cが設けられている。広角カメラ4cの撮影範囲は、180度を超えるものであり、ここでは、広角カメラ4cから、周辺の画像歪みがディジタル画像処理により補正された画像が出力されるものとする。
接近物検出装置1の画像取得部21は、その広角カメラ4cから出力される動画像を取得し、その1フレームごとのフレーム画像について、左側および右側の画像を切り出すことによって、側方カメラ4からそれぞれ取得されるフレーム画像と実質的に同等の画像を生成する。こうすることによって、それ以降の接近物検出装置1における接近物検出の処理手順は、図5に示した処理手順と同じにすることができる。
従って、本実施形態の変形例においても、前記した実施形態の効果と同じ効果を得ることができる。
本発明の実施形態に係る接近物検出装置の機能ブロックの構成の例を示した図。 本発明の実施形態に係る接近物検出装置を搭載した車両における側方カメラの設置位置およびその側方カメラの撮影範囲の例を示した図。 車両の運動の相違によるオプティカルフローの現れ方の相違の例を示した図。 交差点を車両が右折する際に右側の側方カメラにより撮影される動画像に現れるオプティカルフローの例を示した図。 本発明の実施形態に係る接近物検出装置の画像処理装置における接近物検出の処理手順の例を示した図。 車両の前端部に広角カメラを設けた場合のその広角カメラによる撮影範囲の例を示した図。
符号の説明
1 接近物検出装置
2 画像処理装置
3 汎用データ処理装置
4,4a,4b 側方カメラ
4c 広角カメラ
5 表示装置
6 音声出力装置
7,7a 車両
21 画像取得部
22 画像記憶部
23 オプティカルフロー算出部
24 旋回検出部
25 接近物検出部

Claims (4)

  1. 車両の前端部に設けられたカメラにより撮影された前記車両の前部側方の動画像に基づき、前記車両の前部側方から接近する接近物を検出する接近物検出装置であって、
    前記カメラから前記車両の前部側方の動画像を取得する画像取得部と、
    前記取得した動画像を記憶する画像記憶部と、
    前記画像記憶部に記憶した動画像に基づき、オプティカルフローを算出するオプティカルフロー算出部と、
    前記動画像において、その動画像の消失点と高さが略々同じとなる領域およびその領域に接する上部の領域を併せた領域を、前記車両の旋回を検出するための判定領域に設定しておき、前記算出したオプティカルフローのうち、前記判定領域部分に現れた前記車両の走行方向と同じ方向のオプティカルフローが占める部分の面積またはその面積の増加率があらかじめ定められたしきい値より大きくなった場合に、前記車両の旋回を検出する旋回検出部と、
    前記算出したオプティカルフローに基づき、前記車両の前部側方から接近する接近物を検出する接近物検出部と、
    を備え、
    前記旋回検出部が前記車両の旋回を検出したときには、前記接近物検出部による接近物の検出動作を停止すること
    を特徴とする接近物検出装置。
  2. 前記画像取得部が、前記カメラから前記車両の左前部側方の動画像と右前部側方の動画像とを取得し、前記オプティカルフロー算出部が、前記取得した左前部側方の動画像と右前部側方の動画像とについてそれぞれオプティカルフローを算出した場合には、前記旋回検出部は、少なくともその一方の動画像のオプティカルフローによる前記車両の旋回検出結果に基づき、前記車両の旋回を検出すること
    を特徴とする請求項1に記載の接近物検出装置。
  3. 車両の前端部に設けられたカメラにより撮影された前記車両の前部側方の動画像に基づき、前記車両の前部側方から接近する接近物を検出する接近物検出装置による接近物検出方法であって、
    前記接近物検出装置が、
    前記カメラから前記車両の前部側方の動画像を取得し、
    前記取得した動画像を所定の画像メモリに記憶し、
    前記画像メモリに記憶した動画像に基づき、オプティカルフローを算出し、
    前記動画像において、その動画像の消失点と高さが略々同じとなる領域およびその領域に接する上部の領域を併せた領域を、前記車両の旋回を検出するための判定領域に設定しておき、前記算出したオプティカルフローのうち、前記判定領域部分に現れた前記車両の走行方向と同じ方向のオプティカルフローが占める部分の面積またはその面積の増加率があらかじめ定められたしきい値より大きくなった場合に、前記車両の旋回を検出し、
    前記車両の旋回を検出していないとき、前記算出したオプティカルフローに基づき、前記車両の前部側方から接近する接近物を検出し、前記車両の旋回を検出したとき、前記接近物の検出を停止すること
    を特徴とする接近物検出方法。
  4. 前記接近物検出装置は、
    前記カメラから前記車両の左前部側方の動画像と右前部側方の動画像とを取得し、その取得した左前部側方の動画像と右前部側方の動画像とについてそれぞれオプティカルフローを算出した場合には、少なくともその一方の動画像のオプティカルフローによる前記車両の旋回検出結果に基づき、前記車両の旋回を検出すること
    を特徴とする請求項3に記載の接近物検出方法。
JP2008127798A 2008-05-15 2008-05-15 接近物検出装置および接近物検出方法 Expired - Fee Related JP5054612B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008127798A JP5054612B2 (ja) 2008-05-15 2008-05-15 接近物検出装置および接近物検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008127798A JP5054612B2 (ja) 2008-05-15 2008-05-15 接近物検出装置および接近物検出方法

Publications (2)

Publication Number Publication Date
JP2009277021A JP2009277021A (ja) 2009-11-26
JP5054612B2 true JP5054612B2 (ja) 2012-10-24

Family

ID=41442394

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008127798A Expired - Fee Related JP5054612B2 (ja) 2008-05-15 2008-05-15 接近物検出装置および接近物検出方法

Country Status (1)

Country Link
JP (1) JP5054612B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102378998B (zh) * 2009-12-10 2014-12-10 松下电器产业株式会社 信息显示设备和信息显示方法
JP5413516B2 (ja) 2010-08-19 2014-02-12 日産自動車株式会社 立体物検出装置及び立体物検出方法
US9665781B2 (en) 2011-08-02 2017-05-30 Nissan Motor Co., Ltd. Moving body detection device and moving body detection method
JP5760884B2 (ja) 2011-09-09 2015-08-12 株式会社デンソー 車両の旋回予測装置
JP5614504B2 (ja) * 2011-09-12 2014-10-29 日産自動車株式会社 立体物検出装置
JP2013136258A (ja) * 2011-12-28 2013-07-11 Fujitsu General Ltd 車載カメラ装置及び車載カメラシステム
JP2014071080A (ja) * 2012-10-01 2014-04-21 Denso Corp 車両の移動方向検出装置、及びコンピュータプログラム
JP6178580B2 (ja) * 2013-01-28 2017-08-09 富士通テン株式会社 物体検出装置、物体検出システム及び物体検出方法
JP6084048B2 (ja) * 2013-01-28 2017-02-22 富士通テン株式会社 物体検出装置、物体検出システム及び物体検出方法
JP6267558B2 (ja) 2014-03-25 2018-01-24 株式会社デンソーテン 車両用装置及び車両制御方法
WO2024202037A1 (ja) * 2023-03-31 2024-10-03 本田技研工業株式会社 ドライバ監視装置及びプログラムと媒体

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1040490A (ja) * 1996-07-22 1998-02-13 Toyota Motor Corp 道路監視装置
JP4161923B2 (ja) * 2004-03-09 2008-10-08 株式会社デンソー 車両安定化制御システム
JP4259368B2 (ja) * 2004-03-26 2009-04-30 三菱自動車工業株式会社 ノーズビューモニタ装置
JP4193740B2 (ja) * 2004-03-26 2008-12-10 三菱自動車工業株式会社 ノーズビューモニタ装置
JP2007147458A (ja) * 2005-11-28 2007-06-14 Fujitsu Ltd 位置検出装置、位置検出方法、位置検出プログラムおよび記録媒体

Also Published As

Publication number Publication date
JP2009277021A (ja) 2009-11-26

Similar Documents

Publication Publication Date Title
JP5054612B2 (ja) 接近物検出装置および接近物検出方法
US8461976B2 (en) On-vehicle device and recognition support system
JP2010152873A (ja) 接近物体検知システム
EP2933790A1 (en) Moving object location/attitude angle estimation device and moving object location/attitude angle estimation method
JP5949861B2 (ja) 車両の接近物体検出装置及び車両の接近物体検出方法
JP2005300315A (ja) 物体検出装置
JP2017069852A (ja) 情報表示装置及び情報表示方法
JP2009231937A (ja) 車両用周囲監視装置
US12101580B2 (en) Display control apparatus, display control method, and program
JP4193740B2 (ja) ノーズビューモニタ装置
JP2005276056A (ja) ノーズビューモニタ装置
JP6407596B2 (ja) 画像処理装置、及び、運転支援システム
JP2011215769A (ja) 車線位置検出装置および車線位置検出方法
JP4857159B2 (ja) 車両運転支援装置
JP2018005811A (ja) 車両の接近物体検出装置
JP2005309660A (ja) 車両用右左折支援装置
JP4404047B2 (ja) 障害物衝突判定システム、判定装置、障害物衝突判定方法及びコンピュータプログラム
JP6032141B2 (ja) 走行路面標示検知装置および走行路面標示検知方法
JP6174884B2 (ja) 車外環境認識装置および車外環境認識方法
JP2012208559A (ja) 駐車支援装置
JP2020109559A (ja) 信号機認識方法及び信号機認識装置
JP2005267331A (ja) 車両周囲監視装置
JP2000251199A (ja) 車両用後側方監視装置
JP7137356B2 (ja) 車載用故障検出装置、及び故障検出方法
JP2009214790A (ja) 撮像装置および方法、並びに、画像処理装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100726

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120703

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120727

R150 Certificate of patent or registration of utility model

Ref document number: 5054612

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150803

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees