JP2008269073A - 車両用物体検出装置 - Google Patents

車両用物体検出装置 Download PDF

Info

Publication number
JP2008269073A
JP2008269073A JP2007108325A JP2007108325A JP2008269073A JP 2008269073 A JP2008269073 A JP 2008269073A JP 2007108325 A JP2007108325 A JP 2007108325A JP 2007108325 A JP2007108325 A JP 2007108325A JP 2008269073 A JP2008269073 A JP 2008269073A
Authority
JP
Japan
Prior art keywords
image
detection device
scaling processing
vehicle
object detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007108325A
Other languages
English (en)
Other versions
JP4830958B2 (ja
Inventor
Naoki Sugiyama
尚樹 杉山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2007108325A priority Critical patent/JP4830958B2/ja
Publication of JP2008269073A publication Critical patent/JP2008269073A/ja
Application granted granted Critical
Publication of JP4830958B2 publication Critical patent/JP4830958B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Radar Systems Or Details Thereof (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】処理負荷を低減し、かつ、情報の欠落の少ない変倍処理を実現する車両用物体検出装置を提供することにある。
【解決手段】車両5周辺の所定の領域にある物体までの距離及び方位を測定するミリ波レーダ10、車両5周辺の所定の領域を含む範囲を撮影するカメラ20及びミリ波レーダ10で測定した物体までの距離及び方位に基づいてカメラ20で撮影した画像から物体を検出する画像処理装置30を備える。そして、画像処理装置30では、第1変倍処理部33で、検出した物体の画像の大きさを縮小率50%で4段階に変化させた4つの画像を作成する変倍処理を行い、第2変倍処理部35で、第1変倍処理部33で作成した4つの画像を、ミリ波レーダ10から得られた物体までの距離に応じて選択し、選択した画像から必要な縮小率まで補間して変化させることにより、物体の画像を得る。
【選択図】図1

Description

本発明は、車両の周囲の障害物等の物体を検出することができる車両用物体検出装置に関する
従来、レーダにカメラを用いた画像処理装置を組み合わせることで、レーダ単独では検出できない白線や物体の正確な中心位置及び幅を算出し、より検出精度を高める方法が提案されている。
このカメラで行う画像処理は処理負荷が高く、物体の検出のすべてを画像処理で行うことはコストの点で現実的ではないため、レーダの検出した物体の位置を利用して処理する画像の処理範囲を限定する方法も提案されている(例えば、特許文献1参照)。
このようにレーダで検出した物体の位置を利用して画像処理の負荷を低減する場合には、画像処理はレーダの検出結果を待つ必要があり、最終的な位置検出結果の出力が遅くなるといった問題がある。そこで、前回の検出結果と今回の検出結果の物体が一致するかの判断をするため、画像によるテンプレートマッチングをする方法が提案されている(例えば、特許文献2参照)。
特許3123303号公報 特開2004−53278号公報
ところがテンプレートマッチングをするためには、物体の画像上の大きさが変化するため、レーダの距離検出結果によって、画像上の物体の大きさをテンプレートサイズにする変倍処理が必要でとなる。
特に距離の近い物体は画像上のサイズが大きいので、画像を縮小するのに時間がかかるといった問題があった。また、処理負荷を低減するために処理時間の速い最近傍法などを用いて変倍処理を行うと情報が欠落してテンプレートマッチングでの相関値が低くなり誤検出をするといった問題があった。
本発明は、上記問題に鑑みて発明されたものであり、処理負荷を低減し、かつ、情報の欠落の少ない変倍処理を実現する車両用物体検出装置を提供することにある。
かかる問題を解決するためになされた請求項1に記載の車両用物体検出装置(1:この欄においては、発明に対する理解を容易にするため、必要に応じて「発明を実施するための最良の形態」欄において用いた符号を付すが、この符号によって請求の範囲を限定することを意味するものではない。)は、測距手段(10)、撮影手段(20)、画像処理手段(30)を備えている。
測距手段(10)は、車両(5)周辺の所定の領域にある物体までの距離及び方位を測定し、撮影手段(20)は、車両(5)周辺の所定の領域を含む範囲を撮影する。また、画像処理手段(30)は、測距手段(10)で測定した物体までの距離及び方位に基づいて撮影手段(20)で撮影した画像から物体を検出するものであり、第1変倍処理手段(32)と第2変倍処理手段(34)とを有している。
第1変倍処理手段(32)は、検出した物体の画像の大きさを段階的に変化さた複数の画像を作成する変倍処理を行い、第2変倍処理手段(34)は、第1変倍処理手段(32)で段階的に変化させた複数画像の大きさを補間して変化させることにより、物体の画像を得る。
このような車両用物体検出装置(1)は、必要とする大きさの画像を処理負荷を低減し、かつ、情報の欠落の少ない変倍処理を実現することができる。以下説明する。
車両用物体検出装置(1)では、画像処理手段(30)が有する第1変倍処理手段(32)において、撮影手段(20)撮影した画像の大きさを段階的に変化させた複数の画像を作成する。そして、第2変倍処理手段(34)では、作成した複数の画像を、物体までの距離に基づいて補間して変化させ、必要となる大きさの画像を得ている。
つまり、第1変倍処理手段(32)では、物体までの距離に関係なく、物体の画像の大きさを段階的に変化させるので、測距手段(10)の作動状態に関係なく処理を行うことができる。
また、第2変倍処理手段(34)では、必要となる大きさの画像を得るために、物体までの距離に基づいた処理が必要となるが、第1変倍処理手段(32)で作成された複数の大きさの画像を補間すればよいので、画像を作成するための負荷が軽くなる。
さらに、画像処理のための処理を前述のように第1変倍処理手段(32)や第2変倍処理手段(34)に配分することができるので、各変倍処理手段(32,34)の処理負担を最適化することができ、結果的に画像処理手段(30)としての処理速度を速くすることができる。
例えば、第1変倍処理手段(32)では、第2変倍処理手段(34)の変倍処理における補間処理に適した大きさの複数の画像を作成するようにすれば、第2変倍処理手段(34)の処理負荷が軽減されるので、全体として処理速度を速くすることができる。
また、第1変倍処理手段(32)及び第2変倍処理手段(34)において、画像の欠落が少ない処理方法に適した画像の拡大率又は縮小率とすれば、最終的に画像の欠落が少ない物体の画像を得ることができる。
ところで、第1変倍処理手段(32)において段階的に変化させた複数の画像を作成する変倍処理方法としては、請求項2に記載のように、画像処理手段(30)で検出した物体の画像の大きさを固定倍率で変倍処理することにより、複数の画像を作成するようにすると簡単な処理で複数の画像を得ることができるので、処理負荷が軽減される。
さらに、請求項3に記載のように、第1変倍処理手段(32)は、画像処理手段(30)で検出した物体の画像の大きさを固定倍率の縮小処理を行うことにより、階層的に複数の縮小画像を作成するようにするとよい。
このように画像を固定倍率で階層的に縮小処理することにより、変倍処理の際、元の画像に含まれる情報の欠落が少なくなるので、正確な画像を得ることができる。
例えば、請求項4に記載のように、固定倍率を50%とすると、変倍処理の際、周辺4画素からの補間処理をすることにより元の画像に含まれる情報の欠落が非常に少なくなるので、正確な画像を得ることができ、また、変倍処理の負荷を軽減することができる。
ここで、「階層的」とは、複数の画像が固定倍率で縮小される結果、縮小された複数の画像が階層を成すことを示している。
ところで、車両用の物体検出においては、検出手段範囲は数m〜数百mと検出範囲が広いので検出する物体の大きさが大きく変化する。したがって、請求項5に記載のように、第1変倍処理手段は、少なくとも2階層以上の画像を作成するようにすると、第2変倍処理手段(34)に対して複数階層の画像を準備しておくことができるので、第2変倍処理手段(34)における情報の欠落を少なくすることができる。
第1変倍処理手段(32)における変倍処理には種々の方法が考えられるが、請求項6に記載のように、バイリニア法により変倍処理を行うようにすると、画像を縮小する場合には、周辺4画素から補間処理をするため、縮小率50%までの情報の欠落が少なく、かつ、処理負荷の少ない変倍処理とすることができる。
また、請求項7に記載のように、第1変倍処理手段(32)において、バイキュービック法により変倍処理を行うようにすると、周辺16画素から補間処理をするのでバイリニアに比べより情報を多く使用する。したがって、画像を縮小する場合に情報の欠落がより少なく、かつ、処理負荷の少ない変倍処理とすることができる。
ところで、前述のように第2変倍処理手段(34)では、第1変倍処理手段(32)で得られた複数の画像を補間することにより最終的な画像を得る。そのとき、請求項8に記載のように、測距手段(10)で測距した物体までの距離に基づき求める画像の拡大率又は縮小率を計算し、第1変倍処理手段(32)により作成した複数の画像から計算した拡大率又は縮小率に近い縮尺率又は拡大率を有する画像を選択するようにするとよい。
このようにすると、第2変倍処理手段(34)で得られる画像を得るときに、第1変倍処理手段(32)で第1段階の変倍処理が施された複数の画像のうち、物体までの距離に対応して、最も拡大率又は縮尺率の近い画像を選択するので、処理負荷を少なくすることができる。
実際には、第2変倍処理手段(34)においては、測距手段(10)で測距した物体までの距離に応じた画像を得ることができればよい。そのためには、請求項9に記載のように第2変倍処理手段(34)は、第1変倍処理手段(32)が作成した複数の画像から選択した画像の拡大率又は縮小率と測距手段(10)で測距した物体までの距離に基づき計算した拡大率又は縮小率の差を補正処理することにより、物体の画像を得るようにするとよい。
このようにすると、車両用物体検出装置(1)での処理負担が少なくなる。なぜなら、第1変倍処理手段(32)で得られた複数の画像から選択した画像、つまり、既に拡大又は縮小された画像を、物体との距離に基づいて拡大又は縮小すればよいからである。
すなわち、第1変倍処理手段(32)が作成した複数の画像から選択した画像の拡大率又は縮小率と測距手段(10)で測距した物体までの距離に基づき計算した拡大率又は縮小率の差を補正するだけで、最終的な画像を得ることができるので、処理負担が少なくなる。
第2変倍処理手段(34)における画像の補間処理には種々の方法が考えられるが、請求項10に記載のように、バイリニア法により第1変倍処理手段(32)で段階的に変化させた画像の大きさを補間することにより物体の画像を得るようにすると、画像を縮小する場合には、縮小率50%までの情報の欠落が少なく、かつ、処理負荷の少ない変倍処理とすることができる。
また、請求項11に記載のように、最近傍法により第1変倍処理手段(32)で段階的に変化させた画像の大きさを補間して物体の画像を得るようにしても、画像を縮小する場合には、縮小率50%までの情報の欠落が少なく、かつ、処理負荷の少ない変倍処理とすることができる。
さらに、請求項12に記載のように、バイキュービック法により第1変倍処理手段(32)で段階的に変化させた画像の大きさを補間して画像物体の画像を得るようにしても、請求項10又は請求項11と同じ効果を得ることができる。
ところで、第1変倍処理手段(32)で複数の画像を作成する場合、すべての画像を作成すると画像のデータ量が増える。したがって、請求項13に記載のように、画像処理手段(30)は、撮影手段(20)で撮影した画像のうち所定の指定領域を切り出して蓄積し、第1変倍処理手段(32)は、画像処理手段(30)により蓄積された画像に対して変倍処理を行うようにすると、蓄積する画像データは1つで済むので、大量の画像データを蓄積する必要がない。
車両用物体検出装置(1)において、撮影手段(20)で車両(5)周辺の領域を含む範囲を撮影し、撮影した画像から画像処理手段(30)で物体を検出する場合、物体までの距離が十分遠い場合であることが多い。
そのような場合、物体までの距離に比例して撮影した画像中の物体は小さくなり、距離が実質的に無限遠とみなしてよいほど大きければ物体は点になる(この点を「消失点」と呼ぶ)。そこで、請求項14に記載のように、画像処理手段(30)は、撮影手段(20)で撮影する画像の消失点を基準として所定の領域を切り出し、蓄積するようにすると、容易に所定の領域を切り出すことができる。
以下、本発明が適用された実施形態について図面を用いて説明する。なお、本発明の実施の形態は、下記の実施形態に何ら限定されることはなく、本発明の技術的範囲に属する限り種々の形態を採りうる。
[第1実施形態]
車両用物体検出装置1のシステム構成を、図1及び図2に基づいて説明する。図1は、車両用物体検出装置1の概略のシステム構成を示すブロック図であり、図2は、車両用物体検出装置1を車両5に取り付けた状態を示す図である。
車両用物体検出装置1は、図1に示すように、ミリ波レーダ10、カメラ20、画像処理装置30を備え、図2に示すように車両5の前部に取り付けられている。
ミリ波レーダ10は、車両5周辺の所定の領域にある物体までの距離及び方位(横方向)を測定するものであり、図2に示すように車両5の最前部に取り付けられている。
図3にミリ波レーダ10の概略の構成を示す。ミリ波レーダ10は、図3に示すように、送信アンテナ108、送信器102、受信アンテナ116,118、受信器104、A/D変換部106及びマイコン132を備えている。
送信器102は、マイコン132から出力される時間に対して周波数が漸増、漸減又は一定となるパターンの信号をデジタルアナログ(D/A)変換するD/A変換器114、D/A変換器114から出力される信号を変調信号として入力し、この変調信号により変調されたミリ波帯の高周波信号を生成する電圧制御発振器112、電圧制御発振器112の出力を送信信号fsとローカル信号Lとに電力分配する分配器110とを備えている。
分配器110から出力される送信信号fsは、送信アンテナ108に供給され、ローカル信号Lは、受信器104へ供給される。
送信アンテナ108は、送信機102からのミリ波帯のレーダ波を車両5の前方へ送信する。
受信アンテナ116,118は、車両5の前方の先行車両等の物体から反射された反射波を受信するためのアンテナであり、所定の間隔を隔てて配置されている。受信アンテナ116,118は、反射波を受信すると、その反射波に応じた受信信号fr1,fr2を受信器104へ出力する。
受信器104は、各受信アンテナ116,118に対応して、受信信号fr1,fr2とローカル信号Lとをミキシングして、これらの信号の差の周波数に相当するビート信号B1,B2を生成する2個のミキサ120,122と、各ミキサ120,122で発生されたビート信号B1,B2をそれぞれ増幅する2個の増幅器124,126を備えている。
増幅器124,126は、ビート信号B1,B2を増幅するとともに、ビート信号B1,B2から不要な高周波成分を除去するフィルタ機能を有している。増幅器124,126によって増幅されたビート信号B1,B2は、A/D変換部106へ出力される。
A/D変換部106は、ビート信号B1,B2をそれぞれサンプリングしてデジタルデータD1,D2に変換する2個のA/D変換器128,130を備えている。A/D変換器128,130によって変換された各ビート信号B1,B2のデジタルデータD1,D2は、マイコン132へ出力される。
マイコン132は、CPU、ROM、RAM、I/Oを備え、A/D変換部から入力されるデジタルデータD1,D2に基づき、先行車両等の対象物との距離、相対速度、方位の検出を行う検出処理を実行し、画像処理装置30へ出力する。
カメラ20は、車両5周辺の所定の領域を含む範囲を撮影するものであり、CCDカメラである。カメラ20は、運転者が視覚によって認識する状況と同じ状況の車両前方の画像を撮影できるように車両5の前部に取り付けられている(図2参照)。
画像処理装置30は、ミリ波レーダ10で測定した物体までの距離及び方位に基づいてカメラ20で撮影した画像から物体を検出するものであり、前処理部31、第1変倍処理部32、画像メモリ33、第2変倍処理部34、物体横幅検出部35、総合判断部36及びテンプレートメモリ37を備えている。
前処理部31は、カメラ20で撮影した物体の画像のノイズを除去するための空間フィルタ処理やエッジ強調処理を行うものである。前処理部31で処理された画像データは画像メモリ33に蓄積される。
第1変倍処理部32は、前処理部31で処理した物体の画像の大きさを段階的に変化させた複数の画像を作成する変倍処理を行うものである。本第1実施形態では、物体の画像の大きさを50%の固定倍率の縮小処理を行うことにより、階層的に複数の物体の縮小画像を作成する。この処理は、ミリ波レーダ10の処理にかかわらず実行される。
具体的には、縮小していない第1階層の画像、縮小率50%の第2階層の画像、縮小率25%(=(50%)2)の第3階層の画像、縮小率12.5%(=(50%)3)の第4階層の画像を作成する。実際の画像の例を図4に示す。なお、各階層の画像は、前階層の画像の1辺が50%縮小されているので、画面サイズ(画面面積)としては、1/4になっている。
また、第1変倍処理部32では、ミリ波レーダ10の処理に関係なく変倍処理ができるため、ミリ波レーダ10が物体の距離及び位置情報を検出するタイミングと同時に行うことが可能となる(図7(b)参照)。
また、第1変倍処理部32では、50%の縮小処理を繰り返して行うため、バイリニア法やバイキュービック法を用いて画像の縮小処理を行う。
画像メモリ33は、第1変倍処理部32で処理された縮小画像を蓄積するためのメモリであり、RAMなどの記憶素子やハードディスク装置などの記憶装置である。
テンプレートメモリ37は、前回検出した物体の画像をテンプレートとして保存しておくためのものであり、RAMなどの記憶素子やハードディスク装置などである。
第2変倍処理部34は、第1変倍処理部32で段階的に変化させた複数の画像の大きさを補間して変化させることにより物体の画像を得るものである。
具体的には、ミリ波レーダ10で測距した物体までの距離に基づいて、後述する式6から求める画像の拡大率又は縮小率STを計算する。そして、計算した縮小率STに応じて、第1変倍処理部32で作成した階層的な縮小画像からある階層を選択する。例えば、計算の結果得られた縮小率STが32%であった場合、第2階層(25〜50%)を選択する。
そして、ミリ波レーダ10で検出された位置情報を中心に、後述する式5で計算された画像切り出し幅の画像を画像メモリ33から読み出す。
また、第1変倍処理部32において作成した複数の画像から選択した画像の縮小率(50%)とミリ波レーダ10で測距した物体までの距離に基づき計算した縮小率(32%)の差を補正処理する。
この場合、第2階層の画像を選択した段階で既に50%の縮小がされているため、第2変倍処理部34では、64%の縮小処理を行うことで元画像に対して32%の縮小処理を行うことができる。
第2変倍処理部34では、バイリニア法を用いることで処理時間を低減することができる。また、最近傍法でも情報量の欠落を1/2に抑えることができるため第2変倍処理部34では最近傍法を用いてもよい。
ここで、第2変倍処理部34における縮小率の計算について説明する。通常、車両5の前方(距離z)で撮影した物体は、その距離zが変化するため、その距離に応じて、画像上の大きさが変化する。そのため、第2変倍処理部34において、ミリ波レーダ10で検出した距離及び位置情報を元に計算された画像領域を拡大縮小処理することでテンプレート画像と同じ大きさになるようにする。
そのため、第2変倍処理部34では、まず、画像領域の計算を行う。画像領域の計算は、ミリ波レーダ10で検出した物体を中心とした領域にて行う。まず、ミリ波レーダ10で物体を検出した位置、距離に応じて、その位置に存在すべき物体が撮影される画像領域の計算が行われる。この位置の定義は、次の方法で計算できる。
図5は、画像上の位置、実際の3次元上の位置及び大きさとの対応関係を示す図である。図5において、201はカメラレンズ、202はカメラの光軸、 xは実際の物体の中心、204は撮影面、zは物体までの距離、fはカメラレンズ201の焦点距離、xcは画像上の車両5の中心、θは画像上の物体の中心xcで検出された位置の物体の存在する方位、wは実際の車両5の幅、wcは画像上の物体の幅である。
画像上の物体の中心xcは、ミリ波レーダ10より求められた物体までの距離z及び物体の中心位置xによって下記の式1で求められる。
xc=f・x/z・・・式1
また、物体の実際の幅wが既知である場合は、画像上の物体の幅wcは、下記の式2により計算することができる。
wc=f・w/z・・・式2
検出領域は、画像上での検出位置に式1、式2を適用することで計算することができる
そして、テンプレートメモリ37に格納されたテンプレートとミリ波レーダ10で検出した位置に相当する画像とのテンプレートマッチングにより物体検出を行う。
このようにして物体を検出した後、画像の処理間隔ごとに入力される画像での物体の画像上の位置は、検出対象である物体テンプレートとのテンプレートマッチングによる処理により検出する。
図6は、入力画像側の画像をテンプレートに合わせる処理を行う場合の処理の様子を表す図である。ここではテンプレートサイズをI×Jとする。
テンプレートはミリ波レーダ10により検出した位置に対応する画像上の位置で作成する。ここでは、物体までの距離zはミリ波レーダ10により測距されている。
テンプレート作成時(T1)で物体までの距離zT1及び画像上の幅IT1とした場合、実空間での物体の幅wは、下記の式3で表される。
w = zT1×IT1/f・・・式3
また、テンプレートサイズに変換をするため縮小率はST1は、下記の式4で計算される。
T1=I/IT1・・・式4
縮小率ST1に応じて切り出した画像に拡大縮小処理を行いテンプレートを作成する。
入力画像時刻Tにおいて物体までの距離がzTであった時、テンプレート画像の実空間上の物体の幅はwで表されることから、画像から切り出す幅ITは、下記の式5で計算される。
T=f×w/zT=zT1×IT1/zT・・・式5
切り出した画像は式6の縮小率STは、下記の式6で計算される。
T = I/IT・・・式6
そして、テンプレートとサイズを合わせた上でテンプレートマッチングを行えばよい。相関の評価にはSAD(Sum of Absolute Difference)を用いればよく、相関の最も高い位置が入力画像内での物体検出位置となる。相関の評価には、パターンマッチングで良く用いられる正規化相関やSSD(Sum of Squared Difference)などでもよい。
物体横幅検出部35は、第2変倍処理部34における処理結果から物体の中心位置及び横幅を補正する。具体的には、テンプレートマッチングによって切り出された領域に対し、縦エッジのヒストグラムから2点のピーク位置間距離が実空間換算で0.5〜2.5mであれば検出物体とし物体の幅を画像処理で横位置、物体幅を補正し検出結果として出力する。
また、検出した物体幅でテンプレートを作成しなおし、次の画像入力用テンプレートとテンプレートメモリ37を更新する。
総合判断部36は、ミリ波レーダ10による距離及び位置情報結果と、カメラ20で撮影した画像処理による位置情報とを統合判定し、最終的な車両5の位置を算出する。
(車両用物体検出装置1の特徴)
以上に説明した車両用物体検出装置1では、画像の縮小処理を第1変倍処理部32及び第2変倍処理部34で分割して実行している。このとき、第1変倍処理部32及び第2変倍処理部34の処理を図7(b)に示すようなシーケンスで実行することにより、位置情報のスループットを早くすることができる。
また、前述のように、テンプレートマッチングにより物体の相関を評価する場合、物体の距離に応じて画像の大きさが変化することから拡大縮小処理によりテンプレートサイズに大きさを合わせることが必要である。
前方車両検出のように数m〜数百mを検出範囲とした場合、従来の方法によれば、物体の画像上の大きさは大きく異なる。特に、数mと近傍の場合では、対象物体の画像サイズが非常に大きい。このため平均画素法などの縮小処理負荷が大きく処理時間がかかり位置検出結果の出力が遅れるといった問題と処理時間が物体の距離に応じて変わるといった問題があった。
また処理時間を低減するため、縮小処理を最近傍法のような単純な間引き処理にすると情報量が欠落するためテンプレートマッチングでの相関値が悪くなるといった問題があった。
ところが、本車両用物体検出装置1では、第1変倍処理部32において、カメラ20で撮影した原画像とその原画像を50%で4段階に縮小した4つの画像をあらかじめ作成しておく。そして、その画像の中からミリ波レーダ10から得られた先行車両までの距離に基づいて計算した縮尺率に近い縮尺率を有する画像を選択し、選択した画像から必要な縮尺率の画像を生成している。
つまり、第1変倍処理部32及び第2変倍処理部34の双方において、50%以下の縮尺をする必要がないので、100〜50%までの縮小処理に適した負荷が少なく、かつ、画像の欠落の少ない処理を用いることができる。
したがって、車両用物体検出装置1全体として、処理の負荷が少なく、かつ、画像の欠落の少ない画像を得ることができるのである。
さらに、従来の処理では、図7(a)に示すように、ミリ波レーダ10で先行車両との距離が得られてから画像を得るための処理を開始するため、位置情報の出力が遅れるといった問題が発生したのに対し、車両用物体検出装置1では、第1変倍処理部32での各階層の画像処理は、先行車両との距離に無関係に行われるので、距離を得るための処理と並列に実行することができる。
また、前述したように、第2変倍処理部34における処理は、従来の画像処理に比べ処理負荷が少ないので、従来と同じハードウエア(例えば、LSI)を使用した場合には、処理を早く行うことができる。
つまり、車両用物体検出装置1によれば、従来のものに比べ、画像を得るまでの処理時間が早くなるのである。
さらに、従来のものでは、特に距離の近い物体は画像上のサイズが大きく縮小するのに時間がかかるといった問題があった。また、処理負荷を低減するのに変倍処理を処理時間の速い最近傍法などを用いると情報が欠落してテンプレートマッチングでの相関値が低くなり誤検出をするといった問題があった。
これに対し、車両用物体検出装置1では、前述のように、100〜50%までの縮小処理に適した負荷が少なく、かつ、画像の欠落の少ない処理、例えば、バイリニア法、バイキュービック法を用いることができる。つまり、処理負荷を低減するために最近傍法を用いる必要がないので、情報が欠落してテンプレートマッチングでの相関値が低くなり誤検出をするといった問題も発生しない。
[第2実施形態]
また第1変倍処理部32において、図4に示すような階層画像を生成すると画像メモリ33に蓄積する画像データが増加してしまう。
ところが、第1実施形態における第1階層の高解像度画像は、遠方の物体の検出に用いられることが多い。その場合、車両5が走行している車線の消失点付近の画像だけが使われる。このことから第1階層の画像は消失点を基準に消失点から(x,y)だけずれたP点を起点に原画像の1/4の画像サイズを切り出すことで図8に示すように原画像1フレームを蓄積するよりも画像データを削減することができる。
[その他の実施形態]
以上、本発明の実施形態について説明したが、本発明は、本実施形態に限定されるものではなく、種々の態様を採ることができる。
例えば、上記実施形態では、ミリ波レーダ10を用いて先行車両との距離を測定していたが、前方を走行する他車両との車間距離及び方位を検出できればよいので、スキャニング式のレーザレーダを用いてもよい。
車両用物体検出装置1の概略のシステム構成を示すブロック図である。 ミリ波レーダ10、カメラ20、画像処理装置30の車両5への取り付状態を示す図である。 ミリ波レーダ10の概略の構成を示す図である。 第1変倍処理部32で作成される各階層の画像の例である。 画像上の位置、実際の3次元上の位置及び大きさとの対応関係を示す図である。 入力画像側の画像をテンプレートに合わせる処理を行う場合の処理の様子を表す図である。 画像処理装置30での概略処理シーケンスを示す図である。 第2実施形態における画像の蓄積の様子を示す図である。
符号の説明
1…車両用物体検出装置、5…車両、10…ミリ波レーダ、20…カメラ、30…画像処理装置、31…前処理部、32…第1変倍処理部、33…画像メモリ、34…第2変倍処理部、35…物体横幅検出部、36…総合判断部、37…テンプレートメモリ、102…送信器、104…受信器、106…A/D変換部、108…送信アンテナ、110…分配器、112…電圧制御発振器、114…D/A変換器、116…受信アンテナ、120…ミキサ、124…増幅器、128…A/D変換器、132…マイコン、201…カメラレンズ、201…カメラレンズ、202…カメラの光軸、204…撮影面。

Claims (14)

  1. 車両周辺の所定の領域にある物体までの距離及び方位を測定する測距手段と、
    前記車両周辺の所定の領域を含む範囲を撮影する撮影手段と、
    前記測距手段で測定した前記物体までの距離及び方位に基づいて前記撮影手段で撮影した画像から前記物体を検出する画像処理手段と、
    を備え、
    前記画像処理手段は、前記検出した前記物体の画像の大きさを段階的に変化させた複数の画像を作成する変倍処理を行う第1変倍処理手段と、
    前記第1変倍処理手段で段階的に変化させた複数の画像の大きさを補間して変化させることにより、前記物体の画像を得る第2変倍処理手段と、
    を有することを特徴とする車両用物体検出装置。
  2. 請求項1に記載の車両用物体検出装置において、
    前記第1変倍処理手段は、前記検出した前記物体の画像の大きさを固定倍率で変倍処理することにより、前記複数の画像を作成することを特徴とする車両用物体検出装置。
  3. 請求項2に記載の車両用物体検出装置において、
    前記第1変倍処理手段は、前記検出した前記物体の画像の大きさを固定倍率の縮小処理を行うことにより、階層的に複数の縮小画像を作成することを特徴とする車両用物体検出装置。
  4. 請求項2又は請求項3に記載の車両用物体検出装置において、
    前記固定倍率は50%であることを特徴とする車両用物体検出装置。
  5. 請求項2〜請求項4の何れかに記載の車両用物体検出装置において、
    前記第1変倍処理手段は、少なくとも2階層以上の画像を作成することを特徴とする車両用物体検出装置。
  6. 請求項1〜請求項5の何れかに記載の車両用物体検出装置において、
    前記第1変倍処理手段は、バイリニア法により前記変倍処理を行うことを特徴とする車両用物体検出装置。
  7. 請求項1〜請求項5の何れかに記載の車両用物体検出装置において、
    前記第1変倍処理手段は、バイキュービック法により前記変倍処理を行うことを特徴とする車両用物体検出装置。
  8. 請求項1〜請求項7の何れかに記載の車両用物体検出装置において、
    前記第2変倍処理手段は、前記測距手段で測距した前記物体までの距離に基づいて、求める画像の拡大率又は縮小率を計算し、前記第1変倍処理手段により作成した前記複数の画像から前記計算した前記拡大率又は縮小率に近い縮尺率又は拡大率を有する画像を選択することを特徴とする車両用物体検出装置。
  9. 請求項8に記載の車両用物体検出装置において、
    前記第2変倍処理手段は、前記第1変倍処理手段が作成した前記複数の画像から選択した画像の拡大率又は縮小率と前記測距手段で測距した前記物体までの距離に基づき計算した拡大率又は縮小率の差を補正処理することにより、前記物体の画像を得ることを特徴とする車両用物体検出装置。
  10. 請求項1〜請求項9の何れかに記載の車両用物体検出装置において、
    前記第2変倍処理手段は、バイリニア法により前記第1変倍処理手段で段階的に変化させた画像の大きさを補間することにより、前記物体の画像を得ることを特徴とする車両用物体検出装置。
  11. 請求項1〜請求項9の何れかに記載の車両用物体検出装置において、
    前記第2変倍処理手段は、最近傍法により前記第1変倍処理手段で段階的に変化させた画像の大きさを補間することにより、前記物体の画像を得ることを特徴とする車両用物体検出装置。
  12. 請求項1〜請求項9の何れかに記載の車両用物体検出装置において、
    前記第2変倍処理手段は、バイキュービック法により前記第1変倍処理手段で段階的に変化させた画像の大きさを補間することにより、前記物体の画像を得ることを特徴とする車両用物体検出装置。
  13. 請求項1〜請求項12に記載の車両用物体検出装置において、
    前記第1変倍処理手段は、前記撮影手段で撮影した画像のうち所定の指定領域を切り出して蓄積し、蓄積された画像に対して前記変倍処理を行うことを特徴とする車両用物体検出装置。
  14. 請求項13に記載の車両用物体検出装置において、
    前記画像処理手段は、前記撮影手段で撮影する画像の消失点を基準として前記所定の領域を切り出し、蓄積することを特徴とする車両用物体検出装置。
JP2007108325A 2007-04-17 2007-04-17 車両用物体検出装置 Expired - Fee Related JP4830958B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007108325A JP4830958B2 (ja) 2007-04-17 2007-04-17 車両用物体検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007108325A JP4830958B2 (ja) 2007-04-17 2007-04-17 車両用物体検出装置

Publications (2)

Publication Number Publication Date
JP2008269073A true JP2008269073A (ja) 2008-11-06
JP4830958B2 JP4830958B2 (ja) 2011-12-07

Family

ID=40048524

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007108325A Expired - Fee Related JP4830958B2 (ja) 2007-04-17 2007-04-17 車両用物体検出装置

Country Status (1)

Country Link
JP (1) JP4830958B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140006462A (ko) * 2012-07-05 2014-01-16 현대모비스 주식회사 안전운전 지원 장치 및 방법
JP2014142832A (ja) * 2013-01-24 2014-08-07 Canon Inc 画像処理装置、画像処理装置の制御方法、およびプログラム
JP2015018515A (ja) * 2013-07-12 2015-01-29 矢崎エナジーシステム株式会社 車載器
JP2015182646A (ja) * 2014-03-25 2015-10-22 パイオニア株式会社 撮影装置
JP2017009574A (ja) * 2015-06-24 2017-01-12 パナソニック株式会社 レーダ軸ずれ量算出装置およびレーダ軸ずれ量算出方法
JP2020122718A (ja) * 2019-01-31 2020-08-13 株式会社デンソーテン レーダ装置、車両制御システム及び物標情報推定方法
CN114067608A (zh) * 2020-08-06 2022-02-18 丰田自动车株式会社 车载检测装置及检测方法
CN115586542A (zh) * 2022-11-28 2023-01-10 中国人民解放军国防科技大学 基于缩比训练的远距离太赫兹单光子雷达成像方法及装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10937232B2 (en) 2019-06-26 2021-03-02 Honeywell International Inc. Dense mapping using range sensor multi-scanning and multi-view geometry from successive image frames

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001043357A (ja) * 1999-07-30 2001-02-16 Ricoh Co Ltd 画像処理方法、画像処理装置及び記録媒体
JP2004053278A (ja) * 2002-07-16 2004-02-19 Nissan Motor Co Ltd 前方車両追跡システムおよび前方車両追跡方法
JP2004056763A (ja) * 2002-05-09 2004-02-19 Matsushita Electric Ind Co Ltd 監視装置、監視方法および監視用プログラム
JP2005142839A (ja) * 2003-11-06 2005-06-02 Ricoh Co Ltd 画像処理装置、画像処理方法、及びコンピュータプログラム
JP2005283694A (ja) * 2004-03-29 2005-10-13 Sharp Corp 画像変倍処理方法、画像処理装置、プログラム及び記録媒体
JP2005300315A (ja) * 2004-04-09 2005-10-27 Denso Corp 物体検出装置
JP2006155428A (ja) * 2004-11-30 2006-06-15 Honda Motor Co Ltd 車両周辺監視装置
JP2007072665A (ja) * 2005-09-06 2007-03-22 Fujitsu Ten Ltd 物体判別装置、物体判別方法および物体判別プログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001043357A (ja) * 1999-07-30 2001-02-16 Ricoh Co Ltd 画像処理方法、画像処理装置及び記録媒体
JP2004056763A (ja) * 2002-05-09 2004-02-19 Matsushita Electric Ind Co Ltd 監視装置、監視方法および監視用プログラム
JP2004053278A (ja) * 2002-07-16 2004-02-19 Nissan Motor Co Ltd 前方車両追跡システムおよび前方車両追跡方法
JP2005142839A (ja) * 2003-11-06 2005-06-02 Ricoh Co Ltd 画像処理装置、画像処理方法、及びコンピュータプログラム
JP2005283694A (ja) * 2004-03-29 2005-10-13 Sharp Corp 画像変倍処理方法、画像処理装置、プログラム及び記録媒体
JP2005300315A (ja) * 2004-04-09 2005-10-27 Denso Corp 物体検出装置
JP2006155428A (ja) * 2004-11-30 2006-06-15 Honda Motor Co Ltd 車両周辺監視装置
JP2007072665A (ja) * 2005-09-06 2007-03-22 Fujitsu Ten Ltd 物体判別装置、物体判別方法および物体判別プログラム

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140006462A (ko) * 2012-07-05 2014-01-16 현대모비스 주식회사 안전운전 지원 장치 및 방법
JP2014142832A (ja) * 2013-01-24 2014-08-07 Canon Inc 画像処理装置、画像処理装置の制御方法、およびプログラム
JP2015018515A (ja) * 2013-07-12 2015-01-29 矢崎エナジーシステム株式会社 車載器
JP2015182646A (ja) * 2014-03-25 2015-10-22 パイオニア株式会社 撮影装置
JP2017009574A (ja) * 2015-06-24 2017-01-12 パナソニック株式会社 レーダ軸ずれ量算出装置およびレーダ軸ずれ量算出方法
JP2020122718A (ja) * 2019-01-31 2020-08-13 株式会社デンソーテン レーダ装置、車両制御システム及び物標情報推定方法
JP7236687B2 (ja) 2019-01-31 2023-03-10 株式会社デンソー レーダ装置、車両制御システム及び物標情報推定方法
CN114067608A (zh) * 2020-08-06 2022-02-18 丰田自动车株式会社 车载检测装置及检测方法
CN114067608B (zh) * 2020-08-06 2023-10-10 丰田自动车株式会社 车载检测装置及检测方法
CN115586542A (zh) * 2022-11-28 2023-01-10 中国人民解放军国防科技大学 基于缩比训练的远距离太赫兹单光子雷达成像方法及装置
CN115586542B (zh) * 2022-11-28 2023-03-03 中国人民解放军国防科技大学 基于缩比训练的远距离太赫兹单光子雷达成像方法及装置

Also Published As

Publication number Publication date
JP4830958B2 (ja) 2011-12-07

Similar Documents

Publication Publication Date Title
JP4830958B2 (ja) 車両用物体検出装置
JP4608631B2 (ja) 車両用画像処理装置、運転支援装置
JP6784943B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP5468426B2 (ja) ステレオカメラ装置
US7656508B2 (en) Distance measuring apparatus, distance measuring method, and computer program product
EP2927710B1 (en) Ranging system, information processing method and program thereof
JP2008116357A (ja) 物体検出装置
JPWO2019202628A1 (ja) 路面検出装置、路面検出装置を利用した画像表示装置、路面検出装置を利用した障害物検知装置、路面検出方法、路面検出方法を利用した画像表示方法、および路面検出方法を利用した障害物検知方法
US9813694B2 (en) Disparity value deriving device, equipment control system, movable apparatus, robot, and disparity value deriving method
JP2008298532A (ja) 障害物計測方法、障害物計測装置及び障害物計測システム
JP2009174900A (ja) 物体検出装置、物体検出方法および物体検出システム
JP4557041B2 (ja) 車両用画像処理装置
JP6035774B2 (ja) 画像処理装置、画像処理方法、及び車両
Roos et al. Estimation of the orientation of vehicles in high-resolution radar images
JP2008309637A (ja) 障害物計測方法、障害物計測装置及び障害物計測システム
US11908148B2 (en) Information processing device to determine object distance
JP2006322795A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2007172500A (ja) データ処理装置
KR101645322B1 (ko) 차선 변화벡터와 카디널 스플라인을 이용한 차선 검출 시스템 및 그 방법
JP2008304202A (ja) 距離画像生成方法、距離画像生成装置及びプログラム
JP2021025945A (ja) 物標検出装置
WO2021014799A1 (ja) 信号処理装置、信号処理方法
JP2006323693A (ja) 処理装置、画像処理方法および画像処理プログラム
WO2020175063A1 (ja) 演算装置、視差算出方法
JP2006072757A (ja) 物体検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110607

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110808

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110823

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110905

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140930

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees