JP2007085773A - 車両用画像処理装置 - Google Patents

車両用画像処理装置 Download PDF

Info

Publication number
JP2007085773A
JP2007085773A JP2005272123A JP2005272123A JP2007085773A JP 2007085773 A JP2007085773 A JP 2007085773A JP 2005272123 A JP2005272123 A JP 2005272123A JP 2005272123 A JP2005272123 A JP 2005272123A JP 2007085773 A JP2007085773 A JP 2007085773A
Authority
JP
Japan
Prior art keywords
vehicle
corresponding point
ecu
image processing
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005272123A
Other languages
English (en)
Other versions
JP4882324B2 (ja
Inventor
Yasuhiro Takagi
泰宏 高城
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2005272123A priority Critical patent/JP4882324B2/ja
Publication of JP2007085773A publication Critical patent/JP2007085773A/ja
Application granted granted Critical
Publication of JP4882324B2 publication Critical patent/JP4882324B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】 車両制御を最適に支援すること。
【解決手段】 車両用画像処理装置は自車両周囲のステレオ画像を取得する撮影手段と、撮影手段に取得されたステレオ画像間の対応点を検出する対応点検出手段と、対応点検出手段により検出された対応点に基づいて、自車両と自車両周囲の対象物との間の距離を算出する距離算出手段と、を備えている。また、対応点選択手段は、対応点検出手段により複数の対応点の候補が検出されたとき、自車両の制御態様に基づいて、複数の対応点の候補の中から1つの対応点を選択する。
【選択図】 図1

Description

本発明は、例えば、車載カメラにより撮影されたステレオ画像に基づいて、車両制御を最適に支援する車両用画像処理装置に関する。
従来、2つの撮像装置の光軸間平行度ずれに起因する誤差を補正して正確な視差を算出し、距離検出精度を向上させることができる距離検出装置が知られている(例えば、特許文献1参照)。上記車間距離計測装置および距離検出装置は、ステレオ画像に基づいて、対象物との距離を算出している。
特開2001−169310号公報
しかしながら、上記特許文献1に示す従来技術において、車両周囲に同様の形状のものが複数存在した場合に、ステレオ画像における複数の対応点の候補が検出されることがある。この場合、全ての候補を不採用とし、対応点の検出を再度繰り返すことが考えられるが、対応点の検出が不能となり、対象物との距離を算出できない虞がある。一方、複数の対応点の候補に対して、相関度(類似度)を夫々算出し、相関度の大きい方を採用することが考えられるが、外乱光等のノイズの影響により、相関度の高い方を選択したとしても、必ずしも真の対応点を選択できるとは限らない。この為、対応点が誤検出され、対象物との距離が間違って算出される虞がある。したがって、算出された対象物との距離が車両制御に用いられた場合に、車両制御を最適に行うことができない虞がある。
本発明はこのような課題を解決するためのものであり、車両制御を最適に支援することを主たる目的とする。
上記目的を達成するための本発明の一態様は、
自車両周囲のステレオ画像を取得するステレオ画像取得手段と、
前記ステレオ画像取得手段により取得された前記ステレオ画像間の対応点を検出する対応点検出手段と、
該対応点検出手段により検出された前記対応点に基づいて視差を算出し、該視差に基づいて、前記自車両と前記自車両周囲の対象物との間の距離を算出する距離算出手段と、
を備える車両用画像処理装置であって、
前記対応点検出手段により複数の前記対応点の候補が検出されたとき、前記自車両の制御態様に基づいて、前記複数の対応点の候補の中から1つの該対応点を選択する対応点選択手段を備えることを特徴とする車両用画像処理装置である。
この一態様によれば、対応点選択手段は、対応点検出手段により複数の対応点の候補が検出されたとき、自車両の制御態様に基づいて、複数の対応点の候補の中から1つの対応点を選択する。これにより、例えばPCS制御、ACC制御、駐車支援制御等の制御態様に応じて、最適な対応点が選択される。したがって、車両制御を最適に支援することができる。
また、この一態様において、前記自車両の制御態様が、物体との衝突が推定されたとき、前記自車両に減速度を付加し、及び/又は乗員保護装置を作動させるプリクラッシュ(PCS)制御であるとき、前記対応点選択手段は、前記複数の対応点の候補のうち、前記自車両から遠い位置となる前記対応点を選択するのが好ましい。これにより、対応点選択手段により選択された対応点が真の対応点と一致している場合は、対象物との実際の距離に基づいて、衝突を適正に判断し、通常のPCS制御を実行することができる。一方で、例えば、対応点選択手段により選択された対応点が真の対応点ではない場合でも、自車両から遠い位置となる対応点が意図的に選択される為、対象物との距離が実際より遠く認識される。従って、乗員保護装置の作動のうち、一般的に作動の遅れや、早期の作動などで乗員が違和感などを感じる可能性が高い制御、例えばプリクラッシュ制御の制御遅れや早期の作動を確実に防止することができる。すなわち、車両制御を最適に支援することができる。
さらに、この一態様において、前記自車両の制御態様が、先行車両との間の距離を適正に維持する車間制御(ACC制御)であるとき、前記対応点選択手段は、前記複数の対応点の候補のうち、前記自車両から近い位置となる前記対応点を選択するのが好ましい。これにより、対応点選択手段により選択された対応点が真の対応点と一致している場合は、先行車両等の対象物との実際の距離に基づいて、通常のACC制御を実行することができる。一方で、例えば、対応点選択手段により選択された対応点が真の対応点ではない場合でも、自車両から近い位置となる対応点が選択される為、対象物との距離が実際より近く認識される。したがって、対象物との距離が充分確保されるようにACC制御が実行され、安全性の向上に繋がる。すなわち、車両制御を最適に支援することができる。
この一態様において、前記自車両の制御態様が、前記自車両を所定の駐車位置に導く駐車支援制御であるとき、前記対応点選択手段は、前記複数の対応点の候補のうち、前記自車両から近い位置となる前記対応点を選択するのが好ましい。これにより、対応点選択手段により選択された対応点が真の対応点と一致している場合は、駐車位置までの経路上の人、障害物等の対象物との実際の距離に基づいて、通常の駐車支援制御を実行することができる。一方で、例えば、対応点選択手段により選択された対応点が真の対応点ではない場合でも、自車両から近い位置となる対応点が選択される為、対象物との距離が実際より近く認識される。したがって、対象物との安全距離が充分確保されるように駐車支援制御が実行される。すなわち、車両制御を最適に支援することができる。
この一態様において、前記対応点選択手段は、前記自車両の走行環境に応じて、前記複数の対応点の候補の中から1つの該対応点を選択してもよい。なお、上記自車両の走行環境とは、例えば、自車両周囲の明るさ、自車両が走行中の路面の滑り易さ、車両の速度、車両の加速度等を指す。また、例えば、対応点選択手段は、自車両周囲が暗くなり、路面が滑り易い状態となり、車両の速度が増加する、及び/又は車両の加速度が増加する、と複数の対応点の候補のうち、自車両から遠い位置となる対応点を選択するようにしてもよい。
なお、この一態様において、自車両から遠い位置となる対応点とは、視差が小さい対応点を指し、自車両から近い位置となる対応点とは、視差が大きい対応点を指す。
本発明によれば、車両制御を最適に支援することができる。
以下、本発明を実施するための最良の形態について、添付図面を参照しながら実施例を挙げて説明する。なお、画像処理装置の基本概念、主要なハードウェア構成、作動原理、及び基本的な制御手法等については当業者には既知であるため、詳しい説明を省略する。
図1は、本発明の第1乃至第3の実施の形態に係る車両用画像処理装置1のシステム構成の一例を示すブロック図である。第1乃至第3の実施の形態に係る車両用画像処理装置1は、自車両周囲を撮影する2つのカメラ3R、3L等の撮影手段を備えている。
各カメラ3R、3Lには、各カメラ3R、3Lにより撮影された画像に対し、画像処理を行い、先行車両、人、障害物、白線等の自車両周囲の対象物(以下、対象物と称す)と自車両との距離等を算出する画像処理ECU(Electronic Control Unit、電子制御装置)5が接続されている。
各カメラ3R、3Lは、車両前部の右側および左側において、例えば車両前方を向くように配置され、両カメラ3R、3Lのレンズ光軸が相互に平行、かつ撮像面の水平軸又は垂直軸が同一線上に揃うようにして配置されている(図2)。
なお、撮影手段として、2つのカメラ3R、3Lが用いられているが、2つのレンズを有するステレオ光学系からなる1つのステレオカメラを用いてもよい。ステレオカメラは、複数視点を有する1つのカメラによりステレオ画像が取得される為、省スペース化を図る上で有利となる。
また、カメラ3R、3Lとして、可視光を検出するCCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)カメラが用いられているが、夜間時の撮影に有効な赤外線カメラを用いてもよい。さらに、カメラ3R、3Lは車両前部に配設されているが、車両後部又は車両側部等の車両の任意の位置に配設されていてもよい。このような各カメラ3R、3Lにより撮影されたステレオ画像情報は、画像処理ECU5に送信される。
画像処理ECU5、後述の衝突対応ECU7、シートベルトECU9、エアバックECU11、ブレーキECU13、エンジンECU15、トランスミッションECU17、車間ECU19、駐車支援ECU21、及び操舵ECU23は、マイクロコンピュータから構成されており、プログラムに従って各種処理を実行するとともに、当該装置の各部を制御するCPU、このCPUの実行プログラムを格納するROM、画像データ、演算結果等を格納する読書き可能なRAM(Random Access Memory)、タイマ、カウンタ、入出力インターフェイス等を有している。これらCPU、ROM、RAM、及び入出力インターフェイスは、データバスにより相互に接続されている。
また、入出力インターフェイスは、アナログ信号をデジタル信号に変換するA/D(Analog/Digital)変換器、デジタル信号をアナログ信号に変換するD/A(Digital/Analog)変換器等を含んでいる。カメラ3R、3Lから送信されるアナログの画像データは、入出力インターフェイスのA/D変換器により、デジタルの画像データに変換され、RAMの画像メモリに記憶される。CPUは、ROMに記憶された画像処理プログラムに従って、RAMの画像メモリに記憶された画像データを読み出し、画像処理を行う。なお、画像メモリに記憶された画像データは、輝度情報を含むグレースケール画像である。
画像処理ECU5は、画像メモリから読み出したグレースケール画像に基づいて、2値化画像を生成する。具体的には、画像処理ECU5は、グレースケール画像において、予め設定された輝度閾値よりも大きい領域(画素)を「1」とし、小さい領域(画素)を「0」として、2値化画像を生成する。画像処理ECU5は、これらグレースケール画像又は2値化画像に対して、後述する各種の画像処理を行う。
なお、画像処理ECU5、後述の衝突対応ECU7、シートベルトECU9、エアバックECU11、ブレーキECU13、エンジンECU15、トランスミッションECU17、車間ECU19、駐車支援ECU21、及び操舵ECU23、は車両LAN(Local Area Network)25に接続され、例えば、CAN(Controller Area Network)プロトコルに基づいて、双方向のデータ通信を行っている。
次に、上述のように構成された画像処理ECU5による自車両と対象物との間の距離Sの算出方法について、説明する。
まず、画像処理ECU5は、右側のカメラ3Rにより撮影された右画像と、左側のカメラ3Lにより撮影された左画像とにおいて、同一の対象物に対する画像上の左右方向(水平方向)のずれである視差Δdを算出する。画像処理ECU5は、画像上の所定の領域毎(例えば複数の画素毎)に上記視差Δdを算出する。
例えば、画像処理ECU5は、右側カメラ3Rにより撮影された画像(以下、基準画像と称す)上で抽出された先行車両等の対象物Aに対して、左側カメラ3Lにより撮影された画像(以下、探索画像と称す)上の対応点(以下、対応画像と称す)Bを検出する。なお、左側カメラ3Lにより撮影された画像を基準画像とし、右側カメラ3Rにより撮影された画像を探索画像としてもよい。
具体的に、画像処理ECU5は、基準画像の対象物Aに最も類似した探索画像上の領域を探索することで、対応画像Bの検出を行う。なお、画像間の類似度(相関度)は、領域内の各画素の輝度値に基づく差分処理、正規化相関処理等を用いて算出される。例えば、画像処理ECU5は、差分処理において、領域内の画素毎の輝度差の総和(輝度差分総和値)を算出する。この算出された輝度差分総和値が小さくなるほど、類似度は高くなる。なお、輝度差分総和値の算出方法は、周知の技術であることから詳細な説明は省略する。
画像処理ECU5は、基準画像における対象物Aの重心位置と画像の中心線Lとの距離axと、探索画像における対象画像Bの重心位置と画像の中心線Lとの距離bxと、に基づいて、下記(1)式により視差Δdを算出する(図3)。
Δd=ax+bx (1)
このようにして、画像処理ECU5は、右側のカメラ3Rにより撮影された基準画像(右画像)と、左側のカメラ3Lにより撮影された探索画像(左画像)とにおいて、同一の対象物に対する画像上の左右方向(水平方向)のズレである視差Δdを算出する。
さらに、画像処理ECU5は、上記算出された視差Δdと、三角測量の原理に基づいた下記(2)式と、を用いて、対象物と自車両との間の距離(以下、車間距離と称す)Sを算出する。
S=f×D/(Δd×p) (2)
上記(2)式において、fは左右カメラ3R、3Lの焦点距離であり、Dは左右カメラ3R、3Lの光軸間の距離である。また、pは撮像素子3a内の画素間隔である(図4)。なお、焦点距離f、光軸間の距離D、および画素間隔pは、予め実験的に求められた値が画像処理ECU5のROMに設定されている。
(第1の実施の形態)
画像処理ECU5には、画像処理ECU5により算出された車間距離Sと、先行車両等の対象物に対する自車両の相対速度Vrとに基づいて、自車両に減速度の付加を行い、乗員保護装置を作動する、等のPCS(Pre Crush Safety:プリクラッシュ)制御を行う衝突対応ECU7が接続されている。なお、画像処理ECU5は、車間距離Sに対して微分処理を施すことにより、上記対象物に対する自車両の相対速度Vrを算出する。
より具体的には、衝突対応ECU7は、画像処理ECU5により算出された車間距離Sと上記相対速度Vrとに基づいて、車両前方、後方又は側方の対象物と自車両との衝突が予測された場合に、自車両に減速度を付加する、及び/又は乗員保護装置を作動、制御する。なお、自車両に減速度の付加を行うには、減速度の付加の準備を行う場合も含むものとし、乗員保護装置を作動するには、作動の準備を行う場合も含むものとする。
また、乗員保護装置には、例えば、乗員を車両のシートに拘束するシートベルト装置9a、エアバックを展開、膨張させて乗員への衝撃を吸収するエアバック装置11a、ステアリングコラムに衝撃吸収機構を内蔵したステアリング装置23a、衝撃発生時に退避して、その衝撃を吸収するブレーキペダル装置、後方車両に自車両の減速(ブレーキペダルの踏込み)を知らせるブレーキランプ等の車両の安全性を確保するあらゆる装置が含まれる。
なお、衝突対応ECU7は、例えば、車間距離Sが短いほど、及び/又は相対速度Vrが速いほど、より早いタイミングで、乗員保護装置を作動させる等のPCS制御を開始する。逆に、衝突対応ECU7は、車間距離Sが長いほど、及び/又は相対速度Vrが遅いほど、より遅いタイミングで乗員保護装置を作動させる等のPCS制御を開始する。
換言すれば、画像処理ECU5により算出される車間距離Sを実際の車間距離よりも短く算出するようにすれば、意図的に、より早いタイミングで乗員保護装置を作動させる等のPCS制御を開始させることができる。逆に、画像処理ECU5により算出される車間距離Sを実際の車間距離よりも長く算出するようにすれば、意図的に、より遅いタイミングで乗員保護装置を作動させる等のPCS制御を開始させることができる。
衝突対応ECU7には、シートベルト装置9aを作動、制御するシートベルトECU9が接続されている。シートベルト装置9aは、シートベルトに張力を付加する巻取り装置(プリテンショナ)を内蔵している。衝突対応ECU7は、画像処理ECU5からの車間距離Sと、相対速度Vrとに基づいて、対象物と自車両とが衝突すると予測された場合、シートベルトECU9、後述のエアバックECU11及びブレーキECU13に衝突信号を送信する。シートベルトECU9は、衝突対応ECU7から衝突信号を受信すると、シートベルト装置9aのプリテンショナを作動させ、シートベルトに張力を付加する。これにより、車両衝突時において、乗員がシートベルトにより確実に拘束される。
衝突対応ECU7には、エアバック装置11aの作動、制御を行うエアバックECU11が接続されている。エアバックECU11は、衝突対応ECU7から衝突信号を受信すると、エアバック装置11aの作動の準備を行う。これにより、自車両が対象物と衝突する前後において、エアバック装置11aを確実に作動させることが可能となる。
衝突対応ECU7には、自車両の液圧式等のブレーキ装置13aを制御するブレーキECU13が接続されている。ブレーキECU13は、例えばブレーキ装置13aの液圧を制御して、ブレーキキャリパを動作させることで、車両の減速度を制御する。ブレーキECU13は、衝突対応ECU7から衝突信号を受信すると、ブレーキ装置13aの液圧を制御して、自車両に減速度を付加する。これにより、自車両が対象物と衝突したときの衝撃を緩和することができる。
なお、衝突対応ECU7は、ブレーキECU13を介してブレーキ装置13aを制御することで自車両に減速度を付加しているが、エンジン15aの出力を低下させる、モータの発電による回生ブレーキを作動する(例えば、電気自動車、エンジンとモータを併用して走行するハイブリッド車両の場合)、トランスミッション装置17aの変速比を可変させる等により、又はこれらの任意の組み合わせにより、自車両に減速度を付加してもよい。
具体的に、衝突対応ECU7には、エンジン15aを制御するエンジンECU15が接続され、エンジンECU15は衝突対応ECU7から衝突信号を受信すると、電動式等のスロットルアクチュエータを制御して、エンジン15aの出力を低下させるようにしてもよい。また、衝突対応ECU7には、車両のトランスミッション17aを制御するトランスミッションECU17が接続され、トランスミッションECU17は、衝突信号を受信すると、変速機構の変速比を可変させて、車両に減速度を付加するようにしてもよい。
ところで、画像処理ECU5は、基準画像上の対象物に対して、例えば探索画像上において類似度が高い(輝度差分総和値が小さい、例えば0に近い値)対応画像を検出する。この場合、探索画像上において類似度が高い(輝度差分総和値が小さい)対応画像の候補が複数存在することがある。また、各対応画像の候補間において、輝度差分総和値の差が小さく(例えば、誤差の範囲内)、さらにノイズの混入した場合(例えば、外乱光、左右の撮像特性の差の影響)に、従来技術において、適正な対応画像が選択されない虞がある。
そこで、本実施例において、画像処理ECU5は、PCS制御等の自車両の制御態様に基づいて、複数存在する対応画像の候補の中から、1つの対応画像を選択する。
具体的には、画像処理ECU5は、対応画像の候補毎に、上記(1)式に基づいて、車間距離Sを算出する。さらに、画像処理ECU5は、対応画像の候補の中から、車間距離Sが大きい、自車両から遠い方の対応画像(例えば、車間距離Sが最大となる対応画像)を選択し、この選択された対応画像の車間距離Sを、PCS制御を行う衝突対応ECU7に対して、送信する。衝突対応ECU7は、この送信された自車両から遠い方の車間距離Sに基づいて、上述のPCS制御を行う。
なお、上記自車両から遠い方の対応画像として、車間距離Sが最大となる対応画像を選択する例を挙げたが、複数の対応画像の候補における車間距離Sの平均値を算出し、この平均値よりも大きい車間距離Sとなる対応画像を任意に選択してもよい。
これにより、画像処理ECU5により選択された対応画像が実際の対象物と一致している場合は、衝突対応ECU7は、実際の車間距離である車間距離Sに基づいて、衝突を適正に判断し、通常のPCS制御を行う。一方で、例えば、画像処理ECU5により選択された対応画像が実際の対象物と異なり、車間距離Sが実際の車間距離と異なる場合でも、衝突対応ECU7は、意図的に、実際の車間距離よりも大きい車間距離Sに基づいて、衝突を判断し、PCS制御を行う。従って、衝突対応ECU7が、実際の車間距離よりも短い車間距離Sに基づいて、衝突する可能性があると判断し、乗員保護装置等のうちの一般的に早期に作動することによる違和感が感じられ易いPCS制御を不必要に早期に作動させるのを防止することができる。
次に、第1の実施の形態に係る車両用画像処理装置1の処理フローについて説明する。図5は、第1の実施の形態に係る車両用画像処理装置1の処理フローの一例を示すフローチャートである。なお、図5、後述の図6、及び図7に示す処理ルーチンは所定の微小時間毎、例えば64ms毎に繰返し実行される。
画像処理ECU5は、各カメラ3R、3Lから車両周囲のステレオ画像を取得する(S100)。
次に、画像処理ECU5は、取得したステレオ画像に基づいて、基準画像上で抽出された先行車両等の対象物に対して、探索画像上の対応画像を検出する(S110)。
その後、画像処理ECU5は、探索画像上において複数の対応画像の候補が検出されたか否かを判断する(S120)。
画像処理ECU5は、複数の対応画像の候補が検出されたと判断すると(S120のYes)、上記(1)に基づいて、対応画像毎に車間距離Sを算出する(S130)。一方、画像処理ECU5は、一つの対応画像の候補のみが検出されたと判断すると(S120のNo)、上記(1)式に基づいて、この対応画像の車間距離Sを算出し、後述の(S150)の処理に移行する。
次に、画像処理ECU5は、複数の対応画像の候補のうち、車間距離Sが最大となる対応画像を選択し(S140)、選択された対応画像の車間距離Sを、衝突対応ECU7に対して送信する。
衝突対応ECU7は、画像処理ECU5から送信された車間距離Sと、相対速度Vrとに基づいて、自車両が対象物と衝突するか否かを判断する(S150)。
衝突対応ECU7は、自車両が対象物と衝突すると判断したとき(S150のYes)、シートベルトECU9、エアバックECU11、ブレーキECU13等に衝突信号を送信し、PCS制御を実行させる(S160)。例えば、シートベルトECU9は、衝突信号に基づいて、シートベルト装置9aを作動させる。また、エアバックECU11は、衝突信号に基づいて、エアバック装置11aを作動させる準備を行う。ブレーキECU13は、衝突信号に基づいて、ブレーキ装置13aを作動させ、車両に減速度を付加する。
一方、衝突対応ECU7は、自車両が対象物と衝突しないと判断したとき(S150のNo)、本処理ルーチンを終了させる。
以上、第1の実施の形態に係る車両用画像処理装置において、画像処理ECU5は、複数の対応画像の候補のうち、遠い方の対応画像(視差Δdの小さい対応画像)を選択し、選択された対応画像の車間距離Sを、衝突対応ECU7に対して送信する。衝突対応ECU7は、この送信された遠い方の対応画像の車間距離Sに基づいて、PCS制御を実行する。これにより、画像処理ECU5により選択された対応画像が実際の対象物と一致している場合は、衝突対応ECU7は、実際の車間距離である車間距離Sに基づいて、衝突を適正に判断し、通常のPCS制御を実行する。一方で、例えば、画像処理ECU5により選択された対応画像が実際の対象物と異なり、車間距離Sが実際の車間距離と異なる場合でも、衝突対応ECU7は、意図的に、実際の車間距離よりも大きい車間距離Sに基づいて、衝突を判断し、PCS制御を実行する。従って、衝突対応ECU7が、実際の車間距離よりも短い車間距離Sに基づいて、衝突する可能性があると判断し、乗員保護装置等のうちの一般的に早期に作動することによる違和感が感じられ易いPCS制御を不必要に早期に作動させるのを防止することができる。すなわち、車両制御を最適に支援することができる。
(第2の実施の形態)
画像処理ECU5は、複数の対応画像の候補を検出したとき、対応画像の候補のうち、自車両から近い方の対応画像(例えば、車間距離Sが最小となる対応画像)を選択し、この選択された対応画像の車間距離Sを、ACC制御を行う車間ECU19に対して、送信する。
なお、上記自車両から近い方の対応画像として、車間距離Sが最小となる対応画像を選択する例を挙げたが、複数の対応画像の候補における車間距離Sの平均値を算出し、この平均値よりも小さい車間距離Sとなる対応画像を任意に選択してもよい。
車間ECU19は、画像処理ECU5から送信された車間距離Sと、車速センサ15bにより検出された自車両の車速と、に基づいて、対象物と自車両との間の距離(車間距離、車間時間、車頭時間等)を適正に維持するACC(Adaptive Cruise Control若しくはAuto Cruise Control)制御を行う。
具体的には、車間ECU19は、車速センサ15bにより検出された自車両の車速と、予め設定された車間距離と車速との関係(例えば、マップ、テーブル等)に基づいて、適正な車間距離(車両の安全性、燃費等を考慮した最適な距離)を算出する。さらに、車間ECU19は、画像処理ECU5から送信される車間距離Sが、算出された適正な車間距離となるように、車両に加速度又は減速度を付加する。
例えば、車間ECU19はエンジンECU15、ブレーキECU13、トランスミッションECU17等に制御信号を送信して、エンジン15a、ブレーキ装置13a、トランスミッション装置17aを制御することで、車両に減速度を付加する。一方、車間ECU19はエンジンECU15に制御信号を送信して、エンジン15aの出力を増加させることで、車両に加速度を付加する。
なお、車間時間とは、車間距離を車速センサ15bにより検出された自車両の車速によって除算して、算出される値である。また、車頭時間とは、自車が先行車と(略)同一の速度にて追従走行している場合に、運転者が通常維持する自車両と先行車との車間距離を車速センサ15bにより検出された自車両の速度で除算した値である。
他の構成は、第1の実施の形態と略同一である。第1の実施の形態と同一部分には、同一符号を付して詳細な説明は省略する。
図6は、第2の実施の形態に係る車両用画像処理装置1の処理フローの一例を示すフローチャートである。なお、図6に示す第2の実施の形態に係る処理(S200)乃至(S230)は、図5に示す第1の実施の形態に係る処理(S100)乃至(S130)と同一であることから、詳細な説明は省略する。
画像処理ECU5は、複数の対応画像の候補が検出されたと判断すると(S220のYes)、上記(1)に基づいて、対応画像毎に車間距離Sを算出する(S230)。一方、画像処理ECU5は、一つの対応画像の候補のみが検出されたと判断すると(S220のNo)、上記(1)式に基づいて、この対応画像の車間距離Sを算出し、(S250)の処理に移行する。
次に、画像処理ECU5は、複数の対応画像の候補のうち、車間距離Sが最小となる対応画像を選択し(S240)、選択された対応画像の車間距離Sを、車間ECU19に対して送信する。
車間ECU19は、画像処理ECU5から送信される車間距離Sが、算出された適正な車間距離となるように、エンジンECU15、ブレーキECU13、トランスミッションECU17等に制御信号を送信して、車両の加速度又は減速度を付加し、ACC制御を実行する(S250)。このようにして、先行車両等の対象物と自車両との間において、適正な車間距離が維持される。
次に、第2の実施の形態に係る車両用画像処理装置1の変形例について、説明する。
画像処理ECU5は、複数の対応画像の候補を検出したとき、車両の走行環境に応じて、対応画像の候補のうち、自車両からより近い方の対応画像を選択してもよい。
例えば画像処理ECU5は、複数の対応画像の候補を検出したとき、車速センサ15bからの車速、又は加速度センサからの車両加速度に応じて、対応画像の候補のうち、自車両からより近い方の対応画像を選択してもよい。これにより、車速及び車両加速度に応じて、より適正な対応画像が選択される。
以上、第2の実施の形態に係る車両用画像処理装置において、画像処理ECU5は、複数の対応画像の候補のうち、近い方の対応画像(視差Δdが大きい方の対応画像)を選択し、選択された対応画像の車間距離Sを、車間ECU19に対して送信する。車間ECU19は、この送信された近い方の対応画像の車間距離Sに基づいて、ACC制御を実行する。
これにより、画像処理ECU5により選択された対応画像が実際の対象物と一致している場合は、車間ECU19は、実際の車間距離である車間距離Sに基づいて、先行車両等との車間距離を適正に判断し、通常のACC制御を実行することができる。一方で、例えば、画像処理ECU5により選択された対応画像が実際の対象物と異なり、車間距離Sが実際の車間距離と異なる場合でも、車間ECU19は、意図的に、実際の車間距離よりも小さい車間距離Sに基づいて、先行車両等との車間距離を判断し、ACC制御を実行する。この場合、車間ECU19が、実際の車間距離よりも小さい車間距離Sを認識することから、先行車両等との車間距離を通常より大きくなるように車間制御を行う。したがって、先行車両等との車間距離が充分確保され得ることから、車両の安全性が向上する。すなわち、車両制御を最適に支援することができる。
(第3の実施の形態)
画像処理ECU5は、複数の対応画像の候補を検出したとき、対応画像の候補のうち、自車両から近い方の対応画像(例えば、車間距離Sが最小となる対応画像)を選択し、この選択された対応画像の車間距離Sを、駐車支援を行う駐車支援ECU21に対して、送信する。
なお、上記自車両から近い方の対応画像として、車間距離Sが最小となる対応画像を選択する例を挙げたが、複数の対応画像の候補における車間距離Sの平均値を算出し、この平均値よりも小さい車間距離Sとなる対応画像を任意に選択してもよい。
駐車支援ECU21は、画像処理ECU5から送信された自車両と障害物との間の車間距離Sに基づいて、操舵ECU23、ブレーキECU13、及びエンジンECU15を制御して、ユーザによって設定された駐車目標位置に、自車両を導く。なお、操舵ECU23は、ステアリング装置23aを制御することで、車両のステアリングの操舵角を制御する。
他の構成は、第1及び第2の実施の形態と略同一である。第1及び第2の実施の形態と同一部分には、同一符号を付して詳細な説明は省略する。
図7は、第3の実施の形態に係る車両用画像処理装置1の処理フローの一例を示すフローチャートである。なお、図7に示す、第3の実施の形態に係る処理(S300)乃至(S330)は、図5に示す、第1の実施の形態に係る処理(S100)乃至(S130)と同一であることから、詳細な説明は省略する。
画像処理ECU5は、複数の対応画像の候補が検出されたと判断すると(S320のYes)、上記(1)に基づいて、対応画像毎に車間距離Sを算出する(S330)。一方、画像処理ECU5は、一つの対応画像の候補のみが検出されたと判断すると(S320のNo)、上記(1)式に基づいて、この対応画像の車間距離Sを算出し、(S350)の処理に移行する。
次に、画像処理ECU5は、複数の対応画像の候補のうち、車間距離Sが最小となる対応画像を選択し(S340)、選択された対応画像の車間距離Sを、駐車支援ECU21に対して送信する。
駐車支援ECU21は、画像処理ECU5から送信された車間距離Sに基づいて、操舵ECU23、ブレーキECU13、及びエンジンECU15を制御して、駐車目標位置に自車両を導く駐車支援制御を実行する(S350)。具体的には、駐車支援ECU21は、画像処理ECU5からの車間距離Sに基づいて、駐車目標位置までの経路上において、人、他車両等の障害物と安全距離を維持しつつ、回避するように、操舵ECU23、ブレーキECU13、及びエンジンECU15を制御する。
以上、第3の実施の形態に係る車両用画像処理装置1において、画像処理ECU5により選択された対応画像が実際の対象物と一致している場合は、駐車支援ECU21は、実際の車間距離である車間距離Sに基づいて、障害物等の対象物との車間距離を適正に判断し、通常の駐車支援制御を実行することができる。一方で、例えば、画像処理ECU5により選択された対応画像が実際の対象物と異なり、車間距離Sが実際の車間距離と異なる場合でも、駐車支援ECU21は、意図的に、実際の車間距離よりも小さい車間距離Sに基づいて、障害物等との車間距離を判断し、駐車支援制御を実行する。この場合、駐車支援ECU21が、実際の車間距離よりも小さい車間距離Sを認識することから、経路上の障害物等との距離を通常より大きくなるように駐車支援制御を行う。したがって、経路上の障害物等との距離が充分確保されて駐車支援が行われることから、車両の安全性が向上する。すなわち、車両制御を最適に支援することができる。
以上、本発明を実施するための最良の形態について実施の形態を用いて説明したが、本発明はこうした実施の形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において、上述した実施の形態に種々の変形及び置換を加えることができる。
例えば、上記実施形態において、画像処理ECU5は、PCS制御、ACC制御、駐車支援制御等の自車両の制御態様に基づいて、複数存在する対応画像の候補の中から、1つの対応画像を選択してもよい。すなわち、上述した第1の実施の形態、第2の実施の形態、及び第3の実施の形態を組み合わせてもよい。
具体的には、画像処理ECU5は、複数の対応画像の候補を検出したとき、対応画像の候補のうち、自車両から遠い方の対応画像の車間距離Sを衝突対応ECUに対して送信し、自車両から近い方の対応画像の車間距離Sを車間ECU19及び駐車支援ECU21に対して送信してもよい。この場合、車間ECU19に送信される対応画像の車間距離Sは、駐車支援ECU21に送信される対応画像の車間距離Sよりも、小さくてもよい。これにより、PCS制御、ACC制御、駐車支援制御等の自車両の制御態様に応じて、対応画像が選択され、適正な車間距離Sが算出される。
また、上記実施の形態において、左右方向にカメラ3R、3Lが併設され、画像処理ECU5は左右方向の視差Δdに基づいて、対象物と自車両との間の車間距離Sを算出しているが、上下方向にカメラが併設され、画像処理ECU5は、上下方向の視差に基づいて、対象物と自車両との間の車間距離Sを算出してもよい。
なお、上記実施の形態において、画像処理ECU5が特許請求の範囲記載の距離算出手段、及び対応点選択手段に相当する。
本発明は、例えば、PCS制御、ACC制御、駐車支援制御等に用いられる車両用画像処理装置に利用できる。搭載される車両の外観、重量、サイズ、走行性能等は問わない。
本発明の第1乃至第3の実施の形態に係る車両用画像処理装置のシステム構成の一例を示すブロック図である。 カメラが車両前部の右側および左側において、車両前方を向くように配置された状態の一例を示す図である。 右側のカメラにより撮影された基準画像と左側のカメラにより撮影された探索画像との視差の一例を示す図である。 対象物と自車両との間の距離(車間距離)の一例を示す図である。 第1の実施の形態に係る車両用画像処理装置の処理フローの一例を示すフローチャートである。 第2の実施の形態に係る車両用画像処理装置の処理フローの一例を示すフローチャートである。 第3の実施の形態に係る車両用画像処理装置の処理フローの一例を示すフローチャートである。
符号の説明
1 車両用画像処理装置
3R、3L カメラ
5 画像処理ECU
7 衝突対応ECU
19 車間ECU
21 駐車支援ECU

Claims (5)

  1. 自車両周囲のステレオ画像を取得するステレオ画像取得手段と、
    前記ステレオ画像取得手段により取得された前記ステレオ画像間の対応点を検出する対応点検出手段と、
    該対応点検出手段により検出された前記対応点に基づいて視差を算出し、該視差に基づいて、前記自車両と前記自車両周囲の対象物との間の距離を算出する距離算出手段と、
    を備える車両用画像処理装置であって、
    前記対応点検出手段により複数の前記対応点の候補が検出されたとき、前記自車両の制御態様に基づいて、前記複数の対応点の候補の中から1つの該対応点を選択する対応点選択手段を備えることを特徴とする車両用画像処理装置。
  2. 請求項1記載の車両用画像処理装置であって、
    前記自車両の制御態様が、物体との衝突が推定されたとき、前記自車両に減速度を付加し、及び/又は乗員保護装置を作動させるプリクラッシュ制御であるとき、前記対応点選択手段は、前記複数の対応点の候補のうち、前記自車両から遠い位置となる前記対応点を選択することを特徴とする車両用画像処理装置。
  3. 請求項1記載の車両用画像処理装置であって、
    前記自車両の制御態様が、先行車両との間の距離を適正に維持する車間制御であるとき、前記対応点選択手段は、前記複数の対応点の候補のうち、前記自車両から近い位置となる前記対応点を選択することを特徴とする車両用画像処理装置。
  4. 請求項1記載の車両用画像処理装置であって、
    前記自車両の制御態様が、前記自車両を所定の駐車位置に導く駐車支援制御であるとき、前記対応点選択手段は、前記複数の対応点の候補のうち、前記自車両から近い位置となる前記対応点を選択することを特徴とする車両用画像処理装置。
  5. 請求項1乃至4のうちいずれか1項記載の車両用画像処理装置であって、
    前記対応点選択手段は、前記自車両の走行環境に応じて、前記複数の対応点の候補の中から1つの該対応点を選択することを特徴とする車両用画像処理装置。
JP2005272123A 2005-09-20 2005-09-20 車両用画像処理装置 Expired - Fee Related JP4882324B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005272123A JP4882324B2 (ja) 2005-09-20 2005-09-20 車両用画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005272123A JP4882324B2 (ja) 2005-09-20 2005-09-20 車両用画像処理装置

Publications (2)

Publication Number Publication Date
JP2007085773A true JP2007085773A (ja) 2007-04-05
JP4882324B2 JP4882324B2 (ja) 2012-02-22

Family

ID=37972907

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005272123A Expired - Fee Related JP4882324B2 (ja) 2005-09-20 2005-09-20 車両用画像処理装置

Country Status (1)

Country Link
JP (1) JP4882324B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011027564A1 (ja) 2009-09-07 2011-03-10 パナソニック株式会社 視差算出方法、および視差算出装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0495709A (ja) * 1990-08-08 1992-03-27 Mitsubishi Electric Corp 車庫入れ用後方監視装置
JPH04357600A (ja) * 1991-02-12 1992-12-10 Mitsubishi Electric Corp 車両用追従走行制御装置
JPH07192199A (ja) * 1993-12-27 1995-07-28 Fuji Heavy Ind Ltd 車輌用走行案内装置
JPH09257424A (ja) * 1996-03-19 1997-10-03 Omron Corp 距離測定装置及び安全走行システム
JP2001041741A (ja) * 1999-07-30 2001-02-16 Fuji Heavy Ind Ltd ステレオ式車外監視装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0495709A (ja) * 1990-08-08 1992-03-27 Mitsubishi Electric Corp 車庫入れ用後方監視装置
JPH04357600A (ja) * 1991-02-12 1992-12-10 Mitsubishi Electric Corp 車両用追従走行制御装置
JPH07192199A (ja) * 1993-12-27 1995-07-28 Fuji Heavy Ind Ltd 車輌用走行案内装置
JPH09257424A (ja) * 1996-03-19 1997-10-03 Omron Corp 距離測定装置及び安全走行システム
JP2001041741A (ja) * 1999-07-30 2001-02-16 Fuji Heavy Ind Ltd ステレオ式車外監視装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011027564A1 (ja) 2009-09-07 2011-03-10 パナソニック株式会社 視差算出方法、および視差算出装置
JP2011058812A (ja) * 2009-09-07 2011-03-24 Panasonic Corp 視差算出方法、および視差算出装置
EP2650639A1 (en) 2009-09-07 2013-10-16 Panasonic Corporation Disparity calculation apparatus
US8743183B2 (en) 2009-09-07 2014-06-03 Panasonic Corporation Parallax calculation method and parallax calculation device
EP2752641A1 (en) 2009-09-07 2014-07-09 Panasonic Corporation Disparity calculation apparatus
US9338434B2 (en) 2009-09-07 2016-05-10 Panasonic Intellectual Property Management Co., Ltd. Parallax calculation method and parallax calculation device

Also Published As

Publication number Publication date
JP4882324B2 (ja) 2012-02-22

Similar Documents

Publication Publication Date Title
US10921804B2 (en) Vehicle control system, vehicle control method, and vehicle control program
US9574538B2 (en) Idling stop control system for vehicle
US20090085775A1 (en) Vehicle Detection Apparatus
JP6327244B2 (ja) 車両制御装置
JP4863741B2 (ja) 対象物検出システム、駆動装置、車両
US8655546B2 (en) Vehicle driving support apparatus
US8938354B2 (en) Driving support apparatus for vehicle
US7983475B2 (en) Vehicular actuation system
JP6300181B2 (ja) 車両の制御装置
JPH10181487A (ja) 車両の衝突防止装置
JP2009262629A (ja) 車両の運転支援装置
CN110621550A (zh) 泊车控制方法以及泊车控制装置
JP4938053B2 (ja) 車両用運転支援装置
JP4865095B1 (ja) 車両の運転支援装置
JP7204437B2 (ja) 車両走行制御方法及び車両走行制御システム
JP2008008679A (ja) 物体検出装置、衝突予測装置、及び車両制御装置
JPWO2020095636A1 (ja) 駐車支援装置及び駐車支援方法
JP2012226635A (ja) 車両の衝突予防安全装置
KR102658769B1 (ko) 운전자 보조 장치 및 그 제어 방법
CN112714718B (zh) 车辆控制方法及车辆控制装置
JP2009018621A (ja) 走行制御装置及びこれを用いた輸送システム
US11250707B2 (en) Collision avoidance assistance device
JP4882324B2 (ja) 車両用画像処理装置
KR20210123626A (ko) 운전자 보조 시스템
US20220306153A1 (en) Driving assistance apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080902

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110125

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110726

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111108

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141216

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141216

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees