JP2007131178A - 障害物位置特定システム - Google Patents
障害物位置特定システム Download PDFInfo
- Publication number
- JP2007131178A JP2007131178A JP2005326613A JP2005326613A JP2007131178A JP 2007131178 A JP2007131178 A JP 2007131178A JP 2005326613 A JP2005326613 A JP 2005326613A JP 2005326613 A JP2005326613 A JP 2005326613A JP 2007131178 A JP2007131178 A JP 2007131178A
- Authority
- JP
- Japan
- Prior art keywords
- image
- obstacle
- pixels
- image data
- luminance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】堅固な支持部により左右の撮像装置を車体に固着することなく、ステレオ視による障害物までの距離算出の精度を高く維持することができる障害物位置特定システムを提供する。
【解決手段】車両の前方を撮像する2つの遠赤外撮像装置それぞれで撮像した2つの画像データに基づいて、画像の特徴部分、例えば横長エッジ、所定の輝度より高い高輝度部分等を抽出し、2つの画像データで抽出した特徴部分を重ね合わせ、両者が重なり合う画素数を算出する。両者が重なり合う画素数が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトし、両者が重なり合う画素数が最大となる状態で障害物の当該車両に対する距離を算出する。
【選択図】図4
【解決手段】車両の前方を撮像する2つの遠赤外撮像装置それぞれで撮像した2つの画像データに基づいて、画像の特徴部分、例えば横長エッジ、所定の輝度より高い高輝度部分等を抽出し、2つの画像データで抽出した特徴部分を重ね合わせ、両者が重なり合う画素数を算出する。両者が重なり合う画素数が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトし、両者が重なり合う画素数が最大となる状態で障害物の当該車両に対する距離を算出する。
【選択図】図4
Description
本発明は、夜間に車両の外部を撮像する遠赤外撮像装置が撮像した画像データに基づいて、視差を利用して障害物の存在する位置をより正確に特定する障害物位置特定システムに関する。
自動車等の車両に周囲を撮像する撮像装置を搭載し、例えば車両前方の歩行者、自転車等の障害物の存在を認識する障害物認識システムを利用して、自車両との衝突の可能性を判定する衝突判定システムが多々開発されている。
例えば撮像装置で撮像した画像から、所定の基準パターンとパターンマッチングすることにより障害物、例えば人間が存在すると考えられる領域を抽出し、ステレオ視により該領域までの距離及び車両に対する相対移動ベクトルを算出することにより、障害物との衝突の可能性を判定している(非特許文献1参照)。
そして、衝突する可能性の算出精度を高めるには、障害物が存在すると考えられる領域までの距離を精度良く算出する必要がある。ステレオ視による距離算出精度を高めるには、撮像装置で撮像された画像の上下方向の位置ズレを抑制することが好ましい。従来の車両では、車両前方に左右に撮像装置を設置する場合に、撮像する画像の上下方向のズレを抑制すべく、バンパー部分に剛体からなる支持部を設け、撮像装置を支持部へ固着することにより、撮像装置設置時の上下方向のズレ、撮像中の上下方向のズレ等を抑制していた。
「ホンダ アールアンドディー テクニカル レビュー (Honda R&D Technical Review)」 Vol.13 No.1、2001年4月
「ホンダ アールアンドディー テクニカル レビュー (Honda R&D Technical Review)」 Vol.13 No.1、2001年4月
しかし、上述した撮像装置の固着方法では、バンパー部分に剛体からなる支持部を設ける必要が有ることから、車両の軽量化を図ることが困難となり、サスペンションの設計の自由度も縮小されるというデメリットが生じるという問題点があった。また、撮像装置の光軸合わせの自由度が少なく、並置される2つの撮像装置の光軸を平行に設置することが困難であるという問題点もあった。
さらに、撮像装置を支持部へ固着していることから、容易に撮像装置を交換することが困難であり、支持部へ取り付けることが可能な専用の撮像装置であることが好ましい。したがって、汎用的な撮像装置を取り付けることが困難になるおそれがあるという問題点もあった。
加えて、自動車等の車両に設けられている左右の車輪は、走行中に非同期に上下動を繰り返しており、静止状態で水平方向の取り付け位置を調整した場合であっても、撮像した画像が必ずしも上下方向にズレのないステレオ画像となっている保証は無い。
本発明は、斯かる事情に鑑みてなされたものであり、堅固な支持部により左右の撮像装置を車体に固着することなく、ステレオ視による障害物までの距離算出の精度を高く維持することができる障害物位置特定システムを提供することを目的とする。
上記目的を達成するために第1発明に係る障害物位置特定システムは、車両の前方を撮像する2つの遠赤外撮像装置と、該遠赤外撮像装置それぞれで撮像した2つの画像データを取得して画像中の障害物の存在を検出する障害物検出手段、及び該障害物検出手段で障害物を検出した場合、2つの前記遠赤外撮像装置により取得した画像の視差に基づいて前記障害物の当該車両に対する距離を算出する距離算出手段を有する障害物位置特定装置とを備える障害物位置特定システムにおいて、前記障害物位置特定装置は、2つの前記遠赤外撮像装置から取得した画像データに基づいて、画像の特徴部分を抽出する特徴部分抽出手段と、2つの画像データで抽出した特徴部分を重ね合わせ、両者が重なり合う画素数を算出する重複画素数算出手段と、該重複画素数算出手段で算出する両者が重なり合う画素数が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする画像重ね合わせ変更手段とを備え、前記距離算出手段は、両者が重なり合う画素数が最大となる状態で前記障害物の当該車両に対する距離を算出するようにしてあることを特徴とする。
また、第2発明に係る障害物位置特定システムは、第1発明において、前記特徴部分抽出手段は、2つの前記遠赤外撮像装置で撮像した画像データに基づいて、画像の横長のエッジを抽出するようにしてあり、前記重複画素数算出手段は、2つの画像データから抽出した横長エッジを重ね合わせ、両者が重なり合う画素数を算出するようにしてあることを特徴とする。
また、第3発明に係る障害物位置特定システムは、第1発明において、前記特徴部分抽出手段は、2つの前記遠赤外撮像装置から取得した画像データに基づいて、所定の輝度より高い高輝度部分を画像内から抽出するようにしてあり、前記重複画素数算出手段は、2つの画像データで抽出した高輝度部分を重ね合わせ、両者が重なり合う画素数をラインごとに算出するようにしてあり、前記画像重ね合わせ変更手段は、画像の全部又は一部のラインにて重なり合う画素数の総和が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトするようにしてあることを特徴とする。
また、第4発明に係る障害物位置特定システムは、第1発明において、前記画像重ね合わせ変更手段は、画像の一部又は全部のラインにつき、ラインごとに輝度値の総和を算出する手段と、算出した輝度値の総和を縦方向の画素位置に対応付けて記憶する手段と、ラインごとに輝度値の総和を算出した一部又は全部のラインにつき、ラインが重複している部分の一方の画像のラインごとの輝度値の総和と他方の画像のラインごとの輝度値の総和との差異の絶対値が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする手段とを備えることを特徴とする。
また、第5発明に係る障害物位置特定システムは、第1発明において、前記特徴部分抽出手段は、2つの前記遠赤外撮像装置から取得した画像データに基づいて、所定範囲内の輝度の平均値が高い順に複数箇所の高輝度領域を抽出するようにしてあり、前記重複画素数算出手段は、2つの画像データで抽出した高輝度領域を重ね合わせ、複数の高輝度領域の領域中心で形成される多角形領域が重なり合う画素数を算出するようにしてあり、前記画像重ね合わせ変更手段は、多角形領域が重なり合う画素数の総和が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトするようにしてあることを特徴とする。
また、第6発明に係る障害物位置特定システムは、車両の前方を撮像する2つの遠赤外撮像装置と、該遠赤外撮像装置それぞれで撮像した2つの画像データを取得して画像中の障害物の存在を検出する障害物検出手段、及び該障害物検出手段で障害物を検出した場合、2つの前記遠赤外撮像装置により取得した画像の視差に基づいて前記障害物の当該車両に対する距離を算出する距離算出手段を有する障害物位置特定装置とを備える障害物位置特定システムにおいて、前記障害物位置特定装置は、2つの前記遠赤外撮像装置から取得した画像データに基づいて、画像の特徴部分を抽出する特徴部分抽出手段と、2つの画像データで抽出した特徴部分の少なくともいずれか一方を含む画素数を算出する特徴部分画素数算出手段と、該特徴部分画素数算出手段で算出した画素数が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする画像重ね合わせ変更手段とを備え、前記距離算出手段は、特徴部分の少なくともいずれか一方を含む画素数が最小となる状態で前記障害物の当該車両に対する距離を算出するようにしてあることを特徴とする。
また、第7発明に係る障害物位置特定システムは、第6発明において、前記特徴部分抽出手段は、2つの前記遠赤外撮像装置で撮像した画像データに基づいて、画像の横長のエッジを抽出するようにしてあり、前記特徴部分画素数算出手段は、2つの画像データから抽出した横長エッジを重ね合わせ、少なくともいずれか一方を含む画素数を算出するようにしてあることを特徴とする。
また、第8発明に係る障害物位置特定システムは、第6発明において、前記特徴部分抽出手段は、2つの前記遠赤外撮像装置から取得した画像データに基づいて、所定の輝度より高い高輝度部分を画像内から抽出するようにしてあり、前記特徴部分画素数算出手段は、2つの画像データで抽出した高輝度部分を重ね合わせ、少なくともいずれか一方を含む画素数を算出するようにしてあり、前記画像重ね合わせ変更手段は、画像の全部又は一部のラインにて算出した画素数の総和が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトするようにしてあることを特徴とする。
また、第9発明に係る障害物位置特定システムは、第6発明において、前記画像重ね合わせ変更手段は、画像の一部又は全部のラインにつき、ラインごとに輝度値の総和を算出する手段と、算出した輝度値の総和を縦方向の画素位置に対応付けて記憶する手段と、ラインごとに輝度値の総和を算出した一部又は全部のラインにつき、ラインが重複している部分の一方の画像のラインごとの輝度値の総和と他方の画像のラインごとの輝度値の総和との差異の絶対値が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする手段とを備えることを特徴とする。
また、第10発明に係る障害物位置特定システムは、第6発明において、前記特徴部分抽出手段は、2つの前記遠赤外撮像装置から取得した画像データに基づいて、所定範囲内の輝度の平均値が高い順に複数箇所の高輝度領域を抽出するようにしてあり、前記特徴部分画素数算出手段は、2つの画像データで抽出した高輝度領域を重ね合わせ、少なくともいずれか一方の多角形領域を含む画素数を算出するようにしてあり、前記画像重ね合わせ変更手段は、少なくともいずれか一方の多角形領域を含む画素数の総和が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトするようにしてあることを特徴とする。
第1発明では、車両の前方を撮像する2つの遠赤外撮像装置それぞれで撮像した2つの画像データに基づいて、画像の特徴部分を抽出し、2つの画像データで抽出した特徴部分を重ね合わせ、両者が重なり合う画素数を算出する。両者が重なり合う画素数が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトし、両者が重なり合う画素数が最大となる状態で障害物の当該車両に対する距離を算出する。これにより、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像の上下方向のズレを修正することができ、視差による距離算出精度を高めることが可能となる。したがって、初期取り付け時に正確な光軸合わせを行う必要がなく、取り付け工数の低減を図ることも可能となる。
第2発明では、2つの画像データで抽出された横長エッジを重ね合わせ、両者が重なり合う画素数を算出し、算出した画素数が最大となるように一方の画像データを他方の画像データに対して縦方向に画素単位でシフトする。これにより、比較的抽出が容易な横長エッジに基づいて、左右の撮像装置で撮像した画像を縦方向にシフトすることで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
第3発明では、2つの画像データに基づいて、所定の輝度より高い高輝度部分を画像内から抽出し、2つの画像データで抽出した高輝度部分を重ね合わせ、両者が重なり合う画素数をラインごとに算出する。画像の全部又は一部のラインにて重なり合う画素数の総和が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする。これにより、抽出した高輝度部分の重複状態を各ラインにて重複する画素数に基づいて判断することで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。また、特徴部分近傍の一部のラインにて重複する画素数に基づいて判断することにより、視差による距離算出精度を高く維持しつつ演算処理負荷を軽減することが可能となる。
第4発明では、画像の一部又は全部のラインにつき、ラインごとに輝度値の総和を算出し、算出した輝度値の総和を縦方向の画素位置に対応付けて記憶する。ラインごとに輝度値の総和を算出した一部又は全部のラインにつき、ラインが重複している部分の一方の画像のラインごとの輝度値の総和と他方の画像のラインごとの輝度値の総和との差異の絶対値が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする。これにより、ラインごとの輝度値の総和の縦方向の分布が略一致する位置まで一方の画像を他方の画像に対して縦方向に画素単位でシフトすることができ、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正して、視差による距離算出精度を高めることが可能となる。
第5発明では、2つの遠赤外撮像装置から取得した画像データに基づいて、所定範囲内の輝度の平均値が高い順に複数箇所の高輝度領域を抽出し、2つの画像データで抽出した高輝度領域を重ね合わせ、複数の高輝度領域の領域中心で形成される多角形領域が重なり合う画素数を算出する。多角形領域が重なり合う画素数の総和が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする。これにより、抽出した高輝度領域の重複状態を、多角形領域の形状の類似度に基づいて判断することで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
第6発明では、車両の前方を撮像する2つの遠赤外撮像装置それぞれで撮像した2つの画像データに基づいて、画像の特徴部分を抽出し、2つの画像データで抽出した特徴部分の少なくともいずれか一方を含む画素数を算出する。算出した画素数が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトし、特徴部分の少なくともいずれか一方を含む画素数が最小となる状態で障害物の当該車両に対する距離を算出する。これにより、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像の上下方向のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
第7発明では、2つの遠赤外撮像装置で撮像した画像データに基づいて、画像の横長のエッジを抽出し、2つの画像データから抽出した横長エッジを重ね合わせ、少なくともいずれか一方を含む画素数を算出する。これにより、比較的抽出が容易な横長エッジに基づいて、左右の撮像装置で撮像した画像を縦方向にシフトすることで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
第8発明では、2つの遠赤外撮像装置から取得した画像データに基づいて、所定の輝度より高い高輝度部分を画像内から抽出し、2つの画像データで抽出した高輝度部分を重ね合わせ、少なくともいずれか一方を含む画素数を算出し、画像の全部又は一部のラインにて算出した画素数の総和が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする。これにより、抽出した高輝度部分の重複状態を各ラインにて高輝度部分が存在する画素数に基づいて判断することで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。また、特徴部分近傍の一部のラインにて高輝度部分が存在する画素数に基づいて判断することにより、視差による距離算出精度を高く維持しつつ演算処理負荷を軽減することが可能となる。
第9発明では、画像の一部又は全部のラインにつき、ラインごとに輝度値の総和を算出し、算出した輝度値の総和を縦方向の画素位置に対応付けて記憶し、ラインごとに輝度値の総和を算出した一部又は全部のラインにつき、ラインが重複している部分の一方の画像のラインごとの輝度値の総和と他方の画像のラインごとの輝度値の総和との差異の絶対値が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする。これにより、ラインごとの輝度値の総和の縦方向の分布が略一致する位置まで一方の画像を他方の画像に対して縦方向に画素単位でシフトすることができ、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正して、視差による距離算出精度を高めることが可能となる。
第10発明では、2つの遠赤外撮像装置から取得した画像データに基づいて、所定範囲内の輝度の平均値が高い順に複数箇所の高輝度領域を抽出し、2つの画像データで抽出した高輝度領域を重ね合わせ、少なくともいずれか一方の多角形領域を含む画素数を算出し、少なくともいずれか一方の多角形領域を含む画素数の総和が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする。これにより、抽出した高輝度領域の重複状態を、多角形領域の形状の類似度に基づいて判断することで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
第1発明によれば、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像の上下方向のズレを修正することができ、視差による距離算出精度を高めることが可能となる。したがって、初期取り付け時に正確な光軸合わせを行う必要がなく、取り付け工数の低減を図ることも可能となる。
第2発明によれば、比較的抽出が容易な横長エッジに基づいて、左右の撮像装置で撮像した画像を縦方向にシフトすることで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
第3発明によれば、抽出した高輝度部分の重複状態を各ラインにて重複する画素数に基づいて判断することで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。また、特徴部分近傍の一部のラインにて重複する画素数に基づいて判断することにより、視差による距離算出精度を高く維持しつつ演算処理負荷を軽減することが可能となる。
第4発明によれば、ラインごとの輝度値の総和の縦方向の分布が略一致する位置まで一方の画像を他方の画像に対して縦方向に画素単位でシフトすることができ、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正して、視差による距離算出精度を高めることが可能となる。
第5発明によれば、抽出した高輝度領域の重複状態を、多角形領域の形状の類似度に基づいて判断することで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
第6発明によれば、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像の上下方向のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
第7発明によれば、比較的抽出が容易な横長エッジに基づいて、左右の撮像装置で撮像した画像を縦方向にシフトすることで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
第8発明によれば、抽出した高輝度部分の重複状態を各ラインにて高輝度部分が存在する画素数に基づいて判断することで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。また、特徴部分近傍の一部のラインにて高輝度部分が存在する画素数に基づいて判断することにより、視差による距離算出精度を高く維持しつつ演算処理負荷を軽減することが可能となる。
第9発明によれば、ラインごとの輝度値の総和の縦方向の分布が略一致する位置まで一方の画像を他方の画像に対して縦方向に画素単位でシフトすることができ、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正して、視差による距離算出精度を高めることが可能となる。
第10発明によれば、抽出した高輝度領域の重複状態を、多角形領域の形状の類似度に基づいて判断することで、2つの撮像装置で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
以下、本発明の実施の形態について、図面を参照しながら詳細に説明する。
(実施の形態1)
図1は、本発明の実施の形態1に係る障害物位置特定システムの構成を示す模式図である。本実施の形態では、夜間走行中に遠赤外撮像装置であるビデオカメラにより撮像された画像に基づいて車両の前方に障害物、例えば歩行者、自転車等が存在するか否かを判断し、存在を確認した障害物の自車両に対する距離を算出する場合を例として説明する。なお、遠赤外撮像装置は、波長が7〜14マイクロメートルの赤外光を用いた撮像装置である。
図1は、本発明の実施の形態1に係る障害物位置特定システムの構成を示す模式図である。本実施の形態では、夜間走行中に遠赤外撮像装置であるビデオカメラにより撮像された画像に基づいて車両の前方に障害物、例えば歩行者、自転車等が存在するか否かを判断し、存在を確認した障害物の自車両に対する距離を算出する場合を例として説明する。なお、遠赤外撮像装置は、波長が7〜14マイクロメートルの赤外光を用いた撮像装置である。
図1において、1、2は、夜間の歩行者、自転車に乗った人間等を撮像する遠赤外用のビデオカメラ(撮像装置)である。ビデオカメラ1、2は、車両のフロントグリル内に、適長の間隔を隔てて略水平方向に並置してある。撮像した画像データは、IEEE1394に準拠した車載LANケーブル6を介して接続してある障害物位置特定装置3に送信される。
障害物位置特定装置3は、ビデオカメラ1、2の他、操作部を備えた表示装置4、音声、効果音等により聴覚的な警告を発する警報装置5等の出力装置とも、車載LANケーブル6を介して接続されている。また、車両の速度を検出する速度センサ7とも車載LANケーブル6を介して接続されており、車両の走行速度の検出値が障害物位置特定装置3へ入力される。
図2は、本発明の実施の形態1に係る障害物位置特定システムの遠赤外用ビデオカメラ1の構成を示すブロック図である。画像撮像部11は、光学信号を電気信号に変換する複数の撮像素子を画素単位で備えている。画像撮像部11は、車両の周囲の赤外光像を輝度信号として読み取り、読み取った輝度信号を、内部バス15を介して信号処理部12へ送信する。
信号処理部12は、LSI基板であり、画像撮像部11から受信した輝度信号に対して、光学系で生じた各種の歪みを取り除くための処理、低周波ノイズの除去処理、ガンマ特性を補正する補正処理等を行う。さらに、補正後の輝度信号を画像データとして画像メモリ13へ記憶する。
通信インタフェース部14は、LSI基板であり、車載LANケーブル6を介して障害物位置特定装置3とデータの送受信を行う。通信インタフェース部14は、障害物位置特定装置3から送出される指令に従って、画像メモリ13に記憶された画像データの障害物位置特定装置3への送出、ビデオカメラ1、2で撮像した画像の解像度による転送レートの変換等を行う。
図3は、本発明の実施の形態1に係る障害物位置特定システムの障害物位置特定装置3の構成を示すブロック図である。通信インタフェース部31は、ビデオカメラ1、2に対する指令の送信、ビデオカメラ1、2からの画像データの受信を行う。通信インタフェース部31は、ビデオカメラ1、2から受信した画像データを、1フレーム単位に同期させて画像メモリ32に記憶する。また、通信インタフェース部31は、車載LANケーブル6を介して液晶ディスプレイ等の表示装置4に対して画像データを送出し、ブザー、スピーカ等の警報装置5に対して合成音等の出力信号を送信する。
画像メモリ32は、SRAM、フラッシュメモリ等であり、通信インタフェース部31を介してビデオカメラ1、2から受信した画像データを記憶する。
画像処理を行う基板であるLSI33は、画像メモリ32に記憶された画像データをフレーム単位で読出し、読み出した画像データをパターンマッチングすることにより、画像内の横長エッジを抽出し、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する。
LSI33は、視差画像の上下方向のズレを修正した後、パターンマッチングにより障害物の存在を検出し、検出した障害物までの距離を算出する。なお、RAM331は、演算処理の途上で生成したデータ及び算出した障害物の時系列的位置データを記憶する。
LSI33での詳細な処理について以下に説明する。図4は、本発明の実施の形態1に係る障害物位置特定システムの障害物位置特定装置3のLSI33の視差画像調整処理の手順を示すフローチャートである。
LSI33は、画像メモリ32に記憶してある画像データを読み出し(ステップS401)、撮像素子ごとに出力されている輝度値に基づいてエッジ部分を抽出する(ステップS402)。エッジ部分の抽出方法は特に限定されるものではない。例えば、以下に示すように、ラプラシアンフィルタを用いてエッジ部分を抽出する。
ラプラシアンフィルタは、所定の画素の輝度値と該画素の周囲に存在する画素の輝度値とを対比し、輝度値の差分値が所定の閾値より大きい場合に‘1’を出力し、所定の閾値より小さい場合に‘0’を出力する。すなわち、周囲の画素と輝度値の差分が所定の閾値より大きい場合、エッジ部分であるとして‘1’を出力する。(数1)は、所定の画素の上下左右に存在する画素の輝度値を用いる場合のラプラシアンフィルタにおける演算処理を示す数式である。
(数1)において、f(x、y)は、受け付けた画像データにおける所定の位置での画素の輝度値を、g(x、y)は、エッジ画素の輝度値を、THは所定の閾値を、それぞれ示している。ラプラシアンフィルタにより輝度値が‘1’となった画素をエッジ部分として抽出する。
まずLSI33は、視差画像間の上下方向のズレを修正することが容易な横長の直線分布を示すテンプレートと画像データとをマッチングすることによる相関値R1を算出し(ステップS403)、相関値R1が所定の閾値より大きい領域が存在するか否かを判断する(ステップS404)。LSI33が、相関値R1が所定の閾値より大きい領域が存在しないと判断した場合(ステップS404:NO)、LSI33は、視差画像の上下方向のズレを修正することができないことから、以下の視差画像調整処理を行うことなく、後続の処理、例えば障害物との衝突判定処理等へと移行する。
LSI33が、相関値R1が所定の閾値より大きい領域が存在すると判断した場合(ステップS404:YES)、LSI33は、ビデオカメラ1、2で撮像した視差画像を、例えば画像左上を原点として重ね合わせ(ステップS405)、所定の閾値より大きい領域、すなわち横長エッジが存在する領域が重なり合っている画素数P1を算出してRAM331に記憶する(ステップS406)。
LSI33は、一方の画像(例えばビデオカメラ1で撮像した画像)を他方の画像(例えばビデオカメラ2で撮像した画像)に対して1画素列上方又は下方にシフトする(ステップS407)。LSI33は、シフト後の状態で横長エッジが存在する領域が重なり合っている画素数P2を算出し(ステップS408)、順次算出した画素数P2、・・・、Pn(nは縦方向の画素数)を記憶する(ステップS409)。
LSI33は、画像の上方又は下方へのシフトが終了したか否かを判断し(ステップS410)、LSI33が終了したと判断した場合(ステップS410:YES)、LSI33は、記憶してある画素数P1、P2、・・・、Pnの最大値を抽出する(ステップS411)。LSI33が終了していないと判断した場合(ステップS410:NO)、LSI33は、ステップS407へ処理を戻す。LSI33は、画素数P1、P2、・・・、Pnの最大値におけるシフト位置で上下方向のズレが最小になったと判断し、画像シフト後の状態で障害物の検出処理及び障害物までの距離算出処理を実行する(図6)。
図5は、横長エッジに基づく視差画像の上下方向のズレを修正する処理の概要を示す図である。図5(a)に示すようにビデオカメラ1で撮像した画像51と、ビデオカメラ2で撮像した画像52との間には視差が存在する。なお、横長エッジ53の抽出を容易にすべく、実際にはビデオカメラ1、2で撮像した画像に対し、エッジ強調処理を行った後、二値化することにより、より鮮明な横長エッジを検出することができる。
2つのビデオカメラ1、2で撮像された画像51、52は、図5(b)のように、左上の画像原点に基づいて重ね合わせる。横長エッジ53が重なっている領域について画素数を算出する。図5の例では、ビデオカメラ2で撮像した画像52がわずかに下方へずれている。
そこで、図5(c)のように、ビデオカメラ2で撮像した画像52をビデオカメラ1で撮像した画像51に対して1ライン分上方へシフトする。これにより、横長エッジ53が重なり合っている画素数が多くなり、重なり合っている画素数が最大となるラインまでビデオカメラ2で撮像した画像をシフトした状態で、障害物の検出処理及び障害物までの距離算出処理を実行する。
図6は、本発明の実施の形態1に係る障害物位置特定システムの障害物位置特定装置3のLSI33の障害物検出処理及び障害物までの距離算出処理の手順を示すフローチャートである。LSI33は、歩行者が存在するか否かを判断するのに使用する特徴量、例えば人間の標準的な温度分布を示すテンプレートと抽出したエッジ部分で構成される画像データとをマッチングすることによる相関値R2を算出し(ステップS601)、相関値R2が所定の閾値より大きい領域が存在するか否かを判断する(ステップS602)。
なお、LSI33が、電柱、水銀灯等が存在するか否かを判断するのに使用する特徴量、例えば横長の直線分布を示すテンプレートと抽出したエッジ部分で構成される画像データとをマッチングすることによる相関値R1、又は歩行者が存在するか否かを判断するのに使用する特徴量として、人間の標準的な温度分布を示すテンプレートと、抽出したエッジ部分で構成される画像データ(ラプラシアンフィルタ適用後の画像データ)とをマッチングすることにより算出した相関値R2を用いる場合、相関値R1、R2は(数2)に基づいて算出される。
(数2)において、Nはマッチング処理を行う領域の総画素数を、kは0≦k≦(N−1)の整数を、Fkは縦長の直線分布を示すテンプレート又は人間の標準的な温度分布を示すテンプレート内におけるk番目の画素の輝度値を、Gkはマッチング処理する画像におけるk番目の画素の輝度値を、それぞれ示している。
なお、抽出したエッジ部分が歩行者と認識すべき画像であるか否かを判断するのに使用する特徴量としては、上述した人間の標準的な温度分布を示すテンプレートと画像データとをマッチングすることによる相関値に限定されるものではなく、歩行者と認識される領域の大きさ、縦横比、画素値の平均値、分散等、歩行者と認識される領域を特定することが可能な特徴量であれば何でも良いし、これらを組み合わせて判断するものであっても良い。
LSI33が、相関値R2が所定の閾値より大きい領域が存在しないと判断した場合(ステップS602:NO)、LSI33は、ステップS401へ戻り、次の画像データを読み出す。LSI33が、相関値R2が所定の閾値より大きい領域が存在すると判断した場合(ステップS602:YES)、LSI33は、該領域が歩行者を示す領域であると判断して、歩行者を示す領域、すなわち障害物が存在する領域の位置データを自車両の前部中央を原点とした座標値を算出して(ステップS603)、障害物までの距離を算出する(ステップS604)。
すなわち、LSI33は、上述した処理により歩行者と認識された障害物と自車両との距離、及び障害物の存在する方向を、車両前部の左右にステレオ配置されているビデオカメラ1、2の画像データをステレオ画像処理することにより算出する。これにより、障害物の位置を、例えば自車両の前方中央を原点とした座標系における座標値として算出することができ、障害物までの距離を正確に算出することが可能となる。なお、別途レーダ装置を車両前方下部に装着しておき、直接的に障害物と自車両との距離、及び障害物の存在する方向を測定して、座標値を算出するものであっても良い。
なお、障害物までの距離が算出された場合、算出された距離及び速度センサ7から受け付けた車両の速度等に基づいて、自車両と障害物とが衝突するか否かを判断することも可能であり、衝突する可能性の存在を、例えば表示手段4に警告表示する、警報手段5を鳴動させるとうにより運転者へ報知することも可能である。
以上のように本実施の形態1によれば、画像の特徴部分が重なり合う部分、例えば横長エッジが重なり合う部分の画素数が最大となるように、左右に設置してあるビデオカメラ1、2で撮像した画像を縦方向にシフトすることにより、2つのビデオカメラ1、2で撮像した2つの画像が、車両の上下動、ビデオカメラ1、2の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
(実施の形態2)
本発明の実施の形態2に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態2は、左右に設置してある2つのビデオカメラ1、2で撮像した画像内で、輝度が所定の輝度よりも高い領域を抽出し、両画像を重ね合わせた場合の該領域(以下、高輝度領域という。)が重複する画素数をラインごとに算出し、全ライン又は一部分のラインの画素数の総和に基づいてビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
本発明の実施の形態2に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態2は、左右に設置してある2つのビデオカメラ1、2で撮像した画像内で、輝度が所定の輝度よりも高い領域を抽出し、両画像を重ね合わせた場合の該領域(以下、高輝度領域という。)が重複する画素数をラインごとに算出し、全ライン又は一部分のラインの画素数の総和に基づいてビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
すなわちLSI33は、画像メモリ32に記憶された画像データをフレーム単位で読出し、読み出した画像データから所定の輝度より高い輝度値を有する高輝度部分を抽出し、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する。
LSI33は、視差画像の上下方向のズレを修正した後、パターンマッチングにより障害物を検出し、検出した障害物の過去の位置データに基づいて、障害物の自車両に対する距離を算出する。なお、RAM331は、演算処理の途上で生成したデータを記憶する。
LSI33での詳細な処理について以下に説明する。図7は、本発明の実施の形態2に係る障害物位置特定システムの障害物位置特定装置3のLSI33の視差画像調整処理の手順を示すフローチャートである。
LSI33は、画像メモリ32に記憶してある画像データを読み出し(ステップS701)、所定の輝度値より高い高輝度部分を抽出する(ステップS702)。LSI33は、ビデオカメラ1、2で撮像した視差画像を、例えば画像左上を原点として重ね合わせ(ステップS703)、画像内のライン(画素行)ごとに高輝度部分が重複している画素数を算出し(ステップS704)、全ライン又は部分ラインにおける高輝度部分が重複している画素数の総和S1を算出して、RAM331に記憶する(ステップS705)。
LSI33は、一方の画像(例えばビデオカメラ1で撮像した画像)を他方の画像(例えばビデオカメラ2で撮像した画像)に対して1画素列上方又は下方にシフトする(ステップS706)。LSI33は、シフト後の状態で画像内のライン(画素行)ごとに高輝度部分が重複している画素数を算出し、全ライン又は部分ラインにおける高輝度部分が重複している画素数の総和S2を算出し(ステップS707)、順次算出した画素数の総和S2、・・・、Sn(nは縦方向の画素数)をRAM331へ記憶する(ステップS708)。
LSI33は、画像の上方又は下方へのシフトが終了したか否かを判断し(ステップS709)、LSI33が終了したと判断した場合(ステップS709:YES)、LSI33は、記憶してある画素数の総和S1、S2、・・・、Snの最大値を抽出する(ステップS710)。LSI33が終了していないと判断した場合(ステップS709:NO)、LSI33は、ステップS706へ処理を戻す。LSI33は、画素数の総和S1、S2、・・・、Snの最大値におけるシフト位置で上下方向のズレが最小になったと判断し、画像シフト後の状態で障害物の検出処理及び障害物までの距離算出処理を実行する(図6)。
図8は、高輝度部分に基づく視差画像の上下方向のズレを修正する処理の概要を示す図である。図8(a)に示すようにビデオカメラ1で撮像した画像81と、ビデオカメラ2で撮像した画像82との間には視差が存在する。しかし、高輝度部分83自体はその領域に大差がない。
そこで、2つのビデオカメラ1、2で撮像された画像81、82を、図8(b)のように、左上の画像原点に基づいて重ね合わせる。高輝度部分83が重なっている領域についてライン(画素行)ごとに画素数を計数する。高輝度部分83が画面内に散在している場合、全てのラインについて画素数の計数値の総和を算出し、ビデオカメラ2で撮像した画像82をビデオカメラ1で撮像した画像81に対して1ラインずつ上方又は下方へシフトする都度算出した画素数の計数値の総和と比較することにより、画素数の計数値の総和が最大となる状態で、障害物の検出処理及び障害物までの距離算出処理を実行する。一方、高輝度部分83が画面内の一部に集中している場合、該高輝度部分を含む一部のラインについて画素数の計数値の総和を算出し、ビデオカメラ2で撮像した画像82をビデオカメラ1で撮像した画像81に対して1ラインずつ上方又は下方へシフトする都度算出した画素数の計数値の総和と比較することにより、画素数の計数値の総和が最大となる状態で、障害物の検出処理及び障害物までの距離算出処理を実行する。
以上のように本実施の形態2によれば、画像の特徴部分が重なり合う部分、例えば高輝度部分が重なり合う部分の画素数の計数値の総和が最大となるように、左右に設置してあるビデオカメラ1、2で撮像した画像を縦方向にシフトすることにより、2つのビデオカメラ1、2で撮像した2つの画像が、車両の上下動、ビデオカメラ1、2の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
(実施の形態3)
本発明の実施の形態3に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態3は、左右に設置してある2つのビデオカメラ1、2で撮像した画像内で、一部又は全部のラインにつき、ラインごとに輝度値の総和を算出し、両画像間でラインが重複している部分の一方の画像のラインごとの輝度値の総和と他方の画像のラインごとの輝度値の総和との差異を最小とするようにして、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
本発明の実施の形態3に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態3は、左右に設置してある2つのビデオカメラ1、2で撮像した画像内で、一部又は全部のラインにつき、ラインごとに輝度値の総和を算出し、両画像間でラインが重複している部分の一方の画像のラインごとの輝度値の総和と他方の画像のラインごとの輝度値の総和との差異を最小とするようにして、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
すなわちLSI33は、画像メモリ32に記憶された画像データをフレーム単位で読み出し、読み出した画像データから、一部又は全部のラインにつき、ラインごとに輝度値の総和を算出し、両画像間でラインが重複している部分の一方の画像のラインごとの輝度値の総和と他方の画像のラインごとの輝度値の総和との差異を最小とするように一方の画像と他方の画像とを上下方向にシフトして、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する。
LSI33は、視差画像の上下方向のズレを修正した後、パターンマッチングにより障害物を検出し、検出した障害物の過去の位置データに基づいて、障害物の自車両に対する距離を算出する。なお、RAM331は、演算処理の途上で生成したデータを記憶する。
LSI33での詳細な処理について以下に説明する。図9は、本発明の実施の形態3に係る障害物位置特定システムの障害物位置特定装置3のLSI33の視差画像調整処理の手順を示すフローチャートである。
LSI33は、画像メモリ32に記憶してある画像データを読み出し(ステップS901)、両画像データの一部又は全部のラインにつき、ラインごとに輝度値の総和を算出する(ステップS902)。LSI33は、ラインごとに算出した輝度値の総和を、画面内縦方向の座標値、例えば画像左上を原点とした座標値に対応付けて、RAM331に記憶する(ステップS903)。
LSI33は、ビデオカメラ1、2で撮像した視差画像を、例えば画像左上を原点として重ね合わせ(ステップS904)、画像内のライン(画素行)ごとに算出した一方の画像の輝度値の総和と、他方の画像の輝度値の総和との差異を差異の絶対値D1を算出して、RAM331に記憶する(ステップS905)。一方の画像の輝度値の総和と、他方の画像の輝度値の総和との差異を算出するのは、視差画像を重ね合わせた場合に、両画像が重複しているラインについてのみである。
LSI33は、一方の画像(例えばビデオカメラ1で撮像した画像)を他方の画像(例えばビデオカメラ2で撮像した画像)に対して1画素列上方又は下方にシフトする(ステップS906)。LSI33は、シフト後の状態で画像内のライン(画素行)ごとに算出した一方の画像の輝度値の総和と、他方の画像の輝度値の総和との差異の絶対値D2を算出し(ステップS907)、順次算出した画素数の総和D2、・・・、Dn(nは縦方向の画素数)をRAM331へ記憶する(ステップS908)。
LSI33は、画像の上方又は下方へのシフトが終了したか否かを判断し(ステップS909)、LSI33が終了したと判断した場合(ステップS909:YES)、LSI33は、記憶してある差異の絶対値D1、D2、・・・、Dnの最小値を抽出する(ステップS910)。LSI33が終了していないと判断した場合(ステップS909:NO)、LSI33は、ステップS906へ処理を戻す。LSI33は、差異の絶対値D1、D2、・・・、Dnの最小値におけるシフト位置で上下方向のズレが最小になったと判断し、画像シフト後の状態で障害物の検出処理及び障害物までの距離算出処理を実行する。
図10は、ラインごとの輝度値の総和の差異に基づいて視差画像の上下方向のズレを修正する処理の概要を示す図である。図10(a)はビデオカメラ1で撮像した画像101を、図10(b)はビデオカメラ2で撮像した画像102を、それぞれ示している。画像101と画像102とを対比した場合、ラインごとの輝度値の総和そのものは相違している。しかし、輝度値の総和の増減傾向は略一致しており、輝度値の総和の増減パターンに合わせて一方の画像を他方の画像に対してシフトすることにより、上下方向のズレを修正することが可能となる。
そこで、2つのビデオカメラ1、2で撮像された画像101、102につき、左上の画像原点に基づいて重ね合わせる。この状態で、画像101、102それぞれについて、ライン(画素行)ごとに輝度値の総和を計数する。そして、例えば画像102で計数した輝度値の総和から画像101で計数した輝度値の総和を減算し、求めた差の絶対値が最小となるように、ビデオカメラ2で撮像した画像102をビデオカメラ1で撮像した画像101に対して1ラインずつ上方又は下方へシフトする。これにより、差の絶対値が最小となるシフト位置で輝度値の総和の増減パターンが略一致するので、上下方向のズレを修正できたものとして障害物の検出処理及び障害物までの距離算出処理を実行する。
以上のように本実施の形態3によれば、画像のラインごとの輝度値の総和の増減パターンが略一致するように、左右に設置してあるビデオカメラ1、2で撮像した画像を縦方向にシフトすることにより、2つのビデオカメラ1、2で撮像した2つの画像が、車両の上下動、ビデオカメラ1、2の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
(実施の形態4)
本発明の実施の形態4に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態4は、左右に設置してある2つのビデオカメラ1、2で撮像した画像内の所定範囲内、例えば単位画素数当たりの輝度値の平均値が高い順に複数箇所の高輝度部分を抽出し、複数箇所の高輝度部分の面積中心で形成される多角形領域が重なり合う画素数の総和に基づいてビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
本発明の実施の形態4に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態4は、左右に設置してある2つのビデオカメラ1、2で撮像した画像内の所定範囲内、例えば単位画素数当たりの輝度値の平均値が高い順に複数箇所の高輝度部分を抽出し、複数箇所の高輝度部分の面積中心で形成される多角形領域が重なり合う画素数の総和に基づいてビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
すなわちLSI33は、画像メモリ32に記憶された画像データをフレーム単位で読出し、読み出した画像データから所定範囲内、例えば単位画素数当たりの輝度値の平均値が高い順に複数箇所、例えば3カ所の高輝度部分を抽出し、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する。
LSI33は、視差画像の上下方向のズレを修正した後、パターンマッチングにより障害物を検出し、検出した障害物の過去の位置データに基づいて、障害物の自車両に対する距離を算出する。なお、RAM331は、演算処理の途上で生成したデータを記憶する。
LSI33での詳細な処理について以下に説明する。図11は、本発明の実施の形態4に係る障害物位置特定システムの障害物位置特定装置3のLSI33の視差画像調整処理の手順を示すフローチャートである。
LSI33は、画像メモリ32に記憶してある画像データを読み出し(ステップS1101)、所定の領域、例えば3画素×3画素の領域内の輝度値の平均値を画像全体について算出し(ステップS1102)、輝度値の平均値が高い領域から順次複数の、例えば3つの高輝度領域を抽出する(ステップS1103)。LSI33は、ビデオカメラ1、2で撮像した視差画像を、例えば画像左上を原点として重ね合わせ(ステップS1104)、3つの高輝度領域の領域中心を結ぶ三角形領域が重複している画素数T1を算出して、RAM331に記憶する(ステップS1105)。
LSI33は、一方の画像(例えばビデオカメラ1で撮像した画像)を他方の画像(例えばビデオカメラ2で撮像した画像)に対して1画素列上方又は下方にシフトする(ステップS1106)。LSI33は、シフト後の状態で3つの高輝度領域の領域中心を結ぶ三角形領域が重複している画素数T2を算出し(ステップS1107)、順次算出した画素数T2、・・・、Tn(nは縦方向の画素数)をRAM331へ記憶する(ステップS1108)。
LSI33は、画像の上方又は下方へのシフトが終了したか否かを判断し(ステップS1109)、LSI33が終了したと判断した場合(ステップS1109:YES)、LSI33は、記憶してある画素数T1、T2、・・・、Tnの最大値を抽出する(ステップS1110)。LSI33が終了していないと判断した場合(ステップS1109:NO)、LSI33は、ステップS1106へ処理を戻す。LSI33は、画素数T1、T2、・・・、Tnの最大値におけるシフト位置で上下方向のズレが最小になったと判断し、画像シフト後の状態で障害物の検出処理及び障害物までの距離算出処理を実行する(図6)。
図12は、高輝度領域の領域中心を結ぶ三角形領域に基づく視差画像の上下方向のズレを修正する処理の概要を示す図である。図12(a)に示すようにビデオカメラ1で撮像した画像121と、ビデオカメラ2で撮像した画像122との間には視差が存在する。しかし、高輝度領域123自体はその領域に大差がない。
そこで、2つのビデオカメラ1、2で撮像された画像121、122を、図12(b)のように、左上の画像原点に基づいて重ね合わせる。高輝度部分123、123、123の領域中心を結ぶ三角形領域124が重なっている領域について画素数を計数する。ビデオカメラ2で撮像した画像122をビデオカメラ1で撮像した画像121に対して1ラインずつ上方又は下方へシフトする都度算出した三角形領域124が重なっている領域の画素数と比較することにより、三角形領域が重なっている画素数が最大となる状態で、障害物の検出処理及び障害物までの距離算出処理を実行する。
以上のように本実施の形態4によれば、抽出した高輝度領域の重複状態を、三角形領域の形状の類似度に基づいて判断することにより、左右に設置してあるビデオカメラ1、2で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
なお、上述した実施の形態4では、複数箇所の高輝度領域の領域中心を結ぶ多角形領域が、3つの高輝度領域の領域中心を結ぶ三角形領域である場合を例に挙げて説明しているが、特に三角形領域に限定されるものではなく、四角形、五角形、・・・等の多角形領域であっても同様の効果が期待できる。
(実施の形態5)
本発明の実施の形態5に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態5は、左右に設置してある2つのビデオカメラ1、2で撮像した画像から抽出した特徴部分が重複する部分の画素数ではなく、いずれかを含む部分(重複部分も含む)の画素数を算出し、算出した画素数が最も少ない状態となるよう一方の画像を他方画像に対してシフトすることにより、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
本発明の実施の形態5に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態5は、左右に設置してある2つのビデオカメラ1、2で撮像した画像から抽出した特徴部分が重複する部分の画素数ではなく、いずれかを含む部分(重複部分も含む)の画素数を算出し、算出した画素数が最も少ない状態となるよう一方の画像を他方画像に対してシフトすることにより、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
すなわち、画像処理を行う基板であるLSI33は、画像メモリ32に記憶された画像データをフレーム単位で読み出し、読み出した画像データをパターンマッチングすることにより、画像内の横長エッジを抽出し、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する。
LSI33は、視差画像の上下方向のズレを修正した後、パターンマッチングにより障害物の存在を検出し、検出した障害物までの距離を算出する。なお、RAM331は、演算処理の途上で生成したデータ及び算出した障害物の時系列的位置データを記憶する。
LSI33での詳細な処理について以下に説明する。図13は、本発明の実施の形態5に係る障害物位置特定システムの障害物位置特定装置3のLSI33の視差画像調整処理の手順を示すフローチャートである。
LSI33は、画像メモリ32に記憶してある画像データを読み出し(ステップS1301)、画素単位の輝度値に基づいてエッジ部分を抽出する(ステップS1302)。エッジ部分の抽出方法は特に限定されるものではない。
LSI33は、視差画像間の上下方向のズレを修正することが容易な横長の直線分布を示すテンプレートと画像データとをマッチングすることによる相関値R1を算出し(ステップS1303)、相関値R1が所定の閾値より大きい領域が存在するか否かを判断する(ステップS1304)。LSI33が、相関値R1が所定の閾値より大きい領域が存在しないと判断した場合(ステップS1304:NO)、LSI33は、視差画像の上下方向のズレを修正することができないことから、以下の視差画像調整処理を行うことなく、後続の処理、例えば障害物との衝突判定処理等へと移行する(図6)。
LSI33が、相関値R1が所定の閾値より大きい領域が存在すると判断した場合(ステップS1304:YES)、LSI33は、ビデオカメラ1、2で撮像した視差画像を、例えば画像左上を原点として重ね合わせ(ステップS1305)、所定の閾値より大きい領域、すなわち横長エッジが存在する領域(少なくともいずれか一方が存在する領域)の画素数PP1を算出してRAM331に記憶する(ステップS1306)。
LSI33は、一方の画像(例えばビデオカメラ1で撮像した画像)を他方の画像(例えばビデオカメラ2で撮像した画像)に対して1画素列上方又は下方にシフトする(ステップS1307)。LSI33は、シフト後の状態で横長エッジが存在する領域の画素数PP2を算出し(ステップS1308)、順次算出した画素数PP2、・・・、PPn(nは縦方向の画素数)を記憶する(ステップS1309)。
LSI33は、画像の上方又は下方へのシフトが終了したか否かを判断し(ステップS1310)、LSI33が終了したと判断した場合(ステップS1310:YES)、LSI33は、記憶してある画素数PP1、PP2、・・・、PPnの最小値を抽出する(ステップS1311)。LSI33が終了していないと判断した場合(ステップS1310:NO)、LSI33は、ステップS1307へ処理を戻す。LSI33は、画素数PP1、PP2、・・・、PPnの最小値におけるシフト位置で上下方向のズレが最小になったと判断し、画像シフト後の状態で障害物の検出処理及び障害物までの距離算出処理を実行する(図6)。
図14は、横長エッジに基づく視差画像の上下方向のズレを修正する処理の概要を示す図である。図14(a)に示すようにビデオカメラ1で撮像した画像141と、ビデオカメラ2で撮像した画像142との間には視差が存在する。なお、横長エッジ143の抽出を容易にすべく、実際にはビデオカメラ1、2で撮像した画像に対し、エッジ強調処理を行った後、二値化することにより、より鮮明な横長エッジを検出することができる。
2つのビデオカメラ1、2で撮像された画像141、142は、図14(b)のように、左上の画像原点に基づいて重ね合わせる。横長エッジ143が重なっている領域について画素数を算出する。図14の例では、ビデオカメラ2で撮像した画像142がわずかに下方へずれている。
そこで、図14(c)のように、ビデオカメラ2で撮像した画像142をビデオカメラ1で撮像した画像141に対して1ライン分上方へシフトする。これにより、横長エッジ143が重なり合う画素数が多くなり、横長エッジ143が存在する領域、すなわち少なくともいずれか一方の横長エッジ143が存在する領域の画素数が最小となるラインまでビデオカメラ2で撮像した画像をシフトした状態で、障害物の検出処理及び障害物までの距離算出処理を実行する。
以上のように本実施の形態5によれば、画像の特徴部分、例えば横長エッジが存在する領域、すなわち少なくともいずれか一方の横長エッジが存在する領域の画素数が最小となるように、左右に設置してあるビデオカメラ1、2で撮像した画像を縦方向にシフトすることにより、2つのビデオカメラ1、2で撮像した2つの画像が、車両の上下動、ビデオカメラ1、2の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
(実施の形態6)
本発明の実施の形態6に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態6は、左右に設置してある2つのビデオカメラ1、2で撮像した画像内で、輝度値が所定の輝度値よりも高い領域を抽出し、両画像を重ね合わせた場合の該領域(以下、高輝度領域という。)が存在する領域、すなわち少なくともいずれか一方の高輝度領域が存在する領域の画素数をラインごとに算出し、全ライン又は一部分のラインの画素数の総和に基づいてビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
本発明の実施の形態6に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態6は、左右に設置してある2つのビデオカメラ1、2で撮像した画像内で、輝度値が所定の輝度値よりも高い領域を抽出し、両画像を重ね合わせた場合の該領域(以下、高輝度領域という。)が存在する領域、すなわち少なくともいずれか一方の高輝度領域が存在する領域の画素数をラインごとに算出し、全ライン又は一部分のラインの画素数の総和に基づいてビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
すなわちLSI33は、画像メモリ32に記憶された画像データをフレーム単位で読出し、読み出した画像データから所定の輝度値より高い輝度値を有する高輝度部分を抽出し、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する。
LSI33は、視差画像の上下方向のズレを修正した後、パターンマッチングにより障害物を検出し、検出した障害物の過去の位置データに基づいて、障害物の自車両に対する距離を算出する。なお、RAM331は、演算処理の途上で生成したデータを記憶する。
LSI33での詳細な処理について以下に説明する。図15は、本発明の実施の形態6に係る障害物位置特定システムの障害物位置特定装置3のLSI33の視差画像調整処理の手順を示すフローチャートである。
LSI33は、画像メモリ32に記憶してある画像データを読み出し(ステップS1501)、所定の輝度値より高い高輝度部分を抽出する(ステップS1502)。LSI33は、ビデオカメラ1、2で撮像した視差画像を、例えば画像左上を原点として重ね合わせ(ステップS1503)、画像内のライン(画素行)ごとに高輝度部分が存在する領域(少なくともいずれか一方の高輝度領域を含む領域)の画素数を算出し(ステップS1504)、全ライン又は部分ラインにおける高輝度部分が存在する領域の画素数の総和SS1を算出して、RAM331に記憶する(ステップS1505)。
LSI33は、一方の画像(例えばビデオカメラ1で撮像した画像)を他方の画像(例えばビデオカメラ2で撮像した画像)に対して1画素列上方又は下方にシフトする(ステップS1506)。LSI33は、シフト後の状態で画像内のライン(画素行)ごとに高輝度部分が存在する領域の画素数を算出し、全ライン又は部分ラインにおける高輝度部分が存在する領域の画素数の総和SS2を算出し(ステップS1507)、順次算出した画素数の総和SS2、・・・、SSn(nは縦方向の画素数)をRAM331へ記憶する(ステップS1508)。
LSI33は、画像の上方又は下方へのシフトが終了したか否かを判断し(ステップS1509)、LSI33が終了したと判断した場合(ステップS1509:YES)、LSI33は、記憶してある画素数の総和SS1、SS2、・・・、SSnの最小値を抽出する(ステップS1510)。LSI33が終了していないと判断した場合(ステップS1509:NO)、LSI33は、ステップS1506へ処理を戻す。LSI33は、画素数の総和SS1、SS2、・・・、SSnの最小値におけるシフト位置で上下方向のズレが最小になったと判断し、画像シフト後の状態で障害物の検出処理及び障害物までの距離算出処理を実行する(図6)。
図16は、高輝度部分に基づく視差画像の上下方向のズレを修正する処理の概要を示す図である。図16(a)に示すようにビデオカメラ1で撮像した画像161と、ビデオカメラ2で撮像した画像162との間には視差が存在する。しかし、高輝度部分163自体はその領域に大差がない。
そこで、2つのビデオカメラ1、2で撮像された画像161、162を、図16(b)のように、左上の画像原点に基づいて重ね合わせる。高輝度部分163が存在する領域、すなわち少なくともいずれか一方の高輝度領域が存在する領域についてライン(画素行)ごとに画素数を計数する。高輝度部分163が画面内に散在している場合、全てのラインについて画素数の計数値の総和を算出し、ビデオカメラ2で撮像した画像162をビデオカメラ1で撮像した画像161に対して1ラインずつ上方又は下方へシフトする都度算出した画素数の計数値の総和と比較することにより、画素数の計数値の総和が最小となる状態で、障害物の検出処理及び障害物までの距離算出処理を実行する。一方、高輝度部分163が画面内の一部に集中している場合、該高輝度部分を含む一部のラインについて画素数の計数値の総和を算出し、ビデオカメラ2で撮像した画像162をビデオカメラ1で撮像した画像161に対して1ラインずつ上方又は下方へシフトする都度算出した画素数の計数値の総和と比較することにより、画素数の計数値の総和が最小となる状態で、障害物の検出処理及び障害物までの距離算出処理を実行する。
以上のように本実施の形態6によれば、画像の特徴部分、例えば高輝度部分が存在する領域、すなわち少なくとも一方の高輝度領域が存在する領域の画素数の計数値の総和が最小となるように、左右に設置してあるビデオカメラ1、2で撮像した画像を縦方向にシフトすることにより、2つのビデオカメラ1、2で撮像した2つの画像が、車両の上下動、ビデオカメラ1、2の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
(実施の形態7)
本発明の実施の形態7に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態7は、左右に設置してある2つのビデオカメラ1、2で撮像した画像内の所定範囲内、例えば単位画素数当たりの輝度の平均値が高い順に複数箇所の高輝度部分を抽出し、複数箇所の高輝度部分の面積中心で形成される多角形領域が存在する領域、すなわち少なくともいずれか一方の多角形領域が存在する領域の画素数の総和に基づいてビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
本発明の実施の形態7に係る障害物位置特定システムの構成は実施の形態1と同様であることから、同一の符号を付することにより詳細な説明を省略する。本実施の形態7は、左右に設置してある2つのビデオカメラ1、2で撮像した画像内の所定範囲内、例えば単位画素数当たりの輝度の平均値が高い順に複数箇所の高輝度部分を抽出し、複数箇所の高輝度部分の面積中心で形成される多角形領域が存在する領域、すなわち少なくともいずれか一方の多角形領域が存在する領域の画素数の総和に基づいてビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する点で実施の形態1と相違する。
すなわちLSI33は、画像メモリ32に記憶された画像データをフレーム単位で読出し、読み出した画像データから所定範囲内、例えば単位画素数当たりの輝度値の平均値が高い順に複数箇所、例えば3カ所の高輝度部分を抽出し、ビデオカメラ1、2で撮像された視差画像の上下方向のズレを修正する。
LSI33は、視差画像の上下方向のズレを修正した後、パターンマッチングにより障害物を検出し、検出した障害物の過去の位置データに基づいて、障害物の自車両に対する相対移動ベクトルを算出する。LSI33は、相対移動ベクトル及び自車両の速度に基づいて、障害物が自車両と衝突するか否かを判断し、LSI33が、自車両と衝突すると判断した場合、通信インタフェース部31を介して表示装置4又は警報装置5へ、警告情報を出力する。なお、RAM331は、演算処理の途上で生成したデータ及び算出した障害物の時系列的位置データを記憶する。
LSI33での詳細な処理について以下に説明する。図17は、本発明の実施の形態7に係る障害物位置特定システムの障害物位置特定装置3のLSI33の視差画像調整処理の手順を示すフローチャートである。
LSI33は、画像メモリ32に記憶してある画像データを読み出し(ステップS1701)、所定の領域、例えば3画素×3画素の領域内の輝度値の平均値を画像全体について算出し(ステップS1702)、輝度値の平均値が高い領域から順次複数の、例えば3つの高輝度領域を抽出する(ステップS1703)。LSI33は、ビデオカメラ1、2で撮像した視差画像を、例えば画像左上を原点として重ね合わせ(ステップS1704)、3つの高輝度領域の領域中心を結ぶ三角形領域が存在する領域、すなわち少なくともいずれか一方の三角形領域が存在する領域の画素数TT1を算出して、RAM331に記憶する(ステップS1705)。
LSI33は、一方の画像(例えばビデオカメラ1で撮像した画像)を他方の画像(例えばビデオカメラ2で撮像した画像)に対して1画素列上方又は下方にシフトする(ステップS1706)。LSI33は、シフト後の状態で3つの高輝度領域の領域中心を結ぶ三角形領域が存在する領域の画素数TT2を算出し(ステップS1707)、順次算出した画素数TT1、TT2、・・・、TTn(nは縦方向の画素数)をRAM331へ記憶する(ステップS1708)。
LSI33は、画像の上方又は下方へのシフトが終了したか否かを判断し(ステップS1709)、LSI33が終了したと判断した場合(ステップS1709:YES)、LSI33は、記憶してある画素数TT1、TT2、・・・、TTnの最小値を抽出する(ステップS1710)。LSI33が終了していないと判断した場合(ステップS1709:NO)、LSI33は、ステップS1706へ処理を戻す。LSI33は、画素数TT1、TT2、・・・、TTnの最小値におけるシフト位置で上下方向のズレが最小になったと判断し、画像シフト後の状態で障害物の検出処理及び障害物までの距離算出処理を実行する(図6)。
図18は、高輝度領域の領域中心を結ぶ三角形領域に基づく視差画像の上下方向のズレを修正する処理の概要を示す図である。図18(a)に示すようにビデオカメラ1で撮像した画像181と、ビデオカメラ2で撮像した画像182との間には視差が存在する。しかし、高輝度領域183自体はその領域に大差がない。
そこで、2つのビデオカメラ1、2で撮像された画像181、182を、図18(b)のように、左上の画像原点に基づいて重ね合わせる。高輝度部分183、183、183の領域中心を結ぶ三角形領域184が存在する領域、すなわち少なくともいずれか一方の三角形領域が存在する領域について画素数を計数する。ビデオカメラ2で撮像した画像182をビデオカメラ1で撮像した画像181に対して1ラインずつ上方又は下方へシフトする都度算出した三角形領域184が存在する領域の画素数と比較することにより、三角形領域が存在する領域の画素数が最小となる状態で、障害物の検出処理及び障害物までの距離算出処理を実行する。
以上のように本実施の形態7によれば、抽出した高輝度領域の重複状態を、三角形領域の形状の類似度に基づいて判断することにより、左右に設置してあるビデオカメラ1、2で撮像した2つの画像が、車両の上下動、撮像装置の取り付け位置の相違等により上下方向にずれていた場合であっても、両画像のズレを修正することができ、視差による距離算出精度を高めることが可能となる。
なお、上述した実施の形態7では、複数箇所の高輝度領域の領域中心を結ぶ多角形領域が、3つの高輝度領域の領域中心を結ぶ三角形領域である場合を例に挙げて説明しているが、特に三角形領域に限定されるものではなく、四角形、五角形、・・・等の多角形領域であっても同様の効果が期待できる。
また、上述した実施の形態1乃至7では、障害物位置特定装置3のLSI33が上述した制御を行っているが、別個に制御装置を設けても良いし、他の機器の制御装置が兼用しても良い。
1、2 ビデオカメラ
3 障害物位置特定装置
4 表示装置
5 警報装置
7 速度センサ
31 通信インタフェース部
32 画像メモリ
33 LSI
331 RAM
3 障害物位置特定装置
4 表示装置
5 警報装置
7 速度センサ
31 通信インタフェース部
32 画像メモリ
33 LSI
331 RAM
Claims (10)
- 車両の前方を撮像する2つの遠赤外撮像装置と、
該遠赤外撮像装置それぞれで撮像した2つの画像データを取得して画像中の障害物の存在を検出する障害物検出手段、及び
該障害物検出手段で障害物を検出した場合、2つの前記遠赤外撮像装置により取得した画像の視差に基づいて前記障害物の当該車両に対する距離を算出する距離算出手段を有する障害物位置特定装置と
を備える障害物位置特定システムにおいて、
前記障害物位置特定装置は、
2つの前記遠赤外撮像装置から取得した画像データに基づいて、画像の特徴部分を抽出する特徴部分抽出手段と、
2つの画像データで抽出した特徴部分を重ね合わせ、両者が重なり合う画素数を算出する重複画素数算出手段と、
該重複画素数算出手段で算出する両者が重なり合う画素数が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする画像重ね合わせ変更手段と
を備え、
前記距離算出手段は、両者が重なり合う画素数が最大となる状態で前記障害物の当該車両に対する距離を算出するようにしてあることを特徴とする障害物位置特定システム。 - 前記特徴部分抽出手段は、2つの前記遠赤外撮像装置で撮像した画像データに基づいて、画像の横長のエッジを抽出するようにしてあり、
前記重複画素数算出手段は、2つの画像データから抽出した横長エッジを重ね合わせ、両者が重なり合う画素数を算出するようにしてあることを特徴とする請求項1記載の障害物位置特定システム。 - 前記特徴部分抽出手段は、2つの前記遠赤外撮像装置から取得した画像データに基づいて、所定の輝度より高い高輝度部分を画像内から抽出するようにしてあり、
前記重複画素数算出手段は、2つの画像データで抽出した高輝度部分を重ね合わせ、両者が重なり合う画素数をラインごとに算出するようにしてあり、
前記画像重ね合わせ変更手段は、画像の全部又は一部のラインにて重なり合う画素数の総和が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトするようにしてあることを特徴とする請求項1記載の障害物位置特定システム。 - 前記画像重ね合わせ変更手段は、
画像の一部又は全部のラインにつき、ラインごとに輝度値の総和を算出する手段と、
算出した輝度値の総和を縦方向の画素位置に対応付けて記憶する手段と、
ラインごとに輝度値の総和を算出した一部又は全部のラインにつき、ラインが重複している部分の一方の画像のラインごとの輝度値の総和と他方の画像のラインごとの輝度値の総和との差異の絶対値が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする手段と
を備えることを特徴とする請求項1記載の障害物位置特定システム。 - 前記特徴部分抽出手段は、2つの前記遠赤外撮像装置から取得した画像データに基づいて、所定範囲内の輝度の平均値が高い順に複数箇所の高輝度領域を抽出するようにしてあり、
前記重複画素数算出手段は、2つの画像データで抽出した高輝度領域を重ね合わせ、複数の高輝度領域の領域中心で形成される多角形領域が重なり合う画素数を算出するようにしてあり、
前記画像重ね合わせ変更手段は、多角形領域が重なり合う画素数の総和が最大となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトするようにしてあることを特徴とする請求項1記載の障害物位置特定システム。 - 車両の前方を撮像する2つの遠赤外撮像装置と、
該遠赤外撮像装置それぞれで撮像した2つの画像データを取得して画像中の障害物の存在を検出する障害物検出手段、及び
該障害物検出手段で障害物を検出した場合、2つの前記遠赤外撮像装置により取得した画像の視差に基づいて前記障害物の当該車両に対する距離を算出する距離算出手段を有する障害物位置特定装置と
を備える障害物位置特定システムにおいて、
前記障害物位置特定装置は、
2つの前記遠赤外撮像装置から取得した画像データに基づいて、画像の特徴部分を抽出する特徴部分抽出手段と、
2つの画像データで抽出した特徴部分の少なくともいずれか一方を含む画素数を算出する特徴部分画素数算出手段と、
該特徴部分画素数算出手段で算出した画素数が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする画像重ね合わせ変更手段と
を備え、
前記距離算出手段は、特徴部分の少なくともいずれか一方を含む画素数が最小となる状態で前記障害物の当該車両に対する距離を算出するようにしてあることを特徴とする障害物位置特定システム。 - 前記特徴部分抽出手段は、2つの前記遠赤外撮像装置で撮像した画像データに基づいて、画像の横長のエッジを抽出するようにしてあり、
前記特徴部分画素数算出手段は、2つの画像データから抽出した横長エッジを重ね合わせ、少なくともいずれか一方を含む画素数を算出するようにしてあることを特徴とする請求項6記載の障害物位置特定システム。 - 前記特徴部分抽出手段は、2つの前記遠赤外撮像装置から取得した画像データに基づいて、所定の輝度より高い高輝度部分を画像内から抽出するようにしてあり、
前記特徴部分画素数算出手段は、2つの画像データで抽出した高輝度部分を重ね合わせ、少なくともいずれか一方を含む画素数を算出するようにしてあり、
前記画像重ね合わせ変更手段は、画像の全部又は一部のラインにて算出した画素数の総和が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトするようにしてあることを特徴とする請求項6記載の障害物位置特定システム。 - 前記画像重ね合わせ変更手段は、
画像の一部又は全部のラインにつき、ラインごとに輝度値の総和を算出する手段と、
算出した輝度値の総和を縦方向の画素位置に対応付けて記憶する手段と、
ラインごとに輝度値の総和を算出した一部又は全部のラインにつき、ラインが重複している部分の一方の画像のラインごとの輝度値の総和と他方の画像のラインごとの輝度値の総和との差異の絶対値が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトする手段と
を備えることを特徴とする請求項6記載の障害物位置特定システム。 - 前記特徴部分抽出手段は、2つの前記遠赤外撮像装置から取得した画像データに基づいて、所定範囲内の輝度の平均値が高い順に複数箇所の高輝度領域を抽出するようにしてあり、
前記特徴部分画素数算出手段は、2つの画像データで抽出した高輝度領域を重ね合わせ、少なくともいずれか一方の多角形領域を含む画素数を算出するようにしてあり、
前記画像重ね合わせ変更手段は、少なくともいずれか一方の多角形領域を含む画素数の総和が最小となるよう一方の画像を他方の画像に対して縦方向に画素単位でシフトするようにしてあることを特徴とする請求項6記載の障害物位置特定システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005326613A JP2007131178A (ja) | 2005-11-10 | 2005-11-10 | 障害物位置特定システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005326613A JP2007131178A (ja) | 2005-11-10 | 2005-11-10 | 障害物位置特定システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007131178A true JP2007131178A (ja) | 2007-05-31 |
Family
ID=38153184
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005326613A Pending JP2007131178A (ja) | 2005-11-10 | 2005-11-10 | 障害物位置特定システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007131178A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009150272A1 (es) * | 2008-06-10 | 2009-12-17 | Euroconsult Nuevas Tecnologías, S.A. | Equipo de auscultación automática de señales de tráfico y paneles |
JP2010200213A (ja) * | 2009-02-27 | 2010-09-09 | Sony Corp | 画像処理装置、画像処理方法、プログラム、および立体画像表示装置 |
WO2014065159A1 (ja) * | 2012-10-22 | 2014-05-01 | ヤマハ発動機株式会社 | 距離測定装置及びそれを用いた車両 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04113213A (ja) * | 1990-09-04 | 1992-04-14 | Mitsubishi Electric Corp | 車間距離検出装置 |
JPH06331351A (ja) * | 1993-05-25 | 1994-12-02 | Matsushita Electric Ind Co Ltd | 車間距離計測装置とステレオ画像取り込み装置 |
JP2001147117A (ja) * | 1999-11-22 | 2001-05-29 | Honda Motor Co Ltd | 距離検出装置 |
-
2005
- 2005-11-10 JP JP2005326613A patent/JP2007131178A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04113213A (ja) * | 1990-09-04 | 1992-04-14 | Mitsubishi Electric Corp | 車間距離検出装置 |
JPH06331351A (ja) * | 1993-05-25 | 1994-12-02 | Matsushita Electric Ind Co Ltd | 車間距離計測装置とステレオ画像取り込み装置 |
JP2001147117A (ja) * | 1999-11-22 | 2001-05-29 | Honda Motor Co Ltd | 距離検出装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009150272A1 (es) * | 2008-06-10 | 2009-12-17 | Euroconsult Nuevas Tecnologías, S.A. | Equipo de auscultación automática de señales de tráfico y paneles |
ES2354786A1 (es) * | 2008-06-10 | 2011-03-17 | Euroconsult Nuevas Tecnologias, S.A. | Equipo de auscultación automática de señales de tráfico y paneles. |
JP2010200213A (ja) * | 2009-02-27 | 2010-09-09 | Sony Corp | 画像処理装置、画像処理方法、プログラム、および立体画像表示装置 |
WO2014065159A1 (ja) * | 2012-10-22 | 2014-05-01 | ヤマハ発動機株式会社 | 距離測定装置及びそれを用いた車両 |
JP5955404B2 (ja) * | 2012-10-22 | 2016-07-20 | ヤマハ発動機株式会社 | 距離測定装置及びそれを用いた車両 |
US9955136B2 (en) | 2012-10-22 | 2018-04-24 | Yamaha Hatsudoki Kabushiki Kaisha | Distance measuring device and vehicle provided therewith |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101439052B1 (ko) | 장애물 검출 장치 및 방법 | |
JP4899424B2 (ja) | 物体検出装置 | |
JP5999127B2 (ja) | 画像処理装置 | |
JP4872769B2 (ja) | 路面判別装置および路面判別方法 | |
KR101449160B1 (ko) | 차량의 사각지대 정보 제공 장치 및 방법 | |
JP6699427B2 (ja) | 車両用表示装置および車両用表示方法 | |
JP5240149B2 (ja) | 車両周辺監視装置 | |
JP4797877B2 (ja) | 車両用映像表示装置及び車両周囲映像の表示方法 | |
JP6544257B2 (ja) | 情報処理システム、情報処理方法及び情報処理プログラム | |
EP3545464A1 (en) | Information processing device, imaging device, equipment control system, mobile object, information processing method, and computer-readable recording medium | |
JP2009093332A (ja) | 車両周辺画像処理装置及び車両周辺状況提示方法 | |
JP6617150B2 (ja) | 物体検出方法及び物体検出装置 | |
JP2008026998A (ja) | 障害物位置算出システム、及び障害物位置算出方法 | |
JP2012198857A (ja) | 接近物体検知装置及び接近物体検知方法 | |
JP2009188635A (ja) | 車両周辺画像処理装置及び車両周辺状況提示方法 | |
JP2008174028A (ja) | 対象物検出システム、及び対象物検出方法 | |
JP2012252501A (ja) | 走行路認識装置及び走行路認識用プログラム | |
JP6407596B2 (ja) | 画像処理装置、及び、運転支援システム | |
JP2007131178A (ja) | 障害物位置特定システム | |
JP2008165595A (ja) | 障害物検出方法、障害物検出装置、障害物検出システム | |
JP2010224936A (ja) | 物体検出装置 | |
JP2008026999A (ja) | 障害物検出システム、及び障害物検出方法 | |
JP4404047B2 (ja) | 障害物衝突判定システム、判定装置、障害物衝突判定方法及びコンピュータプログラム | |
KR101289386B1 (ko) | 스테레오 비전 기반의 장애물체 검출 및 분리 방법과 이를 실행하는 장치 | |
JP2010056975A (ja) | リアカメラによる物体検知方式 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080925 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110107 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20110913 |