JP2007317128A - 移動距離検出装置及び移動距離検出方法 - Google Patents
移動距離検出装置及び移動距離検出方法 Download PDFInfo
- Publication number
- JP2007317128A JP2007317128A JP2006148875A JP2006148875A JP2007317128A JP 2007317128 A JP2007317128 A JP 2007317128A JP 2006148875 A JP2006148875 A JP 2006148875A JP 2006148875 A JP2006148875 A JP 2006148875A JP 2007317128 A JP2007317128 A JP 2007317128A
- Authority
- JP
- Japan
- Prior art keywords
- image
- corresponding position
- search
- vehicle
- moving distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】異なる時点で撮像した2つの画像から車両の移動距離を検出する場合に、移動距離の検出を簡単に且つ精度よく行うことができる移動距離検出装置及び移動距離検出方法を提供する。
【解決手段】類似度計算部11は、時間間隔保持部12から取得した時間間隔Tに応じて、画像バッファ3から現在時刻tの画像と、現在時刻tから時間間隔Tを隔てた時刻(t−T)の画像とを読み出す。時刻(t−T)の画像からテンプレートエリアを抽出すると共に、対応位置保持部14から前回の対応位置を取得して今回の探索範囲を決定する。決定した探索範囲の各位置でテンプレートエリアとの類似度を計算し、計算結果を基に対応位置判定部13がテンプレートエリアの対応位置を判定して、判定結果を対応位置保持部14に保持すると共に移動距離検出部7へ与える。移動距離検出部7は、与えられた対応位置を基に移動距離を検出する。
【選択図】図4
【解決手段】類似度計算部11は、時間間隔保持部12から取得した時間間隔Tに応じて、画像バッファ3から現在時刻tの画像と、現在時刻tから時間間隔Tを隔てた時刻(t−T)の画像とを読み出す。時刻(t−T)の画像からテンプレートエリアを抽出すると共に、対応位置保持部14から前回の対応位置を取得して今回の探索範囲を決定する。決定した探索範囲の各位置でテンプレートエリアとの類似度を計算し、計算結果を基に対応位置判定部13がテンプレートエリアの対応位置を判定して、判定結果を対応位置保持部14に保持すると共に移動距離検出部7へ与える。移動距離検出部7は、与えられた対応位置を基に移動距離を検出する。
【選択図】図4
Description
本発明は、車両にカメラなどを搭載して周囲を撮像し、撮像により得られた画像から車両の移動距離を検出することができる移動距離検出装置及び移動距離検出方法に関する。
従来から、車両の移動距離の検出は、車輪の回転速度などに基づく車速から移動距離を検出することにより行われている。また、車両に加速度センサを搭載し、加速度センサの出力を積分することによって車両の移動距離を検出する方法も提案されている。これらの方法により検出された車両の移動距離は、例えばカーナビゲーション装置などへ車両に関する情報として与えることによって、車両の走行位置の特定などに利用することができる。
また、近年では、車両の前方、後方又は左右側方等を撮像するカメラを車両に搭載し、カメラが撮像した画像を車内に設けられたディスプレイに表示するシステムが普及している。これにより、例えば、車両の運転席から死角となる部分をカメラで撮像し、ディスプレイに表示することができるため、運転者が直接に目視できない部分を確認しながら運転を行うことができ、安全性を高めることができる。
特許文献1においては、車両の左右側方にそれぞれカメラを搭載して車両の左右両側を撮像すると共に、車速センサ、舵角センサ及び方位センサ等の出力から車両の移動距離及び移動方位を検出することにより得られる情報を基に、駐車スペースの周辺に位置する障害物と車両との位置関係を検出し、位置関係を俯瞰図として示す合成画像を表示する駐車支援システムが提案されている。この駐車支援システムは、車両と障害物との位置関係を運転者に容易に認識させることができるという利点がある。
特開2003−252151号公報
特許文献1に記載の駐車支援システムのように、車両にカメラを搭載し、且つ、車速センサなどの出力から車両の移動距離を検出することによって、運転者に種々の情報を提供して運転の支援を行うことができる。しかしながら、車速センサの出力を基に車両の移動距離を検出する場合、車両が低速で走行しているときには移動距離の検出精度が悪化する虞がある。特に、駐車場に車両を駐車する場合には、車両は極低速で走行する可能性が高いため、低速走行時であっても車両の移動距離を精度よく検出する手段が求められる。
そこで、車両に搭載されたカメラにて異なる時点で撮像した2つの画像から、車両の移動距離を検出する方法が研究されている。例えば、古い時点での画像から基準となる画像を抽出し、新しい時点での画像から基準画像の対応位置を探索することによって、基準画像の位置変化量に応じて車両の移動距離を検出することができる。しかし、車両に搭載されるカメラはより広範囲に亘って撮像を行うことが求められるが、撮像された画像が広範囲であるほど、基準画像の対応位置の探索に時間を要し、また、誤探索が発生する可能性が高まるという問題がある。
本発明は、斯かる事情に鑑みてなされたものであって、その目的とするところは、車両に搭載された撮像手段にて異なる時点で撮像した第1及び第2の画像から車両の移動距離を検出する場合に、第1の画像から抽出した基準画像の対応位置の探索を、第2の画像の所定領域内に限定する構成とすることによって、基準画像の対応位置の探索時間を短縮でき、また、誤探索の発生を低減できる移動距離検出装置を提供することにある。
また本発明の他の目的とするところは、基準画像の対応位置の探索を行う所定領域を、前回の探索による対応位置での基準画像の範囲を所定範囲広げた領域とする構成とすることにより、基準画像の対応位置の探索を狭い領域で精度よく行うことができる移動距離検出装置を提供することにある。
また本発明の他の目的とするところは、前回の探索にて基準画像の対応位置の候補が複数存在した場合には、今回の探索を行う所定領域を、各対応位置の候補での基準画像の範囲を所定範囲広げた領域とする構成とすることにより、誤探索の発生を確実に低減することができる移動距離検出装置を提供することにある。
また本発明の他の目的とするところは、車両の加速度を基に、車両が移動する可能性のある範囲内で探索を行う領域を決定する構成とすることにより、第2の画像から基準画像を探索する領域を限定した場合であっても、車両の移動距離を正確に検出することができる移動距離検出装置を提供することにある。
また本発明の他の目的とするところは、移動距離の検出に用いる2つの画像の時間間隔を、前回に検出した移動距離に応じて変更する構成とすることにより、車両の移動速度に応じた2つの画像を用いて移動距離の検出を行うことができる移動距離検出装置を提供することにある。
また本発明の他の目的とするところは、撮像手段が撮像した画像を俯瞰方向の画像に変換し、この画像を用いて移動距離の検出を行う構成とすることにより、移動距離の検出を簡単に、且つ、確実に行うことができる移動距離検出装置を提供することにある。
また本発明の他の目的とするところは、車両に搭載された撮像手段にて異なる時点で撮像した第1及び第2の画像を取得し、第1の画像から基準画像を抽出し、第2の画像の所定領域内から基準画像の対応位置を探索し、探索結果から車両の移動距離を検出することによって、基準画像の対応位置の探索時間を短縮でき、また、誤探索の発生を低減できる移動距離検出方法を提供することにある。
第1発明に係る移動距離検出装置は、車両に搭載され、該車両の外界を撮像する撮像手段と、異なる時点で撮像された第1の画像及び第2の画像を取得する取得手段と、第1の画像から基準画像を抽出する抽出手段と、第2の画像の所定領域内にて、前記抽出手段が抽出した基準画像の対応位置を探索する探索手段と、該探索手段の探索結果に応じて車両の移動距離を検出する検出手段とを備えることを特徴とする。
本発明においては、車両に搭載したカメラなどの撮像手段が異なる時点で撮像した第1の画像及び第2の画像を取得する。第1の画像から基準画像を抽出し、第2の画像の所定領域内から基準画像の対応位置を探索し、探索結果から車両の移動距離を検出する。基準画像の対応位置の探索を行う領域を第2の画像の所定領域に限定することにより、探索範囲が狭まり、探索時間が短縮される。また、探索範囲が狭まることによって、探索範囲内に基準画像に類似する領域が複数存在する可能性が低減されるため、誤探索が低減される。
また、第2発明に係る移動距離検出装置は、前記取得手段による画像の取得、前記抽出手段による基準画像の抽出、前記探索手段による対応位置の探索及び前記検出手段による移動距離の検出を、時系列的に繰り返し行うようにしてあり、前記探索手段が前回探索した対応位置での基準画像の範囲を所定範囲広げた領域を、前記所定領域とするようにしてあることを特徴とする。
本発明においては、2つの画像の取得、第1の画像からの基準画像の抽出、第2の画像の所定領域内での基準画像の対応位置の探索及び車両の移動距離の検出を繰り返し行う。この場合に、前回の探索で得られた対応位置での基準画像の範囲を所定の範囲広げ、この領域を今回の探索を行う所定領域とする。車両の移動距離の上限を考慮した場合、前回の探索結果と今回の探索結果とは一定の範囲内に収まるため、この範囲外を探索の対象外とすることにより探索時間が短縮され、また、誤探索が低減される。
また、第3発明に係る移動距離検出装置は、前記探索手段による前回の探索にて、第2の画像の所定領域内に対応位置の候補が複数存在した場合、各対応位置の候補での基準画像の範囲を所定範囲広げた領域を、前記所定領域とするようにしてあることを特徴とする。
本発明においては、第2の画像の所定領域内に基準画像に類似する部分が複数存在し、基準画像の対応位置の候補が複数存在する場合がある。前回の探索がこの場合に対応するものであれば、各対応位置の候補での基準画像の範囲を所定範囲広げ、これらの全領域を今回の探索を行う所定領域とする。誤探索が発生する可能性がある場合には、検索を行う領域を広げることにより、誤探索を防止できる。
また、第4発明に係る移動距離検出装置は、前記所定範囲が、車両の加速度を基に決定された範囲であることを特徴とする。
本発明においては、車両の加速度を基に、基準画像の対応位置を探索する領域を決定する。車両が走行する場合の加速度には上限があり、例えば駐車場を徐行する車両の加速度は0.1G程度の加速度であることが実験により判明している。よって、この加速度から車両が移動する可能性がある範囲を特定することができ、この範囲内でのみ探索を行うことで、第2の画像から基準範囲を探索する領域を限定した場合であっても、探索の精度が低下することがなく、移動距離の検出精度が低下することがない。
また、第5発明に係る移動距離検出装置は、前記検出手段が検出した移動距離に応じて、前記取得手段が取得する第1の画像及び第2の画像の撮像時点の間隔を変更する変更手段を備えることを特徴とする。
本発明においては、車両の移動距離に応じて、検出に用いる2つの画像の時間間隔を変更する。車両が高速に走行し、移動距離が多く、2つの画像の時間間隔が長い場合には、第1の画像から抽出した基準画像に対応する部分が第2の画像に存在しない可能性があるが、2つの画像の時間間隔は可能な限り広くすることが移動距離の検出には望ましい。よって、車両が高速走行している場合、即ち移動距離が多い場合には、時間間隔を短くし、車両が低速走行している場合、即ち移動距離が少ない場合には、時間間隔を長くすることにより、移動距離の検出精度が高まる。
また、第6発明に係る移動距離検出装置は、前記抽出手段が基準画像の抽出を行う以前に、撮像された画像を俯瞰方向の画像に変換する変換手段を備えることを特徴とする。
本発明においては、撮像手段が撮像した画像を俯瞰方向の画像に変換する。車両に搭載されるカメラのレンズは、魚眼レンズ又は広角レンズ等の広範囲を撮像することが可能なレンズである場合が多く、撮像された画像は周辺部分が湾曲した画像となる。このような画像では移動距離の検出を行うことが難しいため、予め俯瞰方向の画像に変換することにより、処理を簡単化する。
また、第7発明に係る移動距離検出方法は、車両に搭載された撮像手段により、車両の外界を撮像し、異なる時点で撮像された第1の画像及び第2の画像を取得し、第1の画像から基準画像を抽出し、第2の画像の所定領域内にて、抽出した基準画像の対応位置を探索し、探索結果に応じて車両の移動距離を検出することを特徴とする。
本発明においては、車両に搭載された撮像手段にて異なる時点で撮像した第1及び第2の画像を取得し、第1の画像から基準画像を抽出し、第2の画像の所定領域内から基準画像の対応位置を探索し、探索結果から車両の移動距離を検出する。基準画像の対応位置の探索を行う領域を第2の画像の所定領域に限定することにより、探索範囲が狭まり、探索時間が短縮されると共に誤探索が低減される。
第1発明による場合は、車両に搭載された撮像手段にて異なる時点で撮像した第1及び第2の画像から車両の移動距離を検出する場合に、第1の画像から抽出した基準画像の対応位置の探索を、第2の画像の所定領域内に限定する構成とすることによって、探索範囲が狭まるため、探索時間が短縮されると共に、誤探索が低減される。よって、移動距離検出装置の処理を高速化できると共に、検出結果の信頼性を高めることができる。
また、第2発明による場合は、基準画像の対応位置の探索を行う所定領域を、前回の探索による対応位置での基準画像の範囲を所定範囲広げた領域とする構成とすることにより、車両が移動する可能性がある範囲以外の範囲を探索の対象外とすることができ、探索時間を短縮できるため、移動距離検出装置の処理を高速化できると共に、誤探索が低減されるため、検出結果の信頼性を高めることができる。
また、第3発明による場合は、第2の画像の所定領域内に基準画像に類似する部分が複数存在し、前回の探索にて基準画像の対応位置の候補が複数存在した場合には、今回の探索を行う所定領域を、各対応位置の候補での基準画像の範囲を所定範囲広げた領域とする構成とすることにより、誤探索の発生を確実に低減することができるため、移動距離検出装置の検出結果の信頼性をより高めることができる。
また、第4発明による場合は、車両の加速度を基に、基準画像の対応位置を探索する領域を決定する構成とすることにより、車両が移動する可能性がある範囲に探索の領域を限定することができ、第2の画像から基準画像の対応位置を探索する領域を限定した場合であっても、検出の精度を低下させることがないため、移動距離検出装置の処理を高速化でき、且つ、検出結果の信頼性を高めることができる。
また、第5発明による場合は、移動距離の検出に用いる2つの画像の時間間隔を、前回に検出した移動距離に応じて変更する、例えば移動距離が多い場合には時間間隔を短くし、移動距離が少ない場合には時間間隔を長くする構成とすることにより、車両の移動速度に応じた2つの画像を用いて移動距離の検出を行うことができるため、移動距離の検出精度を高めることができ、移動距離検出装置の検出結果の信頼性を高めることができる。
また、第6発明による場合は、撮像手段が撮像した画像を俯瞰方向の画像に変換し、この画像を用いて移動距離の検出を行う構成とすることにより、移動距離の検出を簡単に、且つ、確実に行うことができるため、移動距離検出装置の処理を高速化でき、且つ、検出結果の信頼性を高めることができる。
また、第7発明による場合は、車両に搭載された撮像手段にて異なる時点で撮像した第1及び第2の画像を取得し、第1の画像から基準画像を抽出し、第2の画像の所定領域内から基準画像の対応位置を探索し、探索結果から車両の移動距離を検出することによって、探索範囲が狭まるため、探索時間を短縮でき、且つ、誤探索を低減できる。よって、移動距離検出装置の処理を高速化でき、且つ、検出結果の信頼性を高めることができる。
以下、本発明をその実施の形態を示す図面に基づき具体的に説明する。図1は、本発明に係る移動距離検出装置の構成を示すブロック図である。図において1は、車両に搭載されたカメラ40が撮像した画像に種々の画像処理を施して、カーナビゲーション装置又はディスプレイ装置等の外部機器50へ出力する画像処理装置である。画像処理装置1は、カメラ40が撮像した画像を基に車両の移動距離を検出し、検出結果を外部機器50へ出力する機能を有しており、図1には、この機能に関する部分のみを図示してある。
カメラ40は、CCD又はCMOS等によるイメージセンサを備え、イメージセンサにより車両の前方、後方又は左右側方等を撮像し、イメージセンサの出力を画像処理装置1へ与えるようにしてある。また、カメラ40は、広角レンズ又は魚眼レンズ等の画角が90°以上のレンズを有しており、車両の周辺を広範囲に亘って撮像することができるようにしてある。このため、カメラ40により撮像された画像は、中央部から端部へ向けて湾曲度合いが徐々に大きくなる。
カメラ40から画像処理装置1へ与えられたイメージセンサの出力は、画像処理装置1が有するA/D変換部2によりデジタルの画像データに変換され、座標変換部4へ与えられる。座標変換部4は、カメラ40により撮像された画像の湾曲を補正すると共に、車両が走行する路面に略平行な方向に撮像された画像を、俯瞰方向の画像、即ち路面を上から見下ろした画像に変換するTopview変換を行うようにしてある。
図2は、本発明に係る移動距離検出装置の座標変換部4が行う変換処理を説明するための模式図であり、(a)に変換前の画像を示し、(b)に変換後の画像を示してある。カメラ40は広角レンズ又は魚眼レンズ等のレンズにより撮像を行うため、撮像された画像は端部が大きく湾曲した画像となる。例えば、図2(a)に示す画像では、画像の中心に撮像された他の車両は上下が少し湾曲しており、更に駐車場の枠線をなす路面に描かれた白線は、画像の端部側に撮像されているため大きく湾曲している。
Topview変換は、予め用意された変換テーブルを用いてカメラ40が撮像した画像の各ピクセルを予め定められた位置に移動し、データの存在しないピクセル間を線形補間又はバイキュービック補間等で補間することにより行うようにしてある。Topview変換に用いる変換テーブルは、マスクROM、EEPROM又はフラッシュメモリ等の不揮発性メモリにより構成された変換テーブルメモリ5に予め記憶されており、変換テーブルには、変換後の画像のピクセルが、変換前の画像のどの座標のピクセルに対応するかを示す対応関係が記憶されている。座標変換部4は、Topview変換を行う際に変換テーブルメモリ5から変換テーブルを読み出して、変換を行うようにしてある。例えば、図2(b)に示す画像は図2(a)に示す画像をTopview変換したものであり、画像の湾曲が補正され、路面を上から見下ろした画像に変換されている。これにより、路面に描かれた駐車場の枠をなす白線は、曲線から直線に変換されている。
座標変換部4は、Topview変換後の画像を画像バッファ3に記憶すると共に、対応位置探索部6へ画像の変換終了を通知し、対応位置探索部6を起動するようにしてある。また、カメラ40による撮像と座標変換部4によるTopview変換は、一定の周期、例えば1/30秒の周期で繰り返し行われており、得られた画像は画像バッファ3に順次記憶され、画像を記憶する毎に座標変換部4は対応位置探索部6へ変換終了を通知するようにしてある。
対応位置探索部6は、座標変換部4から変換終了を通知された場合に処理を開始するようにしてある。対応位置探索部6は、画像バッファ3から最新の画像及び所定時間前の画像の2つの画像を読み出し、読み出した2つの画像の対応位置、即ち、所定時間前の画像に映された対象物が最新の画像のどの位置に写されているかを探索するようにしてある。
図3は、本発明に係る移動距離検出装置の対応位置探索部6が行う対応位置の探索処理の概略を説明するための模式図であり、(a)に所定時間前の画像を示し、(b)に最新の画像を示してある。対応位置探索部6は、所定時間前の画像から一定の領域(図3(a)にて破線の矩形枠で囲む領域)をテンプレートエリア60として抽出し、最新の画像でのテンプレートエリア60の対応位置(図3(b)にて一点鎖線の矩形枠で囲む領域)を探索するようにしてある。
対応位置の探索にはSAD(Sum of Absolute Difference)又はSSD(Sum of Squared Difference)等のアルゴリズムが用いられる。SADは、最新の画像からテンプレートエリア60と同じ大きさの領域を抽出し、この領域の各ピクセルとテンプレートエリア60の各ピクセルとのピクセル値(例えば輝度など)の差の総和を算出する処理を、最新の画像から抽出する領域を移動させながら繰り返し行い、総和が最小の位置を対応位置の探索結果とする方法である。SSDは、SADの総和に代えて2乗和を算出する方法である。SAD及びSSDは、簡単且つ高速に計算でき、また、明確なエッジが存在しない場合であっても対応位置を探索することができるという利点がある。
対応位置探索部6は、2つの画像の対応位置を探索した後、探索結果を移動距離検出部7へ与えるようにしてある。移動距離検出部7は、与えられた探索結果の対応位置と、探索を行った2つの画像の撮像時間間隔とから、車両の移動距離を検出するようにしてある。対応位置の探索と移動距離の検出とは、カメラ40による撮像と座標変換部4によるTopview変換とが行われる毎に繰り返し行われ、検出した移動距離は外部機器50へ順次与えられるようにしてある。例えば外部機器50がカーナビゲーション装置の場合には、与えられた移動距離を基に車両の走行位置の特定などの処理を行うことができる。
なお、本発明に係る移動距離検出装置は、最新の画像からテンプレートエリア60の対応位置を探索する場合に、前回の探索結果を基に探索範囲を制限することによって、探索時間の短縮及び探索精度の向上を行っている。図4は、本発明に係る移動距離検出装置の対応位置探索部6の構成を示すブロック図である。
対応位置探索部6は、座標変換部4から変換終了の通知を与えられた場合に、画像バッファ3から最新の画像及び所定時間前の画像の2つの画像を読み出し、所定時間前の画像から抽出したテンプレートエリア60と、最新の画像との類似度を計算する類似度計算部11を有している。ここで計算する類似度とは、上述のSADのアルゴリズムを用いる場合には、各ピクセルのピクセル値の差の総和であり、SSDのアルゴリズムを用いる場合には、各ピクセルのピクセル値の差の2乗和である。
類似度計算部11が画像バッファ3から2つの画像を読み出す場合には、最新の画像と共に所定時間前の画像を読み出すようにしてあるが、このときの2つの画像の時間間隔は時間間隔保持部12に保持されている。類似度計算部11は、画像バッファ3から2つの画像を読み出す前に、時間間隔保持部12から読み出す2つの画像の時間間隔を取得するようにしてある。時間間隔保持部12に保持される時間間隔は可変であり、移動距離の検出結果に応じて変更されるようにしてある。
図5は、本発明に係る移動距離検出装置の時間間隔保持部12が保持する時間間隔の変更を説明するための模式図である。なお、本図には時間間隔を3種類に変更する例を示してあり、(a)は車両の低速走行時、即ち移動距離が少ない場合であり、(b)は車両の中速走行時、即ち移動距離が中程度の場合であり、(c)は車両の高速走行時、即ち移動距離が多い場合である。また、カメラ40による撮像の時間間隔は1/30秒とする。
例えば、移動距離を検出し、移動距離が所定の距離より少ない場合(図5(a)低速走行時参照)には、2つの画像の時間間隔Tを12/30秒(400ms)に設定するために、時間間隔保持部12にこの時間間隔T=12/30を保持させる。これにより、時刻t1においては、時刻t1に撮像された画像と、時刻(t1−12/30秒)に撮像された画像とを類似度計算部11が画像バッファ3から読み出すようにしてある。同様に、時刻t2においては、時刻t2に撮像された画像と、時刻(t2−12/30秒)に撮像された画像とを読み出し、時刻t3においては、時刻t3に撮像された画像と、時刻(t3−12/30秒)に撮像された画像とを読み出すようにしてある。
また、移動距離を検出し、移動距離が中程度の場合(図5(b)中速走行時参照)には、2つの画像の時間間隔Tを6/30秒(200ms)に設定するために、時間間隔保持部12にこの時間間隔T=6/30を保持させるようにしてある。移動距離が所定の距離より多い場合(図5(c)高速走行時参照)には、2つの画像の時間間隔Tを3/30秒(100ms)に設定するために、時間間隔保持部12にこの時間間隔T=3/30を保持させるようにしてある。
時間間隔Tが例えば12/30秒に固定されており、車両が高速走行する場合には、時刻(t1−12/30秒)の画像に写されていた対象物が時刻t1の画像に全く写されておらず、移動距離を検出できない虞がある。また、時間間隔Tが例えば3/30秒に固定されており、車両が低速走行する場合には、時刻(t1−3/30秒)の画像と時刻t1の画像とに変化がなく、正確な移動距離を検出できない虞がある。2つの画像の時間間隔Tを変更可能な構成とすることにより、これらの問題が発生することを回避し、正確な車両の移動距離の算出を行うことができる。なお、時間間隔保持部12に保持させる時間間隔Tの変更は、上述の移動距離検出部7によって検出された移動距離を基に行うことができる。また、移動距離はテンプレートエリア60の対応位置から検出されるため、後述する対応位置判定部13によるテンプレートエリア60の対応位置を基に、時間間隔Tの変更を行う構成とすることもできる。
類似度計算部11は、時間間隔保持部12が保持する時間間隔Tを読み出し、これに応じて画像バッファ3から現在の時刻tの画像と時刻(t−T)の画像との2つの画像を読み出した後、時刻(t−T)の画像からテンプレートエリア60を抽出し、テンプレートエリア60と時刻tの画像との比較を行い、時刻tの画像の各位置での類似度を計算するようにしてある。計算結果である各位置での類似度は対応位置判定部13に与えられ、対応位置判定部13が各位置での類似度を基にテンプレートエリア60の対応位置を判定するようにしてある。
例えば、類似度計算部11がSADのアルゴリズムにより計算を行う場合、テンプレートエリア60の各ピクセルのピクセル値と、時刻tの画像の各ピクセルのピクセル値との差の総和が類似度として対応位置判定部13に与えられ、対応位置判定部13はピクセル値の差の総和が最小となる位置を対応位置と判定するようにしてある。対応位置判定部13は、判定結果の対応位置を移動距離検出部7へ与えると共に、対応位置保持部14に第1対応位置15として保持するようにしてある。また、対応位置判定部13は、ピクセル値の差の総和が最小となる位置と、これに次いで総和が小さい位置との2つの位置でのそれぞれの総和を比較し、2つの総和の差が所定値より小さい場合には、総和が最小となる位置を第1候補として移動距離検出部7へ与えると共に、対応位置保持部14に第1対応位置15として保持し、これに次いで総和が小さい位置を第2候補とし、対応位置保持部14に第2対応位置16として保持するようにしてある。
類似度計算部11は、テンプレートエリア60と時刻tの画像との比較をおこなって類似度の計算を行うときに、時刻tの画像の定められた探索範囲内でのみ、テンプレートエリア60との比較を行って類似度を計算するようにしてある。このときの探索範囲は、対応位置保持部14に保持された第1対応位置15により決定され、また、もし対応位置保持部14に第2対応位置16が保持されていれば、探索範囲は第1対応位置15及び第2対応位置16により決定されるようにしてある。即ち、前回の判定結果(1/30秒前の判定結果)により探索範囲が決定されるようにしてある。
図6は、本発明に係る移動距離検出装置の類似度計算部11の探索範囲の決定方法を説明するための模式図である。カメラ40による撮像間隔を1/30秒とし、時刻t1の画像及び時刻(t1−T)の画像との間での画像の移動量をp1ピクセルとし、1ピクセルあたりの実際の移動距離をLとする。このとき、時刻t1での車両の速度v1は以下の(1)式で表される。
v1 = p1*L/T …(1)
同様にして、時刻t2の画像及び時刻(t2−T)の画像との間での画像の移動量をp2ピクセルとしたとき、時刻t2での車両の速度v2は以下の(2)式で表される。
v2 = p2*L/T …(2)
よって、時刻t1から時刻t2までの間での車両の加速度a12は、以下の(3)式で表される。
|a12| = |(v2−v1)/(t2−t1)| …(3)
ここで、車両の加速度の上限をgとすると、(1)〜(3)式より、
|(v2−v1)/(t2−t1)| < g
|(p2−p1)L/T(t2−t1)| < g
|p2−p1| < gT(t2−t1)/L …(4)
となる。
v1 = p1*L/T …(1)
同様にして、時刻t2の画像及び時刻(t2−T)の画像との間での画像の移動量をp2ピクセルとしたとき、時刻t2での車両の速度v2は以下の(2)式で表される。
v2 = p2*L/T …(2)
よって、時刻t1から時刻t2までの間での車両の加速度a12は、以下の(3)式で表される。
|a12| = |(v2−v1)/(t2−t1)| …(3)
ここで、車両の加速度の上限をgとすると、(1)〜(3)式より、
|(v2−v1)/(t2−t1)| < g
|(p2−p1)L/T(t2−t1)| < g
|p2−p1| < gT(t2−t1)/L …(4)
となる。
図7は、車両の加速度の一測定結果を示すグラフであり、車両の徐行時の加速度を測定したものである。図7に示すグラフは一例であるが、車両の徐行時の加速度は0.1Gの範囲内に収まることが実験の結果として得られている。よって、車両の加速度の上限g=0.1G(=0.98m/s2 )とし、更に時間間隔T=12/30秒とし、1ピクセルあたりの実際の移動距離L=12mmとする。移動距離の検出を行う時間間隔(t2−t1)はカメラ40による撮像間隔1/30秒である。これらの値を(4)式に代入すると、
|p2−p1| < 1.08 …(5)
となる。
|p2−p1| < 1.08 …(5)
となる。
(5)式より、時刻t1から時刻t2の間に車両が移動することによって、カメラ40にて撮像される画像が移動する量は1.08ピクセルより小さいことがわかる。よって、時刻t1にて得られた対応位置でのテンプレートエリア60の範囲の周囲1ピクセル又は2ピクセル程度の範囲内を時刻t2にて探索することで、時刻t2での対応位置を得ることができる。よって、時刻t2での探索範囲を時刻t1の探索結果である対応位置でのテンプレートエリア60の範囲から1ピクセル又は2ピクセル程度広げた範囲に限定することで、探索に必要な処理時間を短縮することができると共に、探索の精度を高めることができる。
図8は、本発明に係る移動距離検出装置が行う対応位置の探索処理の一例を示す模式図である。時刻t1において対応位置探索部6は、画像バッファ3から時刻(t1−T)の画像と時刻t1の画像との2つの画像を読み出し、時刻(t1−T)の画像の特定の領域をテンプレートエリア60として抽出する(図8(a)参照)。その後、時刻t1の画像からテンプレートエリア60に対応する画像の対応位置61を探索する(図8(b)参照)。探索結果である対応位置61は対応位置探索部6の対応位置保持部14に第1対応位置15として保持される。なお、本例ではテンプレートエリア60の対応位置は第1候補のみの場合を示してある。
次いで、時刻t2において対応位置探索部6は、画像バッファ3から時刻(t2−T)の画像と時刻t2の画像との2つの画像を読み出し、時刻(t2−T)の画像の特定の領域をテンプレートエリア60として抽出する(図8(c)参照)。その後、対応位置保持部14から前回(時刻t1)の探索結果である対応位置61(図8(d)に一点鎖線で示す)を読み出し、対応位置61でのテンプレートエリア60の範囲を1ピクセル広げた範囲を今回(時刻t2)の探索範囲62とする(図8(d)参照)。この探索範囲62からテンプレートエリア60の対応位置を探索し、探索結果を対応位置保持部14に保持する。
対応位置探索部6は、座標変換部4から変換の終了を通知される毎に以上の処理をt3、t4…と繰り返し行うようにしてあり、探索結果を移動距離検出部7へ順次与えるようにしてある。なお、実際には、時刻t1においてテンプレートエリア60の対応位置を探索する場合にも、対応位置保持部14から前回の探索結果を読み出して今回の探索範囲を決定するが、本例では説明を省略してある。
図9は、図8(d)におけるテンプレートエリア60の対応位置の探索処理を説明するための模式図であり、図8(d)の一部分を拡大して図示したものである。時刻t2での探索範囲62を、時刻t1での対応位置61でのテンプレートエリア60の範囲を1ピクセル広げた範囲とした場合、時刻(t2−T)の画像から抽出したテンプレートエリア60の対応位置となりうる位置は9箇所存在する。図9には、テンプレートエリア60の最左上のピクセルの対応位置となりうる位置を1〜9の数字で示してある。
対応位置探索部6の類似度計算部11は、この9箇所に関して類似度の計算を行い、計算結果の9個の値を対応位置判定部13へ与えるようにしてある。対応位置判定部13は、与えられた9個の値を比較して最もテンプレートエリア60に類似した位置を対応位置と判定し、移動距離検出部7へ判定結果として対応位置を与えると共に、対応位置保持部14に対応位置を保持するようにしてある。このように、探索範囲を限定することで、類似度計算部11の計算回数を大幅に減少することができる。なお、図示は省略するが、前回の対応位置でのテンプレートエリア60の範囲を2ピクセル広げた範囲を今回の探索範囲とする場合には、テンプレートエリア60の対応位置となりうる位置は25箇所存在する。
図10は、本発明に係る移動距離検出装置が行う対応位置の探索処理の他の例を示す模式図であり、前回の探索結果として2つの候補が存在する場合を示してある。時刻t1において対応位置探索部6は、画像バッファ3から時刻(t1−T)の画像と時刻t1の画像との2つの画像を読み出し、時刻(t1−T)の画像の特定の領域をテンプレートエリア60として抽出する(図10(a)参照)。その後、時刻t1の画像からテンプレートエリア60に対応する画像の対応位置を探索する。このときに、類似度計算部11が計算する類似度の近接した位置が2つ存在する場合(図10(b)参照)、より類似している一方の位置を第1候補61aとし、対応位置保持部14に第1対応位置15として保持し、更に他方の位置を第2候補61bとし、第2対応位置16として保持する。ただし、移動距離検出部7へは、第1候補61aの位置を探索結果として与えるようにしてある。
次いで、時刻t2において対応位置探索部6は、画像バッファ3から時刻(t2−T)の画像と時刻t2の画像との2つの画像を読み出し、時刻(t2−T)の画像の特定の領域をテンプレートエリア60として抽出する(図10(c)参照)。その後、対応位置保持部14から前回(時刻t1)の探索結果である対応位置の第1候補61a及び第2候補61bを読み出し、第1候補61aでのテンプレートエリア60の範囲を1ピクセル広げた領域を第1探索範囲62aとし、第2候補61bでのテンプレートエリア60の範囲を1ピクセル広げた領域を第2探索範囲62bとする(図10(d)参照)。第1探索範囲62a及び第2探索範囲62bの2つの範囲からテンプレートエリア60の対応位置を探索し、探索結果を対応位置保持部14に保持する。
このように、前回の探索の結果としてテンプレートエリア60の対応位置の候補が2つ存在する場合、今回の探索を行う範囲を広げることによって、対応位置の誤探索が発生して移動距離の検出精度が低下することを防止できる。
図11及び図12は、本発明に係る移動距離算出装置が行う移動距離検出処理の手順を示すフローチャートである。移動距離検出処理では、まず、車両に搭載されたカメラ40にて撮像を行い(ステップS1)、得られた画像を座標変換部4にてTopview変換する(ステップS2)。座標変換部4は変換した画像を画像バッファ3に記憶すると共に対応位置探索部6へ変換の終了を通知する。変換の終了を通知された対応位置探索部6では、類似度計算部11が画像バッファ3から読み出す2つの画像の時間間隔Tを時間間隔保持部12から取得し(ステップS3)、取得した時間間隔Tに応じて、画像バッファ3から現在の時刻tの画像と、現在の時刻tから時間間隔Tだけ遡った時刻(t−T)の画像との2つの画像を読み出す(ステップS4)。
次いで、類似度計算部11は、対応位置保持部14に保持された前回の対応位置を取得する(ステップS5)。このとき、第1対応位置15及び第2対応位置16の2つの対応位置が保持されている場合には、両対応位置を取得し、取得した対応位置に応じて今回の探索範囲を決定する(ステップS6)。探索範囲の決定方法は上述のとおりであり、取得した対応位置でのテンプレートエリア60の範囲を例えば1ピクセル広げた範囲を探索範囲とする。
次いで、類似度計算部11は、時刻(t−T)での画像から特定の領域をテンプレートエリア60として抽出し(ステップS7)、ステップS6にて決定した探索範囲内で、時刻tの画像とテンプレートエリア60の画像との類似度を計算する(ステップS8)。計算結果は類似度計算部11から対応位置判定部13へ与えられる。類似度の計算は探索範囲内の各位置にて行ようにしてあり、全ての位置について類似度の計算を終了したか否かを調べ(ステップS9)、終了していない場合には(S9:NO)、ステップS8へ戻って別の位置での類似度の計算を繰り返し行う。
探索範囲内の全ての位置について類似度の計算を終了した場合(S9:YES)、対応位置判定部13にて複数の類似度を比較して、テンプレートエリア60の対応位置を判定し(ステップS10)、判定結果を対応位置保持部14に保持する(ステップS11)。このとき、対応位置の候補となる位置が2つ存在する場合には、2つの位置を対応位置保持部14に保持するようにしてある。判定結果は移動距離検出部7へ与えられる。
また、対応位置判定部13による判定結果として得られた対応位置から車両の移動距離を推定することができるため、得られた対応位置に応じて、画像バッファ3から読み出す2つの画像の時間間隔Tを変更する必要があるか否かを調べる(ステップS12)。これは、テンプレートエリア60を抽出した位置と対応位置判定部13の判定結果として得られた対応位置との間のピクセル数を算出し、算出したピクセル数と予め定められた閾値とを比較して時間間隔Tを変更する必要があるか否かを判断するようにしてある。時間間隔Tを変更する必要がある場合には(S12:YES)、時間間隔保持部12に保持された時間間隔Tを適切な値に変更する(ステップS13)。
時間間隔Tを変更する必要がない場合(S12:NO)、及びステップS13にて時間間隔Tを変更した後、移動距離検出部7は、テンプレートエリア60を抽出した位置と対応位置判定部13の判定結果として得られた対応位置との間のピクセル数を算出し、1ピクセルあたりの実際の移動距離を基に、移動距離を検出する(ステップS14)。移動距離検出部7が検出した移動距離を外部機器50へ与えて、移動距離検出処理を終了する。ただし、実際にはステップS1〜S15の処理を、所定の時間間隔(1/30秒)毎に繰り返し行うようにしてある。
以上の構成の移動距離検出装置においては、現在の時刻tの画像からテンプレートエリア60の対応位置を探索する場合に、探索範囲を前回の探索結果の対応位置に応じた限定された範囲とすることによって、対応位置の探索処理を簡単化することができると共に探索結果の精度を高めることができる。また、車両の加速度の上限が0.1G程度であることに着目し、(5)式に示すように、前回の対応位置でのテンプレートエリア60の範囲を1ピクセル又は2ピクセル程度広げた範囲を今回の探索範囲とすることによって、類似度計算部11による類似度の計算回数が9回又は25回程度に減少させることができる。また、類似度計算部11が計算した類似度を基に対応位置判定部13が判定を行った結果、対応位置の候補となる位置が2つ存在する場合には、2つの対応位置を対応位置保持部14に保持し、次回の探索範囲を2つの対応位置を基に決定することによって、テンプレートエリア60の対応位置の誤探索が発生することを防止できる。
なお、本実施の形態においては、カメラ40による撮像の時間間隔、及び移動距離の検出処理を行う時間間隔を1/30秒としたが、この数値は一例であって、これに限るものではない。同様に、類似度計算部11が取得する2つの画像の時間間隔Tを、低速走行時には12/30秒間隔とし、中速走行時には6/30秒間隔とし、高速走行時には3/30秒間隔としたが、この数値は一例であって、これに限るものではない。また、対応位置の探索範囲は、前回の対応位置でのテンプレートエリア60の範囲を1ピクセル又は2ピクセル程度広げた範囲としたが、この数値は一例であって、これに限るものではない。これらの数値は、移動距離検出装置のハードウェア構成などに応じて適切な値を設定することができる。
また、図1のブロック図では画像処理装置1とカーナビゲーション装置などの外部機器50とを別の装置とする構成を図示したが、これに限るものではなく、カーナビゲーション装置などが画像処理装置1の機能を備える構成であってもよい。また、画像処理装置1が移動距離の検出結果を外部機器50へ与える構成としたが、これに限るものではなく、画像処理装置1がその他の画像処理を行う際に移動距離の検出結果を利用する構成であってもよい。また、移動距離検出部7が検出した移動距離を外部機器50へ与える構成としたが、これに限るものではなく、移動距離から車速を算出し、算出した車速を外部機器50へ与える構成としてもよい。
また、対応位置保持部14には、第1対応位置15及び第2対応位置16の2つの対応位置を保持する構成としたが、これに限るものではなく、対応位置を1つのみ保持する構成であってもよく、また、3つ以上の対応位置を保持する構成であってもよい。また、図11及び図12に示すフローチャートにおいて、ステップS5の前回の対応位置の取得及びステップS6の探索範囲の決定と、ステップS7のテンプレートエリア60の抽出とは、どちらを先に行ってもよい。また、ステップS12及びS13にて、対応位置判定部13が判定した対応位置に応じて、時間間隔保持部12が保持する時間間隔Tの変更を行う構成としたが、これに限るものではなく、例えば移動距離検出部7が検出した移動距離に応じて時間間隔Tの変更を行う構成であってもよい。
1 画像処理装置
2 A/D変換部
3 画像バッファ
4 座標変換部(変換手段)
5 変換テーブルメモリ
6 対応位置探索部
7 移動距離検出部(検出手段)
11 類似度計算部(取得手段、抽出手段、探索手段、変更手段)
12 時間間隔保持部
13 対応位置判定部
14 対応位置保持部
15 第1対応位置
16 第2対応位置
40 カメラ(撮像手段)
50 外部機器
60 テンプレートエリア(基準画像)
61 対応位置
62 探索範囲(所定領域)
2 A/D変換部
3 画像バッファ
4 座標変換部(変換手段)
5 変換テーブルメモリ
6 対応位置探索部
7 移動距離検出部(検出手段)
11 類似度計算部(取得手段、抽出手段、探索手段、変更手段)
12 時間間隔保持部
13 対応位置判定部
14 対応位置保持部
15 第1対応位置
16 第2対応位置
40 カメラ(撮像手段)
50 外部機器
60 テンプレートエリア(基準画像)
61 対応位置
62 探索範囲(所定領域)
Claims (7)
- 車両に搭載され、該車両の外界を撮像する撮像手段と、
異なる時点で撮像された第1の画像及び第2の画像を取得する取得手段と、
第1の画像から基準画像を抽出する抽出手段と、
第2の画像の所定領域内にて、前記抽出手段が抽出した基準画像の対応位置を探索する探索手段と、
該探索手段の探索結果に応じて車両の移動距離を検出する検出手段と
を備えることを特徴とする移動距離検出装置。 - 前記取得手段による画像の取得、前記抽出手段による基準画像の抽出、前記探索手段による対応位置の探索及び前記検出手段による移動距離の検出を、時系列的に繰り返し行うようにしてあり、
前記探索手段が前回探索した対応位置での基準画像の範囲を所定範囲広げた領域を、前記所定領域とするようにしてある請求項1に記載の移動距離検出装置。 - 前記探索手段による前回の探索にて、第2の画像の所定領域内に対応位置の候補が複数存在した場合、
各対応位置の候補での基準画像の範囲を所定範囲広げた領域を、前記所定領域とするようにしてある請求項2に記載の移動距離検出装置。 - 前記所定範囲は、車両の加速度を基に決定された範囲である請求項2又は請求項3に記載の移動距離検出装置。
- 前記検出手段が検出した移動距離に応じて、前記取得手段が取得する第1の画像及び第2の画像の撮像時点の間隔を変更する変更手段を備える請求項1乃至請求項4のいずれか1つに記載の移動距離検出装置。
- 前記抽出手段が基準画像の抽出を行う以前に、撮像された画像を俯瞰方向の画像に変換する変換手段を備える請求項1乃至請求項5のいずれか1つに記載の移動距離検出装置。
- 車両に搭載された撮像手段により、車両の外界を撮像し、
異なる時点で撮像された第1の画像及び第2の画像を取得し、
第1の画像から基準画像を抽出し、
第2の画像の所定領域内にて、抽出した基準画像の対応位置を探索し、
探索結果に応じて車両の移動距離を検出すること
を特徴とする移動距離検出方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006148875A JP2007317128A (ja) | 2006-05-29 | 2006-05-29 | 移動距離検出装置及び移動距離検出方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006148875A JP2007317128A (ja) | 2006-05-29 | 2006-05-29 | 移動距離検出装置及び移動距離検出方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007317128A true JP2007317128A (ja) | 2007-12-06 |
Family
ID=38850906
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006148875A Pending JP2007317128A (ja) | 2006-05-29 | 2006-05-29 | 移動距離検出装置及び移動距離検出方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007317128A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008175717A (ja) * | 2007-01-19 | 2008-07-31 | Xanavi Informatics Corp | 現在位置算出装置、現在位置算出方法 |
JP2013195287A (ja) * | 2012-03-21 | 2013-09-30 | Sharp Corp | 変位量検出装置、電子機器 |
CN106197263A (zh) * | 2016-06-28 | 2016-12-07 | 大连理工大学 | 基于机器视觉的多体投放位姿测量方法 |
US11756314B2 (en) | 2020-03-05 | 2023-09-12 | Samsung Electronics Co., Ltd. | Processors configured to detect objects and methods of detecting objects |
-
2006
- 2006-05-29 JP JP2006148875A patent/JP2007317128A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008175717A (ja) * | 2007-01-19 | 2008-07-31 | Xanavi Informatics Corp | 現在位置算出装置、現在位置算出方法 |
JP2013195287A (ja) * | 2012-03-21 | 2013-09-30 | Sharp Corp | 変位量検出装置、電子機器 |
CN106197263A (zh) * | 2016-06-28 | 2016-12-07 | 大连理工大学 | 基于机器视觉的多体投放位姿测量方法 |
US11756314B2 (en) | 2020-03-05 | 2023-09-12 | Samsung Electronics Co., Ltd. | Processors configured to detect objects and methods of detecting objects |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5421072B2 (ja) | 接近物体検知システム | |
JP4631096B2 (ja) | 車両周辺監視装置 | |
JP4622001B2 (ja) | 道路区画線検出装置および道路区画線検出方法 | |
JP4815488B2 (ja) | 車両周辺監視装置 | |
KR102038570B1 (ko) | 시차 이미지 생성 디바이스, 시차 이미지 생성 방법, 시차 이미지 생성 프로그램, 물체 인식 디바이스, 및 기기 제어 시스템 | |
WO2010125833A1 (ja) | 車両周辺監視装置 | |
JP2005310140A (ja) | オブジェクトの認識及び/又は追跡方法 | |
JPH11351862A (ja) | 前方車両検出方法及び装置 | |
WO2016151976A1 (ja) | 移動体検出装置、画像処理装置、移動体検出方法、及び、集積回路 | |
JP2006318062A (ja) | 画像処理装置、画像処理方法、および画像処理用プログラム | |
JP2014106739A (ja) | 車載画像処理装置 | |
JP6384803B2 (ja) | 移動体検出装置、画像処理装置、移動体検出方法、及び、集積回路 | |
JP2007317128A (ja) | 移動距離検出装置及び移動距離検出方法 | |
JP6407596B2 (ja) | 画像処理装置、及び、運転支援システム | |
JP2012252501A (ja) | 走行路認識装置及び走行路認識用プログラム | |
JP4397573B2 (ja) | 画像処理装置 | |
JP5832850B2 (ja) | 車線監視システム及び車線監視方法 | |
JP2008165595A (ja) | 障害物検出方法、障害物検出装置、障害物検出システム | |
JP2007018451A (ja) | 道路区画線検出装置 | |
JP2016091250A (ja) | 車両周辺画像表示装置、車両周辺画像表示方法 | |
JP2018074411A (ja) | 物体検出装置及び物体検出方法 | |
JP2008286648A (ja) | 距離計測装置、距離計測システム、距離計測方法 | |
JP6241083B2 (ja) | 撮像装置及び視差検出方法 | |
JP2006318061A (ja) | 画像処理装置、画像処理方法、および画像処理用プログラム | |
JP2005216200A (ja) | 他車検出装置及び他車検出方法 |