JP2007523427A - 通過車両をダイナミックなバックグランドから頑強な情報フュージョンを使用して検出するための装置および方法 - Google Patents
通過車両をダイナミックなバックグランドから頑強な情報フュージョンを使用して検出するための装置および方法 Download PDFInfo
- Publication number
- JP2007523427A JP2007523427A JP2006554140A JP2006554140A JP2007523427A JP 2007523427 A JP2007523427 A JP 2007523427A JP 2006554140 A JP2006554140 A JP 2006554140A JP 2006554140 A JP2006554140 A JP 2006554140A JP 2007523427 A JP2007523427 A JP 2007523427A
- Authority
- JP
- Japan
- Prior art keywords
- motion
- image
- background dynamics
- disturbed
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/04—Detecting movement of traffic to be counted or controlled using optical or ultrasonic detectors
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Traffic Control Systems (AREA)
Abstract
通過車両を検出するための装置および方法が開示される。複数の画像フレームを含みビデオシーケンスが受信される。画像強度が測定され、画像の動きが各画像フレームで評価される。バックグランドダイナミクスを表す仮説が定式化される。測定された画像強度と動き評価は、バックグランドダイナミクスが所定の画像フレームで妨害されているか否かの決定に使用される。バックグランドダイナミクスが妨害されている場合、バックグランドダイナミクスの妨害が通過車両によって引き起こされているか否かの決定に動き一貫性が使用される。
Description
関連出願の相互参照
本出願は、米国暫定出願番号60/545781、2004年2月19日出願の優先権を主張するものであり、この刊行物全体を参照する。
本出願は、米国暫定出願番号60/545781、2004年2月19日出願の優先権を主張するものであり、この刊行物全体を参照する。
技術分野
本発明は、通過車両の検出装置および検出方法に関するものであり、より詳細には、通過車両をダイナミックなバックグランドから頑強な情報フュージョンを使用して検出する装置および方法に関する。
本発明は、通過車両の検出装置および検出方法に関するものであり、より詳細には、通過車両をダイナミックなバックグランドから頑強な情報フュージョンを使用して検出する装置および方法に関する。
背景技術
マシン視覚ベースの障害物検出および追跡は、自律型車両システムでの重要な要素である。典型的な運転シーンでは、障害物は車両、歩行者、および道路面上を移動または起立するいずれかの対象物を含む。障害物検出の目的は、移動対象物を運転シーンから分離することであり、障害物は車両、歩行者、および道路面上を移動または起立するいずれかの対象物を含む。このような情報は多くの自動車適用で、例えば適応型クルーズコントロール、前方衝突回避および車線逸脱警告で必要とされる。個別対象物の検出および追跡結果を融合することにより、運転環境を十分に認知することができる。
マシン視覚ベースの障害物検出および追跡は、自律型車両システムでの重要な要素である。典型的な運転シーンでは、障害物は車両、歩行者、および道路面上を移動または起立するいずれかの対象物を含む。障害物検出の目的は、移動対象物を運転シーンから分離することであり、障害物は車両、歩行者、および道路面上を移動または起立するいずれかの対象物を含む。このような情報は多くの自動車適用で、例えば適応型クルーズコントロール、前方衝突回避および車線逸脱警告で必要とされる。個別対象物の検出および追跡結果を融合することにより、運転環境を十分に認知することができる。
運転者支援のために設計された単眼視覚システムでは、単一カメラが自車の内側に取り付けられており、前方道路シーンの連続画像をキャプチャする。視覚の中央野にある車両を検出するために種々の車両検出方法が開発された。このような方法は通過車両検出に使用することができる。通過車両検出では、自車の左または右を通過する車両、および高速で視野に入る車両が検出される。通過車両検出は、運転環境を理解する点で重要な役割を演じる。追い越し車両が引き起こし得る潜在的危険運転状況が存在するので、通過車両をモニタし、検出することが重要である。
通過車両はそれが視野に入る前に検出する必要があり、しかも部分的にしか可視でないから、出現情報を完全に信頼することはできない。しかし特徴的な光学的フローが通過車両により発生される。従って動き情報は、通過車両検出において重要な糸口となる。光学的フローを使用するいくつかの公知の障害物検出方法が通過車両検出に使用されている。これらの方法では、カメラパラメータと車両速度から計算された予測フローフィールドが、動き評価から計算された実際の画像フローと比較される。実際のフローが予測フローと一致しない場合に障害物が断定される。この方法は、強いノイズが存在せず、照明変化も存在しないときに良好に動作する。しかし特定の状況では、構造的ノイズおよび強い照明が存在するのはまったく一般的なものであり、これらはスプリアス画像フィーチャを引き起こし、フロー評価を信頼できないものにする。頑強に動き評価を行うことのできる通過車両検出方法が必要である。
発明の概要
本発明は、通過車両の検出装置および検出方法に関する。複数の画像フレームを含むビデオシーケンスが受信される。画像強度が測定され、画像の動きが各画像フレームごとに評価される。バックグランドダイナミクスを表す仮説モデルが定式化される。測定された画像強度と動きの評価は、バックグランドダイナミクスが所定の画像フレームで妨害されているか否かの決定に使用される。バックグランドダイナミクスが妨害されていれば、動き一貫性が使用され、バックグランドダイナミクスの妨害が通過車両によるものであるか否かが決定される。
本発明は、通過車両の検出装置および検出方法に関する。複数の画像フレームを含むビデオシーケンスが受信される。画像強度が測定され、画像の動きが各画像フレームごとに評価される。バックグランドダイナミクスを表す仮説モデルが定式化される。測定された画像強度と動きの評価は、バックグランドダイナミクスが所定の画像フレームで妨害されているか否かの決定に使用される。バックグランドダイナミクスが妨害されていれば、動き一貫性が使用され、バックグランドダイナミクスの妨害が通過車両によるものであるか否かが決定される。
図面の簡単な説明
次に、図面を参照しながら本発明の有利な実施形態について以下で詳しく説明する。図中、同じ要素には同じ参照符号が付されている。
図1は、本発明による、通過車両の検出装置のシステムブロック回路図である。
図2は、通過車両を示す、本発明の画像フレームのシーケンスを表す図である。
図3は、本発明による、通過車両の検出方法のフローブロックチャートである。
図4は、本発明の例としての画像フレームと、2つのサブウィンドウに通過車両の動き一貫性を示す図である。
図5は、本発明の状態遷移の許容経路を示す図である。
図6は、通過車両を検出するのに使用される本発明の検出ツリーを示す図である。
図7は、可変帯域幅密度フュージョンを使用して分析ウィンドウ内を検出する本発明の例を示す図である。
図8は、本発明による通過車両検出を示す図である。
図9は、極端な照明変化を受ける通過車両の検出を示す図である。
図10は、図9に示された画像フレ―ムに関連する、画像ミスマッチエラーとフロー評価データを示す線図である。
次に、図面を参照しながら本発明の有利な実施形態について以下で詳しく説明する。図中、同じ要素には同じ参照符号が付されている。
図1は、本発明による、通過車両の検出装置のシステムブロック回路図である。
図2は、通過車両を示す、本発明の画像フレームのシーケンスを表す図である。
図3は、本発明による、通過車両の検出方法のフローブロックチャートである。
図4は、本発明の例としての画像フレームと、2つのサブウィンドウに通過車両の動き一貫性を示す図である。
図5は、本発明の状態遷移の許容経路を示す図である。
図6は、通過車両を検出するのに使用される本発明の検出ツリーを示す図である。
図7は、可変帯域幅密度フュージョンを使用して分析ウィンドウ内を検出する本発明の例を示す図である。
図8は、本発明による通過車両検出を示す図である。
図9は、極端な照明変化を受ける通過車両の検出を示す図である。
図10は、図9に示された画像フレ―ムに関連する、画像ミスマッチエラーとフロー評価データを示す線図である。
実施例
本発明は、バックグランドから通過車両を検出する装置および検出する方法に関する。図1は、本発明を実現するための装置のブロック回路図を示す。カメラ102が道路およびその周囲の画像をキャプチャするのに使用される。典型的な道路画像で予期されるように、画像は建物、樹木、および家のようなバックグランド画像と道路を走行する車両を含む。画像はプロセッサ104に供給される。プロセッサ104は画像強度と画像の動きを分析し、シーンダイナミクスにおける変化を検出する。変化が検出されると、本発明により仮説検査が実行され、シーン変化が通過車両によるものであるか否かが決定される。
本発明は、バックグランドから通過車両を検出する装置および検出する方法に関する。図1は、本発明を実現するための装置のブロック回路図を示す。カメラ102が道路およびその周囲の画像をキャプチャするのに使用される。典型的な道路画像で予期されるように、画像は建物、樹木、および家のようなバックグランド画像と道路を走行する車両を含む。画像はプロセッサ104に供給される。プロセッサ104は画像強度と画像の動きを分析し、シーンダイナミクスにおける変化を検出する。変化が検出されると、本発明により仮説検査が実行され、シーン変化が通過車両によるものであるか否かが決定される。
加えて仮説検査は、シーン変化が通過車両によるものであり、ノイズ、照明変化、またはバックグランド運動による他の条件によるものではないことを実証するために実行される。通過車両が十分な一致レベルで識別されると、この車両は出力装置106を介して識別される。出力装置106は出力信号を供給し、この出力信号はユーザに通過車両の存在を指示する。この出力信号は音響信号、または他の形式の警報信号とすることができる。出力装置106は、検出された車両を表示するディスプレイを含むこともできる。ディスプレイは、カメラ102により撮影された画像を表示する。この画像は、検出され、追跡されている車両を指示するために強調される。この画像はデータベース108に記憶することができる。
本発明は、視野に入り、警報をトリガする車両のイベントをリアルタイムで検出するものである。とりわけ可変帯域幅密度フュージョンを使用する頑強な動き評価スキームが、通過車両の検出に使用される。これについては後で詳細に説明する。車両の通過は散発性のイベントであり、これはシーンの形状を時々変化させる。図2は、画像フレーム202-208のシーケンスを示し、これらの画像は適時に連続してキャプチャされる。車両210が時間t2-t3の間に視野に入ると、この車両は局所的フォアグランドレイヤーを形成し、このレイヤーは一時的に道路シーンをブロックする。画像出現と、サブウィンドウ212に配置されたエントリーポイント周囲の画像の動きの両方が道路シーンダイナミクスから逸脱する。通過車両の検出では、所定のエントリーポイント周囲のシーンダイナミクスにおける変化の検出が1つの側面である。
本発明によれば3つの問題が、通過車両の検出のために取り扱われる:すなわち、道路シーンおよび通過車両のダイナミクスのモデリング、通過車両検出および評価関連フィーチャに対する決定ルールの導出、および仮説検査に含まれる統計量が取り扱われる。この方法のハイレベルフローチャートが図3に示されている。道路シーンおよび通過車両のダイナミクスは、画像強度とエントリーポイント周囲の画像の動きをモデリングすることにより表される。車両通過のイベントに対して、車両運動に一時的一貫性がインポーズされる。画像強度と、エントリーポイントに配置された分析ウィンドウ内の画像の動きがモニタされる。分析ウィンドウ内のシーンダイナミクスの変化が検出される。仮説検査で使用される関連のパラメータは検出結果に応じて更新される。
通過車両が存在しなければ、視覚的道路シーン、すなわちバックグランドは視野内を、カメラが自車と共に移動するのと同じように一定に移動する。車両速度とカメラ距離が既知であれば、画像の動きとバックグランドシーンの画像強度は時間に関して予測可能である。言い替えると、バックグランドシーンはカメラパラメータとカメラの動きにより規定されるダイナミックモデルに従う。時間tでの画像強度をI(x,t)により、動きベクトルをv(x,t)により表す。ここでxは画像ピクセルの空間座標である。ダイナミックバックグランドの仮説は次のように表される:
Hroad: I(x+v(x, t)・δt, t-δt)=I(x,t) + nI (1)
v(x, t) = h(x, Vo(t), θ)
真の画像の動きv(x, t)は、車両速度Voとカメラパラメータθにより表される。明度が一定の条件の下では、画像強度は真の動きにより定められる先行フレームから予測可能である。しかしながら、明度の一定性は実際には照明が変化するため頻繁に妨害を受ける。加えて、強度は種々の画像ノイズによっても影響を受ける。従ってノイズ項ntが、強度の変動を考慮するために採用される。このシーンダイナミクスでの仮説は、領域固有の制限を有利に改善する。
Hroad: I(x+v(x, t)・δt, t-δt)=I(x,t) + nI (1)
v(x, t) = h(x, Vo(t), θ)
真の画像の動きv(x, t)は、車両速度Voとカメラパラメータθにより表される。明度が一定の条件の下では、画像強度は真の動きにより定められる先行フレームから予測可能である。しかしながら、明度の一定性は実際には照明が変化するため頻繁に妨害を受ける。加えて、強度は種々の画像ノイズによっても影響を受ける。従ってノイズ項ntが、強度の変動を考慮するために採用される。このシーンダイナミクスでの仮説は、領域固有の制限を有利に改善する。
通過車両が視野に入ると、バックグランドシーンのダイナミクスが妨害を受ける。式(1)からバックグランドダイナミクスの妨害を、画像強度と画像の動きについての仮説を検査することによって検出することができる。しかし妨害は車両通過以外の条件、例えば強い照明変化および構造的ノイズの下でも発生し得る。妨害が実際に通過車両により引き起こされたことを確認するために、同様に通過車両により引き起こされた領域固有の制限を利用することが必要である。
車両の出現と速度の多様性を考慮すると、通過車両のダイナミクスは車両運動に一貫性が存在することを強調することにより特徴付けられる。図4に示すように、動き一貫性を記述するために、通過車両の動きパターンが2つのサブウィンドウAとBにより研究される。これらのサブウィンドウは、通過車両が進むこととなる軌跡に沿っている。通過車両が視野に入ると、この車両はAまたはBに到着する。Bに到着する車両に対しては、この車両はAに最初に到着しなければならない。従ってバックグランドダイナミクスの妨害はサブウィンドウAで、サブウィンドウBより前に発生する。
反対にこのような一貫性は、シーンまたはバックグランドダイナミクスの妨害が、突然の照明変化、構造的ノイズおよび影のような不規則イベントの結果である場合には存在しない。従って、通過車両についてなされる仮説により、一貫性の動きを備えるイベントを、不規則イベントから区別することができる。不規則イベントは異常値とも称される。図5を参照すると、SAとSBがそれぞれサブウィンドウAとBの状態変数として示されている。Rは動きと強度が道路ダイナミクスに従う状態を表し、Vは道路ダイナミクスが妨害される状態を表す。
車両通過のイベントは、RRから始まりVVで終わるSASBの状態遷移の連続として表される。図5に示すように、一貫性イベントは、状態遷移の許容経路の集合によって区別される。
Hvehicle:ρ={RR→VR→…→VV} (2)
通過車両の検出の際には、種々異なる状況、例えば道路シーン、異常値および車両が分析ウィンドウで遭遇する。決定ツリーはこれらの状況を、ツリー形態で表される一連の仮説検査をソートすることにより明瞭にする。図6は、通過車両を検出するのに使用される本発明の検出ツリーを示す図である。画像の動きおよび画像強度が、道路シーンのダイナミックモデルに対して検査される。一貫性検査は、シーンダイナミクスを妨害する状況で実行される。通過車両に対する決定ルールは次のように要約される:
(バックグランドダイナミクスが妨害される)∧(一貫性が満たされる) (3)
道路シーンの真の動きv(x,t)は式(1)により決められる。観察された画像の動きが評価されると、バックグランドダイナミクス上での仮説検査は次のように表現される:
(||v^(x,t)-v(x,t)||≧Tmotion)∨(||R(x,t)||≧Tresidual) (4)
であればバックグランドダイナミクスが妨害されている。
ここでR(x,t)=I(x,t)・σt, t-σt)-I(x,t)は動き補償の余りであり、予測された画像と実際の画像とのミスマッチを反映する。動きと余りを検査することにより、すべての事例が2つの群に分類される。すなわちバックグランドダイナミクスに従う事例と、バックグランドダイナミクスを妨害する事例である。
Hvehicle:ρ={RR→VR→…→VV} (2)
通過車両の検出の際には、種々異なる状況、例えば道路シーン、異常値および車両が分析ウィンドウで遭遇する。決定ツリーはこれらの状況を、ツリー形態で表される一連の仮説検査をソートすることにより明瞭にする。図6は、通過車両を検出するのに使用される本発明の検出ツリーを示す図である。画像の動きおよび画像強度が、道路シーンのダイナミックモデルに対して検査される。一貫性検査は、シーンダイナミクスを妨害する状況で実行される。通過車両に対する決定ルールは次のように要約される:
(バックグランドダイナミクスが妨害される)∧(一貫性が満たされる) (3)
道路シーンの真の動きv(x,t)は式(1)により決められる。観察された画像の動きが評価されると、バックグランドダイナミクス上での仮説検査は次のように表現される:
(||v^(x,t)-v(x,t)||≧Tmotion)∨(||R(x,t)||≧Tresidual) (4)
であればバックグランドダイナミクスが妨害されている。
ここでR(x,t)=I(x,t)・σt, t-σt)-I(x,t)は動き補償の余りであり、予測された画像と実際の画像とのミスマッチを反映する。動きと余りを検査することにより、すべての事例が2つの群に分類される。すなわちバックグランドダイナミクスに従う事例と、バックグランドダイナミクスを妨害する事例である。
さらなる検査が妨害事例を分類するために実行されるが、正確な初期分類のために状況を忠実に反映する信頼性のある動き評価v(x,t)を得ることが重要である。本発明は頑強な動き評価アルゴリズムを使用するものであり、このアルゴリズムは変数帯域幅密度フュージョン(VBDF)と空間時間的フィルタリングを使用する。
動き評価に信頼性がない場合、余り検査はバックグランドシーンの識別をサポートする。いくつかの事例で、バックグランドの存在は動きによって識別することができないが、残りの画像を検査することにより簡単に識別できる。閾値Tmotion、Tresidualは許容される状態遷移ρと同様に決定ツリー解決の一部である。これを解決するには2つの手段がある。すなわちオフライン学習とオンライン学習である。オンライン決定ツリー学習によって、システムはシーンダイナミクスの緩慢な変化に適合できるようになる。Tresidualを例に取ると、オンライン学習は、オンラインで計算される余りデータ{R(x, T), R(x, T-1), R(x, T-2),...}をモデル化することにより達成することができる。ノンパラメトリックな密度評価とモード検出技術をデータのクラスタ化に使用することができ、ガウス混合モデルを得ることができ、モデルを時間に関して更新することができる。オンラインで学習された混合モデルは、新たな観察R(x, T+1)から状況を予測するのに使用することができる。
一貫性検査は、バックグランドダイナミクスが妨害される状況で実行される。この検査の目的は、構造的ノイズおよび突然の照明変化によって引き起こされた異常値を除外することである。式(2)で通過車両に公式化された仮説から、決定ルールは次のように表現される:
通過車両
{…SA(t-2)SB(t-2), SA(t-1)SB(t-1), SA(t)SB(t)} ∈ P
異常値
{…SA(t-2)SB(t-2), SA(t-1)SB(t-1), SA(t)SB(t)} not∈ P (5)
上に説明したように、本発明は頑強な動き評価アルゴリズムを使用して、バックグランドダイナミクスが妨害されているか否かを決定する。明度が一定であると仮定すると、所定の画像位置に対する動きベクトルは次の線形式を解くことにより計算される。
∇xI(x,t)・v=-∇tI(x,t) (6)
バイアスされる最小二乗解は次のとおりである:
v^=(ATA + βI)-1ATb (7)
ここでAは、局所領域にある空間画像勾配∇xIにより定義されるマトリクスであり、bは時間的画像勾配∇xIで構成されるベクトルである。動き評価の不確実性を記述するために、その共分散は次のように定義される:
ここでNは局所領域のピクセル数、σ2は画像ノイズの評価された分散である。不信頼フロー評価は、大きなトレースを有する共分散マトリクスに関連する。この情報は頑強なフュージョンに対して重要である。
通過車両
{…SA(t-2)SB(t-2), SA(t-1)SB(t-1), SA(t)SB(t)} ∈ P
異常値
{…SA(t-2)SB(t-2), SA(t-1)SB(t-1), SA(t)SB(t)} not∈ P (5)
上に説明したように、本発明は頑強な動き評価アルゴリズムを使用して、バックグランドダイナミクスが妨害されているか否かを決定する。明度が一定であると仮定すると、所定の画像位置に対する動きベクトルは次の線形式を解くことにより計算される。
∇xI(x,t)・v=-∇tI(x,t) (6)
バイアスされる最小二乗解は次のとおりである:
v^=(ATA + βI)-1ATb (7)
ここでAは、局所領域にある空間画像勾配∇xIにより定義されるマトリクスであり、bは時間的画像勾配∇xIで構成されるベクトルである。動き評価の不確実性を記述するために、その共分散は次のように定義される:
v^を計算するマルチスケール階層フレームワークとその共分散CはD.Comanisiu著、"Nonparametric information fusion for motion estimation", CVPR 2003, Vol. 1, pp. 59-66に記載されており、これを参考文献として取り入れる。すべての画像フレームに対して、初期動きベクトルが分析ウィンドウ内の種々の空間的位置で評価される。結果として、空間と時間の共分散{vx,t, Cx,t}を有する動き評価のシーケンスが得られる。
初期動き評価は構造的ノイズと照明変化にセンシティブである。構造的ノイズと照明変化は動き評価に異常値を生じさせる。この異常値を克服するために、空間時間的フィルタリングが初期動き評価で実行される。これはいわゆる可変帯域幅密度フュージョン(VBDF)技術を用いて行われる。VBDFは、データの最有意ノードを位置決めすることのできる融合技術であり、異常値に対して頑強である。初期動き評価vx,tと共分散Cx,tを、多重の空間および時間的位置x={x1,…,xn}、t={T,T-1,…T-M}で規定すれば、VBDFがT番目のフレームの分析ウィンドウ内で優勢な動きを得るために適用される。
VBDFは以下の平均シフト手続きによって実現される。最初にポイントごとに密度推定量が混合関数により定義される。
平均シフトベクトルの反復計算は、vからスタートし、局所最大値、すなわち密度評価のモードf(v; {vx,t})に収斂する軌跡を回復する。
vo=v
vj+1=vj+m(vj) (j≧0)
vj→モード(v; {vx,t, Cx,t}) j→∞として (11)
f(v; {vx,t, Cx,t})をマルチモードで処理するために、一連の分析帯域幅Cl x,t=Cx,t + alI(a0>a1>…>0)が使用され、これにより多重平滑化密度評価f (v; {vx,t,, Cl x,t})が得られる。密度評価におけるモード数は、比較的に大きな分析帯域幅が採用されると低下する。初期スケールでa0は、密度f (v;{vx,t, C0 x,t})が1つのモード、mode0=mode(v; {vx,t, C0 x,t})だけを有するような大きさにセットされる。このモードは、VBDFのスタートポイントvに対して不変である。次にモードポイントはスケールを介して伝播する。各スケールで、VBDFは最後のスケールから、現在のスケールに対するモードを位置決めする初期ポイントとして発見されたモードポイントを使用する。
model = mode(model-1; {vx,t, Cl x,t}) (l = 1,2,…) (12)
このモードポイントは最有意サンプル評価に、a j が減少するにつれ収斂する。収斂ポイントは、フレームTの分析ウィンドウ内の優勢な動きを規定する。図7は、分析ウィンドウ内で結う瀬名動きを得るために使用するVBDFの2つの例を示す。すべてのフレームに対して初期動き評価は、分析ウィンドウ内の9つの等間隔位置で計算される。5つの連続フレームからの初期評価はVBDFへの入力として使用される。指数忘却がこれら初期動き評価を時間的に重み付けするために使用される。図7に示された結果は、フュージョンアルゴリズムが異常値に対して頑強であることを示す。
vo=v
vj+1=vj+m(vj) (j≧0)
vj→モード(v; {vx,t, Cx,t}) j→∞として (11)
f(v; {vx,t, Cx,t})をマルチモードで処理するために、一連の分析帯域幅Cl x,t=Cx,t + alI(a0>a1>…>0)が使用され、これにより多重平滑化密度評価f (v; {vx,t,, Cl x,t})が得られる。密度評価におけるモード数は、比較的に大きな分析帯域幅が採用されると低下する。初期スケールでa0は、密度f (v;{vx,t, C0 x,t})が1つのモード、mode0=mode(v; {vx,t, C0 x,t})だけを有するような大きさにセットされる。このモードは、VBDFのスタートポイントvに対して不変である。次にモードポイントはスケールを介して伝播する。各スケールで、VBDFは最後のスケールから、現在のスケールに対するモードを位置決めする初期ポイントとして発見されたモードポイントを使用する。
model = mode(model-1; {vx,t, Cl x,t}) (l = 1,2,…) (12)
このモードポイントは最有意サンプル評価に、a j が減少するにつれ収斂する。収斂ポイントは、フレームTの分析ウィンドウ内の優勢な動きを規定する。図7は、分析ウィンドウ内で結う瀬名動きを得るために使用するVBDFの2つの例を示す。すべてのフレームに対して初期動き評価は、分析ウィンドウ内の9つの等間隔位置で計算される。5つの連続フレームからの初期評価はVBDFへの入力として使用される。指数忘却がこれら初期動き評価を時間的に重み付けするために使用される。図7に示された結果は、フュージョンアルゴリズムが異常値に対して頑強であることを示す。
図8は、通過車両が検出された画像フレームの例を示す。各例は検出結果と、評価された動きベクトルを示す。見て分るとおり、種々の形状の車両が、視覚的照明変化、影および構造的ノイズに関係なく検出される。図9と10は、自車のフロントガラス上のキラキラによるノイズによって強く汚染されたビデオの検出結果を表す画像フレームを示す。構造的ノイズは、実際のフローと、それらの予測からの画像との大きなミスマッチを引き起こす。
ここで付言しておくと、通過車両の検出方法に対する実施例についてこれまで述べてきたけれども、当業者であれば上述の説明に基づき種々の変形を施すことができる。したがって、特許請求の範囲に記載された本発明の枠内にある既述の個々の実施形態において変更を行えることは自明である。
Claims (34)
- 通過車両を検出する方法であって、
複数の画像フレームからなるビデオシーケンスを受信するステップ;
各画像フレームにおいて画像強度を測定し、画像の動きを評価するステップ;
バックグランドダイナミクスを表す仮説モデルを定式化するステップ;
測定された画像強度と動きの評価を使用して、バックグランドダイナミクスが所定の画像フレームで妨害されているか否かの決定するステップ;
バックグランドダイナミクスが妨害されていれば、動き一貫性を使用して、バックグランドダイナミクスの妨害が通過車両によるものであるか否かを決定するステップ;
以上のステップを有することを特徴とする方法。 - 請求項1記載の方法であって、
バックグランドダイナミクスを表す仮説モデルは、画像強度についての仮説と、画像の動きについての仮説を含む方法。 - 請求項1記載の方法であってさらに:
測定された画像強度と予測される画像強度との差が閾値よりも上の場合に、バックグランドダイナミクスが妨害されたことを決定するステップを有する方法。 - 請求項3記載の方法であって、
予測される画像強度は、バックグランドダイナミクスを表す仮説モデルによって決定される方法。 - 請求項3記載の方法であって、
予測される画像の動きは、自車の動きとカメラパラメータによって決定される方法。 - 請求項3記載の方法であって、
測定された画像の動きは、頑強な動き方法によって得られる方法。 - 請求項3記載の方法であってさらに:
測定された動きのうち、妨害されたバックグランドダイナミクスに関連する動きが動き一貫性を有するか否かを決定するステップ;
動き一貫性が存在する場合、妨害は通過車両によるものであると決定するステップ;
を有する方法。 - 請求項7記載の方法であって、測定された動きのうち、妨害されたバックグランドダイナミクスに関連する動きが動き一貫性を有するか否かを決定するステップはさらに:
第1サブウィンドウと第2サブウィンドウを、バックグランドダイナミクスが妨害された画像フレームに適用し、動きのシーケンスが妨害を引き起こすか否かを決定するステップ;
妨害されたバックグランドダイナミクスの動きの軌跡を、どちらのサブウィンドウが最初に、画像の動きにおける変化を指示したかを決定することによって決定するステップ;
第1サブウィンドウが画像の動きにおける変化を最初に受けた場合、バックグランドダイナミクスの妨害は通過車両によって生じたものであると決定するステップ;
を有する方法。 - 請求項8記載の方法であって、
第1サブウィンドウおよび第2サブウィンドウにおける動きは、頑強な評価方法を使用して測定する方法。 - 請求項9記載の方法であって、
頑強な動き評価は、画像フローと、マルチ画像フレームに関連する分析ウィンドウ内の離散的サンプリングポイントにおける前記画像フローの共分散を計算することによって実行される方法。 - 請求項9記載の方法であって、
頑強な動き評価は、動きフローと、離散的サンプリングポイントにおける当該動きフローの共分散を指数的に重み付けすることによって実行される方法。 - 請求項9記載の方法であって、
頑強な動き評価は、離散的サンプリングポイントにおける画像フローを空間時間的フィルタリングすることによって実行される方法。 - 請求項12記載の方法であって、
空間時間的フィルタリングは、可変密度帯域幅フュージョンとマルチスケール平均シフトを使用して実行される方法。 - 請求項13記載の方法であって、
可変密度帯域幅フュージョンとマルチスケール平均シフトは異常値を破棄し、最有意サンプル評価を見出す方法。 - 請求項13記載の方法であって、
第1分析ウィンドウと第2分析ウィンドウで測定された動きは、可変密度帯域幅フュージョンとマルチスケール平均シフトにより得られた最有意サンプル評価によって決定される方法。 - 請求項1記載の方法であって、
ビデオシーケンスは自車に取り付けられたカメラから受信される方法。 - 請求項1記載の方法であって、
動きの軌跡は、自車の車両速度とカメラパラメータを使用して決定される方法。 - 通過車両を検出する装置であって、バックグランドダイナミクスの画像フレームのビデオシーケンスをキャプチャするための少なくとも1つのカメラと、該少なくとも1つのカメラと通信するプロセッサとを有し、
該プロセッサは次のステップを実行する:
i)各画像フレームにおいて画像強度を測定し、画像の動きを評価するステップ;
ii)バックグランドダイナミクスを表す仮説モデルを定式化するステップ;
iii)測定された画像強度と動きの評価を使用して、バックグランドダイナミクスが所定の画像フレームで妨害されているか否かの決定するステップ;
iv)バックグランドダイナミクスが妨害されていれば、動き一貫性を使用して、バックグランドダイナミクスの妨害が通過車両によるものであるか否かを決定するステップ;
ことを特徴とする装置。 - 請求項18記載の装置であって、
バックグランドダイナミクスを表す仮説モデルは、画像強度についての仮説と、画像の動きについての仮説を含む装置。 - 請求項18記載の装置であって、プロセッサはさらに次のステップを実行する:
測定された画像強度と予測される画像強度との差が閾値よりも上の場合に、バックグランドダイナミクスが妨害されたことを決定するステップを実行する装置。 - 請求項20記載の装置であって、
予測される画像強度は、バックグランドダイナミクスを表す仮説モデルによって決定される装置。 - 請求項20記載の装置であって、
予測される画像の動きは、自車の動きとカメラパラメータによって決定される装置。 - 請求項20記載の装置であって、
測定された画像の動きは、頑強な動き方法によって得られる装置。 - 請求項20記載の装置であって、プロセッサはさらに次のステップを実行する:
測定された動きのうち、妨害されたバックグランドダイナミクスに関連する動きが動き一貫性を有するか否かを決定するステップ;
動き一貫性が存在する場合、妨害は通過車両によるものであると決定するステップ;
を実行する装置。 - 請求項24記載の装置であって、
測定された動きのうち、妨害されたバックグランドダイナミクスに関連する動きが動き一貫性を有するか否かを決定するステップはさらに:
第1サブウィンドウと第2サブウィンドウを、バックグランドダイナミクスが妨害された画像フレームに適用し、動きのシーケンスが妨害を引き起こすか否かを決定するステップ;
妨害されたバックグランドダイナミクスの動きの軌跡を、どちらのサブウィンドウが最初に、画像の動きにおける変化を指示したかを決定することによって決定するステップ;
第1サブウィンドウが画像の動きにおける変化を最初に受けた場合、バックグランドダイナミクスの妨害は通過車両によって生じたものであると決定するステップ;
を有する装置。 - 請求項25記載の装置であって、
第1サブウィンドウおよび第2サブウィンドウにおける動きは、頑強な評価方法を使用して測定する装置。 - 請求項26記載の装置であって、
頑強な動き評価は、画像フローと、マルチ画像フレームに関連する分析ウィンドウ内の離散的サンプリングポイントにおける前記画像フローの共分散を計算することによって実行される装置。 - 請求項26記載の装置であって、
頑強な動き評価は、動きフローと、離散的サンプリングポイントにおける当該動きフローの共分散を指数的に重み付けすることによって実行される装置。 - 請求項26記載の装置であって、
頑強な動き評価は、離散的サンプリングポイントにおける画像フローを空間時間的フィルタリングすることによって実行される装置。 - 請求項29記載の装置であって、
空間時間的フィルタリングは、可変密度帯域幅フュージョンとマルチスケール平均シフトを使用して実行される装置。 - 請求項30記載の装置であって、
可変密度帯域幅フュージョンとマルチスケール平均シフトは異常値を破棄し、最有意サンプル評価を見出す装置。 - 請求項30記載の装置であって、
第1分析ウィンドウと第2分析ウィンドウで測定された動きは、可変密度帯域幅フュージョンとマルチスケール平均シフトにより得られた最有意サンプル評価によって決定される装置。 - 請求項18記載の装置であって、
ビデオシーケンスは自車に取り付けられたカメラから受信される装置。 - 請求項18記載の装置であって、
動きの軌跡は、自車の車両速度とカメラパラメータを使用して決定される装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US54578104P | 2004-02-19 | 2004-02-19 | |
US11/054,996 US7248718B2 (en) | 2004-02-19 | 2005-02-10 | System and method for detecting a passing vehicle from dynamic background using robust information fusion |
PCT/US2005/004366 WO2005081189A1 (en) | 2004-02-19 | 2005-02-11 | System and method for detecting a passing vehicle from dynamic background using robust information fusion |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007523427A true JP2007523427A (ja) | 2007-08-16 |
Family
ID=34889830
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006554140A Withdrawn JP2007523427A (ja) | 2004-02-19 | 2005-02-11 | 通過車両をダイナミックなバックグランドから頑強な情報フュージョンを使用して検出するための装置および方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US7248718B2 (ja) |
EP (1) | EP1716540B1 (ja) |
JP (1) | JP2007523427A (ja) |
KR (1) | KR20060112692A (ja) |
DE (1) | DE602005003926T2 (ja) |
WO (1) | WO2005081189A1 (ja) |
Families Citing this family (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7651507B2 (en) * | 2003-03-03 | 2010-01-26 | Kci Licensing, Inc. | Tissue processing system |
JP3846494B2 (ja) * | 2004-07-13 | 2006-11-15 | 日産自動車株式会社 | 移動障害物検出装置 |
KR100630088B1 (ko) * | 2004-12-28 | 2006-09-27 | 삼성전자주식회사 | 옵티컬 플로우를 이용한 차량 감시 장치 및 방법 |
JP4662147B2 (ja) * | 2005-10-20 | 2011-03-30 | アイシン精機株式会社 | 物体認識装置 |
JP4426535B2 (ja) * | 2006-01-17 | 2010-03-03 | 本田技研工業株式会社 | 車両の周辺監視装置 |
US8666661B2 (en) * | 2006-03-31 | 2014-03-04 | The Boeing Company | Video navigation |
JP4797787B2 (ja) * | 2006-05-16 | 2011-10-19 | 日産自動車株式会社 | 運転シーン変化検出装置、自動車及び運転シーン変化検出方法 |
EP2076974B1 (en) * | 2006-10-16 | 2014-04-23 | Assa Abloy Hospitality, Inc. | Centralized wireless network for multi-room large properties |
DE102006055344A1 (de) * | 2006-11-23 | 2008-05-29 | Vdo Automotive Ag | Verfahren zur drahtlosen Kommunikation zwischen Fahrzeugen |
US9214030B2 (en) * | 2007-05-07 | 2015-12-15 | Thomson Licensing | Method and apparatus for processing video sequences |
AU2008200967B2 (en) * | 2008-02-28 | 2010-04-15 | Canon Kabushiki Kaisha | Spatio-activity based mode matching |
JP4788798B2 (ja) * | 2009-04-23 | 2011-10-05 | トヨタ自動車株式会社 | 物体検出装置 |
WO2011028686A1 (en) | 2009-09-01 | 2011-03-10 | Magna Mirrors Of America, Inc. | Imaging and display system for vehicle |
US9053562B1 (en) | 2010-06-24 | 2015-06-09 | Gregory S. Rabin | Two dimensional to three dimensional moving image converter |
US9264672B2 (en) | 2010-12-22 | 2016-02-16 | Magna Mirrors Of America, Inc. | Vision display system for vehicle |
KR101326943B1 (ko) * | 2012-06-29 | 2013-11-11 | 엘지이노텍 주식회사 | 추월차량 경고 시스템 및 추월차량 경고 방법 |
ES2872351T3 (es) | 2012-07-27 | 2021-11-02 | Assa Abloy Ab | Controles de ajuste automático basados en la información de presencia fuera de la habitación |
WO2014016695A2 (en) | 2012-07-27 | 2014-01-30 | Assa Abloy Ab | Presence-based credential updating |
USD733722S1 (en) * | 2012-12-27 | 2015-07-07 | Nissan Jidosha Kabushiki Kaisha | Display screen or portion thereof with graphical user interface |
CN103236158B (zh) * | 2013-03-26 | 2015-06-24 | 中国公路工程咨询集团有限公司 | 一种基于视频的交通事故实时预警方法 |
CN103226891B (zh) * | 2013-03-26 | 2015-05-06 | 中山大学 | 一种基于视频的车辆碰撞事故检测方法及系统 |
KR101491305B1 (ko) * | 2013-08-27 | 2015-02-06 | 현대자동차주식회사 | 장애물 검출 장치 및 방법 |
KR101439052B1 (ko) * | 2013-09-05 | 2014-09-05 | 현대자동차주식회사 | 장애물 검출 장치 및 방법 |
KR101498975B1 (ko) * | 2013-11-29 | 2015-03-05 | 현대모비스(주) | 차선 이탈 경보 시스템 |
CN104751164A (zh) * | 2013-12-30 | 2015-07-01 | 鸿富锦精密工业(武汉)有限公司 | 物体运动轨迹捕捉方法及系统 |
CN104077914A (zh) * | 2014-06-20 | 2014-10-01 | 赵雨浓 | 车辆事故智能报警方法及装置 |
US9187088B1 (en) | 2014-08-15 | 2015-11-17 | Google Inc. | Distribution decision trees |
CN104299244B (zh) * | 2014-09-26 | 2017-07-25 | 东软集团股份有限公司 | 基于单目相机的障碍物检测方法及装置 |
US9855890B2 (en) * | 2014-12-11 | 2018-01-02 | Toyota Motor Engineering & Manufacturing North America, Inc. | Autonomous vehicle interaction with external environment |
US10366122B2 (en) * | 2016-09-14 | 2019-07-30 | Ants Technology (Hk) Limited. | Methods circuits devices systems and functionally associated machine executable code for generating a searchable real-scene database |
IT201600094858A1 (it) * | 2016-09-21 | 2018-03-21 | St Microelectronics Srl | Procedimento per un cross traffic alert avanzato a basso costo, corrispondente sistema di elaborazione, sistema per cross traffic alert e veicolo |
CN106515578A (zh) * | 2016-12-22 | 2017-03-22 | 百度在线网络技术(北京)有限公司 | 无人车驾驶状态的识别装置、识别方法及无人车 |
US10114375B1 (en) | 2017-04-06 | 2018-10-30 | Delphi Technologies, Inc. | Motion-characteristic based object classification for automated vehicle |
EP3540710A1 (en) * | 2018-03-14 | 2019-09-18 | Honda Research Institute Europe GmbH | Method for assisting operation of an ego-vehicle, method for assisting other traffic participants and corresponding assistance systems and vehicles |
CN108777064A (zh) * | 2018-05-24 | 2018-11-09 | 深圳市益鑫智能科技有限公司 | 一种基于信息融合的交通状态评估系统 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5036474A (en) * | 1989-03-31 | 1991-07-30 | Honeywell Inc. | Motion detection and tracking from a mobile platform |
WO1992002894A1 (de) * | 1990-07-27 | 1992-02-20 | Siemens Aktiengesellschaft | Verfahren zur analyse zeitlicher folgen digitaler bilder |
JP4104233B2 (ja) * | 1998-12-03 | 2008-06-18 | 株式会社日立製作所 | 走行環境認識装置 |
-
2005
- 2005-02-10 US US11/054,996 patent/US7248718B2/en active Active - Reinstated
- 2005-02-11 DE DE602005003926T patent/DE602005003926T2/de active Active
- 2005-02-11 JP JP2006554140A patent/JP2007523427A/ja not_active Withdrawn
- 2005-02-11 EP EP05713357A patent/EP1716540B1/en not_active Not-in-force
- 2005-02-11 KR KR1020067017380A patent/KR20060112692A/ko active IP Right Grant
- 2005-02-11 WO PCT/US2005/004366 patent/WO2005081189A1/en active IP Right Grant
Also Published As
Publication number | Publication date |
---|---|
US7248718B2 (en) | 2007-07-24 |
WO2005081189A1 (en) | 2005-09-01 |
EP1716540A1 (en) | 2006-11-02 |
DE602005003926T2 (de) | 2008-12-04 |
EP1716540B1 (en) | 2007-12-19 |
DE602005003926D1 (de) | 2008-01-31 |
US20050196020A1 (en) | 2005-09-08 |
KR20060112692A (ko) | 2006-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2007523427A (ja) | 通過車両をダイナミックなバックグランドから頑強な情報フュージョンを使用して検出するための装置および方法 | |
CN111033510B (zh) | 用于运行驾驶员辅助系统的方法和装置以及驾驶员辅助系统和机动车 | |
Breitenstein et al. | Systematization of corner cases for visual perception in automated driving | |
Sina et al. | Vehicle counting and speed measurement using headlight detection | |
US20210064980A1 (en) | Method and System for Predicting Sensor Signals from a Vehicle | |
Ghahremannezhad et al. | Real-time accident detection in traffic surveillance using deep learning | |
CN113326719A (zh) | 一种用于目标追踪的方法、设备及系统 | |
Zhu et al. | Reliable detection of overtaking vehicles using robust information fusion | |
Mithun et al. | Video-based tracking of vehicles using multiple time-spatial images | |
CN109766867B (zh) | 车辆运行状态确定方法、装置、计算机设备和存储介质 | |
CN108960083B (zh) | 基于多传感器信息融合的自动驾驶目标分类方法及系统 | |
CN111460917B (zh) | 基于多模态信息融合的机场异常行为检测系统及方法 | |
CN114763136A (zh) | 一种基于深度学习的引导车驾驶辅助系统 | |
KR20160142137A (ko) | 움직이는 객체 검출 장치 및 방법 | |
CN110097571B (zh) | 快速高精度的车辆碰撞预测方法 | |
CN118033622A (zh) | 目标跟踪方法、装置、设备及计算机可读存储介质 | |
CN117456479A (zh) | 一种基于光流估计的车辆异常驾驶行为检测方法及装置 | |
CN117688970A (zh) | 检查神经网络对预测任务的执行的方法 | |
CN116611977A (zh) | 失联人员路径溯源及救援方法和装置 | |
Mondal et al. | Visual traffic surveillance: A concise survey | |
US20220383510A1 (en) | Method For Training A Neural Network For Semantic Image Segmentation | |
Zhu et al. | Passing vehicle detection from dynamic background using robust information fusion | |
Munz et al. | Probabilistic modeling of sensor properties in generic fusion systems for modern driver assistance systems | |
EP3896651A1 (en) | Method and apparatus for evaluating temporal characteristics of semantic image segmentation | |
Gu et al. | Real-Time Vehicle Passenger Detection Through Deep Learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20080428 |