JP4469980B2 - 移動体追跡のための画像処理方法 - Google Patents
移動体追跡のための画像処理方法 Download PDFInfo
- Publication number
- JP4469980B2 JP4469980B2 JP2004370041A JP2004370041A JP4469980B2 JP 4469980 B2 JP4469980 B2 JP 4469980B2 JP 2004370041 A JP2004370041 A JP 2004370041A JP 2004370041 A JP2004370041 A JP 2004370041A JP 4469980 B2 JP4469980 B2 JP 4469980B2
- Authority
- JP
- Japan
- Prior art keywords
- block
- tracking
- template
- image processing
- moving object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 10
- 238000000034 method Methods 0.000 claims description 39
- 230000009466 transformation Effects 0.000 claims description 19
- 238000006243 chemical reaction Methods 0.000 claims description 11
- 238000005286 illumination Methods 0.000 claims description 9
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 6
- 238000012545 processing Methods 0.000 claims description 6
- 210000000746 body region Anatomy 0.000 claims description 3
- 238000003384 imaging method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Description
下記の特許文献1および2はいずれも、カメラで撮像した動画像中から先行車両に該当する領域をテンプレートとして抽出し、次フレーム以後連続フレーム間で照合を繰り返しつつ先行車両の位置を追跡する。テンプレートの移動距離やテンプレート内の画素値の分布変化によりテンプレートを随時更新しつつ車両の位置変化に応じて追跡を実現するものである。
図9A〜Fは、テンプレートマッチングの問題点と本発明方法を説明するために、比較するフレームを対比して示した説明図である。比較するフレーム順にフレームA〜Fとして説明に利用する。
フレームAの対はトンネルの出口付近におけるテンプレートの照合結果を示しているが、照明変化により照合位置にずれが生じていることがわかる。
図9BのフレームBの対で撮影用のカメラと先行車両との相対的な距離が変化したときのテンプレートの照合結果を示している。
しかしこれらの手法を一般道路上における車載カメラからの先行車両追跡に適用した場合、車体色が一様の場合や、トンネル内など車体色と背景色の差がない場合は、個々の小領域の照合位置が分散しすぎてしまう傾向があり、その結果を解析しても車両全体の正確な位置が求められるとは限らない。
図9CのフレームCに、トンネルの出口付近において小領域ごとに照合位置を求めた結果を示している。小領域の照合位置が分散していることがわかる。
また、追跡対象物体に複数の追跡小領域を設定し、各小領域個々に照合結果を求めるが、各小領域が独立に照合位置を求めるのではなく、一式のプレート上に固定させて照合させる方法もある。(特許文献6はその一例である)この方法では、各小領域が分散することはないが、小領域間の相対的な位置が固定されているため、距離や進路方向が変化する場合など追跡対象物体の急激な幾何学変化に追従することが困難である。
本発明のさらに詳細な目的は、一般道路におけるブレーキ灯やヘッドライト、方向指示器等の点滅、およびトンネル内外の通過など、局所的な照明変動下において、車載カメラにより撮影した動画像中からテンプレートとして抽出された車両領域を正確に追跡することができる画像処理方法を提供することにある。
本発明による請求項3記載の発明は、分割ステップを、追跡対象の移動体領域を特定のサイズに分割するステップとしたものである。
本発明による請求項4記載の発明は、変換ステップを、各ブロックテンプレートの位置を共通のアフィン変換パラメータを用いたアフィン変換により変化させるステップとしたものである。
本発明による請求項5記載の発明は、第1算出ステップを、ブロックテンプレート内の各画素のR,G,B値の比率を用いた差分計算を用いるステップとしたものである。
本発明による請求項6記載の発明は、判定ステップを、全ブロックテンプレートの個別相違度の最大値と最小値と平均値を判定の閾値に用いるステップとしたものである。
1.照明変化により追跡車両の一部の領域の色や明るさが変動しても、その部分を無効ブ ロックと判定し除外することにより、車両全体の正しい追跡が行える。またダイナミ ックレンジの低いカメラで撮影された画像で車両を追跡する場合に、トンネルの出入 り口等において極端な照明変動があり、追跡対象物の一部の領域においてハレーショ ンを起こしてしまう場合であっても、その領域を無効ブロックとして除外することに より、正しい追跡を継続して行うことができる。さらに、ダイナミックレンジの高い カメラで撮影された画像の場合であっても、その一部の領域においてハレーションが 残る場合があるが、その領域を無効ブロックとして除外することにより正しい結果が 得られる。
図9Dに示すフレームDは本発明による方法による照合結果を示すものである。従来 提案されているものと比較して車両全体の正しい追跡が可能となった。なお、図中× は無効ブロックであり、照合処理から除外する。
2.ブロックごとに独立に相違度計算を行うが、従来のオプティカルフローを用いた方法 のように独立に照合位置を求めるものではないため、画素値が一様な領域において個 々のブロックが不正確な位置に分散して照合されることを防ぐことができる。
3.個々のブロック間の相互位置は幾何学変換式により拘束されながらも変化させること ができるため、追跡車両と撮影用カメラとの相対的な距離や向きの変動に追従するこ とができる。図9Eに示すフレームEと図9Fに示すフレームFは本発明による方
法による照合結果を示すものである。従来提案されているものと比較して車両全体の 正しい追跡が可能となった。なお、図中×は無効ブロックである。追跡車両と撮影用 カメラとの相対的な距離や向きの変動に追従が可能となっている。
4.個々の相違度計算では、画素の色度を用いているため、明度のみの照明変化には影響 を受けずに車両を追跡できる。
幾何学変換部5は後述する幾何学変換を実行し、個別相違度計算部6により相違度を計算する。そして有効/無効ブロック判定部7で有効ブロックか無効ブロックかを判定する。
有効平均相違度計算部8により有効平均相違度が計算され、照合結果出力部9で照合結果が表示される。ここでは、前方車両領域に該当する矩形をディスプレイ上に視覚的に表示し、また幾何学変換のパラメータ値の変化を用いて前方車両までの車間距離変化や前方車両の進行方向の変化を数値として表示する。
(ステップ101)初期画像を入力する
(ステップ102)画像全体から初期車両領域テンプレートを抽出する。
これについてはすでに多くの手法が提案されている。ここでは、例えば、画像からエッジを検出し車両枠に該当する線分を求めて車両領域を抽出する手法を活用する。(特開2003−281700「割り込み車両検出装置及びその方法」はその一例である。)また、オプティカルフロー集合の速度方向を解析することで車両領域を抽出する方法も活用できる。
(ステップ103)車両領域テンプレートをブロックテンプレートに分割する。
分割方法として均等サイズのブロックに分割する方法が単純であり計算時間が短いが、対象に応じて分割方法を選択することもできる。例として、画素の輝度分布に応じてサイズを変えながら分割する方法も考えられる。
なお分割数は全処理の間一定とし、分割サイズは追跡車両の大きさに合わせて変動させるものとする。
図4に、均等サイズのブロックに分割した場合と、サイズを変えながら分割した場合の例を示す。
(ステップ104)次の画像を入力する。
(ステップ105)照合処理を行う。この処理は別に詳述する。
(ステップ106)テンプレート更新の判定を、有効平均相違度の最小値と閾値とを比較することにより行う。有効平均相違度の最小値が閾値未満でない場合はステップ102に戻り、新たに画像全体から初期車両領域テンプレートを抽出する。そうでなければ、ステップ105で求めた照合位置から車両領域テンプレートを抽出する。なおここでの閾値は、撮影用カメラの性能と撮影環境下における照度変化の範囲により求める。
(ステップ107)閾値未満の場合はステップ105で求められた車両領域テンプレートの照合位置から新たに車両領域テンプレートを抽出しステップ103に戻る。
(ステップ201)
幾何学変換により各ブロックテンプレートの入力画像上での位置を求める。
幾何学変換として、追跡対象車両領域の拡大・縮小・回転・ひずみに適合可能な次式で定義されるアフィン変換を用いる。
Xt i=a1・Xi+a2・Yi +a3
Yt i=a4・Xi+a5・Yi +a6
ここで、a1,・・・,a6 はアフィン変換パラメータ、Xi,Yi はブロックBi (図5参照)の左上端点のテンプレート内での座標であり、Xt i,Yt i はブロックi の左上端点の幾何学変換後の入力画像内での座標である。
上式のパラメータa1,・・・,a6 を変化させながら各ブロックテンプレートを対象画像上に投影する。
図5に、幾何学変換前後のブロックの位置関係を図解している。
この変換により、カメラと追跡車両の相対的な距離の変化や追跡車両が右左折することによる向きの変化、および車体の振動によるカメラ角の変化に対応できる。
なお、各パラメータの変動範囲は、直前の画像での車両領域テンプレートの照合位置をもたらすパラメータ値の近傍とする。また、さらに精度を上げるため、8パラメータによる射影変換を用いることも可能である。
(ステップ202)
ブロックテンプレートごとに入力画像上の対応領域との間で個別相違度計算を行う。
ブロックテンプレートの画素と入力画像中の画素におけるR,G,B値を用いて、次式により色度差を計算し、ブロックBi における相違度Di を求める。
また、
Sy 画素とする。
以上の色度を用いた計算により、画像全体の明度のみの照明変化には影響を受けずに車両を追跡できる。
図6に、追跡車両が並進、拡大、回転した場合に、各ブロックを照合させるための幾何学変換結果の例を示す。
(ステップ203)
各ブロックテンプレートの個別相違度と閾値とを比較することにより、有効ブロックか無効ブロックかを判定する。
まず、全ブロックの個別相違度の最大値と最小値と平均値を求める。
そして、最大値と最小値の差が範囲閾値未満であればすべてのブロックを有効ブロックとする。そうでなければ、平均値を判定閾値として、判定閾値以上のブロックを有効ブロック、判定閾値未満のブロックを無効ブロックと判定する。なお、ここでの範囲閾値は、撮影用カメラの性能と撮影環境下における照度変化の範囲により決定する。
以上の方法により、次のステップにおける相違度計算において、追跡対象物体の全体的な照明変化においてはブロックすべてを用いた計算が行え、局所的な照明変化においては信頼性のないブロックを除外した計算を行えることで、より信頼性の高い追跡結果が求められる。
図7に、範囲閾値を50とし、全ブロックから個別相違度の最大値、最小値、平均値を求め、全ブロックを有効ブロックとするか、判定閾値(平均値)を用いて有効ブロックと無効ブロックに識別するかの判定を行う前処理の例を示す。
図8に、求められた判定閾値(平均値60)を用いて、各ブロックを有効ブロックか無効ブロックかに判定した例を示す。
(ステップ204)
有効ブロックのみの相違度を用いて有効平均相違度を求める。
有効ブロックのみを用いた有効平均相違度の算出は、例えば次式を用いて計算する。
なお有効ブロック数が閾値以下の場合はこの計算を行わないものとする。
ここでの閾値は、例えば全ブロック数の1/2とする。
(ステップ205)
上記201〜204の処理を、幾何学変換パラメータを変化させつつ各ブロックテンプレートの入力画像上での照合位置を変えながら繰り返して行う。
(ステップ206)
有効平均相違度の最小値を求め、さらにその最小値をもたらすブロックテンプレートの位置から車両領域テンプレートの照合位置を求める。
2 記憶部(メモリ)
3 テンプレート抽出部
4 ブロック分割部
5 幾何学変換部
6 個別相違度計算部
7 有効/無効ブロック判定部
8 有効平均相違度計算部
9 照合結果出力部
Claims (6)
- 局所的な照明変動下で逐次撮影・入力された画像列中の各画像中の移動体領域を追跡することにより移動体を追跡する画像処理装置により実行される、移動体追跡のための画像処理方法であって、
前記画像から抽出された移動体領域テンプレートを複数のブロックテンプレートに分割する分割ステップと、
各ブロックテンプレートの位置を共通のパラメータを用いた幾何学変換により変化させる変換ステップと、
前記変換ステップにおいて位置を変化させたブロックテンプレートごとに、色度を用いた個別相違度を計算する第1算出ステップと、
各ブロックテンプレートの個別相違度と閾値とを比較することで、該各ブロックテンプレートが有効ブロックか無効ブロックかを判定する判定ステップと、
有効ブロックと判定されたブロックテンプレートの個別相違度の平均値である有効平均相違度を算出する第2算出ステップと、
前記変換ステップ、前記第1算出ステップ、前記判定ステップ、及び前記第2算出ステップを前記共通のパラメータを変化させつつ繰り返し実行した後に、前記有効平均相違度が最小となるブロックテンプレートの位置から移動体領域テンプレートの照合位置を求める第3算出ステップと、
を含む移動体追跡のための画像処理方法。 - 前記移動体は、観測位置に対して相対移動がある走行車両である、請求項1記載の移動体追跡のための画像処理方法。
- 前記分割ステップは、追跡対象の移動体領域を特定のサイズに分割するステップである、請求項1又は2に記載の移動体追跡のための画像処理方法。
- 前記変換ステップは、前記各ブロックテンプレートの位置を共通のアフィン変換パラメータを用いたアフィン変換により変化させるステップである、請求項1〜3のいずれか一項に記載の移動体追跡のための画像処理方法。
- 前記第1算出ステップは、ブロックテンプレート内の各画素のR,G,B値の比率を用いた差分計算を用いるステップである、請求項1〜4のいずれか一項に記載の移動体追跡のための画像処理方法。
- 前記判定ステップは、全ブロックテンプレートの個別相違度の最大値と最小値と平均値を判定の閾値に用いるステップである、請求項1〜5のいずれか一項に記載の移動体追跡のための画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004370041A JP4469980B2 (ja) | 2004-12-21 | 2004-12-21 | 移動体追跡のための画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004370041A JP4469980B2 (ja) | 2004-12-21 | 2004-12-21 | 移動体追跡のための画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006178669A JP2006178669A (ja) | 2006-07-06 |
JP4469980B2 true JP4469980B2 (ja) | 2010-06-02 |
Family
ID=36732735
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004370041A Active JP4469980B2 (ja) | 2004-12-21 | 2004-12-21 | 移動体追跡のための画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4469980B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4874150B2 (ja) * | 2007-03-30 | 2012-02-15 | セコム株式会社 | 移動物体追跡装置 |
JP4969291B2 (ja) * | 2007-03-30 | 2012-07-04 | セコム株式会社 | 移動物体追跡装置 |
JP5792091B2 (ja) * | 2012-02-16 | 2015-10-07 | 富士通テン株式会社 | 物体検出装置及び物体検出方法 |
JP6323179B2 (ja) * | 2014-06-02 | 2018-05-16 | 大日本印刷株式会社 | 物体検出システムおよび物体検出方法 |
JP6439757B2 (ja) * | 2016-07-08 | 2018-12-19 | オムロン株式会社 | 画像処理装置および画像処理方法 |
JP6617677B2 (ja) * | 2016-10-19 | 2019-12-11 | 株式会社デンソー | 車両制御装置、車両制御方法 |
JP2019174519A (ja) * | 2018-03-27 | 2019-10-10 | 株式会社リコー | 表示装置、表示システム、移動体、表示輝度制御方法およびプログラム |
KR102442913B1 (ko) * | 2021-07-28 | 2022-09-14 | 주식회사 아이닉스 | 영상 처리 장치 및 그 영상 처리 방법 |
-
2004
- 2004-12-21 JP JP2004370041A patent/JP4469980B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2006178669A (ja) | 2006-07-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10970566B2 (en) | Lane line detection method and apparatus | |
EP2570993B1 (en) | Egomotion estimation system and method | |
JP5747549B2 (ja) | 信号機検出装置及びプログラム | |
US7957559B2 (en) | Apparatus and system for recognizing environment surrounding vehicle | |
Borkar et al. | A layered approach to robust lane detection at night | |
JP4157620B2 (ja) | 移動物体検出装置及びその方法 | |
US20200143179A1 (en) | Infrastructure-free nlos obstacle detection for autonomous cars | |
US20120166033A1 (en) | Method and apparatus for detecting driving information of autonomous driving system | |
JP2007265277A (ja) | 車両用視程測定装置、及び運転支援装置 | |
JP5065172B2 (ja) | 車両灯火判定装置及びプログラム | |
US10984263B2 (en) | Detection and validation of objects from sequential images of a camera by using homographies | |
JP2003123197A (ja) | 道路標示等認識装置 | |
JP2013008070A (ja) | 標識認識装置及び標識認識方法 | |
JP2008215938A (ja) | 列車前方鉄道信号・標識認識装置 | |
CN104427255A (zh) | 车载相机的图像处理方法和使用该方法的图像处理设备 | |
JP4469980B2 (ja) | 移動体追跡のための画像処理方法 | |
JPH11195127A (ja) | 白線認識方法および装置 | |
JP2014106739A (ja) | 車載画像処理装置 | |
JP5353531B2 (ja) | 車両灯火認識装置及びプログラム | |
JP2014106740A (ja) | 車載用駐車枠認識装置 | |
US11087150B2 (en) | Detection and validation of objects from sequential images of a camera by using homographies | |
KR20190134303A (ko) | 영상 인식 장치 및 그 방법 | |
US20220366706A1 (en) | Vehicle environment modeling with a camera | |
KR101865958B1 (ko) | 속도 제한 표지판 인식 장치 및 방법 | |
EP3168779A1 (en) | Method for identifying an incoming vehicle and corresponding system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070316 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20070316 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090825 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091015 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100202 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |