JP3475700B2 - 物体認識方法、物体認識装置、および車輌認識装置 - Google Patents

物体認識方法、物体認識装置、および車輌認識装置

Info

Publication number
JP3475700B2
JP3475700B2 JP05243897A JP5243897A JP3475700B2 JP 3475700 B2 JP3475700 B2 JP 3475700B2 JP 05243897 A JP05243897 A JP 05243897A JP 5243897 A JP5243897 A JP 5243897A JP 3475700 B2 JP3475700 B2 JP 3475700B2
Authority
JP
Japan
Prior art keywords
model
dimensional
matching
virtual plane
projection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP05243897A
Other languages
English (en)
Other versions
JPH10232936A (ja
Inventor
政直 吉野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP05243897A priority Critical patent/JP3475700B2/ja
Publication of JPH10232936A publication Critical patent/JPH10232936A/ja
Application granted granted Critical
Publication of JP3475700B2 publication Critical patent/JP3475700B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】この発明は、所定の観測位置を撮
像して得られた画像により、観測位置における対象物を
認識するための方法および装置、ならびに道路上の車輌
を認識するための車輌認識装置に関する。
【0002】
【従来の技術】近年、道路や駐車場の上方にカメラを設
置して所定位置を撮像し、得られた画像から車輌の特徴
を示す画像部分を抽出して、車輌の移動台数、移動速
度、車種などを認識する装置が開発されている。 上記装置には、車輌の特徴を抽出するために、あらかじ
め観測位置に対象物が存在しない状態下での画像がメモ
リ内に記憶されており、観測時には、前記カメラからの
画像とこの背景画像との差分が車輌に関わる画像として
抽出される(電気学会技術報告 第512号 第80〜
81頁)。 また背景画像を記憶する代わりに、1段階前に取り込ん
だ画像を記憶しておき、この直前の画像を最新の画像か
ら差し引くことにより車輌の特徴を抽出する方法も提案
されている。
【0003】
【発明が解決しようとする課題】入力画像と背景画像と
の差分を用いる場合、昼夜、晴天時、雨天時など種々の
環境に応じた背景画像を記憶する必要があるが、必要な
環境を想定したり、環境の変化に応じた背景画像の更新
を行うことには限界があり、車輌の特徴を高精度で抽出
することは望めない。また上記した各方法の場合、車輌
の影や風で揺れる木の影などの路面上で動く影、あるい
は夜間のライトの反射光や濡れた路面に写った車輌な
ど、車輌以外の動きを車輌として誤検出してしまうとい
う問題がある。
【0004】さらに従来の各方法の場合、大型車輌が存
在したり、渋滞が生じたりすると、画面上の複数台の車
輌が1台に誤検出される虞がある。また大型車輌の影の
画像が隣の車線にまで及んで後方にある小型車輌と重な
ると、この影や小型車輌を大型車輌と誤検出するなど、
道路上の車輌の台数や車種を正確に判別することは到底
不可能である。
【0005】この発明は上記問題点に着目してなされた
もので、観測位置における対象物に対し3次元計測を行
った後、この3次元計測結果を、対象物に対して異なる
方向に沿う2つの仮想平面上に投影し、各平面に現れた
対象物の2次元形状を用いて統合的な認識処理を行うこ
とにより、観測位置における対象物の位置,個数,種別
などを精度良く認識することを技術課題とする。
【0006】さらにこの発明は、道路上の車輌が道路の
長さ方向に対して傾きをもって位置している場合でも、
その車輌の特徴や大きさを的確にとらえた側面形状の2
次元パターンを用いた認識処理により、車輌認識精度を
向上することを第2の技術課題とする。
【0007】
【課題を解決するための手段】請求項1の発明にかかる
物体認識方法は、所定の観測位置における対象物に対し
3次元計測を実行する第1のステップと、対象物に対し
所定の方向に沿う第1の仮想平面を設定した後、この
第1の仮想平面上に前記3次元計測結果を投影する第2
のステップと、前記第1の仮想平面への投影結果を、そ
の平面に所定の3次元モデルを投影して得られる2次元
パターンと照合する第3のステップと、前記第3のステ
ップにおいて前記投影結果にモデルの2次元パターンに
対応する特徴が抽出されたとき、前記第1の仮想平面の
方向とは異なる方向に沿う第2の仮想平面を設定し、こ
の第2の仮想平面上に前記3次元計測結果を投影する第
4のステップと、前記第2の仮想平面への投影結果を、
前記3次元モデルを第2の仮想平面上に投影して得られ
る2次元パターンと照合する第5のステップと、前記第
3および第5のステップにおける各照合結果を統合して
前記対象物を認識する第6のステップとを実行すること
を特徴とする。
【0008】請求項2の発明にかかる物体観測装置は、
所定の観測位置の対象物に対し3次元計測を実行する計
測手段と、対象物に対して所定の方向に沿う第1の仮想
平面上に前記計測手段による3次元計測結果を投影する
第1の投影手段と、前記第1の仮想平面への投影結果
を、その平面に所定の3次元モデルを投影して得られる
2次元パターンと照合する第1の照合手段と、前記第1
の照合手段により前記投影結果にモデルの2次元パター
ンに対応する特徴が抽出されたとき、前記第1の仮想平
面の方向とは異なる方向に沿う第2の仮想平面上に前記
3次元計測結果を投影する第2の投影手段と、前記第2
の仮想平面への投影結果を、前記3次元モデルを前記第
2の仮想平面上に投影して得られる2次元パターンと照
合する第2の照合手段と、前記第1、第2の照合手段に
よる各照合結果を統合して前記対象物を認識する認識処
理手段とを備えている。
【0009】請求項3の発明にかかる物体認識装置で
は、前記第2の照合手段を、前記第1の照合手段により
2次元パターンに対応する特徴が抽出された位置に基づ
き照合処理の初期位置を設定するように構成する。
【0010】請求項4の発明にかかる車輌認識装置は、
複数種の車輌について、その立体形状を示す3次元モデ
ルを記憶するモデルデータ記憶部と、所定の観測位置に
おける車輌に対し3次元計測を実行する計測手段と、前
記計測手段による計測結果を、道路面に沿う第1の仮想
平面上に投影する第1の投影手段と、前記モデルデータ
記憶部から所定の3次元モデルを読み出して、この3次
元モデルを第1の仮想平面に投影して得られる2次元パ
ターンを基準モデルとして設定するとともに、前記3次
元モデルが道路の長さ方向に対して所定の角度だけ回転
した状態にあるときに前記第1の仮想平面上に投影され
るパターンを複数とおり生成して、これらの投影パター
ンを回転モデルとして設定するモデル設定手段と、第1
の仮想平面への投影結果を、前記基準モデルおよび複数
の回転モデルと順に照合する第1の照合手段と、前記第
1の照合手段による照合結果の中から、前記投影結果と
の類似度が最も高いモデルを特定するモデル特定手段
と、前記モデル特定手段により特定されたモデルにかか
る回転角度の示す方向と高さ方向とにより第2の仮想平
面を設定する次平面決定手段と、前記第2の仮想平面上
に前記3次元計測結果を投影する第2の投影手段と、前
記モデル設定手段が処理対象とした3次元モデルを前記
第2の仮想平面に投影して2次元モデルを生成し、この
投影パターンと第2の投影手段による投影結果とを照合
する第2の照合手段と、前記第1、第2の各照合手段に
よる照合結果を統合して前記車輌を認識する認識処理手
段とを備えている。
【0011】請求項5の発明にかかる車輌認識装置で
は、前記次平面決定手段を、前記第1の照合手段により
前記基準モデルまたは複数の回転モデルのいずれかに対
応する特徴が抽出されたときに、前記第2の仮想平面の
設定処理を実行するように構成する。
【0012】請求項6の発明にかかる車輌認識装置で
は、前記次平面決定手段を、前記第1の照合手段により
前記基準モデルまたは複数の回転モデルのいずれかに対
応する特徴が抽出されたときに、前記第2の仮想平面の
設定処理を実行するように構成するとともに、前記第2
の照合手段を、前記第1の照合手段により前記いずれか
のモデルに対応する特徴が抽出された位置に基づき照合
処理の初期位置を設定するように構成する。
【0013】
【作用】請求項1,2の発明では、対象物の3次元計測
結果を、まず所定の方向に沿う第1の仮想平面上に投影
してモデルの2次元パターンと照合する。この照合処理
により、前記投影結果にモデルの2次元パターンに対応
する特徴が抽出されると、前記第1の仮想平面の方向と
は異なる方向に沿う第2の仮想平面上にも前記3次元計
測結果を投影し、第1の仮想平面における照合処理に用
いたのと同じ3次元モデルを用いて第2の照合処理を実
行する。この後、第1、第2の各照合結果が統合されて
対象物の認識が行われる。
【0014】上記請求項1,2の発明によれば、前記第
1、第2の仮想平面毎に、対象物に対する3次元計測結
果をその平面に投影する処理と、得られた投影結果を所
定の3次元モデルを前記平面に投影して得られる2次元
パターンと照合する処理とを実行し、各照合結果を統合
した認識処理を行うので、対象物の位置、個数,種類な
どを精度良く認識することができる。 また第1の仮想平面上での投影結果にモデルに合致する
特徴が含まれているときのみ、第2の仮想平面への投影
処理や照合処理を行うので、処理対象となるデータの容
量が削減され、処理効率が向上する。
【0015】請求項3の発明では、第1の仮想平面に対
する照合処理によりモデルに対応する特徴が抽出された
位置に基づき、第2の仮想平面に対する照合処理の初期
位置を設定するので、処理対象となるデータの容量はさ
らに削減される。
【0016】請求項4の発明では、道路上の車輌に対す
る3次元計測結果を、まず道路面に沿う第1の仮想平面
に投影し、その投影結果を、所定の3次元モデルから生
成された基準モデルおよび複数の回転モデルと順に照合
する。つぎに、この照合処理により前記投影結果との類
似度が最も高いモデルを特定し、そのモデルにかかる回
転角度の示す方向と高さ方向とにより第2の仮想平面を
設定する。そして、この第2の仮想平面に前記3次元計
測結果を投影し、前記モデルの生成時の処理対象となっ
た3次元モデルを第2の仮想平面に投影して得られる2
次元パターンにより前記投影結果を照合する。さらに、
第1,第2の仮想平面における照合結果を統合して前記
車輌を認識する。
【0017】上記請求項4の発明によれば、認識対象の
車輌が道路の長さ方向に対して傾いていても、この車輌
の側面形状を認識するのに最適な方向に沿って第2の仮
想平面を設定して、精度の良い照合処理を行うことがで
きる。
【0018】請求項5の発明は、前記第1の仮想平面に
おける照合処理により、基準モデルまたは複数の回転モ
デルのいずれかに対応する特徴が抽出されたときに、前
記第2の仮想平面の設定処理を行うので、処理対象とな
るデータの容量が削減され、処理効率が向上する。
【0019】請求項6の発明では、請求項5の発明に加
えて、第1の仮想平面における照合処理によりモデルに
対応する特徴が抽出された位置に基づき、第2の仮想平
面における照合処理の初期位置を設定するようにしたの
で、処理対象となるデータの容量はさらに削減される。
【0020】
【実施例】図1は、この発明の一実施例にかかる交通流
計測装置の設置例を示す。 この交通流計測装置は、道路1の真横にF字形状の支柱
2を配備して、この支柱2に2台のカメラ3a,3bと
制御処理装置4とを取り付けて構成されるもので、各カ
メラ3a,3bにより道路1を上方より撮像して得られ
た画像を制御処理装置4に取り込んで、道路1の各車道
毎の通過車輌の台数や車種の判別、特定車輌の通過速度
の計測、違法駐車中の車輌の検出などの処理が行われ
る。
【0021】前記支柱2は、その横桟部分を道路の上方
に突出させて配備されている。各カメラ3a,3bは、
焦点距離を同じくするレンズを有しており、支柱2の各
横桟間に固定配備された垂直棒6に縦並びに取り付けら
れている。このとき各カメラ3a,3bは、各光軸が道
路の方向に向けて平行になり、かつ各撮像面が同一平面
上に位置するように、その取り付け位置が調整される。 なお制御処理装置4は、保守,点検などの必要から支柱
2の基部付近に取り付けられる。
【0022】なおこの実施例では、2台のカメラにより
道路を撮像しているが、これに限らず、3台以上のカメ
ラを用いてもよい。またカメラの配置は縦並びに限らず
横並びにしても良い。またカメラを取り付ける支柱も上
記のF字型支柱2に限らず、既存の電信柱や照明柱など
を改良して用いてもよい。
【0023】図2は、前記制御処理装置4の電気的構成
を示すもので、各カメラ3a,3bからの画像データを
入力するための画像入力部7a,7b,特徴抽出部8,
3次元計測部9,第1,第2の投影処理部10,11,
第1,第2のマッチング処理部12,13,統合認識部
14などを構成として含んでいる。
【0024】各画像入力部7a,7bは、それぞれ入力
されたアナログ量の画像データをディジタル量に変換す
るためのA/D変換回路や、変換処理後のディジタル量
の画像データを格納するための画像メモリなどから構成
される。 なお以下の説明では、第1の画像入力部7aに入力され
たカメラ3aの画像を「第1画像」と呼び、第2の画像
入力部7bに入力されたカメラ3bの画像を「第2画
像」と呼ぶことにする。
【0025】図3(1)(2)は、それぞれ前記第1画
像、第2画像の具体例であって、それぞれ道路上の車
線,車輌,車輌の影などを含む画像データが生成されて
いる。
【0026】特徴抽出部8は、前記第1、第2の各入力
画像から車輌などの物体の輪郭を示すエッジ構成点を抽
出した後、これらエッジ構成点を画像間で対応づけす
る。3次元計測部9は、この対応づけ結果に三角測量の
原理を適用して、各エッジ構成点に対応する3次元座標
を算出する。
【0027】第1、第2の各投影処理部10,11は、
この算出された3次元座標を、それぞれ観測位置に対し
て異なる方向に沿う仮想平面上に投影する。その投影結
果は、それぞれ第1、第2のマッチング処理部12,1
3へと出力され、後記する手順により各種車輌のモデル
の2次元パターンとのマッチング処理が実施される。統
合認識部14は、各マッチング処理部12,13による
処理結果を統合し、車輌の位置、車種などを認識する。
この認識結果はさらに後段の認識結果処理部(図示せ
ず)などに出力され、認識結果の時間的な推移により観
測位置を通過した車輌の台数、速度などが認識される。
なお上記構成における各マッチング処理部12,13で
の照合処理は、処理時間を短縮できるように、同一車種
毎に並列して行われる。
【0028】つぎに図4〜9を用いて、前記図2に示し
た各部における詳細な処理を、順を追って説明する。前
記画像入力部7a,7bにカメラ3a,3bからの画像
データが入力されると、特徴抽出部8は、これら画像毎
に図4に示すようなラプラシアンフィルタを走査してゼ
ロクロッシング点を抽出した後、このゼロクロッシング
点の座標を算出してこの座標位置の画素を黒画素、他の
画素を白画素とした2値のエッジ画像を生成する。なお
このエッジ抽出には、ソーベルフィルタなど他のエッジ
抽出フィルタを用いてもよい。
【0029】図5(1)(2)は、前記図3(1)
(2)に示した第1,第2画像について、それぞれ上記
のエッジ抽出処理を施した結果を示すもので、それぞれ
車輌や車輌の影などの輪郭に相当するエッジ成分が抽出
されている。なお以下の説明では、第1画像より生成さ
れたエッジ画像(図5(1)に示す)を「第1エッジ画
像」と呼び、第2画像より生成されたエッジ画像(図5
(2)に示す)を「第2エッジ画像」と呼ぶことにす
る。
【0030】図6(1)〜(4)は、前記図5の各エッ
ジ画像に表されたエッジ構成点を対応づけする場合の具
体例を示す。まず特徴抽出部8は、前記第1エッジ画像
E1(図6(1)に示す)から所定のエッジ構成点pを
抽出した後、第2エッジ画像E2(図6(2)に示す)
に着目し、このエッジ画像E2内で前記エッジ構成点p
のエピポーララインL上に位置するエッジ構成点q
,q,q,qを、エッジ構成点pの対応候補
点として抽出する。この場合、カメラ3a,3bは、前
記したように縦並びかつ光軸を平行にして配備されてい
るので、エピポーララインLはx軸に垂直になり、対応
候補点を容易に抽出することができる。
【0031】つぎに特徴抽出部8は、第1画像G1(図
6(3)に示す)上に、前記エッジ構成点pと同じ座標
(x,y)上に位置する点Pを中心点とする所定の大
きさのウィンドウWを設定するとともに、第2画像G
2(図6(4)に示す)上でも、前記対応候補点q
と同じ座標(x,y),(x,y),(x,y
),(x,y),(x,y)上にそれぞれ位置す
る点Q〜Qを抽出し、これら点Q〜Qを中心と
し、かつ前記ウィンドウWと同じ大きさを有するウィ
ンドウW〜Wを第2画像G2上に設定する。
【0032】各ウィンドウが設定されると、特徴抽出部
8は、第2画像上の各ウィンドウW〜Wについてそ
れぞれつぎの(1)式を実行し、各ウィンドウと第1画
像上のウィンドウWとの相違度Cを算出する。 なお、次式において、g(x,y)はウィンドウW
内の所定の画素の輝度値を、またg(x,y)はウィ
ンドウW(L=1〜5)内の所定の画素の輝度値を、
それぞれ示す。またi,jはそれぞれ各ウィンドウの大
きさに応じて変動する変数である。
【0033】
【数1】
【0034】特徴抽出部8は、各ウィンドウW〜W
について求められたウィンドウWとの相違度Cを比較
し、相違度が最も小さくなるウィンドウをウィンドウW
に対応するものとして判別する。そしてそのウィンド
ウの中心点Qと同じ座標(x,y)上にある第2エ
ッジ画像上の点qを前記第1エッジ画像のエッジ構成
点pの対応点として決定する。
【0035】図7は、前記各ウィンドウW〜Wにつ
いてウィンドウWとの相違度を算出した結果を示す。
この図示例では、第2のウィンドウWにおける相違度
が最も小さくなっており、したがって前記エッジ構成点
pに対する第2エッジ画像中での対応点はqであると
みなされる。
【0036】なお上記の相違度の代わりに、各ウィンド
ウW〜WごとにウィンドウWとの間の正規化相互
相関演算を行い、最も高い相関値が得られたウィンドウ
をウィンドウWに対応するものと判別するようにして
も良い。
【0037】上記の対応付け処理が、両エッジ画像内の
すべてのエッジ構成点について行われると、3次元計測
部9は、各エッジ画像E1,E2間の対応するエッジ構
成点p,qの座標(x,y),(x,y)と各カメ
ラ3a,3bのパラメータとを用いて、三角測量の原理
をもとに、各エッジ構成点に対応する3次元座標を算出
する。
【0038】図8は、上記の三角測量の原理を示す。図
中Pは、車道上の対象物15(この場合車輌)上の所定
の特徴点を示すもので、前記第1画像G1,第2画像G
2上にはこの特徴点Pの物点像P,Pが現れてい
る。なお図中、Uはカメラ3aの焦点を、Lはカメラ3
bの焦点を、それぞれ示す。
【0039】上記の対応する物点像P,Pに対応す
る3次元座標は、特徴点Pの空間位置に相当する。した
がってこの対象物15のすべての特徴点について上記の
方法を実行すれば、対象物15の立体形状を把握するこ
とができる。この原理に基づき、3次元計測処理部9
は、道路近傍の所定位置(例えば支柱2の設置位置)を
原点Oとして道路の幅方向をX軸,長さ方向をY軸,高
さ方向をZ軸とする3次元座標系を設定して、つぎの
(2)〜(4)式を実行し、各エッジ構成点に対応する
3次元座標(X,Y,Z)を算出する。
【0040】
【数2】
【0041】
【数3】
【0042】
【数4】
【0043】ただし上記の各式において、B,F,H,
θは、あらかじめ3次元計測処理部9の内部のメモリに
記憶されたパラメータであって、Bは各カメラの基線長
を、Fは各カメラのレンズの焦点距離を、Hは第2のカ
メラ3bの高さデータを、θはカメラの俯角を、それぞ
れ示す。なおこの3次元座標の算出処理は、必ずしも抽
出されたすべてのエッジ構成点について行う必要はな
く、エッジ構成点の抽出結果から選択された所定の代表
点のみの3次元座標を求めてもよい。
【0044】図9(1)は、前記3次元計測結果の一例
であって、前記した3次元座標系において、算出された
各エッジ構成点の3次元座標を・印によりプロットする
とともに、実際の車輌の立体形状を破線により示してあ
る。
【0045】図9(2)〜(4)は、それぞれ上記3次
元座標系の原点Oを基準とするYZ平面,XZ平面,X
Y平面上に前記各3次元座標点を投影した結果を示すも
ので、いずれの平面にも、それぞれその平面に直交する
方向から見た車輌の2次元形状が現れている。
【0046】なおこの場合、Z軸は高さ方向に対応する
から、YZ平面,XZ平面における投影により、影など
高さ成分を持たない特徴と車輌の特徴とを分離して、以
下の認識処理を精度良く行うことができる。
【0047】前記第1、第2の各投影処理部10,11
は、算出された各3次元座標点を、それぞれ上記いずれ
かの仮想平面上に投影するためのもので、例えば、第1
投影処理部ではXY平面が、第2投影処理部ではYZ平
面が、それぞれ採用されるようにあらかじめ設定されて
いる。これにより観測対象の車輌について、側方,前
方,上方のうちのいずれか2方向から見た2次元形状が
抽出される。
【0048】第1、第2のマッチング処理部12,13
は、それぞれ前記第1、第2の投影処理部11,12に
対応するもので、いずれも、複数車種の車輌の特徴を示
す立体モデルについて、対応する投影処理部に設定され
ている仮想平面上にその車種の立体モデルが投影された
ときに表される2次元パターン(以下これを「2次元モ
デル」という)を記憶するメモリを含んでいる。各マッ
チング処理部12,13は、記憶された各車種の2次元
モデルを前段の投影処理部で得られた投影結果に順次走
査させ、各走査位置毎に、投影結果と2次元モデルとの
類似度を算出するなどして、投影結果に最も類似する車
種、およびその車種の2次元モデルに最も類似する投影
パターンが得られた位置(以下これを「マッチング位
置」という)を抽出する。
【0049】統合認識部14は、各マッチング処理部1
2,13により得られた抽出結果を統合し、いずれの位
置にいずれの車種の車輌が位置しているかを認識した
後、その認識結果を後段に出力する。
【0050】図10は、交通流計測装置の他の構成例を
示す。この交通流計測装置は、レーザー光線を用いて車
輌の3次元形状を示す特徴を抽出するようにしたもの
で、道路の側方に配備された逆L字型の支柱2´により
カメラ3と制御処理装置4とが支持されるとともに、こ
の支柱2´の手前位置にレーザ光照射装置16が配備さ
れる。
【0051】前記レーザ光照射装置16は、道路1の幅
方向に沿って複数本のレーザースリット光を平行に照射
するためのもので、前記カメラ3には、このレーザース
リット光の波長帯域に適応するフィルタが配備されてい
る。制御装置4は、このカメラ3により抽出されたスリ
ット光の照射または反射のパターンから対象物の特徴を
示す3次元座標を計測した後、この計測結果について第
1の実施例と同様の投影処理およびマッチング処理を実
施し、道路1上の車輌の車種や位置を認識する。
【0052】図11は、前記図10における制御処理装
置4の電気的構成を示すもので、前記カメラ3からの画
像を入力するための画像入力部7のほか、特徴抽出部
8,3次元計測部9,第1,第2の各投影処理部10,
11,第1,第2の各マッチング処理部12,13,統
合認識部14などを構成として含んでいる。
【0053】前記特徴抽出部8は、前記カメラ3からの
入力画像を2値化するなどしてスリット光の特徴パター
ンを抽出する。3次元計測部9は、この抽出された特徴
パターンの各構成点(または所定の代表点)について、
それぞれ対応する3次元座標を算出する。第1、第2の
各投影処理部10,11は、算出された各3次元座標点
について、第1の実施例と同様、それぞれ異なる方向に
沿う仮想平面上への投影処理を実施し、以下第1,第2
の各マッチング処理部12,13,統合認識部14によ
り第1の実施例と同様の処理が実施される。
【0054】各スリット光の照射方向に車輌が存在しな
い場合、スリット光は、道路の幅方向に沿って平行に直
進するので、前記入力画像からは平行なスリット光の照
射パターンが抽出される。これに対し、スリット光の照
射方向に車輌が存在する場合には、スリット光が車輌表
面で反射することにより、入力画像上には車輌の立体形
状を反映するスリット光の屈折パターンが出現する。よ
って、この屈折パターンの各構成点とあらかじめ車輌が
存在しない状態下で得られた各スリット光の照射パター
ンの各構成点とを対応づけて所定の演算を行うことによ
り、前記屈折パターンの各構成点に対応する3次元座標
が算出される。
【0055】図12(1)は、前記3次元計測処理結果
の一例であって、入力画像から抽出されたスリット光の
屈折パターン(図中、実線で示す)の各構成点に対応す
る3次元座標点を、それぞれ前記図9(1)と同様の3
次元座標系にプロットすることにより、スリット光の照
射方向に位置する車輌の立体形状が表わされる。図12
(2)〜(4)は、それぞれ前記図9(2)〜(4)と
同様の仮想平面上に、図12(1)の各3次元座標点を
投影した結果を示すもので、いずれの仮想平面にも、そ
れぞれその平面に直交する方向から見た車輌の2次元形
状が現れている。
【0056】なお道路に向かって照射するレーザー光の
パターンはスリット光に限らず、例えばレーザー光によ
り格子状の照射パターンを生成して道路上の所定領域に
向かって照射し、画像上の各格子点に対応する座標を抽
出して3次元計測を行うようにしてもよい。
【0057】このように画像処理の手法を用いて道路上
の車輌の特徴を示す3次元座標を計測し、さらにこれら
3次元座標点により表される3次元パターンを所定の方
向から見た平面形状をもって車輌の認識処理を実施する
ことにより、車輌の影など平面的なデータを車輌と誤認
識することなく、精度の高い認識処理が実施できる。し
かも上記した各実施例のように、計測された3次元パタ
ーンを複数方向から見た2次元形状を用いて統合的な認
識処理を行うようにすれば、いずれか一方向から見た2
次元形状により認識を行う場合よりも、より精度よく車
種や車輌の位置を認識することができる。
【0058】図13〜15および図20〜21は、前記
図1に示した交通流計測装置の制御処理装置4を、さら
に効率良くかつ高精度の認識処理を行えるように改良し
た例を示すもので、以下各構成例をその認識処理手順と
ともに説明する。なおこれらいずれの実施例の構成も、
主要部の構成や機能は前記図2と同様であり、ここでは
図2と同一の符号を付すことにより説明の重複を避ける
ことにする。
【0059】図13に示す制御処理装置4では、前記図
2と同様の構成のほか、第1マッチング処理部12の後
段に判定部17が設けられている。この実施例では、3
次元計測部9により得られた計測結果に対し、まず第1
投影処理部10による投影処理が行われた後、第1マッ
チング処理部12により、前記投影結果と所定の車種の
2次元モデルとのマッチング処理が実施され、その結果
が判定部17に出力される。
【0060】前記判定部17は、第1マッチング処理部
12の処理結果に基づき、さらに第2の仮想平面上で同
じ車種とのマッチング処理を実行するか否かを判定する
ためのもので、前記第1のマッチング処理により、投影
結果と2次元モデルとの間で得られた類似度が所定のし
きい値を上回る場合には、第2投影処理部11および第
2マッチング処理部13に対し、処理を続行する旨を示
す制御信号を出力するとともに、前記第1のマッチング
処理の結果を統合認識部14へと出力する。
【0061】前記判定部17からの制御信号を受けて、
第2投影処理部11が前記3次元計測部9による計測結
果を第2の仮想平面上に投影すると、第2マッチング処
理部13は、この投影結果に対し、前記第1のマッチン
グ処理で用いられたのと同一の車種にかかる2次元モデ
ルを用いてマッチング処理を実行し、その処理結果を統
合認識部14へと出力する。統合認識部14は、各マッ
チング処理結果を統合し、前記と同様の認識処理を実行
する。
【0062】一方、前記第1のマッチング処理により、
前記投影結果の2次元モデルに対する類似度がしきい値
以下であるとの結果が得られた場合には、判定部17
は、後段の各部に対し、この車種にかかる処理を中止す
ることを示す制御信号を出力する。これにより以下の認
識処理は中止され、引き続き第1マッチング処理部12
により他の車種の2次元モデルを用いたマッチング処理
が開始される。
【0063】このように、ある車種の2次元モデルにつ
いて、第1のマッチング処理により投影結果とは類似し
ないという判断がなされたとき、この車種に対する第2
のマッチング処理を中止するようにしたので、処理対象
となるデータの容量が削減され、効率の良い認識処理を
行うことができる。
【0064】図14は、前記図13の構成にさらにマッ
チング情報記憶部18を付加したものである。このマッ
チング情報記憶部18は、第1マッチング処理部12に
おいて、前記投影結果と2次元モデルとの間にしきい値
を上回る類似度が得られたとき、この2次元モデルにか
かる車種とそのマッチング位置とを記憶するためのもの
である。第2マッチング処理部12は、判定部17から
の制御信号を受けてこの記憶データを読み出した後、第
2の仮想平面上でこのマッチング位置に対応する位置
に、第1のマッチング処理で用いたのと同じ車種にかか
る2次元モデルを初期設定し、マッチング処理を開始す
る。なおこの場合、まず第1マッチング処理部12によ
り各種2次元モデルとのマッチング処理を行った後、第
2マッチング処理部13におけるマッチング処理へと移
行するようにしてもよい。
【0065】このように、第1のマッチング処理により
得られた車輌の特徴の抽出位置を用いて第2のマッチン
グ処理の初期位置を決定することにより、処理対象とな
るデータ容量を前記図13の構成よりもさらに減少し、
処理速度の向上を実現することができる。
【0066】図15に示す制御処理装置4は、さらに認
識精度の向上をはかったもので、基本の構成に加え、次
平面決定部19,3次元モデルデータ記憶部20,第
1、第2のモデル投影処理部21,22を構成として含
んでいる。
【0067】前記3次元モデルデータ記憶部20は、マ
ッチング処理の対象となる各車種について、具体的な立
体形状を示すモデル(以下これを「3次元モデル」とい
う)を記憶するためのもので、第1モデル投影処理部2
1は、この3次元モデルにより第1のマッチング処理に
用いられる2次元モデルを、第2モデル投影処理部22
は、この3次元モデルデータにより第2のマッチング処
理に用いられる2次元モデルを、それぞれ生成する。
【0068】一般に、車輌の特徴や大きさを的確にとら
えるためには、車輌の側面形状を用いた認識処理を行う
のが有効である。したがって前記3次元計測結果をXY
平面など車輌の方向を認識しやすい平面上に投影して第
1のマッチング処理を実施し、その結果から車輌の向き
を仮定した後、この仮定された方向に沿って仮想平面を
設定して第2の投影処理、およびマッチング処理を行う
ようにすれば、信頼性の高い認識処理を行うことができ
る。
【0069】この実施例は、上記原理に基づく認識処理
を実施するように構成されたもので、第1投影処理部1
0の投影対象として道路面に相当するXY平面を設定し
ている。また第1モデル投影処理部21には、各車種毎
の2次元モデルとして、前記3次元モデルがそのままの
状態でXY平面上に投影された状態を示す2次元パター
ン(以下これを「基準モデル」という)を生成するほか
に、前記3次元モデルが所定の角度だけ回転した状態に
あるときにXY平面上に現れる投影パターン(以下これ
を「回転モデル」という)を、複数とおり生成する機能
を持たせている。第1マッチング処理部12は、前記X
Y平面上への投影結果を基準モデルおよび各回転モデル
と順次照合して、投影結果に最も類似するモデルを特定
する。
【0070】図16は、XY平面上におけるモデルの設
定例を示すもので、車輌がY軸の方向に沿って位置する
状態を示す2次元パターンを基準モデルMとして、こ
の基準モデルMがY軸に対し、左右方向に所定角度φ
ずつ回転した状態を示すパターンを回転モデルM,M
として設定している。
【0071】図17〜図19は、それぞれ前記基準モデ
ルMおよび回転モデルM,Mを用いたマッチング
処理を、それぞれその結果とともに示す。なお各図中、
25は、3次元計測結果のXY平面上への投影パターン
を示すもので、各モデルともXY平面上をX軸に沿って
走査され、所定の走査間隔毎にモデルと投影パターンと
の類似度が算出されている。図示例では、投影パターン
25に対し、3つのモデルのうち回転モデルMを走査
したときの走査位置XPKの地点での類似度が最も高く
なっている。したがってこの場合には、回転モデルM
が投影パターン25に対応するものとして特定されるこ
とになる。
【0072】図15に戻って、この特定された回転モデ
ルにかかる回転角度は次平面決定部19に、またこの回
転モデルと投影パターンとのマッチング結果は統合認識
部14に、それぞれ出力される。次平面決定部19は、
与えられた回転角度に基づき、対象物の特徴を認識する
のに最適な方向に沿う投影平面を決定するためのもの
で、この決定にかかる情報は、第2投影処理部11およ
び第2モデル投影処理部21へと出力される。これによ
り第2投影処理部11は、前記決定情報に基づく仮想平
面を設定して、その平面上に前記3次元計測結果を投影
する。他方、第2モデル投影処理部21は、前記第1モ
デル投影処理部21で回転モデルの生成に用いられた3
次元モデルが前記決定された平面上に投影された状態
(この場合は回転しない状態で投影される)を示す2次
元モデルを生成する。この後、第2マッチング処理部1
3により、上記投影結果と2次元モデルとのマッチング
処理が実施され、その結果が統合認識部14へと出力さ
れる。
【0073】統合認識部14は、各車種毎に、上記第
1,第2の各マッチング処理結果を統合してゆき、最終
的に3次元計測結果に最も適合する車種を特定するとと
もに、その特定された車種にかかる各マッチング処理結
果に基づき、車輌が道路上のいずれの位置に、どの方向
を向いて位置しているかを認識する。
【0074】上記の構成によれば、車輌が左折,右折時
などに道路方向に対して傾きをもって位置しても、車輌
の側面形状を正確に反映した投影結果をもって正確なマ
ッチング処理を行って、車輌の位置や方向を認識するこ
とができるので、決められた方向に沿う仮想平面を設定
した場合よりも、はるかに精度の良い認識処理を実施す
ることができる。
【0075】図20は、上記図15の構成に前記図1
3,14と同様の判定部17を付加したもので、これに
より第1マッチング処理部12において、投影結果との
類似度がしきい値以下であった車種については、以下の
処理がカットされる。
【0076】図21は、上記図20の構成にさらに前記
図14と同様のマッチング情報記憶部18が付加された
もので、これにより第2のマッチング処理を行う際に
は、第1マッチング処理部12におけるマッチング位置
に基づいて設定された位置からマッチング処理が開始さ
れる。
【0077】このように図15の構成に、判定部17や
マッチング情報記憶部18を付加することにより、処理
対象となるデータ容量が削減されて処理速度が向上し、
高精度の認識処理を効率良く実施することができる。な
お上記図13〜21に示した各構成は、前記図10に示
した交通流計測装置にも適用できることは言うまでもな
い。
【0078】
【発明の効果】請求項1,2の発明によれば、前記第
1、第2の仮想平面毎に、対象物に対する3次元計測結
果をその平面に投影する処理と、得られた投影結果を所
定の3次元モデルを前記平面に投影して得られる2次元
パターンと照合する処理とを実行し、各照合結果を統合
して対象物を認識するので、対象物を複数方向から見た
2次元形状に基づき、対象物の位置、個数,種類などを
精度良く認識することができる。また第1の仮想平面上
での投影結果にモデルに合致する特徴が含まれていると
きのみ、第2の仮想平面に対する投影処理や照合処理を
行うので、処理対象となるデータの容量が削減され、処
理効率が向上する。
【0079】請求項3の発明では、第1の仮想平面にお
ける照合処理によりモデルに対応する特徴が抽出された
位置に基づき、第2の仮想平面における照合処理の初期
位置を設定するので、処理対象となるデータの容量をさ
らに削減することができる。
【0080】請求項4の発明では、道路上の車輌に対す
る3次元計測結果を、まず道路面に沿う第1の仮想平面
に投影し、その投影結果に基づき、前記車輌の側面形状
を認識するのに最適な方向に沿う第2の仮想平面を設定
して、3次元計測結果の投影処理および照合処理を行う
ので、認識対象の車輌が道路方向に対して傾きをもって
位置している場合でも、その車輌の特徴や大きさを的確
にとらえた側面形状の2次元パターンをもって正確な照
合処理を行うことができ、車輌の位置や方向を精度良く
認識することができる。
【0081】請求項5の発明は、請求項4の発明に加え
て、前記第1の仮想平面における照合処理により、基準
モデルまたは複数の回転モデルのいずれかに対応する特
徴が抽出されたときに、前記第2の仮想平面の設定処理
を行うので、処理対象となるデータの容量を削減して処
理効率を向上させることができる。
【0082】請求項6の発明では、請求項4の発明に加
えて、第1の仮想平面における照合処理によりモデルに
対応する特徴が抽出された位置に基づき、第2の仮想平
面における照合処理の初期位置を設定するようにしたの
で、処理対象となるデータの容量をさらに削減すること
ができる。
【図面の簡単な説明】
【図1】この発明の一実施例にかかる交通流計測装置の
設置例を示す説明図である。
【図2】制御処理装置の電気的構成を示すブロック図で
ある。
【図3】各カメラからの入力画像の例を示す説明図であ
る。
【図4】ラプラシアンフィルタを示す説明図である。
【図5】エッジ画像の抽出例を示す説明図である。
【図6】対応づけ処理の方法を示す説明図である。
【図7】対応づけ処理のための相違度演算の結果を例示
する説明図である。
【図8】三角測量の原理を示す説明図である。
【図9】3次元計測結果とこの計測結果を各平面に投影
した結果とを示す説明図である。
【図10】交通流計測装置の他の設置例を示す説明図で
ある。
【図11】図10の制御処理装置の電気的構成を示すブ
ロック図である。
【図12】3次元計測結果とこの計測結果を各平面に投
影した結果とを示す説明図である。
【図13】制御処理装置の他の構成例を示すブロック図
である。
【図14】制御処理装置の他の構成例を示すブロック図
である。
【図15】制御処理装置の他の構成例を示すブロック図
である。
【図16】基準モデルおよび回転モデルの設定例を示す
説明図である。
【図17】図16の基準モデルMを用いたマッチング
処理を示す説明図である。
【図18】図16の回転モデルMを用いたマッチング
処理を示す説明図である。
【図19】図16の回転モデルMを用いたマッチング
処理を示す説明図である。
【図20】制御処理装置の他の構成例を示すブロック図
である。
【図21】制御処理装置の他の構成例を示すブロック図
である。
【符号の説明】
3a,3b,3 カメラ 4 制御処理装置 10 第1投影処理部 11 第2投影処理部 12 第1マッチング処理部 13 第2マッチング処理部 14 統合認識部 16 レーザ光照射装置 17 判定部 18 マッチング情報記憶部 19 次平面決定部
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平9−33232(JP,A) 特開 平9−297849(JP,A) 大山宏ほか,交通車輛の車種自動判別 法に関する一検討,画像電子学会誌,日 本,画像電子学会,1996年10月25日,第 25巻,第5号,486−494 (58)調査した分野(Int.Cl.7,DB名) G06T 1/00 330 G01B 11/00 G08G 1/00 JICSTファイル(JOIS)

Claims (6)

    (57)【特許請求の範囲】
  1. 【請求項1】 所定の観測位置における対象物を認識す
    るための方法において、 前記観測位置の対象物に対し3次元計測を実行する第1
    のステップと、 対象物に対して所定の方向に沿う第1の仮想平面を設定
    した後、この第1の仮想平面上に前記3次元計測結果を
    投影する第2のステップと、 前記第1の仮想平面への投影結果を、その平面に所定の
    3次元モデルを投影して得られる2次元パターンと照合
    する第3のステップと、前記第3のステップにおいて前記投影結果にモデルの2
    次元パターンに対応する特徴が抽出されたとき、前記第
    1の仮想平面の方向とは異なる方向に沿う第2の仮想平
    面を設定し、この第2の仮想平面上に前記3次元計測結
    果を投影する第4のステップと、 前記第2の仮想平面への投影結果を、前記3次元モデル
    を第2の仮想平面上に投影して得られる2次元パターン
    と照合する第5のステップと、 前記第3および第5のステップにおける各照合結果を統
    合して前記対象物を認識する第6のステップとを実行す
    ことを特徴とする物体認識方法。
  2. 【請求項2】 所定の観測位置における対象物を認識す
    るための装置において、 前記観測位置の対象物に対し3次元計測を実行する計測
    手段と、 対象物に対して所定の方向に沿う第1の仮想平面上に前
    記計測手段による3次元計測結果を投影する第1の投影
    手段と、 前記第1の仮想平面への投影結果を、その平面に所定の
    3次元モデルを投影して得られる2次元パターンと照合
    する第1の照合手段と、 前記第1の照合手段により前記投影結果にモデルの2次
    元パターンに対応する特徴が抽出されたとき、前記第1
    の仮想平面の方向とは異なる方向に沿う第2の仮想平面
    上に前記3次元計測結果を投影する第2の投影手段と、 前記第2の仮想平面への投影結果を、前記3次元モデル
    前記第2の仮想平面上に投影して得られる2次元パタ
    ーンと照合する第2の照合手段と、 前記第1、第2の照合手段による各照合結果を統合して
    前記対象物を認識する認識処理手段とを備えて成る物体
    認識装置。
  3. 【請求項3】 前記第2の照合手段は、前記第1の照合
    手段により2次元パターンに対応する特徴が抽出された
    位置に基づき照合処理の初期位置を設定する請求項2
    記載された物体認識装置。
  4. 【請求項4】 道路上の車輌を認識するための装置にお
    いて、 複数種の車輌について、その立体形状を示す3次元モデ
    ルを記憶するモデルデータ記憶部と、 所定の観測位置における車輌に対し3次元計測を実行す
    る計測手段と、 前記計測手段による計測結果を、道路面に沿う第1の仮
    想平面上に投影する第1の投影手段と、 前記モデルデータ記憶部から所定の3次元モデルを読み
    出して、この3次元モデルを第1の仮想平面に投影して
    得られる2次元パターンを基準モデルとして設定すると
    ともに、前記3次元モデルが道路の長さ方向に対して所
    定の角度だけ回転した状態にあるときに前記第1の仮想
    平面上に投影されるパターンを複数とおり生成して、こ
    れらの投影パターンを回転モデルとして設定するモデル
    設定手段と、 第1の仮想平面への投影結果を、前記基準モデルおよび
    複数の回転モデルと順に照合する第1の照合手段と、 前記第1の照合手段による照合結果の中から、前記投影
    結果との類似度が最も高いモデルを特定するモデル特定
    手段と、 前記モデル特定手段により特定されたモデルにかかる回
    転角度の示す方向と高さ方向とにより第2の仮想平面を
    設定する次平面決定手段と、 前記第2の仮想平面上に前記3次元計測結果を投影する
    第2の投影手段と、 前記モデル設定手段が処理対象とした3次元モデルを前
    記第2の仮想平面に投影して2次元モデルを生成し、こ
    の投影パターンと第2の投影手段による投影結果とを照
    合する第2の照合手段と、 前記第1、第2の各照合手段による照合結果を統合して
    前記車輌を認識する認識処理手段とを備えて成る車輌認
    識装置。
  5. 【請求項5】 前記次平面決定手段は、前記第1の照合
    手段により前記基準モデルまたは複数の回転モデルのい
    ずれかに対応する特徴が抽出されたときに、前記第2の
    仮想平面の設定処理を実行する請求項4に記載された車
    輌認識装置。
  6. 【請求項6】 前記次平面決定手段は、前記第1の照合
    手段により前記基準モデルまたは複数の回転モデルのい
    ずれかに対応する特徴が抽出されたときに、前記第2の
    仮想平面の設定処理を実行し、前記第2の照合手段は、
    前記第1の照合手段により前記いずれかのモデルに対応
    する特徴が抽出された位置に基づき照合処理の初期位置
    を設定する請求項4に記載された車輌認識装置。
JP05243897A 1997-02-19 1997-02-19 物体認識方法、物体認識装置、および車輌認識装置 Expired - Fee Related JP3475700B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP05243897A JP3475700B2 (ja) 1997-02-19 1997-02-19 物体認識方法、物体認識装置、および車輌認識装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP05243897A JP3475700B2 (ja) 1997-02-19 1997-02-19 物体認識方法、物体認識装置、および車輌認識装置

Publications (2)

Publication Number Publication Date
JPH10232936A JPH10232936A (ja) 1998-09-02
JP3475700B2 true JP3475700B2 (ja) 2003-12-08

Family

ID=12914758

Family Applications (1)

Application Number Title Priority Date Filing Date
JP05243897A Expired - Fee Related JP3475700B2 (ja) 1997-02-19 1997-02-19 物体認識方法、物体認識装置、および車輌認識装置

Country Status (1)

Country Link
JP (1) JP3475700B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2344205B (en) * 1998-11-26 2003-04-30 Roke Manor Research Method of and apparatus for vehicle indentification
JP5109294B2 (ja) * 2006-06-19 2012-12-26 三菱電機株式会社 3次元位置補正装置
JP5056436B2 (ja) * 2008-01-24 2012-10-24 株式会社豊田中央研究所 三次元地図生成装置、及びプログラム
KR100946707B1 (ko) 2009-09-16 2010-03-12 (주)올라웍스 파노라마 이미지에 대한 이미지 매칭을 수행하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체
JP5740241B2 (ja) * 2011-08-03 2015-06-24 株式会社東芝 車両検出装置
KR101844885B1 (ko) * 2016-07-11 2018-05-18 엘지전자 주식회사 차량 운전 보조장치 및 이를 포함하는 차량
JP7204087B2 (ja) * 2018-04-25 2023-01-16 成典 田中 対象物認識装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
大山宏ほか,交通車輛の車種自動判別法に関する一検討,画像電子学会誌,日本,画像電子学会,1996年10月25日,第25巻,第5号,486−494

Also Published As

Publication number Publication date
JPH10232936A (ja) 1998-09-02

Similar Documents

Publication Publication Date Title
US5910817A (en) Object observing method and device
US7899211B2 (en) Object detecting system and object detecting method
US20020134151A1 (en) Apparatus and method for measuring distances
US20050232463A1 (en) Method and apparatus for detecting a presence prior to collision
CN108197523B (zh) 基于图像转换及轮廓邻域差异的夜间车辆检测方法及系统
JP4070437B2 (ja) 前方車両認識装置及び認識方法
JP3456339B2 (ja) 物体観測方法およびその方法を用いた物体観測装置、ならびにこの装置を用いた交通流計測装置および駐車場観測装置
JP6516012B2 (ja) 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム
JP3475700B2 (ja) 物体認識方法、物体認識装置、および車輌認識装置
JPH11175880A (ja) 車輌高さ計測装置およびこの装置を用いた車輌監視システム
JP3465531B2 (ja) 物体認識方法およびその装置
JP5316337B2 (ja) 画像認識システム、方法、及び、プログラム
JP3629935B2 (ja) 移動体の速度計測方法およびその方法を用いた速度計測装置
JP3516118B2 (ja) 物体認識方法および物体認識装置
JPH0973545A (ja) 白線認識装置
JP3319401B2 (ja) 走行路認識装置
JP3605955B2 (ja) 車輌判別装置
JPH11259792A (ja) 車輌認識方法およびその装置
JP4106163B2 (ja) 障害物検出装置及びその方法
JPH1055446A (ja) 物体認識装置
JPH11175883A (ja) 交通量計測装置および信号機制御装置
JP4144300B2 (ja) ステレオ画像による平面推定方法および物体検出装置
JPH10283478A (ja) 特徴抽出方法およびその方法を用いた物体認識装置
JP3419968B2 (ja) 画像認識装置及び方法
JP3517999B2 (ja) 車両認識装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080926

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080926

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090926

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090926

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100926

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100926

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110926

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110926

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120926

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130926

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees