JP2854831B2 - 三次元位置認識方法および装置 - Google Patents
三次元位置認識方法および装置Info
- Publication number
- JP2854831B2 JP2854831B2 JP8047155A JP4715596A JP2854831B2 JP 2854831 B2 JP2854831 B2 JP 2854831B2 JP 8047155 A JP8047155 A JP 8047155A JP 4715596 A JP4715596 A JP 4715596A JP 2854831 B2 JP2854831 B2 JP 2854831B2
- Authority
- JP
- Japan
- Prior art keywords
- light source
- point light
- video signal
- video camera
- position recognition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Length Measuring Devices With Unspecified Measuring Means (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
置に関し、特にたとえば発光ダイオード(LED)のよ
うな点光源およびその点光源が取り付けられた物体の三
次元位置を認識する、位置認識方法および装置に関す
る。
方法が既に数多く提案されているが、このような認識方
法は、離れたところから非接触で物体の位置を認識する
ことができる点で有用である。画像処理による物体の位
置認識方法において、点光源を認識の対象としたとき、
最も高い輝度をもつピクセル情報に基づいて点光源の位
置を検出することができる。しかしながら、従来技術の
いずれにおいても、画像処理のためにフレームメモリを
用いる必要があり、回路規模が大きくなってしまうとい
う欠点があった。
23054号において、より簡単かつ安価な方法で位置
認識が可能な、位置認識方法および装置を提案した。こ
の提案技術は、従来に比べてはるかに安価かつ簡単な装
置でLED等の点光源の位置を認識できるというすぐれ
た特長がある。
術では、点光源の二次元パラメータは得られるものの、
三次元位置を認識することはできなかった。なお、たと
えば、Motion Analysis 社製の「ExpertVision HiRES」
のように、マルチカメラおよびフレームメモリを用いれ
ば、三次元位置を認識することができるが、この方法
は、上述のように、非常に高価である。
めて簡単かつ安価に光源の三次元位置を認識することが
できる、位置認識方法を提供することである。この発明
の他の目的は、そのような位置認識方法を実現する装置
を提供することである。
に同期して光源を駆動し、光源を含む映像を撮影したビ
デオカメラからの映像信号の走査線情報に基づいてその
フレーム内における光源の位置を検出する、位置認識方
法において、(a) ビデオカメラによって前記光源を撮影
して光源が面積をもつような映像信号を出力し、そして
(b) 映像信号における光源の画像の大きさによってビデ
オカメラから光源までの距離を判別する、位置認識方法
である。
が面積をもつような映像信号を出力するビデオカメラ、
フレームに同期して点光源を駆動する駆動手段、ビデオ
カメラからの映像信号の走査線情報に基づいて当該フレ
ーム内における光源の位置を検出する検出手段、および
映像信号における光源の画像の大きさによってビデオカ
メラから光源までの距離を判別する判別手段を備える、
位置認識装置である。
るいは機械等の位置を検出したい部位または部分に取り
付けられる。ビデオカメラはそのような部位または部分
に取り付けられたLEDを含む映像を撮影し、テレビジ
ョン信号(映像信号)を出力する。光源はフレーム、具
体的には垂直同期信号に同期して駆動され、光源が駆動
されたときのビデオカメラからの映像信号の走査線情
報、たとえば水平同期信号によってリセットされかつ適
宜のクロックに従ってインクリメントされる第1カウン
タおよび垂直同期信号によってリセットされかつ水平同
期信号に従ってインクリメントされる第2カウンタのカ
ウント値に基づいて、画面(フレーム)内における光源
のX軸およびY軸の位置を検出する。
ビデオカメラで光源の映像を撮影すると、光源がぼやけ
て、光源画像は面積を持つ画像となる。光源画像の大き
さ、たとえば面積や径は、ビデオカメラから光源までの
距離に依存して変化するので、光源画像は、上述のX軸
およびY軸の位置の情報のみならず、ビデオカメラから
光源までの距離すなわち、Z軸の位置情報を含む。した
がって、光源の大きさを検出することによって、光源の
Z軸位置すなわちビデオカメラから光源までの距離を検
出することができる。
るためにフレームメモリを用いる必要はなく、簡単かつ
安価にして、光源の三次元位置を検出することができ
る。この発明の上述の目的,その他の目的,特徴および
利点は、図面を参照して行う以下の実施例の詳細な説明
から一層明らかとなろう。
は、点光源としてのLED12a,12bおよび12c
を含む。点光源、すなわちLED12a〜12cは、こ
の実施例では、赤外線LEDである。LED12a〜1
2cは、人体の変位する部位ないし部分にそれぞれ取り
付けられていて、したがって、この実施例のシステム1
0は、点光源12a〜12cの位置を検出することによ
って、人体の各部位ないし部分の位置およびその変位を
検出する。
外領域で高感度な特性をもつ赤外フィルタ付CCDカメ
ラであり、点光源12a〜12cを含む映像、すなわち
人体やその背景を撮影する。図ではわからないが、CC
Dカメラ14は、デフォーカス用のレンズを用いてい
る。または、CCDカメラ14のレンズのフォーカスを
甘くしておく。つまり、CCDカメラ14は、点光源1
2a〜12cを、焦点が合っていない状態で撮影する。
テレビジョン信号が出力され、その映像信号は同期検出
回路16に与えられる。この同期検出回路16として
は、たとえば、“LM1881”のような同期分離用I
Cが用いられ得る。そして、同期検出回路16は、CC
Dカメラ14から出力される映像信号(テレビジョン信
号)から水平同期信号Hsyncおよび垂直同期信号Vsync
を取り出し、それを1チップの16ビットマイクロコン
ピュータ18の入力ポート20に与える。
された映像信号は、ピーク検波回路22および比較回路
24に与えられる。ピーク検波回路22は、映像信号の
ピーク値を検出するものであり、その検出されたピーク
値は比較回路24に与えられる。比較回路24では、ピ
ーク値に応じて適当な基準レベル(閾値)を設定し、同
期分離された映像信号をその基準レベル(閾値)で2値
化することによって、背景部分よりも大きいレベルの点
光源の映像信号だけを分離する。したがって、比較回路
24からは、点光源すなわちLED12a,12bまた
は12cの部分だけがハイレベルとなり他の部分はロー
レベルとなる2値化信号が出力され、それが入力ポート
20に与えられる。
“V25”または“V55”のようなタイムキャプチャ
機能を有するマイクロコンヒュータであり、CPU26
や、必要なメモリのほかに、Yカウンタ28およびXカ
ウンタ30を含む。Yカウンタ28は、入力ポート20
を通して与えられる垂直同期信号Vsyncでリセットされ
かつ同じように入力ポート20から与えられる水平同期
信号Hsyncに応じてインクリメントされる。つまり、Y
カウンタ28のカウント値は、1画面(1フレーム)中
の走査線の数を示し、縦軸すなわち、Y軸の位置情報と
なる。Xカウンタ30は、水平同期信号Hsyncでリセッ
トされ、映像信号に比べて十分高速(たとえば数十10
MHz)で、正確なクロックに従ってインクリメントさ
れる。つまり、Yカウンタ28のカウント値は、1画面
(1フレーム)中の走査線の数を示し、横軸すなわち、
X軸の位置情報となる。
バッファ32は、1画面(1フレーム)の走査線の最大
数に相当する数のレジスタ群であり、映像信号の立ち上
がり時のXカウンタ30のカウント値をロードする。同
じように、X2バッファ34は、1画面の走査線の最大
数に相当する数のレジスタ群であり、映像信号の立ち下
がり時のXカウンタ30のカウント値をロードする。X
1バッファ32およびX2バッファ34は、それぞれ、
Yカウンタ28のカウント値によってアドレスされる。
36を介して、LED12a,12bおよび12cのそ
れぞれに対して駆動信号を与える。したがって、マイク
ロコンピュータ18がLED12a,12bまたは12
cを駆動したときの映像信号がCCDカメラ14によっ
て撮影され、マイクロコンピュータ18は、そのときに
得られる図2のような映像信号に基づいて、図2の画面
38の左上を原点として、点光源12a,12bまたは
12cのX軸,Y軸およびZ軸の位置を検出する。
実施例の動作について説明する。図3の最初のステップ
S1では、CPU26は、入力ポート20から水平同期
信号Hsyncが入力されたかどうかを検出する。つまり、
図3のフロー図は、CPU26が水平同期信号Hsyncを
検出したとき、スタートする。そして、ステップS1で
水平同期信号Hsyncを検出すると、CPU26は、ステ
ップS2において、Xカウンタ30をリセットするとと
もに、そのXカウンタ30をトリガ(スタート)する。
したがって、Xカウンタ30は、この時点から図示しな
いクロックに従ってインクリメントされる。また、Yカ
ウンタ28が水平同期信号Hsyncによってインクリメン
トされる。
び、水平同期信号Hsyncが入力されたかどうか判断す
る。ステップS1で水平同期信号Hsyncが検出されさら
にステップS3で水平同期信号Hsyncが検出されるとい
うことは、ステップS1において検出された水平同期信
号Hsyncのライン(水平走査線)に点光源の映像が存在
しなかったことを意味し、この場合には、再びステップ
S2に戻って、Xカウンタ30がリセット/スタートさ
れる。
されない場合には、CPU26は、次のステップS4に
おいて、比較回路24からの2値化された映像信号の立
ち上がりを検出したかどうか判断する。映像信号の立ち
上がりがなければ、先のステップS3に戻る。映像信号
の立ち上がりが検出されると、続くステップS5におい
て、CPU26は、そのときのXカウンタ30のカウン
ト値を、そのときのYカウンタ28のカウント値によっ
て指定される走査線番号に対応する立ち上がりレジスタ
すなわちX1バッファ32にロードする。つまり、ステ
ップS5では、点光源映像信号の立ち上がりでYカウン
タ28のカウント値すなわち垂直同期信号Vsyncからの
走査線数(垂直方向位置)に応じた番号のレジスタに、
Xカウンタ30のカウント値、すなわち、水平同期信号
Hsyncからの水平方向位置がX1バッファ32にロード
される。
び、水平同期信号Hsyncが入力されたかどうか判断す
る。そして、このステップS6で“YES”が判断され
ると、先のステップS2に戻る。次のステップS7にお
いて、CPU26は、点光源映像信号の立ち下がりが検
出されたかどうか判断する。このステップS7において
“YES”が判断されると、CPU26は、次のステッ
プS8において、そのときのXカウンタ30のカウント
値を、そのときのYカウンタ28のカウント値によって
指定される走査線番号に対応する立ち下がりレジスタす
なわちX2バッファ34にロードする。
6は、入力ポート20から垂直同期信号Vsyncが入力さ
れたかどうか判断する。このステップS10において
“NO”が判断されると、ステップS1に戻るが、“Y
ES”が判断されると、次のステップS10において、
CPU26は、X1バッファ32およびX2バッファ3
4のデータを取り込み、位置計算する。
て、1フレーム間での点光源映像信号の立ち上がり位置
および立ち下がり位置がX1バッファ32およびX2バ
ッファ34に展開されている。したがって、理想的な状
態で、ノイズがなく、図4に示すYS 番目の走査線から
YE 番目の走査線まで点光源が観測されたとき、X1バ
ッファ32およびX2バッファ34には、YS 番地から
YE 番地までの値がロードされていることになる。この
とき、点光源の位置は、次のようにして求めることがで
きる。
の値とX1バッファ32の値との中間値のYS 番地から
YE 番地までの平均値として、数1で計算できる。
での中間値として、数2で計算できる。
解能(広角,望遠等)を考慮して、CCDカメラ14の
中心に対する点光源のX軸角度およびY軸角度θxおよ
びθyを求めることができる。
面積を計算することによって、求める。図5および図6
に示すように、CCDカメラ14から点光源(LED)
までの距離に応じて、点光源画像の大きさが変化する。
つまり、CCDカメラ14の焦点が点光源に合致してい
ないので、前述のように一定の閾値で映像信号を2値化
すると、点光源までの距離が短いときには点光源画像は
図5に示すように相対的に小さくなり、点光源までの距
離が長いときには点光源画像は図6に示すように相対的
に大きくなる。したがって、点光源画像の大小で、CC
Dカメラ14から点光源(LED)までの距離すなわ
ち、Z軸位置を判定することができる。この点光源画像
の大きさを判別するために、実施例では、面積を計算す
る。
値からX2バッファ34の値までのYS 番地からYE 番
地までの総和として計算する。図4の例でいえば、YS
番目の走査線では、X1バッファ32およびX2バッフ
ァ34の値は、X1 (YS ) およびX2 (YS ) である。同
様にして、YS+1 番目の走査線では、X1バッファ32
およびX2バッファ34には、X1 (YS+1)およびX2 (Y
S+1)がストアされ、Y E 番目の走査線では、X1バッフ
ァ32およびX2バッファ34の値は、X1 (Y E ) およ
びX2 (YE ) がストアされている。したがって、点光源
画像の面積Sは、数3で与えられる。
メラ14から遠い距離にあるのか近いのかが判定でき
る。したがって、キャリブレーションによって面積の閾
値を最適に設定すれば、点光源のZ軸位置を絶対値とし
て検出することができる。
yと、Z軸位置とに基づいて、簡単な三角関数を用い
て、点光源の絶対位置を計算することができる。最後
に、ステップS12において、CPU26は、出力ポー
ト36から駆動信号を出力し、次に検出すべき点光源
(LED)12a,12bまたは12cのいずれかを駆
動する。すなわち、ステップS12において、垂直同期
信号Vsyncに同期してLED12a,12bまたは12
cが駆動され、その後ステップS1〜S11が実行され
るので、結果的に、1つのLED(点光源)12a,1
2bまたは12cは、それぞれ異なるフレームで処理さ
れる。
をもつ映像信号をビデオカメラから出力するために、点
光源に対して焦点が合っていないCCDカメラ14を用
いた。しかしながら、光源画像が面積をもつ映像信号を
ビデオカメラから出力するためには、さらに、次のよう
に構成することも考えられる。(1) 点光源を面光源に代
える、(2) ビデオカメラの前にぼかしフィルタを装着す
る、(3) CCDカメラでハレーションを生じさせる、等
である。
は、X軸位置やY軸位置によってZ位置を補正すること
が考えられる。つまり、点光源のX軸位置やY軸位置に
よって点光源の面が変化するので、その変化の係数をキ
ャリブレーションによってもとめ、実際の測定に際して
補正する。さらに、キャリブレーションとしては、図5
および図6に示すように、点光源画像の映像信号のスロ
ープが直線でないことに起因する誤差を補正することが
考えられる。つまり、映像信号のスロープが直線ではな
いので、一定の閾値によってそれを2値化すると、面積
と距離とが正確には比例関係にない場合が生じるので、
そのような場合に、比例関係になるように補正すること
である。
〜12cを赤外線LEDとし、CCDカメラ14を赤外
線フィルタ付のカメラで構成したが、LEDとして他の
可視光線を出力するものを用い、CCDカメラ14のフ
ィルタとしてはその可視光線を検出するフィルタを用い
るようにすれば、LEDの色とフィルタの色とによって
複数のLED(点光源)を同時に発光させても、そのい
ずれであるかを特定することができる。
るために有線方式を採用したが、無線方式が用いられて
もよい。つまり、マイクロコンピータ18からの駆動信
号を無線送信装置から出力し、点光源側にその無線信号
を受信する受信装置を設け、点光源がその受信装置から
の信号で駆動されるようにしてもよい。上述のような位
置検出システムは、様々な分野で応用が可能である。た
とえば、マルチメディアにおけるバーチャルリアリティ
等で、人間の動作を認識する必要がある。従来は、極め
て高価なデータスーツやデータグローブおよび多量のハ
ードウェアと計算時間を消費する画像認識による認識が
一般的であったが、上述の実施例のようなシステムを用
いれば、極めて安価でかつリアルタイムで人間の動作を
認識することができるので、たとえば、舞踏芸術のデー
タベース化、人間工学での行動分析(心理的な挙動の計
測等)、対戦格闘ゲームなどの参加型ゲームの入力イン
タフェース、ジェスチャの認識(手話認識など)、スポ
ーツへの応用(ゴルフスイングの診断など)、リハビリ
テーションにおける歩行等の動作解析での臨床応用、動
物の行動パターンの解析、ペン先の変位に従った文字認
識などに応用することができる。また、物体への応用と
しては、機械や建造物の動作解析や、空間変位を検出す
るために利用できる。たとえば、物体の位置決め、形状
検出、橋梁,建設機械,浮体動揺等微小変位の遠隔的計
測などにも利用できるし、ロボット,模型,機械等の動
きを非接触で計測してそれを駆動系にフィードバックす
ることによってそれらをリアルタイムに制御することが
できる。
に従って表示した画面の一例を示す図解図である。
ち上がりおよび立ち下がりと各水平走査線との関係を示
す図解図である。
ED)との距離が近い場合を示す図解図である。
ED)との距離が遠い場合を示す図解図である。
Claims (9)
- 【請求項1】フレームに同期して光源を駆動し、光源を
含む映像を撮影したビデオカメラからの映像信号の走査
線情報に基づいてそのフレーム内における光源の位置を
検出する、位置認識方法において、 (a) 前記ビデオカメラによって前記光源を撮影して前記
光源が面積をもつような映像信号を出力し、そして(b)
前記映像信号における前記光源の画像の大きさによって
前記ビデオカメラから前記光源までの距離を判別する、
位置認識方法。 - 【請求項2】前記ステップ(a) では前記光源を点光源と
し、前記点光源に対して前記ビデオカメラのレンズの焦
点が合わない状態で前記点光源を撮影する、請求項1記
載の位置認識方法。 - 【請求項3】前記ステップ(a) では前記光源を点光源と
し、前記ビデオカメラにデフォーカス用レンズを用いて
前記点光源を撮影する、請求項1記載の位置認識方法。 - 【請求項4】前記ステップ(a) では前記光源を面光源と
して前記ビデオカメラで撮影する、請求項1記載の位置
認識方法。 - 【請求項5】前記ステップ(a) では前記光源を点光源と
し、前記点光源をぼかしフィルタを通して前記ビデオカ
メラで撮影する、請求項1記載の位置認識方法。 - 【請求項6】前記ステップ(a) では前記ビデオカメラと
してCCDカメラを用いる、請求項1ないし5のいずれ
かに記載の位置認識方法。 - 【請求項7】前記ステップ(b) では前記映像信号におけ
る前記点光源の画像の面積に基づいて前記距離を判定す
る、請求項1ないし6のいずれかに記載の位置認識方
法。 - 【請求項8】光源、 前記光源を撮影して前記光源が面積をもつような映像信
号を出力するビデオカメラ、 フレームに同期して前記点光源を駆動する駆動手段、 前記ビデオカメラからの映像信号の走査線情報に基づい
て当該フレーム内における前記光源の位置を検出する検
出手段、および前記映像信号における前記光源の画像の
大きさによって前記ビデオカメラから前記光源までの距
離を判別する判別手段を備える、位置認識装置。 - 【請求項9】前記判定手段は前記映像信号における前記
光源の画像の面積に基づいて前記距離を判定する、請求
項5記載の位置認識方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP8047155A JP2854831B2 (ja) | 1996-03-05 | 1996-03-05 | 三次元位置認識方法および装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP8047155A JP2854831B2 (ja) | 1996-03-05 | 1996-03-05 | 三次元位置認識方法および装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH09243325A JPH09243325A (ja) | 1997-09-19 |
JP2854831B2 true JP2854831B2 (ja) | 1999-02-10 |
Family
ID=12767205
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP8047155A Expired - Fee Related JP2854831B2 (ja) | 1996-03-05 | 1996-03-05 | 三次元位置認識方法および装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2854831B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4530011B2 (ja) | 2007-09-12 | 2010-08-25 | 富士ゼロックス株式会社 | 位置計測システム |
JP5045447B2 (ja) * | 2008-01-11 | 2012-10-10 | トヨタ自動車株式会社 | 位置情報取得装置、位置推定装置、及び移動体 |
JP2015095225A (ja) * | 2013-11-14 | 2015-05-18 | カシオ計算機株式会社 | 情報生成装置、情報生成方法、及び、情報生成プログラム |
CN107389694B (zh) * | 2017-08-28 | 2023-04-25 | 宁夏大学 | 一种多ccd摄像机同步信号采集装置与方法 |
-
1996
- 1996-03-05 JP JP8047155A patent/JP2854831B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH09243325A (ja) | 1997-09-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4687265B2 (ja) | 画像分析装置 | |
US20070098250A1 (en) | Man-machine interface based on 3-D positions of the human body | |
US5803810A (en) | Velocity-based command recognition technology | |
CN111353355B (zh) | 动作追踪系统及方法 | |
WO2004042548A1 (ja) | 運動検出装置 | |
KR101480410B1 (ko) | 디지털 영상 처리기에서 스포츠 자세 교정 장치 및 방법 | |
CN1897644A (zh) | 用于捕捉图像的方法和系统 | |
TWI610059B (zh) | 三維量測方法及應用其之三維量測裝置 | |
JP2003514298A (ja) | モーション・キャプチャ・データの捕捉方法 | |
WO2009061283A2 (en) | Human motion analysis system and method | |
CN111985393A (zh) | 一种纠正运动姿态的智能镜子及其运动姿态纠正方法 | |
JP3637226B2 (ja) | 動き検出方法、動き検出装置及び記録媒体 | |
CN111488775A (zh) | 注视度判断装置及方法 | |
JP2008288684A (ja) | 人物検出装置及びプログラム | |
US20090202180A1 (en) | Rotation independent face detection | |
JP2854831B2 (ja) | 三次元位置認識方法および装置 | |
WO2021192906A1 (ja) | 算出方法 | |
JP2002366958A (ja) | 画像認識方法および画像認識装置 | |
WO2021192908A1 (ja) | 追跡方法 | |
EP1410332B1 (en) | Method for automatic tracking of a moving body | |
JP2005031044A (ja) | 三次元誤差測定装置 | |
JP2784163B2 (ja) | 位置認識方法および装置 | |
JP7323234B2 (ja) | ガイド方法 | |
WO2021192907A1 (ja) | 出力方法 | |
KR20100060622A (ko) | 인체 자세 판별 시스템 및 그 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 19981110 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R370 | Written measure of declining of transfer procedure |
Free format text: JAPANESE INTERMEDIATE CODE: R370 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071120 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081120 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081120 Year of fee payment: 10 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091120 Year of fee payment: 11 |
|
LAPS | Cancellation because of no payment of annual fees |