JP3638569B2 - 3次元計測装置 - Google Patents
3次元計測装置 Download PDFInfo
- Publication number
- JP3638569B2 JP3638569B2 JP2002139975A JP2002139975A JP3638569B2 JP 3638569 B2 JP3638569 B2 JP 3638569B2 JP 2002139975 A JP2002139975 A JP 2002139975A JP 2002139975 A JP2002139975 A JP 2002139975A JP 3638569 B2 JP3638569 B2 JP 3638569B2
- Authority
- JP
- Japan
- Prior art keywords
- camera
- dimensional
- measurement
- slit
- laser
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、スリットレーザを照射して光切断面から物体の形状を測定する3次元計測装置に関する。
【0002】
【従来の技術】
産業ロボットなどでワークを処理するには、対象物の3次元位置や姿勢に関する情報を与える必要がある。従来、3次元位置・姿勢を測定する装置として、2台のCCDカメラを用いたステレオ計測装置や、1台のCCDカメラとレーザスリット投光器を組み合わせた光切断式3次元計測装置が用いられてきた。
ステレオ視計測装置では、2台のCCDカメラで得られた画像中の対象物の視差に基づいて3次元計測を行うので、2画像間の対応を取ることが可能なエッジやテクスチャが明確に存在することが前提となる。また、光切断式3次元計測装置では、スリットレーザが当たった部分しか3次元形状情報を得ることができないため、レーザが対象物に確実に当たっていることが前提となる。
【0003】
したがって、従来のステレオ計測装置では、2画像いずれについても特徴点となる点以外の位置については視差を算出することができないため、対象物における任意の部分について計測することができるわけではない。
また、光切断式3次元計測装置では、計測対象位置にレーザが確実に照射するように位置調整しなければならない。ところが、対象物の3次元形状は未知であるから、確実にレーザを当てるためには複数回の移動が必要になり、場合によってはタクトタイムが大きくなることがあった。
【0004】
なお、走査機構を用いてレーザスリットを走査しスリット画像を大量に取得して処理することにより距離画像を得る装置が実用化されているが、このような装置は複雑で高価である。さらに、対象物における計測位置が予め決められるような場合には、画像全体の3次元情報を生成して計測することは効率的でない。
また、たとえば特開平4−169805には、可視光による物体像を形成するTVカメラと物体の距離画像を形成する赤外レーザレーダを組み合わせて物体像上の画素に距離情報を付加するようにした3次元画像測定装置が開示されている。この装置は、TVカメラとレーザレーダの画角を同じにして画素毎の対応を取るため、装置構造と演算処理が複雑になる。
【0005】
【発明が解決しようとする課題】
そこで、本発明が解決しようとする課題は、対象とする部分を測定するために対象物体に対してセンサヘッドを移動させる必要が無く、センサヘッドを動かさないで複数の測定点について3次元位置測定が可能であり、さらに対象位置に対応可能な特徴点がない場合にも測定できるような、より簡単な構造を持ち情報処理が簡単な3次元計測装置を提供することである。
【0006】
【課題を解決するための手段】
上記課題を解決するため、本発明の3次元計測装置は、計測対象の2次元画像を得る第1カメラと、第1カメラのレンズの光学中心近傍を通る揺動軸の周りを表面が揺動するスキャニングミラーと、このスキャニングミラー表面の揺動軸位置にスリットレーザを投射するレーザスリット投光器と、光軸がスキャニングミラーで反射するスリットレーザ面に対して角度を持ちかつ光軸が計測対象に向くようになっている第2カメラと、第1カメラと第2カメラから出力される画像信号を用いて画像処理する画像処理装置を備えるものである。
【0007】
本発明の3次元計測装置は、第1カメラの画像に基づいて目的位置にスリットレーザが照射するときを判定し、この目的位置において第2カメラが撮像した画像信号を出力し、この出力画像信号とスリットレーザの位置に基づいて対象物の3次元形状を算定することを特徴とする。
ここで用いるカメラは、CCDカメラであってもよい。CCDカメラは扱いが簡単であり画像出力を直接取り込んでデジタル処理でき、しかも処理方法についてよく知られているので便利である。
このように、揺動スキャニングミラーによる振動スキャン方式を用いると、構造が単純で信頼性が高く、装置の小型化が可能である。
【0008】
本発明の3次元計測装置によれば、レーザを照射しない状態で第1カメラで測定対象を撮影して測定位置を確定し、その位置にスリット状レーザ光が対応するときに第1カメラと第2カメラで撮影する。
このとき、第1カメラの光学中心近傍を通る揺動軸の周りにスキャニングミラー表面が揺動するため、スリット状レーザ光は揺動軸を中心として放射状に測定対象に照射する。
したがって、スリット状レーザ光はいつでも第1カメラの2次元画像中に直線として表わされる。また、第2カメラは光切断面を側方から観察した画像を取得する。
【0009】
スリット状レーザ光の位相位置を知り、第2カメラのカメラパラメータを用いればスリット状レーザ光の照射点における3次元位置を求めることができる。なお、スリット状レーザ光が所定の位相位置に来たときに発生するトリガー信号に基づいて第1カメラと第2カメラで撮影を行い、スリット状レーザ光の位相に代えて第1カメラのカメラパラメータを用いてレーザ照射点の3次元位置を求めることもできる。第1カメラのカメラパラメータを使用する場合は、場合場合で変化する照射レーザ面についてプロジェクタパラメータを求める必要がないので、演算がより簡単になる。
【0010】
本発明の装置では、計測位置がセンサヘッドの直下になくても、スリット状レーザ光を反射するスキャニングミラーの角度を変化させることにより、3次元位置計測をすることができるので、センサヘッドを移動させる必要がない。また、センサヘッドを移動させなくても複数の位置における3次元計測が可能である。このように、従来装置で行われる不要な位置の計測を省いて目的とする部分のみ計測すればよいので効率が向上する。
【0011】
また、従来のステレオ計測では特徴点が抽出できないため計測できなかった曲面形状など、特徴に乏しい形状についても3角法に基づいた3次元計測が可能である。
なお、第1カメラで撮影した測定対象の画像から対象物体の反射率を求めて、求めた反射率に基づいて、スリット状レーザ光を照射して撮影するときのカメラの露光時間を制御して、最適な光切断像を得るようにすることができる。
【0012】
【発明の実施の形態】
以下実施例を用いて本発明を詳細に説明する。
図1は、本発明の1実施例における3次元計測装置のセンサヘッド部を示す構成図、図2は本実施例の3次元計測装置を示すブロック図、図3は本実施例の3次元計測装置における処理フロー図、図4は本実施例のカメラにおける取得画像の例を示す図面である。
【0013】
本実施例の3次元計測装置は、センサヘッド10とコントローラ8から構成され、センサヘッド10には、2個のCCDカメラ1,4とレーザ投光器3とスキャニングミラー2が設けられている。
第1のCCDカメラ1は、計測対象の2D画像を取得するものである。スキャニングミラー2は揺動軸6の周りに揺動してレーザ光の反射方向を変化させる。揺動軸6は第1CCDカメラ1の光学レンズ系5の主点を通るように構成され、ミラー反射面が揺動軸6を含む面に存在するようになっている。
【0014】
レーザ投光器3は発生するレーザ光を円柱レンズなどによってスリット状に形成し、スリット状レーザ光をスキャニングミラー2の揺動軸6に沿って入射させ、反射したスリット状レーザ光7が計測面を走査するようになっている。
スキャニングミラー2の揺動角度値はアナログ信号またはデジタル信号で出力されていて、スリット状レーザ光7の照射方向はいつでも把握することができる。
第2のCCDカメラ4は、光軸が計測対象に向くように設置されている。光軸はスリット状レーザ光7に対して適当な角度を有し、レーザ照射中に撮影するとレーザ光による光切断面を側方から見た画像を取得することができる。
【0015】
コントローラ8は、インターフェース9を介してスキャニングミラー2からのミラー角度情報を取り込み、適切なトリガー信号を第1カメラ1、第2カメラ4、レーザ投光器3に与える。
第1カメラ1と第2カメラ4が生成する画像信号を入力する画像処理装置11が備えられていて、それぞれの画像処理を行い、これらを統合して3次元形状の計測を行う。計測結果は表示装置12に分かりやすく表示する。
【0016】
対象物体の2次元計測を行うときは、図3のフロー図に従って、初めに、レーザ投光器3の出力を遮断した状態で第1カメラ1で比較的長時間露光させて対象物体の映像を取得し、画像処理により対象物体を検出し、3次元的測定を行う位置を決定する(S1)。このときの第1カメラ1の取得する画面は、たとえば図4の左側の画面21のような対象物体の鳥瞰図になっている。第1カメラの取得した画像から測定対象を抽出するためには、パターンマッチング、その他の特徴量抽出処理など、公知の2次元画像処理方法を利用することができる。
【0017】
スリット状レーザ光7は第1カメラ1の光学系5の主点を通る揺動軸6を中心として放射されるため、スリット状レーザ光7の面は第1カメラ1の視線方向と一致する。したがって、対象物上の照射線は表面の凹凸に依存せず画像中で直線として表れることになる。このような第1カメラ1とスキャニングミラー2の位置関係から、対象物の測定したい位置を決めれば、その位置をスリット状レーザ光7が走査するときのスキャニングミラー2の角度を簡単に算定することができる。
【0018】
画像処理装置11は、測定対象の測定位置を抽出してその位置にスリット状レーザ光7を照射するときのスキャニングミラー2の角度を算出して(S2)、コントローラ8に伝送する。
また、第1カメラ1の画像を解析して、測定位置にある物体の反射状態を推定し、レーザ光が当たったときに取得する画像が適当なコントラストを持つように第1カメラ1と第2カメラ4のシャッタ速度を設定する。
【0019】
次に、レーザ投光器3を作動させてスリット状レーザ光7のスキャンを開始する。
コントローラ8は、スキャニングミラー2からの角度信号を入力していて、所定の角度値になったときに、第1カメラ1と第2カメラ4に撮影トリガ信号を送る(S3)。
第1カメラ1と第2カメラ4は、撮影トリガ信号を受けた瞬間の画像を画像処理装置11に送付する(S4)。
【0020】
第1カメラ1の映像は、図4の参照番号22に示す画面のように、スリット状レーザ光7の照射位置が直線状に現れている。一方、第2カメラ4の映像は参照番号23に示すように、光切断面を斜め上方から観察した状況が映し出されていて、対象物の輪郭情報が表されている。
画像処理装置11は、第1カメラ1と第2カメラ4の画像信号を取り込んで、取り込み画像についてエピポーラ拘束に基づく対応点探索をすることによりステレオ処理して、スリット状レーザ光7が当たっている対象点の3次元位置を算定する(S5)。
【0021】
なお、それぞれのカメラについてカメラパラメータを求めておけば、画像中の点についてその点を含む3次元視線方程式が求められるので、2個のカメラの画像を用いることにより、対象点の3次元位置座標を得ることができる。この方法は2個のカメラパラメータを取得しておけばよく、角度毎に異なるスリット状レーザのプロジェクターパラメータを求める必要がないため、演算が容易である。また、本方式によればパターン認識処理が1度で済み、計算負荷が非常に小さい。
【0022】
さらにまた、スキャニングミラー2は、反射面の角度を出力するようにしてあるため、必ずしも精密な機構を用いる必要が無く構造が簡単で信頼性が高くしかも小型な振動スキャナーを利用することができる。なお、ミラーの角度信号は、角度検出器により発生させてもよいが、従来装置に特別な機器を付属させることなく、たとえばミラー振動の向きの変換時点からの時間経過に基づいて発生させる方式などにより簡単に発生させることも可能である。
【0023】
本実施例の3次元計測装置は、第1カメラ1の画面から測定対象点を抽出してその位置にスリット状レーザ光7が当たるときの角度を検出して同時に2個のカメラで撮影し、それらの映像信号に基づいて計測をする。したがって、3次元位置情報を得る必要がない部分について測定を行う必要がない。また、スリット状レーザ光7は第1カメラの視野内をスキャニングするため、計測対象がスキャニング領域に含まれている限りセンサヘッドを移動する必要が無い。
また、従来のステレオ計測で必要とされるようなそれぞれの画面中に画像処理により検出できるような特徴を持たない点であっても計測点を指定して計測することができるので、曲面や平面などを対象とした3次元計測も実施できる。
【0024】
従来型式の光切断式3次元計測装置は、自動車製造ラインにおける蓋物取り付け工程などで利用されているが、スリット状レーザ光の向きがセンサヘッドに対して固定されているため、センサヘッドを固定して用いるときは同一ポイントしか測定することができず、測定の信頼性が低かった。
一方、本実施例の3次元計測装置では、ラインに対して固定されていても、スリット状レーザ光が測定対象を走査するので、複数のポイントで計測することができ、局所的な外乱に影響を受けにくい信頼性の高い3次元計測が可能になる。
また、ボディ穴の位置計測を行う場合には、従来はボディ穴が円形であることを前提として、互いに直交する2本のスリット状レーザ光を対象に照射して端点位置を検出し、これら端点位置から穴の重心と穴表面の法線方向を算出していた。しかし、本実施例の装置を用いれば、第1カメラの画像から計測対象点を選択することができるので、円形以外の穴であっても自由に3次元計測を行うことができる。
【0025】
ピッキングロボットにおいて、ピッキングポイントの3次元位置を正確に検出するため、カメラにより広視野画面を取得して対象物を特定した後に、ロボットの手先に付けた高精度な3次元計測装置を対象に近づけて精査する方法がある。しかし、スリット状レーザ光がセンサヘッドに固定される場合は、計測位置にレーザ光が当たるまでロボットの手先位置を移動する探り動作が必要になる。
本実施例の3次元計測装置を用いれば、第1カメラで取得した画像中の指定した座標にスリット状レーザ光が照射したときに撮影して計測するので、従来の探り動作が不要となり、タクトタイムを減らした実用的なシステムを構築することができる。
【0026】
曲面形状を有するワークを測定する場合に、従来のスリット状レーザ光が固定される3次元計測装置を用いると、1カ所では1本のスリットに沿った3次元情報しか得ることができない。したがって、面的な広がりについて計測するためには、ワークあるいはセンサを移動させて隣接位置の測定を多数回繰り返す必要があった。
本実施例の3次元計測装置はスリット状レーザ光を走査するので、カメラが取得する1枚の画像中であれば、センサやワークを移動しなくても角度を変えて複数回撮影した結果を用いて広範囲の面情報を取得することができる。
なお、1枚の画像から外れるほど広い範囲について計測する場合でも、1カ所で計測できる範囲が広いため、従来法と比較して計測時間を大幅に短縮することができ、極めて効率的に計測を行うことができる。
【0027】
ロボットにより複数の部品の組み立て作業を行う場合、センサは複数種類のワークを識別して認識した上で把持位置や挿入位置などを計測する必要がある。従来型式の3次元計測装置でも、視野の大きさを複数の部品に対応できるように設定することができるが、露出やレーザ照射位置を調整できないため、多様な部品について認識したり位置決めを可能にすることが困難であった。
本実施例の3次元計測装置を用いれば、初めの第1カメラ撮影画面に基づいて対象部品毎に適当な露出時間制御を行うことができ、またレーザ照射位置を自在に変化させることができるので、複数種類の部品を1台のセンサで認識することができる。このように、本実施例の装置は、知的作業ロボットのハンドアイセンサとして使用することができる。
【0028】
【発明の効果】
以上説明した通り、本発明の3次元計測装置は、簡単な構造を有し信頼性が高く小型でありながら、任意点の3次元情報を簡単に取得することができ、しかもエッジやテクチャーなどの特徴を持たない曲面などを対象とした計測も可能で、ロボットのセンサなど広い分野に利用することができる。
【図面の簡単な説明】
【図1】本発明の1実施例における3次元計測装置のセンサヘッド部を示す構成図である。
【図2】本実施例の3次元計測装置を示すブロック図である。
【図3】本実施例の3次元計測装置における処理フロー図である。
【図4】本実施例のカメラにおける取得画像の例を示す図面である。
【符号の説明】
1 第1カメラ
2 スキャニングミラー
3 レーザ投光器
4 第2カメラ
5 光学レンズ系
10 センサヘッド
6 揺動軸
7 スリット状レーザ光
8 コントローラ
9 インターフェース
11 画像処理装置
12 表示装置
21,22,23 カメラ撮像画面
Claims (4)
- 計測対象の2次元画像を得る第1カメラと、該第1カメラのレンズの光学中心近傍を通る揺動軸の周りを表面が揺動するスキャニングミラーと、該スキャニングミラー表面の揺動軸位置にスリットレーザを投射するレーザスリット投光器と、光軸が前記スキャニングミラーで反射するスリットレーザ面に対して角度を持って前記計測対象に向くようになっている第2カメラと、前記第1カメラと第2カメラから出力される画像信号を用いて画像処理する画像処理装置を備え、該画像処理装置が、前記第1カメラが取得した前記2次元画像から測定位置を確定し、該目的位置に前記スリットレーザが照射するときを判定し、この目的位置に前記スリットレーザが照射するときにおいて前記第2カメラが撮像した画像信号を入力し、該第2カメラの出力画像信号と前記スリットレーザの位置に基づいて対象物の3次元形状を算定することを特徴とする3次元計測装置。
- 前記第1カメラの画像信号に基づいて前記計測対象の反射率を推定し、推定した前記反射率に基づいて前記第2カメラの露光制御を行うことを特徴とする請求項1記載の3次元計測装置。
- 前記目的位置に前記スリットレーザが照射するときに前記第1および第2カメラで画像を取得し、該画像に基づいて前記対象物の3次元形状を第1カメラと第2カメラのカメラパラメータを使用して算定することを特徴とする請求項1または2記載の3次元計測装置。
- 前記第1カメラと第2カメラはCCDカメラであることを特徴とする請求項1から3のいずれかに記載の3次元計測装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002139975A JP3638569B2 (ja) | 2002-05-15 | 2002-05-15 | 3次元計測装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002139975A JP3638569B2 (ja) | 2002-05-15 | 2002-05-15 | 3次元計測装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003329418A JP2003329418A (ja) | 2003-11-19 |
JP3638569B2 true JP3638569B2 (ja) | 2005-04-13 |
Family
ID=29700966
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002139975A Expired - Fee Related JP3638569B2 (ja) | 2002-05-15 | 2002-05-15 | 3次元計測装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3638569B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4839858B2 (ja) * | 2006-01-26 | 2011-12-21 | 富士ゼロックス株式会社 | 遠隔指示システム及び遠隔指示方法 |
JP2007225403A (ja) * | 2006-02-22 | 2007-09-06 | Purex:Kk | 距離計測装置の調整機構およびそれを備えた立体形状認識システム |
JP5187878B2 (ja) * | 2007-01-31 | 2013-04-24 | 国立大学法人 東京大学 | 物体測定システム |
KR101163206B1 (ko) | 2010-08-19 | 2012-07-05 | 한국철도기술연구원 | 레이저 조사와 영상촬영을 이용한 3차원 시추공 스캐닝 장치 |
TW201241412A (en) * | 2011-03-31 | 2012-10-16 | Toray Eng Co Ltd | Device and method for measuring height of protrusions |
CN105043962B (zh) * | 2015-04-24 | 2017-10-31 | 山西云冈数字科技有限公司 | 一种定量测量砂岩质文物表面风化速度的方法 |
CN106091923A (zh) * | 2016-05-30 | 2016-11-09 | 武汉理工大学 | 基于三维激光扫描技术的工业螺栓圆孔的中心点快速测定方法 |
WO2020262389A1 (ja) * | 2019-06-28 | 2020-12-30 | キヤノン株式会社 | 計測装置、撮像装置、計測システム、制御方法及びプログラム |
-
2002
- 2002-05-15 JP JP2002139975A patent/JP3638569B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003329418A (ja) | 2003-11-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11629955B2 (en) | Dual-resolution 3D scanner and method of using | |
EP1996010B1 (en) | Time of flight teat location system | |
US9170097B2 (en) | Hybrid system | |
JP4226550B2 (ja) | 光学式マーカーを用いた三次元測定データ自動整列装置及びその方法 | |
WO2017146202A1 (ja) | 三次元形状データおよびテクスチャ情報生成システム、撮影制御プログラム、及び三次元形状データおよびテクスチャ情報生成方法 | |
JP2003130621A (ja) | 3次元形状計測方法およびその装置 | |
JP2008241643A (ja) | 3次元形状測定装置 | |
JP3638569B2 (ja) | 3次元計測装置 | |
JP2007093412A (ja) | 3次元形状測定装置 | |
EP3839418A1 (en) | Optical sensor with overview camera | |
JP3398657B2 (ja) | 溶接用センサ | |
US11350077B2 (en) | Handheld three dimensional scanner with an autoaperture | |
WO2005100910A1 (ja) | 3次元形状計測方法及びその装置 | |
KR20170031901A (ko) | 고속 스캐닝 장치를 이용한 스캐닝 방법 | |
JP7377221B2 (ja) | 干渉測定装置のビーム配向ユニットのためのアラインメント方法及びレーザ照射を用いて干渉測定を実施するための測定装置 | |
JP3941631B2 (ja) | 三次元撮像装置および方法 | |
JP4918675B2 (ja) | 3次元座標測定方法 | |
JP2010190793A (ja) | 距離計測装置及び距離計測方法 | |
JPH0820207B2 (ja) | 光学式3次元位置計測方法 | |
KR20150136036A (ko) | 3차원 스캐닝 방법 및 스캐너 장치 | |
JP2004085467A (ja) | 三次元計測装置 | |
JP2021152525A (ja) | 計測装置、計測方法、移動体、ロボット、電子機器及び造形装置 | |
JP2024007646A (ja) | 多視点型ラインセンシング法による3次元計測装置 | |
KR20150032446A (ko) | 3차원 스캐닝 방법 및 스캐너 장치 | |
JPH09273931A (ja) | 測量方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040402 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041005 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041124 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050111 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050111 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 3638569 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090121 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100121 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110121 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120121 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120121 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130121 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130121 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140121 Year of fee payment: 9 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140121 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |