JPH1047920A - Calibration method - Google Patents

Calibration method

Info

Publication number
JPH1047920A
JPH1047920A JP8208225A JP20822596A JPH1047920A JP H1047920 A JPH1047920 A JP H1047920A JP 8208225 A JP8208225 A JP 8208225A JP 20822596 A JP20822596 A JP 20822596A JP H1047920 A JPH1047920 A JP H1047920A
Authority
JP
Japan
Prior art keywords
distance image
value
pixel
image
calibration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP8208225A
Other languages
Japanese (ja)
Other versions
JP3453734B2 (en
Inventor
Shozo Hirose
尚三 廣瀬
Motohide Yasukawa
元英 安川
Kosuke Sato
宏介 佐藤
Takayuki Kataoka
隆之 片岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Ogis Ri Co Ltd
Original Assignee
Komatsu Ltd
Ogis Ri Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd, Ogis Ri Co Ltd filed Critical Komatsu Ltd
Priority to JP20822596A priority Critical patent/JP3453734B2/en
Priority to PCT/JP1997/002752 priority patent/WO1998005922A1/en
Publication of JPH1047920A publication Critical patent/JPH1047920A/en
Application granted granted Critical
Publication of JP3453734B2 publication Critical patent/JP3453734B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a calibration method wherein higher precision can be attained by removing errors to be caused by binarizing process. SOLUTION: A distance image at each moving point when a measurement plate 1, as a calibration object, is moved by yaw rotation, pitch rotation and back and forth movement against a 3-dimension visual sensor 4, is obtained with the 3-dimension visual sensor 4, and the obtained distance image is processed for the providing 3-dimension coordinate value of each pixel for each distance image, so that a calibration value is obtained from the obtained 3-dimension coordinate value.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、カメラ等の撮像手
段により被測定物の三次元位置を計測するのに必要とさ
れる三次元計測装置におけるキャリブレーション方法に
関するものである。
[0001] 1. Field of the Invention [0002] The present invention relates to a calibration method in a three-dimensional measuring device required for measuring a three-dimensional position of an object to be measured by an imaging means such as a camera.

【0002】[0002]

【従来の技術】従来、この種の三次元計測装置における
キャリブレーション方法として、図19に示される方法
が知られている(例えば特開平5−248819号公報
参照)。この方法は、較正用対象物として座標を示す方
眼線51(もしくは多数の点)が刻まれた測定板52を
用い、この測定板52を制御装置53によって前後に移
動させながら三次元視覚センサ54によって方眼線51
を認識してコンピュータ55で処理することによって較
正データを得るものである。この場合、方眼線51を認
識するに際し、二値化処理と称する画像処理手法が用い
られる。
2. Description of the Related Art Conventionally, a method shown in FIG. 19 has been known as a calibration method in a three-dimensional measuring apparatus of this kind (for example, see Japanese Patent Application Laid-Open No. 5-248819). This method uses a measurement plate 52 on which a grid line 51 (or a number of points) indicating coordinates is engraved as a calibration target, and moves the measurement plate 52 back and forth by a control device 53 while using a three-dimensional visual sensor 54. Grid lines 51
Is recognized and processed by the computer 55 to obtain calibration data. In this case, when recognizing the grid line 51, an image processing method called a binarization process is used.

【0003】[0003]

【発明が解決しようとする課題】しかしながら、前述さ
れている従来のキャリブレーション方法では、方眼線5
1を画像処理により抽出する際に、この方眼線51が光
の環境によってかすれて綺麗に抽出できなかったり、あ
るいは方眼線51の中心が抽出できずに偏った線を抽出
してしまい、この結果得られた座標値が正確な位置から
ずれてしまって精度の良いキャリブレーションが行えな
いという問題点があった。
However, in the conventional calibration method described above, the grid lines 5
When extracting 1 by image processing, the grid lines 51 are blurred due to the light environment and cannot be extracted neatly, or the center of the grid lines 51 cannot be extracted and a biased line is extracted. There is a problem in that accurate coordinate cannot be performed due to the deviation of the given coordinate value from the correct position.

【0004】本発明は、このような問題点を解消するた
めになされたもので、二値化処理による誤差を除去して
高精度化を図ることのできるキャリブレーション方法を
提供することを目的とするものである。
The present invention has been made to solve such a problem, and an object of the present invention is to provide a calibration method capable of removing errors due to a binarization process and achieving high accuracy. Is what you do.

【0005】[0005]

【課題を解決するための手段および作用・効果】前述の
目的を達成するために、本発明によるキャリブレーショ
ン方法は、投光手段により被測定物の表面に光を照射し
てその反射光を撮像手段により撮像し、この撮像される
反射光の情報から三角測量の原理に基づき前記被測定物
の位置を計測する三次元計測装置におけるキャリブレー
ション方法であって、較正用対象物を前記撮像手段に対
してヨー回転,ピッチ回転および前後移動させたときの
各移動点での距離画像を前記撮像手段にて撮像し、この
撮像された距離画像を処理して各画素の前記距離画像毎
の三次元座標値を求め、この求められる三次元座標値よ
り較正値を得ることを特徴とするものである。
In order to achieve the above-mentioned object, a calibration method according to the present invention is directed to a method of irradiating a surface of an object to be measured with light by a light projecting means and imaging a reflected light thereof. Means for measuring the position of the object to be measured based on the principle of triangulation from the information of the reflected light to be imaged. On the other hand, a distance image at each moving point when the yaw rotation, the pitch rotation, and the forward / backward movement are performed is captured by the imaging unit, and the captured distance image is processed, and the three-dimensional image of each pixel for each distance image is processed. A coordinate value is obtained, and a calibration value is obtained from the obtained three-dimensional coordinate value.

【0006】本発明のキャリブレーション方法において
は、例えば測定板のような較正用対象物をカメラ等の撮
像手段に対して一定量ずつヨー回転,ピッチ回転もしく
は前後移動させながら、各移動点での距離画像が撮像手
段にて取得される。そして、この取得された距離画像が
処理されることによって各画素のその距離画像毎の三次
元座標値が求められ、この求められる三次元座標値より
較正値が得られる。
In the calibration method of the present invention, for example, a calibration object such as a measurement plate is yaw-rotated, pitch-rotated or moved back and forth by a fixed amount with respect to an image pickup means such as a camera at each moving point. A distance image is obtained by the imaging means. Then, by processing the acquired distance image, a three-dimensional coordinate value of each pixel for each distance image is obtained, and a calibration value is obtained from the obtained three-dimensional coordinate value.

【0007】本発明によれば、較正用対象物の回転およ
び前後移動によって各画素の明暗情報と置き換えられた
256段階の距離情報と三次元座標値との対応表(ルッ
クアップテーブル)が作成されるので、従来の方眼線を
画像処理により抽出するものにおけるような二値化処理
による誤差の発生を排除することができ、高精度のキャ
リブレーションを実現することができる。
According to the present invention, a correspondence table (look-up table) between 256-step distance information replaced with light / dark information of each pixel by rotating and moving the calibration object back and forth and a three-dimensional coordinate value is created. Therefore, it is possible to eliminate the occurrence of an error due to the binarization processing as in the conventional extraction of the grid lines by image processing, and it is possible to realize highly accurate calibration.

【0008】本発明においては、前記撮像手段により撮
像された距離画像を処理するに際し、一つの画像につい
て特定の画素の周囲のメディアン値をその画素の距離画
像として設定するとともに、こうして得られる距離画像
を各位置で複数回設定しそれら複数回のメディアン値を
その画素の距離画像の補正値として設定するのが好まし
い。こうすることで、較正用対象物の表面の乱反射等に
よって取得画像の画素値が歪んだ場合でも、ノイズを除
去して取得画像のスムージング処理を行うことができ、
より高精度なキャリブレーションを行うことが可能とな
る。
In the present invention, when processing a distance image picked up by the image pickup means, a median value around a specific pixel for one image is set as a distance image of that pixel, and the distance image obtained in this way is set. Is preferably set a plurality of times at each position, and the median values of the plurality of times are set as correction values of the distance image of the pixel. By doing so, even if the pixel value of the acquired image is distorted due to irregular reflection on the surface of the calibration target, noise can be removed and the acquired image can be smoothed.
Calibration with higher accuracy can be performed.

【0009】[0009]

【発明の実施の形態】次に、本発明によるキャリブレー
ション方法の具体的実施例につき、図面を参照しつつ説
明する。
Next, a specific embodiment of the calibration method according to the present invention will be described with reference to the drawings.

【0010】図1に、本発明の一実施例に係る三次元計
測装置のシステム構成図が示されている。本実施例の三
次元計測装置は、無地の平板により構成される較正用対
象物としての測定板1と、この測定板1を所望位置に移
動させる測定板移動装置2と、この測定板移動装置2を
制御する測定板制御装置3と、前記測定板1に対位して
設けられる三次元視覚センサ4と、前記測定板制御装置
3を制御するとともに前記測定板1の移動位置に応じて
前記三次元視覚センサ4により取得された距離画像を保
存・処理するコンピュータ5とを備えている。
FIG. 1 shows a system configuration diagram of a three-dimensional measuring apparatus according to one embodiment of the present invention. The three-dimensional measuring apparatus according to the present embodiment includes a measuring plate 1 as a calibration target constituted by a plain plate, a measuring plate moving device 2 for moving the measuring plate 1 to a desired position, and a measuring plate moving device. 2, a three-dimensional visual sensor 4 provided to face the measuring plate 1, and a control device for controlling the measuring plate control device 3 according to the moving position of the measuring plate 1. A computer 5 for storing and processing the distance image acquired by the three-dimensional visual sensor 4;

【0011】前記測定板移動装置2は、直動スライダ2
aと、この直動スライダ2a上に回転テーブル2bを介
して設けられるゴニオ回転装置2cとを備え、これによ
って測定板1が三次元視覚センサ4に対してヨー回転
(上下回転軸回りの回転),ピッチ回転(水平回転軸回
りの回転)および前後移動可能に構成されている。ま
た、前記三次元視覚センサ4は、測定板1の表面にレー
ザ光(コード化パターン光)を照射するレーザ照射部
と、この測定板1の表面からの反射光を撮像する撮像手
段としてのCCDカメラとを備え、このCCDカメラに
より取得された画像がコンピュータ5に送られるように
なっている。こうして、コンピュータ5からの制御信号
に基づいて測定板1を一定量ずつ移動させながら各移動
点での距離画像が三次元視覚センサ4にて取得される。
The measuring plate moving device 2 includes a linear motion slider 2
a, and a gonio rotating device 2c provided on the linear motion slider 2a via a rotary table 2b, whereby the measuring plate 1 is rotated in yaw with respect to the three-dimensional visual sensor 4 (rotation about a vertical rotation axis). , Pitch rotation (rotation about a horizontal rotation axis) and forward / backward movement. The three-dimensional visual sensor 4 includes a laser irradiator that irradiates the surface of the measurement plate 1 with laser light (coded pattern light), and a CCD as an imaging unit that captures light reflected from the surface of the measurement plate 1. A camera is provided, and an image obtained by the CCD camera is sent to the computer 5. Thus, the distance image at each moving point is acquired by the three-dimensional vision sensor 4 while moving the measuring plate 1 by a fixed amount based on the control signal from the computer 5.

【0012】この三次元視覚センサ4は、当該三次元視
覚センサ4と測定板1との遠近距離を、近いところは明
るく、遠いところは暗く表示するというように明暗情報
に置き換えて出力する。そして、この明暗を示す値が実
際にはどのような三次元座標に対応するかがキャリブレ
ーションを実施することによって教示される。
The three-dimensional visual sensor 4 converts the distance between the three-dimensional visual sensor 4 and the measuring plate 1 into bright and dark information such that the near area is bright and the far area is dark, and is output. Then, what three-dimensional coordinates actually correspond to the value indicating the brightness is taught by performing the calibration.

【0013】次に、本実施例におけるキャリブレーショ
ン方法を図15乃至図18を参照しつつ、図2乃至図1
4に示されるフローチャートにしたがって説明する。
Next, the calibration method according to the present embodiment will be described with reference to FIGS.
The description will be made according to the flowchart shown in FIG.

【0014】まず、X方向の位置データを格納するX方
向のルックアップテーブルを作成するためのフローを図
2乃至図6によって説明する。
First, a flow for creating an X-direction lookup table for storing X-direction position data will be described with reference to FIGS.

【0015】S1:三次元視覚センサ4に対して測定板
1の移動軸の全軸、言い換えれば上下回転軸(Y軸),
水平回転軸(X軸)および前後移動軸(Z軸)の各軸を
測定基準としての原点に移動させる。 S2:X方向の距離画像データを取得するために、図1
5(a)に示されるように、三次元視覚センサ4に対し
て測定板1を上下回転軸まわりに+30°すなわち鉛直
に+30°の角度をつけて設置する。
S1: All axes of the movement axis of the measurement plate 1 with respect to the three-dimensional visual sensor 4, in other words, a vertical rotation axis (Y axis),
Each axis of the horizontal rotation axis (X axis) and the longitudinal movement axis (Z axis) is moved to the origin as a measurement reference. S2: In order to acquire distance image data in the X direction, FIG.
As shown in FIG. 5A, the measuring plate 1 is set at an angle of + 30 ° around the vertical rotation axis, that is, at an angle of + 30 ° vertically with respect to the three-dimensional visual sensor 4.

【0016】S3〜S5:三次元視覚センサ4のCCD
カメラにより測定板1の距離画像データを取得し、この
取得画像を、測定板1の表面の反射等によるノイズを除
去するためにメディアンフィルタ(平滑化フィルタ)に
より補正する。なお、このメディアンフィルタは、計測
すべき画素の濃度値をその画素の近傍領域(例えば3×
3)のメディアン値(中央値)によって置き換えるもの
である。そして、この処理は各位置での画像を3回取得
するまで繰り返される。
S3 to S5: CCD of three-dimensional visual sensor 4
The distance image data of the measuring plate 1 is acquired by a camera, and the acquired image is corrected by a median filter (smoothing filter) in order to remove noise due to reflection on the surface of the measuring plate 1 or the like. Note that this median filter determines the density value of a pixel to be measured in a region near the pixel (for example, 3 ×
It is replaced by the median value (median value) of 3). This process is repeated until the image at each position is acquired three times.

【0017】S6〜S7:各位置で3回の距離画像が取
得されると、同一画素の値を比較してそのメディアン値
(中央値)を求め、このメディアン値を最終的な距離画
像として設定する。この後、この得られた距離画像をコ
ンピュータ5内の記憶装置における距離画像ファイルに
書き込む。
S6 to S7: When three distance images are obtained at each position, the values of the same pixels are compared to obtain the median value (median value), and this median value is set as the final distance image. I do. Thereafter, the obtained distance image is written to a distance image file in a storage device in the computer 5.

【0018】S8〜S9:測定板1の前後位置を一定ピ
ッチ(例えば0.1mm)だけ後方にずらせて前述と同
様にして距離画像データを取得し、このデータの取得を
全距離画像ファイル分(1500回)繰り返してX軸の
正回転時の距離画像ファイルxp0.ckd〜xp14
99.ckdに書き込む。こうして、例えば75mm〜
125mmの測定範囲におけるX軸の正回転時の全ての
距離画像データを取得する。
S8-S9: Distance image data is obtained in the same manner as described above by shifting the front and rear position of the measurement plate 1 backward by a fixed pitch (for example, 0.1 mm), and this data is obtained for the entire distance image file ( 1500 times) The distance image file xp0. ckd to xp14
99. Write to ckd. Thus, for example,
All the distance image data at the time of the normal rotation of the X axis in the measurement range of 125 mm is acquired.

【0019】S10〜S11:次に、図15(b)に示
されるように、三次元視覚センサ4に対して測定板1を
鉛直に−30°の角度をつけて設置するとともに、この
測定板1を前後方向に原点位置まで戻す。
S10 to S11: Next, as shown in FIG. 15 (b), the measuring plate 1 is set vertically at an angle of -30.degree. 1 is returned to the origin position in the front-back direction.

【0020】S12〜S18:前述のS3〜S9と同様
の処理を行って、例えば75mm〜125mmの測定範
囲におけるX軸の負回転時の全ての距離画像データを取
得し、この取得データをX軸の負回転時の距離画像ファ
イルxn0.kmt〜xn1499.kmtに書き込
む。
S12 to S18: The same processing as in the above S3 to S9 is performed to acquire all the distance image data at the time of the negative rotation of the X axis in the measurement range of, for example, 75 mm to 125 mm. Of the distance image file xn0. kmt to xn1499. Write to kmt.

【0021】S19:X方向のルックアップテーブルを
作成するために、まず初期設定を行う。この初期設定に
おいては、ルックアップテーブルのX座標を示すlut
- x(X軸の正回転時)およびlut- w(X軸の負回
転時)に不定値を設定する。 S20〜S22:前述のようにして作成されたX軸の正
回転時の距離画像ファイルxp0.kmtからxp14
99.kmtを読み込む。
S19: Initial settings are made to create a lookup table in the X direction. In this initial setting, lut indicating the X coordinate of the lookup table is used.
- (during forward rotation of the X-axis) x and lut - sets the indeterminate value w (when the negative rotation of the X axis). S20 to S22: Distance image file xp0.x during normal rotation of the X-axis created as described above. kmt to xp14
99. Read kmt.

【0022】S23〜S26:測定板1の設置の仕方に
よっては得られる距離画像データに切れ目が存在してそ
のデータがノイズとなるために、このノイズを排除する
ための処理を行う。すなわち、まず距離画像i×j
(i;256画素,j;242画素)の各画素毎に一つ
前の画像データと比較し、例えば画像データxp10.
kmtのn行m列の画素の値とその一つ前の位置の画像
データxp.kmtの同じくn行m列の画素の値とを比
較し、その画素が先頭から50mm以内にあり、かつ前
後の画素の値の差が128以上である場合、このデータ
を無効にするためにその画素の位置のlut- x[m]
[n][0]〜lut- x[m][n][255]の値
を不定値にする。 S27〜S28:画素値のlut- xの値が不定値であ
るとき、その画素のlut- xに読み込んだファイルを
撮り込んだ時の移動距離を設定する。ここでは、ファイ
ルのxpα.kmtのαの部分がファイルの順を表し、
このファイル番号のαに0.1を掛けると移動量になる
(α×0.1mm)。これにより、各画素の最初に現れ
たコード値の位置がlut- xに記憶される。
S23 to S26: There is a gap in the distance image data obtained depending on how the measuring plate 1 is installed, and the data becomes noise, so a process for eliminating this noise is performed. That is, first, the distance image i × j
(I; 256 pixels, j; 242 pixels) are compared with the previous image data for each pixel, and for example, the image data xp10.
kmt and the value of the image data xp. The value of the pixel of the same n rows and m columns of kmt is compared, and if the pixel is within 50 mm from the head and the difference between the values of the preceding and following pixels is 128 or more, the data is invalidated to invalidate this data. Lut - x [m] of pixel position
The values of [n] [0] to lut - x [m] [n] [255] are set to undefined values. S27 to S28: When the value of the pixel value lut - x is an indefinite value, the moving distance when the file read in lut - x of the pixel is captured is set. Here, the file xpa. The α part of kmt indicates the order of the file,
When the file number α is multiplied by 0.1, the movement amount is obtained (α × 0.1 mm). As a result, the position of the first appearing code value of each pixel is stored in lut - x.

【0023】S29:i;256画素,j;242画素
の全ての画素についてS23〜S28の処理を行う。 S30:全ての距離画像ファイルxp0.kmt〜xp
1499.kmtについて処理がなされたか否かを確認
する。
S29: The processing of S23 to S28 is performed for all pixels of i; 256 pixels, j; 242 pixels. S30: All distance image files xp0. kmt to xp
1499. It is confirmed whether or not processing has been performed for kmt.

【0024】S31〜S41:X軸の負回転時の距離画
像ファイルxn0.kmt〜xn1499.kmtにつ
いて、前述のX軸の正回転時の距離画像ファイルxp
0.kmt〜xp1499.kmtにおける処理(S2
0〜S28)と同様の処理を行って、各画素のlut-
wに読み込んだ画素位置を設定する。
S31 to S41: Distance image file xn0. kmt to xn1499. kmt, the distance image file xp at the time of the normal rotation of the X axis described above.
0. kmt to xp1499. kmt (S2
0 to S28) to perform lut
Set the read pixel position in w.

【0025】S42〜S49:各画素の画素のもつ値
(Z;0〜255)について、X軸正回転時における初
期位置からのZ軸方向の相対距離をip=lut-
[i][j][z]およびX軸負回転時における初期位
置からのZ軸方向の相対距離in=lut- w[j]
[i][z]として、指定画素値が最初に見つかった位
置をそれらipおよびinに設定する。そして、これら
ipおよびinが不定値でないときに、次式によってそ
の位置の画素値に対するX座標を算出する。 X=(ip−in)/(2×tanθ) …… θ:測定板1の傾斜角度 図16に示されているように、この式において、(i
p−in)はX軸正回転時における画像位置とX軸負回
転時における画像位置との差を表す。したがって、測定
板1の正回転時と負回転時の同じ画素値を表す点AのX
座標は式で表される。なお、この点AのX座標は、メ
モリの節約のために前述のメモリlut - x[i]
[j][z]内に格納される。一方、ipもしくはin
が不定値のときには、メモリlut- x[j][i]
[z]に不定値を設定する。
S42 to S49: Value of each pixel
(Z; 0 to 255) for the first time during the forward rotation of the X-axis.
The relative distance in the Z-axis direction from the initial position is ip = lut-x
[I] [j] [z] and initial position at the time of negative rotation of the X-axis
Relative distance in the Z-axis direction from the position in = lut-w [j]
[I] [z] is the position where the specified pixel value is first found.
Set to ip and in. And these
When ip and in are not indefinite values,
The X coordinate for the pixel value at the position is calculated. X = (ip−in) / (2 × tan θ) θ: tilt angle of measurement plate 1 As shown in FIG.
p-in) is the image position during X-axis positive rotation and X-axis negative rotation
It represents the difference from the image position at the time of turning. Therefore, the measurement
X of point A representing the same pixel value during forward rotation and negative rotation of plate 1
The coordinates are represented by an equation. Note that the X coordinate of this point A is
The above-mentioned memory lut to save memory -x [i]
[J] is stored in [z]. On the other hand, ip or in
Is an indefinite value, the memory lut-x [j] [i]
Set an undefined value to [z].

【0026】S50:前述のS42〜S49の処理を
i;256画素,j;242画素の全ての画素について
行い、X方向のルックアップテーブルを完成させてフロ
ーを終了する。
S50: The above-described processing of S42 to S49 is performed for all pixels of i; 256 pixels, j; 242 pixels, and the lookup table in the X direction is completed, and the flow ends.

【0027】次に、Y方向の位置データを格納するY方
向のルックアップテーブルは図7乃至図11に示される
T1〜T44の各ステップにしたがって作成される。
Next, a Y-direction look-up table for storing the Y-direction position data is created according to each of the steps T1 to T44 shown in FIGS.

【0028】このY方向のルックアップテーブル作成の
ためのフローは、図17(a)(b)に示されるよう
に、測定板1を水平に±20°の角度をつけて設置する
(ステップT2,T10参照)ことによりY方向の距離
画像データを取得してその距離画像データを距離画像フ
ァイルyp0.kmt〜yp1499.kmtおよびy
n0.kmt〜yn1499.kmtに書き込む以外
は、図2乃至図6に示されるS1〜S50の各ステップ
における処理と同様である。したがって、このフローの
詳細内容については説明を省略することとする。
As shown in FIGS. 17 (a) and 17 (b), the flow for creating the lookup table in the Y direction is such that the measuring plate 1 is set horizontally at an angle of ± 20 ° (step T2). , T10) to obtain distance image data in the Y direction and store the distance image data in the distance image file yp0. kmt to yp1499. kmt and y
n0. kmt to yn1499. Except for writing to kmt, it is the same as the processing in each step of S1 to S50 shown in FIGS. Therefore, description of the details of this flow will be omitted.

【0029】続いて、Z方向の位置データを格納するZ
方向のルックアップテーブルを作成するためのフローを
図12乃至図14によって説明する。
Subsequently, Z for storing position data in the Z direction
A flow for creating a direction lookup table will be described with reference to FIGS.

【0030】U1:三次元視覚センサ4に対して測定板
1の移動軸の全軸、言い換えれば上下回転軸(Y軸),
水平回転軸(X軸)および前後移動軸(Z軸)の各軸を
測定基準としての原点に移動させる。
U1: All axes of the movement axis of the measuring plate 1 with respect to the three-dimensional visual sensor 4, in other words, the vertical rotation axis (Y axis),
Each axis of the horizontal rotation axis (X axis) and the longitudinal movement axis (Z axis) is moved to the origin as a measurement reference.

【0031】U2〜U4:三次元視覚センサ4のCCD
カメラにより測定板1の距離画像データを取得し、この
取得画像を、メディアンフィルタ(平滑化フィルタ)に
より補正する。そして、この処理は各位置での画像を3
回取得するまで繰り返される。
U2 to U4: CCD of three-dimensional visual sensor 4
The distance image data of the measurement plate 1 is acquired by a camera, and the acquired image is corrected by a median filter (smoothing filter). Then, this processing is performed by dividing the image at each position by 3
Repeated times until it is obtained.

【0032】U5〜U6:各位置で3回の距離画像が取
得されると、同一画素の値を比較してそのメディアン値
(中央値)を求め、このメディアン値を最終的な距離画
像として設定する。この後、この得られた距離画像をコ
ンピュータ5内の記憶装置における距離画像ファイルに
書き込む。
U5 to U6: When three distance images are obtained at each position, the values of the same pixels are compared to determine the median value (median value), and this median value is set as the final distance image. I do. Thereafter, the obtained distance image is written to a distance image file in a storage device in the computer 5.

【0033】U7〜U8:測定板1の前後位置を一定ピ
ッチ(例えば0.1mm)だけ後方にずらせて前述と同
様にして距離画像データを取得し、このデータの取得を
全距離画像ファイル分(1000回)繰り返してZ軸の
距離画像ファイルz0.kmt〜z999.kmtに書
き込む。こうして、例えば100mm〜200mmの測
定範囲におけるZ軸の全ての距離画像データを取得す
る。
U7 to U8: The distance image data is obtained in the same manner as described above by shifting the front and rear positions of the measuring plate 1 backward by a fixed pitch (for example, 0.1 mm), and this data is obtained for the entire distance image file ( 1000 times). Repeatedly, the distance image file z0. kmt to z999. Write to kmt. In this way, for example, all the distance image data on the Z axis in the measurement range of 100 mm to 200 mm is acquired.

【0034】U9:Z方向のルックアップテーブルを作
成するために、まず初期設定を行う。この初期設定にお
いては、ルックアップテーブルのZ座標を示すlut-
zに不定値を設定する。 U10〜U11:前述のようにして作成されたZ軸の距
離画像ファイルの画素位置z0.kmtを読み込む。
U9: Initial settings are made to create a Z-direction lookup table. In this initial setting, lut showing the Z coordinate of the look-up table -
Set an undefined value to z. U10 to U11: Pixel positions z0... Of the Z-axis distance image file created as described above. Read kmt.

【0035】U12〜U15:図2乃至図6のステップ
S23〜S26と同様にして得られる距離画像データの
ノイズを排除するための処理を行う。すなわち、まず
i,jの各画素(i;256画素,j;242画素)毎
に一つ前の画像データと比較し、その画素が先頭から5
0mm以内にあり、かつ前後の画素の差が128以上で
ある場合、このデータを無効にするためにその画素のl
ut- zの値を不定値にする。 U16〜U17:画素値のlut- zの値が不定値であ
るとき、その画素のlut- zに読み込んだファイルを
撮り込んだ時の移動距離を設定する。これにより、各画
素の最初に現れたコード値の位置がlut- zに記憶さ
れる。
U12 to U15: A process for eliminating noise from the distance image data obtained in the same manner as steps S23 to S26 in FIGS. That is, first, each pixel of i and j (i; 256 pixels, j; 242 pixels) is compared with the immediately preceding image data, and the pixel is 5 pixels from the top.
If the distance is within 0 mm and the difference between the preceding and following pixels is 128 or more, the l
Set the value of ut - z to an undefined value. U16 to U17: When the value of the pixel value lut - z is an indefinite value, the moving distance when the file read in the lut - z of the pixel is captured is set. As a result, the position of the first appearing code value of each pixel is stored in lut - z.

【0036】U18:i;256画素,j;242画素
の全ての画素についてU11〜U17の処理を行う。 U19:全ての距離画像ファイルz0.kmt〜z99
9.kmtについて処理がなされたか否かを確認する。
U18: The processing of U11 to U17 is performed for all pixels of i; 256 pixels, j; 242 pixels. U19: All distance image files z0. kmt to z99
9. It is confirmed whether or not processing has been performed for kmt.

【0037】U20〜U25:各画素の画素のもつ値
(Z;0〜255)について、指定画素値が最初に見つ
かった位置をそれらi=lut- z[j][i][z]
に設定する。そして、このiが不定値でないときに、こ
のiの値をlut- z[j][i][z]に格納するこ
とによりその位置の画素値に対するZ座標を算出する。
一方、iが不定値のときには、全ての画素値であるか否
かを確認してステップU22へ戻る。
U20 to U25: For the value (Z; 0 to 255) of each pixel, the position where the designated pixel value is first found is i = lut - z [j] [i] [z].
Set to. When this i is not an indefinite value, the value of i is stored in lut - z [j] [i] [z] to calculate the Z coordinate for the pixel value at that position.
On the other hand, when i is an indefinite value, it is confirmed whether or not it is all pixel values, and the process returns to step U22.

【0038】U26:前述のU22〜U25の処理を
i;256画素,j;242画素の全ての画素について
行い、Z方向のルックアップテーブルを完成させてフロ
ーを終了する。
U26: The above processing of U22 to U25 is performed for all pixels of i; 256 pixels, j; 242 pixels, and the lookup table in the Z direction is completed to terminate the flow.

【0039】本実施例によれば、無地の板を用いて各画
素の明暗情報と三次元座標値との対応表(ルックアップ
テーブル)が作成されるので、従来の方眼線を画像処理
により抽出するものに比べ格段に高精度化を図ることが
できる。
According to this embodiment, a correspondence table (look-up table) between the brightness information of each pixel and the three-dimensional coordinate value is created using a plain plate, so that a conventional grid line is extracted by image processing. The accuracy can be significantly improved as compared with the case of performing the above.

【0040】本実施例においては、距離画像を処理する
に際しメディアン値を用いて補正するものとしたが、こ
のメディアン値の代わりに平均値を用いて補正すること
もできる。また、1回目の補正をメディアン値により行
い、2回目の補正を平均値により行うというように、こ
れらメディアン値による補正と平均値による補正とを組
み合わせて行うことも可能である。
In this embodiment, when the distance image is processed, the correction is performed using the median value. However, the correction may be performed using an average value instead of the median value. Further, it is also possible to perform a combination of the correction based on the median value and the correction based on the average value, such that the first correction is performed using the median value and the second correction is performed using the average value.

【0041】本実施例においては、測定板にコード化パ
ターン光を照射して三次元画像を取得するものを説明し
たが、本発明は、2台のカメラによって三次元画像を取
得するものに対しても適用できるのは言うまでもない。
In this embodiment, the case where a three-dimensional image is obtained by irradiating the coded pattern light to the measuring plate has been described. However, the present invention is applicable to a case where a three-dimensional image is obtained by two cameras. Needless to say, it can be applied.

【図面の簡単な説明】[Brief description of the drawings]

【図1】図1は、本発明の一実施例に係る三次元計測装
置のシステム構成図である。
FIG. 1 is a system configuration diagram of a three-dimensional measuring apparatus according to one embodiment of the present invention.

【図2】図2は、X方向のルックアップテーブルを作成
するためのフローチャートである。
FIG. 2 is a flowchart for creating a lookup table in the X direction.

【図3】図3は、X方向のルックアップテーブルを作成
するためのフローチャートである。
FIG. 3 is a flowchart for creating an X-direction lookup table;

【図4】図4は、X方向のルックアップテーブルを作成
するためのフローチャートである。
FIG. 4 is a flowchart for creating an X-direction lookup table;

【図5】図5は、X方向のルックアップテーブルを作成
するためのフローチャートである。
FIG. 5 is a flowchart for creating an X-direction lookup table;

【図6】図6は、X方向のルックアップテーブルを作成
するためのフローチャートである。
FIG. 6 is a flowchart for creating a lookup table in the X direction.

【図7】図7は、Y方向のルックアップテーブルを作成
するためのフローチャートである。
FIG. 7 is a flowchart for creating a lookup table in the Y direction.

【図8】図8は、Y方向のルックアップテーブルを作成
するためのフローチャートである。
FIG. 8 is a flowchart for creating a lookup table in the Y direction.

【図9】図9は、Y方向のルックアップテーブルを作成
するためのフローチャートである。
FIG. 9 is a flowchart for creating a lookup table in the Y direction.

【図10】図10は、Y方向のルックアップテーブルを
作成するためのフローチャートである。
FIG. 10 is a flowchart for creating a lookup table in the Y direction.

【図11】図11は、Y方向のルックアップテーブルを
作成するためのフローチャートである。
FIG. 11 is a flowchart for creating a lookup table in the Y direction.

【図12】図12は、Z方向のルックアップテーブルを
作成するためのフローチャートである。
FIG. 12 is a flowchart for creating a Z-direction lookup table;

【図13】図13は、Z方向のルックアップテーブルを
作成するためのフローチャートである。
FIG. 13 is a flowchart for creating a lookup table in the Z direction.

【図14】図14は、Z方向のルックアップテーブルを
作成するためのフローチャートである。
FIG. 14 is a flowchart for creating a lookup table in the Z direction.

【図15】図15は、X方向の距離画像取得のための測
定板の移動状態説明図である。
FIG. 15 is an explanatory diagram of a movement state of a measurement plate for acquiring a distance image in the X direction.

【図16】図6は、X方向の距離画像データの計算方法
説明図である。
FIG. 6 is an explanatory diagram of a calculation method of distance image data in the X direction.

【図17】図17は、Y方向の距離画像取得のための測
定板の移動状態説明図である。
FIG. 17 is an explanatory diagram of a movement state of a measurement plate for acquiring a distance image in the Y direction.

【図18】図18は、Z方向の距離画像取得のための測
定板の移動状態説明図である。
FIG. 18 is an explanatory diagram of a movement state of a measurement plate for acquiring a distance image in the Z direction.

【図19】図19は、従来のキャリブレーション方法説
明図である。
FIG. 19 is an explanatory diagram of a conventional calibration method.

【符号の説明】[Explanation of symbols]

1 測定板 2 測定板移動装置 2a 直動スライダ 2b 回転テーブル 2c ゴニオ回転装置 3 測定板制御装置 4 三次元視覚センサ 5 コンピュータ DESCRIPTION OF SYMBOLS 1 Measuring plate 2 Measuring plate moving device 2a Linear motion slider 2b Rotary table 2c Goniometer rotating device 3 Measuring plate control device 4 3D vision sensor 5 Computer

───────────────────────────────────────────────────── フロントページの続き (72)発明者 廣瀬 尚三 大阪市住之江区南港東8−2−12 株式会 社オージス総研内 (72)発明者 安川 元英 大阪市住之江区南港東8−2−12 株式会 社オージス総研内 (72)発明者 佐藤 宏介 奈良県生駒市高山町8916−5 大学宿舎A 503 (72)発明者 片岡 隆之 大阪府枚方市上野3−1−1 株式会社小 松製作所生産技術研究所内 ──────────────────────────────────────────────────続 き Continuing on the front page (72) Inventor: Shozo Hirose 8-2-12 Nanko-Higashi, Suminoe-ku, Osaka-shi Inside Ogis Soken Co., Ltd. 12 Ogis Research Institute, Inc. (72) Inventor Kosuke Sato 8916-5 Takayamacho, Ikoma City, Nara Prefecture University Housing A 503 (72) Inventor Takayuki Kataoka 3-1-1 Ueno, Hirakata City, Osaka Komatsu Manufacturing Co., Ltd. Inside the Technical Research Institute

Claims (2)

【特許請求の範囲】[Claims] 【請求項1】 投光手段により被測定物の表面に光を照
射してその反射光を撮像手段により撮像し、この撮像さ
れる反射光の情報から三角測量の原理に基づき前記被測
定物の位置を計測する三次元計測装置におけるキャリブ
レーション方法であって、 較正用対象物を前記撮像手段に対してヨー回転,ピッチ
回転および前後移動させたときの各移動点での距離画像
を前記撮像手段にて撮像し、この撮像された距離画像を
処理して各画素の前記距離画像毎の三次元座標値を求
め、この求められる三次元座標値より較正値を得ること
を特徴とするキャリブレーション方法。
1. A light projecting unit irradiates a surface of an object with light, an image of a reflected light thereof is taken by an image pickup unit, and information of the object to be measured is obtained based on information of the imaged reflected light based on a principle of triangulation. A calibration method in a three-dimensional measuring device for measuring a position, wherein a distance image at each moving point when a calibration object is yaw-rotated, pitch-rotated and moved back and forth with respect to the imaging means is obtained by the imaging means. And processing the captured distance image to obtain a three-dimensional coordinate value of each pixel for each of the distance images, and obtaining a calibration value from the obtained three-dimensional coordinate value. .
【請求項2】 前記撮像手段により撮像された距離画像
を処理するに際し、一つの画像について特定の画素の周
囲のメディアン値をその画素の距離画像として設定する
とともに、こうして得られる距離画像を各位置で複数回
設定しそれら複数回のメディアン値をその画素の距離画
像の補正値として設定する請求項1に記載のキャリブレ
ーション方法。
2. When processing a distance image picked up by the image pickup means, a median value around a specific pixel for one image is set as a distance image of the pixel, and the distance image obtained in this way is stored in each position. 2. The calibration method according to claim 1, wherein the median value is set a plurality of times, and the plurality of median values are set as correction values of the distance image of the pixel.
JP20822596A 1996-08-07 1996-08-07 Calibration method Expired - Fee Related JP3453734B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP20822596A JP3453734B2 (en) 1996-08-07 1996-08-07 Calibration method
PCT/JP1997/002752 WO1998005922A1 (en) 1996-08-07 1997-08-06 Calibration method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP20822596A JP3453734B2 (en) 1996-08-07 1996-08-07 Calibration method

Publications (2)

Publication Number Publication Date
JPH1047920A true JPH1047920A (en) 1998-02-20
JP3453734B2 JP3453734B2 (en) 2003-10-06

Family

ID=16552743

Family Applications (1)

Application Number Title Priority Date Filing Date
JP20822596A Expired - Fee Related JP3453734B2 (en) 1996-08-07 1996-08-07 Calibration method

Country Status (2)

Country Link
JP (1) JP3453734B2 (en)
WO (1) WO1998005922A1 (en)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1077456A2 (en) 1999-08-18 2001-02-21 Harness System Technologies Research, Ltd. Breaker device
US7274469B2 (en) 2002-08-22 2007-09-25 Industrial Technology Research Institute Method and apparatus for calibrating laser 3D digitizing sensor
JP2007256091A (en) * 2006-03-23 2007-10-04 Space Vision:Kk Method and apparatus for calibrating range finder
WO2008075632A1 (en) * 2006-12-19 2008-06-26 Panasonic Corporation Test method for compound-eye distance measuring device, its test device and chart used for same
JP2009042082A (en) * 2007-08-09 2009-02-26 Fujifilm Corp Method and device for setting three-dimensional coordinate system
EP2096460A2 (en) 2008-02-28 2009-09-02 Aisin Seiki Kabushiki Kaisha Calibration device and calibration method for range image sensor
JP2009276233A (en) * 2008-05-15 2009-11-26 Toyota Central R&D Labs Inc Parameter calculating apparatus, parameter calculating system and program
US8339582B2 (en) 2009-11-13 2012-12-25 Samsung Electronics Co., Ltd. Apparatus and method to correct image
CN103604367A (en) * 2013-11-14 2014-02-26 上海交通大学 Apparatus and method for calibration of laser triangulation system
CN111207685A (en) * 2020-01-14 2020-05-29 华中科技大学鄂州工业技术研究院 Full-automatic calibration system for structured light depth measurement

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB0008739D0 (en) * 2000-04-11 2001-11-21 Roke Manor Research Self-Calibration of an Array of Imaging Sensors
DE102014106465C5 (en) 2014-05-08 2018-06-28 Sick Ag Distance measuring sensor and method for detection and distance determination of objects
CN104154875B (en) * 2014-08-20 2017-02-15 深圳大学 Three-dimensional data acquisition system and acquisition method based on two-axis rotation platform
JP7074186B2 (en) * 2018-05-09 2022-05-24 日本電気株式会社 Calibrator
CN111798522A (en) * 2020-05-20 2020-10-20 惠州市德赛西威汽车电子股份有限公司 Automatic plane position checking method, system and equipment for test prototype
CN117109647B (en) * 2023-08-25 2024-02-20 上海大学 Dynamic vision sensor performance testing device and testing method

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1334667C (en) * 1987-10-02 1995-03-07 Glen Paul Fetterman Jr. Lubricant compositions for internal combustion engines
JPH05248819A (en) * 1992-03-06 1993-09-28 Kobe Steel Ltd Calibrating method of data of calibration object for measuring three dimensional position of object by camera and measuring method of three dimensional position
JPH0835828A (en) * 1994-07-25 1996-02-06 Kobe Steel Ltd Calibration method of three-dimensional measuring apparatus

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1077456A2 (en) 1999-08-18 2001-02-21 Harness System Technologies Research, Ltd. Breaker device
US7274469B2 (en) 2002-08-22 2007-09-25 Industrial Technology Research Institute Method and apparatus for calibrating laser 3D digitizing sensor
JP2007256091A (en) * 2006-03-23 2007-10-04 Space Vision:Kk Method and apparatus for calibrating range finder
WO2008075632A1 (en) * 2006-12-19 2008-06-26 Panasonic Corporation Test method for compound-eye distance measuring device, its test device and chart used for same
JP2009042082A (en) * 2007-08-09 2009-02-26 Fujifilm Corp Method and device for setting three-dimensional coordinate system
EP2096460A2 (en) 2008-02-28 2009-09-02 Aisin Seiki Kabushiki Kaisha Calibration device and calibration method for range image sensor
US7822571B2 (en) 2008-02-28 2010-10-26 Aisin Seiki Kabushiki Kaisha Calibration device and calibration method for range image sensor
JP2009276233A (en) * 2008-05-15 2009-11-26 Toyota Central R&D Labs Inc Parameter calculating apparatus, parameter calculating system and program
US8339582B2 (en) 2009-11-13 2012-12-25 Samsung Electronics Co., Ltd. Apparatus and method to correct image
US8743349B2 (en) 2009-11-13 2014-06-03 Samsung Electronics Co., Ltd. Apparatus and method to correct image
CN103604367A (en) * 2013-11-14 2014-02-26 上海交通大学 Apparatus and method for calibration of laser triangulation system
CN111207685A (en) * 2020-01-14 2020-05-29 华中科技大学鄂州工业技术研究院 Full-automatic calibration system for structured light depth measurement

Also Published As

Publication number Publication date
JP3453734B2 (en) 2003-10-06
WO1998005922A1 (en) 1998-02-12

Similar Documents

Publication Publication Date Title
JPH1047920A (en) Calibration method
CN111145238B (en) Three-dimensional reconstruction method and device for monocular endoscopic image and terminal equipment
US8848978B2 (en) Fast obstacle detection
US20030118245A1 (en) Automatic focusing of an imaging system
US9122946B2 (en) Systems, methods, and media for capturing scene images and depth geometry and generating a compensation image
Herráez et al. 3D modeling by means of videogrammetry and laser scanners for reverse engineering
JP6543705B2 (en) Method of calibrating a patient monitoring system for use with a radiation therapy apparatus
US20140192234A1 (en) Method for generating and evaluating an image
KR101592798B1 (en) Resolving homography decomposition ambiguity based on orientation sensors
KR102023042B1 (en) Foot scanning apparatus and method for scanning foot thereof
JP7269874B2 (en) How to process multiple regions of interest independently
CN104469170B (en) Binocular camera shooting device, image processing method and device
CA2870480A1 (en) Hybrid precision tracking
CN115816471B (en) Unordered grabbing method, unordered grabbing equipment and unordered grabbing medium for multi-view 3D vision guided robot
US11504855B2 (en) System, method and marker for the determination of the position of a movable object in space
TWI388797B (en) Three - dimensional model reconstruction method and its system
JP2017003525A (en) Three-dimensional measuring device
CN108288065A (en) A kind of four-wheel position finder detection method based on image analysis
CN116363223A (en) Binocular vision-based boxcar size measurement method, device and medium
CN111833379B (en) Method for tracking target position in moving object by monocular camera
CN110726402B (en) Laser point vision guiding method of non-orthogonal shafting laser total station
Ibrahim et al. Projector-Camera Calibration on Dynamic, Deformable Surfaces
Abbaspour Tehrani et al. A practical method for fully automatic intrinsic camera calibration using directionally encoded light
CN113689397A (en) Workpiece circular hole feature detection method and workpiece circular hole feature detection device
JP2003067726A (en) Solid model generation system and method

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20030610

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080725

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080725

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090725

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090725

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100725

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110725

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120725

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees