JP2791275B2 - 物体位置・姿勢計測装置及びこれを搭載した部品組立装置 - Google Patents

物体位置・姿勢計測装置及びこれを搭載した部品組立装置

Info

Publication number
JP2791275B2
JP2791275B2 JP6041277A JP4127794A JP2791275B2 JP 2791275 B2 JP2791275 B2 JP 2791275B2 JP 6041277 A JP6041277 A JP 6041277A JP 4127794 A JP4127794 A JP 4127794A JP 2791275 B2 JP2791275 B2 JP 2791275B2
Authority
JP
Japan
Prior art keywords
image
sign
posture
marker
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP6041277A
Other languages
English (en)
Other versions
JPH07248209A (ja
Inventor
智彰 久保
靖史 若林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP6041277A priority Critical patent/JP2791275B2/ja
Publication of JPH07248209A publication Critical patent/JPH07248209A/ja
Application granted granted Critical
Publication of JP2791275B2 publication Critical patent/JP2791275B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Manipulator (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、例えば、被計測物体に
取付けられた標識を撮像し、得られた撮像デ−タを基に
して被計測物体の位置・姿勢を求める物体位置・姿勢計
測装置に関する。
【0002】
【従来の技術】例えば、被計測物体の位置・姿勢を求め
るために、標識とカメラを利用し、標識画像からカメラ
と標識との相対的な位置・姿勢を算出する計測方法が知
られている。そして、この種の計測方法の例として、以
下の(I) 、(II)のような技術が在る。 (I) 解析的に求める方法 カメラと標識の相対位置・姿勢は、標識の各点の、画像
平面上での位置座標を用いて数式で表すことができる。
したがって、数式を実際に計算すれば、標識の位置・姿
勢を知ることができる。 (II)収束計算により求める方法(例えば、特開平2−3
8804号公報) カメラと標識の相対位置・姿勢の推定値が得られている
とすると、その推定値の状態にある標識の各点の、画像
平面上での位置座標が計算できる。これと実際の画像平
面上での位置座標を比較し、その誤差を小さくするよう
に推定値を修正する。適当な推定値から出発して修正を
繰り返してゆくと、誤差(以下では見え方誤差と称す
る)が十分小さくなる。そのときの推定値をもって、カ
メラと標識の相対位置・姿勢とする。
【0003】
【発明が解決しようとする課題】ところで、上述の二例
においては、ともに計算量が多く、実行に多くの時間を
要する。すなわち、 (I)の方法において、見え方から標
識の位置・姿勢を解析的に求めるための数式は、約 157
回の乗除算、約81回の加減算、約9回の超越関数(三角
関数、平方根)演算を含む。このため、数式の計算に多
大な時間を要する。
【0004】一方、 (II) の方法においては、以下の手
順が繰り返される。 (i) 現在の推定位置・姿勢ベクトルをxとする。 xにおけるJを計算する。ただし、Jは、xを微小変化
させたとき、それに対応する標識各点の画像上の位置座
標の変化率を求める行列である。 (ii)Jの逆行列J-1を計算する。
【0005】J-1は、見え方誤差ベクトルからxの修正
方向を得る行列となる。 (iii) xにおける、標識の各点の、画像平面上での位置
座標ベクトルPを計算する。 (iv)D=J-1*(F−P)を計算する。
【0006】ただし、Dは位置・姿勢推定値の修正方向
ベクトル、Fは標識各点の実際の画像上位置座標から成
るベクトルである。 (v) x=x+D*Kによって推定値を修正する。
【0007】ただし、Kは修正ゲインである。このよう
に(II)の方法においては、行列を利用した演算が行われ
るため、 (I)の方法よりも更に計算量が多くなる。
【0008】上述のような演算を行う計測装置はセンサ
として考えることができる。そして、必要な計算量はセ
ンサの動作速度に大きく影響する。特に、浮遊している
物体をロボットに捕捉させる場合などには、物体を見失
わないために、できる限り短時間で計算できることが望
ましい。本発明の目的とするところは、計算量が少な
く、被計測物体の位置・姿勢を高速に計測することが可
能な物体位置・姿勢計測装置を提供することにある。
【0009】
【課題を解決するための手段および作用】上記目的を達
成するために本発明は、遠近差を有する複数のマ−クが
形成されて被計測物体の位置・姿勢を表す標識と、この
標識を撮像する撮像部と、この撮像部の撮像結果に基づ
いて標識の画像上位置座標を抽出する画像処理部と、標
識が基準姿勢にあるときの画像上位置座標を計算し、基
準姿勢における画像上位置座標及び抽出された画像上位
置座標の違いを求め、この違いに基づいて標識の基準姿
勢に対する空間内でのずれ量を演算する演算部と、両画
像上位置座標の違い及び標識の基準姿勢に対する空間内
でのずれ量を対応させる行列を、標識と撮像部の距離に
応じて複数記憶した記憶部とを具備したことにある。こ
うすることによって本発明は、計算量を低減し、被計測
物体の位置・姿勢を高速に計測できるようにしたことに
ある。
【0010】
【実施例】以下、本発明の一実施例を図1〜図6に基づ
いて説明する。図1は本発明の一実施例を示しており、
図中の符号1は物体位置・姿勢計測装置(以下、計測装
置と称する)である。この計測装置1は部品組立装置2
1に搭載されており、標識2と、撮像部としての手先カ
メラ(以下、カメラと称する)3とを有している。これ
らのうち標識2は、被計測物体としてのワ−ク組付け対
象4に固定されている。さらに、標識2は図3中に示す
ように、長方形状の板体5と、この板体5の一方の板面
の中央に突設された直線状の丸棒6とにより構成されて
いる。
【0011】板体5の長手方向の両端には真円状のマ−
ク7、7が形成されている。さらに、丸棒6の先端にも
マ−ク8が形成されている。丸棒6は、板体5の二つの
マ−ク7、7を結ぶ直線上に配置されており、丸棒6か
ら両マ−ク7、7までの距離は略等しい。さらに、丸棒
6の高さXは、板体5のマ−ク7、7の距離Wを基準と
して、W/2に設定されている。つまり、両端のマ−ク
7、7と中央のマ−ク8とが高低差を有するとともに、
標識2を平面視した際には、三つのマ−ク7、8が同一
直線上に並ぶ。
【0012】図1中に示すように、カメラ3は部品組立
装置21のロボットハンド9に固定されており、ロボッ
トハンド9は多軸式のロボット10の先端に装着されて
いる。ロボットハンド9には、ワ−ク組付け対象4に取
付けられるワ−ク11が保持されている。また、カメラ
3は視野中に三つのマ−クを収めている。そして、ロボ
ットハンド9がワ−ク11の取付けのために移動してい
るとき、カメラ3は標識2のマ−ク7、8を撮像し続け
ている。
【0013】カメラ3は画像処理部12に接続されてお
り、画像処理部12には演算部13が接続されている。
さらに、演算部13には記憶部14が接続されている。
演算部13の演算結果はロボット制御部15へ送られ、
ロボット10は、カメラ3と標識2とが正対するよう制
御される。
【0014】画像処理部12は、カメラ3から出力され
た二次元画像を処理し、各マ−ク7、8の画像上座標値
を抽出する。そして、抽出された画像上位置座標は演算
部13に入力される。
【0015】記憶部14は行列J-1を格納している。行
列J-1は、基準姿勢にある標識2の画像上位置座標が微
小変化したときに、その変化量と、標識の空間内におけ
る位置・姿勢の変化とを対応付ける。基準姿勢とは、標
識2とカメラ3とが正対している状態を意味している。
-1は標識2とカメラ3との距離xに応じて異なる。そ
して、種々の値のxについて、J-1が予め求められてい
る。
【0016】演算部13は、基準姿勢にある標識2の各
点の画像上位置座標を計算する。さらに、演算部13
は、計算によって求められた画像上位置座標と、画像処
理部12によって抽出された画像上位置座標との差異を
求める。さらに、演算部13は、その時の距離xに対応
する行列J-1を記憶部14から読み出し、空間内におけ
る基準姿勢と実際の姿勢とのずれ量を演算する。そし
て、この演算結果は、計測装置1の計測結果として、ロ
ボット制御部15へ送られる。
【0017】つぎに、演算部13によって行われる演算
を説明する。標識2とカメラ3の相対位置・姿勢は、図
4に示すカメラ座標系を基準とし、以下の式(1) の形で
表現する。
【0018】
【数1】
【0019】ただし、α、β、γはヨ−、ピッチ、ロ−
ル表現による姿勢表現とする。また、標識各点の画像上
位置は、図4に示す画像座標系を基準とし、以下の式
(2) の形で表現する。
【0020】
【数2】
【0021】いま、距離xにおける基準姿勢のときの、
標識各点の画像上位置をa(ベクトル)とする。次に、
この状態から標識位置・姿勢のx成分をdx増加させた
時の標識各点の画像上位置をa(dx)とする。さら
に、以下の式 (3)の関係を設定する。
【0022】
【数3】
【0023】ここで、b1 は、標識位置・姿勢のx成分
を基準姿勢から変化させたときの、標識各点の画像上位
置の変化率を示すベクトルである。同様に、その他の成
分について各々b2 、b3 、…、b6 を求める。これら
を以下の式 (4)のように並べて行列J(x)を得る。
【0024】
【数4】 標識位置・姿勢を基準姿勢からdxだけ変化させたとき
の、標識各点の画像上位置の変化量をdXとすると、両
者の関係は以下の式 (5)で与えられる。
【0025】
【数5】 これより、標識各点の画像上位置の基準姿勢からの変化
量が与えられたとき、標識位置・姿勢の空間内における
変化量は、以下の式 (6)で与えられる。
【0026】
【数6】
【0027】いま、標識までの距離xがなんらかの手段
で得られていると仮定すると、その距離における基準姿
勢をとる標識2の各点の画像上位置座標は簡単に求めら
れる。
【0028】次に、実際の標識各点の画像上位置座標
の、前者との差異を求めて式 (6)を適用すれば、現在の
標識の位置・姿勢が、基準姿勢からどれだけ異なるかが
得られるので、結局、標識の位置・姿勢が計測できたこ
とになる。
【0029】ところで、先に“標識までの距離xがなん
らかの手段で得られていると仮定”したが、xも計測の
対象となる未知数、すなわち、計測の結果として得られ
る数値であるので、矛盾が生じているように考えられ
る。しかし、初回は適当な値のxから出発して上述の計
測を繰り返し、その都度xの値を修正して行くことによ
り、xは正しい値、即ち実際の標識までの距離に収束す
ることが実験的に確認されている。適当な値のxとし
て、前回の計測値を利用したり、任意の値を初期値とし
て設定したりすることが可能である。
【0030】上の計算手順のうち最も計算量の多いの
は、J(x)と、その逆行列のJ-1(x)を求める手順
である。本実施例においては、これらの計算時間を短縮
するために、様々なxについて、J-1(x)が予め計算
されて記憶部14に格納され、必要に応じてJ-1(x)
が参照される。ここで、本実施例のように、前述の形状
の標識2を使用した場合、J-1(x)は以下の式 (7)の
形となる。
【0031】
【数7】
【0032】J-1(x)は36個の要素からなるが、多
くの要素は零である。さらに、J-1(x)の零以外の要
素には、重複する要素(正負が逆の要素も含む)が存在
する。よって、a〜hの8個の数値を記憶しておくだけ
で、J-1(x)を容易に再現できる。
【0033】本実施例では、計測が、各距離xにおける
基準姿勢を基準として行われている。すなわち、式 (6)
は距離xにおける基準姿勢の近傍でのみ精度よく成り立
つものである。標識2の位置・姿勢が基準位置から外れ
るほど、式 (6)で得られる結果は大きな誤差を含む。こ
れは、本来、標識の位置・姿勢の変化率と標識各点の画
像上位置座標の変化率の関係は、xのみならず、標識の
位置・姿勢全ての成分に依存しているにもかかわらず、
そのうちの、基準姿勢における関係のみを常に使用する
ことによる。
【0034】しかし、本実施例においては、最終的に標
識2が基準姿勢に誘導されるよう、ロボット10が制御
される。このため、標識2が基準姿勢に近付く程精度が
良くなり、基準姿勢近傍では理論的限界値の精度が得ら
れる。即ち、基準姿勢近傍では、カメラの分解能(計算
方法によらずに決定される)に起因する理論的な精度が
得られる。このため、与えられたハ−ドウエア資源が近
似的手法によって無駄にされることがない。そして、各
距離xでの基準姿勢におけるJ-1(x)のみを採用して
も、計測装置1のセンサとしての性能は損なわれない。
【0035】上述のような計測装置1及び計測方法によ
れば、以下に示すような効果が得られる。行列J
-1(x)が多くの零要素を含み、且つ、零要素以外の要
素が重複しているので、式 (6)の計算が容易であり、計
算を高速に行うことができる。さらに、1回の計測で行
われる計算回数は減少(図6に示すように、約13回の
乗除算と約12回の加減算だけ)するので、従来技術に
比べて計算時間を大幅に短縮できる。この結果、高速で
移動する被計測物体にワ−ク11を位置合せできる。
【0036】なお、図6中のシ−トに表示された式のin
vJ(x)[i][j] はJ-1(x)のi行j列要素を意味してい
る。また、x**2 はxの2乗を意味している。Kcはカ
メラ系によって決まる定数である。
【0037】また、行列J-1(x)の数値が8個のみで
あるので、メモリの使用量が少なく、記憶部14のメモ
リを節約できる。なお、本発明は上述の実施例に限定さ
れず、種々に変更することが可能である。
【0038】本実施例の標識2においては、両端のマ−
ク7、7の間隔Wに対して、中央のマ−ク8の高さがW
/2に設定されているが、この関係を変更した場合で
も、位置・姿勢計測を行うことは可能である。例えば、
丸棒6の高さがW/2と異なる場合や、丸棒の6の位置
がいずれか一方のマ−ク7に偏っている場合等が考えら
れる。
【0039】これらの場合、J-1(x)の非零要素の数
は変わらないが、重複する要素の数は少なくなる。この
ため、(i) J-1(x)を格納するのに要するメモリが若
干増加する。さらに、(ii)J-1(x)の重複要素が減る
ので、計算量が若干増加する。しかし、従来技術と比較
すれば、計測の高速化が可能である。
【0040】また、本実施例では、ワ−ク11がワ−ク
組付け対象4に組付けられるが、本発明はこれに限定さ
れるものではなく、一般的な種々の作業に適用可能であ
る。例えば、ロボットハンド9が対象物を掴む場合など
が考えられる。この場合、カメラ3をロボットハンド9
に取り付け、標識2をロボットハンド9によって掴まれ
る対象物に取り付ける。この際、カメラ3に対して標識
2がある距離で基準姿勢となるとき、ロボットハンド9
が対象物を掴めるようにカメラ3や標識2を配置してお
く。運用時には、計測を繰り返しながらロボットを誘導
し、最終的に標識2がカメラ3に対して基準姿勢となる
ようにする。
【0041】
【発明の効果】以上説明したように本発明は、遠近差を
有する複数のマ−クが形成されて被計測物体の位置・姿
勢を表す標識と、この標識を撮像する撮像部と、この撮
像部の撮像結果に基づいて標識の画像上位置座標を抽出
する画像処理部と、標識が基準姿勢にあるときの画像上
位置座標を計算し、基準姿勢における画像上位置座標及
び抽出された画像上位置座標の違いを求め、この違いに
基づいて標識の基準姿勢に対する空間内でのずれ量を演
算する演算部と、両画像上位置座標の違い及び標識の基
準姿勢に対する空間内でのずれ量を対応させる行列を、
標識と撮像部の距離に応じて複数記憶した記憶部とを具
備したものである。したがって本発明は、計算量を低減
し、被計測物体の位置・姿勢を高速に計測できるという
効果がある。
【図面の簡単な説明】
【図1】本発明の一実施例の物体位置・姿勢計測装置及
びその使用例を示す構成図。
【図2】本発明の一実施例の物体位置・姿勢計測装置を
示す構成図。
【図3】標識を示す説明図。
【図4】座標系の定義を示す説明図。
【図5】本発明の一実施例の物体位置・姿勢計測方法を
示すフロ−チャ−ト。
【図6】J-1(x)の各要素についての計算式が表示さ
れたシ−トを示す図。
【符号の説明】
1…物体位置・姿勢計測装置、2…標識、3…手先カメ
ラ(撮像部)、4…ワ−ク組付け対象(被計測物体)、
7、8…マ−ク、12…画像処理部、13…演算部、1
4…記憶部、21…部品組立装置。
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平5−312521(JP,A) 特開 平4−370704(JP,A) 特開 平3−296604(JP,A) 特開 平3−165203(JP,A) 特開 平2−38804(JP,A) 特開 平1−242903(JP,A) 特開 昭61−277010(JP,A) (58)調査した分野(Int.Cl.6,DB名) G01B 11/00 - 11/30 G06T 7/60 B25J 19/00 - 19/06

Claims (4)

    (57)【特許請求の範囲】
  1. 【請求項1】 遠近差を有する複数のマ−クが形成され
    て被計測物体の位置・姿勢を表す標識と、この標識を撮
    像する撮像部と、この撮像部の撮像結果に基づいて上記
    標識の画像上位置座標を抽出する画像処理部と、上記標
    識が基準姿勢にあるときの画像上位置座標を計算し、基
    準姿勢における画像上位置座標及び抽出された画像上位
    置座標の違いを求め、この違いに基づいて上記標識の基
    準姿勢に対する空間内でのずれ量を演算する演算部と、
    上記両画像上位置座標の違い及び上記標識の基準姿勢に
    対する空間内でのずれ量を対応させる行列を、上記標識
    と上記撮像部の距離に応じて複数記憶した記憶部とを具
    備した物体位置・姿勢計測装置。
  2. 【請求項2】 上記撮像部は、多軸式のロボットに設け
    られたロボットハンドの先端位置近傍に固定されている
    ことを特徴とする請求項1記載の物体位置・姿勢計測装
    置。
  3. 【請求項3】 上記演算部により演算された基準姿勢に
    対する上記標識の画像上位置座標のずれ量を基に、前記
    多軸式のロボットを制御してずれ量を補正するロボット
    制御部を有することを特徴とする請求項1記載の物体位
    置・姿勢計測装置。
  4. 【請求項4】 請求項1或いは請求項2或いは請求項3
    記載の物体位置・姿勢計測装置を有することを特徴とす
    る部品組立装置。
JP6041277A 1994-03-11 1994-03-11 物体位置・姿勢計測装置及びこれを搭載した部品組立装置 Expired - Fee Related JP2791275B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP6041277A JP2791275B2 (ja) 1994-03-11 1994-03-11 物体位置・姿勢計測装置及びこれを搭載した部品組立装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP6041277A JP2791275B2 (ja) 1994-03-11 1994-03-11 物体位置・姿勢計測装置及びこれを搭載した部品組立装置

Publications (2)

Publication Number Publication Date
JPH07248209A JPH07248209A (ja) 1995-09-26
JP2791275B2 true JP2791275B2 (ja) 1998-08-27

Family

ID=12603956

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6041277A Expired - Fee Related JP2791275B2 (ja) 1994-03-11 1994-03-11 物体位置・姿勢計測装置及びこれを搭載した部品組立装置

Country Status (1)

Country Link
JP (1) JP2791275B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11538672B2 (en) * 2019-01-18 2022-12-27 National Institute Of Advanced Industrial Science And Technology Inductively coupled plasma spectrometric system and inductively coupled plasma spectrometric method
US11674847B2 (en) * 2018-11-21 2023-06-13 Thermo Fisher Scientific Inc. System and method for rapid and accurate trace gas measurement

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3442140B2 (ja) * 1994-04-20 2003-09-02 ファナック株式会社 3次元視覚センサを用いた位置計測装置及び位置ずれ補正装置
CN102501252A (zh) * 2011-09-28 2012-06-20 三一重工股份有限公司 一种控制执行臂末端运动的方法及控制系统
JP6343938B2 (ja) * 2014-01-14 2018-06-20 セイコーエプソン株式会社 ロボット、制御装置、ロボットシステム及び制御方法
US10871366B2 (en) * 2018-08-16 2020-12-22 Mitutoyo Corporation Supplementary metrology position coordinates determination system for use with a robot
US10751883B2 (en) * 2018-08-16 2020-08-25 Mitutoyo Corporation Robot system with supplementary metrology position coordinates determination system
US11745354B2 (en) 2018-08-16 2023-09-05 Mitutoyo Corporation Supplementary metrology position coordinates determination system including an alignment sensor for use with a robot
US10913156B2 (en) * 2018-09-24 2021-02-09 Mitutoyo Corporation Robot system with end tool metrology position coordinates determination system
CN116494254B (zh) * 2023-06-28 2023-08-25 佛山隆深机器人有限公司 工业机器人位置校正方法和工业机器人

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11674847B2 (en) * 2018-11-21 2023-06-13 Thermo Fisher Scientific Inc. System and method for rapid and accurate trace gas measurement
US11538672B2 (en) * 2019-01-18 2022-12-27 National Institute Of Advanced Industrial Science And Technology Inductively coupled plasma spectrometric system and inductively coupled plasma spectrometric method

Also Published As

Publication number Publication date
JPH07248209A (ja) 1995-09-26

Similar Documents

Publication Publication Date Title
US9457470B2 (en) Robot system and method for calibration
US7155030B2 (en) Camera calibration system using planar concentric circles and method thereof
JP2791275B2 (ja) 物体位置・姿勢計測装置及びこれを搭載した部品組立装置
EP0151417A1 (en) Method for correcting systems of coordinates in a robot having visual sensor device and apparatus therefor
CN114310901B (zh) 用于机器人的坐标系标定方法、装置、系统以及介质
JP3402021B2 (ja) ロボット装置の相対位置姿勢検出方法
JP2896539B2 (ja) 物体の位置、角度等の固有情報の検出方法
JPH06195472A (ja) 画像処理システム
JPS6483103A (en) Method for correcting position coordinates of workpiece
JP3188130B2 (ja) マニピュレーターの曲面なぞり制御方法
CN115471551A (zh) 点胶点位的坐标获取方法、装置、计算机设备及可读存储介质
JP2555368B2 (ja) パタ−ン投影器の位置姿勢校正法
Csurka et al. Algebraic and geometric tools to compute projective and permutation invariants
US6633665B1 (en) Transformation method of three-dimensional object points onto two-dimensional image points for linear pushbroom images
JPH0882505A (ja) カメラパラメーターのキャリブレーション方法および物体の位置計測方法
JPS60263804A (ja) 画像測定の長さキヤリブレ−シヨン方法
JP2003106813A (ja) ビデオメータを用いて空間内の剛体の状態値を決定するための方法
JP2798393B2 (ja) 物体の姿勢推定方法及びその装置
JPH07129231A (ja) 非接触点教示装置
JP2661118B2 (ja) 画像処理装置を利用した物体座標と視覚座標の換算方法
CN109636847B (zh) 一种基于单张照片的相机外部参数解算方法
CN114638894B (zh) 机器人行走的定位方法、系统、电子装置及存储介质
JPS63314604A (ja) 産業用ロボットの作業プログラム作成方法
JP2567372B2 (ja) ロボット座標補正処理方法
Zaman High resolution relative localisation using two cameras

Legal Events

Date Code Title Description
S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080612

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090612

Year of fee payment: 11

LAPS Cancellation because of no payment of annual fees