JP2009210470A - 形状測定方法及び装置 - Google Patents

形状測定方法及び装置 Download PDF

Info

Publication number
JP2009210470A
JP2009210470A JP2008055020A JP2008055020A JP2009210470A JP 2009210470 A JP2009210470 A JP 2009210470A JP 2008055020 A JP2008055020 A JP 2008055020A JP 2008055020 A JP2008055020 A JP 2008055020A JP 2009210470 A JP2009210470 A JP 2009210470A
Authority
JP
Japan
Prior art keywords
pattern
measured
shape
brightness
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008055020A
Other languages
English (en)
Other versions
JP5322460B2 (ja
Inventor
Shunichi Kaneko
俊一 金子
Hiroshi Kawana
啓 川名
Tadashi Kasahara
忠 笠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hokkaido University NUC
Makino Milling Machine Co Ltd
Original Assignee
Hokkaido University NUC
Makino Milling Machine Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hokkaido University NUC, Makino Milling Machine Co Ltd filed Critical Hokkaido University NUC
Priority to JP2008055020A priority Critical patent/JP5322460B2/ja
Publication of JP2009210470A publication Critical patent/JP2009210470A/ja
Application granted granted Critical
Publication of JP5322460B2 publication Critical patent/JP5322460B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】光沢面を持つ被測定物や複雑な形状の被測定物であっても正確にパタンを読み取ることができ、形状認識能力の高い形状測定方法及び装置を提供する。
【解決手段】プロジェクタ5で初期パタンを被測定物9に投影し、カメラ1,3で初期パタンが投影された被測定物9を撮影し、カメラ1,3で撮影した画像の明度を読み取り、読み取った画像の明度が設定した目標明度よりも明るい部分は暗く、暗い部分は明るくして測定用パタンを決定し、測定用パタンを被測定物9に投影してカメラ1,3で撮影し、撮影した画像から被測定物9の形状を求める。
【選択図】図1

Description

本発明は、被測定物の形状をステレオ法で測定する形状測定方法及び装置に関する。
被測定物の形状を測定する方法の1つとしてステレオ法がある。ステレオ法は、左右2台のカメラで被測定物を撮影し、撮影した2つの画像の視差から被測定物の形状を演算して求める。具体的には、左右の画像の視差が大きいほどカメラからの距離が近く、視差が小さいほどカメラからの距離が遠くなる。この視差からカメラと被測定物の距離が演算できるので、被測定物の形状を求めることができる。ここで視差とは、左側のカメラで撮影した画像に写った被測定物の位置と右側のカメラで撮影した画像に写った被測定物の位置との差のことである。
被測定物表面の形状に特徴が少ない場合、左右の画像に写った被測定物のどの部分が同じ場所なのか判別が難しくなる。このような被測定物の場合、被測定物に特徴のあるパタンを投影すれば、左右のカメラに写ったパタンを照合して2つの画像のどの部分に被測定物の同じ場所が写っているのかを知ることができる。このとき、2つの画像のパタンの照合がどれだけ正確に行えるかが測定精度に関わってくる。
パタンの照合を正確に行うための技術は、特許文献1に開示されている。この技術は、撮影対象に投影されたストライプパタンを撮影し撮影データの白い部分と黒い部分の輝度値の差が所定の範囲に収まるようにストライプパタンの本数を決定するようにしている。
特開2001−264017号公報
前述の特許文献1に記載された3次元画像撮影装置は、白と黒のストライプパタンを投影している。そして、ストライプの白い部分と黒い部分がはっきりと認識できる最大のストライプ本数を探し出し設定することによって誤検出を生じずに高解像度の検出を行うものである。しかし、金属のような光沢面を有する被測定物を測定する場合、光沢面にパタンを投影すると、鏡面反射によって撮影した画像が部分的に真っ白になってしまう、いわゆる白飛びが生じる。また、被測定物の形状によっては反射光が少ない部分の画像が真っ黒になってしまう、いわゆる黒潰れが生じる。白飛びや黒潰れが生じると投影したパタンが読み取れなくなり、パタンの白い部分と黒い部分をはっきりと認識できなくなる問題点がある。
本発明は前述の問題点を解決するためになされたものであり、本発明の目的は、光沢面を持つ被測定物や複雑な形状の被測定物であっても正確にパタンを読み取ることができ、形状認識能力の高い形状測定方法及び装置を提供することである。
前述の目的を達成するために、本発明によれば、プロジェクタでパタンを投影した被測定物を複数の異なる角度からカメラで撮影し、被測定物の形状を測定する形状測定方法において、前記プロジェクタで初期パタンを被測定物に投影し、前記カメラで前記初期パタンが投影された被測定物を撮影し、前記カメラで撮影した画像の明度を読み取り、読み取った前記画像の明度が設定した目標明度よりも明るい部分は暗く、暗い部分は明るくして測定用パタンを決定し、前記測定用パタンを被測定物に投影して前記カメラで撮影し、撮影した画像から被測定物の形状を求める形状測定方法が提供される。
また、前述の目的を達成するために、本発明によれば、プロジェクタでパタンを投影した被測定物を複数の異なる角度からカメラで撮影し、被測定物の形状を測定する形状測定方法において、前記プロジェクタで初期パタンを被測定物に投影し、前記カメラで前記初期パタンが投影された被測定物を撮影し、前記カメラで撮影した画像の明度を読み取り、読み取った前記画像の明度が設定した目標明度よりも明るい部分は暗く、暗い部分は明るく変更パタンを生成し、前記変更パタンを被測定物に投影して撮影した画像の明度と前記目標明度との差が所定値以下になるまで、パタン変更、投影、撮影を繰り返してキャンセルパタンを決定し、被測定物の各部分に特徴を持たせる任意の模様である特徴付加パタンを決定し、前記キャンセルパタン及び前記特徴付加パタンから測定用パタンを決定し、前記測定用パタンを被測定物に投影して前記カメラで撮影し、撮影した画像から被測定物の形状を求める形状測定方法が提供される。前記キャンセルパタンを決定する工程は、パタン変更、投影、撮影の繰り返し回数が所定回数に達したとき、パタン変更を終了してキャンセルパタンを決定してもよい。
また、前述の目的を達成するために、本発明によれば、被測定物にパタンを投影して撮影した被測定物の画像から被測定物の形状を測定する形状測定装置において、前記被測定物にパタンを投影し、該パタンの明度を部分的に変更可能なプロジェクタと、前記被測定物に対して複数の異なる角度から撮影可能に設けられたカメラと、前記カメラで撮影された画像の明度を読み取り、複数の画像を照合して被測定物の形状を演算する画像解析部と、前記画像解析部で読み取った画像の明度に基づいて前記被測定物に投影するパタンを変更するパタン変更部と、を具備する形状測定装置が提供される。
前述のように、本発明は、被測定物にパタンを投影してカメラで撮影したとき、投影したパタンが読み取れなくなってしまう部分の明度を変更して測定用パタンを決定し、投影したパタンを読み取れるようにしている。
前述のように、本発明は、被測定物に投影したパタンを撮影した画像の明度を読み取り、読み取った明度に基づいて目標明度よりも明るい部分は暗く、暗い部分は明るくなるように測定用パタンを決定している。従って、被測定物が複雑な形状であったり、光沢面を有していても、被測定物に投影されたパタンをより正確に読み取ることができるようになったので、被測定物の形状認識能力が上がり、測定精度が大幅に向上した。
以下、本発明による形状測定方法及び形状測定装置の好ましい実施の形態を説明する。図1に示す形状測定装置は、被測定物9を固定するテーブル11と、被測定物9を撮影可能な方向に向けて設けられた左カメラ1と、被測定物9にパタンを投影可能な方向に向けて設けられたプロジェクタ5と、プロジェクタ5と被測定物9との間の投影光軸上に設けられたハーフミラー7と、ハーフミラー7で反射した光をプロジェクタ5の投影光と同軸で受光する位置に設けられた右カメラ3と、制御装置13とを備えている。
形状測定装置の制御装置13は、初期パタンや特徴付加パタンを入力するパタン入力部15と、プロジェクタ5に投影すべきパタンを送出するパタン送出部17と、入力されたパタンや読み取った画像の明度に基づいて変更パタンを生成するパタン変更部19と、左カメラ1及び右カメラ3で撮影した画像から明度を読み取り複数の画像を照合する画像解析部21と、画像解析部21で照合された複数の画像の視差からカメラと被測定物9との距離を演算し被測定物9の形状を求める形状演算部23とを備えている。
左右のカメラ1,3及びプロジェクタ5と、被測定物9とが図示しない移動装置によって相対移動可能に構成されている。このような構成にすることによって、カメラ1,3及びプロジェクタ5と被測定物9との位置合せが容易になる。更に、移動装置は、被測定物9に対してカメラ1,3及びプロジェクタ5を旋回移動可能に構成されている。旋回移動可能にすることによって、様々な角度から被測定物9の測定を行うことができるようになり、1方向からでは見えない部分がある複雑な形状の被測定物にも対応できる。例えば、5軸制御のマシニングセンタの主軸側にカメラ1,3及びプロジェクタ5を設け、テーブル側に被測定物9を取り付ければよい。
次に、図2を参照して被測定物の形状測定方法の第1の実施の形態について説明する。ここで、プロジェクタで投影するパタンの明度及びカメラで撮影された画像の明度は、0〜255の値で設定され、値が大きくなるほど明るくなる。
まず、パタン入力部15に初期パタンを入力する。初期パタンの明度は適宜設定すればよいが、本実施の形態では、明度20及び明度200の均一なパタンを初期パタンとして入力する。ここで均一なパタンとは全ての部分が同じ明度であり模様の無いパタンのことである。S1のステップでは、パタン入力部15に入力された明度20の初期パタンをパタン送出部17からプロジェクタ5に送出し、プロジェクタ5で被測定物9に投影する。S2のステップでは、右カメラ3でハーフミラー7に映った被測定物9を撮影する。S3のステップでは、右カメラ3で撮影された画像は画像解析部21で画素毎の明度を読み取る。
S4のステップでは、撮影回数をカウントし、設定された所定回数と比較して撮影回数が所定回数に達していない場合、S5のステップに進み、撮影回数が所定回数に達していた場合、S7のステップに進む。S5のステップでは、撮影された画像の明度と目標明度を比較し、撮影された画像の明度と目標明度の差が所定値より大きい場合、S6のステップに進み、撮影された画像の明度と目標明度の差が所定値以下の場合、S7のステップに進む。ここで目標明度は初期パタンで投影した明度20に設定している。S6のステップでは、目標明度よりも明るい部分は暗く、暗い部分は明るくなるように、投影したパタンを変更して変更パタンを決定して被測定物9に投影する。S7のステップでは、そのとき投影していたパタンを明度20のキャンセルパタンとして設定する。このようにして、明度200の初期パタンでも目標明度を200として明度20の初期パタンの場合と同様の方法でキャンセルパタンを決定する。ここでキャンセルパタンとは、被測定物の形状や反射によって投影したパタンと撮影したパタンの明度が変わらないようにキャンセルするためのパタンである。
S8のステップでは、黒と白の2値のランダムドットパタンでなる特徴付加パタンを作成する。ここで特徴付加パタンとは、被測定物の各部分に特徴を持たせるためのパタンであり、各部分の認識ができるような特徴を持ったパタンであれば、ランダムドットパタンに限らず、任意の模様のパタンを使用することができる。S9のステップでは、特徴付加パタンの黒の部分は明度20のキャンセルパタンの対応する部分の明度を設定し、白の部分は明度200のキャンセルパタンの対応する部分の明度を設定して測定パタンを作成する。S10のステップでは、作成した測定パタンを被測定物9に投影し、左カメラ1及び右カメラ3で被測定物9を撮影し、撮影した左右の画像を照合し、形状演算部23で左右の画像に写っている被測定物9の位置の違いである視差に基づいてカメラから被測定物9の各部までの距離を求め、求めた被測定物9の各部までの距離から被測定物9の形状を演算して求める。
本発明の左右の画像の照合には様々な方法が適用できるが、方向符号照合法で行うのが好ましい。方向符号照合法とは、画素毎の明度勾配の方向に基づいて照合する照合法であり、画素の明度自体ではなく、画素とその周囲の画素との明度変化が最大となる方向を方向符号として各画素に割り当て、この方向符号の分布に基づいて2つの画像を照合する方法である。金属のような光沢面を有する被測定物は鏡面反射があるので、被測定物を異なる角度から見ると同じ部分でも明度が大きく変わることがある。方向符号照合法は、画素の明度自体を照合する照合法ではないので、見る角度によって変わる明度の変化に影響されにくいという特徴がある。
また、形状が複雑でカメラ1,3の死角になる部分がある被測定物9を測定するには、図示しない移動装置で、左右のカメラ1,3及びプロジェクタ5と被測定物9とを死角の部分を撮影できる角度に相対移動させ、前述の方法と同様に測定し、それぞれの測定データを合成して被測定物9の形状を求める。
被測定物の形状測定方法の第2の実施の形態では、初期パタンに明度20及び明度200のランダムドットパタンを使用し、明度20の部分の目標明度を20に、明度200の部分の目標明度を200にして、第1の実施の形態と同様に、目標明度よりも明るい部分は暗く、暗い部分は明るくパタンを変更しながら、撮影された画像の明度と目標明度の差が所定値以下になるか、撮影回数が所定回数になるまでパタン変更を繰り返し、そのときのパタンを測定用パタンとして、被測定物9の測定を行う。
本発明の実施の形態として、2台のカメラと1台のプロジェクタを用いて被測定物の形状を測定する形態を説明してきたが、本発明のカメラ及びプロジェクタの台数を限定するものではない。例えば、左カメラの位置と右カメラの位置との間で移動可能に構成された1台のカメラを用いることもできる。また、3台以上のカメラと2台以上のプロジェクタを用いて被測定物の死角を無くすように構成することもできる。
本発明の形状測定装置の実施の形態を示すブロック図である。 本発明の形状測定方法の実施の形態の手順を示すフローチャートである。
符号の説明
1 左カメラ
3 右カメラ
5 プロジェクタ
7 ハーフミラー
9 被測定物
11 テーブル
13 制御装置

Claims (4)

  1. プロジェクタでパタンを投影した被測定物を複数の異なる角度からカメラで撮影し、被測定物の形状を測定する形状測定方法において、
    前記プロジェクタで初期パタンを被測定物に投影し、
    前記カメラで前記初期パタンが投影された被測定物を撮影し、
    前記カメラで撮影した画像の明度を読み取り、
    読み取った前記画像の明度が設定した目標明度よりも明るい部分は暗く、暗い部分は明るくして測定用パタンを決定し、
    前記測定用パタンを被測定物に投影して前記カメラで撮影し、撮影した画像から被測定物の形状を求めることを特徴とした形状測定方法。
  2. プロジェクタでパタンを投影した被測定物を複数の異なる角度からカメラで撮影し、被測定物の形状を測定する形状測定方法において、
    前記プロジェクタで初期パタンを被測定物に投影し、
    前記カメラで前記初期パタンが投影された被測定物を撮影し、
    前記カメラで撮影した画像の明度を読み取り、
    読み取った前記画像の明度が設定した目標明度よりも明るい部分は暗く、暗い部分は明るくして変更パタンを生成し、
    前記変更パタンを被測定物に投影して撮影した画像の明度と前記目標明度との差が所定値以下になるまで、パタン変更、投影、撮影を繰り返してキャンセルパタンを決定し、
    被測定物の各部分に特徴を持たせる任意の模様である特徴付加パタンを決定し、
    前記キャンセルパタン及び前記特徴付加パタンから測定用パタンを決定し、
    前記測定用パタンを被測定物に投影して前記カメラで撮影し、撮影した画像から被測定物の形状を求めることを特徴とした形状測定方法。
  3. 前記キャンセルパタンを決定する工程は、パタン変更、投影、撮影の繰り返し回数が所定回数に達したとき、パタン変更を終了してキャンセルパタンを決定する請求項2に記載の形状測定方法。
  4. 被測定物にパタンを投影して撮影した被測定物の画像から被測定物の形状を測定する形状測定装置において、
    前記被測定物にパタンを投影し、該パタンの明度を部分的に変更可能なプロジェクタと、
    前記被測定物に対して複数の異なる角度から撮影可能に設けられたカメラと、
    前記カメラで撮影された画像の明度を読み取り、複数の画像を照合して被測定物の形状を演算する画像解析部と、
    前記画像解析部で読み取った画像の明度に基づいて前記被測定物に投影するパタンを変更するパタン変更部と、
    を具備することを特徴とした形状測定装置。
JP2008055020A 2008-03-05 2008-03-05 形状測定方法 Active JP5322460B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008055020A JP5322460B2 (ja) 2008-03-05 2008-03-05 形状測定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008055020A JP5322460B2 (ja) 2008-03-05 2008-03-05 形状測定方法

Publications (2)

Publication Number Publication Date
JP2009210470A true JP2009210470A (ja) 2009-09-17
JP5322460B2 JP5322460B2 (ja) 2013-10-23

Family

ID=41183770

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008055020A Active JP5322460B2 (ja) 2008-03-05 2008-03-05 形状測定方法

Country Status (1)

Country Link
JP (1) JP5322460B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010133735A (ja) * 2008-12-02 2010-06-17 Makino Milling Mach Co Ltd 形状測定方法及び装置
JP2011075311A (ja) * 2009-09-29 2011-04-14 Dainippon Screen Mfg Co Ltd 画像処理方法
JP2013530380A (ja) * 2010-03-31 2013-07-25 オムロン サイエンティフィック テクノロジーズ, インコーポレイテッド 3次元シーンにおけるテクスチャを生成する方法及び装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005003631A (ja) * 2003-06-16 2005-01-06 Fuji Xerox Co Ltd 3次元形状測定装置および方法
JP2005106491A (ja) * 2003-09-29 2005-04-21 Nec Engineering Ltd 頭部の三次元形状計測システム
JP2006010416A (ja) * 2004-06-23 2006-01-12 Fuji Xerox Co Ltd 3次元形状測定装置および方法
JP2007101275A (ja) * 2005-09-30 2007-04-19 Topcon Corp 三次元計測用投影装置及びシステム
JP2007524808A (ja) * 2003-03-07 2007-08-30 インターナショナル インダストリー サポート、インク 立体カメラセットを有する走査システム
JP2007315864A (ja) * 2006-05-24 2007-12-06 Roland Dg Corp 3次元形状測定方法およびその装置
JP2008032608A (ja) * 2006-07-31 2008-02-14 Aisin Seiki Co Ltd 三次元形状測定装置及び三次元形状測定方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007524808A (ja) * 2003-03-07 2007-08-30 インターナショナル インダストリー サポート、インク 立体カメラセットを有する走査システム
JP2005003631A (ja) * 2003-06-16 2005-01-06 Fuji Xerox Co Ltd 3次元形状測定装置および方法
JP2005106491A (ja) * 2003-09-29 2005-04-21 Nec Engineering Ltd 頭部の三次元形状計測システム
JP2006010416A (ja) * 2004-06-23 2006-01-12 Fuji Xerox Co Ltd 3次元形状測定装置および方法
JP2007101275A (ja) * 2005-09-30 2007-04-19 Topcon Corp 三次元計測用投影装置及びシステム
JP2007315864A (ja) * 2006-05-24 2007-12-06 Roland Dg Corp 3次元形状測定方法およびその装置
JP2008032608A (ja) * 2006-07-31 2008-02-14 Aisin Seiki Co Ltd 三次元形状測定装置及び三次元形状測定方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010133735A (ja) * 2008-12-02 2010-06-17 Makino Milling Mach Co Ltd 形状測定方法及び装置
JP2011075311A (ja) * 2009-09-29 2011-04-14 Dainippon Screen Mfg Co Ltd 画像処理方法
JP2013530380A (ja) * 2010-03-31 2013-07-25 オムロン サイエンティフィック テクノロジーズ, インコーポレイテッド 3次元シーンにおけるテクスチャを生成する方法及び装置

Also Published As

Publication number Publication date
JP5322460B2 (ja) 2013-10-23

Similar Documents

Publication Publication Date Title
USRE48595E1 (en) Method and system for determining optimal exposure of structured light based 3D camera
US8938099B2 (en) Image processing apparatus, method of controlling the same, distance measurement apparatus, and storage medium
JP5961945B2 (ja) 画像処理装置、その画像処理装置を有するプロジェクタ及びプロジェクタシステム、並びに、画像処理方法、そのプログラム、及び、そのプログラムを記録した記録媒体
EP2588836B1 (en) Three-dimensional measurement apparatus, three-dimensional measurement method, and storage medium
US9007602B2 (en) Three-dimensional measurement apparatus, three-dimensional measurement method, and computer-readable medium storing control program
CN103649674B (zh) 测量设备以及信息处理设备
US10181202B2 (en) Control apparatus, robot, and control method
JP5849522B2 (ja) 画像処理装置、プロジェクタ、プロジェクタシステム、画像処理方法、そのプログラム、及び、そのプログラムを記録した記録媒体
CN108885098B (zh) 距离计测装置和距离计测方法
JP2016217833A (ja) 画像処理システム及び画像処理方法
JP5322460B2 (ja) 形状測定方法
JP2014178141A (ja) キャリブレーションシステム、およびキャリブレーション方法
JP4710780B2 (ja) 画像投影表示装置
JP6412372B2 (ja) 情報処理装置、情報処理システム、情報処理装置の制御方法およびプログラム
JP5197330B2 (ja) 形状測定方法及び装置
EP3070432B1 (en) Measurement apparatus
JP2019022147A (ja) 光源方向推定装置
JP5968370B2 (ja) 三次元計測装置、三次元計測方法、及びプログラム
WO2020174596A1 (ja) 画像撮影装置
JP2020129187A (ja) 外形認識装置、外形認識システム及び外形認識方法
JP2017191082A (ja) 輝点画像取得装置および輝点画像取得方法
JP2001264017A (ja) 3次元画像撮影装置
JP4543821B2 (ja) 3次元形状測定装置および方法
JP7277267B2 (ja) 計測装置、撮像装置、計測システム及びプログラム
JP2018044863A (ja) 計測装置、計測方法、システム及び物品の製造方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110307

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120807

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120925

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130618

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130716

R150 Certificate of patent or registration of utility model

Ref document number: 5322460

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350