JP4158349B2 - 画像処理による寸法計測方法およびその装置 - Google Patents

画像処理による寸法計測方法およびその装置 Download PDF

Info

Publication number
JP4158349B2
JP4158349B2 JP2001091364A JP2001091364A JP4158349B2 JP 4158349 B2 JP4158349 B2 JP 4158349B2 JP 2001091364 A JP2001091364 A JP 2001091364A JP 2001091364 A JP2001091364 A JP 2001091364A JP 4158349 B2 JP4158349 B2 JP 4158349B2
Authority
JP
Japan
Prior art keywords
inspection
image
dimension
inspection object
measurement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001091364A
Other languages
English (en)
Other versions
JP2002286426A (ja
Inventor
真之 服部
浩 橋谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Electric Works Co Ltd
Original Assignee
Matsushita Electric Works Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Works Ltd filed Critical Matsushita Electric Works Ltd
Priority to JP2001091364A priority Critical patent/JP4158349B2/ja
Publication of JP2002286426A publication Critical patent/JP2002286426A/ja
Application granted granted Critical
Publication of JP4158349B2 publication Critical patent/JP4158349B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、主として生産ラインなどにおいて検査対象物となるワークを撮像して得た画像を用いてワークの寸法計測を行う画像処理による寸法計測方法およびその装置に関するものである。
【0002】
【従来の技術】
従来から、検査対象物となるワークをTVカメラのような画像入力装置により撮像して得られた画像に基づいて、ワークの外形寸法を求めワークの外観を検査する画像処理技術が知られている。いま、一例として、直方体状のパッケージの両側にL型のリードが複数本ずつ突出しているワークについて(たとえば、デュアルインラインパッケージ(DIP)のような形状を想定する)、各リードにおいて折曲されている部位のパッケージからの突出寸法が揃っているか否かを検査する場合を考える。このような検査はワークが実装に適合するか否かの判断に必要である。
【0003】
このような検査では、ワークの一面に直交する方向から画像入力装置によってワークを撮像し、すべてのリードが含まれる図6のような画像(たとえば、2値化画像)を生成する。以下、ワークの全体の画像を検査対象1と呼ぶことにする。図示する検査対象1では、パッケージに相当する部分を本体部1a、リードに相当する部分を脚片1bとする。この画像を用いてリードの折曲部位のばらつきを検査するには、たとえば図7に示すように、各脚片1bの先端部付近にそれぞれ検査領域Ddを設定する。つまり、各検査領域Ddの中で各脚片1bの先端縁の位置を測定点として抽出するのであって(図7における×印の位置が抽出された測定点を示す)、図示例では各検査領域Ddにおける各脚片1bの先端縁の位置を画像内において本体部1aからもっとも遠いy座標値として抽出している。なお、一般的な画像における座標系の設定方法として画像の左上角を原点とし、右に向かってx軸、下に向かってy軸をとるものとする。
【0004】
ここで、検査対象1の幅寸法Wを、図において本体部1aの上側の検査領域Ddで抽出したy座標値の最小値(本体部1aからもっとも遠い座標値)と本体部1aの下側の検査領域Ddで抽出したy座標の最大値(本体部1aからもっとも遠い座標値)との差と定義する。また、本体部1aからの脚片1bの突出寸法のばらつきの程度を評価するために、本体部1aの上側の検査領域Ddで抽出したy座標値の最大値と最小値との寸法差Δd1および本体部1aの下側の検査領域Ddで抽出したy座標値の最大値と最小値との寸法差Δd2を用いる。つまり、寸法差Δd1,Δd2が大きいほど脚片1bの突出寸法のばらつきが大きいことになる。図7に示す例は一例であり、画像内の横方向において幅寸法を求めたりばらつきを評価したりするときにはx座標値を用いる。
【0005】
【発明が解決しようとする課題】
ところで、上述した技術は、幅寸法Wや寸法差Δd1,Δd2を求める方向がx軸またはy軸に平行な方向であることを前提にしている。つまり、図示例について言えば、本体部1aにおいて脚片1bの突出している輪郭線がx方向に一致していることを前提にしている。しかしながら、実際には検査対象1における本体部1aが図8に示すようにx方向やy方向に対して傾くことがある。
【0006】
いま、検査対象1について図7に示す位置を基準位置とすれば、図8に示す検査対象1では基準位置に対して左回りの回転変位が生じていることになる。したがって、図8に示す検査対象1について、図7に示した画像と同じ技術を適用して幅寸法W′および寸法差Δd1′,Δd2′を求めると、同じ検査対象1であっても結果の値が異なってしまう(W≠W′,Δd1≠Δd1′,Δd2≠Δd2′)。つまり、上述のように、脚片1bの先端部に設定した検査領域Ddのみを用い、x座標あるいはy座標の差によって幅寸法Wや寸法差Δd1,Δd2を求める技術では、図7に示す基準位置の検査対象1に対して画像内で回転変位が生じているか否かを知ることができず、測定結果の信頼性が損なわれることになる。
【0007】
本発明は上記事由に鑑みて為されたものであり、その目的は、画像内で検査対象が基準位置に対して回転変位が生じている場合であっても検査対象の寸法を回転変位がない場合と同様に正確に求めることができる画像処理による寸法計測方法およびその装置を提供することにある。
【0008】
【課題を解決するための手段】
請求項1の発明は、画像内の検査対象について複数の測定点間の距離を検査対象に関する寸法として計測する画像処理による寸法計測方法であって、画像内に複数個の位置検出領域を設定するとともに検査対象の既知形状を各位置検出領域内で検出することにより既知形状の位置を特定した後、基準の検査対象について検出した既知形状の位置と寸法計測を行う検査対象について検出した既知形状の位置とを用いて基準の検査対象に対する検査対象の回転変位量を求め、次に前記既知形状と前記測定点との既知の位置関係を用いて測定点をそれぞれ含む複数個の検査領域を画像内に設定して各検査領域内で測定点を抽出し、かつ基準の検査対象で寸法を計測する方向に対して前記回転変位量だけ傾斜させた仮想直線を設定し、寸法計測を行う検査対象について設定した検査領域内で抽出した各測定点から前記仮想直線に下ろした垂線と仮想直線との交点間の距離を目的の寸法に用いることを特徴とする。
【0012】
請求項2の発明は、画像内の検査対象について複数の測定点間の距離を検査対象に関する寸法として計測する画像処理による寸法計測装置であって、ワークを撮像する画像入力装置と、ワークを撮像した画像から目的の寸法を計測する画像処理装置とを備え、画像処理装置が、前記画像内に複数個の位置検出領域を設定するとともに検査対象の既知形状を各位置検出領域内で検出することにより既知形状の位置を特定した後、基準の検査対象について検出した既知形状の位置と寸法計測を行う検査対象について検出した既知形状の位置とを用いて基準の検査対象に対する検査対象の回転変位量を求め、次に前記既知形状と前記測定点との既知の位置関係を用いて測定点をそれぞれ含む複数個の検査領域を画像内に設定して各検査領域内で測定点を抽出し、かつ基準の検査対象で寸法を計測する方向に対して前記回転変位量だけ傾斜させた仮想直線を設定し、寸法計測を行う検査対象について設定した検査領域内で抽出した各測定点から前記仮想直線に下ろした垂線と仮想直線との交点間の距離を目的の寸法に用いることを特徴とする。
【0014】
【発明の実施の形態】
実施の形態
本実施形態では、図1に示す画像処理装置2を用いる。図示する画像処理装置2は、TVカメラのような画像入力装置11により撮像した画像を格納する画像メモリ12を有し、画像メモリ12に格納された画像に対して画像処理部が以下の画像処理を施す。画像処理部は、マイクロプロセッサであるCPU10と、CPU10による画像処理を実行させるためのプログラムおよび実行条件などを格納した主記憶メモリ13とにより構成される。また、画像メモリ12は画像処理の際の作業用メモリとしても用いられる。CPU10には、画像処理の過程や結果を表示するディスプレイ、画像処理の過程や結果を保存する外部記憶装置などの外部装置を接続するために外部インタフェース14が設けられている。さらに、外部インタフェース14を通して主記憶メモリ13の内容を書き換えることも可能になっている。
【0015】
従来例との比較を容易にするために、本実施形態の説明には図6に示した検査対象(斜線部で示す)1を用いる。ただし、本実施形態では、図2に示すように、従来例として示した6箇所の検査領域Ddに加えて本体部1aの長手方向の一辺の両端部に対応する2箇所の位置検出領域Deを付加している。一般化して言えば、検査対象1における直線部分のうち寸法のもっとも大きい直線部分の両端部にそれぞれ対応させて位置検出領域Deを設定するのが望ましい。
【0016】
位置検出領域Deは検査対象1の座標軸に対する「傾き角度」と検査対象1の位置(代表点の座標であって、以下では「基準位置」という)とを検出するために設定される。また、本実施形態における検査領域Ddは、位置検出領域Deを用いて求められた検査対象1の傾き角度および基準位置に基づいて設定される。さらに、本実施形態では、検査対象1の傾き角度および基準位置を求めるために、基準とするワークを撮像した画像での基準の検査対象1について傾き角度および基準位置を求めて主記憶メモリ13に格納しておき、計測の対象となるワークを撮像した画像での検査対象1について求められる傾き角度および基準位置との差を求めるようにしてある。基準の検査対象1は寸法計測の標準となる検査対象1を意味する。
【0017】
以下に本実施形態の処理手順を具体的に説明する。まず、基準の検査対象1に設定した各位置検出領域Deについて、図3に示すように、検査対象1のエッジ(図示例では本体部1aの輪郭線)の上の1つの点の座標(x1、y1),(x2,y2)をそれぞれ求める(求めた一点を図3に×印で示している)。各位置検出領域Deでは検査対象1の1つのエッジの上であればどの点の座標を求めてもよい。ただし、位置検出領域Deは検査対象1の位置を検出するために、検出しようとするエッジに交差する方向に長い矩形状に設定される。1つの直線上の2点の座標(x1、y1),(x2,y2)が求まれば、画像内のx方向またはy方向に対する直線部分の傾き角度を求めることができる。つまり、x軸を基準とする傾き角度をθsとすれば、直線部分の傾き角度θsの正接は、(y2−y1)/(x2−x1)になる。一方、基準位置の座標には、位置検出領域Deで求めた2点の(x1、y1),(x2,y2)の中点(((x1+x2)/2),((y1+y2)/2))の座標を用いる。このようにして求めた傾き角度θsおよび基準位置は主記憶メモリ13に格納され基準値として用いられる。
【0018】
次に、寸法を計測するワークを撮像し、その画像での検査対象1について同様の処理を行って、傾き角度θfと基準位置とを求める。寸法を計測する検査対象1について傾き角度θおよび基準位置が求まれば、基準の検査対象1との相対位置を知ることができるから、基準の検査対象1について設定した検査領域Ddの位置を補正する。つまり、寸法計測を行う検査対象1の傾き角度θfと、基準の検査対象1の傾き角度θsとの差分を求めると、基準の検査対象1に対する寸法を計測する検査対象1の回転変位量θ(=θf−θs)を求めることができるから、基準位置の変位分だけ検査領域Ddを平行移動させ、さらに回転変位量θだけ検査領域Ddの配置を回転させることによって、寸法を計測する検査対象1とに対し、基準の検査対象1に対して設定した検査領域Ddとほぼ同じ位置関係の検査領域Ddを設定することができる。要するに、検査対象1における測定点の既知の位置関係を用いて検査領域Ddの位置を補正する。
【0019】
また、回転変位量θが求まると、基準の検査対象1について寸法を求めた方向に対して回転変位量θだけ傾斜させた仮想直線を設定することができる。図3においては、基準の検査対象1の幅寸法Wおよび寸法差Δd1,Δd2をy方向について求めているから、仮想直線Lyはy軸に対して回転変位量θだけ傾斜させてある。換言すれば、座標軸を回転変位量θだけ原点の回りに回転させて、x軸およびy軸に対応する仮想直線Lx,Lyを設定したことになる。ただし、図示例においては仮想直線Lyのみを用いる。
【0020】
上述のように寸法計測を行う検査対象1に合わせて検査領域Ddの位置を補正するとともに、仮想直線Lyを設定すれば、基準の検査対象1と同様にして検査領域Ddの中で仮想直線Lyに沿う方向において脚片1bの先端縁の位置(図3において×印で示した位置であって、以下では「測定点」という)を抽出することができるから、各検査領域Ddで抽出された各測定点からそれぞれ仮想直線Lyに対して垂線を下ろし、各垂線と仮想直線Lyとの交点を求める。こうして交点を決定すれば、仮想直線Lyの上での交点間の距離によって幅寸法Wおよび寸法差Δd1,Δd2を求めることができる。
【0021】
なお、上述の例では検査対象1の傾き角度θs,θfおよび基準位置を求めるために検査対象1の直線部分の両端部に位置検出領域Deを設定しているが、必ずしも直線部分を用いる必要はなく、検査対象1について形状が既知かつ変化の生じない部分であれば、他の箇所に位置検出領域Deを設定してもよい。さらに、検査対象1に適宜のマークを複数箇所(3箇所以上でもよい)に付与してマークの位置を位置検出領域Deの中で検出するようにしても、傾き角度および基準位置を決定することが可能である。また、仮想直線は座標軸を原点の回りに回転させて設定したものである必要はなく、検査対象1について寸法を計測しようとする方向に平行な方向に設定すればよい。
【0022】
参考例
施の形態では、基準の検査対象1について求めた傾き角度を求めて登録しておくことによって、寸法計測を行う検査対象1に対して基準の検査対象1との相対差として仮想直線を設定したのに対して、本例では寸法計測を行う検査対象1を含んだ画像を回転させることによって寸法計測を行う。
【0023】
一般に、ワーク1と画像入力装置11との相対位置を正確に位置合わせすることは困難であるが、一般に寸法計測はワーク1と画像入力装置11とが正確に位置合わせされている状態を想定して行われる。つまり、実施の形態における基準の検査対象1としては画像内で理想の位置が存在する。そこで、本例では検査対象1が理想の位置に位置すると想定して基準に用いる。このような検査対象1の傾き角度は一般には0度に設定して手入力で設定され、主記憶メモリ13に登録される。
【0024】
次に、図4のように寸法計測を行う検査対象1について位置検出領域Deを設定し、位置検出領域Deを用いて検査対象1の傾き角度を求める。外部インタフェース14を介して接続されるディスプレイ装置の画面の右上部には、図4に示すように、手入力で設定された基準の傾き角度(図では、「基準登録角度」として示してある)と、位置検出領域Deにより設定した傾き角度とが表示される。
【0025】
上述のようにして寸法計測を行う検査対象1について傾き角度が求められると、図5のように、寸法計測を行う検査対象1を含む画像P1を、寸法計測を行う検査対象1から求めた傾き角度と主記憶メモリ13に登録された基準の傾き角度との差分だけ回転させた画像P2が生成される。この画像P2の中で検査領域Ddを設定し、幅寸法Wおよび寸法差Δd1,Δd2を求めれば、検査対象1を理想の位置に位置させた場合と同じ条件で幅寸法Wおよび寸法差Δd1,Δd2を求めたことになる。他の構成および動作は実施の形態と同様である。
【0026】
なお、本例では検査対象1の基準位置について説明していないが、寸法計測を行う検査対象1について検査領域Ddを設定する際に、理想の検査対象1との相対的な位置関係に基づいて設定するのが望ましいから、理想の検査対象1についての基準位置をワーク1の実寸に基づいて外部インタフェース14を通して手入力で設定しておくのが望ましい。
【0027】
【発明の効果】
請求項1または請求項5の発明は、基準の検査対象に対して寸法計測を行う検査対象の回転変位量を求め、基準の検査対象について寸法を計測する方向に対して回転変位量だけ変位させた仮想直線を設定し、寸法計測を行う検査対象を仮想直線に投影することによって寸法を計測するから、寸法計測を行う検査対象が回転変位を含んでいても正確な寸法計測が可能になるという利点がある。
【図面の簡単な説明】
【図1】 本発明の実施形態を示すブロック図である。
【図2】 同上を示す動作説明図である。
【図3】 同上の動作説明図である。
【図4】 参考例を示す動作説明図である。
【図5】 同上の動作説明図である。
【図6】 従来例を示す動作説明図である。
【図7】 同上の動作説明図である。
【図8】 同上の動作説明図である。
【符号の説明】
1 検査対象
2 画像処理装置
10 CPU
11 画像入力装置
12 画像メモリ
13 主記憶メモリ
14 外部インタフェース

Claims (2)

  1. 画像内の検査対象について複数の測定点間の距離を検査対象に関する寸法として計測する画像処理による寸法計測方法であって、画像内に複数個の位置検出領域を設定するとともに検査対象の既知形状を各位置検出領域内で検出することにより既知形状の位置を特定した後、基準の検査対象について検出した既知形状の位置と寸法計測を行う検査対象について検出した既知形状の位置とを用いて基準の検査対象に対する検査対象の回転変位量を求め、次に前記既知形状と前記測定点との既知の位置関係を用いて測定点をそれぞれ含む複数個の検査領域を画像内に設定して各検査領域内で測定点を抽出し、かつ基準の検査対象で寸法を計測する方向に対して前記回転変位量だけ傾斜させた仮想直線を設定し、寸法計測を行う検査対象について設定した検査領域内で抽出した各測定点から前記仮想直線に下ろした垂線と仮想直線との交点間の距離を目的の寸法に用いることを特徴とする画像処理による寸法計測方法。
  2. 画像内の検査対象について複数の測定点間の距離を検査対象に関する寸法として計測する画像処理による寸法計測装置であって、ワークを撮像する画像入力装置と、ワークを撮像した画像から目的の寸法を計測する画像処理装置とを備え、画像処理装置が、前記画像内に複数個の位置検出領域を設定するとともに検査対象の既知形状を各位置検出領域内で検出することにより既知形状の位置を特定した後、基準の検査対象について検出した既知形状の位置と寸法計測を行う検査対象について検出した既知形状の位置とを用いて基準の検査対象に対する検査対象の回転変位量を求め、次に前記既知形状と前記測定点との既知の位置関係を用いて測定点をそれぞれ含む複数個の検査領域を画像内に設定して各検査領域内で測定点を抽出し、かつ基準の検査対象で寸法を計測する方向に対して前記回転変位量だけ傾斜させた仮想直線を設定し、寸法計測を行う検査対象について設定した検査領域内で抽出した各測定点から前記仮想直線に下ろした垂線と仮想直線との交点間の距離を目的の寸法に用いることを特徴とする画像処理による寸法計測装置。
JP2001091364A 2001-03-27 2001-03-27 画像処理による寸法計測方法およびその装置 Expired - Fee Related JP4158349B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001091364A JP4158349B2 (ja) 2001-03-27 2001-03-27 画像処理による寸法計測方法およびその装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001091364A JP4158349B2 (ja) 2001-03-27 2001-03-27 画像処理による寸法計測方法およびその装置

Publications (2)

Publication Number Publication Date
JP2002286426A JP2002286426A (ja) 2002-10-03
JP4158349B2 true JP4158349B2 (ja) 2008-10-01

Family

ID=18945992

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001091364A Expired - Fee Related JP4158349B2 (ja) 2001-03-27 2001-03-27 画像処理による寸法計測方法およびその装置

Country Status (1)

Country Link
JP (1) JP4158349B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005017820A1 (en) 2003-08-15 2005-02-24 Scape A/S Computer-vision system for classification and spatial localization of bounded 3d-objects
JP4683324B2 (ja) * 2005-02-03 2011-05-18 日立金属株式会社 形状測定システム、形状測定方法及び形状測定プログラム
KR101636389B1 (ko) * 2014-04-04 2016-07-05 창원대학교 산학협력단 케이블 하네스 자동 검사 방법
CN114440798B (zh) * 2022-04-07 2022-07-05 常州市新创智能科技有限公司 一种碳板直线度的检测方法及装置
CN117011365B (zh) * 2023-10-07 2024-03-15 宁德时代新能源科技股份有限公司 尺寸测量方法、装置、计算机设备和存储介质

Also Published As

Publication number Publication date
JP2002286426A (ja) 2002-10-03

Similar Documents

Publication Publication Date Title
US8564655B2 (en) Three-dimensional measurement method and three-dimensional measurement apparatus
JP6025386B2 (ja) 画像計測装置、画像計測方法及び画像計測プログラム
US20100156896A1 (en) Method of creating three-dimensional model and object recognizing device
US20080109184A1 (en) Position and orientation measurement method and apparatus
JP2802561B2 (ja) 半導体チップのアライメント方法およびレーザ修理用ターゲット
JP4446609B2 (ja) 画像処理方法および装置
EP1031812A2 (en) Measurement apparatus
US10102631B2 (en) Edge detection bias correction value calculation method, edge detection bias correction method, and edge detection bias correcting program
CN110049314B (zh) 利用棋盘格测试表检测模组tv畸变的方法及装置
CN110035280B (zh) 利用棋盘格测试表检测模组fov的方法、装置及可读存储介质
JP2002319028A (ja) 画像処理方法、同装置、およびボンディング装置
JP4158349B2 (ja) 画像処理による寸法計測方法およびその装置
US20060100730A1 (en) Method for detection and relocation of wafer defects
JP3545542B2 (ja) ウェハの回転方向検出方法
JP6594052B2 (ja) 組み立て設備検査方法
JP2013148375A (ja) 三次元形状測定装置に用いられる校正方法、校正器およびプログラムならびに三次元形状測定装置
WO1997037378A1 (fr) Dispositif d'inspection visuelle permettant de detecter des bosses sur des plaquettes et dispositif de mesure des hauteurs
CN112985274B (zh) 邦定焊盘间距离的测量方法、装置及电子设备
JP2913370B2 (ja) 光学式位置計測方法
JP4029975B2 (ja) 半導体ウェーハのノッチの肩円弧部半径の測定方法
JP3111433B2 (ja) 画像処理装置
JP2694504B2 (ja) 段付ワークの位置計測方法
JPH08110206A (ja) 位置及び姿勢検出方法と位置及び姿勢検出装置
JP3779118B2 (ja) 撮像装置におけるカメラの位置ずれ検出方法、撮像装置におけるカメラの傾き検出方法、および、撮像装置におけるカメラの移動量補正方法
JPH0372203A (ja) 半田付け部の外観検査方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060302

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080401

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080602

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080624

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080707

R151 Written notification of patent or utility model registration

Ref document number: 4158349

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110725

Year of fee payment: 3

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110725

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120725

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120725

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120725

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130725

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130725

Year of fee payment: 5

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130725

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees