JP2010262434A - マーキング制御システム及びこれを用いてマーキングされた部材同士の位置合わせ方法 - Google Patents

マーキング制御システム及びこれを用いてマーキングされた部材同士の位置合わせ方法 Download PDF

Info

Publication number
JP2010262434A
JP2010262434A JP2009111968A JP2009111968A JP2010262434A JP 2010262434 A JP2010262434 A JP 2010262434A JP 2009111968 A JP2009111968 A JP 2009111968A JP 2009111968 A JP2009111968 A JP 2009111968A JP 2010262434 A JP2010262434 A JP 2010262434A
Authority
JP
Japan
Prior art keywords
mark
marking
camera
members
deformation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009111968A
Other languages
English (en)
Other versions
JP5346674B2 (ja
Inventor
Shuntaro Suzuki
俊太郎 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
IHI Corp
IHI Marine United Inc
Original Assignee
IHI Corp
IHI Marine United Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by IHI Corp, IHI Marine United Inc filed Critical IHI Corp
Priority to JP2009111968A priority Critical patent/JP5346674B2/ja
Publication of JP2010262434A publication Critical patent/JP2010262434A/ja
Application granted granted Critical
Publication of JP5346674B2 publication Critical patent/JP5346674B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Position Or Direction (AREA)

Abstract

【課題】マーキングにより2つの部材をどのような位置、角度で合わせ、どのような位置からカメラにてパターンマッチングする場合でも、的確に互いの位置を合わせることができるマーキング制御システム及びこれを用いてマーキングされた部材同士の位置合わせ方法を提供する。
【解決手段】マークを第1及び第2の部材のそれぞれに付すためのマーキング機に備わるマーキング制御システム1であって、組立計画データベース2と、カメラ情報が格納されたカメラデータベース3とから情報を取得し、カメラから見た時のカメラ平面画像を導出する平面導出処理部8と、マーキング位置情報が格納されたマーキングデータベース4と、マークの形状が格納されたマークデータベース5とから、マークをカメラにてパターンマッチングできる形状に変形するためのマーク変形処理部9とを有し、変形マーク変換情報を、マーキング機7に備わるマーキング手段に伝達する。
【選択図】図1

Description

本発明は、カメラにて容易にパターンマッチングできるマークを部材(特に板材)に付すことができるマーキング制御システム及びこれを用いてマーキングされた部材同士の位置合わせ方法に関するものである。
2つの物体の相対的位置関係を、1台の画像入力装置のモニタ画像を用いて調整する位置決め装置に関する特許が特許文献1に開示されている。これは、予め2つの物体にマーキングされた位置決めマークのモニタ画面上の位置を検出し、それぞれのマーク位置又は相対位置が所定の条件を満たすように物体を位置決め移動させるものである。特許文献1の位置決め装置では、両部材(物体)に付した直線状のマークが直線状に並ぶようにして互いの位置を合わせている。このように、マークを用いて位置を合わせる方法としては、他に特許文献2や特許文献3に示されているように、円形状のマークを重ねたり並べたりする方法が開示されている。
このようなマークによる位置合わせは、カメラによる画像認識を利用して、パターンマッチングすることにより行われる。しかしながら、上記特許文献1〜3では、マークを画像認識する際にカメラからみてマークがどのように認識されるかを考慮していない。例えば、位置合わせする部材が角度をもって接合される場合等、同じカメラ位置からこれらに付されたマークを見ると、角度によっては異なったマークに見えることがある。したがって、2つの部材には全く同じマークを付したとしても、パターンマッチングにより異なるマークと認識され、位置合わせが正常に行えない場合があるので、これに対応する必要がある。
特開平7−72930号公報 特開平10−272758号公報 特開2004−4373号公報
本発明は、上記従来技術を考慮したものであって、マーキングにより2つの部材を位置合わせする場合において、両部材をどのような位置、角度で合わせる場合でも、さらにどのような位置からカメラにてパターンマッチングする場合でも、的確に互いの位置を合わせることができるマーキング制御システム及びこれを用いてマーキングされた部材同士の位置合わせ方法を提供することを目的とする。
前記目的を達成するため、請求項1の発明では、互いに組付けられる第1の部材と第2の部材との間で、互いの位置を合わせるための指標となるマークを前記第1及び第2の部材のそれぞれに付すマーキング機のためのマーキング制御システムであって、前記第1の部材と前記第2の部材の位置合わせ後における互いの位置及び角度情報が格納された組立計画データベースと、前記第1及び第2の部材の位置合わせ時に同一のカメラにより撮像した前記マークの画像を画像処理によりパターンマッチングするために、前記部材に対する前記カメラの位置及び角度情報が格納されたカメラデータベースと、前記組立計画データベース及び前記カメラデータベースからそれぞれの情報を取得し、位置合わせ後の前記第1の部材及び第2の部材を前記カメラから見た時のカメラ平面画像を導出する平面導出処理部と、前記第1の部材と前記第2の部材における前記マークを付す位置であるマーキング位置情報が格納されたマーキングデータベースと、前記マークの形状が格納されたマークデータベースと、前記マーキングデータベースから前記マーキング位置情報を取得し、前記マークデータベースから前記マークの形状を選択し、前記マークの形状を前記カメラ平面画像上でパターンマッチングできる変形マークに変形するためのマーク変形処理部とを有し、前記マーク変形処理部は、前記第1及び第2の部材に前記マーキング機によって付されたマークが前記カメラ平面画像に前記(変形前の)マークとして映し出されるように、前記マーキング機のマーキング手段に描画指令を伝達することを特徴とするマーキング制御システムを提供する。
また、請求項2の発明では、請求項1に記載のマーキング制御システムを用いて、マーキングされた部材同士の位置合わせ方法であって、前記第1及び第2の部材を突き合わせた後、前記カメラ平面画像上にて、前記第1及び第2の部材のマーキング面に付されたそれぞれの(カメラ平面画像上では変形前のマークとして映し出される)変形マークから、前記マーキング面の交線に向けて補助線を引き、前記第1の部材の変形マークからの補助線と前記交線が交わる第1の交点と、前記第2の部材の変形マークからの補助線と前記交線が交わる第2の交点との位置関係を基準として前記第1の部材と前記第2の部材の位置合わせを行うことを特徴とするマーキング制御システムを用いてマーキングされた部材同士の位置合わせ方法を提供する。
請求項3の発明では、請求項2の発明において、前記変形マークは少なくとも前記交線と垂直に交差する方向に延びる基準辺を有する線書きの図形である一方、前記補助線は前記基準辺を前記交線まで延長した直線であり、前記第1及び第2の交点との距離が許容値以下の場合に、前記第1及び第2の部材の位置が合っていると判断することを特徴としている。
請求項1の発明によれば、組立計画データベースから第1の部材と第2の部材との位置合わせ後の互いの位置及び角度を取得し、カメラデータベースからパターンマッチングに用いるカメラの位置及び角度を取得して、カメラから第1の部材及び第2の部材を見た時のカメラ平面画像を平面導出処理部にて導出できる。さらに、マーキングデータベースから第1の部材及び第2の部材に対するマーキング位置をそれぞれ取得し、マークデータベースから今回付すべきマークを選択して、このマークが取得したマーキング位置に付された時に、先に導出したカメラ平面画像でどのような形状に認識されるかを求めてマーク変形処理部にて変形マークを作成し、これをマーキング位置に付すようにマーキング機に備わるマーキング手段に伝達する。したがって、予めカメラによって確実にパターンマッチングできる変形マークを部材に付して位置合わせするので、マークを誤認識することなく、両部材の位置決め作業を迅速かつ的確に行うことができる。また、カメラの位置が同じであれば、導出したカメラ平面画像を繰り返し使用できるので、マークの変形を迅速に行うことができ、作業性が向上する。
請求項2の発明によれば、第1及び第2の部材に付された変形マークから、それぞれ補助線を交線に向けて引き、これら第1及び第2の交点の位置関係に基づいて、第1及び第2の部材の位置合わせを行うので、簡単な方法で効率よく両部材の位置合わせを行うことができる。
請求項3の発明によれば、第1及び第2の部材とのマーキング面における交線と垂直に交差する基準辺を有する変形マークを、この基準辺を延長させた補助線と交線が一致するように、第1及び第2の部材にマーキングするので、補助線と交線が交わる互いの交点が一致することを確認することにより、両部材の位置合わせを確実なものとすることができる。さらには、この両交点の距離が許容値以下と幅を持たせて位置合わせを判断することもできるので、位置合わせする部材に応じた精度で両部材の位置合わせを行うことができる。
本発明に係るマーキング制御システムの概略ブロック図である。 カメラ平面と部材平面の説明図である。 本発明に係るマーキング制御システムを用いてマーキングされた部材同士の位置合わせ方法の説明図である。 本発明に係るマーキング制御システムを用いてマーキングされた部材同士の位置合わせ方法のフローチャートである。
図1は本発明に係るマーキング制御システムの概略ブロック図であり、図2はカメラ平面と部材平面の説明図である。
本発明に係るマーキング制御システム1は、組立計画データベース2と、カメラデータベース3と、マーキングデータベース4と、マークデータベース5と、マーク変形モジュール6で構成される。マーキング制御システム1は、各データベース2,3,4,5から各情報を取得し、これらをマーク変形モジュール6にて処理して変形マークを作成し、部材に対する描画位置情報とともにマークを付すためのマーキング機(手段)7に伝達するものである。
組立計画データベース2は、組立部材の組付位置や組付角度等の情報を格納したものである。例えば、組付けすべき第1の部材に対して、第2の部材がどのような位置・角度で第1の部材に接するかの情報である。カメラデータベース3は、パターンマッチングするカメラの位置や姿勢(角度)情報を格納したものである。例えば、実際に第1の部材と第2の部材を組み付ける場面において、両部材の位置合わせをする際に何れの位置・角度からカメラが視認しているかの情報である。
マーキングデータベース4は、組立部材への位置決めマーク描画位置情報を格納したものである。例えば、第1の部材及び第2の部材のどの部分(位置)にマークを付すか等の情報である。マークデータベース5は、(位置決め)マークがカメラと正対したときのマーク形状のパターンが登録されているものである。
マーク変形モジュール6には、平面導出ブロック8と平面変換ブロック9が備わる。平面導出ブロック8は、組立計画データベース2とカメラデータベース3から第1の部材及び第2の部材の組付け位置・角度、さらにカメラの位置・角度情報を取得し、当該カメラの位置・角度から組立部材を撮影した時のカメラ平面画像を演算により求める。すなわち、図2に示すように、実際の部材平面Qは、カメラの位置・角度により、カメラ平面qとして認識される。この部材平面Qに対するカメラ平面qを演算により求める。
このカメラ平面画像の導出は、3次元空間のある平面から別の平面へ投影する方法である、ホモグラフィ変換を用いることができる。このホモグラフィ変換は、3×3のホモグラフィ行列を利用して、3次元空間上のある点Q(X,Y,Z)を平面q(x,y)に変換する方法である。これにより、実際の部材平面に付されたマークが、カメラにてどのように変形されて認識されるかを求めることができる。
平面変換ブロック9は、平面導出ブロック8で導出されたカメラ平面画像の情報と、マーキングデータベース4及びマークデータベース5からの情報を取得する。これらの情報を総合して、マークデータベース5から選択した任意のマークが組立計画データベース2に基づいた第1及び第2の部材の所定個所に付された時、カメラ平面画像ではどのように映るかを求める。すなわち、マークデータベース5から選択した任意のマークがカメラ平面画像によって認識される変形マークを求める。
この変形マークは、変形マークの形態がカメラ平面画像で認識できるような態様となるように、例えば上述したQからqへの変換の逆変換をされ、すなわちカメラ平面画像における点q1、q2を部材平面上のQ1、Q2に変換される。この変形マークの変換情報は、部材に対する描画位置とそのマークパターン情報が描画指令としてとしてマーキング機7に伝達される。そして、マーキング機7に備わるマーキング手段(不図示)により、変形マークがカメラ平面画像でパターンマッチングできるような態様で第1の部材及び第2の部材にマーキングする。
このように、予めカメラによって確実にパターンマッチングできる変形マークを部材に付して位置合わせするので、マークを誤認識することなく、両部材の位置決め作業を迅速かつ的確に行うことができる。また、カメラの位置が同じであれば、導出したカメラ平面画像を繰り返し使用できるので、マークの変形を迅速に行うことができ、作業性が向上する。
図3は本発明に係るマーキング制御システムを用いてマーキングされた部材同士の位置合わせ方法の説明図である。
図示したように、この例では、第1の部材10上に垂直に第2の部材11が組み付けられるものをカメラ平面画像で認識した態様で示している。第1及び第2の部材10,11には、それぞれ変形マーク12がマーキングされている。パターンマッチングを行うカメラは、この変形マーク12を認識し、同一の図形であると判断したら、次にこの変形マーク12をもとにして両部材10,11の位置合わせを行う。
なお、パターンマッチングを行う図形(マーク)としては、両図形が同一の図形に限られるものではなく、また図示したような直角三角形でなくても種々の図形(例えば矢印)を用いることができる。このようなパターンマッチングは、カメラによる画像認識の対応を予め設定しておくことにより行うことができる。
変形マークが図示したような直角三角形の場合、部材に正対して直角三角形をマーキングすると、図の点線で示した直角三角形12aとなる。これをカメラ平面画像で認識すると(図示した角度から見ると)、両マークは歪んでしまい、同一のマークとは認識できない。したがって、パターンマッチングを行うために、カメラ平面画像にて同一のマークとなるように、変形マークを求め、予め両部材にマーキングする。
マークは、単純なものにすると(例えば直線)、部材間の継ぎ目や部材のエッジ、あるいは影等と誤認識する可能性があるため、ある程度複雑な形状とすることが好ましい。カメラにより自動的にマークを検出するには、予め登録したマークパターンと画面上の画像とのマッチングをとり、マッチング度合いが所定値以上であるものを抽出する方法が用いられる。具体的には、マークを含む領域全体のパターンマッチングを行う正規化相関手法や、画像から濃淡の輪郭を抽出したマークの輪郭形状のパターンマッチングを行う手法等がある。
両部材10,11の位置合わせは、互いの変形マーク12から両部材10,11のマーキング面における交線13に向けて補助線14(図の破線)を引く。例えば図示したような変形マーク12が直角三角形であってその一辺(基準辺B)の延長線が交線13に対して垂直に交わる場合、その延長線を補助線14とする。すなわち、基準辺Bは交線13に対して垂直に形成されている。補助線14が交線13と交わる点を交点10a,11aとし、これらの交点距離が許容値以下のときに、両部材10,11の位置が合っていると判断する。したがって、このような場合は、交点10a,11aが一致するように、予め第1及び第2の部材にマーキングされる。なお、補助線14の引き方や、交点10a,11aを基とする判断基準は、これに限定されるものではない。
図4は本発明に係るマーキング制御システムを用いてマーキングされた部材同士の位置合わせ方法のフローチャートである。
ステップS1:
位置合わせのための作業台に、第1の部材及び第2の部材がロボットアーム等で搬送され、組付け位置にて互いに接しながら載置される。この載置された第1の部材及び第2の部材をパターンマッチングのためのカメラにて、カメラ平面画像における変形マークを検出する。この変形マークは、予め両部材にマーキングされている。
ステップS2:
変形マークから両部材のマーキング面における交線に対し、補助線を引く。さらに、この補助線と交線の交点の位置を算出する。変形マークは、この交点が一致するように補助線の引き方も考慮して、予め別の場所で第1の部材及び第2の部材にマーキングされている。補助線の引き方の例としては、図3に示した通りである。
ステップS3:
交点間距離が許容値以下であるか判断する。
ステップS4:
交点間距離が許容値より大きい場合、交点同士が近付くように(交点間距離が許容値以下となるように)、部材の一方又は両方を移動させる。移動させた後、ステップS1に戻る。
ステップS5:
ステップS3で交点間距離が許容値以下の場合、両部材の位置合わせが完了したと判断し、仮溶接を行う。こののち、正式な溶接をするために、所定の場所に仮溶接をされたまま搬送される。
上述したように、第1及び第2の部材とのマーキング面における交線と垂直に交差する基準辺を有する変形マークを、この基準辺を延長させた補助線と交線が一致するように、第1及び第2の部材にマーキングするので、補助線と交線が交わる互いの交点が一致することを確認することにより、両部材の位置合わせを確実なものとすることができる。さらには、この両交点の距離が許容値以下と幅を持たせて位置合わせを判断することもできるので、位置合わせする部材に応じた精度で両部材の位置合わせを行うことができる。
1 マーキング制御システム
2 組立計画データベース
3 カメラデータベース
4 マーキングデータベース
5 マークデータベース
6 マーク変形モジュール
7 マーキング機
8 平面導出ブロック
9 平面変換ブロック
10 第1の部材
11 第2の部材
12 変形マーク
13 交線
14 補助線

Claims (3)

  1. 互いに組付けられる第1の部材と第2の部材との間で、互いの位置を合わせるための指標となるマークを前記第1及び第2の部材のそれぞれに付すマーキング機のためのマーキング制御システムであって、
    前記第1の部材と前記第2の部材の位置合わせ後における互いの位置及び角度情報が格納された組立計画データベースと、
    前記第1及び第2の部材の位置合わせ時に同一のカメラにより撮像した前記マークの画像を画像処理によりパターンマッチングするために、前記部材に対する前記カメラの位置及び角度情報が格納されたカメラデータベースと、
    前記組立計画データベース及び前記カメラデータベースからそれぞれの情報を取得し、位置合わせ後の前記第1の部材及び第2の部材を前記カメラから見た時のカメラ平面画像を導出する平面導出処理部と、
    前記第1の部材と前記第2の部材における前記マークを付す位置であるマーキング位置情報が格納されたマーキングデータベースと、
    前記マークの形状が格納されたマークデータベースと、
    前記マーキングデータベースから前記マーキング位置情報を取得し、前記マークデータベースから前記マークの形状を選択し、前記マークの形状を前記カメラ平面画像上でパターンマッチングできる変形マークに変形するためのマーク変形処理部とを有し、
    前記マーク変形処理部は、前記第1及び第2の部材に前記マーキング機によって付されたマークが前記カメラ平面画像に前記(変形前の)マークとして映し出されるように、前記マーキング機のマーキング手段に描画指令を伝達することを特徴とするマーキング制御システム。
  2. 請求項1に記載のマーキング制御システムを用いて、マーキングされた部材同士の位置合わせ方法であって、
    前記第1及び第2の部材を突き合わせた後、前記カメラ平面画像上にて、前記第1及び第2の部材のマーキング面に付されたそれぞれの(カメラ平面画像上では変形前のマークとして映し出される)変形マークから、前記マーキング面の交線に向けて補助線を引き、前記第1の部材の変形マークからの補助線と前記交線が交わる第1の交点と、前記第2の部材の変形マークからの補助線と前記交線が交わる第2の交点との位置関係を基準として前記第1の部材と前記第2の部材の位置合わせを行うことを特徴とするマーキング制御システムを用いてマーキングされた部材同士の位置合わせ方法。
  3. 前記変形マークは少なくとも前記交線と垂直に交差する方向に延びる基準辺を有する線書きの図形である一方、前記補助線は前記基準辺を前記交線まで延長した直線であり、前記第1及び第2の交点との距離が許容値以下の場合に、前記第1及び第2の部材の位置が合っていると判断することを特徴とする請求項2に記載のマーキング制御システムを用いてマーキングされた部材同士の位置合わせ方法。
JP2009111968A 2009-05-01 2009-05-01 マーキング制御システム及びこれを用いてマーキングされた部材同士の位置合わせ方法 Active JP5346674B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009111968A JP5346674B2 (ja) 2009-05-01 2009-05-01 マーキング制御システム及びこれを用いてマーキングされた部材同士の位置合わせ方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009111968A JP5346674B2 (ja) 2009-05-01 2009-05-01 マーキング制御システム及びこれを用いてマーキングされた部材同士の位置合わせ方法

Publications (2)

Publication Number Publication Date
JP2010262434A true JP2010262434A (ja) 2010-11-18
JP5346674B2 JP5346674B2 (ja) 2013-11-20

Family

ID=43360453

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009111968A Active JP5346674B2 (ja) 2009-05-01 2009-05-01 マーキング制御システム及びこれを用いてマーキングされた部材同士の位置合わせ方法

Country Status (1)

Country Link
JP (1) JP5346674B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011021894A (ja) * 2009-07-13 2011-02-03 Ihi Corp 部材同士の位置合わせ制御システム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0772930A (ja) * 1993-09-07 1995-03-17 Fujitsu Ltd 位置決め装置
JPH10272758A (ja) * 1997-03-31 1998-10-13 Mitsubishi Electric Corp 印刷方法、印刷物及び印刷装置
JP2004004373A (ja) * 2002-05-31 2004-01-08 Optrex Corp フレキシブル基板およびフレキシブル基板と液晶パネルの位置合わせ方法。

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0772930A (ja) * 1993-09-07 1995-03-17 Fujitsu Ltd 位置決め装置
JPH10272758A (ja) * 1997-03-31 1998-10-13 Mitsubishi Electric Corp 印刷方法、印刷物及び印刷装置
JP2004004373A (ja) * 2002-05-31 2004-01-08 Optrex Corp フレキシブル基板およびフレキシブル基板と液晶パネルの位置合わせ方法。

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011021894A (ja) * 2009-07-13 2011-02-03 Ihi Corp 部材同士の位置合わせ制御システム

Also Published As

Publication number Publication date
JP5346674B2 (ja) 2013-11-20

Similar Documents

Publication Publication Date Title
JP5537868B2 (ja) 溶接ロボット
US9561571B2 (en) Method and device for aiding in manual handling of a work piece during machining
CN104023906A (zh) 操作管理装置及操作管理系统
JP6653572B2 (ja) 変形加工支援システムおよび変形加工支援方法
WO2015170482A1 (ja) 溶接機及びその制御方法
JP2017077614A (ja) 教示点補正方法、プログラム、記録媒体、ロボット装置、撮影点作成方法、及び撮影点作成装置
US11159730B2 (en) Bending machine comprising a work area image detecting device and method for representing a work area
US20230035342A1 (en) Machine integrated positioning system
JP3977398B2 (ja) XYθステージによる位置アライメントシステム
JP2015149011A (ja) 表示システム、表示装置、および表示方法
US11151735B1 (en) Deformation processing support system and deformation processing support method
JP2006308500A (ja) 三次元ワーク測定方法
JP5346674B2 (ja) マーキング制御システム及びこれを用いてマーキングされた部材同士の位置合わせ方法
KR101741997B1 (ko) 로봇 암 정렬 장치 및 이를 이용한 정렬 방법
WO2020137184A1 (ja) 自動溶接システム、エレベーターかご室部品の製造方法、および自動溶接方法
JP5305026B2 (ja) 部材同士の位置合わせ制御システム
JP2011171388A (ja) プリント基板用コネクタ圧入装置、及び電子部品の製造方法
JPH09329440A (ja) 複数枚の画像の各計測点の対応づけ方法
JP2017144454A (ja) 車体部品の施工部位判定システム及び施工部位判定方法
JP2010146357A (ja) 3次元画像処理方法および3次元画像処理装置
TW201443393A (zh) 拍攝並拼接物件影像的方法
JP3947205B2 (ja) XYθステージによる位置アライメントシステム
TWI730664B (zh) 雷射打標系統及其控制方法
JP3896381B2 (ja) XYθステージによる位置アライメントシステム
JP2007019457A (ja) XYθステージによる位置アライメントシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120425

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20130403

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130807

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130819

R150 Certificate of patent or registration of utility model

Ref document number: 5346674

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250