JP2012154862A - 3次元寸法測定装置 - Google Patents

3次元寸法測定装置 Download PDF

Info

Publication number
JP2012154862A
JP2012154862A JP2011015901A JP2011015901A JP2012154862A JP 2012154862 A JP2012154862 A JP 2012154862A JP 2011015901 A JP2011015901 A JP 2011015901A JP 2011015901 A JP2011015901 A JP 2011015901A JP 2012154862 A JP2012154862 A JP 2012154862A
Authority
JP
Japan
Prior art keywords
image
camera
cameras
zoom
dimension
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011015901A
Other languages
English (en)
Other versions
JP5610579B2 (ja
Inventor
Hiroyuki Nakano
博之 中野
Takaaki Konishi
孝明 小西
Nobuhisa Seya
修久 瀬谷
Daisuke Igarashi
大輔 五十嵐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2011015901A priority Critical patent/JP5610579B2/ja
Publication of JP2012154862A publication Critical patent/JP2012154862A/ja
Application granted granted Critical
Publication of JP5610579B2 publication Critical patent/JP5610579B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Abstract

【課題】本発明の目的は、画像を用いた測定において、1枚の画像に納まりきらない程の高い倍率で画像を取得する際にも、容易な操作で画像を取得でき、かつ、寸法を算出する際に、1枚の画像に納まりきらない程の高い倍率で撮影した画像を用いることで、1枚の画像に納まりきる画像から寸法を算出するよりも高い精度で寸法を算出可能な装置を提供することにある。
【解決手段】本発明は、ワイドカメラの画像からワークの輪郭を抽出し、抽出された輪郭情報に基づき、駆動機構の走査軌跡および、複数のカメラの撮像倍率を決定し、決定された走査軌跡を走査中に、複数のカメラから複数枚の画像を取得し、複数枚の画像を合成して、高倍率の画像を生成し、生成された高倍率画像から高精度に輪郭の寸法を求めることを特徴とする。
【選択図】 図1

Description

本発明は、3次元寸法測定装置に関する。
画像から寸法を求める際に、高倍率(高精細)画像を取得することで、寸法の算出精度が向上する。しかしながら、同じ大きさの受光素子を用いた場合、高倍率画像は撮影範囲が狭くなるため、測定可能な測定対象の大きさが小さくなる。また、測定対象の大きさに応じ撮影範囲を変えた場合、ズーミング、および、フォーカシングの状態によって画像歪みなどのカメラパラメータが変わってしまい、正確な寸法測定ができなくなる。さらに、高倍率で撮影した場合、測定対象の一部しか確認できなくなるため、測定対象全体のうちどの部分を撮影しているのかの判断が難しくなる。
これらの課題に対し、特開2008−241491号公報(特許文献1)において廣岡らは、ズーム及びフォーカス機能を有するステレオカメラを用いた3次元計測装置において、ズーム及びフォーカスが変化した場合でも精度のよい3次元計測を行うことが可能な3次元計測装置について述べている。すなわち、ズーム及びフォーカスが可変な撮像手段を1つ以上含む複数の撮像手段と、ズーミング及びフォーカシングの制御手段と、複数の撮像手段が出力した撮像画像をステレオ画像処理し3次元情報を計測するステレオ画像処理手段と、ステレオ画像処理を行うために必要なカメラ情報を格納するカメラ情報格納手段とを有する3次元計測装置において、カメラ情報格納手段は各撮像手段のズームの状態及びフォーカスの状態に依存して変化するカメラ情報については、その状態に応じた複数のカメラ情報を持ち、ステレオ画像処理手段が各撮像手段のズームの状態及びフォーカスの状態を取得して、カメラ情報格納部から対応するカメラ情報を取得し、ステレオ画像処理に用いる方法について述べている。
また、特開2008−70120号公報(特許文献2)において廣岡らは、ズームが可変なステレオ撮像を用いた距離計測装置において、ズームが変化した場合でも正確なステレオ画像処理による距離計測を行う距離計測装置について述べている。すなわち、撮像を行うズームが可変な第一,第二の撮像手段と、第一,第二の撮像手段が出力するステレオ撮像画像を用いてステレオ画像処理を行い、距離情報を演算するステレオ画像処理手段と、第一の撮像手段と第二の撮像手段が出力する撮像画像を用いて画像処理を行い、ズームの変化量を検出するズーム変化量検出手段とを有する。検出した第一,第二の撮像手段のズーム倍率に差がある場合に、その差を補正するように第一,第二の撮像手段を制御する。また、ステレオ画像処理手段がズーム変化量検出手段の出力するズーム変化量を用いてステレオ画像処理を行うことで、ズーム変化時にも精度の良いステレオ画像処理を行い、正確な距離計測を行うことが可能となると述べている。
また、特開平8−14861号公報(特許文献3)において近藤らは、対象物体の3次元形状を精度良く計測するために、ズームレンズを有する2つの撮像部を用い、それぞれ撮像したステレオ画像から測距部においてステレオ測距法により被写体距離データZSを得る。一方、ズーム比を変えながら測距部においてズーム測距法により距離データZR,ZLを得て、距離データ統合部にて各データZS,ZR,ZLを各々の信頼性に応じて荷重平均する。そして、最終的な被写体距離を求めることで、2つの測距法の計測結果が補い合いながら被写体の3次元形状を高精度に安定して計測する方法について述べている。
また、特開2009−284452号公報(特許文献4)において河野らは、従来複数カメラの位置関係を正確に定め、複数カメラを効果的に利用するのに困難であった複数のカメラの正確な位置決めとカメラ操作を容易とし、複数カメラ間の位置関係を常に正確に保ちながら操作容易にした複数のカメラ装着用雲台構成およびそれらを制御操作する複数カメラシステム装置を提供する。この装置では、複数カメラの位置関係を正確に保ちながら制御操作することにより、複数カメラによる複数画像の利用,目標対象物のスピーディかつ的確な捕捉,対象物の位置関係の把握,高速ズームフォーカス、など複数カメラによるより高度な機能を備えたカメラシステム装置について述べている。すなわち、複数のカメラから成る電子カメラシステム装置において、前記複数のカメラはパン方向およびチルト方向に制御可能な雲台上に装着され、前記複数のカメラはそれぞれが連携して操作可能とされることを特徴とする電子カメラシステムについて述べている。
特開2008−241491号公報 特開2008−70120号公報 特開平8−14861号公報 特開2009−284452号公報
しかしながら、特許文献1,特許文献2、および、特許文献3で述べられている技術では、高倍率で撮影した場合、測定対象の一部しか確認できなくなるため、測定対象全体のうちどの部分を撮影しているのかの判断が難しくなることに対する解決方法については述べられていない。
また、特許文献4で述べられている技術では、低倍率画像と高倍率画像を同時に取得し、低倍率画像中の所望の場所を高倍率で撮影する技術について述べられているものの、測定対象を1枚の高倍率画像に納まりきらない程のより高い倍率で撮影する方法については述べられていない。
そこで、本発明の目的は、画像を用いた測定において、1枚の画像に納まりきらない程の高い倍率で画像を取得する際にも、容易な操作で画像を取得でき、かつ、寸法を算出する際に、1枚の画像に納まりきらない程の高い倍率で撮影した画像を用いることで、1枚の画像に納まりきる画像から寸法を算出するよりも高い精度で寸法を算出可能な装置を提供することにある。
本発明は、ワイドカメラの画像からワークの輪郭を抽出し、抽出された輪郭情報に基づき、駆動機構の走査軌跡および、複数のカメラの撮像倍率を決定し、決定された走査軌跡を走査中に、複数のカメラから複数枚の画像を取得し、複数枚の画像を合成して、高倍率の画像を生成し、生成された高倍率画像から高精度に輪郭の寸法を求めることを特徴とする。
本発明によれば、画像を用いた測定において、1枚の画像に納まりきらない程の高い倍率で画像を取得する際にも、容易な操作で画像を取得でき、かつ、寸法を算出する際に、1枚の画像に納まりきらない程の高い倍率で撮影した画像を用いることで、1枚の画像に納まりきる画像から寸法を算出するよりも高い精度で寸法を算出可能な装置を提供することができる。
本発明の第1の実施例における、ワイドカメラと、ズーム機能付きステレオカメラを用いた寸法計測システムの全体構成図を示す図である。 本発明の第1の実施例における、ワイドカメラと、ステレオカメラのX軸方向の位置の違いを説明する図である。 本発明の第1の実施例における、ワイドカメラと、ステレオカメラのY軸方向の位置の違いを説明する図である。 本発明の第1の実施例における、ワイドカメラで撮影された画像と、ワイドカメラで撮影された画像の中の指定された部分をズームカメラで撮影した画像を、各々、別々のモニタで表示させる様子を説明する図である。 本発明の第1の実施例における、ワイドカメラで撮影された画像と、ワイドカメラで撮影された画像の中の指定された部分をズームカメラで撮影した画像を、同じモニタで表示させる様子を説明する図である。 本発明の第1の実施例における、抽出された注目部位の輪郭と、該輪郭を複数領域に分割した様子と、該分割された領域のうち、抽出された注目部位の輪郭を含む画像を抽出する様子を示す図である。 本発明の第1の実施例における、抽出された注目部位の輪郭と、該輪郭を複数領域に分割した様子と、該分割された領域のうち、抽出された注目部位の輪郭を含む画像の中心座標をサブピクセル精度で抽出する様子を示す図である。 本発明の第1の実施例における、CAD情報と計測結果を比較表示する様子を示す図である。 本発明の第1の実施例における、計測フローを示す図である。
本発明の実施形態を図1から図9を用いて説明する。
図1に本発明で用いる計測システムの全体構成について示す。
まず、ワイドカメラ3がパン機構6に搭載されており、広い範囲の画像を取得する。ワイドカメラのレンズは、ピント調整不要の固定焦点レンズでも良いし、バリフォーフォーカル機能付きのレンズでも良い。
次に、上記ワイドカメラ3よりも高い倍率を有するズームカメラ1、および、ズームカメラ2にて、上記ワイドカメラ3で撮影された画像の一部を撮影する。本実施例では、計測対象の3次元形状を求めるために、ズームカメラ1とズームカメラ2でステレオカメラを構成している。ズームカメラ1、および、ズームカメラ2のレンズは、倍率、および、フォーカス調整が可能なズームレンズを用いる。ズームカメラ1、および、ズームカメラ2は、パン機構4およびチルト機構5に搭載されており、任意の方向を撮影できる。また、ズームカメラ1,ズームカメラ2、および、ワイドカメラ3は、パン機構4及びパン機構6に搭載されており、水平方向に回転可能である。図示していないが、ズームカメラ1,ズームカメラ2、および、ワイドカメラ3をチルト機構に搭載すれば、ズームカメラ1,ズームカメラ2、および、ワイドカメラ3を一体で任意の方向に向けることが可能となる。
ズームカメラ1,ズームカメラ2、および、ワイドカメラ3は、それぞれ、カメラコントローラ9,10,11を介してコンピュータ15に接続されており、シャッター速度などを設定したり、画像を取り込んだりできる。
また、パン機構4,6、および、チルト機構5は、それぞれ、パン機構コントローラ12,14、および、チルト機構コントローラ13を介してコンピュータ15に接続され、ズームカメラ1,2、および、ワイドカメラ3の姿勢を制御する。
撮影画像は、記憶装置18に保存される。また、ディスプレイ19、および、20に映し出される。
ここで、ズームカメラ1,2、および、ワイドカメラ3は、各々、異なる位置に配置されているため、取得される画像において、計測対象の画像上での座標が異なる。寸法の測定を行うためには、画像上で同じ座標系で取り扱うために、座標補正を行う必要がある。これは、バンドル調整法を用いて得られた画像から位置関係を求めてもよい。また、図2、および、図3に示すように、予め回転調整を行う。ズームカメラ1,2、および、ワイドカメラ3は、X軸方向に距離30ずれており、また、ズームカメラ1とワイドカメラ3は、Y軸方向に距離31ずれており、さらに、ズームカメラ2とワイドカメラ3は、Y軸方向に距離32ずれている(すなわち、ズームカメラ1とズームカメラ2はY軸方向に距離33=距離31+距離32ずれており、これが、ステレオカメラを構成しているズームカメラ1とズームカメラ2の視差となる)。このように算出しておけば、画像の位置補正が容易となる。
図9は、本実施例における形状計測のフローを示している。まず、ワイドカメラ3で測定対象(ワーク)を撮影し、図4に示すようにディスプレイ19に表示される。取得画像は、コンピュータでレンズの収差などに起因する歪みが補正される。次に、図4に示すように、測定対象のうち寸法を算出した部分である注目部位42を含むように、マウス17を用いて測定領域41で囲う。この際、タッチパネルディスプレイを用いてディスプレイ上で測定領域41を指定しても良い。
次に、上記指定された測定領域が画面全体に写るようにズームカメラ1,2をパン,チルト移動させ、画像を取得する。該取得画像は、図4に示すように、ディスプレイ20に写しだされる。この際、図4ではズームカメラ1、または、ズームカメラ2で取得された画像のうちの1つを表示するようにしているが、両方の画像を表示するようにしても良い。また、図4では、ズームカメラ1、および/または、ズームカメラ2の画像を、ワイドカメラ3の画像を映し出すディスプレイ19とは異なるディスプレイ20に表示する例を示しているが、図5に示すように、全ての画像を同じディスプレイ19上に表示しても良い。
次に、図6に示すように、抽出された輪郭43は複数の分割された領域44に分割される。分割された各々の領域のうち、該抽出された輪郭43を含む領域45について、図7に示すように中心座標がサブピクセル精度で求められる。分割された各々の領域のうちの該抽出された輪郭43を含む全ての領域について、中心座標を求める。求まった中心座標は、ズームカメラ1,2での撮影軌跡となる。すなわち、ズームカメラ1,2での撮影中心が、中心座標47となるように、パン機構4、および、チルト機構5を用いて、ズームカメラ1,2の姿勢を制御する。このとき、ズームカメラ1,2での倍率は、撮影範囲が上記領域45よりも少し大きめになるように自動で設定する。また、その後ピント調整を行った後に、ズームカメラ1,2での画像を取得する。
次に、上記ズームカメラ1,2で取得された画像の歪補正を行う。この際、ズーム倍率,フォーカスごとの補正パラメータを事前に準備しておくことで、任意の倍率,フォーカス状態での画像補正が行えるようにしておく。この作業を、該抽出された輪郭43を含む全ての領域に対して撮像を終えたら、得られた画像を合成する。その後、合成された画像に対しステレオマッチングを施し、該抽出された輪郭43の3次元座標を求める、半径などの幾何寸法を算出する。
最後に算出された寸法と3次元設計データ(CADデータ)を比較し、算出された寸法と目標形状の寸法の差である残り量を算出し、図8に示すように、ディスプレイ20上に、算出された寸法52,目標形状の寸法51とともに、残り量53を表示する。
本発明によれば、抽出された輪郭43を含む全ての領域について、中心座標を求め、求まった中心座標は、ズームカメラ1,2での撮影軌跡となる。そのため、画像を用いた測定において、1枚の画像に納まりきらない程の高い倍率で画像を取得する際にも、容易な操作で画像を取得でき、かつ、寸法を算出する際に、1枚の画像に納まりきらない程の高い倍率で撮影した画像を用いることで、1枚の画像に納まりきる画像から寸法を算出するよりも高い精度で寸法を算出可能な装置を提供することができる。
画像からの寸法計測方法および装置に関する。
1,2 ズームカメラ
3 ワイドカメラ
4,6 パン機構
5 チルト機構
9,10,11 カメラコントローラ
12,14 パン機構コントローラ
13 チルト機構コントローラ
15 コンピュータ
16 キーボード
17 マウス
18 記憶装置
19,20 ディスプレイ
30 ズームカメラ1,ズームカメラ2とワイドカメラ3のX軸方向の距離
31 ズームカメラ1とワイドカメラ3のY軸方向の距離
32 ズームカメラ2とワイドカメラ3のY軸方向の距離
33 ズームカメラ1とズームカメラ2のY軸方向の距離(視差)
40 測定対象
41 測定領域
42 注目部位(寸法を算出したい部位)
43 抽出された輪郭
44 分割された領域
45 領域
46 画像の1画素
47 注目部位が写っている分割された画像の中心座標
50 目標形状
51 目標形状の寸法
52 算出された寸法
53 算出された寸法と目標形状の寸法の差(残り量)

Claims (4)

  1. ズームが可変な複数のカメラと、該複数のカメラを一体にしてパン方向およびチルト方向に動作させる駆動機構と、該ズームが可変な複数のカメラよりも撮像範囲が広いワイドカメラを有する3次元寸法測定装置であって、
    前記ワイドカメラの画像からワークの輪郭を抽出し、該抽出された輪郭情報に基づき、上記駆動機構の走査軌跡および、上記複数のカメラの撮像倍率を決定し、該決定された走査軌跡を走査中に、上記複数のカメラから複数枚の画像を取得し、該複数枚の画像を合成して、高倍率の画像を生成し、該生成された高倍率画像から高精度に輪郭の寸法を求めることを特徴とする3次元寸法測定装置。
  2. ズームが可変な前記複数のカメラは、ステレオカメラで構成していることを特徴とする上記請求項1に記載の3次元寸法測定装置。
  3. 抽出された形状輪郭と目標形状である設計形状を同時に画面上に表示することを特徴とする上記請求項1に記載の3次元寸法測定装置。
  4. 求めたれた寸法と目標形状である設計寸法を同時に画面上に表示することを特徴とする上記請求項1に記載の3次元寸法測定装置。
JP2011015901A 2011-01-28 2011-01-28 3次元寸法測定装置 Expired - Fee Related JP5610579B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011015901A JP5610579B2 (ja) 2011-01-28 2011-01-28 3次元寸法測定装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011015901A JP5610579B2 (ja) 2011-01-28 2011-01-28 3次元寸法測定装置

Publications (2)

Publication Number Publication Date
JP2012154862A true JP2012154862A (ja) 2012-08-16
JP5610579B2 JP5610579B2 (ja) 2014-10-22

Family

ID=46836726

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011015901A Expired - Fee Related JP5610579B2 (ja) 2011-01-28 2011-01-28 3次元寸法測定装置

Country Status (1)

Country Link
JP (1) JP5610579B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106969720A (zh) * 2017-04-01 2017-07-21 中国长江三峡集团公司 升船机安全机构螺纹副间隙集成化智能监测控制系统及方法
JPWO2017146202A1 (ja) * 2016-02-25 2018-03-29 大日本印刷株式会社 三次元形状データおよびテクスチャ情報生成システム、撮影制御プログラム、及び三次元形状データおよびテクスチャ情報生成方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0517506U (ja) * 1991-08-22 1993-03-05 大川トランステイル株式会社 鉄骨製品等の測定装置
JP2001041725A (ja) * 1999-07-28 2001-02-16 Nikon Corp 形状検査装置
JP2002031507A (ja) * 2000-07-14 2002-01-31 Tokyo Denki Univ 三次元画像計測装置
JP2006078291A (ja) * 2004-09-08 2006-03-23 Tokyo Institute Of Technology 全方位三次元計測装置
JP2007120993A (ja) * 2005-10-25 2007-05-17 Tokyo Institute Of Technology 物体形状測定装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0517506U (ja) * 1991-08-22 1993-03-05 大川トランステイル株式会社 鉄骨製品等の測定装置
JP2001041725A (ja) * 1999-07-28 2001-02-16 Nikon Corp 形状検査装置
JP2002031507A (ja) * 2000-07-14 2002-01-31 Tokyo Denki Univ 三次元画像計測装置
JP2006078291A (ja) * 2004-09-08 2006-03-23 Tokyo Institute Of Technology 全方位三次元計測装置
JP2007120993A (ja) * 2005-10-25 2007-05-17 Tokyo Institute Of Technology 物体形状測定装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2017146202A1 (ja) * 2016-02-25 2018-03-29 大日本印刷株式会社 三次元形状データおよびテクスチャ情報生成システム、撮影制御プログラム、及び三次元形状データおよびテクスチャ情報生成方法
US10571254B2 (en) 2016-02-25 2020-02-25 Dai Nippon Printing Co., Ltd. Three-dimensional shape data and texture information generating system, imaging control program, and three-dimensional shape data and texture information generating method
CN106969720A (zh) * 2017-04-01 2017-07-21 中国长江三峡集团公司 升船机安全机构螺纹副间隙集成化智能监测控制系统及方法
CN106969720B (zh) * 2017-04-01 2023-01-06 中国长江三峡集团公司 升船机安全机构螺纹副间隙集成化智能监测控制系统及方法

Also Published As

Publication number Publication date
JP5610579B2 (ja) 2014-10-22

Similar Documents

Publication Publication Date Title
US6519359B1 (en) Range camera controller for acquiring 3D models
JP5911934B2 (ja) 輪郭線計測装置およびロボットシステム
JP6504274B2 (ja) 三次元形状データおよびテクスチャ情報生成システム、撮影制御プログラム、及び三次元形状データおよびテクスチャ情報生成方法並びに情報記録媒体
JP5547105B2 (ja) 寸法測定装置、寸法測定方法及び寸法測定装置用のプログラム
JP2009241247A (ja) ステレオ画像型検出移動装置
CN104853105B (zh) 基于可控制镜头倾斜的摄像装置的三维快速自动对焦方法
JP7112863B2 (ja) 情報処理装置、情報処理方法、プログラム、及び画像測定装置
US9990739B1 (en) Method and device for fisheye camera automatic calibration
TWI521471B (zh) 3 - dimensional distance measuring device and method thereof
CN111614951B (zh) 一种一体化云台摄像机的光轴校准设备及方法
JP2012075088A (ja) 画像処理システムおよび画像処理方法
JP5610579B2 (ja) 3次元寸法測定装置
EP3751313A2 (en) Method for using driven measurement by tracking laser rangefinder to calculate three-dimensional drive value for device controlled by three-dimensional numerical driving
JP5925109B2 (ja) 画像処理装置、その制御方法、および制御プログラム
JP2012042728A (ja) 撮影システム
JP2009264898A (ja) ワーク位置姿勢計測方法および計測装置
CN112805607A (zh) 计测装置、计测方法和显微镜系统
JP2014115179A (ja) 測長装置、書画カメラおよび測長方法
JP4321225B2 (ja) 撮影システム及び撮影方法
JP2023173421A (ja) 画像処理装置
JP6579706B2 (ja) 画像処理装置、画像処理方法および画像処理用プログラム
JP2006033188A (ja) 監視装置および監視方法
JP2022152480A (ja) 3次元計測装置、3次元計測方法、プログラム、システム、及び物品の製造方法
JPH0252204A (ja) 3次元座標計測装置
JP2020067511A (ja) カメラシステム、その制御方法およびプログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20120522

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131010

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131206

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20140123

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140224

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140225

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140819

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20140825

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140829

R150 Certificate of patent or registration of utility model

Ref document number: 5610579

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees