JP6236721B2 - 形状計測装置および形状計測方法 - Google Patents

形状計測装置および形状計測方法 Download PDF

Info

Publication number
JP6236721B2
JP6236721B2 JP2013025042A JP2013025042A JP6236721B2 JP 6236721 B2 JP6236721 B2 JP 6236721B2 JP 2013025042 A JP2013025042 A JP 2013025042A JP 2013025042 A JP2013025042 A JP 2013025042A JP 6236721 B2 JP6236721 B2 JP 6236721B2
Authority
JP
Japan
Prior art keywords
image
measurement
phase
lattice
shape
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013025042A
Other languages
English (en)
Other versions
JP2014153287A (ja
Inventor
藤垣 元治
元治 藤垣
佳旭 李
佳旭 李
淳司 柏木
淳司 柏木
暁尭 周
暁尭 周
潔 南
潔 南
直人 宮川
直人 宮川
弘一 坂口
弘一 坂口
吉春 森本
吉春 森本
松本 真吾
真吾 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
4D Sensor Inc
Original Assignee
4D Sensor Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 4D Sensor Inc filed Critical 4D Sensor Inc
Priority to JP2013025042A priority Critical patent/JP6236721B2/ja
Publication of JP2014153287A publication Critical patent/JP2014153287A/ja
Application granted granted Critical
Publication of JP6236721B2 publication Critical patent/JP6236721B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、計測対象物の三次元形状を非接触で測定する形状計測装置および形状計測方法に関する。
現在、非接触型の三次元形状計測技術は、商業,工業,教育学習支援業などの広い分野で重要性を増している。工業分野においては、加工しながら検査を行う装置が精密部品の加工機器などへの適用に期待が寄せられている。
特許文献1には、連続移動する物体に等間隔の格子を物体の移動方向に対して垂直方向から所定の角度だけ傾けた方向において投影し、格子が投影された物体を、複数の平行に配置されたラインセンサによって、格子を投影した角度と異なる角度方向から、物体がラインセンサ間の距離を移動する移動時間に合わせた撮影タイミングで各々撮影し、ライン画像を経て、複数の位相シフトされたライン画像を位相シフト法により位相解析し、物体の高さ分布を求める技術が開示されている。
また、特許文献2には、計測対象物の周囲に鏡を配置することにより、一度に複数方向から計測対象物の形状を計測する技術が開示されている。
特開2002−286433号公報 特開2012−127704号公報
石油化学プラントや原子力発電所などで使用される400種以上の材質,径,肉厚を持った長尺シームレスパイプでは安全性が重視され、パイプの供給先である企業からは厳しく品質確保が求められている。特に、傷検査は重要であり、精密な微細溝を加工したテストパイプが必要とされている。
例えば、図1に示すように、エンドミルによってパイプの内周面に溝加工を施す加工機において、従来は溝の深さを精度良く検査する手法が無かった。パイプの奥深くを加工するために、作業者の手が入らないからである。エンドミルを一旦パイプから抜き出し、計測装置をパイプ内に入れて計測することは可能である。しかし、いったん溝から離しパイプから抜いたエンドミルを、再び同じ溝に入れて追加工することは困難である。なぜなら、エンドミルがアームの先端に取り付けられているために、どうしてもずれが生じるからである。そのため、たとえ計測ができたとしても追加工をすることは困難である。
現在、加工を行いながらリアルタイムで計測できるシステムは、レーザスキャンセンサなどを使用している。レーザスキャンセンサはレーザ光切断法を利用し、非接触な三角測量の原理で形状を計測する。実際にパイプ内の溝を加工する加工機に形状計測装置を装着することは困難である。さらに、パイプ内周面の溝の側面も計測できないという問題点がある。機械加工において高精度な製品を実現するには、加工途中で加工物の形状を計測する必要がある。市販されている三次元座標測定機を利用する場合は、前述したように加工物(パイプ)をいったん加工機から取り外さねばならず、再加工時にこれをμm単位の精度で元の状態に戻すことは非常に困難である。
また、背景技術で説明した従来技術を、実際の製造ラインに組み込むには課題も多い。その大きな理由としては、製造ラインで用いるには高速かつ高精度な形状計測が要求されるためである。例えば、特許文献1に開示される技術は、計測対象物の上方から撮影するために、溝加工を行った際の加工面の壁面を計測するのが困難である。また、特許文献2に開示される技術は、基準格子面2次元格子にマークが付けられていないため、基準点投光用レーザが必要となり、装置が複雑化、高価格化する問題がある。
そこで本発明の目的は、上記従来技術の問題点に鑑み、小型化した計測ユニットと、該計測ユニットを備えた形状計測装置と、加工工具を加工部位から外さないで、加工形状を計測することが可能な三次元形状計測方法およびその装置、および、その装置を用いて加工中にワークの形状を測定しながら加工する方法を提供することである。
本願の請求項1に係る発明は、光源と前記光源からの光によって照射される格子模様が形成された透明性部材と前記格子模様を計測対象物の表面に結像する結像レンズとを有するプロジェクタ部と、前記プロジェクタ部によって前記格子模様が投影された前記計測対象物の表面を撮影する撮像手段とを有し、前記計測対象物の表面の画像を少なくとも一部の撮像領域が重複するように撮像するように配置された第1計測ユニットと第2計測ユニットと、前記第1計測ユニットによる格子模様の投影および前記計測対象物の表面の撮影と、前記第2計測ユニットによる格子模様の投影および前記計測対象物の表面の撮影とを、切り替えて行わせる制御手段と、を備えたことを特徴とする第一形状計測ヘッドである。
請求項2に係る発明は、光源と前記光源の前方に配置されたスリットと、前記スリットを透過した前記光源からの光によって照射され計測対象物の表面に投影される格子模様が形成された透明性部材とを有するプロジェクタ部と、前記プロジェクタ部によって前記格子模様が投影された前記計測対象物の表面を撮影する撮像手段とを有し、前記スリットの幅は前記格子のピッチの半分以下であって、前記スリットの方向と前記格子模様が形成された透明性部材の格子の方向が一致し、前記計測対象物の表面の画像を少なくとも一部の撮像領域が重複するように撮像するように配置された第1計測ユニットと第2計測ユニットと、前記第1計測ユニットによる格子模様の投影および前記計測対象物の表面の撮影と、前記第2計測ユニットによる格子模様の投影および前記計測対象物の表面の撮影とを、切り替えて行わせる制御手段と、を備えたことを特徴とする第二形状計測ヘッドである。
請求項3に係る発明は、請求項1に記載の第一形状計測ヘッドまたは請求項2に記載の第二形状計測ヘッドのいずれか一方を備え、前記撮像した計測対象物の画像に対して位相解析処理を施して前記計測対象物の形状を算出することを特徴とする形状計測装置である。
請求項4に係る発明は、前記形状計測装置は位相評価値を指標として用いて前記各計測ユニットで撮像した画像の合成処理を行うことを特徴とする請求項3に記載の形状計測装置である。
請求項5に係る発明は、加工ヘッドを備えた加工装置によってワークに加工を行いながら、請求項3または4のいずれか一方に記載の前記形状計測装置により、ワークの加工箇所の形状計測を行う機上計測方法である。
本発明により、小型化した計測ユニットと、該計測ユニットを備えた形状計測装置と、加工工具を加工部位から外さないで、加工形状を計測することが可能な三次元形状計測方法およびその装置、および、その装置を用いて加工中にワークの形状を測定しながら加工する方法を提供できる。
パイプの溝加工を説明する図である。 形状計測ヘッドを取り付けた装置によるパイプの溝加工の様子を説明する図である。 4枚の画像を用いる位相シフト法を説明する図である。 位相解析法を用いた位相の算出方法を説明する図である。 z方向基準面撮影図である。 基準面撮影で得た位相と高さの関係図である。 テーブル要素の作成図である。 作成した位相・高さの関係を表すテーブルとその参照を説明する図である。 フーリエ変換格子法を説明する図である。 明るさと位相分布を説明する図である。 位相接続を説明する図である。 基準面撮影で得た位相とx座標の関係図である。 テーブル要素の作成図である。 作成した位相とx座標の関係を表すテーブルとその参照を説明する図である。 位相と座標の変換デーブルの概念図である。 基準面に使用しているガラス格子を説明する図である。 2次元格子画像である。 基準点探索の原理図である。 補正した2次元格子画像と位相分布である。 2次元格子画像の補正を説明する図である。 2次元格子画像の補正を説明する図である。 再サンプリング原理図である。 精度を上げる計測原理を説明する図である。 精度を上げる計測原理図である。 溝の立体図である。 溝の側面データが消える問題を解決する方法を説明する図である。 極座標から直交座標に変換する原理図である。 基準面ユニットの内部構造を説明する図である。 2次元格子パターンの拡大図である。 基準面ユニットの概略の構造図である。 第1カメラの撮像画像である。 xy座標画像である。 第2カメラの撮像画像である。 xy座標画像である。 形状計測装置の全体図である。 形状計測ヘッドの全体像である。 形状計測装置を説明する図である。 計測ユニットの内部構造像である。 キャリブレーションを行う本発明に係る形状計測システムを説明する図である。 計測試料を説明する図である。 撮影画像である。 位相分布を説明する図である。 高さ分布を説明する図である。 一ラインの高さを説明する図である。 テストピース加工機を説明する図である。 加工機械の振動実験結果を説明するグラフである。 段差計測試料を説明する図である。 撮影画像である。 高さ画像である。 3次元表示画像である。 2次元格子画像である。 基準点探索の原理図である(その1)。 基準点探索の原理図である(その2)。 計測試料である。 撮影画像である。 部分撮影画像である。 x座標画像である。 y座標画像である。 z座標画像である。 3次元画像である。 再サンプリング後の画像である。 合成後の画像である。 3次元画像である。 合成後の画像である。 合成後の画像である。 合成後の画像である。 断面図である。 ノイズ除去処理の原理説明図である。 計測試料を説明する図である。 撮影画像である。 ノイズ除去後の画像である。 撮影画像と計測結果である。 計測結果を説明する図である。 解析ソフトのインタフェース画面である。 処理の流れを説明する図である。 撮影画像である。 撮影画像である。 位相分布画像である。 高さ分布画像である。 一部の高さ分布画像である。 高さ分布画像である。 断面図である。 形状計測装置の画像である。 加工ヘッドに取り付けた形状計測ヘッドを説明する図である。 形状計測装置の構造を説明する図である。 レンズを用いた格子のピッチ変更の原理図である。 実験の様子を説明する図である。 撮影画像である。 高さ画像である。 3次元画像である。 2次元格子画像である。 2次元格子画像である。 計測試料である。 撮影画像である。 部分撮影画像である。 x座標画像である。 y座標画像である。 z座標画像である。 3次元画像である。 再サンプリング後の画像である。 合成後の画像である。 3次元画像である。 合成後の画像である。 合成後の画像である。 合成後の画像である。 断面図である。 撮影画像である。 撮影画像と高さ画像である(その1)。 撮影画像と高さ画像である(その2)。 一ラインの高さデータである。
以下、本発明の実施形態を図面とともに説明する。
図2は、形状計測ヘッドを取り付けた装置によるパイプ2の溝加工の様子を説明する図である。本発明は、図2に示される形状計測ヘッドを備えた加工機は、溝の加工を行いながら溝の形状を計測することができる。本発明の形状計測装置は、速く精度良く位相分布を求められる位相解析法として、サンプリングモアレ法を適用する。この方法は、2次元格子の位相解析を精度良く行うことができる。位相シフトの機構が不要のため、小型化に適している。そして、高速な位相解析が可能な全空間テーブル化法を利用する。
2. 原理
2−1 位相解析法
2−1−1 位相シフト法の原理
ここで、位相解析法を説明する。
本発明は、投影格子を解析し、位相を導き出す手法として位相シフト法を用いる。この方法はプロジェクタもしくは格子投影装置を用いて余弦波の格子パターンを計測対象物の表面に投影し、これを位相シフトしながら複数回撮影する。この時、カメラで撮像される画像の輝度変化から投影した格子の位相を求めることができる。
4枚の画像を用いる位相シフト法での例を以下に示す。図3は4枚の画像を用いる位相シフト法を説明する図である。図3に示すように、π/2ずつ4回格子をシフトしたときに撮影される各画素(i,j)における輝度を、それぞれI0(i,j),I1(i,j),I2(i,j),I3(i,j)とし、Ia(i,j)を輝度振幅,Ib(i,j)をバイアスとすると、各輝度は数1式〜数4式で表すことができる。なお、θ(i,j)は(i,j)の画素における位相値である。
この4つの輝度より位相値θ(i,j)は数5式で表される。
また、位相シフト回数を多くすることで、よりノイズの影響を減らすことができる。位相シフト回数をn,位相シフト量を2πk/Nの時の輝度をIkとすると、数6式が導かれ、この関係式より位相値θを求めることができる。
2−1−2 サンプリングモアレ法の原理
モアレ縞の発生手順を図4に示す。図4(a)のような格子模様をカメラで撮影すると、図4(b)のような撮影画像が得られる。この撮影画像の輝度値は一般に数7式で表される。
ここでIa(x,y),Ib(x,y)は格子の振幅と,背景輝度であり、φ(x,y)は格子の位相である。
図4(b)に示すように、白と黒以外に灰色のデータも存在する。この状態ではモアレ縞を観察することは出来ない。そこで等間隔にN画素ごと起点を変えながらサンプリング(間引き処理)を行う。図4はN=4(pixel)とした時の様子である。間引き処理を行うと、N=4(pixel)では、図4(c)のように4画素おきにデータを持った4つの画像を得ることができる。これはそれぞれ左から1番目,2番目,3番目,4番目の画素から4画素ごとに間引いている。このように1画素ずつサンプリング点を変えることは、位相で考えるとπ/2シフトさせた状態になるので、位相シフト法に相当する。
しかしこのままでは間の3画素にデータがないので、データがない画素に各サンプリング点の輝度値のデータを補間する。すると図4(d)のような4枚のモアレ画像が得られる。
位相シフトされたモアレ縞は近似的に余弦波の輝度分布をもっているとみなすと、数8式〜数11式のように表される。
ここでIam(x,y)はモアレ縞の振幅であり、Ibm(x,y)は背景輝度である。また、θ(x,y)はN=0におけるモアレ縞の位相である。IHとILをそれぞれ輝度の最大値と最小値とすると、IamとIbmは数12式で表される。
モアレ縞の位相θは前述のフーリエ変換位相シフト法から数13式で求められる。
得られた4枚のモアレ画像から位相シフト法を適用すると、図4(e)のモアレの位相分布画像が得られる。投影格子の位相分布を得るため、図4(e)のモアレの位相分布と図4(f)の参照格子の引き算を行う。最後に図4(g)のような投影した格子の位相分布が得られる。
これらの作業をy方向についても同様にすると、y方向のモアレパターン位相分布を得る事が出来る。1枚の二次元格子画像に縦方向と横方向の平滑化をそれぞれ行うことで、x方向,y方向のモアレパターン位相分布を得る事が出来る。
2−2 全空間テーブル化法の原理
2−2−1 基準面の撮影
図5は、z方向基準面撮影を説明する図である。まず、z方向について基準面を撮影し、この画像から座標の算出を行う。図5(a)で示すように、基準面に格子投影装置から格子を投影し、これをカメラで撮影する。その時、投影格子の位相を等間隔ずつシフトさせ、1周期分のシフト画像を撮影する。こうして得られた1周期分のシフト画像に位相シフト法を適用することで、初期地点z0での基準面の位相分布を求める。
また,基準面の位置を図5(b)のようにΔzずつ動かしていき,それぞれのz座標位置における基準面上の位相分布を同様に求めていく。この時、z座標は基準面の高さが低い方からzi(j=0,1,2,…,n−1)とする。ここでのnとは基準面を動かした回数である。なお、図中の実線と破線は、それぞれ投影格子の輝度値の高い部分と低い部分を示している。
ここまでの作業により、撮影画像の1画素ごとに各z座標における位相値を求めることができた。この関係を図6で示す。これより全画素における位相と高さの関係を表すテーブルが作成できる。なお、テーブルの作成には、図5中の0からkまでの要素を使用する。ここでのkとは,0番目の要素の位相値を最初に上回る要素番号である。
ここで、図5を補足して説明する。Cameraは撮影用カメラ、Projectorは格子投影装置、Projected gratingは投影格子、Reference planeは基準面である。
2−2−2 テーブルの作成
次に,z座標と位相との変換テーブルの作成を行う。この概要を図7に示す。このとき、テーブルの要素間隔Δθは、一定に保つようにする。要素には位相値の小さいほうから0,1,2,…,i…,m−1と番号をつけ、それぞれの位相値はθi(i=0,1,2,…,m−1)とおく。ここでのmとは作成するテーブルの要素の総数である。なお、mとΔθとの間には、数14式、以下の関係がある。
撮影で得られた各要素の間に存在するj番目要素の高さは、図6中のθiに隣り合う撮影要素より直線近似によって求められる。ただし、図6中のθ0のように、撮影要素が両端に無く、位相が切れている場合も存在する。この場合、まず撮影要素の中で、2πに最も近い位相値を持つものを探し出す。そして、この要素の位相値から2πを引くことで仮の撮影要素を作成し、この仮の要素からテーブル要素の高さを求める。Zjを求めるには、θjの前後の撮影要素の値を利用する。数15式にθj前後の撮影要素の位相値をθk,θk+1、それに対応しているz座標の値をZk,Zk+1と置いた時の計算式を示す。
2−2−3 テーブルの参照
そして、形状計測を行う際には、作成した位相と高さの関係テーブルを参照し、これより高さ分布を得る。ある1画素における、作成した位相と高さの関係テーブルを図8に示す。ここで、基準面の位相を求めた時と同様にして、計測対象の位相θを求める。数16式に示すようにθをΔθで割った商nはθが参照すべきテーブル要素の番号と一致するため、その画素におけるz座標zθnが求まる。これを全画素に対して行えば、計測対象の高さ分布が算出できる。
このように本手法では、事前に求めた基準面の位相値分布を元に計測対象物の高さ分布を算出する。そのため、投影格子が完全な正弦波ではないことによる誤差や、カメラレンズの歪曲収差の影響による誤差を回避できる。さらにテーブル参照による処理であるので、画素ごとの高さの計算が不要で高速な解析が可能となる。
2−3 位相とx,y座標間のテーブル作成原理
2−3−1 基準面の撮影
x,y方向についても基準面の撮影から、座標の算出を行う。基準面の裏面から2次元格子を投影し、これをカメラで撮影する。図9(a)のような撮影された格子画像に対しフーリエ変換格子法を用いることによって位相を求める。フーリエ変換格子法とは、得られた2次元格子に対しフーリエ変換を行い、図9(b)のようなパワースペクトルの画像を得る。ここからx,yの各方向の一次調和波を抽出し、逆フーリエ変換を行うことによって、図9(c),図9(d)のようなx,yの各方向の位相分布画像を得る方法である。
さらに、得られた位相分布は格子画像の明るさが1周期をなすごとに、図10(a)のような−π〜πの位相分布となる。この位相分布は−π〜πの繰り返しになっているため、特定の位相値を判別することができない。そこで周期数をnとしたとき、格子の位相値が−π〜πの範囲を超えたとき、2πnの周期数を加えると図10(b)のような連続化された位相が求められる。これを位相接続という。位相接続し連続化された位相φは数17式に示すように求められる。
この位相接続により特定の位相値を判別が可能になり、図11(a),図11(b)のようなxy座標を得る。
次に、基準面の位置を等間隔に少しずつ動かし、それぞれの位置で撮影した表示格子画像を解析してx座標を画素ごとに求めていく。以上の作業から、カメラの1画素ごとにz座標とx座標の対応関係を得ることができる。これを図12に示す。この対応関係と先に求めた位相とz座標の対応関係から、位相とx座標のテーブルを作成する。
2−3−2 テーブルの作成
位相とx座標の関係テーブル作成の概要を図13に示す、ここでmはテーブル要素の数で、前項のmと等しい。作成するテーブル要素の高さには、先に求めた位相とz座標のテーブル要素の高さを利用する。撮影で得られた各要素の間に存在するj番目要素のx座標は、まず図13中のθjに隣り合う撮影で得られた要素を探す。そして、実際の撮影要素の位相の間隔を(θk+1−θk)、前後のx座標の値をxkとxk+1として、xjに対応する位相の値をθjと置き、数18式から直線近似により求める。
2−3−3 テーブルの参照
位相とx座標のテーブルを参照することにより、x座標値を得る。ある1画素における作成した位相とx座標の関係を表すテーブルを図14に示す。前節のテーブル参照の時と同様に、計測対象の位相θを求め、それをΔθで割った商を求めれば、x座標が算出できる。
x座標のテーブル作成の際、初めに得られた高さとx座標の関係から、位相とz座標の関係テーブルを利用することにより、位相とx座標の関係への変換を行った。このことにより、x座標の算出にz座標の算出が不要になる。また、y座標についても同様の手法で位相からy座標を求めるテーブルを作成することができる。
2−3−4 位相から各座標の参照
ここまでの節において、位相θからz座標,位相θからx,y座標への変換テーブルの作成と参照法について述べてきた。ここで位相からx,y,z座標への変換について実際に使用している方法を述べる。
図15に、ある画素においてm個のテーブル要素数を持つ位相θとx,y,z座標の変換テーブルの概念図を示す。図中のIndex numberは、数16式より求めた参照テーブル要素番号nの値である。これらはすべて画素単位でメモリ上に配列としてそれぞれの並び順のまま保持され、参照の際にはn番目の場所に保管されているデータを読み出すことで結果を求めている。
2−4 合成の原理
2−4−1 基準点探索方法
本発明の実施形態において用いられるガラス格子は図16に示している。全体としては図16(a)のように25mm角のガラス上に24mm角の二次元格子を描いている。今回の装置では0.2mmピッチの格子ガラスを使用している。
また、2次元格子ガラス上には図16(b)で示される丸囲みの4か所内に図16(c)のような白抜きの部分があるが、これはxy軸校正時と合成時の基準点として用いられる。まず、この基準点の探索方法を説明する。
校正時に全空間テーブル化手法によって、z軸用の格子投影画像と同様にxy軸格子(二次元格子)画像をZ軸移動ステージで移動する基準面枚数分撮影を行う。図17はカメラで撮影した一枚の2次元格子基準面のイメージ図である。なお、基準点の黒い丸部分を確認することができる。基準点を探索する時あらかじめ領域を決める。今回は図17に示しているような、点線エリア内で基準点探索を行った。
基準点を探索する方法として、フーリエ変換と逆フーリエ変換を利用する。ここで必要となるのはフーリエ変換により算出されるパワーであり、パワーの弱い箇所を確認することで基準点を探索する。逆フーリエ変換時はx軸方向の格子ピッチを利用してx軸のデータを抽出する。
図18(a)は図17の基準面イメージ図である。この図のフーリエ変換後は図18(b)のような図が得られる。図18(b)の図に示している点線エリアを抽出する。エリア領域はフーリエ変換後図のxy方向1次成分が入るように決めている。
逆フーリエ変換後のパワー図は図18(c)に示している。図18(c)に二値化を行うことで図18(e)の図が得られる。ここで二値化をする閾値は100から300まで、20を増やしながら、マスクした画像の中でマスクした場所の塊が一つであるかどうかを判断する。一つの場合であれば、その閾値で二値化を行う。そして、図18(c)に示している破線の一ラインのパワーデータは図18(d)にある。確認できる通り、基準点が存在する部分は、指定ピッチの格子が描画されていないため、周辺と比較してパワーが低く算出される。これにより基準点位置が探索できる。ただし画面端部分にかかるピントが合っていない位置に関してもパワーが低く算出されるため、端部分の低パワー部分を除外する処理を経由して図18(f)の基準点のみの低パワー領域を取得する。この領域内で最もパワーが低い画素を基準点とする。
図19(a)は基準点を補正した2次元格子画像である、2−3−1で述べた通り、この2次元格子画像にフーリエ変換格子法を用いることによって位相を求める。図19(b)はx軸位相分布画像を示している。同じく、図19(c)はy軸位相分布画像を示している。図19(d)はx方向位相接続画像である。図19(e)はy方向位相接続画像である。
2−4−2 2次元格子画像の補正
先述の通り、本装置の2次元格子ガラスには白抜きの基準点が描かれているが、xy軸の位相算出においては障害となる。図20にはφ200形状計測装置の画像データを示す。図21にはφ70形状計測装置の画像データを示す。このため,図20(a)と図21(a)のような2次元格子画像の基準点位置を補正する必要がある。格子画像の補正は白抜き基準点位置の撮影画像を周りの格子部分の輝度で埋めることで行うことで、図20(b)と図21(b)のような画像を得られる。
2−4−3 再サンプリング
ここまでの原理で1つの画像での三次元形状計測は可能となった。しかし、この形状計測結果はカメラの画素が撮影する点の座標分布として求められるため、図22(a)に示すようにxy平面に対して等間隔ではない座標として得られる。しかし、データを合成する際には、図22(b)に示すようなxy座標に対して等間隔の空間座標が得る必要がある。そのために、知りたいxy座標を内部に含む3つの点を探し出す。図22(a)において、点Psの座標はその周囲の、計測されて空間座標が得られている点Pa,Pb,Pcを用いて求める。点Psの空間座標は点Pa,Pb,Pcを通る平面上の座標(x,y)を持つ点として求めることができる。
2−4−4 位相評価値
ステンレス鋼のようなハレーションを起こす物体に対しては位相評価値を用いて、画素の取捨選択を行った測定が有効である。位相評価値は、各画素における輝度値の変化に対してフーリエ変換を行い、数19式に示すように周波数1のパワースペクトルと高次周波数のパワースペクトルの総和の比を求め、これを画素(i,j)におけるE(i,j)として定義される値である。ここで、|F(n)|は周波数nのパワースペクトルの大きさを表し、Nは最も高い周波数を表している。
位相評価値においては輝度の振幅が大きく取れた場合にその値は高く、輝度のサチュレーションや輝度の振幅が小さいデータに対してはその値は低くなる。また、ランダムノイズの場合には高次周波数成分が増え、位相評価値は低くなる。そのため複数の形状計測結果の合成処理に位相評価値を指標として用いることで、より信頼性の高い値を選択することができ、計測結果の精度向上に有効である。
2−4−5 合成
本装置の特徴としてふたつのカメラとz軸プロジェクタにより2方向からの計測が行われることが挙げられる。その目的の一つは、計測結果を平均化などによる合成処理によりひとつの精度の高い測定結果を求めることである。
上述した再サンプリング処理により求められた結果はxy平面上に同じ間隔で配置されるため、先述で求められた基準点画素を用いることで、各計測結果のそれぞれに対応する画素を判別することができる。また、ハレーションを起こしやすい物体に対しては、上述した位相評価値を用いることによって、精度のよい合成処理が可能である。合成処理とは主に、この同一画素上のz軸データを平均化する処理のことである。この処理を行うことにより精度の高いz軸データが得られる。
2−4−6 異なる方向から撮影することによる精度向上方法
金属のハレーションや加工傷などが計測結果への影響を減少するため、精度を上げる計測原理で形状計測を行う。図23にカメラが移動しながら、違う角度でカメラから見た溝の同じ場所(点P)を示している。図23(b)には、カメラのA,B,C三つの目線から見た計測様子を示している。カメラが一定間隔に移動しながら、画像全体のA,B,Cの計測したデータを記録していく。
以下、実際のデータ処理の流れについて説明する。
(1)x,y,z座標を用いる方法
A,B,Cの計測したデータを図24に示す。図24(a)にはA,B,Cのx,y座標とz座標の対応関係を示している。同じx,y座標の場所でzA,zB,zC座標がある。2−4−4で説明した位相評価値を用いてランダムノイズの影響を減少する。
図24(b)にはA,B,Cのx,y座標と位相評価値eの対応関係を示している。同じx,y座標のところでeA,eB,eCデータがある。その後,位相評価値にある閾値を指定し、閾値未満のデータにマスクをかける。一方で、閾値以上のデータがあればマスクをかけない。図24(c)に示しているA,B,Cのマスクデータがある。
同じく、同じくx,y座標の場所でmA,mB,mCデータがはいっている。最後には、図24(d)に示しているようなA,B,Cの合成後のデータ作られる。
位相評価値mA
データが閾値以下の場合はマスクデータを0にする。位相評価値は閾値以上の場合そのマスクデータを1にする。合成したz座標を求めるのは先ほどのマスクではないデータの高さデータを用いる。その結果はz=(mA・zA+mB・zB+mC・zC)/(mA+mB+mC)で求められる。さらに、位相評価値が0〜1までの数字であるため、合成したz座標はz=(mA・eA・zA+mB・eB・zB+mC・eC・zC)/(mA・eA+mB・eB+mC・eC)で求めることもできる。
図25は図24に示している合成後の結果の立体表示である。異なる角度で撮影した画像データの平均を取ることで、溝を撮影した画像に対するハレーションの影響を減らすことができる。平均した結果を時間ごとに積算していくことで図25に示しているように溝の形になる。
(2) 極座標を用いる方法
精度を上げる計測原理で測定した結果には溝の側面のデータが消える問題に対して、さらに図26に示しているような方法で解決できる。図26では二つのカメラでそれぞれ溝の側面のデータを計測できる。そして、計算式で(x,z)座標と(θ,r)座標の変換を行う。極座標を利用することで、溝の側面のデータも消えずに利用できるようになる。
A,B,Cの計測したデータを図27に示す。図27(a)にはA,B,Cのθ,y座標とr座標の対応関係を示している。図27(b)にはA,B,Cのθ,y座標と位相評価値eの対応関係を示している。位相評価値を利用することで、図27(c)に示しているA,B,Cのマスクデータが作成できる。そして、有効座標の平均を取ることで、図27(d)に示しているようなA,B,Cの合成後データを作成する。最後に(θ,r)座標を(x,z)座標へ変換して、溝の形状に戻すことができる。
3. 実験用基準面
つぎに、基準面について説明する。まず3−1において、基準面の構造や仕組み、使用している機器について説明する。次に、3−2において基準面の原理と改良点について説明する。3−3には基準面xy軸の変換精度について説明する。
3−1 基準面の概要と原理
図28は基準面ユニットの内部構造を説明する図である。図28(a)は基準面を上方から見下ろした図である。図28(b)は基準面ユニットを横方向から見た模式図である。図29は2次元格子パターンの拡大図である。上面に拡散シートがあり、その下に2次元格子ガラス基板が取り付けられている。既知の等間隔の0.2mmピッチを持つ2次元格子ガラス基板の下方には、平行光を作るための焦点距離が35mmのCマウントレンズがあり、そのレンズの焦点距離の位置に穴の大きさが600μmのピンホールがある。ピンホールの下部には光源用の4WのLEDが取り付けられている。
光源をONにしたとき、光源から出た光はピンホールを通ることで、ピンホールが擬似的に点光源となる。ピンホールがレンズの焦点の位置に置かれているため、レンズを通った後は平行光となる。平行光が2次元格子ガラス基板に入射することで、その影が拡散シートに投射される。拡散シート上方に取り付けられた形状計測ユニットは、拡散シート表面に背面から投射された2次元格子パターンを撮影することができる。
光源をOFFにしたときには、拡散シート背面からの2次元格子パターンの投射はないために,形状計測ユニットは単なる拡散シートを撮影することになる。このとき、形状計測ユニットの格子投影を行うと、投影された格子パターンを撮影することができる。
図29に示されるように、2次元格子は既知の等間隔のピッチを持つため、これがx座標とy座標を決める目盛りとなる。2次元格子パターンには、図29に示すように部分的に基準点のマークをつけている。このマークを形状計測ユニットで2次元格子パターンと同時に撮影することで、2次元格子に番号付けを行うことができる。
3−2 基準面の改良
3−1で説明した基準面が完成する前に、LED光源部分の改良を行った。また、より鮮明な投影格子を得るため、レンズを用いて平行光を作った。まず、解析が十分できる投影格子を得るため、LED光源の明るさについて実験で検討した。
1W(ワット)のLED光源と4WのLED光源を用いて格子を投影した。結果として、4WのLED光源の方は投影した格子が良く見えることが分かった。4WのLED光源があれば、十分明るい投影格子を投影することができると判断した。
光源の輝度値を上げるため、平行光を作る必要がある。そのために、光源部分を用いて、図30に示すように、Cマウントレンズの光学原理をうまく運用したことで、ピンホールから出た点光源を平行光にすることができる。図30のような拡散シートをレンズの上に置いて、光源の状態を確認しながら実験を行った。
また、LED光源の発光素子の発光パターンがよく投影されて、真ん中の方は明るいという問題点に対して、光が均等に拡散するディフューザー(拡散板)をピンホールの上に置くことで、投影した光源の明るさを均一にすることができる。
3−3 基準面のXY軸の精度評価
3−1で説明したような、拡散シートにピッチが0.2mmの格子を投影されている。その投影された格子を本発明に係る形状計測装置のカメラで撮影して、位相分析処理などを利用することでxy座標へ変換する。その変換の精度について調べた。
後述する4−5で説明する本形状計測装置は、カメラが2セットのカメラを備えている。図31は第1カメラで撮影した二次元格子の画像である。画像の上、0番,1番,2番,3番の四つのマークがある。0番マークと1番マークには横5ピッチ1mmの範囲を示している。同じく2番マークと3番マークには縦5ピッチ1mmの範囲を示している。
2−3−1で説明した通り、図31のような撮影された格子画像に対しフーリエ変換格子法,逆フーリエ変換と位相接続を用いることによって、図32(a),図32(b)のようなxy座標を得る。
また、図32(a),図32(b)には図31と同じところでマークがある。図32(a)の上でマークの座標は0番−1.593mm,1番−0.594mm,得られたx方向格子ピッチは:0.999/5=0.200mm。図32(b)上で、マークの座標は2番1.091mm,3番0.089mm,得られたy方向格子ピッチは:1.002/5=0.200mmである。xy方向格子ピッチは実際の格子のピッチ0.2mmと同じ結果であった。
同じく、図33は第2メラで撮影した二次元格子の画像である。画像の上、0番,1番,2番,3番,四つのマークがある。0番マークと1番マークには横5ピッチ1mmの範囲を示している。同じく2番マークと3番マークには縦5ピッチ1mmの範囲を示している。図34(a),図34(b)はxy座標を示す。また、図34(a),図34(b)には図33と同じところにマークがある。図34(a)の上でマークの座標は0番−0.392mm,1番0.603mm,得られたx方向格子ピッチは:0.995/5=0.199mmである。図34(b)上でマークの座標は2番0.293mm,3番−0.707mm、得られたy方向格子ピッチは:1/5=0.200mmである。x方向格子ピッチは実際の格子のピッチと0.001mmの差が得られた。y方向格子ピッチは実際の格子のピッチと同じ結果であった。
4. 本発明に係る形状計測装置
ここで、形状計測装置について概要を説明する。パイプ長径のサイズによって、長径が200mm以上のパイプに対応できる形状計測装置をφ200という名前を付けた。同じく、長径が70mmから200mmまでのパイプに対応できる形状計測装置をφ70という名前を付けた。まず4−1にて形状計測装置の構造や仕組み、および、使用している機器について説明する。4−2において三次元形状計測手法について説明する。4−3には溝を加工する機器について説明する。4−4には形状計測装置の振動実験を示す。4−5において形状計測装置の計測精度評価について説明する。最後に4−6では溝を対象とする形状計測装置の計測実験を示す。
4−1 形状計測装置の概要
実際に形状計測装置を溝の加工機器に装着することと同じ条件とするために、本形状計測システムは溝の加工機器と同じなエンドミルを作った。また、基準面の部分は3.で説明したとおりである。
図35は、加工ヘッドに取り付けた形状計測ヘッドを示している。図36は形状計測装置の全体像を示している。加工ヘッド6の先端にはワークを加工するためのエンドミル4が配設されている。また、加工ヘッド6には形状計測ヘッド12が取り付けられている。形状計測ヘッド12は、2つの計測ユニット8A,8Bと計測ユニットコントローラ13を備えている。計測ユニット8A,8Bは、それぞれカメラ部とプロジェクタ部が組み込まれており、エンドミル4の先端付近に格子パターンを投影し、カメラ部で撮影できるようになっている。それぞれの計測ユニット8A,8Bは、計測ユニット8A,8Bの上部に配設された計測ユニットコントローラ13と信号線で接続されている。計測ユニットコントローラ13は、外部のコンピュータ14からのコマンドに従って、プロジェクタ部における格子投影とカメラ部における撮影のコントロールを行い、計測ユニット8A,8B内のカメラから撮影画像を受け取り、それを外部のコンピュータ14に送信する。
図37に計測ユニット8A,8Bの内部構造を示す。計測ユニット8A,8Bは同じ構成であるので共通の構成として説明する。計測ユニット8は筐体内にプロジェクタ部9とカメラ部10を備えている(図2参照)。プロジェクタ部9は、LED光源によりガラス格子基板をレンズで結像させて計測対象物表面に格子投影を行う。光源のLEDのON/OFFは計測ユニットコントローラ13によって行われる。カメラ部10は撮像素子とレンズで構成されており、撮像素子は計測ユニットコントローラ13によってコントロールされる。コンピュータ14からのコマンドによって、計測ユニットコントローラ13はプロジェクタ部9(LED光源、ミラー、レンズ、ガラス格子基板)による格子投影を行い、カメラ部10によって格子パターンが投影された計測対象物の画像を撮影する。投影格子像はガラス窓を透過して計測対象物の表面に投射され、投射された格子像はガラス窓を介してカメラ部10によって撮影される。ミラーを用い光源からの光の光路を屈曲させることによって計測ユニット8を小型化している。撮影された画像信号は、計測ユニットコントローラ13を介してコンピュータ14に送信される。図38は1つの計測ユニットの内部構造の画像である。
2つの計測ユニット8A,8Bを備えた形状計測装置は、計測ユニット8Aによる格子投影と撮像と、計測ユニット8Bによる格子投影と撮像とを、交互に行うように制御する。このようにして、計測ユニット8Aと計測ユニット8Bによる格子画像の撮影が互いに干渉することを防止できる。なお、異なる光源の波長、フィルタなどの構成を用いることにより、計測ユニット8Aと計測ユニット8Bとから同時に格子投影と格子画像の撮影を行う構成としてもよい。また、光源はLEDに限定されず、半導体レーザ光、あるいは、光ファイバで導光した光を光源として用いてもよい。
形状計測ヘッド12のキャリブレーションは、図39に示すように、専用の基準面ユニットに形状計測ヘッド12を取り付けて行う。キャリブレーションを実行する本発明に係る形状計測システムを横から見た時の模式図を図39に示す。図39に示しているように、パソコン(Computer)13からドライバ(Driver)14を通じて上下移動の動作を行うステージ15の動作をコントロールする。ドライバ14を通じてパソコン13から移動ステージの動作を確認することもできる。同じく、パソコン13はマイコン16を通じてLED光源の点滅をコントロールする。形状計測ヘッド12の内部のカメラとLED光源の動作もパソコン13からコントローラを通じてコントロールする。カメラで撮影した画像データはパソコン13で確認することができる。図の中に点線の部分は3−1で説明した格子投影部分である。
基準面ユニットは、上下動するステージ15に取り付けられており、上部に取り付けた形状計測ヘッド12から格子投影と投影された格子画像を撮影できるように構成されている。上下動するステージ15は、上述のようにパソコン13からの指令によって上下動する。
基準面ユニットと基準点のマークについては、図28と図29を用いて説明したところであるが、再度、説明する。上面に拡散シートがあり、その下に2次元格子ガラス基板が取り付けられている。既知の等間隔のピッチを持つ2次元格子ガラス基板の下方には平行光を作るためのレンズがあり、そのレンズの焦点距離の位置にピンホールがある。ピンホールの下部には光源用のLEDが取り付けられている。
光源をONにしたとき、光源から出た光はピンホールを通ることで、ピンホールが擬似的に点光源となる。ピンホールがレンズの焦点の位置に置かれているため、レンズを通った後は平行光となる。平行光が2次元格子ガラス基板に入射することで、その影が拡散シートに投射される。拡散シート上方に取り付けられた形状計測ユニットは、拡散シート表面に背面から投射された2次元格子パターンを撮影することができる。
光源をOFFしたときには、拡散シート背面からの2次元格子パターンの投射がないために、形状計測ユニットは単なる拡散シートを撮影することになる。このとき、形状計測ユニットの格子投影を行うと、投影された格子パターンを撮影することができる。
図29は2次元パターンの拡大図である。2次元格子は既知の等間隔ピッチを持つため、これがx座標とy座標を決める目盛りとなる。2次元格子パターンは、図29に示されるように部分的に基準点のマークを付けている。このマークを計測ユニットで2次元格子パターンと同時に撮影することで、2次元格子に番号付けを行うことができる。
4−2 本発明の形状計測方法と有効性の確認
本発明は、格子投影法と、高速な位相解析が可能なサンプリングモアレ法と、高速に精度よく座標を得ることができる全空間テーブル化法を利用した形状計測方法である。ここでは、高さ方向の形状計測実験結果を示す。校正時の撮影基準面枚数は5枚、全空間テーブル化手法におけるテーブル枚数は1000枚、高さ方向の計測範囲は0.8mm、サンプリングモアレ法における間引き間隔は43画素であり、0.5mmピッチの格子を投影する。
図40は計測対象のステンレス製試料であり、試料中央の溝(Groove)の幅は1.0mm、深さは0.51mmである。その他のサイズは、図中に記載の通りである。右側の図は左の図の溝を拡大したものである。図41は試料に投影されている格子の画像である。図42は図41に対してサンプリングモアレ法によって求められた位相分布図、図43は図42の鎖線部分の位相を元に、全空間テーブル化法によって求められた高さ分布図である。また、図44では図43に示す測定結果の鎖線部分zの断面の高さ分布を示している。溝の下と上での平均値を計算すると、上:0.64mm,下:0.15mm,差:0.49mmである。結果からみると,溝の実際の深さと比較すると0.02mmの差であった。したがって、本発明の形状計測方法は、十分に有効であることがわかった。
4−3 溝を加工する加工機
従来公知のテストピース加工機(図45参照)は、シームレス鋼管の品質検査に用いるテストピースを製作する。シームレス鋼管の品質維持のためには、高品質のテストピースが欠かせない。溶接加工は、熱間工具の再生や金型の硬化肉盛加工を行える。テストピース加工機は、エンドミルと装置の動作をコントローラでコントロールする。溝を加工する時、エンドミルをパイプの中に入れて、適切な場所で加工を行える。4−1で紹介したように、形状計測装置を実際にテストピース加工機に装着し、溝を加工しながら、溝の形状を計測する。
4−4 形状計測装置の振動試験
溝を加工する加工機の振動がカメラに与える影響を調べるため、カメラをテストピース加工機に装着して、エンドミルと形状計測装置をパイプの中に入れて、溝を加工しながら実験を行った。
テストピース加工機を下記の五つの状態で動作させて実験を行った。
状態1:静止
状態2:空回り(5000RPM)
状態3:空回り(6000RPM)
状態4:切削(切込み速度0.01mm/min,切込み量0.1mm,送り速度15mm/min)
状態5:切削(切込み速度0.05mm/min,切込み量0.2mm,送り速度15mm/min)
図46は画像の中の一点の位相値の変化を示す。実験結果から、加工機械の振動はカメラへの影響があまりないことが分かった。
4−5 形状計測装置の計測精度評価
対象物である溝の形状を計測する前に、φ200形状計測装置自身の計測精度を調べる必要がある。そのために、精度が良い段差計測試料(図47参照)を用いてφ200形状計測装置の計測精度確認実験を行った。まず、段差計測試料を高精度非接触段差測定機(ユニオン光学株式会社製の高精度非接触段差測定機DH2)で測定した。測定用レンズは三つを装着している。そのレンズの情報を表1に示している。
精度の良い段差計測試料のデータを表2に示す。
今回実験に1段目と2段目を使った。4−1で説明したように、カメラと格子投影部分を2セット付けられているため(図35参照)、第1カメラと第2カメラと呼ぶ。第1カメラと第2カメラ実際の撮影写真と結果をそれぞれに示す。例えば、計測ユニット8Aが第1カメラ、計測ユニット8Bが第2カメラに対応する。
図48(a)は第1カメラの撮影画像である。図48(b)は第2カメラの撮影画像である。撮影画像の大きさは1280*1024pixelである。また図48(a)の高さ分布画像は図49(a)である。同じく、図48(b)の高さ分布画像は図49(b)である。図50は撮影した画像の白線で囲まれた領域の3次元画像である。
結果としては、図49(a)に示しているように、第1カメラの高さ分布画像から、0.480mmの差がみられた。非接触計測装置で測定した結果は0.499mmであり、0.019mmの差があることをわかった。図49(b)に示しているように、第2カメラの高さ分布画像から、0.481mmの差がみられた。非接触計測装置の測定結果と0.018mmの差があることをわかった。
以上の実験から、第1カメラの計測精度は0.019mmである。第2カメラの計測精度は0.018mmであるが分かった。
4−6 溝を対象とする形状計測装置の計測実験
溝試料の形状計測を行う前、xyzテーブルを作らないといけない。まず、φ200形状計測装置のテーブルを作る前の基準点探索について説明する。2−4−1で説明した基準点探索の画像結果を示す。
図51はカメラで撮影した一枚の2次元格子基準面画像である。なお、破線丸囲み内に基準点の白抜き部分を確認することができる。基準点を探索する時あらかじめ領域を決める。今回は図51に示しているような白線のエリア(640*480pixel)内で基準点探索を行った。図52−1,図52−2(以下、両者を図52と称する)は白線内のエリア領域のデータを示す。
図52(a)は図17の基準面画像である。この画像のフーリエ変換後は図52(b)のような画像を得られる。図52(b)の画像に示している破線エリアを抽出する。エリア領域はフーリエ変換後画像のxy成分が入るように決めている。今回のエリア領域は52*52pixelである。
逆フーリエ変換後のパワー画像は図52(c)に示している。図52(c)に二値化を行うことで、図52(e)の画像が得られる。図52(c)に示している実線のパワーデータは図52(d)に示される。今回の二値化の閾値は180にした。端部分の低パワー部分を除外する処理を経由して図52(f)の基準点のみの低パワー領域を取得する。この領域内で最もパワーが低い画素を基準点とする。図52(g)は基準点を補正した2次元格子画像である。2−4−1で説明した通り、この2次元格子画像にフーリエ変換格子法を用いることによって位相を求める。図52(h)はx軸位相分布画像を示している。同じく、図52(i)はy軸位相分布画像を示している。図52(j)はx方向位相接続画像である。同じく、図52(k)はy方向位相接続画像である。探索した基準点を用いてxyzテーブルの作成を行う。
次に、溝試料の形状計測実験について説明する。
φ200形状計測装置を用いて、溝を対象とする形状計測装置の計測実験を行った。計測対象には加工された金属製試料を用いる。図53は計測対象のステンレス製試料である。試料中央の溝の幅は0.8mm,深さは0.479mmである。その他のサイズは図中に記載の通りである。今回の実験では、撮影範囲は図53の破線部で示しているように、溝を含む領域となっている。
以下、二つのカメラからの個別の三次元形状計測結果を示す。
図54(a)は第1カメラの撮影画像である。図54(b)は第2カメラの撮影画像である。撮影画像の大きさは1280*1024pixelである。撮影画像中の溝を含む領域(670*300pixel)を図55に示している。図56は図55のx座標画像である。図57は図55のy標画像である。図58は図55のz座標画像である。図59は図55の3D画像である。また、図58に示しているz座標画像を再サンプリング処理させ、その結果は図60である。再サンプリング後の1画素のxy座標は10μmである。図61は図60に示している二つカメラの合成データである。図62に図61の3D画像を示している。下には図61の合成後データの評価について示す。
まず合成後溝の幅を評価した。図63に示しているように、矢印データは表3になっている。
上記条件により溝間の距離が0.83mmで測定されていることがわかった。実際の溝の距離は先述の通り0.8mmであるため、0.03mmの計測誤差あることがわかった。
そして合成後溝の深さも評価した。図64に示しているように、領域AとCの高さ情報の平均値と領域Bの高さ情報の平均値より溝の深さを確認する。なお、合成処理が完全ではないため、溝の淵付近のデータを回避して確認している。各領域の画素位置は表4の通りである。
結果としては、AとCの高さ平均値は0.645mm、Bの高さ平均値は0.184mmで差分は0.463mmであった。先述の通り、溝の深さは0.479mmである。0.016mmの計測誤差あることがわかった。
最後に合成後溝の一ラインの高さも評価した。図65に示しているように、矢印部分の高さ情報を図66の断面図として表す。矢印の位置はy軸上、105画素の位置で、x軸方向に480画素分のデータを表示する。
5. 形状計測用ソフト
ここでは本研究の形状計測ソフトの改良について概要を述べる。まず5−1にてノイズ除去について説明する。次に5−2において形状計測ソフトを紹介する。
5−1 ノイズ除去について
金属はハレーションを起こしやすい物である。特に、本発明の計測対象は、溝の加工を行う時、溝の中から出た切り子は金属表面に傷をつけることもある。また、溝を計測するにはハレーションの影響を小さくする必要がある。それらの対策を説明する。
以下、ノイズ除去の流れを説明する。図67に示されるように、中央の画素の輝度値と周りの8画素の輝度値のそれぞれの差を求める。その差の絶対値がある設定値A(ここでは150とした)より大きい画素の個数が別に設定した設定値B(ここでは3とした)以上、その画素をノイズとみなしてマスクをかける。そして画像全体を走査する。中央の画素の周りのマスクではない画素の輝度値の平均値を求める。このような機能を持つプログラムを作成し、ノイズ除去の有効性確認を行った。
直径が350mm,厚さが15mmであるステンレス製パイプの外面に長さが30mm,幅が1.0mm,深さが0.51mmの溝を加工した。溝がある部分を切り出した。そのサイズは図68に示しているように長さが70mm,幅が50mmである。図68の計測試料を用いて、ノイズ除去の有効性を示した。
図69は4−1で説明した形状計測装置の第1カメラで撮影した画像である。画像のサイズは1280*1024pixelである。図69に先ほど説明したノイズ除去で処理した結果は図70に示されるとおりである。
撮影画像とノイズ除去後画像に対して画像処理を行った。図71にその計測結果を示す。図71(a)と図71(b)は図69と図70から切り出した画像である。その大きさは600*400pixelである。図71(c)と図71(d)はサンプリングモアレ法によって算出した位相分布である。
図72(a)と図72(b)は全空間テーブル化手法によって算出した高さ分布画像である。図72(a)と図72(b)の高さ分布に同じ場所で一ラインの高さ実数データを呼び出した。そのデータは図72(c)と図72(d)に示している。図72(c)と図72(d)の計測結果には、溝の上と下の実数データの平均値を求めた。結果としては、元画像の溝の上の平均値は0.60mmであり、下の平均値は0.24mmである。その差が0.36mmである。溝実際の深さと比べると、0.15mmの差がある。ノイズ除去した画像には、上は0.60mmであり、下は0.16mmであり、その差が0.44mmである。溝の実際の深さと比べると、0.07mmの差がある。ノイズ除去した後の方が実際の溝の深さに近い値となった。
5−2 処理の流れ
図73は本発明の実施形態で使用される解析ソフトのインタフェース画面を示している。図の中に一番左には画像の表示部分である。真ん中には実際に測定する時のサンプリング数、合成パラメータや出力パラメータを設定する部分である。一番右にはカメラのパラメータ、基準面を撮影する時のパラメータを設定する部分である。次には,実際の形状計測する時処理の流れについて説明する(図74参照)。
5−2−1 基準面撮影、テーブル化
xy方向についても基準面の撮影から、座標の算出を行う。基準面の裏面から2次元格子を投影し、これをカメラで撮影する。図75(a)図75(b)のような撮影された格子画像に対しフーリエ変換格子法,逆フーリエ変換、また位相接続を行うことでxy座標を得る。全空間テーブル手法でテーブルデータを作る。
形状を計測する時、まず形状計測装置で計測試料を撮影する。撮影した画像は図76(a)図76(b)に示している。そして、撮影画像にサンプリングモアレ法を用いることで、図77(a)図77(b)のような位相分布画像が得られる。算出した位相分布を先ほど作成したテーブルに参照することで、図78(a)図78(b)のような高さ分布が得られる。このような処理が計測試料を動かしながら行っているため、左と右の移動済のデータに合成処理と平均化処理を行って出力する。その出力データは図79に示している。図79の高さ測定結果を積算することで、図80に示しているような高さデータが得られる。また、図80は図76に示される撮影画像の合成データを示している。最後に図80に示しているように、矢印部分の高さ情報を図81の断面図として表す。
6. 形状計測装置の小型化と計測実験
本発明に係る形状計測装置の小型化と小型化した形状計測装置(φ70)の計測実験について説明する。まず、6−1にて形状計測装置を小型化する理由について説明する。6−2において小型化を行うための微小格子投影原理について説明する。6−3には小型化した形状計測装置の投影格子の評価について説明する。6−4において形状計測装置の計測精度評価について説明する。6−5では溝を対象とする形状計測装置の計測実験を示す。最後に6−6で精度を上げる計測原理の確認実験とその結果を示す。
6−1 形状計測装置の小型化について
本発明の測定対象としてのパイプにはいろいろなサイズがある。4−1で説明したφ200の形状計測装置は長径が200mm以上のパイプに対応できるように設計した。長径が70mmから200mmまでのパイプに対応できる形状計測装置は必要となってくる。図82にはφ200の形状計測装置と小型化したφ70形状計測装置の画像を示している。φ200形状計測装置のサイズは150*150mm,φ70形状計測装置のサイズは50*60mmである。
図83に加工ヘッドに取り付けた形状計測ヘッドを示す。形状計測ヘッドは,2個の計測ユニットとコントローラで構成されている。計測ユニットにはカメラと格子投影部分が組み込まれており、格子パターンを投影し、カメラで撮影できるようになっている。それぞれの計測ユニットは、計測ユニットコントローラと接続されている。計測ユニットコントローラは、外部のコンピュータからのコマンドにより、格子投影と撮影をそれぞれの計測ユニットのコントロールを行い、計測ユニット内のカメラから撮影画像を受け取り、それを外部のコンピュータに送信する。
図84に、φ70計測ユニットの内部構造を示す。計測ユニット内部はプロジェクタ部とカメラ部で構成されている。プロジェクタ部は,LED光源からの光を幅が0.12mmのスリットを通ってレンズで結像させてガラス格子基板に当たることで格子投影を行っている。光源のLEDのON/OFFは計測ユニットコントローラから行われる。カメラ部は撮像素子とレンズで構成されており、撮像素子はオムニビジョン社製のOV6930CMOS(400*400pixel)である。撮像素子は計測ユニットコントローラがコントロールする。コンピュータからのコマンドによって、計測ユニットコントローラはプロジェクタ部による格子投影を行い、その直後にカメラ部によって格子パターンが投影された計測対象物の画像を撮影し、その画像をコンピュータに送信する。
図Cに示されるように、請求項2に係る第二形状計測ヘッドは、光源(LED)と前記光源の前方に配置されたスリットと、前記スリットを透過した前記光源からの光によって照射され計測対象物の表面に投影される格子模様が形成された透明性部材とを有するプロジェクタ部と、前記プロジェクタ部によって前記格子模様が投影された前記計測対象物の表面を撮影する撮像手段とを有し、前記スリットの幅は前記格子のピッチの半分以下であって、前記スリットの方向と前記格子模様が形成された透明性部材の格子の方向が一致し、前記計測対象物の表面の画像を少なくとも一部の撮像領域が重複するように撮像するように配置された第1計測ユニットと第2計測ユニットと、前記第1計測ユニットによる格子模様の投影および前記計測対象物の表面の撮影と、前記第2計測ユニットによる格子模様の投影および前記計測対象物の表面の撮影とを、切り替えて行わせる制御手段と、を備えたことを特徴とする。
6−2 微小格子投影について
6−1で小型化を行った形状計測装置の画像を示した。形状計測装置の小型化する上で一番困難な点は、格子を投影する部分の小型化である。本発明は、微小格子投影を行うことによって格子を投影する部分の小型化を実現している。微小格子投影は、レンズの焦点距離と幾何学を利用して微小の格子を投影することができる。図85にレンズを用いた格子のピッチを変更できることが図示されている。
レンズとガラス格子,レンズとLED,レンズと基準面,それぞれの距離は下記のとおりである。
f:レンズの焦点距離
G:レンズとガラス格子の距離
L:レンズとLEDの距離
L:レンズと鏡像LEDの距離
R:レンズと基準面の距離
p’:ガラス格子のピッチ
p:投影格子のピッチ
レンズの焦点距離と幾何学の関係式を利用して、投影格子のピッチpを数20式〜数21式により算出することができる。
上の数20式からbLを求める。求めたbLを数21式に代入して、数22式のように投影格子のピッチpを求めることができる。
次に、上の原理について証明実験を行った。
実験条件:
レンズの焦点距離: f=40mm
レンズとLEDの距離: aL=30mm
レンズとガラス格子の距離: aG=10mm
レンズと基準面の距離: cR=20mm
ガラス格子のピッチ: p’=0.2mm
以上の実験条件で計算式(数22式)から得た投影格子のピッチは:p=0.215mmである。
レンズとLED,レンズとガラス格子,レンズと基準面,それぞれの距離は実験条件に記載しているように設置した。理論値と実験から得られた値の差が0.006mmである。得られた計算式(数20式,数21式,数22式)の有効性を実験的に証明できた。
6−3 小型化した形状計測装置の投影格子の評価
6−2の微小格子投影の原理を利用して形状計測装置の小型化を行った、そして、その小型化した形状計測装置の投影格子が微小格子投影原理の通りになっているかについて検証した。検証の結果、有効性を確認できた。実験条件は下記の通りである。
実験条件:
レンズの焦点距離: f =10mm
レンズとLEDの距離: aL =9.38mm
レンズとガラス格子の距離: aG =2.4mm
レンズと基準面の距離: cR =12.4mm
ガラス格子のピッチ: p’=0.375mm
以上の実験条件を利用して6−2で説明した計算式数20式〜数22式により得られた投影格子のピッチは:p=0.399mmである。
投影した格子ピッチは3.5/9=0.389mmである。また、行った三回の実験は全部同じ結果が得られた。6−2で説明した計算式(数20式〜数22式)から得た投影格子のピッチは0.399mmであるため、実際の実験結果と0.010mmの差があるのみである。
6−4小型化した形状計測装置の投影格子の評価
測定対象物である溝の形状を計測する前に、φ70形状計測装置自身の計測精度を調べる必要がある。そのために、4−5で説明したように、同じく図47の精度が良い段差計測試料を用いてφ70形状計測装置の計測精度確認実験を行った。撮影対象は段差計測試料1段目と2段目とした。
図86は実験の様子を示している。図87(a)は第1カメラの撮影画像である。図87(b)は第2カメラの撮影画像である。撮影画像の大きさは400*400pixelである。撮影画像中の白い領域(350*100pixel)の3D画像を図89に示している。また、図87(a)の高さ分布画像は図88(a)である。同じく、図87(b)の高さ分布画像は図88(b)である。
結果としては、図88(a)に示しているように、第1カメラの高さ分布画像から、0.515mmの差がみられた。非接触段差系で測定した結果は0.499mmであり、0.016mmの差があることをわかった。図88(b)に示しているように、第2カメラの高さ分布画像から、0.517mmの差がみられた。非接触段差系の測定結果と0.018mmの差があることをわかった。以上の実験から、第1カメラの計測精度は0.016mmである。第2カメラの計測精度は0.018mmであるが分かった。
6−5 形状計測装置の計測精度評価
溝試料の形状計測を行う前に、xyzテーブルを作る必要がある。2−4−1で説明した基準点探索の原理はφ200形状計測装置とφ70形状計測装置両方に対応する必要がある。処理の流れは同じである。しかし、φ70形状計測装置の撮影画像はかなり小さくなるため、探索領域を変える必要がある。そのデータを下に示す。
図90(a)は基準面の撮影画像である。φ70形状計測装置の場合は図90(a)に示しているような白いエリア(280*100pixel)内で基準点探索を行った、この画像のフーリエ変換後は図90(b)のような画像を得られる。図90(b)の画像に示している黄色エリアを抽出する。今回のエリア領域は16*16pixelである。2−4−1で説明した通りで基準点探索を行う。図90(c)は逆フーリエ変換後のパワー画像である。図90に二値化を行うことで図90(e)の画像が得られる。図90(c)に示している赤い一ラインのパワーデータは図90(d)にある。今回の二値化の閾値は220にした。図90(f)の基準点のみの低パワー領域を取得する。この領域内で最もパワーが低い画素を基準点とする。図90(g)には基準点を補正した2次元格子画像である。2−4−1で述べた通り、この2次元格子画像にフーリエ変換格子法を用いることによって位相を求める。図90(h)にはx軸位相分布画像を示している。同じく、図90(i)にはy軸位相分布画像を示している。図90(j)はx方向位相接続画像である。同じく、図90(k)はy方向位相接続画像である。(なお、図90−1,図90−2を総称して図90という。)
探索した基準点を用いてxyzテーブルの作成を行う。次に、溝試料の形状計測実験について説明する。φ70形状計測装置を用いて、溝を対象とする形状計測装置の計測実験を行った。計測対象には加工された金属製試料を用いる。
図91は計測対象のステンレス製試料である。試料中央の溝の幅は0.5mm,深さは0.463mmである。その他のサイズは図中に記載の通りである。今回の実験では、撮影範囲は図91に示しているように実線の丸部分となっている。以下、2つのカメラにより得られた個別の三次元形状計測結果を示す。
図92(a)は第1カメラの撮影画像である。図92(b)は第2カメラの撮影画像である。撮影画像の大きさは400*400pixelである。撮影画像中の白い領域(350*50pixel)を図93に示している。図94は図93のx座標画像である。図95は図93のy標画像である。図96は図93のz座標画像である。図97は図93の3D画像である。また、図96に示しているz座標画像を再サンプリング処理させ、その結果は図98である。再サンプリング後の1画素のxy座標は10μmである。図99は図98に示している二つカメラの合成データである。図100に図99の3D画像を示す。
以下、図99の合成後データの評価につて示す。
まず合成後溝の幅を評価した。図101に示しているように、矢印データは表5に示される。表5の条件により溝間の距離が0.50mmで測定されていることがわかった。実際の溝の距離は先述の通り0.8mmであるため、計測誤差は0mmであることがわかった。
そして合成後、溝の深さも評価した。図102に示しているように、領域AとCの高さ情報の平均値と領域Bの高さ情報の平均値より溝の深さを確認する。なお、合成処理が完全ではないため溝の淵付近のデータを回避して確認している。各領域の画素位置は表6に示す通りである。
結果としては、AとCの高さ平均値は0.756mm、Bの高さ平均値は0.311mmで差分は0.445mmであった。先述の通り、溝の深さは0.463mmである。0.018mmの計測誤差あることがわかった。
最後に合成後溝の一ラインの高さも評価した。図103に示しているように、矢印部分の高さ情報を図104の断面図として表す。図104には、矢印の位置はy軸上、42画素の位置で、x軸方向に186画素分のデータを表示されている。
6−6 精度を上げる計測原理の確認実験
φ70形状計測装置を用いて、2−4−6で説明した精度を上げる計測原理の確認実験を行った。下にはその結果について述べる。図105(a)は実際の現場で溝を加工しながら記録した画像(400*400pixel)である。図105(b)の中にある破線の丸中に傷がある。その傷の移動を基準として実験を行った。図105(a)に示しているように撮影した溝画像の溝部分がかなりの角度で傾いている。より良い溝の高さを得るため、溝がまっすぐになるように撮影画像を回転させ、データ処理を行った。回転後の画像を図105(b)に示す。この場合は18.63度だけ回転した。また、基準面を撮影する際にも同じ画像回転を行うようにすることで、回転させた画像であっても正しく三次元座標を得ることができる。
以下、その結果を示す。
図106に回転した三つの撮影画像とその高さ画像を示す。図106(a)の高さ結果は図106(b)に示される。図106(c)の高さ結果は図106(d)に示される。図106(e)の高さ結果は図106(f)に示される。
図106中の画像に赤い線がある。三つの撮影画像の溝の中に傷があるところの一ライン高さデータを出した。その結果を説明する。図107には図106の一ラインの高さデータを示す。図107(a)は図106(b)の一ライン高さデータである。図107(b)には図106(d)の一ライン高さデータを示す。図107(c)は図106(f)の一ライン高さデータである。図106(d)は図106(a)(b)(c)三ラインの平均データである。また、溝の深さは0.7mmであるため、図107(d)に示しているように、平均したデータの方は実際の溝の深さに一番近い結果となった。
図107には図106の一ラインの高さデータを示す。図107(a)はDK(b)のラインA高さデータである。図107(b)には図106(d)のラインB高さデータを示す。図107(c)は図106(f)のラインC高さデータである。図107(d)は図107(a),(b),(c)に示しているラインA,B,Cの合成データである。また、溝の深さは0.7mmであるため,図107(d)に示しているように、平均したデータの方は実際の溝の深さに一番近い結果となった。
2 パイプ
3 アーム
4 エンドミル
5 移動方向
6 加工ヘッド
7 加工溝
8 計測ユニット
9 プロジェクタ部
10 カメラ部
11 計測領域
12 形状計測ヘッド
13 計測ユニットコントローラ
14 コンピュータ

Claims (5)

  1. 光源と前記光源からの光によって照射される格子模様が形成された透明性部材と前記格子模様を計測対象物の表面に結像する結像レンズとを有するプロジェクタ部と、前記プロジェクタ部によって前記格子模様が投影された前記計測対象物の表面を撮影する撮像手段とを有し、前記計測対象物の表面の画像を少なくとも一部の撮像領域が重複するように撮像するように配置された第1計測ユニットと第2計測ユニットと、
    前記第1計測ユニットによる格子模様の投影および前記計測対象物の表面の撮影と、前記第2計測ユニットによる格子模様の投影および前記計測対象物の表面の撮影とを、切り替えて行わせる制御手段と、
    を備えたことを特徴とする第一形状計測ヘッド。
  2. 光源と前記光源の前方に配置されたスリットと、前記スリットを透過した前記光源からの光によって照射され計測対象物の表面に投影される格子模様が形成された透明性部材とを有するプロジェクタ部と、前記プロジェクタ部によって前記格子模様が投影された前記計測対象物の表面を撮影する撮像手段とを有し、前記スリットの幅は前記格子のピッチの半分以下であって、前記スリットの方向と前記格子模様が形成された透明性部材の格子の方向が一致し、前記計測対象物の表面の画像を少なくとも一部の撮像領域が重複するように撮像するように配置された第1計測ユニットと第2計測ユニットと、
    前記第1計測ユニットによる格子模様の投影および前記計測対象物の表面の撮影と、前記第2計測ユニットによる格子模様の投影および前記計測対象物の表面の撮影とを、切り替えて行わせる制御手段と、
    を備えたことを特徴とする第二形状計測ヘッド。
  3. 請求項1に記載の第一形状計測ヘッドまたは請求項2に記載の第二形状計測ヘッドのいずれか一方を備え、
    前記撮像した計測対象物の画像に対して位相解析処理を施して前記計測対象物の形状を算出することを特徴とする形状計測装置。
  4. 前記形状計測装置は位相評価値を指標として用いて前記各計測ユニットで撮像した画像の合成処理を行うことを特徴とする請求項3に記載の形状計測装置。
  5. 加工ヘッドを備えた加工装置によってワークに加工を行いながら、請求項3または4のいずれか一方に記載の前記形状計測装置により、ワークの加工箇所の形状計測を行う機上計測方法。
JP2013025042A 2013-02-12 2013-02-12 形状計測装置および形状計測方法 Active JP6236721B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013025042A JP6236721B2 (ja) 2013-02-12 2013-02-12 形状計測装置および形状計測方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013025042A JP6236721B2 (ja) 2013-02-12 2013-02-12 形状計測装置および形状計測方法

Publications (2)

Publication Number Publication Date
JP2014153287A JP2014153287A (ja) 2014-08-25
JP6236721B2 true JP6236721B2 (ja) 2017-11-29

Family

ID=51575275

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013025042A Active JP6236721B2 (ja) 2013-02-12 2013-02-12 形状計測装置および形状計測方法

Country Status (1)

Country Link
JP (1) JP6236721B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102280355B1 (ko) * 2014-11-14 2021-07-21 가부시키가이샤 니콘 조형 장치 및 조형 방법
JP6544018B2 (ja) * 2015-04-21 2019-07-17 横浜ゴム株式会社 タイヤ解析装置及びタイヤ解析方法
JP6755492B2 (ja) * 2017-01-06 2020-09-16 国立研究開発法人産業技術総合研究所 モアレによる材料の欠陥分布の可視化方法およびその自動検出方法、プログラム、装置
CN106996749A (zh) * 2017-03-31 2017-08-01 西安理工大学 管内周向环形窄沟槽几何参数检测装置及检测方法
JP2019124561A (ja) * 2018-01-16 2019-07-25 株式会社Ihiエアロスペース 変位取得装置、変位取得方法、およびプログラム
JP6887036B2 (ja) * 2020-02-28 2021-06-16 シェンチェン グディックス テクノロジー カンパニー,リミテッド 三次元イメージングシステム及び電子デバイス
JP2022056910A (ja) * 2020-09-30 2022-04-11 株式会社ユーシン精機 成形品取出システムのティーチング方法及び成形品取出機

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3414145B2 (ja) * 1996-08-27 2003-06-09 松下電工株式会社 3次元形状計測方法
JP3345586B2 (ja) * 1997-09-16 2002-11-18 株式会社東芝 段差検知装置およびこれを用いた処理装置
JP2002213931A (ja) * 2001-01-17 2002-07-31 Fuji Xerox Co Ltd 3次元形状計測装置および3次元形状計測方法
JP4149853B2 (ja) * 2003-06-02 2008-09-17 株式会社山武 3次元計測装置及び3次元計測方法
JP2005014026A (ja) * 2003-06-24 2005-01-20 Enshu Ltd 溶接部の検査方法及び溶接支援システム
JP4611782B2 (ja) * 2005-03-28 2011-01-12 シチズンホールディングス株式会社 3次元形状測定方法及び測定装置
KR100722245B1 (ko) * 2006-03-23 2007-05-29 주식회사 고영테크놀러지 3차원형상 측정장치
JP4888807B2 (ja) * 2006-07-26 2012-02-29 オプトウエア株式会社 走査型形状計測機
KR20110018696A (ko) * 2009-08-18 2011-02-24 주식회사 이턴 입체 영상 처리 장치 및 방법
JP5818341B2 (ja) * 2010-12-13 2015-11-18 国立大学法人 和歌山大学 形状計測装置および形状計測方法

Also Published As

Publication number Publication date
JP2014153287A (ja) 2014-08-25

Similar Documents

Publication Publication Date Title
JP6236721B2 (ja) 形状計測装置および形状計測方法
EP2183544B1 (en) Non-contact measurement apparatus and method
JP5818341B2 (ja) 形状計測装置および形状計測方法
CN108827187B (zh) 一种三维轮廓测量系统
JP4939304B2 (ja) 透明膜の膜厚測定方法およびその装置
US20150085108A1 (en) Lasergrammetry system and methods
CN106441157A (zh) 一种复杂形貌快速测量方法
JP6937482B2 (ja) 表面形状測定装置及びそのスティッチング測定方法
Sioma 3D imaging methods in quality inspection systems
JP6064871B2 (ja) 板厚測定方法
JP5956296B2 (ja) 形状計測装置及び形状計測方法
CN107764204A (zh) 基于光片显微镜的三维表面形貌仪及三维图像拼接方法
JP5098174B2 (ja) 3次元形状測定装置
Paakkari On-line flatness measurement of large steel plates using moiré topography
JP7001947B2 (ja) 表面形状測定方法
JP2009216702A (ja) 光学的計測装置
JP2006337142A (ja) ミキシングベーン検査方法と検査装置
Bergues et al. External visual interface for a Nikon 6D autocollimator
Schöch et al. Enhancing multisensor data fusion on light sectioning coordinate measuring systems for the in-process inspection of freeform shaped parts
JP6880396B2 (ja) 形状測定装置および形状測定方法
Liu et al. Stereo vision system based on the laser dot matrix projection
JP6041855B2 (ja) サブピクセル絶対位置決め方法
FUJIGAKI et al. Development of shape measurement system using mirrors for metallic objects
JPH11183136A (ja) 断面及び3次元形状測定装置
Yang et al. Camera calibration with active standard Gaussian stripes for 3D measurement

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161116

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170815

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170912

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20171013

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171013

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20171016

R150 Certificate of patent or registration of utility model

Ref document number: 6236721

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250