JP2013198872A - 加工システム、加工方法、加工プログラム、及び加工プログラムを記憶したコンピュータ読み取り可能な記録媒体 - Google Patents

加工システム、加工方法、加工プログラム、及び加工プログラムを記憶したコンピュータ読み取り可能な記録媒体 Download PDF

Info

Publication number
JP2013198872A
JP2013198872A JP2012068980A JP2012068980A JP2013198872A JP 2013198872 A JP2013198872 A JP 2013198872A JP 2012068980 A JP2012068980 A JP 2012068980A JP 2012068980 A JP2012068980 A JP 2012068980A JP 2013198872 A JP2013198872 A JP 2013198872A
Authority
JP
Japan
Prior art keywords
workpiece
processing
data
image data
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012068980A
Other languages
English (en)
Other versions
JP5946669B2 (ja
Inventor
Keikichi Miyai
啓吉 宮井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Gunze Ltd
Original Assignee
Gunze Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Gunze Ltd filed Critical Gunze Ltd
Priority to JP2012068980A priority Critical patent/JP5946669B2/ja
Publication of JP2013198872A publication Critical patent/JP2013198872A/ja
Application granted granted Critical
Publication of JP5946669B2 publication Critical patent/JP5946669B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Coating Apparatus (AREA)

Abstract

【課題】シート状のワークに対する所定の周縁加工において、正確且つ高精度な加工位置の基準点の設定を画像処理により自動的に行うことを目的とする。
【解決手段】所定の加工を行う加工手段を備えたロボットRを用いて、シート状のワークWに対する所定の周縁加工を行う。ステージS上に載置されたワークWを撮像する。所定の画像処理を行うことにより、撮像された画像データ基づいて処理画像データを生成し、処理画像データに基づいてワークWに対する加工位置データを取得する。画像処理により取得した加工位置データをステージS上の座標パラメータに変換し、加工手段をこの座標パラメータに対応する位置まで移動させるようにロボットRを制御する。画像処理において、一のワークWに基づいて設定されたテンプレートを用いたテンプレートマッチングにより、他のワークWにおける加工位置の基準点を取得する。
【選択図】図1

Description

本発明は、加工システム、加工方法、加工プログラム、及び加工プログラムを記憶したコンピュータ読み取り可能な記録媒体に関し、特に、シート状のワークに対する周縁加工に関するものである。
従来、所定の加工を行う加工手段を備えたロボットを用いて、ワークに対する加工を行う加工システムが知られている。このような加工システムの一例として、ディスペンサを備えたロボットを用いて、ステージ上に載置された回路基板に塗布剤を塗布する塗布装置が、下記特許文献1に開示されている。かかる塗布装置によれば、所定の画像処理がなされた回路基板の撮影画像が表示された画面上で回路基板に対する塗布剤の塗布位置を設定することができる。このため、塗布位置の設定・修正・確認等の作業が容易である。
ロボットに設けられた加工手段(ディスペンサ)は、特定のパラメータに基づいて所定の動作を行うように設計されたプログラムに従って、その動作が制御される。例えば、ワークの周縁部に対する加工を行う場合、当該ワークの周縁部近傍の所定位置に設定された一又は複数の基準点を始点パラメータ(及び終点パラメータ)として、加工手段を被加工部となるワークの周縁部に沿って駆動させるように設計されたプログラムを用いることで、コンピュータ制御により所望の加工を行うことができる。
上述の塗布装置において、加工対象となるワーク(回路基板)は剛体である。このため、例えば、量産品の製造工程において、形状・寸法等が規格化された多数のワークに対して同一の加工を反復的に行う場合であっても、各ワークにおける被加工部の位置は、すべてのワークにおいて同一である。したがって、一のワークに対する加工位置の基準点を設定すれば、その後に加工される他のワークについても、当該基準点の設定変更を要することなく、これと同じ設定で同一の加工を行うことができる。
一方で、柔軟なシート状の材料(例えば、布、フィルム等)から成るワークが加工対象となることがある。柔軟なシート状の材料(特に、布)は容易に変形するため、各ワークの載置姿勢を完全に一致させることが困難である。また、当該材料の伸縮等に起因して、ワークの形状・寸法等に事後的な変化が生じることもある。よって、各ワークが同一のパターンから同一の形状・寸法等に裁断されたものであっても、加工時における各ワークの形状・寸法等が必ずしも同一であるとは限らない。
ここで、ワークの周縁部に対する加工を行う場合、上述した基準点の設定については、正確且つ高精度であることが要求される。当該基準点の設定が正確でなければ、ワークに対する加工が実際には行われない等のトラブルが生じる場合があり、不良品発生や歩留り低下の要因となるからである。ところが、加工時における各ワークの形状・寸法等が異なれば、各ワークの周縁部近傍に設定される基準点の位置もワーク毎に変わってしまう。このため、加工時における各ワークの形状・寸法等に応じて、各ワークに対する加工位置の基準点をワーク毎に個別に設定することが必要になる。
したがって、シート状のワークの被加工部が当該ワークの周縁部である場合、作業者は、すべてのワーク毎に加工位置の基準点の最適位置を視認判断し、正確且つ高精度な位置入力をミスなく行うことを要求される。このため、上述の塗布装置のように、加工位置の設定・修正・確認等の作業が容易な加工システムを用いても、作業者は、その設定作業に多大な労力を強いられる。また、加工すべきワークが多数であるほど、これに比例して作業者の労力も増大し、設定作業に関するヒューマンエラー(例えば、基準点の過誤入力等)が発生する確率も高くなる。
特許第2910032号公報
本発明は、かかる事情に鑑みて為されたものであり、シート状のワークに対する所定の周縁加工において、正確且つ高精度な加工位置の基準点の設定を画像処理により自動的に行うことを目的としている。
本発明は、所定の加工を行う加工手段を備えたロボットを用いて、シート状のワークに対する所定の周縁加工を行う加工システムであって、ステージ上に載置された前記ワークを撮像する撮像手段と、所定の画像処理を行うことにより、前記撮像手段から得た画像データに基づいて前記ワークの輪郭を抽出した処理画像データを生成し、該処理画像データに基づいて前記ワークに対する加工位置データを取得する画像処理手段と、前記画像処理手段から得た前記加工位置データを前記ステージ上の座標パラメータに変換し、前記加工手段を該座標パラメータに対応する位置まで移動させるように前記ロボットを制御する制御手段と、を備え、前記画像処理手段が、一のワークに基づいて設定された所定のテンプレートを用いて、加工対象となる他のワークについての前記画像データまたは前記処理画像データに対するテンプレートマッチングを行うことにより、該他のワークの前記テンプレートに対する相対的な位置関係に関する所定のマッチングデータを取得するとともに、該マッチングデータに基づいて所定の演算を行うことにより、前記加工位置データの一部を構成する一又は複数の基準点それぞれの座標データを取得することを特徴とする。
前記テンプレートは、前記一のワークの前記画像データまたは該画像データを所定の閾値で二値化した二値画像データと、該二値画像データにおいて抽出された前記一のワークの輪郭近傍の所定位置に設定された特徴点とから成り、前記画像処理手段は、前記テンプレートマッチングにより、前記他のワークにおける前記一のワークの前記特徴点に相当する他の特徴点の座標データを前記マッチングデータとして取得する。
また、本発明は、所定の加工を行う加工手段を備えたロボットを用いて、シート状のワークに対する所定の周縁加工を行う加工方法であって、ステージ上に載置された前記ワークを撮像する撮像ステップと、所定の画像処理を行うことにより、前記撮像ステップで得た画像データに基づいて前記ワークの輪郭を抽出した処理画像データを生成し、該処理画像データに基づいて前記ワークに対する加工位置データを取得する画像処理ステップと、前記画像処理ステップで得た前記加工位置データを前記ステージ上の座標パラメータに変換し、前記加工手段を該座標パラメータに対応する位置まで移動させるように前記ロボットを制御する制御ステップと、を備え、前記画像処理ステップにおいて、一のワークに基づいて設定された所定のテンプレートを用いて、加工対象となる他のワークについての前記画像データまたは前記処理画像データに対するテンプレートマッチングを行うことにより、該他のワークの前記テンプレートに対する相対的な位置関係に関する所定のマッチングデータを取得するとともに、該マッチングデータに基づいて所定の演算を行うことにより、前記加工位置データの一部を構成する一又は複数の基準点それぞれの座標データを取得することを特徴とする。
前記テンプレートは、前記一のワークの前記画像データまたは該画像データを所定の閾値で二値化した二値画像データと、該二値画像データにおいて抽出された前記一のワークの輪郭近傍の所定位置に設定された特徴点とから成り、前記画像処理ステップにおいて、前記テンプレートマッチングにより、前記他のワークにおける前記一のワークの前記特徴点に相当する他の特徴点の座標データを前記マッチングデータとして取得する。
また、本発明の加工プログラムは、上述した各ステップをコンピュータに実行させるものである。
さらに、本発明のコンピュータ読み取り可能な記録媒体は、上述の加工プログラムを記憶したものである。
本発明によれば、ワークに対する加工位置データを、テンプレートマッチングを含む所定の画像処理を行うことにより取得する。このため、ワークの寸法・形状がテンプレートと多少異なっている場合や、ステージ上のワークが任意の姿勢で載置されている場合であっても、正確且つ高精度な加工位置の基準点の設定を画像処理により自動的に行うことができる。これにより、ワークに対する加工が実際には行われない等のトラブルが防止され、不良品発生を確実に回避するとともに歩留りを向上させることができる。同時に、加工すべきワークが多数存在する場合であっても、作業者の労力が大幅に軽減され、設定作業に関するヒューマンエラーの発生を確実に防止することができる。
また、テンプレートとして、ワークを撮像した画像データまたはワークの輪郭を抽出した二値画像データと、ワークの輪郭近傍の所定位置に設定された特徴点を採用することにより、加工位置データを取得するために必要な基準点に関する座標データを、テンプレートマッチングを含む必要最小限の画像処理と簡単な演算処理により効果的に取得することができる。これにより、画像処理をより簡略化することが可能となると同時に、ワークに対する加工位置の設定についての正確性、確実性をより高めることができる。
本発明の実施形態に係る加工システムを示す概略全体図である。 本発明の実施形態に係る加工方法を示すフローチャートである。 本実施形態に係る画像処理ステップを示すフローチャートである。 画面上に表示されたワークの画像データを示す概略図である。 画面上に表示されたワークの二値画像データを示す概略図である。 画面上に表示された収縮処理後の二値画像データを示す概略図である。 画面上に表示されたテンプレート画像を示す概略図である。 画面上に表示された加工位置データを示す概略図である。 画面上に表示された他のワークの画像データを示す概略図である。 画面上に表示された他のワークについての加工位置データを示す概略図である。
以下、本発明の実施形態について図面を用いて説明する。なお、以下の説明では、本発明に係る加工システムの一例として、柔軟性のあるシート状のワークの周縁部に接着剤等を塗布するための塗布装置を例示して説明する。
図1に示すように、本実施形態の加工システム10は、流体を射出するノズルNを加工手段として備えたロボットRを用いて、ステージS上に載置されたシート状のワークW(図示省略)の周縁部に対する接着剤の塗布作業を行うものである。加工システム10は、当該塗布作業のうち「接着剤の塗布位置の設定」及び「ロボットRによる接着剤塗布の動作制御」を、コンピュータCを用いて自動的に行うことが可能である。加工システム10は、撮像手段11、画像処理手段12、及び制御手段13を備えている。
撮像手段11は、ステージSの上方に設置されたカメラであり、ステージS上に載置されたワークWを撮像する。本実施形態では、撮像手段11としてラインカメラを採用しており、このラインカメラに対して、ステージSをモータ等の駆動手段(図示省略)により所定方向(本実施形態ではx軸方向(図1参照))に相対的に移動させることにより、ワークWの画像データを取得する。撮像手段11はコンピュータCに接続されており、取得された画像データはディスプレイDの画面上に表示される。なお、本実施形態では、設備コスト低減を図るために安価なラインカメラを採用しているが、所望の解像度を有する正確な画像データを取得可能である限り、撮像手段11の種類は特に限定されない。例えば、撮像手段11として二次元カメラ等を採用することもできる。
画像処理手段12は、撮像手段11から得た画像データに対して所定の画像処理を行うための装置である。本実施形態では、コンピュータCにより画像処理手段12が構成され、中央演算処理装置(CPU)に所定の演算を実行させることにより処理画像データが生成される。ここでいう「処理画像データ」とは、上述の画像データを所定の閾値で二値化することによりワークWの輪郭を抽出し、さらに所定の画像処理を施した二値画像データである。また、画像処理手段12は、所定の画像処理により生成された処理画像データに基づいてワークWに対する加工位置データを取得する。ここでいう「加工位置データ」とは、ワークWに対する加工位置を示す画像(図8、図10参照)に関するデータであり、具体的には、加工位置の基準点(本実施形態では、接着剤塗布の開始点PS(第1開始点P1S,第2開始点P2S)及び終了点PE(第1終了点P1E,第2終了点P2E))を含む塗布点列Ap(第1塗布点列Ap1,第2塗布点列Ap2)のディスプレイDの画面上における座標データである。
制御手段13は、ロボットRの動作を制御するための装置である。本実施形態では、コンピュータCにより制御手段13が構成され、画像処理手段12から得た加工位置データをステージS上の座標パラメータに変換し、ロボットRに設けられたノズルNをこの座標パラメータに対応する位置まで移動させる。具体的には、ロボットRを駆動させるモータ等の駆動手段(図示省略)を中央演算処理装置(CPU)で制御し、ステージS近傍に設けられた不図示のガイドに沿って3軸方向(x軸、y軸、z軸)に移動自在に連結されたロボットRの各方向への移動距離及び移動速度を適宜調整する。
本実施形態の加工システム10の主な特徴は以下の点にある。即ち、本実施形態では、画像処理手段12が、一のワークWに基づいて設定された所定のテンプレートを用いて、加工対象となる他のワークWの処理画像データに対するテンプレートマッチングを行う。これにより、加工対象となる他のワークWのディスプレイDの画面上におけるテンプレートに対する相対的な位置関係についてのマッチングデータを取得する。さらに、このマッチングデータに基づいてコンピュータCに所定の演算を実行させることにより、上述した各基準点を含む加工位置データを取得する。
テンプレートマッチングは、パターンマッチングの一種であり、その対象となる画像とテンプレート画像とを対比することにより、対象画像からテンプレートに相当する部分(特定のパターン)の画像を検出する画像処理である。本実施形態では、ワークWの輪郭を抽出し、さらに所定の画像処理を施した二値画像データから成る「処理画像データ」をテンプレートとしている。テンプレートマッチングの対象画像におけるワークWの輪郭に相当する部分を特定するとともに、当該部分のテンプレートに対するスケールの伸縮率を取得するためである。
また、上述したワークWの処理画像データに加えて、接着剤塗布の最初の開始点PS(第1開始点P1S(図7参照))をワークWの輪郭の「特徴点」としてテンプレートに設定している。テンプレートマッチングの対象画像における当該「特徴点」に相当する点を特定することにより、対象画像における特徴点(即ち、第1開始点P1S)の座標データを取得するとともに、対象画像におけるワークWのテンプレートに対する回転角度θを取得するためである。
つまり、本実施形態において、テンプレートマッチングにより取得される「マッチングデータ」とは、対象画像における特徴点の位置の座標データ、対象画像におけるワークWのテンプレートに対する回転角度θ、及び、対象画像におけるワークWのテンプレートに対するスケールの伸縮率である。
これらのマッチングデータに基づいて所定の演算を行い、対象画像における加工位置の他の基準点(本実施形態では、第1開始点P1S以外の他の開始点PS(第2開始点P2S)及び終了点PE(第1終了点P1E,第2終了点P2E))の位置の座標データを算出することにより、加工対象となるワークWに対する加工位置データを取得する。かかる演算の詳細については後述するため、ここでは説明を省略する。
次に、本実施形態の加工システム10の動作について説明する。加工システム10を用いてワークWの周縁部に対する所定の加工を行う際における各構成(即ち、撮像手段11、画像処理手段12、及び制御手段13)の一連の動作内容は、本発明の実施形態に係る加工方法を実行するための一連の手順(後述する各ステップ)と対応している。つまり、加工システム10を動作させることにより、本発明の実施形態に係る加工方法が実行される。したがって、以下の説明においては、本実施形態の加工方法についての詳細な説明を、加工システム10の動作についての説明とする。
図2に示すように、本実施形態の加工方法では、実際に加工作業を行うための事前準備として、初期設定が行われる。ここでいう「初期設定」とは、加工システム10の動作環境を設定するための作業であり、例えば、ディスプレイD及び撮像手段11とコンピュータCとの接続状態の確認、コンピュータCを上述した画像処理手段12及び制御手段13として機能させるための所定のプログラムのインストール、ロボットR及びステージSの動作確認などの作業が挙げられる。なお、初期設定としての具体的な作業は、これらの作業に限定されるものではなく、その他の作業を必要に応じて適宜含めることができる。
ここで、本実施形態の加工方法を実行するためには、初期設定の一環として、テンプレートマッチングを行うためのテンプレートを設定し、これをコンピュータC(具体的には、RAMや内蔵型HDD等の内部メモリで構成される記憶手段)に記憶させておく必要がある。これに関し、本実施形態では、上述した画像処理手段12を用いて所定の画像処理を行うことによりテンプレートの設定・登録が行われる。よって、テンプレートを設定・登録するための具体的な画像処理についても、後述する画像処理ステップS2において詳細に説明する。
初めに、加工対象となるワークWをステージS上の所定位置にセットする(ステップS0)。このとき、ワークWの載置姿勢については特に制限されないが、本実施形態では、後述する画像処理ステップS2においてテンプレートが未登録である場合にのみ、ワークWを以下のように配置する。即ち、ワークWの周縁部であって接着剤塗布の最初の開始点PS近傍にあたる部分を、ステージS上に設けられたマーカーM1(図1参照)に最も近い位置に配置するのが好ましい。これは、本実施形態における画像処理の特性上、マーカーM1側から順に処理するようにプログラミングされているため、当該部分がワークWの輪郭として最初に認識される部分となるからである。
続いて、撮像ステップS1として、上述した撮像手段11により、ステージS上の所定位置に載置されたワークWを撮像する。本実施形態では、上述のとおり、ステージSをx軸方向に移動させる際、ステージSの上方に設置されたラインカメラによりワークW全体を撮像する。このとき、ステージSに設けられたアライメント用のマーカーM1、M2(図1参照)も撮像する。撮像された画像データは、コンピュータCを介してディスプレイDの画面上に表示される(図4参照)。本実施形態では、撮像ステップS1において取得される画像データがグレースケールデータであるため、ステージSの色とワークWの色のコントラストは大きい方が好ましい。例えば、ステージSを黒色、ワークWを白色で構成することができるが、以下に示す画像処理を適切に行うことができる限り、これらの色は特に限定されない。
続いて、画像処理ステップS2として、撮像ステップS1で得た画像データに対して所定の画像処理を行う。画像処理ステップS2を実行することにより、後述する「処理画像データ」を生成するとともに、この処理画像データに基づいてワークWに対する加工を行うための「加工位置データ」を取得する。ここで、本実施形態では、加工位置データの取得方法が、テンプレート登録の有無に応じて異なる。以下、本実施形態の画像処理ステップS2について、図3を用いて詳細に説明する。
図3に示すように、画像処理ステップS2における画像処理として、初めに、領域抽出を行う(ステップS21)。具体的には、撮像ステップS1で得た画像データから、ステージS上に設けられた各マーカーM1、M2が画像データの表示領域に入るように、可能な限り広い作業領域を抽出する。領域抽出を適切に行うためには、ステージSの色と各マーカーM1、M2の色のコントラストが大きい方が好ましい。各マーカーM1、M2の色は、領域抽出が可能な範囲で任意に選択可能である。なお、上述した撮像ステップS1において、撮像手段11により撮像され、コンピュータCを介してディスプレイDの画面上に表示する画像(即ち、図4に示す画像)は、既に領域抽出された画像である。つまり、本実施形態では、撮像ステップS1において撮像された画像をディスプレイDの画面上に表示する時点で、コンピュータCにより領域抽出が行われている。
続いて、ワークWの輪郭を抽出するために、領域抽出された画像データに対して所定の閾値で二値化処理を行う(ステップS22)。本実施形態では、ステージSの色(黒色)とワークWの色(白色)のコントラストが大きいため、ワークWの周縁部近傍に位置する各画素における輝度値の差が大きい。このため、当該二値化処理により、ワークWの輪郭を原寸で正確に抽出した二値画像データを取得することができる(図5参照)。なお、本実施形態では、この二値化処理において、光のハレーション等に起因して発生するスパイクノイズを除去するオープニング処理、及び、不要な穴埋めを行うクロージング処理を同時に行う。これにより、ワークWの輪郭をより明確に抽出することができる。
続いて、ステップS22においてワークWの輪郭を抽出した二値画像データに対して収縮処理を行う(ステップS23)。これにより、ワークWの周縁部の所定位置に接着剤を塗布する際の「のりしろ」を決定する。本実施形態では、収縮処理として、円形でのエローション(Erosion)を複数回行う。これにより、収縮処理の時間を短縮することができる。当該収縮処理において、ワークWの原寸に対する収縮率は、ロボットRに設けられたノズルNの開口部の形状・寸法等に応じて適宜調整される。例えば、ノズルNの開口部が円形である場合、のりしろとして必要な寸法は、少なくともノズルNの直径以上であることが要求される。
続いて、収縮処理された二値画像データからワークWの輪郭形状と略相似形に相当する形状の輪郭点列Pを抽出する(ステップS24)。本実施形態では、ブロブ(Blob)処理を行うことにより、輪郭点列Pを取得する(図6参照)。具体的には、収縮されたワークWの二値画像を一つの塊として検出し、その輪郭及び当該輪郭における凹凸を多数の点列として抽出する。本実施形態では、収縮処理された二値画像データから輪郭点列Pを抽出した当該データ(即ち、図6に示す画像データ)を「処理画像データ」として使用する。
ここで、テンプレートが既に登録されているか否かの判断がなされる(ステップS25)。なお、本ステップS25における判断には、テンプレート登録の有無についての判断に加えて、テンプレート変更の有無についての判断も含まれている。例えば、加工対象となるワークWがテンプレートと大幅に異なる形状であることがステージS上にセットした時点で明らかである場合や、本実施形態の加工システム10を用いて同一のステージS上で異なる形状のワークWを加工する場合は、必然的にテンプレートの変更が必要となる。かかる場合には、テンプレートが未登録であるものとして取り扱う。
テンプレートが未登録である場合は、ディスプレイDの画面上において、接着剤の塗布位置の基準点となる開始点PS及び終了点PEをマウス等の入力手段を用いて入力・設定する(ステップS26)。本実施形態では、図7に示すように、前述のステップS24で取得された輪郭点列Pから、第1開始点P1Sと第1終了点P1E、及び、第2開始点P2Sと第2終了点P2Eの4点を選択し、これらを基準点として設定している。これらの各基準点は必ずしも輪郭点列Pから選択する必要はなく、例えば、輪郭点列Pの近傍であって、且つ、ブロブ処理において一つの塊として検出された二値画像データの領域内における点を選択することもできる。基準点の設定が完了した後、上述した「処理画像データ」及び「第1開始点P1Sの位置データ」(図7参照)をテンプレートとして登録する(ステップS27)。
なお、図6及び図7に示す二点鎖線は、上述した収縮処理(ステップS23)を図面上においてより明確に表現するために、収縮処理前におけるワークWの原寸を仮想線として表示したものである。したがって、これをディスプレイDの画面上に表示するか否かは任意であり、適宜選択・設計の変更が可能である。
続いて、ディスプレイDの画面上において、ワークWに対する加工位置データを取得する(ステップS28)。本実施形態においてテンプレートが未登録であった場合は、ステップS27において設定された各基準点(本実施形態では、第1開始点P1Sと第1終了点P1E、及び、第2開始点P2Sと第2終了点P2Eの4点)が、そのまま加工位置データの一部として用いられる。さらに、テンプレート登録された「処理画像データ」及び入力・設定された「各基準点の座標データ」に対し、以下のような画像処理を行うことにより加工位置データを取得する。
本実施形態において、上述した初期設定でコンピュータCにインストールされたロボットRの制御プログラムは、開始点PSから終了点PEまでワークWの周縁部に沿って時計回り方向にロボットRを移動させるように設計されている。したがって、処理画像データを構成する輪郭点列Pから、ロボットRによる加工を行うべき点(塗布点)を基準点の座標データに基づいて抽出することにより、加工位置データを取得することができる。具体的には、図8に示すように、第1開始点P1Sから時計回り方向に輪郭点列Pに沿って第1終了点P1Eまでを結ぶ点列を第1塗布点列Ap1として抽出する。これと同様に、第2開始点P2Sから時計回り方向に輪郭点列Pに沿って第2終了点P2Eまでを結ぶ点列を第2塗布点列Ap2として抽出する。
なお、テンプレート登録及び入力・設定された開始点PS及び終了点PEが輪郭点列Pから選択されていない場合は、加工位置データを取得するとき(即ち、塗布点列Apを抽出するとき)に、テンプレート登録及び入力・設定された開始点PS及び終了点PEの位置を補正する。具体的には、輪郭点列Pを構成する各点のうち、前述の開始点PS及び終了点PEに最も近い位置に配置されている点の座標データを塗布点列Apの開始点PS及び終了点PEとして抽出する。これにより、塗布点列Apを構成するすべての点が輪郭点列Pを構成する各点の座標データのいずれかと一致することになる。
取得した加工位置データは、コンピュータCの記憶手段に記憶されているワークWの原寸に相当する二値画像データとともにディスプレイDの画面上に表示される(図8参照)。このとき、第1終了点P1Eから時計回り方向に輪郭点列Pに沿って第2開始点P2Sまでを結ぶ点列、及び、第2終了点P2Eから時計回り方向に輪郭点列Pに沿って第1開始点P1Sまでを結ぶ点列は、ロボットRによる加工を行わない部分となるためディスプレイDの画面上には表示しない。
こうして、前述の画像処理が行われた加工位置データをディスプレイDの画面上に図8に示すように表示することで、ワークWに対する実際の加工位置のイメージをより具体的に可視化した形でディスプレイDの画面上に表示することが可能となる。したがって、加工位置データが所望位置に正しく設定されているか否かを視認により容易に判断することができる。例えば、加工位置データがワークWの輪郭よりも外側に設定されている場合や、ワークWの輪郭の内側であっても明らかにテンプレートと異なる位置に設定されている場合は、再度、テンプレートマッチングを行うか、あるいは、入力手段を用いて適宜修正すればよい。これにより、過誤設定を確実に回避することができる。
一方、テンプレートが既に登録されている場合は、テンプレート登録のために使用されたワークWとは異なる他のワークWが加工対象となる。したがって、当該他のワークWについて、新たに取得された処理画像データに対してテンプレートマッチングを行い(ステップS29)、以下に示すマッチングデータを取得する。ここで、テンプレートマッチングの対象となる処理画像データは、上述したステップS0〜S1を経て取得された他のワークWの画像データ(図9参照)に対し、上述した画像処理ステップS2におけるステップS21〜ステップS24に記載の画像処理を行うことにより取得される。したがって、テンプレートマッチングの対象画像となる他のワークWの処理画像データを取得するための各工程及び画像処理についての詳細な説明は省略する。
本ステップS29におけるテンプレートマッチングは、以下の手順で行われる。初めに、新たに取得された処理画像データと、テンプレートとして既に登録されている処理画像データとを対比することにより、対象画像におけるワークWの輪郭に相当する部分を特定する。続いて、ワークWの輪郭の「特徴点」としてテンプレート登録されている「第1開始点P1S」について、新たに取得された処理画像データにおける当該第1開始点P1Sをマッチングにより抽出し、その座標データを取得する。
また、本ステップS29では、マッチングデータとして、前述の座標データのほか、対象画像におけるワークWのテンプレートに対する回転角度θ、及び対象画像におけるワークWの輪郭に相当する部分のテンプレートに対するスケールの伸縮率についても当該マッチングにより取得する。
続いて、新たな加工対象となる他のワークWに対する加工位置データを取得する(ステップ28)。テンプレートが登録されている場合、本ステップS28において、新たに取得された処理画像データにおける他の基準点(即ち、第1開始点P1S以外の他の開始点PS(第2開始点P2S)及び終了点PE(第1終了点P1E,第2終了点P2E))の位置の座標データは、以下のようにして算出される。
本実施形態では、テンプレート登録の直後に加工位置データを取得した時点で、当該テンプレート登録のために用いたワークWに対する加工位置の他の基準点(即ち、第1終了点P1E,第2開始点P2S,第2終了点P2E)が既に設定されている。よって、テンプレート登録直後に取得された加工位置データから、テンプレートとなる第1開始点P1Sに対する当該他の基準点それぞれの位置関係を示すデータ(具体的には、第1開始点P1Sから各基準点までの距離、及び、ワークWを構成する所定の輪郭辺と、第1開始点P1Sと他の基準点とを結ぶ直線のなす角度)を算出することができる。本実施形態では、テンプレート登録の直後に加工位置データを取得した時点で当該データを算出し、コンピュータCの記憶手段に記憶しておくように構成されている。
初めに、テンプレートマッチングにより抽出された第1開始点P1Sに対する他の基準点の座標データを、前述のデータ(即ち、テンプレートとなる第1開始点P1Sに対する当該他の基準点それぞれの位置関係を示すデータ)に基づいて算出する。さらに、算出された他の基準点の座標データを、上述したマッチングデータに応じて適宜移動させる。具体的には、各基準点(第1終了点P1E,第2開始点P2S,第2終了点P2E)を、対象画像におけるワークWのテンプレートに対する回転角度θだけ回転させた位置に移動させる。このとき、対象画像におけるワークWの輪郭に相当する部分のテンプレートに対するスケールの伸縮率を反映させることで、ワークWの輪郭に対する誤差を縮減することができる。
ここで、本実施形態のように、加工対象となるワークWが柔軟なシート状の材料である場合、上述の演算により算出した各基準点の位置が、輪郭点列Pを構成する各点の座標データのいずれかと一致する位置に移動することはほとんどない。換言すれば、算出された各基準点の位置が輪郭点列Pを構成する各点の座標データのいずれとも一致しない位置に移動する場合がほとんどである。したがって、上述と同様の補正により、輪郭点列Pを構成する各点のうち算出された各基準点の位置に最も近い点をそれぞれ新たな基準点として設定する。
こうして新たに取得された他のワークWについての「処理画像データ」及び「各基準点の座標データ」に対し、上述したステップS28に示す画像処理を行うことにより、新たな加工対象となる他のワークWに対する加工位置データを取得することができる(図10参照)。
続いて、制御ステップS3として、画像処理ステップS2で得た加工位置データに基づいてロボットRの動作を制御して、ワークWに対する加工を行う。具体的には、加工位置データをステージS上の座標パラメータに変換し、ノズルNをこの座標パラメータに対応する位置まで移動させるようにロボットRを制御する。本実施形態では、輪郭点列Pの座標データをステージS上の座標パラメータに変換し、この座標パラメータに基づいてロボットRへの移動命令が送信される。これにより、ワークWの周縁部に沿って移動するようにロボットRの動作を制御することができる。
なお、本実施形態では、輪郭点列Pの座標データをステージS上の座標パラメータに変換する際、輪郭点列Pの間引き処理を行う。具体的には、ワークWの周縁部における凹凸部や角部等に相当する点を除き、輪郭点列Pを構成する各点のうち一定間隔を隔てた位置にある点の座標データのみをステージS上の座標パラメータに変換する。ロボットRの移動方向に隣り合う座標パラメータ同士の間隔は、ロボットRの移動速度を勘案して、当該ロボットR(詳しくは、ノズルNの中心)の移動軌跡が輪郭点列Pと略一致するように適宜調整・変更される。これにより、必要最小限の座標パラメータであっても、ロボットRの移動を正確に制御することが可能となる。
また、ロボットRの移動を制御する上述の座標パラメータのうち、上述した画像処理ステップS2において、加工位置データとして抽出された第1塗布点列Ap1及び第2塗布点列Ap2に含まれる点列の座標データから変換された座標パラメータは、加工手段(ノズルN)の制御パラメータとしての役割も兼備している。したがって、これらの座標パラメータに基づいてノズルNの動作を制御することにより、ワークWに対する接着剤の塗布作業が行われる。
本実施形態では、ロボットRが、第1開始点P1Sの座標パラメータに対応する位置から第1終了点P1Eの座標パラメータに対応する位置まで移動する間は、各座標パラメータに基づいてロボットRへの加工命令が送信され、ノズルNから接着剤が射出される。第2開始点P2Sの座標パラメータに対応する位置から第2終了点P2Eの座標パラメータに対応する位置まで移動する間についても同様である。これに対し、ロボットRが、第1終了点P1Eの座標パラメータに対応する位置から第2開始点P2Sの座標パラメータに対応する位置まで移動する間は、ロボットRへの加工命令は送信されない。よって、その間、ノズルNから接着剤が射出されることはない。
そして、ロボットRが、最後の終了点PE(本実施形態では、第2終了点P2E)の座標パラメータに対応する位置まで到達したときに、加工対象となったワークWに対する所定の加工作業が完了する。このとき、ステージS上に載置されたワークWの、図8に示す加工位置データに対応する位置(具体的には、ワークWにおける第1塗布点列Ap1及び第2塗布点列Ap2に対応する位置)に接着剤が塗布されている。こうして一連の加工作業が完了したワークWは、ステージSから取り出され、次工程へ搬送される。
ここで、全てのワークWに対する加工が完了したか否かの判断がなされる(ステップS4)。加工すべきワークWが存在する場合は、上述した各ステップS0〜S3が繰り返し実行される。なお、途中でテンプレートを変更する必要が生じた場合には、上述した画像処理ステップS2に基づいて新たなテンプレートを登録し、それ以後、上述と同様に各ステップS0〜S3を繰り返し実行すればよい。こうして、全てのワークWに対する加工を行い、当該加工が完了すれば、本実施形態の加工方法を用いた加工システム10による加工作業は終了する。
上述のとおり、本実施形態の加工方法は、コンピュータCに、上述した各ステップ(図2、図3参照)を実行させ、また、コンピュータCを、画像処理手段12及び制御手段13として機能させる加工プログラムを用いて、本実施形態の加工システム10を動作させることにより実行される。かかる加工プログラムは、例えば、光ディスク等のコンピュータ読み取り可能な記録媒体に記憶させて配布することができる。あるいは、インターネット等の電気通信回線を通じて配信することもできる。
本実施形態の加工システム10及び加工方法によれば、ワークWに対する加工位置データを、テンプレートマッチング含む所定の画像処理を行うことにより取得する。このため、ワークWの寸法・形状がテンプレートと多少異なっている場合や、ステージS上のワークWが任意の姿勢で載置されている場合であっても、上述のとおり正確且つ高精度な加工位置の基準点の設定を画像処理により自動的に行うことができる。これにより、ワークWに対する加工が実際には行われない等のトラブルが防止され、不良品発生を確実に回避するとともに歩留りを向上させることができる。同時に、加工すべきワークWが多数存在する場合であっても、作業者の労力が大幅に軽減され、設定作業に関するヒューマンエラーの発生を確実に防止することができる。
また、テンプレートとして、ワークWの輪郭を抽出した二値画像データと、ワークWの輪郭近傍の所定位置に設定された特徴点(本実施形態では、第1開始点P1S)を採用することにより、加工位置データを取得するために必要な基準点(本実施形態では、第1終了点P1E,第2開始点P2S,第2終了点P2E)に関する座標データを、テンプレートマッチングを含む必要最小限の画像処理と簡単な演算処理により効果的に取得することができる。これにより、画像処理をより簡略化することが可能となると同時に、ワークWに対する加工位置の設定についての正確性、確実性をより高めることができる。
本実施形態の加工システム10及び加工方法から得られるこれらの効果は、ワークWがシート状である場合に生じる課題(例えば、変形しやすく、各ワークWの載置姿勢を完全に一致させることが困難である点、ワークの形状・寸法等に事後的な変化が生じる可能性がある点)及びワークWの周縁部である場合に生じる課題(例えば、加工位置の基準点の設定が正確でなければ、ワークWに対する加工が実際には行われない等のトラブルが生じる点)との関係において非常に効果的であり、且つ、これらの課題を直接的に解決することができる。したがって、本実施形態の加工システム10及び加工方法は、シート状のワークWに対する加工に特に適したものであると同時に、ワークWの周縁加工に特に適したものであると言える。
以上、本発明の実施形態に係る加工システム10及び加工方法について説明したが、本発明に係る加工システム及び加工方法は、その他の形態で実施することができる。
例えば、本発明において、ロボットRに設ける加工手段を適宜変更することにより、ワークWの周縁部に対して、上述した接着剤の塗布とは異なる加工を行うことができる。具体的には、シートの裁断加工が挙げられる。かかる場合には、上述した加工システム10及び加工方法において、「ワークWの周縁部(又は輪郭)」を「裁断パターンの形状」に、「ノズルN」を周知の「裁断刃(金型)」にそれぞれ置き換えることにより、上述と同様の作用・効果を得ることができる。さらに、裁断刃の厚みを考慮すれば、上述の収縮処理(エローション(Erosion))に替えて拡張処理(ダイレーション(Dilation))を設ける方がより好ましい。加工システムを構成する他の構成(例えば、ステージSやロボットR)についても、その加工態様に適した構成に変更すればよい。このほか、ワークWの縫製等の加工についても適用可能である。
また、上述した加工システム10及び加工方法では、第1開始点P1Sのみをテンプレートマッチングにより抽出するように構成されているが、本発明では、他の基準点(即ち、第1終了点P1E、及び、第2開始点P2Sと第2終了点P2E)についても、同様にテンプレートマッチングにより抽出するように構成してもよい。この場合、加工位置データを取得するための画像処理のプログラムが適宜変更される。かかる場合においても、上述と同様に、加工位置データを画像処理により自動的に取得することができる。
また、上述した加工システム10及び加工方法では、第1開始点P1Sをテンプレートマッチングの特徴点として設定したが、基準点(即ち、第1開始点P1Sと第1終了点P1E、及び、第2開始点P2Sと第2終了点P2E)以外の点を特徴点としてテンプレートマッチングを行うこともできる。
また、上述した加工システム10及び加工方法においては、撮像ステップS1で取得されたワークWの画像データに所定の画像処理を施した二値画像データをテンプレートとしてテンプレートマッチングを行っているが、テンプレート及びテンプレートマッチングの実施形態はこれに限らない。例えば、ワークWの輪郭を抽出したグレースケール画像データをテンプレートとして、加工対象の画像データ(グレースケールデータ)に対するテンプレートマッチングを行ってもよい。この場合も、テンプレートにおいてワークWの輪郭を抽出するため、撮像ステップS1で取得されたワークWの画像データに対し二値化等の所定の画像処理を行う。
また、本発明の加工システムにおいて、ステージS上の所望の位置にロボットRを移動させることができる構成である限り、それぞれの配置、駆動手段の種類、移動させるための機構などは任意である。したがって、例えば、ステージSを3軸方向に移動させるように構成してもよく、あるいは、ロボットR又はステージSのいずれか一方を完全に固定してもよい。
さらに、本発明の加工方法において、所望の画像データ(処理画像データ、各基準点の座標データ等)を取得できる限り、各ステップを行う順番は任意である。また、ワークWに対する加工態様に応じて各ステップを適宜省略又は変更することもできる。
尚、本発明は、その趣旨を逸脱しない範囲で当業者の知識に基づいて種々なる改良、修正、又は変形を加えた態様でも実施できる。また、同一の作用又は効果が生じる範囲内で、何れかの発明特定事項を他の技術に置換した形態で実施しても良い。
10:加工システム
11:撮像手段
12:画像処理手段
13:制御手段
W :ワーク
S :ステージ
R :ロボット
N :ノズル
D :ディスプレイ

Claims (6)

  1. 所定の加工を行う加工手段を備えたロボットを用いて、シート状のワークに対する所定の周縁加工を行う加工システムであって、
    ステージ上に載置された前記ワークを撮像する撮像手段と、
    所定の画像処理を行うことにより、前記撮像手段から得た画像データに基づいて前記ワークの輪郭を抽出した処理画像データを生成し、該処理画像データに基づいて前記ワークに対する加工位置データを取得する画像処理手段と、
    前記画像処理手段から得た前記加工位置データを前記ステージ上の座標パラメータに変換し、前記加工手段を該座標パラメータに対応する位置まで移動させるように前記ロボットを制御する制御手段と、を備え、
    前記画像処理手段が、一のワークに基づいて設定された所定のテンプレートを用いて、加工対象となる他のワークについての前記画像データまたは前記処理画像データに対するテンプレートマッチングを行うことにより、該他のワークの前記テンプレートに対する相対的な位置関係に関する所定のマッチングデータを取得するとともに、該マッチングデータに基づいて所定の演算を行うことにより、前記加工位置データの一部を構成する一又は複数の基準点それぞれの座標データを取得することを特徴とする加工システム。
  2. 前記テンプレートが、
    前記一のワークの前記画像データまたは該画像データを所定の閾値で二値化した二値画像データと、該二値画像データにおいて抽出された前記一のワークの輪郭近傍の所定位置に設定された特徴点とから成り、
    前記画像処理手段が、
    前記テンプレートマッチングにより、前記他のワークにおける前記一のワークの前記特徴点に相当する他の特徴点の座標データを前記マッチングデータとして取得する、請求項1に記載の加工システム。
  3. 所定の加工を行う加工手段を備えたロボットを用いて、シート状のワークに対する所定の周縁加工を行う加工方法であって、
    ステージ上に載置された前記ワークを撮像する撮像ステップと、
    所定の画像処理を行うことにより、前記撮像ステップで得た画像データに基づいて前記ワークの輪郭を抽出した処理画像データを生成し、該処理画像データに基づいて前記ワークに対する加工位置データを取得する画像処理ステップと、
    前記画像処理ステップで得た前記加工位置データを前記ステージ上の座標パラメータに変換し、前記加工手段を該座標パラメータに対応する位置まで移動させるように前記ロボットを制御する制御ステップと、を備え、
    前記画像処理ステップにおいて、一のワークに基づいて設定された所定のテンプレートを用いて、加工対象となる他のワークについての前記画像データまたは前記処理画像データに対するテンプレートマッチングを行うことにより、該他のワークの前記テンプレートに対する相対的な位置関係に関する所定のマッチングデータを取得するとともに、該マッチングデータに基づいて所定の演算を行うことにより、前記加工位置データの一部を構成する一又は複数の基準点それぞれの座標データを取得することを特徴とする加工方法。
  4. 前記テンプレートが、
    前記一のワークの前記画像データまたは該画像データを所定の閾値で二値化した二値画像データと、該二値画像データにおいて抽出された前記一のワークの輪郭近傍の所定位置に設定された特徴点とから成り、
    前記画像処理ステップにおいて、
    前記テンプレートマッチングにより、前記他のワークにおける前記一のワークの前記特徴点に相当する他の特徴点の座標データを前記マッチングデータとして取得する、請求項3に記載の加工方法。
  5. 請求項3又は請求項4に記載のステップをコンピュータに実行させる加工プログラム。
  6. 請求項5に記載の加工プログラムを記憶したコンピュータ読み取り可能な記録媒体。
JP2012068980A 2012-03-26 2012-03-26 加工システム、加工方法、加工プログラム、及び加工プログラムを記憶したコンピュータ読み取り可能な記録媒体 Active JP5946669B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012068980A JP5946669B2 (ja) 2012-03-26 2012-03-26 加工システム、加工方法、加工プログラム、及び加工プログラムを記憶したコンピュータ読み取り可能な記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012068980A JP5946669B2 (ja) 2012-03-26 2012-03-26 加工システム、加工方法、加工プログラム、及び加工プログラムを記憶したコンピュータ読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JP2013198872A true JP2013198872A (ja) 2013-10-03
JP5946669B2 JP5946669B2 (ja) 2016-07-06

Family

ID=49519528

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012068980A Active JP5946669B2 (ja) 2012-03-26 2012-03-26 加工システム、加工方法、加工プログラム、及び加工プログラムを記憶したコンピュータ読み取り可能な記録媒体

Country Status (1)

Country Link
JP (1) JP5946669B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110315525A (zh) * 2018-03-29 2019-10-11 天津工业大学 一种基于视觉引导的机器人工件抓取方法
CN112893007A (zh) * 2021-01-15 2021-06-04 深圳市悦创进科技有限公司 一种基于机器视觉的点胶系统及其点胶方法
JPWO2022201422A1 (ja) * 2021-03-25 2022-09-29
WO2024121903A1 (ja) * 2022-12-05 2024-06-13 株式会社Fuji 画像処理装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07174516A (ja) * 1993-12-21 1995-07-14 Toyota Motor Corp リング状ワークの特徴点抽出方法
JP2009279700A (ja) * 2008-05-21 2009-12-03 Purex:Kk ワークの把持方法および装置
JP2011123775A (ja) * 2009-12-11 2011-06-23 Ist Corp 布製品識別装置および布製品把持システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07174516A (ja) * 1993-12-21 1995-07-14 Toyota Motor Corp リング状ワークの特徴点抽出方法
JP2009279700A (ja) * 2008-05-21 2009-12-03 Purex:Kk ワークの把持方法および装置
JP2011123775A (ja) * 2009-12-11 2011-06-23 Ist Corp 布製品識別装置および布製品把持システム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110315525A (zh) * 2018-03-29 2019-10-11 天津工业大学 一种基于视觉引导的机器人工件抓取方法
CN112893007A (zh) * 2021-01-15 2021-06-04 深圳市悦创进科技有限公司 一种基于机器视觉的点胶系统及其点胶方法
JPWO2022201422A1 (ja) * 2021-03-25 2022-09-29
WO2022201422A1 (ja) * 2021-03-25 2022-09-29 三菱電機株式会社 画像処理装置、プログラム及び画像処理方法
JP7317260B2 (ja) 2021-03-25 2023-07-28 三菱電機株式会社 画像処理装置、プログラム及び画像処理方法
WO2024121903A1 (ja) * 2022-12-05 2024-06-13 株式会社Fuji 画像処理装置

Also Published As

Publication number Publication date
JP5946669B2 (ja) 2016-07-06

Similar Documents

Publication Publication Date Title
US9272420B2 (en) Robot system and imaging method
US9884425B2 (en) Robot, robot control device, and robotic system
JP2015174191A (ja) ロボットシステム、ロボットシステムのキャリブレーション方法およびロボットシステムの位置補正方法
WO2015170482A1 (ja) 溶接機及びその制御方法
JP5946669B2 (ja) 加工システム、加工方法、加工プログラム、及び加工プログラムを記憶したコンピュータ読み取り可能な記録媒体
US9135519B2 (en) Pattern matching method and pattern matching apparatus
JP6410411B2 (ja) パターンマッチング装置及びパターンマッチング方法
WO2021046767A1 (zh) 自主式机器人工装系统、控制系统、控制方法及存储介质
US11151735B1 (en) Deformation processing support system and deformation processing support method
JP6199000B2 (ja) 情報処理装置
CN111199533B (zh) 图像处理装置
JP6253847B1 (ja) レーザ加工装置、レーザ加工方法、及びレーザ加工プログラム
JP6220514B2 (ja) ロボット制御システムおよびロボット制御方法
JP6735208B2 (ja) キャリブレーション治具、板金搬入システム、及びキャリブレーション方法
JPH11351824A (ja) 座標系補正方法及び画像測定装置
JP6621639B2 (ja) 基板用の画像処理装置
JP4437607B2 (ja) 表面実装機
JP7262651B2 (ja) 情報処理装置、工作システムおよびプログラム
WO2023054049A1 (ja) 情報処理装置、工作システム、工作機械およびプログラム
JP2019036072A (ja) 画像処理方法、画像処理装置、および製造方法
JP2012236266A (ja) ロボット制御システム、ロボットシステム及びプログラム
US20230267603A1 (en) Substrate treating apparatus, substrate treating system, and substrate treating method
TW201510687A (zh) 影像誤差判斷與補償方法與系統
JP2005173845A (ja) 部品認識装置
CN111489449A (zh) 对象物确认装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160601

R150 Certificate of patent or registration of utility model

Ref document number: 5946669

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250