JP6499476B2 - 検査装置 - Google Patents

検査装置 Download PDF

Info

Publication number
JP6499476B2
JP6499476B2 JP2015038163A JP2015038163A JP6499476B2 JP 6499476 B2 JP6499476 B2 JP 6499476B2 JP 2015038163 A JP2015038163 A JP 2015038163A JP 2015038163 A JP2015038163 A JP 2015038163A JP 6499476 B2 JP6499476 B2 JP 6499476B2
Authority
JP
Japan
Prior art keywords
unit
image
imaging
real image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015038163A
Other languages
English (en)
Other versions
JP2016161321A (ja
Inventor
哲 友枝
哲 友枝
千草 井中
千草 井中
由起 喜多
由起 喜多
辰彦 坪井
辰彦 坪井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toray Engineering Co Ltd
Original Assignee
Toray Engineering Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toray Engineering Co Ltd filed Critical Toray Engineering Co Ltd
Priority to JP2015038163A priority Critical patent/JP6499476B2/ja
Publication of JP2016161321A publication Critical patent/JP2016161321A/ja
Application granted granted Critical
Publication of JP6499476B2 publication Critical patent/JP6499476B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

本発明は、容器内に付着した異物や残留物を検査する検査装置に関する。
アルミ缶やドラム缶などの容器の、側壁内側や底板上側などの内面について、洗浄後の残留物や外部から混入したゴミやホコリなどの異物が付着しているかどうかを検査する技術が、従来より提案されている。
例えば、アルミ缶などの筒状の容器の内面とフランジ部とを一度に撮像するために、容器の外部に撮像部を配置し、容器と撮像部との間に反射鏡を配置し、容器内面等の欠陥を検査する技術が知られている(例えば、特許文献1)。或いは、当該容器の外部に配置した撮像部を用いて、検査対象物となる筒状の容器の内面を複数の方向から斜め下向きに撮像し、当該内面の検査を行う技術が知られている(例えば、特許文献2)。
また、ドラム缶の内部の欠陥を検査するために、支持桿に取り付けられた照明とカメラ(カメラは角度調整装置に取り付けられている)とを挿入して当該ドラム缶内を分割撮像し、検査を行うことが知られている(例えば、特許文献3)。
特許3614597号公報 特開平3−225264号公報 特開平9−288067公報
容器の内面に付着した異物は、照明光を照射することにより、輝点として撮像される。しかし、当該容器の内面は、少なからず光を反射するため、検出対象となる異物(実像)とは別に、当該異物から発せられた光が当該容器の内面で反射し、別の場所に輝点(虚像)として撮像される。そのため、実際に存在する異物(実像)とは別に、虚像も撮像されてしまい、正しく異物を検出をすることができないという課題があった。つまり、異物の有無や個数を検査する場合であれば、実際に存在している個数以上カウントされてしまう。一方、異物の大きさや面積、体積、量などを検査する場合であれば、実像だけでなく虚像についての大きさや面積、体積、量を含めた検査結果を出力してしまうこととなり、所望の検査結果が得られない。
図9は、従来の技術で容器の内面を撮像している様子を示す概略図である。
図9(a)は、従来の技術で容器の内面を撮像している様子を示す側面図であり、図9(b)は、従来の技術により撮像した画像のイメージを示す画像イメージ図である。図9(a)には、照明光照射部2zと、撮像部3zを用い、開口部Hのある天板、底板並びに側板を備えた容器Wにおいて、ある側板内面Wsに設定された検査対象領域Rzを撮像している様子が示されている。なお、照明光照射部2zは、光源部21と拡散板22とを備え、検査対象領域Rzに向けて均一な照明光23を照射する構成をしている。また、撮像部3zは、撮像カメラ31とレンズ32を備え、画角36より内側の範囲(つまり、検査対象領域Rz)を撮像し、表示器19zに撮像した画像を表示する構成をしている。
この様な場合、表示器19zに表示される画像は、図9(b)に示す様になる。つまり、側板内面Wsに付着した異物S1だけでなく、底板内面Wbに付着した異物S2の虚像F1が、側板内面Wsに写り込んだ虚像F1pとして撮像される。そのため、異物S1と写り込んだ虚像F1pとを、異物として検出してしまう。なお、図示した配置では、照明光23は異物S2に直接照射されないが、側板内面Wsで反射した光が異物S2に照射され、その反射光や散乱光成分が側板内面Wsに写り込むため、虚像F1pは撮像される。同様に、底板内面Wbを撮像する場合も、底板内面Wbに存在する異物S2だけでなく、側板内面Wsに付着した異物の虚像が底板内面Wbに写り込んだ虚像として撮像され、それぞれが異物として検出されてしまう。つまり、従来の技術では、検出すべき実像と、検出すべきでない虚像とが混在し、精度良く判別することが困難であった。
そこで、本発明は、容器の内面に付着した異物を検査(つまり、異物の有無を判定したり、異物の個数をカウントしたり、異物の大きさ、面積、体積、量などを測定したり)する検査装置において、実像と虚像を精度良く判別し、誤検出の少ない検査装置を提供することを目的とする。
以上の課題を解決するために、本発明の一形態は、
内側空間を有する物体の内面に付着した異物を検査する検査装置であって、
前記物体の内面に設定した検査対象領域に向けて光を照射する照明光照射部と、
前記検査対象領域を撮像する撮像部と、
前記撮像部を前記検査対象領域に対して相対移動させる相対移動部と、
前記撮像部と前記検査対象領域との相対位置を検出する相対位置検出部と、
前記検査対象領域について、第1撮像位置と、前記第1撮像位置とは異なる第2撮像位置の、少なくとも2カ所の撮像位置で撮像し取得した複数の画像情報について個別に異物候補を検出する異物候補検出部と、
前記複数の画像情報に含まれる異物候補の位置情報と、前記第1撮像位置における前記撮像部の撮像条件情報と、前記第2撮像位置における前記撮像部の撮像条件情報とに基づいて、前記異物候補検出部で検出された個別の異物候補の中から実像を判別する実像検出部とを備えた、検査装置である。
この構成によれば、撮像された画像の中にある異物候補について、第1撮像位置と第2撮像位置の変化に伴い、異物候補の位置がどう変化するかに基づいて(つまり、実像・虚像が示す挙動特性を鑑み)、実像であるか虚像であるかを判別する。
さらに、
前記実像検出部で検出された実像の位置情報に基づいて、当該実像に対応する虚像の推定位置を算出する虚像位置推定部と、
前記異物候補検出部で検出された異物候補のうち、前記実像検出部で実像と判別されたもの以外の虚像候補について、前記虚像位置推定部で算出された前記実像に対応する虚像の推定位置に存在すれば、当該虚像候補を虚像と判定する、虚像判定部と
を備えても良い。
また、
前記異物候補検出部で検出された異物候補のうち、前記実像検出部で実像と判別されたもの以外の虚像候補に対応する実像の推定位置を算出する実像位置推定部と、
前記実像検出部で検出された実像が、前記実像位置推定部で算出された前記虚像候補に対応する実像の推定位置に存在するかどうかを検証する、実像位置検証部と
を備えても良い。
また、
前記第1撮像位置における前記撮像部の撮像条件情報と、
前記第2撮像位置における前記撮像部の撮像条件情報と、
前記物体の内面の形状情報とを、3次元情報のモデル座標系で定義し登録しておく、モデル座標登録部を備え、
前記撮像部で撮像し取得される画像情報は、2次元情報であり、
当該2次元情報の前記画像情報を3次元情報のワールド座標系に座標変換し、前記3次元情報のモデル座標系をワールド座標系に座標変換する座標変換部をさらに備え、
前記異物候補検出部は、ワールド座標系に変換された位置情報に基づいて、前記異物候補の位置情報を取得することを特徴としても良い。
また、
前記照明光照射部には、前記異物を蛍光発光させるための励起光を照射する励起光照射部を備え、
前記撮像部には、前記励起光の波長成分を減衰させ、前記異物から放出された蛍光発光の波長成分を通過させる、蛍光観察フィルタを備えた
ことを特徴としても良い。
容器の内面に付着した異物を検査する際に、実像と虚像を精度良く判別でき、誤検出を減らすことができる。
本発明の一実施形態における検査装置の構成全体を模式的に示した図である。 本発明の一実施形態における検査装置の構成の要部を模式的に示した図である。 本発明の別の一実施形態における検査装置の構成全体を模式的に示した図である。 本発明を具現化する上で使用する各座標系の関係図である。 画像座標系からカメラ座標系への変換を示す図である。 カメラ視点から容器内面モデル平面の交点Pを結ぶ光路の図である。 容器内面モデル平面内に交点Pが存在するときの関係を示す図である。 カメラ視点から反射像と実像(異物)を結ぶ光路の図である。 従来の技術で容器の内面を撮像している様子を示す概略図
以下に、本発明を実施するための形態について、図を用いながら説明する。
図1は、本発明の一実施形態における検査装置の構成全体を模式的に示した図である。図1に示すように、本実施形態における検査装置1は、内側空間を有する物体20の内面に付着した異物を検査する検査装置である。ここで、「内側空間を有する物体」とは、少なくとも互いに対向して配置された内面、及び/又は互いに隣接して配置された内面を有し、該内面の内側に内側空間が形成された物体であって、多重反射をするような内側空間を有する物体をいう。「内側空間を有する物体」は、有底の箱体又は筒状体からなる容器の他、パイプ、溝体(チャネル)、山形体(アングル)等を含む。以下の説明では、「内側空間を有する物体」を、単に「容器」と呼ぶ。
また本願では、外部から混入したゴミやホコリなどに限らず、容器を洗浄した後の残留物などを含めて「異物」を言う。
また、「異物の検査」とは、異物の有無を判定したり、異物の個数をカウントしたり、異物の大きさ、面積、体積、量などを測定したりすることを言う。
なお、以下の説明では、容器の一類型として、略直方体形の容器Wを例示する。
容器Wは、縦長の側面4面と上面と底面とで構成される略直方体形であって、側面は、略正方形状の断面形状をしている。また、上面の一部には、開口部を有している。
また各図においては、直交座標系の3軸をX、Y、Zとし、XY平面を水平面、Z方向を鉛直方向とする。特に、X方向は、矢印の方向を右側、その逆方向を左側と表現し、Y方向は、矢印の方向を奥側、その逆方向を手前側と表現し、Z方向は矢印の方向(重力上方)を上側、その逆方向を下側と表現する。
さらに、容器Wの底面は水平面と平行に配置され、容器Wの側面はZ方向と平行に配置されているものとして、説明を行う。
図1に示すように、検査装置1は、照明光照明部2と、撮像部3と、相対移動部5と、異物候補検出部7と、実像検出部8とを備えて構成されている。なお、説明の便宜上、容器Wは、一点鎖線にて表している。また、容器Wの内面には、異物S1,S2が付着している。なお、本発明を適用すれば、容器Wの内面全域にわたって検査を行うことができるが、ここでは簡潔に説明するために、容器Wの内面の一部に設定された検査対象領域R1に着目して説明を行う。そして、異物S1は、検査対象領域R1内に付着しており、異物S2は、検査対象領域R1外に付着している。
なお、本実施形態において、少なくとも容器Wの内面は、励起光の照射によって蛍光を発光しない材料で構成されている。例えば、容器Wが金属で構成されているもの、あるいは、容器Wが樹脂で構成されている場合には、その内面に金属層が形成されているものを含む。
また、容器Wの内面に付着した異物S1,S2は、励起光の照射によって蛍光を発光する材料を含む。例えば、異物S1,S2は、有機物を含むもの、あるいは、有機物以外でも蛍光するもの(例えば、半導体材料の一部や、鉱物の一部など)を含む。
照明光照射部2は、容器Wの内面に設定した検査対象領域R1に向けて光を照射するものである。具体例として、照明光照射部2には、検査対象物である異物S1を蛍光発光させる、励起光照射部20が備えられている。
励起光照射部20は、励起光23(例えば、紫外光領域に主なエネルギーを有する光エネルギー)を外部に照射するものである。より具体的には、励起光照射部20は、UV照明手段21と、紫外光を通過させるフィルタ22を備えて構成されている。
UV照明手段21は、紫外光を照射するLEDやレーザダイオードの他、紫外光成分の光を放出する水銀ランプやハロゲン照明などを用いることができる。フィルタ22は、励起成分の波長の光を効率よく透過しつつ、撮像部3で受光する蛍光成分の光を減衰させるものである。
より具体的には、検出対象となる異物S1が、300〜400nmの励起光が照射されると、500〜600nmの範囲内蛍光発光する場合、UV照明手段21として、ピーク波長が300〜400nmのUV−LEDを用いる。そして、フィルタ22として、300〜400nmの帯域の波長の光を通過させ、それ以外の帯域の波長の光を減衰させる、いわゆるバントパスフィルタを用いる。或いは、450nm以下の波長を透過させ、450nm以上の波長の光を減衰させる、いわゆるショートパスフィルタを用いても良い。そうすることで、後述する撮像部3での撮像の妨げとなる不要な波長の光をカットすることができる。
このような構成をしているため、励起光照射部20は、容器Wの内面に設定した検査対象領域R1に向けて励起光23を照射することができる。
撮像部3は、検査対象領域R1を撮像するものである。具体的には、撮像部3は、検査対象物である異物S1から放出される蛍光発光成分の光エネルギーを2次元画像として取得する、蛍光観察部30が備えられている。
具体的には、蛍光観察部30は、検査対象物である異物から放出される蛍光発光成分の光35に含まれる波長を受光感度に含む撮像素子31を備えた、撮像カメラ32を用いて構成することができる。さらに、蛍光観察部30は、レンズ33と、蛍光観察フィルタ34を備えて構成しておく。
レンズ33は、撮像カメラ32に検査対象領域の像を結像させるものである。
より具体的には、レンズ33は、いわゆる広角レンズと呼ばれる、画角の広いレンズを用いる。そうすることで、一度に幅広い範囲を撮像できるとともに、被写界深度が深くなり、合焦範囲が広くなる。
一方、蛍光観察フィルタ34は、励起光照射部20から照射される光23に含まれる波長を減衰させつつ、異物S1から放出される蛍光発光成分の光35に含まれる波長を透過させるものである。より具体的には、透明材料や、レンズ33の表面に、所定の膜厚のコーティングを施したものが例示できる。
より具体的には、検出対象となる異物S1が、300〜400nmの励起光が照射されると、500〜600nmの範囲内蛍光発光する場合、撮像素子31として、300〜1000nmの波長の光に感度を有するCCDやCMOSを用いる。そして、蛍光観察フィルタ34として、500〜600nmの帯域の波長の光を通過させ、それ以外の帯域の波長の光を減衰させる、いわゆるバントパスフィルタを用いる。或いは、450nm以上の波長の光を透過させ、450nm以下の波長の光を減衰させる、いわゆるロングパスフィルタを用いても良い。
相対移動部5は、撮像部3を検査対象領域R1に対して相対移動させるものである。
具体的には、相対移動部5は、撮像部3を上下(Z)方向に移動させる昇降機構や、撮像部を水平(X及び/又はY)方向に移動させる移動機構や、撮像部3を水平方向又は上下方向に(つまり、X軸、Y軸及び/又はZ軸周りに)回転移動(いわゆる、パンやチルト)させる回転機構を備えて構成することができる。
より具体的には、相対移動部5は、ボールスプライン軸受を備えたアクチュエータを用いて構成することができる。この構成であれば、アクチュエータ側に撮像部3を取り付け、容器Wを固定状態とし、撮像部3を上下(Z)方向に移動させたり、Z軸周りに回転させたりできる。或いは、別の構成として、撮像部3側を固定しておき、容器Wを上下(Z)方向に移動させる昇降機能と、容器WをZ軸周りに回転させる回転機構を備えた構成としても良い。また、撮像部3、相対移動部5、容器Wを水平(XY)方向に移動させる移動機構としては、水平(X及び/又はY)方向に延びるガイドレールと、ガイドレール上を移動するスライダーと、スライダーを所定の速度で移動させ所定の位置で静止させるスライダー駆動機構とを備えた構成とする。
この様な構成をしているので、相対移動部5は、撮像部3を、第1撮像位置に移動させて静止させ、さらに第1撮像位置とは異なる第2撮像位置やさらに別の撮像位置へ移動させて静止させることができる。
相対位置検出部6は、撮像部3と検査対象領域R1との相対位置を検出するものである。具体的には、相対位置検出部6は、相対移動部5の可動部及び固定部に取り付けられた位置検出器(いわゆる、エンコーダ)を備えて構成することができ、現在位置情報や移動量に応じた信号やデータを外部に出力するものである。なお、相対移動する方向が1方向であれば、その方向の現在位置や移動量を出力し、他の方向については予め測定した値を設定しておく。より具体的には、相対位置検出部6としては、レーザ測長器、直動部に取り付けられたリニアエンコーダ、回転駆動用モータに取り付けられたロータリエンコーダなどが例示できる。また、相対位置検出部6は、上述のようなフルクローズドループ系又はセミクローズドループ系の位置検出部のみならず、ステッピングモータなどを用いたオープンループの制御系の場合であれば、移動のための指令パルスをカウントし、相対位置を出力する形態であっても良い。
図2は、本発明の一実施形態における検査装置の構成の要部を模式的に示した図である。図2(a)は、撮像部3を用いて容器Wの側板内面Wsを観察している様子を示している。
より具体的には、第1撮像位置にある撮像部3が、基準位置から上下方向に距離CZ1のところにあり、検査対象領域R1を撮像している。一方、第2撮像位置にある撮像部3nが、基準位置から上下方向に距離CZ2のところにあり、検査対象領域R2を撮像している。この場合、相対位置検出部6は、これらの距離CZ1,CZ2を現在位置情報として出力する。或いは、相対移動量dYcを出力しても良い。なお、図示した形態の場合、相対移動方向はZ方向のため、X,Y方向については予め測定した値を設定しておく。
図2(b)は、第1撮像位置で側板内面Wsを撮像した画像イメージであり、図2(a)に実線で示した撮像部3の位置で側板内面Wsを撮像したものである。このとき、撮像した画像の撮像フレーム37内には、実像S1と側板内面に写り込んだ虚像F1pが写っている。そして、実像S1はCy方向にLY11の位置、写り込んだ虚像F1pはCy方向にLY21の位置に写っている。
図2(c)は、第2撮像位置で側板内面Wsを撮像した画像イメージであり、図2(a)に破線で示した第2撮像位置にある撮像部3nで側板内面Wsを撮像したものである。このとき、撮像した画像の撮像フレーム37内には、実像S1と側板内面に映り込んだ虚像F1pが写っている。そして、実像S1はCy方向にLY12の位置、写り込んだ虚像F1pはCy方向にLY22の位置に写っている。
なお、撮像フレーム37,37nのCx方向は、撮像カメラ30の水平方向に対応しており、図2(a)におけるY方向(つまり、紙面奥方向)と対応している。一方、撮像フレーム37,37nのCy方向は、撮像カメラ30の垂直方向に対応しており、図2(a)におけるZ方向と対応している。
異物候補検出部7は、撮像部3で撮像し取得した画像情報に基づいて検査対象領域R1,R2内の異物候補を検出するものである。さらに、異物候補検出部7は、検査対象領域R1,R2について、第1撮像位置と、第1撮像位置とは異なる第2撮像位置の、少なくとも2カ所の撮像位置で撮像し取得した複数の画像情報について個別に異物候補を検出するものである。
具体的には、異物候補検出部7は、いわゆる画像処理装置と呼ばれるハードウエアと、その実行プログラム(ソフトウェア)とを備えた、画像処理部4の一部として構成することができる。
そして、異物候補検出部7は、第1撮像位置で撮像した画像に含まれる、1つ又は複数の輝点を抽出し、この輝点又はこれらの輝点が、撮像カメラ の視野内のどの部分に存在するか、座標を取得する。つまり、異物候補検出部7は、図2(b)に示す様な実像S1と映り込んだ虚像F1pの輝点を抽出し、異物候補として検出する。このとき、検出した異物候補については、これら異物候補の横方向の位置LX11,LX21の座標及びCy方向の位置LY11,LY21の座標を異物候補の位置情報も併せて取得する。
同様に、異物候補検出部7は、第2撮像位置で撮像した画像に含まれる、1つ又は複数の輝点を抽出し、この輝点又はこれらの輝点が、撮像カメラ の視野内のどの部分に存在するか、座標を取得する。つまり、異物候補検出部7は、図2(c)に示す様な実像S1と映り込んだ虚像F1pの輝点を抽出し、異物候補として検出する。このとき、検出した異物候補については、これら異物候補の横方向の位置LX12,LX22の座標及びCy方向の位置LY12,LY22の座標を異物候補の位置情報も併せて取得する。
実像検出部8は、複数の画像情報に含まれる異物候補の位置情報と、第1撮像位置における撮像部の撮像条件情報と、第2撮像位置における撮像部の撮像条件情報とに基づいて、異物候補検出部で検出された個別の異物候補の中から実像を判別するものである。
具体的には、実像検出部8は、いわゆる画像処理装置と呼ばれるハードウエアと、その実行プログラム(ソフトウェア)とを備えた、画像処理部4の一部として構成することができる。
より具体的には、図2に示す形態の場合、複数の画像情報に含まれる異物候補の位置情報として、異物候補検出部7で検出した異物候補の各位置LX11,LX21,LX12,LX22の座標データを取得する。
そして、第1撮像位置における撮像部3(つまり、蛍光撮像部30)の撮像条件情報として、相対位置検出部6で取得した距離CZ1と、予め登録しておいた撮像素子31の画素数や画素ピッチ、レンズ33の画角や観察倍率、ワーキングディスタンスや撮像方向、その他撮像条件に関するパラメータなどを用い、距離CZ1に対応する撮像フレーム37内での移動方向と移動距離を算出する。
同様に、第2撮像位置における撮像部3n(つまり、蛍光撮像部30n)の撮像条件情報は、相対位置検出部6で取得した距離CZ2と、予め登録しておいた撮像素子31の画素数や画素ピッチ、レンズ33の画角や観察倍率、ワーキングディスタンスや撮像方向、その他撮像条件に関するパラメータなどを用い、距離CZ2に対応する撮像フレーム37n内での移動方向と移動距離を算出する。
なお、これら撮像条件情報には、検査対象領域の座標系と、撮像した画像情報の座標系との紐付けに必要な情報やパラメータが含まれている。
そして、図2に示す形態では、撮像部3は水平(XY)方向には移動していないので、LX11とLX12とは同じ値であり、LX21とLX22とは同じ値である。
一方、撮像部3は上下(Z)方向に相対移動しているので、相対移動部5で相対移動させた相対移動量dYcに対応する移動量分だけ、実像S1の位置がLY11からLY12に移動する。つまり、実像検出部8は、LY11とLY12との差分が、相対移動量dYcに対応した値と同じか、同じと見なせる程度の許容範囲内であれば、その輝点を実像と判別する。しかし、映り込んだ虚像F1pの位置については、LY21からLY22に移動するが、LY21とLY22との差分が相対移動量dYcに対応した値よりも小さい。そのため、実像検出部8は、このような輝点については実像と判別しない。
なお、容器の内面の反射率が高い場合であれば、複数の内面で多重反射を起こしてしまい、複数の虚像が撮像される。しかし、各内面について、実像の位置を決定し、その実像の位置に基づいて、各内面に存在する虚像候補の位置を算出し、当該虚像候補の位置については、実像の多重反射をも含めることで、虚像判定が確実に行える。
一方、容器の内面の反射率が低い場合であっても、材料表面は少なからず光を反射するため、小さいながらも虚像候補が観察される。そのため、微小な実像についても精度良く検出することができるようになり、好ましい。つまり、従来技術では、虚像を検出しないようにフィルタリング処理が施されていたが、当該フィルタリング処理を施すことで、微小な実像はフィルタリング処理されてしまい、精度良く検出できなかった。しかし、本発明を適用することで、実像の大小を問わず、精度良く検出できる。
この様な構成をしているので、容器内面の検査装置1は、容器の内面に付着した異物の検査(つまり、異物の有無を判定したり、異物の個数をカウントしたり、異物の大きさ、面積、体積、量などを測定したりすること)をする際に、実像と虚像を精度良く判別でき、誤検出を減らすことができる。
[別の実施形態]
図3は、本発明の別の一実施形態における検査装置の構成全体を模式的に示した図である。本発明を具現化する上では、上記検査装置1の構成に加えて、虚像位置推定部9Aと、虚像判定部9Bとを備えた、検査装置1Bの様な構成としても良い。
虚像位置推定部9Aは、実像検出部8で検出された実像の位置情報に基づいて、当該実像に対応する虚像の推定位置を算出するものである。虚像判定部9Bは、異物候補検出部7で検出された異物候補のうち、実像検出部8で実像と判別されたもの以外の虚像候補について、前記虚像位置推定部9Aで算出された前記実像に対応する虚像の推定位置に存在すれば、当該虚像候補を虚像と判定するものである。
具体的には、第1撮像位置における撮像部3(つまり、蛍光撮像部30)及び第2撮像位置における撮像部3n(つまり、蛍光撮像部30n)の撮像条件情報、相対位置検出部6で取得した距離CZ1,CZ2と、予め登録しておいた撮像素子31の画素数や画素ピッチ、レンズ33の画角や観察倍率、ワーキングディスタンスや撮像方向、その他撮像条件に関するパラメータなどを用いて、異物候補検出部7で検出された異物候補について、先ず、実像検出部8で実像を判定する。これは、検査対象領域にある全ての異物候補に対して行われる。また、検査対象領域が複数あり、容器内面全てに及んでいれば、全ての検査対象領域(つまり、容器内内全て)に対して実像判定が行われる。
そして、実像であると判定された異物候補は、実像としてラベリングされる。そして、これら実像としてラベリングされたものは、虚像位置推定部9Aにおいて、各実像の位置情報に基づいて、当該実像に対応する虚像の推定位置が算出される。
そして、異物候補検出部7で検出された異物候補のうち、実像検出部8で実像と判定されたもの以外のもの(つまり、虚像候補)については、虚像判定部9Bにおいて、虚像位置推定部9Aで算出された虚像の推定位置と比較・照合され、当該虚像の推定位置に存在していれば、当該虚像候補を虚像と判定される。なお、当該虚像の推定位置に存在しているかどうかの判定については、実像の撮像、位置取得、虚像位置の推定のための演算処理等で生じる誤差を考慮し、同一の位置に存在するかどうかに限らず、同一の位置と見なせる程度の許容範囲内に存在するかどうかで判定しても良い。
なお、虚像位置推定部9Aと虚像判定部9Bは、いわゆる画像処理装置と呼ばれるハードウエアと、その実行プログラム(ソフトウェア)とを備えた、画像処理部4の一部として構成することができる。
この様な構成をしているので、検査装置1Bは、実像と判定され無かったものについて、確かに虚像であったという信憑性を高めることができる。
[別の実施形態]
本発明を具現化する上では、上記検査装置1Bの構成に加えて、実像位置推定部9Cと実像位置検証部9D(図3にて破線で示す)とを備えた、検査装置1Cの様な構成としても良い。
実像位置推定部9Cは、異物候補検出部7で検出された異物候補のうち、実像検出部8で実像と判別されたもの以外の虚像候補の位置情報に基づいて、当該虚像候補に対応する実像の推定位置を算出するものである。実像位置検証部9Dは、実像検出部8で検出された実像が、実像位置推定部9Cで算出された虚像候補に対応する実像の推定位置に存在するかどうかを検証するものである。
具体的には、第1撮像位置における撮像部3(つまり、蛍光撮像部30)及び第2撮像位置における撮像部3n(つまり、蛍光撮像部30n)の撮像条件情報、相対位置検出部6で取得した距離CZ1,CZ2と、予め登録しておいた撮像素子31の画素数や画素ピッチ、レンズ33の画角や観察倍率、ワーキングディスタンスや撮像方向、その他撮像条件に関するパラメータなどを用いて、異物候補検出部7で検出された異物候補のうち、実像検出部8で実像と判定されたもの以外は、ひとまず虚像候補としてラベリングされる。これは、検査対象領域にある全ての異物候補に対して行われる。なお、検査対象領域が複数ある場合も同様である。
そして、これら虚像候補としてラベリングされたものは、実像位置推定部9Cにおいて、各虚像候補の位置情報に基づいて、当該虚像候補に対応する実像の推定位置が算出される。
そして、異物候補検出部7で検出された異物候補のうち、実像検出部8で実像と判定されたものについては、実像位置検証部9Dにおいて、実像位置推定部9Cで算出された実像の推定位置と比較・照合され、当該実像の推定位置に存在するかどうか検証される。なお、当該実像の推定位置に存在しているかどうかの判定については、虚像の撮像、位置取得、実像位置の推定のための演算処理等で生じる誤差を考慮し、同一の位置に存在するかどうかに限らず、同一の位置と見なせる程度の許容範囲内に存在するかどうかで判定しても良い。
なお、実像位置推定部9Cと実像位置検証部9Dは、いわゆる画像処理装置と呼ばれるハードウエアと、その実行プログラム(ソフトウェア)とを備えた、画像処理部4の一部として構成することができる。
この様な構成をしているので、検査装置1Cは、実像と判定されたものについて、確実に実像であるという信憑性を高めることができる。
[別の実施形態]
本発明を具現化する上では、上記検査装置1又は1Bの構成に加えて、モデル座標登録部11と座標変換部12とを備えた、検査装置1Cの様な構成としても良い。
以下に、検査装置1Cについて具体的な構成を示す。
モデル座標登録部は、図4に示すように、ワールド座標系WXYZ上において、撮像部のカメラ視点であるカメラ座標系CXYZの位置姿勢情報と、容器内面を3Dモデルとして表現するための情報とその3Dモデルの位置姿勢情報を登録する処理を行う。
カメラ座標系とは、カメラ視点位置を座標原点として、撮像面を(x,y)、視軸をzとした3次元座標系である。画像座標系とは、撮像した画像データ面の左上端を座標原点として、画像データを(x,y)とした2次元座標系である。モデル座標系MXYZとは、容器内面を3Dモデルで表現したときの3次元座標(x,y,z)である。
モデル登録部で登録する情報について、説明する。
カメラ視点の位置姿勢情報については、例えば3次元位置センサでワールド座標系上のカメラの位置と姿勢を計測できるものとし、3次元位置センサによって得られたカメラ視点の位置を表す3次元ベクトルをTCW(t,t,t)、姿勢を表す3×3の回転変換行列をRCWとし、カメラ座標系CXYZからワールド座標系WXYZに変換する行列をMCWとすると、カメラ座標系CXYZ上の点P(x,y,z)をワールド座標系WXYZ上の点PCW(xCW,yCW,zCW)に変換する式は、数式1の様に表すことができる。
Figure 0006499476
CWとTCWおよびRCWの関係は、数式2の様に表すことができる。
Figure 0006499476
ここで、カメラ座標系のZ軸中心の回転角をロール角r、X軸中心の回転角をピッチ角p、Y軸中心の回転角をヨー角yとすると、数式3の様に表すことができる。
Figure 0006499476
ここで、ピッチ回転、ヨー回転、ロール回転の順で回転したとすると、 回転変換行列RCWは、数式4の様に表すことができる。
Figure 0006499476
従って登録するカメラ情報は、ワールド座標系上のカメラ視点の位置を表す3次元ベクトルTCWとカメラ座標系のロール角r、ピッチ角p、ヨー角yを登録し、座標変換で使用する回転変換行列RCWを算出する。
容器内面モデルの位置姿勢情報については、容器内面を3Dモデルで表現するために必要な情報を登録しモデル座標の原点を設定する、設定した容器内面3Dモデルをワールド座標系WXYZ上での並進移動量TMW(tmx,tmy,tmz)、姿勢を表す3×3の回転変換行列をRMWとし、モデル座標系MXYZからワールド座標系WXYZに変換する行列をMMWとすると、モデル座標系MXYZ上の点P(x,y,z)をワールド座標系WXYZ上の点PMW(xMW,yMW,zMW)に変換する式は、数式5の様に表すことができる。
Figure 0006499476
つまり、数式5から、数式6の様に表すことができる。
Figure 0006499476
ここで、モデル座標系のZ軸中心の回転角をロール角α、X軸中心の回転角をピッチ角β、Y軸中心の回転角をヨー角γとすると、数式7の様に表すことができる。
Figure 0006499476
ここで、ピッチ回転、ヨー回転、ロール回転の順で回転したとすると、回転変換行列RMWは、数式8の様に表すことができる。
Figure 0006499476
登録するモデル情報は、ワールド座標系上の容器内面モデルの位置を表す3次元ベクトルTMWとモデル座標系のロール角α、ピッチ角β、ヨー角γを登録し、座標変換で使用する回転変換行列RMWを算出する。また、容器内面モデルを構成するための平面の情報を登録する。
座標変換部は、異物検出候補部で求めた画像座標重心の情報とモデル座標登録部で登録した情報を元に2次元の画像座標から3次元のワールド座標に変換し、画像の輝点位置が容器内面モデルのどの位置に該当するか算出する処理である。
図5に示すように、画像座標系からカメラ座標系に変換する方法について説明する。
撮像した時のX方向の画素数をCsx、Y方向の画素数をCsy、カメラレンズ画角を θ[deg]、カメラ視点から画像データの結像面までの視軸距離をDとすると、画像データの撮像範囲Cの式は、数式9の様に表すことができる。
Figure 0006499476
画像データの結像面のX方向の画素分解能PrxとY方向の画素分解能Pryの式は、数式10,数式11の様に表すことができる。
Figure 0006499476
Figure 0006499476
従って画像座標系からカメラ座標系に変換する式は、数式12の様に表すことができる。
Figure 0006499476
そして、上記数式1を使用して、カメラ座標系の座標PC(x,y,z)をワールド座標系PCW(x,y,z)に変換する。
図6に示すように、カメラ視点の位置を表す3次元ベクトルTcw(t,t,t)からワールド座標PCW(x,y,z)を結んだ視線ベクトルV(VVX,VVY,VVZ)の式は、数式13の様に表すことができる。
Figure 0006499476
次に視線ベクトル(VVX,VVY,VVZ)のベクトル長VLと、VLで除算した単位ベクトルVE(VEVX,VEVY,VEVZ)の計算式は、数式14の様に表すことができる。
Figure 0006499476
次に前記で登録した容器内面モデルをワールド座標に配置したときの内面に該当する平面と単位視線ベクトルVEの交点P(P,P,P)を求める。ワールド座標に配置された容器内面モデルのある一面を構成するコーナー4点の座標をP(P0X,P0Y,P0Z)、P(P1X,P1Y,P1Z)、P(P2X,P2Y,P2Z)、P(P3X,P3Y,P3Z)とし、その平面の法線ベクトルNとすると、単位視線ベクトルVEの交点Pの関係は、数式15の様に表すことができる。
Figure 0006499476
そして、数式15から交点Pを求める式は、数式16の様に表すことができる。
Figure 0006499476
次に交点Pが容器内面にあるかどうかの判定は、図7に示すように、平面の各辺をベクトルとしてみた場合、交点Pは各辺の左側に位置するので、以下の数式17で判定を行う。
Figure 0006499476
上述の様に求めた交点Pは、ワールド座標上の位置なので、数式6の逆行列MMW −1を求めて、ワールド座標の交点Pをモデル座標に変換して容器内面の交点PM(PMX,PMY,PMZ)を異物候補とする。つまり、数式18の様に表すことができる。
Figure 0006499476
実像検出部8は、座標変換部で座標変換を行った後の第1撮像位置の異物候補の容器内面位置と第2撮像位置の異物候補の容器内面位置を照合して実像判定処理を行う。
異物(実像)は容器内面での位置は変化しないため、第1撮像位置での異物候補の容器内面位置と第2撮像位置の異物候補の容器内面位置が一致もしくは位置ズレ量が指定値以下の場合、このときの異物候補を異物(実像)として判定する。
虚像判定部は、容器内面が鏡面反射するものと考え、カメラ視点から反射像と実像検出部8で判定した異物(実像)を結ぶ光路を計算し、計算した反射像の位置と異物候補の位置が一致もしくは位置ズレ量が指定値以下の場合、このときの異物候補を虚像と判断する。
カメラ視点から反射像と異物(実像)を結ぶ光路の計算について説明する。
図8に示すように、異物(実像)として判定したものを除外した異物候補の位置Pに対して前記で算出した単位視線ベクトルVを用いて反射視線ベクトルqを計算する。つまり、数式19の様に表すことができる。
Figure 0006499476
そして、反射視線ベクトルqと交点Qの関係は、数式20の様に表すことができ、交点Qを求める式は、数式20の様に表すことができる。
Figure 0006499476
Figure 0006499476
そして、数式21から求めた交点Qと前記で検出した異物(実像)の位置が一致もしくは位置ズレ量が指定値以下の場合、位置Pの異物候補を虚像と判定する。
この様な構成をしているので、本発明を具現化する容器内面の検査装置は、容器の内面に付着した異物を検査(つまり、異物の有無を判定したり、異物の個数をカウントしたり、異物の大きさ、面積、体積、量などを測定したり)する際に、実像と虚像を精度良く判別でき、誤検出を減らすことができる。
[別の実施形態]
なお、上述の説明では、照明光照射部2は、異物S1を蛍光発光させるための励起光23として、紫外光領域の光を照射する励起光照射部20を備えた構成を例示した。一方、撮像部3は、励起光23の波長成分を減衰させ、異物から放出された蛍光発光の波長成分を通過させる、蛍光観察フィルタ34が備えられた蛍光観察部30を備えた構成を例示した。
この様な構成をしていれば、容器Wの内面の反射率が高くても、照明光によるハレーションの発生を防ぎつつ、実像と虚像の各輝点を撮像することができる。そして、撮像部3で実像の輝点と虚像の輝点を正しく撮像した上で、実像の判別処理が行われるので、好ましい実施形態と言える。なお、ここで言う、反射率の高い材料とは、ステンレス、鉄、アルミ、ニッケル、銅、銀、金若しくは他の金属、又はそれらの化合物、並びに、樹脂等であって、圧延加工、切削加工、鏡面加工、平滑化、表面処理などが施されたものが例示でき、入射した光のうち、拡散・吸収する光の成分よりも、反射する光の成分の方が大きいものを言う。
なお、検査対象となる異物S1が所望の明るさで蛍光発光をしない場合や、異物S1や検査対象領域に向けて、紫外光や赤外光などの励起光を照射したくない場合などがある。この様な場合は、照明光照射部2から照射される照明光の照射方向や拡散板の配置を工夫するなどして、照明光によるハレーションが発生しない様にしたり、撮像部3で実像の輝点と虚像の輝点とを正しく撮像できる程度にハレーションの発生を抑制したりすれば、上述の構成に限定されない。つまり、照明光照射部2は、撮像部3における感度波長と同じ帯域若しくはオーバーラップする帯域の光(例えば、白色照明などの可視光、可視光領域内の特定帯域の単色光、紫外領域の光又は近赤外領域の光など)が照射される構成としても良い。さらに、撮像部3は、蛍光観察フィルタ34を備えていない構成としても良い。
また、上記実施形態では、照明光照射部2及び撮像部3を、容器W内に配置したが、容器Wの天板内面Wtを検査する場合には、照明光照射部2及び撮像部3を、容器Wの外に配置することもある。あるいは、容器Wの底板内面Wbや、容器Wの側板内面Ws1〜Ws4全体を検出する場合には、照明光照射部2及び撮像部3を、容器Wの上方に配置してもよい。
また、上記実施形態では、容器Wの各内面を、励起光の照射によって蛍光を発光しない材料で構成するようにしたが、これに限らず、励起光の照射によって僅かな蛍光を光する材料で構成していても、本発明の効果は発揮される。また、異物は、励起光の照
射によって強く蛍光を発光する材料ほど、本発明の効果をより発揮する。
1 検査装置
1B 検査装置
2 照明光照射部
3 撮像部
3n 第2撮像位置にある撮像部
4 検査部
5 相対移動部
6 相対位置検出部
7 異物候補検出部
8 実像検出部
9A 虚像位置推定部
9B 虚像判定部
9C 実像位置推定部
9D 実像位置検証部
19z 表示器
20 励起光照射部
21 UV照明手段
22 フィルタ(紫外光通過)
23 励起光
30 蛍光観察部
31 撮像素子
32 撮像カメラ
33 レンズ
34 蛍光観察フィルタ
35 蛍光発光成分の光
36 画角
37 撮像フレーム
R1 検査対象領域
R2 検査対象領域
W 略直方体形の容器(容器の一類型)
Ws 容器Wの側板内面
Wb 容器Wの底板内面
Wt 容器Wの天板内面
S1 異物
S2 異物
F1 虚像
F1p 写り込んだ虚像

Claims (5)

  1. 内側空間を有する物体の内面に付着した異物を検査する検査装置であって、
    前記物体の内面に設定した検査対象領域に向けて光を照射する照明光照射部と、
    前記検査対象領域を撮像する撮像部と、
    前記撮像部を前記検査対象領域に対して相対移動させる相対移動部と、
    前記撮像部と前記検査対象領域との相対位置を検出する相対位置検出部と、
    前記検査対象領域について、第1撮像位置と、前記第1撮像位置とは異なる第2撮像位置の、少なくとも2カ所の撮像位置で撮像し取得した複数の画像情報について個別に異物候補を検出する異物候補検出部と、
    前記複数の画像情報に含まれる異物候補の位置情報と、前記第1撮像位置における前記撮像部の撮像条件情報と、前記第2撮像位置における前記撮像部の撮像条件情報とに基づいて、前記異物候補検出部で検出された個別の異物候補の中から実像を判別する実像検出部とを備えた、検査装置。
  2. 前記実像検出部で検出された実像の位置情報に基づいて、当該実像に対応する虚像の推定位置を算出する虚像位置推定部と、
    前記異物候補検出部で検出された異物候補のうち、前記実像検出部で実像と判別されたもの以外の虚像候補について、前記虚像位置推定部で算出された前記実像に対応する虚像の推定位置に存在すれば、当該虚像候補を虚像と判定する、虚像判定部と
    をさらに備えた、請求項1に記載の検査装置。
  3. 前記異物候補検出部で検出された異物候補のうち、前記実像検出部で実像と判別されたもの以外の虚像候補の位置情報に基づいて、当該虚像候補に対応する実像の推定位置を算出する実像位置推定部と、
    前記実像検出部で検出された実像が、前記実像位置推定部で算出された前記虚像候補に対応する実像の推定位置に存在するかどうかを検証する、実像位置検証部と
    をさらに備えた、請求項2に記載の検査装置。
  4. 前記第1撮像位置における前記撮像部の撮像条件情報と、
    前記第2撮像位置における前記撮像部の撮像条件情報と、
    前記物体の内面の形状情報とを、3次元情報のモデル座標系で定義し登録しておく、モデル座標登録部を備え、
    前記撮像部で撮像し取得される画像情報は、2次元情報であり、
    当該2次元情報の前記画像情報を3次元情報のワールド座標系に座標変換し、前記3次元情報のモデル座標系をワールド座標系に座標変換する座標変換部をさらに備え、
    前記異物候補検出部は、ワールド座標系に変換された位置情報に基づいて、前記異物候補の位置情報を取得することを特徴とする、請求項1に記載の検査装置。
  5. 前記照明光照射部には、前記異物を蛍光発光させるための励起光を照射する励起光照射部を備え、
    前記撮像部には、前記励起光の波長成分を減衰させ、前記異物から放出された蛍光発光の波長成分を通過させる、蛍光観察フィルタを備えた
    ことを特徴とする、請求項1〜4のいずれかに記載の検査装置。
JP2015038163A 2015-02-27 2015-02-27 検査装置 Active JP6499476B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015038163A JP6499476B2 (ja) 2015-02-27 2015-02-27 検査装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015038163A JP6499476B2 (ja) 2015-02-27 2015-02-27 検査装置

Publications (2)

Publication Number Publication Date
JP2016161321A JP2016161321A (ja) 2016-09-05
JP6499476B2 true JP6499476B2 (ja) 2019-04-10

Family

ID=56846753

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015038163A Active JP6499476B2 (ja) 2015-02-27 2015-02-27 検査装置

Country Status (1)

Country Link
JP (1) JP6499476B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101866181B1 (ko) * 2016-11-04 2018-06-11 (주)아모레퍼시픽 용기 내부의 이물질 검사 장치
JP7506565B2 (ja) * 2020-09-14 2024-06-26 株式会社Screenホールディングス 画像処理装置、検査装置およびプログラム
CN112461863B (zh) * 2020-11-17 2024-09-13 上海探见智能家居有限公司 一种玻璃窗破损检测及定位方法
CN113466245A (zh) * 2021-06-30 2021-10-01 浙江庚星科技有限公司 网箱破网查漏方法
CN117367344A (zh) * 2023-09-14 2024-01-09 深圳市汇天益电子有限公司 基于红外无损检测技术的涂层厚度测量系统及方法
CN117647536A (zh) * 2023-11-29 2024-03-05 无锡理奇智能装备有限公司 容器内部残留识别系统及识别方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2769797B2 (ja) * 1995-03-15 1998-06-25 東洋ガラス株式会社 透明物体中の微小欠陥検出方法
JP3591080B2 (ja) * 1995-09-20 2004-11-17 株式会社デンソー 筒内面観察装置
JPH09297006A (ja) * 1996-03-04 1997-11-18 Omron Corp 位置ずれ検出装置
WO2006057125A1 (ja) * 2004-11-24 2006-06-01 Asahi Glass Company, Limited 透明板状体の欠陥検査方法および装置
JP5405899B2 (ja) * 2009-05-21 2014-02-05 本田技研工業株式会社 表面検査装置
CN102428361B (zh) * 2009-05-21 2014-07-02 本田技研工业株式会社 表面检查装置
JP2014020969A (ja) * 2012-07-19 2014-02-03 Keihin Corp 平面度および異物検査装置
KR101828536B1 (ko) * 2013-04-11 2018-02-12 한화테크윈 주식회사 패널 검사 방법 및 장치

Also Published As

Publication number Publication date
JP2016161321A (ja) 2016-09-05

Similar Documents

Publication Publication Date Title
JP6499476B2 (ja) 検査装置
US11049237B2 (en) Method and device for optical examination of transparent bodies
TWI582408B (zh) 用於非破壞性檢測-流體中未溶解粒子之方法及裝置
JP6040930B2 (ja) 表面欠陥検出方法及び表面欠陥検出装置
US20180321161A1 (en) Three-dimensional object inspecting device
KR100894684B1 (ko) 영상 측정장치 및 레이저 깊이 측정장치를 이용한 금속판재표면결함 검사 장치 및 금속판재 표면결함 검사 방법
JP5728699B2 (ja) 表面検査装置、表面検査方法および表面検査プログラム
JPH11281337A (ja) 欠陥検査装置
JP2012026858A (ja) 円筒容器の内周面検査装置
US9417196B2 (en) X-ray diffraction based crystal centering method using an active pixel array sensor in rolling shutter mode
JP6149990B2 (ja) 表面欠陥検出方法及び表面欠陥検出装置
JP2023506778A (ja) レーザを利用した内包異物検出システム及び方法
Haitz et al. Corrosion detection for industrial objects: from multi-sensor system to 5D feature space
JP6627389B2 (ja) 傷検出方法および傷検出装置
JP2769797B2 (ja) 透明物体中の微小欠陥検出方法
JP2011191253A (ja) レーザ形状認識センサ及び計測装置
JP5367292B2 (ja) 表面検査装置および表面検査方法
JP5231779B2 (ja) 外観検査装置
JP2020118572A (ja) 表面欠陥検査装置及び表面欠陥検査方法
Bahr et al. Continuous digitalization of rotationally symmetrical components with a lateral scanning white light interferometer
JP2008191017A (ja) 板状体の欠陥検出方法
KR102684368B1 (ko) 표면 결함 판별 장치, 외관 검사 장치 및 프로그램
JP2010129800A (ja) 干渉光学系撮像画像を用いた干渉縞によるアライメントマーク検出方法およびそれを用いた装置
JP2016075485A (ja) 検査装置および加工検査システム
JP3201297B2 (ja) コイル位置検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180912

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181025

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190315

R150 Certificate of patent or registration of utility model

Ref document number: 6499476

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250