JP7186019B2 - 三次元形状計測装置及び三次元形状計測方法 - Google Patents
三次元形状計測装置及び三次元形状計測方法 Download PDFInfo
- Publication number
- JP7186019B2 JP7186019B2 JP2018110420A JP2018110420A JP7186019B2 JP 7186019 B2 JP7186019 B2 JP 7186019B2 JP 2018110420 A JP2018110420 A JP 2018110420A JP 2018110420 A JP2018110420 A JP 2018110420A JP 7186019 B2 JP7186019 B2 JP 7186019B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- projected
- unit
- projection
- pixel position
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/254—Projection of a pattern, viewing through a pattern, e.g. moiré
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Optics & Photonics (AREA)
- Quality & Reliability (AREA)
- Geometry (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
[三次元形状計測装置100の概要]
図1(a)~(c)は、本実施形態に係る三次元形状計測装置100の概要について説明するための図である。図1(a)は、三次元形状計測装置100の構成を示している。三次元形状計測装置100は、投影部1と、撮影部2と、制御部3とを有する。
図4は、投影制御部301が投影する投影画像の種類の例を示す図である。図4における黒色の領域は、投影部1が光を投影しない領域(以下、「非投影領域」という)を示しており、白色の領域は、投影部1が光を投影する領域(以下、「光投影領域」という)を示している。
不良画素検出部304は、多重反射による撮影画像の不良画素を検出する。具体的には、不良画素検出部304は、特徴量特定部303が特定した特徴量が所定の範囲内であるか否かを判定することにより、不良画素を検出する。不良画素とは、多重反射の影響により、直接反射光による輝度とは異なる輝度を示す画素である。
図9は、多重反射光による撮影画像上の階調縞パターンの特徴量の変化について説明するための図である。図9を参照して、多重反射光による撮影画像上の階調縞パターンの特徴量の変化について説明する。図9(a)及び(b)は、直接光の輝度分布D及び多重反射光の輝度分布Mの変化を示すグラフである。図9の横軸は、撮影画像の階調縞パターンの幅方向の距離を示し、図9の縦軸は、輝度を示す。直接光による輝度分布Dを実線で示し、多重反射光による輝度分布Mを一点鎖線で示す。直接光及び多重反射光が合成された合成光の輝度分布Cを破線で示す。
図10は、撮像画像に基いて特徴量(波形歪)を算出する方法について説明するための図である。図10の縦軸は、図5(a)~(d)の階調縞パターンを測定対象物に投影した状態で得られた撮像画像における、同一画素の輝度を示している。図10の横軸は、図5(a)~(d)の階調縞パターンに対応する位相を示している。図10の各黒丸は、それぞれ図5(a)~(d)の階調縞パターンを測定対象物に順次投影した場合における同一の画素の輝度の観測値に対応している。図10の破線は、各黒丸で示される観測値にフィットさせた正弦波を示している。各黒丸に対応する輝度と同一位相における正弦波の輝度との差は、観測値の理想値からの偏差に相当する。特徴量特定部303は、各観測値に対応する偏差を累積し、累積した偏差を振幅で正規化することにより、波形の歪みの大きさを正規化することができる。
解析部305は、撮影画像の階調縞パターンの階調情報を解析することにより、投影画像の画素と、取得部302が取得した撮影画像の画素との対応関係を特定する。対応関係は、撮影画像の画素に対応する、投影画像の画素の位置(又は座標)を示す情報により表される。撮影画像の画素Aが、投影画像における画素Bを写した画素である場合、画素Aと画素Bとは対応関係を有する。以下、投影画像の画素と撮影画像の画素との対応関係を求める方法について説明する。
図12は、三次元形状計測装置100の動作の一例を示す図である。この処理手順は、例えば、ユーザが、図示しない操作キーにより三次元形状計測装置100による測定対象物の計測を指示したときに開始される。まず、投影制御部301が、測定対象物の全体に光を投影しない基準パターン(全黒パターン)を投影し、撮影部2は、投影制御部301が当該基準パターンを投影した状態において測定対象物を撮影する。次に、投影制御部301が、測定対象物の全体に光を投影する基準パターン(全白パターン)を投影し、撮影部2は、投影部1が当該基準パターンを投影した状態において測定対象物を撮影する(S101)。
[1]第1方向に延びる縞パターンを含む2以上の投影画像を測定対象物に順次投影し、かつ、少なくとも1以上の第2方向に延びる縞パターンを含む投影画像を前記測定対象物に投影する投影部と、
前記投影部が前記測定対象物上に投影した前記縞パターンを含む撮影画像をそれぞれ生成する撮影部と、
前記撮影画像に含まれる前記縞パターンの特徴を示す特徴量を特定する特徴量特定部と、
前記特徴量特定部が前記第1方向に延びる縞パターンの前記撮影画像から特定した第1特徴量、及び前記特徴量特定部が前記第2方向に延びる縞パターンの前記撮影画像から特定した第2特徴量に基づいて、多重反射による前記撮影画像における不良画素を検出する不良画素検出部と、
前記撮影画像の画素のうち前記不良画素を除く画素と、前記投影画像の画素との対応関係を求める解析部と、
前記解析部が求めた対応関係に基づいて、前記測定対象物の三次元形状を特定する形状特定部
を備える三次元形状計測装置。
[2]前記不良画素検出部は、前記第1特徴量、及び前記第2特徴量のいずれかが所定範囲内にならない前記撮影画像における画素を前記不良画素として検出する、
[1]に記載の三次元形状計測装置。
[3]前記不良画素検出部は、前記第1特徴量と、前記第2特徴量との差が閾値以上となる前記撮影画像における画素を前記不良画素として検出する、
[1]又は[2]に記載の三次元形状計測装置。
[4]前記不良画素検出部は、前記第1特徴量が第1範囲内にならない場合に、前記撮影画像における画素を前記不良画素として検出し、かつ、前記第2特徴量が第2範囲内にならない場合に、前記撮影画像における画素を前記不良画素として検出する、
[1]から[3]のいずれか一項に記載の三次元形状計測装置。
[5]前記投影部は、前記第1方向に延びる縞パターンを含む前記2以上の投影画像として、2値画像と、正弦波状の輝度分布を有する画像とを順次投影する、
[1]から[4]のいずれか一項に記載の三次元形状計測装置。
[6]前記第1方向は、前記投影部の光軸と前記撮影部の光軸とを含む平面に対して直交する方向であり、
前記第2方向は、前記投影部の光軸と前記撮影部の光軸とを含む平面に対して平行な方向である、
[1]から[5]のいずれか一項に記載の三次元形状計測装置。
[7]前記不良画素検出部は、検出した前記不良画素から当該不良画素の両側における前記縞の1周期に相当する距離までの範囲に含まれる画素を前記不良画素として検出する、
[1]から[6]のいずれか一項に記載の三次元形状計測装置。
[8]前記投影部は、前記第1方向に延びる縞パターンを含む2以上の投影画像を前記測定対象物に第1波長の光により投影し、かつ、前記第2方向に延びる縞パターンを含む投影画像を第2波長の光により前記測定対象物に投影する、
[1]から[7]のいずれか一項に記載の三次元形状計測装置。
[9]前記投影部は、前記不良画素検出部により検出された前記不良画素の範囲が所定範囲より広い場合に、前記第1方向及び前記第2方向とはいずれも異なる方向に延びる縞パターンを含む投影画像を前記測定対象物に投影する、
[1]から[8]のいずれか一項に記載の三次元形状計測装置。
[10]前記投影部は、前記不良画素検出部が前記第1特徴量に基づいて検出した前記不良画素の範囲が基準範囲より多い場合に、第2方向に延びる縞パターンを含む前記投影画像を前記測定対象物に投影する、
[1]から[9]のいずれか一項に記載の三次元形状計測装置。
[11]前記投影部は、前記第1方向及び前記第2方向に延びる縞パターンを含む投影画像として、幅の異なる正弦波状の輝度分布を有する複数の縞パターンを含む投影画像を測定対象物に順次投影する、
[1]から[10]のいずれか一項に記載の三次元形状計測装置。
[12]第1方向に延びる縞パターンを含む2以上の投影画像を測定対象物に順次投影し、かつ、第2方向に延びる縞パターンを含む投影画像を前記測定対象物に投影する投影ステップと、
前記投影ステップにおいて前記測定対象物上に投影した前記縞パターンを含む撮影画像をそれぞれ生成する撮影ステップと、
前記撮影画像に含まれる前記縞パターンの特徴を示す特徴量を特定する特徴量特定ステップと、
前記特徴量特定ステップにおいて前記第1方向に延びる縞パターンの前記撮影画像から特定した第1特徴量、及び前記特徴量特定ステップにおいて前記第2方向に延びる縞パターンの前記撮影画像から特定した第2特徴量に基づいて、多重反射による前記撮影画像における不良画素を検出する不良画素検出ステップと、
前記撮影画像の画素のうち前記不良画素を除く画素と、前記投影画像の画素との対応関係を求める解析ステップと、
前記解析ステップにおいて求めた対応関係に基づいて、前記測定対象物の三次元形状を特定する特定ステップ
を備える三次元形状計測方法。
第1の実施形態では、不良画素検出部304が特徴量特定部303において特定した特徴量が所定の範囲内であるか否かを判定することにより、不良画素を検出する場合の例について説明した。これに対し、第2の実施形態では、画素とエピポーラ線との位置関係に基づいて、不良画素を検出する場合の例について説明する。
図13及び図14は、第2の実施形態による不良画素の検出の原理について説明するための図である。図13は、一対の撮影部により測定対象物上の測定点MPを撮影する場合の例を示す。測定点MPに対応する図13の右側の撮影部の撮影画像平面における画素の位置を撮影画素位置A1とし、同じ測定点MPに対応する左側の撮影部の撮影画像平面における画素の位置を撮影画素位置A2とする。このとき、撮影画素位置A1と撮影画素位置A2とは、2つの撮影部の位置関係に基づく一定の関係を有する。右側の撮影部の光学中心O1から撮影画素位置A1を通って測定点MPに延びる直線を左側の撮影部の撮影画像平面に投影した直線を第1エピポーラ線EL1とする。第1エピポーラ線EL1を斜め方向の破線で示す。撮影画素位置A2は、幾何学的な拘束として、撮影画像に投影された第1エピポーラ線EL1上のいずれかの位置となる。
図15は、三次元形状計測装置200の構成を示す図である。三次元形状計測装置200は、投影部1、撮影部2、制御部3及び記憶部4を有する。制御部3は、例えばCPUであり、記憶部4に記憶されたプログラムを実行することにより、投影制御部301、取得部302、線特定部501、不良画素検出部502、解析部305及び形状特定部306として機能する。図3と同一の機能ブロックについては同一の符号を付して説明を省略する。
不良画素検出部502は、投影画素位置A1´に対応する撮影部2の第1エピポーラ線として線特定部501が特定した第1エピポーラ線EL1の位置を取得する。不良画素検出部502は、撮影画素位置A2と、第1エピポーラ線EL1の位置とを比較することにより、撮影画素位置A2に到達した投影光が多重反射光か否かを判定する。より詳しくは、不良画素検出部502は、撮影画素位置A2と、第1エピポーラ線EL1との距離D1を求め、求めた距離D1を第1閾値と比較する。第1閾値は、投影光が測定対象物において1回のみ反射して撮影部2に到達した場合に生じ得る撮影画素位置A2と第1エピポーラ線EL1との距離を示す値である。
また、不良画素検出部502は、撮影画素位置A2に対応する投影部1の第2エピポーラ線として線特定部501が特定した第2エピポーラ線EL2の位置を取得する。不良画素検出部502は、投影画素位置A1´と、第2エピポーラ線EL2の位置とを比較することにより、投影画素位置A1´からの投影光が多重反射光か否かを判定する。より詳しくは、不良画素検出部502は、投影画素位置A1´と、第2エピポーラ線EL2との距離D2を求め、求めた距離D2を第2閾値と比較する。第2閾値は、撮影画素位置A2に到達した投影光が測定対象物において1回のみ反射した直接光である場合に、撮影画素位置A2と対応関係を有する投影画素位置A1´と、撮影画素位置A2に対応する第2エピポーラ線EL2との間に生じ得る距離を示す値である。
撮影部2及び投影部1は、線特定部501が特定した撮影部2の複数の第1エピポーラ線が撮影画像において交わらないように配置されていることが望ましい。また、撮影部2及び投影部1は、線特定部501が特定した投影部1の複数の第2エピポーラ線が投影画像において交わらないように配置されていることが望ましい。図17は、エピポールを説明するための図である。線特定部501が特定した撮影画像平面上の各第1エピポーラ線は、いずれもエピポールEP1を通る。また、線特定部501が特定した投影画像平面上の各第2エピポーラ線は、いずれもエピポールEP2を通る。
不良画素検出部502は、投影画像の1つの投影画素位置が線特定部501において特定した撮影部2の第1エピポーラ線上の複数の撮影画素位置に対応すると解析部305が推定した場合に、当該同一の投影画素位置に対応する複数の撮影画素位置の少なくともいずれかの画素を不良画素として検出する。図18は、不良画素検出部502によるエピポーラ線上の不良画素の検出について説明するための図である。
不良画素検出部304は、図2(a)に示した縦パターン及び図2(b)に示した横パターンを用いて不良画素を検出することが好ましい。不良画素検出部304は、例えば、投影画像が投影された測定対象物の撮影画像において第1方向に延びる縞パターンを用いて測定した際に不良画素を検出できなかった場合に、投影画像が投影される測定対象物の撮影画像において第1方向と直交する第2方向に延びる縞パターンを用いて測定する。不良画素検出部304は、第2方向に延びる縞パターンの画素の位相や画素間の位相変化量が、多重反射を起こさない平面などの測定対象物に同じ投影画像を投影した場合に比べて、基準値を超えて異なっている場合に、位相や位相変化量が異なっている画素を不良画素として検出する。図19は、第2方向に延びる縞パターン投影時の不良画素検出部304による不良画素の検出方法について説明するための図である。
不良画素検出部502は、解析部305が推定した対応関係を修正することを解析部305に指示してもよい。不良画素検出部502は、例えば、投影画素位置との対応関係を有すると解析部305が推定した撮影画素位置と、この投影画素位置に対応する第1エピポーラ線との距離が第1閾値以下であることを検出した場合に、当該撮影画素位置に最も近い第1エピポーラ線上の位置が投影画素位置と対応関係を有すると推定するように解析部305に指示する。図20は、不良画素検出部502による対応関係の修正方法を説明するための図である。
図21は、第2の実施形態における三次元形状計測装置200の動作の一例を示す図である。この処理手順は、例えば、ユーザが、図示しない操作キーにより三次元形状計測装置200による測定対象物の計測を指示したときに開始される。図21のステップS101~S105の処理手順については、図12のステップS101~S105の処理手順と同一であるため、説明を省略する。
第1及び第2の実施形態では、投影制御部301が、縦方向および横方向の投影パターンとして、空間コード化法及び位相シフト法用の投影パターンをそれぞれ投影するものであった。すなわち、投影制御部301が、正弦波状の輝度分布を示す縞パターンとして、第1方向に延びる縞パターンを有する投影画像と、第2方向に延びる縞パターンを有する投影画像とを測定対象物にそれぞれ投影した。また、投影制御部301が、2値縞パターンとして、第1方向に延びる縞パターンを有する投影画像と、第2方向に延びる縞パターンを有する投影画像とを測定対象物にそれぞれ投影した。
と書け、複数の候補を挙げることができる。撮影画素位置と対応関係を有する投影画素位置については、以下の式に示すように、複数の候補が存在する。ip及びjp(m)は、それぞれ第2方向に左端からip番目、第1方向に上端からjp(m)番目の画素であることを示す。
2 撮影部
3 制御部
4 記憶部
21 レンズ
22 撮像素子
100,200 三次元形状計測装置
301 投影制御部
302 取得部
303 特徴量特定部
304,502 不良画素検出部
305 解析部
306 形状特定部
501 線特定部
Claims (21)
- 正弦波状の輝度分布を有する縞パターンを含む投影画像を測定対象物に投影することにより、前記測定対象物の三次元形状を計測する三次元形状計測装置において、
前記測定対象物に前記投影画像を投影する投影部と、
前記投影画像が投影された前記測定対象物の撮影画像を生成する撮影部と、
前記撮影画像において投影された縞パターンの階調情報を解析することにより、前記投影画像の画素の位置である投影画素位置と、前記撮影画像の画素の位置である撮影画素位置との対応関係を求める解析部と、
前記投影画素位置に対応する前記撮影部の第1エピポーラ線を特定する線特定部と、
前記撮影画素位置と、当該撮影画素位置と対応関係を有する投影画素位置に対応する前記第1エピポーラ線との距離が閾値より大きい場合に、当該撮影画素位置又は当該投影画素位置の画素を不良画素として検出する不良画素検出部と、
前記解析部が求めた前記対応関係のうち、前記不良画素検出部が検出した不良画素の位置を除く画素位置の対応関係に基づいて、前記測定対象物の三次元形状を特定する形状特定部と、
を備え、
前記撮影部及び前記投影部は、前記線特定部が特定した前記撮影部の複数の前記第1エピポーラ線が前記撮影画像において交わらず、前記撮影画像の外で交わるように配置されている、
三次元形状計測装置。 - 正弦波状の輝度分布を有する縞パターンを含む投影画像を測定対象物に投影することにより、前記測定対象物の三次元形状を計測する三次元形状計測装置において、
前記測定対象物に前記投影画像を投影する投影部と、
前記投影画像が投影された前記測定対象物の撮影画像を生成する撮影部と、
前記撮影画像において投影された縞パターンの階調情報を解析することにより、前記投影画像の画素の位置である投影画素位置と、前記撮影画像の画素の位置である撮影画素位置との対応関係を求める解析部と、
前記撮影画素位置に対応する前記投影部の第2エピポーラ線を特定する線特定部と、
前記投影画素位置と、当該投影画素位置と対応関係を有する撮影画素位置に対応する前記第2エピポーラ線との距離が閾値より大きい場合に、当該撮影画素位置又は当該投影画素位置の画素を不良画素として検出する不良画素検出部と、
前記解析部が求めた前記対応関係のうち、前記不良画素検出部が検出した不良画素の位置を除く画素位置の対応関係に基づいて、前記測定対象物の三次元形状を特定する形状特定部と、
を備え、
前記撮影部及び前記投影部は、前記線特定部が特定した前記投影部の複数の前記第2エピポーラ線が前記投影画像において交わらず、前記撮影画像の外で交わるように配置されている、
三次元形状計測装置。 - 前記解析部は、前記撮影画素位置と、当該撮影画素位置と対応関係を有する投影画素位置に対応する前記第1エピポーラ線との距離が閾値以下である場合に、当該撮影画素位置に最も近い前記第1エピポーラ線上の位置が、前記投影画素位置と対応関係を有すると推定する、
請求項1に記載の三次元形状計測装置。 - 前記投影部は、前記投影画像に含まれる複数の画素のうち、前記不良画素検出部が検出した不良画素を除く画素を含む投影画像を前記測定対象物に投影し、
前記解析部は、前記投影部が投影した前記不良画素を除く投影画像の前記投影画素位置と、前記不良画素を除く投影画像が投影された前記測定対象物の撮影画像の前記撮影画素位置との対応関係を推定する、
請求項1から3のいずれか一項に記載の三次元形状計測装置。 - 前記投影部は、前記投影画像に含まれる複数の画素のうち、前記不良画素検出部が検出した不良画素を含む画像を前記測定対象物に投影し、
前記解析部は、前記投影部が投影した前記不良画素を含む画像の前記投影画素位置と、前記不良画素を含む画像が投影された前記測定対象物の撮影画像の前記撮影画素位置との対応関係を推定する、
請求項1から4のいずれか一項に記載の三次元形状計測装置。 - 前記不良画素検出部は、前記投影画像の1つの前記投影画素位置が、複数の前記撮影画素位置に対応すると前記解析部が推定した場合に、前記1つの投影画素位置に対応する前記複数の撮影画素位置の少なくともいずれかの位置の画素を不良画素として検出する、
請求項1から5のいずれか一項に記載の三次元形状計測装置。 - 前記不良画素検出部は、前記投影画像の1つの前記投影画素位置が、前記線特定部が特定した前記撮影部の前記第1エピポーラ線上の複数の前記撮影画素位置に対応すると前記解析部が推定した場合に、当該1つの投影画素位置に対応する前記複数の撮影画素位置の少なくともいずれかの画素を不良画素として検出する、
請求項1に記載の三次元形状計測装置。 - 前記投影部は、第1方向に延びる前記縞パターンを含む投影画像と、当該第1方向とは異なる第2方向に延びる前記縞パターンを含む投影画像とを投影する、
請求項1から7のいずれか一項に記載の三次元形状計測装置。 - 前記投影部は、前記投影部の光軸と前記撮影部の光軸とを含む平面に対して平行な第2方向に延び、且つ正弦波状の輝度分布を有する前記縞パターンを含む投影画像を前記測定対象物に投影し、
前記不良画素検出部は、前記投影画像が投影された前記測定対象物の撮影画像において前記第2方向に延びる前記縞パターンの画素の位相あるいは画素間の位相変化量が、基準値を超えて変化している場合に、該当の画素を不良画素として検出する、
請求項1から8のいずれか一項に記載の三次元形状計測装置。 - 前記投影部は、2値画像の前記縞パターンを含む投影画像と、正弦波状の輝度分布を有する前記縞パターンを含む投影画像とを前記測定対象物に投影する、
請求項1から9のいずれか一項に記載の三次元形状計測装置。 - 前記投影部は、縞の周期が互いに異なる前記縞パターンを含む複数投影画像を順次投影する、
請求項1から10のいずれか一項に記載の三次元形状計測装置。 - 前記投影部は、正弦波状の輝度分布を有する前記縞パターンを投影し、
前記解析部は、前記縞パターンにおいて前記撮影画素位置と同じ位相の輝度を示す複数の画素の前記投影画素位置のうち、前記撮影画素位置に対応する前記投影部の前記第2エピポーラ線に最も近い前記投影画素位置の画素を前記撮影画素位置の画素と対応関係を有する画素と推定する、
請求項2に記載の三次元形状計測装置。 - 前記投影部は、正弦波状の輝度分布を有する前記縞パターンを投影し、
前記解析部は、前記縞パターンにおいて前記撮影画素位置と同じ位相の輝度を示す複数の画素の前記投影画素位置を特定し、特定した複数の前記投影画素位置に対応する前記撮影画像上の前記第1エピポーラ線をそれぞれ求め、前記撮影画素位置に最も近い前記第1エピポーラ線に対応する前記投影画素位置の画素を、前記撮影画素位置と対応関係を有する画素と推定する、
請求項1に記載の三次元形状計測装置。 - 前記撮影画素位置と前記第1エピポーラ線との距離の統計量が許容値を超える場合に、前記投影部及び前記撮影部のアラインメント状態が適正でないと判定する判定部をさらに備える、
請求項1に記載の三次元形状計測装置。 - 前記投影画素位置と前記第2エピポーラ線との距離の統計量が許容値を超える場合に、前記投影部及び前記撮影部のアラインメント状態が適正でないと判定する判定部をさらに備える、
請求項2に記載の三次元形状計測装置。 - 縞パターンを含む投影画像を測定対象物に投影することにより、前記測定対象物の三次元形状を計測する三次元形状計測装置において、
前記測定対象物に前記投影画像を投影する投影部と、
前記投影画像が投影された前記測定対象物の撮影画像を生成する撮影部と、
前記投影画像の画素の位置である投影画素位置と、前記撮影画像の画素の位置である撮影画素位置との対応関係を求める解析部と、
前記投影画素位置に対応する前記撮影部の第1エピポーラ線を特定する線特定部と、
前記撮影画素位置と前記第1エピポーラ線との位置関係に基づいて、不良画素を検出する不良画素検出部と、
前記解析部が求めた前記対応関係のうち、前記不良画素検出部が検出した不良画素の位置を除く画素位置の対応関係に基づいて、前記測定対象物の三次元形状を特定する形状特定部と、を備え、
前記解析部は、前記撮影画素位置と、当該撮影画素位置と対応関係を有する投影画素位置に対応する前記第1エピポーラ線との距離が閾値以下である場合に、当該撮影画素位置に最も近い前記第1エピポーラ線上の位置が、前記投影画素位置と対応関係を有すると推定する、三次元形状計測装置。 - 正弦波状の輝度分布を有する縞パターンを含む投影画像を測定対象物に投影することにより、前記測定対象物の三次元形状を計測する三次元形状計測装置において、
前記測定対象物に前記投影画像を投影する投影部と、
前記投影画像が投影された前記測定対象物の撮影画像を生成する撮影部と、
前記投影画像の画素の位置である投影画素位置と、前記撮影画像の画素の位置である撮影画素位置との対応関係を求める解析部と、
前記投影画素位置に対応する前記撮影部の第1エピポーラ線を特定する線特定部と、
前記撮影画素位置と前記第1エピポーラ線との位置関係に基づいて、不良画素を検出する不良画素検出部と、
前記解析部が求めた前記対応関係のうち、前記不良画素検出部が検出した不良画素の位置を除く画素位置の対応関係に基づいて、前記測定対象物の三次元形状を特定する形状特定部と、
を備え、
前記解析部は、前記縞パターンにおいて前記撮影画素位置と同じ位相の輝度を示す複数の画素の前記投影画素位置を特定し、特定した複数の前記投影画素位置に対応する前記撮影画像上の前記第1エピポーラ線をそれぞれ求め、前記撮影画素位置に最も近い前記第1エピポーラ線に対応する前記投影画素位置の画素を、前記撮影画素位置と対応関係を有する画素と推定する、三次元形状計測装置。 - 正弦波状の輝度分布を有する縞パターンを含む投影画像を測定対象物に投影することにより、前記測定対象物の三次元形状を計測する三次元形状計測装置において、
前記測定対象物に前記投影画像を投影する投影部と、
前記投影画像が投影された前記測定対象物の撮影画像を生成する撮影部と、
前記投影画像の画素の位置である投影画素位置と、前記撮影画像の画素の位置である撮影画素位置との対応関係を求める解析部と、
前記撮影画素位置に対応する前記投影部の第2エピポーラ線を特定する線特定部と、
前記投影画素位置と前記第2エピポーラ線との位置関係に基づいて、不良画素を検出する不良画素検出部と、
前記解析部が求めた前記対応関係のうち、前記不良画素検出部が検出した不良画素の位置を除く画素位置の対応関係に基づいて、前記測定対象物の三次元形状を特定する形状特定部と、
を備え、
前記解析部は、前記縞パターンにおいて撮影画素位置と同じ位相の輝度を示す複数の画素の前記投影画素位置のうち、前記撮影画素位置に対応する前記投影部の前記第2エピポーラ線に最も近い前記投影画素位置の画素を前記撮影画素位置の画素と対応関係を有する画素と推定する、三次元形状計測装置。 - コンピュータが実行する、
縞パターンを含む投影画像を測定対象物に投影することにより、前記測定対象物の三次元形状を計測する三次元形状計測方法において、
前記測定対象物に前記投影画像を投影するステップと、
前記投影画像が投影された前記測定対象物の撮影画像を生成するステップと、
前記投影画像の画素の位置である投影画素位置に対応する前記撮影画像の第1エピポーラ線を特定するステップと、
前記投影画素位置と、前記撮影画像の画素の位置である撮影画素位置との対応関係を求め、前記撮影画素位置と、当該撮影画素位置と対応関係を有する投影画素位置に対応する前記第1エピポーラ線との距離が閾値以下である場合に、当該撮影画素位置に最も近い前記第1エピポーラ線上の位置が、前記投影画素位置と対応関係を有すると推定するステップと、
前記撮影画素位置と前記第1エピポーラ線との位置関係に基づいて、不良画素を検出するステップと、
求めた前記対応関係のうち、検出した前記不良画素の位置を除く画素位置の対応関係に基づいて、前記測定対象物の三次元形状を特定するステップと、
を備える、三次元形状計測方法。 - コンピュータが実行する、
正弦波状の輝度分布を有する縞パターンを含む投影画像を測定対象物に投影することにより、前記測定対象物の三次元形状を計測する三次元形状計測方法において、
前記測定対象物に前記投影画像を投影するステップと、
前記投影画像が投影された前記測定対象物の撮影画像を生成するステップと、
前記縞パターンにおいて前記撮影画像の画素の位置である撮影画素位置と同じ位相の輝度を示す前記投影画像の画素の位置である複数の投影画素位置を特定し、特定した複数の前記投影画素位置に対応する前記撮影画像上の第1エピポーラ線をそれぞれ求めるステップと、
前記撮影画素位置に最も近い前記第1エピポーラ線に対応する前記投影画素位置の画素を、前記撮影画素位置と対応関係を有する画素と推定することにより、前記投影画素位置と、前記撮影画素位置との対応関係を求めるステップと、
前記撮影画素位置と前記第1エピポーラ線との位置関係に基づいて、不良画素を検出するステップと、
求めた前記対応関係のうち、検出した不良画素の位置を除く画素位置の対応関係に基づいて、前記測定対象物の三次元形状を特定するステップと、
を備える、三次元形状計測方法。 - コンピュータが実行する、
正弦波状の輝度分布を有する縞パターンを含む投影画像を測定対象物に投影することにより、前記測定対象物の三次元形状を計測する三次元形状計測方法において、
前記測定対象物に前記投影画像を投影するステップと、
前記投影画像が投影された前記測定対象物の撮影画像を生成するステップと、
前記撮影画像の画素の位置である撮影画素位置に対応する前記投影画像の第2エピポーラ線を特定するステップと、
前記縞パターンにおいて前記撮影画素位置と同じ位相の輝度を示す前記投影画像の画素の位置である複数の投影画素位置のうち、前記撮影画素位置に対応する前記投影画像の前記第2エピポーラ線に最も近い前記投影画素位置の画素を前記撮影画素位置の画素と対応関係を有する画素と推定することにより、前記投影画像の画素の位置である投影画素位置と、前記撮影画素位置との対応関係を求めるステップと、
前記投影画素位置と前記第2エピポーラ線との位置関係に基づいて、不良画素を検出するステップと、
求めた前記対応関係のうち、検出した不良画素の位置を除く画素位置の対応関係に基づいて、前記測定対象物の三次元形状を特定するステップと、
を備える、三次元形状計測方法。
Applications Claiming Priority (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017120814 | 2017-06-20 | ||
| JP2017120814 | 2017-06-20 | ||
| JP2017236203 | 2017-12-08 | ||
| JP2017236203 | 2017-12-08 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019090782A JP2019090782A (ja) | 2019-06-13 |
| JP7186019B2 true JP7186019B2 (ja) | 2022-12-08 |
Family
ID=64457729
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018110420A Active JP7186019B2 (ja) | 2017-06-20 | 2018-06-08 | 三次元形状計測装置及び三次元形状計測方法 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US10529082B2 (ja) |
| JP (1) | JP7186019B2 (ja) |
| CN (2) | CN109099860B (ja) |
| DE (1) | DE102018004592A1 (ja) |
Families Citing this family (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7186019B2 (ja) * | 2017-06-20 | 2022-12-08 | 株式会社ミツトヨ | 三次元形状計測装置及び三次元形状計測方法 |
| JP7090446B2 (ja) * | 2018-03-22 | 2022-06-24 | 株式会社キーエンス | 画像処理装置 |
| CN109781001B (zh) * | 2019-01-04 | 2020-08-28 | 西安交通大学 | 一种基于格雷码的投影式大尺寸空间测量系统及方法 |
| US11187070B2 (en) * | 2019-01-31 | 2021-11-30 | Halliburton Energy Services, Inc. | Downhole depth extraction using structured illumination |
| CN111829456B (zh) * | 2019-04-19 | 2024-12-27 | 株式会社三丰 | 三维形状测定装置以及三维形状测定方法 |
| JP7390239B2 (ja) * | 2019-04-19 | 2023-12-01 | 株式会社ミツトヨ | 三次元形状測定装置及び三次元形状測定方法 |
| US11561292B1 (en) * | 2019-08-23 | 2023-01-24 | Zoox, Inc. | Active power control of sensors |
| CN111189417B (zh) * | 2020-01-15 | 2020-11-27 | 浙江大学 | 基于高频图案干涉的二进制光栅图像投影反光抑制方法 |
| CN113155053B (zh) * | 2020-01-22 | 2024-09-06 | 株式会社三丰 | 三维几何形状测量装置和三维几何形状测量方法 |
| JP7544342B2 (ja) * | 2020-11-30 | 2024-09-03 | 国立大学法人東北大学 | 三次元計測システムおよび三次元計測方法 |
| JP2024056504A (ja) * | 2022-10-11 | 2024-04-23 | キヤノン株式会社 | 画像処理装置、画像処理システム、画像処理方法及びプログラム |
| CN116147524B (zh) * | 2023-02-13 | 2026-03-03 | 上海盛相工业检测科技有限公司 | 一种面阵结构光投影高度信息检测方法及装置 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009019942A (ja) | 2007-07-11 | 2009-01-29 | Nikon Corp | 形状測定方法、プログラム、および形状測定装置 |
| JP2009053136A (ja) | 2007-08-29 | 2009-03-12 | Omron Corp | 3次元計測方法および3次元計測装置 |
| JP2011237296A (ja) | 2010-05-11 | 2011-11-24 | Nippon Telegr & Teleph Corp <Ntt> | 3次元形状計測方法、3次元形状計測装置、及びプログラム |
| JP2012141964A (ja) | 2010-12-15 | 2012-07-26 | Canon Inc | 画像処理装置、画像処理装置の制御方法、距離計測装置、およびプログラム |
| JP2014010495A (ja) | 2012-06-27 | 2014-01-20 | Olympus Corp | 画像処理装置及びそれを備えた撮像装置、画像処理方法、並びに画像処理プログラム |
| JP2014059261A (ja) | 2012-09-19 | 2014-04-03 | Canon Inc | 距離計測装置及び方法 |
| JP2014115108A (ja) | 2012-12-06 | 2014-06-26 | Canon Inc | 距離計測装置 |
| JP2015001465A (ja) | 2013-06-17 | 2015-01-05 | キヤノン株式会社 | 三次元位置計測装置、及び三次元位置計測装置のキャリブレーションずれ判定方法 |
| JP2016217833A (ja) | 2015-05-19 | 2016-12-22 | 株式会社リコー | 画像処理システム及び画像処理方法 |
Family Cites Families (39)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6098031A (en) * | 1998-03-05 | 2000-08-01 | Gsi Lumonics, Inc. | Versatile method and system for high speed, 3D imaging of microscopic targets |
| US6891967B2 (en) * | 1999-05-04 | 2005-05-10 | Speedline Technologies, Inc. | Systems and methods for detecting defects in printed solder paste |
| US7382457B2 (en) * | 2004-01-22 | 2008-06-03 | Wintriss Engineering Corporation | Illumination system for material inspection |
| US7724379B2 (en) * | 2005-05-12 | 2010-05-25 | Technodream21, Inc. | 3-Dimensional shape measuring method and device thereof |
| WO2008126647A1 (ja) * | 2007-04-05 | 2008-10-23 | Nikon Corporation | 形状測定装置及び形状測定方法 |
| JP2008309551A (ja) * | 2007-06-13 | 2008-12-25 | Nikon Corp | 形状測定方法、記憶媒体、および形状測定装置 |
| JP2009094295A (ja) | 2007-10-09 | 2009-04-30 | Juki Corp | 電子部品の高さ測定装置 |
| JP2009180690A (ja) * | 2008-02-01 | 2009-08-13 | Nikon Corp | 三次元形状測定装置 |
| DE102010064593A1 (de) * | 2009-05-21 | 2015-07-30 | Koh Young Technology Inc. | Formmessgerät und -verfahren |
| JP5520562B2 (ja) * | 2009-10-06 | 2014-06-11 | 本田技研工業株式会社 | 立体形状測定システム及び立体形状測定方法 |
| US10048480B2 (en) * | 2011-01-07 | 2018-08-14 | Zeta Instruments, Inc. | 3D microscope including insertable components to provide multiple imaging and measurement capabilities |
| WO2013076605A1 (en) * | 2011-11-23 | 2013-05-30 | Creaform Inc. | Method and system for alignment of a pattern on a spatial coded slide image |
| JP5918984B2 (ja) * | 2011-12-06 | 2016-05-18 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法、およびプログラム |
| JP2013210254A (ja) * | 2012-03-30 | 2013-10-10 | Canon Inc | 三次元計測装置、三次元計測方法及び三次元計測プログラム |
| EP2873028A4 (en) * | 2012-06-28 | 2016-05-25 | Pelican Imaging Corp | SYSTEMS AND METHOD FOR DETECTING DEFECTIVE CAMERA ARRAYS, OPTICAL ARRAYS AND SENSORS |
| CN104395692B (zh) * | 2012-06-29 | 2016-08-24 | 富士胶片株式会社 | 三维测定方法、装置、系统以及图像处理装置 |
| US9389067B2 (en) * | 2012-09-05 | 2016-07-12 | Canon Kabushiki Kaisha | Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, program, and storage medium |
| JP6112807B2 (ja) * | 2012-09-11 | 2017-04-12 | 株式会社キーエンス | 形状測定装置、形状測定方法および形状測定プログラム |
| US9857166B2 (en) * | 2012-09-19 | 2018-01-02 | Canon Kabushiki Kaisha | Information processing apparatus and method for measuring a target object |
| JP6310859B2 (ja) * | 2012-11-30 | 2018-04-11 | 株式会社トプコン | 眼底撮影装置 |
| JP6238521B2 (ja) * | 2012-12-19 | 2017-11-29 | キヤノン株式会社 | 3次元計測装置およびその制御方法 |
| US9788714B2 (en) * | 2014-07-08 | 2017-10-17 | Iarmourholdings, Inc. | Systems and methods using virtual reality or augmented reality environments for the measurement and/or improvement of human vestibulo-ocular performance |
| US9952038B2 (en) * | 2013-03-27 | 2018-04-24 | Nikon Corporation | Shape measurement device, structure production system, shape measurement method, structure production method, and shape measurement program |
| CN103471520B (zh) * | 2013-07-18 | 2015-11-11 | 黑龙江科技大学 | 面结构光与锥光偏振全息组合的反光复杂曲面测量方法 |
| JP6394081B2 (ja) * | 2013-08-13 | 2018-09-26 | 株式会社リコー | 画像処理装置、画像処理システム、画像処理方法、及びプログラム |
| CN103868472B (zh) * | 2013-12-23 | 2016-09-07 | 黑龙江科技大学 | 一种用于高反射率零件的面结构光三维测量装置与方法 |
| EP3156763B1 (en) * | 2014-06-13 | 2019-02-06 | Nikon Corporation | Shape measurement device |
| JP6452361B2 (ja) * | 2014-09-10 | 2019-01-16 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
| JP6531395B2 (ja) * | 2015-01-08 | 2019-06-19 | 富士通株式会社 | 三次元形状測定装置、三次元形状測定方法、及び、プログラム |
| JP6658552B2 (ja) * | 2015-02-09 | 2020-03-04 | 株式会社ニコン | X線計測装置の画像再構成方法、x線計測装置の画像再構成プログラムおよびx線計測装置 |
| GB201504360D0 (en) * | 2015-03-16 | 2015-04-29 | Univ Leuven Kath | Automated quality control and selection system |
| US9661308B1 (en) * | 2015-04-20 | 2017-05-23 | Samsung Electronics Co., Ltd. | Increasing tolerance of sensor-scanner misalignment of the 3D camera with epipolar line laser point scanning |
| US10145678B2 (en) * | 2015-04-20 | 2018-12-04 | Samsung Electronics Co., Ltd. | CMOS image sensor for depth measurement using triangulation with point scan |
| US20160309135A1 (en) * | 2015-04-20 | 2016-10-20 | Ilia Ovsiannikov | Concurrent rgbz sensor and system |
| US20160349746A1 (en) * | 2015-05-29 | 2016-12-01 | Faro Technologies, Inc. | Unmanned aerial vehicle having a projector and being tracked by a laser tracker |
| US10082521B2 (en) * | 2015-06-30 | 2018-09-25 | Faro Technologies, Inc. | System for measuring six degrees of freedom |
| JP6649802B2 (ja) * | 2016-02-26 | 2020-02-19 | 株式会社キーエンス | 三次元画像検査装置、三次元画像検査方法、三次元画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器 |
| JP2018146449A (ja) * | 2017-03-07 | 2018-09-20 | オムロン株式会社 | 3次元形状計測装置及び3次元形状計測方法 |
| JP7186019B2 (ja) * | 2017-06-20 | 2022-12-08 | 株式会社ミツトヨ | 三次元形状計測装置及び三次元形状計測方法 |
-
2018
- 2018-06-08 JP JP2018110420A patent/JP7186019B2/ja active Active
- 2018-06-08 DE DE102018004592.8A patent/DE102018004592A1/de active Pending
- 2018-06-08 US US16/003,762 patent/US10529082B2/en active Active
- 2018-06-20 CN CN201810637645.4A patent/CN109099860B/zh active Active
- 2018-06-20 CN CN202111346225.9A patent/CN114199159B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009019942A (ja) | 2007-07-11 | 2009-01-29 | Nikon Corp | 形状測定方法、プログラム、および形状測定装置 |
| JP2009053136A (ja) | 2007-08-29 | 2009-03-12 | Omron Corp | 3次元計測方法および3次元計測装置 |
| JP2011237296A (ja) | 2010-05-11 | 2011-11-24 | Nippon Telegr & Teleph Corp <Ntt> | 3次元形状計測方法、3次元形状計測装置、及びプログラム |
| JP2012141964A (ja) | 2010-12-15 | 2012-07-26 | Canon Inc | 画像処理装置、画像処理装置の制御方法、距離計測装置、およびプログラム |
| JP2014010495A (ja) | 2012-06-27 | 2014-01-20 | Olympus Corp | 画像処理装置及びそれを備えた撮像装置、画像処理方法、並びに画像処理プログラム |
| JP2014059261A (ja) | 2012-09-19 | 2014-04-03 | Canon Inc | 距離計測装置及び方法 |
| JP2014115108A (ja) | 2012-12-06 | 2014-06-26 | Canon Inc | 距離計測装置 |
| JP2015001465A (ja) | 2013-06-17 | 2015-01-05 | キヤノン株式会社 | 三次元位置計測装置、及び三次元位置計測装置のキャリブレーションずれ判定方法 |
| JP2016217833A (ja) | 2015-05-19 | 2016-12-22 | 株式会社リコー | 画像処理システム及び画像処理方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114199159B (zh) | 2025-01-07 |
| US20180365847A1 (en) | 2018-12-20 |
| US10529082B2 (en) | 2020-01-07 |
| DE102018004592A1 (de) | 2018-12-20 |
| CN114199159A (zh) | 2022-03-18 |
| CN109099860A (zh) | 2018-12-28 |
| CN109099860B (zh) | 2021-12-07 |
| JP2019090782A (ja) | 2019-06-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7186019B2 (ja) | 三次元形状計測装置及び三次元形状計測方法 | |
| CN107091617B (zh) | 形状测定系统、形状测定装置以及形状测定方法 | |
| US9007602B2 (en) | Three-dimensional measurement apparatus, three-dimensional measurement method, and computer-readable medium storing control program | |
| US9147247B2 (en) | Three-dimensional measurement apparatus, three-dimensional measurement method, and storage medium | |
| JP6596433B2 (ja) | 2つのカメラからの曲線の集合の構造化光整合 | |
| JP6420572B2 (ja) | 計測装置およびその方法 | |
| US9074879B2 (en) | Information processing apparatus and information processing method | |
| US20130076896A1 (en) | Three-dimensional measurement apparatus, three-dimensional measurement method, and storage medium | |
| US20140152769A1 (en) | Three-dimensional scanner and method of operation | |
| CN103069250A (zh) | 三维测量设备、三维测量方法和计算机程序 | |
| JP2016200503A (ja) | 被計測物の形状を計測する計測装置 | |
| JP2005538347A (ja) | 対象を3次元に検出する方法および装置ならびに装置及び方法の使用 | |
| TW201627633A (zh) | 板彎量測裝置和其板彎量測方法 | |
| US8970674B2 (en) | Three-dimensional measurement apparatus, three-dimensional measurement method and storage medium | |
| CN110906884B (zh) | 三维几何形状测量设备和三维几何形状测量方法 | |
| JP7390239B2 (ja) | 三次元形状測定装置及び三次元形状測定方法 | |
| JP6702234B2 (ja) | 3次元測定装置、3次元測定方法、およびプログラム | |
| CN111829456B (zh) | 三维形状测定装置以及三维形状测定方法 | |
| Berssenbrügge et al. | Characterization of the 3D resolution of topometric sensors based on fringe and speckle pattern projection by a 3D transfer function | |
| JP7088232B2 (ja) | 検査装置、検査方法、およびプログラム | |
| JP2004191198A (ja) | 3次元形状計測装置および方法 | |
| CN113029038B (zh) | 三维几何形状测量装置和三维几何形状测量方法 | |
| US20210174531A1 (en) | Three-dimensional geometry measurement apparatus and three-dimensional geometry measurement method | |
| CN119437084A (zh) | 三维几何形状测量设备、三维几何形状测量方法、存储介质和计算机程序产品 | |
| CN119027349A (zh) | 一种基于多特征的相位无效点去除方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210512 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220316 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220329 |
|
| A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20220523 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220726 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221108 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221128 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7186019 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |






