JP6770254B2 - 3次元測定装置、3次元測定方法及び3次元測定プログラム - Google Patents

3次元測定装置、3次元測定方法及び3次元測定プログラム Download PDF

Info

Publication number
JP6770254B2
JP6770254B2 JP2018019998A JP2018019998A JP6770254B2 JP 6770254 B2 JP6770254 B2 JP 6770254B2 JP 2018019998 A JP2018019998 A JP 2018019998A JP 2018019998 A JP2018019998 A JP 2018019998A JP 6770254 B2 JP6770254 B2 JP 6770254B2
Authority
JP
Japan
Prior art keywords
exposure time
dimensional point
feature points
dimensional
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018019998A
Other languages
English (en)
Other versions
JP2019138686A (ja
Inventor
星斗 付
星斗 付
清水 隆史
隆史 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2018019998A priority Critical patent/JP6770254B2/ja
Priority to PCT/JP2019/003333 priority patent/WO2019155974A1/ja
Priority to CN201980007537.1A priority patent/CN111566439B/zh
Priority to EP19750701.5A priority patent/EP3751230B1/en
Priority to US16/963,247 priority patent/US11313676B2/en
Publication of JP2019138686A publication Critical patent/JP2019138686A/ja
Application granted granted Critical
Publication of JP6770254B2 publication Critical patent/JP6770254B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/254Projection of a pattern, viewing through a pattern, e.g. moiré
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Description

本開示は、3次元測定装置、3次元測定方法及び3次元測定プログラムに関する。
従来、測定対象物にパターン光を投影した状態で撮像を行い、画像上のパターンの位置から、三角測距の原理により、測定対象物の3次元形状を表す3次元点群の位置を算出する3次元測定装置が用いられている。
下記特許文献1には、複数の撮像部によって撮像した複数の撮像画像に基づいて視差情報を生成し、撮像領域内の対象物を映し出す画像部分の視差値群に含まれる視差値の数が増えるように、後の撮像時に複数の撮像部が用いる露光量を決定する撮像装置が記載されている。ここで、撮像装置は、複数の露光量を用いてそれぞれ撮像した撮像画像から生成される各露光量に対応した視差情報を取得し、取得した視差情報の中で視差値の数が最も多い視差情報に対応する露光量を特定して、後の撮像時に複数の撮像部が用いる露光量を決定する。
特開2016−134723号公報
特許文献1の図4には、縦軸に視差点数を示し、横軸に露光時間を示して、視差点数がある露光時間で最大値を取ることが示されている。特許文献1に記載の撮像装置は、複数の撮像部の視差情報に基づいて測定対象物の3次元形状を測定する装置であり、複数の撮像部の露光量を、視差値の数が最も多くなるように決定している。そのため、撮像部の絞り値を一定とした場合、撮像部による撮像の露光時間は、視差値の数が最も多くなるように、比較的長く決定されることがある。
特許文献1に記載の撮像装置によれば、算出される3次元点群の数が最大となるように撮像部の露光時間を決定することができる。しかしながら、露光時間と算出される3次元点群の数を実際に調べて、算出される3次元点群の数を縦軸に示し、露光時間を横軸に示すと、例えば図8の「phase 2」のように、算出される3次元点群の数が露光時間の変化に対してほとんど変化しない区間が生じることがあることを発明者らは見出した。このような場合、特許文献1に記載の撮像装置では、撮像部の露光時間が不要に長く調整されることがあり、例えば、製造ラインを移動する複数の測定対象物の3次元形状を測定する場合等、複数の測定対象物の3次元形状を連続して測定する場合、特許文献1に記載の撮像装置では、測定を行える時間間隔が制限されることがある。
そこで、本発明は、撮像部の露光時間を短縮して、測定対象物の3次元形状を測定するために要する時間を短縮することができる3次元測定装置、3次元測定方法及び3次元測定プログラムを提供する。
本開示の一態様に係る3次元測定装置は、パターン光を測定対象物に投影する投影部と、パターン光が投影された測定対象物の画像を、所定の露光時間で撮像する撮像部と、画像に含まれる複数の特徴点を抽出し、複数の特徴点に基づいて、測定対象物の3次元形状を表す3次元点群の位置を算出する算出部と、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、露光時間が、最大値に対する露光時間よりも短くなるように、露光時間を決定する決定部と、を備える。ここで、パターン光とは、ランダムドットパターンやコード化されたパターンを含む光であり、可視光であってもよいし、赤外線等の不可視の光であってもよい。また、露光時間とは、撮像部が有する撮像素子に光をあてる時間である。
この態様によれば、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となり、露光時間が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に対する露光時間よりも短くなるように、露光時間を決定することで、3次元点群に含まれる点の数が減少するデメリットよりも露光時間が減少するメリットを大きくして、3次元点群に含まれる点の数を最大とする露光時間よりも短い露光時間で測定対象物を撮像することができ、撮像部の露光時間を短縮して、測定対象物の3次元形状を測定するために要する時間を短縮することができる。
上記態様において、撮像部は、露光時間を変えて複数の画像を撮像し、複数の画像に基づいて、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が、露光時間に対してどのように変化するかを推定する推定部をさらに備え、決定部は、推定部による推定結果に基づいて、露光時間を決定してもよい。
この態様によれば、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が、露光時間に対してどのように変化するかを推定することで、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となる露光時間を比較的少ない枚数の画像から推定することができ、露光時間を決定する処理に要する時間を短縮できる。
上記態様において、推定結果は、露光時間が長くなるに従って複数の特徴点の数及び3次元点群に含まれる点の数が増加する第1段階と、第1段階に隣接し、露光時間が長くなるに従って、複数の特徴点の数及び3次元点群に含まれる点の数が第1段階よりも緩やかに変化し、複数の特徴点の数及び3次元点群の数の少なくとも一方が閾値以上である第2段階と、を含み、決定部は、第1段階と第2段階との境界に基づいて、露光時間を決定してもよい。
この態様によれば、第1段階と第2段階との境界に基づいて露光時間を決定することで、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となる最短の露光時間とすることができ、撮像部の露光時間を短縮して測定対象物の3次元形状を測定することができる。
上記態様において、推定結果は、第2段階に隣接し、露光時間が長くなるに従って複数の特徴点の数及び3次元点群に含まれる点の数が減少する第3段階をさらに含み、露光時間を所定量変化させた場合における複数の特徴点の数及び3次元点群に含まれる点の数の変化量の絶対値は、第2段階の場合に第3段階の場合よりも小さくてもよい。
この態様によれば、露光時間を所定量変化させた場合における複数の特徴点の数及び3次元点群に含まれる点の数の変化量の絶対値が、第2段階の場合に第3段階の場合よりも小さいため、第2段階の場合に露光時間を変化させても、複数の特徴点の数及び3次元点群に含まれる点の数の変化は比較的小さい。そのため、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値と閾値の差が比較的小さくなるように閾値を設定することができ、複数の特徴点の数及び3次元点群に含まれる点の数を十分に多くしながら、露光時間をより短くすることができる。
上記態様において、推定部は、第1段階及び第2段階における露光時間と複数の特徴点の数及び3次元点群に含まれる点の数との関係を、1又は複数のパラメータを含む関数によって推定してもよい。
この態様によれば、1又は複数のパラメータを推定することで、複数の特徴点の数及び3次元点群に含まれる点の数が、露光時間に対してどのように変化するかを精度良く推定することができ、露光時間を決定する処理の演算負荷を減らし、処理に要する時間を短縮できる。
上記態様において、露光時間をtと表し、1又は複数のパラメータをN0及びτと表すとき、推定部は、関数をN(t)=N0(1−exp(−t/τ))として、第1段階及び第2段階における露光時間と複数の特徴点の数及び3次元点群に含まれる点の数との関係を推定してもよい。
この態様によれば、関数N(t)=N0(1−exp(−t/τ))を仮定して、2つのパラメータN0及びτを推定することで、露光時間と複数の特徴点の数及び3次元点群に含まれる点の数との非線形な関係を精度良く推定することができ、露光時間を決定する処理の演算負荷を減らし、処理に要する時間を短縮できる。
上記態様において、閾値を、0より大きく1以下のAと表すとき、決定部は、t=τln(1/(1−A))により露光時間を決定してもよい。
この態様によれば、パラメータτを推定することで、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値に一致する露光時間を算出することができ、露光時間を決定する処理の演算負荷を減らし、処理に要する時間を短縮できる。
上記態様において、決定部は、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が、閾値以上となり、露光時間が、最大値に対する露光時間よりも短くなるように、露光時間又は投影部の光量を決定してもよい。
この態様によれば、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となり、露光時間が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に対する露光時間よりも短くなるように、露光時間又は投影部の光量を決定することで、3次元点群に含まれる点の数が減少するデメリットよりも露光時間又は光量が減少するメリットを大きくして、3次元点群に含まれる点の数を最大とする光量よりも少ない光量で測定対象物を撮像することができ、投影部の消費電力を低減させて測定対象物の3次元形状を測定することができる。
本開示の他の態様に係る3次元測定方法は、パターン光を測定対象物に投影することと、パターン光が投影された測定対象物の画像を、所定の露光時間で撮像することと、画像に含まれる複数の特徴点を抽出し、複数の特徴点に基づいて、測定対象物の3次元形状を表す3次元点群の位置を算出することと、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、露光時間が、最大値に対する露光時間よりも短くなるように、露光時間を決定することと、を含む。
この態様によれば、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となり、露光時間が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に対する露光時間よりも短くなるように、露光時間を決定することで、3次元点群に含まれる点の数が減少するデメリットよりも露光時間が減少するメリットを大きくして、3次元点群に含まれる点の数を最大とする露光時間よりも短い露光時間で測定対象物を撮像することができ、撮像部の露光時間を短縮して、測定対象物の3次元形状を測定するために要する時間を短縮することができる。
本開示の他の態様に係る3次元測定プログラムは、パターン光を測定対象物に投影する投影部及びパターン光が投影された測定対象物の画像を、所定の露光時間で撮像する撮像部を備える3次元測定装置に備えられた演算装置を、画像に含まれる複数の特徴点を抽出し、複数の特徴点に基づいて、測定対象物の3次元形状を表す3次元点群の位置を算出する算出部、及び、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、露光時間が、最大値に対する露光時間よりも短くなるように、露光時間を決定する決定部、として動作させる。
この態様によれば、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となり、露光時間が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に対する露光時間よりも短くなるように、露光時間を決定することで、3次元点群に含まれる点の数が減少するデメリットよりも露光時間が減少するメリットを大きくして、3次元点群に含まれる点の数を最大とする露光時間よりも短い露光時間で測定対象物を撮像することができ、撮像部の露光時間を短縮して、測定対象物の3次元形状を測定するために要する時間を短縮することができる。
撮像部の露光時間を短縮して、測定対象物の3次元形状を測定するために要する時間を短縮することができる3次元測定装置、3次元測定方法及び3次元測定プログラムを提供する。
本発明の実施形態に係る3次元測定装置の機能ブロック図である。 本実施形態に係る3次元測定装置の物理的構成を示す図である。 本実施形態に係る3次元測定装置により実行される決定処理のフローチャートである。 本実施形態に係る3次元測定装置により実行される推定処理のフローチャートである。 本実施形態に係る3次元測定装置により撮像された測定対象物の複数の画像の例である。 本実施形態に係る3次元測定装置により推定された露光時間と3次元点群に含まれる点の数との関係を示す例である。 本実施形態に係る3次元測定装置により実行される3次元測定処理のフローチャートである。 本実施形態に係る3次元測定装置により測定された3次元点群に含まれる点の数と露光時間との関係を示す例である。 変形例に係る3次元測定装置により実行される決定処理のフローチャートである。
以下、本発明の一側面に係る実施の形態(以下、「本実施形態」と表記する。)を、図面に基づいて説明する。なお、各図において、同一の符号を付したものは、同一又は同様の構成を有する。
§1 適用例
まず、図1を用いて、本発明が適用される場面の一例について説明する。本実施形態に係る3次元測定装置100は、パターン光を測定対象物OBに投影する投影部20と、パターン光が投影された測定対象物OBの画像を、所定の露光時間で撮像する撮像部30と、演算装置10とを備える。ここで、パターン光とは、ランダムドットパターンやコード化されたパターンを含む光であり、可視光であってもよいし、赤外線等の不可視の光であってもよい。また、露光時間とは、撮像部30が有する撮像素子に光をあてる時間である。露光時間は、例えば、数十〜数百ms(ミリ秒)とすることができる。撮像部30は、パターン光が投影された測定対象物OBの画像を撮像し、演算装置10は、撮像部30により撮像された画像を解析し、画像に含まれる複数の特徴点を抽出し、複数の特徴点の位置に基づいて、三角測距の原理で測定対象物OBの3次元形状を表す3次元点群の位置を算出する。なお、測定対象物の3次元形状を測定するために要する時間は、撮像部30により測定対象物を撮像するために要する時間と、撮像した画像を伝送するために要する時間と、撮像した画像に基づいて、測定対象物の3次元形状を表す3次元点群の位置を算出するために要する時間と、の和である。
3次元測定装置100は、演算装置10によって、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となるように、撮像部30の露光時間を決定する。ここで、閾値は、任意に設定することのできる値であるが、例えば、3次元点群に含まれる点の数の最大値Nmaxの95%の値、すなわち0.95Nmaxであったり、3次元点群に含まれる点の数の最大値Nmaxの99%の値、すなわち0.99Nmaxであったり、複数の特徴点の数の最大値nmaxの95%の値、すなわち0.95nmaxであったり、複数の特徴点の数の最大値nmaxの99%の値、すなわち0.99nmaxであったりしてよい。また、閾値は、例えば、3次元点群に含まれる点の数の最大値Nmaxから所定の値Cを引いた値、すなわち(Nmax−C)であったり、複数の特徴点の数の最大値nmaxから所定の値Cを引いた値、すなわち(nmax−C)であったりしてよい。また、閾値は、複数の特徴点の数の最大値nmax又は3次元点群に含まれる点の数の最大値Nmaxに対する比で表してもよく、0.95や0.99といった値でもよい。なお、閾値が複数の特徴点の数の最大値に基づいて定められている場合であっても、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上であればよい。また、閾値が3次元点群に含まれる点の数の最大値に基づいて定められている場合であっても、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上であればよい。また、閾値が、複数の特徴点の数の最大値又は3次元点群に含まれる点の数の最大値に基づいて定められている場合に、複数の特徴点の数及び3次元点群に含まれる点の数両方が閾値以上であってもよい。
演算装置10により抽出することのできる複数の特徴点の数及び演算装置10により算出することのできる3次元点群に含まれる点の数は、投影部20によって適切な光量で測定対象物OBにパターン光を投影して、撮像部30によって適切な露光時間で測定対象物OBを撮像した場合に最大値となる。ここで、投影部20により投影するパターン光の光量を低下させたり、撮像部30の露光時間を短くしたりすると、画像の明るさが低下して、パターン光の検出が難しくなり、抽出される複数の特徴点の数及び算出される3次元点群に含まれる点の数が少なくなる。そのため、従来、抽出される複数の特徴点の数及び算出される3次元点群に含まれる点の数が最大値となるように、投影部20によるパターン光の光量及び撮像部30の露光時間を最適化することがあった。しかしながら、発明者は、撮像部30の露光時間を最適な値から徐々に短くした場合における抽出される複数の特徴点の数及び算出される3次元点群に含まれる点の数の変化が僅かであることを見出した。
そこで、本実施形態に係る3次元測定装置100では、抽出される複数の特徴点の数及び算出される3次元点群に含まれる点の数の少なくとも一方が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、露光時間が、抽出される複数の特徴点の数及び算出される3次元点群に含まれる点の数のいずれか一方の最大値に対する露光時間よりも短くなるように、露光時間を決定する。例えば、算出される3次元点群に含まれる点の数の最大値Nmaxの99%の値によって閾値を設定するとき、3次元測定装置100は、3次元点群に含まれる点の数の最大値を与える露光時間tmaxに対して、例えば0.5tmax程度となるように露光時間を決定してよい。抽出される複数の特徴点の数の最大値に基づいて閾値を定める場合も同様である。複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となり、露光時間が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に対する露光時間よりも短くなるように、露光時間を決定することで、3次元点群に含まれる点の数が減少するデメリットよりも露光時間が減少するメリットを大きくして、3次元点群に含まれる点の数を最大値とする露光時間よりも短い露光時間で測定対象物OBを撮像することができ、撮像部30の露光時間を短縮して、測定対象物の3次元形状を測定するために要する時間を短縮することができる。
これにより、例えば、製造ラインを移動する複数の測定対象物OBの3次元形状を測定する場合等、測定対象物OBの3次元形状を連続して測定する場合に、測定を行える時間間隔が短縮され、ライン速度を増加させることができ、製造効率を向上させることができる。また、比較的高速で移動する測定対象物OBの3次元形状を測定する場合であっても、撮像部30の露光時間が比較的短く設定されるため、ブレの少ない測定対象物OBの画像を撮像して、測定対象物OBの3次元形状を表す3次元点群の位置を算出することができる。
§2 構成例
[機能構成]
次に、図1を用いて、本実施形態に係る3次元測定装置100の機能構成の一例を説明する。3次元測定装置100は、投影部20、撮像部30及び演算装置10を備える。
<投影部の構成>
投影部20は、可視光又は不可視の光を投影するプロジェクタであってよく、パターン光を測定対象物OBに投影する。投影部20は、撮像部30との相対的な位置が、所定の位置となるように配置されていてよい。また、投影部20は、演算装置10からの指令に基づき、パターン光を測定対象物OBに投影してよい。投影部20は、投影するパターン光の光量を変化させることのできるものであってよく、演算装置10からの指令に基づき、光量を設定してよい。
投影部20は、光源と、パターン光を生成するためのフォトマスクとを含むものであってよく、例えば、レーザ光源と、回折光学素子とを含むものであってよい。また、投影部20は、固定パターンを形成する光学素子と、光変調素子としてDLP(Digital Light Processing)等を有するプロジェクタであってよく、投影するパターンの大きさを変調させる変調素子を含んでよい。投影部20は、レーザ光源からの光を回折光学素子に入射させ、回折光学素子の表面に形成された回折パターンによって2次元構造を有する光を生成するものであってよい。なお、投影部20は、レンズ等の任意の光学部材を含んでよいし、光源から出射される光の波長は可視領域に限られず、赤外領域や紫外領域の波長であってもよい。
<撮像部の構成>
撮像部30は、1又は複数のレンズで光を受光素子に集めて、CCD(Charge-Coupled Device)センサやCMOS(Complementary Metal-Oxide-Semiconductor)センサ等の撮像素子によって、受光した光を電気的な信号に変換するカメラであってよく、パターン光が投影された測定対象物OBの画像を、所定の露光時間で撮像する。撮像部30は、演算装置10からの指令に基づき、露光時間を設定してよい。なお、本実施形態に係る3次元測定装置100では、撮像部30の絞り値を一定として、露光時間を変化させることで露出を変化させるが、一般には、撮像部30の絞り値及び露光時間を変化させることとしてもよい。また、本実施形態に係る3次元測定装置100は、一台の撮像部30を備えるが、撮像部の台数は任意であり、3次元測定装置100は、複数の撮像部を備えてもよい。
撮像部30は、所定の条件を満たした場合に、露光時間を変えて、測定対象物OBの複数の画像を撮像してよい。ここで、所定の条件は、撮像部30の稼働時間に関する条件及び撮像部30の休止時間に関する条件の少なくともいずれかを含んでよい。より具体的には、撮像部30は、稼働時間が一定時間以上となった場合に、露光時間を調整するために、露光時間を変えて、測定対象物OBの複数の画像を撮像してよい。ここで、稼働時間は、撮像部30によって画像の撮像を行った累積時間であってよい。また、撮像部30は、休止時間が一定時間以上となった場合に、露光時間を調整するために、露光時間を変えて、測定対象物OBの複数の画像を撮像してよい。ここで、休止時間は、撮像部30によって画像の撮像が行われなかった累積時間であってよい。
所定の条件を満たした場合に、露光時間を変えて複数の画像を撮像し、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となるように露光時間を決定することで、所定の条件を満たさない場合には露光時間を決定する処理を省略することができ、測定対象物OBの3次元形状を測定するために要する時間を短縮することができる。
また、撮像部30の稼働時間及び撮像部30の休止時間の少なくともいずれかが所定の条件を満たした場合に、露光時間を変えて複数の画像を撮像し、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となるように露光時間を決定することで、所定の条件を満たさない場合には露光時間を決定する処理を省略することができ、測定対象物OBの3次元形状を測定するために要する時間を短縮することができる。
<演算装置の構成>
演算装置10は、取得部11、算出部12、推定部13、決定部14及び設定部15を有する。取得部11は、撮像部30により撮像された、パターン光が投影された測定対象物OBの画像を取得する。
算出部12は、撮像部30により撮像された画像に含まれる複数の特徴点を抽出し、複数の特徴点に基づいて、測定対象物OBの3次元形状を表す3次元点群の位置を算出する。ここで、複数の特徴点は、パターン光に含まれる特徴点であってよく、測定対象物OBの形状に応じて画像上における位置が変化してよい。算出部12は、投影したパターン光における特徴点の位置と、撮像された画像上における特徴点の位置とを比較して、三角測距の原理で測定対象物OBの3次元形状を表す3次元点群の位置を算出してよい。
また、撮像部30によって、露光時間を変えて、測定対象物OBの複数の画像を撮像した場合、算出部12は、複数の画像それぞれについて、測定対象物OBの3次元形状を表す3次元点群の位置を算出してよい。
推定部13は、撮像部30により露光時間を変えて撮像された測定対象物OBの複数の画像に基づいて、算出部12により抽出される複数の特徴点の数及び算出される3次元点群に含まれる点の数の少なくとも一方が、露光時間に対してどのように変化するかを推定する。推定部13による具体的な処理の内容については、次図以降を用いて詳細に説明する。
決定部14は、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、露光時間が、最大値に対する露光時間よりも短くなるように、露光時間を決定する。決定部14は、3次元点群に含まれる点の数が閾値以上となり、3次元点群に含まれる点の数の最大値を与える露光時間に対する決定される露光時間の減少率が、3次元点群に含まれる点の数の最大値に対する閾値の減少率より大きくなるように、露光時間を決定してもよい。決定部14は、露光時間を変えて撮像された測定対象物OBの複数の画像から抽出された複数の特徴点の数及び算出された3次元点群に含まれる点の数の少なくとも一方に基づいて、露光時間を決定してもよい。また、決定部14は、推定部13による推定結果に基づいて、露光時間を決定してもよい。推定部13によって複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が、露光時間に対してどのように変化するかを推定することで、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となる露光時間を比較的少ない枚数の画像から推定することができ、露光時間を決定する処理に要する時間を短縮できる。
決定部14は、複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が、閾値以上となり、露光時間が、最大値に対する露光時間よりも短くなるように、撮像部30の露光時間及び投影部20の光量の少なくともいずれか一方を決定してもよい。また、決定部14は、3次元点群に含まれる点の数が閾値以上となり、3次元点群に含まれる点の数の最大値を与える露光時間及び光量に対する決定される露光時間及び光量いずれかの減少率が、3次元点群に含まれる点の数の最大値に対する閾値の減少率より大きくなるように、撮像部30の露光時間及び投影部20の光量の少なくともいずれか一方を決定してもよい。例えば、決定部14は、撮像部30の露光時間を一定として、3次元点群に含まれる点の数が閾値以上となり、3次元点群に含まれる点の数の最大値を与える光量に対する決定される光量の減少率が、3次元点群に含まれる点の数の最大値に対する閾値の減少率より大きくなるように、投影部20の光量を出来る限り小さく決定してもよい。複数の特徴点の数及び3次元点群に含まれる点の数の少なくとも一方が閾値以上となり、露光時間が、複数の特徴点の数及び3次元点群に含まれる点の数のいずれか一方の最大値に対する露光時間よりも短くなるように、露光時間及び投影部20の光量の少なくともいずれか一方を決定することで、3次元点群に含まれる点の数が減少するデメリットよりも露光時間又は光量が減少するメリットを大きくして、3次元点群に含まれる点の数を最大とする光量よりも少ない光量で測定対象物を撮像することができ、投影部20の消費電力を低減させて測定対象物OBの3次元形状を測定することができる。
設定部15は、撮像部30の露光時間を、決定部14により決定された露光時間に設定する。設定部15は、投影部20の光量を、決定部14により決定された光量に設定してもよい。また、設定部15は、投影部20により投影するパターン光のパターンを設定してもよい。
[ハードウェア構成]
次に、図2を用いて、本実施形態に係る演算装置10のハードウェア構成の一例を説明する。演算装置10は、演算部に相当するCPU(Central Processing Unit)10aと、記憶部に相当するRAM(Random Access Memory)10bと、記憶部に相当するROM(Read only Memory)10cと、通信部10dと、入力部10eと、表示部10fとを有する。これらの各構成は、バスを介して相互にデータ送受信可能に接続される。なお、本例では演算装置10が一台のコンピュータで構成される場合について説明するが、演算装置10は、複数のコンピュータを用いて実現されてもよい。
CPU10aは、RAM10b又はROM10cに記憶されたプログラムの実行に関する制御やデータの演算、加工を行う制御部である。CPU10aは、パターン光が投影された測定対象物OBの画像に基づいて、測定対象物OBの3次元形状を表す3次元点群の位置を算出し、3次元点群に含まれる点の数が閾値以上となるように、撮像部30の露光時間を決定するプログラム(3次元測定プログラム)を実行する演算部である。CPU10aは、入力部10eや通信部10dから種々の入力データを受け取り、入力データの演算結果を表示部10fに表示したり、RAM10bやROM10cに格納したりする。
RAM10bは、記憶部のうちデータの書き換えが可能なものであり、例えば半導体記憶素子で構成されてよい。RAM10bは、CPU10aが実行する3次元測定プログラムや、撮像部30から取得した測定対象物OBの画像、算出した3次元点群に関するデータ、閾値、撮像部30の露光時間及び投影部20の光量といったデータを記憶する。なお、これらは例示であって、RAM10bには、これら以外のデータが記憶されていてもよいし、これらの一部が記憶されていなくてもよい。
ROM10cは、記憶部のうちデータの読み出しのみが可能なものであり、例えば半導体記憶素子で構成されてよい。ROM10cは、例えば3次元測定プログラムや、書き換えが行われないデータを記憶する。
通信部10dは、演算装置10を通信ネットワークに接続するインターフェースである。通信部10dは、投影部20及び撮像部30と、例えばLAN(Local Area Network)により接続されて、投影部20に対しパターン光に関する情報を送信し、撮像部30に対し露光時間に関する情報を送信してよい。また、通信部10dは、撮像部30から測定対象物OBの画像を受信してよい。また、通信部10dは、インターネット等の通信ネットワークに接続されてもよい。
入力部10eは、ユーザからデータの入力を受け付けるものであり、例えば、キーボード、マウス及びタッチパネルを含んでよい。
表示部10fは、CPU10aによる演算結果を視覚的に表示するものであり、例えば、LCD(Liquid Crystal Display)により構成されてよい。表示部10fは、例えば撮像部30により撮像された測定対象物OBの画像を表示したり、露光時間と算出される3次元点群に含まれる点の数との関係を示すグラフを表示したりしてよい。
3次元測定プログラムは、RAM10bやROM10c等のコンピュータによって読み取り可能な記憶媒体に記憶されて提供されてもよいし、通信部10dにより接続される通信ネットワークを介して提供されてもよい。演算装置10では、CPU10aが3次元測定プログラムを実行することにより、図1を用いて説明した様々な動作が実現される。なお、これらの物理的な構成は例示であって、必ずしも独立した構成でなくてもよい。例えば、演算装置10は、CPU10aとRAM10bやROM10cが一体化したLSI(Large-Scale Integration)を備えていてもよい。
§3 動作例
図3は、実施形態に係る3次元測定装置100により実行される決定処理のフローチャートである。決定処理は、撮像部30の露光時間又は投影部20の光量を決定する処理である。同図では、決定処理の内容の一例を示している。
はじめに、3次元測定装置100は、投影部20によって、所定の光量で測定対象物OBにパターン光を投影する(S10)。なお、決定処理を初めて行う場合には、所定の光量は、予め定められ、演算装置10に記憶されて、設定部15により設定される光量であってよい。そして、撮像部30によって、露光時間を変化させて、パターン光が投影された測定対象物OBの複数の画像を撮像する(S11)。
その後、3次元測定装置100は、演算装置10の算出部12によって、複数の画像それぞれについて、複数の特徴点を抽出し、複数の特徴点に基づいて3次元点群の位置を算出する(S12)。そして、推定部13によって、3次元点群に含まれる点の数が、撮像部30の露光時間に対してどのように変化するか推定する(S13)。推定処理(S13)の詳細については、次図を用いて説明する。
3次元測定装置100は、演算装置10の決定部14によって、推定部13の推定結果に基づいて、3次元点群に含まれる点の数が閾値以上となり、露光時間が、3次元点群に含まれる点の数の最大値に対する露光時間よりも短くなるように、撮像部30の露光時間又は投影部20の光量を決定する(S14)。なお、3次元測定装置100は、投影部20の光量を一定として、演算装置10の決定部14によって、推定部13の推定結果に基づいて、3次元点群に含まれる点の数が閾値以上となり、露光時間が、3次元点群に含まれる点の数の最大値に対する露光時間よりも短くなるように、撮像部30の露光時間を決定することとしてもよい。
3次元測定装置100は、演算装置10の設定部15によって、決定部14により決定された光量を投影部20に設定し、決定部14により決定された露光時間を撮像部30に設定する(S15)。推定部13による推定結果より露光時間を短く設定する場合には投影部20の光量を増やし、推定部13による推定結果より露光時間を長く設定する場合には投影部20の光量を減らすこととしてよい。光量の調整方法は、例えば汎用のデジタルカメラで用いられている方法であってよい。以上により、決定処理が終了する。
図4は、本実施形態に係る3次元測定装置100により実行される推定処理のフローチャートである。同図では、決定処理の中で行われる推定処理(S13)の内容の一例を示している。
推定部13は、露光時間と3次元点群に含まれる点の数との関係を、1又は複数のパラメータを含む関数によって推定する。より具体的には、露光時間をtと表し、2つのパラメータをN0及びτと表すとき、推定部13は、関数をN(t)=N0(1−exp(−t/τ))として、露光時間と3次元点群に含まれる点の数との関係を推定する。露光時間と3次元点群に含まれる点の数との関係は、複数の露光時間で測定対象物OBの複数の画像を撮影した場合に、算出される3次元点群に含まれる点の数の変化を、関数N(t)によって再現するように推定される。推定は、最小二乗法によって1又は複数のパラメータを決定することで行ってよい。
3次元測定装置100は、演算装置10の推定部13によって、露光時間tについて算出された3次元点群に含まれる点の数と、関数N(t)=N0(1−exp(−t/τ))の残差を算出する(S131)。すなわち、露光時間tで撮像された画像に基づいて算出部12により算出された3次元点群に含まれる点の数をNcalc(t)と表すとき、推定部13は、残差(Ncalc(t)−N(t))を算出する。
さらに、推定部13は、撮像部30による撮像が行われた複数の露光時間t1、t2、…、tNについて、残差の平方和を算出する(S132)。すなわち、推定部13は、Σt=t1 tN(Ncalc(t)−N(t))2を算出する。
そして、推定部13は、平方和Σt=t1 tN(Ncalc(t)−N(t))2を最小とするように、パラメータN0及びτを決定する(S133)。なお、露光時間を変化させて測定対象物の複数の画像を撮影した場合に、算出される3次元点群に含まれる点の数の最大値Nmaxに対して、推定部13は、N0=NmaxとなるようにパラメータN0を推定してよい。以上により、推定処理が終了する。
このように、1又は複数のパラメータを推定することで、3次元点群に含まれる点の数が、露光時間に対してどのように変化するかを精度良く推定することができ、露光時間を決定する処理の演算負荷を減らし、処理に要する時間を短縮できる。
また、関数N(t)=N0(1−exp(−t/τ))を仮定して、2つのパラメータN0及びτを推定することで、露光時間と3次元点群に含まれる点の数との非線形な関係を精度良く推定することができ、露光時間を決定する処理の演算負荷を減らし、処理に要する時間を短縮できる。
なお、以上の説明では、3次元点群の数が露光時間に対してどのように変化するか推定する処理の例を示したが、画像から抽出された複数の特徴点の数が露光時間に対してどのように変化するか推定する処理についても同じ関数を仮定して実行することができる。具体的には、ある露光時間tで撮像された画像に基づいて抽出される特徴点の数をn(t)と表すとき、関数n(t)=n0(1−exp(−t/τ0))を仮定して、パラメータn0及びτ0を推定することで、露光時間と特徴点の数との関係を推定することができる。
図5は、本実施形態に係る3次元測定装置100により撮像された測定対象物の複数の画像の例である。同図では、撮像部30の露光時間を0ms(ミリ秒)、20ms、40ms、60ms、80ms、100ms、120ms及び140msと変化させて8枚の画像を撮像した場合を示している。
本例の測定対象物は、バラ積みされたフランジである。図5に示されているように、露光時間が0msでは当然ながら測定対象物を確認することはできず、露光時間が20msで複数の測定対象物のうち一部の輪郭が確認でき、露光時間が40msから80msに長くなるにつれて、輪郭が確認できる測定対象物の数が増えていく。そして、露光時間が100ms以上となると、複数の測定対象物全ての輪郭、配置が確認できるようになる。
一般に、撮像部30は、人が画像の詳細を確認できる程度に十分明るい画像となるように、露光時間を自動的に設定することがある。本例から、人が画像に基づいて測定対象物の輪郭や配置を確認するためには、露光時間を100ms程度より長く設定する必要があることがわかる。そのため、従来の撮像部30は、露光時間を100ms程度より長く設定することがある。実際、汎用のカメラによって、本例と同じ照明条件で露光時間を自動設定したところ、露光時間は160msとなった。
図6は、本実施形態に係る3次元測定装置100により推定された露光時間と3次元点群に含まれる点の数との関係を示す例である。同図では、横軸に撮像部30の露光時間(Exposure time (ms))をミリ秒の単位で示し、縦軸に算出部12により算出された3次元点群の数(Number of reconstructed 3D Points)を示している。図6では、図5に示した8つの画像及び露光時間を160msとして撮像した画像に基づいて推定部13により推定された露光時間と3次元点群に含まれる点の数との関係を実線で示している。また、図6では、図5に示した8つの画像及び露光時間を160msとして撮像した画像に基づいて算出部12により算出された3次元点群の数と露光時間との関係を、破線で示している。
より具体的には、図6のうち破線で示すグラフDは、露光時間t1=0msの場合に算出された3次元点群の数Ncalc(t1)と、露光時間t2=20msの場合に算出された3次元点群の数Ncalc(t2)と、露光時間t3=40msの場合に算出された3次元点群の数Ncalc(t4)と、露光時間t4=60msの場合に算出された3次元点群の数Ncalc(t4)と、露光時間t5=80msの場合に算出された3次元点群の数Ncalc(t5)と、露光時間t6=100msの場合に算出された3次元点群の数Ncalc(t6)と、露光時間t7=120msの場合に算出された3次元点群の数Ncalc(t7)と、露光時間t8=140msの場合に算出された3次元点群の数Ncalc(t8)と、露光時間t9=160msの場合に算出された3次元点群の数Ncalc(t9)と、を直線で結んだものである。ここで、露光時間t9=160msの場合に、算出される3次元点群の数Ncalc(t9)が最大値となっている。
また、図6のうち実線で示すグラフPは、露光時間t1=0msの場合に推定される3次元点群の数N(t1)と、露光時間t2=20msの場合に推定される3次元点群の数N(t2)と、露光時間t3=40msの場合に推定される3次元点群の数N(t4)と、露光時間t4=60msの場合に推定される3次元点群の数N(t4)と、露光時間t5=80msの場合に推定される3次元点群の数N(t5)と、露光時間t6=100msの場合に推定される3次元点群の数N(t6)と、露光時間t7=120msの場合に推定される3次元点群の数N(t7)と、露光時間t8=140msの場合に推定される3次元点群の数N(t8)と、露光時間t9=160msの場合に推定される3次元点群の数N(t9)と、を直線で結んだものである。
また、図6の縦軸には、閾値Thを示している。本例では、閾値Thは12000である。図6の横軸には、決定部14により決定された露光時間Tを示している。本例では、決定部14により決定された露光時間Tは、40msである。本例の場合、決定部14は、推定部13により推定されたグラフPが、閾値Th以上となる最小の露光時間によって、露光時間Tを決定している。
ここで、閾値Thを、3次元点群に含まれる点の数の最大値Nmax(=Ncalc(t9))に対する比Aで表すと、本例の閾値Thは、A=0.99に対応する。すなわち、本例の閾値Thは、露光時間を変化させて測定対象物の複数の画像を撮影した場合に、算出される3次元点群に含まれる点の数の最大値Nmaxの99%に設定されている。ここで、3次元点群に含まれる点の数の最大値Nmaxに対する閾値Thの減少率は、1%である。このとき、決定部14は、3次元点群に含まれる点の数の最大値Nmaxを与える露光時間t9に対する決定される露光時間Tの減少率が、最大値Nmaxに対する閾値Thの減少率より大きくなるように、露光時間を決定してよい。本例の場合、決定部14は、3次元点群に含まれる点の数の最大値Nmaxを与える露光時間t9(160ms)に対する決定される露光時間T(40ms)の減少率が75%となるように、露光時間を決定している。また、決定部14は、T=τln(1/(1−A))により露光時間を決定してよい。本例の場合、A=0.99であるから、決定部14は、T≒4.6τにより露光時間を決定してよい。これにより、パラメータτを推定することで、3次元点群に含まれる点の数が閾値Thに一致する露光時間Tを単純な演算で算出することができ、露光時間を決定する処理の演算負荷を減らし、処理に要する時間を短縮できる。
図7は、本実施形態に係る3次元測定装置100により実行される3次元測定処理のフローチャートである。3次元測定処理は、決定部14により決定され、設定部15により設定された露光時間又は光量で、測定対象物OBの画像を撮影し、画像に基づいて、測定対象物OBの3次元形状を表す3次元点群の位置を算出する処理である。
はじめに、3次元測定装置100は、投影部20によって、設定部15により設定された光量で測定対象物OBにパターン光を投影する(S20)。なお、投影部20の光量は、必ずしも決定部14により決定されなくてもよく、設定部15により設定される投影部20の光量は一定であってもよい。そして、撮像部30によって、設定部15により設定された露光時間で、パターン光が投影された測定対象物OBの画像を撮像する(S21)。ここで、撮像部30は、測定対象物OBの画像を一枚撮像すればよい。
その後、3次元測定装置100は、演算装置10の算出部12によって、撮像された画像に含まれる複数の特徴点を抽出し、複数の特徴点に基づいて、3次元点群の位置を算出する(S22)。以上により、3次元測定処理が終了する。
本例の場合、撮像部30による撮像は、決定部14により決定された露光時間である40msで終えることができる。そして、演算装置10は、おおよそ130msで、取得部11により撮像部30から画像を取得し、算出部12により3次元点群の位置を算出することができる。よって、本実施形態に係る3次元測定装置100は、おおよそ170msで3次元測定処理を行うことができる。仮に、人の視認性に基づいて自動設定された露光時間を採用する場合、露光時間は160msとなるため、取得部11により画像を取得し、算出部12により3次元点群の位置を算出するために要する時間がおおよそ130msとすると、3次元測定処理を行うために290msを要することとなる。そのため、本実施形態に係る3次元測定装置100によれば、3次元測定処理に要する時間を、おおよそ半分に短縮することができる。一方で、算出される3次元点群に含まれる点の数は、1%減少するだけである。
図8は、本実施形態に係る3次元測定装置100により測定された3次元点群に含まれる点の数と露光時間との関係を示す例である。同図では、横軸に撮像部30の露光時間(Exposure time (ms))をミリ秒の単位で示し、縦軸に算出部12により算出された3次元点群の数(Number of reconstructed 3D Points)を示している。図8では、露光時間を、0msから150msまでについては10ms刻みで変化させ、200msから700msまでについては100ms刻みで変化させて測定対象物の複数の画像を撮像し、それぞれの画像について算出部12により3次元点群の位置を算出して、算出された3次元点群に含まれる点の数をプロットしている。また、図8では、推定部13により3次元点群に含まれる点の数と、露光時間との関係を推定した推定結果に現れる3つの段階(phase 1、phase 2、phase 3)を示している。
推定部13による推定結果は、露光時間が長くなるに従って3次元点群に含まれる点の数が増加する第1段階(phase 1)と、第1段階に隣接し、露光時間が長くなるに従って、3次元点群に含まれる点の数が第1段階よりも緩やかに変化し、3次元点群の数が閾値Th以上である第2段階(phase 2)と、を含む。本例では、閾値Thは12000であり、図8より、推定結果の第2段階では、算出される3次元点群に含まれる点の数が閾値Th以上となっていることが読み取れる。また、第1段階では、露光時間が長くなるに従って、3次元点群に含まれる点の数が指数的に増加しており、第2段階では、3次元点群の数が閾値Thとほとんど変わらないまま僅かに増加していることが確認できる。
決定部14は、第1段階(phase 1)と第2段階(phase 2)との境界に基づいて、露光時間Tを決定してよい。本例では、決定部14は、第1段階(phase 1)と第2段階(phase 2)との境界に一致するように、露光時間Tを決定している。このように、第1段階と第2段階との境界に基づいて露光時間を決定することで、3次元点群に含まれる点の数が閾値以上となる最短の露光時間とすることができ、撮像部30の露光時間を短縮して測定対象物の3次元形状を測定することができる。
推定部13による推定結果は、第2段階(phase 2)に隣接し、露光時間が長くなるに従って3次元点群に含まれる点の数が減少する第3段階(phase 3)をさらに含む。なお、第2段階と第3段階の間に、3次元点群に含まれる点の数について比較的小さな1又は複数のピークが現れる他の段階が含まれていてもよく、その場合、3次元点群に含まれる点の数が単調減少する段階を第3段階と定義してよい。図8より、推定結果の第3段階では、算出される3次元点群に含まれる点の数が閾値Th以下となっていることが読み取れる。また、第3段階では、露光時間が長くなるに従って、3次元点群に含まれる点の数がおおよそ放物線状に減少していることが確認できる。
また、露光時間を所定量変化させた場合における3次元点群に含まれる点の数の変化量の絶対値は、第2段階の場合に第3段階の場合よりも小さい。例えば、露光時間を100ms増加させた場合、第2段階の場合には3次元点群に含まれる点の数が僅かに増加するが、第3段階の場合には、3次元点群に含まれる点の数が2000程度減少することが読み取れる。このことは、露光時間と3次元点群に含まれる点の数との関係の傾きの絶対値が、第2段階の場合に第3段階の場合よりも小さいともいえる。
露光時間を所定量変化させた場合における3次元点群に含まれる点の数の変化量の絶対値が、第2段階の場合に第3段階の場合よりも小さいため、第2段階の場合に露光時間を変化させても、3次元点群に含まれる点の数の変化は比較的小さい。そのため、3次元点群に含まれる点の数の最大値と閾値の差が比較的小さくなるように閾値を設定することができ、3次元点群に含まれる点の数を十分に多くしながら、露光時間をより短くすることができる。
なお、以上の説明では、3次元点群の数が露光時間に対してどのように変化するか推定した結果の例を示したが、画像から抽出された複数の特徴点の数が露光時間に対してどのように変化するか推定した結果についても同様に第1段階、第2段階及び第3段階が含まれる。
§4 変形例
<4.1>
図9は、本実施形態の変形例に係る3次元測定装置100により実行される決定処理のフローチャートである。本変形例に係る3次元測定装置100は、撮像部30の露光時間を決定するために、3次元点群に含まれる数ではなく、3次元点群の位置を算出するために抽出される複数の特徴点の数を用いる点で、本実施形態に係る3次元測定装置と相違する。すなわち、本変形例に係る3次元測定装置100は、算出部12によって、撮像部30により撮像された画像に含まれる複数の特徴点を抽出し、複数の特徴点に基づいて、3次元点群の位置を算出し、決定部14によって、複数の特徴点の数が、複数の特徴点の数の最大値に基づいて定められる閾値以上となり、露光時間が、最大値に対する露光時間よりも短くなるように、露光時間を決定する。その他の構成については、本変形例に係る3次元測定装置100は、本実施形態に係る3次元測定装置と同様の構成を備える。
ここで、複数の特徴点の数の最大値に基づいて定められる閾値は、3次元点群の最大値に基づいて定められる閾値と異なっていてよいが、同じ値であってもよい。複数の特徴点の数の最大値に基づいて定められる閾値は、本変形例に係る3次元測定装置100により用いられる閾値であり、3次元点群の最大値に基づいて定められる閾値以上であってもよい。
はじめに、3次元測定装置100は、投影部20によって、所定の光量で測定対象物OBにパターン光を投影する(S30)。なお、決定処理を初めて行う場合には、所定の光量は、予め定められ、演算装置10に記憶されて、設定部15により設定される光量であってよい。そして、撮像部30によって、露光時間を変化させて、パターン光が投影された測定対象物OBの複数の画像を撮像する(S31)。
その後、3次元測定装置100は、演算装置10の算出部12によって、複数の画像それぞれについて、特徴点を抽出する(S32)。そして、推定部13によって、3次元点群に含まれる点の数が、撮像部30の露光時間に対してどのように変化するか推定する(S33)。推定処理(S33)の詳細については、図4に示したものと同様であってよい。すなわち、推定部13は、ある露光時間tで撮像された画像に基づいて抽出される特徴点の数をn(t)と表すとき、関数n(t)=n0(1−exp(−t/τ0))を仮定して、パラメータn0及びτ0を推定することで、露光時間と特徴点の数との関係を推定してよい。
3次元測定装置100は、演算装置10の決定部14によって、推定部13の推定結果に基づいて、抽出される特徴点の数が閾値以上となり、露光時間が、抽出される特徴点の数の最大値に対する露光時間よりも短くなるように、撮像部30の露光時間又は投影部20の光量を決定する(S34)。なお、3次元測定装置100は、投影部20の光量を一定として、演算装置10の決定部14によって、推定部13の推定結果に基づいて、抽出される特徴点の数が閾値以上となり、露光時間が、抽出される特徴点の数の最大値に対する露光時間よりも短くなるように、撮像部30の露光時間を決定することとしてもよい。
3次元測定装置100は、演算装置10の設定部15によって、決定部14により決定された光量を投影部20に設定するか、又は決定部14により決定された露光時間を撮像部30に設定する(S35)。推定部13による推定結果より露光時間を短く設定する場合には投影部20の光量を増やし、推定部13による推定結果より露光時間を長く設定する場合には投影部20の光量を減らすこととしてよい。光量の調整方法は、例えば汎用のデジタルカメラで用いられている方法であってよい。以上により、決定処理が終了する。
本変形例に係る3次元測定装置100によれば、3次元点群の位置を算出するために抽出される複数の特徴点の数が閾値以上となり、露光時間が、抽出される特徴点の数の最大値に対する露光時間よりも短くなるように、露光時間を決定することで、抽出される複数の特徴点の数が減少するデメリットよりも露光時間が減少するメリットを大きくして、決定処理において3次元点群の位置を算出する処理を省略することができ、3次元点群に含まれる点の数が閾値以上となるように露光時間を決定する場合よりも演算負荷を減らすことができ、露光時間を決定する処理に要する時間を短縮化できる。
以上説明した実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。実施形態が備える各要素並びにその配置、材料、条件、形状及びサイズ等は、例示したものに限定されるわけではなく適宜変更することができる。また、異なる実施形態で示した構成同士を部分的に置換し又は組み合わせることが可能である。
[付記1]
パターン光を測定対象物に投影する投影部(20)と、
前記パターン光が投影された前記測定対象物の画像を、所定の露光時間で撮像する撮像部(30)と、
前記画像に含まれる複数の特徴点を抽出し、前記複数の特徴点に基づいて、前記測定対象物の3次元形状を表す3次元点群の位置を算出する算出部(12)と、
前記複数の特徴点の数及び前記3次元点群に含まれる点の数の少なくとも一方が、前記複数の特徴点の数及び前記3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、前記露光時間が、前記最大値に対する露光時間よりも短くなるように、前記露光時間を決定する決定部(14)と、
を備える3次元測定装置(100)。
[付記2]
前記撮像部(30)は、前記露光時間を変えて複数の前記画像を撮像し、
複数の前記画像に基づいて、前記複数の特徴点の数及び前記3次元点群に含まれる点の数の少なくとも一方が、前記露光時間に対してどのように変化するかを推定する推定部(13)をさらに備え、
前記決定部(14)は、前記推定部(13)による推定結果に基づいて、前記露光時間を決定する、
付記1に記載の3次元測定装置(100)。
[付記3]
前記推定結果は、
前記露光時間が長くなるに従って前記複数の特徴点の数及び前記3次元点群に含まれる点の数が増加する第1段階と、
前記第1段階に隣接し、前記露光時間が長くなるに従って、前記複数の特徴点の数及び前記3次元点群に含まれる点の数が前記第1段階よりも緩やかに増加し、前記複数の特徴点の数及び前記3次元点群の数の少なくとも一方が前記閾値以上である第2段階と、を含み、
前記決定部(14)は、前記第1段階と前記第2段階との境界に基づいて、前記露光時間を決定する、
付記2に記載の3次元測定装置(100)。
[付記4]
前記推定結果は、前記第2段階に隣接し、前記露光時間が長くなるに従って前記複数の特徴点の数及び前記3次元点群に含まれる点の数が減少する第3段階をさらに含み、
前記露光時間を所定量変化させた場合における前記複数の特徴点の数及び前記3次元点群に含まれる点の数の変化量の絶対値は、前記第2段階の場合に前記第3段階の場合よりも小さい、
付記3に記載の3次元測定装置(100)。
[付記5]
前記推定部(13)は、前記第1段階及び前記第2段階における前記露光時間と前記複数の特徴点の数及び前記3次元点群に含まれる点の数との関係を、1又は複数のパラメータを含む関数によって推定する、
付記3又は4に記載の3次元測定装置(100)。
[付記6]
前記露光時間をtと表し、前記1又は複数のパラメータをN0及びτと表すとき、
前記推定部(13)は、前記関数をN(t)=N0(1−exp(−t/τ))として、前記第1段階及び前記第2段階における前記露光時間と前記複数の特徴点の数及び前記3次元点群に含まれる点の数との関係を推定する、
付記5に記載の3次元測定装置(100)。
[付記7]
前記第1閾値を、0より大きく1以下のAと表すとき、
前記決定部(14)は、t=τln(1/(1−A))により前記露光時間を決定する、
付記6に記載の3次元測定装置(100)。
[付記8]
前記決定部(14)は、前記複数の特徴点の数及び前記3次元点群に含まれる点の数の少なくとも一方が、前記閾値以上となり、前記露光時間が、前記最大値に対する露光時間よりも短くなるように、前記露光時間又は前記投影部(20)の光量を決定する、
付記1から7のいずれか一項に記載の3次元測定装置(100)。
[付記9]
パターン光を測定対象物に投影することと、
前記パターン光が投影された前記測定対象物の画像を、所定の露光時間で撮像することと、
前記画像に含まれる複数の特徴点を抽出し、前記複数の特徴点に基づいて、前記測定対象物の3次元形状を表す3次元点群の位置を算出することと、
前記複数の特徴点の数及び前記3次元点群に含まれる点の数の少なくとも一方が、前記複数の特徴点の数及び前記3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、前記露光時間が、前記最大値に対する露光時間よりも短くなるように、前記露光時間を決定することと、
を含む3次元測定方法。
[付記10]
パターン光を測定対象物に投影する投影部(20)及び前記パターン光が投影された前記測定対象物の画像を、所定の露光時間で撮像する撮像部(30)を備える3次元測定装置(100)に備えられた演算装置(10)を、
前記画像に含まれる複数の特徴点を抽出し、前記複数の特徴点に基づいて、前記測定対象物の3次元形状を表す3次元点群の位置を算出する算出部(12)、及び
前記複数の特徴点の数及び前記3次元点群に含まれる点の数の少なくとも一方が、前記複数の特徴点の数及び前記3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、前記露光時間が、前記最大値に対する露光時間よりも短くなるように、前記露光時間を決定する決定部(14)、
として動作させる3次元測定プログラム。
10…演算装置、10a…CPU、10b…RAM、10c…ROM、10d…通信部、10e…入力部、10f…表示部、11…取得部、12…算出部、13…推定部、14…決定部、15…設定部、20…投影部、30…撮像部、100…3次元測定装置、OB…測定対象物

Claims (10)

  1. パターン光を測定対象物に投影する投影部と、
    前記パターン光が投影された前記測定対象物の画像を、所定の露光時間で撮像する撮像部と、
    前記画像に含まれる複数の特徴点を抽出し、前記複数の特徴点に基づいて、前記測定対象物の3次元形状を表す3次元点群の位置を算出する算出部と、
    前記複数の特徴点の数及び前記3次元点群に含まれる点の数の少なくとも一方が、前記複数の特徴点の数及び前記3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、前記露光時間が、前記最大値に対する露光時間よりも短くなるように、前記露光時間を決定する決定部と、
    を備える3次元測定装置。
  2. 前記撮像部は、前記露光時間を変えて複数の前記画像を撮像し、
    複数の前記画像に基づいて、前記複数の特徴点の数及び前記3次元点群に含まれる点の数の少なくとも一方が、前記露光時間に対してどのように変化するかを推定する推定部をさらに備え、
    前記決定部は、前記推定部による推定結果に基づいて、前記露光時間を決定する、
    請求項1に記載の3次元測定装置。
  3. 前記推定結果は、
    前記露光時間が長くなるに従って前記複数の特徴点の数及び前記3次元点群に含まれる点の数が増加する第1段階と、
    前記第1段階に隣接し、前記露光時間が長くなるに従って、前記複数の特徴点の数及び前記3次元点群に含まれる点の数が前記第1段階よりも緩やかに変化し、前記複数の特徴点の数及び前記3次元点群の数の少なくとも一方が前記閾値以上である第2段階と、を含み、
    前記決定部は、前記第1段階と前記第2段階との境界に基づいて、前記露光時間を決定する、
    請求項2に記載の3次元測定装置。
  4. 前記推定結果は、前記第2段階に隣接し、前記露光時間が長くなるに従って前記複数の特徴点の数及び前記3次元点群に含まれる点の数が減少する第3段階をさらに含み、
    前記露光時間を所定量変化させた場合における前記複数の特徴点の数及び前記3次元点群に含まれる点の数の変化量の絶対値は、前記第2段階の場合に前記第3段階の場合よりも小さい、
    請求項3に記載の3次元測定装置。
  5. 前記推定部は、前記第1段階及び前記第2段階における前記露光時間と前記複数の特徴点の数及び前記3次元点群に含まれる点の数との関係を、1又は複数のパラメータを含む関数によって推定する、
    請求項3又は4に記載の3次元測定装置。
  6. 前記露光時間をtと表し、前記1又は複数のパラメータをN0及びτと表すとき、
    前記推定部は、前記関数をN(t)=N0(1−exp(−t/τ))として、前記第1段階及び前記第2段階における前記露光時間と前記複数の特徴点の数及び前記3次元点群に含まれる点の数との関係を推定する、
    請求項5に記載の3次元測定装置。
  7. 前記閾値を、0より大きく1以下のAと表すとき、
    前記決定部は、t=τln(1/(1−A))により前記露光時間を決定する、
    請求項6に記載の3次元測定装置。
  8. 前記決定部は、前記複数の特徴点の数及び前記3次元点群に含まれる点の数の少なくとも一方が、前記閾値以上となり、前記露光時間が、前記最大値に対する露光時間よりも短くなるように、前記露光時間又は前記投影部の光量を決定する、
    請求項1から7のいずれか一項に記載の3次元測定装置。
  9. パターン光を測定対象物に投影することと、
    前記パターン光が投影された前記測定対象物の画像を、所定の露光時間で撮像することと、
    前記画像に含まれる複数の特徴点を抽出し、前記複数の特徴点に基づいて、前記測定対象物の3次元形状を表す3次元点群の位置を算出することと、
    前記複数の特徴点の数及び前記3次元点群に含まれる点の数の少なくとも一方が、前記複数の特徴点の数及び前記3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、前記露光時間が、前記最大値に対する露光時間よりも短くなるように、前記露光時間を決定することと、
    を含む3次元測定方法。
  10. パターン光を測定対象物に投影する投影部及び前記パターン光が投影された前記測定対象物の画像を、所定の露光時間で撮像する撮像部を備える3次元測定装置に備えられた演算装置を、
    前記画像に含まれる複数の特徴点を抽出し、前記複数の特徴点に基づいて、前記測定対象物の3次元形状を表す3次元点群の位置を算出する算出部、及び
    前記複数の特徴点の数及び前記3次元点群に含まれる点の数の少なくとも一方が、前記複数の特徴点の数及び前記3次元点群に含まれる点の数のいずれか一方の最大値に基づいて定められる閾値以上となり、前記露光時間が、前記最大値に対する露光時間よりも短くなるように、前記露光時間を決定する決定部、
    として動作させる3次元測定プログラム。
JP2018019998A 2018-02-07 2018-02-07 3次元測定装置、3次元測定方法及び3次元測定プログラム Active JP6770254B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2018019998A JP6770254B2 (ja) 2018-02-07 2018-02-07 3次元測定装置、3次元測定方法及び3次元測定プログラム
PCT/JP2019/003333 WO2019155974A1 (ja) 2018-02-07 2019-01-31 3次元測定装置、3次元測定方法及び3次元測定プログラム
CN201980007537.1A CN111566439B (zh) 2018-02-07 2019-01-31 三维测定装置、三维测定方法以及三维测定存储介质
EP19750701.5A EP3751230B1 (en) 2018-02-07 2019-01-31 Three-dimensional measurement device, three-dimensional measurement method, and three-dimensional measurement program
US16/963,247 US11313676B2 (en) 2018-02-07 2019-01-31 Three-dimensional measurement apparatus, three-dimensional measurement method, and three-dimensional measurement non-transitory computer readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018019998A JP6770254B2 (ja) 2018-02-07 2018-02-07 3次元測定装置、3次元測定方法及び3次元測定プログラム

Publications (2)

Publication Number Publication Date
JP2019138686A JP2019138686A (ja) 2019-08-22
JP6770254B2 true JP6770254B2 (ja) 2020-10-14

Family

ID=67548464

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018019998A Active JP6770254B2 (ja) 2018-02-07 2018-02-07 3次元測定装置、3次元測定方法及び3次元測定プログラム

Country Status (5)

Country Link
US (1) US11313676B2 (ja)
EP (1) EP3751230B1 (ja)
JP (1) JP6770254B2 (ja)
CN (1) CN111566439B (ja)
WO (1) WO2019155974A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021117136A1 (ja) * 2019-12-10 2021-06-17 オリンパス株式会社 撮像システム及び内視鏡システム
US20240255415A1 (en) * 2023-01-31 2024-08-01 Lawrence Livermore National Security, Llc Optimal parameter selection for structured light metrology
WO2024166602A1 (ja) * 2023-02-07 2024-08-15 株式会社キーエンス 三次元測定装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006275555A (ja) * 2005-03-28 2006-10-12 Canon Inc 表面形状測定方法、表面形状測定装置、露光方法、及び露光装置
JP2007271530A (ja) * 2006-03-31 2007-10-18 Brother Ind Ltd 3次元形状検出装置及び3次元形状検出方法
US9633426B2 (en) * 2014-05-30 2017-04-25 General Electric Company Remote visual inspection image capture system and method
JP5256745B2 (ja) * 2008-01-17 2013-08-07 株式会社ニコン 三次元形状計測装置
WO2013035847A1 (ja) * 2011-09-09 2013-03-14 株式会社ニコン 形状測定装置、構造物製造システム、形状測定方法、構造物製造方法、形状測定プログラム、コンピュータ読み取り可能な記録媒体
US10368053B2 (en) 2012-11-14 2019-07-30 Qualcomm Incorporated Structured light active depth sensing systems combining multiple images to compensate for differences in reflectivity and/or absorption
US8929644B2 (en) * 2013-01-02 2015-01-06 Iowa State University Research Foundation 3D shape measurement using dithering
WO2015023483A1 (en) * 2013-08-06 2015-02-19 Smart Picture Technology, Inc. 3d mapping device for modeling of imaged objects using camera position and pose to obtain accuracy with reduced processing requirements
CN104270575B (zh) * 2014-10-22 2017-12-12 中国科学院光电研究院 成像光谱仪自适应调整曝光时间的方法及装置
WO2016113861A1 (ja) * 2015-01-14 2016-07-21 株式会社ニコン 三次元形状測定装置、三次元形状測定方法、構造物製造システム、構造物製造方法、及び測定プログラム
JP6493787B2 (ja) * 2015-01-19 2019-04-03 株式会社リコー 撮像装置、撮像方法及び撮像動作制御プログラム
JP6566737B2 (ja) * 2015-06-18 2019-08-28 キヤノン株式会社 情報処理装置、情報処理方法、プログラム
CN105651203B (zh) * 2016-03-16 2018-09-04 广东工业大学 一种自适应条纹亮度的高动态范围三维形貌测量方法
JP6691838B2 (ja) * 2016-06-27 2020-05-13 株式会社キーエンス 測定装置
JP6772630B2 (ja) * 2016-07-29 2020-10-21 セイコーエプソン株式会社 三次元計測装置及び三次元物体認識方法
CN106454149B (zh) * 2016-11-29 2019-03-19 Oppo广东移动通信有限公司 图像拍摄方法、装置及终端设备

Also Published As

Publication number Publication date
EP3751230A4 (en) 2021-10-27
WO2019155974A1 (ja) 2019-08-15
EP3751230B1 (en) 2022-05-04
EP3751230A1 (en) 2020-12-16
US11313676B2 (en) 2022-04-26
US20210356259A1 (en) 2021-11-18
CN111566439A (zh) 2020-08-21
JP2019138686A (ja) 2019-08-22
CN111566439B (zh) 2021-09-21

Similar Documents

Publication Publication Date Title
US10430962B2 (en) Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, and storage medium that calculate a three-dimensional shape of an object by capturing images of the object from a plurality of directions
CN109565551B (zh) 对齐于参考帧合成图像
JP6770254B2 (ja) 3次元測定装置、3次元測定方法及び3次元測定プログラム
JP6420572B2 (ja) 計測装置およびその方法
KR100543801B1 (ko) 의사 3차원 영상 발생 장치
US10078907B2 (en) Distance measurement apparatus, distance measurement method, and storage medium
US10240913B2 (en) Three-dimensional coordinate measuring apparatus and three-dimensional coordinate measuring method
CN107517346B (zh) 基于结构光的拍照方法、装置及移动设备
JP6337614B2 (ja) 制御装置、ロボット、及び制御方法
US10378886B2 (en) Three dimensional measurement apparatus, control method for three dimensional measurement apparatus, and storage medium
US10726569B2 (en) Information processing apparatus, information processing method, and non-transitory computer-readable storage medium
JP2015184056A (ja) 計測装置、方法及びプログラム
US11100677B2 (en) Information processing device, information processing method and recording medium
JP2014115108A (ja) 距離計測装置
Khan et al. High-density single shot 3D sensing using adaptable speckle projection system with varying preprocessing
JP2022022326A (ja) 3次元形状計測装置、3次元形状計測方法、プログラム及び記録媒体
JP2017134561A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP5740370B2 (ja) 領域特定装置、方法、及びプログラム
JPWO2018012524A1 (ja) 投影装置、投影方法および投影制御プログラム
JP7286268B2 (ja) 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体
CN107515844B (zh) 字体设置方法、装置及移动设备
JP6478492B2 (ja) 画像処理装置およびその方法
US10074189B2 (en) Image processing apparatus, image processing method, and storage medium
Veitch-Michaelis et al. Enhancement of stereo imagery by artificial texture projection generated using a LIDAR
Liu et al. Three-dimensional measurement for specular reflection object based on adaptive fringe projection and phase measuring profilometry

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200310

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200826

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200908

R150 Certificate of patent or registration of utility model

Ref document number: 6770254

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150