JP2021162510A - Three-dimensional measuring device - Google Patents

Three-dimensional measuring device Download PDF

Info

Publication number
JP2021162510A
JP2021162510A JP2020066152A JP2020066152A JP2021162510A JP 2021162510 A JP2021162510 A JP 2021162510A JP 2020066152 A JP2020066152 A JP 2020066152A JP 2020066152 A JP2020066152 A JP 2020066152A JP 2021162510 A JP2021162510 A JP 2021162510A
Authority
JP
Japan
Prior art keywords
light
measuring device
pattern image
luminance value
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020066152A
Other languages
Japanese (ja)
Other versions
JP7488451B2 (en
Inventor
太一 丸谷
Taichi Maruya
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Wave Inc
Original Assignee
Denso Wave Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Wave Inc filed Critical Denso Wave Inc
Priority to JP2020066152A priority Critical patent/JP7488451B2/en
Publication of JP2021162510A publication Critical patent/JP2021162510A/en
Application granted granted Critical
Publication of JP7488451B2 publication Critical patent/JP7488451B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

To provide a striped pattern image determination method capable of determining a striped pattern image facilitating measurement of a three-dimensional shape of a measurement object with high accuracy in a short time.SOLUTION: A three-dimensional measuring device for measuring the three-dimensional shape of an object to be measured using a phase shift method, which includes a projector for projecting a striped pattern image and a camera. The three-dimensional measuring device includes: a polarizer that polarizes light projected by the projector into linear polarized light; a detector that selectively passes the light from reflected light in at least four vibration directions; a luminance value acquisition unit that acquires the brightness value of light that has passed through the detector (S12); a luminance component calculation unit (S13) that calculates the fluctuation range of the brightness value due to the difference in the vibration direction of the light passed through the detector and the base value of brightness value regardless of the difference in vibration direction of light passed by the detector based on the acquired brightness value; and a shape calculation unit (S14) that compares the fluctuation range with the base value, and calculates the three-dimensional shape of the object to be measured using the smaller one as the brightness value for shape calculation.SELECTED DRAWING: Figure 6

Description

位相シフト法により物体の三次元形状を計測する三次元計測装置に関する。 The present invention relates to a three-dimensional measuring device that measures a three-dimensional shape of an object by a phase shift method.

特許文献1に開示されているように、計測対象物の三次元形状を計測する三次元計測装置として、位相シフト法を用いる装置が知られている。位相シフト法では位相をずらした複数枚の縞パターン画像を投影し、縞パターン画像が投影された計測対象物を撮影する。そして、計測対象物の各点の輝度をもとに、三角測量の原理で計測対象物の各点の座標を決定する。 As disclosed in Patent Document 1, a device using the phase shift method is known as a three-dimensional measuring device for measuring the three-dimensional shape of a measurement object. In the phase shift method, a plurality of fringe pattern images with different phases are projected, and the measurement object on which the fringe pattern images are projected is photographed. Then, based on the brightness of each point of the measurement object, the coordinates of each point of the measurement object are determined by the principle of triangulation.

特開2014−202492号公報Japanese Unexamined Patent Publication No. 2014-202492

計測対象物が鏡面物体であると、計測対象物を撮影した画像が白飛びする可能性がある。撮影画像が白飛びしてしまうと、位相シフト法による三次元形状の測定精度が低下する。 If the object to be measured is a mirror object, the image of the object to be measured may be overexposed. If the captured image is overexposed, the measurement accuracy of the three-dimensional shape by the phase shift method is lowered.

また、計測対象物が半透明物体であると、表面で光が反射せず、内部反射が検出されることがある。内部反射光に基づいて三次元形状を計測してしまうと、三次元形状の測定精度が低下してしまう。 Further, when the object to be measured is a translucent object, light may not be reflected on the surface and internal reflection may be detected. If the three-dimensional shape is measured based on the internally reflected light, the measurement accuracy of the three-dimensional shape is lowered.

本開示は、この事情に基づいて成されたものであり、その目的は、精度よく計測対象物の三次元形状を計測できる三次元計測装置を提供することにある。 The present disclosure has been made based on this circumstance, and an object of the present invention is to provide a three-dimensional measuring device capable of accurately measuring a three-dimensional shape of a measurement object.

上記目的は独立請求項に記載の特徴の組み合わせにより達成され、また、下位請求項は更なる有利な具体例を規定する。特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、開示した技術的範囲を限定するものではない。 The above object is achieved by a combination of the features described in the independent claims, and the sub-claims provide further advantageous specific examples. The reference numerals in parentheses described in the claims indicate, as one embodiment, the correspondence with the specific means described in the embodiments described later, and do not limit the disclosed technical scope.

上記目的を達成するための三次元計測装置は、
縞パターン画像を投影するプロジェクタ(20)と、
計測対象物(5)に投影された縞パターン画像を撮影するカメラ(40、140)とを備え、
カメラが撮影した画像の輝度値に基づいて、位相シフト法により計測対象物の三次元形状を計測する三次元計測装置であって、
プロジェクタが投影した光を直線偏光にする偏光子(30)と、
縞パターン画像が表された光が計測対象物によって反射された反射光から、少なくとも4つの振動方向の光を選択的に通過させる検光子(41、141)と、
検光子を通過してカメラにより検出された光の輝度値を取得する輝度値取得部(S12)と、
輝度値取得部が取得した輝度値に基づき、検光子が通過させる光の振動方向の違いによる輝度値の変動幅と、検光子が通過させる光の振動方向の違いによらない輝度値のベース値とを算出する輝度成分算出部(S13)と、
変動幅とベース値とを比較して、小さい方を形状計算用の輝度値として用いて計測対象物の三次元形状を算出する形状算出部(S14)と、を備える。
The three-dimensional measuring device for achieving the above purpose is
A projector (20) that projects a striped pattern image and
It is equipped with a camera (40, 140) that captures a striped pattern image projected on the measurement object (5).
It is a three-dimensional measuring device that measures the three-dimensional shape of the object to be measured by the phase shift method based on the brightness value of the image taken by the camera.
A polarizer (30) that converts the light projected by the projector into linearly polarized light,
An detector (41, 141) that selectively passes light in at least four vibration directions from the reflected light reflected by the object to be measured, and the light representing the fringe pattern image.
A luminance value acquisition unit (S12) that acquires a luminance value of light that has passed through an detector and is detected by a camera, and a luminance value acquisition unit (S12).
Based on the brightness value acquired by the brightness value acquisition unit, the fluctuation range of the brightness value due to the difference in the vibration direction of the light passed by the analyzer and the base value of the brightness value regardless of the difference in the vibration direction of the light passed by the detector. Luminance component calculation unit (S13) that calculates
It is provided with a shape calculation unit (S14) that compares the fluctuation width with the base value and uses the smaller one as the brightness value for shape calculation to calculate the three-dimensional shape of the object to be measured.

この三次元計測装置は、直線偏光を計測対象物に投影する。したがって、計測対象物からの鏡面反射成分の振動方向は特定の方向になる。また、この三次元計測装置は、反射光から、少なくとも4つの振動方向の光を選択的に通過させる検光子を備えている。検光子が、振動方向が異なる光を選択的に通過させるので、検光子を通過した光のうち、鏡面反射成分は、検光子が通過させる光の振動方向に応じて輝度が相違する。 This three-dimensional measuring device projects linearly polarized light onto the object to be measured. Therefore, the vibration direction of the specular reflection component from the measurement object is a specific direction. Further, this three-dimensional measuring device includes an analyzer that selectively passes light in at least four vibration directions from the reflected light. Since the photon selectively passes light having a different vibration direction, the specular reflection component of the light passing through the photon has a different brightness depending on the vibration direction of the light passed by the photon.

一方、計測対象物からの反射光には拡散反射成分が含まれる。拡散反射成分には、電場の振動方向が種々の方向を持つ光が含まれている。換言すれば、拡散反射成分は、光の振動方向によらず、ほぼ一定と考えることができる。よって、反射光の拡散反射成分は、検光子が通過させる光の振動方向によらず、ほぼ同一になる。 On the other hand, the reflected light from the object to be measured contains a diffuse reflection component. The diffuse reflection component includes light having various directions of vibration of the electric field. In other words, the diffuse reflection component can be considered to be substantially constant regardless of the vibration direction of the light. Therefore, the diffuse reflection component of the reflected light is substantially the same regardless of the vibration direction of the light passed by the detector.

これらのことから、4つ以上の振動方向について検光子を通過した輝度値を比較した場合の変動幅が、反射光の鏡面反射成分の大きさであると考えることができる。また、4つ以上の振動方向について検光子を通過した輝度値を比較した場合の、検光子が通過させる振動方向によらない部分であるベース値が、反射光の拡散反射成分であると考えることができる。 From these facts, it can be considered that the fluctuation range when comparing the brightness values that have passed through the analyzer for four or more vibration directions is the magnitude of the specular reflection component of the reflected light. Further, when comparing the brightness values that have passed through the detector for four or more vibration directions, it is considered that the base value, which is a portion that does not depend on the vibration direction that the detector passes through, is the diffuse reflection component of the reflected light. Can be done.

計測対象物が鏡面物体であれば、鏡面反射成分を使ってしまうと、その値が飽和していることがあるので、輝度値が三次元形状を反映していない。そこで、拡散反射成分の輝度値を表すベース値を使う。鏡面物体であれば、鏡面反射成分を表す輝度値の変動幅よりも、拡散反射成分を表す輝度値のベース値の方が小さい。 If the object to be measured is a mirror-finished object, the brightness value does not reflect the three-dimensional shape because the value may be saturated if the specular reflection component is used. Therefore, a base value representing the brightness value of the diffuse reflection component is used. In the case of a mirror-finished object, the base value of the luminance value representing the diffuse reflection component is smaller than the fluctuation range of the luminance value representing the specular reflection component.

また、計測対象物が半透明物体である場合、計測対象物の内部で拡散反射が生じることがある。したがって、計測対象物が半透明物体である場合、輝度値の拡散反射成分は三次元形状を正確に表していない。そこで、計測対象物が半透明物体であれば、鏡面反射成分を使うことが好ましい。鏡面反射成分は変動幅であり、計測対象物が半透明物体である場合、変動幅はベース値よりも小さい。 Further, when the object to be measured is a translucent object, diffuse reflection may occur inside the object to be measured. Therefore, when the object to be measured is a translucent object, the diffuse reflection component of the luminance value does not accurately represent the three-dimensional shape. Therefore, if the object to be measured is a translucent object, it is preferable to use a specular reflection component. The specular reflection component is a fluctuation range, and when the object to be measured is a translucent object, the fluctuation range is smaller than the base value.

次に、計測対象物が鏡面物体ではないが半透明物体でもない物体(以下、通常物体)である場合を考える。通常物体は、物体表面での拡散反射が反射光の主成分となる物体である。通常物体については、三次元形状を計測する輝度値に、反射光の鏡面反射成分を使っても、拡散反射成分を使ってもよい。 Next, consider the case where the object to be measured is an object that is neither a mirror object but a translucent object (hereinafter, a normal object). An ordinary object is an object whose diffuse reflection on the surface of the object is the main component of the reflected light. For a normal object, the specular reflection component of the reflected light may be used or the diffuse reflection component may be used for the brightness value for measuring the three-dimensional shape.

ただし、拡散反射成分は、表面拡散成分であるか内部拡散反射成分であるかは区別できない。鏡面反射成分を使えば、その区別を必要としないので、通常物体については、鏡面反射成分を使えばよいことになる。通常物体では、鏡面反射成分のほうが拡散反射成分よりも小さいと考えられる。 However, it is not possible to distinguish whether the diffuse reflection component is a surface diffusion component or an internal diffusion reflection component. If the specular reflection component is used, it is not necessary to distinguish between them. Therefore, for a normal object, the specular reflection component can be used. In a normal object, the specular reflection component is considered to be smaller than the diffuse reflection component.

以上をまとめると、計測対象物が、鏡面物体であっても、半透明物体であっても、通常物体であっても、変動幅とベース値を比較して、小さい方を形状計算用の輝度値として用いればよいことになる。 Summarizing the above, regardless of whether the object to be measured is a mirror object, a translucent object, or a normal object, the fluctuation width and the base value are compared, and the smaller one is the brightness for shape calculation. It can be used as a value.

形状算出部は、変動幅とベース値とを比較して、小さい方を形状計算用の輝度値として用いて計測対象物の三次元形状を算出する。よって、計測対象物の表面性状によらず、精度よく三次元形状を算出することができる。 The shape calculation unit compares the fluctuation width with the base value and calculates the three-dimensional shape of the object to be measured by using the smaller one as the brightness value for shape calculation. Therefore, the three-dimensional shape can be calculated accurately regardless of the surface texture of the object to be measured.

また、計測対象物が鏡面物体である場合には、次の三次元計測装置によっても目的を達成することができる。すなわち、
鏡面物体の三次元形状を位相シフト法により計測する三次元計測装置であって、
縞パターン画像を投影するプロジェクタ(20)と、
計測対象物(5)に投影された縞パターン画像を撮影するカメラ(40、140)と、
プロジェクタが投影した光を直線偏光にする偏光子(30)と、
縞パターン画像が表された光が計測対象物によって反射された反射光から、少なくとも4つの振動方向の光を選択的に通過させる検光子(41、141)と、
検光子を通過してカメラにより検出された光の輝度値を取得する輝度値取得部(S12)と、
輝度値取得部が取得した輝度値に基づき、検光子が通過させる光の振動方向の違いによらない輝度値のベース値を算出する輝度成分算出部(S23)と、
輝度成分算出部が算出したベース値を形状計算用の輝度値として用いて計測対象物の三次元形状を算出する形状算出部(S24)と、を備える。
Further, when the object to be measured is a mirror object, the purpose can be achieved by the following three-dimensional measuring device. That is,
A three-dimensional measuring device that measures the three-dimensional shape of a mirrored object by the phase shift method.
A projector (20) that projects a striped pattern image and
Cameras (40, 140) that capture the striped pattern image projected on the measurement object (5), and
A polarizer (30) that converts the light projected by the projector into linearly polarized light,
An detector (41, 141) that selectively passes light in at least four vibration directions from the reflected light reflected by the object to be measured, and the light representing the fringe pattern image.
A luminance value acquisition unit (S12) that acquires a luminance value of light that has passed through an detector and is detected by a camera, and a luminance value acquisition unit (S12).
A luminance component calculation unit (S23) that calculates a base value of the luminance value based on the luminance value acquired by the luminance value acquisition unit regardless of the difference in the vibration direction of the light passed by the analyzer.
A shape calculation unit (S24) for calculating the three-dimensional shape of the object to be measured by using the base value calculated by the brightness component calculation unit as the brightness value for shape calculation is provided.

計測対象物が鏡面物体であることが分かっている場合には、この三次元計測装置のように、輝度値のベース値と変動幅の比較を省略し、輝度値のベース値を形状計算用の輝度値として用いて計測対象物の三次元形状を計測することができる。この三次元計測装置も、輝度値のベース値を形状計算用の輝度値として用いて計測対象物の三次元形状を算出しているので、精度よく、鏡面物体の三次元形状を算出することができる。 When it is known that the object to be measured is a mirror object, the comparison between the base value of the brightness value and the fluctuation width is omitted as in this three-dimensional measuring device, and the base value of the brightness value is used for shape calculation. The three-dimensional shape of the object to be measured can be measured by using it as a brightness value. This three-dimensional measuring device also uses the base value of the brightness value as the brightness value for shape calculation to calculate the three-dimensional shape of the object to be measured, so that the three-dimensional shape of the mirrored object can be calculated accurately. can.

また、計測対象物が半透明物体である場合には、次の三次元計測装置によっても目的を達成することができる。すなわち、
半透明物体の三次元形状を位相シフト法により計測する三次元計測装置であって、
縞パターン画像を投影するプロジェクタ(20)と、
計測対象物(5)に投影された縞パターン画像を撮影するカメラ(40、140)と、
プロジェクタが投影した光を直線偏光にする偏光子(30)と、
縞パターン画像が表された光が計測対象物によって反射された反射光から、少なくとも4つの振動方向の光を選択的に通過させる検光子(41、141)と、
検光子を通過してカメラにより検出された光の輝度値を取得する輝度値取得部(S12)と、
輝度値取得部が取得した輝度値に基づき、検光子が通過させる光の振動方向の違いによる輝度値の変動幅を算出する輝度成分算出部(S33)と、
輝度成分算出部が算出した変動幅を形状計算用の輝度値として用いて計測対象物の三次元形状を算出する形状算出部(S34)と、を備える。
Further, when the object to be measured is a translucent object, the purpose can be achieved by the following three-dimensional measuring device. That is,
A three-dimensional measuring device that measures the three-dimensional shape of a translucent object by the phase shift method.
A projector (20) that projects a striped pattern image and
Cameras (40, 140) that capture the striped pattern image projected on the measurement object (5), and
A polarizer (30) that converts the light projected by the projector into linearly polarized light,
An detector (41, 141) that selectively passes light in at least four vibration directions from the reflected light reflected by the object to be measured, and the light representing the fringe pattern image.
A luminance value acquisition unit (S12) that acquires a luminance value of light that has passed through an detector and is detected by a camera, and a luminance value acquisition unit (S12).
Based on the luminance value acquired by the luminance value acquisition unit, the luminance component calculation unit (S33) that calculates the fluctuation range of the luminance value due to the difference in the vibration direction of the light passed by the analyzer, and the luminance component calculation unit (S33).
A shape calculation unit (S34) for calculating the three-dimensional shape of the object to be measured by using the fluctuation width calculated by the brightness component calculation unit as the brightness value for shape calculation is provided.

計測対象物が半透明物体であることが分かっている場合には、この三次元計測装置のように、輝度値のベース値と変動幅の比較を省略し、輝度値の変動幅を形状計算用の輝度値として用いて計測対象物の三次元形状を計測することができる。この三次元計測装置も、輝度値の変動幅を形状計算用の輝度値として用いて計測対象物の三次元形状を算出しているので、精度よく、半透明物体の三次元形状を算出することができる。 When it is known that the object to be measured is a translucent object, the comparison between the base value of the brightness value and the fluctuation width is omitted and the fluctuation width of the brightness value is used for shape calculation as in this three-dimensional measuring device. The three-dimensional shape of the object to be measured can be measured by using it as the brightness value of. This three-dimensional measuring device also calculates the three-dimensional shape of the object to be measured by using the fluctuation range of the brightness value as the brightness value for shape calculation, so that the three-dimensional shape of the translucent object can be calculated accurately. Can be done.

また、三次元計測装置において、カメラ(40)は、互いに通過させる光の振動方向が相違する4種類の検光子(41)を備えた偏光カメラとすることができる。偏光カメラを備える場合、カメラよりも光路の手前に検光子を別途配置する必要がない。 Further, in the three-dimensional measuring device, the camera (40) can be a polarized camera provided with four types of detectors (41) having different vibration directions of the light passing through each other. When a polarized camera is provided, it is not necessary to separately arrange an analyzer in front of the optical path of the camera.

また、三次元計測装置において、検光子(141)は、反射光の光路においてカメラ(140)の前に配置されていてもよい。このようにすれば、偏光カメラではないカメラを用いることができる。 Further, in the three-dimensional measuring device, the analyzer (141) may be arranged in front of the camera (140) in the optical path of the reflected light. In this way, a camera other than a polarized camera can be used.

実施形態の三次元計測装置1の構成を示す図。The figure which shows the structure of the 3D measuring apparatus 1 of embodiment. 縞パターン画像を示す図。The figure which shows the stripe pattern image. カメラ40が備える検光子41の繰り返し単位を示す図。The figure which shows the repeating unit of the analyzer 41 included in the camera 40. 検光子41の配列の一部を示す図。The figure which shows a part of the arrangement of the analyzer 41. カメラ40が備えるカラーフィルタを示す図。The figure which shows the color filter provided in the camera 40. 第1実施形態における三次元形状を計測する処理を示す図。The figure which shows the process of measuring a three-dimensional shape in 1st Embodiment. 偏光角度と光検出素子が検出する光強度との関係を示す図。The figure which shows the relationship between the polarization angle and the light intensity detected by a photodetection element. 水平座標(xm、ym)の算出方法を説明する図である。It is a figure explaining the calculation method of the horizontal coordinates (xm, ym). 第2実施形態における三次元形状を計測する処理を示す図。The figure which shows the process of measuring a three-dimensional shape in 2nd Embodiment. 第3実施形態における三次元形状を計測する処理を示す図。The figure which shows the process of measuring a three-dimensional shape in 3rd Embodiment. 第4実施形態の三次元計測装置100の構成を示す図。The figure which shows the structure of the 3D measuring apparatus 100 of 4th Embodiment.

<第1実施形態>
以下、実施形態を図面に基づいて説明する。図1は、第1実施形態の三次元計測装置1の構成を示す図である。三次元計測装置1は、制御装置10と、プロジェクタ20と、偏光子30と、カメラ40とを備えている。三次元計測装置1は、作業台2の上に置かれた計測対象物5の三次元形状を位相シフト法により計測する。作業台2の上面は平面であり、作業台2の任意の位置に計測対象物5が位置する。三次元計測装置1は、たとえば、ロボットにピッキング、組付け作業、製品検査等を行わせる際のロボットの目として利用する。
<First Embodiment>
Hereinafter, embodiments will be described with reference to the drawings. FIG. 1 is a diagram showing a configuration of the three-dimensional measuring device 1 of the first embodiment. The three-dimensional measuring device 1 includes a control device 10, a projector 20, a polarizer 30, and a camera 40. The three-dimensional measuring device 1 measures the three-dimensional shape of the measurement object 5 placed on the work table 2 by the phase shift method. The upper surface of the workbench 2 is a flat surface, and the measurement object 5 is located at an arbitrary position on the workbench 2. The three-dimensional measuring device 1 is used, for example, as the eyes of the robot when the robot is made to perform picking, assembling work, product inspection, and the like.

制御装置10は、コンピュータを備えたものとすることができる。制御装置10は、プロジェクタ20が投影する画像のデータとなる画像データを生成してプロジェクタ20へ出力する。プロジェクタ20が投影する画像には、縞パターン画像がある。 The control device 10 may be equipped with a computer. The control device 10 generates image data which is the data of the image projected by the projector 20 and outputs the image data to the projector 20. The image projected by the projector 20 includes a striped pattern image.

また、制御装置10は、プロジェクタ20から縞パターン画像が計測対象物5に投影された状態で、カメラ40が撮影した画像を表す画像データを取得する。そして、その画像データをもとに位相シフト法により、計測対象物5の三次元形状を計測する。 Further, the control device 10 acquires image data representing an image taken by the camera 40 in a state where the striped pattern image is projected from the projector 20 onto the measurement object 5. Then, the three-dimensional shape of the measurement object 5 is measured by the phase shift method based on the image data.

図2に縞パターン画像を示す。本実施形態の縞パターン画像は、カラーの縞パターン画像である。なお、これとは異なり、単色の縞パターン画像を投影してもよい。図2に示す縞パターン画像は、詳しくは、赤、緑、青ともに、0から255までの輝度範囲で輝度を変化させた3色の単色縞パターン画像を合成した合成縞パターン画像である。 FIG. 2 shows a striped pattern image. The striped pattern image of the present embodiment is a color striped pattern image. In addition, unlike this, a monochromatic striped pattern image may be projected. The fringe pattern image shown in FIG. 2 is, in detail, a composite fringe pattern image obtained by synthesizing a three-color monochromatic fringe pattern image in which the brightness is changed in the brightness range from 0 to 255 for all of red, green, and blue.

単色縞パターン画像は、赤、緑、青のいずれか1色の輝度が画像の一方向には正弦波状に変化し、その一方向と直交する方向は輝度が一定である画像である。合成縞パターン画像は、3色の単色縞パターン画像の位相が所定の角度だけずれている。 The monochromatic striped pattern image is an image in which the brightness of any one of red, green, and blue changes in a sinusoidal manner in one direction of the image, and the brightness is constant in the direction orthogonal to the one direction. In the composite fringe pattern image, the phases of the three-color single-color fringe pattern image are shifted by a predetermined angle.

一例としては、赤色の単色縞パターン画像の位相が最も進んでおり、緑色の単色縞パターン画像の位相がそれよりも2π/3遅れている。青色の単色縞パターン画像は、緑色の単色縞パターン画像よりもさらに2π/3だけ位相が遅れている。縞パターン画像は、赤、緑、青の単色縞パターン画像が均等に含まれる画像であるため、x画素座標の変化に伴い虹状に色が変化する。 As an example, the phase of the red monochromatic stripe pattern image is the most advanced, and the phase of the green monochromatic stripe pattern image is 2π / 3 behind that. The blue monochromatic stripe pattern image is further out of phase by 2π / 3 from the green monochromatic stripe pattern image. Since the striped pattern image is an image in which red, green, and blue monochromatic striped pattern images are evenly included, the color changes in a rainbow shape as the x-pixel coordinates change.

プロジェクタ20は、カラー画像を投影可能なプロジェクタである。プロジェクタ20が投影する縞パターン画像は、偏光子30を通過して計測対象物5に投影される。偏光子30は、プロジェクタ20が投影した光を直線偏光にする。偏光子30による偏光方向は特に制限はない。 The projector 20 is a projector capable of projecting a color image. The striped pattern image projected by the projector 20 passes through the polarizer 30 and is projected onto the measurement object 5. The polarizer 30 converts the light projected by the projector 20 into linearly polarized light. The polarization direction by the polarizer 30 is not particularly limited.

カメラ40は、カラー画像を撮影可能なデジタルカメラであり、フォトダイオードなどの光検出素子(すなわち画素)を受光面に縦横に多数備えている。カメラ40は偏光カメラになっている。偏光カメラであるカメラ40は、撮像素子よりも光路手前に、図3に示す検光子41を備える。図3には、検光子41の繰り返し単位を示している。検光子41は、詳しくは、互いに通過する光の振動方向が異なる4種類の検光子41a、41b、41c、41dに分かれる。これら4種類の検光子41a、41b、41c、41dを区別しないときは検光子41と記載する。 The camera 40 is a digital camera capable of capturing a color image, and is provided with a large number of photodetecting elements (that is, pixels) such as a photodiode on the light receiving surface in the vertical and horizontal directions. The camera 40 is a polarized camera. The camera 40, which is a polarized camera, includes the analyzer 41 shown in FIG. 3 in front of the optical path of the image sensor. FIG. 3 shows a repeating unit of the analyzer 41. Specifically, the detector 41 is divided into four types of detectors 41a, 41b, 41c, and 41d, which have different vibration directions of the light passing through each other. When these four types of detectors 41a, 41b, 41c, and 41d are not distinguished, they are described as detector 41.

本実施形態の4種類の検光子41a、41b、41c、41dは、通過する光の振動方向の角度差が、いずれも45度で等しくなっている。検光子41aを通過する光の振動方向を0度とすると、検光子41bを通過する光の振動方向は45度、検光子41cを通過する光の振動方向は90度、検光子41dを通過する光の振動方向は135度である。 The four types of detectors 41a, 41b, 41c, and 41d of the present embodiment have the same angular difference in the vibration direction of the passing light at 45 degrees. Assuming that the vibration direction of the light passing through the detector 41a is 0 degrees, the vibration direction of the light passing through the detector 41b is 45 degrees, the vibration direction of the light passing through the detector 41c is 90 degrees, and the light passing through the detector 41d is passed. The vibration direction of light is 135 degrees.

図4には検光子41の配列の一部を示す。図4に示すように、4種類の検光子41を各1つずつ含む繰り返し単位が、縦横に連続して配列されている。この検光子41と光検出素子の間に図5に示すRGBカラーフィルタが配置されている。 FIG. 4 shows a part of the arrangement of the analyzer 41. As shown in FIG. 4, repeating units containing four types of detectors 41, one for each, are arranged continuously in the vertical and horizontal directions. The RGB color filter shown in FIG. 5 is arranged between the analyzer 41 and the photodetector.

RGBカラーフィルタは、赤と緑と青のいずれかのカラーフィルタが各光検出素子よりも光到来方向に配置されたものである。赤と緑と青のカラーフィルタの配列は、一般にベイヤ配列に従っている。図5において、Rは赤色フィルタ、Gは緑色フィルタ、Bは青色フィルタを意味する。 In the RGB color filter, any one of red, green, and blue color filters is arranged in the light arrival direction with respect to each light detection element. The arrangement of red, green, and blue color filters generally follows the Bayer arrangement. In FIG. 5, R means a red filter, G means a green filter, and B means a blue filter.

各色のフィルタの最小単位は1つの検光子41に対応する。各色のフィルタは、その最小単位が縦横に2つずつ配列されている。したがって、各色のフィルタとも、4種類すべての検光子41を通過した光が入射する。フィルタは、最小単位4つ分の大きさを1つの繰り返し単位としてベイヤ配列に従い配列されている。 The minimum unit of the filter of each color corresponds to one detector 41. The minimum unit of each color filter is arranged vertically and horizontally. Therefore, the light that has passed through all four types of detectors 41 is incident on each color filter. The filters are arranged according to the Bayer array with the size of four minimum units as one repeating unit.

[三次元形状を計測する処理]
次に、三次元形状を計測する処理を説明する。図6に三次元形状を計測する処理を示している。図6に示す処理は、ユーザの操作に基づき、制御装置10が実行する。ステップ(以下、ステップを省略)S11では、縞パターン画像を計測対象物5に投影し、カメラ40により、そのときの計測対象物5の画像を撮影する。
[Processing to measure 3D shape]
Next, the process of measuring the three-dimensional shape will be described. FIG. 6 shows a process for measuring a three-dimensional shape. The process shown in FIG. 6 is executed by the control device 10 based on the operation of the user. In step (hereinafter, step is omitted) S11, the striped pattern image is projected on the measurement object 5, and the image of the measurement object 5 at that time is captured by the camera 40.

S12では、赤、緑、青の3色の色別の撮影画像を、検光子41の種類別に取得する。これは、カラーフィルタの色別かつ検光子41の種類別に、画素が検出した輝度値を取得することを意味する。このS12は輝度値取得部に相当する。 In S12, the captured images of the three colors of red, green, and blue are acquired for each type of the analyzer 41. This means that the brightness value detected by the pixel is acquired for each color of the color filter and for each type of the analyzer 41. This S12 corresponds to the brightness value acquisition unit.

S13は輝度成分算出部に相当する。S13では、色別かつ検光子41の種類別の撮影画像を用いて偏光解析を行う。偏光解析は、図7に示すImax−Iminと、Iminを算出するものである。 S13 corresponds to the luminance component calculation unit. In S13, the polarization analysis is performed using the captured images for each color and each type of the analyzer 41. The ellipsometry calculates Imax-Imin and Imin shown in FIG. 7.

図7の横軸は偏光角度である。偏光角度は4種類の検光子41が通過させる光の振動方向を意味する。縦軸は各画素が検出する光強度、すなわち、輝度値である。したがって、Imax−Iminは、検光子41の違いによる輝度値の変動幅であり、Iminは検光子41によらない輝度値のベース値である。 The horizontal axis of FIG. 7 is the polarization angle. The polarization angle means the vibration direction of the light passed through the four types of detectors 41. The vertical axis is the light intensity detected by each pixel, that is, the brightness value. Therefore, Imax-Imin is the fluctuation range of the luminance value due to the difference in the analyzer 41, and Imin is the base value of the luminance value not depending on the analyzer 41.

ここで、偏光角度を連続的に変化させて輝度値を検出したと仮定すると、図7に示すように、偏光角度に対する輝度値の変化は正弦波状になるはずである。したがって、画素が検出する輝度値をI、偏光角度をθ、偏光角度の初期値をφとすると、式1が成立する。 Here, assuming that the luminance value is detected by continuously changing the polarization angle, as shown in FIG. 7, the change in the luminance value with respect to the polarization angle should be sinusoidal. Therefore, if the brightness value detected by the pixel is I, the polarization angle is θ, and the initial value of the polarization angle is φ, Equation 1 holds.

Figure 2021162510
式1において、(1+sin(2×(θ+φ)))/2は、最大値が1、最小値が0であり、「θ+φ」は図7に示す正弦波の各偏光角度における位相を意味する。変動幅であるImax−Iminに、(1+sin(2×(θ+φ)))/2を乗じた右辺第1項は、各偏光角度における変動成分の大きさを意味する。
Figure 2021162510
In Equation 1, (1 + sin (2 × (θ + φ))) / 2 has a maximum value of 1 and a minimum value of 0, and “θ + φ” means the phase of the sine wave shown in FIG. 7 at each polarization angle. The first term on the right side, which is obtained by multiplying Imax-Imin, which is the fluctuation range, by (1 + sin (2 × (θ + φ))) / 2, means the magnitude of the fluctuation component at each polarization angle.

式1においてImax、Imin、θ、φが未知数であり、Iは各画素が検出した輝度値である。4つの偏光角度、0度、45度、90度、135度ではIを取得できる。したがって、4つの未知数に対して4つの等式が得られるので連立方程式を解くことによりImax、Imin、θ、φを求めることができる。そして、Imax、Iminを求めたら、それらから輝度値の変動幅すなわちImax−Iminを算出する。 In Equation 1, Imax, Imin, θ, and φ are unknowns, and I is the luminance value detected by each pixel. I can be obtained at four polarization angles, 0 degree, 45 degree, 90 degree, and 135 degree. Therefore, since four equations can be obtained for four unknowns, Imax, Imin, θ, and φ can be obtained by solving simultaneous equations. Then, when Imax and Imin are obtained, the fluctuation range of the luminance value, that is, Imax-Imin is calculated from them.

ここで、変動幅とベース値が表す輝度成分の意味を説明する。図7にも記載しているように、変動幅は反射光の鏡面反射成分を表しており、ベース値は反射光の拡散反射成分を表している。また、図7から分かるように、鏡面反射成分は反射光の交流成分であり、拡散反射成分は反射光の直流成分である。 Here, the meaning of the luminance component represented by the fluctuation range and the base value will be described. As also shown in FIG. 7, the fluctuation width represents the specular reflection component of the reflected light, and the base value represents the diffuse reflection component of the reflected light. Further, as can be seen from FIG. 7, the specular reflection component is an AC component of the reflected light, and the diffuse reflection component is a DC component of the reflected light.

次に、変動幅が反射光の鏡面反射成分を表している理由を説明する。本実施形態の三次元計測装置1は偏光子30を備えており、直線偏光を計測対象物5に投影する。鏡面反射する場合、反射光も直線偏光が維持される。検光子41の偏光角度が、反射光の直線偏光の角度と一致しているほど、その検光子41に対応する画素が検出する輝度値は大きくなる。つまり、各画素の手前に配置されている検光子41の偏光角度が異なることにより、各画素に検出される反射光の鏡面反射成分の大きさは変化する。それ故、変動幅は、反射光の鏡面反射成分を表しているのである。 Next, the reason why the fluctuation width represents the specular reflection component of the reflected light will be described. The three-dimensional measuring device 1 of the present embodiment includes a polarizer 30 and projects linearly polarized light onto the measurement object 5. When specularly reflected, the reflected light also maintains linearly polarized light. The more the polarization angle of the detector 41 matches the angle of the linearly polarized light of the reflected light, the larger the brightness value detected by the pixel corresponding to the detector 41. That is, the magnitude of the specular reflection component of the reflected light detected in each pixel changes due to the difference in the polarization angle of the analyzer 41 arranged in front of each pixel. Therefore, the fluctuation width represents the specular reflection component of the reflected light.

次に、ベース値が反射光の拡散反射成分を表している理由を説明する。計測対象物5に投影される光が直線偏光であっても、拡散反射成分は全方位光になる。全方位光であるので、偏光角度がどの方向であっても拡散反射成分の大きさはほぼ同じになる。したがって、ベース値が反射光の拡散反射成分を表していると考えることができるのである。 Next, the reason why the base value represents the diffuse reflection component of the reflected light will be described. Even if the light projected on the measurement object 5 is linearly polarized light, the diffuse reflection component becomes omnidirectional light. Since it is omnidirectional light, the magnitude of the diffuse reflection component is almost the same regardless of the polarization angle. Therefore, it can be considered that the base value represents the diffuse reflection component of the reflected light.

S14は形状算出部に相当する。S14は、具体的にはS15以下である。S15では形状計算用の輝度値を色別に決定する。形状計算用の輝度値は、S13で算出した変動幅とベース値とを比較して小さい方の値である。 S14 corresponds to the shape calculation unit. Specifically, S14 is S15 or less. In S15, the brightness value for shape calculation is determined for each color. The luminance value for shape calculation is a smaller value when the fluctuation width calculated in S13 is compared with the base value.

この理由を説明する。計測対象物5が鏡面物体である場合には、鏡面反射成分を使ってしまうと、その値が飽和していることがあるので、輝度値が三次元形状を表していない。一方、鏡面物体でも、通常、少しは反射光に拡散反射成分が含まれる。鏡面物体からの反射光に含まれる拡散反射成分であれば、飽和はしていない。したがって、計測対象物5が鏡面物体である場合、拡散反射成分を使うことが好ましい。鏡面物体からの反射光において、鏡面反射成分と拡散反射成分とを比較すると、拡散反射成分の方が小さい。 The reason for this will be explained. When the object 5 to be measured is a mirror-finished object, the brightness value does not represent a three-dimensional shape because the value may be saturated if the specular reflection component is used. On the other hand, even in a mirrored object, the reflected light usually contains a diffuse reflection component to some extent. If it is a diffuse reflection component contained in the reflected light from the mirrored object, it is not saturated. Therefore, when the measurement object 5 is a mirror surface object, it is preferable to use a diffuse reflection component. When comparing the specular reflection component and the diffuse reflection component in the reflected light from the mirror object, the diffuse reflection component is smaller.

次に、計測対象物5が半透明物体である場合を考える。半透明物体では、計測対象物5の内部で拡散反射が生じることがある。したがって、計測対象物5が半透明物体である場合、輝度値の拡散反射成分は三次元形状を正確に表していない。そこで、計測対象物5が半透明物体であれば、鏡面反射成分を使うことが好ましい。鏡面反射は物体の表面で生じる反射だからである。半透明物体での鏡面反射成分は大きくない。したがって、半透明物体での鏡面反射成分は拡散反射成分よりも小さい。 Next, consider the case where the measurement object 5 is a translucent object. In a translucent object, diffuse reflection may occur inside the measurement object 5. Therefore, when the object 5 to be measured is a translucent object, the diffuse reflection component of the luminance value does not accurately represent the three-dimensional shape. Therefore, if the object 5 to be measured is a translucent object, it is preferable to use a specular reflection component. This is because specular reflection is a reflection that occurs on the surface of an object. The specular reflection component of a translucent object is not large. Therefore, the specular reflection component of a translucent object is smaller than the diffuse reflection component.

次に、計測対象物5が通常物体である場合を考える。通常物体は、鏡面物体でも半透明物体でもない物体である。通常物体であれば、鏡面反射成分を採用してもよいし、拡散反射成分を採用してもよい。ただし、任意の物体の表面形状を計測する場合には、計測対象物5が半透明物体である可能性もある。拡散反射は、物体内部での拡散反射であるか、物体表面での拡散反射であるかを区別することが難しい。そこで、通常物体であれば、鏡面反射成分を使うことにすればよい。通常物体では、拡散反射成分よりも鏡面反射成分の方が小さい。 Next, consider the case where the measurement object 5 is a normal object. A normal object is an object that is neither a mirror object nor a translucent object. If it is a normal object, a specular reflection component may be adopted, or a diffuse reflection component may be adopted. However, when measuring the surface shape of an arbitrary object, the measurement object 5 may be a translucent object. Diffuse reflection is difficult to distinguish between diffuse reflection inside an object and diffuse reflection on the surface of an object. Therefore, if it is a normal object, the specular reflection component may be used. In a normal object, the specular reflection component is smaller than the diffuse reflection component.

以上より、物体が鏡面物体でも、半透明物体でも、通常物体でも、拡散反射成分と鏡面反射成分を比較して小さい方を採用すればよいことになる。 From the above, regardless of whether the object is a mirror-finished object, a translucent object, or a normal object, the diffuse reflection component and the specular reflection component may be compared and the smaller one may be adopted.

S16では、S15で決定した形状計算用の輝度値を色別に正規化する。S17では、各座標(x、y)の色別に正規化した輝度値をもとに、式2から、各座標(x、y)における位相θ(x、y)を算出する。なお、図5を用いて説明したように、本実施形態では、色毎に縦横に2つずつ、合計4つの画素が1つの繰り返し単位となっている。ここでの座標は、その繰り返し単位ごとの座標である。たとえば、4つの画素の中心座標を、ここでの座標とする。 In S16, the luminance value for shape calculation determined in S15 is normalized for each color. In S17, the phase θ (x, y) at each coordinate (x, y) is calculated from Equation 2 based on the luminance value normalized for each color of each coordinate (x, y). As described with reference to FIG. 5, in the present embodiment, a total of four pixels, two vertically and horizontally for each color, are one repeating unit. The coordinates here are the coordinates for each repeating unit. For example, the center coordinates of the four pixels are used as the coordinates here.

Figure 2021162510
式2において、Nは位相シフト総回数、nは色別に取得した撮影画像の位相シフト回数である。縞パターン画像において最も早い位相とした色のnが0、次に位相が早い色のnが1、最も位相が遅い色のnが2である。位相シフト総回数Nは3である。また、a(x、y)は輝度振幅、b(x、y)は背景輝度、θ(x、y)はn=0での位相θである。
Figure 2021162510
In Equation 2, N is the total number of phase shifts, and n is the number of phase shifts of the captured image acquired for each color. In the fringe pattern image, n of the color having the earliest phase is 0, n of the color having the next earliest phase is 1, and n of the color having the latest phase is 2. The total number of phase shifts N is 3. Further, a (x, y) is the luminance amplitude, b (x, y) is the background luminance, and θ (x, y) is the phase θ at n = 0.

式2において、未知数は、a(x、y)、b(x、y)、θ(x、y)の3つである。したがって、S16で色別に決定した3つの撮像画像についての各座標(x、y)の輝度値を用いれば、位相θを含む、3つの未知数、a(x、y)、b(x、y)、θ(x、y)を算出することができる。 In Equation 2, there are three unknowns, a (x, y), b (x, y), and θ (x, y). Therefore, if the luminance values of the coordinates (x, y) of the three captured images determined by color in S16 are used, the three unknowns including the phase θ, a (x, y), b (x, y). , Θ (x, y) can be calculated.

S18では、S17で算出した各座標(x、y)の位相θ(x、y)から、座標計測点Pの高さ座標zmを決定する。座標計測点Pは、計測対象物5あるいは作業台2の表面上の点である。 In S18, the height coordinate zm of the coordinate measurement point P is determined from the phase θ (x, y) of each coordinate (x, y) calculated in S17. The coordinate measurement point P is a point on the surface of the measurement object 5 or the workbench 2.

高さ座標zmは、プロジェクタ20とカメラ40とを含む平面から物体までの距離である。高さ座標zmは、位相θと高さ座標zmとの関係を示すグラフと、S17で算出した位相θとを用いて決定する。位相θと高さ座標zmとの関係を示すグラフは、プロジェクタ20の座標、カメラ40の座標、高さ座標zm、基準面における縞パターン画像の1周期分の長さが分かれば作成することができる。なお、基準面は、作業台2の表面である投影面に平行であって、プロジェクタ20およびカメラ40までの距離がzmとなっている面である。 The height coordinate zm is the distance from the plane including the projector 20 and the camera 40 to the object. The height coordinate zm is determined by using a graph showing the relationship between the phase θ and the height coordinate zm and the phase θ calculated in S17. A graph showing the relationship between the phase θ and the height coordinate zm can be created if the coordinates of the projector 20, the coordinates of the camera 40, the height coordinates zm, and the length of one cycle of the fringe pattern image on the reference plane are known. can. The reference plane is a plane parallel to the projection plane, which is the surface of the workbench 2, and the distance between the projector 20 and the camera 40 is zm.

プロジェクタ20とカメラ40を固定すれば、プロジェクタ20の座標、カメラ40の座標は既知になる。また、基準面までの高さ座標zmは与える値である。さらに、基準面までの高さ座標zmが決まれば、その基準面における縞パターン画像の1周期分の長さも決まる。よって、位相θと高さ座標zmとの関係を示すグラフは事前に求めることができる。 If the projector 20 and the camera 40 are fixed, the coordinates of the projector 20 and the coordinates of the camera 40 become known. Further, the height coordinate zm to the reference plane is a given value. Further, if the height coordinate zm to the reference plane is determined, the length of one cycle of the fringe pattern image on the reference plane is also determined. Therefore, a graph showing the relationship between the phase θ and the height coordinate zm can be obtained in advance.

位相θと高さ座標zmとの関係を示すグラフを事前に求めておき、S18では、事前に求めた上記グラフに、S17で算出した位相θ(x、y)を当てはめて、各座標計測点Pの高さ座標zmを決定する。なお、位相θが何周期目であるかが不明だと、高さ座標zmも決定することができない。しかし、ある座標計測点Pにおける高さ座標zmは、その座標計測点Pに隣接する座標計測点Pの高さ座標zmに対して連続的な変化をする。したがって、位相θが何周期目であるかが不明でも計測対象物5の三次元形状を計測することはできる。また、作業台2の高さ座標zmは既知であるので、作業台2の高さ座標zmと比較をすることで、座標計測点Pの高さ座標zmを決定してもよい。 A graph showing the relationship between the phase θ and the height coordinate zm is obtained in advance, and in S18, the phase θ (x, y) calculated in S17 is applied to the graph obtained in advance, and each coordinate measurement point is obtained. The height coordinate zm of P is determined. If it is unknown how many cycles the phase θ is, the height coordinate zm cannot be determined either. However, the height coordinate zm at a certain coordinate measurement point P continuously changes with respect to the height coordinate zm of the coordinate measurement point P adjacent to the coordinate measurement point P. Therefore, the three-dimensional shape of the measurement object 5 can be measured even if it is unknown how many cycles the phase θ is. Further, since the height coordinate zm of the workbench 2 is known, the height coordinate zm of the coordinate measurement point P may be determined by comparing with the height coordinate zm of the workbench 2.

S19では、S18で高さ座標zmを決定した座標計測点Pについて、水平座標(xm、ym)を決定する。S18において決定した高さ座標zmは、画素上の座標には対応付けられている。画素上の座標が決まると、カメラ40に対する方向(αx、αy)は定まる。なお、αxは、図8に示すように、カメラ40から座標計測点Pに向かう方向のうち、xmzm平面におけるzm軸との間の角度である。αyは図8には図示していないが、αyはカメラ40から座標計測点Pに向かう方向のうち、ymzm平面におけるzm軸との間の角度である。図8から分かるように、水平座標(xm、ym)は、高さ座標zmとαm、αyから幾何学計算により算出することができる。 In S19, the horizontal coordinates (xm, ym) are determined for the coordinate measurement point P for which the height coordinate zm is determined in S18. The height coordinates zm determined in S18 are associated with the coordinates on the pixels. Once the coordinates on the pixels are determined, the directions (αx, αy) with respect to the camera 40 are determined. As shown in FIG. 8, αx is an angle between the direction from the camera 40 toward the coordinate measurement point P and the zm axis in the xmzm plane. Although αy is not shown in FIG. 8, αy is an angle between the direction from the camera 40 toward the coordinate measurement point P and the zm axis in the ymzm plane. As can be seen from FIG. 8, the horizontal coordinates (xm, ym) can be calculated by geometric calculation from the height coordinates zm and αm, αy.

S14の処理を各座標(x、y)に対して実行することで、計測対象物5の三次元形状を計測することができる。 By executing the process of S14 for each coordinate (x, y), the three-dimensional shape of the measurement object 5 can be measured.

[実施形態のまとめ]
以上、説明した本実施形態では、偏光子30により直線偏光とした縞パターン画像を計測対象物5に投影する。また、カメラ40は、偏光角度が互いに相違する4つの検光子41を備える。この構成により、輝度値の変動幅(すなわち反射光の鏡面反射成分の大きさ)と、輝度値のベース値(すなわち拡散反射成分の大きさ)を決定することができる(S13)。そして、変動幅とベース値とを比較して小さい方を形状計算用の輝度値とすることで(S15)、計測対象物5の性状によらず、計測対象物5の三次元形状を精度よく算出することができる。
[Summary of Embodiment]
In the present embodiment described above, the linearly polarized fringe pattern image is projected onto the measurement object 5 by the polarizer 30. Further, the camera 40 includes four detectors 41 having different polarization angles. With this configuration, the fluctuation range of the luminance value (that is, the magnitude of the specular reflection component of the reflected light) and the base value of the luminance value (that is, the magnitude of the diffuse reflection component) can be determined (S13). Then, by comparing the fluctuation width and the base value and setting the smaller one as the luminance value for shape calculation (S15), the three-dimensional shape of the measurement object 5 can be accurately obtained regardless of the properties of the measurement object 5. Can be calculated.

また、カメラ40として偏光カメラを用いているので、カメラ40よりも手前に検光子を配置する必要がない。 Further, since the polarizing camera is used as the camera 40, it is not necessary to arrange the analyzer in front of the camera 40.

<第2実施形態>
次に、第2実施形態を説明する。この第2実施形態以下の説明において、それまでに使用した符号と同一番号の符号を有する要素は、特に言及する場合を除き、それ以前の実施形態における同一符号の要素と同一である。また、構成の一部のみを説明している場合、構成の他の部分については先に説明した実施形態を適用できる。
<Second Embodiment>
Next, the second embodiment will be described. In the following description of the second embodiment, the elements having the same number as the codes used so far are the same as the elements having the same code in the previous embodiments, unless otherwise specified. Further, when only a part of the configuration is described, the embodiment described above can be applied to the other parts of the configuration.

第2実施形態は、計測対象物5が鏡面物体であることが事前に分かっている場合に適用できる実施形態である。図9に第2実施形態において図6に代えて実行する処理を示す。図9では、図6と同じS11、S12を実行して、赤、緑、青の3色の色別の撮影画像を、検光子41の種類別に取得する。 The second embodiment is an embodiment that can be applied when it is known in advance that the measurement object 5 is a mirror surface object. FIG. 9 shows a process to be executed in place of FIG. 6 in the second embodiment. In FIG. 9, the same S11 and S12 as in FIG. 6 are executed to acquire captured images for each of the three colors of red, green, and blue for each type of analyzer 41.

続いて、図6のS13、S14に代えてS23、S24を実行する。S23は、S13と同じ計算をして、Imax、Imin、θ、φを求める。S13との違いは、Imax−Iminは算出しない点である。 Subsequently, S23 and S24 are executed instead of S13 and S14 in FIG. S23 performs the same calculation as S13 to obtain Imax, Imin, θ, and φ. The difference from S13 is that Imax-Imin is not calculated.

S24は具体的には、S26、S27、S28、S29の処理である。これらS26、S27、S28、S29は、それぞれ、S16、S17、S18、S19と同じあるいは類似の処理である。S14にはS15が含まれていたが、S24にはS15に相当する処理はない。計測対象物5が鏡面物体である場合には、形状計算用の輝度値にはベース値であるIminを使えばよいことが分かっている。そのため、輝度値の変動幅の大きさとベース値の大きさを比較する必要がないからである。 Specifically, S24 is the processing of S26, S27, S28, and S29. These S26, S27, S28, and S29 are the same or similar processes as S16, S17, S18, and S19, respectively. Although S15 was included in S14, S24 does not have a process corresponding to S15. When the object 5 to be measured is a mirrored object, it is known that Imin, which is a base value, may be used as the brightness value for shape calculation. Therefore, it is not necessary to compare the magnitude of the fluctuation range of the luminance value with the magnitude of the base value.

S26では、第2実施形態における形状計算用の輝度値である各座標(x、y)のIminを色別に正規化する。S27、S28、S29は、それぞれ、S17、S18、S19と同じである。したがって、S27では、各座標(x、y)の色別に正規化した輝度値をもとに、式2から、各座標(x、y)における位相θ(x、y)を算出する。S28では、S27で算出した各座標(x、y)の位相θ(x、y)から、座標計測点Pの高さ座標zmを決定する。S29では、S28で高さ座標zmを決定した座標計測点Pについて、水平座標(xm、ym)を、高さ座標zmとαm、αyから幾何学計算により算出する。 In S26, the Imin of each coordinate (x, y), which is the brightness value for shape calculation in the second embodiment, is normalized for each color. S27, S28, and S29 are the same as S17, S18, and S19, respectively. Therefore, in S27, the phase θ (x, y) at each coordinate (x, y) is calculated from Equation 2 based on the luminance value normalized for each color of each coordinate (x, y). In S28, the height coordinate zm of the coordinate measurement point P is determined from the phase θ (x, y) of each coordinate (x, y) calculated in S27. In S29, the horizontal coordinates (xm, ym) of the coordinate measurement point P for which the height coordinate zm is determined in S28 are calculated from the height coordinates zm and αm, αy by geometric calculation.

計測対象物5が鏡面物体であることが分かっている場合には、この第2実施形態のように、輝度値のベース値と変動幅の比較を省略し、輝度値のベース値であるIminを形状計算用の輝度値として用いて計測対象物5の三次元形状を計測することができる。 When it is known that the object 5 to be measured is a mirrored object, the comparison between the base value of the luminance value and the fluctuation range is omitted as in the second embodiment, and Imin, which is the base value of the luminance value, is used. The three-dimensional shape of the measurement object 5 can be measured by using it as a brightness value for shape calculation.

<第3実施形態>
第3実施形態は、計測対象物5が半透明物体であることが事前に分かっている場合に適用できる実施形態である。図10に第3実施形態において図6に代えて実行する処理を示す。図10では、図6と同じS11、S12を実行して、赤、緑、青の3色の色別の撮影画像を、検光子41の種類別に取得する。
<Third Embodiment>
The third embodiment is an embodiment that can be applied when it is known in advance that the measurement object 5 is a translucent object. FIG. 10 shows a process to be executed instead of FIG. 6 in the third embodiment. In FIG. 10, the same S11 and S12 as in FIG. 6 are executed to acquire captured images for each of the three colors of red, green, and blue for each type of analyzer 41.

続くS33は図6のS13と同じであり、Imax、Imin、θ、φを求め、さらに、Imax、IminからImax−Iminを算出する。 Subsequent S33 is the same as S13 in FIG. 6, and Imax, Imin, θ, and φ are obtained, and further, Imax-Imin is calculated from Imax and Imin.

S34は具体的には、S36、S37、S38、S39の処理である。これらS36、S37、S38、S39は、それぞれ、S16、S17、S18、S19と同じあるいは類似の処理である。S14にはS15が含まれていたが、S34にはS15に相当する処理はない。計測対象物5が半透明物体である場合には、形状計算用の輝度値には変動幅であるImax−Iminを使えばよいことが分かっている。そのため、輝度値の変動幅の大きさとベース値の大きさを比較する必要がないからである。 Specifically, S34 is the processing of S36, S37, S38, and S39. These S36, S37, S38, and S39 are the same or similar processes as S16, S17, S18, and S19, respectively. Although S15 was included in S14, S34 does not have a process corresponding to S15. When the object 5 to be measured is a translucent object, it is known that Imax-Imin, which is a fluctuation range, may be used for the brightness value for shape calculation. Therefore, it is not necessary to compare the magnitude of the fluctuation range of the luminance value with the magnitude of the base value.

S36では、第3実施形態における形状計算用の輝度値である各座標(x、y)のImax−Iminを色別に正規化する。S37、S38、S39は、それぞれ、S17、S18、S19と同じである。したがって、S37では、各座標(x、y)における位相θ(x、y)を算出する。S38では、座標計測点Pの高さ座標zmを決定する。S39では、座標計測点Pの水平座標(xm、ym)を算出する。 In S36, Imax-Imin of each coordinate (x, y), which is a luminance value for shape calculation in the third embodiment, is normalized for each color. S37, S38, and S39 are the same as S17, S18, and S19, respectively. Therefore, in S37, the phase θ (x, y) at each coordinate (x, y) is calculated. In S38, the height coordinate zm of the coordinate measurement point P is determined. In S39, the horizontal coordinates (xm, ym) of the coordinate measurement point P are calculated.

計測対象物5が半透明物体であることが分かっている場合、この第3実施形態のように、輝度値のベース値と変動幅の比較を省略し、輝度値の変動幅であるImax−Iminを形状計算用の輝度値として用いて計測対象物5の三次元形状を計測することができる。 When it is known that the measurement object 5 is a translucent object, the comparison between the base value of the luminance value and the fluctuation width is omitted as in the third embodiment, and Imax-Imin which is the fluctuation width of the luminance value is omitted. Can be used as the brightness value for shape calculation to measure the three-dimensional shape of the measurement object 5.

<第4実施形態>
図11に第4実施形態の三次元計測装置100の構成を示す。三次元計測装置100は、偏光カメラではないカメラ140を備える。そして、このカメラ140よりも、反射光の光路においてカメラ140の前となる位置に、検光子141が1つ配置されている。検光子141は、たとえば円形薄板状であり、厚さ方向に貫通する中心軸周りに回転可能である。
<Fourth Embodiment>
FIG. 11 shows the configuration of the three-dimensional measuring device 100 of the fourth embodiment. The three-dimensional measuring device 100 includes a camera 140 that is not a polarized camera. Then, one detector 141 is arranged at a position in front of the camera 140 in the optical path of the reflected light rather than the camera 140. The detector 141 has, for example, a circular lamellae and is rotatable around a central axis penetrating in the thickness direction.

検光子141は、その中心軸周りの任意の回転角度で固定させることができる。したがって、ある回転角度を0度とすると、0度、45度、90度、135度の回転角度で固定することができる。これら4つの回転角度で固定した状態は、それぞれ、互いに異なる4つの振動方向の光を選択的に通過させる状態である。 The detector 141 can be fixed at an arbitrary rotation angle around its central axis. Therefore, assuming that a certain rotation angle is 0 degrees, the rotation angles can be fixed at 0 degrees, 45 degrees, 90 degrees, and 135 degrees. The state fixed at these four rotation angles is a state in which light in four vibration directions different from each other is selectively passed.

三次元計測装置100を用いて計測対象物5の三次元形状を計測する場合、S11において、検光子141の回転角度を4種類以上の回転角度として、それぞれの回転角度で、縞パターン画像の投影と、計測対象物5の撮影を行えばよい。 When measuring the three-dimensional shape of the object 5 to be measured by using the three-dimensional measuring device 100, in S11, the rotation angles of the analyzer 141 are set to four or more kinds of rotation angles, and the stripe pattern image is projected at each rotation angle. Then, the measurement object 5 may be photographed.

この三次元計測装置100は、偏光カメラではないカメラ140を用いることができる。また、全部の画素が同じ偏光角度の輝度を検出する。したがって、三次元形状の分解能を向上することができる。 As the three-dimensional measuring device 100, a camera 140 that is not a polarized camera can be used. Also, all pixels detect the brightness with the same polarization angle. Therefore, the resolution of the three-dimensional shape can be improved.

以上、実施形態を説明したが、開示した技術は上述の実施形態に限定されるものではなく、次の変形例も開示した範囲に含まれ、さらに、下記以外にも要旨を逸脱しない範囲内で種々変更して実施できる。 Although the embodiments have been described above, the disclosed technology is not limited to the above-described embodiments, and the following modifications are also included in the disclosed scope, and further, within a range other than the following that does not deviate from the gist. It can be implemented with various changes.

<変形例1>
実施形態では、カラーの縞パターン画像を投影していた。しかし、互いに位相が異なる3つの単色の縞パターン画像を投影してもよい。
<Modification example 1>
In the embodiment, a color striped pattern image is projected. However, three monochromatic striped pattern images that are out of phase with each other may be projected.

<変形例2>
第4実施形態の検光子141は、回転可能に構成されていた。しかし、回転可能に構成することに代えて、所定の取付部材に対して検光子141が着脱可能になっており、偏光方向を異ならせた検光子141を、順次、取付部材に装着してもよい。
<Modification 2>
The analyzer 141 of the fourth embodiment was configured to be rotatable. However, instead of being rotatably configured, the detector 141 can be attached to and detached from a predetermined mounting member, and even if the detectors 141 having different polarization directions are sequentially mounted on the mounting member. good.

1:三次元計測装置 2:作業台 5:計測対象物 10:制御装置 20:プロジェクタ 30:偏光子 40:カメラ 41:検光子 100:三次元計測装置 140:カメラ 141:検光子 S12:輝度値取得部 S13:輝度成分算出部 S14:形状算出部 S23:輝度成分算出部 S24:形状算出部 S33:輝度成分算出部 S34:形状算出部 1: Three-dimensional measuring device 2: Work table 5: Object to be measured 10: Control device 20: Projector 30: Polarizer 40: Camera 41: Detector 100: Three-dimensional measuring device 140: Camera 141: Detector S12: Luminance value Acquisition unit S13: Luminance component calculation unit S14: Shape calculation unit S23: Luminance component calculation unit S24: Shape calculation unit S33: Luminance component calculation unit S34: Shape calculation unit

Claims (5)

縞パターン画像を投影するプロジェクタ(20)と、
計測対象物(5)に投影された前記縞パターン画像を撮影するカメラ(40、140)とを備え、
前記カメラが撮影した画像の輝度値に基づいて、位相シフト法により前記計測対象物の三次元形状を計測する三次元計測装置であって、
前記プロジェクタが投影した光を直線偏光にする偏光子(30)と、
前記縞パターン画像が表された光が前記計測対象物によって反射された反射光から、少なくとも4つの振動方向の光を選択的に通過させる検光子(41、141)と、
前記検光子を通過して前記カメラにより検出された光の輝度値を取得する輝度値取得部(S12)と、
前記輝度値取得部が取得した輝度値に基づき、前記検光子が通過させる光の振動方向の違いによる前記輝度値の変動幅と、前記検光子が通過させる光の振動方向の違いによらない前記輝度値のベース値とを算出する輝度成分算出部(S13)と、
前記変動幅と前記ベース値とを比較して、小さい方を形状計算用の輝度値として用いて前記計測対象物の三次元形状を算出する形状算出部(S14)と、を備える三次元計測装置。
A projector (20) that projects a striped pattern image and
A camera (40, 140) for capturing the striped pattern image projected on the measurement object (5) is provided.
A three-dimensional measuring device that measures the three-dimensional shape of the object to be measured by the phase shift method based on the brightness value of the image taken by the camera.
A polarizer (30) that linearly polarizes the light projected by the projector, and
An detector (41, 141) that selectively allows light representing the striped pattern image to pass light in at least four vibration directions from the reflected light reflected by the measurement object.
A luminance value acquisition unit (S12) that passes through the analyzer and acquires a luminance value of light detected by the camera, and a luminance value acquisition unit (S12).
Based on the brightness value acquired by the brightness value acquisition unit, the fluctuation width of the brightness value due to the difference in the vibration direction of the light passed by the analyzer and the difference in the vibration direction of the light passed by the detector do not depend on the difference. The luminance component calculation unit (S13) that calculates the base value of the luminance value, and
A three-dimensional measuring device including a shape calculation unit (S14) that compares the fluctuation width with the base value and uses the smaller one as a luminance value for shape calculation to calculate the three-dimensional shape of the measurement object. ..
鏡面物体の三次元形状を位相シフト法により計測する三次元計測装置であって、
縞パターン画像を投影するプロジェクタ(20)と、
計測対象物(5)に投影された前記縞パターン画像を撮影するカメラ(40、140)と、
前記プロジェクタが投影した光を直線偏光にする偏光子(30)と、
前記縞パターン画像が表された光が前記計測対象物によって反射された反射光から、少なくとも4つの振動方向の光を選択的に通過させる検光子(41、141)と、
前記検光子を通過して前記カメラにより検出された光の輝度値を取得する輝度値取得部(S12)と、
前記輝度値取得部が取得した輝度値に基づき、前記検光子が通過させる光の振動方向の違いによらない前記輝度値のベース値を算出する輝度成分算出部(S23)と、
前記輝度成分算出部が算出した前記ベース値を形状計算用の輝度値として用いて前記計測対象物の三次元形状を算出する形状算出部(S24)と、を備える三次元計測装置。
A three-dimensional measuring device that measures the three-dimensional shape of a mirrored object by the phase shift method.
A projector (20) that projects a striped pattern image and
Cameras (40, 140) that capture the striped pattern image projected on the measurement object (5), and
A polarizer (30) that linearly polarizes the light projected by the projector, and
An detector (41, 141) that selectively allows light representing the striped pattern image to pass light in at least four vibration directions from the reflected light reflected by the measurement object.
A luminance value acquisition unit (S12) that passes through the analyzer and acquires a luminance value of light detected by the camera, and a luminance value acquisition unit (S12).
A luminance component calculation unit (S23) that calculates a base value of the luminance value based on the luminance value acquired by the luminance value acquisition unit regardless of the difference in the vibration direction of the light passed by the analyzer.
A three-dimensional measuring device including a shape calculating unit (S24) that calculates a three-dimensional shape of the measurement object by using the base value calculated by the brightness component calculating unit as a brightness value for shape calculation.
半透明物体の三次元形状を位相シフト法により計測する三次元計測装置であって、
縞パターン画像を投影するプロジェクタ(20)と、
計測対象物(5)に投影された前記縞パターン画像を撮影するカメラ(40、140)と、
前記プロジェクタが投影した光を直線偏光にする偏光子(30)と、
前記縞パターン画像が表された光が前記計測対象物によって反射された反射光から、少なくとも4つの振動方向の光を選択的に通過させる検光子(41、141)と、
前記検光子を通過して前記カメラにより検出された光の輝度値を取得する輝度値取得部(S12)と、
前記輝度値取得部が取得した輝度値に基づき、前記検光子が通過させる光の振動方向の違いによる前記輝度値の変動幅を算出する輝度成分算出部(S33)と、
前記輝度成分算出部が算出した前記変動幅を形状計算用の輝度値として用いて前記計測対象物の三次元形状を算出する形状算出部(S34)と、を備える三次元計測装置。
A three-dimensional measuring device that measures the three-dimensional shape of a translucent object by the phase shift method.
A projector (20) that projects a striped pattern image and
Cameras (40, 140) that capture the striped pattern image projected on the measurement object (5), and
A polarizer (30) that linearly polarizes the light projected by the projector, and
An detector (41, 141) that selectively allows light representing the striped pattern image to pass light in at least four vibration directions from the reflected light reflected by the measurement object.
A luminance value acquisition unit (S12) that passes through the analyzer and acquires a luminance value of light detected by the camera, and a luminance value acquisition unit (S12).
Based on the brightness value acquired by the brightness value acquisition unit, the brightness component calculation unit (S33) that calculates the fluctuation range of the brightness value due to the difference in the vibration direction of the light passed by the analyzer, and the brightness component calculation unit (S33).
A three-dimensional measuring device including a shape calculating unit (S34) that calculates a three-dimensional shape of the measurement object by using the fluctuation width calculated by the brightness component calculating unit as a brightness value for shape calculation.
請求項1〜3のいずれか1項に記載の三次元計測装置であって、
前記カメラ(40)は、互いに通過させる光の振動方向が相違する4種類の前記検光子(41)を備えた偏光カメラである、三次元計測装置。
The three-dimensional measuring device according to any one of claims 1 to 3.
The camera (40) is a three-dimensional measuring device, which is a polarized camera including four types of detectors (41) having different vibration directions of light passing through each other.
請求項1〜3のいずれか1項に記載の三次元計測装置であって、
前記検光子(141)は、前記反射光の光路において前記カメラ(140)の前に配置されている三次元計測装置。
The three-dimensional measuring device according to any one of claims 1 to 3.
The analyzer (141) is a three-dimensional measuring device arranged in front of the camera (140) in the optical path of the reflected light.
JP2020066152A 2020-04-01 2020-04-01 3D measuring device Active JP7488451B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020066152A JP7488451B2 (en) 2020-04-01 2020-04-01 3D measuring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020066152A JP7488451B2 (en) 2020-04-01 2020-04-01 3D measuring device

Publications (2)

Publication Number Publication Date
JP2021162510A true JP2021162510A (en) 2021-10-11
JP7488451B2 JP7488451B2 (en) 2024-05-22

Family

ID=78003152

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020066152A Active JP7488451B2 (en) 2020-04-01 2020-04-01 3D measuring device

Country Status (1)

Country Link
JP (1) JP7488451B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114299597A (en) * 2022-03-11 2022-04-08 安徽云森物联网科技有限公司 Testing device and testing method for multi-eye human face in-vivo detection system

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100268069A1 (en) 2009-04-16 2010-10-21 Rongguang Liang Dental surface imaging using polarized fringe projection
JP2011002240A (en) 2009-06-16 2011-01-06 Olympus Corp Three-dimensional shape measurement method and device
JP6364777B2 (en) 2014-01-10 2018-08-01 凸版印刷株式会社 Image data acquisition system and image data acquisition method
JP2020004085A (en) 2018-06-28 2020-01-09 キヤノン株式会社 Image processor, image processing method and program
JP6580761B1 (en) 2018-07-11 2019-09-25 株式会社フォーディーアイズ Depth acquisition apparatus and method using polarization stereo camera

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114299597A (en) * 2022-03-11 2022-04-08 安徽云森物联网科技有限公司 Testing device and testing method for multi-eye human face in-vivo detection system

Also Published As

Publication number Publication date
JP7488451B2 (en) 2024-05-22

Similar Documents

Publication Publication Date Title
JP6457072B2 (en) Integration of point clouds from multiple cameras and light sources in 3D surface shape measurement
KR100815283B1 (en) System for simultaneous projections of multiple phase-shifted patterns for the three-dimensional inspection of an object
WO2010032792A1 (en) Three-dimensional measurement apparatus and method thereof
JP3937024B2 (en) Detection of misalignment, pattern rotation, distortion, and misalignment using moiré fringes
US11619485B2 (en) Hybrid 3D optical scanning system
US20120154577A1 (en) Image processing apparatus, method of controlling the same, distance measurement apparatus, and storage medium
JP6161714B2 (en) Method for controlling the linear dimension of a three-dimensional object
US20080117438A1 (en) System and method for object inspection using relief determination
WO2001006210A1 (en) Method and system for measuring the relief of an object
KR20100087089A (en) System and method for multiframe surface measurement of the shape of objects
US6876458B2 (en) Method and device for determining the absolute coordinates of an object
JP7488451B2 (en) 3D measuring device
JP6550102B2 (en) Light source direction estimation device
JP2008170281A (en) Shape measuring device and shape measuring method
FI126498B (en) Optical measuring system
JPH0587541A (en) Two-dimensional information measuring device
JP2008170282A (en) Shape measuring device
JP7448824B2 (en) 3D measurement system and 3D measurement method
JP2021050973A (en) Three-dimensional measuring device and luminance value ratio table generation method
TWI837061B (en) System and method for 3d profile measurements using color fringe projection techniques
JP7268619B2 (en) projection device
JP7459525B2 (en) Three-dimensional shape measuring device, three-dimensional shape measuring method and program
JPS6117281B2 (en)
JP6701277B2 (en) Information processing device, information processing method, and program
JP2021110680A (en) Three-dimensional measuring device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231107

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20231128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240207

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20240220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240422

R150 Certificate of patent or registration of utility model

Ref document number: 7488451

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150