JP4889373B2 - Three-dimensional shape measuring method and apparatus - Google Patents
Three-dimensional shape measuring method and apparatus Download PDFInfo
- Publication number
- JP4889373B2 JP4889373B2 JP2006144272A JP2006144272A JP4889373B2 JP 4889373 B2 JP4889373 B2 JP 4889373B2 JP 2006144272 A JP2006144272 A JP 2006144272A JP 2006144272 A JP2006144272 A JP 2006144272A JP 4889373 B2 JP4889373 B2 JP 4889373B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- measurement object
- shift
- exposure time
- dimensional shape
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
Description
本発明は、3次元形状測定方法およびその装置に関し、さらに詳細には、2値化投影パターンにより空間に対し絶対的なコード値を生成する空間コード化法を用いた3次元形状測定方法およびその装置に関する。 The present invention relates to a method and apparatus for measuring a three-dimensional shape, and more specifically, a method for measuring a three-dimensional shape using a spatial coding method for generating an absolute code value for a space using a binary projection pattern and the same. Relates to the device.
一般に、光を用いて測定対象物の3次元形状を非接触で計測する技術としては、受動的測定法と能動的測定法とがある。 In general, there are a passive measurement method and an active measurement method as a technique for measuring the three-dimensional shape of a measurement object in a non-contact manner using light.
ここで、受動的測定法とは、ステレオ法に代表されるように、測定機器側は投光手段を持たずに、環境光を利用して計測するという手法である。 Here, the passive measurement method is a method of measuring using ambient light without having a light projecting unit on the measurement device side, as represented by a stereo method.
一方、能動的測定法とは、測定機器側の投光手段から測定対象物に向けて光を照射して、その反射光を計測するという手法である。 On the other hand, the active measurement method is a method of irradiating light from a light projecting means on the measurement device side toward a measurement object and measuring the reflected light.
また、こうした能動的測定法のなかで、三角測量の原理を用いるものとしては、スリット光投影法や空間コード化法などが知られている。 Among these active measurement methods, the slit light projection method and the spatial encoding method are known as methods using the principle of triangulation.
ここで、空間コード化法とは、測定対象物に対して光透過領域と光非透過領域とよりなるストライプ状の光パターンたる2値化投影パターン(以下、「2値化投影パターン」を「スリットパターン」と適宜に称する。)を何種類も投影することにより、当該ストライプ状の光パターンを投影された測定対象物上の1点を観察していると、その観察している1点に投影される光線が点滅して符号(コード)を形成するようになるが、そのコードを利用して測定対象物の3次元形状を測定するという手法である。
Here, the spatial encoding method refers to a binarized projection pattern (hereinafter referred to as a “binarized projection pattern”) which is a stripe-shaped light pattern made up of a light transmission region and a light non-transmission region with respect to a measurement object. When appropriately observing one point on the measurement object on which the striped light pattern is projected by projecting several types of “slit patterns” as appropriate, the projected point is The projected light beam blinks to form a code, and this is a method of measuring the three-dimensional shape of the measurement object using the code.
なお、図1(a)(b)(c)(d)には、空間コード化法で使用する各種の2値化投影パターン、即ち、スリットパターンの例が示されている。 1A, 1B, 1C, and 1D show examples of various binarized projection patterns used in the spatial coding method, that is, slit patterns.
これら2値化投影パターンは、それぞれ一定の幅Wを有するとともに幅W方向と直交する所定の方向に延長するスリット状の光透過領域100aとスリットの枠に相当する光非透過領域100bとが、交互に連続するようにして形成されている。光透過領域100aと光非透過領域100bとの幅Wは、任意の大きさに設定することができる。 Each of these binarized projection patterns includes a slit-like light transmission region 100a having a constant width W and extending in a predetermined direction orthogonal to the width W direction, and a light non-transmission region 100b corresponding to a slit frame. It is formed so as to be continuous alternately. The width W between the light transmission region 100a and the light non-transmission region 100b can be set to an arbitrary size.
また、図1(a)(b)(c)(d)に示す2値化投影パターンにおいては、幅Wが最も狭い2値化投影パターンは図1(d)に示すものである。このように、それぞれ異なる複数の2値化投影パターンの中で幅Wが最も狭い2値化投影パターンを「LSBパターン」と一般に称する。 In the binarized projection patterns shown in FIGS. 1A, 1B, 1C, and 1D, the binarized projection pattern having the smallest width W is the one shown in FIG. As described above, the binarized projection pattern having the narrowest width W among a plurality of different binarized projection patterns is generally referred to as an “LSB pattern”.
なお、こうした2値化投影パターンは、従来より周知の技術であるためその詳細な説明は省略する。 In addition, since such a binarized projection pattern is a conventionally well-known technique, the detailed description is abbreviate | omitted.
こうした空間コード化法においては、コードが示す値(空間コード値)と光線の方向とは一対一の関係で対応しており、測定対象物上における光点の位置から観察位置の視線の方向が判り、また、その光点の空間コード値から光線の方向が判るので、三角測量の原理により測定対象物上における全ての光点までの距離を求めることができ、これにより測定対象物の3次元形状を非接触で計測することができるようになるものである。 In such a spatial encoding method, the value indicated by the code (spatial code value) and the direction of the light beam have a one-to-one relationship, and the direction of the line of sight of the observation position from the position of the light spot on the measurement object is determined. Since the direction of the light beam can be determined from the spatial code value of the light spot, the distance to all the light spots on the measurement object can be obtained by the principle of triangulation, and thereby the three-dimensional of the measurement object The shape can be measured in a non-contact manner.
一般に、上記した空間コード化法を用いた3次元形状測定装置は、コンピュータによりその全体の動作を制御するように構成されており、コンピュータの制御により測定対象物へ複数の2値化投影パターンを投影する投影手段としてのプロジェクタと、プロジェクタにより2値化投影パターンを投影された測定対象物を撮像するCCDなどの撮像素子を備えて構成される撮像手段としてのカメラとを有して構成されている。
In general, a three-dimensional shape measuring apparatus using the above-described spatial encoding method is configured to control the entire operation by a computer, and a plurality of binarized projection patterns can be applied to a measurement object under the control of the computer. A projector serving as a projecting unit for projecting, and a camera serving as an image capturing unit configured to include an imaging element such as a CCD that captures an image of a measurement object onto which a binary projection pattern is projected by the projector. Yes.
即ち、3次元測定装置においては、プロジェクタはコンピュータに接続されていて、測定対象物の表面に、コンピュータで生成される各種の2値化投影パターンを投影することができるように配置にされている。また、カメラは、プロジェクタの投影方向とは異なる方向から測定対象物の表面を撮影することができるように配置されており、カメラで撮影された画像は、デジタル化されてコンピュータに取り込まれるようになされている。 That is, in the three-dimensional measuring apparatus, the projector is connected to a computer, and is arranged so that various binary projection patterns generated by the computer can be projected onto the surface of the measurement object. . Further, the camera is arranged so that the surface of the measurement object can be photographed from a direction different from the projection direction of the projector, and the image photographed by the camera is digitized and captured by the computer. Has been made.
そして、カメラで撮影されデジタル化されてコンピュータに取り込まれた画像を処理することによって、3次元測定装置から測定対象物までの距離を計測し、こうして計測された距離に基づいて測定対象物の表面の3次元形状を測定するものである。 Then, the distance from the three-dimensional measuring device to the measurement object is measured by processing the image captured by the camera, digitized, and captured by the computer, and the surface of the measurement object is measured based on the distance thus measured. The three-dimensional shape is measured.
しかしながら、上記したような空間コード化法を用いた3次元形状測定装置により、表面の色(以下、測定対象物の表面の色を「表面色」と適宜に称する。)に黒色と白色とのような輝度値の差が大きい色が混在する測定対象物を測定しようとする際には、全ての色の表面の形状を同時に測定することができないという問題点があった。以下、この問題点について、図2に示す表面に輝度値の差が大きい黒色と白色とが混在する測定対象物Aを例にとって説明する。
However, the surface color (hereinafter, the surface color of the measurement object is appropriately referred to as “surface color”) is black and white by the three-dimensional shape measuring apparatus using the spatial coding method as described above. When trying to measure a measurement object in which colors with large differences in luminance values are mixed, there is a problem that the shapes of the surfaces of all colors cannot be measured simultaneously. Hereinafter, this problem will be described with reference to the measurement object A in which black and white having a large difference in luminance values are mixed on the surface shown in FIG.
この測定対象物Aに2値化投影パターンをプロジェクタにより投影してその反射光をカメラで撮像する場合に、まず、白色のような表面の色が明るい部分に投影されている2値化投影パターンの輝度差を得られるようにするためには、カメラの露光時間を短くする必要がある。ところが、カメラの露光時間を短くすると、表面が黒色の部分では投影された2値化投影パターンの輝度差がほとんど得られず(図3(a)参照)、結果として、表面の色が明るい部分の表面の3次元形状のみしか測定することができないものであった(図3(b)参照)。 When a binarized projection pattern is projected onto the measurement object A by a projector and the reflected light is captured by a camera, first, the binarized projection pattern in which the surface color such as white is projected onto a bright part In order to be able to obtain the difference in luminance, it is necessary to shorten the exposure time of the camera. However, when the exposure time of the camera is shortened, the brightness difference of the binarized projection pattern projected is hardly obtained at the black surface portion (see FIG. 3A), and as a result, the surface color is bright. Only the three-dimensional shape of the surface of the film could be measured (see FIG. 3B).
一方、上記とは逆に、黒色のような表面の色が暗い部分に投影された2値化投影パターンの輝度差を得られるようにするためには、カメラの露光時間を長くする必要がある。ところが、カメラの露光時間を長くすると、表面が白色の部分では投影された2値化投影パターンがハレーションを起こして輝度差が得られず(図4(a)参照)、結果として、表面の色が暗い部分の表面形状しか測定することができないものであった(図4(b)参照)。 On the other hand, in contrast to the above, it is necessary to lengthen the exposure time of the camera in order to obtain the luminance difference of the binarized projection pattern in which the surface color such as black is projected onto the dark part. . However, when the exposure time of the camera is lengthened, the binarized projection pattern projected on the portion where the surface is white causes halation and a luminance difference cannot be obtained (see FIG. 4A). As a result, the color of the surface It was a thing which can measure only the surface shape of a dark part (refer FIG.4 (b)).
なお、上記した問題点は、撮像手段を構成する撮像素子の入力光に対するダイナミックレンジが、人間の目のそれと比べて狭いことに起因するものである。 Note that the above-described problems are caused by the fact that the dynamic range of input light of the image sensor that constitutes the imaging means is narrower than that of the human eye.
なお、本願出願人が特許出願時に知っている先行技術は、上記において説明したようなものであって文献公知発明に係る発明ではないため、記載すべき先行技術情報はない。
The prior art that the applicant of the present application knows at the time of filing a patent is as described above and is not an invention related to a known literature, so there is no prior art information to be described.
本発明は、上記したような従来の技術の有する種々の問題点に鑑みてなされたものであり、その目的とするところは、測定対象物の表面の色の明暗に依存することなく、測定対象物の全表面の形状を測定することができるようにした3次元形状測定方法およびその装置を提供しようとするものである。 The present invention has been made in view of the various problems of the prior art as described above, and the object of the present invention is not to depend on the brightness or darkness of the color of the surface of the measurement object. An object of the present invention is to provide a three-dimensional shape measuring method and apparatus capable of measuring the shape of the entire surface of an object.
上記目的を達成するために、本発明は、撮像手段が同一の2値化投影パターンを投影された測定対象物からの反射光画像を異なるシャッタースピード(露光時間)で取得するようにして、こうして取得した画像に基づいて空間コード画像を得るようにしたものである。 In order to achieve the above object, according to the present invention, an imaging unit acquires reflected light images from a measurement object onto which the same binarized projection pattern is projected at different shutter speeds (exposure times). A spatial code image is obtained based on the acquired image.
即ち、本発明は、例えば、以下に示す(1)〜(4)の処理を行うようにしたものである。 That is, in the present invention, for example, the following processes (1) to (4) are performed.
(1)同一の2値化投影パターンを投影した様子を露光時間を様々に変えて複数撮影する。 (1) Shooting a plurality of images of the same binarized projection pattern projected with various exposure times.
(2)上記(1)で撮影した複数の撮影画像を合成して1つの画像(多重シャッタースピード画像)を生成する。これにより、撮像素子のダイナミックレンジを仮想的に広げることができ、測定対象物の表面の色の明暗に依存することなく、測定対象物の全表面の形状を測定することが可能となる。 (2) One image (multiple shutter speed image) is generated by combining the plurality of captured images captured in (1) above. Thereby, the dynamic range of the image sensor can be virtually expanded, and the shape of the entire surface of the measurement object can be measured without depending on the brightness of the surface color of the measurement object.
(3)空間コード化法では、例えば、8ビット分の2値化投影パターンを投影するが、各ビット分毎に上記(1)(2)の処理を行って8ビット分の多重シャッタースピード画像を生成する。 (3) In the spatial coding method, for example, a binary projection pattern for 8 bits is projected, and the processing of (1) and (2) is performed for each bit to obtain a multiple shutter speed image for 8 bits. Is generated.
(4)得られた8ビット分の多重シャッタースピード画像を用いて、従来の空間コード化法による処理と同様にして空間コード画像を生成し、生成した空間コード画像に基づいて3次元形状を復元する。 (4) Using the obtained 8-bit multiple shutter speed image, a spatial code image is generated in the same manner as the processing by the conventional spatial coding method, and the three-dimensional shape is restored based on the generated spatial code image. To do.
こうした本発明のうち請求項1に記載の発明は、2値化投影パターンを投影された測定対象物からの反射光画像を撮像し、該撮像した反射光画像を用いて空間コード画像を生成する空間コード化法により上記測定対象物の3次元形状を測定する3次元形状測定方法において、光透過領域と光非透過領域とよりなるストライプ形状のパターンである所定の2値化投影パターンを、上記所定の2値化投影パターンの光透過領域と光非透過領域との位置が入れ替わる1/2位相反転する範囲までシフトし、かつ、測定対象物における3次元形状測定の測定分解能に関する最小分解能となるような所定の移動量でシフトしながら上記測定対象物に順次投影し、該所定の2値化投影パターンを投影された上記測定対象物からの反射光画像を該シフト毎に異なるシャッタースピード(露光時間)で撮像し、該シフト毎に異なるシャッタースピード(露光時間)で撮像した複数の反射光画像を取得し、該シフト毎に異なるシャッタースピード(露光時間)で撮像した複数の反射光画像を用いて、複数の反射光画像から所定の条件を有する有効な画素を抽出して1つに合成することにより該シフト毎の多重シャッタースピード画像を生成し、該シフト毎の多重シャッタースピード画像を合成した位相シフト画像を生成し、上記所定の2値化投影パターンを含む、それぞれ種類の異なる複数の2値化投影パターンを上記測定対象物にそれぞれ投影し、該それぞれ種類の異なる複数の2値化投影パターンを投影された上記測定対象物からの反射光画像を該それぞれ種類の異なる複数の2値化投影パターン毎に異なる露光時間で撮像し、該それぞれ種類の異なる複数の2値化投影パターン毎に異なる露光時間で撮像した反射光画像から所定の条件を有する有効な画素を抽出し合成して該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を生成し、該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を合成した空間コード画像を生成し、該位相シフト画像と該空間コード画像とを合成することにより、撮影空間に対してシフトピッチまで光分解能化された絶対的なコード値たる位相シフト空間コード画像を生成し、該位相シフト空間コード画像を空間コード画像として扱うことにより、該位相シフト空間コード画像に基づいて上記測定対象物の3次元形状を取得することを特徴とし、さらに、該シフト毎の多重シャッタースピード画像および該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を生成する方法としては、上記露光時間について、測定対象物上の黒色の部分に当たっている2値化投影パターンを視認するのに必要な露光時間を最長露光時間とし、また、測定対象物上の白色の部分に当たっている2値化投影パターンを視認するのに必要な露光時間を最短露光時間とし、上記最長露光時間と上記最短露光時間との差となる時間を等間隔に複数に分割して得られた複数の露光時間を用いるものとし、上記反射光画像について、上記反射光画像が有する各画素が有する明るさについて、見た目の明るさを示す値を画素値とし、上記所定の条件を有する画素のうち最大の明るさである画素値を有するある画素を用いて該画素の画素値oと撮影時の露光時間eとを用いて、計算式i=o/eより算出された値を露光時間による画素値への影響を除去した真の明るさiとして決定し、計算した上記真の明るさの値に対して対数スケール(log10(i))を取り、1つの画像として合成することにより、上記多重シャッタースピード画像を生成するものとするようにしたものである。
The invention according to claim 1 of the present invention captures a reflected light image from a measurement object projected with a binarized projection pattern, and generates a spatial code image using the captured reflected light image. In the three-dimensional shape measurement method for measuring the three-dimensional shape of the measurement object by a spatial encoding method, a predetermined binarized projection pattern, which is a stripe-shaped pattern including a light transmission region and a light non-transmission region, is described above. It shifts to the half phase inversion range where the position of the light transmission area and the light non-transmission area of the predetermined binarized projection pattern is switched, and becomes the minimum resolution regarding the measurement resolution of the three-dimensional shape measurement on the measurement object The projected images are sequentially projected onto the measurement object while shifting by a predetermined movement amount, and the reflected light image from the measurement object on which the predetermined binarized projection pattern is projected is shifted for each shift. A plurality of reflected light images captured at different shutter speeds (exposure times) for each shift, and a plurality of images captured at different shutter speeds (exposure times) for each shift. A multiple shutter speed image for each shift is generated by extracting effective pixels having a predetermined condition from a plurality of reflected light images and combining them into one by using the reflected light image, and multiple shutters for each shift A phase shift image obtained by synthesizing the speed image is generated, and a plurality of different types of binarized projection patterns including the predetermined binarized projection pattern are projected onto the measurement object, respectively. Reflected light images from the measurement object onto which the binary projection pattern is projected are converted into a plurality of different binary projection patterns. The effective pixels having a predetermined condition are extracted and synthesized from the reflected light images captured at different exposure times for each of the plurality of different types of binarized projection patterns. A multiple shutter speed image for each of a plurality of different binarized projection patterns is generated, a spatial code image is generated by combining the multiple shutter speed images for each of a plurality of different binarized projection patterns, and the phase shift image And the spatial code image are combined with each other to generate a phase shift spatial code image that is an absolute code value that has been optically resolved up to the shift pitch with respect to the imaging space, and the phase shifted spatial code image is converted into the spatial code image. By obtaining the three-dimensional shape of the measurement object based on the phase-shift space code image, Further, as a method of generating a multiple shutter speed image for each shift and a multiple shutter speed image for each of the plurality of different binarized projection patterns, the exposure time is applied to a black portion on the measurement object. The exposure time necessary for visually recognizing the binarized projection pattern is the longest exposure time, and the exposure time necessary for visually recognizing the binarized projection pattern hitting the white portion on the measurement object is the shortest exposure. A plurality of exposure times obtained by dividing a time that is the difference between the longest exposure time and the shortest exposure time into a plurality of equal intervals, and the reflected light image for brightness with each pixel, the value indicating the brightness of the visual and pixel value, the maximum brightness of the pixel having a predetermined condition image having By using the exposure time e at the time of shooting and the pixel value o of the pixel using a pixel having a value, a formula i = o / e values calculated from the removal of the influence of the pixel value by the exposure time determining a true brightness i, the logarithm scale (log 10 (i)) with respect to calculated the true brightness value, by combining as a single image, and generates the multiplexed shutter speed image It is intended to be.
また、本発明のうち請求項2に記載の発明は、上記記載の発明において、上記所定の条件は、上限画素値を240から250とするようにしたものである。 According to a second aspect of the present invention, in the above-described invention, the predetermined condition is that the upper limit pixel value is 240 to 250.
また、本発明のうち請求項3に記載の発明は、2値化投影パターンを投影された測定対象物からの反射光画像を撮像し、該撮像した反射光画像を用いて空間コード画像を生成する空間コード化法により上記測定対象物の3次元形状を測定する3次元形状測定装置において、光透過領域と光非透過領域とよりなるストライプ形状のパターンである所定の2値化投影パターンを、上記所定の2値化投影パターンの光透過領域と光非透過領域との位置が入れ替わる1/2位相反転する範囲までシフトし、かつ、測定対象物における3次元形状測定の測定分解能に関する最小分解能となるような所定の移動量でシフトしながら上記測定対象物に順次投影し、該所定の2値化投影パターンを投影された上記測定対象物からの反射光画像を該シフト毎に異なるシャッタースピード(露光時間)で撮像し、該シフト毎に異なるシャッタースピード(露光時間)で撮像した複数の反射光画像を取得し、該シフト毎に異なるシャッタースピード(露光時間)で撮像した複数の反射光画像を用いて、複数の反射光画像から所定の条件を有する有効な画素を抽出して1つに合成することにより該シフト毎の多重シャッタースピード画像を生成し、該シフト毎の多重シャッタースピード画像を合成した位相シフト画像を生成する第1の手段と、上記所定の2値化投影パターンを含む、それぞれ種類の異なる複数の2値化投影パターンを上記測定対象物にそれぞれ投影し、該それぞれ種類の異なる複数の2値化投影パターンを投影された上記測定対象物からの反射光画像を該それぞれ種類の異なる複数の2値化投影パターン毎に異なる露光時間で撮像し、該それぞれ種類の異なる複数の2値化投影パターン毎に異なる露光時間で撮像した反射光画像から所定の条件を有する有効な画素を抽出し合成して該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を生成し、該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を合成した空間コード画像を生成する第2の手段と、該位相シフト画像と該空間コード画像とを合成することにより、撮影空間に対してシフトピッチまで光分解能化された絶対的なコード値たる位相シフト空間コード画像を生成する合成手段と、該位相シフト空間コード画像を空間コード画像として扱うことにより、該位相シフト空間コード画像に基づいて上記測定対象物の3次元形状を取得する3次元形状取得手段とを有することを特徴とし、さらに、該シフト毎の多重シャッタースピード画像を生成する第1の手段と、該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を生成する第2の手段とのそれぞれにおいて、上記露光時間について、測定対象物上の黒色の部分に当たっている2値化投影パターンを視認するのに必要な露光時間を最長露光時間とし、また、測定対象物上の白色の部分に当たっている2値化投影パターンを視認するのに必要な露光時間を最短露光時間とし、上記最長露光時間と上記最短露光時間との差となる時間を等間隔に複数に分割して得られた複数の露光時間を用いるものとし、上記反射光画像について、上記反射光画像が有する各画素が有する明るさについて、見た目の明るさを示す値を画素値とし、上記所定の条件を有する画素のうち最大の明るさである画素値を有するある画素を用いて該画素の画素値oと撮影時の露光時間eとを用いて、計算式i=o/eより算出された値を露光時間による画素値への影響を除去した真の明るさiとして決定し、計算した上記真の明るさの値に対して対数スケール(log10(i))を取り、1つの画像として合成することにより、上記多重シャッタースピード画像を生成するものとするようにしたものである。
The invention according to claim 3 of the present invention captures a reflected light image from a measurement object projected with a binarized projection pattern, and generates a spatial code image using the captured reflected light image. In the three-dimensional shape measuring apparatus that measures the three-dimensional shape of the measurement object by the spatial encoding method, a predetermined binarized projection pattern that is a stripe-shaped pattern composed of a light transmission region and a light non-transmission region is obtained. Shifting to a half-phase inversion range where the positions of the light transmission region and the light non-transmission region of the predetermined binarized projection pattern are switched, and the minimum resolution regarding the measurement resolution of the three-dimensional shape measurement on the measurement object; Are sequentially projected onto the measurement object while shifting by a predetermined amount of movement, and the reflected light image from the measurement object onto which the predetermined binarized projection pattern is projected differs for each shift. To obtain a plurality of reflected light images taken at different shutter speeds (exposure times) for each shift, and to obtain a plurality of images taken at different shutter speeds (exposure times) for each shift. A multiple shutter speed image for each shift is generated by extracting effective pixels having a predetermined condition from a plurality of reflected light images and combining them into one by using the reflected light image, and multiple shutters for each shift A first means for generating a phase shift image obtained by synthesizing a speed image, and a plurality of different types of binarized projection patterns including the predetermined binarized projection pattern are respectively projected onto the measurement object; Reflected light images from the measurement object onto which a plurality of binarized projection patterns of different types are projected are binarized of different types. Images are captured with different exposure times for each shadow pattern, and effective pixels having a predetermined condition are extracted and synthesized from reflected light images captured with different exposure times for each of a plurality of different binary projection patterns. A multiple shutter speed image is generated for each of a plurality of different binarized projection patterns, and a spatial code image is generated by synthesizing the multiple shutter speed images for each of a plurality of different binarized projection patterns. And a synthesizing unit that generates a phase-shifted spatial code image that is an absolute code value that has been optically resolved to a shift pitch with respect to the imaging space, by synthesizing the phase-shifted image and the spatial code image. The measurement object based on the phase shift space code image by treating the phase shift space code image as a space code image. Three-dimensional shape acquisition means for acquiring a three-dimensional shape of the first and second means for generating a multiple shutter speed image for each shift, and a plurality of binary projections of different types. In each of the second means for generating a multiple shutter speed image for each pattern, the exposure time required for visually recognizing the binarized projection pattern hitting the black portion on the measurement object is the longest. The exposure time is set as the shortest exposure time, and the difference between the longest exposure time and the shortest exposure time is the exposure time necessary for visually recognizing the binarized projection pattern that hits the white portion on the measurement object. A plurality of exposure times obtained by dividing the time into a plurality of equal intervals are used, and for the reflected light image, each pixel included in the reflected light image has a bright light. For the, the value indicating the brightness of the visual and the pixel value, at the time of shooting and the pixel value o of the pixel using a pixel having a pixel value which is the maximum brightness among the pixels having the predetermined conditions Using the exposure time e, the value calculated from the formula i = o / e is determined as the true brightness i from which the influence of the exposure time on the pixel value is removed , and the calculated true brightness value A logarithmic scale (log 10 (i)) is taken with respect to, and the multiple shutter speed images are generated by combining them as one image.
また、本発明のうち請求項4に記載の発明は、上記発明において、上記所定の条件は、上限画素値を240から250とするようにしたものである。
According to a fourth aspect of the present invention, in the above invention, the predetermined condition is that the upper limit pixel value is 240 to 250.
本発明は、以上説明したように構成されているので、測定対象物の表面の色の明暗に依存することなく、測定対象物の全表面の形状を測定することができるようになるという優れた効果を奏する。 Since the present invention is configured as described above, it is possible to measure the shape of the entire surface of the measurement object without depending on the brightness of the surface color of the measurement object. There is an effect.
以下、添付の図面を参照しながら、本発明による3次元形状測定方法およびその装置の実施の形態の一例を詳細に説明するものとする。 Hereinafter, an example of an embodiment of a three-dimensional shape measurement method and apparatus according to the present invention will be described in detail with reference to the accompanying drawings.
図5には、本発明による3次元形状測定装置の実施の形態の一例を表す概略構成説明図が示されている。
FIG. 5 is a schematic configuration explanatory diagram showing an example of an embodiment of a three-dimensional shape measuring apparatus according to the present invention.
即ち、本発明の実施の形態の一例による3次元形状測定装置10は、バス12aを介して接続された中央処理装置(CPU)12b、CPU12bが実行するプログラムなどを格納したリードオンリメモリ(ROM)12c、データ信号を一時記憶するバッファメモリやCPU12bによるプログラムの実行時に必要な各種レジスタなどが設定されたワーキングエリアとしてのランダムアクセスメモリ(RAM)12d、キーボードやマウスなどの各種の入力装置12eならびにCPU12bの処理結果などを出力して表示する表示装置12fなどを有して構成されるコンピュータ12によりその全体の動作を制御するように構成されており、コンピュータ12の制御により測定対象物14へ複数の2値化投影パターンを投影する投影手段としての投影機(プロジェクター)16と、投影機16により2値化投影パターンを投影された測定対象物14を撮像する撮像素子を備えて構成される撮像手段としての撮影機(カメラ)18とを有して構成されている。なお、撮像素子としては、例えば、CCDやCMOSなどを用いることができる。 That is, the three-dimensional shape measuring apparatus 10 according to an example of the embodiment of the present invention includes a central processing unit (CPU) 12b connected via a bus 12a, and a read only memory (ROM) that stores programs executed by the CPU 12b. 12c, a random access memory (RAM) 12d as a working area in which a buffer memory for temporarily storing data signals and various registers necessary for executing a program by the CPU 12b are set, various input devices 12e such as a keyboard and a mouse, and the CPU 12b The overall operation of the computer 12 is controlled by a computer 12 having a display device 12f that outputs and displays the processing results of the above. Projection means for projecting a binarized projection pattern; Each of the projectors (projectors) 16 and an imaging device (camera) 18 as an imaging unit configured to include an imaging element that images the measurement target object 14 onto which the binarized projection pattern is projected by the projector 16. It is configured. In addition, as an image pick-up element, CCD, CMOS, etc. can be used, for example.
そして、この3次元形状測定装置10においては、投影機16はコンピュータ12に接続されていて、測定対象物14の表面に、コンピュータ12で生成される各種の2値化投影パターンを投影することができるように配置にされている。また、撮影機18は、投影機16の投影方向とは異なる方向から測定対象物14の表面を撮影することができるように配置されており、撮影機18で撮影された画像は、デジタル化されてコンピュータ12に取り込まれるようになされている。 In the three-dimensional shape measuring apparatus 10, the projector 16 is connected to the computer 12 and can project various binary projection patterns generated by the computer 12 onto the surface of the measurement object 14. Arranged so that you can. The photographing machine 18 is arranged so that the surface of the measuring object 14 can be photographed from a direction different from the projection direction of the projector 16, and the image photographed by the photographing machine 18 is digitized. Are taken into the computer 12.
そして、この3次元形状測定装置10においては、撮影機18が同一の2値化投影パターンを投影された測定対象物からの反射光画像を異なるシャッタースピード(露光時間)で撮像するようにして、コンピュータ12はこうして撮影した複数の撮影画像を合成して1つの画像(多重シャッタースピード画像)を生成し、多重シャッタースピード画像に基づいて空間コード画像(後述する。)ならびに位相シフト画像(後述する。)を得るようにしている。 In the three-dimensional shape measuring apparatus 10, the photographing machine 18 captures reflected light images from the measurement object onto which the same binarized projection pattern is projected at different shutter speeds (exposure times). The computer 12 generates a single image (multiple shutter speed image) by synthesizing the plurality of captured images thus captured, and a spatial code image (described later) and a phase shift image (described later) based on the multiple shutter speed image. ).
なお、2値化投影パターンとしては、上記において図1(a)(b)(c)(d)を参照しながら説明したものと同様なものを用いることができるものであるので、その詳細な説明は省略する。 As the binarized projection pattern, a pattern similar to that described above with reference to FIGS. 1A, 1B, 1C, and 1D can be used. Description is omitted.
次に、図6には、コンピュータ12により実現される3次元形状測定装置10の制御システムのブロック構成説明図が示されている。
Next, FIG. 6 shows a block configuration explanatory diagram of a control system of the three-dimensional shape measuring apparatus 10 realized by the computer 12.
この制御システムは、投影機16で投影する処理に使用する複数の2値化投影パターンを決定して、当該決定した複数の2値化投影パターンを測定対象物14の表面に投影するとともに、当該決定した複数の2値化投影パターンの中のいずれか1つを幅W方向に所定の移動量だけシフト(移動)させながら測定対象物14の表面に投影するための制御を行う2値化投影パターン投影手段20と、撮影機18が撮影した画像をデジタル化して画像処理手段24(後述する。)へ送る画像入力手段22と、画像入力手段22から送られた画像を処理して測定対象物14の三次元情報を抽出する画像処理手段24とを有して構成されている。 The control system determines a plurality of binarized projection patterns to be used for the process of projecting by the projector 16, projects the determined binarized projection patterns onto the surface of the measurement object 14, and Binary projection for controlling to project any one of the determined binary projection patterns onto the surface of the measuring object 14 while shifting (moving) a predetermined movement amount in the width W direction. The pattern projection means 20, the image input means 22 that digitizes the image taken by the photographing machine 18 and sends it to the image processing means 24 (described later), and the image sent from the image input means 22 to process the measurement object 14 image processing means 24 for extracting three-dimensional information.
ここで、2値化投影パターン投影手段20は、図1(a)(b)(c)(d)に示すような2値化投影パターンを生成する2値化投影パターン生成部20aと、2値化投影パターン生成部20aにおいて生成された2値化投影パターンを測定対象物14へ投影するように投影機16を制御する2値化投影パターン投影制御部20bとを有して構成されている。
Here, the binarized projection pattern projection means 20 includes a binarized projection pattern generation unit 20a that generates a binarized projection pattern as shown in FIGS. 1A, 1B, 1C, and 2D, and 2 A binarized projection pattern projection control unit 20b that controls the projector 16 so as to project the binarized projection pattern generated by the binarized projection pattern generation unit 20a onto the measurement object 14 is configured. .
即ち、この2値化投影パターン投影手段20においては、2値化投影パターン生成部20aで所定の幅Wの光透過領域100aと光非透過領域100bとからなる複数の2値化投影パターンを生成する。 That is, in the binarized projection pattern projecting means 20, the binarized projection pattern generation unit 20a generates a plurality of binarized projection patterns including a light transmission region 100a and a light non-transmission region 100b having a predetermined width W. To do.
そして、空間コード画像生成処理(後述する。)を行う場合には、2値化投影パターン投影制御部20bが投影機16を制御して、2値化投影パターン生成部20aが生成した種類の異なる複数の2値化投影パターンを測定対象物14の表面にそれぞれ投影する。この際には、2値化投影パターン投影制御部20bは、測定対象物14の表面に投影する2値化投影パターンを幅W方向へシフトしない。 When a spatial code image generation process (described later) is performed, the binarized projection pattern projection control unit 20b controls the projector 16, and the types generated by the binarized projection pattern generation unit 20a are different. A plurality of binarized projection patterns are respectively projected onto the surface of the measurement object 14. At this time, the binarized projection pattern projection control unit 20b does not shift the binarized projection pattern projected onto the surface of the measurement object 14 in the width W direction.
一方、位相シフト画像生成処理(後述する。)を行う場合には、2値化投影パターン投影制御部20bが投影機16を制御して、2値化投影パターン生成部20aが生成した複数の2値化投影パターンのいずれか1つを測定対象物14の表面に投影する。この際には、2値化投影パターン投影制御部20bは、測定対象物14の表面に投影する2値化投影パターンを幅W方向に所定の移動量ずつ順次にシフトさせながら投影する。 On the other hand, in the case of performing phase shift image generation processing (described later), the binarized projection pattern projection control unit 20b controls the projector 16, and a plurality of two generated by the binarized projection pattern generation unit 20a. Any one of the digitized projection patterns is projected onto the surface of the measurement object 14. At this time, the binarized projection pattern projection control unit 20b projects the binarized projection pattern projected onto the surface of the measurement object 14 while sequentially shifting the binarized projection pattern by a predetermined amount of movement in the width W direction.
この移動量は任意であり、幅Wよりも小さくてもよいし大きくてもよいが、この移動量が、測定対象物14における3次元形状の形状計測の測定分解能に関する最小分解能となる。 This amount of movement is arbitrary and may be smaller or larger than the width W, but this amount of movement becomes the minimum resolution regarding the measurement resolution of the shape measurement of the three-dimensional shape in the measurement object 14.
次に、画像入力手段22は、測定対象物14の表面に投影された2値化投影パターンを撮影機18により撮影し、当該撮影により得られた画像をデジタル化して画像処理手段24へ入力するものである。 Next, the image input unit 22 captures the binarized projection pattern projected on the surface of the measurement object 14 with the photographing machine 18, digitizes the image obtained by the photographing, and inputs the digitized image to the image processing unit 24. Is.
この際に、撮影機18は、ある2値化投影パターンを投影された測定対象物からの反射光画像を撮像する際にそれぞれ異なるシャッタースピード(露光時間)で撮像し、当該2値化投影パターンを投影された測定対象物からの反射光画像の多重シャッタースピード画像を生成可能とする。 At this time, the imaging device 18 captures images with different shutter speeds (exposure times) when capturing a reflected light image from a measurement object onto which a certain binarized projection pattern is projected, and the binarized projection pattern. It is possible to generate a multiple shutter speed image of the reflected light image from the measurement object projected.
さらに、画像処理手段24は、画像入力手段22から送られた画像を処理して測定対象物14の三次元情報を抽出するものであり、2値化投影パターン生成部20aが生成した種類の異なる複数の2値化投影パターンを測定対象物14の表面にそれぞれ投影し、撮影機18により2値化投影パターンを投影された測定対象物14の表面を、当該種類の異なる複数の2値化投影パターン毎に異なるシャッタースピード(露光時間)で撮影した画像を画像入力手段22から送られて、当該種類の異なる複数の2値化投影パターン毎に当該送られた画像を合成した1つの画像(多重シャッタースピード画像)を生成し、当該種類の異なる複数の2値化投影パターン毎に生成した多重シャッタースピード画像を合成した画像(以下、「空間コード画像」と適宜に称する。)を生成する空間コード画像処理を行う空間コード画像生成手段24aと、2値化投影パターン生成部20aが生成したいずれか1つの2値化投影パターンを幅W方向に所定の移動量だけ順次にシフトさせながら測定対象物14の表面に投影し、撮影機18により2値化投影パターンを投影された測定対象物14の表面を、当該シフト毎に異なるシャッタースピード(露光時間)で撮影した画像を画像入力手段22から送られて、当該シフト毎に当該送られた画像を合成した1つの画像(多重シャッタースピード画像)を生成し、当該シフト毎に生成した多重シャッタースピード画像を合成した画像(以下、「位相シフト画像」と適宜に称する。)を生成する位相シフト画像生成処理を行う位相シフト画像生成手段24bと、空間コード画像生成手段24aにより得られた空間コード画像(空間コード値)と位相シフト画像生成手段24bにより得られた位相シフト画像(シフトコード値)とを合成した画像たる位相シフト空間コード画像を生成する位相シフト空間コード画像生成手段24cと、位相シフト空間コード画像生成手段24cにより得られた位相シフト空間コード画像から測定対象物14の3次元形状情報を得る3次元形状情報取得手段24dとを有して構成されている。 Furthermore, the image processing means 24 processes the image sent from the image input means 22 and extracts the three-dimensional information of the measurement object 14, and the types generated by the binarized projection pattern generation unit 20a are different. A plurality of binarized projection patterns are respectively projected onto the surface of the measurement object 14, and the surface of the measurement object 14 onto which the binarized projection pattern is projected by the photographing machine 18 is a plurality of binary projections of different types. An image captured at a different shutter speed (exposure time) for each pattern is sent from the image input means 22, and a single image (multiple images) obtained by synthesizing the sent images for each of a plurality of different types of binarized projection patterns. A shutter speed image) is generated, and an image obtained by combining multiple shutter speed images generated for each of a plurality of different binary projection patterns (hereinafter referred to as “spatial code image”). The space code image generation unit 24a that performs space code image processing and the binarized projection pattern generation unit 20a generate any one of the binarized projection patterns in the width W direction. The surface of the measurement object 14 projected onto the surface of the measurement object 14 while being sequentially shifted by the amount of movement, and the binarized projection pattern projected by the photographing machine 18 is different in shutter speed (exposure time) for each shift. Is sent from the image input means 22 to generate one image (multiple shutter speed image) obtained by synthesizing the sent image for each shift, and the multiple shutter speed image generated for each shift is generated. Phase shift image generation means 24b for performing phase shift image generation processing for generating a combined image (hereinafter referred to as “phase shift image” as appropriate). A phase shift spatial code image that is an image obtained by synthesizing the spatial code image (spatial code value) obtained by the spatial code image generation means 24a and the phase shift image (shift code value) obtained by the phase shift image generation means 24b is obtained. A phase shift space code image generation means 24c to be generated, and a 3D shape information acquisition means 24d for obtaining 3D shape information of the measurement object 14 from the phase shift space code image obtained by the phase shift space code image generation means 24c. It is configured.
そして、3次元形状情報取得手段24dにより取得された測定対象物14の3次元形状情報は、表示装置12fなどへ出力されて利用に供される。 The three-dimensional shape information of the measurement object 14 acquired by the three-dimensional shape information acquisition unit 24d is output to the display device 12f and the like for use.
なお、位相シフト空間コード画像生成手段24cにより得られた画像たる位相シフト空間コード画像は空間コード画像であるので、3次元形状情報取得手段24dは、空間コード化法のアルゴリズムのままで測定対象物14の3次元形状情報を取得することができる。換言すれば、3次元形状情報取得手段24dは、従来より公知の技術により構築することができ、従来より公知の技術を利用して3次元形状情報が得られる。 Since the phase shift space code image, which is the image obtained by the phase shift space code image generation means 24c, is a space code image, the three-dimensional shape information acquisition means 24d can measure the measurement object without changing the space coding algorithm. 14 three-dimensional shape information can be acquired. In other words, the three-dimensional shape information acquisition unit 24d can be constructed by a conventionally known technique, and three-dimensional shape information can be obtained using a conventionally known technique.
以上の構成において、図7に示すフローチャートを参照しながら、3次元形状測定装置10の動作について説明する。
In the above configuration, the operation of the three-dimensional shape measuring apparatus 10 will be described with reference to the flowchart shown in FIG.
即ち、この3次元形状測定装置10において測定対象物14の3次元形状情報を得るには、まず、空間をコード化するために、所定の幅Wがそれぞれ異なる複数の2値化投影パターンを生成する(ステップS702)。 That is, in order to obtain the three-dimensional shape information of the measurement object 14 in the three-dimensional shape measuring apparatus 10, first, a plurality of binarized projection patterns having different predetermined widths W are generated in order to code the space. (Step S702).
ここで、空間を分割するためのスリットの数をnとすると、log2n枚の異なる2値化投影パターンを用意しなければならない。 Here, if the number of slits for dividing the space is n, log 2 n different binary projection patterns must be prepared.
次に、ステップS702で生成された2値化投影パターンの中で任意の一つを選択して、位相シフト画像を生成する位相シフト画像生成処理を行う(ステップS704)。即ち、投影機16により、選択した2値化投影パターンを幅W方向に所定の移動量だけ順次にシフトさせながら測定対象物14の表面に投影し、撮影機18により2値化投影パターンを投影された測定対象物14の表面を、当該シフト毎に異なるシャッタースピード(露光時間)で撮影した画像を画像入力手段22から送られて、当該シフト毎に当該送られた画像を合成した1つの画像たる多重シャッタースピード画像を生成し、当該シフト毎に生成した多重シャッタースピード画像を合成した位相シフト画像を生成する。 Next, any one of the binarized projection patterns generated in step S702 is selected, and phase shift image generation processing for generating a phase shift image is performed (step S704). In other words, the selected binarized projection pattern is projected onto the surface of the measuring object 14 by the projector 16 while being sequentially shifted by a predetermined movement amount in the width W direction, and the binarized projection pattern is projected by the photographing machine 18. An image obtained by photographing the surface of the measured object 14 with a different shutter speed (exposure time) for each shift is sent from the image input means 22, and one image obtained by synthesizing the sent images for each shift. A multiple shutter speed image is generated, and a phase shift image is generated by combining the multiple shutter speed images generated for each shift.
つまり、位相シフト画像生成処理においては、後述する空間コード画像生成処理に必要な2値化投影パターンのうちの任意の一つ選択して用いるものであり、この位相シフト画像生成処理で用いる2値化投影パターンを「シフトパターン」と適宜に称することとする。 That is, in the phase shift image generation process, any one of the binarized projection patterns necessary for the spatial code image generation process described later is selected and used, and the binary used in this phase shift image generation process The normalized projection pattern is appropriately referred to as a “shift pattern”.
シフトパターンとしては、原理的にはいずれの2値化投影パターンを用いてもよく、いずれの2値化投影パターンでも同様の効果を得ることが可能であるが、シフト数を考慮すると最も幅Wの狭い2値化投影パターン、即ち、LSBパターンを用いることが好ましいものである。 As a shift pattern, any binarized projection pattern may be used in principle, and any binarized projection pattern can obtain the same effect. However, the width W is the largest in consideration of the number of shifts. It is preferable to use a narrow binarized projection pattern, that is, an LSB pattern.
即ち、シフトパターンとしては、原理的にはいずれの2値化投影パターンを用いても同様な作用効果を得ることができるが、位相シフト画像生成処理においてはシフト毎に2値化投影パターンを投影された測定対象物14の画像を撮影するため、撮影枚数が最も少なくなる、換言すれば、シフト回数が最も少なくなるLSBパターンを用いてそれをシフトすることが好ましい。 That is, in principle, any binary projection pattern can be used as the shift pattern. However, in the phase shift image generation process, a binary projection pattern is projected for each shift. In order to capture the image of the measured object 14, it is preferable to shift it using the LSB pattern that minimizes the number of captured images, in other words, minimizes the number of shifts.
また、シフトパターンをシフトする際のシフト毎の移動量(以下、「シフトピッチ」と適宜に称する。)は、測定装置10のユーザーが希望する測定分解能のピッチでよく、このシフトピッチが最小分解能となる。なお、投影機16の最小ドットピッチを採用すると、投影機16の解像度に影響を受けることなく最も測定分解能が高くすることができる。 Further, the amount of movement for each shift when shifting the shift pattern (hereinafter referred to as “shift pitch” as appropriate) may be the pitch of the measurement resolution desired by the user of the measurement apparatus 10, and this shift pitch is the minimum resolution. It becomes. If the minimum dot pitch of the projector 16 is adopted, the measurement resolution can be maximized without being affected by the resolution of the projector 16.
また、シフトパターンは、そのパターンの1周期以内で複数回シフトするものとする。即ち、シフトパターンのシフト幅は、例えば、LSBパターンの光透過領域100aと光非透過領域100bとの位置が入れ替わる1/2位相反転する範囲までシフトする。 The shift pattern is shifted a plurality of times within one cycle of the pattern. That is, the shift width of the shift pattern is shifted to, for example, a range in which the phase of the LSB pattern is inverted by half phase in which the positions of the light transmission region 100a and the light non-transmission region 100b are switched.
ここで、測定対象物14の表面をシフト毎に撮影して生成した多重シャッタースピード画像を合成して位相シフト画像を生成する際には、シフト毎に生成した各多重シャッタースピード画像をそれぞれに重み無く(または、同一の重みでもよい。)足し込むことで、シフトピッチを最小分解能とする空間コード画像たる位相シフト画像を生成する。 Here, when a phase shift image is generated by synthesizing multiple shutter speed images generated by photographing the surface of the measurement object 14 for each shift, each multiple shutter speed image generated for each shift is weighted. By adding them without (or even with the same weight), a phase shift image as a spatial code image having a minimum resolution of the shift pitch is generated.
なお、位相シフト画像は、2値化投影パターンのストライプ幅間隔である幅W間隔でコード値が繰り返され、生成される位相シフト画像中に同一コード値が複数存在するようになる。このため、位相シフト画像生成処理においては、撮影空間に対して絶対的なコード値は生成されない。 In the phase shift image, code values are repeated at a width W interval that is a stripe width interval of the binarized projection pattern, and a plurality of the same code values exist in the generated phase shift image. For this reason, in the phase shift image generation process, an absolute code value is not generated for the imaging space.
また、後述するように、2値化投影パターンに「グレイコード」を採用した場合には、足し込みの前にBit演算をすることが望ましい。 Further, as will be described later, when a “gray code” is adopted for the binarized projection pattern, it is desirable to perform a bit calculation before adding.
上記したステップS704の処理を終了すると、ステップS706の処理へ進み、ステップS702で生成された所定の幅Wがそれぞれ異なる複数の2値化投影パターンを用いて、空間コード画像を生成する空間コード画像生成処理を行う。即ち、投影機16により、種類の異なる複数の2値化投影パターンを測定対象物14の表面にそれぞれ投影し、撮影機18により2値化投影パターンを投影された測定対象物14の表面を、当該種類の異なる複数の2値化投影パターン毎に異なるシャッタースピード(露光時間)で撮影した画像を画像入力手段22から送られて、当該種類の異なる複数の2値化投影パターン毎に当該送られた画像を合成した1つの画像たる多重シャッタースピード画像を生成し、当該種類の異なる複数の2値化投影パターン毎に生成した多重シャッタースピード画像を合成した空間コード画像を生成する。 When the process of step S704 is completed, the process proceeds to step S706, and a spatial code image for generating a spatial code image using a plurality of binary projection patterns having different predetermined widths W generated in step S702 is used. Perform the generation process. That is, the projector 16 projects a plurality of different types of binarized projection patterns onto the surface of the measurement object 14, and the surface of the measurement object 14 onto which the binarized projection pattern is projected by the photographing machine 18, Images taken at different shutter speeds (exposure times) for each of a plurality of different types of binarized projection patterns are sent from the image input means 22 and sent for each of a plurality of different types of binarized projection patterns. A multiple shutter speed image, which is one image obtained by combining the images, is generated, and a spatial code image is generated by combining the multiple shutter speed images generated for each of the plurality of different types of binarized projection patterns.
つまり、空間コード画像生成処理においては、例えば、シフトパターンとしてLSBパターンを選択したならば、シフトさせる前のLSBパターンも含めた2値化投影パターンを測定対象物14の表面に投影して各2値化投影パターンの多重シャッタースピード画像を生成し、生成した各2値化投影パターンの多重シャッタースピード画像を用いて、従来より公知の空間コード画像を生成する手法により、所謂、空間コード画像を生成する。 That is, in the spatial code image generation process, for example, if an LSB pattern is selected as the shift pattern, a binary projection pattern including the LSB pattern before the shift is projected onto the surface of the measurement object 14 and each 2 A multiple shutter speed image of a binarized projection pattern is generated, and a so-called spatial code image is generated by a conventionally known method of generating a spatial code image using the multiple shutter speed images of each binarized projection pattern. To do.
この空間コード画像の分解能はLSBパターンのストライプ幅であるが、撮影空間に対して絶対的なコードとなる。 The resolution of the space code image is the stripe width of the LSB pattern, but is an absolute code for the shooting space.
次に、ステップS704で生成した位相シフト画像とステップS706で生成した空間コード画像とを合成して、位相シフト空間コード画像を生成する位相シフト空間コード画像生成処理を行う(ステップS708)。この位相シフト空間コード画像は、撮影空間に対して相対的なコード値の画像たる位相シフト画像と撮影空間に対して絶対的なコード値の画像たる空間コード画像との合成であるため、これにより生成された位相シフト空間コード画像は、シフトピッチを測定分解能とし、かつ、撮影空間に対して絶対的なコード値の画像となる。即ち、シフトピッチまで細分化(高分解能化)された絶対的なコード画像(コード値)が生成される。 Next, a phase shift spatial code image generation process for generating a phase shift spatial code image by synthesizing the phase shift image generated in step S704 and the spatial code image generated in step S706 is performed (step S708). This phase-shift space code image is a combination of a phase-shift image that is an image with a code value relative to the shooting space and a space code image that is an image with an absolute code value with respect to the shooting space. The generated phase shift space code image is an image having a shift pitch as a measurement resolution and an absolute code value with respect to the imaging space. That is, an absolute code image (code value) subdivided (high resolution) up to the shift pitch is generated.
ステップS708の処理を終了すると、ステップS710の処理へ進み、ステップS708で生成された位相シフト空間コード画像に基づいて、測定対象物14の3次元形状情報を取得する3次元形状情報取得処理を行う。即ち、位相シフト空間コード画像は空間コード画像であるため、位相シフト空間コード画像を空間コード画像として扱い、従来より公知の技術を用いて測定対象物14の3次元形状情報を取得する。 When the process of step S708 ends, the process proceeds to step S710, and a three-dimensional shape information acquisition process for acquiring the three-dimensional shape information of the measurement object 14 is performed based on the phase shift space code image generated in step S708. . That is, since the phase shift space code image is a space code image, the phase shift space code image is treated as a space code image, and the three-dimensional shape information of the measurement object 14 is obtained using a conventionally known technique.
そして、ステップS710の3次元形状情報取得処理により取得された測定対象物14の3次元形状情報は、表示装置12fなどへ出力されて各種の利用に供される。 Then, the three-dimensional shape information of the measurement object 14 acquired by the three-dimensional shape information acquisition process in step S710 is output to the display device 12f and the like for various uses.
次に、シフトパターンをシフトしながら各シフト毎における測定対象物14の表面へ投影された2値化投影パターン画像を撮影する手法の原理について、以下により詳細に説明することする。
Next, the principle of a technique for photographing a binarized projection pattern image projected onto the surface of the measurement object 14 for each shift while shifting the shift pattern will be described in more detail below.
まず、図8(a)(b)(c)には、光非透過領域(図8(a)(b)(c)においてハッチングで示す領域)が、16分割したシフトピッチ幅で図上左側から右側へシフトパターンをシフトして、光透過領域(図8(a)(b)(c)においてハッチングされていない領域)と光非透過領域とが反転する位置までシフトしたときにおける、各シフトパターンのシフト状態と各シフトピッチに対応するコード値とが示されている。なお、図8(a)(b)(c)において、黒1〜nは、シフトパターンをシフトしたことで光非透過領域がシフトパターンを含めて何回であったかを示している。 First, in FIGS. 8A, 8B, and 8C, the light non-transmissive region (the region indicated by hatching in FIGS. 8A, 8B, and 8C) has a 16-divided shift pitch width on the left side in the figure. Each shift when shifting the shift pattern from right to right and shifting to a position where the light transmission region (the region not hatched in FIGS. 8A, 8B, and 8C) and the light non-transmission region are reversed. The pattern shift state and the code value corresponding to each shift pitch are shown. In FIGS. 8A, 8B, and 8C, black 1 to n indicate how many times the light non-transmission region includes the shift pattern by shifting the shift pattern.
ここで、図8(a)は、シフトピッチを分解能とした空間に分割するものであり、シフトパターンを撮影した画像と、シフトごとに撮影した各画像の中の同一画素の2値化された値を単純に加算することによって空間を分割する。 Here, FIG. 8A divides the image into a space with the shift pitch as the resolution, and the binarized image of the shift pattern and the same pixel in each image captured for each shift. Divide the space by simply adding values.
例えば、図8(b)に示すように、シフトパターンを予め二分割しておけばシフト回数は1/2になり、撮影枚数ならびに撮影時間ともに1/2となる。 For example, as shown in FIG. 8B, if the shift pattern is divided into two in advance, the number of shifts is halved, and both the number of shots and the shooting time are halved.
同様に、図8(c)に示すように、シフトパターンを4分割にすれば、シフト回数は1/4になり、さらに分割していけば同様にシフト回数が減り、撮影枚数ならびに撮影時間も短縮することができる。 Similarly, as shown in FIG. 8 (c), if the shift pattern is divided into four, the number of shifts becomes ¼, and if further divided, the number of shifts similarly decreases, and the number of shots and the shooting time also increase. It can be shortened.
このことから、シフトパターンとしては、2値化投影パターンの中で最もストライプ幅の小さい、即ち、分割数の多いLSBパターンを選択することがより効率的である。 For this reason, as the shift pattern, it is more efficient to select the LSB pattern having the smallest stripe width among the binarized projection patterns, that is, the number of divisions.
また、図8(b)および図8(c)に示すように、位相シフト画像は、2値化投影パターンのストライプの幅Wの間隔でコード値が繰り返され、生成される位相シフト画像中に同一コード値が複数存在することになる。このため、撮影空間に対して絶対的なコード値は生成されない。
In addition, as shown in FIGS. 8B and 8C, the phase shift image includes code values that are repeated at intervals of the width W of the stripes of the binarized projection pattern. There will be multiple identical code values. For this reason, an absolute code value is not generated for the shooting space.
しかしながら、シフトパターンをシフトさせることによって得られた同一コード値は、シフトパターンの光透過領域と光非透過領域という2値化された値の中では、複数回発生しないという特徴を備えている。 However, the same code value obtained by shifting the shift pattern has a feature that it does not occur a plurality of times in the binarized values of the light transmission region and the light non-transmission region of the shift pattern.
例えば、図8(c)において、「光非透過領域|光透過領域|光非透過領域|光透過領域」という2値化投影パターンで4分割されたパターンをシフトパターンとした場合、「黒1」というコード値は4カ所に発生している。 For example, in FIG. 8C, when the pattern divided into four by the binarized projection pattern “light non-transmission area | light transmission area | light non-transmission area | light transmission area” is used as the shift pattern, “black 1 "Has occurred in four places.
しかしながら、シフトパターンの中の「光透過領域」の中には1カ所しか発生しない。同様に、シフトパターンの中の「光非透過領域」の中にも「黒1」というコード値は1カ所しかない。 However, only one place occurs in the “light transmission region” in the shift pattern. Similarly, there is only one code value “black 1” in the “light non-transmission region” in the shift pattern.
ここで、シフトさせる前のシフトパターンも含めた2値化投影パターンを投影および撮影し空間コード画像を生成すると、当該空間コード画像の分解能はLSBパターンのストライプ幅であるが、撮影空間に対して絶対的なコード値となる。 Here, when a binary code pattern including a shift pattern before shifting is projected and photographed to generate a spatial code image, the resolution of the spatial code image is the stripe width of the LSB pattern, Absolute code value.
即ち、図9に示すように、シフトパターンの「右側の光透過領域」は「空間コード0」、「左側の光非透過領域」は「空間コード3」というように撮影空間を一意にコード化できる。 That is, as shown in FIG. 9, the imaging space is uniquely coded such that “right light transmitting area” of the shift pattern is “space code 0” and “left light non-transmitting area” is “space code 3”. it can.
従って、図10に示すように、撮影空間に対して相対的なコード値を持つ位相シフト画像と、絶対的なコード値を持つ空間コード画像との複雑な演算システムを必要としない足し合わせによる合成により、シフトピッチを分解能とし撮影空間に対して絶対的なコード値を持つ位相シフト空間コード画像を生成することができる。 Therefore, as shown in FIG. 10, a composition by adding together a phase shift image having a code value relative to the imaging space and a space code image having an absolute code value is not required. Thus, it is possible to generate a phase shift space code image having a shift pitch as a resolution and an absolute code value with respect to the imaging space.
これにより、例えば空間を16分割するのに16回のシフトを行わずにシフト回数を減少させ、撮影枚数ならびに撮影時間を短縮することができるようになる。 Thereby, for example, when the space is divided into 16, the number of shifts can be reduced without performing 16 shifts, and the number of shots and the shooting time can be shortened.
なお、上記においては、バイナリコードを用いた場合について説明したが、一般に用いられているグレイコードでも原理は同じである。
In the above description, the case where a binary code is used has been described. However, the principle is the same for a commonly used gray code.
ここで、グレイコードで表現した2値化投影パターンを使用し、位相シフト空間コード画像を公知の表計算ソフトウェアを用いて処理した結果を図11に示す。 Here, FIG. 11 shows the result of processing the phase-shift space code image using a known spreadsheet software using the binarized projection pattern expressed by the Gray code.
なお、図11において、光透過領域は「1」、光非透過領域は「0」で表され、空間コード値は実際は255までであるが、35までのみが表示されている。 In FIG. 11, the light transmission area is represented by “1”, the light non-transmission area is represented by “0”, and the space code value is actually up to 255, but only up to 35 is displayed.
また、投影機の解像度が、2値化投影パターンにおけるLSBパターンのストライプの幅の4倍であるとしてシフトさせているため、バイナリコードであれば4回のシフトとなるが、グレイコードのため7回シフトとなっている。 Further, since the resolution of the projector is shifted assuming that it is four times the stripe width of the LSB pattern in the binarized projection pattern, the shift is four times if it is a binary code, but it is 7 because it is a gray code. It has been shifted times.
G32〜G1はグレイコードで表現した2値化投影パターンを示し、S1〜S7はG1(LSB)を位相シフトしたパターンを示す。 G32 to G1 indicate binarized projection patterns expressed in gray code, and S1 to S7 indicate patterns obtained by phase shifting G1 (LSB).
足し合わせの覧には、位相シフトを単純に足し込みをした値を示している。ここで、足し合わせを行った位相シフト画像は「0〜3」までの変化でなくてはならないものが、「0〜7」「7〜0」と大きさと変化の方向が一定でなくなっている。 In the list of addition, a value obtained by simply adding the phase shift is shown. Here, the phase shift image that has been added must change from “0 to 3”, but the size and direction of change are not constant, “0 to 7” and “7 to 0”. .
このままでも空間コード画像との合成は可能であるが、三次元情報抽出時の演算が複雑になってしまうので、空間コード画像との合成の前に図12に示すBit演算を行うことで大きさと変化の方向をバイナリコードから生成された空間コード画像に合わせる値で示した。 Although it can be combined with the spatial code image as it is, the calculation at the time of extracting the three-dimensional information becomes complicated. Therefore, by performing the Bit calculation shown in FIG. The direction of change is indicated by a value that matches the spatial code image generated from the binary code.
変換データの覧には、G32〜G1のグレイコードパターンをバイナリコードパターンに変換した値を示す。バイナリ空間コードはバイナリコードから生成された空間コード画像を示す。 The conversion data list shows values obtained by converting the G32 to G1 gray code patterns into binary code patterns. The binary spatial code indicates a spatial code image generated from the binary code.
Bit演算によりグレイコードからバイナリコードに変換された位相シフト画像とバイナリコードから生成された空間コード画像を合成した位相シフト空間コード画像は、図13に示すように、グラフの傾きが階段状になっているバイナリコードから生成された空間コード画像に対し、位相シフト空間コード画像ではグラフの傾きが直線状となり分解能が向上したことがわかる。 As shown in FIG. 13, the phase shift spatial code image obtained by synthesizing the phase shift image converted from the gray code to the binary code by the bit operation and the spatial code image generated from the binary code has a staircase graph as shown in FIG. In contrast to the spatial code image generated from the binary code, the phase shift spatial code image shows that the slope of the graph is linear and the resolution is improved.
上記した3次元形状測定装置10においては、シフトパターンをシフトする機能および位相シフト画像と空間コード画像とを合成する機能以外の特別な構成を必要とせずに、従来の空間コード化法で用いる構成を用いて、撮影画像の合成だけで高解像度の空間コード画像が生成でき、これにより測定対象物14の3次元形状計測の分解能を向上することができる。
The above-described three-dimensional shape measuring apparatus 10 does not require a special configuration other than the function of shifting the shift pattern and the function of synthesizing the phase-shifted image and the spatial code image, and is used in the conventional spatial coding method. , A high-resolution spatial code image can be generated only by synthesizing the photographed image, thereby improving the resolution of the three-dimensional shape measurement of the measurement object 14.
また、上記した3次元形状測定装置10においては、測定分解能はシフトピッチに依存し、2値化投影パターンのストライプの幅Wとは独立しているため、LSBパターンのストライプの幅Wは、投影機16や撮影機18の解像度に応じてLSBパターンのストライプが識別が可能な幅とすることができる。 In the above-described three-dimensional shape measuring apparatus 10, the measurement resolution depends on the shift pitch and is independent of the stripe width W of the binarized projection pattern. Depending on the resolution of the machine 16 or the camera 18, the width of the LSB pattern can be identified.
次に、撮影機18により同一の2値化投影パターンを投影された測定対象物からの反射光画像を異なるシャッタースピード(露光時間)で撮像する点について説明する。
Next, the point that the reflected light image from the measurement object onto which the same binarized projection pattern is projected by the camera 18 is captured at different shutter speeds (exposure times) will be described.
ここで、撮影機18を構成するCMOSやCCDなどの撮像素子は、人間の目と比較すると入力光に対するダイナミックレンジが狭い。そのため、撮像素子においては、明るい部分の輝度差を認識するために光の感度を調整すると暗い部分を認識することができなくなり、また、暗い部分の輝度差を認識するために光の感度を調整すると明るい部分を認識することができなくなるものであった。 Here, an imaging device such as a CMOS or a CCD constituting the photographing device 18 has a narrow dynamic range with respect to input light as compared with the human eye. Therefore, in the image sensor, if the light sensitivity is adjusted to recognize the brightness difference in the bright part, the dark part cannot be recognized, and the light sensitivity is adjusted to recognize the brightness difference in the dark part. Then, the bright part could not be recognized.
そこで、様々な光の感度で画像を撮影し、それらの画像の中から2値化投影パターン(スリットパターン)を認識できる画素を抽出して1枚の画像に合成する。そうすると、この画像からは、物体表面の輝度差によらず、全域のスリットパターンを認識できるようになる。これは、撮像素子における入射する光エネルギー量に関するダイナミックレンジを仮想的に広げることを意味する。
撮像素子の感度を変化させる方法としては、レンズの絞りを調節する方法とシャッタースピード(撮像素子に電荷をためる時間)を調節する方法とがある。ここで、レンズの絞りを調節する方法では、被写界深度が変わり撮影画像のぼけ具合に影響を及ぼすようになるため、シャッタースピードを調節する方法を採用することが好ましい。
Therefore, images are taken with various light sensitivities, and pixels capable of recognizing a binarized projection pattern (slit pattern) are extracted from these images and combined into a single image. Then, from this image, it becomes possible to recognize the slit pattern in the entire region regardless of the luminance difference on the object surface. This means that the dynamic range related to the amount of incident light energy in the image sensor is virtually expanded.
As a method of changing the sensitivity of the image pickup device, there are a method of adjusting the aperture of the lens and a method of adjusting the shutter speed (time for accumulating charges in the image pickup device). Here, in the method of adjusting the aperture of the lens, it is preferable to adopt a method of adjusting the shutter speed because the depth of field changes and affects the degree of blur of the captured image.
そして、そのような調節を行いつつ撮影した画像から、有効な画素を抽出して1つに合成する。なお、複数のシャッタースピードで撮影された画像から有効な画素を抽出して1つに合成して得られる画像は、上記したように一般に「多重シャッタースピード画像」と称されている(文献1「京都大学 学術メディアセンター,“多重画像の統合による多機能高精度画像計測”,メディア情報処理専修コース「コンピュータビジョン(画像計測の基礎と3次元形状復元)」セミナー資料・演習資料,May 2005」および文献2「松山隆司,久野義徳,井宮 淳,“コンピュータビジョン(技術評論と将来展望)”,新技術コミュニケーションズ,1998」を参照する。)。 Then, effective pixels are extracted from the image taken while performing such adjustment and combined into one. Note that an image obtained by extracting effective pixels from images taken at a plurality of shutter speeds and combining them into one is generally referred to as a “multiple shutter speed image” as described above. Academic Media Center, Kyoto University, “Multifunctional high-precision image measurement by integrating multiple images”, Media Information Processing Course “Computer Vision (Basics of Image Measurement and 3D Shape Restoration)” Seminar Materials / Practice Materials, May 2005 ”and Reference 2 “Takaji Matsuyama, Yoshinori Kuno, Satoshi Imiya,“ Computer Vision (Technical Review and Future Prospects) ”, New Technology Communications, 1998”).
次に、撮影機18が同一の2値化投影パターンを投影された測定対象物からの反射光画像を異なるシャッタースピード(露光時間)で撮像して多重シャッタースピード画像を生成する手法の詳細について説明する。
Next, details of a method for generating a multiple shutter speed image by imaging the reflected light image from the measurement object onto which the same binarized projection pattern is projected at different shutter speeds (exposure time) by the camera 18 will be described. To do.
まず、はじめに、露光時間と画素値(見た目の明るさ)と真の明るさとの関係について説明する(文献1参照)。
First, the relationship between exposure time, pixel value (apparent brightness), and true brightness will be described (see Document 1).
撮影された画像のある点は、露光時間が長くなるほど画素値が大きくなる。即ち、撮像素子のダイナミックレンジ内であれば、露光時間と画素値との関係には線形性がある。図14を参照しながら具体的に説明すると、例えば、露光時間が2msecの時の画素値が128である場合には、もし露光時間が2msecの半分の1msecになると、画素値は半分の64と暗くなる。 At certain points in the captured image, the pixel value increases as the exposure time increases. That is, within the dynamic range of the image sensor, the relationship between the exposure time and the pixel value is linear. Specifically, referring to FIG. 14, for example, if the pixel value when the exposure time is 2 msec is 128, if the exposure time is 1 msec, which is half of 2 msec, the pixel value is half as 64. Get dark.
即ち、露光時間をeとし、また、露光時間eで撮影された画像のある点の画素値をo(画素値oは、0〜255の値をとるものとする。)とすると、画素値oをそれを撮影したときの露光時間値eで割った値i(=o/e)は、露光時間によらず一定である。本願明細書においては、上記により得られたiを、露光時間による画素値への影響が除去された「真の明るさ」と称することとする。 That is, if the exposure time is e, and the pixel value at a certain point in the image taken at the exposure time e is o (the pixel value o takes a value from 0 to 255), the pixel value o. The value i (= o / e) divided by the exposure time value e when the image is taken is constant regardless of the exposure time. In the present specification, i obtained as described above is referred to as “true brightness” from which the influence of the exposure time on the pixel value is removed.
ここで、真の明るさの選択基準について説明するが、撮像素子への入射光のエネルギーがダイナミックレンジを超える場合は、撮影画像上の画素値oは255を超えるかまたは0を下回ることになる。その場合の画素値を使って上記したように真の明るさを計算しようとしても、正しい値は得られない。これを含め、一般的に撮影画像の画素値には、以下の(a)〜(d)に示す特性が見られる(文献1参照)。
Here, the selection criterion for true brightness will be described. When the energy of light incident on the image sensor exceeds the dynamic range, the pixel value o on the captured image exceeds 255 or falls below 0. . Even if the true brightness is calculated using the pixel value in that case as described above, a correct value cannot be obtained. In general, pixel values of captured images include the following characteristics (a) to (d) (see Document 1).
(a)撮影時の信号レベルが低いところはノイズの影響が大きい
(b)撮影時の信号レベルが高いところは入出力の線形性が乱れている
(c)撮影時の信号レベルが飽和(>255)しているデータは使えない
(d)露光時間が短いほど精度は低い
この実施の形態においては、上記した特性を踏まえて、以下の(1)〜(4)に示すアルゴリズムにより真の明るさの決定し、この真の明るさをもった画素を有効な画素として複数のシャッタースピードで撮影された画像から抽出し、抽出した画素を1つの画像として合成して多重シャッタースピード画像を生成する。なお、当然のことながら、抽出した有効な画素を用いて画像を合成するため、有効な画素の抽出は撮影された画像の全ての画素に関して行うものである。
(A) The influence of noise is large when the signal level during shooting is low. (B) The linearity of input and output is disturbed when the signal level during shooting is high. (C) The signal level during shooting is saturated (> 255) The data that is being used cannot be used. (D) The shorter the exposure time, the lower the accuracy.
In this embodiment, based on the characteristics described above, the true brightness is determined by the algorithm shown in the following (1) to (4), and a plurality of pixels having the true brightness are set as effective pixels. Are extracted from an image photographed at a shutter speed, and the extracted pixels are combined as one image to generate a multiple shutter speed image. As a matter of course, since the image is synthesized using the extracted effective pixels, the effective pixels are extracted for all the pixels of the photographed image.
(1)画素値の有効範囲の上限、即ち、上限画素値を設定する
一般には、画素値の有効範囲の上限、即ち、上限画素値は、上記(b)(c)よ り240〜250程度とされているが、この実施の形態においては「250」と した、
(2)画素輝度値の有効範囲の下限、即ち、下限画素値を設定する
この実施の形態においては、下限画素値を「5」とした、
(3)上記(1)(2)で定めた範囲内において最大の画素値を持つ画素を採用して、 その画素値oと撮影時の露光時間eから、i=o/eにより真の明るさiを決定 する、
(4)もし、全ての露光時間での撮影画像について画素値が上限画素値を超える場合は
、最短露光時間でも上限画素値を上回ったということであるので、真の明るさi として「上限画素値/最短露光時間」により得られた値を採用する、
逆に、全ての露光時間での撮影画像について画素値が下限画素値を下回る場合は
、最長露光時間でも下限画素値を下回ったということであるので、真の明るさi 値として「下限輝度値/最長露光時間」により得られた値を採用する、
これにより、真の明るさiとして、上限画素値または下限画素値付近で正常に求 められた真の明るさに近い値を求めることができる、
その結果、上限画素値または下限画素値付近での明るさの変化が滑らかになる。
(1) The upper limit of the effective range of pixel values, that is, the upper limit pixel value is set. Generally, the upper limit of the effective range of pixel values, that is, the upper limit pixel value is about 240 to 250 from the above (b) and (c). However, in this embodiment, it is “250”.
(2) The lower limit of the effective range of the pixel luminance value, that is, the lower limit pixel value is set. In this embodiment, the lower limit pixel value is set to “5”.
(3) The pixel having the maximum pixel value within the range defined in the above (1) and (2) is adopted, and the true brightness is obtained by i = o / e from the pixel value o and the exposure time e at the time of photographing. Determine i,
(4) If the pixel value exceeds the upper limit pixel value for the photographed images at all exposure times, it means that the upper limit pixel value has been exceeded even at the shortest exposure time. The value obtained by “value / shortest exposure time” is adopted.
On the other hand, if the pixel value is lower than the lower limit pixel value for the captured images at all exposure times, this means that the longest exposure time is below the lower limit pixel value. Adopt the value obtained by “/ longest exposure time”.
Thereby, as the true brightness i, a value close to the true brightness normally obtained near the upper limit pixel value or the lower limit pixel value can be obtained.
As a result, the brightness change near the upper limit pixel value or the lower limit pixel value becomes smooth.
次に、真の明るさを可視化する手法について説明すると、上記した(1)〜(4)に示すアルゴリズムでは、基本的に真の明るさが大きいほど、その時の露光時間は短くなっていく。ここで、露光時間が短くなるほど画素値の精度は悪くなっていくので、真の明るさが大きいほど精度が悪くなるということになる。そこで、上記において求めた真の明るさの値に対して対数スケール(log10(i))をとることとし、これを画像化する。具体的には、例えば、全ての座標の画素に対してその画素値を計算し、それらの最小値が0、最大値が255になるようにスケーリングすればよい。
Next, a method of visualizing the true brightness will be described. In the above-described algorithms (1) to (4), the exposure time at that time becomes shorter as the true brightness basically increases. Here, since the accuracy of the pixel value becomes worse as the exposure time becomes shorter, the accuracy becomes worse as the true brightness increases. Therefore, a logarithmic scale (log 10 (i)) is taken with respect to the true brightness value obtained above, and this is imaged. Specifically, for example, pixel values may be calculated for all coordinate pixels, and scaled so that the minimum value is 0 and the maximum value is 255.
次に、実際の2値化投影パターン(スリットパターン)を投影した画像での適用について説明する。
Next, application of an image obtained by projecting an actual binarized projection pattern (slit pattern) will be described.
まず、同一の2値化投影パターンを投影された測定対象物からの反射光画像を異なるシャッタースピード、即ち、露光時間を変えて撮影する。 First, a reflected light image from a measurement object onto which the same binarized projection pattern is projected is photographed at different shutter speeds, that is, with different exposure times.
ここで、表面色として黒色と白色とが混在するような測定対象物を撮影する場合には、ユーザは以下の(ア)〜(オ)に示す条件を満たすように実際に2値化投影パターンを試しに投影して、その投影の反射光画像の状態を見て露光時間のパターンを設定する。 Here, when imaging a measurement object in which black and white are mixed as surface colors, the user actually binarizes the projection pattern so as to satisfy the following conditions (a) to (e): The pattern of the exposure time is set by looking at the state of the reflected light image of the projection.
(ア)黒色の部分に当たっているスリットパターンを視認できるような露光時間を最長 の露光時間にする、
(イ)白色の部分に当たっているスリットパターンを視認できるような露光時間を最短 の露光時間にする、
(ウ)上記(ア)(イ)により求められた最長露光時間の値と最短露光時間の値との間 に、等時間間隔で2〜3段階程度で露光時間を設定する、
(エ)それらすべての露光時間について、スリットパターンを投影して、その投影の反 射光画像を撮影する、
(オ)上記(エ)で撮影した反射光画像を用いて、上記において説明した手法により各 反射光画像の各画素の真の明るさを計算し、複数のシャッタースピードで撮影さ れた画像から有効な画素を抽出し、抽出した画像を1つに合成して多重シャッタ ースピード画像を生成する。
(A) The longest exposure time is set so that the slit pattern hitting the black part can be visually recognized.
(B) The exposure time that can visually recognize the slit pattern that hits the white part is the shortest exposure time.
(C) The exposure time is set in about 2 to 3 steps at equal time intervals between the value of the longest exposure time and the value of the shortest exposure time obtained in (a) and (b) above.
(D) For all these exposure times, project a slit pattern and take a reflected image of the projection.
(E) Using the reflected light image taken in (d) above, calculate the true brightness of each pixel of each reflected light image by the method described above, and use the images taken at multiple shutter speeds. Effective pixels are extracted, and the extracted images are combined into one to generate a multiple shutter speed image.
ここで、真の明るさを計算してその最大値と最小値とを求めるときは、同じ空間コードのポジ・ネガ相補パターンを通じて行う。その目的は、空間コード化法ではスリットのポジ・ネガパターンの輝度差より2値画像を生成するが(文献3「井口征士,佐藤宏介,“三次元画像計測”,昭晃堂,1990」を参照する。)、それを正確に生成できるようにするためである。
Here, when the true brightness is calculated and the maximum value and the minimum value are obtained, it is performed through a positive / negative complementary pattern of the same spatial code. The purpose of the spatial coding method is to generate a binary image from the luminance difference between the positive and negative patterns of the slit (Ref. 3 “Seiji Iguchi, Kosuke Sato,“ Three-dimensional image measurement ”, Shosodo, 1990). To be able to generate it accurately.
もしポジとネガとで個別に真の明るさの最大と最小値を求めると、それらは異なってしまい、真の明るさを可視化する処理でスケーリングされる範囲も異なってしまう。そうすると、例えば、本来ポジ画像のほうが明るくネガ画像のほうが暗い画素では、その関係が逆転してしまう可能性がある。こうした場合には、正確な2値画像を得ることができなくなる。 If the maximum and minimum values of true brightness are obtained separately for positive and negative, they will be different, and the range scaled by the process of visualizing the true brightness will also be different. Then, for example, in a pixel where the positive image is originally brighter and the negative image is darker, the relationship may be reversed. In such a case, an accurate binary image cannot be obtained.
このため、真の明るさから作る同じビットのポジ・ネガ画像の基準輝度は、一致させる必要がある。 For this reason, it is necessary to match the reference luminance of the positive / negative image of the same bit made from the true brightness.
次に、本願発明者による実験結果について説明すると、図15(a)(b)(c)(d)には実際に撮影された画像が示されている。
Next, the experimental results of the present inventor will be described. FIGS. 15A, 15B, 15C, and 15D show images actually taken.
即ち、図15(a)(b)(c)(d)には、露光時間を40msec(図15(a))、27.3msec(図15(b))、14.7msec(図15(c))、2msec(図15(d))というように、40msecから2msecまで4段階の等間隔時間で変化させて撮影した画像が示されている。また、図16には、それらから合成された多重シャッタースピード画像が示されている。 That is, in FIGS. 15A, 15B, 15C, and 15D, the exposure time is 40 msec (FIG. 15A), 27.3 msec (FIG. 15B), and 14.7 msec (FIG. 15C). )) As shown in 2 msec (FIG. 15 (d)), an image is shown that is taken while changing from 40 msec to 2 msec at four equal intervals. FIG. 16 shows a multiple shutter speed image synthesized from them.
最も露光時間が長い図15(a)に示す画像では、測定対象物の表面色が黒色の部分ではスリットパターンの輝度差を認識できるが、測定対象物の表面色が白色の部分では白飛びを起こして認識できない。逆に、最も露光時間が短い図15(d)に示す画像では、測定対象物の表面色が白色の部分ではスリットパターンを認識できるが、測定対象物の表面色が黒色の部分は潰れて認識できない。 In the image shown in FIG. 15A, which has the longest exposure time, the brightness difference of the slit pattern can be recognized when the surface color of the measurement object is black, but it is overexposed when the surface color of the measurement object is white. Wake up and cannot recognize. On the contrary, in the image shown in FIG. 15D where the exposure time is the shortest, the slit pattern can be recognized when the surface color of the measurement object is white, but the portion where the surface color of the measurement object is black is crushed and recognized. Can not.
しかしながら、図16に示す多重シャッタースピード画像では、図15(a)ならびに図15(d)で潰れていたスリットパターンもはっきりと現れている。 However, in the multiple shutter speed image shown in FIG. 16, the slit pattern crushed in FIGS. 15A and 15D also clearly appears.
ここで、図16に示す多重シャッタースピード画像を生成するに際しては、露光パターンとして図15(a)(b)(c)(d)に示す4段階の露光時間のパターン、即ち、4パターンを用いたが、そのパターンの最適な数について検討する実験を行ったのでそれについて説明する。 Here, when generating the multiple shutter speed image shown in FIG. 16, four exposure time patterns shown in FIGS. 15A, 15B, 15C, and 15D, that is, 4 patterns are used as the exposure pattern. However, an experiment was conducted to examine the optimal number of patterns.
図17(a)には、露光パターンとして最長の40msecと最短の2msecとの2パターンを用い、露光時間40msecの図15(a)に示す画像と露光時間2msecの図15(d)に示す画像とのみを用いて生成した多重シャッタースピード画像が示されている。一方、図17(b)には、露光パターンとして40msec、27.3msec、14.7msec、2msecとの4パターンを用い、図15(a)(b)(c)(d)に示す画像を用いて生成した多重シャッタースピード画像が示されている。 In FIG. 17A, two patterns of the longest 40 msec and the shortest 2 msec are used as the exposure patterns, and the image shown in FIG. 15A with an exposure time of 40 msec and the image shown in FIG. 15D with an exposure time of 2 msec. A multiple shutter speed image generated using only and is shown. On the other hand, in FIG. 17B, four patterns of 40 msec, 27.3 msec, 14.7 msec, and 2 msec are used as exposure patterns, and the images shown in FIGS. 15A, 15B, 15C, and 15D are used. A multiple shutter speed image generated in this manner is shown.
これら図17(a)に示す多重シャッタースピード画像と図17(b)に示す多重シャッタースピード画像とを比較すると、パターン数が2つの図17(a)の多重シャッタースピード画像では、矢印で示した箇所などで明度の変化が不連続な部分があることがわかる。 When the multiple shutter speed image shown in FIG. 17A is compared with the multiple shutter speed image shown in FIG. 17B, the multiple shutter speed image shown in FIG. It can be seen that there is a portion where the change in brightness is discontinuous at some places.
この理由は、画像合成時において最長露光時間の画像で輝度が上限を超えている画素を除くと、次に採用されるのは中間の露光時間の画像ではなく、急に最短露光時間の画像になり、合成された画素間の連続性が悪くなるためである。 The reason for this is that, except for the image with the longest exposure time at the time of image composition, except for the pixels whose luminance exceeds the upper limit, the next adopted image is not the image with the intermediate exposure time, but suddenly the image with the shortest exposure time. This is because the continuity between the synthesized pixels is deteriorated.
このように不要な輝度差が発生する可能性があると、その画像を元にして空間コード化法で必要な2値画像を生成する際に、その結果が不正確になる可能性があるので、2パターンのみという使用は避けることが望ましい。 If there is a possibility that an unnecessary luminance difference occurs in this way, the result may be inaccurate when a necessary binary image is generated by the spatial coding method based on the image. It is desirable to avoid using only two patterns.
次に、図18(a)には露光パターン数が2の場合の3次元形状復元結果を示す画像(シェーディング表示)が示されており、図18(b)には露光パターン数が3の場合の3次元形状復元結果を示す画像(シェーディング表示)が示されており、図18(c)には露光パターン数が4の場合の3次元形状復元結果を示す画像(シェーディング表示)が示されており、図18(d)には露光パターン数が5の場合の3次元形状復元結果を示す画像(シェーディング表示)が示されている。 Next, FIG. 18A shows an image (shading display) showing a three-dimensional shape restoration result when the number of exposure patterns is 2, and FIG. 18B shows a case where the number of exposure patterns is 3. FIG. 18C shows an image (shading display) showing the three-dimensional shape restoration result when the number of exposure patterns is four. FIG. 18D shows an image (shading display) showing a three-dimensional shape restoration result when the number of exposure patterns is five.
これら図18(a)(b)(c)(d)に示す3次元形状復元結果を比較すると、露光パターン数が2パターンまたは3パターンの場合には、露光パターン数が4パターンの場合に比べて矢印で示した箇所などで若干形状が欠落している部分がある。また、露光パターン数が5パターンの場合では、露光パターン数が4パターンの場合と比較して視覚上の差は見られなかった。 Comparing the three-dimensional shape restoration results shown in FIGS. 18A, 18B, 18C, and 18D, when the number of exposure patterns is 2 or 3, the number of exposure patterns is 4 as compared to the case of 4 patterns. There is a part where the shape is slightly missing, such as the part indicated by the arrow. Further, when the number of exposure patterns was 5, no visual difference was seen compared to the case where the number of exposure patterns was 4.
従って、上記した事例においては、少なくとも4パターンの露光パターンで撮影を行うことが好ましい。 Therefore, in the case described above, it is preferable to perform photographing with at least four exposure patterns.
以上において説明したように、複数の露光時間パターンで2値化投影パターンの投影画像を撮影してそれらの画像を合成することにより、測定対象物の表面に輝度値の差が大きい色が混在する場合でも、スリットパターンの輝度差を画像全域で得られるようになり、その結果、測定対象物の表面色の輝度差に依存しない安定した計測結果を得ることができるようになる。
As described above, by photographing the projection image of the binarized projection pattern with a plurality of exposure time patterns and synthesizing these images, a color having a large difference in luminance value is mixed on the surface of the measurement object. Even in this case, the luminance difference of the slit pattern can be obtained over the entire image, and as a result, a stable measurement result that does not depend on the luminance difference of the surface color of the measurement object can be obtained.
ここで、図19(a)(b)には、多重シャッタースピード画像を用いない場合の3次元形状復元結果を示されており、図19(a)は短い露光時間で画像撮影を行った場合の3次元形状復元結果であり、図19(b)は長い露光時間で画像撮影を行った場合の3次元形状復元結果である。一方、図19(c)には、本発明による多重シャッタースピード画像を用いた場合の3次元形状復元結果が示されている。 Here, FIGS. 19A and 19B show the three-dimensional shape restoration results when the multiple shutter speed image is not used, and FIG. 19A shows the case where the image is taken with a short exposure time. FIG. 19B shows the three-dimensional shape restoration result when an image is taken with a long exposure time. On the other hand, FIG. 19C shows a three-dimensional shape restoration result when a multiple shutter speed image according to the present invention is used.
これら図19(a)(b)(c)に示す3次元形状復元結果を比較すると、図19(c)では、死角などの理由で元々撮像できない部分を除いて、図19(a)(b)において復元できなかった箇所の形状が復元されていることがわかる。 Comparing the three-dimensional shape restoration results shown in FIGS. 19 (a), 19 (b), and 19 (c), FIGS. 19 (a) and 19 (b) except for portions that cannot be originally captured due to blind spots or the like. It can be seen that the shape of the portion that could not be restored in () was restored.
なお、上記した実施の形態は、以下の(1)乃至(4)に説明するように変形してもよい。
The embodiment described above may be modified as described in the following (1) to (4).
(1)上記した実施の形態においては、空間コード化法として位相シフト空間コード化法を用いたが、これに限られることなしに、従来より知られた空間コード化法を用いるようにしてもよく、その場合にも空間コード画像の撮影を多重シャッタースピード画像で求めればよい。 (1) In the above embodiment, the phase shift spatial coding method is used as the spatial coding method. However, the present invention is not limited to this, and a conventionally known spatial coding method may be used. In this case as well, it is sufficient to obtain a spatial code image using a multiple shutter speed image.
(2)上記した実施の形態においては、位相シフト画像生成処理を行った後に空間コード画像生成処理を行うようにしたが、これに限られるものではないことは勿論であり、両者の処理の順番を逆にして、空間コード画像生成処理を行った後に位相シフト画像生成処理を行うようにしてもよい。 (2) In the above-described embodiment, the spatial code image generation process is performed after the phase shift image generation process. However, the present invention is not limited to this, and the order of both processes is not limited. Conversely, the phase code image generation processing may be performed after the spatial code image generation processing.
(3)上記した実施の形態においては、2値化投影パターンを生成するようにしたが、これに限られるものではないことは勿論であり、記憶手段に幅Wがそれぞれ異なる複数の2値化投影パターンを予め記憶しておき、当該記憶手段に記憶されている2値化投影パターンを適宜に読み出すようにしてもよい。 (3) In the above-described embodiment, the binarized projection pattern is generated. However, the present invention is not limited to this, and a plurality of binarizations having different widths W are stored in the storage means. The projection pattern may be stored in advance, and the binarized projection pattern stored in the storage unit may be read as appropriate.
(4)上記した実施の形態ならびに上記(1)乃至(3)に示す変形例は、適宜に組み合わせるようにしてもよい。 (4) You may make it combine the above-mentioned embodiment and the modification shown in said (1) thru | or (3) suitably.
本発明は、工業デザインでの形状取得、人体の形状取得あるいは建築物の形状取得などに利用することができる。 The present invention can be used for shape acquisition in industrial design, human body shape acquisition, or building shape acquisition.
10 三次元形状の測定装置
12 コンピュータ
12a バス
12b 中央処理装置(CPU)
12c リードオンリメモリ(ROM)
12d ランダムアクセスメモリ(RAM)
12e 入力装置
12f 表示装置
14 測定対象物
16 プロジェクタ
18 カメラ
20 2値化投影パターン投影手段
20a 2値化投影パターン生成部
20b 2値化投影パターン投影制御部
22 画像入力手段
24 画像処理手段
24a 空間コード画像生成手段
24b 位相シフト画像生成手段
24c 位相シフト空間コード画像生成手段
24d 3次元形状情報取得手段
A 測定対象物
10 Three-dimensional shape measuring device 12 Computer 12a Bus 12b Central processing unit (CPU)
12c Read only memory (ROM)
12d random access memory (RAM)
12e Input device 12f Display device 14 Measurement object 16 Projector 18 Camera 20 Binary projection pattern projection unit 20a Binary projection pattern generation unit 20b Binary projection pattern projection control unit 22 Image input unit 24 Image processing unit 24a Spatial code Image generation means 24b Phase shift image generation means 24c Phase shift space code image generation means 24d Three-dimensional shape information acquisition means A Measurement object
Claims (4)
光透過領域と光非透過領域とよりなるストライプ形状のパターンである所定の2値化投影パターンを、前記所定の2値化投影パターンの光透過領域と光非透過領域との位置が入れ替わる1/2位相反転する範囲までシフトし、かつ、測定対象物における3次元形状測定の測定分解能に関する最小分解能となるような所定の移動量でシフトしながら前記測定対象物に順次投影し、該所定の2値化投影パターンを投影された前記測定対象物からの反射光画像を該シフト毎に異なるシャッタースピード(露光時間)で撮像し、該シフト毎に異なるシャッタースピード(露光時間)で撮像した複数の反射光画像を取得し、該シフト毎に異なるシャッタースピード(露光時間)で撮像した複数の反射光画像を用いて、複数の反射光画像から所定の条件を有する有効な画素を抽出して1つに合成することにより該シフト毎の多重シャッタースピード画像を生成し、該シフト毎の多重シャッタースピード画像を合成した位相シフト画像を生成し、
前記所定の2値化投影パターンを含む、それぞれ種類の異なる複数の2値化投影パターンを前記測定対象物にそれぞれ投影し、該それぞれ種類の異なる複数の2値化投影パターンを投影された前記測定対象物からの反射光画像を該それぞれ種類の異なる複数の2値化投影パターン毎に異なる露光時間で撮像し、該それぞれ種類の異なる複数の2値化投影パターン毎に異なる露光時間で撮像した反射光画像から所定の条件を有する有効な画素を抽出し合成して該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を生成し、該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を合成した空間コード画像を生成し、
該位相シフト画像と該空間コード画像とを合成することにより、撮影空間に対してシフトピッチまで光分解能化された絶対的なコード値たる位相シフト空間コード画像を生成し、
該位相シフト空間コード画像を空間コード画像として扱うことにより、該位相シフト空間コード画像に基づいて前記測定対象物の3次元形状を取得する
ことを特徴とし、
さらに、
該シフト毎の多重シャッタースピード画像および該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を生成する方法としては、
前記露光時間について、測定対象物上の黒色の部分に当たっている2値化投影パターンを視認するのに必要な露光時間を最長露光時間とし、また、測定対象物上の白色の部分に当たっている2値化投影パターンを視認するのに必要な露光時間を最短露光時間とし、前記最長露光時間と前記最短露光時間との差となる時間を等間隔に複数に分割して得られた複数の露光時間を用いるものとし、
前記反射光画像について、前記反射光画像が有する各画素が有する明るさについて、見た目の明るさを示す値を画素値とし、前記所定の条件を有する画素のうち最大の明るさである画素値を有するある画素を用いて該画素の画素値oと撮影時の露光時間eとを用いて、計算式i=o/eより算出された値を露光時間による画素値への影響を除去した真の明るさiとして決定し、
計算した前記真の明るさの値に対して対数スケール(log10(i))を取り、1つの画像として合成することにより、前記多重シャッタースピード画像を生成するものとする
ことを特徴とする3次元形状測定方法。 A reflected light image from the measurement object projected with the binarized projection pattern is imaged, and a three-dimensional shape of the measurement object is obtained by a spatial coding method that generates a spatial code image using the captured reflected light image. In the three-dimensional shape measuring method for measuring,
A predetermined binarized projection pattern which is a stripe-shaped pattern composed of a light transmissive region and a light non-transparent region is replaced with a position where the light transmissive region and the light non-transmissive region of the predetermined binarized projection pattern are switched. Shifting to a range where two phases are reversed, and sequentially projecting on the measurement object while shifting by a predetermined movement amount that becomes the minimum resolution regarding the measurement resolution of the three-dimensional shape measurement in the measurement object, the predetermined 2 A reflected light image from the measurement object onto which the digitized projection pattern is projected is captured at different shutter speeds (exposure times) for each shift, and a plurality of reflections are captured at different shutter speeds (exposure times) for each shift. Using a plurality of reflected light images acquired at different shutter speeds (exposure times) for each shift, a predetermined condition is obtained from the plurality of reflected light images. Generating a multiple shutter speed image of each said shift by combining into one by extracting effective pixels, to generate a phase-shifted images obtained by combining the multiple shutter speed image of each said shift,
The measurement in which a plurality of different binarized projection patterns including the predetermined binarized projection pattern are respectively projected onto the measurement object, and the plurality of different types of binarized projection patterns are projected. Reflected light images from an object are captured at different exposure times for each of the plurality of different types of binarized projection patterns, and reflected at different exposure times for the different types of binarized projection patterns. Extracting and synthesizing effective pixels having a predetermined condition from the light image to generate multiple shutter speed images for each of the plurality of different types of binarized projection patterns, and a plurality of different types of binarized projections Generate a spatial code image that combines multiple shutter speed images for each pattern,
By synthesizing the phase shift image and the space code image, a phase shift space code image that is an absolute code value that has been optically resolved to a shift pitch with respect to the imaging space is generated,
By treating the phase shift space code image as a space code image, the three-dimensional shape of the measurement object is obtained based on the phase shift space code image,
further,
As a method of generating a multiple shutter speed image for each shift and a multiple shutter speed image for each of the plurality of different binarized projection patterns,
Regarding the exposure time, the exposure time necessary for visually recognizing the binarized projection pattern hitting the black part on the measurement object is the longest exposure time, and the binarization hitting the white part on the measurement object The exposure time necessary for visually recognizing the projection pattern is set as the shortest exposure time, and a plurality of exposure times obtained by dividing the time that is the difference between the longest exposure time and the shortest exposure time into a plurality of equal intervals are used. Shall be
As for the brightness of each pixel included in the reflected light image, the value indicating the apparent brightness is set as a pixel value, and the pixel value that is the maximum brightness among the pixels having the predetermined condition is set as the reflected light image. A true value obtained by removing the influence of the exposure time on the pixel value from the value calculated by the calculation formula i = o / e using the pixel value o of the pixel and the exposure time e at the time of shooting. Determined as brightness i,
The multiple shutter speed image is generated by taking a logarithmic scale (log 10 (i)) with respect to the calculated true brightness value and combining them as one image. Dimensional shape measurement method.
前記所定の条件は、上限画素値を240から250とするThe predetermined condition is that the upper limit pixel value is 240 to 250.
ことを特徴とする3次元形状測定方法。A three-dimensional shape measuring method characterized by the above.
光透過領域と光非透過領域とよりなるストライプ形状のパターンである所定の2値化投影パターンを、前記所定の2値化投影パターンの光透過領域と光非透過領域との位置が入れ替わる1/2位相反転する範囲までシフトし、かつ、測定対象物における3次元形状測定の測定分解能に関する最小分解能となるような所定の移動量でシフトしながら前記測定対象物に順次投影し、該所定の2値化投影パターンを投影された前記測定対象物からの反射光画像を該シフト毎に異なるシャッタースピード(露光時間)で撮像し、該シフト毎に異なるシャッタースピード(露光時間)で撮像した複数の反射光画像を取得し、該シフト毎に異なるシャッタースピード(露光時間)で撮像した複数の反射光画像を用いて、複数の反射光画像から所定の条件を有する有効な画素を抽出して1つに合成することにより該シフト毎の多重シャッタースピード画像を生成し、該シフト毎の多重シャッタースピード画像を合成した位相シフト画像を生成する第1の手段と、
前記所定の2値化投影パターンを含む、それぞれ種類の異なる複数の2値化投影パターンを前記測定対象物にそれぞれ投影し、該それぞれ種類の異なる複数の2値化投影パターンを投影された前記測定対象物からの反射光画像を該それぞれ種類の異なる複数の2値化投影パターン毎に異なる露光時間で撮像し、該それぞれ種類の異なる複数の2値化投影パターン毎に異なる露光時間で撮像した反射光画像から所定の条件を有する有効な画素を抽出し合成して該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を生成し、該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を合成した空間コード画像を生成する第2の手段と、
該位相シフト画像と該空間コード画像とを合成することにより、撮影空間に対してシフトピッチまで光分解能化された絶対的なコード値たる位相シフト空間コード画像を生成する合成手段と、
該位相シフト空間コード画像を空間コード画像として扱うことにより、該位相シフト空間コード画像に基づいて前記測定対象物の3次元形状を取得する3次元形状取得手段と
を有することを特徴とし、
さらに、
該シフト毎の多重シャッタースピード画像を生成する第1の手段と、該それぞれ種類の異なる複数の2値化投影パターン毎の多重シャッタースピード画像を生成する第2の手段とのそれぞれにおいて、
前記露光時間について、測定対象物上の黒色の部分に当たっている2値化投影パターンを視認するのに必要な露光時間を最長露光時間とし、また、測定対象物上の白色の部分に当たっている2値化投影パターンを視認するのに必要な露光時間を最短露光時間とし、前記最長露光時間と前記最短露光時間との差となる時間を等間隔に複数に分割して得られた複数の露光時間を用いるものとし、
前記反射光画像について、前記反射光画像が有する各画素が有する明るさについて、見た目の明るさを示す値を画素値とし、前記所定の条件を有する画素のうち最大の明るさである画素値を有するある画素を用いて該画素の画素値oと撮影時の露光時間eとを用いて、計算式i=o/eより算出された値を露光時間による画素値への影響を除去した真の明るさiとして決定し、
計算した前記真の明るさの値に対して対数スケール(log10(i))を取り、1つの画像として合成することにより、前記多重シャッタースピード画像を生成するものとする
ことを特徴とする3次元形状測定装置。 A reflected light image from the measurement object projected with the binarized projection pattern is imaged, and a three-dimensional shape of the measurement object is obtained by a spatial coding method that generates a spatial code image using the captured reflected light image. In a three-dimensional shape measuring apparatus for measuring,
A predetermined binarized projection pattern which is a stripe-shaped pattern composed of a light transmissive region and a light non-transparent region is replaced with a position where the light transmissive region and the light non-transmissive region of the predetermined binarized projection pattern are switched. Shifting to a range where two phases are reversed, and sequentially projecting on the measurement object while shifting by a predetermined movement amount that becomes the minimum resolution regarding the measurement resolution of the three-dimensional shape measurement in the measurement object, the predetermined 2 A reflected light image from the measurement object onto which the digitized projection pattern is projected is captured at different shutter speeds (exposure times) for each shift, and a plurality of reflections are captured at different shutter speeds (exposure times) for each shift. Using a plurality of reflected light images acquired at different shutter speeds (exposure times) for each shift, a predetermined condition is obtained from the plurality of reflected light images. First means for generating a multiple shutter speed image of each said shift generates a phase shift image obtained by synthesizing the multiple shutter speed image of each said shift by combining into one by extracting valid pixels,
The measurement in which a plurality of different binarized projection patterns including the predetermined binarized projection pattern are respectively projected onto the measurement object, and the plurality of different types of binarized projection patterns are projected. Reflected light images from an object are captured at different exposure times for each of the plurality of different types of binarized projection patterns, and reflected at different exposure times for the different types of binarized projection patterns. Extracting and synthesizing effective pixels having a predetermined condition from the light image to generate multiple shutter speed images for each of the plurality of different types of binarized projection patterns, and a plurality of different types of binarized projections A second means for generating a spatial code image obtained by combining multiple shutter speed images for each pattern;
Combining means for generating a phase-shifted spatial code image that is an absolute code value that has been optically resolved to a shift pitch with respect to the imaging space by combining the phase-shifted image and the spatial code image;
3D shape acquisition means for acquiring the 3D shape of the measurement object based on the phase shift space code image by treating the phase shift space code image as a space code image,
further,
In each of the first means for generating a multiple shutter speed image for each shift and the second means for generating a multiple shutter speed image for each of the plurality of different binarized projection patterns,
Regarding the exposure time, the exposure time necessary for visually recognizing the binarized projection pattern that hits the black portion on the measurement object is the longest exposure time, and the binarization that hits the white portion on the measurement object The exposure time necessary for visually recognizing the projection pattern is set as the shortest exposure time, and a plurality of exposure times obtained by dividing the time that is the difference between the longest exposure time and the shortest exposure time into a plurality of equal intervals are used. Shall be
As for the brightness of each pixel included in the reflected light image, the value indicating the apparent brightness is set as a pixel value, and the pixel value that is the maximum brightness among the pixels having the predetermined condition is set as the reflected light image. A true value obtained by removing the influence of the exposure time on the pixel value from the value calculated by the calculation formula i = o / e using the pixel value o of the pixel and the exposure time e at the time of shooting. Determined as brightness i,
The multiple shutter speed image is generated by taking a logarithmic scale (log 10 (i)) with respect to the calculated true brightness value and combining them as one image. Dimensional shape measuring device.
前記所定の条件は、上限画素値を240から250とするThe predetermined condition is that the upper limit pixel value is 240 to 250.
ことを特徴とする3次元形状測定装置。A three-dimensional shape measuring apparatus.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006144272A JP4889373B2 (en) | 2006-05-24 | 2006-05-24 | Three-dimensional shape measuring method and apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006144272A JP4889373B2 (en) | 2006-05-24 | 2006-05-24 | Three-dimensional shape measuring method and apparatus |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007315864A JP2007315864A (en) | 2007-12-06 |
JP4889373B2 true JP4889373B2 (en) | 2012-03-07 |
Family
ID=38849859
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006144272A Expired - Fee Related JP4889373B2 (en) | 2006-05-24 | 2006-05-24 | Three-dimensional shape measuring method and apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4889373B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6038415B1 (en) * | 2015-11-25 | 2016-12-07 | 三菱電機株式会社 | 3D image measuring apparatus and method |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5322460B2 (en) * | 2008-03-05 | 2013-10-23 | 株式会社牧野フライス製作所 | Shape measurement method |
JP2010249598A (en) * | 2009-04-14 | 2010-11-04 | Honda Motor Co Ltd | Three-dimensional shape measuring system and method |
JP5633719B2 (en) * | 2009-09-18 | 2014-12-03 | 学校法人福岡工業大学 | 3D information measuring apparatus and 3D information measuring method |
JP5457825B2 (en) * | 2009-12-24 | 2014-04-02 | ローランドディー.ジー.株式会社 | 3D shape measuring method and 3D shape measuring apparatus |
JP5391053B2 (en) * | 2009-12-24 | 2014-01-15 | ローランドディー.ジー.株式会社 | 3D shape measuring method and 3D shape measuring apparatus |
JP5918984B2 (en) * | 2011-12-06 | 2016-05-18 | キヤノン株式会社 | Information processing apparatus, information processing apparatus control method, and program |
US10368053B2 (en) * | 2012-11-14 | 2019-07-30 | Qualcomm Incorporated | Structured light active depth sensing systems combining multiple images to compensate for differences in reflectivity and/or absorption |
US10488192B2 (en) | 2015-05-10 | 2019-11-26 | Magik Eye Inc. | Distance sensor projecting parallel patterns |
JP2017003469A (en) | 2015-06-11 | 2017-01-05 | キヤノン株式会社 | Three-dimensional measurement device, three-dimensional measurement device control method and program |
JP6190486B2 (en) * | 2016-04-08 | 2017-08-30 | キヤノン株式会社 | Image processing apparatus, image processing apparatus control method, and program |
JP2020501156A (en) | 2016-12-07 | 2020-01-16 | マジック アイ インコーポレイテッド | Distance sensor that projects parallel patterns |
KR20200054326A (en) | 2017-10-08 | 2020-05-19 | 매직 아이 인코포레이티드 | Distance measurement using hardness grid pattern |
JP2020537242A (en) | 2017-10-08 | 2020-12-17 | マジック アイ インコーポレイテッド | Calibration of sensor systems including multiple movable sensors |
US10679076B2 (en) | 2017-10-22 | 2020-06-09 | Magik Eye Inc. | Adjusting the projection system of a distance sensor to optimize a beam layout |
US20200408512A1 (en) | 2018-03-16 | 2020-12-31 | Nec Corporation | Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, program, and storage medium |
WO2019182881A1 (en) | 2018-03-20 | 2019-09-26 | Magik Eye Inc. | Distance measurement using projection patterns of varying densities |
CN114827573A (en) | 2018-03-20 | 2022-07-29 | 魔眼公司 | Adjusting camera exposure for three-dimensional depth sensing and two-dimensional imaging |
JP7292315B2 (en) | 2018-06-06 | 2023-06-16 | マジック アイ インコーポレイテッド | Distance measurement using high density projection pattern |
US11475584B2 (en) | 2018-08-07 | 2022-10-18 | Magik Eye Inc. | Baffles for three-dimensional sensors having spherical fields of view |
JP2020041822A (en) * | 2018-09-06 | 2020-03-19 | 株式会社Yoods | Three-dimensional measurement system, three-dimensional measurement camera, three-dimensional measurement method and program |
JP7565282B2 (en) | 2019-01-20 | 2024-10-10 | マジック アイ インコーポレイテッド | Three-dimensional sensor having a bandpass filter having multiple passbands |
JP7164451B2 (en) * | 2019-01-29 | 2022-11-01 | 株式会社キーエンス | Three-dimensional measuring device |
WO2020197813A1 (en) | 2019-03-25 | 2020-10-01 | Magik Eye Inc. | Distance measurement using high density projection patterns |
EP3970362A4 (en) | 2019-05-12 | 2023-06-21 | Magik Eye Inc. | Mapping three-dimensional depth map data onto two-dimensional images |
CN114730010B (en) | 2019-12-01 | 2024-05-31 | 魔眼公司 | Enhancing three-dimensional distance measurement based on triangulation using time-of-flight information |
CN111121664A (en) * | 2019-12-18 | 2020-05-08 | 南京理工大学 | Method for detecting surface type of interference-like mirror |
EP4094181A4 (en) | 2019-12-29 | 2024-04-03 | Magik Eye Inc. | Associating three-dimensional coordinates with two-dimensional feature points |
EP4097681A4 (en) | 2020-01-05 | 2024-05-15 | Magik Eye Inc. | Transferring the coordinate system of a three-dimensional camera to the incident point of a two-dimensional camera |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE10319099B4 (en) * | 2003-04-28 | 2005-09-08 | Steinbichler Optotechnik Gmbh | Method for interference measurement of an object, in particular a tire |
JP4347614B2 (en) * | 2003-06-10 | 2009-10-21 | Jfeテクノリサーチ株式会社 | Measuring apparatus and measuring method for three-dimensional curved surface shape |
JP4203389B2 (en) * | 2003-09-17 | 2008-12-24 | 株式会社リコー | Optical shape measuring device |
JP4944435B2 (en) * | 2005-12-07 | 2012-05-30 | ローランドディー.ジー.株式会社 | Three-dimensional shape measuring method and apparatus |
JP4874657B2 (en) * | 2006-01-18 | 2012-02-15 | ローランドディー.ジー.株式会社 | Three-dimensional shape measuring method and apparatus |
-
2006
- 2006-05-24 JP JP2006144272A patent/JP4889373B2/en not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6038415B1 (en) * | 2015-11-25 | 2016-12-07 | 三菱電機株式会社 | 3D image measuring apparatus and method |
WO2017090111A1 (en) * | 2015-11-25 | 2017-06-01 | 三菱電機株式会社 | Three-dimensional image measurement device and method |
DE112015007146T5 (en) | 2015-11-25 | 2018-08-02 | Mitsubishi Electric Corporation | DEVICE AND METHOD FOR THREE-DIMENSIONAL IMAGE MEASUREMENT |
Also Published As
Publication number | Publication date |
---|---|
JP2007315864A (en) | 2007-12-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4889373B2 (en) | Three-dimensional shape measuring method and apparatus | |
JP7350343B2 (en) | Method and system for generating three-dimensional images of objects | |
JP5576726B2 (en) | Three-dimensional measuring apparatus, three-dimensional measuring method, and program | |
JP5907596B2 (en) | Three-dimensional measuring apparatus, three-dimensional measuring method and program | |
JP6335011B2 (en) | Measuring apparatus and method | |
JP5631094B2 (en) | Measuring device and measuring method | |
CN103069250B (en) | 3-D measuring apparatus, method for three-dimensional measurement | |
US10430962B2 (en) | Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, and storage medium that calculate a three-dimensional shape of an object by capturing images of the object from a plurality of directions | |
JP6238521B2 (en) | Three-dimensional measuring apparatus and control method thereof | |
JP4830871B2 (en) | 3D shape measuring apparatus and 3D shape measuring method | |
JP6420572B2 (en) | Measuring apparatus and method | |
JP4874657B2 (en) | Three-dimensional shape measuring method and apparatus | |
JP6161276B2 (en) | Measuring apparatus, measuring method, and program | |
JP6418884B2 (en) | Three-dimensional measuring apparatus, three-dimensional measuring method and program | |
JP2017003469A (en) | Three-dimensional measurement device, three-dimensional measurement device control method and program | |
JP5971050B2 (en) | Shape measuring apparatus and shape measuring method | |
CN105157614A (en) | Binary phase shifting pattern based three-dimensional measurement method | |
JP4944435B2 (en) | Three-dimensional shape measuring method and apparatus | |
JP2015142364A (en) | Image processing device, imaging apparatus and image processing method | |
JP2004133919A (en) | Device and method for generating pseudo three-dimensional image, and program and recording medium therefor | |
JP2020106502A (en) | Shape measuring device, control method, and program | |
JP5968370B2 (en) | Three-dimensional measuring apparatus, three-dimensional measuring method, and program | |
JP2009216650A (en) | Three-dimensional shape measuring device | |
JP2012098207A (en) | Position measuring device, position measuring method and marker | |
US20190170502A1 (en) | Position designation device and position designation method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090424 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110512 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110524 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110719 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111004 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111110 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111206 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111213 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20141222 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |