JP2012058076A - Three-dimensional measurement device and three-dimensional measurement method - Google Patents

Three-dimensional measurement device and three-dimensional measurement method Download PDF

Info

Publication number
JP2012058076A
JP2012058076A JP2010201605A JP2010201605A JP2012058076A JP 2012058076 A JP2012058076 A JP 2012058076A JP 2010201605 A JP2010201605 A JP 2010201605A JP 2010201605 A JP2010201605 A JP 2010201605A JP 2012058076 A JP2012058076 A JP 2012058076A
Authority
JP
Japan
Prior art keywords
laser
image
pattern
laser pattern
coordinate system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2010201605A
Other languages
Japanese (ja)
Inventor
Xu Gang
剛 徐
Tomohiro Nakamichi
朋弘 仲道
Yuto Senba
勇人 千馬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyoto Robotics Corp
Original Assignee
3D Media Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 3D Media Co Ltd filed Critical 3D Media Co Ltd
Priority to JP2010201605A priority Critical patent/JP2012058076A/en
Publication of JP2012058076A publication Critical patent/JP2012058076A/en
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a three-dimensional measurement device and a three-dimensional measurement method, capable of measuring the features without omission for the three-dimensional shape of the whole visual field by photographing of one time.SOLUTION: A laser pattern comprising a plurality of straight and/or curved laser lines in a plurality of directions is projected to a measurement object from laser projection means, the measurement object to which the laser pattern is projected is photographed from different directions to acquire a first image and a second image, and the laser lines are extracted from the first image and the second image. The three-dimensional coordinates of the corresponding point candidates of the laser line point of the second image corresponding to the laser line point of the first image are obtained respectively, the three-dimensional coordinates are transformed to a projection means coordinate system set to the laser projection means, whether or not respective projection points projected to a laser pattern plane where the laser pattern is configured are on the laser pattern is determined, and thus the corresponding point is obtained.

Description

本発明は、計測対象物にレーザパタンを照射して3次元計測を行うための3次元計測装置及び3次元計測方法に関する。   The present invention relates to a three-dimensional measurement apparatus and a three-dimensional measurement method for performing three-dimensional measurement by irradiating a measurement target with a laser pattern.

従来から、物体の3次元形状を求める方法としては、例えば、一本のラインのレーザを計測対象物に投光して、その反射光を計測することにより各点までの距離を計測する方法や計測対象物にパターン光を投光して、計測対象物に投影されたパターンの形状を測定することにより計測対象物の3次元形状を計測する光切断法(例えば、特許文献1参照)等の能動的手法がある。また、計測対象物の形状を計測するために、対象物に縞パターンを投影するとともに、該縞パターンを位相シフトさせながら複数回撮影し、撮影した各縞パターン画像に基づいて、対象物の形状を計測する位相シフト法と呼ばれるものや異なる位置に設けられた基準カメラと参照カメラとの2台以上のカメラで計測対象物を撮影して得られた複数の画像の間で対応する画素を特定し、対応付けられた基準画像上の画素と、参照画像上の画素との位置の差(視差)に三角測量の原理を適用することにより、基準カメラから当該画素に対応する計測対象物上の点までの距離を計測するステレオ法と呼ばれるもの等がある。   Conventionally, as a method for obtaining a three-dimensional shape of an object, for example, a method of measuring the distance to each point by projecting a laser beam of one line onto a measurement object and measuring the reflected light, A light cutting method (for example, refer to Patent Document 1) that measures the three-dimensional shape of a measurement object by projecting pattern light onto the measurement object and measuring the shape of the pattern projected onto the measurement object. There is an active method. Further, in order to measure the shape of the measurement object, a stripe pattern is projected onto the object, and the stripe pattern is imaged a plurality of times while being phase-shifted. Identify the corresponding pixels among multiple images obtained by photographing the measurement object with two or more cameras, the so-called phase shift method that measures the object and the reference camera and reference camera provided at different positions Then, by applying the principle of triangulation to the difference (parallax) between the position of the pixel on the associated standard image and the pixel on the reference image, the measurement object corresponding to the pixel on the measurement object is applied. There is a so-called stereo method for measuring the distance to a point.

しかしながら、光切断法では、移動機構が必要となり、計測対象物を計測するのに時間を要するため、動物体の計測を行うのは困難である。また、これの拡張として直交する2本のラインレーザを用いた3次元計測システムもあるが、1本のラインレーザを用いた場合と同様に、計測対象物全体の3次元形状を計測するのに移動機構が必要となる。また、位相シフト法では、縞パターンを位相シフトさせながら計測対象物を複数回撮影する必要があるため、動物体の計測を行うのは困難であるとともに、縞パターンの切り替えが必要となる。また、従来のステレオ法では、計測対象物が白い壁等の特徴がほとんどない対象である場合には、画像間での対応付けを行うことは困難である。   However, in the light cutting method, a moving mechanism is required, and it takes time to measure the measurement object, and thus it is difficult to measure the moving object. In addition, there is a three-dimensional measurement system using two orthogonal line lasers as an extension of this, but as in the case of using a single line laser, the three-dimensional shape of the entire measurement object is measured. A moving mechanism is required. Further, in the phase shift method, it is necessary to photograph the measurement target object a plurality of times while shifting the fringe pattern, so that it is difficult to measure the moving object and the fringe pattern needs to be switched. Further, in the conventional stereo method, when the measurement target is an object having almost no feature such as a white wall, it is difficult to perform the association between images.

そこで、特徴点が少ない計測対象物の画像情報からでも特徴点が抽出できるように、平行な複数のスリット光からなるパターン光を計測対象物に照射して、撮像手段から複数の画像情報を取得するとともに、該画像情報から複数の輝点を特徴点として抽出して、画像情報の特徴点を互いに関連付け、この関連付けられた特徴点に基づいて計測対象物の3次元形状を検出する3次元形状検出装置が開示されている(例えば、特許文献2参照)。   Therefore, in order to extract feature points even from image information of a measurement object with few feature points, a plurality of pieces of image information are obtained from the imaging means by irradiating the measurement object with pattern light consisting of a plurality of parallel slit lights. In addition, a plurality of bright points are extracted as feature points from the image information, the feature points of the image information are associated with each other, and the three-dimensional shape of the measurement object is detected based on the associated feature points A detection device is disclosed (for example, see Patent Document 2).

特開2008−292434号公報JP 2008-292434 A 特開2009−069866号公報JP 2009-066986 A

しかしながら、特許文献2では、平行な複数のスリット光からなるパターン光を用いているため、1方向の平行スリット光では、3次元形状の特徴を必ずしも十分に現せないという問題がある。   However, in Patent Document 2, since pattern light composed of a plurality of parallel slit lights is used, there is a problem that one-way parallel slit light cannot always sufficiently exhibit the characteristics of the three-dimensional shape.

本発明は、上記のような課題に鑑みてなされたものであって、1回の撮影で視野全体の3次元形状について、その特徴を漏れなく計測することができる3次元計測装置及び3次元計測方法を提供することを目的とする。   The present invention has been made in view of the above problems, and a three-dimensional measurement apparatus and a three-dimensional measurement capable of measuring the characteristics of a three-dimensional shape of the entire field of view without omission in one shooting. It aims to provide a method.

上記目的を達成するために、請求項1記載の3次元計測装置は、複数方向の複数の直線及び/又は曲線状のレーザラインにより構成されるレーザパタンを計測対象物に投影するレーザ投影手段と、前記レーザパタンが投影された計測対象物を撮影して第1の画像を取得する第1撮像手段及び該第1撮像手段と異なる方向から前記レーザパタンが投影された計測対象物を撮影して第2の画像を取得する第2撮像手段を有するステレオカメラと、前記第1の画像及び前記第2の画像から前記レーザラインを抽出するレーザライン抽出手段と、前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点を求める対応点探索手段と、を備えることを特徴としている。   In order to achieve the above object, the three-dimensional measurement apparatus according to claim 1, a laser projection unit that projects a laser pattern constituted by a plurality of straight lines and / or curved laser lines in a plurality of directions onto a measurement object; A first imaging unit that captures a measurement object on which the laser pattern is projected and acquires a first image, and a measurement object on which the laser pattern is projected from a different direction from the first imaging unit. A stereo camera having a second imaging means for acquiring an image, a laser line extraction means for extracting the laser line from the first image and the second image, and a laser line point of the first image Corresponding point search means for obtaining corresponding points of the laser lines of the second image.

請求項2記載の3次元計測装置は、予め前記レーザ投影手段により前記レーザパタンが投影された、平面を有する平面校正ボードを用いて、前記ステレオカメラに設定されるステレオカメラ座標系と前記レーザ投影手段に設定される投影手段座標系との間の回転及び並進を校正する第1校正手段を備え、前記対応点探索手段は、前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点候補の3次元座標を夫々求め、該3次元座標を前記第1校正手段により得られた結果に基づいて前記投影手段座標系に変換して前記レーザパタンが構成されているレーザパタン平面に射影した夫々の射影点が前記レーザパタン上にあるか否かを判定することにより、対応点を求めることを特徴としている。   3. The three-dimensional measurement apparatus according to claim 2, wherein a stereo camera coordinate system set in the stereo camera and the laser projection unit are set using a plane calibration board having a plane on which the laser pattern is projected in advance by the laser projection unit. And a first calibration unit that calibrates the rotation and translation between the projection unit coordinate system set to the projection unit coordinate system, and the corresponding point search unit includes the second image corresponding to the laser line point of the first image. A laser pattern plane in which the laser pattern is formed by obtaining the three-dimensional coordinates of the corresponding point candidates of the laser line and converting the three-dimensional coordinates into the projection unit coordinate system based on the result obtained by the first calibration unit. It is characterized in that a corresponding point is obtained by determining whether or not each projected point projected onto is on the laser pattern.

請求項3記載の3次元計測装置は、予め前記レーザ投影手段により前記レーザパタンが投影された、非平面形状を有する非平面校正物体を用いて、前記ステレオカメラに設定されるステレオカメラ座標系と前記レーザ投影手段に設定される投影手段座標系との間の回転及び並進を校正する第2校正手段を備え、前記対応点探索手段は、前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点候補の3次元座標を夫々求め、該3次元座標を前記第2校正手段により得られた結果に基づいて前記投影手段座標系に変換して前記レーザパタンが構成されているレーザパタン平面に射影した夫々の射影点が前記レーザパタン上にあるか否かを判定することにより、対応点を求めることを特徴としている。   The three-dimensional measurement apparatus according to claim 3, wherein a stereo camera coordinate system set in the stereo camera using a non-planar calibration object having a non-planar shape onto which the laser pattern is projected in advance by the laser projection unit, and the A second calibration unit that calibrates the rotation and translation between the projection unit coordinate system set in the laser projection unit, and the corresponding point search unit includes the second line corresponding to the laser line point of the first image. The three-dimensional coordinates of the corresponding point candidates of the laser line in the image are respectively obtained, and the three-dimensional coordinates are converted into the projection means coordinate system based on the result obtained by the second calibration means, thereby forming the laser pattern. It is characterized in that a corresponding point is obtained by determining whether or not each projection point projected onto a laser pattern plane is on the laser pattern.

請求項4記載の3次元計測方法は、複数方向の複数の直線及び/又は曲線状のレーザラインにより構成されるレーザパタンをレーザ投影手段により計測対象物に投影するレーザ投影ステップと、前記レーザパタンが投影された計測対象物をステレオカメラの第1撮像手段及び第2撮像手段により撮影して第1の画像及び第2の画像を取得するステレオ画像取得ステップと、前記第1の画像及び前記第2の画像から前記レーザラインを抽出するレーザライン抽出ステップと、前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点を求める対応点探索ステップと、を含むことを特徴としている。   The three-dimensional measurement method according to claim 4, wherein a laser projection step of projecting a laser pattern constituted by a plurality of straight and / or curved laser lines in a plurality of directions onto a measurement object by a laser projection means, and the laser pattern projects A stereo image acquisition step of acquiring the first image and the second image by capturing the measured object by the first imaging unit and the second imaging unit of the stereo camera; and the first image and the second image A laser line extracting step for extracting the laser line from the image; and a corresponding point searching step for obtaining a corresponding point of the laser line of the second image corresponding to the laser line point of the first image. It is said.

請求項5記載の3次元計測方法は、予め前記レーザ投影手段により前記レーザパタンが投影された、平面を有する平面校正ボードを用いて、前記ステレオカメラに設定されるステレオカメラ座標系と前記レーザ投影手段に設定される投影手段座標系との間の回転及び並進を校正する第1校正ステップを備え、前記対応点探索ステップでは、前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点候補の3次元座標を夫々求め、該3次元座標を前記第1校正ステップで得られた結果に基づいて前記投影手段座標系に変換して前記レーザパタンが構成されているレーザパタン平面に射影した夫々の射影点が前記レーザパタン上にあるか否かを判定することにより、対応点を求めることを特徴としている。   6. The three-dimensional measurement method according to claim 5, wherein a stereo camera coordinate system set on the stereo camera and the laser projection unit are set using a plane calibration board having a plane on which the laser pattern is projected in advance by the laser projection unit. A first calibration step for calibrating rotation and translation with respect to the projection unit coordinate system set to, and in the corresponding point search step, the second image corresponding to the laser line point of the first image A laser pattern plane in which the laser pattern is formed by obtaining three-dimensional coordinates of corresponding point candidates of the laser line and converting the three-dimensional coordinates into the projection unit coordinate system based on the result obtained in the first calibration step. It is characterized in that a corresponding point is obtained by determining whether or not each projected point projected onto is on the laser pattern.

請求項6記載の3次元計測方法は、予め前記レーザ投影手段により前記レーザパタンが投影された、非平面形状を有する非平面校正物体を用いて、前記ステレオカメラに設定されるステレオカメラ座標系と前記レーザ投影手段に設定される投影手段座標系との間の回転及び並進を校正する第2校正ステップを備え、前記対応点探索ステップでは、前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点候補の3次元座標を夫々求め、該3次元座標を前記第2校正ステップで得られた結果に基づいて前記投影手段座標系に変換して前記レーザパタンが構成されているレーザパタン平面に射影した夫々の射影点が前記レーザパタン上にあるか否かを判定することにより、対応点を求めることを特徴としている。   The three-dimensional measurement method according to claim 6, wherein a non-planar calibration object having a non-planar shape onto which the laser pattern is projected in advance by the laser projection unit, and a stereo camera coordinate system set in the stereo camera, A second calibration step for calibrating rotation and translation with respect to the projection unit coordinate system set in the laser projection unit, and in the corresponding point search step, the second corresponding to the laser line point of the first image. The three-dimensional coordinates of the corresponding point candidates of the laser line of the image in (2) are respectively obtained, and the three-dimensional coordinates are converted into the projection means coordinate system based on the result obtained in the second calibration step, whereby the laser pattern is configured. It is characterized in that a corresponding point is obtained by determining whether or not each projection point projected onto a laser pattern plane is on the laser pattern.

請求項1及び4記載の発明によれば、複数方向の複数の直線及び/又は曲線状のレーザラインにより構成されるレーザパタンを投影した計測対象物を撮影して取得した画像を用いるので、ステレオカメラによる1回の撮影で計測を行うことができ、特徴がほとんどない計測対象物が移動物体の場合であっても精度良く対応付けを行うことができる。   According to the first and fourth aspects of the invention, since an image obtained by photographing a measurement object on which a laser pattern composed of a plurality of straight lines and / or curved laser lines in a plurality of directions is projected is used, a stereo camera is used. Thus, measurement can be performed with one shooting, and even if the measurement target having almost no feature is a moving object, the correlation can be performed with high accuracy.

請求項2及び5記載の発明によれば、計測対象物の3次元計測の処理を行う前に、予め平面を有する平面校正ボードを用いて、ステレオカメラに設定されるステレオカメラ座標系とレーザ投影手段に設定される投影手段座標系との間の回転及び並進を校正しておくので、対応付けの精度を向上させることができる。また、対応点候補のレーザライン点をレーザパタンが構成されているレーザパタン平面に射影してレーザパタン上にあるか否かを判定することにより、対応点を探索するので、対応点として虚像を確実に排除することができ、より確実に対応付けを行うことができる。   According to the second and fifth aspects of the present invention, the stereo camera coordinate system and the laser projection set in the stereo camera using the plane calibration board having a plane in advance before performing the processing of the three-dimensional measurement of the measurement object. Since the rotation and translation with respect to the projection unit coordinate system set in the unit are calibrated, the accuracy of association can be improved. In addition, by projecting the laser line point of the corresponding point candidate onto the laser pattern plane where the laser pattern is configured and determining whether it is on the laser pattern or not, the corresponding point is searched for, so the virtual image is surely excluded as the corresponding point. It is possible to perform association more reliably.

請求項3及び6記載の発明によれば、計測対象物の3次元計測の処理を行う前に、平面形状を有していないような非平面校正物体であっても、それを用いて、予めステレオカメラに設定されるステレオカメラ座標系とレーザ投影手段に設定される投影手段座標系との間の回転及び並進を校正しておくことができる。これにより、対応付けの精度を向上させることができる。また、対応点候補のレーザライン点をレーザパタンが構成されているレーザパタン平面に射影してレーザパタン上にあるか否かを判定することにより、対応点を探索するので、対応点として虚像を確実に排除することができ、より確実に対応付けを行うことができる。   According to the third and sixth aspects of the present invention, a non-planar calibration object that does not have a planar shape is used in advance before performing the process of three-dimensional measurement of the measurement object. The rotation and translation between the stereo camera coordinate system set for the stereo camera and the projection means coordinate system set for the laser projection means can be calibrated. Thereby, the precision of matching can be improved. In addition, by projecting the laser line point of the corresponding point candidate onto the laser pattern plane where the laser pattern is configured and determining whether it is on the laser pattern or not, the corresponding point is searched for, so the virtual image is surely excluded as the corresponding point. It is possible to perform association more reliably.

本発明の第1の実施形態に係る3次元計測装置の構成の一例を示す概略模式図である。It is a schematic diagram showing an example of composition of a three-dimensional measuring device concerning a 1st embodiment of the present invention. レーザパタンの一例を示す概略模式図である。It is a schematic diagram which shows an example of a laser pattern. 平面校正ボードを用いた校正処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the calibration process using a plane calibration board. 平面校正ボードを用いた校正の仕方について説明するための概略説明図である。It is a schematic explanatory drawing for demonstrating the method of calibration using a plane calibration board. 本発明の第1の実施形態に係る3次元計測装置による処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the process by the three-dimensional measuring apparatus which concerns on the 1st Embodiment of this invention. 対応点の求め方について説明するための概略説明図である。It is a schematic explanatory drawing for demonstrating how to obtain | require a corresponding point. 本発明の第2の実施形態に係る3次元計測装置の構成の一例を示す概略模式図である。It is a schematic diagram which shows an example of a structure of the three-dimensional measuring apparatus which concerns on the 2nd Embodiment of this invention. 非平面校正物体を用いた校正処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the calibration process using a non-planar calibration object. 非平面校正物体を用いた校正の仕方について説明するための概略説明図である。It is a schematic explanatory drawing for demonstrating the method of calibration using a non-planar calibration object.

以下に本発明の第1の実施形態に係る3次元計測装置1について、図面を参照しつつ説明する。3次元計測装置1は、レーザパタン(格子レーザパタン)Pを投影した計測対象物2を撮影して3次元計測を行うものであって、図1に示すように、計測対象物2にレーザパタンPを投影するためのレーザ投影手段3と、レーザパタンPが投影された計測対象物2を夫々異なる方向から撮影して第1の画像及び第2の画像(ステレオ画像)を取得するための第1撮像手段4a及び第2撮像手段4bを有するステレオカメラ4と、該ステレオカメラ4から入力されるステレオ画像を用いて計測対象物2の3次元計測のための演算処理等を行うコンピュータ5とを備えている。   Hereinafter, a three-dimensional measurement apparatus 1 according to a first embodiment of the present invention will be described with reference to the drawings. The three-dimensional measuring apparatus 1 performs a three-dimensional measurement by photographing a measurement object 2 onto which a laser pattern (lattice laser pattern) P is projected, and projects the laser pattern P onto the measurement object 2 as shown in FIG. The first imaging means 4a for capturing the first image and the second image (stereo image) by photographing the laser projection means 3 for performing the measurement and the measurement object 2 on which the laser pattern P is projected from different directions. And a stereo camera 4 having a second image pickup means 4b, and a computer 5 for performing arithmetic processing for three-dimensional measurement of the measurement object 2 using a stereo image input from the stereo camera 4.

レーザ投影手段3は、図2に示すように複数方向の複数のレーザラインLが交わって格子状に構成されるレーザパタンPを計測対象物2に投影するためのものである。また、このレーザパタンPの中央部には、対応付けを行い易くするために、円形状の模様Tが形成されている。尚、この模様Tは、図2のように円形状に限定されるものではなく、隣り合うレーザラインLを区別し易くするためのものであり、その他の形状であっても良い。   As shown in FIG. 2, the laser projection means 3 is for projecting a laser pattern P configured in a lattice shape by crossing a plurality of laser lines L in a plurality of directions onto the measurement object 2. In addition, a circular pattern T is formed at the center of the laser pattern P to facilitate the association. Note that the pattern T is not limited to a circular shape as shown in FIG. 2, but is for making it easy to distinguish adjacent laser lines L, and may have other shapes.

レーザ投影手段3は、例えば専用のDOEを用いてレーザパタンPを投影するものであり、レーザパタンPは、予めスライド等にパタンが形成されており、レーザをスライドを介して照射することにより、計測対象物2の表面に図1に示すようにレーザパタンP1が投影される。尚、図2に示すレーザパタンPでは、直線状に形成された複数のレーザラインLを用いて格子状にレーザパタンPを構成しているが、レーザラインLは必ずしも直線である必要はなく、曲線状に形成される複数のレーザラインを用いてレーザパタンPを構成しても良い。また、レーザパタンPは必ずしも格子状である必要はなく、複数方向の複数のレーザラインが交わって構成されるレーザパタンであり、その形状が予め規定されていれば良い。   The laser projection means 3 projects a laser pattern P using, for example, a dedicated DOE, and the laser pattern P has a pattern formed on a slide or the like in advance, and the measurement target is obtained by irradiating the laser through the slide. A laser pattern P1 is projected onto the surface of the object 2 as shown in FIG. In the laser pattern P shown in FIG. 2, the laser pattern P is configured in a lattice shape using a plurality of linearly formed laser lines L. However, the laser line L does not necessarily have to be a straight line and has a curved shape. The laser pattern P may be configured using a plurality of laser lines formed in the above. Further, the laser pattern P does not necessarily have a lattice shape, and is a laser pattern formed by a plurality of laser lines in a plurality of directions intersecting, and the shape may be defined in advance.

ステレオカメラ4の第1撮像手段4a及び第2撮像手段4bは、それぞれ撮影手段として撮像素子とこの撮像素子の結像面に計測対象物2の像を結像させるレンズとを備えている。撮像素子としては、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等のイメージセンサが用いられる。この撮像手段4a,4bのレンズには同じものが使用され、視野角及び解像度も略一致するように設定されている。また、第1撮像手段4a及び第2撮像手段4bは、感度が略一致するものが使用される。また、計測対象物2の3次元計測処理を行うにあたっては、事前にステレオカメラ4のキャリブレーションを行うことにより、カメラパラメータを調整しておく。   Each of the first imaging unit 4a and the second imaging unit 4b of the stereo camera 4 includes an imaging device as a photographing unit and a lens that forms an image of the measurement object 2 on the imaging surface of the imaging device. As the image sensor, for example, an image sensor such as a charge coupled device (CCD) or a complementary metal-oxide semiconductor (CMOS) is used. The same lenses are used for the imaging means 4a and 4b, and the viewing angle and the resolution are set to be substantially the same. In addition, as the first imaging unit 4a and the second imaging unit 4b, those having substantially the same sensitivity are used. Further, when performing the three-dimensional measurement process of the measurement object 2, the camera parameters are adjusted in advance by calibrating the stereo camera 4.

ステレオカメラ4により取得されたステレオ画像データは、コンピュータ5へと入力される。コンピュータ5は、ステレオカメラ4bにより取得されたステレオ画像データを用いて計測対象物2の三次元情報を得るための演算等を行うものであり、CPU(Central Proceessing Unit)6と、ハードディス7と、画像処理部8と、RAM(Random Access Memory)9と、表示部10と、操作部11等を備えている。また、これら各部は、図1に示すように、互いにシステムバス12に接続され、このシステムバス12を介して種々のデータ等が入出力されて、CPU6の制御の下、種々の処理が実行される。   Stereo image data acquired by the stereo camera 4 is input to the computer 5. The computer 5 performs operations for obtaining three-dimensional information of the measurement object 2 using the stereo image data acquired by the stereo camera 4b, and includes a CPU (Central Processing Unit) 6, a hard disk 7, , An image processing unit 8, a RAM (Random Access Memory) 9, a display unit 10, an operation unit 11, and the like. Further, as shown in FIG. 1, these units are mutually connected to a system bus 12, and various data and the like are input / output via the system bus 12, and various processes are executed under the control of the CPU 6. The

ハードディス7では、ステレオカメラ4から入力されるステレオ画像データ等を用いて計測対象物2の3次元計測を行うための処理プログラム等を格納している。尚、本実施形態では、3次元計測を行うための処理プログラムをハードディスク7に格納している例を示しているが、これに代えて、コンピュータ読み取り可能な記憶媒体(不図示)に格納しておき、この記録媒体から処理プログラムを読み出すように構成することも可能である。   The hard disk 7 stores a processing program for performing three-dimensional measurement of the measurement object 2 using stereo image data or the like input from the stereo camera 4. In this embodiment, an example in which a processing program for performing three-dimensional measurement is stored in the hard disk 7 is shown, but instead, it is stored in a computer-readable storage medium (not shown). Alternatively, the processing program can be read from the recording medium.

画像処理部8は、ハードディスク7に格納される処理プログラムに基づいて、CPU6の制御の下、計測対象物2の3次元計測を行うための演算処理等を行うものである。RAM9は、ハードディスク7から読み出された処理プログラムを一時的に記憶したり、CPU5の作業領域等として用いられるものである。   The image processing unit 8 performs arithmetic processing and the like for performing three-dimensional measurement of the measurement object 2 under the control of the CPU 6 based on a processing program stored in the hard disk 7. The RAM 9 temporarily stores a processing program read from the hard disk 7 and is used as a work area for the CPU 5.

表示部10は、液晶ディスプレイ等から構成されるものであって、第1撮像手段4a及び第2撮像手段4bにより取得した画像等を表示するものである。操作部11は、マウスやキーボード等で構成されており、操作者が種々のデータ及び操作指令等の入力を行うために使用されるものである。   The display unit 10 is composed of a liquid crystal display or the like, and displays an image or the like acquired by the first imaging unit 4a and the second imaging unit 4b. The operation unit 11 includes a mouse, a keyboard, and the like, and is used by an operator to input various data and operation commands.

以下、この3次元計測装置1による計測対象物2の3次元計測を行う処理の流れについて図3及び図5のフローチャートを用いながら説明する。尚、図3及び図5に示す処理は、ハードディスク7に格納された処理プログラムに従ってCPU6の制御の下、画像処理部8等により実行されるものである。   Hereinafter, the flow of processing for performing the three-dimensional measurement of the measurement object 2 by the three-dimensional measurement apparatus 1 will be described with reference to the flowcharts of FIGS. 3 and 5. 3 and 5 is executed by the image processing unit 8 and the like under the control of the CPU 6 in accordance with a processing program stored in the hard disk 7.

まず、計測対象物2の3次元計測処理を行うにあたって、レーザ投影手段3がどの位置でどのような姿勢であるかを求めるために、図4に示すような平面校正ボード13を用いて、第1校正手段81によりステレオカメラ4に設定されるステレオカメラ座標系とレーザ投影手段3に設定される投影手段座標系との間の回転及び並進を校正しておく。このステレオカメラ座標系と投影手段座標系との間の回転及び並進を校正するために用いる平面校正ボード13は、図4に示すように、平面形状を有していれば良く、材質等は特に限定されるものではない。   First, in performing the three-dimensional measurement processing of the measurement object 2, in order to obtain the position and the attitude of the laser projection means 3, a plane calibration board 13 as shown in FIG. The rotation and translation between the stereo camera coordinate system set for the stereo camera 4 and the projection means coordinate system set for the laser projection means 3 are calibrated by one calibration means 81. As shown in FIG. 4, the plane calibration board 13 used for calibrating the rotation and translation between the stereo camera coordinate system and the projection means coordinate system only needs to have a planar shape, and the material and the like are not particularly limited. It is not limited.

図3のフローチャートに示すように、校正処理を行うにあたって、まずはレーザ投影手段3によりレーザパタンPを平面校正ボード13に投影する(S101)。そして、表面にレーザパタンP1が投影されている平面校正ボード13をステレオカメラ4により撮影することにより、ステレオ画像を取得する(S102)。このようにして取得されたステレオ画像はコンピュータ5へと入力される。尚、このレーザ投影手段3によるレーザパタンPの投影タイミング、及びステレオカメラ4による撮影タイミングは、コンピュータ5のタイミング同期手段(不図示)により同期するように制御されている。   As shown in the flowchart of FIG. 3, in performing the calibration process, first, the laser pattern P is projected onto the flat calibration board 13 by the laser projection means 3 (S101). Then, a stereo image is obtained by photographing the plane calibration board 13 on which the laser pattern P1 is projected on the surface with the stereo camera 4 (S102). The stereo image acquired in this way is input to the computer 5. The projection timing of the laser pattern P by the laser projection means 3 and the photographing timing by the stereo camera 4 are controlled to be synchronized by a timing synchronization means (not shown) of the computer 5.

次に、画像処理部8内の第1校正手段81では、取得したステレオ画像に基づいて、3次元計測を行って格子交点Mの3次元座標に対して平面フィッティングを行う。平面フィッティングを行うことにより、平面校正ボード13に垂直な軸を含む、平面校正ボード13の3次元座標系が得られる。また、格子交点Mをフィッティング平面に射影することにより、平面校正ボード13の平面における格子交点Mの2次元座標が得られる。そして、下記の数式(1)からステレオカメラ座標系と上記の平面フィッティングによって得られた平面校正ボード13の3次元座標系との間の回転行列RCS及び並進ベクトルtCSを求める(S103)。尚、ここでは3次元計測を行って格子交点Mの3次元座標に対して平面フィッティングを行っているが、格子交点M以外の少なくとも3点以上の平面上に現れる特徴点の3次元座標に対して平面フィッティングを行うようにしても良い。

Figure 2012058076
Next, the first calibration unit 81 in the image processing unit 8 performs three-dimensional measurement based on the acquired stereo image and performs plane fitting on the three-dimensional coordinates of the lattice intersection M. By performing the plane fitting, a three-dimensional coordinate system of the plane calibration board 13 including an axis perpendicular to the plane calibration board 13 is obtained. Further, by projecting the grid intersection M onto the fitting plane, the two-dimensional coordinates of the grid intersection M on the plane of the plane calibration board 13 can be obtained. Then, a rotation matrix R CS and a translation vector t CS between the stereo camera coordinate system and the three-dimensional coordinate system of the plane calibration board 13 obtained by the above-described plane fitting are obtained from the following formula (1) (S103). Here, three-dimensional measurement is performed and plane fitting is performed on the three-dimensional coordinates of the lattice intersection M. However, with respect to the three-dimensional coordinates of feature points appearing on at least three or more planes other than the lattice intersection M. Then, the plane fitting may be performed.
Figure 2012058076

次に、平面校正ボード13に投影されているレーザパタンP1とレーザ投影手段3のレーザパタン平面上のレーザパタンPとの対応関係を求める(S104)。具体的には、例えば、まず取得したステレオ画像から平面校正ボード13に投影されている模様T1を抽出し、この点とレーザパタン平面のレーザパタンP上の模様Tとの対応付けを行う。そして、この模様T1を通る2本のレーザラインL1とレーザパタン平面上のレーザラインLとの対応付けを行うことにより、夫々の平面間の対応付けを行うことができる。尚、ここでレーザパタン平面とは、レーザ投影手段3のレーザパタンPが構成されている平面のことであり、この平面はレーザパタンPが形成される際に予め規定されている。   Next, the correspondence between the laser pattern P1 projected on the plane calibration board 13 and the laser pattern P on the laser pattern plane of the laser projection means 3 is obtained (S104). Specifically, for example, a pattern T1 projected on the plane calibration board 13 is first extracted from the acquired stereo image, and this point is associated with the pattern T on the laser pattern P on the laser pattern plane. Then, by associating the two laser lines L1 passing through the pattern T1 with the laser lines L on the laser pattern plane, the planes can be associated with each other. Here, the laser pattern plane is a plane on which the laser pattern P of the laser projection means 3 is formed, and this plane is defined in advance when the laser pattern P is formed.

そして、下記の数式(2)に表されるように、このステレオカメラ4により取得したステレオ画像に基づいて求めた平面校正ボード13上のレーザパタンP1の格子交点Mの2次元座標と、レーザパタン平面における対応点の2次元座標との間で成り立つホモグラフィ変換行列Hを求め、そのホモグラフィ変換行列から校正ボード座標系と投影手段座標系との間の回転行列Rlpc及び並進ベクトルtlpcを計算する(S105)。尚、ホモグラフィ行列Hは、nが4以上あれば求めることができる。また、数式(2)に示すように、レーザ投影手段3の焦点距離fもホモグラフィ行列Hから同時に求めることができる。

Figure 2012058076
Then, as represented by the following mathematical formula (2), the two-dimensional coordinates of the lattice intersection M of the laser pattern P1 on the plane calibration board 13 obtained based on the stereo image acquired by the stereo camera 4 and the laser pattern plane A homography transformation matrix H established between the two-dimensional coordinates of the corresponding point is obtained, and a rotation matrix R lpc and a translation vector t lpc between the calibration board coordinate system and the projection unit coordinate system are calculated from the homography transformation matrix. (S105). The homography matrix H can be obtained if n is 4 or more. Further, the focal length f of the laser projection means 3 can also be obtained from the homography matrix H at the same time as shown in Equation (2).
Figure 2012058076

そして、平面校正ボード13を介して、ステレオカメラ座標系と投影手段座標系との間の回転と並進を校正する(S106)。具体的には、数式(1)を数式(2)に代入することにより、下記の数式(3)が求められる。この数式(3)にステレオカメラ座標系Xにおける3次元座標を代入することにより、対応するレーザパタン平面の2次元座標Xlpc、ylpcを計算することができるようになる。従って、この数式(3)を用いることにより対応点を求めることができる。

Figure 2012058076
Then, the rotation and translation between the stereo camera coordinate system and the projection unit coordinate system are calibrated via the plane calibration board 13 (S106). Specifically, the following formula (3) is obtained by substituting the formula (1) into the formula (2). By substituting 3-dimensional coordinates in the stereo camera coordinate system X S in the equation (3), two-dimensional coordinates X lpc corresponding Rezapatan plane, it is possible to calculate the y lpc. Therefore, the corresponding points can be obtained by using the mathematical formula (3).
Figure 2012058076

このように計測対象物2の3次元計測処理を行う前に、予め平面校正ボード13を用いて、ステレオカメラ座標系と投影手段座標系との間の回転と並進を校正しておく。そして、その後、図5のフローチャートに示すように計測対象物2の3次元計測を行う。   Thus, before performing the three-dimensional measurement process of the measurement object 2, the rotation and translation between the stereo camera coordinate system and the projection unit coordinate system are calibrated in advance using the plane calibration board 13. Then, three-dimensional measurement of the measurement object 2 is performed as shown in the flowchart of FIG.

図5に示すように、まず3次元計測装置1は、計測対象物2にレーザ投影手段3によりレーザパタンPを投影する(S201)。そして、この表面にレーザパタンP1が投影された計測対象物2を第1撮像手段4a及び第2撮像手段4b(ステレオカメラ4)により撮影することにより、第1の画像及び第2の画像(ステレオ画像)を取得する(S202)。このようにして取得されたステレオ画像はコンピュータ5へと入力される。   As shown in FIG. 5, first, the three-dimensional measuring apparatus 1 projects the laser pattern P onto the measurement object 2 by the laser projection means 3 (S201). Then, the first object and the second image (stereo image) are obtained by photographing the measurement object 2 on which the laser pattern P1 is projected on the surface with the first imaging unit 4a and the second imaging unit 4b (stereo camera 4). ) Is acquired (S202). The stereo image acquired in this way is input to the computer 5.

次に、画像処理部8内のレーザライン抽出手段82により取得したステレオ画像からレーザラインLを抽出する(S203)。そして、対応点探索手段83では、このように抽出した第1の画像のレーザラインLの1点につき、第2の画像のエピポーラ線に沿って、所定の視差範囲内にある全てのレーザライン点を対応点候補とし、3次元座標算出手段83aにより、この夫々の対応点候補のレーザライン点に対して3次元座標を求める(S204)。図6では、第1の画像のレーザラインLの1点Aにつき、第2の画像のエピポーラ線に沿うレーザライン点A’、B’を対応点候補とし、同様に第1の画像のレーザラインLの1点Bにつき、第2の画像のエピポーラ線に沿うレーザライン点A’、B’を対応点候補としている例を示している。   Next, the laser line L is extracted from the stereo image acquired by the laser line extraction means 82 in the image processing unit 8 (S203). Then, in the corresponding point search means 83, all the laser line points within the predetermined parallax range along the epipolar line of the second image per one point of the laser line L of the first image extracted in this way. Is the corresponding point candidate, and the three-dimensional coordinate calculation means 83a obtains the three-dimensional coordinates for the laser line point of each corresponding point candidate (S204). In FIG. 6, for each point A of the laser line L of the first image, the laser line points A ′ and B ′ along the epipolar line of the second image are taken as corresponding point candidates, and similarly, the laser line of the first image An example is shown in which laser line points A ′ and B ′ along the epipolar line of the second image are used as corresponding point candidates for one point B of L.

座標変換手段83bでは、この求められたレーザライン点の3次元座標を夫々投影手段座標系に座標系を変換する(S205)。そして、射影手段83cでは、投影手段座標系に変換したレーザライン点を図6に示すように、レーザパタン平面に射影する(S206)。具体的には、第1校正手段81により求められた数式(3)に対応点候補の3次元座標Xを代入することにより、対応するレーザパタン平面への射影点の座標が求められる。 The coordinate conversion unit 83b converts the coordinate system of the obtained three-dimensional coordinates of the laser line point into the projection unit coordinate system (S205). Then, the projection unit 83c projects the laser line point converted into the projection unit coordinate system onto the laser pattern plane as shown in FIG. 6 (S206). Specifically, by substituting the 3-dimensional coordinates X S of the corresponding point candidate in the formula (3) obtained by the first calibration means 81, the coordinates of the projection point to the corresponding Rezapatan plane is determined.

対応点判定手段83dでは、このようにして求められた射影点がレーザパタン平面のレーザパタンP上にあるか否かを判定する(S207)。対応点判定手段83dにより射影点がレーザパタンP上にあると判定された場合(S207:YES)には、その対応点候補を受け入れ、その結果を出力する(S208)。   The corresponding point determining means 83d determines whether or not the projection point thus obtained is on the laser pattern P on the laser pattern plane (S207). If the corresponding point determining unit 83d determines that the projected point is on the laser pattern P (S207: YES), the corresponding point candidate is accepted and the result is output (S208).

一方、対応点判定手段83dにより射影点がレーザパタン上にないと判定された場合(S207:NO)には、他の対応点候補が残っているか否かを判断し(S209)、他の対応点候補が残っていると判断した場合(S209:YES)には、その対応点候補について数式(3)を用いて、レーザパタン平面へ射影した点の座標を求め(S206、S207)、その射影点がレーザパタン平面のレーザパタンP上にあるか否かを再度判定する(S207)。この処理を対応点が見つかるまで繰り返し行うことにより、対応点を探索する。図6に示す例では、第1の画像におけるレーザラインL上の点Aについては、AA’をレーザパタン平面に射影した場合に、レーザパタンPと合致しているので、第2の画像におけるA’が対応点として受け入れられ、B’は拒否される。また、第1の画像におけるレーザラインL上の点Bについては、BB’をレーザパタン平面に射影した場合に、レーザパタンPと合致しているので、第2の画像におけるB’が対応点として受け入れられ、A’は拒否される。このような処理を行うことにより、対応点として虚像等の誤った対応点が選ばれることを防止することができ、精度良く対応付けを行うことができる。   On the other hand, when the corresponding point determining means 83d determines that the projected point is not on the laser pattern (S207: NO), it is determined whether or not other corresponding point candidates remain (S209). When it is determined that there are candidates remaining (S209: YES), the coordinates of the points projected onto the laser pattern plane are obtained using Equation (3) for the corresponding point candidates (S206, S207), and the projected points are determined. It is determined again whether it is on the laser pattern P on the laser pattern plane (S207). This process is repeated until a corresponding point is found, thereby searching for a corresponding point. In the example shown in FIG. 6, the point A on the laser line L in the first image coincides with the laser pattern P when AA ′ is projected onto the laser pattern plane, so that A ′ in the second image is Accepted as a corresponding point, B 'is rejected. Further, the point B on the laser line L in the first image matches the laser pattern P when BB ′ is projected onto the laser pattern plane, so that B ′ in the second image is accepted as a corresponding point. , A 'is rejected. By performing such processing, it is possible to prevent an erroneous corresponding point such as a virtual image from being selected as the corresponding point, and it is possible to perform the association with high accuracy.

本実施形態では、第1の画像のレーザライン点に対応する第2の画像のレーザラインの対応点候補の3次元座標を夫々求め、この3次元座標を第1校正手段81により得られた数式(3)に基づいて投影手段座標系に変換してレーザパタン平面に射影した夫々の射影点がレーザパタンP上にあるか否かを判定することにより、対応点を求めているが、その他の従来公知の対応付け処理を行うように構成しても良い。   In the present embodiment, three-dimensional coordinates of corresponding point candidates of the laser line of the second image corresponding to the laser line point of the first image are obtained, respectively, and the mathematical formula obtained by the first calibration unit 81 is obtained. Corresponding points are obtained by determining whether or not each projected point that has been converted into the projection means coordinate system based on (3) and projected onto the laser pattern plane is on the laser pattern P. You may comprise so that the matching process of this may be performed.

次に第2の実施形態に係る3次元計測装置1aについて図7〜9を用いて意説明する。図7に示すように、3次元計測装置1aは第1実施形態に係る3次元計測装置1と略同様の構成を備えるものであり、第1校正手段81の代わりに第2校正手段81aを備えるものである。従って、第1実施形態に係る3次元計測装置1と同様の構成等については、同一の符号を付し、その詳細な説明は省略する。   Next, a three-dimensional measurement apparatus 1a according to the second embodiment will be described with reference to FIGS. As shown in FIG. 7, the three-dimensional measurement apparatus 1 a has substantially the same configuration as the three-dimensional measurement apparatus 1 according to the first embodiment, and includes a second calibration unit 81 a instead of the first calibration unit 81. Is. Therefore, the same reference numerals are given to the same components and the like as those of the three-dimensional measurement apparatus 1 according to the first embodiment, and detailed description thereof is omitted.

3次元計測装置1aでは、図9に示すように、平面校正ボード13の代わりに非平面形状を有する非平面校正物体14を用いて、第2校正手段81aによりステレオカメラ座標系と投影手段座標系との間の回転及び並進を校正する。この非平面校正物体14は、図9に示すように曲面形状を有した物体に限られるものではなく、平面形状を折り曲げたようなものを用いることも可能である。   In the three-dimensional measuring apparatus 1a, as shown in FIG. 9, a stereo camera coordinate system and a projection unit coordinate system are used by a second calibration unit 81a using a non-planar calibration object 14 having a non-planar shape instead of the plane calibration board 13. Calibrate rotation and translation between The non-planar calibration object 14 is not limited to an object having a curved surface shape as shown in FIG. 9, and it is possible to use an object obtained by bending the planar shape.

以下、この非平面校正物体14を用いた第2校正手段81aによる校正処理の流れについて図8のフローチャートを用いながら説明する。校正処理を行うにあたって、まずはレーザ投影手段3によりレーザパタンPを非平面校正物体14に投影する(S301)。そして、表面にレーザパタンP1が投影されている非平面校正物体14をステレオカメラ4により撮影することにより、ステレオ画像を取得する(S302)。   Hereinafter, the flow of the calibration process by the second calibration unit 81a using the non-planar calibration object 14 will be described with reference to the flowchart of FIG. In performing the calibration process, first, the laser projection unit 3 projects the laser pattern P onto the non-planar calibration object 14 (S301). Then, a stereo image is acquired by photographing the non-planar calibration object 14 on which the laser pattern P1 is projected on the surface with the stereo camera 4 (S302).

次に、画像処理部8内の第2校正手段81aでは、取得したステレオ画像に基づいて、非平面校正物体18に投影されたレーザパタンP1の格子交点Mの3次元計測を行う(S303)。そして、非平面校正物体14に投影されているレーザパタンP1とレーザ投影手段3のレーザパタン平面上のレーザパタンPとの対応関係を求める(S304)。   Next, the second calibration unit 81a in the image processing unit 8 performs three-dimensional measurement of the lattice intersection M of the laser pattern P1 projected on the non-planar calibration object 18 based on the acquired stereo image (S303). Then, the correspondence relationship between the laser pattern P1 projected on the non-planar calibration object 14 and the laser pattern P on the laser pattern plane of the laser projection means 3 is obtained (S304).

そして、S303の処理により計測されたレーザパタンP1の格子交点Mの3次元座標と、レーザパタン平面における対応点の2次元座標との間で成り立つ射影行列Pを下記の数式(4)を用いて計算する(S305)。

Figure 2012058076
Then, a projection matrix P established between the three-dimensional coordinates of the lattice intersection M of the laser pattern P1 measured by the process of S303 and the two-dimensional coordinates of the corresponding points on the laser pattern plane is calculated using the following formula (4). (S305).
Figure 2012058076

この射影行列Pから数式(5)に示すように、ステレオカメラ座標系と投影手段座標系との間の回転行列Rlpsと並進ベクトルtlpsを求める(S306)。尚、射影行列Pは、数式(4)のnが6以上あれば求めることができる。

Figure 2012058076
As shown in Equation (5), the rotation matrix R lps and the translation vector t lps between the stereo camera coordinate system and the projection unit coordinate system are obtained from the projection matrix P (S306). The projection matrix P can be obtained if n in the formula (4) is 6 or more.
Figure 2012058076

そして、数式(4)に数式(5)を代入することにより、下記の数式(6)が求められる。この数式(6)にステレオカメラ座標系Xにおける3次元座標を代入することにより、対応するレーザパタン平面の2次元座標Xlpc、ylpcを計算することができるようになる。従って、この数式(6)を用いることにより対応点を求めることができる。

Figure 2012058076
Then, the following formula (6) is obtained by substituting the formula (5) into the formula (4). By substituting 3-dimensional coordinates in the stereo camera coordinate system X S in the equation (6), two-dimensional coordinates X lpc corresponding Rezapatan plane, it is possible to calculate the y lpc. Therefore, the corresponding points can be obtained by using the equation (6).
Figure 2012058076

このように、第2校正手段81aによる処理により、平面校正ボード13の代わりに非平面形状を有する非平面校正物体14を用いて、ステレオカメラ座標系と投影手段座標系との間の回転及び並進を校正することも可能である。   In this way, the rotation and translation between the stereo camera coordinate system and the projection unit coordinate system using the non-planar calibration object 14 having a non-planar shape instead of the plane calibration board 13 by the processing by the second calibration unit 81a. Can also be calibrated.

尚、本発明の実施の形態は上述の形態に限るものではなく、本発明の思想の範囲を逸脱しない範囲で適宜変更することができることは云うまでもない。   Note that the embodiment of the present invention is not limited to the above-described embodiment, and it is needless to say that the embodiment can be appropriately changed without departing from the scope of the idea of the present invention.

本発明に係る3次元計測装置及び3次元計測方法は静的又は動的計測対象物の3次元計測を高精度に行うための技術として有効に利用することができる。   The three-dimensional measuring apparatus and the three-dimensional measuring method according to the present invention can be effectively used as a technique for performing three-dimensional measurement of a static or dynamic measurement object with high accuracy.

1、1a 3次計測装置
2 計測対象物
3 レーザ投影手段
4 ステレオカメラ
4a 第1撮像手段
4b 第2撮像手段
81 第1校正手段
81a 第2校正手段
82 レーザライン抽出手段
83 対応点探索手段
13 平面校正ボード
14 非平面校正物体
P レーザパタン(格子レーザパタン)
L レーザライン
DESCRIPTION OF SYMBOLS 1, 1a Tertiary measuring device 2 Measurement object 3 Laser projection means 4 Stereo camera 4a First imaging means 4b Second imaging means 81 First calibration means 81a Second calibration means 82 Laser line extraction means 83 Corresponding point search means 13 Plane Calibration board 14 Non-planar calibration object P Laser pattern (grating laser pattern)
L Laser line

ステレオカメラ4により取得されたステレオ画像データは、コンピュータ5へと入力される。コンピュータ5は、ステレオカメラ4bにより取得されたステレオ画像データを用いて計測対象物2の三次元情報を得るための演算等を行うものであり、CPU(Central Proceessing Unit)6と、ハードディス7と、画像処理部8と、RAM(Random Access Memory)9と、表示部10と、操作部11等を備えている。また、これら各部は、図1に示すように、互いにシステムバス12に接続され、このシステムバス12を介して種々のデータ等が入出力されて、CPU6の制御の下、種々の処理が実行される。 Stereo image data acquired by the stereo camera 4 is input to the computer 5. Computer 5, which performs arithmetic operations for obtaining three-dimensional information of the measurement object 2 by using the stereo image data obtained by the stereo camera 4b, a CPU (Central Proceessing Unit) 6, the hard disk 7 An image processing unit 8, a RAM (Random Access Memory) 9, a display unit 10, an operation unit 11, and the like. Further, as shown in FIG. 1, these units are mutually connected to a system bus 12, and various data and the like are input / output via the system bus 12, and various processes are executed under the control of the CPU 6. The

ハードディス7では、ステレオカメラ4から入力されるステレオ画像データ等を用いて計測対象物2の3次元計測を行うための処理プログラム等を格納している。尚、本実施形態では、3次元計測を行うための処理プログラムをハードディスク7に格納している例を示しているが、これに代えて、コンピュータ読み取り可能な記憶媒体(不図示)に格納しておき、この記録媒体から処理プログラムを読み出すように構成することも可能である。 In the hard disk 7 stores a processing program for performing three-dimensional measurement of the measurement object 2 by using the stereo image data or the like input from the stereo camera 4. In this embodiment, an example in which a processing program for performing three-dimensional measurement is stored in the hard disk 7 is shown, but instead, it is stored in a computer-readable storage medium (not shown). Alternatively, the processing program can be read from the recording medium.

画像処理部8は、ハードディスク7に格納される処理プログラムに基づいて、CPU6の制御の下、計測対象物2の3次元計測を行うための演算処理等を行うものである。RAM9は、ハードディスク7から読み出された処理プログラムを一時的に記憶したり、CPUの作業領域等として用いられるものである。
The image processing unit 8 performs arithmetic processing and the like for performing three-dimensional measurement of the measurement object 2 under the control of the CPU 6 based on a processing program stored in the hard disk 7. The RAM 9 temporarily stores a processing program read from the hard disk 7 and is used as a work area for the CPU 6 .

Claims (6)

複数方向の複数の直線及び/又は曲線状のレーザラインにより構成されるレーザパタンを計測対象物に投影するレーザ投影手段と、
前記レーザパタンが投影された計測対象物を撮影して第1の画像を取得する第1撮像手段及び該第1撮像手段と異なる方向から前記レーザパタンが投影された計測対象物を撮影して第2の画像を取得する第2撮像手段を有するステレオカメラと、
前記第1の画像及び前記第2の画像から前記レーザラインを抽出するレーザライン抽出手段と、
前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点を求める対応点探索手段と、を備えることを特徴とする3次元計測装置。
Laser projection means for projecting a laser pattern constituted by a plurality of straight and / or curved laser lines in a plurality of directions onto a measurement object;
A first imaging unit that captures a measurement object on which the laser pattern is projected and acquires a first image, and a measurement object on which the laser pattern is projected from a different direction from the first imaging unit. A stereo camera having second imaging means for acquiring an image;
Laser line extraction means for extracting the laser line from the first image and the second image;
And a corresponding point search means for obtaining corresponding points of the laser lines of the second image corresponding to the laser line points of the first image.
予め前記レーザ投影手段により前記レーザパタンが投影された、平面を有する平面校正ボードを用いて、前記ステレオカメラに設定されるステレオカメラ座標系と前記レーザ投影手段に設定される投影手段座標系との間の回転及び並進を校正する第1校正手段を備え、
前記対応点探索手段は、前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点候補の3次元座標を夫々求め、該3次元座標を前記第1校正手段により得られた結果に基づいて前記投影手段座標系に変換して前記レーザパタンが構成されているレーザパタン平面に射影した夫々の射影点が前記レーザパタン上にあるか否かを判定することにより、対応点を求めることを特徴とする請求項1記載の3次元計測装置。
Between a stereo camera coordinate system set for the stereo camera and a projection means coordinate system set for the laser projection means, using a plane calibration board having a plane on which the laser pattern is projected in advance by the laser projection means. First calibration means for calibrating the rotation and translation of
The corresponding point search means obtains three-dimensional coordinates of corresponding point candidates of the laser line of the second image corresponding to the laser line point of the first image, and the three-dimensional coordinates are obtained by the first calibration means. Based on the obtained result, it is converted to the projection means coordinate system, and it is determined whether or not each projection point projected onto the laser pattern plane on which the laser pattern is configured is on the laser pattern, thereby determining the corresponding point. The three-dimensional measuring apparatus according to claim 1, wherein the three-dimensional measuring apparatus is obtained.
予め前記レーザ投影手段により前記レーザパタンが投影された、非平面形状を有する非平面校正物体を用いて、前記ステレオカメラに設定されるステレオカメラ座標系と前記レーザ投影手段に設定される投影手段座標系との間の回転及び並進を校正する第2校正手段を備え、
前記対応点探索手段は、前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点候補の3次元座標を夫々求め、該3次元座標を前記第2校正手段により得られた結果に基づいて前記投影手段座標系に変換して前記レーザパタンが構成されているレーザパタン平面に射影した夫々の射影点が前記レーザパタン上にあるか否かを判定することにより、対応点を求めることを特徴とする請求項1記載の3次元計測装置。
A stereo camera coordinate system set for the stereo camera and a projection means coordinate system set for the laser projection means using a non-planar calibration object having a non-planar shape, onto which the laser pattern has been projected in advance by the laser projection means. Second calibration means for calibrating rotation and translation between
The corresponding point search means obtains three-dimensional coordinates of corresponding point candidates of the laser lines of the second image corresponding to the laser line points of the first image, and the three-dimensional coordinates are obtained by the second calibration means. Based on the obtained result, it is converted to the projection means coordinate system, and it is determined whether or not each projection point projected onto the laser pattern plane on which the laser pattern is configured is on the laser pattern, thereby determining the corresponding point. The three-dimensional measuring apparatus according to claim 1, wherein the three-dimensional measuring apparatus is obtained.
複数方向の複数の直線及び/又は曲線状のレーザラインにより構成されるレーザパタンをレーザ投影手段により計測対象物に投影するレーザ投影ステップと、
前記レーザパタンが投影された計測対象物をステレオカメラの第1撮像手段及び第2撮像手段により撮影して第1の画像及び第2の画像を取得するステレオ画像取得ステップと、
前記第1の画像及び前記第2の画像から前記レーザラインを抽出するレーザライン抽出ステップと、
前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点を求める対応点探索ステップと、を含むことを特徴とする3次元計測方法。
A laser projection step of projecting a laser pattern constituted by a plurality of straight lines and / or curved laser lines in a plurality of directions onto a measurement object by a laser projection unit;
A stereo image acquisition step of acquiring the first image and the second image by capturing the measurement object on which the laser pattern is projected by the first imaging unit and the second imaging unit of the stereo camera;
A laser line extraction step of extracting the laser line from the first image and the second image;
And a corresponding point search step for obtaining a corresponding point of the laser line of the second image corresponding to the laser line point of the first image.
予め前記レーザ投影手段により前記レーザパタンが投影された、平面を有する平面校正ボードを用いて、前記ステレオカメラに設定されるステレオカメラ座標系と前記レーザ投影手段に設定される投影手段座標系との間の回転及び並進を校正する第1校正ステップを備え、
前記対応点探索ステップでは、前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点候補の3次元座標を夫々求め、該3次元座標を前記第1校正ステップで得られた結果に基づいて前記投影手段座標系に変換して前記レーザパタンが構成されているレーザパタン平面に射影した夫々の射影点が前記レーザパタン上にあるか否かを判定することにより、対応点を求めることを特徴とする請求項4記載の3次元計測方法。
Between a stereo camera coordinate system set for the stereo camera and a projection means coordinate system set for the laser projection means, using a plane calibration board having a plane on which the laser pattern is projected in advance by the laser projection means. A first calibration step for calibrating the rotation and translation of
In the corresponding point search step, three-dimensional coordinates of corresponding point candidates of the laser line of the second image corresponding to the laser line point of the first image are respectively obtained, and the three-dimensional coordinates are obtained in the first calibration step. Based on the obtained result, it is converted to the projection means coordinate system, and it is determined whether or not each projection point projected onto the laser pattern plane on which the laser pattern is configured is on the laser pattern, thereby determining the corresponding point. The three-dimensional measurement method according to claim 4, wherein the three-dimensional measurement method is obtained.
予め前記レーザ投影手段により前記レーザパタンが投影された、非平面形状を有する非平面校正物体を用いて、前記ステレオカメラに設定されるステレオカメラ座標系と前記レーザ投影手段に設定される投影手段座標系との間の回転及び並進を校正する第2校正ステップを備え、
前記対応点探索ステップでは、前記第1の画像のレーザライン点に対応する前記第2の画像のレーザラインの対応点候補の3次元座標を夫々求め、該3次元座標を前記第2校正ステップで得られた結果に基づいて前記投影手段座標系に変換して前記レーザパタンが構成されているレーザパタン平面に射影した夫々の射影点が前記レーザパタン上にあるか否かを判定することにより、対応点を求めることを特徴とする請求項4記載の3次元計測方法。
A stereo camera coordinate system set for the stereo camera and a projection means coordinate system set for the laser projection means using a non-planar calibration object having a non-planar shape, onto which the laser pattern has been projected in advance by the laser projection means. A second calibration step for calibrating rotation and translation between
In the corresponding point search step, three-dimensional coordinates of corresponding point candidates of the laser line of the second image corresponding to the laser line point of the first image are obtained, respectively, and the three-dimensional coordinates are obtained in the second calibration step. Based on the obtained result, it is converted to the projection means coordinate system, and it is determined whether or not each projection point projected onto the laser pattern plane on which the laser pattern is configured is on the laser pattern, thereby determining the corresponding point. The three-dimensional measurement method according to claim 4, wherein the three-dimensional measurement method is obtained.
JP2010201605A 2010-09-09 2010-09-09 Three-dimensional measurement device and three-dimensional measurement method Withdrawn JP2012058076A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010201605A JP2012058076A (en) 2010-09-09 2010-09-09 Three-dimensional measurement device and three-dimensional measurement method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010201605A JP2012058076A (en) 2010-09-09 2010-09-09 Three-dimensional measurement device and three-dimensional measurement method

Publications (1)

Publication Number Publication Date
JP2012058076A true JP2012058076A (en) 2012-03-22

Family

ID=46055351

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010201605A Withdrawn JP2012058076A (en) 2010-09-09 2010-09-09 Three-dimensional measurement device and three-dimensional measurement method

Country Status (1)

Country Link
JP (1) JP2012058076A (en)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102364299A (en) * 2011-08-30 2012-02-29 刘桂华 Calibration technology for multiple structured light projected three-dimensional profile measuring heads
JP2013221801A (en) * 2012-04-13 2013-10-28 Motoharu Fujigaki Three-dimensional displacement measurement method and device
JP5633058B1 (en) * 2013-07-19 2014-12-03 株式会社三次元メディア 3D measuring apparatus and 3D measuring method
CN105157592A (en) * 2015-08-26 2015-12-16 北京航空航天大学 Binocular vision-based method for measuring deformation shape and deformation rate of flexible trailing edge of adaptive wing
KR20170001448A (en) * 2015-06-26 2017-01-04 한국전자통신연구원 Apparatus for measuring position of camera using stereo camera and method using the same
JP2017004268A (en) * 2015-06-10 2017-01-05 富士通株式会社 Image processor, image processing method and image processing program
CN107131848A (en) * 2016-02-26 2017-09-05 福禄理昂·伟洛米泽 The optical triangle method device of quick and fine and close SHAPE DETECTION can be realized
KR20170135914A (en) * 2015-09-10 2017-12-08 테년 3디 (톈진) 테크놀로지 코.,엘티디 Multi-line laser array three-dimensional scanning system and multi-line laser array three-dimensional scanning method
CN107678041A (en) * 2016-08-02 2018-02-09 三星电子株式会社 System and method for detection object
KR20180131033A (en) * 2017-05-31 2018-12-10 재단법인대구경북과학기술원 Calibration apparatus and method of camera and rader
KR101948017B1 (en) * 2017-06-02 2019-02-14 허윤선 3d coordinate acquisition method
CN110117640A (en) * 2019-05-15 2019-08-13 重庆市公安局刑事警察总队 A kind of grid mark method and device of material evidence
JP2020165901A (en) * 2019-03-29 2020-10-08 株式会社Ihi Three-dimensional measuring apparatus and three-dimensional measuring method
WO2020262389A1 (en) * 2019-06-28 2020-12-30 キヤノン株式会社 Measurement apparatus, imaging apparatus, measurement system, control method, and program
CN112361990A (en) * 2020-10-29 2021-02-12 深圳市道通科技股份有限公司 Laser pattern extraction method and device, laser measurement equipment and system
CN112614176A (en) * 2020-11-27 2021-04-06 大连海事大学 Belt conveyor material volume measuring method and device and storage medium
CN113074666A (en) * 2021-03-17 2021-07-06 北京工业大学 Object point cloud size measuring equipment and method based on line structure laser
CN113686313A (en) * 2021-08-30 2021-11-23 中煤科工集团重庆研究院有限公司 Real-time measuring method and system for coal rock geological image
WO2024032971A1 (en) * 2022-08-09 2024-02-15 Bayerische Motoren Werke Aktiengesellschaft Device and method for measuring three-dimensional virtual images and objects on a head-up display

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102364299A (en) * 2011-08-30 2012-02-29 刘桂华 Calibration technology for multiple structured light projected three-dimensional profile measuring heads
JP2013221801A (en) * 2012-04-13 2013-10-28 Motoharu Fujigaki Three-dimensional displacement measurement method and device
JP5633058B1 (en) * 2013-07-19 2014-12-03 株式会社三次元メディア 3D measuring apparatus and 3D measuring method
JP2015021862A (en) * 2013-07-19 2015-02-02 株式会社三次元メディア Three-dimensional measurement instrument and three-dimensional measurement method
JP2017004268A (en) * 2015-06-10 2017-01-05 富士通株式会社 Image processor, image processing method and image processing program
KR20170001448A (en) * 2015-06-26 2017-01-04 한국전자통신연구원 Apparatus for measuring position of camera using stereo camera and method using the same
KR102410300B1 (en) * 2015-06-26 2022-06-20 한국전자통신연구원 Apparatus for measuring position of camera using stereo camera and method using the same
CN105157592A (en) * 2015-08-26 2015-12-16 北京航空航天大学 Binocular vision-based method for measuring deformation shape and deformation rate of flexible trailing edge of adaptive wing
KR20170135914A (en) * 2015-09-10 2017-12-08 테년 3디 (톈진) 테크놀로지 코.,엘티디 Multi-line laser array three-dimensional scanning system and multi-line laser array three-dimensional scanning method
JP2018516377A (en) * 2015-09-10 2018-06-21 テンヨウン サンウェイ(天津)科技有限公司 Multi-line array laser light three-dimensional scanning system and multi-line array laser light three-dimensional scanning method
KR102015606B1 (en) 2015-09-10 2019-08-28 테년 3디 (톈진) 테크놀로지 코.,엘티디 Multi-line laser array three-dimensional scanning system and multi-line laser array three-dimensional scanning method
CN107131848A (en) * 2016-02-26 2017-09-05 福禄理昂·伟洛米泽 The optical triangle method device of quick and fine and close SHAPE DETECTION can be realized
CN107678041A (en) * 2016-08-02 2018-02-09 三星电子株式会社 System and method for detection object
KR102016636B1 (en) 2017-05-31 2019-09-02 재단법인대구경북과학기술원 Calibration apparatus and method of camera and rader
KR20180131033A (en) * 2017-05-31 2018-12-10 재단법인대구경북과학기술원 Calibration apparatus and method of camera and rader
KR101948017B1 (en) * 2017-06-02 2019-02-14 허윤선 3d coordinate acquisition method
JP2020165901A (en) * 2019-03-29 2020-10-08 株式会社Ihi Three-dimensional measuring apparatus and three-dimensional measuring method
CN110117640A (en) * 2019-05-15 2019-08-13 重庆市公安局刑事警察总队 A kind of grid mark method and device of material evidence
WO2020262389A1 (en) * 2019-06-28 2020-12-30 キヤノン株式会社 Measurement apparatus, imaging apparatus, measurement system, control method, and program
US20220113131A1 (en) * 2019-06-28 2022-04-14 Canon Kabushiki Kaisha Measurement apparatus, image capturing apparatus, measurement system, control method, and storage medium
CN112361990A (en) * 2020-10-29 2021-02-12 深圳市道通科技股份有限公司 Laser pattern extraction method and device, laser measurement equipment and system
CN112614176A (en) * 2020-11-27 2021-04-06 大连海事大学 Belt conveyor material volume measuring method and device and storage medium
CN113074666A (en) * 2021-03-17 2021-07-06 北京工业大学 Object point cloud size measuring equipment and method based on line structure laser
CN113686313A (en) * 2021-08-30 2021-11-23 中煤科工集团重庆研究院有限公司 Real-time measuring method and system for coal rock geological image
CN113686313B (en) * 2021-08-30 2024-02-09 中煤科工集团重庆研究院有限公司 Real-time measurement method and system for coal rock geological image
WO2024032971A1 (en) * 2022-08-09 2024-02-15 Bayerische Motoren Werke Aktiengesellschaft Device and method for measuring three-dimensional virtual images and objects on a head-up display

Similar Documents

Publication Publication Date Title
JP2012058076A (en) Three-dimensional measurement device and three-dimensional measurement method
CN106595528B (en) A kind of micro- binocular stereo vision measurement method of telecentricity based on digital speckle
Khoshelham Accuracy analysis of kinect depth data
KR101604037B1 (en) method of making three dimension model and defect analysis using camera and laser scanning
JP6363863B2 (en) Information processing apparatus and information processing method
JP5029618B2 (en) Three-dimensional shape measuring apparatus, method and program by pattern projection method
JP5633058B1 (en) 3D measuring apparatus and 3D measuring method
JP5631025B2 (en) Information processing apparatus, processing method thereof, and program
JP4885584B2 (en) Rangefinder calibration method and apparatus
JP5051493B2 (en) 3D measurement marker and 3D measurement method using the same
JP6937642B2 (en) Surface evaluation method and surface evaluation device
JP2017033429A (en) Three-dimensional object inspection device
JP2020008502A (en) Depth acquisition device by polarization stereo camera, and method of the same
WO2010061860A1 (en) Stereo matching process system, stereo matching process method, and recording medium
JP6425406B2 (en) INFORMATION PROCESSING APPARATUS, INFORMATION PROCESSING METHOD, AND PROGRAM
JP2008275366A (en) Stereoscopic 3-d measurement system
WO2008075632A1 (en) Test method for compound-eye distance measuring device, its test device and chart used for same
JP6533914B2 (en) Computer readable recording medium recording measurement method, measurement device, measurement program and measurement program
US20210262793A1 (en) Distance measuring camera
WO2019230171A1 (en) Laser calibration device, calibration method therefor, and image input device including laser calibration device
WO2020075213A1 (en) Measurement apparatus, measurement method, and microscopic system
US8102516B2 (en) Test method for compound-eye distance measuring apparatus, test apparatus, and chart used for the same
JP2006317418A (en) Image measuring device, image measurement method, measurement processing program, and recording medium
JP2019002758A (en) Measuring device and method for actuating measuring device
JP4351090B2 (en) Image processing apparatus and image processing method

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20131203