JP2003141511A - Method, apparatus and program for recognizing three- dimensional configuration - Google Patents

Method, apparatus and program for recognizing three- dimensional configuration

Info

Publication number
JP2003141511A
JP2003141511A JP2001341372A JP2001341372A JP2003141511A JP 2003141511 A JP2003141511 A JP 2003141511A JP 2001341372 A JP2001341372 A JP 2001341372A JP 2001341372 A JP2001341372 A JP 2001341372A JP 2003141511 A JP2003141511 A JP 2003141511A
Authority
JP
Japan
Prior art keywords
target object
coordinate system
reference object
distance image
normal vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001341372A
Other languages
Japanese (ja)
Other versions
JP3516668B2 (en
Inventor
Masayuki Enomoto
雅幸 榎本
Takao Kanamaru
孝夫 金丸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kawasaki Heavy Industries Ltd
Original Assignee
Kawasaki Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kawasaki Heavy Industries Ltd filed Critical Kawasaki Heavy Industries Ltd
Priority to JP2001341372A priority Critical patent/JP3516668B2/en
Publication of JP2003141511A publication Critical patent/JP2003141511A/en
Application granted granted Critical
Publication of JP3516668B2 publication Critical patent/JP3516668B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices With Unspecified Measuring Means (AREA)
  • Image Input (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a means for recognizing a three-dimensional configuration capable of quickly calculating the position and attitude of a three-dimensional object and easily obtaining items of a standard object to be collated with the object of interest. SOLUTION: The coordinate system of the standard object is formed from the three- dimensional coordinates and normal vector of a reference point determined on the standard object in a map image and from the three-dimensional coordinates of each of a plurality of teaching points, and the normal vector of the object surface is determined (S3) as the plane coordinates of the map image of the object of interest are scanned. The axis of the coordinate system of the standard object is aligned with the normal vector (S4), and each time the coordinate system is rotated a predetermined angle about the normal vector (S5), errors in height relative to the surface of the object of interest are determined for each teaching point and integrated for each rotational angle (S9). If a minimal integrated value of the errors is smaller than a predetermined threshold throughout the scans, the object of interest is determined to be the same as the standard object, and the position and attitude of the object of interest are determined from the three-dimensional coordinates, normal, and rotational angle of the reference point which provides the minimal integrated value of the errors.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、距離画像を用いた
3次元物体の認識装置における規準物体の教示方法や対
象物体の位置姿勢検出方法に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a reference object teaching method and a target object position / orientation detection method in a three-dimensional object recognition apparatus using a range image.

【0002】[0002]

【従来の技術】自動化作業、特にロボットによる自動作
業には、対象物を撮影した画像を用いて対象物の位置と
姿勢を知る認識技術が必須である。対象物の認識は正確
にかつ迅速に行う必要がある。さらに実用のためには、
低廉な装置により実行できることが望まれる。3次元画
像中の立体パターンを検出して対象物として認識しその
位置姿勢を判定するものとして、画像中の対象物を予め
決められた規準物体と照合して判定する方法があるが、
従来、ロボット装置などに付属させて使用できるところ
まで実用化された方法はなかった。これは、3次元物体
が6個の自由度を持つ上、実際の物体形状は多様であ
り、画像中の見え方も多様であるため、モデルと照合し
て判定する場合でも特に簡単な形状をもつ物のみを扱う
か対象物の位置や姿勢を制約しないと、膨大な処理時間
を要するからである。
2. Description of the Related Art A recognition technique for knowing the position and orientation of an object using an image of the object is essential for automated work, especially for automatic work by a robot. It is necessary to recognize an object accurately and quickly. For more practical use,
It would be desirable to be able to do this with inexpensive equipment. As a method of detecting a three-dimensional pattern in a three-dimensional image, recognizing it as an object and determining its position and orientation, there is a method of comparing the object in the image with a predetermined reference object for determination.
Conventionally, there has been no method that has been put to practical use to the point where it can be used by being attached to a robot device or the like. This is because a three-dimensional object has six degrees of freedom, the actual object shape is diverse, and the appearance in the image is also diverse. This is because a huge amount of processing time is required unless only the object that has the object is handled or the position and orientation of the object are not restricted.

【0003】なお、特開10−899603には、3次
元CADデータと画像を照合して位置姿勢を判定する方
法が開示されている。この開示方法は、CADにより製
造された物体を撮像した画像に対して、同じ画像中にC
ADデータから仮想的に描画したCADデータ像の位置
と姿勢を変化させて撮像物体像と重なったときの位置姿
勢データから対象物体の位置姿勢を推定するようにした
ものである。この開示方法は、撮像画面中からモデルに
合致する物体を検出しようとするものではなく、またC
ADデータ像の姿勢を実物画像に一致させるためにCA
Dデータ像に施す平行移動と回転移動の処理時間は膨大
なものとなる。さらに、正確な3次元位置を求めるため
には異なる方向から取得した2個以上の撮像画像を使用
しなくてはならないので装置の簡略化と低廉化が困難で
ある。
[0003] Japanese Patent Laid-Open No. 10-899603 discloses a method of determining the position and orientation by collating an image with three-dimensional CAD data. According to the disclosed method, a C image is captured in the same image with respect to a captured image of an object manufactured by CAD.
The position and orientation of the CAD data image virtually drawn from the AD data is changed, and the position and orientation of the target object is estimated from the position and orientation data when the CAD data image overlaps with the imaged object image. This disclosed method does not try to detect an object that matches the model from the captured screen, and
In order to match the posture of the AD data image with the actual image, CA
The processing time of the parallel movement and the rotation movement applied to the D data image becomes enormous. Furthermore, in order to obtain an accurate three-dimensional position, it is necessary to use two or more captured images acquired from different directions, so it is difficult to simplify and reduce the cost of the device.

【0004】[0004]

【発明が解決しようとする課題】そこで、本発明が解決
しようとする課題は、対象物体の位置と姿勢を素早く算
出できる新しい3次元形状認識方法と装置であって、対
象物体と照合する規準物体の諸元も簡単に取得できるも
のを提供することである。
Therefore, the problem to be solved by the present invention is a new three-dimensional shape recognition method and apparatus capable of quickly calculating the position and orientation of a target object, which is a reference object to be collated with the target object. It is also to provide the specifications of can be easily obtained.

【0005】[0005]

【課題を解決するための手段】上記課題を解決するた
め、本発明の3次元形状認識方法は、規準物体の距離画
像に基づいて規準物体上に決めた基準点の3次元座標と
その基準点に立てた法線ベクトルと適当に定めた複数の
教示点の3次元座標を求めることにより規準物体座標系
を形成する。さらに対象物体について距離画像を取得す
る。取得した対象物体距離画像の平面座標上を走査しな
がら対象物体表面における法線ベクトルを求め、その法
線ベクトルに規準物体の法線ベクトルを一致させて規準
物体座標系を法線ベクトルの回りに所定角度ずつ回転し
ては各教示点ごとに対象物体表面との高さ誤差を求めて
回転角ごとに積算しておく。必要な走査が終わったとき
に、走査を通じて極小だった誤差積算値を抽出する。そ
の誤差積算値が所定の閾値より小さければ、対象物体が
規準物体と同一であると判定し、その極小誤差積算値を
与えた基準点の3次元座標と法線と回転角をもって対象
物体の位置と姿勢を定めることを特徴とする。
In order to solve the above-mentioned problems, a three-dimensional shape recognition method of the present invention is a three-dimensional coordinate of a reference point determined on a reference object based on a distance image of the reference object and the reference point. A standard object coordinate system is formed by obtaining the three-dimensional coordinates of the normal vector set up to the above and a plurality of appropriately defined teaching points. Further, a distance image is acquired for the target object. While scanning on the plane coordinates of the acquired target object distance image, the normal vector on the surface of the target object is obtained, and the normal vector of the reference object is matched with the normal vector, and the reference object coordinate system is set around the normal vector. After rotating by a predetermined angle, a height error with respect to the surface of the target object is obtained for each teaching point and integrated for each rotation angle. When the required scan is completed, the minimum error integrated value is extracted through the scan. If the error accumulated value is smaller than a predetermined threshold value, it is determined that the target object is the same as the reference object, and the position of the target object is determined by the three-dimensional coordinates of the reference point, the normal line, and the rotation angle that give the minimum error accumulated value. It is characterized by determining the posture.

【0006】ここで、距離画像とは、基準面から物体表
面までの高さZをXY座標の値として与えた立体表示図
面を指す。距離画像は、撮像画面における輝度表示を高
さ表示に変えた2次平面画像に対応し、地形図と類似す
る。距離画像は、1視点から物体表面までの距離を測定
した距離データに基づいて、XY平面から計った物体表
面の高さ情報として展開することにより形成することが
できる。1視点から距離測定する装置として、レーザス
ポットの反射位置を3角測量により求めて距離を算定す
るレーザスポットスキャン装置やレーザをスリット状に
照射して反射線の形状から一挙に対象までの距離を求め
るレーザスリットスキャナーを使用することができる。
Here, the distance image refers to a stereoscopic display drawing in which the height Z from the reference surface to the object surface is given as a value of XY coordinates. The range image corresponds to a quadratic plane image in which the brightness display on the imaging screen is changed to the height display, and is similar to the topographic map. The distance image can be formed by developing the height information of the object surface measured from the XY plane based on the distance data obtained by measuring the distance from one viewpoint to the object surface. As a device for measuring the distance from one viewpoint, a laser spot scanning device for calculating the reflection position of the laser spot by triangulation and calculating the distance, or irradiating the laser in a slit shape to determine the distance from the shape of the reflection line to the target all at once. Any desired laser slit scanner can be used.

【0007】なお、距離画像を生成する測定装置には、
この他にも空間コード化パターン投影を用いた3次元形
状測定装置などがある。また、規準物体座標系は、物体
上に適宜定めた基準点を原点とし基準点に立つ法線を1
個の座標軸とする相対座標系であることが好ましい。規
準物体の表面に適宜定めた教示点をこのような規準物体
座標系にプロットすれば、対象物体の距離画像中で重ね
合わせ処理をより容易に行うことができるからである。
The measuring device for generating the range image is
In addition to this, there is a three-dimensional shape measuring device using the spatial coded pattern projection. In addition, the reference object coordinate system uses a reference point that is appropriately determined on the object as an origin, and a normal line that stands at the reference point is 1
A relative coordinate system having individual coordinate axes is preferable. This is because if the teaching points appropriately determined on the surface of the reference object are plotted in such a reference object coordinate system, the superposition processing can be performed more easily in the range image of the target object.

【0008】本発明の3次元形状認識方法によれば、距
離画像として取得した対象物体の映像について、画面上
をスキャンしながら、機械的で簡単な手順を重ねること
により、きわめて高速に規準物体像との照合を行って、
対象物体の検知と位置姿勢の推定を行うことができる。
また、規準物体について座標変換をしながら対象物体と
照合することになるが、対象物体の演算位置に立てた法
線を規準物体座標系の軸に一致させて探索処理を行うた
めに、姿勢について探索動作を軸を固定した回転に限定
することができるので、高速処理が可能である。
According to the three-dimensional shape recognition method of the present invention, the image of the target object acquired as the range image is scanned on the screen, and the mechanical and simple procedure is repeated, so that the reference object image is extremely fast. Collate with
It is possible to detect the target object and estimate the position and orientation.
In addition, although the reference object is collated with the target object while performing coordinate conversion, in order to perform the search processing by matching the normal line set at the calculated position of the target object with the axis of the reference object coordinate system, Since the search operation can be limited to the rotation with the axis fixed, high speed processing is possible.

【0009】すなわち、たとえば画面上をX方向に主走
査しY方向に副走査するラスタースキャンにより演算位
置を移動させながら、各位置について近傍の形状に基づ
き法線を求める。次に、この法線に規準物体座標系の座
標軸を重ねて規準物体像を座標軸の回りに所定角度ずつ
回転させては、規準物体座標上の教示点ごとに対象物体
像との誤差を算出し全教示点にわたって積算して、誤差
積算値が最低になる角度を検出し、この角度における誤
差積算値が所定の閾値より小さくなる場合に、その演算
位置、およびその法線、角度、誤差積算値などを記憶す
る。
That is, for example, while moving the calculation position by the raster scan in which the main scanning is performed in the X direction and the sub scanning is performed in the Y direction on the screen, the normal line is obtained based on the shape of the neighborhood at each position. Next, superimpose the coordinate axis of the reference object coordinate system on this normal line and rotate the reference object image around the coordinate axis by a predetermined angle, and calculate the error from the target object image for each teaching point on the reference object coordinates. When the angle at which the error integrated value becomes the minimum is detected by integrating over all the taught points and the error integrated value at this angle becomes smaller than a predetermined threshold value, the calculated position and its normal line, angle, error integrated value And so on.

【0010】このような誤差積算値算出手順を各演算位
置について繰り返して実行し、全領域あるいは適当な領
域について走査を終えたときに、上記算出した誤差積算
値を比較して最小もしくはXY平面中で極小の値を示す
演算位置を求める。すると、この最小(極小)誤差積算
値を示す演算位置が対象物体の基準点位置でありその法
線方向と回転角から対象物体の姿勢が与えられる。な
お、誤差積算値は、距離画像座標系における教示点の高
さと物体表面の高さの差の絶対値を積算したものであっ
てもよい。差の絶対値は簡単に求めることができるの
で、演算時間を節約できる。もちろん、誤差を2乗して
積算した値など他の評価方法を用いてもよいことはいう
までもない。
Such an error integrated value calculating procedure is repeatedly executed for each calculation position, and when the scanning is completed for the entire area or an appropriate area, the calculated error integrated values are compared and the minimum or XY plane is set. The calculation position showing the minimum value is calculated with. Then, the calculated position indicating the minimum (minimum) error integrated value is the reference point position of the target object, and the orientation of the target object is given from the normal direction and the rotation angle. The error integrated value may be an integrated value of absolute differences between the height of the teaching point and the height of the object surface in the distance image coordinate system. Since the absolute value of the difference can be easily obtained, the calculation time can be saved. Of course, other evaluation methods such as a value obtained by squaring an error and integrating the values may be used.

【0011】また、上記演算位置は、その座標位置にお
ける高さ値が所定の閾値より大きい位置に限定するよう
にして、距離画像中の対象物体が存在する可能性がある
場所についてのみ演算を実行するようにしてもよい。こ
のようにして演算を省略することにより、演算時間を大
幅に節約することができる。なお、規準物体座標系を確
定するために使用する規準物体の距離画像は、たとえば
CADデータを用いて数学的にプロットしたものであっ
てもよいが、距離画像取得装置を用いて実際の物体につ
いて取得した距離画像を利用して基準点や教示点を指定
することにより求めることができる。
Further, the calculation position is limited to a position where the height value at the coordinate position is larger than a predetermined threshold value, and the calculation is executed only for the position in the range image where the target object may exist. You may do it. By omitting the calculation in this way, the calculation time can be greatly saved. The distance image of the reference object used to determine the reference object coordinate system may be, for example, a mathematical plot using CAD data. It can be obtained by designating a reference point or a teaching point using the acquired distance image.

【0012】このように実際の物体をそのまま距離画像
化して使用するようにすると、コンピュータが利用でき
る形で設計データを所持しない場合でも簡単に規準物体
座標系を形成することができる。なお、教示点に対応す
る位置に対象物体の表面高さデータがない場合は、その
教示点についての誤差データは無視するようにしてもよ
い。1視点から測定した距離データはその視点から見通
せない位置については距離画像が欠如するため、適当な
処理を行わないと大きな外乱要素になる可能性があるか
らである。
As described above, if the actual object is used as a distance image as it is, the reference object coordinate system can be easily formed even if the computer does not have the design data. If there is no surface height data of the target object at the position corresponding to the teaching point, the error data about the teaching point may be ignored. This is because the distance data measured from one viewpoint lacks a distance image at a position that cannot be seen from that viewpoint, and thus may become a large disturbance factor if appropriate processing is not performed.

【0013】さらに、上記課題を解決するため、本発明
の3次元形状認識装置は、距離画像取得装置と画像処理
装置を備え、その距離画像取得装置が対象物体の距離画
像を取得し、画像処理装置が規準物体の基準点を原点と
し基準点に立てた法線を1個の座標軸とした規準物体座
標系を格納する記憶装置を備え、距離画像取得装置から
入力した対象物体の距離画像について、画面を走査しな
がら座標点に立つ対象物体表面の法線ベクトルを算出
し、その法線ベクトルに規準物体座標系の原点と座標軸
を一致させて規準物体座標系を法線ベクトルの回りに所
定角度ずつ回転しては各教示点ごとに対象物体表面の高
さ誤差を求めて回転角ごとに積算し、走査を通じて極小
だった誤差積算値が閾値より小さいときに対象物体が規
準物体と同一であると認識し、その極小誤差積算値を与
えた平面座標と法線と回転角をもってその対象物体の位
置と姿勢を定めることを特徴とする。
Further, in order to solve the above problems, the three-dimensional shape recognition apparatus of the present invention comprises a range image acquisition device and an image processing device, and the range image acquisition device acquires a range image of a target object and performs image processing. The device is provided with a storage device for storing a reference object coordinate system having a reference point of the reference object as an origin and a normal line set up at the reference point as one coordinate axis, and for the range image of the target object input from the range image acquisition device, While scanning the screen, calculate the normal vector of the surface of the target object that stands at the coordinate points, match the origin of the reference object coordinate system and the coordinate axis with the normal vector, and make the reference object coordinate system a predetermined angle around the normal vector. The target object surface is the same as the reference object when the height error of the target object surface is calculated for each teaching point and integrated for each rotation angle, and the minimum error integrated value during scanning is smaller than the threshold value. It recognized, that with a rotation angle and its minimum error integrated value plane coordinates and normals gave characterized by determining the position and orientation of the target object.

【0014】なお、距離画像取得装置は、レーザスリッ
トスキャンにより測定した測定器から対象物表面までの
距離情報を用いて基準面からの高さ情報に変換して距離
画像を生成するものであってもよい。また、規準物体座
標系は、距離画像取得装置により求めた規準物体の距離
画像に基づいて画像処理装置が求めるようにしてもよ
い。さらに、画像処理装置は、一旦求めた対象物体の位
置と姿勢の近傍において、規準物体座標系をさらに細か
い回転角で変化させて誤差積算値が最小になる回転角を
求めて、より精密な位置と姿勢を決定するようにしても
よい。
The distance image acquiring device is a device for converting the height information from the reference plane using the distance information from the measuring device measured by the laser slit scan to the surface of the object to generate the distance image. Good. The reference object coordinate system may be obtained by the image processing device based on the distance image of the reference object obtained by the distance image acquisition device. Further, the image processing device, in the vicinity of the position and orientation of the target object once obtained, changes the reference object coordinate system at a finer rotation angle to obtain a rotation angle at which the error integrated value becomes the minimum, and a more precise position is obtained. The attitude may be determined.

【0015】なお、本発明の3次元形状確認装置は、コ
ンピュータ装置を利用して構成することができる。コン
ピュータ装置は、3次元形状認識プログラムを稼働させ
ることにより、規準物体の距離画像に基づいて規準物体
の基準点についての3次元座標と法線ベクトルと複数の
教示点の3次元座標を求めて規準物体座標系を形成する
手段と、距離画像取得装置が対象物体について距離画像
を取得し生成した画像信号を取り込む手段と、対象物体
距離画像の画像信号に関する平面座標上を走査しながら
対象物体表面における法線ベクトルを求める手段と、対
象物体表面の法線ベクトルに規準物体の法線ベクトルを
一致させて規準物体座標系を法線ベクトルの回りに所定
角度ずつ回転しては各教示点ごとに対象物体表面の高さ
誤差を求めて回転角ごとに積算する手段と、走査を通じ
て極小だった誤差積算値を所定の閾値と比較する手段
と、誤差積算値が閾値より小さいときに対象物体が規準
物体と同一であることを認識し、その積算値を与えた基
準点の座標と法線と回転角をもって対象物体の位置と姿
勢を定める手段として機能させることができる。
The three-dimensional shape confirmation device of the present invention can be constructed using a computer device. The computer device operates a three-dimensional shape recognition program to obtain three-dimensional coordinates of a reference point of the reference object, a normal vector, and three-dimensional coordinates of a plurality of teaching points based on the distance image of the reference object, and then performs the reference. A means for forming an object coordinate system, a means for acquiring a distance image of a target object by a distance image acquisition device, and a means for capturing the generated image signal, and a surface of the target object while scanning on a plane coordinate related to the image signal of the target object distance image. The normal vector of the target object is matched with the normal vector of the target object surface, and the normal object coordinate system is rotated by a predetermined angle around the normal vector. A means for calculating the height error of the object surface and integrating it for each rotation angle, a means for comparing the minimum error integrated value through scanning with a predetermined threshold, and an error integrated value When it is smaller than the threshold, it recognizes that the target object is the same as the reference object, and it can function as a means to determine the position and orientation of the target object based on the coordinates of the reference point, the normal, and the rotation angle that gave the integrated value. it can.

【0016】なお、上記3次元形状認識プログラムは、
CD−ROM、DVDディスク、メモリスティック、コ
ンピュータ本体内の記憶装置など、コンピュータ読みと
り可能な記録媒体に記憶させることにより、新規なコン
ピュータを本発明の3次元形状認識装置として使用する
ことができる。また、可搬性のある記録媒体に記憶させ
て流通させることができる。
The above three-dimensional shape recognition program is
By storing in a computer-readable recording medium such as a CD-ROM, a DVD disc, a memory stick, and a storage device in the computer main body, a novel computer can be used as the three-dimensional shape recognition device of the present invention. Further, it can be stored in a portable recording medium and distributed.

【0017】[0017]

【発明の実施の形態】以下、本発明について実施例に基
づき図面を参照して詳細に説明する。本実施例の3次元
形状認識装置は、規準物体を表示する相対座標系である
規準物体座標系を用いて位置合わせにより対象物体の認
識と位置姿勢の判定をするもので、対象物体の距離画像
を取得し、距離画像面を走査しながら、走査点ごとに物
体表面の法線を求め、この法線に規準物体座標系の軸を
合わせて回転処理し、規準物体と対象物体が適合する位
置を求めることにより、対象物体が規準物体と同じか否
かを認識し、規準物体と同じ場合に規準物体座標系の位
置姿勢に基づいて対象物体の位置姿勢を決定する。
BEST MODE FOR CARRYING OUT THE INVENTION The present invention will be described below in detail based on embodiments with reference to the drawings. The three-dimensional shape recognition apparatus of the present embodiment is for recognizing a target object and determining the position and orientation by aligning using a standard object coordinate system which is a relative coordinate system for displaying a standard object. Then, while scanning the distance image plane, the normal line of the object surface is obtained for each scanning point, the axis of the reference object coordinate system is aligned with this normal line, and rotation processing is performed, and the position where the reference object and the target object match By recognizing that the target object is the same as the reference object, the position and orientation of the target object are determined based on the position and orientation of the reference object coordinate system when the target object is the same as the reference object.

【0018】図1は本実施例において対象物体の位置姿
勢を決定する手順を示すフローチャート、図2は本実施
例において規準物体座標系を算出する手順を示すフロー
チャート、図3は本実施例の構成を示すブロック図、図
4は距離画像の作成例を説明する図面、図5は規準物体
について座標系を求める手順について説明する図面、図
6は規準物体座標系の例を示す図面、図7は規準物体を
当て嵌める手順を説明する概念図、図8は対象物体の距
離画像を示す図面、図9は観測点の走査方法を示す図面
である。
FIG. 1 is a flow chart showing a procedure for determining the position and orientation of a target object in this embodiment, FIG. 2 is a flow chart showing a procedure for calculating a reference object coordinate system in this embodiment, and FIG. 3 is a configuration of this embodiment. 4 is a block diagram showing an example of creating a distance image, FIG. 5 is a diagram explaining a procedure for obtaining a coordinate system for a reference object, FIG. 6 is a diagram showing an example of a reference object coordinate system, and FIG. FIG. 8 is a conceptual diagram illustrating a procedure of fitting a reference object, FIG. 8 is a drawing showing a distance image of a target object, and FIG. 9 is a drawing showing a scanning method of observation points.

【0019】本実施例の3次元形状認識装置は、図3に
示すように、画像取得装置1と画像処理装置2からな
る。画像処理装置2は、画像取込部21とフレームメモ
リを含む記憶装置22と演算ユニットMPU23からな
る。なお、画像処理装置2はパソコンなどの簡易な電子
計算機システムにより構成することができる。
As shown in FIG. 3, the three-dimensional shape recognition apparatus of this embodiment comprises an image acquisition apparatus 1 and an image processing apparatus 2. The image processing device 2 includes an image capturing unit 21, a storage device 22 including a frame memory, and an arithmetic unit MPU 23. The image processing apparatus 2 can be configured by a simple computer system such as a personal computer.

【0020】画像取得装置1は、図4(a)に示すよう
に、レーザスポットスキャナー11を備えて、対象物体
3の形状を計測するものである。レーザスポットスキャ
ナー11は、平面状に走査するレーザ光を対象に照射
し、表面からの反射光がリニアセンサなどの光検出器に
入射した位置に基づいて3角測量法により対象までの距
離を算出する。なお、レーザスリットスキャナを用いる
と、一挙に平板状のレーザを照射するため光学系が簡単
になるので、製造費用を節減することができる。このよ
うにして収集した1視点からの距離データを画像取込部
22を介して画像処理装置2に取り込み、演算ユニット
23で基準面に垂直な方向に展開して物体表面の高さデ
ータに変換し、記憶装置22中のフレームメモリに記録
する。
As shown in FIG. 4A, the image acquisition device 1 is equipped with a laser spot scanner 11 to measure the shape of the target object 3. The laser spot scanner 11 irradiates a target with laser light that scans in a plane, and calculates the distance to the target by the triangulation method based on the position where the reflected light from the surface enters a photodetector such as a linear sensor. To do. When a laser slit scanner is used, a flat-plate laser is emitted all at once, so that the optical system can be simplified and the manufacturing cost can be reduced. The distance data from one viewpoint thus collected is fetched into the image processing device 2 through the image fetching unit 22, developed by the arithmetic unit 23 in the direction perpendicular to the reference plane, and converted into height data of the object surface. Then, it is recorded in the frame memory in the storage device 22.

【0021】フレームメモリのデータは、XY面上の点
ごとに基準面からの高さをZとして表したもので、基準
面上に置かれた物体を地形図で表したものに当たる。フ
レームメモリに記憶された値を輝度に変換してディスプ
レー上に表示すれば、高い部分ほど輝度が強く表現さ
れ、視覚的に把握しやすい立体的映像として物体像を得
ることができる。また、図4(b)に示すように、等高
線で高さを表した平面画像として得ることもできる。
The data in the frame memory represents the height from the reference plane for each point on the XY plane as Z, and corresponds to the topographic map of an object placed on the reference plane. If the value stored in the frame memory is converted into luminance and displayed on the display, the higher the portion, the stronger the luminance is expressed, and the object image can be obtained as a stereoscopic image that is easily visually recognized. Further, as shown in FIG. 4B, it can be obtained as a plane image in which the height is represented by contour lines.

【0022】なお、1視点から物体表面31を測定する
ときは、光線が届かない陰の部分32は距離画像化した
ときに距離データが欠如する部分33になる。このよう
なデータ欠落部33を補充するためには、別の視点から
測定したデータを加味して距離画像を作成すればよい。
しかし、ロボットハンドなどに適用する場合には、この
ような欠落部分が一部に存在しても必要な確度で物体の
認識等を行うことができるので、1個のレーザスポット
スキャナー11を用いて、1視点からの距離データに基
づいた距離画像を生成して使用することができる。
When measuring the object surface 31 from one viewpoint, the shaded portion 32 where the light ray does not reach becomes the portion 33 lacking the distance data when the distance image is formed. In order to supplement such a data missing portion 33, the distance image may be created in consideration of the data measured from another viewpoint.
However, when it is applied to a robot hand or the like, it is possible to recognize an object or the like with a required accuracy even if such a missing portion exists in a part, and therefore, one laser spot scanner 11 is used. It is possible to generate and use a distance image based on distance data from one viewpoint.

【0023】本実施例の3次元形状認識装置が対象物体
の認識作業をするためには、事前に規準物体の形状モデ
ルを記憶しておく必要がある。このため、認識すべき物
体を表わす規準物体を画像取得装置で計測し、規準物体
の距離画像を取得して、この距離画像を直接利用して標
準となるモデルの教示を行う。規準物体に対して相対的
に固定された座標系を規準物体座標系と呼ぶ。
In order for the three-dimensional shape recognition apparatus of the present embodiment to recognize the target object, it is necessary to store the shape model of the reference object in advance. Therefore, a reference object representing an object to be recognized is measured by an image acquisition device, a distance image of the reference object is acquired, and the distance model is directly used to teach a standard model. The coordinate system fixed relatively to the reference object is called the reference object coordinate system.

【0024】図2は、規準物体座標系を算出する手順を
示すフローチャート、図5はT形の配管継手について規
準物体の距離画像を表す図面である。図5は単色表現の
ため面からの高さを等高線で表してある。画像取得装置
1を用いて規準物体を計測し、画像処理装置2により規
準物体の距離画像を作成して、このデータを直交座標系
XYZに表しフレームメモリに記憶する(S21)。こ
こでZ軸は基準面からの高さを表す。なお、このXYZ
座標系は距離画像に固定された座標系なので、以下では
距離画像座標系ということもある。
FIG. 2 is a flow chart showing a procedure for calculating the reference object coordinate system, and FIG. 5 is a drawing showing a distance image of the reference object for a T-shaped pipe joint. In FIG. 5, the height from the surface is represented by contour lines for monochrome expression. The reference object is measured using the image acquisition device 1, a distance image of the reference object is created by the image processing device 2, and this data is represented in the Cartesian coordinate system XYZ and stored in the frame memory (S21). Here, the Z axis represents the height from the reference plane. In addition, this XYZ
Since the coordinate system is a coordinate system fixed to the range image, it may be referred to as a range image coordinate system below.

【0025】オペレータは、距離画像をディスプレーで
観察しながら、マウスなどのポインティングデバイスを
用いて規準物体の適当な位置に認識基準点Oを指定す
る。距離画像は高さを輝度や色彩により表現したもので
あっても、また等高線で表したものであってもよい。基
準点Oが指定されると、画像処理装置2が基準点Oの近
傍の表面位置データを使用して基準点Oに立つ法線No
を算定する(S22)。さらに、基準点Oを原点、基準
点に立つ法線NoをW軸、W軸に垂直な適当な方向をU
軸、U軸とW軸に垂直な方向にV軸を取った直交座標系
UVWを構成する(S23)。
The operator designates the recognition reference point O at an appropriate position on the reference object by using a pointing device such as a mouse while observing the distance image on the display. The distance image may represent height by brightness or color, or may represent height by contour lines. When the reference point O is designated, the image processing device 2 uses the surface position data in the vicinity of the reference point O and the normal line No.
Is calculated (S22). In addition, the reference point O is the origin, the normal number standing at the reference point is the W axis, and the appropriate direction perpendicular to the W axis is U.
An orthogonal coordinate system UVW having a V axis in a direction perpendicular to the axes, the U axis and the W axis is configured (S23).

【0026】認識基準点Oに立つ法線NoはUVW座標
系の軸方向を決定するため、方向が安定している必要が
あるが、物体の表面が凸凹している部分では、少しでも
位置がずれると法線の方向が大きく変化するので、規準
物体の表面がなめらかな部分を選んで基準点Oを置くこ
とが好ましい。また、U軸は座標系の回転基準となるた
め、規準物体の形状と関連して、分かりやすい方向に選
ぶことが好ましい。
The normal No standing at the recognition reference point O determines the axial direction of the UVW coordinate system, so the direction needs to be stable. However, the position of the surface of the object is uneven, if at all. Since the direction of the normal changes greatly if deviated, it is preferable to set the reference point O by selecting a smooth surface of the reference object. Further, since the U axis serves as a rotation reference of the coordinate system, it is preferable to select a direction that is easy to understand in relation to the shape of the reference object.

【0027】次に、規準物体表面の適当な位置を適当数
指定して教示点とする。各教示点Jが指定されると、教
示点のXYZ座標値(xj,yj,zj)を算出する
(S24)。教示点Jは、規準物体の形状を的確に代表
して他の形状と紛れないような適当な位置を選択するよ
うにする。教示点Jを座標変換してUVW座標系上の座
標点(uj,vj,wj)として表す(S25)。図6
は、配管継手について作成した規準物体座標系の例を示
す図面である。教示点Jは基準点Oに対する相対的位置
関係により座標系に固定されている。こうして構成され
た規準物体座標系の諸元は記憶装置22に記憶される。
Next, an appropriate number of appropriate positions on the surface of the reference object are designated as teaching points. When each teaching point J is designated, the XYZ coordinate values (xj, yj, zj) of the teaching point are calculated (S24). The teaching point J is appropriately representative of the shape of the reference object, and an appropriate position is selected so as not to be confused with other shapes. The teaching point J is subjected to coordinate conversion and expressed as a coordinate point (uj, vj, wj) on the UVW coordinate system (S25). Figure 6
[Fig. 6] is a drawing showing an example of a reference object coordinate system created for a pipe joint. The teaching point J is fixed to the coordinate system by the relative positional relationship with respect to the reference point O. The specifications of the reference object coordinate system thus configured are stored in the storage device 22.

【0028】このようにして、規準物体の特徴点という
べき教示点を搭載した規準物体座標系UVWを構成する
ことができる。UVW座標系は、認識すべき物体の距離
画像に固定される距離画像座標系XYZ上で相対的に移
動させることができる相対座標系である。本実施例の規
準物体座標系は対象物体と同定できる実物を計測するこ
とにより構成することができ、CADなどの設計データ
を用いた高度な処理を必要としない。また、規準物体座
標系が帯同する情報量は極めて小さい。したがって、よ
り簡単な装置を利用することができる。
In this way, the reference object coordinate system UVW having the teaching points, which should be the characteristic points of the reference object, can be constructed. The UVW coordinate system is a relative coordinate system that can be relatively moved on a range image coordinate system XYZ fixed to a range image of an object to be recognized. The reference object coordinate system of this embodiment can be configured by measuring an actual object that can be identified as a target object, and does not require sophisticated processing using design data such as CAD. Further, the amount of information carried by the reference object coordinate system is extremely small. Therefore, a simpler device can be utilized.

【0029】本実施例の3次元形状認識装置は、図1お
よび図7に示した手順により対象物体の同定と位置姿勢
の判定を行う。対象物体を計測して距離画像を作成し、
このデータを距離画像座標系XYZに表しフレームメモ
リに記憶する(S1)。無造作に置いたT形継手につい
て計測すると、たとえば、図8に示すような距離画像を
得ることができる。図8は、図5におけると同様、等高
線により高さを表現しているが、輝度により表現しても
よい。なお、対象物の同定や位置姿勢の判定は自動的に
行われるため、ディスプレーに表示する必要はない。も
ちろんオペレータが監視する目的で距離画像等を表示す
ることは有益である。
The three-dimensional shape recognition apparatus of this embodiment identifies the target object and determines the position and orientation by the procedure shown in FIGS. Measure the target object and create a range image,
This data is represented in the distance image coordinate system XYZ and stored in the frame memory (S1). When the T-joint placed in a random manner is measured, for example, a distance image as shown in FIG. 8 can be obtained. In FIG. 8, the height is represented by contour lines as in FIG. 5, but it may be represented by luminance. Since the identification of the target object and the determination of the position and orientation are automatically performed, it is not necessary to display it on the display. Of course, it is useful for the operator to display a distance image or the like for the purpose of monitoring.

【0030】次に、図9に示すように、フレームメモリ
上でXY平面についてラスタースキャンと同じようにX
方向に主走査、Y方向に副走査を行うことにより対象領
域全域について万遍なく走査する。走査点Iを移動する
たびに(S2)、その走査点IにおけるZ座標値ziを
読み出し、観測点Mi(xi,yi,zi)を定める。
さらにその近傍における距離画像から観測点Miに立つ
法線ベクトルNiを求める(S3)。なお、物体の表面
がない場所で法線を求めるための演算をするのは無駄で
あるので、走査点IにおけるZ座標ziが所定の閾値よ
り小さいときには物体がないと見なし演算を省略して次
の位置に移動させるようにしてもよい。
Next, as shown in FIG. 9, in the XY plane on the frame memory, as in the raster scan, the X
By performing main scanning in the Y direction and sub scanning in the Y direction, the entire target area is uniformly scanned. Each time the scanning point I is moved (S2), the Z coordinate value zi at the scanning point I is read out, and the observation point Mi (xi, yi, zi) is determined.
Further, the normal vector Ni standing at the observation point Mi is obtained from the distance image in the vicinity thereof (S3). Since it is useless to perform the calculation for obtaining the normal line in a place where the surface of the object is not present, when the Z coordinate zi at the scanning point I is smaller than a predetermined threshold value, it is considered that there is no object and the calculation is omitted. You may make it move to the position of.

【0031】法線ベクトルNiが求まったら、図7
(a)に示すように、規準物体座標系UVWを呼び出し
て、その原点Oを観測点Miに重ねる。さらに、図7
(b)に示すように、原点Oを支点としてUVW座標系
を傾けてW軸が法線ベクトルNiに重なるようにする
(S4)。W軸と法線ベクトルNiが一致したUVW座
標系を(Ut,Vt,Wt)で表すものとする。UtV
tWt座標系をWt軸の回りに所定の角度ずつ回転させ
ながら、物体表面との位置誤差を算出する(S5)。こ
のとき、たとえばUt軸が距離画像座標系のX軸と平行
になる方向を規準として回転角を決めるなど、回転角を
距離画像座標系と関連づけて規定する必要がある。
Once the normal vector Ni has been obtained, FIG.
As shown in (a), the reference object coordinate system UVW is called, and its origin O is superimposed on the observation point Mi. Furthermore, FIG.
As shown in (b), the UVW coordinate system is tilted with the origin O as a fulcrum so that the W axis overlaps the normal vector Ni (S4). The UVW coordinate system in which the W axis and the normal vector Ni coincide with each other is represented by (Ut, Vt, Wt). UtV
The position error with respect to the object surface is calculated while rotating the tWt coordinate system around the Wt axis by a predetermined angle (S5). At this time, it is necessary to define the rotation angle in association with the distance image coordinate system, for example, determining the rotation angle with reference to the direction in which the Ut axis is parallel to the X axis of the distance image coordinate system.

【0032】回転したUtVtWt座標系上の教示点J
(uj,vj,wj)の位置を絶対座標系であるXYZ
座標系上の座標値(xj,yj,zj)で表す(S
6)。本実施例では、簡単のため、教示点Jと対象物体
表面の偏差をZ軸方向の差により把握する。このため、
フレームメモリに格納された距離画像データからXY座
標(xj,yj)における物体表面高さzojを読み出
す。すなわち、教示点Jに対応する物体表面の対応点M
jの座標は(xj,yj,zoj)となる(S7)。こ
の結果から、教示点Jと対応点MjのZ方向距離を算出
して誤差距離絶対値|zj−zoj|を求める(S
8)。
Teaching point J on the rotated UtVtWt coordinate system
The position of (uj, vj, wj) is XYZ which is an absolute coordinate system.
Represented by coordinate values (xj, yj, zj) on the coordinate system (S
6). In this embodiment, for simplification, the deviation between the teaching point J and the surface of the target object is grasped by the difference in the Z-axis direction. For this reason,
The object surface height zoj at XY coordinates (xj, yj) is read from the range image data stored in the frame memory. That is, the corresponding point M on the object surface corresponding to the teaching point J
The coordinates of j are (xj, yj, zoj) (S7). From this result, the Z-direction distance between the teaching point J and the corresponding point Mj is calculated to obtain the error distance absolute value | zj-zoj | (S
8).

【0033】この方法は、対象物体と規準物体とのずれ
を形状上の対応点によって評価する代わりに、Z軸方向
偏差によって評価するので、演算が簡単である。なお、
対象物体の姿勢によっては、測定時に陰になって対応点
のデータが欠如する場合があるが、多数の教示点を使う
ときには、データの欠如した対応点を無視しても規準物
体との合致性を判断する上で重大な過誤とはならない。
また、ずれの指標としてWt軸方向の偏差を利用しても
よいが、演算がより複雑になるので、本実施例ではZ軸
方向偏差を用いた。
This method is simple in calculation because the deviation between the target object and the reference object is evaluated not by the corresponding points on the shape but by the deviation in the Z-axis direction. In addition,
Depending on the orientation of the target object, the data of corresponding points may be missing due to shadows at the time of measurement, but when using many teaching points, matching with the reference object is ignored even if the corresponding points lacking data are ignored. It is not a serious error in judging.
Further, the deviation in the Wt-axis direction may be used as the index of the deviation, but the calculation becomes more complicated, so the deviation in the Z-axis direction is used in this embodiment.

【0034】UtVtWt座標系上の全ての教示点Jに
ついて上記方法を繰り返すことにより求めた誤差距離絶
対値を積算し、残差絶対値和SADとする(S9)。対
象物体が規準物体と全く一致すればSADはゼロにな
り、ずれが大きければ大きいほどSADが大きくなるの
で、SADは規準物体との一致を判定するためのよい評
価関数になる。なお、誤差の絶対値に代えて自乗値に基
づくものなど他の評価関数を用いてもよいことはいうま
でもない。SADは各回転角ごとに算出される。
The absolute values of the error distances obtained by repeating the above method for all the teaching points J on the UtVtWt coordinate system are integrated to obtain the residual absolute value sum SAD (S9). If the target object exactly matches the reference object, the SAD becomes zero, and the larger the deviation, the larger the SAD. Therefore, the SAD is a good evaluation function for determining the match with the reference object. It goes without saying that other evaluation functions such as those based on the square value may be used instead of the absolute value of the error. SAD is calculated for each rotation angle.

【0035】Wt軸回りに1回転させて収集した各角度
ごとのSADのうち、SADが最小になる角度における
条件を記憶装置に記録する(S10)。記録する条件
は、観測点Miの座標(xi,yi,zi)、法線ベク
トルNi、SADが最小になる回転角、そのときのSA
Dなどである。このとき、規準物体と合致する可能性を
検討するまでもないケースを除外するため、適当な閾値
を使用して、SADが閾値より小さい場合だけ記録する
ようにしてもよい。
Among the SADs for each angle collected by rotating once around the Wt axis, the condition at the angle where the SAD is the minimum is recorded in the storage device (S10). The conditions to be recorded are the coordinates (xi, yi, zi) of the observation point Mi, the normal vector Ni, the rotation angle at which the SAD is minimized, and the SA at that time.
D and so on. At this time, in order to exclude cases in which there is no need to consider the possibility of matching with the reference object, an appropriate threshold value may be used and recording may be performed only when SAD is smaller than the threshold value.

【0036】1個の走査点Iについて上記演算を終了し
たら、次の走査点Iに移っては同じ演算を繰り返すこと
により画面全体について走査をする。なお、対象が限ら
れる場合は、予め走査する領域を限定しておいてもよ
い。必要領域の走査を終了したら、SADが所定の閾値
より小さい観測点を検出する。このような観測点を持つ
対象物体は、図7(c)に示すように、規準物体と形状
が一致し、観測点における法線ベクトルの姿勢と規準物
体座標系の回転角により対象物体の姿勢を決定すること
ができる(S11)。
When the above calculation is completed for one scanning point I, the next scanning point I is moved to and the same calculation is repeated to scan the entire screen. If the target is limited, the area to be scanned may be limited in advance. When the scanning of the required area is completed, the observation point where SAD is smaller than a predetermined threshold value is detected. As shown in FIG. 7C, the target object having such an observation point has the same shape as the reference object, and the orientation of the target object is determined by the orientation of the normal vector at the observation point and the rotation angle of the reference object coordinate system. Can be determined (S11).

【0037】なお、条件を満たす観測点が集合している
場合は、極小になる観測点を抽出することにより最も妥
当な位置と姿勢を決定することができる。なお、条件を
満たす観測点が離れた位置に複数存在するときは、対象
とする距離画像中に規準物体と同定できる物体が複数存
在することになるが、それぞれについて観測点とその観
測点における法線ベクトルと回転角により位置と姿勢を
決定することができる。
When the observation points satisfying the conditions are aggregated, the most appropriate position and orientation can be determined by extracting the observation points that are the minimum. When there are multiple observation points that satisfy the conditions at distant positions, there are multiple objects that can be identified as the reference object in the target range image. The position and orientation can be determined by the line vector and the rotation angle.

【0038】さらに、精密に対象物体の姿勢を測定する
ためには、上記走査により求めたSADの結果から条件
に合致した観測点を抽出した上で、その回転角の近傍で
刻みをさらに細かくしてSADを算出し、より小さいS
ADを有する回転角を見い出して対応する姿勢を決定す
ればよい。また、対象物体の位置をさらに精密に求める
には、上記で求めた観測点に対応する走査点の近傍につ
いて演算位置の間隔をより小さくして上記演算を行い、
SADの極小値を求めて位置決定をすればよい。
Further, in order to accurately measure the posture of the target object, the observation points that meet the conditions are extracted from the SAD results obtained by the above-mentioned scanning, and the notches are made finer in the vicinity of the rotation angle. SAD is calculated as
It suffices to find the rotation angle having AD and determine the corresponding posture. In addition, in order to obtain the position of the target object more precisely, the above operation is performed by further reducing the interval between the operation positions in the vicinity of the scanning point corresponding to the observation point obtained above.
The position may be determined by obtaining the minimum value of SAD.

【0039】また、異なる形状を有する複数の規準物体
を対象とする場合にも、1枚の距離画像を取得して上記
手順をそれぞれの規準物体について繰り返すことによ
り、対象物体の同定と位置姿勢の決定を行うことができ
る。さらに、対象とする規準物体は、独立した物品であ
ることを要せず、物品の部分であってもよいことはいう
までもない。ロボットの把持を支援する場合は、把持し
ようとする部分を抽出して検出し、姿勢などを決定すれ
ばよい。また、たとえば鼻を規準物体として用いること
により人物の顔の位置と向きを検出することもできる。
When a plurality of reference objects having different shapes are targeted, one range image is acquired and the above procedure is repeated for each reference object to identify the target object and determine the position and orientation. You can make a decision. Further, it goes without saying that the target reference object does not need to be an independent article and may be a part of the article. When assisting the grasping of the robot, it suffices to extract and detect the portion to be grasped and determine the posture and the like. In addition, the position and orientation of a person's face can be detected by using the nose as a reference object, for example.

【0040】画像処理装置を電子計算機システムで構成
するときは、コンピュータ装置に上記それぞれの手順を
実行する機能を付与するコンピュータプログラムを装填
して使用すればよい。コンピュータプログラムは、CD
−ROM、DVD、メモリカードなど可搬の記録媒体に
記憶させて頒布することができる。また装置内にセット
するEEPROMなどに記録して利用することもでき
る。
When the image processing apparatus is composed of an electronic computer system, a computer program for imparting a function of executing each of the above procedures may be loaded and used in the computer apparatus. The computer program is a CD
-It can be stored in a portable recording medium such as a ROM, a DVD, or a memory card and distributed. It can also be recorded in an EEPROM or the like set in the apparatus and used.

【0041】[0041]

【発明の効果】以上説明したように、本発明の3次元形
状認識方法および装置によれば、距離画像を利用して、
1個の基準点と適当数の教示点を指定するだけで簡単に
規準物体を教示することができる。また、対象物体の距
離画像について自動的に走査演算して法線ベクトルを求
め規準物体座標系の1軸回りの回転を用いた簡単かつ高
速な演算処理により対象物体の同定と位置姿勢の判定を
行うので、ロボットによるピッキングなどに適用する場
合にも十分実用的な時間で処理することができる。
As described above, according to the three-dimensional shape recognition method and apparatus of the present invention, a range image is used,
The reference object can be taught easily by designating one reference point and an appropriate number of teaching points. In addition, the distance image of the target object is automatically scanned and calculated to obtain the normal vector, and the target object is identified and the position and orientation are determined by a simple and high-speed calculation process using rotation around one axis of the reference object coordinate system. Since it is performed, it can be processed in a sufficiently practical time even when applied to picking by a robot.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明の3次元形状認識装置の1実施例におい
て対象物体の位置姿勢を決定する手順を示すフローチャ
ートである。
FIG. 1 is a flowchart showing a procedure for determining the position and orientation of a target object in one embodiment of a three-dimensional shape recognition device of the present invention.

【図2】本実施例において規準物体座標系を算出する手
順を示すフローチャートである。
FIG. 2 is a flowchart showing a procedure for calculating a reference object coordinate system in the present embodiment.

【図3】本実施例の構成を示すブロック図である。FIG. 3 is a block diagram showing the configuration of this embodiment.

【図4】本実施例における距離画像の作成例を説明する
図面である。
FIG. 4 is a diagram illustrating an example of creating a range image according to the present embodiment.

【図5】本実施例において規準物体の座標系を求める手
順について説明する図面である。
FIG. 5 is a diagram illustrating a procedure for obtaining a coordinate system of a reference object in this embodiment.

【図6】本実施例の規準物体座標系の例を示す図面であ
る。
FIG. 6 is a diagram showing an example of a reference object coordinate system of the present embodiment.

【図7】本実施例において規準物体を当て嵌める手順を
説明する概念図である。
FIG. 7 is a conceptual diagram illustrating a procedure of fitting a reference object in the present embodiment.

【図8】本実施例における対象物体の距離画像例を示す
図面である。
FIG. 8 is a drawing showing an example of a distance image of a target object in the present embodiment.

【図9】本実施例における観測点の走査方法を示す図面
である。
FIG. 9 is a drawing showing a method of scanning an observation point in the present embodiment.

【符号の説明】[Explanation of symbols]

1 画像取得装置 11 レーザスポットスキャナー 2 画像処理装置 21 画像取込部 22 記憶装置 23 演算ユニット 3 対象物体 31 物体表面 32 陰の部分 33 データ欠落部 1 Image acquisition device 11 Laser spot scanner 2 Image processing device 21 Image capture unit 22 Memory 23 Arithmetic unit 3 target object 31 Object surface 32 shade 33 Data missing part

フロントページの続き Fターム(参考) 2F069 AA66 GG07 GG71 5B047 AA07 BB01 BC11 BC14 BC23 CB22 DC09 5B057 AA05 BA02 BA15 BA23 DA07 DB03 DB08 DC08 5L096 AA07 AA09 BA05 CA18 CA25 DA02 FA66 FA67 FA69 Continued front page    F term (reference) 2F069 AA66 GG07 GG71                 5B047 AA07 BB01 BC11 BC14 BC23                       CB22 DC09                 5B057 AA05 BA02 BA15 BA23 DA07                       DB03 DB08 DC08                 5L096 AA07 AA09 BA05 CA18 CA25                       DA02 FA66 FA67 FA69

Claims (12)

【特許請求の範囲】[Claims] 【請求項1】 規準物体の距離画像に基づいて該規準物
体の基準点の3次元座標と該基準点に立てた法線ベクト
ルと複数の教示点の3次元座標を求めて規準物体座標系
を形成し、対象物体について距離画像を取得し、該対象
物体距離画像の平面座標上を走査しながら対象物体表面
における法線ベクトルを求め、該対象物体表面の法線ベ
クトルに前記規準物体の法線ベクトルを一致させて該規
準物体座標系を該法線ベクトルの回りに所定角度ずつ回
転しては各教示点ごとに該対象物体表面の高さ誤差を求
めて回転角ごとに積算しておいて、走査を通じて極小だ
った該誤差積算値が所定の閾値より小さいときに、該対
象物体が前記規準物体と同一であることを認識し、その
積算値を与えた基準点の座標と法線と回転角をもって該
対象物体の位置と姿勢を定めることを特徴とする3次元
形状認識方法。
1. A reference object coordinate system is obtained by obtaining three-dimensional coordinates of a reference point of the reference object, a normal vector set at the reference point, and three-dimensional coordinates of a plurality of teaching points based on a distance image of the reference object. Form the target object, obtain a distance image about the target object, obtain the normal vector on the surface of the target object while scanning the plane coordinates of the target object distance image, and use the normal vector of the reference object as the normal vector on the surface of the target object. The reference object coordinate system is made to coincide with each other by rotating the reference vector by a predetermined angle, and the height error of the surface of the target object is obtained for each teaching point and integrated for each rotation angle. , When the error integrated value, which has been minimized through scanning, is smaller than a predetermined threshold value, it is recognized that the target object is the same as the reference object, and the coordinates, normal line, and rotation of the reference point giving the integrated value are recognized. Position and shape of the target object with a corner A three-dimensional shape recognition method characterized by determining a force.
【請求項2】 前記距離画像が、1視点から物体表面ま
での距離を測定した距離データに基づいて、平面座標上
に該物体の高さ情報として展開したものであることを特
徴とする請求項1記載の3次元形状認識方法。
2. The distance image is developed as height information of the object on plane coordinates based on distance data obtained by measuring the distance from one viewpoint to the surface of the object. The three-dimensional shape recognition method described in 1.
【請求項3】 前記規準物体の教示点座標は、前記基準
点を原点とし該基準点に立てた法線を1個の座標軸とす
る3次元の規準物体座標系の上にプロットすることを特
徴とする請求項1または2記載の3次元形状認識方法。
3. The teaching point coordinates of the reference object are plotted on a three-dimensional reference object coordinate system having the reference point as an origin and a normal line standing at the reference point as one coordinate axis. The three-dimensional shape recognition method according to claim 1 or 2.
【請求項4】 前記誤差積算値が、距離画像座標系にお
ける規準物体座標系の教示点の高さと物体表面の高さの
差の絶対値を積算したものであることを特徴とする請求
項1から3のいずれかに記載の3次元形状認識方法。
4. The accumulated error value is a sum of absolute values of a difference between a height of a teaching point of a reference object coordinate system and a height of an object surface in a distance image coordinate system. The three-dimensional shape recognition method according to any one of 1 to 3.
【請求項5】 前記距離画像平面座標上の走査は、高さ
値が所定の閾値より小さいときには前記規準物体座標系
の適合操作を省略することを特徴とする請求項1から4
のいずれかに記載の3次元形状認識方法。
5. The scanning on the range image plane coordinates is characterized in that the fitting operation of the reference object coordinate system is omitted when the height value is smaller than a predetermined threshold value.
The three-dimensional shape recognition method according to any one of 1.
【請求項6】 距離画像取得装置と画像処理装置を備え
た3次元形状認識装置であって、該距離画像取得装置が
対象物体の距離画像を取得し、該画像処理装置が規準物
体の基準点を原点とし基準点に立てた法線を1個の座標
軸とした3次元座標に複数の教示点の座標をプロットし
た規準物体座標系を格納する記憶装置を備えて、前記距
離画像取得装置から入力した対象物体の距離画像につい
て、画面を走査しながら座標点に立つ該対象物体の法線
ベクトルを算出し、該対象物体の法線ベクトルに前記規
準物体座標系の原点と座標軸を一致させて該規準物体座
標系を該法線ベクトルの回りに所定角度ずつ回転しては
各教示点ごとに該対象物体表面の高さ誤差を求めて回転
角ごとに積算し、走査を通じて極小だった前記誤差積算
値を見いだして所定の閾値と比較し該誤差積算値が該閾
値より小さいときに該対象物体が前記規準物体と同一で
あることを認識し、該極小誤差積算値を与えた平面座標
と法線と回転角をもって該対象物体の位置と姿勢を定め
る画像処理装置とを備える3次元形状認識装置。
6. A three-dimensional shape recognition device comprising a distance image acquisition device and an image processing device, wherein the distance image acquisition device acquires a distance image of a target object, and the image processing device has a reference point of a reference object. Input from the distance image acquisition device, which is provided with a storage device for storing a reference object coordinate system in which the coordinates of a plurality of teaching points are plotted in three-dimensional coordinates with one normal axis that is the origin and a normal line set as a reference point. For the range image of the target object, the normal vector of the target object standing at the coordinate point while scanning the screen is calculated, and the normal vector of the target object is made coincident with the origin of the reference object coordinate system and the coordinate axis. The reference object coordinate system is rotated by a predetermined angle around the normal vector, the height error of the target object surface is obtained for each teaching point, and the error is integrated for each rotation angle. Predetermined value When the error integrated value is smaller than the threshold value, it is recognized that the target object is the same as the reference object, and the plane coordinates, the normal line, and the rotation angle that give the minimum error integrated value A three-dimensional shape recognition device including an image processing device that determines the position and orientation of a target object.
【請求項7】 前記距離画像取得装置が、レーザスリッ
トスキャンにより測定した測定器から対象物表面までの
距離情報を用いて基準面からの高さ情報に変換して距離
画像を生成することを特徴とする請求項6記載の3次元
形状認識装置。
7. The distance image acquiring device generates a distance image by converting the height information from the reference plane using the distance information from the measuring device to the surface of the object measured by the laser slit scan. The three-dimensional shape recognition device according to claim 6.
【請求項8】 前記規準物体座標系は、前記距離画像取
得装置により求めた前記規準物体の距離画像に基づいて
前記画像処理装置が求めることを特徴とする請求項6ま
たは7記載の3次元形状認識装置。
8. The three-dimensional shape according to claim 6, wherein the reference object coordinate system is obtained by the image processing device based on a distance image of the reference object obtained by the distance image acquisition device. Recognition device.
【請求項9】 前記画像処理装置が、一旦求めた前記対
象物体の位置と姿勢の近傍において、前記規準物体座標
系をさらに細かい回転角で変化させて前記誤差積算値が
最小になる回転角を求めて、より精密な位置と姿勢を決
定することを特徴とする請求項6から8のいずれかに記
載の3次元形状認識装置。
9. The rotation angle at which the error integrated value is minimized by changing the reference object coordinate system by a finer rotation angle in the vicinity of the position and orientation of the target object once obtained by the image processing apparatus. 9. The three-dimensional shape recognition device according to claim 6, wherein the three-dimensional shape recognition device is configured to determine and more accurately determine the position and orientation.
【請求項10】 対象物の3次元形状を判定するための
コンピュータを、規準物体の距離画像に基づいて該規準
物体の基準点の3次元座標と該基準点に立てた法線ベク
トルと複数の教示点の3次元座標を求めて規準物体座標
系を形成する手段と、距離画像取得装置が対象物体につ
いて距離画像を取得し生成する画像信号を取り込む手段
と、該対象物体距離画像の画像信号に関する平面座標上
を走査しながら対象物体表面における法線ベクトルを求
める手段と、該対象物体表面の法線ベクトルに前記規準
物体の法線ベクトルを一致させて該規準物体座標系を該
法線ベクトルの回りに所定角度ずつ回転しては各教示点
ごとに該対象物体表面の高さ誤差を求めて回転角ごとに
積算する手段と、走査を通じて極小だった該誤差積算値
を所定の閾値と比較する手段と、該誤差積算値が該閾値
より小さいときに該対象物体が前記規準物体と同一であ
ることを認識し、その積算値を与えた基準点の座標と法
線と回転角をもって該対象物体の位置と姿勢を定める手
段として機能させるための3次元形状認識プログラム。
10. A computer for determining a three-dimensional shape of an object is provided with a plurality of three-dimensional coordinates of a reference point of the reference object, a normal vector set at the reference point, and a plurality of normal vectors based on a distance image of the reference object. Regarding the means for obtaining the three-dimensional coordinates of the teaching point to form the reference object coordinate system, the means for capturing the image signal generated and generated by the distance image acquisition device for the target object, and the image signal for the target object distance image. Means for obtaining a normal vector on the surface of the target object while scanning on the plane coordinates, and matching the normal vector of the reference object with the normal vector of the surface of the target object to set the reference object coordinate system to the normal vector of the normal vector. A means for calculating a height error of the surface of the target object for each teaching point by rotating around a predetermined angle and integrating for each rotation angle, and comparing the minimum error integrated value through scanning with a predetermined threshold value Means for recognizing that the target object is the same as the reference object when the error integrated value is smaller than the threshold value, and the object with the coordinates, the normal line and the rotation angle of the reference point giving the integrated value. A three-dimensional shape recognition program that functions as a means for determining the position and orientation of an object.
【請求項11】 前記距離画像が、1視点から物体表面
までの距離を測定した距離データに基づいて、平面座標
上に該物体の高さ情報として展開したものであることを
特徴とする請求項10記載の3次元形状認識プログラ
ム。
11. The distance image is developed as height information of the object on plane coordinates based on distance data obtained by measuring the distance from one viewpoint to the surface of the object. 10. The three-dimensional shape recognition program described in 10.
【請求項12】 請求項10または11記載の3次元形
状認識プログラムを記録したコンピュータ読みとり可能
な記録媒体。
12. A computer-readable recording medium in which the three-dimensional shape recognition program according to claim 10 or 11 is recorded.
JP2001341372A 2001-11-07 2001-11-07 Three-dimensional shape recognition method, apparatus and program Expired - Fee Related JP3516668B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001341372A JP3516668B2 (en) 2001-11-07 2001-11-07 Three-dimensional shape recognition method, apparatus and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001341372A JP3516668B2 (en) 2001-11-07 2001-11-07 Three-dimensional shape recognition method, apparatus and program

Publications (2)

Publication Number Publication Date
JP2003141511A true JP2003141511A (en) 2003-05-16
JP3516668B2 JP3516668B2 (en) 2004-04-05

Family

ID=19155402

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001341372A Expired - Fee Related JP3516668B2 (en) 2001-11-07 2001-11-07 Three-dimensional shape recognition method, apparatus and program

Country Status (1)

Country Link
JP (1) JP3516668B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011017611A (en) * 2009-07-09 2011-01-27 National Institute Of Advanced Industrial Science & Technology Three-dimensional curved surface recognition method and manipulation system
CN103090863A (en) * 2013-01-31 2013-05-08 中国人民解放军国防科学技术大学 Method for measuring posture and height of dynamic platform
CN107718540A (en) * 2017-11-24 2018-02-23 湖南华曙高科技有限责任公司 Aligning method, scan control method, medium and the equipment of selective laser melting
CN108326876A (en) * 2017-01-17 2018-07-27 发那科株式会社 Robot controller
CN109079132A (en) * 2018-07-11 2018-12-25 广东汉邦激光科技有限公司 The localization method of 3D grafting printing
CN111449680A (en) * 2020-01-14 2020-07-28 深圳大学 Optimization method of ultrasonic scanning path and ultrasonic equipment
CN113313745A (en) * 2020-08-05 2021-08-27 湖南长天自控工程有限公司 Material pile identification system and method for stock yard

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011017611A (en) * 2009-07-09 2011-01-27 National Institute Of Advanced Industrial Science & Technology Three-dimensional curved surface recognition method and manipulation system
CN103090863A (en) * 2013-01-31 2013-05-08 中国人民解放军国防科学技术大学 Method for measuring posture and height of dynamic platform
US10953540B2 (en) 2017-01-17 2021-03-23 Fanuc Corporation Robot control device
CN108326876A (en) * 2017-01-17 2018-07-27 发那科株式会社 Robot controller
CN108326876B (en) * 2017-01-17 2019-09-06 发那科株式会社 Robot controller
DE102018200240B4 (en) * 2017-01-17 2020-09-10 Fanuc Corporation Robot control device
CN107718540A (en) * 2017-11-24 2018-02-23 湖南华曙高科技有限责任公司 Aligning method, scan control method, medium and the equipment of selective laser melting
CN109079132A (en) * 2018-07-11 2018-12-25 广东汉邦激光科技有限公司 The localization method of 3D grafting printing
CN109079132B (en) * 2018-07-11 2020-10-23 广东汉邦激光科技有限公司 Positioning method for 3D grafting printing
CN111449680A (en) * 2020-01-14 2020-07-28 深圳大学 Optimization method of ultrasonic scanning path and ultrasonic equipment
CN111449680B (en) * 2020-01-14 2023-07-18 深圳大学 Ultrasonic scanning path optimization method and ultrasonic equipment
CN113313745A (en) * 2020-08-05 2021-08-27 湖南长天自控工程有限公司 Material pile identification system and method for stock yard
CN113313745B (en) * 2020-08-05 2022-08-26 湖南长天自控工程有限公司 Stockpile identification system and method for stock yard

Also Published As

Publication number Publication date
JP3516668B2 (en) 2004-04-05

Similar Documents

Publication Publication Date Title
JP3242108B2 (en) Target mark recognition and tracking system and method
US20200230821A1 (en) Information processing apparatus, information processing method, and storage medium
US10894324B2 (en) Information processing apparatus, measuring apparatus, system, interference determination method, and article manufacturing method
US9927222B2 (en) Position/orientation measurement apparatus, measurement processing method thereof, and non-transitory computer-readable storage medium
JP5618569B2 (en) Position and orientation estimation apparatus and method
US10684116B2 (en) Position and orientation measuring apparatus, information processing apparatus and information processing method
JP6004809B2 (en) Position / orientation estimation apparatus, information processing apparatus, and information processing method
JP5612916B2 (en) Position / orientation measuring apparatus, processing method thereof, program, robot system
JP5671281B2 (en) Position / orientation measuring apparatus, control method and program for position / orientation measuring apparatus
JP6271953B2 (en) Image processing apparatus and image processing method
US20130230235A1 (en) Information processing apparatus and information processing method
US20080240511A1 (en) Apparatus for picking up objects
WO2011105522A1 (en) Three-dimensional measurement apparatus, processing method, and non-transitory computer-readable storage medium
JP3738456B2 (en) Article position detection method and apparatus
KR20040097904A (en) Image processing apparatus
Jiang et al. Dual-camera-based method for identification and location of scattered self-plugging rivets for robot grasping
JP2016170050A (en) Position attitude measurement device, position attitude measurement method and computer program
JP2020179441A (en) Control system, information processing device and control method
JP3516668B2 (en) Three-dimensional shape recognition method, apparatus and program
JP2003136465A (en) Three-dimensional position and posture decision method of detection target object and visual sensor of robot
JP5462662B2 (en) Position / orientation measurement apparatus, object identification apparatus, position / orientation measurement method, and program
JP2008009916A (en) Measuring device and measuring method
WO2022172471A1 (en) Assistance system, image processing device, assistance method and program
JP6766229B2 (en) Position and posture measuring device and method
US11436754B2 (en) Position posture identification device, position posture identification method and position posture identification program

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040120

R150 Certificate of patent or registration of utility model

Ref document number: 3516668

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090130

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100130

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110130

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120130

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120130

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140130

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140130

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees