JP2016038669A - Projection image generation device, projection image generation program and projection image generation method - Google Patents

Projection image generation device, projection image generation program and projection image generation method Download PDF

Info

Publication number
JP2016038669A
JP2016038669A JP2014160453A JP2014160453A JP2016038669A JP 2016038669 A JP2016038669 A JP 2016038669A JP 2014160453 A JP2014160453 A JP 2014160453A JP 2014160453 A JP2014160453 A JP 2014160453A JP 2016038669 A JP2016038669 A JP 2016038669A
Authority
JP
Japan
Prior art keywords
coordinate data
dimensional coordinate
cross
point
section
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014160453A
Other languages
Japanese (ja)
Other versions
JP6388806B2 (en
Inventor
吉見 隆
Takashi Yoshimi
隆 吉見
卓郎 西
Takuro Nishi
卓郎 西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Advanced Industrial Science and Technology AIST
Original Assignee
National Institute of Advanced Industrial Science and Technology AIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Advanced Industrial Science and Technology AIST filed Critical National Institute of Advanced Industrial Science and Technology AIST
Priority to JP2014160453A priority Critical patent/JP6388806B2/en
Publication of JP2016038669A publication Critical patent/JP2016038669A/en
Application granted granted Critical
Publication of JP6388806B2 publication Critical patent/JP6388806B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a projection image generation device that easily obtains two-dimensional coordinate data on a projection image having a broad-range and highly accurate three-dimensional shape of an object projected.SOLUTION: A projection image generation device generating two-dimensional coordinate data on a projection image having a surface of an object projected on a two-dimensional plane surface from three-dimensional coordinate data on a distance image representing a three-dimensional shape of the surface thereof is configured to have: an acquisition unit that acquires the three-dimensional coordinate data; a cross-section setting unit that sets a plurality of cross sections apart from each other at a prescribed pitch in a specific direction of the object and parallel to each other therein; an approximation curve identification unit that identifies an approximation curve approximate to the shape of the surface included in the cross section, using the three-dimensional coordinate data; a two-dimensional coordinate data calculation unit that calculates two-dimensional coordinate data on a point on the basis of a distance from a reference point on the approximation curve for each point on the surface included in the cross section; and a storage unit that stores the two-dimensional coordinate data.SELECTED DRAWING: Figure 1

Description

本発明は、物体の3次元形状を表す3次元座標データから、物体の表面を2次元平面上に射影した射影画像の2次元座標データを生成する射影画像生成装置と射影画像生成プログラムと射影画像生成方法に関するものである。   The present invention relates to a projection image generation apparatus, a projection image generation program, and a projection image that generate two-dimensional coordinate data of a projection image obtained by projecting the surface of an object onto a two-dimensional plane from three-dimensional coordinate data representing the three-dimensional shape of the object. It relates to the generation method.

様々な産業において、物体の3次元形状を計測することが行われている。3次元形状を計測するための3次元計測装置には種々あり、各装置の特性は計測の用途により異なるが、多くの装置はいわゆる三角測量の原理で計測の対象物である物体の表面上の各点までの距離を計測して点群の計測データを収集する。代表的な計測方法には、レーザ光を使った光切断法やステレオカメラによる相関法などがある。   In various industries, measuring a three-dimensional shape of an object is performed. There are various three-dimensional measuring devices for measuring a three-dimensional shape, and the characteristics of each device differ depending on the purpose of measurement, but many devices are on the surface of an object that is the object of measurement on the principle of triangulation. Measure the distance to each point and collect point cloud measurement data. Typical measurement methods include a light cutting method using laser light and a correlation method using a stereo camera.

これらの3次元計測装置は、投影中心から放射状に広がる視野内における格子状に分割された測定点群の計測データを得るが、視野の広さや測定点の密度は3次元計測装置の性能に依存する。   These three-dimensional measurement devices obtain measurement data of measurement point groups divided in a grid in a field of view that radiates from the projection center. The width of the field of view and the density of measurement points depend on the performance of the three-dimensional measurement device. To do.

計測の対象面が3次元計測装置の視野内に収まり、かつ、測定点の密度が十分で計測密度も高ければ、1回の計測で3次元形状の計測に必要な測定点が得られる。このように計測された測定点は、3次元座標、あるいは、距離と共に2次元の格子状のインデックスを持つ。こういったインデックスは、2次元座標データと等価である。2次元座標データを持つことにより、局所的な幾何学的な特性を計算する場合に、2次元座標を参照することで計測点の近傍の点を容易に探索することができるという利便性が生じる。   If the measurement target surface is within the field of view of the three-dimensional measurement apparatus, and the density of the measurement points is sufficient and the measurement density is high, the measurement points necessary for measuring the three-dimensional shape can be obtained by one measurement. The measurement points measured in this way have three-dimensional coordinates or a two-dimensional lattice index along with the distance. Such an index is equivalent to two-dimensional coordinate data. By having two-dimensional coordinate data, when calculating a local geometric characteristic, the convenience that a point in the vicinity of a measurement point can be easily searched by referring to the two-dimensional coordinate is generated. .

ただし、上記の条件が満たされない場合、例えば、計測の対象面が3次元計測装置の視野に収まらない場合や、遮蔽によって一箇所からでは計測できない場合には、1回の計測では物体の全体の3次元形状を計測することが不可能になる。また、計測不能ではなくても、計測条件が悪化して計測結果の精度が低下する場合もある。このような場合には、1回の計測ではなく、1台の3次元計測装置を複数の視点に移動して各視点から計測をする、あるいは、複数台の3次元計測装置で別々の視点から計測をすることで、物体の全体の3次元形状を計測することができる。   However, when the above conditions are not satisfied, for example, when the measurement target surface does not fit in the field of view of the three-dimensional measurement apparatus, or when measurement cannot be performed from one place due to shielding, the entire object can be measured by one measurement. It becomes impossible to measure a three-dimensional shape. Even if measurement is not impossible, the measurement condition may deteriorate and the accuracy of the measurement result may decrease. In such a case, instead of a single measurement, a single three-dimensional measuring device is moved to a plurality of viewpoints to measure from each viewpoint, or a plurality of three-dimensional measuring devices are used from different viewpoints. By measuring, the entire three-dimensional shape of the object can be measured.

このように複数の独立した3次元座標データがあると、単一の3次元座標データと異なり全体を一つの2次元座標で表現することができなくなり、2次元座標による近傍探索の利便性が失われる。そのため、複数の3次元座標データを対象にして2次元座標データを再構成することで単一の3次元座標データと同様な利便性を得ることができる。   Thus, when there are a plurality of independent three-dimensional coordinate data, unlike the single three-dimensional coordinate data, the whole cannot be expressed by one two-dimensional coordinate, and the convenience of the proximity search using the two-dimensional coordinates is lost. Is called. Therefore, the same convenience as that of single three-dimensional coordinate data can be obtained by reconstructing the two-dimensional coordinate data for a plurality of three-dimensional coordinate data.

3次元座標データを2次元座標データに変換する場合、例えば、変換の対象となる物体の断面を設定し、最小二乗法を用いて、断面上の複数の点のそれぞれからの距離の2乗の和が最小となるように算出された近似曲線などが用いられる(例えば、特許文献1参照)。   When converting 3D coordinate data into 2D coordinate data, for example, a cross section of an object to be converted is set, and the square of the distance from each of a plurality of points on the cross section is set using the least square method. An approximate curve calculated so as to minimize the sum is used (for example, see Patent Document 1).

ここで、3次元形状を近似曲線で近似するときの近似の精度を高めるには、物体の形状に合わせた方向に断面を設定する(断面ごとに断面の方向を設定する)、あるいは、物体に設定する断面の数を多くして近似曲線を多数算出することが考えられる。   Here, in order to improve the accuracy of approximation when approximating a three-dimensional shape with an approximate curve, set the cross section in the direction according to the shape of the object (set the cross section direction for each cross section), or It is conceivable to calculate a large number of approximate curves by increasing the number of cross sections to be set.

しかし、物体の形状に合わせて断面ごとに断面の向きを設定すると、断面ごとに算出された2次元の座標データ同士を、断面ごとの向きを考慮して結合させなければならず、情報処理が煩雑となってしまう。また、物体に設定する断面の数が多くなると、情報量が膨大になり、情報処理が煩雑になってしまう。   However, if the direction of the cross section is set for each cross section according to the shape of the object, the two-dimensional coordinate data calculated for each cross section must be combined in consideration of the direction of each cross section. It becomes complicated. Further, when the number of cross sections set for an object increases, the amount of information becomes enormous and information processing becomes complicated.

特許第4168758号明細書Japanese Patent No. 4168758

本発明は、以上のような従来技術の問題点を解消するためになされたもので、物体の広範囲で高密度な3次元形状を射影した射影画像の2次元座標データを簡便に得ることができる、射影画像生成装置と射影画像生成プログラムと射影画像生成方法を提供することを目的とする。   The present invention has been made in order to solve the above-described problems of the prior art, and can easily obtain two-dimensional coordinate data of a projected image obtained by projecting a wide-range, high-density three-dimensional shape of an object. It is an object of the present invention to provide a projected image generating apparatus, a projected image generating program, and a projected image generating method.

本発明は、物体の表面の3次元形状を表す距離画像の3次元座標データから、表面を2次元の平面上に射影した射影画像の2次元座標データを生成する射影画像生成装置であって、3次元座標データを取得する取得部と、物体の特定方向に所定のピッチ離れた互いに平行な複数の断面を設定する断面設定部と、断面に含まれる表面に近似する近似曲線を、表面上の点の3次元座標データに基づいて特定する近似曲線特定部と、断面に含まれる表面上の点ごとに、近似曲線上の基準点からの距離に基づいて点の2次元座標データを算出する2次元座標データ算出部と、2次元座標データを記憶する記憶部と、を有してなることを特徴とする。   The present invention is a projection image generation device that generates two-dimensional coordinate data of a projection image obtained by projecting a surface onto a two-dimensional plane from three-dimensional coordinate data of a distance image representing a three-dimensional shape of the surface of an object, An acquisition unit that acquires three-dimensional coordinate data, a cross-section setting unit that sets a plurality of cross-sections parallel to each other at a predetermined pitch in a specific direction of the object, and an approximate curve that approximates the surface included in the cross-section An approximate curve specifying unit that is specified based on the three-dimensional coordinate data of the point, and for calculating the two-dimensional coordinate data of the point based on the distance from the reference point on the approximate curve for each point on the surface included in the cross section 2 A dimensional coordinate data calculation unit and a storage unit for storing two-dimensional coordinate data are provided.

本発明によれば、物体の広範囲で高密度な3次元形状を射影した射影画像の2次元座標データを簡便に得ることができる。   According to the present invention, it is possible to easily obtain two-dimensional coordinate data of a projected image obtained by projecting a wide-range, high-density three-dimensional shape of an object.

本発明にかかる射影画像生成装置の実施の形態を示すブロック図である。It is a block diagram which shows embodiment of the projection image generation apparatus concerning this invention. 本発明にかかる射影画像生成方法の実施の形態を示すフローチャートである。It is a flowchart which shows embodiment of the projection image generation method concerning this invention. 物体の距離画像を取得する様子を示す模式図である。It is a schematic diagram which shows a mode that the distance image of an object is acquired. 物体の表面上の各点の法線ベクトルの例を示す模式図である。It is a schematic diagram which shows the example of the normal vector of each point on the surface of an object. 上記法線ベクトルを単位球上に分布させた様子を示す模式図である。It is a schematic diagram which shows a mode that the said normal vector was distributed on the unit sphere. 上記法線ベクトルの終点の点群に対して原点を通る平面をあてはめ、その平面の法線を示す模式図である。It is a schematic diagram showing a normal line of a plane passing through the origin with respect to the end point point group of the normal vector. 物体の3次元座標の分布に基づいて算出された初期基本軸と、初期基本軸から微小角度偏位させて算出された2本の基本軸候補の例を示す模式図である。FIG. 6 is a schematic diagram illustrating an example of an initial basic axis calculated based on a three-dimensional coordinate distribution of an object and two basic axis candidates calculated by deviating from the initial basic axis by a minute angle. 上記一方の基本軸候補に基づいて設定された断面の例を示す模式図である。It is a schematic diagram which shows the example of the cross section set based on said one basic axis candidate. 上記他方の基本軸候補に基づいて設定された断面の例を示す模式図である。It is a schematic diagram which shows the example of the cross section set based on the said other basic axis candidate. 物体に設定される互いに平行な複数の断面の位置を示す模式図である。It is a schematic diagram which shows the position of several cross-sections set mutually parallel to an object. 物体の断面が設定される基準方向を示す模式図である。It is a schematic diagram which shows the reference direction in which the cross section of an object is set. 物体に設定された断面に表れる物体の表面の例を示す模式図である。It is a schematic diagram which shows the example of the surface of the object which appears in the cross section set to the object. 上記断面に表れる物体の表面の形状を近似する近似曲線の例を示す模式図である。It is a schematic diagram which shows the example of the approximated curve which approximates the shape of the surface of the object which appears in the said cross section. 上記断面に表れる物体の表面の形状を近似する別の近似曲線の例を示す模式図である。It is a schematic diagram which shows the example of another approximated curve which approximates the shape of the surface of the object which appears in the said cross section. 近似曲線としての円の中心と半径とを示す模式図である。It is a schematic diagram which shows the center and radius of a circle as an approximated curve. 上記円の中心と上記円上の基準点とを結ぶ線と、上記円の中心と上記物体の表面上の点とを結ぶ線と、がなす角度を示す模式図である。It is a schematic diagram showing an angle formed by a line connecting the center of the circle and a reference point on the circle and a line connecting the center of the circle and a point on the surface of the object. 上記近似曲線が特定される上記物体の表面の範囲(サンプリングウィンドウ)の例を示す模式図である。It is a schematic diagram which shows the example of the range (sampling window) of the surface of the said object by which the said approximated curve is specified. 隣接する断面ごとに特定された近似曲線の例を示す模式図である。It is a schematic diagram which shows the example of the approximated curve specified for every adjacent cross section. 隣接する断面ごとに特定された近似曲線の別の例を示す模式図である。It is a schematic diagram which shows another example of the approximated curve specified for every adjacent cross section.

以下、本発明にかかる射影画像生成装置と射影画像生成プログラムと射影画像生成方法の実施の形態について、図面を参照しながら説明する。   Embodiments of a projected image generation apparatus, a projected image generation program, and a projected image generation method according to the present invention will be described below with reference to the drawings.

なお、以下、物体Mの表面の3次元座標データから、物体Mの表面を2次元の平面上に射影した射影画像の2次元座標データを算出する場合を例に説明する。   In the following, an example in which two-dimensional coordinate data of a projected image obtained by projecting the surface of the object M onto a two-dimensional plane is calculated from the three-dimensional coordinate data of the surface of the object M will be described.

●射影画像生成装置●
図1は、本発明にかかる射影画像生成装置の実施の形態を示すブロック図である。本発明にかかる射影画像生成装置(以下「本装置」という。)では、本発明にかかる射影画像生成プログラム(以下「本プログラム」という。)が本装置を構成するハードウェアと協働して、本発明にかかる射影画像生成方法(以下「本方法」という。)が実行される。本装置は、例えば、パーソナルコンピュータにより実現される。
Projection image generator
FIG. 1 is a block diagram showing an embodiment of a projected image generating apparatus according to the present invention. In the projected image generation apparatus according to the present invention (hereinafter referred to as “the present apparatus”), the projected image generation program according to the present invention (hereinafter referred to as “the present program”) cooperates with the hardware constituting the apparatus, A projected image generation method (hereinafter referred to as “the present method”) according to the present invention is executed. This apparatus is realized by, for example, a personal computer.

なお、本装置とは別のコンピュータで本プログラムを動作させることで、同コンピュータを本装置と同様に機能させて、本方法を実行させることができる。   In addition, by operating the program on a computer different from the apparatus, it is possible to cause the computer to function in the same manner as the apparatus and to execute the method.

本装置1は、3次元座標データ取得部11、基準方向決定部12、断面設定部13、近似曲線特定部14、2次元座標データ算出部15、記憶部16、を有してなる。   The apparatus 1 includes a three-dimensional coordinate data acquisition unit 11, a reference direction determination unit 12, a cross-section setting unit 13, an approximate curve specifying unit 14, a two-dimensional coordinate data calculation unit 15, and a storage unit 16.

3次元座標データ取得部11は、本装置1が物体Mの3次元座標データを取得する手段である。3次元座標データの取得方法は、後述する。   The three-dimensional coordinate data acquisition unit 11 is means for the apparatus 1 to acquire three-dimensional coordinate data of the object M. A method for acquiring the three-dimensional coordinate data will be described later.

基準方向決定部12は、基準方向を決定する手段である。基準方向とは、物体Mに断面を設定する際に用いられる方向である。基準方向の設定方法は、後述する。   The reference direction determination unit 12 is means for determining a reference direction. The reference direction is a direction used when a cross section is set on the object M. A method for setting the reference direction will be described later.

断面設定部13は、物体Mに対して断面を設定する手段である。断面の設定方法は、後述する。   The cross-section setting unit 13 is means for setting a cross-section for the object M. A method for setting the cross section will be described later.

近似曲線特定部14は、設定された断面に含まれる物体Mの表面の形状に近似する近似曲線を特定する手段である。近似曲線の特定方法は、後述する。   The approximate curve specifying unit 14 is a means for specifying an approximate curve that approximates the shape of the surface of the object M included in the set cross section. A method for specifying the approximate curve will be described later.

2次元座標データ算出部15は、特定された近似曲線を用いて物体Mの表面上の点の2次元座標データを算出する手段である。2次元座標データの算出方法は、後述する。   The two-dimensional coordinate data calculation unit 15 is means for calculating two-dimensional coordinate data of a point on the surface of the object M using the identified approximate curve. A method for calculating the two-dimensional coordinate data will be described later.

記憶部16は、本装置1が本方法を実行するために必要な情報が記憶される手段である。記憶部16に記憶される情報には、3次元座標データベースDB1と2次元座標データベースDB2とが含まれる。DB1には、本装置1が取得する物体Mの3次元座標データが記憶される。DB2には、本装置1が算出する物体Mの2次元座標データが記憶される。   The storage unit 16 is means for storing information necessary for the apparatus 1 to execute the method. The information stored in the storage unit 16 includes a three-dimensional coordinate database DB1 and a two-dimensional coordinate database DB2. DB1 stores the three-dimensional coordinate data of the object M acquired by the apparatus 1. DB2 stores the two-dimensional coordinate data of the object M calculated by the apparatus 1.

●射影画像生成方法● ● Projection image generation method ●

次に、本方法の実施の形態について説明する。
図2は、本方法の実施の形態を示すフローチャートである。
Next, an embodiment of this method will be described.
FIG. 2 is a flowchart showing an embodiment of the present method.

先ず、本装置1は、物体の3次元座標データを取得する(S1)。
図3は、物体Mの3次元座標データの取得の例を示す模式図であって、異なる位置に配置された3つの撮像装置Cam1,Cam2,Cam3で物体Mの表面(外観)を撮像して、物体Mの距離画像を取得する例を示している。符号A1,A2,A3は、それぞれ撮像装置Cam1,Cam2,Cam3で撮像される物体Mの表面上の撮像領域を示している。
First, the present apparatus 1 acquires three-dimensional coordinate data of an object (S1).
FIG. 3 is a schematic diagram showing an example of acquisition of three-dimensional coordinate data of the object M, and images the surface (appearance) of the object M with three imaging devices Cam1, Cam2, and Cam3 arranged at different positions. The example which acquires the distance image of the object M is shown. Reference numerals A1, A2, and A3 indicate imaging regions on the surface of the object M that are imaged by the imaging devices Cam1, Cam2, and Cam3, respectively.

距離画像とは、画像を構成する各画素に奥行きの情報(撮像装置の撮像素子から被写体までの距離の情報)が格納された画像である。撮像装置Cam(Cam1,Cam2,Cam3)は、距離画像を、例えば、物体Mにレーザなどを照射したときの物体Mと撮像装置Camとのレーザの往復時間から距離を取得するタイムオブフライト方式などの公知の方法により取得する。本装置1は、物体Mの3次元座標データを、距離画像から特定することができる。よって、本装置1は、複数の視点(複数の撮像装置)から撮像して得られた物体Mの複数の距離画像を合成して物体M全体の3次元座標データを得ることができる。   A distance image is an image in which depth information (information about the distance from the imaging device of the imaging device to the subject) is stored in each pixel constituting the image. The imaging device Cam (Cam1, Cam2, Cam3) is a time-of-flight method that acquires a distance image from, for example, a round-trip time of a laser between the object M and the imaging device Cam when the object M is irradiated with a laser or the like. It obtains by the well-known method. The apparatus 1 can specify the three-dimensional coordinate data of the object M from the distance image. Therefore, the present apparatus 1 can obtain three-dimensional coordinate data of the entire object M by synthesizing a plurality of distance images of the object M obtained by imaging from a plurality of viewpoints (a plurality of imaging devices).

なお、同図は、物体Mを3つの撮像装置で撮像しているが、物体Mの距離画像を取得するために用いる撮像装置の数は3に限らない。   In the figure, the object M is imaged by three imaging devices, but the number of imaging devices used to acquire the distance image of the object M is not limited to three.

本装置1は、取得した物体Mの3次元座標データをDB1に記憶する。   The apparatus 1 stores the acquired three-dimensional coordinate data of the object M in the DB 1.

図2に戻る。
次いで、本装置1は、基準方向決定部12を用いて、基準方向を決定する(S2)。基準方向の決定方法には種々考えられるが、例えば、以下に説明する(1)物体Mの表面上の法線の分布を利用する方法(以下「決定方法その1」という。)、(2)評価関数を利用する方法(以下「決定方法その2」という。)、の2つの方法がある。ただし、本発明において基準方向の決定方法は、これら2つの方法に限らない。
Returning to FIG.
Next, the apparatus 1 determines the reference direction using the reference direction determination unit 12 (S2). There are various methods for determining the reference direction. For example, (1) a method using the distribution of normals on the surface of the object M (hereinafter referred to as “determination method 1”), (2) described below. There are two methods: a method using an evaluation function (hereinafter referred to as “determination method 2”). However, in the present invention, the method for determining the reference direction is not limited to these two methods.

(1)基準方向の決定方法その1
本装置1が実行する、基準方向の決定方法その1を説明する。
先ず、本装置1は、記憶部16に記憶されている物体Mの表面上の各点の3次元データに基づいて、各点の法線ベクトルの方向を特定する。
図4は、物体Mの表面上の各点の法線ベクトルの方向を示す模式図である。
(1) Reference direction determination method 1
A reference direction determination method 1 executed by the apparatus 1 will be described.
First, the device 1 specifies the direction of the normal vector of each point based on the three-dimensional data of each point on the surface of the object M stored in the storage unit 16.
FIG. 4 is a schematic diagram showing the direction of the normal vector of each point on the surface of the object M.

次いで、本装置1は、特定された物体M上の各点の法線ベクトルを単位球上に分布させる。法線ベクトルを単位球上に分布させるとは、各法線ベクトルの始点が単位球の中心(原点)に位置するように、各法線ベクトルを配置することをいう。
図5は、単位球上に分布された物体M上の各点の法線ベクトルを示す模式図である。
Next, the apparatus 1 distributes the normal vectors of the points on the identified object M on the unit sphere. Distributing the normal vector on the unit sphere means that the normal vectors are arranged so that the start point of each normal vector is located at the center (origin) of the unit sphere.
FIG. 5 is a schematic diagram showing normal vectors of points on the object M distributed on the unit sphere.

次いで、本装置1は、各法線ベクトルの終点の点群に対して、単位球の原点を通る平面をあてはめ、その平面の法線を基準方向として決定する。
図6は、各法線ベクトルの終点の点群に対して、あてはめられた単位球の原点を通る平面(図中、点線で示す)と、その平面の法線(図中、矢印で示す)とを示す模式図である。
Next, the present apparatus 1 applies a plane passing through the origin of the unit sphere to the end point group of each normal vector, and determines the normal of the plane as a reference direction.
FIG. 6 shows a plane (indicated by a dotted line) passing through the origin of the unit sphere applied to the end point group of each normal vector, and a normal line of the plane (indicated by an arrow in the figure). FIG.

(2)基準方向の決定方法その2
次に、本装置1が実行する、基準方向の決定方法その2を説明する。
先ず、本装置1は、記憶部16に記憶されている物体Mの表面上の各点の3次元データの分布に基づいて、初期基本軸の軸方向を算出(特定)する。ここで、初期基本軸の軸方向の算出には、例えば、前述の基準方向の決定方法その1を用いてもよい。すなわち、物体Mの表面上の各点の法線ベクトルを単位球上に分布させ、各法線ベクトルの終点の点群に対して単位球の原点を通る平面をあてはめ、その平面の法線を初期基本軸の軸方向とする。その上で、本装置1は、初期基本軸の軸方向を微小角度ほど偏位させた基本軸候補の軸方向を算出する。この微小角度や基本軸候補の数は、あらかじめ記憶部16に記憶されている。
図7は、本装置1により算出された、初期基本軸の軸方向SPと、1つ目の基本軸候補の軸方向SAと、2つ目の基本軸候補の軸方向SBと、を示す模式図である。
(2) Reference direction determination method 2
Next, a reference direction determination method 2 executed by the apparatus 1 will be described.
First, the apparatus 1 calculates (specifies) the axial direction of the initial basic axis based on the distribution of the three-dimensional data of each point on the surface of the object M stored in the storage unit 16. Here, for example, the above-described reference direction determination method 1 may be used to calculate the axial direction of the initial basic axis. That is, the normal vector of each point on the surface of the object M is distributed on the unit sphere, a plane passing through the origin of the unit sphere is applied to the point group of the end point of each normal vector, and the normal of the plane is set. The axial direction of the initial basic axis. After that, the present apparatus 1 calculates the axial direction of the basic axis candidate in which the axial direction of the initial basic axis is displaced by a minute angle. The minute angle and the number of basic axis candidates are stored in the storage unit 16 in advance.
FIG. 7 is a schematic diagram illustrating the axial direction SP of the initial basic axis, the axial direction SA of the first basic axis candidate, and the axial direction SB of the second basic axis candidate calculated by the apparatus 1. FIG.

次いで、本装置1は、基本軸候補ごとに物体Mに互いに平行な複数の断面を設定する。断面の設定方法は、後述する。
図8は、基本軸候補SAの軸方向に設定された物体Mの断面の位置を示す模式図である。一方、図9は、基本軸候補SBの軸方向に設定された物体Mの断面の位置を示す模式図である。
Next, the apparatus 1 sets a plurality of cross sections parallel to the object M for each basic axis candidate. A method for setting the cross section will be described later.
FIG. 8 is a schematic diagram showing the position of the cross section of the object M set in the axial direction of the basic axis candidate SA. On the other hand, FIG. 9 is a schematic diagram showing the position of the cross section of the object M set in the axial direction of the basic axis candidate SB.

次いで、本装置1は、基本軸候補ごとに、DB1に記憶されている3次元座標データを用いて、設定された断面ごとに、断面に含まれる物体Mの表面の形状の近似曲線を特定して、近似曲線群を得る。近似曲線の特定方法は、後述する。   Next, the apparatus 1 specifies an approximate curve of the shape of the surface of the object M included in the cross section for each set cross section using the three-dimensional coordinate data stored in the DB 1 for each basic axis candidate. Thus, an approximate curve group is obtained. A method for specifying the approximate curve will be described later.

次いで、本装置1は、基本軸候補ごとに特定された近似曲線群を評価関数で評価し、最も高い評価関数値を得た基本軸候補の軸方向を基準方向として決定する。   Next, the apparatus 1 evaluates the approximate curve group specified for each basic axis candidate with the evaluation function, and determines the axial direction of the basic axis candidate that has obtained the highest evaluation function value as the reference direction.

ここで、評価関数の評価基準の例としては、例えば、点群と近似曲線との距離、つまり、「近似曲線が設定された断面に含まれる物体Mの表面上の点」と「この点に対応する近似曲線上の点」との距離や、近似曲線同士のパラメータの差(例えば、近似曲線としての円の半径の差)、などがある。   Here, as an example of the evaluation criteria of the evaluation function, for example, the distance between the point group and the approximate curve, that is, “a point on the surface of the object M included in the cross section in which the approximate curve is set” and “at this point” The distance between the corresponding points on the approximate curve and the parameter difference between the approximate curves (for example, the difference in the radius of the circle as the approximate curve).

以上説明した決定方法その1やその2その他の方法により、本装置1は、物体Mに対して断面を設定する際に用いる基準方向を決定する。   The apparatus 1 determines the reference direction used when setting the cross section for the object M by the determination method 1 described above, the second method, or the other method.

なお、以下の説明では、説明の便宜上、図11に示すように、基準方向はX軸方向とする。   In the following description, for convenience of description, the reference direction is the X-axis direction as shown in FIG.

図2に戻る。
次いで、本装置1は、先に決定された基準方向に所定のピッチ離れた互いに平行な複数の断面を設定する(S3)。つまり、本装置1が設定する断面に含まれる物体Mの表面の形状は、YZ平面上に表れる。
Returning to FIG.
Next, the apparatus 1 sets a plurality of cross sections parallel to each other at a predetermined pitch in the previously determined reference direction (S3). That is, the shape of the surface of the object M included in the cross section set by the apparatus 1 appears on the YZ plane.

図10は、本装置1により設定される断面の位置を示す模式図である。同図は、物体Mに対して、X軸方向に6つの断面CS1、CS2、・・・、CS6が設定されていること、各断面のX座標がX1、X2、・・・、X6であること、各断面は互いに平行であること、を示している。また、同図は、断面同士の間隔(ピッチ)がPであることを示している。この断面同士の間隔Pは、あらかじめ記憶部16に記憶されている。   FIG. 10 is a schematic diagram showing the position of the cross section set by the apparatus 1. In the figure, six cross sections CS1, CS2,..., CS6 are set in the X-axis direction for the object M, and the X coordinates of each cross section are X1, X2,. In other words, each cross section is parallel to each other. The figure also shows that the interval (pitch) between the cross sections is P. The interval P between the cross sections is stored in the storage unit 16 in advance.

次いで、本装置1は、設定された断面ごとに、断面に含まれる物体Mの表面の形状(YZ平面上の形状)に近似する近似曲線を特定する(S4)。   Next, the apparatus 1 specifies an approximate curve that approximates the shape of the surface of the object M included in the cross section (the shape on the YZ plane) for each set cross section (S4).

図12は、物体Mに設定された断面と、断面に含まれる物体Mの表面の形状、との関係を示す模式図である。同図は、X座標Xiに設定された断面に含まれる物体Mの表面の形状と、X座標Xjに設定された断面に含まれる物体Mの表面の形状とを示している。   FIG. 12 is a schematic diagram showing the relationship between the cross section set for the object M and the shape of the surface of the object M included in the cross section. The figure shows the shape of the surface of the object M included in the cross section set to the X coordinate Xi and the shape of the surface of the object M included in the cross section set to the X coordinate Xj.

ここで、本装置1は、DB1に記憶されている3次元座標データを用いて、断面に含まれる物体Mの表面に近似する近似曲線を特定する。本装置1が近似曲線を特定する方法としては、最小二乗法その他公知の方法が用いられる。すなわち、例えば、最小二乗法を用いる場合、断面に含まれる物体Mの表面上の各点からの距離(偏差)の2乗の和が最小となるように算出された曲線を近似曲線として特定する。   Here, the apparatus 1 specifies an approximate curve that approximates the surface of the object M included in the cross section, using the three-dimensional coordinate data stored in the DB 1. As a method for the apparatus 1 to specify the approximate curve, a least square method or other known methods are used. That is, for example, when the least square method is used, a curve calculated so that the sum of the squares of the distances (deviations) from each point on the surface of the object M included in the cross section is specified as an approximate curve. .

図13は、本装置1が特定した、X座標Xiに設定された断面に含まれる物体Mの表面に近似する近似曲線の例を示す模式図である。同図は、中心Ci、半径riの円(の円弧)が近似曲線として特定されていることを示している。   FIG. 13 is a schematic diagram showing an example of an approximate curve that approximates the surface of the object M included in the cross section set to the X coordinate Xi specified by the apparatus 1. This figure shows that a circle (circular arc) having a center Ci and a radius ri is specified as an approximate curve.

図14は、本装置1が特定した、X座標Xjに設定された断面に含まれる物体Mの表面に近似する近似曲線の例を示す模式図である。同図は、近似曲線として、中心Cj、半径
rjの円(の円弧)が近似曲線として特定されていることを示している。
FIG. 14 is a schematic diagram showing an example of an approximate curve that approximates the surface of the object M included in the cross section set to the X coordinate Xj specified by the apparatus 1. This figure shows that a circle (its arc) having a center Cj and a radius rj is specified as an approximate curve as an approximate curve.

このように、本装置1は、断面ごとに近似曲線を特定する。そのため、例えば、近似曲線の形状が円の場合、断面ごとに特定された近似曲線としての円それぞれの中心を結ぶ線は非直線となり、また、各円の半径の長さも異なる。   Thus, this apparatus 1 specifies an approximate curve for every cross section. Therefore, for example, when the shape of the approximate curve is a circle, the line connecting the centers of the circles as the approximate curve specified for each cross section is a non-straight line, and the length of the radius of each circle is also different.

図2に戻る。
次いで、本装置1は、断面に含まれる物体Mの表面上の点ごとに、この断面に対して設定された近似曲線上の基準点からの距離に基づいて、物体Mの表面上の点ごとの2次元座標データを算出する(S5)。
Returning to FIG.
Next, the present apparatus 1 is configured for each point on the surface of the object M based on the distance from the reference point on the approximate curve set for the cross section for each point on the surface of the object M included in the cross section. Is calculated (S5).

図15は、本装置1がX座標Xiにおいて特定した近似曲線としての円の例を示す模式図であって、円の中心がCi、円の半径がriであることを示している。
図16は、図15に示した近似曲線としての円において、円の中心Ciと円上の基準点(不図示)とを結ぶ線t0と、円の中心Ciと物体Mの表面上の点Pとを結ぶ線tと、がなす角度を示す模式図である。
FIG. 15 is a schematic diagram showing an example of a circle as an approximate curve identified by the apparatus 1 at the X coordinate Xi, and shows that the center of the circle is Ci and the radius of the circle is ri.
FIG. 16 shows a line t0 connecting the center Ci of the circle and a reference point (not shown) on the circle and a point P on the surface of the object M in the circle as the approximate curve shown in FIG. It is a schematic diagram which shows the angle which the line t which connects and forms.

本装置1は、2次元座標データ(u,v)を、以下の数1で定義されるように、断面が設定されたX座標値をu座標値とし、断面に含まれる物体Mの表面上の点群を近似曲線に射影したときの近似曲線上の測地距離をv座標値として算出する。すなわち、本装置1は、近似曲線が円の円弧のとき、断面に含まれる表面上の点ごとの2次元座標データを、円の半径と、「円の中心と前記基準点とを結ぶ線」と「円の中心と点とを結ぶ線」とがなす角度と、に基づいて算出する、   The apparatus 1 uses the two-dimensional coordinate data (u, v) as the u-coordinate value as the X-coordinate value in which the cross section is set, as defined by the following formula 1, and on the surface of the object M included in the cross-section. The geodetic distance on the approximate curve when the point group is projected onto the approximate curve is calculated as the v coordinate value. That is, when the approximate curve is an arc of a circle, the present apparatus 1 converts the two-dimensional coordinate data for each point on the surface included in the cross section into a circle radius and a “line connecting the center of the circle and the reference point”. And the angle formed by the “line connecting the center of the circle and the point”,

●まとめ
以上説明した実施の形態によれば、断面ごとに近似曲線を特定して2次元座標データを算出するため、物体Mの広範囲で高密度な3次元形状を射影した射影画像の2次元座標データを簡便に得ることができる。また、設定される複数の断面は、物体Mに対して同一の基準方向に設定するため、断面ごとに得られた2次元座標データは、断面ごとの方向を考慮することなく結合(2次元座標データの集合を生成)して用いることができるため、2次元座標データを簡便に得ることができる。
● Summary According to the embodiment described above, in order to calculate the two-dimensional coordinate data by specifying the approximate curve for each cross section, the two-dimensional coordinates of the projected image obtained by projecting the wide-range, high-density three-dimensional shape of the object M Data can be easily obtained. Further, since the plurality of cross sections to be set are set in the same reference direction with respect to the object M, the two-dimensional coordinate data obtained for each cross section can be combined (two-dimensional coordinates without considering the direction of each cross section). Since a set of data can be generated and used, two-dimensional coordinate data can be easily obtained.

●サンプリングウィンドウ
ここで、断面に含まれる物体Mの表面の形状に近似する近似曲線を、その断面が設定された位置の点の3次元座標データのみでなく、断面が設定された位置の基準方向前後方向に設けたサンプリングウィンドウ内に存在する点の3次元座標データも加えて、断面が設定された位置の物体Mの表面の形状を近似する近似曲線を特定するようにしてもよい。
Sampling window Here, the approximate curve that approximates the shape of the surface of the object M included in the cross section is not only the three-dimensional coordinate data of the point of the position where the cross section is set, but also the reference direction of the position where the cross section is set An approximate curve that approximates the shape of the surface of the object M at the position where the cross section is set may be specified in addition to the three-dimensional coordinate data of the points existing in the sampling window provided in the front-rear direction.

図17は、断面が設定される位置とサンプリングウィンドウとの関係を示す模式図である。同図は、断面CSn−1、CSn、CSn+1が、X座標Xn−1、Xn、Xn+1に設定されていることを示している。図中では図示を省略してあるが、X<Xn−1およびX>Xn+1の範囲にも平行な断面が間隔pで並んでいる。また、同図は、ハッチがついた矩形で表された幅Wを持つ断面CSnに対するサンプリングウィンドウがXn−W/2からXn+W/2の範囲で設定されていることを示している。同様に、他の断面に対しても同じ長さWを持つサンプリングウィンドウが設定されている。サンプリングウィンドウの長さWは、あらかじめ記憶部16に記憶されている。図中、黒丸で描かれた点はサンプリングウィンドウ内に存在する点、白丸で描かれた点はサンプリングウィンドウ外の点を意味する。例示した図では、サンプリングウィンドウ内に3枚の断面が存在しているが、サンプリングウィンドウの長さWと断面同士の間隔pとは独立に決められており、Wはpの整数倍である必要はない。   FIG. 17 is a schematic diagram showing the relationship between the position where the cross section is set and the sampling window. This figure shows that the cross sections CSn-1, CSn, CSn + 1 are set to X coordinates Xn-1, Xn, Xn + 1. Although not shown in the figure, cross sections parallel to the range of X <Xn−1 and X> Xn + 1 are also arranged at intervals p. This figure also shows that the sampling window for the cross section CSn having a width W represented by a hatched rectangle is set in the range of Xn−W / 2 to Xn + W / 2. Similarly, sampling windows having the same length W are set for the other cross sections. The length W of the sampling window is stored in the storage unit 16 in advance. In the figure, a point drawn with a black circle means a point existing in the sampling window, and a point drawn with a white circle means a point outside the sampling window. In the illustrated example, there are three cross sections in the sampling window. However, the length W of the sampling window and the interval p between the cross sections are determined independently, and W must be an integral multiple of p. There is no.

本装置1は、断面が設定されるX座標とサンプリングウィンドウの長さWとを用いて、各断面に対して設定されるサンプリングウィンドウのX座標の始点をXn−W/2、X座標の終点をXn+W/2と決定する。すなわち、本装置1は、断面が設定される位置Xnを含むサンプリングウィンドウを、サンプリングウィンドウの基準方向の中間の位置が断面が設定される位置Xnと一致するように設定する。その上で、本装置1は、DB1に記憶されている3次元座標データのうち、X座標がサンプリングウィンドウの始点から終点までの範囲の3次元座標データを用いて、断面CSnに含まれる物体Mの表面を近似する近似曲線を特定する。   The apparatus 1 uses the X coordinate at which the cross section is set and the length W of the sampling window, and the starting point of the X coordinate of the sampling window set for each cross section is Xn−W / 2, and the end point of the X coordinate. Is determined as Xn + W / 2. That is, the apparatus 1 sets the sampling window including the position Xn where the cross section is set so that the intermediate position in the reference direction of the sampling window matches the position Xn where the cross section is set. In addition, the apparatus 1 uses the three-dimensional coordinate data in the range from the start point to the end point of the sampling window among the three-dimensional coordinate data stored in the DB 1, and uses the object M included in the cross section CSn. Specify an approximate curve that approximates the surface of.

以上のとおり、本発明において、断面CSnに含まれる物体Mの表面の形状を近似する近似曲線を特定する際に用いる、断面CSnに含まれる物体Mの表面上の点とは、断面CSnが設定されたX座標Xn上の点のみならず、断面CSnが設定されたX座標Xnに対応するサンプリングウィンドウW内の点も含む。   As described above, in the present invention, the section CSn is set as a point on the surface of the object M included in the cross section CSn, which is used when specifying an approximate curve that approximates the shape of the surface of the object M included in the cross section CSn. In addition to the set point on the X coordinate Xn, the point in the sampling window W corresponding to the X coordinate Xn where the cross section CSn is set is included.

このように、サンプリングウィンドウを設けて近似曲線を特定する場合、近似曲線を特定するために用いる情報の量(物体Mの表面上の点の数)が、断面が設定されているX座標の3次元座標データのみを用いる場合に比べて増えるため、物体Mの表面の形状をより精度よく近似する近似曲線を得ることができる。その結果、断面ごとに設定される近似曲線の基準方向での変化量(例えば、近似曲線として円を特定する場合、隣接する断面ごとの円の半径の変化量)を小さくすることができる。   Thus, when an approximate curve is specified by providing a sampling window, the amount of information (number of points on the surface of the object M) used to specify the approximate curve is 3 of the X coordinate where the cross section is set. Since it increases compared to the case where only the dimensional coordinate data is used, an approximate curve that approximates the shape of the surface of the object M more accurately can be obtained. As a result, the amount of change in the reference direction of the approximate curve set for each cross section (for example, when a circle is specified as the approximate curve, the amount of change in the radius of the circle for each adjacent cross section) can be reduced.

図18は、隣接する断面ごとに特定された近似曲線の例を示す模式図である。同図(a)は、4つの撮像装置が物体を撮像して取得した距離画像に基づき算出された、それぞれの撮像領域Ar0,Ar1,Ar2,Ar3の物体の形状を結合させた様子を示している。図中、X0とX0+1は隣接する断面の設定位置を示している(紙面、左右方向が基準方向)。同図は、断面が設定された位置X0と、断面が設定された位置X0+1との間は、撮像領域Ar1とAr3の視野の違いにより、物体の表面の形状が不連続であることを示している。   FIG. 18 is a schematic diagram illustrating an example of an approximate curve specified for each adjacent cross section. FIG. 6A shows a state in which the shapes of the objects in the respective imaging regions Ar0, Ar1, Ar2, Ar3 calculated based on the distance images acquired by imaging the objects by the four imaging devices are combined. Yes. In the figure, X0 and X0 + 1 indicate the setting positions of adjacent cross sections (the paper plane, the horizontal direction is the reference direction). This figure shows that the shape of the surface of the object is discontinuous between the position X0 where the cross section is set and the position X0 + 1 where the cross section is set due to the difference in the field of view of the imaging regions Ar1 and Ar3. Yes.

同図(b)は、図中左が位置X0での近似曲線の例、図中右が位置X0+1での近似曲線の例である。同図は、隣接する断面に含まれる表面上の点の一部が同じような位置であっても、近似曲線としての円の中心位置や半径は異なることを示している。   FIG. 4B shows an example of an approximate curve at the position X0 on the left side and an example of an approximate curve at the position X0 + 1 on the right side of the figure. The figure shows that even if some of the points on the surface included in the adjacent cross-sections are at the same position, the center position and radius of the circle as the approximate curve are different.

このように隣接する近似曲線同士が大きく変化するような場合であっても、前述のとおり、サンプリングウィンドウ内の点に基づいて1の近似曲線を特定することで、隣接する断面の近似曲線の変化量を小さくすることができる。その結果、得られる2次元座標データの基準方向と直交する方向の値は、基準方向に沿って滑らかに変位したものとなり、例えば、撮影領域の視野の違いによる物体Mの表面の形状の急峻な変化を、射影画像上では滑らかな変化に変換することができる。   Even when adjacent approximate curves change greatly as described above, as described above, by specifying one approximate curve based on the points in the sampling window, the change in the approximate curve of the adjacent cross section The amount can be reduced. As a result, the value of the direction orthogonal to the reference direction of the obtained two-dimensional coordinate data is smoothly displaced along the reference direction. For example, the shape of the surface of the object M is steep due to the difference in the field of view of the imaging region. The change can be converted into a smooth change on the projected image.

図19は、隣接する断面ごとに特定された近似曲線の別の例を示す模式図である。同図(a)は、図18(a)と同一である。なお、同図中、断面の位置X0とX0+1とを示す線(紙面、上下方向の線)の間の4本の線は、隣接する断面に含まれる物体の表面上の対応点の位置を示している。   FIG. 19 is a schematic diagram illustrating another example of the approximate curve specified for each adjacent cross section. FIG. 18A is the same as FIG. In the figure, the four lines between the lines indicating the cross-section positions X0 and X0 + 1 (paper, vertical line) indicate the positions of corresponding points on the surface of the object included in the adjacent cross-section. ing.

同図(b)は、図中左が位置X0での近似曲線の例、図中右が位置X0+1での近似曲線の例である。同図は、隣接する複数の断面の表面上の点に基づいて1の近似曲線を特定することで、隣接する断面同士の近似曲線の変化が緩やかになる、つまり、図中左の近似曲線としての円の半径は大きくなり、図中右の近似曲線としての円の半径が小さくなり、結果として、隣接する断面の近似曲線としての円の半径の差が小さくなることを示している。   FIG. 4B shows an example of an approximate curve at the position X0 on the left side and an example of an approximate curve at the position X0 + 1 on the right side of the figure. In this figure, by specifying one approximate curve based on points on the surface of a plurality of adjacent cross sections, the change in the approximate curve between adjacent cross sections becomes gentle, that is, as the approximate curve on the left in the figure. This shows that the radius of the circle increases, the radius of the circle as the approximate curve on the right in the figure decreases, and as a result, the difference in the radius of the circle as the approximate curve of adjacent cross sections decreases.

その結果、同図(c)に示すように、隣接する断面に含まれる物体の表面上の対応点の位置の変化量が、同図(a)に比べて、小さくなっていることを示している。   As a result, as shown in FIG. 8C, the change amount of the position of the corresponding point on the surface of the object included in the adjacent cross section is smaller than that in FIG. Yes.

ここで、隣接する複数の断面ごとに特定される近似曲線としての各円の中心を結ぶ線は、非直線である。なお、前述のとおり、1の断面ごとに特定される近似曲線としての各円の中心を結ぶ線も非直線である。すなわち、本発明においては、設定された複数の断面に対応して特定される近似曲線(複数の断面ごとに特定される近似曲線や、1の断面ごとに特定される近似曲線)としての各円の中心を結ぶ線は、非直線である。   Here, a line connecting the centers of the circles as an approximate curve specified for each of a plurality of adjacent cross sections is a non-straight line. As described above, the line connecting the centers of the circles as the approximate curve specified for each cross section is also a non-linear line. That is, in the present invention, each circle as an approximate curve (an approximate curve specified for each of a plurality of cross sections or an approximate curve specified for each cross section) specified corresponding to a plurality of set cross sections. The line connecting the centers of is non-linear.

●ピッチ(P)の変更
なお、物体Mの3次元形状を高精度に近似した2次元座標を得るには、設定される断面間のピッチを短くすることが望ましい。しかし、このピッチが短くなると、設定される断面の数が増加し、情報量が膨大となってしまう。
Change in pitch (P) In order to obtain two-dimensional coordinates that approximate the three-dimensional shape of the object M with high accuracy, it is desirable to shorten the pitch between the set cross sections. However, when this pitch is shortened, the number of cross sections to be set increases, and the amount of information becomes enormous.

そこで、本発明においては、ピッチの初期値を決めておき(記憶部16に記憶しておき)、ピッチの初期値で算出された各断面の近似曲線を評価し、その評価結果次第でピッチを再設定(例えば、初期値より短く設定)して、再設定後(変更後)のピッチを用いて断面を設定し直して近似曲線を特定するようにしてもよい。すなわち、例えば、初期値で断面を設定して各断面の近似曲線としての円を特定したとき、隣接する円同士の半径の差が所定の差(閾値:記憶部16にあらかじめ記憶しておく)より大きいときは、その隣接する断面同士が設定されている基準方向の範囲で物体Mの大きさが急激に変化している可能性がある。そこで、このような場合には、初期値より狭いピッチに変更して、断面を設定し直して近似曲線を特定した上で2次元座標を算出することで、3次元座標を高精度に近似した2次元座標を得ることができる。なお、ピッチの変更量(例えば、現在のピッチの60%の長さに変更する、など)は、あらかじめ記憶部16に記憶しておく。   Therefore, in the present invention, the initial value of the pitch is determined (stored in the storage unit 16), the approximate curve of each cross section calculated with the initial value of the pitch is evaluated, and the pitch is determined depending on the evaluation result. The approximate curve may be specified by resetting (for example, setting shorter than the initial value) and resetting the cross section using the pitch after resetting (after change). That is, for example, when a cross-section is set with an initial value and a circle as an approximate curve of each cross-section is specified, a difference in radius between adjacent circles is a predetermined difference (threshold: stored in the storage unit 16 in advance). When it is larger, there is a possibility that the size of the object M is rapidly changing in the range of the reference direction in which the adjacent cross sections are set. Therefore, in such a case, the pitch is narrower than the initial value, the cross-section is set again, the approximate curve is specified, and the two-dimensional coordinates are calculated to approximate the three-dimensional coordinates with high accuracy. Two-dimensional coordinates can be obtained. Note that the pitch change amount (for example, the pitch is changed to 60% of the current pitch) is stored in the storage unit 16 in advance.

●本装置の特徴のまとめ
以下、これまで説明した本装置の特徴をまとめて記載しておく。
● Summary of the features of the device The features of the device described so far are listed below.

(特徴1)
物体の表面の3次元形状を表す距離画像の3次元座標データから、前記表面を2次元の平面上に射影した射影画像の2次元座標データを生成する射影画像生成装置であって、
前記3次元座標データを取得する取得部と、
前記物体の特定方向に所定のピッチ離れた互いに平行な複数の断面を設定する断面設定部と、
前記断面に含まれる前記表面の形状に近似する近似曲線を、前記3次元座標データを用いて特定する近似曲線特定部と、
前記断面に含まれる前記表面上の点ごとに、前記近似曲線上の基準点からの距離に基づいて前記点の前記2次元座標データを算出する2次元座標データ算出部と、
前記2次元座標データを記憶する記憶部と、
を有してなる、
ことを特徴とする射影画像生成装置。
(Feature 1)
A projection image generation device that generates two-dimensional coordinate data of a projected image obtained by projecting the surface onto a two-dimensional plane from three-dimensional coordinate data of a distance image representing a three-dimensional shape of the surface of the object,
An acquisition unit for acquiring the three-dimensional coordinate data;
A cross-section setting unit for setting a plurality of cross-sections parallel to each other at a predetermined pitch in a specific direction of the object;
An approximate curve specifying unit that specifies an approximate curve that approximates the shape of the surface included in the cross section using the three-dimensional coordinate data; and
For each point on the surface included in the cross section, a two-dimensional coordinate data calculation unit that calculates the two-dimensional coordinate data of the point based on a distance from a reference point on the approximate curve;
A storage unit for storing the two-dimensional coordinate data;
Having
A projected image generation apparatus characterized by that.

(特徴2)
前記近似曲線特定部は、前記断面に含まれる前記表面の形状に近似する近似曲線を、前記断面が設定される位置を含むサンプリングウィンドウ内の点の前記3次元座標データを用いて特定する、
特徴1記載の射影画像生成装置。
(Feature 2)
The approximate curve specifying unit specifies an approximate curve that approximates the shape of the surface included in the cross section using the three-dimensional coordinate data of a point in a sampling window including a position where the cross section is set.
A projected image generation apparatus according to Feature 1.

(特徴3)
前記断面が設定される位置を含むサンプリングウィンドウは、前記サンプリングウィンドウの前記特定方向の中間の位置が前記断面が設定される位置と一致するように設定される、
特徴2記載の射影画像生成装置。
(Feature 3)
The sampling window including the position where the cross section is set is set so that the middle position of the sampling window in the specific direction matches the position where the cross section is set.
A projected image generation apparatus according to Feature 2.

(特徴4)
前記近似曲線は、円の円弧であって、
前記2次元座標データ算出部は、前記断面に含まれる前記表面上の点ごとの2次元座標データを、
前記円の半径と、
前記円の中心と前記基準点とを結ぶ線と、前記円の中心と前記点とを結ぶ線と、がなす角度と、
に基づいて算出する、
特徴1乃至3のいずれかに記載の射影画像生成装置。
(Feature 4)
The approximate curve is a circular arc,
The two-dimensional coordinate data calculation unit calculates two-dimensional coordinate data for each point on the surface included in the cross section,
The radius of the circle;
An angle formed by a line connecting the center of the circle and the reference point, and a line connecting the center of the circle and the point;
Based on
The projected image generation apparatus according to any one of features 1 to 3.

(特徴5)
前記設定された複数の断面に対応して特定される前記近似曲線としての各円の中心を結ぶ線は、非直線である、
特徴4記載の射影画像生成装置。
(Feature 5)
A line connecting the centers of the respective circles as the approximate curve specified corresponding to the plurality of set cross sections is a non-straight line,
A projected image generation apparatus according to Feature 4.

(特徴6)
前記ピッチの長さを、前記近似曲線としての円の半径に基づいて変更するピッチ変更部を備え、
前記断面設定部は、前記変更されたピッチに基づいて、互いに平行な複数の断面を設定し、
前記近似曲線特定部は、前記変更されたピッチに基づいて設定された新たな断面に含まれる前記表面に近似する新たな近似曲線を特定し、
前記2次元座標データ算出部は、前記新たな断面に含まれる前記表面上の点ごとに、前記新たな近似曲線上の基準点からの距離に基づいて前記点の2次元座標データを算出する、
特徴4または5記載の射影画像生成装置。
(Feature 6)
A pitch changing unit that changes the length of the pitch based on the radius of the circle as the approximate curve,
The cross-section setting unit sets a plurality of cross-sections parallel to each other based on the changed pitch,
The approximate curve specifying unit specifies a new approximate curve that approximates the surface included in a new cross section set based on the changed pitch,
The two-dimensional coordinate data calculation unit calculates, for each point on the surface included in the new section, two-dimensional coordinate data of the point based on a distance from a reference point on the new approximate curve.
The projected image generation device according to Feature 4 or 5.

(特徴7)
前記特定方向を、前記3次元座標データに基づいて決定する特定方向決定部、
を備える、
特徴1乃至6のいずれかに記載の射影画像生成装置。
(Feature 7)
A specific direction determining unit that determines the specific direction based on the three-dimensional coordinate data;
Comprising
The projected image generation device according to any one of features 1 to 6.

(特徴8)
前記特定方向決定部は、前記3次元座標データから算出される前記物体の表面上の点群の分布に基づいて、前記特定方向を決定する、
特徴7記載の射影画像生成装置。
(Feature 8)
The specific direction determination unit determines the specific direction based on a distribution of point groups on the surface of the object calculated from the three-dimensional coordinate data.
The projection image generation apparatus according to Feature 7.

(特徴9)
前記特定方向決定部は、前記物体の表面上の各点の法線ベクトルを単位球上に分布させ、前記各点の法線ベクトルの終点の点群に対して単位球の原点を通る平面をあてはめ、前記平面の法線の方向を、前記特定方向として決定する、
特徴8記載の射影画像生成装置。
(Feature 9)
The specific direction determining unit distributes a normal vector of each point on the surface of the object on a unit sphere, and a plane passing through the origin of the unit sphere with respect to a point group at an end point of the normal vector of each point. Fit, determine the direction of the normal of the plane as the specific direction,
The projection image generation apparatus according to Feature 8.

(特徴10)
前記特定方向決定部は、
前記物体の表面上の各点の法線ベクトルを単位球上に分布させ、前記各点の法線ベクトルの終点の点群に対して単位球の原点を通る平面をあてはめ、前記平面の法線の方向を、初期基本軸の軸方向として特定し、
前記初期基本軸の軸方向を異なる方向に所定角度ほど偏位させた複数の方向のうち、1の方向を前記特定方向として決定する、
特徴8記載の射影画像生成装置。
(Feature 10)
The specific direction determining unit
A normal vector of each point on the surface of the object is distributed on a unit sphere, and a plane passing through the origin of the unit sphere is applied to a point group of an end point of the normal vector of each point, and the normal of the plane Is specified as the axial direction of the initial basic axis,
Determining one direction as the specific direction among a plurality of directions in which the axial direction of the initial basic axis is deviated by a predetermined angle in a different direction;
The projection image generation apparatus according to Feature 8.

(特徴11)
前記特定方向決定部は、
前記3次元座標データから算出される前記物体の表面上の点群の分布に基づいて、初期基本軸の軸方向を特定し、
前記初期基本軸の軸方向を異なる方向に所定角度ほど偏位させた複数の方向のうち、1の方向を前記特定方向として決定する、
特徴7記載の射影画像生成装置。
(Feature 11)
The specific direction determining unit
Based on the distribution of point groups on the surface of the object calculated from the three-dimensional coordinate data, specify the axial direction of the initial basic axis,
Determining one direction as the specific direction among a plurality of directions in which the axial direction of the initial basic axis is deviated by a predetermined angle in a different direction;
The projection image generation apparatus according to Feature 7.

M 物体
Cam 撮像装置
A,Ar 撮像範囲
SP 初期基本軸
SA 基本軸候補その1
SB 基本軸候補その2
p 断面同士の間隔(ピッチ)
CS 断面
C 近似曲線としての円の中心
r 近似曲線としての円の半径
W サンプリングウィンドウ長さ
M Object Cam Imaging device A, Ar Imaging range SP Initial basic axis SA Basic axis candidate 1
SB basic axis candidate 2
p Distance between sections (pitch)
CS Cross section C Center of circle as approximate curve r Radius of circle as approximate curve W Sampling window length

Claims (13)

物体の表面の3次元形状を表す距離画像の3次元座標データから、前記表面を2次元の平面上に射影した射影画像の2次元座標データを生成する射影画像生成装置であって、
前記3次元座標データを取得する取得部と、
前記物体の特定方向に所定のピッチ離れた互いに平行な複数の断面を設定する断面設定部と、
前記断面に含まれる前記表面の形状に近似する近似曲線を、前記3次元座標データを用いて特定する近似曲線特定部と、
前記断面に含まれる前記表面上の点ごとに、前記近似曲線上の基準点からの距離に基づいて前記点の前記2次元座標データを算出する2次元座標データ算出部と、
前記2次元座標データを記憶する記憶部と、
を有してなる、
ことを特徴とする射影画像生成装置。
A projection image generation device that generates two-dimensional coordinate data of a projected image obtained by projecting the surface onto a two-dimensional plane from three-dimensional coordinate data of a distance image representing a three-dimensional shape of the surface of the object,
An acquisition unit for acquiring the three-dimensional coordinate data;
A cross-section setting unit for setting a plurality of cross-sections parallel to each other at a predetermined pitch in a specific direction of the object;
An approximate curve specifying unit that specifies an approximate curve that approximates the shape of the surface included in the cross section using the three-dimensional coordinate data; and
For each point on the surface included in the cross section, a two-dimensional coordinate data calculation unit that calculates the two-dimensional coordinate data of the point based on a distance from a reference point on the approximate curve;
A storage unit for storing the two-dimensional coordinate data;
Having
A projected image generation apparatus characterized by that.
前記近似曲線特定部は、前記断面に含まれる前記表面の形状に近似する近似曲線を、前記断面が設定される位置を含むサンプリングウィンドウ内の点の前記3次元座標データを用いて特定する、
請求項1記載の射影画像生成装置。
The approximate curve specifying unit specifies an approximate curve that approximates the shape of the surface included in the cross section using the three-dimensional coordinate data of a point in a sampling window including a position where the cross section is set.
The projected image generation apparatus according to claim 1.
前記断面が設定される位置を含むサンプリングウィンドウは、前記サンプリングウィンドウの前記特定方向の中間の位置が前記断面が設定される位置と一致するように設定される、
請求項2記載の射影画像生成装置。
The sampling window including the position where the cross section is set is set so that the middle position of the sampling window in the specific direction matches the position where the cross section is set.
The projected image generation apparatus according to claim 2.
前記近似曲線は、円の円弧であって、
前記2次元座標データ算出部は、前記断面に含まれる前記表面上の点ごとの2次元座標データを、
前記円の半径と、
前記円の中心と前記基準点とを結ぶ線と、前記円の中心と前記点とを結ぶ線と、がなす角度と、
に基づいて算出する、
請求項1乃至3のいずれかに記載の射影画像生成装置。
The approximate curve is a circular arc,
The two-dimensional coordinate data calculation unit calculates two-dimensional coordinate data for each point on the surface included in the cross section,
The radius of the circle;
An angle formed by a line connecting the center of the circle and the reference point, and a line connecting the center of the circle and the point;
Based on
The projected image generation apparatus according to claim 1.
前記設定された複数の断面に対応して特定される前記近似曲線としての各円の中心を結ぶ線は、非直線である、
請求項4記載の射影画像生成装置。
A line connecting the centers of the respective circles as the approximate curve specified corresponding to the plurality of set cross sections is a non-straight line,
The projection image generation apparatus according to claim 4.
前記ピッチの長さを、前記近似曲線としての円の半径に基づいて変更するピッチ変更部を備え、
前記断面設定部は、前記変更されたピッチに基づいて、互いに平行な複数の断面を設定し、
前記近似曲線特定部は、前記変更されたピッチに基づいて設定された新たな断面に含まれる前記表面に近似する新たな近似曲線を特定し、
前記2次元座標データ算出部は、前記新たな断面に含まれる前記表面上の点ごとに、前記新たな近似曲線上の基準点からの距離に基づいて前記点の2次元座標データを算出する、
請求項4または5記載の射影画像生成装置。
A pitch changing unit that changes the length of the pitch based on the radius of the circle as the approximate curve,
The cross-section setting unit sets a plurality of cross-sections parallel to each other based on the changed pitch,
The approximate curve specifying unit specifies a new approximate curve that approximates the surface included in a new cross section set based on the changed pitch,
The two-dimensional coordinate data calculation unit calculates, for each point on the surface included in the new section, two-dimensional coordinate data of the point based on a distance from a reference point on the new approximate curve.
6. The projected image generation apparatus according to claim 4 or 5.
前記特定方向を、前記3次元座標データに基づいて決定する特定方向決定部、
を備える、
請求項1乃至6のいずれかに記載の射影画像生成装置。
A specific direction determining unit that determines the specific direction based on the three-dimensional coordinate data;
Comprising
The projection image generation apparatus according to claim 1.
前記特定方向決定部は、前記3次元座標データから算出される前記物体の表面上の点群の分布に基づいて、前記特定方向を決定する、
請求項7記載の射影画像生成装置。
The specific direction determination unit determines the specific direction based on a distribution of point groups on the surface of the object calculated from the three-dimensional coordinate data.
The projection image generation apparatus according to claim 7.
前記特定方向決定部は、前記物体の表面上の各点の法線ベクトルを単位球上に分布させ、前記各点の法線ベクトルの終点の点群に対して単位球の原点を通る平面をあてはめ、前記平面の法線の方向を、前記特定方向として決定する、
請求項8記載の射影画像生成装置。
The specific direction determining unit distributes a normal vector of each point on the surface of the object on a unit sphere, and a plane passing through the origin of the unit sphere with respect to a point group at an end point of the normal vector of each point. Fit, determine the direction of the normal of the plane as the specific direction,
The projection image generation apparatus according to claim 8.
前記特定方向決定部は、
前記物体の表面上の各点の法線ベクトルを単位球上に分布させ、前記各点の法線ベクトルの終点の点群に対して単位球の原点を通る平面をあてはめ、前記平面の法線の方向を、初期基本軸の軸方向として特定し、
前記初期基本軸の軸方向を異なる方向に所定角度ほど偏位させた複数の方向のうち、1の方向を前記特定方向として決定する、
請求項8記載の射影画像生成装置。
The specific direction determining unit
A normal vector of each point on the surface of the object is distributed on a unit sphere, and a plane passing through the origin of the unit sphere is applied to a point group of an end point of the normal vector of each point, and the normal of the plane Is specified as the axial direction of the initial basic axis,
Determining one direction as the specific direction among a plurality of directions in which the axial direction of the initial basic axis is deviated by a predetermined angle in a different direction;
The projection image generation apparatus according to claim 8.
前記特定方向決定部は、
前記3次元座標データから算出される前記物体の表面上の点群の分布に基づいて、初期基本軸の軸方向を特定し、
前記初期基本軸の軸方向を異なる方向に所定角度ほど偏位させた複数の方向のうち、1の方向を前記特定方向として決定する、
請求項7記載の射影画像生成装置。
The specific direction determining unit
Based on the distribution of point groups on the surface of the object calculated from the three-dimensional coordinate data, specify the axial direction of the initial basic axis,
Determining one direction as the specific direction among a plurality of directions in which the axial direction of the initial basic axis is deviated by a predetermined angle in a different direction;
The projection image generation apparatus according to claim 7.
コンピュータを、請求項1乃至11のいずれかに記載の射影画像生成装置として機能させることを特徴とする射影画像生成プログラム。   A projection image generation program which causes a computer to function as the projection image generation apparatus according to any one of claims 1 to 11. 物体の表面の3次元形状を表す距離画像の3次元座標データから、前記表面を2次元の平面上に射影した射影画像の2次元座標データを生成する装置により実行される射影画像生成方法であって、
前記装置が、
前記3次元座標データを取得するステップと、
前記物体の特定方向に所定のピッチ離れた互いに平行な複数の断面を設定するステップと、
前記断面に含まれる前記表面の形状に近似する近似曲線を、前記3次元座標データを用いて特定するステップと、
前記断面に含まれる前記表面上の点ごとに、前記近似曲線上の基準点からの距離に基づいて前記点の前記2次元座標データを算出するステップと、
前記2次元座標データを記憶するステップと、
を有してなる、
ことを特徴とする射影画像生成方法。

This is a projected image generation method executed by a device that generates two-dimensional coordinate data of a projected image obtained by projecting the surface onto a two-dimensional plane from three-dimensional coordinate data of a distance image representing the three-dimensional shape of the surface of the object. And
The device is
Obtaining the three-dimensional coordinate data;
Setting a plurality of parallel cross sections separated by a predetermined pitch in a specific direction of the object;
Identifying an approximate curve that approximates the shape of the surface included in the cross-section using the three-dimensional coordinate data;
For each point on the surface included in the cross section, calculating the two-dimensional coordinate data of the point based on a distance from a reference point on the approximate curve;
Storing the two-dimensional coordinate data;
Having
A projected image generation method characterized by the above.

JP2014160453A 2014-08-06 2014-08-06 Projection image generation apparatus, projection image generation program, and projection image generation method Active JP6388806B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014160453A JP6388806B2 (en) 2014-08-06 2014-08-06 Projection image generation apparatus, projection image generation program, and projection image generation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014160453A JP6388806B2 (en) 2014-08-06 2014-08-06 Projection image generation apparatus, projection image generation program, and projection image generation method

Publications (2)

Publication Number Publication Date
JP2016038669A true JP2016038669A (en) 2016-03-22
JP6388806B2 JP6388806B2 (en) 2018-09-12

Family

ID=55529711

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014160453A Active JP6388806B2 (en) 2014-08-06 2014-08-06 Projection image generation apparatus, projection image generation program, and projection image generation method

Country Status (1)

Country Link
JP (1) JP6388806B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110781746A (en) * 2019-09-23 2020-02-11 安徽农业大学 Wolfberry identification and positioning method
WO2020085597A1 (en) * 2018-10-26 2020-04-30 주식회사 일루베이션 Livestock weighing system and livestock weighing method using same
CN116681871A (en) * 2023-07-31 2023-09-01 山东捷瑞数字科技股份有限公司 Digital twinning-oriented model vision auxiliary positioning method and device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002090125A (en) * 2000-09-13 2002-03-27 Kawaso Electric Industrial Co Ltd Method for observing columnar object
JP2006139713A (en) * 2004-11-15 2006-06-01 Fuji Electric Systems Co Ltd 3-dimensional object position detecting apparatus and program
JP2014044078A (en) * 2012-08-24 2014-03-13 Univ Of Miyazaki Body weight estimation device and body weight estimation method, for animal body
JP2014109555A (en) * 2012-12-04 2014-06-12 Nippon Telegr & Teleph Corp <Ntt> Point group analysis processing apparatus, point group analysis processing method and program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002090125A (en) * 2000-09-13 2002-03-27 Kawaso Electric Industrial Co Ltd Method for observing columnar object
JP2006139713A (en) * 2004-11-15 2006-06-01 Fuji Electric Systems Co Ltd 3-dimensional object position detecting apparatus and program
JP2014044078A (en) * 2012-08-24 2014-03-13 Univ Of Miyazaki Body weight estimation device and body weight estimation method, for animal body
JP2014109555A (en) * 2012-12-04 2014-06-12 Nippon Telegr & Teleph Corp <Ntt> Point group analysis processing apparatus, point group analysis processing method and program

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020085597A1 (en) * 2018-10-26 2020-04-30 주식회사 일루베이션 Livestock weighing system and livestock weighing method using same
CN110781746A (en) * 2019-09-23 2020-02-11 安徽农业大学 Wolfberry identification and positioning method
CN116681871A (en) * 2023-07-31 2023-09-01 山东捷瑞数字科技股份有限公司 Digital twinning-oriented model vision auxiliary positioning method and device
CN116681871B (en) * 2023-07-31 2023-10-31 山东捷瑞数字科技股份有限公司 Digital twinning-oriented model vision auxiliary positioning method and device

Also Published As

Publication number Publication date
JP6388806B2 (en) 2018-09-12

Similar Documents

Publication Publication Date Title
JP7282317B2 (en) Three-dimensional measurement system and three-dimensional measurement method
EP2568253B1 (en) Structured-light measuring method and system
JP5631025B2 (en) Information processing apparatus, processing method thereof, and program
Jia et al. Depth measurement based on infrared coded structured light
JP2016075637A (en) Information processing apparatus and method for the same
CN108362228B (en) Double-optical-machine-based optical knife grating hybrid three-dimensional measurement device and measurement method
JP2012181142A (en) Stereo image processing device and stereo image processing method
WO2011145285A1 (en) Image processing device, image processing method and program
JP4701848B2 (en) Image matching apparatus, image matching method, and image matching program
JP6388806B2 (en) Projection image generation apparatus, projection image generation program, and projection image generation method
JP2019220099A (en) Stereo matching processing device, stereo matching processing method, and program
JP6668594B2 (en) Parallax calculation system, information processing device, information processing method, and program
JP6411188B2 (en) Stereo matching device, stereo matching program, and stereo matching method
CN108898629B (en) Projection coding method for enhancing aerial luggage surface texture in three-dimensional modeling
JP2015019346A (en) Parallax image generator
JP5656018B2 (en) Sphere detection method
JP6456084B2 (en) Image processing apparatus, image processing method, and program
JP2017045124A (en) Parallax detection device
Bräuer-Burchardt et al. Phase unwrapping in fringe projection systems using epipolar geometry
Zhang et al. Passive 3D reconstruction based on binocular vision
Bräuer-Burchardt et al. Comparison and evaluation of correspondence finding methods in 3D measurement systems using fringe projection
WO2019116518A1 (en) Object detection device and object detection method
JP6570321B2 (en) Information processing apparatus, information processing method, and program
Recker et al. Hybrid Photogrammetry Structure-from-Motion Systems for Scene Measurement and Analysis
Yoshida et al. Three-dimensional measurement using multiple slits with a random dot pattern—multiple slits and camera calibration

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170316

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180302

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180320

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180814

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180815

R150 Certificate of patent or registration of utility model

Ref document number: 6388806

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250