JP5928240B2 - Three-dimensional shape interpretation apparatus and program - Google Patents

Three-dimensional shape interpretation apparatus and program Download PDF

Info

Publication number
JP5928240B2
JP5928240B2 JP2012180610A JP2012180610A JP5928240B2 JP 5928240 B2 JP5928240 B2 JP 5928240B2 JP 2012180610 A JP2012180610 A JP 2012180610A JP 2012180610 A JP2012180610 A JP 2012180610A JP 5928240 B2 JP5928240 B2 JP 5928240B2
Authority
JP
Japan
Prior art keywords
points
geometric structure
fitness
structure data
point cloud
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012180610A
Other languages
Japanese (ja)
Other versions
JP2014038495A (en
Inventor
皓之 石田
皓之 石田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Central R&D Labs Inc
Original Assignee
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Central R&D Labs Inc filed Critical Toyota Central R&D Labs Inc
Priority to JP2012180610A priority Critical patent/JP5928240B2/en
Publication of JP2014038495A publication Critical patent/JP2014038495A/en
Application granted granted Critical
Publication of JP5928240B2 publication Critical patent/JP5928240B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、3次元形状解釈装置及びプログラムに係り、特に、3次元の点群データから、3次元形状を解釈する3次元形状解釈装置及びプログラムに関する。   The present invention relates to a three-dimensional shape interpretation apparatus and program, and more particularly to a three-dimensional shape interpretation apparatus and program for interpreting a three-dimensional shape from three-dimensional point cloud data.

従来より、物体の3次元パラメトリック形状モデルを定義し、点群との距離が最小となるような対応付けを探索により求め、物体の位置姿勢を認識する方法が知られている(非特許文献1)。   2. Description of the Related Art Conventionally, a method is known in which a three-dimensional parametric shape model of an object is defined, an association that minimizes the distance from a point cloud is obtained by searching, and the position and orientation of the object are recognized (Non-Patent Document 1). ).

カメラとレーザスキャナを備えた車両で市街地を走行し、高精細な道路の3次元点群を取得する俯瞰画像生成方法が知られている(特許文献1)。   A bird's-eye view image generation method is known in which a vehicle equipped with a camera and a laser scanner travels in an urban area and acquires a high-definition three-dimensional point cloud of a road (Patent Document 1).

点群から局所領域ごとに平面当てはめをし、それらを連結することで3次元物体の輪郭を算出する点群データ処理装置が知られている(特許文献2)。   A point group data processing apparatus is known that calculates a contour of a three-dimensional object by performing plane fitting for each local region from a point group and connecting them (Patent Document 2).

点群に三角ポリゴンを当てはめ、それらに平面方程式または曲面方程式をあてはめることで形状判定する三次元形状の自動生成装置が知られている(特許文献3)。   There is known an automatic three-dimensional shape generation apparatus for determining a shape by applying a triangular polygon to a point group and applying a plane equation or a curved surface equation to the point polygon (Patent Document 3).

また、当てはめる形状をConformal Geometric Algebra空間の式で表現し、係数を推定することにより、「直線と円」「平面と球」など異なる形状を共通のモデルで表し、当てはめ結果をもとに形状を分類する方法が知られている(非特許文献2、3)。   In addition, the shape to be fitted is expressed by an equation in the Conformal Geometric Algebra space, and by estimating the coefficients, different shapes such as “straight and circle” and “plane and sphere” are expressed by a common model, and the shape is determined based on the fitting result. Classification methods are known (Non-Patent Documents 2 and 3).

特開2012−018170号公報JP 2012-018170 A 特開2012−13660号公報JP 2012-13660 A 特開2004−272459号公報Japanese Patent Laid-Open No. 2004-272459

P.J. Besl and H.D. McKay, "A method for registration of 3-D shapes", Trans. PAMI vol.14, no.2, pp.239-256, 1992.P.J.Besl and H.D.McKay, "A method for registration of 3-D shapes", Trans. PAMI vol.14, no.2, pp.239-256, 1992. D. Hildenbrand, “Geometric computing in computer graphics using conformal geometric algebra", Computers and Graphics, vol.29 (2005), no.5, pp.802-810.D. Hildenbrand, “Geometric computing in computer graphics using conformal geometric algebra”, Computers and Graphics, vol.29 (2005), no.5, pp.802-810. ファンミントゥン,橘完太,吉川大弘,古橋武,"Conformal Geometric Algebraを用いた近似方法の提案とその応用",第1回コンピューテーショナル・インテリジェンス研究会予稿集,pp. 29-36, 2011.Phanmintun, Kanta Tachibana, Daihiro Yoshikawa, Takeshi Furuhashi, "Proposal and Application of Approximation Method Using Conformal Geometric Algebra", Proceedings of the 1st Computational Intelligence Study Group, pp. 29-36, 2011.

上述したように、点群からの物体検出に関する先行文献が多く存在するが、複雑な計算処理が必要であり、実装が容易ではない。   As described above, there are many prior literatures relating to object detection from a point cloud, but complicated calculation processing is required, and implementation is not easy.

上記の非特許文献1に記載の方法では、複雑な形状の物体を点群と対応付けることができるが、あらかじめ形状モデルを物体ごとに個別に作成する必要があり、幾何演算や探索処理が複雑となる、という問題がある。   In the method described in Non-Patent Document 1, an object having a complicated shape can be associated with a point cloud. However, it is necessary to create a shape model individually for each object in advance, and geometric calculation and search processing are complicated. There is a problem of becoming.

上記の特許文献1に記載の方法は、点群の取得方法および道路画像の生成法であるが、構造物を構造物として認識するためには、認識処理が別途必要である、という問題がある。   The method described in Patent Document 1 is a point cloud acquisition method and a road image generation method. However, in order to recognize a structure as a structure, there is a problem that a recognition process is separately required. .

上記の特許文献2に記載の技術では、局所平面当てはめのためにノイズ判定する必要があり、局所平面の連結処理が必要である、という問題がある。   The technique described in Patent Document 2 has a problem in that it is necessary to determine noise for local plane fitting and local plane connection processing is necessary.

上記の特許文献3に記載の技術では、平面・曲面がそれぞれ別々の方程式で定義されているため、それぞれの方程式に対し当てはめ誤差を評価しなければならない、という問題がある。   The technique described in Patent Document 3 has a problem that the fitting error must be evaluated for each equation because the plane and the curved surface are defined by separate equations.

上記の非特許文献2、3に記載の技術では、Conformal Geometric Algebraを利用することで点群から特定の形状を抽出することが可能である。しかし、形状当てはめに最小二乗法を用いているため、ノイズを含む3次元点群に適用する場合、外れ値の影響で位置の精度や物体の識別性能が低下する。また、3次元点群に適用する場合、上記の非特許文献2、3記載の共通モデルで表すことのできる物体は平面と球の2種類であり、直線、円、円柱などは表現式が異なる(Conformal Geometric Algebra空間上で高次の係数が必要)ため扱うことができない、という問題がある。   In the techniques described in Non-Patent Documents 2 and 3 above, it is possible to extract a specific shape from a point cloud by using Conformal Geometric Algebra. However, since the least square method is used for shape fitting, when applied to a three-dimensional point group including noise, the accuracy of the position and the object identification performance deteriorate due to the influence of the outlier. When applied to a three-dimensional point group, there are two types of objects that can be represented by the common model described in Non-Patent Documents 2 and 3 above: a plane and a sphere, and straight lines, circles, cylinders, and the like have different expressions. (Conformal Geometric Algebra space requires higher-order coefficients), so there is a problem that it cannot be handled.

本発明は、上記の問題点を解決するためになされたもので、簡易な処理で、3次元の点群データにおける3次元形状を解釈することができる3次元形状解釈装置及びプログラムを提供することを目的とする。   The present invention has been made to solve the above-described problems, and provides a three-dimensional shape interpretation apparatus and program capable of interpreting a three-dimensional shape in three-dimensional point cloud data with simple processing. With the goal.

上記の目的を達成するために本発明に係る3次元形状解釈装置は、3次元座標を持つ複数の点からなる点群データを取得する点群取得手段と、前記点群データの前記複数の点を、CGA(Conformal Geometric Algebra)空間上に変換する空間変換手段と、前記CGA空間上に変換された前記点群データの前記複数の点及び無限遠の基底の中から何れか3つ又は4つからなる組み合わせを選択し、前記選択した組み合わせを外積を用いて結合して、予め定められた複数種類の3次元形状の何れかを表す幾何学構造データを作成する作成手段と、前記CGA空間上に変換された前記点群データの前記複数の点の各々について、前記点と前記作成手段によって作成された幾何学構造データとの距離を内積演算により求め、前記複数の点の各々について求められた前記距離に基づいて、前記幾何学構造データの適応度を算出する適応度算出手段と、前記幾何学構造データの適応度に基づいて、前記幾何学構造データに含まれる前記組み合わせを更新する更新手段と、前記適応度が最大化されるように、前記更新手段による更新及び前記適応度算出手段による算出を繰り返して、前記幾何学構造データが表す3次元形状を出力する最適化手段と、を含んで構成されている。   In order to achieve the above object, a three-dimensional shape interpretation apparatus according to the present invention includes a point cloud acquisition unit that acquires point cloud data including a plurality of points having three-dimensional coordinates, and the plurality of points of the point cloud data. Is converted into a CGA (Conformational Geometric Algebra) space, and any three or four of the plurality of points and the infinite base of the point cloud data converted onto the CGA space. Creating means for generating geometric structure data representing any one of a plurality of predetermined three-dimensional shapes by selecting a combination consisting of the above and combining the selected combinations using an outer product; For each of the plurality of points of the point cloud data converted to, the distance between the point and the geometric structure data created by the creating means is obtained by inner product calculation Fitness calculation means for calculating the fitness of the geometric structure data based on the distance obtained for each of the plurality of points; and the geometric structure based on the fitness of the geometric structure data. An update means for updating the combination included in the data, and a three-dimensional representation represented by the geometric structure data by repeating the update by the update means and the calculation by the fitness calculation means so that the fitness is maximized And an optimization means for outputting the shape.

本発明に係るプログラムは、コンピュータを、3次元座標を持つ複数の点からなる点群データを取得する点群取得手段、前記点群データの前記複数の点を、CGA(Conformal Geometric Algebra)空間上に変換する空間変換手段、前記CGA空間上に変換された前記点群データの前記複数の点及び無限遠の基底の中から何れか3つ又は4つからなる組み合わせを選択し、前記選択した組み合わせを外積を用いて結合して、予め定められた複数種類の3次元形状の何れかを表す幾何学構造データを作成する作成手段、前記CGA空間上に変換された前記点群データの前記複数の点の各々について、前記点と前記作成手段によって作成された幾何学構造データとの距離を内積演算により求め、前記複数の点の各々について求められた前記距離に基づいて、前記幾何学構造データの適応度を算出する適応度算出手段、前記幾何学構造データの適応度に基づいて、前記幾何学構造データに含まれる前記組み合わせを更新する更新手段、及び前記適応度が最大化されるように、前記更新手段による更新及び前記適応度算出手段による算出を繰り返して、前記幾何学構造データが表す3次元形状を出力する最適化手段として機能させるためのプログラムである。   The program according to the present invention includes a point cloud acquisition unit that acquires point cloud data including a plurality of points having three-dimensional coordinates, and the plurality of points of the point cloud data are stored on a CGA (Conformational Geometry Algebra) space. A space converting means for converting to the CGA space, selecting a combination of any three or four of the plurality of points of the point cloud data converted to the CGA space and a base at infinity, and the selected combination Creating means for creating geometric structure data representing any of a plurality of predetermined three-dimensional shapes by combining outer products, and the plurality of points of the point cloud data converted on the CGA space For each of the points, the distance between the point and the geometric structure data created by the creating means is obtained by an inner product operation, and each of the plurality of points is assigned. A fitness calculation means for calculating the fitness of the geometric structure data based on the distance determined in the step, and updating the combination included in the geometric structure data based on the fitness of the geometric structure data. Update means that performs the update, and the optimization means that outputs the three-dimensional shape represented by the geometric structure data by repeating the update by the update means and the calculation by the fitness calculation means so that the fitness is maximized. It is a program to make it function.

本発明によれば、点群取得手段によって、3次元座標を持つ複数の点からなる点群データを取得する。空間変換手段によって、前記点群データの前記複数の点を、CGA(Conformal Geometric Algebra)空間上に変換する。   According to the present invention, the point cloud acquisition unit acquires point cloud data including a plurality of points having three-dimensional coordinates. The plurality of points of the point cloud data are converted into a CGA (Conformational Geometry Algebra) space by a space conversion means.

そして、作成手段によって、前記CGA空間上に変換された前記点群データの前記複数の点及び無限遠の基底の中から何れか3つ又は4つからなる組み合わせを選択し、前記選択した組み合わせを外積を用いて結合して、予め定められた複数種類の3次元形状の何れかを表す幾何学構造データを作成する。適応度算出手段によって、前記CGA空間上に変換された前記点群データの前記複数の点の各々について、前記点と前記作成手段によって作成された幾何学構造データとの距離を内積演算により求め、前記複数の点の各々について求められた前記距離に基づいて、前記幾何学構造データの適応度を算出する。   Then, the creation unit selects any three or four combinations of the plurality of points and the infinity base of the point cloud data converted into the CGA space, and the selected combination is selected. The geometric structure data representing any of a plurality of predetermined three-dimensional shapes is created by combining the outer products. For each of the plurality of points of the point cloud data converted on the CGA space by the fitness calculation means, a distance between the point and the geometric structure data created by the creation means is obtained by inner product calculation, The fitness of the geometric structure data is calculated based on the distance obtained for each of the plurality of points.

そして、更新手段によって、前記幾何学構造データの適応度に基づいて、前記幾何学構造データに含まれる前記組み合わせを更新する。最適化手段によって、前記適応度が最大化されるように、前記更新手段による更新及び前記適応度算出手段による算出を繰り返して、前記幾何学構造データが表す3次元形状を出力する。   Then, the combination included in the geometric structure data is updated by the updating means based on the fitness of the geometric structure data. The updating by the updating unit and the calculation by the fitness calculating unit are repeated so that the fitness is maximized by the optimization unit, and the three-dimensional shape represented by the geometric structure data is output.

このように、点群データの複数の点を、CGA空間上に変換し、複数の点又は無限遠の基底の組み合わせを選択し外積を用いて結合して、3次元形状を表す幾何学構造データを作成し、点群データの点と幾何学構造データとの距離を内積演算により求めて、幾何学構造データの適応度を算出し、幾何学構造データの適応度に基づいて、幾何学構造データを更新し、適応度が最大化されるように、幾何学構造データの更新及び適応度の算出を繰り返して、幾何学構造データが表す3次元形状を出力することにより、簡易な処理で、3次元の点群データにおける3次元形状を解釈することができる。   In this way, a plurality of points of point cloud data are converted into CGA space, a combination of a plurality of points or infinite bases is selected and combined using an outer product, and geometric structure data representing a three-dimensional shape To calculate the fitness of the geometric structure data by calculating the distance between the point of the point cloud data and the geometric structure data by the inner product operation, and the geometric structure data based on the fitness of the geometric structure data And updating the geometric structure data and calculating the fitness so that the fitness is maximized, and outputting the three-dimensional shape represented by the geometric structure data. The three-dimensional shape in the three-dimensional point cloud data can be interpreted.

本発明に係る作成手段は、前記CGA空間上に変換された前記点群データの前記複数の点及び無限遠の基底の中から何れか3つ又は4つを遺伝子の組み合わせとして選択して、3つ又は4つの遺伝子の組み合わせを含む複数の染色体を作成し、各染色体について、前記染色体の遺伝子の組み合わせを外積を用いて結合して前記幾何学構造データを作成し、前記適応度算出手段は、前記複数の染色体の各々について、前記染色体の幾何学構造データの適応度を算出し、前記更新手段は、前記適応度算出手段によって算出された前記複数の染色体の各々の適応度に基づいて、前記染色体の2つを選択し、前記選択された2つの染色体の遺伝子を交叉させることにより、前記複数の染色体を更新するようにすることができる。このように、遺伝子アルゴリズムを用いて、3次元の点群データにおける3次元形状を精度よく解釈することができる。   The creating means according to the present invention selects any three or four of the plurality of points and the infinite base of the point cloud data transformed into the CGA space as a combination of genes, A plurality of chromosomes including a combination of four or four genes is created, and for each chromosome, the combination of the genes of the chromosome is combined using an outer product to create the geometric structure data, and the fitness calculation means includes: For each of the plurality of chromosomes, the fitness of the geometric structure data of the chromosome is calculated, and the updating means is based on the fitness of each of the plurality of chromosomes calculated by the fitness calculation means. The plurality of chromosomes can be updated by selecting two of the chromosomes and crossing the genes of the two selected chromosomes. In this way, the three-dimensional shape in the three-dimensional point cloud data can be accurately interpreted using the genetic algorithm.

上記の幾何学構造データは、選択された3つの点と無限遠の基底とからなる組み合わせを外積で結合した、平面を表す幾何学構造データ、選択された3つの点と、前記選択された3つの点に基づいて追加された点とからなる組み合わせを外積で結合した、曲面を表す幾何学構造データ、前記選択された3つの点について高さ成分が一致するように変更した3つの点からなる組み合わせを外積で結合した、円柱を表す幾何学構造データ、及び前記選択された2つの点と無限遠の基底とからなる組み合わせを外積で結合した、直線を表す幾何学構造データの何れかである。   The geometric structure data includes geometric structure data representing a plane obtained by combining a combination of the selected three points and an infinite base with an outer product, the selected three points, and the selected 3 Geometric structure data representing a curved surface obtained by combining combinations of points added based on two points with an outer product, and three points that are changed so that the height components of the selected three points match Geometric structure data representing a cylinder obtained by combining combinations by outer products, and geometric structure data representing straight lines obtained by combining combinations of the selected two points and an infinite base by outer products. .

本発明の適応度算出手段は、前記点群データの部分集合の点の各々について、前記点と前記作成手段によって作成された幾何学構造データとの距離を内積演算により求め、前記部分集合の点の各々について求められた前記距離に基づいて、前記幾何学構造データの適応度を算出し、前記適応度算出手段による算出が繰り返される度に異なるように前記部分集合が決定されるようにすることができる。これによって、計算量の増大を抑制して、3次元の点群データにおける3次元形状を解釈することができる。   The fitness calculation means of the present invention obtains the distance between the point and the geometric structure data created by the creation means for each of the points of the subset of the point cloud data, and calculates the points of the subset And calculating the fitness of the geometric structure data on the basis of the distance obtained for each of the parameters, and determining the subset to be different each time the calculation by the fitness calculation means is repeated. Can do. As a result, it is possible to interpret the three-dimensional shape in the three-dimensional point group data while suppressing an increase in the amount of calculation.

本発明に係る点群取得手段は、車両の周辺の3次元座標を持つ複数の点からなる点群データを取得し、前記最適化手段は、前記適応度が最大化されるように、前記更新手段による更新及び前記適応度算出手段による算出を繰り返して、前記車両の周辺に存在する前記幾何学構造データが表す3次元形状を出力するようにすることができる。   The point cloud acquisition means according to the present invention acquires point cloud data consisting of a plurality of points having three-dimensional coordinates around the vehicle, and the optimization means updates the update so that the fitness is maximized. The update by the means and the calculation by the fitness calculation means can be repeated to output a three-dimensional shape represented by the geometric structure data existing around the vehicle.

本発明に係る3次元形状解釈装置は、前記車両の位置情報を測位する測位手段を更に含み、前記点群データの各点の3次元座標は、前記測位手段によって測位された前記車両の位置情報を用いて求められる実座標系の3次元座標であるようにすることができる。   The three-dimensional shape interpretation apparatus according to the present invention further includes positioning means for positioning the position information of the vehicle, and the three-dimensional coordinates of each point of the point cloud data are the position information of the vehicle determined by the positioning means. The three-dimensional coordinates of the real coordinate system obtained using can be used.

上記の3次元形状解釈装置は、前記最適化手段によって出力された前記幾何学構造データが表す3次元形状を、地図上に登録する地図登録手段を更に含むようにすることができる。   The three-dimensional shape interpretation apparatus may further include a map registration unit that registers the three-dimensional shape represented by the geometric structure data output by the optimization unit on a map.

本発明に係る作成手段は、前記幾何学構造データを繰り返し作成し、前記最適化手段によって前回出力された前記幾何学構造データに含まれる前記点の組み合わせを除外した前記点群データの前記複数の点、及び無限遠の基底の中から何れか3つ又は4つからなる組み合わせを選択し、前記幾何学構造データを作成するようにすることができる。   The creation means according to the present invention repeatedly creates the geometric structure data, and the plurality of points of the point cloud data excluding the combination of the points included in the geometric structure data output last time by the optimization means. The geometric structure data can be generated by selecting any three or four combinations from the points and the base at infinity.

以上説明したように、本発明の3次元形状解釈装置及びプログラムによれば、点群データの複数の点を、CGA空間上に変換し、複数の点又は無限遠の基底の組み合わせを選択し外積を用いて結合して、3次元形状を表す幾何学構造データを作成し、点群データの点と幾何学構造データとの距離を内積演算により求めて、幾何学構造データの適応度を算出し、幾何学構造データの適応度に基づいて、幾何学構造データを更新し、適応度が最大化されるように、幾何学構造データの更新及び適応度の算出を繰り返して、幾何学構造データが表す3次元形状を出力することにより、簡易な処理で、3次元の点群データにおける3次元形状を解釈することができる、という効果が得られる。   As described above, according to the three-dimensional shape interpretation apparatus and program of the present invention, a plurality of points of point cloud data are converted on the CGA space, a combination of a plurality of points or infinite bases is selected, and the outer product is selected. Are used to create geometric structure data that represents a three-dimensional shape, and the distance between the point cloud data points and the geometric structure data is obtained by the inner product operation to calculate the fitness of the geometric structure data. The geometric structure data is updated based on the fitness of the geometric structure data, and the update of the geometric structure data and the calculation of the fitness are repeated so that the fitness is maximized. By outputting the three-dimensional shape to be expressed, it is possible to obtain an effect that the three-dimensional shape in the three-dimensional point cloud data can be interpreted with a simple process.

本発明の実施の形態に係る3次元形状解釈装置を示すブロック図である。It is a block diagram which shows the three-dimensional shape interpretation apparatus which concerns on embodiment of this invention. CGA空間を説明するための図である。It is a figure for demonstrating CGA space. 基底間の内積を説明するための図である。It is a figure for demonstrating the inner product between bases. (A)球を示す図、(B)平面を示す図、(C)円を示す図、及び(D)直線を示す図である。(A) A figure showing a sphere, (B) A figure showing a plane, (C) A figure showing a circle, and (D) A figure showing a straight line. 世代交代のときの処理を説明するための図である。It is a figure for demonstrating the process at the time of generation change. 本発明の実施の形態に係る3次元形状解釈装置における3次元形状解釈処理ルーチンの内容を示すフローチャートである。It is a flowchart which shows the content of the three-dimensional shape interpretation process routine in the three-dimensional shape interpretation apparatus which concerns on embodiment of this invention. (A)ステレオカメラにより入力された片方の画像の例を示す図、及び(B)構造物が登録された地図を表示した例を示す図である。(A) The figure which shows the example of the one image input with the stereo camera, (B) The figure which shows the example which displayed the map where the structure was registered.

以下、図面を参照して本発明の実施の形態を詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

図1に示すように、本発明の実施の形態に係る3次元形状解釈装置10は、道路領域を含む自車両前方を撮像して画像を出力する撮像装置12と、自車両位置を測定するGPSを含む測位装置14と、撮像装置12から得られる画像及び測位装置14による測位情報に基づいて、自車両前方の構造物の3次元形状を抽出し、地図データ上に登録する処理を実行するコンピュータ16と、を含んで構成されている。   As shown in FIG. 1, a three-dimensional shape interpretation apparatus 10 according to an embodiment of the present invention includes an imaging apparatus 12 that captures an image of the front of the host vehicle including a road area and outputs an image, and a GPS that measures the position of the host vehicle. A computer that executes a process of extracting the three-dimensional shape of the structure ahead of the host vehicle and registering it on the map data based on the positioning device 14 including the image obtained from the imaging device 12 and the positioning information by the positioning device 14 16.

撮像装置12は、車両に搭載され、道路領域を含む自車両前方を撮像してステレオ画像を出力する。撮像装置12は、自車両前方を撮像し、画像の画像信号を生成する2つの撮像部(図示省略)と、2つの撮像部で生成された画像信号をA/D変換するA/D変換部(図示省略)と、A/D変換された画像信号を一時的に格納するための画像メモリ(図示省略)とを備えている。撮像装置12は、撮像した2枚の画像を、ステレオ画像としてコンピュータ16に出力する。   The imaging device 12 is mounted on a vehicle, images the front of the host vehicle including a road area, and outputs a stereo image. The imaging device 12 captures the front of the host vehicle, generates two image signals (not shown), and an A / D conversion unit that A / D converts the image signals generated by the two imaging units. (Not shown) and an image memory (not shown) for temporarily storing the A / D converted image signal. The imaging device 12 outputs the two captured images to the computer 16 as stereo images.

測位装置14は、自車両に搭載されたGPS装置を用いて、実座標系における自車両の位置を測定し、測定結果をコンピュータ16に出力する。   The positioning device 14 measures the position of the host vehicle in the real coordinate system using a GPS device mounted on the host vehicle, and outputs the measurement result to the computer 16.

コンピュータ16は、CPUと、RAMと、後述する3次元形状解釈処理ルーチンを実行するためのプログラムを記憶したROMと、これらを接続するバスとを含んで構成されている。このコンピュータ16をハードウエアとソフトウエアとに基づいて定まる機能実現手段毎に分割した機能ブロックで説明すると、点群取得部18と、CGA変換部20と、染色体作成部22と、適応度算出部24と、最適化部26と、更新部28と、地図登録部30と、実座標系の道路平面を表わす地図データを記憶する記憶部32と、を含んだ構成で表すことができる。   The computer 16 includes a CPU, a RAM, a ROM that stores a program for executing a later-described three-dimensional shape interpretation processing routine, and a bus that connects these. When the computer 16 is described in terms of functional blocks divided for each function realization means determined based on hardware and software, a point cloud acquisition unit 18, a CGA conversion unit 20, a chromosome creation unit 22, a fitness calculation unit 24, the optimization part 26, the update part 28, the map registration part 30, and the memory | storage part 32 which memorize | stores the map data showing the road plane of a real coordinate system.

点群取得部18は、撮像装置12によって撮像されたステレオ画像から、エッジ点を抽出し、ステレオマッチングにより得られた視差から、撮像装置12を基準としたエッジ点の3次元位置を求める。また、点群取得部18は、所定の距離内の複数のフレームのステレオ画像について求められた複数の3次元点を、複数のフレームの各々に対応して測位装置14により得られた測位情報を用いて統合することにより、実空間上の3次元座標を持つ3次元点群を求める。   The point group acquisition unit 18 extracts edge points from the stereo image captured by the imaging device 12, and obtains the three-dimensional position of the edge points with reference to the imaging device 12 from the parallax obtained by stereo matching. In addition, the point cloud acquisition unit 18 obtains the positioning information obtained by the positioning device 14 corresponding to each of the plurality of frames from the plurality of three-dimensional points obtained for the stereo images of the plurality of frames within a predetermined distance. By using and integrating, a three-dimensional point group having three-dimensional coordinates in the real space is obtained.

なお、画像中のエッジ点は従来既知の手法を用いて抽出すればよく、例えば、Cannyのアルゴリズム等により抽出する。   Note that the edge points in the image may be extracted using a conventionally known method, for example, by the Canny algorithm.

また、撮像装置12を基準とした3次元点の位置は、キャリブレーションされたカメラを用い、以下の文献の方法により求めることができる。   Further, the position of the three-dimensional point with reference to the imaging device 12 can be obtained by a method described in the following document using a calibrated camera.

参考文献:M Bertozz,A Broggi,“Stereo inverse perspective mapping:theory and applications”,image Vis.Comput.,vol.8,no.16,pp.585−590,1998. References: M Bertozz, A Broggi, “Stereo Inverse Perspective Mapping: theory and applications”, image Vis. Comput. , Vol. 8, no. 16, pp. 585-590, 1998.

なお、ステレオカメラである撮像装置12の代わりに、レーザレーダを用いて、点群を取得してもよい。   Note that the point cloud may be acquired using a laser radar instead of the imaging device 12 which is a stereo camera.

CGA変換部20は、3次元点群の各点について、Conformal Geometric Algebra(CGA)空間に変換する。まず、3次元点(x、x、x)を3つの基底(e、e、e)を用いて以下の(1)式で表す。 The CGA conversion unit 20 converts each point of the three-dimensional point group into a conformational geometrical geometry (CGA) space. First, a three-dimensional point (x 1 , x 2 , x 3 ) is expressed by the following formula (1) using three bases (e 1 , e 2 , e 3 ).

そして、基底を2つ(e,eO)追加した5次元のCGA空間上で、3次元点群の各点は、以下の(2)式で表現される(図2参照)。 Then, each point of the three-dimensional point group is expressed by the following equation (2) on the five-dimensional CGA space to which two bases (e , e O ) are added (see FIG. 2).

変換後のCGA空間では、外積演算(Outer product)により点群を通る図形が求められ、内積演算(inner product)により図形間の距離が求められる、という利点がある。この性質を用いることで、点群への幾何学構造の当てはめが容易になる。   In the converted CGA space, there is an advantage that a figure passing through the point group is obtained by outer product calculation (Outer product), and a distance between figures is obtained by inner product calculation (inner product). By using this property, it is easy to fit a geometric structure to a point cloud.

Conformal Geometric Algebraの詳細は以下の文献に記述されている。   Details of the conformational geometry are described in the following documents.

参考文献:L.Dorst,D.Fontijne,and S.Mann,Geometric Algebra for Computer Science−An Object − oriented approach to Geometry(Elsevier−Morgan Kaufmann Publishers, San Francisco,2007)   Reference: Dorst, D.C. Fontijne, and S.M. Mann, Geometric Algebra for Computer Science-An Object-oriented approach to Geometry (Elsevier-Morgan Kaufmann Publishers, Sanco France 7)

ここで、CGA空間での内積演算、外積演算、及びデュアル演算について説明する。   Here, an inner product operation, an outer product operation, and a dual operation in the CGA space will be described.

まず、基底間の内積は、以下の(3)式で表される。   First, the inner product between bases is expressed by the following equation (3).

上記(3)式の内積演算を表で表わすと、図3のようになる。   The inner product operation of the above equation (3) is represented in a table as shown in FIG.

デュアル演算(*)は、以下の(4)式で表される。 The dual operation ( * ) is expressed by the following equation (4).

また、外積演算(∧)では、任意のCGA点 a, b, c とスカラーβに対し、以下の(5)式〜(9)式が成立する。   In the outer product calculation (演算), the following equations (5) to (9) are established for arbitrary CGA points a, b, c and scalar β.

また、CGA点 a, bの外積演算の結果と基底との内積は、以下の(10)式で表される。   Further, the inner product of the result of the outer product operation of the CGA points a and b and the base is expressed by the following equation (10).

CGA点に外積演算(∧)とデユアル演算(*)を適用することで、多様な図形を表現することが可能となる。 By applying the outer product operation (外) and the dual operation ( * ) to the CGA point, it becomes possible to express various figures.

例えば、図4(A)に示すように点P、P、P、Pを通る球は、以下の(11)式で表される。 For example, as shown in FIG. 4A, a sphere that passes through the points P 1 , P 2 , P 3 , and P 4 is represented by the following equation (11).

図4(B)に示すように、点P、P、P点を通る平面は以下の(12)式で表される。 As shown in FIG. 4B, the plane passing through the points P 1 , P 2 , and P 3 is expressed by the following equation (12).

図4(C)に示すように、点P、P、Pを通る円は以下の(13)式で表される。 As shown in FIG. 4C, a circle passing through the points P 1 , P 2 , and P 3 is expressed by the following equation (13).

図4(D)に示すように、点P、Pを通る直線は以下の(14)式で表される。 As shown in FIG. 4D, a straight line passing through the points P 1 and P 2 is expressed by the following equation (14).

染色体作成部22は、CGA空間上に変換された3次元点群と無限遠点に対応する基底eとを合わせた集合の中から、いずれか3つ又は4つを遺伝子として選択して、選択された遺伝子の組み合わせを含む染色体を複数作成し、各染色体について、染色体の遺伝子の点又は基底を外積により結合して、染色体が表わす幾何学構造を演算する。点のあらゆる組み合わせの中で最適な染色体を遺伝的アルゴリズムにより推定することで、3次元点群に当てはまる物体の3次元形状を推定することができる。 The chromosome creation unit 22 selects any three or four genes as a gene from the set of the three-dimensional point group transformed into the CGA space and the base e corresponding to the infinity point, A plurality of chromosomes including combinations of the selected genes are created, and for each chromosome, the points or bases of the chromosome genes are connected by an outer product to calculate the geometric structure represented by the chromosome. By estimating the optimal chromosome among all combinations of points using a genetic algorithm, it is possible to estimate the three-dimensional shape of an object that falls within a three-dimensional point group.

選択した遺伝子の組み合わせに応じて、物体(幾何学構造)の種類属性が(平面・曲面・円柱・直線)のいずれかから決まり、選択した遺伝子の外積演算及びデュアル演算により、当該種類属性の幾何学構造を演算する。当てはまる幾何学構造を得るための式は以下の表1にまとめられる。   Depending on the combination of selected genes, the type attribute of the object (geometric structure) is determined from one of (plane, curved surface, cylinder, straight line), and the geometric attribute of that type attribute is determined by the outer product operation and dual operation of the selected gene. Calculate the academic structure. The equations for obtaining the applicable geometric structure are summarized in Table 1 below.

選択した遺伝子の組み合わせが、表1の遺伝子の組み合わせに該当しない場合には、再度、3つ又は4つを遺伝子として選択する。   If the selected combination of genes does not correspond to the combination of genes in Table 1, three or four are again selected as genes.

また、一部の種類属性では、計算簡単化のための特別処置を施す。   For some types of attributes, special measures are taken to simplify calculation.

具体的には、曲面について、球により近似するものとし、3つの点Pに基づいて、球の中心が撮像装置12と同じ高さになるような制約を与える4つ目の点Pを追加し、外積演算及びデュアル演算により、幾何学構造を演算する。 Specifically, a curved surface is approximated by a sphere, and a fourth restriction that restricts the center of the sphere to be the same height as the imaging device 12 based on the three points P 1 P 2 P 3 . Add a point P 4, the outer product operation and dual operation, calculates the geometry.

円柱について、道路面と平行な円により近似するものとし、点Pと高さ成分xが一致するように点Pを鉛直方向に平行移動させた点P’P’を用い、外積演算及びデュアル演算により、幾何学構造を演算する。 The cylinder is approximated by a circle parallel to the road surface, and a point P ′ 2 P ′ 3 obtained by translating the point P 2 P 3 in the vertical direction so that the point P 1 and the height component x 2 coincide with each other is obtained. Used to calculate the geometric structure by outer product operation and dual operation.

曲面と円柱の区別は、遺伝子として選択された3つの点Pが所定の距離範囲内にあるかどうかにより区別される。このとき電柱の直径(40cm程度)を閾値とし、点Pの間の距離の最大値が、閾値以下である場合には、円柱であると区別し、点Pの間の距離の最大値が、閾値より大きい場合には、曲面であると区別する。 The curved surface and the cylinder are distinguished depending on whether or not the three points P 1 P 2 P 3 selected as genes are within a predetermined distance range. At this time, the diameter of the utility pole (about 40 cm) is set as a threshold value, and when the maximum value of the distance between the points P 1 P 2 P 3 is equal to or less than the threshold value, it is distinguished as a cylinder, and the point P 1 P 2 P When the maximum value of the distance between 3 is larger than the threshold, it is distinguished as a curved surface.

適応度算出部24は、染色体の幾何学構造が3次元点群に当てはまるかどうかを判定するために、染色体の幾何学構造と点との距離を内積(・)により求め、どれだけの点が当該幾何学構造と至近距離にあるかを以って、染色体の適応度とする。   The fitness calculation unit 24 calculates the distance between the geometric structure of the chromosome and the point by an inner product (·) in order to determine whether the geometric structure of the chromosome applies to the three-dimensional point cloud, and how many points are present. The fitness of a chromosome is determined by whether or not it is in close proximity to the geometric structure.

ただし、染色体の幾何学構造Sと点Pとの距離は以下の(15)式に従って計算される。   However, the distance between the geometric structure S of the chromosome and the point P is calculated according to the following equation (15).

なお、円柱は円として表現されているため、円と同じ平面上で点と円の距離を計算する。   Since the cylinder is expressed as a circle, the distance between the point and the circle is calculated on the same plane as the circle.

距離が所定の閾値以下となる点群(近傍点)の数Nを適応度とする。適応度を算出するとき、全ての点群との距離を求めると、点群の数と遺伝的アルゴリズムの世代交代数が多い場合に計算量が膨大となる。そこで、本実施の形態では、3次元点群の小規模な部分集合を定め、部分集合に含まれる点群に対し、近傍点数Nを求める。   The number N of point groups (neighboring points) whose distance is equal to or less than a predetermined threshold is defined as fitness. When calculating the fitness, the distance from all the point groups is calculated, and the amount of calculation becomes enormous when the number of point groups and the number of generational changes of the genetic algorithm are large. Therefore, in the present embodiment, a small subset of the three-dimensional point group is determined, and the number N of neighboring points is obtained for the point group included in the subset.

例えば、3次元点群の各点にインデクスを付与し、k番目の世代では、最適個体を取り出すまでの世代交代数Kでインデクスを割ったときの余りがkになる点のみを部分集合に含める。   For example, an index is assigned to each point of the three-dimensional point group, and in the k-th generation, only the points whose remainder is k when the index is divided by the generation alternation number K until the optimum individual is extracted are included in the subset. .

ただし、最適個体を取り出すK世代では、全ての3次元点群に対して近傍点数を求めて、適応度を計算する。   However, in the K generation for extracting the optimum individual, the number of neighbors is obtained for all three-dimensional point groups, and the fitness is calculated.

最適化部26は、適応度を最大化する染色体を遺伝的アルゴリズムに基づき求めることで、自車両前方の走路中の構造物の3次元形状を抽出する。   The optimization unit 26 extracts the three-dimensional shape of the structure on the road ahead of the host vehicle by obtaining a chromosome that maximizes the fitness based on a genetic algorithm.

具体的には、最適化部26は、図5に示すように、世代交代時に子孫を残す個体(染色体)を、個体集合(染色体の集合)から2つ選択する。個体の選択は適応度で重み付けしたルーレット選択により行う。   Specifically, as illustrated in FIG. 5, the optimization unit 26 selects two individuals (chromosomes) that leave offspring at the time of generation change from the individual set (chromosome set). Individuals are selected by roulette selection weighted by fitness.

更新部28は、上記図5に示すように、選択された2つの染色体の遺伝子(点および種類属性)を交叉させる。このとき、新たに生成される次世代の染色体において、4つの遺伝子の何れかが重複しないように交叉を行う。世代交代時に所定の低い確率で突然変異を行い、選択された染色体の一部の遺伝子を乱数で初期化することも有効である。   The update unit 28 crosses the genes (point and type attributes) of the two selected chromosomes as shown in FIG. At this time, crossover is performed so that any one of the four genes does not overlap in the next-generation chromosome to be newly generated. It is also effective to perform mutation with a predetermined low probability at the time of generation change and initialize a part of genes of the selected chromosome with random numbers.

最適化部26は、所定回数Kだけ世代交代させた場合には、各染色体の適応度に基づいて、適応度が最大となる最適個体(染色体)を抽出し、抽出された染色体の幾何学構造を、自車両前方の走路の構造物の3次元形状とする。対象範囲内に複数の構造物が含まれている可能性があるので、最適個体を取り出した後、染色体作成部22の処理へ戻り、上記の処理を繰り返す。そのたびに、取り出した最適個体が表す幾何学構造に含まれる点群(当該幾何学構造との距離が閾値以下の点群)を除外していき、いずれの幾何学構造の解釈にも含まれない点群が十分少なくなったときに処理を中断する。最適個体の近傍点数が所定の閾値を下回った場合も処理を中断する。   When the generation unit is changed a predetermined number of times K, the optimization unit 26 extracts the optimum individual (chromosome) having the maximum fitness based on the fitness of each chromosome, and the geometric structure of the extracted chromosome Is the three-dimensional shape of the structure of the runway ahead of the host vehicle. Since there is a possibility that a plurality of structures are included in the target range, after retrieving the optimum individual, the process returns to the process of the chromosome creation unit 22 and the above process is repeated. Each time, the point group included in the geometric structure represented by the extracted optimum individual (point group whose distance from the geometric structure is below the threshold value) is excluded, and is included in the interpretation of any geometric structure. Processing is interrupted when there are not enough point clouds. The process is also interrupted when the number of points near the optimum individual falls below a predetermined threshold.

最適化部26の結果として得られた最適個体群は、平面・曲面・円柱・直線のいずれかの構造物を表す。   The optimal population obtained as a result of the optimization unit 26 represents a structure of any one of a plane, a curved surface, a cylinder, and a straight line.

平面はガードレールや壁のみならず、道路平面や歩道平面も含まれる。特に道路平面は点の絶対数が多いため、他の構造物よりも先に抽出される場合が多い。   Planes include not only guardrails and walls, but also road and sidewalk planes. In particular, since the road plane has a large absolute number of points, it is often extracted before other structures.

ガードレールと縁石は、道路平面を基準とした近傍点の高さ分布をもとに区別することができる。近傍点の高さの最頻値が所定の閾値を上回る場合、ガードレールと判断し、そうでない場合、縁石と判断する。   Guardrails and curbs can be distinguished based on the height distribution of neighboring points with reference to the road plane. When the mode value of the height of the neighboring points exceeds a predetermined threshold value, it is determined as a guardrail, otherwise it is determined as a curbstone.

地図登録部30は、上記のように構造物の種別を判断すると共に、当該構造物を、記憶部32に記憶されている地図データ上に、構造物の種別と共に登録する。このとき、最適個体を構成する遺伝子(点群)を地図データ上に登録してもよく、一般的な図形の方程式に変換して登録してもよい。いずれの場合も解釈結果を地図データ上に登録し、後処理で利用することができる。   The map registration unit 30 determines the type of the structure as described above, and registers the structure together with the type of the structure on the map data stored in the storage unit 32. At this time, genes (point groups) constituting the optimum individual may be registered on the map data, or may be registered after being converted into general graphic equations. In either case, the interpretation result can be registered on the map data and used in post-processing.

次に、本発明の実施の形態に係る3次元形状解釈装置10の作用について説明する。まず、撮像装置12によって、自車両前方の撮像が開始されると共に、測位装置14によって、自車両の位置が随時測定されると、コンピュータ16において、図6に示す3次元形状解釈処理ルーチンが繰り返し実行される。   Next, the operation of the three-dimensional shape interpretation apparatus 10 according to the embodiment of the present invention will be described. First, when imaging of the front of the host vehicle is started by the imaging device 12 and the position of the host vehicle is measured as needed by the positioning device 14, the three-dimensional shape interpretation processing routine shown in FIG. Executed.

ステップ100で、測位装置14で得られた所定の距離範囲分の測位情報、及び撮像装置12で撮像された同一の距離範囲分の複数のフレームのステレオ画像を取得する。   In step 100, positioning information for a predetermined distance range obtained by the positioning device 14 and stereo images of a plurality of frames for the same distance range captured by the imaging device 12 are acquired.

次に、ステップ102で、上記ステップ100で取得した各フレームのステレオ画像から、エッジ点を抽出する。ステップ104では、上記ステップ102で抽出した各フレームのステレオ画像のエッジ点群の各点について3次元位置を求めると共に、上記ステップ100で取得した測位情報を用いて、各フレームのエッジ点群を統合して、3次元点群とする。   Next, in step 102, edge points are extracted from the stereo image of each frame acquired in step 100. In step 104, a three-dimensional position is obtained for each point of the edge point group of the stereo image of each frame extracted in step 102, and the edge point group of each frame is integrated using the positioning information acquired in step 100. A three-dimensional point group is obtained.

そして、ステップ106において、上記(1)式、(2)式に従って、上記ステップ104で得られた3次元点群の各点を、CGA空間へ変換する。ステップ108では、世代を示す変数kを初期値である1に設定する。   In step 106, each point of the three-dimensional point group obtained in step 104 is converted into a CGA space according to the equations (1) and (2). In step 108, the variable k indicating the generation is set to 1, which is an initial value.

次のステップ110では、CGA空間に変換された3次元点群及び基底e∞から、3つ又は4つの遺伝子を選択し、物体の種類属性に応じた遺伝子の組み合わせからなる染色体を所定個作成する。そして、各染色体について、遺伝子である点または基底を外積で結合し、デュアル演算を行うことにより、幾何学構造を得るための式を演算する。   In the next step 110, three or four genes are selected from the three-dimensional point cloud converted to the CGA space and the base e∞, and a predetermined number of chromosomes made up of gene combinations corresponding to the type attribute of the object are created. . Then, for each chromosome, a point or base that is a gene is connected by an outer product and a dual operation is performed to calculate an expression for obtaining a geometric structure.

ステップ112では、世代kに基づいて3次元点群の部分集合を決定し、上記ステップ110で作成した各染色体について、上記(15)式に従って、決定した部分集合の各点との距離を算出し、距離が閾値以下となる点の数を、適応度として求める。なお、世代がKである場合には、3次元点群の全ての点を対象として、適応度を求めるようにする。   In step 112, a subset of the three-dimensional point group is determined based on the generation k, and the distance from each point of the determined subset is calculated for each chromosome created in step 110 according to the above equation (15). The number of points at which the distance is less than or equal to the threshold is obtained as fitness. When the generation is K, the fitness is obtained for all points in the three-dimensional point group.

次のステップ114では、kが、最適個体を抽出するための世代交代数K未満であるか否かを判定する。kがK未満である場合には、ステップ116において、kを1だけインクリメントする。ステップ118では、上記ステップ112で算出した適応度に基づいて、2つの染色体を選択し、選択された2つの染色体の遺伝子を交叉させて、所定個の染色体を更新する。そして、各染色体について、遺伝子である点または基底を外積で結合し、デュアル演算を行うことにより、幾何学構造を得るための式を演算し、上記ステップ112へ戻る。   In the next step 114, it is determined whether or not k is less than the generational change number K for extracting the optimum individual. If k is less than K, in step 116, k is incremented by one. In step 118, two chromosomes are selected based on the fitness calculated in step 112, and the genes of the two selected chromosomes are crossed to update a predetermined number of chromosomes. Then, for each chromosome, the points or bases that are genes are connected by an outer product and a dual operation is performed to calculate an equation for obtaining a geometric structure, and the process returns to step 112 above.

一方、kがKに到達した場合には、ステップ120へ進み、上記ステップ112で算出した適応度に基づいて、最適個体となる染色体を抽出する。また、3次元点群から、抽出された染色体の幾何学構造に含まれる点群を求め、求められた点群を3次元点群から除外する。   On the other hand, when k reaches K, the process proceeds to step 120, and the chromosome that is the optimum individual is extracted based on the fitness calculated in step 112. Further, a point group included in the extracted geometric structure of the chromosome is obtained from the three-dimensional point group, and the obtained point group is excluded from the three-dimensional point group.

ステップ122では、遺伝子アルゴリズムの処理を中断するか否かを判定する。処理を中断しない場合には、上記ステップ108へ戻る。一方、処理を中断する場合には、ステップ124において、上記ステップ120で抽出された各最適個体の染色体の幾何学構造について、構造物の種別を判断し、当該幾何学構造(3次元形状の方程式又は3次元形状を構成する点群)を構造物の種別と共に地図データ上に登録して、3次元形状解釈処理ルーチンを終了する。   In step 122, it is determined whether or not to interrupt the genetic algorithm processing. If the process is not interrupted, the process returns to step 108 above. On the other hand, when the process is interrupted, in step 124, the type of structure is determined for the geometric structure of the chromosome of each optimal individual extracted in step 120, and the geometric structure (three-dimensional shape equation) is determined. Alternatively, the point cloud constituting the three-dimensional shape) is registered on the map data together with the type of the structure, and the three-dimensional shape interpretation processing routine is terminated.

たとえば、図7(A)に示すようなステレオ画像が入力された場合には、図7(B)に示すように、抽出された幾何学構造が地図データ上に登録される。   For example, when a stereo image as shown in FIG. 7A is input, as shown in FIG. 7B, the extracted geometric structure is registered on the map data.

以上説明したように、本発明の実施の形態の3次元形状解釈装置によれば、ステレオ画像から取得した3次元点群の各点を、CGA空間上に変換し、複数の点又は無限遠の基底を遺伝子として選択して染色体を作成し、染色体の遺伝子を外積を用いて結合し、かつ、デュアル演算を行って、3次元形状を表す幾何学構造を演算し、3次元点群の点と幾何学構造との距離を内積演算により求めて、染色体の適応度を算出し、染色体の適応度に基づいて、染色体の世代交代を行って更新し、適応度が最大化されるように、染色体の世代交代及び適応度の算出を繰り返して、適応度が最大となる染色体の幾何学構造が表す3次元形状を出力することにより、簡易な処理で、3次元点群における3次元形状を解釈することができる。   As described above, according to the three-dimensional shape interpretation apparatus of the embodiment of the present invention, each point of the three-dimensional point group acquired from the stereo image is converted into the CGA space, and a plurality of points or infinity is obtained. Select a base as a gene to create a chromosome, combine the genes of the chromosome using a cross product, and perform a dual operation to calculate a geometric structure that represents a 3D shape, Find the distance from the geometric structure by inner product calculation, calculate the fitness of the chromosome, update the chromosome by changing the generation of the chromosome based on the fitness of the chromosome, and maximize the fitness By repeating the generation change and the calculation of fitness, and outputting the 3D shape represented by the geometric structure of the chromosome with the maximum fitness, the 3D shape in the 3D point cloud can be interpreted with simple processing. be able to.

また、ステレオ画像から得られた3次元点群をConformal Geometric Algebra空間に射影すると、平面や曲面など異なる形状の物体を同一形式で表すことができるため、電柱やガードレールなど異種形状の物体が混在する環境下においても、物体抽出や形状分類が容易に行える。Conformal Geometric Algebra空間では、点群から物体を抽出する処理を、点群(または基底)の外積演算を用い単純に記述できるため、画一的な最適化処理の枠組みにより物体抽出できる。従って、測位情報とステレオ画像により得た3次元点群から簡易な処理で道路上の物理境界(ガードレール・縁石・電柱)を解析できる。また、最適化処理を反復するたけで、走路の3次元構造(道路平面、歩道平面、ガードレール、縁石、電柱)が順次抽出され、地図上に登録することができる。   In addition, when a 3D point cloud obtained from stereo images is projected onto the Conformal Geometric Algebra space, objects of different shapes such as planes and curved surfaces can be represented in the same format, so objects of different shapes such as utility poles and guardrails are mixed. Even in the environment, object extraction and shape classification can be performed easily. In the Conformal Geometric Algebra space, the process of extracting an object from a point cloud can be simply described using a point cloud (or basis) outer product operation, so that the object can be extracted by a uniform optimization framework. Therefore, a physical boundary (guardrail, curbstone, utility pole) on the road can be analyzed by simple processing from the three-dimensional point group obtained from the positioning information and the stereo image. Further, only by repeating the optimization process, the three-dimensional structure of the runway (road plane, sidewalk plane, guardrail, curb, utility pole) can be sequentially extracted and registered on the map.

また、走路が直線か曲線か(曲率等)の知識が、最適化の結果により得ることができるため、走路形状に関する事前知識やモデルを必要としない。   In addition, since knowledge about whether the road is a straight line or a curve (curvature, etc.) can be obtained from the optimization result, no prior knowledge or model regarding the road shape is required.

また、従来技術における5次元のCGA空間では、点・球・平面を以下の共通式により表現できる。   Further, in the five-dimensional CGA space in the prior art, points, spheres, and planes can be expressed by the following common formula.

上記の非特許文献3では、上式の5つの係数(x、x、x、x、x)を最小二乗法により推定することで、球または平面の自動分類を試みている。しかし、非特許文献3の技術では、球と平面以外の物体は、高次の係数(例:e∧e)を考慮しなければならず、この方式で扱うことはできない、という問題がある。また、最小二乗法は外れ値の影響を受けやすいという問題がある。ステレオの3次元点群はノイズを多く含むため、ノイズを適切に除去しない限り形状分類を誤る可能性がある。 In the above Non-Patent Document 3, an attempt is made to automatically classify a sphere or a plane by estimating the five coefficients (x 1 , x 2 , x 3 , x , x O ) of the above equation by the least square method. . However, the technique of Non-Patent Document 3 has a problem that an object other than a sphere and a plane must take into account a higher-order coefficient (eg, e 1 ∧e 2 ) and cannot be handled in this manner. is there. Further, the least square method has a problem that it is easily influenced by an outlier. Since the stereo three-dimensional point group includes a lot of noise, there is a possibility that the shape classification is erroneous unless the noise is appropriately removed.

一方、本実施の形態では、係数推定の必要がなく、少数の点のみから物体を定めることができる。   On the other hand, in this embodiment, there is no need for coefficient estimation, and an object can be determined from only a small number of points.

なお、上記の実施の形態では、3次元形状解釈装置を車両に搭載した場合を例に説明したが、これに限定されるものではなく、車両以外のもの、例えばロボットに搭載してもよい。   In the above embodiment, the case where the three-dimensional shape interpretation device is mounted on a vehicle has been described as an example. However, the present invention is not limited to this, and may be mounted on a device other than the vehicle, for example, a robot.

また、遺伝的アルゴリズムを用いて、最適な幾何学構造を求める場合を例に説明したが、遺伝的アルゴリズム以外の方法を用いて、幾何学構造を3次元点群に当てはめ、最適な幾何学構造を求めるようにしてもよい。   In addition, the case where an optimal geometric structure is obtained using a genetic algorithm has been described as an example. However, by using a method other than the genetic algorithm, the geometric structure is applied to a three-dimensional point group to obtain an optimal geometric structure. May be requested.

本発明のプログラムは、記憶媒体に格納して提供するようにしてもよい。   The program of the present invention may be provided by being stored in a storage medium.

10 3次元形状解釈装置
12 撮像装置
14 測位装置
16 コンピュータ
18 点群取得部
20 CGA変換部
22 染色体作成部
24 適応度算出部
26 最適化部
28 更新部
30 地図登録部
DESCRIPTION OF SYMBOLS 10 3D shape interpretation apparatus 12 Imaging device 14 Positioning apparatus 16 Computer 18 Point cloud acquisition part 20 CGA conversion part 22 Chromosome preparation part 24 Fitness calculation part 26 Optimization part 28 Update part 30 Map registration part

Claims (9)

3次元座標を持つ複数の点からなる点群データを取得する点群取得手段と、
前記点群データの前記複数の点を、CGA(Conformal Geometric Algebra)空間上に変換する空間変換手段と、
前記CGA空間上に変換された前記点群データの前記複数の点及び無限遠の基底の中から何れか3つ又は4つからなる組み合わせを選択し、前記選択した組み合わせを外積を用いて結合して、予め定められた複数種類の3次元形状の何れかを表す幾何学構造データを作成する作成手段と、
前記CGA空間上に変換された前記点群データの前記複数の点の各々について、前記点と前記作成手段によって作成された幾何学構造データとの距離を内積演算により求め、前記複数の点の各々について求められた前記距離に基づいて、前記幾何学構造データの適応度を算出する適応度算出手段と、
前記幾何学構造データの適応度に基づいて、前記幾何学構造データに含まれる前記組み合わせを更新する更新手段と、
前記適応度が最大化されるように、前記更新手段による更新及び前記適応度算出手段による算出を繰り返して、前記幾何学構造データが表す3次元形状を出力する最適化手段と、
を含む3次元形状解釈装置。
Point cloud acquisition means for acquiring point cloud data consisting of a plurality of points having three-dimensional coordinates;
Space conversion means for converting the plurality of points of the point cloud data into a CGA (Conformational Geometric Algebra) space;
A combination consisting of any three or four of the plurality of points and the infinity base of the point cloud data transformed onto the CGA space is selected, and the selected combination is combined using an outer product. Creating means for creating geometric structure data representing any of a plurality of predetermined three-dimensional shapes;
For each of the plurality of points of the point cloud data converted on the CGA space, a distance between the point and the geometric structure data created by the creation means is obtained by inner product calculation, and each of the plurality of points Fitness calculation means for calculating the fitness of the geometric structure data based on the distance determined for
Updating means for updating the combination included in the geometric structure data based on the fitness of the geometric structure data;
Optimization means for repeating the update by the update means and the calculation by the fitness calculation means so as to maximize the fitness, and outputting a three-dimensional shape represented by the geometric structure data;
A three-dimensional shape interpretation apparatus.
前記作成手段は、前記CGA空間上に変換された前記点群データの前記複数の点及び無限遠の基底の中から何れか3つ又は4つを遺伝子の組み合わせとして選択して、3つ又は4つの遺伝子の組み合わせを含む複数の染色体を作成し、各染色体について、前記染色体の遺伝子の組み合わせを外積を用いて結合して前記幾何学構造データを作成し、
前記適応度算出手段は、前記複数の染色体の各々について、前記染色体の幾何学構造データの適応度を算出し、
前記更新手段は、前記適応度算出手段によって算出された前記複数の染色体の各々の適応度に基づいて、前記染色体の2つを選択し、前記選択された2つの染色体の遺伝子を交叉させることにより、前記複数の染色体を更新する請求項1記載の3次元形状解釈装置。
The creation means selects any three or four of the plurality of points and the infinite base of the point cloud data converted on the CGA space as a combination of genes, and the three or four A plurality of chromosomes including a combination of two genes is created, and for each chromosome, the combination of the genes of the chromosome is combined using an outer product to create the geometric structure data,
The fitness calculation means calculates the fitness of the geometric structure data of the chromosome for each of the plurality of chromosomes,
The update means selects two of the chromosomes based on the fitness of each of the plurality of chromosomes calculated by the fitness calculation means, and crosses the genes of the selected two chromosomes. The three-dimensional shape interpretation apparatus according to claim 1, wherein the plurality of chromosomes are updated.
前記幾何学構造データは、選択された3つの点と無限遠の基底とからなる組み合わせを外積で結合した、平面を表す幾何学構造データ、選択された3つの点と、前記選択された3つの点に基づいて追加された点とからなる組み合わせを外積で結合した、曲面を表す幾何学構造データ、前記選択された3つの点について高さ成分が一致するように変更した3つの点からなる組み合わせを外積で結合した、円柱を表す幾何学構造データ、及び前記選択された2つの点と無限遠の基底とからなる組み合わせを外積で結合した、直線を表す幾何学構造データの何れかである請求項1又は2記載の3次元形状解釈装置。   The geometric structure data is obtained by combining a combination of three selected points and a base at infinity with a cross product, a geometric structure data representing a plane, the selected three points, and the selected three points. Geometric structure data representing a curved surface, which is a combination of points added based on points, and a combination of three points that have been modified so that the height components of the three selected points match. Or a geometric structure data representing a straight line obtained by combining a combination of the selected two points and an infinite base with an outer product. Item 3. The three-dimensional shape interpretation apparatus according to item 1 or 2. 前記適応度算出手段は、前記点群データの部分集合の点の各々について、前記点と前記作成手段によって作成された幾何学構造データとの距離を内積演算により求め、前記部分集合の点の各々について求められた前記距離に基づいて、前記幾何学構造データの適応度を算出し、
前記適応度算出手段による算出が繰り返される度に異なるように前記部分集合が決定される請求項1〜請求項3の何れか1項記載の3次元形状解釈装置。
The fitness calculation means obtains a distance between the point and the geometric structure data created by the creation means for each of the points of the subset of the point cloud data by an inner product operation, and each of the points of the subset Calculating the fitness of the geometric structure data based on the distance obtained for
The three-dimensional shape interpretation apparatus according to any one of claims 1 to 3, wherein the subset is determined so as to be different each time the calculation by the fitness calculation means is repeated.
前記点群取得手段は、車両の周辺の3次元座標を持つ複数の点からなる点群データを取得し、
前記最適化手段は、前記適応度が最大化されるように、前記更新手段による更新及び前記適応度算出手段による算出を繰り返して、前記車両の周辺に存在する前記幾何学構造データが表す3次元形状を出力する請求項1〜請求項4の何れか1項記載の3次元形状解釈装置。
The point cloud acquisition means acquires point cloud data consisting of a plurality of points having three-dimensional coordinates around the vehicle,
The optimization means repeats the update by the update means and the calculation by the fitness calculation means so that the fitness is maximized, and the three-dimensional representation represented by the geometric structure data existing around the vehicle. The three-dimensional shape interpretation apparatus according to any one of claims 1 to 4, which outputs a shape.
前記車両の位置情報を測位する測位手段を更に含み、
前記点群データの各点の3次元座標は、前記測位手段によって測位された前記車両の位置情報を用いて求められる実座標系の3次元座標である請求項5記載の3次元形状解釈装置。
It further includes positioning means for positioning the vehicle position information,
6. The three-dimensional shape interpretation apparatus according to claim 5, wherein the three-dimensional coordinates of each point of the point group data are three-dimensional coordinates in an actual coordinate system obtained using position information of the vehicle measured by the positioning means.
前記最適化手段によって出力された前記幾何学構造データが表す3次元形状を、地図上に登録する地図登録手段を更に含む請求項6記載の3次元形状解釈装置。   The three-dimensional shape interpretation apparatus according to claim 6, further comprising a map registration unit that registers a three-dimensional shape represented by the geometric structure data output by the optimization unit on a map. 前記作成手段は、前記幾何学構造データを繰り返し作成し、
前記最適化手段によって前回出力された前記幾何学構造データに含まれる前記点の組み合わせを除外した前記点群データの前記複数の点、及び無限遠の基底の中から何れか3つ又は4つからなる組み合わせを選択し、前記幾何学構造データを作成する請求項1〜請求項7の何れか1項の記載の3次元形状解釈装置。
The creation means repeatedly creates the geometric structure data,
From any of the plurality of points of the point group data excluding the combination of the points included in the geometric structure data output last time by the optimization means, and three or four of the infinite bases The three-dimensional shape interpretation apparatus according to any one of claims 1 to 7, wherein the combination is selected and the geometric structure data is created.
コンピュータを、
3次元座標を持つ複数の点からなる点群データを取得する点群取得手段、
前記点群データの前記複数の点を、CGA(Conformal Geometric Algebra)空間上に変換する空間変換手段、
前記CGA空間上に変換された前記点群データの前記複数の点及び無限遠の基底の中から何れか3つ又は4つからなる組み合わせを選択し、前記選択した組み合わせを外積を用いて結合して、予め定められた複数種類の3次元形状の何れかを表す幾何学構造データを作成する作成手段、
前記CGA空間上に変換された前記点群データの前記複数の点の各々について、前記点と前記作成手段によって作成された幾何学構造データとの距離を内積演算により求め、前記複数の点の各々について求められた前記距離に基づいて、前記幾何学構造データの適応度を算出する適応度算出手段、
前記幾何学構造データの適応度に基づいて、前記幾何学構造データに含まれる前記組み合わせを更新する更新手段、及び
前記適応度が最大化されるように、前記更新手段による更新及び前記適応度算出手段による算出を繰り返して、前記幾何学構造データが表す3次元形状を出力する最適化手段
として機能させるためのプログラム。
Computer
Point cloud acquisition means for acquiring point cloud data consisting of a plurality of points having three-dimensional coordinates;
Space conversion means for converting the plurality of points of the point cloud data onto a CGA (Conformational Geometric Algebra) space;
A combination consisting of any three or four of the plurality of points and the infinity base of the point cloud data transformed onto the CGA space is selected, and the selected combination is combined using an outer product. Creating means for creating geometric structure data representing any of a plurality of predetermined three-dimensional shapes,
For each of the plurality of points of the point cloud data converted on the CGA space, a distance between the point and the geometric structure data created by the creation means is obtained by inner product calculation, and each of the plurality of points Fitness calculation means for calculating the fitness of the geometric structure data based on the distance determined for
Update means for updating the combination included in the geometric structure data based on the fitness of the geometric structure data, and update by the update means and calculation of the fitness so that the fitness is maximized A program for functioning as an optimization unit that repeatedly calculates by means and outputs a three-dimensional shape represented by the geometric structure data.
JP2012180610A 2012-08-16 2012-08-16 Three-dimensional shape interpretation apparatus and program Expired - Fee Related JP5928240B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012180610A JP5928240B2 (en) 2012-08-16 2012-08-16 Three-dimensional shape interpretation apparatus and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012180610A JP5928240B2 (en) 2012-08-16 2012-08-16 Three-dimensional shape interpretation apparatus and program

Publications (2)

Publication Number Publication Date
JP2014038495A JP2014038495A (en) 2014-02-27
JP5928240B2 true JP5928240B2 (en) 2016-06-01

Family

ID=50286591

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012180610A Expired - Fee Related JP5928240B2 (en) 2012-08-16 2012-08-16 Three-dimensional shape interpretation apparatus and program

Country Status (1)

Country Link
JP (1) JP5928240B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101755665B1 (en) * 2016-12-30 2017-07-11 공간정보기술 주식회사 System of point cloud bundler in 3D image information with stereo matching technology
CN110426043B (en) * 2019-08-06 2021-06-29 中国人民解放军陆军工程大学 Unmanned aerial vehicle reconnaissance flight path planning method facing line target
WO2024075572A1 (en) * 2022-10-06 2024-04-11 ダイナミックマッププラットフォーム株式会社 Information processing method, program, information processing device, and data structure

Also Published As

Publication number Publication date
JP2014038495A (en) 2014-02-27

Similar Documents

Publication Publication Date Title
US11145073B2 (en) Computer vision systems and methods for detecting and modeling features of structures in images
JP6745328B2 (en) Method and apparatus for recovering point cloud data
CN109034077B (en) Three-dimensional point cloud marking method and device based on multi-scale feature learning
Xiao et al. Three-dimensional point cloud plane segmentation in both structured and unstructured environments
JP5430456B2 (en) Geometric feature extraction device, geometric feature extraction method, program, three-dimensional measurement device, object recognition device
JP6143893B2 (en) Fitting a primitive shape to a set of 3D points
CN109584294B (en) Pavement point cloud extraction method and device based on laser point cloud
KR20190082062A (en) Method and apparatus for determining a matching relationship between point cloud data
CN105046710A (en) Depth image partitioning and agent geometry based virtual and real collision interaction method and apparatus
JP2013257876A (en) Road surface detection method and road surface detection device
CN110363771B (en) Isolation guardrail shape point extraction method and device based on three-dimensional point cloud data
EP3980969A1 (en) Cross-modal sensor data alignment
CN114724120A (en) Vehicle target detection method and system based on radar vision semantic segmentation adaptive fusion
Song et al. Extraction and reconstruction of curved surface buildings by contour clustering using airborne LiDAR data
CN111931790A (en) Laser point cloud extraction method and device
CN114120067A (en) Object identification method, device, equipment and medium
JP5928240B2 (en) Three-dimensional shape interpretation apparatus and program
CN106846382A (en) A kind of image registration object detection method based on histogram control point
CN114358133B (en) Method for detecting looped frames based on semantic-assisted binocular vision SLAM
CN115147798A (en) Method, model and device for predicting travelable area and vehicle
CN115100741A (en) Point cloud pedestrian distance risk detection method, system, equipment and medium
Kustra et al. Robust segmentation of multiple intersecting manifolds from unoriented noisy point clouds
CN115018999A (en) Multi-robot-cooperation dense point cloud map construction method and device
CN112507891A (en) Method and device for automatically identifying high-speed intersection and constructing intersection vector
CN116704029A (en) Dense object semantic map construction method and device, storage medium and electronic equipment

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150428

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160317

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160411

R150 Certificate of patent or registration of utility model

Ref document number: 5928240

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees