JP2022157660A - 点群情報処理装置、点群情報処理方法、点群情報処理プログラム - Google Patents
点群情報処理装置、点群情報処理方法、点群情報処理プログラム Download PDFInfo
- Publication number
- JP2022157660A JP2022157660A JP2021062011A JP2021062011A JP2022157660A JP 2022157660 A JP2022157660 A JP 2022157660A JP 2021062011 A JP2021062011 A JP 2021062011A JP 2021062011 A JP2021062011 A JP 2021062011A JP 2022157660 A JP2022157660 A JP 2022157660A
- Authority
- JP
- Japan
- Prior art keywords
- information
- point cloud
- labeled
- point
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 60
- 238000003672 processing method Methods 0.000 title claims description 4
- 230000010354 integration Effects 0.000 claims abstract description 41
- 238000002372 labelling Methods 0.000 claims abstract description 26
- 238000010191 image analysis Methods 0.000 claims description 36
- 238000005070 sampling Methods 0.000 claims description 31
- 230000002708 enhancing effect Effects 0.000 abstract 1
- 238000012545 processing Methods 0.000 description 32
- 238000004458 analytical method Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 16
- 238000003384 imaging method Methods 0.000 description 15
- 230000011218 segmentation Effects 0.000 description 12
- 238000000034 method Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 238000005259 measurement Methods 0.000 description 5
- 230000000295 complement effect Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 238000012937 correction Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000015654 memory Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Abstract
Description
本発明は、点群情報の処理技術に関するものである。
測量対象物の3次元データを取得する測量装置としてレーザスキャナが知られている。レーザスキャナは測距光であるレーザ光を走査(スキャン)して、測量対象物の点群情報を取得する。点群情報は、対象物を点の集合として捉えたもので、各点の位置情報(三次元座標)を含むデータである。
点群情報は、レーザスキャナの視点から影(死角)となる部分は得られない。これをオクルージョンという。よって、オクルージョンのない三次元モデルを作成する場合、複数の異なる視点から点群を取得し、それを統合する。この際、異なる視点から取得した点群同士をマッチングさせる作業が必要となる。
これに対し、計測された点群データに基づいて、対象物に相当する点群を自動で抽出し、同一の形状属性を持つ点群同士のみでマッチングを行うことで点群の位置合わせ(レジストレーションとも言う)を支援する物体認識装置が開示されている(特許文献1参照)。
しかし、特許文献1のように点群データのみに基づいて測量対象物に相当する点群を抽出する方法では、厚みのない壁のように点群の特徴量が少ない物体や、風でなびく木の葉のような物体や自動車等の移動体に相当する点群が含まれている場合には位置合わせがうまくできないという問題がある。
本発明はこのような問題点を解決するためになされたもので、その目的とするところは、測量装置を用いて複数の異なる視点から画像情報及び点群情報を用いて、複数の点群情報の位置合わせにおけるロバスト性を向上させることができる点群情報処理装置、点群情報処理方法及び点群情報処理プログラムを提供するものである。
上記した目的を達成するために、本発明に係る点群情報処理装置は、第1の視点から撮像された第1の画像情報、及び、第2の視点から撮像された第2の画像情報をそれぞれ解析して、各画像内における異なる領域を認識し、各領域にラベル付けを行い、第1のラベル付き画像情報及び第2のラベル付き画像情報を生成する画像解析部と、前記第1の視点からスキャンされた位置情報を含む点の群からなる第1の点群情報、及び前記第2の視点からスキャンされた位置情報を含む点の群からなる第2の点群情報を取得し、前記第1の点群情報の各点に対して当該各点の位置情報に基づき前記第1のラベル付き画像情報において対応する領域のラベルを付与して第1のラベル付き点群情報を生成し、且つ、前記2の点群情報の各点に対して当該各点の位置情報に基づき前記第2のラベル付き画像情報において対応する領域のラベルを付与して第2のラベル付き点群情報を生成する点群ラベル付与部と、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において共通するラベルを用いて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行う点群統合部と、を備える。
また、上記点群情報処理装置として、前記点群統合部は、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において共通するラベルが付与された点群に対してランダムサンプリングを行い、ランダムサンプリングされた点群の位置情報に基づいて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行ってもよい。
また、上記点群情報処理装置として、前記点群統合部は、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において前記ラベルに応じた物体の少なくとも一部を形づくる一群の点群から当該物体の代表点を生成し、共通するラベルを用いて複数の前記物体の中からランダムサンプリングを行い、ランダムサンプリングされた物体の代表点に基づいて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行ってもよい。
また、上記点群情報処理装置として、前記画像解析部は、事前に機械学習させた画像解析モデルを用いて、前記第1の画像情報、及び、第2の画像情報をそれぞれ解析して、各画像内における異なる領域を認識し、各領域にラベル付けを行い、第1のラベル付き画像情報及び第2のラベル付き画像情報を生成してもよい。
また、上記点群情報処理装置として、前記点群統合部は、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報について、各点群に付与されたラベルごとに異なる表示で表示可能でもよい。
また、上記した目的を達成するために、本発明に係る点群情報処理方法は、画像解析部が、第1の視点から撮像された第1の画像情報、及び、第2の視点から撮像された第2の画像情報をそれぞれ解析して、各画像内における異なる領域を認識し、各領域にラベル付けを行い、第1のラベル付き画像情報及び第2のラベル付き画像情報を生成する画像解析ステップと、点群ラベル付与部が、前記第1の視点からスキャンされた位置情報を含む点の群からなる第1の点群情報、及び前記第2の視点からスキャンされた位置情報を含む点の群からなる第2の点群情報を取得し、前記第1の点群情報の各点に対して当該各点の位置情報に基づき前記第1のラベル付き画像情報において対応する領域のラベルを付与して第1のラベル付き点群情報を生成し、且つ、前記2の点群情報の各点に対して当該各点の位置情報に基づき前記第2のラベル付き画像情報において対応する領域のラベルを付与して第2のラベル付き点群情報を生成する点群ラベル付与ステップと、点群統合部が、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において共通するラベルを用いて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行う点群統合ステップと、を備える。
また、上記した目的を達成するために、本発明に係る点群情報処理プログラムは、第1の視点から撮像された第1の画像情報、及び、第2の視点から撮像された第2の画像情報をそれぞれ解析して、各画像内における異なる領域を認識し、各領域にラベル付けを行い、第1のラベル付き画像情報及び第2のラベル付き画像情報を生成する画像解析ステップと、前記第1の視点からスキャンされた位置情報を含む点の群からなる第1の点群情報、及び前記第2の視点からスキャンされた位置情報を含む点の群からなる第2の点群情報を取得し、前記第1の点群情報の各点に対して当該各点の位置情報に基づき前記第1のラベル付き画像情報において対応する領域のラベルを付与して第1のラベル付き点群情報を生成し、且つ、前記2の点群情報の各点に対して当該各点の位置情報に基づき前記第2のラベル付き画像情報において対応する領域のラベルを付与して第2のラベル付き点群情報を生成する点群ラベル付与ステップと、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において共通するラベルを用いて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行う点群統合ステップと、をコンピュータに実行させるためのプログラムである。
上記手段を用いる本発明によれば、測量装置を用いて複数の異なる視点から画像情報及び点群情報を用いて、複数の点群情報の位置合わせにおけるロバスト性を向上させることができる。
以下、本発明の実施形態を図面に基づき説明する。
<構成>
図1は、本発明の点群情報処理装置を含む点群情報処理システムの概略構成図である。以下これらの図に基づき本実施形態の点群情報処理装置10を含む点群情報処理システム1の構成について説明する。
図1は、本発明の点群情報処理装置を含む点群情報処理システムの概略構成図である。以下これらの図に基づき本実施形態の点群情報処理装置10を含む点群情報処理システム1の構成について説明する。
図1に示すように、本実施形態の点群情報処理システム1は、点群情報処理装置10、及び、測量装置20から構成される。また、点群情報処理装置10は測量装置20と有線または無線で通信可能に接続されている。本実施形態では、測量装置20を複数の異なる測量点に設置して各測量点から測量対象物である物体または範囲を計測及び撮像してそれぞれ画像情報と三次元点群情報(以下、単に点群情報という)を取得する。なお、本実施形態では測量装置20は地上設置型のものとして説明するが、UAV等に搭載されて上空から計測及び測量を行うタイプのものでもよい。
点群情報処理装置10は、異なる2つ以上の視点から取得された測量対象物の複数の点群情報について位置関係を算出し位置合わせ(レジストレーション)を行う機能、及び位置合わせをした点群情報を統合して測量対象物の三次元モデルを作成する機能を備えている。点群情報処理装置10は、専用のコンピュータや、ソフトウエアがインストールされた汎用のコンピュータ等であり、キーボート、マウスやタッチパネル等の入力部11、及び、液晶ディスプレイ等の画像表示が可能な出力部12、記憶部13、及び通信部14を備える。なお、入力部11、出力部12、記憶部13は点群情報処理装置10と有線又は無線で通信可能に別に設けられていても良い。
測量装置20は、例えば、3次元レーザスキャナであり、撮像部21、スキャナ部22、GNSS(Global Navigation Satellite System)23を備えている。なお、測量装置20は、撮像部21、スキャナ部22、GNSS23を制御する測量制御部を備えていてもよい。
スキャナ部22は、鉛直方向に一定の範囲でレーザ光(測距光)を往復させつつ水平方向に回動することでスキャン(走査)を行い、測量対象物を含む点群を取得して点群情報を生成する機能を有する。具体的には、スキャナ部22は、レーザ光を照射してから物体に当たり反射して戻ってくるまでの時間に基づいて自身の位置から測量対象物の測量点までの相対距離を計測(測距)する。また、スキャナ部22は、レーザ光の照射方向(水平角および鉛直角)を検出して測量点の相対角度を計測する。スキャナ部22は、これら計測した相対距離と相対角度から各点の三次元座標を算出する。
撮像部21は、例えばカメラであり、測量対象物を撮像して、画素毎に少なくともRGB強度等を含む二次元の画像情報を生成する。また、画像情報には、撮像時の測量装置20に対する水平角の情報も含まれており、スキャナ部22におけるレーザ光の照射方向との相対的な角度情報も算出可能である。従って、例えばスキャナ部22により取得した各点の位置と撮像部21により撮像した画像内の位置との対応付けが可能である。
GNSS23は、例えばGPS(Global Navigation Satellite System)であり、グローバル位置座標の情報を取得可能である。つまり、GNSS23は測量装置20の位置情報、即ち測量装置20の視点位置情報を取得可能である。視点位置情報は、スキャナ部22においてはレーザ光の照射基点であり、撮像部21においては撮像基点となる。なお、測量装置20を既知点に設置する場合は、測量装置20はGNSS23を用いなくとも作業者の入力操作により位置情報を取得可能である。スキャナ部22は、測量装置20の絶対的な位置情報に基づいて、点群情報に視点位置情報(レーザ光の照射基点)を含め、且つレーザ光のスキャンにより取得した点群の相対的な位置情報から絶対的な位置情報に変換可能である。また撮像部21は、測量装置20の絶対的な位置情報に基づいて、画像情報に視点位置情報(撮像基点)を含めることが可能である。
点群情報処理装置10は、測量装置20の撮像部21により撮像した画像情報とスキャナ部22により取得した点群情報とを解析処理する解析処理部30を備えている。
詳しくは、解析処理部30は、画像解析部31、点群ラベル付与部32、点群統合部33を有している。解析処理部30は、点群情報処理装置10に備わる入力部11、出力部12、記憶部13、通信部14、等とも通信可能である。また、解析処理部30は、測量装置20から取得した画像情報及び点群情報を記憶部13に記憶可能である。
画像解析部31は、解析処理部30が取得した複数の画像情報をそれぞれ解析する機能を有する。具体的には、画像解析部31は、事前に機械学習させた画像解析モデルを使用して、各画像内において異なる物体や空間に対応する領域を自動認識し、認識した各領域に対してラベル付けを行う、いわゆるセマンティックセグメンテーション処理を行う機能を有する。つまり、画像解析部31は、取得した画像情報の画像内に写る測量対象物を認識して、測量対象物に対応したラベルを付与可能である。例えば画像解析部31は、画像内に写る建物の領域には建物のラベルを、ポールの領域に対してはポールのラベルを、空に対しては空、地面に対しては地面のラベルを付与する。また、画像解析部31は、認識不能な領域には認識不能なラベルを付与し、画像内の全ての領域において、例えば1画素ごとにラベルを付与する。画像解析部31は、取得した画像情報ごとに画像解析モデルを用いたセマンティックセグメンテーション処理を行い、それぞれのラベル付き画像情報を生成する。生成されたラベル付き画像情報は記憶部13に記憶される。
点群ラベル付与部32は、画像解析部31で生成された複数のラベル付き画像情報と、測量装置20のスキャナ部22にて生成された複数の点群情報を取得し、同一の視点のラベル付き画像情報と点群情報とから、ラベル付き点群情報を生成する機能を有する。
詳しくは、点群ラベル付与部32は、点群情報及びラベル付き画像情報のそれぞれに含まれる視点位置情報から、同一の視点となる点群情報とラベル付き画像情報を、記憶部13から抽出する。そして、点群ラベル付与部32は、抽出した点群情報の各点に対して、当該各点の位置情報に基づき同一の視点のラベル付き画像情報において対応する領域のラベルを付与することで、ラベル付き点群情報を生成する。つまり、ラベル付き画像情報のラベル付けされた各領域に点群情報を重ね合わせて、重なっている領域のラベルを各点に反映させることで、各点にラベルを付与している(いわゆる点群のアノテーション)。生成されたラベル付き点群情報は記憶部13に記憶される。
点群統合部33は、点群ラベル付与部32で生成された各ラベル付き点群情報について、付与された各点のラベルに基づいて点群同士の位置合わせ(レジストレーション)を行い、点群を統合した点群統合情報を生成する機能を有する。点群統合情報は、いわゆる3次元モデルとなる。
詳しくは、点群統合部33は、異なる視点位置情報を持つラベル付き点群情報を記憶部13から抽出して、各ラベル付き点群情報において共通して含まれるラベルの点群をサンプリング(例えばランダムサンプリング)により抽出し、抽出した点群の位置情報を取得する。そして、位置情報を取得した点群に対して、例えばICP(Iterative Closest Point)等の点群マッチング手法による位置合わせ(レジストレーション)を行う。そして、点群統合部33は、このようなラベル付き点群情報同士の位置合わせを行っていくことで点群情報を統合した点群統合情報を生成する。この点群統合情報は記憶部13に記憶される。
点群情報処理装置10は、記憶部13に記憶された、画像情報、ラベル付き画像情報、点群情報、ラベル付き点群情報、点群統合情報、等を出力部12に出力したり、入力部11を介して編集したり、通信部14を介して外部に送信したり、することも可能である。
<解析手順の具体例>
次に、点群情報処理装置10を含む点群情報処理システム1における画像情報及び点群情報の取得から統合点群情報の作成までの一例を、図2から図10を用いて具体的に説明する。図2は、点群情報処理システム1の測量対象物と測量点を示す上面図である。図3は、図2の第1の測量点L1から撮像した第1の画像情報P1の例を示す図である。図4は、図2の第1の測量点L1からスキャンした第1の点群情報Q1の例を示す図である。図5は、図2の第2の測量点L2から撮像した第2の画像情報P2の例を示す図である。図6は、図2の第2の測量点L2からスキャンした第2の点群情報Q2の例を示す図である。図7は、第1の画像情報P1を画像解析して生成された第1のラベル付き画像情報p1の例を示す図である。図8は、第2の画像情報P2を画像解析して生成された第2のラベル付き画像情報p2の例を示す図である。図9は、第1の点群情報Q1に第1のラベル付き画像情報p1のラベルを反映させた第1のラベル付き点群情報q1の例を示す図である。図10は、第2の点群情報Q2に第2のラベル付き画像情報p2のラベルを反映させた第2のラベル付き点群情報q2の例を示す図である。なお、説明を簡略化するため、第1の画像情報P1と第2の画像情報P2、第1の点群情報Q1と第2の点群情報Q2はそれぞれ縮尺(スケール)や精度が一致しているものとする。
次に、点群情報処理装置10を含む点群情報処理システム1における画像情報及び点群情報の取得から統合点群情報の作成までの一例を、図2から図10を用いて具体的に説明する。図2は、点群情報処理システム1の測量対象物と測量点を示す上面図である。図3は、図2の第1の測量点L1から撮像した第1の画像情報P1の例を示す図である。図4は、図2の第1の測量点L1からスキャンした第1の点群情報Q1の例を示す図である。図5は、図2の第2の測量点L2から撮像した第2の画像情報P2の例を示す図である。図6は、図2の第2の測量点L2からスキャンした第2の点群情報Q2の例を示す図である。図7は、第1の画像情報P1を画像解析して生成された第1のラベル付き画像情報p1の例を示す図である。図8は、第2の画像情報P2を画像解析して生成された第2のラベル付き画像情報p2の例を示す図である。図9は、第1の点群情報Q1に第1のラベル付き画像情報p1のラベルを反映させた第1のラベル付き点群情報q1の例を示す図である。図10は、第2の点群情報Q2に第2のラベル付き画像情報p2のラベルを反映させた第2のラベル付き点群情報q2の例を示す図である。なお、説明を簡略化するため、第1の画像情報P1と第2の画像情報P2、第1の点群情報Q1と第2の点群情報Q2はそれぞれ縮尺(スケール)や精度が一致しているものとする。
図2に示すように、測量対象物として、例えば、建物41、及び建物41に隣接して設置されているポール42a~42eを測量装置20で地上から計測する場合について説明する。なお、図2において紙面上側が北であり、ポール42a~42eの高さは、建物41の高さより低くなっている。
まず、測量装置20は、建物41の南西側に位置する第1の測量点L1(第1の視点)に設置され、撮像部21及びスキャナ部22により、建物41及びポール42a~42eの少なくとも一部を含む同一視点からの第1の画像情報及び第1の点群情報を生成する。この時、第1の測量点L1からは、建物41に遮られてポール42c~42eは画像に映らないため、測量装置20の撮像部21によって撮像された画像は、例えば、図3に示した第1の画像情報P1のようになる。また同様に、測量装置20のスキャナ部22によって生成された点群は、例えば図4に示した第1の点群情報Q1となる。図4に示す丸は、一つの点群を示し、点ごとにRGB強度及び三次元座標が紐づけられている。なお、図4では3次元的な奥行き感を出すために点群の大きさを奥に行くほど小さく表現ししているが、レーザ光の性質上、計測距離が長くなればなるほどレーザのビーム幅であるスポットの直径(スポットサイズ)が大きくなるため、実際は計測距離が長くなるほど点群同士のデータ間隔は広くなる。
次に、測量装置20は、図2の建物41の北側に位置する第2の測量点L2(第2の視点)に設置され、第1の測量点L1の場合と同様に建物41及びポール42a~42eの少なくとも一部を含む第2の画像情報及び第2の点群情報を生成する。この時、第2の測量点L2からは、建物41の手前に位置するすべてのポール42a~42eが画像に映り、測量装置20の撮像部21によって撮像された画像情報は、例えば、図5に示した第2の画像情報P2となる。また同様に、測量装置20のスキャナ部22のスキャンによって生成された点群は、例えば図6に示す第2の点群情報Q2となる。
測量装置20で生成された第1の画像情報P1及び第2の画像情報P2と、第1の点群情報Q1及び第2の点群情報Q2は、有線又は無線により点群情報処理装置10に送信される。なお、本実施形態では説明の簡略化のため2つの視点L1、L2から取得した画像情報P1、P2および点群情報Q1、Q2を対象に処理を行っているが、3つ以上の異なる視点から取得した画像情報および点群情報を対象に処理を行うこともできる。
次に、点群情報処理装置10の画像解析部31は、事前に機械学習させた画像解析モデルを用いて第1の画像情報P1にセマンティックセグメンテーション処理を行い、図7の第1のラベル付き画像情報p1を生成する。図7において、画像解析部31は、例えば建物41に該当する領域として、画像領域A1を自動認識する。同様に、画像解析部31は、第1の画像情報P1において、ポール42aに該当する画像領域A2及びポール42bに該当する画像領域A3、空間に該当する画像領域A0を自動認識する。
そして、点群ラベル付与部32は、図7に示す画像領域A1内の各画素に、建物41に対応するラベル(以下建物ラベルという)を付与する。同様に点群ラベル付与部32は、画像領域A2、A3内の各画素に、ポールに対応するラベル(以下、ポールラベルという)を付与する。物体が認識されなかったその他の画像領域の各画素については、空間に対応するラベルを付与する。このようにして第1の画像情報のすべての各画素にラベルが付与されて第1のラベル付き画像情報p1が生成される。
また、画像解析部31は、第2の画像情報P2にセマンティックセグメンテーション処理を行い、図8の第2のラベル付き画像情報p2を生成する。図8において、画像解析部31は、建物41に該当する領域として画像領域A4を自動認識する。同様に、画像解析部31は、各ポール42a~42eに該当する画像領域A5~A9を自動認識する。
そして、点群ラベル付与部32は、図8に示す画像領域A4には建物に対応するラベルを、画像領域A5~S9にはポールに対応するラベルを、画像領域A10には空間に対応するラベルを、それぞれの画像領域内部の各画素に付与する。このようにして第2の画像情報のすべての各画素にラベルが付与されて第2のラベル付き画像情報p2が生成される。なお、図7、図8では各ラベルをハッチングの違いにより示しているが、例えばラベルに応じて異なる色を用いてラベルの違いを表現してもよい。
次に、点群ラベル付与部32は、第1のラベル付き画像情報p1と第1の点群情報Q1のそれぞれの視点位置情報に基づいて、第1の点群情報Q1を第1のラベル付き画像情報p1に重ね合わせ、各点について重なった画素に付与されたラベルをその点に反映する。なお、本実施形態では、機種や撮影条件にもよるが、測量装置20のカメラの画素分解能は、計測距離が10mの場合に例えば2mm/pixel、同じ計測距離のレーザスキャナの分解能(データ間隔)は例えば0.3mmであり、同じ計測距離では撮像部21の画素分解能の方がスキャナ部22の分解能より大きいため、第1のラベル付き画像情報p1の1画素に対し、第1の点群情報Q1の複数の点が重なることになる。(同様に第2のラベル付き画像情報p2と第2の点群情報Q2についても対応して重なる位置にある画素が有するラベルを各点に反映する。これにより、第1のラベル付き画像情報p1の各画素が有するラベルを第1の点群情報Q1の各点に反映させた図9に示す第1のラベル付き点群情報q1、及び第2のラベル付き画像情報p2の各画素が有するラベルを第2の点群情報Q2の各点に反映させた図10に示す第2のラベル付き点群情報q2が生成される。
次に、点群統合部33は、第1のラベル付き点群情報q1及び第2のラベル付き点群情報q2に共通して含まれる、測量対象物である建物のラベル、ポールのラベルが付与された点に対して、処理の高速化のために点群情報のランダムサンプリングを行う。例えば、図9の第1のラベル付き点群情報では、建物のラベルが付与された点群の中の一つの点α1とポールのラベルが付与された点群の中の一つの点β1がランダムサンプリングにより抽出されている。第2のラベル付き点群情報において点α1及び点β1の位置情報に一致又は近接する点(マッチングする点)は、図10における点α2及び点β2となる。なお、ランダムサンプリングにより抽出する点の数や位置はこれに限られず、建物のラベルが付与された点群のみから、又はポールのラベルが付与された点群のみからランダムサンプリングを行ってもよい。
そして、点群統合部33点群位置算出部34は、ランダムサンプリングされた第1のラベル付き点群情報q1の点群の一部(例えば点α1、点β1)と第2のラベル付き点群情報q2の点群の一部(例えば点α2、点β2)の位置情報からマッチングを行い、位置合わせ(レジストレーション)を行うことで、第1のラベル付き点群情報q1と第2のラベル付き点群情報q2との点群統合情報を生成する。
点群統合部33は、他の異なる視点からの点群情報に対しても同様の処理を行い、点群統合情報に統合していくことで3次元モデルを生成する。
次に、本実施形態に係る点群情報処理装置10の解析処理部30が実行する解析処理動作について、図11に示すフローチャートを参照しながら説明する。
ステップS101において、解析処理部30は、通信部14を介して測量装置20から、又は記憶部13から、複数の視点から撮像部21により撮像した画像情報、及び複数の視点からスキャナ部22によりスキャンした点群情報を取得する。例えば上述した第1の測量点(第1の視点)L1における第1の画像情報P1及び第1の点群情報Q1と、第2の測量点(第2の視点)L2における第2の画像情報P2及び第2の点群情報Q2を取得する。
ステップS102において、解析処理部30の画像解析部31は、取得した画像情報に対してセマンティックセグメンテーション処理を行うことでラベル付き画像情報を生成する(画像解析ステップ)。例えば画像解析部31は、上述した第1の画像情報P1および第2の画像情報P2に対してセマンティックセグメンテーション処理を行うことで、各画像内における異なる領域を認識し、各領域に対応する建物、ポール、空間等のラベル付けを行い、第1のラベル付き画像情報p1及び第2のラベル付き画像情報p2を生成する。
ステップS103において、解析処理部30の点群ラベル付与部32は、同一の視点のラベル付き画像情報と点群情報とから、ラベル付き点群情報を生成する(点群ラベル付与ステップ)。例えば点群ラベル付与部32は、上述した第1の点群情報Q1の各点に対して当該各点の位置情報に基づき第1のラベル付き画像情報p1において対応する領域のラベルを付与して第1のラベル付き点群情報を生成する。同様に第2の点群情報の各点に対して当該各点の位置情報に基づき第2のラベル付き画像情報p2において対応する領域のラベルを付与して第2のラベル付き点群情報q2を生成する。
ステップS104において、解析処理部30の点群統合部33は、各ラベル付き点群情報において共通するラベルが付与された点群に対してランダムサンプリングを行い、ランダムサンプリングされた点群の位置情報を取得する。例えば、点群統合部33は、上述した第1のラベル付き点群情報q1と第2のラベル付き点群情報q2に共通する建物及びポールのラベルが付与されたそれぞれの点群に対してランダムサンプリングを行い、建物及びポールの点群の一部(例えば点α1、点β1)の位置情報を取得する。
続いてステップS105において、点群統合部33は、ランダムサンプリングされた点群の位置情報に基づき、異なる視点のラベル付き点群情報における点のマッチングを行って、位置合わせ(レジストレーション)を行うことで、点群統合情報を生成する。例えば点群統合部33は、上述のランダムサンプリングされた第1のラベル付き点群情報q1の建物及びポールの点群の一部(点α1、点β1)と位置情報が一致または近接する第2のラベル付き点群情報q2における建物及びポールの点群(点α2、点β2)とをマッチングし、位置合わせ(レジストレーション)を行うことで、第1のラベル付き点群情報q1と第2のラベル付き点群情報q2との点群統合情報を生成する。
ステップS106において、点群統合部33は、生成した点群統合情報を記憶部13に記憶する。なお、この際に点群統合部33は、生成した点群統合情報を出力部12にユーザが視認できる形で表示してもよい。
ステップS107において、解析処理部30は、解析処理を終了するか否かを判別する。例えば、記憶部13に記憶された処理すべき点群情報の全てを統合した場合や、ユーザの停止操作等が行われた場合は、判別結果が真(Y)となり、解析処理を終了する。一方、ユーザの停止操作もなく、記憶部13に処理すべき点群情報が残っている場合は、判別結果が偽(N)となり、ステップS101に戻って、他の画像情報及び点群情報について上述の処理を繰り返す。
以上のように本実施形態の点群情報処理装置10は、画像情報の画像内の各領域にラベル付けを行ってラベル付き画像情報を生成し、当該ラベル付き画像情報に基づいて点群情報にもラベルを付与してラベル付き点群情報を生成し、共通するラベルを用いてラベル付き点群情報間の位置合わせ(レジストレーション)を行っている。
このように点群情報に付与されたラベルを基にして、点群の位置合わせを行うことで、厚みのない壁のように点群の特徴量が少ない物体でも壁に対応するラベルが付与されていることで、容易に壁を認識することができる。また、風でなびく木の葉のような物体や、自動車等のような移動体についても、樹木や移動体等のラベルが付与されることで、点群情報処理装置10はこれらの物体を測量対象から除外することも容易に可能である。
従って、点群情報処理装置10は、測量装置20を用いて複数の異なる視点から画像情報及び点群情報を用いて、複数の点群情報の位置合わせにおけるロバスト性を向上させることができる。
また、点群情報処理装置10の点群統合部33は、ラベル付き点群情報において共通するラベルが付与された点群に対してランダムサンプリングを行い、ランダムサンプリングされた点群の位置情報に基づいて点群の位置合わせを行っている。このようにラベルにより絞り込みを行った上で、ランダムサンプリングを行うことで、より効率的に位置合わせを行うことができる。
また、点群情報処理装置10の画像解析部31は、事前に機械学習させた画像解析モデルを用いて、いわゆるセマンティックセグメンテーション処理を行うことで、容易に画像内における異なる領域の認識とラベル付けを行うことができる。
また、ラベルを用いてラベル付き点群情報間の位置合わせを行った統合点群情報は、位置合わせに失敗して、例えば点群間に乖離が生じた場合でも、ラベルごとに点群が異なる表示がされることで、位置合わせのずれを容易に確認することができる。具体的には、図12に位置合わせに失敗した点群統合情報(3次元モデル)の表示例が示されている。同図では建物41の第1の壁41aと第2の壁41bに対応する点群がそれぞれ乖離して統合されているが、第1の壁41aと第2の壁41bとはそれぞれ建物のラベルが付与されており、同じ表示(例えば色)で示されていることで、第1の壁41aと第2の壁41bの乖離をユーザが容易に発見することができる。なお、例えば点群統合部が、生成された点群統合情報から、同一ラベルの点群における乖離を自動的に検出して、乖離を失くす方向に補正処理を行うようにしてもよい。
<プログラム>
ここで、本実施形態に係る点群情報処理装置10を構成する各機能を実現するためのプログラムの詳細について説明する。
ここで、本実施形態に係る点群情報処理装置10を構成する各機能を実現するためのプログラムの詳細について説明する。
点群情報処理装置10は、図13で示すコンピュータ801に実装される。そして、点群情報処理装置10の各構成要素の動作は、プログラムの形式で補助記憶装置804または有線又は無線で通信可能な外部のサーバ等に記憶され、当該プログラムは使用可能な状態である。CPU802は、プログラムを補助記憶装置804から読み出して主記憶装置803に展開し、当該プログラムに従って上記処理を実行する。また、CPU802は、プログラムに従って、上記の記憶部13に対応する記憶領域を主記憶装置803に確保する。
当該プログラムは、具体的には、コンピュータ801に、第1の視点から撮像された第1の画像情報、及び、第2の視点から撮像された第2の画像情報をそれぞれ解析して、各画像内における異なる領域を認識し、各領域にラベル付けを行い、第1のラベル付き画像情報及び第2のラベル付き画像情報を生成する画像解析ステップと、前記第1の視点からスキャンされた位置情報を含む点の群からなる第1の点群情報、及び前記第2の視点からスキャンされた位置情報を含む点の群からなる第2の点群情報を取得し、前記第1の点群情報の各点に対して当該各点の位置情報に基づき前記第1のラベル付き画像情報において対応する領域のラベルを付与して第1のラベル付き点群情報を生成し、且つ、前記2の点群情報の各点に対して当該各点の位置情報に基づき前記第2のラベル付き画像情報において対応する領域のラベルを付与して第2のラベル付き点群情報を生成する点群ラベル付与ステップと、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において共通するラベルを用いて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行う点群統合ステップと、を実行させるためのものである。
なお、補助記憶装置804は、一時的でない有形の媒体の一例である。一時的でない有形の媒体の他の例としては、インタフェースを介して接続される磁気ディスク、光磁気ディスク、CD-ROM、DVD-ROM、半導体メモリ等が挙げられる。また、このプログラムがネットワークを介してコンピュータ801に配信される場合、配信を受けたコンピュータ801が当該プログラムを主記憶装置803に展開し、上記処理を実行しても構わない。
また、当該プログラムは、前述した機能の一部を実現するためのものであっても構わない。さらに、当該プログラムは、前述した機能を補助記憶装置804に既に記憶されている他のプログラムとの組み合わせで実現するもの、いわゆる差分ファイル(差分プログラム)であっても構わない。
以上で本発明の各実施形態の説明を終えるが、本発明の態様はこれらの実施形態に限定されるものではない。
上記実施形態では、点群統合部33は、異なる視点位置情報を持つラベル付き点群情報を記憶部13から抽出して、各ラベル付き点群情報において共通して含まれるラベルの点群をサンプリング(例えばランダムサンプリング)により抽出し、抽出した点群の位置情報を取得して、位置情報を取得した点群に対して、例えばICP(Iterative Closest Point)等の点群マッチング手法による位置合わせ(レジストレーション)を行っていたが、サンプリング及び位置合わせの手法はこれに限られない。例えば、点群から物体の位置を示す代表値を算出して位置合わせを行っても良い。
以下、図14から図21に基づいて、点群統合部33が、第1のラベル付き点群情報q1及び第2のラベル付き点群情報q2においてラベルに応じた物体の少なくとも一部を形づくる一群の点群から代表点を生成し、共通するラベルを用いて複数の物体の中からランダムサンプリングを行い、ランダムサンプリングされた物体の代表点に基づいて、第1のラベル付き点群情報q1と第2のラベル付き点群情報q2との位置合わせを行う第1変形例について説明する。
図14は、図9の第1のラベル付き点群情報q1の上面図である。図15は、図10の第2のラベル付き点群情報q2の上面図である。図16は、第1のラベル付き点群情報q1に物体モデルをフィッティングした例を示す上面図である。図17は、第2のラベル付き点群情報q2に物体モデルをフィッティングした例を示す上面図である。図18は、ラベル付き点群情報間で不一致の物体をサンプリングした例を示した上面図である。図19は図18でサンプリングした物体の代表点を用いて位置合わせした例を示した上面図である。図20はラベル付き点群情報間で一致する物体をサンプリングした例を示した上面部である。図21は図20でサンプリングした物体の代表点を用いて位置合わせした例を示した上面図である。
図14、図15では、建物41及びポール42a~42eは実像の外形を破線で、点群情報に含まれる各点は実線の円で示されている。図14に示すように、第1のラベル付き点群情報q1のうち、建物41については南側壁面、西側壁面に沿って矩形面状に配列された一群の点群q11が生成されている。また、第1のラベル付き点群情報q1のうち、ポール42a、42bについては南側表面に半円筒状に点が配列された一群の点群q12a、q12bが生成されている。同様に、図15に示すように、第2のラベル付き点群情報q2のうち、建物41の北側壁面および西側壁面に沿って矩形面状に配列された一群の点群q21、ポール42a~42eの北側表面に沿って半円筒状に点が配列された一群の点群q22a~q22eが生成されている。点群統合部33は、こうした一つの物体の少なくとも一部を形づくる一群の点群に対して、それぞれ該当する物体モデルをフィッティングし、測量点L1またはL2からのスキャンでは得られない部分について補完処理を行う。物体モデルは予め記憶部13に記憶されており、例えばポールであれば円柱形状、建物であれば立方体形状等、物体に応じた代表的な形状が物体モデルとして記憶されている。なお、物体モデルは、フィッティングする物体のおおよその大きさと位置が反映されていればよいことから、簡易的に円柱や楕円柱等としてもよい。
具体的には、点群統合部33は、図14に示す第1のラベル付き点群情報q1の建物41については、立方体形状の建物モデルをフィッティングし、ポール42a、42bに対しては円柱形状のポールモデルをフィッティングすることで図16の斜線で示すそれぞれの補完点群q11’q12a’、q12b’を生成する。なお、補完部分は点群情報に限られず、物体の外形の位置情報が判別できる形式であればよい。
そして、点群統合部33は、各物体の一群の点群とその補完点群に基づいて代表点を生成する。代表点としては、例えば、一群の点群の中心を計算により求めたものを用いることができる。具体的には、点群統合部33は、図16のポール42aに該当する一群の点群q12aとその補完点群q12a’のそれぞれの3次元位置情報に基づいて、中心点g12aを算出する。同様に、ポール42b、建物41についても中心点g12b、g11を算出する。そして、点群統合部33は、これら中心点g11、g12a、g12bを各物体の代表点として設定し各物体に該当する建物ラベルまたはポールラベルと紐づけて、記憶部13に記憶する。
図17に示すように第2のラベル付き点群情報q2についても同様に、点群統合部33は、中心点g21,g22a~g22eを算出して、これらを各物体の代表点として設定し、建物ラベルまたはポールラベルと紐づけて記憶部13に記憶する。
次に、点群統合部33は、各ラベル付き点群情報q1、q2それぞれについて、ラベルごとにサンプリングを行い、サンプリングされた物体の代表値を用いて位置合わせを行う。例えば、ここでは説明を簡略化するためラベルごとのサンプリング点数を1とした場合、つまりポールラベルから1つ、建物ラベルから1つサンプリングする場合を例に説明する。
図18では、第1のラベル付き点群情報q1からはポールラベルの中でのサンプリングとしてポール42aが選択され、建物ラベルの中でのサンプリングとして建物41が選択されている。一方、第2のラベル付き点群情報q2からはポールラベルの中でのサンプリングとしてポール42bが選択され、建物ラベルの中でのサンプリングとして建物41が選択されている。
これら第1のラベル付き点群情報q1のポール42aの代表点g12a及び建物41の代表点g11と、第2のラベル付き点群情報q2のポール42bの代表点g22b及び建物41の代表点g21とを位置合わせする。この位置合わせは、例えば同じラベルの代表点の距離がそれぞれ最小となるように点群情報を重ね合わせる。つまり、図19に示すように第1のラベル付き点群情報q1と第2のラベル付き点群情報q2の各物体は一致せず各代表点間にずれが生じることとなる。
一方、図20では、第1のラベル付き点群情報q1からはポールラベルの中でのサンプリングとしてポール42aが選択され、建物ラベルの中でのサンプリングとして建物41が選択されている。また第2のラベル付き点群情報q2からもポールラベルの中でのサンプリングとしてポール42aが選択され、建物ラベルの中でのサンプリングとして建物41が選択されている。
これら第1のラベル付き点群情報q1のポール42aの代表点g12a及び建物41の代表点g11と、第2のラベル付き点群情報q2のポール42aの代表点g22a及び建物41の代表点g21とを位置合わせすると、図21に示すように第1のラベル付き点群情報q1と第2のラベル付き点群情報q2の各物体はほぼ一致して各代表点の位置もほぼ一致することとなる。このように、サンプリングされていない物体も含めて、各物体の代表点の位置が一致又は所定の範囲内まで近づくまでサンプリングを繰り返して、位置合わせを行う。
このように、同一ラベルの物体からサンプリングを行うことで、より効率的な位置合わせを行うことができる。また各物体の代表点を算出して、位置合わせを行うことで、まず大まかな位置合わせを行うことができる。さらにラベルに応じた物体モデルをフィッティングさせて代表点を算出することで、代表点の位置精度を向上させることができる。
上記実施形態では、点群情報処理装置10は測量装置20と分離して設けられていたが、測量装置20に搭載されて、リアルタイム処理により測量装置20の出力部や測量装置20を操作するタブレットの出力部において表示および編集ができる構成であってもよい。これにより、車両や重機等の移動体等がノイズとして画像や点群に映りこんでも、出力部の表示を見ながらその場でそうしたノイズを点群情報から除外する編集を行ってから統合点群を生成することができる。すなわち、測量現場において正確な点群情報を生成することができる。
また、上記実施形態の解析処理部30に点群特徴認識部34を追加した解析処理部30’とした、図22に示すような第2変形例における点群情報処理装置10’を含む点群情報処理システム1’としても良い。点群特徴認識部34は、隣接する点群の位置情報から得られる法線ベクトルが一様かつRGB強度が一様な領域を抽出して測量対象物を認識し、簡易的な点群セグメンテーションを行う。当該点群セグメンテーション情報は、画像解析部31において、画像情報のセグメンテーション処理後の補正(ノイズ除去等)に用いることができる。これにより、より精度の高い画像セグメンテーション処理結果が得られ、全体としての位置合わせ精度も向上する。セグメンテーション前の元画像とセグメンテーション処理後に補正をした結果とを新たな画像認識モデルの機械学習用データセットとすることもできる。
また、上記実施形態の撮像部21は、RGB強度等を含む二次元の画像情報を生成する可視光カメラであったが、赤外線情報等を含む二次元の画像情報を生成する赤外線カメラであってもよい。この場合、点群は、点ごとに赤外線強度及び三次元座標が紐づけられる。これにより、暗視野となる夜間においても測量が可能である。
また、上記実施形態の点群ラベル付与部32は、複数あるポールに対して同一の「ポールラベル」を付与していたが、ポール42a、ポール42b等を個別に識別してそれぞれ例えば「第1のポール」「第2のポール」等と別々のラベルを付与してもよい。これにより、位置合わせの精度が向上する。
1 :点群情報処理システム
10 :点群情報処理装置
11 :入力部
12 :出力部
13 :記憶部
14 :通信部
20 :測量装置
30 :解析処理部
31 :画像解析部
32 :点群ラベル付与部
33 :点群統合部
41 :建物
42a~42e :ポール
10 :点群情報処理装置
11 :入力部
12 :出力部
13 :記憶部
14 :通信部
20 :測量装置
30 :解析処理部
31 :画像解析部
32 :点群ラベル付与部
33 :点群統合部
41 :建物
42a~42e :ポール
Claims (7)
- 第1の視点から撮像された第1の画像情報、及び、第2の視点から撮像された第2の画像情報をそれぞれ解析して、各画像内における異なる領域を認識し、各領域にラベル付けを行い、第1のラベル付き画像情報及び第2のラベル付き画像情報を生成する画像解析部と、
前記第1の視点からスキャンされた位置情報を含む点の群からなる第1の点群情報、及び前記第2の視点からスキャンされた位置情報を含む点の群からなる第2の点群情報を取得し、前記第1の点群情報の各点に対して当該各点の位置情報に基づき前記第1のラベル付き画像情報において対応する領域のラベルを付与して第1のラベル付き点群情報を生成し、且つ、前記第2の点群情報の各点に対して当該各点の位置情報に基づき前記第2のラベル付き画像情報において対応する領域のラベルを付与して第2のラベル付き点群情報を生成する点群ラベル付与部と、
前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において共通するラベルを用いて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行う点群統合部と、
を備える点群情報処理装置。 - 前記点群統合部は、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において共通するラベルが付与された点群に対してランダムサンプリングを行い、ランダムサンプリングされた点群の位置情報に基づいて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行う
請求項1に記載の点群情報処理装置。 - 前記点群統合部は、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において前記ラベルに応じた物体の少なくとも一部を形づくる一群の点群から当該物体の代表点を生成し、共通するラベルを用いて複数の前記物体の中からランダムサンプリングを行い、ランダムサンプリングされた物体の代表点に基づいて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行う
請求項1に記載の点群情報処理装置。 - 前記画像解析部は、事前に機械学習させた画像解析モデルを用いて、前記第1の画像情報、及び、第2の画像情報をそれぞれ解析して、各画像内における異なる領域を認識し、各領域にラベル付けを行い、第1のラベル付き画像情報及び第2のラベル付き画像情報を生成する
請求項1から3のいずれか一項に記載の点群情報処理装置。 - 前記点群統合部は、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報について、各点群に付与されたラベルごとに異なる表示で表示可能である
請求項1から4のいずれか一項に記載の点群情報処理装置。 - 画像解析部が、第1の視点から撮像された第1の画像情報、及び、第2の視点から撮像された第2の画像情報をそれぞれ解析して、各画像内における異なる領域を認識し、各領域にラベル付けを行い、第1のラベル付き画像情報及び第2のラベル付き画像情報を生成する画像解析ステップと、
点群ラベル付与部が、前記第1の視点からスキャンされた位置情報を含む点の群からなる第1の点群情報、及び前記第2の視点からスキャンされた位置情報を含む点の群からなる第2の点群情報を取得し、前記第1の点群情報の各点に対して当該各点の位置情報に基づき前記第1のラベル付き画像情報において対応する領域のラベルを付与して第1のラベル付き点群情報を生成し、且つ、前記2の点群情報の各点に対して当該各点の位置情報に基づき前記第2のラベル付き画像情報において対応する領域のラベルを付与して第2のラベル付き点群情報を生成する点群ラベル付与ステップと、
点群統合部が、前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において共通するラベルを用いて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行う点群統合ステップと、
を備える点群情報処理方法。 - 第1の視点から撮像された第1の画像情報、及び、第2の視点から撮像された第2の画像情報をそれぞれ解析して、各画像内における異なる領域を認識し、各領域にラベル付けを行い、第1のラベル付き画像情報及び第2のラベル付き画像情報を生成する画像解析ステップと、
前記第1の視点からスキャンされた位置情報を含む点の群からなる第1の点群情報、及び前記第2の視点からスキャンされた位置情報を含む点の群からなる第2の点群情報を取得し、前記第1の点群情報の各点に対して当該各点の位置情報に基づき前記第1のラベル付き画像情報において対応する領域のラベルを付与して第1のラベル付き点群情報を生成し、且つ、前記2の点群情報の各点に対して当該各点の位置情報に基づき前記第2のラベル付き画像情報において対応する領域のラベルを付与して第2のラベル付き点群情報を生成する点群ラベル付与ステップと、
前記第1のラベル付き点群情報及び前記第2のラベル付き点群情報において共通するラベルを用いて、前記第1のラベル付き点群情報と前記第2のラベル付き点群情報との位置合わせを行う点群統合ステップと、
をコンピュータに実行させるための点群情報処理プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021062011A JP2022157660A (ja) | 2021-03-31 | 2021-03-31 | 点群情報処理装置、点群情報処理方法、点群情報処理プログラム |
US17/657,188 US20220319023A1 (en) | 2021-03-31 | 2022-03-30 | Point cloud information processing device, point cloud information processing method, and point cloud information processing program |
EP22165772.9A EP4068208A1 (en) | 2021-03-31 | 2022-03-31 | Point cloud information processing device, point cloud information processing method, and point cloud information processing program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021062011A JP2022157660A (ja) | 2021-03-31 | 2021-03-31 | 点群情報処理装置、点群情報処理方法、点群情報処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022157660A true JP2022157660A (ja) | 2022-10-14 |
Family
ID=81328511
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021062011A Pending JP2022157660A (ja) | 2021-03-31 | 2021-03-31 | 点群情報処理装置、点群情報処理方法、点群情報処理プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220319023A1 (ja) |
EP (1) | EP4068208A1 (ja) |
JP (1) | JP2022157660A (ja) |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012141235A1 (ja) * | 2011-04-13 | 2012-10-18 | 株式会社トプコン | 三次元点群位置データ処理装置、三次元点群位置データ処理システム、三次元点群位置データ処理方法およびプログラム |
JP6069489B2 (ja) | 2013-03-29 | 2017-02-01 | 株式会社日立製作所 | 物体認識装置および物体認識方法並びにプログラム |
CN105427248A (zh) * | 2014-09-11 | 2016-03-23 | 富泰华工业(深圳)有限公司 | 点云拼接处理系统及方法 |
GB2559157A (en) * | 2017-01-27 | 2018-08-01 | Ucl Business Plc | Apparatus, method and system for alignment of 3D datasets |
GB201708520D0 (en) * | 2017-05-27 | 2017-07-12 | Dawood Andrew | A method for reducing artefact in intra oral scans |
CN110264502B (zh) * | 2019-05-17 | 2021-05-18 | 华为技术有限公司 | 点云配准方法和装置 |
CN111815687A (zh) * | 2020-06-19 | 2020-10-23 | 浙江大华技术股份有限公司 | 点云匹配方法、定位方法、设备及存储介质 |
-
2021
- 2021-03-31 JP JP2021062011A patent/JP2022157660A/ja active Pending
-
2022
- 2022-03-30 US US17/657,188 patent/US20220319023A1/en not_active Abandoned
- 2022-03-31 EP EP22165772.9A patent/EP4068208A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4068208A1 (en) | 2022-10-05 |
US20220319023A1 (en) | 2022-10-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105716590B (zh) | 确定大地测量装置的位置和定向偏移的方法及测量装置 | |
Akca | Full automatic registration of laser scanner point clouds | |
Alshawabkeh et al. | Integration of digital photogrammetry and laser scanning for heritage documentation | |
JP5546151B2 (ja) | 道路地物計測装置、道路地物計測方法、道路地物計測プログラム、計測装置、計測方法および計測サーバ装置 | |
CN105358937A (zh) | 用于测绘仪器的定位方法和所述测绘仪器 | |
KR101954963B1 (ko) | 수치지도 및 도로정밀지도 구축 자동화를 위한 장치 및 방법 | |
Guan et al. | A marker-free method for registering multi-scan terrestrial laser scanning data in forest environments | |
KR20190087338A (ko) | 수치지도 및 도로정밀지도 구축 자동화를 위한 방법 | |
JP5311465B2 (ja) | ステレオマッチング処理システム、ステレオマッチング処理方法、及びプログラム | |
KR20140099756A (ko) | 문화재 발굴조사 및 유구 분석을 위한 3차원 스캐닝 데이터 처리 방법 | |
Hu et al. | A high-resolution surface image capture and mapping system for public roads | |
Megahed et al. | A phase-congruency-based scene abstraction approach for 2d-3d registration of aerial optical and LiDAR images | |
JP2022157660A (ja) | 点群情報処理装置、点群情報処理方法、点群情報処理プログラム | |
Partovi et al. | Automatic integration of laser scanning and photogrammetric point clouds: From acquisition to co-registration | |
JPH08255245A (ja) | ランドマーク認識装置およびランドマーク認識方法 | |
CN112254671B (zh) | 一种多次组合式3d采集系统及方法 | |
Toschi et al. | Validation tests of open-source procedures for digital camera calibration and 3D image-based modelling | |
George et al. | Documentation of Cultural Heritage Monuments, by Introducing New Surveying Technologies: Implementation in Sarlitza Pallas, in Thermi Mytilene | |
JP6546898B2 (ja) | 3次元空間特定装置、方法、及びプログラム | |
Alshawabkeh et al. | Laser scanning and photogrammetry: A hybrid approach for heritage documentation | |
Markiewicz | The example of using intensity orthoimages in tls data registration-A case study | |
Remondino | Detailed image-based 3D geometric reconstruction of heritage objects | |
Ruzgiene et al. | Analytical and digital photogrammetric geodata production systems (a comparison test) | |
US20240077310A1 (en) | Laser scanner with stereo camera vision for improved selective feature scanning | |
Suliman et al. | Optical-elevation data co-registration and classification-based height normalization for building detection in stereo vhr images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240327 |