JPWO2014155715A1 - 物体認識装置および物体認識方法並びにプログラム - Google Patents

物体認識装置および物体認識方法並びにプログラム Download PDF

Info

Publication number
JPWO2014155715A1
JPWO2014155715A1 JP2015507899A JP2015507899A JPWO2014155715A1 JP WO2014155715 A1 JPWO2014155715 A1 JP WO2014155715A1 JP 2015507899 A JP2015507899 A JP 2015507899A JP 2015507899 A JP2015507899 A JP 2015507899A JP WO2014155715 A1 JPWO2014155715 A1 JP WO2014155715A1
Authority
JP
Japan
Prior art keywords
shape
point group
unit
information
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015507899A
Other languages
English (en)
Other versions
JP6069489B2 (ja
Inventor
佑 北野
佑 北野
宣隆 木村
宣隆 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Application granted granted Critical
Publication of JP6069489B2 publication Critical patent/JP6069489B2/ja
Publication of JPWO2014155715A1 publication Critical patent/JPWO2014155715A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/653Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces

Abstract

点の集合である点群の情報を記憶する点群記憶部と、前記点群情報に関する情報の入出力を行うための入出力部と、前記点群の形状属性を推定する形状認識部と、前記点群情報における対象物体の存在を認識する物体認識部とを備え、前記点群情報は、計測値の入力である計測点群の情報と、認識すべき対象物体に対応するモデル点群の情報とを含んでおり、前記形状認識部は、前記計測点群及び前記モデル点群の各点について、該各点に対する近傍点の相対的な座標情報より決定される形状属性を推定し、前記物体認識部は、同一の前記形状属性を持つ前記計測点群と前記モデル点群の前記各形状属性のマッチング処理を行い、前記形状属性の一致度に基づき、前記計測点群中における前記モデル点群の存在情報を取得する物体認識装置。

Description

本発明は、計測された点群のデータから、対象物体に相当する点群を自動で抽出する物体認識装置および物体認識方法に係り、特に、3次元点群のデータから対象物体を認識するのに適した装置および方法並びにプログラムに関するものである。
インフラ設備の高経年化に伴い、安全確保や長寿命化のために、インフラ設備の定期メンテナンスを行う必要がある。近年、インフラ設備の保守業務において、損傷、劣化の状態を正確に診断するために、レーザー距離計のような距離センサを利用した3次元計測による所有設備の管理が行われている。得られた3次元形状データをコンピュータ上で確認することができ、より正確に所有設備の形状や姿勢を把握することができる。3次元形状データは、3次元座標が付加された点の集合という形で得られることが多く、一般にこれを3次元点群と呼ぶ。
しかし所有設備が広く散在するにつれ、3次元点群を所有設備ごとに目視確認するのは非常に作業量が大きい。3次元点群には所有設備以外の情報も含まれていることが多い。そのため大量の3次元点群の中から、所有する設備に相当する点群を探す必要がある。その結果、作業に要する時間や費用が大きくなるため、3次元点群から効率的に所有設備を確認するシステムが求められている。そのために、3次元点群から効率的に所有設備に相当する点群を認識し、抽出する処理が必要となる。
このような所有設備の点群を効率的に抽出する方法として特許文献1、2に示すような技術が知られている。
特許文献1では、距離画像より注目点を検出し、その注目点の特徴量を用いて、予め作成され物体のモデルと入力データのマッチングを行う、物体認識方法、物体認識装置、及び自律移動ロボットが開示されている。
特許文献2では、3次元点群に対し、人手で点群を指定することにより、部材ごとに点群を区分し、効率的にCAD(Computer Aided Design)データを作成するCADデータ作成装置及び情報加工方法が開示されている。
特表2012−526335号公報 特開2003−323461号公報
3次元点群から対象物体に相当する点群を自動抽出するには、計測値の入力である3次元点群(計測点群)と対象物体のモデル点群とのマッチングを行うのが、一般的である。しかし計測点群中には、対象物体以外の点群も多く存在するため、計算時間が大きい、マッチングに失敗する等の問題がある。
計算時間を削減するために、上記の特許文献1では、計測点群とモデル点群を距離画像に変換し、各画像の注目点を画像処理によって抽出する。そして、その注目点の周辺の画素値を用いて特徴量を算出し、画像間で特徴マッチングを行う。各点群を距離画像として扱い、また注目点とその周辺のみを用いてマッチングを行っているため、計算時間を削減することができるが、対象物体の注目点が非常に少ない場合は、特徴マッチングができないという問題があり、また点群にノイズが含まれる場合などは、間違えて注目点を検出してしまうことが多いため、マッチングに失敗するという問題がある。また距離画像を用いるため、対象物体に対し、複数の視点から取得された距離画像を用いないとオクルージョンに対応できないという問題もある。
上記の特許文献2では、人手で点群を指定することにより、計測点群を部材ごとに区分することができる。モデル点群を要しないという利点があるが、部材ごとの点群の指定においては各部材の構成に関する専門知識が必要であり、非常に簡単な形状の物体しか抽出することができないという問題点がある。また人手の作業を要するために、依然として作業量が多いという問題点がある。
本発明の課題は、計測点群の情報から物体を認識する物体認識装置および認識方法において、計算時間を削減でき、かつ、マッチング精度の向上を図ることにある。
本発明の代表的なものを示すと、次の通りである。物体認識装置は、点の集合である点群の情報を記憶する点群記憶部と、前記点群情報に関する情報の入出力を行うための入出力部と、前記点群の形状属性を推定する形状認識部と、前記点群情報における対象物体の存在を認識する物体認識部とを備え、前記点群情報は、計測値の入力である計測点群の情報と、認識すべき対象物体に対応するモデル点群の情報とを含んでおり、前記形状認識部は、前記計測点群及び前記モデル点群の各点について、該各点に対する近傍点の相対的な座標情報より決定される形状属性を推定し、前記物体認識部は、同一の前記形状属性を持つ前記計測点群と前記モデル点群の前記各形状属性のマッチング処理を行い、前記形状属性の一致度に基づき、前記計測点群中における前記モデル点群の存在情報を取得することを特徴とする。
本発明では、同一の形状属性を持つ点群同士のみでマッチングを行うことを特徴とする。そのためモデルマッチングの際の最近傍点探索の候補を少なくすることができ、計算時間を削減できる。また基本形状属性が異なる点群同士ではマッチングを行わないため、マッチング精度の向上が実現できる。
本発明の第1の実施例の物体認識装置の基本構成を表すブロック図である。 図1Aの物体認識装置に入力される計測点群と、この物体認識装置から出力される認識点群の一例を示す図である。 第1の実施例の物体認識装置のハードウェア構成の一例を示す図である。 本発明における、点及び点群について説明する図である。 第1の実施例の形状認識部で行われる形状認識の処理を表す図である。 第1の実施例の局所領域分割部で行われる処理例の説明図である。 第1の実施例のモデル点群データベース(DB)のデータ構造例である。 第1の実施例の計測点群記憶部のデータ構造例である。 第1の実施例の形状別点群情報記憶部のデータ構造例である。 第1の実施例の基本形状特徴記憶部のデータ構造例である。 第1の実施例の局所領域点群記憶部のデータ構造例である。 第1の実施例の形状認識部と物体認識部で行われる処理例の説明図である。 第1の実施例の形状別座標変換量記憶部のデータ構造例である。 第1の実施例の物体認識部で行われる処理のフロー図である。 第1の実施例の物体認識部で行われる処理例の説明図である。 第1の実施例の物体認識装置のデータ表示部を示した画面である。 第1の実施例の物体認識装置のデータ表示部を示した画面である。 第1の実施例の物体認識装置のデータ表示部を示した画面である。 本発明の第2の実施例の物体認識装置の基本構成を表すブロック図である。 第2の実施例の物体認識装置で行われる処理を表すフロー図である。 本発明の第3の実施例の形状認識部の基本構成を表すブロック図である。 第3の実施例の形状認識部で行われる処理を表すフロー図である。
本発明は、計測点群すなわち2次元点群や3次元点群から、ユーザにより指定された認識すべき対象物体に相当する認識点群を自動的に認識して抽出する物体認識装置や物体認識方法に関するものである。
本発明の概要を以下に述べる。本発明の物体認識装置は、計測点群とモデル点群を記憶する計測点群記憶部と、これらの各点群を局所領域点群に分割し、形状特徴量を計算することにより基本形状属性を付加する形状認識部と、基本形状属性別に点群を記憶する形状別点群記憶部と、基本形状属性ごとに分類された点群から座標変換量を算出し、基本形状属性別の座標変換量を統合した後に、対象物体の点群を計測点群から抽出する物体認識部と、抽出された点群をユーザインターフェースに出力する認識点群出力部と、を備える。
以下では、3次元点群を例に挙げて説明する。まず、入力である3次元点群(計測点群)と対象物体のモデル点群の各点に対し、基本形状属性を付加する。そして計測点群とモデル点群の中で一致する基本形状属性を持つ点群同士のマッチングにより、基本形状属性別に座標変換量を得る。最後に得られた座標変換量を統合することにより、計測点群中のモデル点群の存在情報を取得する。ここでいう点群の形状属性とは、点とその点の近傍に存在する点群の座標値等の相対的な関係から決定される属性情報のことを指す。例えば平面、曲面、線等のような属性を形状属性と定義してもよい。また点群の座標値だけでなく、その他の属性として点の色情報やアルファ値等の情報を用いて形状属性を定義してもよい。例えば、赤い平面、青い平面といった属性を形状属性として定義してもよい。また存在情報とは、計測点群中でモデル点群がどのような姿勢で存在しているかという情報でもよいし、または計測点群中でモデル点群に対応する点群でもよい。
以下、本発明の実施例を、図面を参照して詳細に説明する。
本発明の実施例1を、図1A乃至図13Cを参照しながら説明する。
図1Aは、本実施例の物体認識装置の基本構成を表すブロック図である。物体認識装置10は、計測点群入力部100と、計測点群記憶部101と、形状認識部102と、モデル点群データベース(DB)103と、形状別点群記憶部104と、物体認識部105と、認識点群出力部106と、入出力IF部107と、モデル選択部108とを備えている。入出力IF部107は、ユーザインターフェースとしての表示部1070を有する。
図1Bは、物体認識装置10に入力される計測点群30と、物体認識装置10から出力される認識点群50の一例を示す図である。物体認識装置10は、図1Bに示したような計測点群30を受け取った後、物体認識処理を行って、認識点群50を提供する。この例では、計測点群30の中の電柱が認識点群50として出力されている。
なお、本実施例では、物体認識装置10を単一の装置として示しているが、この物体認識装置と同じ機能を、1つ若しくは複数のサーバと端末とがネットワークを介して相互に接続された物体認識システムによって実現しても良い。本発明の物体認識装置は、このような物体認識システムも含むものとする。
計測点群入力部100は、ユーザによって入出力IF部7から入力された計測点群30を受け取り、計測点群記憶部101に前記データを格納する。計測点群記憶部101は、計測点群情報1011を備える。具体的には、計測点群入力部100より受け取った計測点群30のデータを記憶する。データ構造については後述する。
形状認識部102は、計測点群記憶部101から計測点群情報1011を、モデル選択部108から認識すべき対象物体のモデルに関する情報を、モデル点群DB103から対象物体のモデルに対応するモデル点群の情報を、各々受け取り、計測点群情報1011に対して得られる形状別点群情報である計測点群情報1041と、モデル点群に対して得られる形状別点群情報であるモデル点群情報1042とを生成し、形状別点群記憶部104に提供する。形状別点群記憶部104に格納されるこれらのデータのデータ構造については後述する。物体認識部105は、形状別点群記憶部104から、計測点群情報1041と、モデル点群情報1042と、を受け取り、計測点群30から認識すべき対象物体に対応する計測点群50を抽出して認識点群出力部106へ提供する。
なお、認識すべき対象物体のモデルは、ユーザが入出力IF部107からモデル選択部108に所定の情報を入力して指定する。あるいはまた、物体認識装置が特定の対象物体のモデルのみを抽出するように予め設定しておいても良い。後者の場合、物体認識装置は入力された計測点群の中から特定の物体、例えば車のみ、を認識する機能を有する。
前記機能を実現するために、形状認識部102は、局所領域分割部1021と、形状特徴量算出部1022と、基本形状特徴DB1023と、形状分類部1024と、局所領域点群記憶部1025と、を備える。局所領域点群記憶部1025は、計測点群情報10251とモデル点群情報10252とを備える。上記各部が実行する処理、各部間で転送されるデータ、各部内に格納されるデータについては後述する。
モデル点群DB103は、複数の対象物体のモデル点群の情報を格納し、ユーザによって指定された認識すべき対象物体のモデル点群を形状認識部102に提供する。前記モデル点群DB103に格納されるデータのデータ構造については後述する。
形状別点群記憶部104は、計測点群情報1041と、モデル点群情報1042と、を備える。具体的には形状認識部102より、計測点群情報1011を形状別に分割したデータと、モデル点群を形状別に分割したデータを受け取り、計測点群情報1041、モデル点群情報1042として格納する。そして計測点群情報1041と、モデル点群情報1042を物体認識部へ提供する。前記形状別点群記憶部104に格納されるデータのデータ構造については後述する。
物体認識部105は、前記機能を実現するために、座標変換量算出部1051と、形状統合部1052と、認識点群抽出部1053と、形状別座標変換情報記憶部1054と、を備える。形状別座標変換情報記憶部1054は、各形状ごとに算出された座標変換量である座標変換情報10541を備える。上記各部が実行する処理、各部間で転送されるデータ、各部内で格納される格納されるデータについては後述する。
認識点群出力部106は、物体認識部105より計測点群50を受け取り、入出力IF部107を介してユーザに前記計測点群50を表示する機能を持つ。計測点群50を表示する際、計測点群30の中で、ユーザによって指定された認識すべき対象物体として抽出された点群のみを表示してもよいし、対象物体として抽出された点群とそれ以外の点群のそれぞれの色を変更して表示してもよい。
図2Aは、物体認識装置10のハードウェア構成である。物体認識装置10は、操作部1101、表示部1102と、プロセッサ1103と、メインメモリ1104と、記憶装置1105と、を備える計算機である。
プロセッサ1103は、メインメモリ1104に格納されたプログラムを実行する。
メインメモリ1104は、例えば半導体メモリであり、プロセッサ1103によって実行されるプログラム及びプロセッサ1103によって参照されるデータを格納する。具体的には、記憶装置1105に格納されたプログラム及びデータの少なくとも一部が、必要に応じてメインメモリ1104にコピーされる。
プロセッサ1103は、各機能部のプログラムに従って動作することによって、所定の機能を実現する機能部として動作する。例えば、物体認識プログラムに従って動作することで、プロセッサ1103は物体認識部105として機能する。他のプログラムについても同様である。物体認識装置10は、これらの機能部を含む装置である。
操作部1101は、ユーザからの入力操作を受ける。操作部は、例えばキーボードまたはマウス等を含んでもよい。
表示部1102は、図1Aの物体認識装置の表示部1070に相当するものであり、ユーザへ情報を出力する。表示部1102は、例えば液晶ディスプレイのような画像表示装置であってもよい。
記憶装置1105は、例えばハードディスク装置(HDD)又はフラッシュメモリのような不揮発性の記憶装置である。本実施例の記憶装置1105は、少なくとも形状認識部102、物体認識部105が格納される。なお、各DBや記憶部も、記憶装置1105に格納されてもよい。
また物体認識装置10の各機能を実現するプログラム、DB等の情報は、記憶装置1105や不揮発性半導体メモリ、ハードディスク装置、SSD(Solid State Drive)等の記憶デバイス、または、ICカード、SDカード、DVD等の計算機読み取り可能な非一時的データ記憶媒体に格納することができる。
図2Bで、本発明における、点及び点群について、簡単に説明する。
1つの画像は、例えば約800万、あるいは約8000万の画素(点、ピクセル)で構成されている。これら各画素をここでは、点p1(x1,y1,z1),p2(x2,y2,z2),−,pi(xi,yi,zi),〜として表す。点の集合が点群である。本発明においては、各点piに対し、基本形状属性を付加する。なお、ある点piに対して所定の範囲を、点の近傍と定義する。例えば、三次元データの場合、点piから半径10cmの球面内を、点の近傍とする。二次元データの場合は、例えば、点piから所定の半径の円内を、点の近傍とする。点群の形状属性とは、点とその点の近傍に存在する点群の座標値等の相対的な関係から決定される属性情報のことを指す。例えば平面、曲面、線等のような属性を形状属性と定義してもよい。また点群の座標値だけでなく、その他の属性として、点の色情報やアルファ値等の情報を用いて形状属性を定義してもよい。なお、本発明における形状属性の分類は、平面、曲面、線、その他の4つの分類に限定されるものではない。
また、点の局所領域とは、ある点に空間的に連続する十分に小さいと見なせる領域のことを指し、局所領域内に含まれる点群を局所領域点群と呼ぶ。例えば、各軸の座標値を量子化することによって生成したボクセルを局所領域としても良いし、計測点群に対し、再帰的に空間分割を行っていき、数回行った後に止めて、得られた領域を局所領域としても良い。
図3は、形状認識部102で行われる処理を説明したブロック図である。以下、形状認識部102で行われる処理(ステップ21〜ステップ24)について説明する。
ステップ21では、形状認識部102が、計測点群情報1011、もしくはモデル点群DB103から対象物体のモデル点群や計測点群を受信した後、まず局所領域分割部1021によって受信したこれらの点群を局所領域ごとの点群に分割し、形状特徴量算出部1022へ提供する。すなわち、局所領域分割部1021では、三次元データに関して、点群情報を容積が一定値以下となる空間的に連続する局所領域ごとに分割する。二次元の点群データに関しては、点群情報を面積が一定値以下となる面内で連続する局所領域ごとに分割する。このステップ21についての詳細な処理については、後述する。
ステップ22では、形状特徴量算出部1022は、分割された局所領域の点群を受信した後、各局所領域内の点群に関し、特徴量を算出し、局所領域点群記憶部1025へ格納する。前記ステップ22で算出される特徴量とは、複数の点の座標値、色情報、もしくはその両方より演算されるスカラー量、もしくはベクトル量である。例えば、複数の3次元座標に対し主成分分析を適用することによって得られる分散共分散行列でも良いし、Spin Image等の特徴量を用いてもよい。
ステップ23では、形状分類部1024は、基本形状特徴DB1023から提供された基本形状特徴量を用いることにより、局所領域点群記憶部1025に格納された各局所領域の点群を、形状ごとに分類する。前記ステップ23で行われる形状分類は、基本形状特徴DB1023から提供された基本形状特徴量を学習データとし、局所領域点群記憶部1025から提供された局所領域点群の特徴量を分類する教師付き分類である。例えば、SVM(Support Vector Machine)やGMM(Gaussian Mixture Model)などのアルゴリズムを適用することにより、前記の教師付き分類を実現することができる。なおこの教師付き分類を行う際、前記のSVMやGMM等では、学習データの存在する形状属性ごとにしか分類することができないが、One class SVMを用いたり、GMMにおける正規分布の信頼区間の判定を用いることにより、学習データの存在しないその他クラスに分類することができる。
なお形状ごとの分類を行う際に、各形状に関して同時に分類する必要はなく、分類しやすい形状から分類していってもよい。この場合、形状Aか形状A以外かに分類し、形状A以外の局所領域点群を形状Bか形状B以外に分類し、ということを繰り返して分類する。例えば、形状属性が、線、平面、曲面、その他という属性だった際、線→平面→曲面→その他の順に形状分類してもよい。また形状別に分類を行う際に、誤分類が生じることも多々ある。例えば、形状Aに分類された点群を見た時に、本来ならば形状Aに分類されるべき点が存在していなかったり(false negative)、形状B等の他の形状の点が存在する場合(false positive)がある。このfalse negativeとfalse positiveの割合は最終的なマッチング精度に影響を及ぼすこともある。例えば分類を行う際に、分類器に閾値処理を入れて、false negativeとfalse positiveの割合を調整できるようにしてもよい。
ステップ24では、形状分類部1024は、分類された対象物体の点群を形状ごとに統合し、形状別点群を作成し、形状別点群記憶部104へ格納する。
図4は、局所領域分割部1021にて行われる処理(ステップ21)の例である。局所領域分割部1021では、計測点群30から、局所領域31の領域内に含まれる局所領域点群32を抽出する。但し、得られた局所領域点群は一定数以上の点を含む必要がある。もし局所領域点群32に含まれる点数が一定数未満となる場合、その局所領域点群は無視するか、空間的に隣接するいずれかの局所領域点群に統合する等の処理を行う必要がある。この点群を局所領域ごとに分割する処理を行った後、点群に対して各局所領域のIDを割り当て、局所領域点群記憶部1025に格納する。
図5Aは、モデル点群DB103の説明図である。
モデル点群DB103には、ユーザが管理すべき対象物体のモデル点群の情報81、82が格納されている。3次元点群から対象物体の点群を抽出する際に、ユーザが抽出したい対象物体を前記モデル点群DB103から選択し、その選択された対象物体のモデル点群が形状認識部102に提供される。
モデル名81は、ユーザが管理している対象物体の名前、例えば電柱1、電柱2、等である。点群82は、モデル名81、例えば電柱1に対応する実際のモデル点群の座標情報である。この際、モデルの各点に対して、座標情報だけでなく、色情報やアルファ値等を含んでいてもよい。
図5Bは、計測点群記憶部101の説明図である。
計測点群記憶部101は、ユーザが入力した計測点群30(3次元点群)に関する情報83、84を格納する。格納されている3次元点群の情報は、計測データである3次元点群から対象物体の認識点群を抽出する際に、形状認識部102に提供される。
ID83は、3次元点群を構成する各点のIDである。
点情報84は、ID83に対応する点の座標情報である。この際、各点に対して、座標情報だけでなく、色情報やアルファ値等を含んでいてもよい。
図6は、形状別点群情報記憶部104の説明図である。前記形状別点群情報記憶部104は、形状認識部102により形状ごとに分割された計測点群やモデル点群の情報を格納し、物体認識部105に格納した情報85、86を提供する。なお図6では、一つのテーブルのみ表記しているが、実際には計測点群用とモデル点群用の二つのテーブルを設計する必要がある。
形状ID85は、形状認識部102が点群を形状ごとに分類する際の、各形状属性に関するIDである。点群86は、点群内で、形状認識部102が対応する形状ID85の属性が割り当てられた点群の座標情報である。座標情報だけでなく、色情報やアルファ値等を含んでいてもよい。
図7は、基本形状特徴DB1023の説明図である。基本形状特徴DB1023は、形状分類部1024に各形状の特徴量を提供することにより、形状分類部1024は局所領域点群を形状ごとに分類することができるようになる。基本形状特徴DB1023は、形状情報87〜89を格納する。形状ID87は、形状認識部102が点群を形状ごとに分類する際の、各形状属性に関するIDである。形状属性88は、対応する形状ID87の属性名である。特徴量89は、各形状属性を持つ点群情報を演算することによって得られる特徴量の集合である。例えば、点群が持つ座標情報や色情報、アルファ値等、あるいはそれらの組み合わせた値に対し、主成分分析を適用した際の分散共分散行列でも良いし、Spin Image等の特徴量でも良い。但し、特徴量89は、形状特徴量算出部1022にて算出される特徴量と同一種類の特徴量である必要がある。
図8は、局所領域点群記憶部1025の説明図である。局所領域点群記憶部1025は、局所領域分割部1021によって局所領域ごとに分割された点群と、形状特徴量算出部1022が各局所領域点群に対して算出した特徴量を格納し、形状分類部1024に格納データを提供する。局所領域点群記憶部1025は、局所領域点群に関する情報90〜92を格納する。なお図8では、一つのテーブルのみ記述しているが、局所領域点群は、計測点群とモデル点群の両方について提供されるものなので、実際には二つのテーブルを設計する必要がある。
局所領域ID90は、分割された局所領域点群ごとに割り当てられるIDである。点群91は、対応する局所領域ID90の点の座標情報の集合である。この際、座標情報だけでなく、色情報、アルファ値等の情報も含んでいてもよい。局所特徴量92は、対応する点群91を形状特徴量算出部1022が処理することによって、提供される特徴量である。例えば、点群が持つ座標情報や色情報、アルファ値等、あるいはそれらの組み合わせた値に対し、主成分分析を適用した際の分散共分散行列でも良いし、Spin Image等の特徴量でも良い。
図9は、形状認識部102と物体認識部105で行われる処理の説明図である。
形状認識部102では、計測点群30とモデル点群40を形状ごとに分割する。計測点群30を形状A‘と分類された点群を形状別点群301として出力し、同様に形状B‘〜D‘と分類された点群を形状別点群302、303、304として出力する。またモデル点群40に対しても、形状B、Cとして分類された形状別点群401、402を出力する。なおこの例は、形状A、A‘が平面、形状B、B‘が曲面、形状C、C’が線、形状D、D‘がその他、という形状属性を持つ場合である。また形状別点群301〜304は計測点群30を分割することにより生成されているため、全て同じ座標系によって表現されており、形状別点群401、402もモデル点群40と同じ座標系によって表現されている。
物体認識部105では、同じ形状の点群同士、例えば形状BとB‘の点群同士、形状CとC’の点群同士、を比較することにより、計測点群から対象物体の点群を抽出する。物体認識部105に備えられている座標変換量算出部1051が、同じ形状の点群同士を比較する処理を行う。
図10は、物体認識部105の形状別座標変換量記憶部1054の説明図である。形状別座標変換量記憶部1054には、計測点群の形状別点群とモデル点群の形状別点群を用いることにより座標変換量算出部1051から算出された情報93〜99が格納されている。
形状ID93は、形状認識部102が点群を形状ごとに分類した際の、各形状属性に関するIDである。変換量ID94は、各形状ごとに複数候補の座標変換量を算出した際に、形状別にそれぞれの座標変換量に割り当てられるIDである。回転量95は、座標変換量算出部1051によって提供された、対応する形状ID93、変換量ID94の回転行列である。並進量96は、座標変換量算出部1051によって提供された、対応する形状ID93、変換量94の並進ベクトルである。入力点数97は、対応する形状ID93に分類された形状別点群の計測点群情報1041の点数である。モデル点数98は、対応する形状ID93に分類された形状別点群のモデル点群情報1042の点数である。
評価値99は、対応する回転量95と並進量96を用いた時の、対応する形状ID93に分類された形状別点群の計測点群情報1041とモデル点群情報1042のマッチングの評価値である。前記評価値は、マッチングの誤差と正の相関を持つパラメータである。例えば、形状ID93に対応するモデル点群情報1042を回転量95と並進量96を用いて座標変換を行い、前記座標変換されたモデル点群情報1042の各点に対し、形状ID93に対応する計測点群情報1041の最近傍点を探索し、前記モデル点群情報1042の各点と前記計測点群情報1041の距離の二乗の総和をとったパラメータを前記評価値99としてもよい。
図9に戻って、モデル点群40には形状A、Dとなる点群は存在しないため、物体認識部105では、形状B‘の形状別点群302に関しては形状別点群401の形状Bとのマッチングを行い、形状C’の形状別点群303に関しては形状別点群402の形状Cとのマッチングを行う。例えばICP(Iterative Closest Point)やNDT(Normal Distribution Transform)などのアルゴリズムを適用することにより、マッチングを実現することができる。例えばICPを用いる場合、形状別点群302の座標系における座標値を式(1)、形状別点群401の座標系における座標値を式(2)とすると、式(3)となるような、回転量95であるRと並進量96であるtを求めることにより、マッチングを行うことができる。
Figure 2014155715
Figure 2014155715
Figure 2014155715
但し、Rは3×3の行列であり、回転行列と呼ばれる。またtは、3次元ベクトルであり、並進ベクトルと呼ばれる。前記回転量95と並進量96を合わせて、座標変換量と呼ぶ。物体認識部105の座標変換量算出部1051は座標変換量を算出した後、形状別座標変換情報記憶部1054に座標変換量を格納する。ICPやNDTを用いて座標変換量を算出する際、局所解が複数算出されることもある。その場合、座標変換量が複数の解候補を持つため、全ての候補を形状別座標変換情報記憶部1054に格納する。また座標変換量を格納する際に、そのマッチング時の評価値と、形状別点群302、401の点数等の情報を格納してもよい。この後、形状統合部1052と認識点群抽出部1053の処理を行うことにより、計測点群から対象物体の点群を抽出することができる。各部の処理については、後述する。
図11は、物体認識部105で行われる処理のフローを示すブロック図である。以下物体認識部105にて行われる処理(ステップ50〜ステップ58)について詳細に説明する。ステップ50では、認識すべきモデル点群の形状の数(N)を取得し、この数(N)だけ以下に述べる処理を行う。
ステップ51では、形状別点群記憶部104に格納された計測点群とモデル点群の形状別点群を参照し、モデル点群が持つ形状属性の中で、計測点群には存在しない形状属性が存在するかどうかを判定する。上記判定でYesの場合はステップ52に進み、Noの場合はステップ53に進む。換言すると、テップ51では、形状の分類において誤分類が生じているか(判定でYes)、否かを判定するものである。
ステップ52では、計測点群には存在しない形状属性を持つ、モデル点群の形状別点群の点数を参照し、その点数が一定の閾値以上かどうかを判定する。上記判定でYesの場合は抽出失敗となり、物体認識部105で行われる処理が終了する。Noの場合はステップ53に進む。ステップ52により、計測点群中に抽出したい対象物体が存在するかどうかを判定することができる。すなわち、点数が一定の閾値以上の場合(判定でYes)には、誤分類の可能性が殆ど無いので、抽出したい対象物体が存在しないと判定される。換言すると、抽出したい対象物体が存在する場合、及び、誤分類が生じている場合には、ステップ53に進む。
ステップ53では、座標変換量算出部1051が、計測点群とモデル点群に関する形状別点群を、形状別点群記憶部104より受信した後、形状別に計測点群とモデル点群を比較することにより、形状ごとに複数候補の座標変換量を算出し、形状別座標変換情報記憶部1054に格納する。但し、計測点群の形状別点群の点数が0となり、モデル点群の形状別点群の点数が1以上となるような形状属性が存在する時は、その形状属性の座標変換量は算出せず、今後無視して処理を続けるものとする。
ステップ54では、形状統合部1052が、形状別座標変換情報記憶部1054に格納された複数の座標変換量から、形状間で座標変換量の組み合わせを作成する。この際、全通りの組み合わせを作成してもよいし、形状間で座標変換量の差に正の相関を持つパラメータを算出し、前記パラメータが一定の閾値以下となるように、座標変換量の組み合わせを作成してもよい。例えば、並進量96の差の絶対値が一定の閾値以下となる組み合わせを作成してもよいし、前記の条件に加え、回転量95から算出されたオイラー角、もしくはRoll、Pitch、Yawの各角度のそれぞれの差が一定の閾値以下となる組み合わせを作成してもよい。回転量95からRoll、Pitch、Yawの各角度を算出する場合、回転行列Rは例えば、(式4)と表してもよいため、ここからα、β、γに関する連立方程式を立てることができ、これを解くことによってRoll、Pitch、Yawの角度に相当する値を求めることができる。オイラー角に関しても同様である。
Figure 2014155715
ステップ55では、ステップ54で得られた座標変換量の組み合わせについて、評価値99を算出する。この評価値は、全ての組み合わせについて、各座標変換量でマッチングした際の評価値99と正の相関を持つパラメータを用いて算出される。また評価値99は、入力点数97、モデル点数98、回転量95、並進量96、計測点群情報1041、モデル点群情報1042等から算出されてもよい。
ステップ56では、ステップ54で得られた座標変換量の組み合わせが妥当であるかどうかを、ステップ55で得られた評価値99が閾値以下かどうかで判定する。上記判定でYesの場合はステップ57へ進み、Noの場合は抽出失敗として物体認識部105の処理を終了する。
ステップ57では、最終的な座標変換量を決定する。前記ステップ53で評価値99が閾値以下となった座標変換量の各組み合わせに対し、座標変換量を決定する。この座標変換量は対応する座標変換量の組み合わせに対し、一つ決定される値であり、回転量95、並進量96を用いて決定される。回転量95、並進量96に加え、入力点数97、モデル点数98、評価値99等を用いて決定してもよい。例えば、各形状ごとに存在する回転量95の平均値と並進量96の平均値を決定値としてもよいし、モデル点数98が最も多い時の回転量95、並進量96を決定値としてもよい。
ステップ58では、計測点群から対象物体に相当すると判定された点群を抽出する。これはステップ57で決定された座標変換量を用いて、モデル点群の座標変換を行い、変換されたモデル点群の各点から一定距離内に存在する計測点群の点を対象物体に相当すると判定してもよい。モデル点群の各点から一定距離内に存在する計測点群の点が存在しない場合は、抽出失敗として判定する。
図12は、前記座標変換量算出部1051にて行われるステップ51の処理の説明図であり、形状Bとして分類された計測点群40の形状別点群と、同じ形状B‘として分類されたモデル点群30の2つの形状別点群302−1、302−2とのマッチングを行う。
マッチングは例えばICP等によって実現される。その際に、回転量Rや並進量t等を用いることにより形状別点群40を座標変換し、座標変換された形状別点群40の各点に対し、計測点群30の形状別点群との最近傍距離を求め、その二乗和を評価値99とし、評価値が一定の閾値以下となるような座標変換量を求めることにより、マッチングを実現する。ICP等は初期値依存性の高いアルゴリズムであるため、様々な初期値を与え、複数回ICPを適用してもよい。形状別点群40が形状別点群302−1の位置に収束するような座標変換量と、形状別点群40が形状別点群302−2の位置に収束するような座標変換量を算出することができるが、その際の評価値が一定の閾値以下であるものを形状別座標変換情報記憶部1054に格納する。格納データは、評価値99と座標変換量と計測点群とモデル点群から抽出された形状別点群の点数等である。
ICP等において、通常は評価値が最小となる場合、モデル点群が実際の対象物体の位置に収束していることが多いが、物体認識部105で前記処理を行う前に、形状認識部102にて行う形状分類処理にて、誤分類が生じてしまう可能性もあるため、点群にノイズや欠損値等が含まれる場合がある。そのため、必ずしも評価値が最小となる座標変換量が最適な結果になるとは限らないため、複数候補の座標変換量を算出する。これにより、マッチングに失敗する可能性が低くなるという効果がある。
図13A〜図13Cは、物体認識装置10の表示部1070を示した画面イメージである。ボタン701は形状分類、ボタン702は形状表示切替、ボタン703は形状統合、ボタン704はモデルマッチング、ボタン705はモデル選択、の各入力操作を行う機能を有する。ユーザがボタン701〜705を選択することにより、各処理を行うことが可能である。この際、ボタンはタッチパネルのようにユーザが画面に触れるだけで選択することができてもよいし、マウスのカーソルやキーボード入力等によってボタンを選択することができてもよい。
図13Aの画面1070−1は、ユーザが入力した計測点群30を描画した画面である。ユーザがモデル選択ボタン705を選択することにより、図5Aのデータベースに保持されたモデル点群が表示され、ユーザにより認識すべき形状のモデル点群が選択される。形状分類ボタン701を選択することにより、計測点群とモデル点群に対し、形状認識部102の処理が実行される。形状表示切替ボタン702を選択することにより、形状属性ごとに形状別点群302等を図13Bの画面1070−2のように表示することができる。この表示は形状認識部102の処理が終了している時のみ実行される。モデルマッチングボタン704を選択することにより、物体認識部105の座標変換量算出部1051の処理が実行される。形状統合ボタン703を選択することにより、物体認識部105の形状統合部1052と認識点群抽出部1053の処理が実行され、認識点群出力部106により計測点群から対象物体に相当する点群を抽出した画面1070−3が表示される。但し、前記処理は座標変換量算出部1051の処理が終了している時のみ実行される。
図13Bの画面1070−2は、形状認識部102によって形状別点群302を生成し、その中でも形状B‘に相当する形状別点群を描画した画面である。テキストボックス711に現在表示している形状B‘が記述されている。形状表示切替ボタン702を選択することにより、表示する形状が変わり、同時にテキストボックス711の内容も変化する。この際、表示点群302は当該形状の点群とそれ以外の点群の色を変化させて表示してもよいし、当該形状の点群のみを表示してもよい。なお座標変換量算出部1051の処理が終わっている場合は、算出された座標変換量を用いて変換されたモデル点群の形状別点群を重畳表示してもよい。各形状属性において複数候補の座標変換量が存在する場合は、それぞれの評価値によって色を変化させて、重畳表示させてもよい。
図13Cの画面1070−3は、計測点群30からユーザにより指定された対象物体に相当する認識点群50を実際に抽出した画面であり、物体認識部105の処理が終了した後に表示される。
なお表示部1102を通して、3次元点群からの対象物体の点群抽出処理に失敗した際に、ユーザがその結果を修正することができてもよい。例えば画面1070−2で計測点群の形状別点群に対し、モデル点群の形状別点群を重畳表示し、モデル点群の形状別点群をマウスのカーソルやキーボード等で選択することにより、形状統合処理に用いる座標変換量を選択することができてもよい。
本実施例によれば、計測点群と対象物体のモデル点群の各点に対し、形状属性を付加し、その属性ごとに各点群を分解する。そして一致する形状属性の点群同士をマッチングすることにより、計算時間の削減と、マッチング精度の向上を実現することができる。
以下、本発明の第2の実施例について、図14乃至図15を参照しながら説明する。
図14は、本発明の第2の実施例における物体認識装置100の基本構成を表すブロック図である。物体認識装置100は、計測点群入力部107と、計測点群記憶部101と、形状認識部102と、形状別点群記憶部104と、物体認識部105と、認識点群出力部106と、入出力IF部107と、モデル生成部1307とを備えている。計測点群入力部100と、形状別点群記憶部104と、認識点群出力部106と、入出力IF部107は、それぞれ第1の実施例の各部と同一である。具体的には、図3〜図13(A〜C)は第2の実施例でも適用される。以下、第2の実施例について、第1の実施例と異なる点のみ説明する。
第2の実施例において、モデル生成部1307は、対象物体の形を表す方程式等からモデル点群を生成する。物体認識部105はモデル判定部13055を備える。モデル判定部13055は、モデル生成部1307が生成した対象物体のモデル点群が適切かどうかを判定する。例えば、電柱の規格には様々な種類のものがあるため、計測点群から電柱に相当する点群を抽出する場合、各規格の電柱モデル点群を用いる必要がある。どの規格の電柱モデル点群が計測点群に含まれているかは分からないことも多い。各規格の電柱モデル点群を用いた場合、モデル判定部13055は、どの規格の電柱モデル点群が最適かを判断するため、精度が向上するという効果がある。
第2の実施例において、計測点群記憶部101、モデル生成部1307、形状認識部102、形状認識部102は、先述の通り第1の実施例と同一であるが、モデル点群はモデル生成部1307において方程式等を用いて生成するため、事前に形状情報が判明している場合が多い。例えば、電柱モデルの場合、柱の側面部分は全て曲面となる。そのため、モデル点群に関しては、形状認識部102の処理を行わずに、形状別点群記憶部104にそれらのデータを格納してもよい。
計測点群記憶部1301は、計測点群情報13011と、モデル点群情報13012を備える。計測点群記憶部1301は、計測点群入力部1300から計測点群131を、モデル生成部1307からモデル点群を受け取り、格納する。また計測点群131とモデル点群を形状認識部1302に提供する。計測点群情報13011は、第1の実施例の計測点群情報1011と同一である。モデル点群情報13012はモデル点群の情報を格納する。データ構造は第1の実施例と同一である。
物体認識部105は、座標変換量算出部13051と、形状統合部13052と、認識点群抽出部13053と、形状別座標変換13054と、モデル判定部13055と、を備える。座標変換量算出部13051と、形状統合部13052と、認識点群抽出部13053と、形状別座標変換情報記憶部13054は、それぞれ第1の実施例の座標変換量算出部1051と、形状統合部1052と、認識点群抽出部1053と、形状別座標変換情報記憶部1054と同一である。
モデル生成部1307は、ユーザより指定された対象物体の形を表す方程式等からモデル点群を生成する。具体的な処理内容については、後述する。
図15は、物体認識部105で行われる処理のブロック図である。以下物体認識部105にて行われる処理(ステップ141〜ステップ148)について説明する。
ステップ141では、モデル生成部1307がユーザより指定された対象物体の形を表す方程式等からモデル点群を生成し、点群情報記憶部1301に格納する。例えば、対象物体が電柱であるため、円柱モデル点群を生成する場合、(式5)の3つの方程式のいずれかを満たす点を、複数個生成することにより、円柱モデル点群を生成することができる。
Figure 2014155715
ここで、r,Hはそれぞれ円柱の半径と高さである。この時、方程式は1つもしくは複数のパラメータを持っており、モデルを生成する際にパラメータを設定できるようにしておいてもよい。このパラメータをモデルパラメータと呼ぶ。ステップ141では、方程式を満たす点が、できる限り空間的に一様に分布するように点を生成しなくてはいけない。なお単位体積当たりに含まれる点の数は、計測点群の単位体積当たりに含まれる点の数より少なくてもよいし、同程度でもよい。
ステップ142は、第1の実施例のステップ21〜24と同一である。ステップ142の後、ステップ143に進む。ステップ143は、第1の実施例のステップ51〜53と同一である。ステップ51〜53の過程にて抽出失敗として判定された場合は、ステップ146に進む。それ以外の場合は、ステップ144に進む。ステップ144は、第1の実施例のステップ54〜57と同一である。ステップ54〜57の過程にて抽出失敗として判定された場合は、ステップ146に進む。それ以外の場合は、ステップ145に進む。
ステップ145では、ステップ144にて算出された座標変換量を用いて評価値を算出し、閾値以上かどうかを判定する。この時算出する評価値は、座標変換量を用いてモデル点群に対し座標変換と行った点群と計測点群の一致度に正の相関を持つ。また前記評価値はモデルパラメータを用いて演算されてもよい。前記判定がYesの時はステップ147へ進み、Noの時はステップ146へ進む。この判定はモデル生成部1307で生成されたモデル点群が適切だったかどうかを判定していることに相当する。
ステップ146では、物体認識部105の処理が始まってから、ステップ146の処理を何回行ったかを参照し、ステップ146の処理回数が閾値以上かどうかを判定する。前記判定がYesであれば、抽出失敗として処理を終了し、Noであれば、ステップ146へ進む。
ステップ147では、モデル生成部1307でモデル点群を生成する時の方程式等のモデルパラメータを変更する処理を行う。例えばステップ141の説明で記述の方程式を用いる場合であれば、の値を変更すればよい。またどのような値に変更するかはユーザが操作部1101を操作することにより、値を決めてもよい。ステップ147を行った後に、ステップ141へ進む。ステップ148は、第1の実施例のステップ58と同一である。
第1の実施例では、ユーザがモデル点群DB103より対象物体のモデルを選択することにより、モデル点群を取得している。そのため、例えば対象物体が電柱である場合を考えると、様々な高さの電柱モデル点群をモデル点群DB103に格納しておく必要がある。これに対し、第2の実施例では、対象物体の形を表す方程式等からモデル点群を生成する。そのため、電柱の形が円錐台であると仮定すると、上底と下底と高さのパラメータを持つだけで、電柱モデル点群を生成することができる。これにより、モデル点群DB103を用意する必要がないという効果がある。
以下、本発明の第3の実施例について図16乃至図17を参照しながら説明する。
第3の実施例は、形状認識部102以外は全て第1の実施例と同一である。具体的には、図4〜13は第3の実施例でも適用される。なお第2の実施例と第3の実施例を組み合わせてもよい。以下、第3の実施例について、第1の実施例と異なる点のみ説明する。
図16は、本発明の第3の実施例における物体認識装置10の基本構成を表すブロック図である。物体認識装置10は、計測点群入力部100と、計測点群記憶部101と、形状認識部102と、モデル点群DB103と、形状別点群記憶部104と、物体認識部105と、認識点群出力部106と、を備える。計測点群入力部100と、計測点群記憶部101と、モデル点群DB103と、形状別点群記憶部104と、物体認識部105と、認識点群出力部106は、それぞれ第1の実施例の各部と同一である。
形状認識部102は、局所領域分割部16021と、形状特徴量算出部16022と、モデル点群分類部16023と、形状分類部16024と、局所領域点群記憶部16025と、を備える。局所領域分割部16021と、形状特徴量算出部16022と、局所領域点群記憶部16025は第1の実施例の各部と同一である。なお形状認識部1602で行われる処理については、後述する。
図17は、形状認識部102で行われる処理のブロック図である。以下形状認識部102にて行われる処理(ステップ171〜ステップ175)について説明する。
ステップ171、172は、それぞれ第1の実施例のステップ21、22と同一である。ステップ171の後にステップ172の処理を行い、その後ステップ173へ進む。
ステップ173では、モデル点群分類部16023が、モデル点群から算出された局所領域点群の特徴量に対して、教師なし分類を適用し、形状属性を付加する。教師なし分類は、GMM(Gaussian Mixture Model)やk−means法等を適用することにより、実現できる。この際、形状属性数は、ノンパラメトリックベイズの枠組みや赤池情報量基準等を用いて推定してもよいし、適当な値にしてもよい。ステップ173の処理を行った後、ステップ174へ進む。
ステップ174では、形状分類部16024が、ステップ173にて学習したパラメータを用い、教師付き分類を行う。教師付き分類には、教師なし分類で用いた分類器と同様の分類器を用いてもよいし、新しい分類器を用いてもよい。但しこの時、教師なし分類で得られた形状属性とそれ以外の形状属性にも分類するようにする。例えば、教師なし分類で形状A、B、Cが得られた場合、教師付き分類では、形状A、B、Cとその他という4種類の形状属性に分類する。
ステップ175では、形状分類部16024は、分類された点群を形状ごとに統合し、形状別点群を作成し、形状別点群記憶部104へ格納する。
第1の実施例では、形状分類部1024は、基本形状特徴DB1023の格納データを学習データとして、計測点群とモデル点群の局所領域点群を分類している。これに対し、第3の実施例では、モデル点群の局所領域点群に対し、教師なし分類を行い、その結果を学習データとして、計測点群の局所領域点群を分類する。これにより、基本形状特徴DB1023を備える必要がないという効果がある。
10 物体認識装置
11 計測点群
12 認識点群
100 計測点群入力部
101 計測点群記憶部
102 形状認識部
1021 局所領域分割部
1022 形状特徴量算出部
1023 基本形状特徴DB
1024 形状分類部
1025 局所領域点群記憶部
103 モデル点群DB
104 形状別点群記憶部
105 物体認識部
1051 座標変換量算出部
1052 形状統合部
1053 認識点群抽出部
1054 形状別座標変換情報記憶部
106 認識点群出力部
107 入出力IF部
108 モデル選択部
1101 操作部
1102 表示部
1103 プロセッサ
1104 メインメモリ
1105 記憶装置
1070 表示部
1307 モデル生成部
13055 モデル判定部
16023 モデル点群分類部。

Claims (15)

  1. 点の集合である点群の情報を記憶する点群記憶部と、
    前記点群情報に関する情報の入出力を行うための入出力部と、
    前記点群の形状属性を推定する形状認識部と、
    前記点群情報における対象物体の存在を認識する物体認識部とを備え、
    前記点群情報は、計測値の入力である計測点群の情報と、認識すべき対象物体に対応するモデル点群の情報とを含んでおり、
    前記形状認識部は、
    前記計測点群及び前記モデル点群の各点について、該各点に対する近傍点の相対的な座標情報より決定される形状属性を推定し、
    前記物体認識部は、
    同一の前記形状属性を持つ前記計測点群と前記モデル点群の前記各形状属性のマッチング処理を行い、前記形状属性の一致度に基づき、前記計測点群中における前記モデル点群の存在情報を取得する
    ことを特徴とする物体認識装置。
  2. 請求項1において、
    前記形状認識部は、
    前記点群情報を面積若しくは容積が一定値以下となる連続する局所領域ごとに分割する局所領域分割部と、
    前記局所領域に存在する前記点群から、前記近傍点の相対的な座標情報より算出される形状特徴量を推定する形状特徴量算出部と、
    前記局所領域分割部と前記形状特徴量算出部から取得したデータを格納する局所領域点群記憶部と、
    前記形状属性と前記形状特徴量のデータを格納する基本形状特徴データベースと、
    前記局所領域点群記憶部と前記基本形状特徴データベースに格納された前記データを用いて前記点群情報の各点ごとの形状属性を推定する形状分類部とを備える
    ことを特徴とする物体認識装置。
  3. 請求項1において、
    前記物体認識部は、
    同一の形状属性を持つ前記モデル点群から前記計測点群への、1つ以上の形状属性別座標変換量を算出する座標変換量算出部と、
    前記形状属性別座標変換量を統合し前記モデル点群から前記計測点群への統合座標変換量を算出する形状統合部と、
    前記統合座標変換量を用いて前記計測点群から前記モデル点群を抽出する認識点群抽出部とを備える
    ことを特徴とする物体認識装置。
  4. 請求項3において、
    前記形状統合部は、
    前記形状属性別座標変換量の各組み合わせに対してそれぞれ算出される評価値が最小となる組み合わせを統合し、前記モデル点群から前記計測点群への統合座標変換量を算出し、
    前記評価値は、
    前記形状属性別座標変換量の差に正の相関を持ち、
    前記統合座標変換量は、
    前記形状属性別座標変換量、形状属性別の計測点群、モデル点群が持つ点の数のうちの少なくとも一つを含むパラメータより算出される
    ことを特徴とする物体認識装置。
  5. 請求項3において、
    前記物体認識装置は、前記認識すべき対象物体のモデル選択に関する情報を受け付けるモデル選択部を備えており、
    前記入出力部は、前記形状分類部、前記形状統合部、前記マッチング処理、前記モデル選択、の何れかの入力操作を行う機能を有する表示部を備えている
    ことを特徴とする物体認識装置。
  6. 請求項3において、
    前記物体認識装置は、
    物体の表面形状を表す方程式よりモデル点群を生成し、前記計測点群記憶部へ前記モデル点群を格納するモデル生成部を備え、
    前記物体認識部は、
    前記統合座標変換量を用いて座標変換を行った前記モデル点群と前記計測点群の一致度に正の相関を持つパラメータを算出し、前記モデル点群が最適かどうかを判定するモデル判定部とを備える
    ことを特徴とする物体認識装置。
  7. 請求項1において、
    前記形状認識部は、
    前記点群情報を面積若しくは容積が一定値以下となる連続する局所領域ごとに分割する局所領域分割部と、
    前記局所領域に存在する点群から近傍点の相対的な座標情報より算出される形状特徴量を推定する形状特徴量算出部と、
    前記局所領域分割部と前記形状特徴量算出部から取得したデータを格納する局所領域点群記憶部と、
    前記局所領域点群記憶部に格納された前記モデル点群の局所領域点群を前記形状属性ごとに分類するモデル点群分類部と、
    前記モデル点群分類部から取得した前記形状属性と前記モデル点群の形状特徴量を用いて前記計測点群の局所領域点群を前記形状属性ごとに分類する形状分類部とを備える
    ことを特徴とする物体認識装置。
  8. 請求項1において、
    前記形状属性は、平面、線、曲面、その他の4つの属性を含み、
    前記形状分類部は、
    前記線、前記平面、前記曲面、前記その他の順番に前記形状属性を推定する
    ことを特徴とする物体認識装置。
  9. 請求項1において、
    前記形状認識部は、
    前記点群情報を容積が一定値以下となる空間的に連続する局所領域ごとに分割する局所領域分割部と、
    前記局所領域に存在する前記点群から近傍点の相対的な座標情報より算出される形状特徴量を推定する形状特徴量算出部と、
    前記局所領域分割部と前記形状特徴量算出部から取得したデータを格納する局所領域点群記憶部と、
    前記形状属性と形状特徴量のデータを格納する基本形状特徴データベースと、
    前記局所領域点群記憶部と基本形状特徴データベースに格納されたデータを用いて点群情報の各点ごとの形状属性を推定する形状分類部とを備え、
    前記物体認識部は、
    同一の形状属性を持つ前記モデル点群から前記計測点群への、1つ以上の形状属性別座標変換量を算出する座標変換量算出部と、
    前記形状属性別座標変換量を統合し前記モデル点群から前記計測点群への統合座標変換量を算出する形状統合部と、
    前記統合座標変換量を用いて前記計測点群から前記認識点群を抽出する認識点群抽出部とを備える
    ことを特徴とする物体認識装置。
  10. 請求項9において、
    前記形状統合部は、
    前記形状属性別座標変換量の各組み合わせに対してそれぞれ算出される評価値が最小となる組み合わせを統合し、前記モデル点群から前記計測点群への統合座標変換量を算出し、
    前記評価値は、
    前記形状属性別座標変換量の差に正の相関を持ち、
    前記統合座標変換量は、
    前記形状属性別座標変換量、形状属性別の前記計測点群、前記モデル点群が持つ点の数のうちの少なくとも一つを含むパラメータより算出されること
    を特徴とする物体認識装置。
  11. 請求項1において、
    前記物体認識部は、
    同一の形状属性を持つ前記モデル点群から前記計測点群への、1つ以上の形状属性別座標変換量を算出する座標変換量算出部と、
    前記形状属性別座標変換量を統合し前記モデル点群から前記計測点群への統合座標変換量を算出する形状統合部と、
    前記統合座標変換量を用いて前記計測点群から前記認識点群を抽出する認識点群抽出部とを備え、
    前記形状認識部は、
    点群情報を容積が一定値以下となる空間的に連続する局所領域ごとに分割する局所領域分割部と、
    前記局所領域に存在する点群から近傍点の相対的な座標情報より算出される形状特徴量を推定する形状特徴量算出部と、
    前記局所領域分割部と前記形状特徴量算出部から取得したデータを格納する局所領域点群記憶部と、
    前記局所領域点群記憶部に格納された前記モデル点群の局所領域点群を前記形状属性ごとに分類するモデル点群分類部と、
    前記モデル点群分類部から取得した前記形状属性と前記モデル点群の形状特徴量を用いて前記計測点群の局所領域点群を前記形状属性ごとに分類する形状分類部とを備える
    ことを特徴とする物体認識装置。
  12. 物体を認識させるためにコンピュータを、
    点の集合である点群の情報を記憶する点群記憶手段、
    前記点群情報に関する情報の入出力を行うための入出力手段、
    前記点群の形状属性を推定する形状認識手段、及び、
    前記点群情報における対象物体の存在を認識する物体認識手段として機能させ、
    前記点群情報は、計測値の入力である計測点群の情報と、認識すべき対象物体に対応するモデル点群の情報とを含んでおり、
    前記点群の形状属性は、前記点の各々と該各点の近傍に存在する前記点群の座標値等の相対的な関係から決定される属性情報であり、
    前記形状認識手段は、
    前記計測点群及び前記モデル点群の各点について、該各点に対する近傍点の相対的な座標情報より決定される形状属性を推定し、
    前記物体認識手段は、
    同一の前記形状属性を持つ前記計測点群と前記モデル点群の前記各形状属性のマッチング処理を行い、前記形状属性の一致度に基づき、前記計測点群中における前記モデル点群の存在情報を取得する
    ことを特徴とする物体認識プログラム。
  13. 請求項12において、
    前記コンピュータを、
    前記点群情報を面積若しくは容積が一定値以下となる連続する局所領域ごとに分割する局所領域分割手段、
    前記局所領域に存在する前記点群から、前記近傍点の相対的な座標情報より算出される形状特徴量を推定する形状特徴量算出手段、
    前記形状属性と前記形状特徴量のデータを格納する基本形状特徴記憶手段、及び
    前記局所領域点群記憶手段と前記基本形状特徴記憶手段に格納された前記データを用いて前記点群情報の各点ごとの形状属性を推定する形状分類手段として機能させる
    ことを特徴とする物体認識プログラム。
  14. 物体認識装置による物体認識方法であって、
    前記物体認識装置は、
    点の集合である点群の情報を記憶する点群記憶部と、
    前記点群情報に関する情報の入出力を行うための入出力部と、
    前記点群の形状属性を推定する形状認識部と、
    前記点群情報における対象物体の存在を認識する物体認識部とを備え、
    前記点群情報は、計測値の入力である計測点群の情報と、認識すべき対象物体に対応するモデル点群の情報とを含んでおり、
    前記形状認識部において、
    前記計測点群及び前記モデル点群の各点について、該各点に対する近傍点の相対的な座標情報より決定される形状属性を推定し、
    前記物体認識部において、
    同一の前記形状属性を持つ前記計測点群と前記モデル点群の前記各形状属性のマッチング処理を行い、前記形状属性の一致度に基づき、前記計測点群中における前記モデル点群の存在情報を取得する
    ことを特徴とする物体認識方法。
  15. 請求項14において、
    前記物体認識装置は、前記認識すべき対象物体のモデル選択に関する情報を受け付けるモデル選択部を備えており、
    前記形状属性は、平面、線、曲面、その他の4つの属性を含み、
    前記形状認識部において、
    前記点群情報を容積が一定値以下となる空間的に連続する局所領域ごとに分割し、
    前記局所領域に存在する前記点群から近傍点の相対的な座標情報より算出される形状特徴量を推定し、
    前記局所領域の前記形状属性と前記形状特徴量を用いて前記点群情報の各点ごとの形状属性を推定し、
    前記物体認識部において、
    同一の前記形状属性を持つ前記モデル点群から前記計測点群への、1つ以上の前記形状属性別座標変換量を算出し、
    前記形状属性別座標変換量を統合し前記モデル点群から前記計測点群への統合座標変換量を算出し、
    前記統合座標変換量を用いて前記計測点群から前記認識点群を抽出する
    ことを特徴とする物体認識方法。
JP2015507899A 2013-03-29 2013-03-29 物体認識装置および物体認識方法並びにプログラム Active JP6069489B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2013/059666 WO2014155715A1 (ja) 2013-03-29 2013-03-29 物体認識装置および物体認識方法並びにプログラム

Publications (2)

Publication Number Publication Date
JP6069489B2 JP6069489B2 (ja) 2017-02-01
JPWO2014155715A1 true JPWO2014155715A1 (ja) 2017-02-16

Family

ID=51622762

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015507899A Active JP6069489B2 (ja) 2013-03-29 2013-03-29 物体認識装置および物体認識方法並びにプログラム

Country Status (2)

Country Link
JP (1) JP6069489B2 (ja)
WO (1) WO2014155715A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6590653B2 (ja) * 2014-11-19 2019-10-16 首都高技術株式会社 点群データ利用システム
FR3030847B1 (fr) * 2014-12-19 2017-12-22 Thales Sa Procede de discrimination et d'identification par imagerie 3d d'objets d'une scene
JP6782239B2 (ja) * 2015-01-06 2020-11-11 フェイスブック・テクノロジーズ・リミテッド・ライアビリティ・カンパニーFacebook Technologies, Llc パターン光を用いた深さマップを提供するための方法およびシステム
CN105678753B (zh) * 2015-12-31 2019-07-02 百度在线网络技术(北京)有限公司 一种物体分割方法及装置
JP6711913B2 (ja) * 2016-06-14 2020-06-17 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置
EP3548840B1 (en) * 2016-11-29 2023-10-11 Blackmore Sensors & Analytics, LLC Method and system for classification of an object in a point cloud data set
DE112017006839T5 (de) 2017-01-16 2019-09-26 Fujitsu Limited Informationsverarbeitungsvorrichtung, Datenbankerzeugungsvorrichtung, Verfahren, Programm und Speichermedium
US10600199B2 (en) * 2017-06-27 2020-03-24 Toyota Research Institute, Inc. Extending object detection and identification capability for an object sensor device
WO2019229912A1 (ja) * 2018-05-30 2019-12-05 株式会社ニコン 情報処理装置、情報処理方法、情報処理プログラム、及び顕微鏡
JP7424573B2 (ja) * 2019-06-04 2024-01-30 成典 田中 三次元点群データに基づく三次元モデル生成装置
JP2021099689A (ja) * 2019-12-23 2021-07-01 ソニーグループ株式会社 情報処理装置、情報処理方法、およびプログラム
JP7407648B2 (ja) * 2020-04-15 2024-01-04 株式会社日立製作所 物体認識装置及び物体認識方法
JP2022157660A (ja) 2021-03-31 2022-10-14 株式会社トプコン 点群情報処理装置、点群情報処理方法、点群情報処理プログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4193519B2 (ja) * 2003-02-27 2008-12-10 セイコーエプソン株式会社 物体識別方法および物体識別装置
JP2008014691A (ja) * 2006-07-04 2008-01-24 Japan Aerospace Exploration Agency ステレオ画像計測方法とそれを実施する装置

Also Published As

Publication number Publication date
WO2014155715A1 (ja) 2014-10-02
JP6069489B2 (ja) 2017-02-01

Similar Documents

Publication Publication Date Title
JP6069489B2 (ja) 物体認識装置および物体認識方法並びにプログラム
Chen et al. Principal axes descriptor for automated construction-equipment classification from point clouds
US20190295266A1 (en) Point cloud matching method
Xu et al. Reconstruction of scaffolds from a photogrammetric point cloud of construction sites using a novel 3D local feature descriptor
Ochmann et al. Automatic generation of structural building descriptions from 3D point cloud scans
US20190279368A1 (en) Method and Apparatus for Multi-Model Primitive Fitting based on Deep Geometric Boundary and Instance Aware Segmentation
CN113221743B (zh) 表格解析方法、装置、电子设备和存储介质
EP4016392A1 (en) Machine-learning for 3d object detection
EP3300025A1 (en) Image processing device and image processing method
JP2013206458A (ja) 画像における外観及びコンテキストに基づく物体分類
Cupec et al. Object recognition based on convex hull alignment
Zhao et al. Region-based saliency estimation for 3D shape analysis and understanding
JP2015184054A (ja) 同定装置、方法及びプログラム
US11816857B2 (en) Methods and apparatus for generating point cloud histograms
Phan et al. Triangulation based skeletonization and trajectory recovery for handwritten character patterns
Turk et al. Computer vision for mobile augmented reality
US9250802B2 (en) Shaping device
Kordelas et al. Viewpoint independent object recognition in cluttered scenes exploiting ray-triangle intersection and SIFT algorithms
Bagchi et al. Reg3DFacePtCd: registration of 3D point clouds using a common set of landmarks for alignment of human face images
JP2016081472A (ja) 画像処理装置、画像処理方法及びプログラム
Gehre et al. Feature Curve Co‐Completion in Noisy Data
CN110598751B (zh) 一种基于几何属性的锚点生成方法
KR20130081126A (ko) 손 제스처 인식 방법 및 그 장치
US20220254173A1 (en) Mesh structure equipment detection apparatus, mesh structure equipment detection method and program
Chen et al. Automated equipment recognition and classification from scattered point clouds for construction management applications

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161226

R150 Certificate of patent or registration of utility model

Ref document number: 6069489

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250