JP6499599B2 - 物体認識装置、3次元点群モデル化装置、方法、及びプログラム - Google Patents

物体認識装置、3次元点群モデル化装置、方法、及びプログラム Download PDF

Info

Publication number
JP6499599B2
JP6499599B2 JP2016026848A JP2016026848A JP6499599B2 JP 6499599 B2 JP6499599 B2 JP 6499599B2 JP 2016026848 A JP2016026848 A JP 2016026848A JP 2016026848 A JP2016026848 A JP 2016026848A JP 6499599 B2 JP6499599 B2 JP 6499599B2
Authority
JP
Japan
Prior art keywords
box
local feature
unit
histogram
target object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016026848A
Other languages
English (en)
Other versions
JP2017146708A (ja
Inventor
直之 郡司
直之 郡司
杵渕 哲也
哲也 杵渕
隆行 黒住
隆行 黒住
仁 新垣
仁 新垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2016026848A priority Critical patent/JP6499599B2/ja
Publication of JP2017146708A publication Critical patent/JP2017146708A/ja
Application granted granted Critical
Publication of JP6499599B2 publication Critical patent/JP6499599B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)

Description

本発明は、物体認識装置、3次元点群モデル化装置、方法、及びプログラムに係り、特に、環境を表す3次元点群に含まれる認識対象物を認識するための物体認識装置、3次元点群モデル化装置、方法、及びプログラムに関する。
レーザーレンジファインダで計測した計測結果である3次元点群から物体を認識するとき、表面の反射率や面の向きによって3次元の計測結果に大きなノイズが生じることが多い。このように計測された3次元点群のデータで物体を認識する場合、ノイズに強いアルゴリズムが必要となる。
2次元の画像における物体検出のアルゴリズムのなかで、ノイズに強い特徴表現としては、Bag of Visual Words(以下、BoVWと記載する)がある(非特許文献1参照)。
一般的には、認識対象の物体の多数の2次元画像からBoVW形式のベクトルを抽出して記憶部に記憶しておき、入力画像から抽出されたBoVW形式のベクトルを記憶部のベクトルと比較することで、物体を認識する。
J. Sivic et al.: "Video Google: A Text Retrieval Approach to Object Matching in Videos", in Proc. ICCV, 2003. F. Tombari, S. Salti, and L. Di Stefano,"SHOT: Unique signatures of histograms for surface and texture description",in 11th European Conference on Computer Vision (ECCV)
上記の2次元画像における物体認識の方法はロバストではあるが、そのままでは3次元点群による物体認識には用いることができない。
本発明は、上記問題点を解決するために成されたものであり、精度よく、3次元点群から物体を認識することができる物体認識装置、3次元点群モデル化装置、方法、及びプログラムを提供することを目的とする。
上記目的を達成するために、第1の発明に係る物体認識装置は、認識対象物体を表す3次元点群と、認識対象物体が存在する環境を表す3次元点群とを用いて、前記環境を表す3次元点群に含まれる認識対象物体を認識する物体認識装置であって、前記認識対象物体の3次元点群内の各点に対して法線ベクトルを計算する法線ベクトル計算部と、前記認識対象物体の3次元点群内の各点に対して点周辺の情報を表現する局所特徴量を計算する局所特徴量計算部と、あらかじめ前記環境を表す3次元点群から作成された局所特徴量のクラスタ中心に対して、前記局所特徴量計算部によって認識対象物体を表す3次元点群から計算された局所特徴量を割り当てる局所特徴量割当部と、前記局所特徴量割当部によって局所特徴量を割り当てた結果から各クラスタに割り当てられた局所特徴量の数を計算し、認識対象物体を表現するヒストグラムを計算するヒストグラム作成部と、前記認識対象物体を表す3次元点群から当該3次元点群の大きさを表現するボックスを計算するボックスサイズ決定部と、前記環境を表す3次元点群内に、前記ボックスサイズ決定部によって計算されたボックスを配置する各配置パターンに対して、前記配置パターンにおけるボックスを表現するヒストグラムを計算するボックスヒストグラム計算部と、前記ボックスヒストグラム計算部によって各配置パターンに対して計算された前記ヒストグラムと、前記ヒストグラム作成部によって計算されたヒストグラムの比較を行い、各配置パターンに対してスコアを計算するヒストグラム比較部と、前記ヒストグラム比較部によって計算されたボックスの各配置パターンに対するスコアから、ボックス内に前記認識対象物体が含まれるようなボックスの配置パターンを決定する物体認識処理部と、前記物体認識処理部によって得られた配置パターンから認識対象物体が存在する三次元座標を復元する座標復元部と、を含んで構成されている。
また、第1の発明に係る物体認識装置において、前記環境を表す点群が存在する3次元空間を予め定められた大きさのボクセルによって離散化し、あらかじめ前記環境を表す3次元点群内の各点に対して計算された局所特徴量と、前記局所特徴量に割り当てられたクラスタ中心とに基づいて、前記3次元空間内の離散化された前記ボクセルの各々に対して、前記ボクセルを含む所定の範囲に含まれる局所特徴量から計算されるヒストグラムを格納した3次元積分画像を計算する3次元積分画像作成部を更に含み、前記ボックスヒストグラム計算部は、ボックスの各配置パターンに対して、前記3次元積分画像の各ボクセルに保存されたヒストグラムを用いて高々8回の和または差の計算によって、前記配置パターンのボックスを表現するヒストグラムを計算するようにしてもよい。
また、第1の発明に係る物体認識装置において、前記局所特徴量計算部は、前記法線ベクトル計算部によって各点に対して計算された法線ベクトルを利用してSHOT(Signature of Histograms of Orientations)を計算するようにしてもよい。
第2の発明に係る3次元点群モデル化装置は、認識対象物体の3次元点群内の各点に対して法線ベクトルを計算する法線ベクトル計算部と、前記認識対象物体の3次元点群内の各点に対して点周辺の情報を表現する局所特徴量を計算する局所特徴量計算部と、あらかじめ認識対象物体が存在する環境を表す3次元点群から作成された局所特徴量のクラスタ中心に対して、前記局所特徴量計算部によって認識対象物体を表す3次元点群から計算された局所特徴量を割り当てる局所特徴量割当部と、前記局所特徴量割当部によって局所特徴量を割り当てた結果から各クラスタに割り当てられた局所特徴量の数を計算し、認識対象物体を表現するヒストグラムを計算するヒストグラム作成部と、前記認識対象物体を表す3次元点群から当該3次元点群の大きさを表現するボックスを計算するボックスサイズ決定部と、前記環境を表す3次元点群内に、前記ボックスサイズ決定部によって計算されたボックスを配置する各配置パターンに対して、前記配置パターンにおけるボックスを表現するヒストグラムを計算するボックスヒストグラム計算部と、を含んで構成されている。
第3の発明に係る物体認識方法は、法線ベクトル計算部、局所特徴量計算部、局所特徴量割当部、ヒストグラム作成部、ボックスサイズ決定部、ボックスヒストグラム計算部、ヒストグラム比較部、物体認識処理部、及び座標復元部を含み、認識対象物体を表す点群と、認識対象物体が存在する環境を表す点群とを用いて、環境を表す点群に含まれる認識対象物体を認識する物体認識方法であって、前記法線ベクトル計算部が、前記認識対象物体の3次元点群内の各点に対して法線ベクトルを計算するステップと、前記局所特徴量計算部が、前記認識対象物体の3次元点群内の各点に対して点周辺の情報を表現する局所特徴量を計算するステップと、前記局所特徴量割当部が、あらかじめ前記環境を表す3次元点群から作成された局所特徴量のクラスタ中心に対して、前記局所特徴量計算部によって認識対象物体を表す3次元点群から計算された局所特徴量を割り当てるステップと、前記ヒストグラム作成部が、前記局所特徴量割当部によって局所特徴量を割り当てた結果から各クラスタに割り当てられた局所特徴量の数を計算し、認識対象物体を表現するヒストグラムを計算するステップと、前記ボックスサイズ決定部が、前記認識対象物体を表す3次元点群から当該3次元点群の大きさを表現するボックスを計算するステップと、前記ボックスヒストグラム計算部が、前記環境を表す3次元点群内に、前記ボックスサイズ決定部によって計算されたボックスを配置する各配置パターンに対して、前記配置パターンにおけるボックスを表現するヒストグラムを計算するステップと、前記ヒストグラム比較部が、前記ボックスヒストグラム計算部によって各配置パターンに対して計算された前記ヒストグラムと、前記ヒストグラム作成部によって計算されたヒストグラムの比較を行い、各配置パターンに対してスコアを計算するステップと、前記物体認識処理部が、前記ヒストグラム比較部によって計算されたボックスの各配置パターンに対するスコアから、ボックス内に前記認識対象物体が含まれるようなボックスの配置パターンを決定するステップと、前記座標復元部が、前記物体認識処理部によって得られた配置パターンから認識対象物体が存在する三次元座標を復元するステップと、を含んで実行することを特徴とする。
また、第3の発明に係る物体認識方法において、3次元積分画像作成部が、前記環境を表す点群が存在する3次元空間を予め定められた大きさのボクセルによって離散化し、あらかじめ前記環境を表す3次元点群内の各点に対して計算された局所特徴量と、前記局所特徴量に割り当てられたクラスタ中心とに基づいて、前記3次元空間内の離散化された前記ボクセルの各々に対して、前記ボクセルを含む所定の範囲に含まれる局所特徴量から計算されるヒストグラムを格納した3次元積分画像を計算するステップを更に含み、前記ボックスヒストグラム計算部が計算するステップは、ボックスの各配置パターンに対して、前記3次元積分画像の各ボクセルに保存されたヒストグラムを用いて高々8回の和または差の計算によって、前記配置パターンのボックスを表現するヒストグラムを計算するようにしてもよい。
第4の発明に係るプログラムは、コンピュータを、上記第1の発明に係る物体認識装置を構成する各部として機能させるためのプログラムである。
本発明の物体認識装置、3次元点群モデル化装置、方法、及びプログラムによれば、精度よく、3次元点群から物体を認識することができる、という効果が得られる。
本発明の実施の形態に係る物体認識装置の構成を示すブロック図である。 基礎データ記憶部21の一例を示す図である。 法線ベクトル記憶部30の一例を示す図である。 局所特徴量記憶部32の一例を示す図である。 クラスタ記憶部34の一例を示す図である。 積分画像記憶部36の一例を示す図である。 認識結果記憶部38の一例を示す図である。 本発明の実施の形態に係る物体認識装置における前処理ルーチンを示すフローチャートである。 本発明の実施の形態に係る物体認識装置における物体認識処理ルーチンを示すフローチャートである。
以下、図面を参照して本発明の実施の形態を詳細に説明する。
<本発明の実施の形態に係る概要>
本実施の形態では、特徴量として、3次元点群でも利用可能な記述力の高い「SHOT(Signature of Histograms of Orientations)」を用いることで、多様な形状をカバーして物体を認識する。また、BoVWを用いて物体を表現することで、計測誤差などのノイズの影響による形状の微小な変化に対して影響を受けやすいSHOTの不安定な面をカバーすることができる。
<本発明の実施の形態に係る物体認識装置の構成>
まず、本発明の実施の形態に係る物体認識装置の構成について説明する。図1に示すように、本発明の実施の形態に係る物体認識装置100は、CPUと、RAMと、後述する物体認識処理ルーチンを実行するためのプログラムや各種データを記憶したROMと、を含むコンピュータで構成することが出来る。この物体認識装置100は、機能的には図1に示すように入力部10と、演算部20と、出力部60とを備えている。
入力部10は、物体が存在する環境における複数の3次元点からなる3次元点群を受け付ける。3次元点群は、物体の表面上の位置を計測した計測結果である複数の位置を表す3次元点群であり、レーザーレンジファインダや、赤外線センサ、または超音波センサなどの、3次元点群を計測する装置によって得られたものである。
また、入力部10は、認識対象物体を表す3次元点群を受け付ける。受け付けた3次元点群は基礎データ記憶部21に格納するものとする。
演算部20は、前処理部22と、基礎データ記憶部21と、法線ベクトル記憶部30と、局所特徴量記憶部32と、クラスタ記憶部34と、積分画像記憶部36と、認識結果記憶部38と、法線ベクトル計算部40と、局所特徴量計算部42と、局所特徴量割当部44と、ヒストグラム作成部46と、ボックスサイズ決定部48と、ボックスヒストグラム計算部50と、ヒストグラム比較部52と、物体認識処理部54と、座標復元部56とを含んで構成されている。
前処理部22は、以下に説明する各部の処理によって、物体が存在する環境における複数の3次元点群を受け付け、物体の認識に必要な法線ベクトル、局所特徴量、クラスタ、及び3次元積分画像を学習する。
前処理部22は、法線ベクトル計算部23と、局所特徴量計算部24と、クラスタリング部25と、3次元積分画像作成部26とを含んで構成されている。
基礎データ記憶部21には、入力部10で受け付けた、前処理に用いる、物体が存在する環境における3次元点群が格納されている。また、入力部10で受け付けた、認識対象物体を表す3次元点群が格納されている。なお、基礎データ記憶部21を設けずに、外部のレーザーレンジファインダから入力部10を介してリアルタイムで受け取るようにしてもよい。基礎データ記憶部21の一例を図2に示す。
法線ベクトル計算部23は、基礎データ記憶部21に格納された物体が存在する環境における3次元点群の各点について、当該点の周辺の3次元点を用いて、X,Y,Z座標における単位ベクトルとして、法線ベクトルを計算し、法線ベクトル記憶部30に記憶する。法線ベクトルの計算には、非特許文献3に記載の手法を用いる。
[非特許文献3]:K. Klasing, D. Althoff, D. Wollherr, M. Buss,"Comparison of Surface Normal Estimation Methods for Range Sensing Applications", Robotics and Automation, 2009.
法線ベクトル記憶部30には、法線ベクトル計算部23により物体が存在する環境における点群について計算されたN個の法線ベクトルが格納されている。また、法線ベクトル計算部40により認識対象物体について計算されたN個の法線ベクトルが格納される。法線ベクトル記憶部30に一例を図3に示す。
局所特徴量計算部24は、物体が存在する環境における3次元点群の各点について、法線ベクトル記憶部30に記憶された法線ベクトルに基づいて、当該点の局所特徴量を計算し、局所特徴量記憶部32に格納する。ここでは、局所特徴量用に予め定めたサイズのM個のボクセルの各々について、当該ボクセルの中心位置に近い所定の個数の3次元点に対して計算された法線ベクトルを利用してSHOTという特徴量を算出する(上記非特許文献2参照)。なお、3次元点群からサンプリングしたM個の点の各々について、局所特徴量を計算してもよい。
局所特徴量記憶部32には、局所特徴量計算部24によって計算されたM個の局所特徴量が格納されている。また、局所特徴量には、後述するクラスタリング部25によって割り当てられたクラスタ中心のクラスタ番号が付与される。局所特徴量はD次元のベクトルで表現される。また、局所特徴量に対応付けて、x、y、zの座標値(局所特徴量用のボクセルの中心の座標値)も記憶しておく。局所特徴量記憶部32の一例を図4に示す。
クラスタリング部25は、局所特徴量計算部24によって計算されたM個の局所特徴量に基づいて、非特許文献1に記載のコードブック学習の手法を用いて、K個のクラスタについて、クラスタ中心を計算し、各クラスタに、M個の局所特徴量の各々を割り当てる。計算したクラスタ中心はクラスタ記憶部34に格納する。また、各クラスタに各局所特徴量を割り当てた結果として、各局所特徴量に対するクラスタ番号を局所特徴量記憶部32に格納する。クラスタ数Kはあらかじめ設定により定めておく。ここでは、大量の3次元点群のデータを用いてクラスタリングすることによって、有意なクラスタ中心を得ることができる。
クラスタ記憶部34には、クラスタリング部25によって計算されたK個のクラスタのクラスタ中心が格納されている。クラスタ記憶部34の一例を図5に示す。
3次元積分画像作成部26は、物体が存在する環境を表す3次元点群を含む3次元空間を、3次元積分画像用に予め定められた大きさのボクセルによって離散化する。離散化されたx、y、zの座標値で、点群が含まれる最大の座標値をそれぞれXmax、Ymax、Zmaxとする。次に、局所特徴量計算部24によって計算されたM個の局所特徴量と、クラスタリング部25によってM個の局所特徴量に割り当てられたクラスタとに基づいて、3次元空間内の離散化されたボクセルの各々に対して、当該ボクセルと3次元空間の原点とで規定される直方体の範囲に含まれる局所特徴量から計算される、各クラスタの頻度を表すヒストグラムを格納した3次元積分画像を計算する。2次元の積分画像の考えを3次元に拡張して、計算対象のボックス周辺のボクセルについて格納されたヒストグラムの和及び差を用いて、計算対象のボックスの中の各クラスタの頻度がわかるようにする。なお、積分する単位は設定によりあらかじめ定めておく。また、局所特徴量のボクセルのサイズとは独立して指定するようにしてよい。
積分画像記憶部36には、3次元積分画像作成部26によって計算された3次元積分画像が格納されている。具体的には、図6に示すように、各ボクセルについて、ボクセルのインデックス番号と、各クラスタの頻度とが格納されている。
法線ベクトル計算部40は、基礎データ記憶部21に格納された認識対象物体の3次元点群内の各点に対して、法線ベクトル計算部23と同様に、法線ベクトルを計算し、法線ベクトル記憶部30に格納する。
局所特徴量計算部42は、基礎データ記憶部21に格納された認識対象物体の3次元点群に基づいて、認識対象物体の3次元点群からサンプリングされた各点について、局所特徴量を計算し、局所特徴量記憶部32に格納する。ここでは、局所特徴量計算部24と同様に、各点に対して計算された法線ベクトルを利用してSHOTという特徴量を算出する(上記非特許文献2参照)。
局所特徴量割当部44は、クラスタ記憶部34に格納された各クラスタのクラスタ中心と、局所特徴量計算部42によって認識対象物体を表す3次元点群の各点について計算された局所特徴量とに基づいて、各クラスタに、認識対象物体を表す3次元点群の各点について計算された局所特徴量の各々を割り当てる。
ヒストグラム作成部46は、局所特徴量割当部44によって各点についての局所特徴量
を各クラスタに割り当てた結果から、各クラスタに割り当てられた局所特徴量の数を計算し、認識対象物体を表現する、各クラスタの出現頻度を表すヒストグラムを計算する。
ボックスサイズ決定部48は、認識対象物体を表す3次元点群から当該3次元点群の大きさを表現するボックスのサイズを計算する。x方向の大きさは、3次元点群のx方向の計測データを用いて、以下の(1)式により計算できる。
最大値、最小値は、3次元点群のx方向の最大値、最小値である。rは、3次元積分画像用のボクセルの一辺の長さとし、ボックスがボクセル何個分となるかのサイズが決定される。上記はx方向の場合と同様に、y、zについても同様に計算できる。
また、ボックスサイズ決定部48は、基礎データ記憶部21に格納された環境を表す3次元点群を含む3次元空間であって、かつ、ボクセルによって離散化された3次元空間をスキャニングするように、計算したサイズのボックスを配置し、各配置パターンを決定する。なお、ボックスの大きさを変えたものを3次元空間に配置した配置パターンを更に決定するようにしてもよい。
ボックスヒストグラム計算部50は、積分画像記憶部36に記憶された3次元積分画像を用いて、ボックスサイズ決定部48によって決定されたボックスを配置する各配置パターンに対して、当該配置パターンにおけるボックスを表現するヒストグラムを計算する。計算されるヒストグラムは、ボックス内に存在する局所特徴量に割り当てられた各クラスタの出現頻度を表す。当該配置パターンにおけるボックスを表現するヒストグラムは、3次元積分画像の各ボクセルに保存されたヒストグラムを用いて高々8回の和または差の計算によって計算される。
ヒストグラム比較部52は、ボックスヒストグラム計算部50によって各配置パターンに対して計算されたヒストグラムと、ヒストグラム作成部46によって計算されたヒストグラムの比較を行い、各配置パターンに対してスコアを計算する。例えば、ヒストグラムを表すベクトルのベクトル類似度を、スコアとして計算する。
認識結果記憶部38には、ヒストグラム比較部52によって各配置パターンに対して計算されたスコアが格納されている。認識結果記憶部38の一例を図7に示す。配置パターンに対応するインデックスとスコアとが格納されている。
物体認識処理部54は、ヒストグラム比較部52によって計算されたボックスの各配置パターンに対するスコアから、ボックス内に認識対象物体が含まれるようなボックスの配置パターンを決定する。ここでは、スコアの値が閾値以上であり、かつ、周囲の配置パターンのインデックスに対するスコアと比較して、着目する配置パターンのインデックスのスコアが極大(最も高いスコア)になっていれば、そのインデックスに対応する位置に、物体が存在すると認識する。そして、物体が存在すると認識されたインデックスに対して、認識結果を認識結果記憶部38に追加する。
座標復元部56は、物体認識処理部54によって得られた配置パターンのインデックスとボックスサイズ決定部48によって得られたボックスサイズから、上記(1)式とは逆の計算を行って、離散化された座標値から認識対象物体が存在する三次元座標を復元し、出力部60に出力する。
<本発明の実施の形態に係る物体認識装置の作用>
次に、本発明の実施の形態に係る物体認識装置100の作用について説明する。入力部10において物体が存在する環境における3次元点群を受け付けて基礎データ記憶部21に格納すると、物体認識装置100は、図8に示す前処理ルーチンを実行する。
まず、ステップS100では、基礎データ記憶部21に格納された物体が存在する環境における3次元点群の各点について、X,Y,Z座標における単位ベクトルとして、法線ベクトルを計算し、法線ベクトル記憶部30に記憶する。
次に、ステップS102では、基礎データ記憶部21に格納された物体が存在する環境における3次元点群と、法線ベクトル記憶部30に記憶された各点の法線ベクトルとに基づいて、局所特徴量用に予め定めたサイズのM個のボクセルの各々について、局所特徴量を計算し、局所特徴量記憶部32に格納する。
ステップS104では、局所特徴量計算部24によって計算されたM個の局所特徴量に基づいて、非特許文献1に記載のコードブック学習の手法を用いて、K個のクラスタについて、クラスタ中心を計算し、各クラスタにM個の局所特徴量の各々を割り当て、M個の局所特徴量の各々に対するクラスタ番号を局所特徴量記憶部32に格納し、各クラスタのクラスタ中心をクラスタ記憶部34に格納する。
ステップS106では、基礎データ記憶部21に格納された環境を表す3次元点群を含む3次元空間を、予め定められた大きさのボクセルによって離散化する。
ステップS108では、ステップS104で計算されたM個の局所特徴量と、ステップS104でM個の局所特徴量に割り当てられたクラスタとに基づいて、3次元空間内の離散化されたボクセルの各々に対して、当該ボクセルと3次元空間の原点とで規定される直方体の範囲に含まれる局所特徴量から計算されるヒストグラムを格納した3次元積分画像を計算して、積分画像記憶部36に格納する。
次に、物体認識処理ルーチンについて説明する。入力部10において認識対象物体を表す3次元点群を受け付けて基礎データ記憶部21に格納すると、物体認識装置100は、図9に示す物体認識処理ルーチンを実行する。
ステップS200では、基礎データ記憶部21に格納された認識対象物体の3次元点群内の各点に対して、法線ベクトルを計算し、法線ベクトル記憶部30に格納する。
ステップS202では、基礎データ記憶部21に格納された認識対象物体の3次元点群に基づいて、3次元点群からサンプリングされた各点について、局所特徴量を計算し、局所特徴量記憶部32に格納する。
ステップS204では、クラスタ記憶部34に格納された各クラスタのクラスタ中心に基づいて、ステップS202で認識対象物体を表す3次元点群の各点について計算された局所特徴量を、各クラスタに割り当てる。
ステップS206では、ステップS204で局所特徴量をクラスタに割り当てた結果から、各クラスタに割り当てられた局所特徴量の数を計算し、認識対象物体を表現するヒストグラムを計算する。
ステップS208では、認識対象物体を表す3次元点群から当該3次元点群の大きさを表現するボックスのサイズを上記(1)式により計算する。
ステップS210では、基礎データ記憶部21に格納された環境を表す3次元点群を含む3次元空間であって、ボクセルによって離散化された3次元空間に、ステップS208でサイズが計算されたボックスを配置し、ボックスの各配置パターンを決定する。
ステップS211では、積分画像記憶部36に記憶された3次元積分画像を用いて、上記ステップS210で決定されたボックスを配置する各配置パターンに対して、当該配置パターンにおけるボックスを表現するヒストグラムを計算する。当該配置パターンにおけるボックスを表現するヒストグラムは、3次元積分画像の各ボクセルに保存されたヒストグラムを用いて高々8回の和または差の計算によって計算される。
ステップS212では、ステップS210で各配置パターンに対して計算されたヒストグラムと、ステップS206で計算されたヒストグラムの比較を行い、各配置パターンに対してスコアを計算する。
ステップS214では、ステップS212によって計算されたボックスの各配置パターンに対するスコアから、スコアが最も高い配置パターンを、ボックス内に認識対象物体が含まれるようなボックスの配置パターンとして決定する。
ステップS216では、物体認識処理部54によって得られた配置パターンから認識対象物体が存在する三次元座標を復元し、出力部60に出力し処理を終了する。
以上説明したように、本発明の実施の形態に係る物体認識装置によれば、認識対象物体を表現するヒストグラムを計算し、認識対象物体を表す3次元点群から当該3次元点群の大きさを表現するボックスを計算し、認識対象物体が存在する環境を表す3次元点群を含む3次元空間にボックスを配置した配置パターンを決定し、配置パターンにおけるボックスを表現するヒストグラムを計算し、各配置パターンに対して計算されたヒストグラムと、認識対象物体を表現するヒストグラムの比較を行い、各配置パターンに対してスコアを計算し、ボックスの各配置パターンに対するスコアから、配置パターンを決定し、配置パターンから認識対象物体が存在する三次元座標を復元することにより、精度よく、3次元点群から物体を認識することができる。
なお、本発明は、上述した実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
例えば、上述した実施の形態では物体認識装置100について説明したがこの装置及び構成に限定されるものではない。例えば、認識対象物体をモデル化するために、基礎データ記憶部21と、法線ベクトル記憶部30と、局所特徴量記憶部32と、クラスタ記憶部34と、積分画像記憶部36と、法線ベクトル計算部40と、局所特徴量計算部42と、局所特徴量割当部44と、ヒストグラム作成部46と、ボックスサイズ決定部48と、ボックスヒストグラム計算部50と、を含む3次元点群モデル化装置として構成するようにしてもよい。
10 入力部
20 演算部
22 前処理部
21 基礎データ記憶部
23 法線ベクトル計算部
24 局所特徴量計算部
25 クラスタリング部
26 3次元積分画像作成部
30 法線ベクトル記憶部
32 局所特徴量記憶部
34 クラスタ記憶部
36 積分画像記憶部
38 認識結果記憶部
40 法線ベクトル計算部
42 局所特徴量計算部
44 局所特徴量割当部
46 ヒストグラム作成部
48 ボックスサイズ決定部
50 ボックスヒストグラム計算部
52 ヒストグラム比較部
54 物体認識処理部
56 座標復元部
60 出力部
100 物体認識装置

Claims (7)

  1. 認識対象物体を表す3次元点群と、認識対象物体が存在する環境を表す3次元点群とを用いて、前記環境を表す3次元点群に含まれる認識対象物体を認識する物体認識装置であって、
    前記認識対象物体の3次元点群内の各点に対して法線ベクトルを計算する法線ベクトル計算部と、
    前記認識対象物体の3次元点群内の各点に対して点周辺の情報を表現する局所特徴量を計算する局所特徴量計算部と、
    あらかじめ前記環境を表す3次元点群から作成された局所特徴量のクラスタ中心に対して、前記局所特徴量計算部によって認識対象物体を表す3次元点群から計算された局所特徴量を割り当てる局所特徴量割当部と、
    前記局所特徴量割当部によって局所特徴量を割り当てた結果から各クラスタに割り当てられた局所特徴量の数を計算し、認識対象物体を表現するヒストグラムを計算するヒストグラム作成部と、
    前記認識対象物体を表す3次元点群から当該3次元点群の大きさを表現するボックスを計算するボックスサイズ決定部と、
    前記環境を表す3次元点群内に、前記ボックスサイズ決定部によって計算されたボックスを配置する各配置パターンに対して、前記配置パターンにおけるボックスを表現するヒストグラムを計算するボックスヒストグラム計算部と、
    前記ボックスヒストグラム計算部によって各配置パターンに対して計算された前記ヒストグラムと、前記ヒストグラム作成部によって計算されたヒストグラムの比較を行い、各配置パターンに対してスコアを計算するヒストグラム比較部と、
    前記ヒストグラム比較部によって計算されたボックスの各配置パターンに対するスコアから、ボックス内に前記認識対象物体が含まれるようなボックスの配置パターンを決定する物体認識処理部と、
    前記物体認識処理部によって得られた配置パターンから認識対象物体が存在する三次元座標を復元する座標復元部と、
    を含む物体認識装置。
  2. 前記環境を表す点群が存在する3次元空間を予め定められた大きさのボクセルによって離散化し、あらかじめ前記環境を表す3次元点群内の各点に対して計算された局所特徴量と、前記局所特徴量に割り当てられたクラスタ中心とに基づいて、前記3次元空間内の離散化された前記ボクセルの各々に対して、前記ボクセルを含む所定の範囲に含まれる局所特徴量から計算されるヒストグラムを格納した3次元積分画像を計算する3次元積分画像作成部を更に含み、
    前記ボックスヒストグラム計算部は、ボックスの各配置パターンに対して、前記3次元積分画像の各ボクセルに保存されたヒストグラムを用いて高々8回の和または差の計算によって、前記配置パターンのボックスを表現するヒストグラムを計算する請求項1に記載の物体認識装置。
  3. 前記局所特徴量計算部は、前記法線ベクトル計算部によって各点に対して計算された法線ベクトルを利用してSHOT(Signature of Histograms of Orientations)を計算する請求項1又は2に記載の物体認識装置。
  4. 認識対象物体の3次元点群内の各点に対して法線ベクトルを計算する法線ベクトル計算部と、
    前記認識対象物体の3次元点群内の各点に対して点周辺の情報を表現する局所特徴量を計算する局所特徴量計算部と、
    あらかじめ認識対象物体が存在する環境を表す3次元点群から作成された局所特徴量のクラスタ中心に対して、前記局所特徴量計算部によって認識対象物体を表す3次元点群から計算された局所特徴量を割り当てる局所特徴量割当部と、
    前記局所特徴量割当部によって局所特徴量を割り当てた結果から各クラスタに割り当てられた局所特徴量の数を計算し、認識対象物体を表現するヒストグラムを計算するヒストグラム作成部と、
    前記認識対象物体を表す3次元点群から当該3次元点群の大きさを表現するボックスを計算するボックスサイズ決定部と、
    前記環境を表す3次元点群内に、前記ボックスサイズ決定部によって計算されたボックスを配置する各配置パターンに対して、前記配置パターンにおけるボックスを表現するヒストグラムを計算するボックスヒストグラム計算部と、
    を含む3次元点群モデル化装置。
  5. 法線ベクトル計算部、局所特徴量計算部、局所特徴量割当部、ヒストグラム作成部、ボックスサイズ決定部、ボックスヒストグラム計算部、ヒストグラム比較部、物体認識処理部、及び座標復元部を含み、認識対象物体を表す点群と、認識対象物体が存在する環境を表す点群とを用いて、環境を表す点群に含まれる認識対象物体を認識する物体認識方法であって、
    前記法線ベクトル計算部が、前記認識対象物体の3次元点群内の各点に対して法線ベクトルを計算するステップと、
    前記局所特徴量計算部が、前記認識対象物体の3次元点群内の各点に対して点周辺の情報を表現する局所特徴量を計算するステップと、
    前記局所特徴量割当部が、あらかじめ前記環境を表す3次元点群から作成された局所特徴量のクラスタ中心に対して、前記局所特徴量計算部によって認識対象物体を表す3次元点群から計算された局所特徴量を割り当てるステップと、
    前記ヒストグラム作成部が、前記局所特徴量割当部によって局所特徴量を割り当てた結果から各クラスタに割り当てられた局所特徴量の数を計算し、認識対象物体を表現するヒストグラムを計算するステップと、
    前記ボックスサイズ決定部が、前記認識対象物体を表す3次元点群から当該3次元点群の大きさを表現するボックスを計算するステップと、
    前記ボックスヒストグラム計算部が、前記環境を表す3次元点群内に、前記ボックスサイズ決定部によって計算されたボックスを配置する各配置パターンに対して、前記配置パターンにおけるボックスを表現するヒストグラムを計算するステップと、
    前記ヒストグラム比較部が、前記ボックスヒストグラム計算部によって各配置パターンに対して計算された前記ヒストグラムと、前記ヒストグラム作成部によって計算されたヒストグラムの比較を行い、各配置パターンに対してスコアを計算するステップと、
    前記物体認識処理部が、前記ヒストグラム比較部によって計算されたボックスの各配置パターンに対するスコアから、ボックス内に前記認識対象物体が含まれるようなボックスの配置パターンを決定するステップと、
    前記座標復元部が、前記物体認識処理部によって得られた配置パターンから認識対象物体が存在する三次元座標を復元するステップと、
    を含む物体認識方法。
  6. 3次元積分画像作成部が、前記環境を表す点群が存在する3次元空間を予め定められた大きさのボクセルによって離散化し、あらかじめ前記環境を表す3次元点群内の各点に対して計算された局所特徴量と、前記局所特徴量に割り当てられたクラスタ中心とに基づいて、前記3次元空間内の離散化された前記ボクセルの各々に対して、前記ボクセルを含む所定の範囲に含まれる局所特徴量から計算されるヒストグラムを格納した3次元積分画像を計算するステップを更に含み、
    前記ボックスヒストグラム計算部が計算するステップは、ボックスの各配置パターンに対して、前記3次元積分画像の各ボクセルに保存されたヒストグラムを用いて高々8回の和または差の計算によって、前記配置パターンのボックスを表現するヒストグラムを計算する請求項5に記載の物体認識方法。
  7. コンピュータを、請求項1〜3のいずれか1項に記載の物体認識装置を構成する各部として機能させるためのプログラム。
JP2016026848A 2016-02-16 2016-02-16 物体認識装置、3次元点群モデル化装置、方法、及びプログラム Active JP6499599B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016026848A JP6499599B2 (ja) 2016-02-16 2016-02-16 物体認識装置、3次元点群モデル化装置、方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016026848A JP6499599B2 (ja) 2016-02-16 2016-02-16 物体認識装置、3次元点群モデル化装置、方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2017146708A JP2017146708A (ja) 2017-08-24
JP6499599B2 true JP6499599B2 (ja) 2019-04-10

Family

ID=59682267

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016026848A Active JP6499599B2 (ja) 2016-02-16 2016-02-16 物体認識装置、3次元点群モデル化装置、方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6499599B2 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8630456B2 (en) * 2009-05-12 2014-01-14 Toyota Jidosha Kabushiki Kaisha Object recognition method, object recognition apparatus, and autonomous mobile robot
JP5343042B2 (ja) * 2010-06-25 2013-11-13 株式会社トプコン 点群データ処理装置および点群データ処理プログラム
JP5650021B2 (ja) * 2011-03-03 2015-01-07 国立大学法人 東京大学 3次元環境復元装置、その処理方法、及びプログラム

Also Published As

Publication number Publication date
JP2017146708A (ja) 2017-08-24

Similar Documents

Publication Publication Date Title
JP7049763B2 (ja) 二次元画像からの三次元モデル化オブジェクトの認識
CN109859305B (zh) 基于多角度二维人脸的三维人脸建模、识别方法及装置
Elad et al. On bending invariant signatures for surfaces
Samir et al. An intrinsic framework for analysis of facial surfaces
US10803615B2 (en) Object recognition processing apparatus, object recognition processing method, and program
JP2016161569A (ja) オブジェクトの3d姿勢およびオブジェクトのランドマーク点の3dロケーションを求める方法、およびオブジェクトの3d姿勢およびオブジェクトのランドマークの3dロケーションを求めるシステム
KR20180055070A (ko) 재질 인식 및 재질 트레이닝을 수행하는 방법 및 장치
SE528068C2 (sv) Igenkänning av 3D föremål
EP3905194A1 (en) Pose estimation method and apparatus
KR102440385B1 (ko) 멀티 인식모델의 결합에 의한 행동패턴 인식방법 및 장치
JP2016179534A (ja) 情報処理装置、情報処理方法、プログラム
JP2019008571A (ja) 物体認識装置、物体認識方法、プログラム、及び学習済みモデル
CN112927353A (zh) 基于二维目标检测和模型对齐的三维场景重建方法、存储介质及终端
WO2019213857A1 (en) 3-dimensional model identification
WO2017070923A1 (zh) 一种人脸识别方法和装置
US20150269454A1 (en) Extraction device, method, and computer program product
JPWO2014112346A1 (ja) 特徴点位置検出装置、特徴点位置検出方法および特徴点位置検出プログラム
CN110546687B (zh) 图像处理装置及二维图像生成用程序
CN115082498A (zh) 一种机器人抓取位姿估计方法、装置、设备及存储介质
JP4921847B2 (ja) 対象物の三次元位置推定装置
JP6623126B2 (ja) 物体検索装置、三次元物体モデル化装置、方法、及びプログラム
JP6499599B2 (ja) 物体認識装置、3次元点群モデル化装置、方法、及びプログラム
JPWO2015068417A1 (ja) 画像照合システム、画像照合方法およびプログラム
JP6725310B2 (ja) 画像処理装置及びプログラム
CN110895679B (zh) 机器视觉图像数据处理方法和装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190315

R150 Certificate of patent or registration of utility model

Ref document number: 6499599

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150