JP4999717B2 - レンジ画像から物体の姿勢を求める方法及びシステム - Google Patents
レンジ画像から物体の姿勢を求める方法及びシステム Download PDFInfo
- Publication number
- JP4999717B2 JP4999717B2 JP2008017797A JP2008017797A JP4999717B2 JP 4999717 B2 JP4999717 B2 JP 4999717B2 JP 2008017797 A JP2008017797 A JP 2008017797A JP 2008017797 A JP2008017797 A JP 2008017797A JP 4999717 B2 JP4999717 B2 JP 4999717B2
- Authority
- JP
- Japan
- Prior art keywords
- range image
- input
- image
- range
- error
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
- G06V20/647—Three-dimensional objects by matching two-dimensional images to three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Generation (AREA)
Description
図1は、本発明の一実施の形態による、対象の関心のある入力物体110の姿勢をレンジ画像141から求める方法及びシステム100を示す。本方法は完全にグラフィック処理装置(GPU)104上で動作する。GPUでの大量データ並列処理は、本方法を、より複雑なCPUベースの方法よりも遥かに単純に、より効率的にする。本方法は全自動であり、初期の姿勢推定値を一切必要としない。数千の参照画像を比較しても、姿勢の判定にかかる時間は約1秒である。したがって、本方法はリアルタイム用途に適している。
前処理中に、対象の関心のある参照物体101をスキャンして(110a)、参照物体の詳細な3Dモデル111を構築する(115a)。参照物体101は入力物体110に類似している。モデル111は他の手段、例えばCADシステムでも構築することができる。モデルは、頂点のポリゴンメッシュの形式とすることができる。モデル111をいくつかの異なる姿勢でレンダリングし(120)、一組の参照レンジ画像121を作成する。実際には、数千の参照画像を用いることができる。各画像は64×64画素である。一組の参照レンジ画像121はGPU104のメモリ106に記憶することができる。これらのステップを1度だけ行う。
オンラインでの姿勢推定中に、入力物体110及びおそらくは他の既知又は未知の物体を含むシーン102をスキャンして(130)、3Dスキャン131を生成する。本発明では、アクティブライト法、例えばレーザレンジスキャナ115を用いる。次に、メディアンフィルタを3Dスキャンに適用すると共に、エッジ検出を平滑化画像に適用し、距離場を求めて、入力レンジ画像141を作成する。なお、スキャンデータは略平滑であるため、詳細スキャンに対して平滑化を行う必要はない。
以下に説明するレンジ画像処理ステップは、参照レンジ画像の作成中に行うこともできる。シーンの入力3Dスキャン131及び参照物体101の3Dモデル111から始める。レンジスキャナ115を用いる。シーン102のスキャンに用いられるスキャナは、詳細スキャンの取得に用いられるスキャナよりも分解能が遥かに低くてもよいことに留意すべきである。
次に、符号付ユークリッド距離変換(EDT)150をエッジ画像に適用する。この変換は各画素に、その画素から最も近いエッジ画素までの符号付距離を割り当てる。本発明の一実施の形態において、この距離はユークリッド距離である。EDTは、探索を参照物体及び入力物体の輪郭(エッジ)に制約することにより、最良一致の参照画像を探索する助けとなる。
参照レンジ画像R121のうちの1つと入力レンジ画像I141とを比較するために使用する誤差関数は
入力レンジ画像EDTI141の画素(u,v)と、参照レンジ画像EDTR121の画素とのカバー誤差を(x,y)だけ平行移動すると次のようになる。
レンジ誤差は、レンジ画像EDTI及びEDTR中の重なる全ての画素のレンジ値を比較するため、次式のようになる。
式(1)の誤算関数は完全にGPU104上で計算される。フラグメントシェーダ105を用いると、画素毎の比較は特に低解像度画像の場合に非常に高速である。第1のステップにおいて、入力レンジ画像I及び参照レンジ画像RをGPUのメモリ106に記憶する。フラグメントシェーダ105は画素毎に誤差項εcover(u,v,x,y)及びεrange(u,v,x,y,z)を求める。
誤差最適化の目標は、入力レンジ画像と参照レンジ画像との間の誤差を大域的に最小化する姿勢パラメータ
滑降シンプレックス法を収束させるための滑降ステップの繰り返し数は、適切な初期パラメータを選択することによって劇的に低減することができる。シンプレックス法は結果的に極小値となることがあるため、図13及び図14に示すように、物体の重心に対応する画像R及び画像I中の画素1501及び画素1601をそれぞれ見付けることによって初期パラメータ(x0,y0,z0)を推定する。
滑降シンプレックス法をGPU104に並列化するために、付加的なスキャンライン1401を参照テクスチャ行列1400の各参照レンジ画像に追加する(図12を参照)。これらのスキャンラインを用いて、滑降シンプレックスアルゴリズムのパラメータ及び誤差値を異なるカラーチャネルに記憶する。
Claims (19)
- レンジ画像から物体の姿勢を求める方法であって、
入力物体を含むシーンに関して取得される入力レンジ画像を参照物体の複数の参照レンジ画像の各々と比較するステップであって、各参照レンジ画像が関連する異なる姿勢を有し、前記参照物体は前記入力物体に類似するものと、
前記入力レンジ画像に最も良く一致する前記参照レンジ画像の関連する前記姿勢を前記シーン中の前記入力物体の前記姿勢として選択するステップと、
を含み、
参照レンジ画像Rと入力レンジ画像Iとの間の比較に、誤差関数:
を用いる、
レンジ画像から物体の姿勢を求める方法。 - カバー誤差は、入力レンジ画像中の入力物体と参照画像中の参照物体の輪郭が一致した場合に最小となる請求項1に記載の方法。
- レンジ誤差は、参照レンジ画像R及び入力レンジ画像I中の重なる全ての画素の値を比較したものである請求項5に記載の方法。
- 誤差関数のパラメータは、参照物体及び入力物体の重心にそれぞれ対応する参照レンジ画像R及び入力レンジ画像I中の画素を見付けることによって最小化される請求項8に記載の方法。
- 参照物体をスキャンして、該参照物体の3Dモデルを構築するステップと、
前記3Dモデルを複数の異なる姿勢に関してレンダリングして、一組の参照レンジ画像を作成するステップと、
をさらに含む請求項1に記載の方法。 - 最も良く一致する参照レンジ画像が滑降シンプレックス法を用いて選択される請求項1に記載の方法。
- シーンは複数の物体を含み、
シーン中の最も近い物体を入力物体として選択するステップをさらに含む請求項1に記載の方法。 - ユークリッド距離変換が各入力レンジ画像に適用される請求項1に記載の方法。
- 比較するステップはグラフィック処理装置において行われる請求項1に記載の方法。
- 複数の参照レンジ画像がグラフィック処理装置の複数のシェーダプロセッサにおいて並列で入力レンジ画像と比較される請求項1に記載の方法。
- レンジ画像から物体の姿勢を求めるシステムであって、
入力物体を含むシーンの入力レンジ画像を取得する手段と、
前記取得する手段に接続され、前記入力レンジ画像を参照物体の複数の参照レンジ画像の各々と比較する手段であって、各参照レンジ画像が関連する異なる姿勢を有し、前記参照物体は前記入力物体に類似し、
前記入力レンジ画像に最も良く一致する前記参照レンジ画像の関連する姿勢をシーン中の前記入力物体の姿勢として選択する手段と、
を備え、
前記比較する手段において、参照レンジ画像Rと入力レンジ画像Iとの間の比較に、誤差関数:
を用いる、
レンジ画像から物体の姿勢を求めるシステム。 - 入力レンジ画像及び複数の参照レンジ画像に対して並列動作するように構成されるグラフィック処理装置の複数のシェーダプロセッサをさらに備える請求項16に記載のシステム。
- カバー誤差は、入力レンジ画像中の入力物体と参照画像中の参照物体の輪郭が一致した場合に最小となる請求項16に記載のシステム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US11/738,642 US7844105B2 (en) | 2007-04-23 | 2007-04-23 | Method and system for determining objects poses from range images |
US11/738,642 | 2007-04-23 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008269572A JP2008269572A (ja) | 2008-11-06 |
JP4999717B2 true JP4999717B2 (ja) | 2012-08-15 |
Family
ID=39651015
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008017797A Expired - Fee Related JP4999717B2 (ja) | 2007-04-23 | 2008-01-29 | レンジ画像から物体の姿勢を求める方法及びシステム |
Country Status (5)
Country | Link |
---|---|
US (1) | US7844105B2 (ja) |
EP (1) | EP1986153B1 (ja) |
JP (1) | JP4999717B2 (ja) |
CN (1) | CN101295363B (ja) |
DE (1) | DE602008003709D1 (ja) |
Families Citing this family (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8107721B2 (en) * | 2008-05-29 | 2012-01-31 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for determining poses of semi-specular objects |
US8600193B2 (en) * | 2008-07-16 | 2013-12-03 | Varian Medical Systems, Inc. | Image stitching and related method therefor |
US8217961B2 (en) * | 2009-03-27 | 2012-07-10 | Mitsubishi Electric Research Laboratories, Inc. | Method for estimating 3D pose of specular objects |
JP5441752B2 (ja) * | 2009-03-31 | 2014-03-12 | ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド | 環境内の3d物体の3d姿勢を推定する方法及び装置 |
CN101872476A (zh) * | 2009-04-24 | 2010-10-27 | 索尼株式会社 | 估计图像中对象姿势视角的方法、设备 |
JP5393318B2 (ja) | 2009-07-28 | 2014-01-22 | キヤノン株式会社 | 位置姿勢計測方法及び装置 |
US8472698B2 (en) * | 2009-11-24 | 2013-06-25 | Mitsubishi Electric Research Laboratories, Inc. | System and method for determining poses of objects |
JP2011175477A (ja) * | 2010-02-24 | 2011-09-08 | Canon Inc | 3次元計測装置、処理方法及びプログラム |
JP5388921B2 (ja) * | 2010-03-25 | 2014-01-15 | 株式会社東芝 | 3次元距離計測装置及びその方法 |
EP2385483B1 (en) | 2010-05-07 | 2012-11-21 | MVTec Software GmbH | Recognition and pose determination of 3D objects in 3D scenes using geometric point pair descriptors and the generalized Hough Transform |
JP5496008B2 (ja) * | 2010-08-06 | 2014-05-21 | キヤノン株式会社 | 位置姿勢計測装置、位置姿勢計測方法、およびプログラム |
CN102647542B (zh) * | 2011-02-22 | 2014-07-09 | 株式会社理光 | 图像处理设备和图像处理方法 |
WO2013002099A1 (ja) * | 2011-06-29 | 2013-01-03 | 三菱電機株式会社 | 部品供給装置 |
US9195501B2 (en) * | 2011-07-12 | 2015-11-24 | Qualcomm Incorporated | Instruction culling in graphics processing unit |
CN103186896B (zh) * | 2011-12-27 | 2018-06-01 | 联想(北京)有限公司 | 用于空间地图构建的空间不变量二次检测方法和设备 |
CN102592119B (zh) * | 2011-12-31 | 2013-10-30 | 华中科技大学 | 四维可计算激光成像目标探测、识别及辨识性能预测方法 |
JP6092530B2 (ja) | 2012-06-18 | 2017-03-08 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
EP2720171B1 (en) | 2012-10-12 | 2015-04-08 | MVTec Software GmbH | Recognition and pose determination of 3D objects in multimodal scenes |
US20160210829A1 (en) | 2013-09-06 | 2016-07-21 | Nec Corporation | Security system, security method, and non-transitory computer readable medium |
JP5698815B2 (ja) * | 2013-09-30 | 2015-04-08 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法及びプログラム |
US20150300962A1 (en) * | 2014-04-16 | 2015-10-22 | Texas Instruments Incorporated | Assembly For Inspecting Machine Parts Used In The Production Of Semiconductor Components |
TWI543117B (zh) * | 2014-06-18 | 2016-07-21 | 台達電子工業股份有限公司 | 物件辨識與定位方法 |
JP6040264B2 (ja) * | 2015-02-13 | 2016-12-07 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法、およびプログラム |
US10515259B2 (en) | 2015-02-26 | 2019-12-24 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for determining 3D object poses and landmark points using surface patches |
GB2536493B (en) * | 2015-03-20 | 2020-11-18 | Toshiba Europe Ltd | Object pose recognition |
CN105865451B (zh) * | 2016-04-19 | 2019-10-01 | 深圳市神州云海智能科技有限公司 | 用于移动机器人室内定位的方法和设备 |
US9990535B2 (en) * | 2016-04-27 | 2018-06-05 | Crown Equipment Corporation | Pallet detection using units of physical length |
EP3264286B1 (en) | 2016-06-28 | 2020-11-18 | Dassault Systèmes | Querying a database with morphology criterion |
WO2018075053A1 (en) * | 2016-10-21 | 2018-04-26 | Siemens Aktiengesellschaft | Object pose based on matching 2.5d depth information to 3d information |
EP3321817A1 (en) * | 2016-11-14 | 2018-05-16 | Dassault Systèmes | Querying a database based on a parametric view function |
CN107179534B (zh) * | 2017-06-29 | 2020-05-01 | 北京北科天绘科技有限公司 | 一种激光雷达参数自动标定的方法、装置及激光雷达 |
CN109282750B (zh) * | 2017-07-21 | 2020-10-16 | 镱钛科技股份有限公司 | 光学量测系统、光学量测装置及其量测方法 |
US11281824B2 (en) | 2017-12-13 | 2022-03-22 | Dassault Systemes Simulia Corp. | Authoring loading and boundary conditions for simulation scenarios |
CN112419687B (zh) * | 2020-11-16 | 2022-02-22 | 珠海格力电器股份有限公司 | 能够纠正书本在书桌上摆放角度的方法和读书设备 |
CN116309883B (zh) * | 2023-05-16 | 2023-08-18 | 上海仙工智能科技有限公司 | 一种3D目标6DoF精确定位方法及系统 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05165968A (ja) * | 1991-12-18 | 1993-07-02 | Komatsu Ltd | 物体の位置・姿勢認識装置 |
JPH05342414A (ja) * | 1992-06-08 | 1993-12-24 | Omron Corp | テンプレート作成装置及びパターン認識装置 |
JP2000132580A (ja) * | 1998-10-23 | 2000-05-12 | Mitsubishi Heavy Ind Ltd | 幾何パラメータ演算装置 |
EP1039417B1 (en) * | 1999-03-19 | 2006-12-20 | Max-Planck-Gesellschaft zur Förderung der Wissenschaften e.V. | Method and device for the processing of images based on morphable models |
JP2001216470A (ja) * | 2000-01-31 | 2001-08-10 | Keyence Corp | パターンマッチング方法及び装置 |
JP4341135B2 (ja) * | 2000-03-10 | 2009-10-07 | コニカミノルタホールディングス株式会社 | 物体認識装置 |
US7221809B2 (en) * | 2001-12-17 | 2007-05-22 | Genex Technologies, Inc. | Face recognition system and method |
CN1308897C (zh) * | 2002-09-15 | 2007-04-04 | 深圳市泛友科技有限公司 | 利用一组二维照片与三维模型库生成新的三维模型的方法 |
JP4564233B2 (ja) * | 2003-01-31 | 2010-10-20 | 株式会社東芝 | 画像処理装置、画像データ処理方法、及びプログラム |
US7263209B2 (en) * | 2003-06-13 | 2007-08-28 | Sarnoff Corporation | Vehicular vision system |
US20050025383A1 (en) * | 2003-07-02 | 2005-02-03 | Celartem Technology, Inc. | Image sharpening with region edge sharpness correction |
JP4865557B2 (ja) * | 2003-08-15 | 2012-02-01 | スカーペ テクノロジーズ アクティーゼルスカブ | 有界三次元対象物の分類と空間ローカライゼーションのためのコンピュータ視覚システム |
EP1524622A1 (en) * | 2003-10-17 | 2005-04-20 | Koninklijke Philips Electronics N.V. | Method and image processing device for analyzing an object contour image, method and image processing device for detecting an object, industrial vision apparatus, smart camera, image display, security system, and computer program product |
JP4133996B2 (ja) * | 2004-10-08 | 2008-08-13 | 株式会社ソニー・コンピュータエンタテインメント | テクスチャ作成方法 |
US7876328B2 (en) * | 2007-02-08 | 2011-01-25 | Via Technologies, Inc. | Managing multiple contexts in a decentralized graphics processing unit |
-
2007
- 2007-04-23 US US11/738,642 patent/US7844105B2/en not_active Expired - Fee Related
-
2008
- 2008-01-29 JP JP2008017797A patent/JP4999717B2/ja not_active Expired - Fee Related
- 2008-03-20 DE DE602008003709T patent/DE602008003709D1/de active Active
- 2008-03-20 EP EP08005344A patent/EP1986153B1/en not_active Expired - Fee Related
- 2008-04-15 CN CN2008100951779A patent/CN101295363B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
CN101295363B (zh) | 2012-04-25 |
US20080260238A1 (en) | 2008-10-23 |
EP1986153B1 (en) | 2010-12-01 |
EP1986153A8 (en) | 2008-12-24 |
DE602008003709D1 (de) | 2011-01-13 |
EP1986153A3 (en) | 2009-08-12 |
JP2008269572A (ja) | 2008-11-06 |
CN101295363A (zh) | 2008-10-29 |
EP1986153A2 (en) | 2008-10-29 |
US7844105B2 (en) | 2010-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4999717B2 (ja) | レンジ画像から物体の姿勢を求める方法及びシステム | |
Park et al. | Pix2pose: Pixel-wise coordinate regression of objects for 6d pose estimation | |
US7844106B2 (en) | Method and system for determining poses of objects from range images using adaptive sampling of pose spaces | |
US9053571B2 (en) | Generating computer models of 3D objects | |
RU2642167C2 (ru) | Устройство, способ и система для реконструкции 3d-модели объекта | |
EP2430588B1 (en) | Object recognition method, object recognition apparatus, and autonomous mobile robot | |
CN111986307A (zh) | 使用光度网格表示的3d对象重建 | |
Boulch et al. | Piecewise‐planar 3D reconstruction with edge and corner regularization | |
US8363926B2 (en) | Systems and methods for modeling three-dimensional objects from two-dimensional images | |
Habbecke et al. | Iterative multi-view plane fitting | |
Takimoto et al. | 3D reconstruction and multiple point cloud registration using a low precision RGB-D sensor | |
IL266060A (en) | Strong merging of three-dimensional texture grids | |
WO2015017941A1 (en) | Systems and methods for generating data indicative of a three-dimensional representation of a scene | |
Wang et al. | Robust 3D reconstruction with an RGB-D camera | |
EP2671384A2 (en) | Mobile camera localization using depth maps | |
US20190188871A1 (en) | Alignment of captured images by fusing colour and geometrical information | |
Xu et al. | Survey of 3D modeling using depth cameras | |
Li et al. | 3d reconstruction and texture optimization using a sparse set of rgb-d cameras | |
JP5178538B2 (ja) | 深度マップを画像から決定する方法、深度マップを決定する装置 | |
Hu et al. | IMGTR: Image-triangle based multi-view 3D reconstruction for urban scenes | |
US7586494B2 (en) | Surface detail rendering using leap textures | |
JP2009530701A5 (ja) | ||
CN113706431A (zh) | 模型优化方法及相关装置、电子设备和存储介质 | |
Germann et al. | Automatic pose estimation for range images on the GPU | |
Kumara et al. | Real-time 3D human objects rendering based on multiple camera details |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101224 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120214 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120326 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120417 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120515 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150525 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |