JP2020514876A - 3dデータセットのアライメントのための装置、方法、及びシステム - Google Patents
3dデータセットのアライメントのための装置、方法、及びシステム Download PDFInfo
- Publication number
- JP2020514876A JP2020514876A JP2019540645A JP2019540645A JP2020514876A JP 2020514876 A JP2020514876 A JP 2020514876A JP 2019540645 A JP2019540645 A JP 2019540645A JP 2019540645 A JP2019540645 A JP 2019540645A JP 2020514876 A JP2020514876 A JP 2020514876A
- Authority
- JP
- Japan
- Prior art keywords
- point cloud
- point
- vectors
- vector
- data set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
- G06V10/7515—Shifting the patterns to accommodate for positional errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
Description
第1の態様の実施形態は、第1のときの第1の空間の第1の3Dデータセットであって、3次元での第1のポイントクラウドであり、各ポイントが撮像装置による第1の空間の中の測定値を表す第1のポイントクラウド内にある第1の3Dデータセットを、第1の位置及び向きの撮像装置から入手し、第2のときの第2の空間の第2の3Dデータセットであって、第2の空間及び第1の空間が、3次元で第2のポイントクラウドである第3のデータセットと重複し、第2のポイントクラウドの各ポイントが、撮像装置による第2の空間の中の測定値を表す第2のポイントクラウド内にある第2の3Dデータセットを、第2の位置及び向きの撮像装置から入手するように構成された3Dデータセット取得部と、第1の3Dデータセット及び第2の3Dデータセットをそれぞれのポイントのクラウドとして共通座標系に記憶するように構成された記憶部と、ベクトルの第1の集合の各要素又はベクトルの第2の集合の各要素が、それぞれのポイント及び近傍ポイントを表す、記憶されている第1のポイントクラウドをベクトルの第1の集合に変換し、記憶されている第2のポイントクラウドをベクトルの第2の集合に変換し、共通座標系で画定された3つの回転軸の1つ以上でベクトルの第2の集合の第1の集合に対するどの回転角度で、ベクトルの第1の集合の角度分布とベクトルの第2の集合の角度分布との最大一致度が得られるのかを発見するように構成された回転アライメントプロセッサとを含む。回転アライメントプロセッサは、計算された一致度が最大となる1つの回転軸若しくは複数の回転軸のそれぞれの回りでの回転角度を記憶若しくは出力する、又は共通座標系でのそれぞれの1つ以上の回転軸の回りでの記憶された回転角度分、第2のポイントクラウドを回転させ、共通座標系で回転した第2のポイントクラウドを出力するようにさらに構成される。
3Dデータセット取得部によって入手されるデータセットのそれぞれは、撮像プロセスにおいて連続ポイントで記録されるデータを含み、各ポイントは、撮像の分解能及び方向により決定される程度までその近傍から分離され、各ポイントは、撮像装置に対する又は(同じスキャンで)すでにスキャンされたポイントに対するポイントの位置についてのデータを記録し、各ポイントは、測定値に応えて撮像装置によって生成され、言い換えると、データセットの各ポイントは、撮像装置による測定値を表す。同様に、測定値は、スキャナがアクティブであるときに調査のポイントで伝達又は反射されたビームとの相互作用から撮像装置によって受け取られる応答の記録である。あるいは、何かが目標物により発せられている場合、撮像装置はそれを受け取っている。抵抗を測定する場合、電流がある。
第1の空間及び第2の空間は重複する。重複の程度は実施態様に依存し、データセットの各対に従って変わる。重複の程度は、重複領域内のアライメントフィーチャの数に依存する。高い確度のアライメントには、十分な共通フィーチャが必要とされる。重複は、共通フィーチャの重複である。例えば、重複は、少なくとも部分的な重複であってよく、例えばスキャンが異なるときに又は異なる技術を使用するスキャナを用いて採取される場合、全体であってよい。例えば、重複は、第1のデータセットと第2のデータセットの両方で表される共通の物理的な空間であってよい。実施形態は、入力されたデータベースから一部の重複していないデータを削除するために3D取得部によって該入手することの部分として前処理するステップを含んでよい。
記憶部で、第1の3Dデータセット及び第2の3Dデータセットは、共通座標系でそれぞれのポイントクラウドとして記憶される。共通座標系は作業領域である。第1の3Dデータセット及び第2の3Dデータセットのそれぞれは、ポイントのそれぞれのクラウドが画定されるネイティブ座標系を有する。実施形態の前提条件は、第1のデータセット及び第2のデータセットが、記憶部の共通座標系と互換性があることである。例えば、ネイティブ座標系は、起点としてのそのデータセットのための撮像装置の位置、及び撮像装置の向きに対する場合がある。第1のポイントクラウドは、作業領域に入れられるとき、回転され、並進される場合があり、第2のポイントクラウドは、作業領域に入れられるとき、異なって回転され、並進される場合がある。
変換プロセスで実行される精密な方法は実施態様に特有である。例えば、実施形態は、記憶されている第1のポイントクラウドを面法線単位ベクトルの第1の集合に変換し、記憶されている第2のポイントクラウドを面法線単位ベクトルの第2の集合に変換してよい。回転アライメントプロセッサは、ベクトルの2つの集合の間で最善の一致検索を実行し、したがって2つの集合は類似点がある。例えば、同じ技術、方法、又はアルゴリズムが、第2のポイントクラウドをベクトルの第2の集合に変換するために使用されるのと同様に、第1のポイントクラウドをベクトルの第1の集合に変換するために使用される。
回転アライメントプロセッサは、関心のある各回転軸の回りのどの角度でベクトルの2つの集合が最大の一致度を示すのかを発見することによって、ベクトルの第1の集合とベクトルの第2の集合との間の最良適合の向きを発見する。事実上、ベクトルの一方の集合は、最善の一致が発見されるまで関心のある各回転軸での他方の集合の回りで回転される。一致度は、例えば、ベクトルの2つの集合の角度分布を比較するために、数学的な相関関数/演算子を使用することによって測定されてよい。例えば、数学的な相関関数/演算子は、実施態様に適切な既存の数学的相関関数/演算子であってよい。
出力は、回転アライメントプロセッサによって回転される第2のポイントクラウドを含む場合がある。出力された第2のポイントクラウドは、記憶されている第1のポイントクラウドと回転で位置合わせされる。また、出力は、記憶されている第1のポイントクラウドのコピーを含む場合もある。例えば、共通座標系が第1の3Dデータセットのネイティブ座標系とは異なる場合、次いで、2つの回転で位置合わせされたデータセットを達成するために、装置は、回転された第2の3Dデータセットと第1の3Dデータセットの両方を、共通座標系のそれぞれのポイントのクラウドとして出力してよい。回転で位置合わせされたデータセットはマージされ、単一の画像データセットファイルとして出力されてよい。回転で位置合わせされたデータセットにより、両方のデータセットで表される物理的なエンティティが、2つのデータセットの共通座標系で相互に位置合わせされる(co−aligned)ことを意味すると解釈される。
任意選択で、記憶部は、第1のポイントクラウド及び出力された回転された第2のポイントクラウドを記憶するように構成される。装置は、3本の線の中からの線の各対が平行ではなく、3本の線の中からの少なくとも1つの線の対が同一平面上ではない、共通座標系の3本以上の線のそれぞれに対して、第1のポイントクラウドの中の各ポイントの線の上への投影の位置を任意の起点に対して記録する、記録された位置を第1の1次元アレイとして記憶する、及び/又は第1の1次元アレイとしてそれぞれの記録された位置での各ポイントの1つ以上の特性又は測定値を記録する、回転した第2のポイントクラウドの中の各ポイントの線上への投影の位置を、任意の起点に対して記録する、記録された位置を第2の1次元アレイとして記憶する、及び/又は第2の1次元アレイとして記録されたそれぞれの位置での各ポイントの1つ以上の特性又は測定値を記憶する、第1の1次元アレイと第2の1次元アレイとの最大一致度が計算される、第1の1次元アレイに対する第2の1次元アレイの線に沿った平行移動を発見する、及び最大の一致度が計算される平行移動を記録する、及び第1のポイントクラウド及び回転された第2のポイントクラウドのどちらかを共通座標系のマージされたポイントクラウドとして出力するように構成された並進アライメントプロセッサをさらに含み、回転した第2のポイントクラウドは、それぞれの記録された平行移動、並びに/又は3本の線のベクトル表示及び3本の線のそれぞれに沿った記録された平行移動、及び3つの回転軸のベクトル表示及びそれぞれの記憶されている回転角度、並びに/又はそれぞれの記録された平行移動により共通座標系の3本の線のそれぞれに沿って並進された回転した第2のポイントクラウドによって共通座標系の3本の線のそれぞれに沿って並進される。
実施形態の回転アライメント及び並進アライメントのための機構は、撮像技術によって限定されない。機構は、撮像装置に依存せず、波長に依存せず、撮像技術に依存しない(独立を意味するこれらの文脈において不可知論的(agnostic))。さらに、実施形態は、異なる撮像装置、つまり異なる場所での又は異なるときにおける同じ撮像装置からのデータセットを位置合わせするためであるが、異なる撮像機構によって入手されるデータセットも位置合わせするための機構を提供する。例えば、MRIスキャンは、重複する空間(被写体)のX線スキャンと位置合わせされる場合がある。
第1の3Dデータセット及び第2の3Dデータセットの一方又は両方がそこから入手される撮像装置は超音波スキャナであり、撮像空間は被験動物の内部である。
任意選択で、3Dデータセット取得部は、雑音除去プロセッサを含み、第1の3Dデータセットを入手すること、及び第2の3Dデータセットを入手することは、第1のポイントクラウドに対して雑音除去アルゴリズムを実行し、第2のポイントクラウドに対して雑音除去アルゴリズムを実行する雑音除去プロセッサを含む。
任意選択で、ベクトルの第1の集合のベクトルは面法線ベクトルであり、第2の集合のベクトルは面法線単位ベクトルであり、第1のポイントクラウドを面法線ベクトルの第1の集合に変換すること、及び第2のポイントクラウドを面法線ベクトルの第2の集合に変換することは、個別にポイントクラウドごとに、問合せポイントとしてのそれぞれのポイントクラウドの各ポイントに対して、近傍ポイントの集合を選択し、近傍ポイント及び問合せポイントの集合の共分散行列を計算し、共分散行列を解いて、共分散行列に3つの固有値及び3つの固有ベクトルを発見し、最小固有値を有する固有ベクトルを決定し、固有ベクトルを所定の単位長さに正規化し、正規化された単位ベクトルを法線ベクトルのそれぞれの第1の集合又は第2の集合に追加することによって面法線ベクトルの第1の集合を生成すること、及び面法線ベクトルの第2の集合を生成することを含む。
実施形態は、近傍ポイントの集合を選択するための以下のプロセスを含んでもよい。つまり、問合せポイントを選び、その回りに小さい検索半径の球体を形成する。球体の内側の全ポイントに対して主成分分析PCAを使用する。平面がある場合、PCAから出力された構成要素は、平面内に2つ、及びそれに垂直に1つある。最小の規模のものは、平面に対する法線である。この方向に沿った単位ベクトルを法線方向として描く。あらゆるポイントについて繰り返す。
面法線単位ベクトルに設定された代替の又は追加のベクトルとして:ベクトルの第1の集合のベクトルは和ベクトルであり、第2の集合のベクトルは和ベクトルであり、第1のポイントクラウドを和ベクトルの第1の集合に変換すること、及び第2のポイントクラウドを和ベクトルの第2の集合に変換することは、第1のポイントクラウド及び第2のポイントクラウド全体で単位面積あたり又は単位体積あたりでポイント密度を相互に標準化する(この動作は、ポイントクラウドのタイプ及び密度分布に応じて任意選択である)、個別にポイントクラウドごとに、問合せポイントとしてそれぞれのポイントクラウドの各ポイントに対して、問合せポイントの回りに所定の半径の検索半径球体を形成する、又は最近傍ポイントの最近傍指定数を発見する、問合せポイントから検索半径球体の中の近傍ポイントのすべてのそれぞれまでのベクトル、又は最近傍ポイントの指定数を計算する、ベクトル足し算を実行して(ここでは「和ベクトル」と呼ばれる)ベクトル和を発見するように構成されたサンプリングアルゴリズムを任意選択で実行することを含む。
任意選択で、共通座標系に画定された3つの直交する回転軸のうちの1つ以上でベクトルの第2の集合の第1の集合に対する回転のどの角度で、ベクトルの第1の集合の角度分布と、ベクトルの第2の集合の角度分布との最大一致度が得られるのかを発見することは、ベクトルの第1の集合及び第2の集合のベクトルに共通起点を帰することと、共通起点を中心とし、ベクトル長に等しい半径の概念的な球面を表面領域に分割することと、共通座標系に画定された3つの直交する回転軸のうちの1つ以上のそれぞれでベクトルの第2の集合の第1の集合に対する回転のどの角度で、ベクトルの第1の集合からのベクトルのベクトルポイント分布と、表面領域の中のベクトルの第2の集合からのベクトルのベクトルポイント分布との最善の一致が得られるのかを発見することを含む。
- オートエンコーダ(3D空間の中でフィーチャを抽出するための教師なしディープラーニングアルゴリズム)によって生成され、一次フィーチャを表すベクトル、
- オートエンコーダによって生成され、二次フィーチャを表すベクトル、
- オートエンコーダによって生成され、三次フィーチャを表すベクトル、
- オートエンコーダによって生成され、一次フィーチャ、二次フィーチャ、及び/又は三次フィーチャを表すベクトル、
- 面法線単位ベクトル、
- 和ベクトル、
- 発散ベクトル、
- 辺ベクトル、
- 円筒ベクトル、
- 複合オブジェクトベクトル、
- 平面ベクトル、
- ポイント密度勾配ベクトル、
- ポイント密度勾配発散ベクトル、及び
- 勾配ベクトル
最大一致度を発見する際に、ベクトルの第1の集合の角度分布とベクトル第2の集合の角度分布との間で、及び/又は第1の1次元アレイと第2の1次元アレイとの間で、及び/又は第1の2次元アレイと第2の2次元アレイとの間で、同じ特定のタイプのベクトルの部分集合間の一致度がタイプ毎に計算され、任意の平行移動又は回転角度での一致度は、それぞれの特定のタイプの一致度の組合せであり、組合せは加重平均の平均である。
第2の態様の実施形態は、第1のときに関心のある被写体の第1の部分を表す第1のデータセットであって、n次元のスキャンデータセットである第1のデータセットを入手する、第2のときに関心のある被写体の第2の部分を表す第2のデータセットであって、m次元のスキャンデータセットである、第2のデータセットを入手する、3次元座標系の1つ以上の軸の表示を入手するように構成されたデータセット取得部を含んだ装置を含み、示された1つ以上の軸の回りで、入手されたデータセットの回転アライメントが要求され、第1の部分及び第2の部分は、重複するフィーチャを含み、m及びnのそれぞれは2又は3に等しい。装置は、第1のデータセットを表す第1のポイントクラウド及び第2のデータセットを表す第2のポイントクラウドを生成し、記憶するように構成されたポイントクラウド生成プロセッサをさらに含み、第1のポイントクラウド及び第2のポイントクラウドは、3次元座標系に画定される。また、装置は、軸の回りで又は各軸の角度の組合せの回りでポイントクラウドの一方を他方に対して繰り返し回転させ、3次元座標系の1本以上の特定の線のそれぞれに対して、各反復時に、第1のポイントクラウド及び第2のポイントクラウドを線上に投影し、2つの投影の間の最大相関を発見するために線に沿って互いに対して投影を移動させ、最大相関を記録し、上限の最大相関が記録されるポイントクラウドの一方の回転角度若しくは回転角度の組合せを識別し、識別された回転角度を第1の記憶されたポイントクラウド及び第2の記憶されたポイントクラウドのそれぞれの示された軸の回りの回転アライメントの角度として出力する、又は第1の記憶されたポイントクラウド及び第2の記憶されたポイントクラウドのそれぞれの示された軸の回りの回転角度の組合せを出力するように構成されたアライメントプロセッサも含む。
別の態様の実施形態は、部分集合のポイントクラウド表現を得ることを含む画像処理方法を含み、ポイントクラウド表現は複数の個々のスキャンから成り、各スキャンが被写体の一部分のポイントクラウド表現であり、各スキャンは1つ以上の他のスキャンに重複し、該1つ以上の他のスキャンに対する定められた回転関係及び並進関係を有し、スキャンの少なくとも1つで、複数の他のスキャンと重複している。方法は、被写体ポイントクラウドとしての複数の個々のスキャンのそれぞれに対して、被写体スキャンと重複する1つ以上の他のスキャンを基準ポイントクラウドとして設定することと、基準ポイントクラウドのそれぞれの個々のスキャンに対して、プロセスエラー基準が満たされるまで、被写体ポイントクラウドを基準ポイントクラブの個々のスキャンに対して回転させ、並進させ、被写体ポイントクラウドと基準ポイントクラウドの個々のスキャンとの間の改訂された定められた回転及び並進関係を得るために、被写体ポイントクラウドと、被写体のポイントクラウド表現の中の基準ポイントクラウドの個々のスキャンとの間の定められた回転及び並進関係を初期推定値として、被写体ポイントクラウド及び基準ポイントクラウドの個々のスキャンに対して回転アライメントアルゴリズム及び並進アライメントアルゴリズムを実行することと、被写体ポイントクラウドと基準ポイントクラウドの個々のスキャンのそれぞれとの間の改訂された定められた回転及び並進関係を結合することと、被写体ポイントクラウドと被写体のポイントクラウドの基準ポイントクラウドとの間の結合された、改訂された定められた回転及び並進関係を実施することを含む、グローバルアライメントプロセスを実行することによって特徴付けられる。
図1の説明
構成要素及び相互接続の概要
図1に示される本実施形態は、本発明を実施する3Dデータセットアライメント装置10である。装置10は、3Dデータセット取得部12、記憶部14、及び回転アライメントプロセッサ16を含む。特定の相互接続及び入出力が示される。これらは、構成要素間のすべての相互接続及び相互作用を示すことを目的とするのではなく、装置10を詳細に説明するために重要な一部の相互作用を単に示すにすぎない。
3D取得部12は、第1の位置及び向きの撮像装置から、第1のときの第1の空間の第1の3Dデータセットを入手するように構成された機能構成要素であり、第1の3Dデータセットは、三次元での第1のポイントクラウドであり、第1のポイントクラウドの各ポイントは、撮像装置による第1の空間の中の測定値を表す。3Dデータセット取得部12は、第2の位置及び向きの撮像装置から、第2のときの第2の空間の第2の3Dデータセットを入手するようにさらに構成され、第2の空間及び第1の空間は重複し、第2の3Dデータセットは三次元での第2のポイントクラウドであり、第2のポイントクラウドの各ポイントは、撮像装置による第2の空間の中の測定値を表す。
例えば、ビデオストリームから生成される符号なしショート(short)、つまりメッシュ等の他のフォーマットは、前処理ステップとしてポイントクラウドに変換され、次いで実施形態に入力されてよい。
3Dデータセット取得部は、装置10のための入力機構である。入力は、2つの3Dデータセットである。データセットの前提条件は、データセットが共通座標系内のポイントクラウドとして記憶されていることと互換性があること(本文脈での共通は、両方のデータセットにとって共通を意味する)、及びデータセットが、少なくとも部分的に重複している空間の3Dデータセットであることである。第1の3Dデータセット及び第2の3Dデータセットは、同じ撮像装置から入手されてよい。しかしながら、それに対する要求はなく、装置10は、異なる撮像装置から、異なる撮像技術を使用する撮像装置からも3Dデータセットを回転で位置合わせするように構成される。
記憶部14は、第1の3Dデータセット及び第2の3Dデータセットを、共通座標系にそれぞれのポイントのクラウドとして記憶するように構成される。記憶部14は、3Dデータセット取得部12及び回転アライメントプロセッサ16にアクセス可能である揮発性又は不揮発性のストレージハードウェアである。記憶部14は、記憶されたデータに対する読取りアクセス及び書込みアクセスを制御するためにコントローラ又は管理部を含んでよい。
共通座標系は、両方のポイントのクラウドと同じように表される必要はない。しかしながら、2つのポイントのクラウドが記憶される座標系間の画定された空間及び角度の関係性があり、これによりストレージ内のポイントのクラウドの表現がどうであれ、それらは共通座標系に画定される。
回転アライメントプロセッサ16は、ベクトルの第1の集合の各要素及びベクトルの第2の集合の各要素がそれぞれのポイント及び近傍ポイントを表す、記憶されている第1のポイントクラウドをベクトルの第1の集合に変換する、記憶されている第2のポイントクラウドをベクトルの第2の集合に変換する、共通座標系で画定された3つの直交する回転軸の1つ以上でベクトルの第2の集合の第1の集合に対するどの回転角度で、ベクトルの第1の集合の角度分布と、ベクトルの第2の集合の角度分布との間の最大一致度が得られるのかを発見する、計算された一致度が最大である1つ以上の直交する回転軸のそれぞれの回りでの回転角度を記憶する、共通座標系の3つの直交する回転軸の中のそれぞれの1つ以上の回転軸の回りの記憶されている回転角度分、第2のポイントクラウドを回転させる、及び回転した第2のポイントクラウドを出力するように構成される。
回転アライメントプロセッサは、どの回転角度でベクトルの第2の集合がベクトルの第1の集合との最善の一致を示すのかを発見するように構成される。求められている3つの回転軸の回りの回転アライメントの場合、例示的な処理は、ベクトルの第1の集合及びベクトルの第2の集合の各ベクトルに共通の基点を帰することと、共通の基点を中心とし、綿法線単位ベクトルに大きさが等しい半径を有する概念的な球面を球面領域に分割することと、ベクトルの各集合について球面領域あたりのベクトルポイントの度数分布間の数学的な相関を計算することと、ベクトルの第2の集合を回転させることと、該計算することを繰り返すことである。ベクトルの第1の集合及びベクトルの第2の集合の各要素の長さを正規化するステップは、綿法線ベクトルについて実行される。該回転させることは、角度のすべての組合せが、所定の粒度レベルでの各回転軸の回りの所定の角度範囲についてカバーされるまで3つの回転角度のそれぞれで増分的に行われてよい。例えば焼き鈍し法等の最善の一致検出アルゴリズムは、最善の一致が存在する角度の組合せを発見するために実施されてよい。
ベクトルの2つの集合の角度分布の間の数学的な相関は、角度空間を等しいサイズの領域に分割し、各領域内の各集合からのベクトル数を比較することによって発見されてよい。積分値は、領域のすべて全体で合計することによって計算され、特定の領域からの積分値に対するコントリビューションは、領域内の2つの集合からのベクトルの数の類似性に比例する(例えば、単一の領域内の1つの集合からのベクトルの総数又はベクトルの最高数に従って緩和される)。特定の例として、比較することは、1つの領域の一方の集合からのベクトルポイント数を、同じ領域の他方の集合からのベクトルポイント数で乗算すること、及びすべての球面領域上で積を積分することを含んでよい。
出力は、データセットが3Dデータセット取得部12によってそこから入手されたデバイス、装置、又は場所に対してであってよい。例えば、データセットは、撮像装置から入手され、撮像装置に又はコンピュータ又は撮像装置と併せて使用されている他のデバイスに出力されてよく、これにより撮像装置及びデータセットアライメント装置10の組合せは、改善された撮像装置を形成する。出力は、例えば第1の3Dデータセットのネイティブ座標系が、入手された第1の3Dデータセットが出力された回転した第2の3Dデータセットと位置合わせされるように、共通座標系と同じである場合、回転された第2の3Dデータセットだけを含んでよい。代わりに、第1の3Dデータセット及び回転された第2の3Dデータセットの両方が出力され、出力は、2つのデータセットが回転で位置合わせされる座標系で画定された2つのデータセットである。追加の代替策として、出力は、下流処理でのアクセスのために記憶部14に対してであってよい。
特にロバスト且つ正確なアライメント結果は、アライメント処理のために各ポイントクラウドの1つ以上のベクトル表示を活用することにより入手できる。本書は、図4の説明でベクトルタイプの考えられる異なるタイプの選択肢を提示する。より多くの情報は、英国特許出願第GB1701383.0号の公開版の付録Bで見つけることができる。
構成要素及び相互接続の概要
図2に示される装置は、本発明を実施する3Dデータセットアライメント装置10である。装置10は、その詳細な説明が図1に関して上記に示され、ここでは繰り返されない、図1に示される構成要素、及び並進アライメントプロセッサ18を含む。並進アライメントプロセッサ18は、回転アライメントプロセッサ16に対する相互接続とともに示され、第1の3Dデータセット及び第2の3Dデータセットが、回転アライメントプロセッサ16よって並進アライメントプロセッサ18に出力される場合があることを示す。代わりに、並進アライメントプロセッサ18と記憶部14との間の相互接続によって示されるように、並進アライメントプロセッサは、記憶部14から回転で位置合わせされた3Dデータセットを取り出してよい。
並進アライメントプロセッサ18は、3本の線の中からの線の各対が平行ではなく、3本の線の中からの線の少なくとも1つの対が同一平面上にない、共通座標系の3本の線のそれぞれについて、第1のポイントクラウドのそれぞれの線の上への投影の位置を、任意の基点に対して記録する、記録された位置を位置の第1の1次元アレイとして記憶する、回転した第2のポイントクラウドの線の上への投影の位置を、任意の基点に対して記録する、記録された位置を位置の第2の1次元アレイとして記憶する、第1の1Dアレイと第2の1Dアレイとの最大一致度が計算される位置の第1の1次元アレイに対する、位置の第2の1次元アレイの線に沿った平行移動を発見する、及び最大一致度が計算される平行移動を記録するように構成される。並進アライメントプロセッサ18は、第1のポイントクラウド及び回転した第2のポイントクラウドを、共通座標系のマージされたポイントクラウドとして出力するように構成され、回転した第2のポイントクラウドは、それぞれの記録された平行移動によって共通座標系の3本の線のそれぞれに沿って並進される。並進アライメントプロセッサ18は、ポイントクラウドをマージすることに備えて、受け取られた回転で位置合わせされたデータセットを記憶部14に記憶する。したがって、情報は、線に沿った平行移動を発見する過程で失われるので、受け取られた通りの回転で位置合わせされたデータセットのコピーが保持される。マージされたポイントクラウドを出力する代わりに、又はマージされたポイントクラウドを出力することに加えて、並進アライメントプロセッサ18は、例えば(2つのデータセットのための)撮像手順の間の撮像装置の移動を追跡する際に使用するための並進量(つまり、3本の線に沿った距離)を出力してよい。
例えば、3本(以上)の線は相互に直交する直線であってよい。2本の線の平面は水平面であってよい。あるいは、2本の線の平面は、シーンの中の床又は壁又は平面であってよい。線の上への投影は、線に対してある角度をなすベクトルに沿った、又は曲線に沿ったクラウドのあらゆるポイントのものである。投影のベクトルの線に対する角度は、クラウド内のすべてのポイントについて同じベクトルであってよい。代わりに、ベクトルは、ポイントの位置の関数であってよく、該関数は、両方のポイントのクラウドにとって一貫性がある。投影は、線の上への曲線に沿ってよい。この例は、円筒が、線上にあるためにその外周の回りのすべての点を移動させる、又は代わりに半径方向に円筒軸の上に投影することである。また、惑星規模では、又は別の撮像された球状の被写体の場合、緯度及び経度の線上に、及び球体の半径の上に投影することが意味を成すであろう。したがって、それは、緯度線及び経度線がまっすぐでもなく、実際に円形状の線であることを意味する。
構成要素及び相互接続の概要
図3に示されるシステムは、本発明を実施する3Dデータセットアライメントシステム10である。装置10は、その詳細な説明が図2に関して上記に示され、ここでは繰り返されない、図2に示される構成要素、及び撮像装置20を含む。撮像装置20は、測定値を採取し、測定値を三次元内の位置に帰することによって空間を撮像又は測量するように構成される。複数の係る測定値は、データセットで表される空間(又は被写体)の画像を形成する。
撮像装置20は、各ポイントが測定値に対応するポイントクラウドを生成する場合もあれば、撮像装置20は、ポイントクラウドへの変換を実行する3Dデータセット取得部12を用いてなんらかの他のフォーマットでデータセットを生成する場合もある。撮像装置20によって作られるデータセットのそれぞれは、(例えば、視界を掃引する場合がある)撮像プロセスの連続ポイントで記録されるデータを含み、各ポイントは、撮像プロセスの分解能及び方向により決定される程度までその近傍から分離され、各ポイントは、撮像装置20に対するポイントの位置についてのデータを記録し、各ポイントは測定値に応えて撮像装置によって生成され、言い換えれば、データセットの各ポイントは、撮像装置20による測定値を表す。図3は、単一の撮像装置20をしめすが、異なる撮像装置20が各データセットの原因になる場合がある。
撮像装置20のユーザ、又はデータセットがそれのために生成される関係者は、装置10の出力の目的地である場合もある。データセットがそれのために生成される関係者の視点から、及び撮像関係者のために、撮像装置20及び装置10を含んだシステムは、改善された撮像装置20である。
撮像装置20は、例えば以下であってよい。
・ハンドヘルドライダスキャナ
・固定された三脚ベースのライダスキャナ
・地中レーダ
・3Dモバイルライダ、又は3Dデータセットがそれから生成される2Dライダ
・電気抵抗トモグラフィ(ERT)スキャナ又は電気抵抗イメージング(ERI)スキャナ
・CT(コンピュータ断層撮影)スキャナ又はCAT(コンピュータX線体軸断層撮影)スキャナ
・ポジトロン断層法(PET)スキャナ
・MRI(磁気共鳴イメージング)スキャナ
・核四重極スキャナ
・3Dテラヘルツ波スキャナ
・立体照明に基づいたプロジェクションマッピングスキャナ
・離間した2Dカメラを使用する写真測量スキャナ
・3D超音波スキャナ
・3D地震スキャナ、又は
・3Dソナースキャナ
・光学干渉計
・写真測量法
・プロジェクションイメージング
・Alphastep、Talystep、Atomic Force Microscope、SNOM等の表面3Dプロファイリング
・スキャン焦点面、Zスタック
スキャンは以下を含んでよい。
・焦点からの形状
・陰影からの形状
・テクスチャからの形状
・シルエットからの形状
・シェーディングからの形状
・テンプレートからの形状
・対称からの形状
・変化する照明及び視点からの形状
・移動又はオプティカルフローからの形状
・相互作用からの形状
・位置コントラストからの形状
・ピンボケからの形状
・コンピュータ支援設計、コンピュータ生成モデル又は計画における仮想3Dコンピュータ生成画像
例示的なスキャナに関する詳細は、英国特許出願第GB1701383.0号の公開版の付録Aに提供される。
概要及び他の図に対する関係
図4は、実施形態の、又は実施形態により実施される方法を示すフローチャートである。撮像ステップS101は、撮像装置20の機能性の例示である。前処理ステップS102は、撮像装置20又は3D画像取得部12の機能性の例示である。記憶されているポイントクラウドステップS103は、記憶部14と協調して動作する3D画像取得プロセッサ12の機能性の例示である。ポイントクラウドをベクトルへ変換及びフィルタにかけるステップS104は、ベクトル角度分布ステップS105の最善の一致を発見し、ポイントのクラウドを回転で位置合わせのステップS106は、回転アライメントプロセッサ16の機能性の例示である。線上へポイントを投影のステップS107は、投影ステップS108の最善の一致を発見し、並進アライメントステップS109は、並進アライメントプロセッサ18の機能性の例示である。ステップが「a」及び「b」に分けられている場合、それは、ステップが2つの画像について別々に処理される旨の表示である。
ステップ101で、3Dシーン又は被写体の一部は、第1のポイントクラウドを入手するために撮像装置20によって撮像される。ステップS101bで、3Dシーン又は被写体の別の部分は、3Dスキャン又は被写体が経時的に変化し、第2のポイントクラウドを入手するように、例えば完全に重複しているが、異なる時点で撮影されたステップS101aで撮像された3Dシーン又は被写体の共通部分と重複する又は共通部分を有する。ステップS101a及びステップS101bは、互いと同時に又は異なるタイミングで実行されてよい。それぞれの画像を担当する撮像装置(複数可)での向きに差異がある場合があり、アルファ、ベータ、及びガンマと呼ばれる3つの回転軸の回りでの回転アライメントの差異は少なくとも部分的に未知である。それぞれの画像を担当する撮像装置(複数可)の位置に差異がある場合があり、デルタx、デルタy、及びデルタzの並進位置の差異は少なくとも部分的に未知である。
ステップS102a及びS102bで、それぞれの画像が3D画像取得部12によって入手される前、又はそれぞれの画像が3D画像取得部12によって(つまり、3D画像取得部12によって)入手された後のどちらかに任意選択の前処理がそれぞれの画像に対して実行される。
前処理は以下の1つ以上を含んでよい。
− 撮像装置が遠い目標物と同じ視線内の近傍の目標物の端縁を調べるとき、又はビームが輝いている表面から反射する若しくは煙あるいはかすみから散乱するときに一般的に発生する、3D空間で浮遊する、アーチファクト、つまりそうでなければ分離されたポイントのクラスタを削除することによって画像をフィルタにかけ、クリーニングするためのクリーニングアルゴリズムを実行すること、
− レンジフィルタリングを適用することによって画像をフィルタにかけ、クリーニングするための測距アルゴリズムを実行すること、
− ポイント密度を一様にするための空間サンプリング、
− スキャンが行われている間に目標物又は人がシーンの中で動くことによる漂遊ポイントを検出し、削除すること、
− 後に登録プロセスをより困難にする場合がある物理的な目標物又はシーン内の幾何学形状に対応するポイントを検出し、削除すること(例えば、その不均一な空間分布のためにスキャン登録をより困難にする木及び藪の枝葉又は他の不規則な形状を検出すること)又はユーザがこれらに関心がないため(例えば、ユーザが壁の場所だけに関心があるときに、部屋から家具及び人を取り除くこと)
− 平面を平らな表面に、又は下位多項式曲面を曲面に適合することによる平滑化
前処理は、それぞれのポイントのクラウドに対して雑音除去アルゴリズムを実行することも含んでよい。この目的のために利用できる多くのタイプの雑音除去アルゴリズムがある。例えば、バイラテラル雑音除去アルゴリズムが使用できるであろう。また、実施形態は、3D画像取得部による取得時に以前に測定されていなければならなかったであろう距離及び角度の関数として雑音を記述する関数を使用し、デコンボリューションを実行することもできる。代わりに、前処理は、雑音を自動的に測定し、それを除外するウィーナーフィルタを使用することを含んでよい。別の可能性は、自動運転車の実施態様においてのようなリアルタイム雑音除去にとって最善であるであろうカルマンフィルタである。
ステップS103a及びS103bで、画像は、画像が共通座標系によって定義されるフォーマットで記憶部14に記憶される。共通座標系は、概念的な3D作業領域として実施されてよい。共通座標系の2つの画像の相対的な位置及び向きは任意である場合もあれば、画像のネイティブ座標系間の関係によって決定される場合もある。撮像装置が高さ、コンパス方位、高度について何らかの情報を記録した場合、次いでこの情報は、後の網羅的な一致計算を最小限に抑えるために、作業領域への配置で使用できる。
ステップS104a及び104bで、ポイントのクラウドは、それぞれのベクトル集合に変換される。任意選択で、ポイントのクラウドは、ポイント密度が2つの画像全体でほぼ均一になるように、変換前に縮小されてよい。縮小は、それぞれがポイントを近傍ポイントと結合して一様な粒度又はサンプリングを得る八分木アルゴリズム又はKd木アルゴリズムを使用し、実行されてよい。
同じベクトル生成技術/アルゴリズムが、両方のポイントのクラウドに対して実行される。
面法線単位ベクトルの代替策として、又は複数のベクトルタイプがスキャンの間に(互い及び結合されたそれぞれの回転アライメントとは無関係に)比較され得るように1つ以上の追加のタイプのベクトルを生成するために、ベクトルフィールド(すなわち、ベクトルの集合)が以下の技術の1つ以上を使用し、生成される場合がある。
ベクトルを生成するためにどのような技術が使用されても、(複数のベクトルタイプの場合のベクトルのタイプごとの)角度分布は、ステップS105で比較され、その比較のために、処理は、同じ中心を有する2つのネスト化されたガウス球又は単位球面をベクトルのそれぞれの集合から形成することを含んでよい。1つのガウス球又は単位球面は、ベクトルの第1の集合から(つまり、第1の画像から)形成され、1つはベクトルの第2の集合(つまり、第2の画像)から形成される。ベクトルが面法線である場合、ベクトルポイントはすべて球面上にある。それ以外の場合、これは、ガウス球以外の球体表示である。
任意選択の処理ステップとして、非線形フィルタは、ベクトルの集合に又はポイントのクラウドに適用される場合があり、端縁、平面、円筒、環状体、円錐、球体、及び他の形状が認識され、それらと関連付けられたベクトルのポイントは追加の処理のために保存される。一方、残りは削除される。係る複雑なフィーチャの選択は3Dシーンに依存し、したがって建物の場合、端縁及び平面が役に立つ場合がある。撮像装置に雑音が多く、シーンが特定の複雑なフィーチャを含むことが既知である場合、雑音に起因するポイントの散乱を削減するために既知の形状を適合させることによって、それらの複雑なフィーチャを発見することが有益である場合がある。次いで、ポイントは、最近傍の面法線に沿って複雑なフィーチャの上に投影される場合がある。端縁だけが認識され、抽出される場合、これは多くのメモリ及び計算コストを節減する。これは、鮮明な端縁を有するいくつかのシーンには可能である場合がある。これは、実質的に、3Dシーンのワイヤフレームバージョンのアライメントになる。どちらがパターン認識アルゴリズムにとって最も便利であるとしても、この非線形フィルタは、ポイントクラウドに又はベクトルの集合に適用される場合がある。追加の代替策としては、ステップS105の最善の一致処理が、ベクトルの集合に共通の基点を割り当てることによってベクトルの集合の球体を形成することを含む実施形態では、非線形フィルタは、(ガウス球であってよい)球体に適用されてよい。例えば、ガウス球表現では、ガウス球上の高ポイント密度のポイントが、シーン内の平面に起因し、大円及び近傍のポイントがシーン内の円筒形のオブジェクトに起因し、非大円(Non−great circles)及び近傍のポイントが円錐形のオブジェクト又は部分的に円錐形のオブジェクトに起因することが既知である。したがって、この方法は、他のオブジェクトだけではなく回転アライメントを確立するためのすべての係るオブジェクトを利用する。したがって、回転アライメントの前に平面又は円筒又は円錐を選択的に強化することが可能である。
非線形フィルタは、端縁検出アルゴリズムを実行すること、及び追加の処理から(ポイントクラウドの)任意のデータポイント又は端縁を表していない(ベクトルの集合の)ベクトルを除外することを含んでよい。端縁検出アルゴリズムの例は、BAOアルゴリズム、(例えば、RANSAC平面検出アルゴリズム又はハフ変換平面検出アルゴリズムによる平面発見に続く)RANSAC線検出アルゴリズム、又はトリリニア補間(trilinear interpolation)を含む。
非線形フィルタは、以下の中からセグメント化アルゴリズムを含んでよい。
− 曲率セグメント化アルゴリズム又は「平滑条件セグメント化」アルゴリズムであってよいセグメント化アルゴリズムを実行することと、
− 領域拡張とともに曲率セグメント化アルゴリズムを実行することと、
− 幾何学特性に基づいて領域拡張とともに曲率セグメント化を実行すること。
セグメント化アルゴリズムに関する詳細は、上記に(図4の説明に)提供され、さらに追加の詳細は英国特許出願第GB1701383.0号の公開版の付録Dに記載されている。
テンプレート形状を発見することは、セグメント化アルゴリズムの出力に対して、ポイントのクラウドに対して、ベクトルの集合に対して、又はガウス球に対して実行されてよい。テンプレート形状を発見することは、円筒認識アルゴリズム(例えば、ハフ変換アルゴリズム)及び/又は平面認識アルゴリズム(例えば、RANSACアルゴリズム)を実行することを含んでよい。また、椅子等のより複雑な形状は、大きいデータセットを使用する事前の訓練を必要とするディープラーニング等の人工知能アルゴリズムを使用し、認識される場合がある。
ステップS105で、アルゴリズムは、回転の1軸、2軸、又は3軸のそれぞれの回りのどの回転角度で、ベクトルの集合の角度分布が最善の又は最も近い一致(つまり、集合が一致する最大信頼度)を示すのかを判断するためにベクトルの2つの集合に対して実行される。
− ベクトルはそのまま残される場合があるか、又はガウス球の表面上のベクトルポイントの密度が計算される場合があるかのどちらかである。ポイント密度表現は、データストレージ及び計算要件を削減する。このステップは、ベクトルの分布と関連付けられた測定値及び属性のそれぞれに対して独立して繰り返すことができる。
− アルファ直交角度、ベータ直交角度、及びガンマ直交角度に沿ってベクトルポンと密度の数学的な相関を実行することによって、一方の画像のベクトルと他の画像のベクトルとの一致を計算しながら、アルファ直交角度、ベータ直交角度、及びガンマ直交角度に沿ってガウス球起点の回りで一方の画像のベクトルを回転させる。最高の一致又は相関のためのアルファ、ベータ、及びガンマの値は、登録回転ベクトルである。代わりに、例えば焼き鈍し法及び遺伝的アルゴリズム等の周知の購買検索アルゴリズム、並びに一方の画像のベクトルポイント密度の球体上で統合された他方の画像との積が最大値となる位置を発見するための最大降下(greatest descent)がある。代わりに、ガウス球の表面上のパターンは、画像及びパターンが相関を実行するためにこの平面上で互いの上をスライドできるように、平面上のパターンに展開又はマッピングされてよい。これは、例えば経度及び緯度を平面上のx軸及びy軸にマッピングすることによって、又は球体の表面からメルカルト図法においてと同じ軸を有する円筒の上に画像を投影することによって行われる場合がある。あるいは、これは、方位角及び仰角、並びに半径距離を3Dデカルト座標にマッピングすることによって行われる場合もある。あるいは、相対的な面積を保存するゴールピーターズ(Gall−Peters)正射図法を使用することによって。あるいは、https://en.wikipedia.org/wiki/List_of_map_projectionsに示される多くの他の投影を使用することによって。代わりに、球の表面上での2つのパターンを2つのスキャンから2Dフーリエ変換し、それらを同じ起点を有する同じ尺度でオーバレイし、該パターンを乗算し、それらを逆フーリエ変換することによって、重畳積分定理を利用して相関を実行することが有利である。
− 最高の一致度又は相関度が計算されるときのポイントでの3つの角度、つまりアルファ、ベータ、及びガンマ(つまり、1つ又は2つの角度しかこのようにして計算され得ないことに留意して−それぞれの回転軸の回りの角度)に留意されたい。これらの角度は、2つの画像を位置合わせするための登録ベクトルの回転部分を形成する。
計算されると、1つの角度、2つの角度、又は3つの角度が出力されてよい。これらの角度は、撮像装置の撮像被写体に対する相対的な向きの変化を示し、したがって撮像装置の回転移動を追跡するために使用され得る。
− オートエンコーダ(ディープラーニングでラーニングアルゴリズムを使用し、訓練されたオートエンコーダ人工ニューラルネットワーク)によって生成され、一次フィーチャを表すベクトル、
− オートエンコーダによって生成され、二次フィーチャ(つまり、一次フィーチャの組合せ)を表すベクトル、
− オートエンコーダによって生成され、三次フィーチャ(つまり、三次フィーチャの組合せ)を表すベクトル、
− オートエンコーダによって生成され、四次フィーチャ、五次フィーチャ、又はより上位のフィーチャ(それぞれの場合、n次フィーチャは、(n−1)次フィーチャの組合せである)を表すベクトル、
− オートエンコーダによって生成され、一次フィーチャ、二次フィーチャ、及び/又は三次フィーチャを表すベクトル、
− 面法線単位ベクトル、
− 和ベクトル、
− 発散ベクトル、
− 辺ベクトル、
− 円筒ベクトル、
− 複合オブジェクトベクトル、
− 平面ベクトル、
− ポイント密度勾配ベクトル、
− ポイント密度勾配発散ベクトル、及び
− 勾配ベクトル
S105での上述されたガウス球プロセスの代替策として、ポイントクラウドのそれぞれが、1つ以上の軸又は方向に沿って、例えば面法線単位ベクトル分布等のポイント密度又はベクトル分布の1Dヒストグラムによって表されてよい。ポイントクラウドのすべてのポイントは、線若しくは軸(1Dヒストグラム)の上に、又は平面(2Dヒストグラム)の上に投影される場合がある。いくつかの実施形態では、なんらかの選択性がポイントの部分集合を表すヒストグラムを入手するために適用されてよい。例えば、その面法線ベクトルがスキャンの垂直方向の表示にほぼ平行であるすべてのポイントのポイント密度分布の1Dヒストグラムは、例えば、室内の床及び天井等の、スキャンで水平面の場所を示すために使用できる。
ステップS106では、第2のポイントクラウドは、2つのポイントクラウドを回転アライメントするために注記された角度(複数可)分、回転される。ステップS106は任意選択である−2つのポイントクラウドを回転アライメントにするために必要とされる回転変換は、データセットの一方若しくは他方又は両方の特性として記憶、及び/又は出力される。
フローは、並進アライメント処理であるステップS107からS109に進む。並進アライメント処理に対する入力は、重複する空間を表す2つのポイントのクラウドである。
ステップS107a及びS107bで、画像はそれぞれ3本の線上に投影され、これにより各画像は3つの1次元アレイとして記録される。両方の画像とも同じ線上に投影され、これは、共通座標系を使用することによって達成されてよい。
ステップS108で、投影(投影は、この文脈では位置又はポイントの1次元アレイを意味する)の共線形対ごとに、投影間で最善の数学的な相関が示される相対位置(つまり、線に沿ったシフト量)を発見するために処理が実行される。
各線の投影間の最適の一致の相対位置を発見するための処理は、以下のように実施されてよい。
− 投影が他方の画像の投影の上を及び通り越してスライドし始めるように、一方の画像の投影を(上に画像が投影される)線に沿って徐々にスライドする。
− 3本の線又は軸の1つについて、スライドステップごとに、そのうちの1つが数学的な相関関数である、以下に示されるいくつかの方法で行われる場合がある一致を計算することによって2つの投影がどれほどよく一致するのかを計算する。これが1次元相関であり、したがって計算コストを最小限に抑えることに留意されたい。
− 3本の線又は軸の1つについて、投影間の一致の最大値を発見し、最大一致値を達成するために、(例えば)第2の画像投影が線に沿って移動しなければならなかった方向及び距離を注記する。
− 登録ベクトルの平行移動部分を形成する3つの平行移動距離(及び線に沿った方向−正又は負)を入手するために3つの軸のそれぞれについて繰り返す。
− 投影を互いの上でスライドするときに使用されるステップのサイズに応じて、追加のアライメントが必要とされる場合がある。平行移動処理は、反復最接近点、ICP、又は最小二乗アライメントアルゴリズムを使用する細かいアライメントステップを含む場合がある。収束は、レーベンバーグマルカート(LM)アルゴリズム等の誤差最小化技術を使用し、達成できる。
(それに沿って距離が計算される線を定義する情報とともに)3つの入手された平行移動距離は、マージされたポイントクラウドの代替策として又はそれに加えて出力されてよい。2つの1次元アレイの最善の一致位置を発見することは、いくつかの方法で行うことができる。例えば、
− 数学的な相関:一方の関数を他方の上で考えられるすべての相対位置に実質的にスライドし、重複がないときに、ゼロを示す平面全体で積を積分する既知の数学演算子。また、計算された積分値は、次いで別の関数として平面上で描かれる場合があり、最高のポイントが最善のアライメントを示す。
− 局所的な利得:一方の関数が他方の関数上で考えられるすべての位置にスライドされる。次いで、領域が選ばれ、2つの関数が合計され、領域内で積分され、停留関数の積分で除算されて関数の局所的な利得又は増幅を示す。2つのスキャンが同時に同じ位置から採取され、完全に位置合わせされるならば、次いで局所的な利得は一様になり、2の値をとるであろう。部分的に重複する完全に位置合わせされた関数の場合、利得は、2に近づく重複領域でより高くなり、それ以外の場所では1になる。したがって、重複領域は、閾値を1をわずかに超えて設定することによって抽出できる。目的は、重複領域全体で最も一様な局所的な利得を発見することである。局所的な利得のこの一様性は、重複領域全体での標準偏差又は局所的な利得の分散の計算によって発見できる。2つの関数のすべての相対位置の全数検索は別として、一様性の分散等の関数を最小限に抑えるためには、焼き鈍し法、遺伝アルゴリズム、直接勾配探索等の多くの周知の検索方法がある。
− ポテンシャルエネルギー:2つの関数が表面上に3Dで描かれ、それぞれ硬質固体表面シートによって表される。ついで、一方の関数が他方の上で考えられるすべての相対位置にスライドされる。一方の関数を他方の上で動かすために、一方の関数の最低のポイントは、他方の関数の最高のポイントの上でスライドしなければならない。一方の関数が停留関数であること、及びポテンシャルエネルギーを発見するために停留関数上に置かれるときに他の関数の平均高さを計算すると仮定しよう。目的は、ポテンシャルエネルギーを最小限に抑えることである。2つの関数のすべての相対位置の全数検索は別として、例えばポテンシャルエネルギー等の関数を最小限に抑えるためには、焼き鈍し法、遺伝アルゴリズム、直接勾配検索等の多くの周知の検索方法がある。この演算を繰り返すのをいったん完了するが、2つの関数をスワップすることは有利である。この理由は、誰かが一方のスキャンで室内に入ったが、他方のスキャンでは入らなかった場合、人は、それらが、上方のスキャンにある場合十分に近づくのを遮るであろうため、2つのスキャンは、位置合わせされたとき低いポテンシャルエネルギーを有さないであろう。しかしながら、いったんスワップされると、人はポテンシャルエネルギーに影響を与えない。したがって、2つのスワップ間の最低のポテンシャルエネルギーが、代替位置として選ばれる。
− 最小二乗又はICP:これらの既知の方法のいずれも、任意選択で数学的な相関、局所的な利得、又はポテンシャルエネルギーによる粗いアライメントの後に、使用できる。
ステップS109で、ポイントの2つのクラウドは、第2の画像を選択された3本の線に沿ってシフトすることによって並進アライメントされる。ポイントのクラウドはいま回転アライメント及び並進アライメントにあるため、単一のマージされたポイントクラウドであると考えられる場合がある。マージされたポイントのクラウドは、例えば関係者若しくはそこから画像が入手された装置に、又は記憶部に出力される場合がある。ポイントのクラウドは、同じ座標系に画定された別々のクラウドとして、又は(単一の座標系における)単一のポイントクラウドとして出力される場合がある。元の第1の画像及び第2の画像のどちらか又は両方について撮像された空間と重複する空間の新しい画像は入手され、ステップ102〜S106又はS109の回転アライメント及び/又は並進アライメント処理を受ける場合があり、元の2つの画像からのマージされたポイントクラウドは、新しい画像がマージされる画像であるか、又はアライメント処理に続く画像の座標系に画定された画像空間という点で新しい画像と重複する元の2つの画像のうちの個別の1つであるかのどちらかである。このようにして付加できる新しい画像の数に制限はない。
任意選択のチェックステップは、実施形態の装置又はプロセスと位置合わせされたスキャンの任意の対に対して実行されてよい。スキャナ場所が各3Dデータセットとともにメタデータとして記憶される場合、又はスキャナ場所が3Dデータセットから引き出せる場合、スキャナ場所は、個々の3Dデータセットの互いとのアライメントにおいて疑陽性(アルゴリズムの第1の部分が、チェック前に、これを正しく位置合わせされているとして記録する場合があるが、実際には正しくないアライメント)を識別するために使用される場合がある。例えば、マージに続いて、マージされた3Dポイントクラウドが、第2の3Dデータセットの測定値と第2の3Dデータセットのスキャナ場所との間の視線内にある第1の3Dデータセットからの測定値(つまり、ポイント)を表す場合、次いで、それは第1の3Dデータセット及び第2の3Dデータセットの対形成が正しくない旨の表示として解釈される場合がある。このプロセスは、「レイトレーシング」と呼ばれる場合がある。これは、アライメントが訂正されるかどうかをチェックするために、90度、180度、及び270度、例えば垂直軸等の軸の回りで、ならびに任意選択で180度、水平軸の回りでもスキャンの1つを回転させることによって訂正されてよい。係る修正の回転は、スキャンが、対称的なフィーチャを示す建物又は他の被写体を表す実施態様で特に役立つ場合がある。
距離:基準スキャンは、被写体スキャンからなんらかの定められた最大距離の範囲内になければならない。例えば、15メートルの半径の範囲内。
重複:各基準は、例えば少なくとも10%の、被写体スキャンとの十分な重複を有さなければならない。重複は、互いからのなんらかの閾値距離の範囲内にある、ポイント総数に対するポイント対の数として計算される。追加の制約は、面法線方向、読取り値、表面曲率、表面粗度、又は面法線の発散等を一致させることを含む。
図5は、例えば、本発明を実施し、実施形態のいずれかの方法を実施するために使用され得る、サーバ等のコンピューティングデバイスのブロック図である。特に、図5のコンピューティングデバイスは、3D画像取得部12、記憶部14、回転アライメントプロセッサ16、及び並進アライメントプロセッサ18の中からの1つ以上のハードウェア構成であってよい。図5のコンピューティングデバイスは、図4及び図6〜図14のいずれかの方法を実施するために使用されてよい。
ポイントクラウド生成プロセッサ
第1のデータセット及び第2のデータセットのそれぞれがポイントクラウドである場合もあれば、なんらかの他の形のスキャンデータである場合もある。データ取得部は、第1のデータセット及び第2のデータセットをデータファイルとして入手し、物理的な測定値をスキャンデータのデータセットに変換するためのハードウェアを含んでもよい。すなわち、データセット取得部は、物理的な測定値をデータセットに変換するための撮像装置を含んでよい。代わりに、データセット取得部は、例えばネットワーク又は他のなんらかの形のデータ接続上で、それぞれの撮像装置から第1のデータセット及び第2のデータセットを受け取るよう作動する。撮像装置は、他の実施形態に関して本書の他の箇所で詳説される撮像装置の例のいずれかであってよい。
− 第1のデータセット及び第2のデータセットを.xyzフォーマットに変換すること、
− ポイント密度を一様にするための空間サンプリング
−
− 撮像装置が高さ、コンパス方位、高度についての情報を記録した場合、次いで共通3次元座標系の中にそれぞれのデータセットを配置するためにこの情報を使用すること、
− データセットに適切な表現を選択し、実施する、
− 撮像装置が遠い目標物と同じ視線内の近傍の目標物の端縁を調べるときに一般的に発生する、3D空間内で浮遊する、アーチファクト、つまりそうでなければ分離されたポイントのクラスタを削除することによってデータセットをフィルタにかけ、クリーニングする、
− 例えば人及び家具等の不必要なオブジェクトを削除することによってスキャンをフィルタにかけ、クリーニングする、
− レンジフィルタリングを適用することによってスキャンをフィルタにかけ、クリーニングする、
− 端縁、平面、円筒、球体、及び他の形状が認識され、それらと関連付けられたポイントが追加の処理のために保存されるが、残りは削除される非線形フィルタが適用される場合がある。この機能を達成するための既知のアルゴリズム及び新規のアルゴリズムのリストは、付録Aに示される。係る複雑なフィーチャの選択は3Dシーンに依存するため、建物の場合、端縁及び平面が役に立つ場合がある。撮像装置に雑音が多く、シーンが特定の複雑なフィーチャを含むことが既知である場合、雑音に起因するポイントの散乱を削減するために既知の形状を適合させることによって、それらの複雑なフィーチャを発見することが有益である場合がある。次いで、ポイントは、最近傍の面法線に沿って複雑なフィーチャの上に投影される場合がある。
− ステップS203で、回転軸が投影線に沿って決定され、回転アライメント処理が始まる。ステップS203〜S210の回転アライメント処理は、その回りでアライメント角度が求められる回転軸ごとに繰り返される。ステップS203〜S210の回転アライメント処理は、並列処理として2つ又は3つの軸のそれぞれに実行されてよい。処理手順の観点からは、3つすべての角度は、すべての投影線に沿って相関を同時に最大にするためのなんらかの最適化技術を使用し、ともに変更される場合がある。1つの方法は、粗角度を用い、次いですべての線に沿って最高の相関を示す角度に注目し、次いで細かい検索を行うことによってパラメータ空間を検索することである。最適化技術は、傾斜降下、焼き鈍し法、遺伝アルゴリズム、又はレーベンバーグマルカートを含む。
Claims (38)
- 装置であって、
第1のときの第1の空間の第1の3Dデータセットであって、三次元での第1のポイントクラウドであり、前記第1のポイントクラウドの各ポイントが撮像装置による前記第1の空間の中の測定値を表す前記第1の3Dデータセットを、第1の位置及び向きの前記撮像装置から入手し、
第2のときの第2の空間の第2の3Dデータセットであって、前記第2の空間が前記第1の空間と重複し、前記第2の3Dデータセットが三次元での第2のポイントクラウドであり、前記第2のポイントクラウドの各ポイントが、前記撮像装置による前記第2の空間の中の測定値を表す前記第2の3Dデータセットを、第2の位置及び向きの前記撮像装置から入手する
ように構成された3Dデータセット取得部と、
前記第1の3Dデータセット及び前記第2の3Dデータセットを、それぞれのポイントのクラウドとして共通座標系に記憶するように構成された記憶部と、
ベクトルの第1の集合の各要素又はベクトルの第2の集合の各要素が、前記それぞれのポイント及び近傍ポイントを表す、前記記憶されている第1のポイントクラウドをベクトルの前記第1の集合に変換し、前記記憶されている第2のポイントクラウドをベクトルの前記第2の集合に変換し、
前記共通座標系で画定された3つの回転軸の1つ以上でベクトルの前記第2の集合の前記第1の集合に対するどの回転角度で、ベクトルの前記第1の集合の前記角度分布とベクトルの前記第2の集合の角度分布との最大一致度が得られるのかを発見し、
前記計算された一致度が最大となる前記1つの回転軸若しくは複数の回転軸のそれぞれの回りでの前記回転角度を出力する、又は
前記共通座標系での前記それぞれの1つ以上の回転軸の回りで前記記憶された回転角度分、前記第2のポイントクラウドを回転させ、前記共通座標系で前記回転した第2のポイントクラウドを出力する
ように構成される回転アライメントプロセッサと、
を備える、装置。 - 前記装置が、
3本以上の線の中からの線の各対が平行ではなく、前記3本以上の線の中からの線の少なくとも1つの対が同一平面上ではない、前記共通座標系の前記3本以上の線のそれぞれに対して、
前記第1のポイントクラウドの中の各ポイントの前記線の上への投影の、任意の起点に対する前記位置を記録し、
前記記録された位置を第1の1次元アレイとして記憶する、及び/又は前記第1の1次元アレイとして前記それぞれの記録された位置での各ポイントの1つ以上の特性又は測定値を記憶し、
前記第2のポイントクラウドの中の各ポイントの前記線上への前記投影の、前記任意の起点に対する前記位置を記録し、
前記記録された位置を第2の1次元アレイとして記憶する、及び/又は前記第2の1次元アレイとして前記それぞれの記録された位置での各ポイントの1つ以上の特性又は測定値を記憶し、
前記第1の1次元アレイと前記第2の1次元アレイとの最大一致度が計算される、前記第1の1次元アレイに対する前記第2の1次元アレイの前記線に沿った平行移動を発見し、前記最大の一致度が計算される前記平行移動を記録し、
前記回転された第2のポイントクラウドが、前記それぞれの記録された平行移動により、前記共通座標系の前記3本以上の線のそれぞれに沿って並進される、前記共通座標系のマージされたポイントクラウドとしての前記第1のポイントクラウド及び前記回転された第2のポイントクラウド、並びに/又は
前記3本の線、及び前記3本以上の線のそれぞれに沿った記録された平行移動のベクトル表示、並びに前記3つの回転軸及び前記及びそれぞれの記憶されている回転角度のベクトル表示、並びに/又は
前記それぞれの記録された平行移動により前記共通座標系の前記3本以上の線のそれぞれに沿って並進された前記回転された第2のポイントクラウドのどちらかを出力する
ように構成された並進アライメントプロセッサ
をさらに備える、請求項1に記載の装置。 - 前記装置が、
線が平面に対してある角度をなす、又は垂直である、前記共通座標系の前記線及び前記平面に対して、
前記第1のポイントクラウドの中の各ポイントの前記線の上への投影の、任意の起点に対する前記位置を記録し、前記記録された位置を第1の1次元アレイとして記憶する、及び/又は前記それぞれの記録された位置での各ポイントの1つ以上の特性又は測定値を前記第1の1次元アレイとして記憶し、
前記第1のポイントクラウドの中の各ポイントの前記平面の上への投影の、任意の基点に対する前記位置を記録し、前記記録された位置を第1の2次元アレイとして記憶する、及び/又は前記それぞれの記録された位置での各ポイントの1つ以上の特性又は測定値を前記第1の2次元アレイとして記憶し、
前記回転された第2のポイントクラウドの中の各ポイントの前記線の上への前記投影の、前記任意の基点に対する前記位置を記録し、前記記録された位置を第2の1次元アレイとして記憶する、及び/又は前記それぞれの記録された位置での各ポイントの1つ以上の特性又は測定値を前記第2の1次元アレイとして記憶し、
前記回転された第2のポイントクラウドの中の各ポイントの前記平面の上への投影の、任意の基点に対する前記位置を記録し、前記記録された位置を第2の2次元アレイとして記憶する、及び/又前記それぞれの記録された位置での各ポイントの1つ以上の特性又は測定値をは前記第2の2次元アレイとして記憶し、
前記第1の1次元アレイと前記第2の1次元アレイとの最大一致度が計算される、前記第1の1次元アレイに対する前記第2の1次元アレイの前記線に沿った平行移動を発見し、前記最大の一致度が計算される前記平行移動を記録し、
前記第1の2次元アレイと前記第2の2次元アレイとの最大一致度が計算される、前記第1の2次元アレイに対する前記第2の2次元アレイの、前記平面内での平行移動を発見し、前記前記平行移動を記録し、
前記回転された第2のポイントクラウドが、前記それぞれの記録された平行移動により、前記共通座標系の前記線に沿って及び前記平面内で並進される、前記共通座標系のマージされたポイントクラウドとしての前記第1のポイントクラウド及び前記回転された第2のポイントクラウド、並びに/又は
前記線に沿った及び前記平面内の前記記録された平行移動のベクトル表示、並びに前記3つの回転軸及び前記及び前記それぞれの記憶されている回転角度のベクトル表示、並びに/又は
前記それぞれの記録された平行移動により前記共通座標系の前記線に沿って及び前記平面内で並進された前記回転された第2のポイントクラウド
のいずれかを出力する
ように構成された並進アライメントプロセッサ
をさらに含む、請求項1に記載の装置。 - 3Dパターンマッチングアルゴリズムが、前記アルゴリズムによって識別可能なフィーチャのインスタンスを記述するポイントの集合を認識して、ポイントの前記集合の前記要素に前記それぞれの識別されたフィーチャのインスタンスの要素としてラベルを付けるために前記第1のポイントクラウド及び前記第2のポイントクラウドで実行され、前記ラベルが前記ラベルが付けられたポイントの特性であり、
前記第1の1次元アレイと第2の1次元アレイの間の、及び/又は前記第1の2次元アレイと前記第2の2次元アレイの間の最大一致度を発見する際に、前記同じフィーチャのインスタンスの一致度がフィーチャ単位で計算され、前記一致度が、前記それぞれのフィーチャのインスタンスの要素としてラベルを付けられた、ラベル付けポイントの前記数に従って重みを付けられた前記フィーチャ単位の一致度の重み付けされた組合せである、
請求項2又は3に記載の装置。 - 前記第1の3Dデータセット及び前記第2の3Dデータセットの一方又は両方がそこから入手される前記撮像装置が、ライダスキャナ又はソナースキャナのどちらかである、
請求項1から4のいずれかに記載の装置。 - 前記第1の3Dデータセット及び前記第2の3Dデータセットの一方又は両方がそこから入手される前記撮像装置が、地面の中に挿入された電気抵抗トモグラフィスキャナであり、前記撮像空間が前記地面の下方である、又は
前記第1の3Dデータセット及び前記第2の3Dデータセットの一方又は両方がそこから入手される前記撮像装置が、被験動物の皮膚上での配置のための電極を備えた電気インピーダンストモグラフィスキャナであり、前記撮像空間が前記被験動物の内部である、
前記請求項のいずれかに記載の装置。 - 前記第1の3Dデータセット及び前記第2の3Dデータセットの一方又は両方がそこから入手される前記撮像装置が、MRIスキャナ又は核四重極共鳴を検出するスキャナであり、撮像空間が被験動物の内部である、
前記請求項のいずれかに記載の装置。 - 前記3Dデータセット取得部が、雑音除去プロセッサを備え、前記第1の3Dデータセットを入手すること、及び前記第2の3Dデータセットを入手することが、前記雑音除去プロセッサが、前記第1のポイントクラウドに対して雑音除去アルゴリズムを実行し、前記第2のポイントクラウドに対して前記雑音除去アルゴリズムを実行することを含む、
前記請求項のいずれかに記載の装置。 - ベクトルの前記第1の集合の前記ベクトルが面法線ベクトルであり、前記第2の集合の前記ベクトルが面法線単位ベクトルであり、
前記第1のポイントクラウドを面法線ベクトルの第1の集合に変換すること、及び前記第2のポイントクラウドを面法線ベクトルの第2の集合に変換することが、個別にポイントクラウドごとに、問合せポイントとしての前記それぞれのポイントクラウドの各ポイントに対して、近傍ポイントの集合を選択し、前記近傍ポイントの集合及び前記問合せポイントの共分散行列を計算し、前記共分散行列を解いて、前記共分散行列に前記3つの固有値及び3つの固有ベクトルを発見し、最小固有値を有する前記固有ベクトルを決定し、前記固有ベクトルを所定の単位長さに正規化し、前記正規化された単位ベクトルを法線ベクトルの前記それぞれの第1の集合又は第2の集合に追加することによって面法線ベクトルの前記第1の集合を生成すること、及び面法線ベクトルの前記第2の集合を生成することを含む、
前記請求項のいずれかに記載の装置。 - 前記問合せポイントに対して近傍ポイントの前記集合を選択することが、起点が前記問合せポイントと一致した所定の半径の球体の中の前記ポイントのそれぞれを選択すること、又は前記問合せポイントにN個の最近傍のポイントを選択することのどちらかを含み、
前記第1のポイントクラウドを面法線単位ベクトルの第1の集合に変換すること、及び/又は前記第2のポイントクラウドを面法線ベクトルの第2の集合に変換することが、
面法線単位ベクトルの前記それぞれの集合を法線単位ベクトルの基準集合として記憶することと、
最小半径に達するまで、前記球体の半径が漸次的に小さくなる状態で面法線単位ベクトルの前記それぞれの集合を前記生成することを繰り返し、その最小半径に達したポイントで前記繰り返すことが終了され、面法線単位ベクトルの前記基準集合が面法線単位ベクトルの前記それぞれの集合として設定されることと、各繰り返し時、
前記繰り返しで生成された面法線単位ベクトルの前記それぞれの集合が面法線単位ベクトルの前記基準集合と一致する信頼度を決定することと、
前記決定された信頼度が所定の基準を満たす場合、面法線単位ベクトルの前記基準集合を、面法線単位ベクトルの前記それぞれの集合として設定し、前記変換することを終了することと、
前記決定された信頼度が前記所定の基準を満たさない場合、面法線単位ベクトルの前記記憶された基準集合を前記繰り返しで生成された面法線単位ベクトルの前記それぞれの集合で置換し、前記繰り返すことを続行することと
を含む、請求項9に記載の装置。 - ベクトルの前記第1の集合の前記ベクトルが和ベクトルであり、前記第2の集合の前記ベクトルが和ベクトルであり、
前記第1のポイントクラウドを和ベクトルの第1の集合に変換すること、及び前記第2のポイントクラウドを和ベクトルの第2の集合に変換することが、
個別にポイントクラウドごとに、問合せポイントとして前記それぞれのポイントクラウドの各ポイントに対して、前記問合せポイントの回りに所定の半径の検索半径球体を形成すること、又は最近傍ポイントの指定数を発見すること、前記検索半径球体の中の、若しくは前記近傍の中の前記問合せポイントから他のすべてのポイントへのベクトルを計算すること、前記計算されたベクトルを合計して、前記和ベクトルを入手することを含む、
請求項1から8のいずれかに記載の装置。 - ベクトルの前記第1の集合の各要素及びベクトルの前記第2の集合の各要素が前記それぞれのポイント及び近傍ポイントを表す、前記記憶されている第1のポイントクラウドをベクトルの第1の集合に変換すること、及び前記記憶されている第2のポイントクラウドをベクトルの第2の集合に変換することが、前記記憶されている第1のポイントクラウド及び第2のポイントクラウドで、又は前記ポイントクラウドを表すベクトルの集合でオートエンコーダを実行することを含み、
前記オートエンコーダが、前記それぞれのポイントクラウドの前記ポイント密度の、又は前記それぞれのポイントクラウドの前記ポイント及び近傍ポイントでの前記測定値での端縁及び勾配を含む前記3D空間の中の一次フィーチャ、一次フィーチャの組合せである二次フィーチャ、及び任意選択で、二次フィーチャの組合せである三次フィーチャも抽出するための教師なしディープラーニングアルゴリズムであり、
前記抽出されたフィーチャが、前記ベクトルの位置、向き、及び大きさが、前記抽出されたフィーチャの位置、向き、及び1つ又は複数の寸法によって決定される対応するベクトルによって表される、
請求項1から11のいずれかに記載の装置。 - ベクトルの前記第1の集合の前記ベクトル及びベクトルの前記第2の集合の前記ベクトルが、それぞれベクトルの複数の部分集合を備え、前記複数の部分集合の中の各部分集合が、前記それぞれのポイントクラウドを特定のタイプのベクトルとして表し、前記特定のタイプが、前記他の部分集合のタイプとは異なり、
前記特定のタイプが、
− 請求項12に記載の前記オートエンコーダによって生成され、一次フィーチャを表すベクトルと、
− 請求項12に記載の前記オートエンコーダによって生成され、二次フィーチャを表すベクトルと、
− 請求項12に記載の前記オートエンコーダによって生成され、三次フィーチャを表すベクトルと、
− 請求項12に記載の前記オートエンコーダによって生成され、一次フィーチャ、二次フィーチャ、及び/又は三次フィーチャを表すベクトルと、
− 面法線単位ベクトル、
− 和ベクトル、
− 発散ベクトル、
− 辺ベクトル、
− 円筒ベクトル、
− 複合オブジェクトベクトル、
− 平面ベクトル、
− ポイント密度勾配ベクトル、
− ポイント密度勾配発散ベクトル、及び
− 勾配ベクトル
の中から1つ以上を含み、
前記最大一致度を発見する際に、
ベクトルの前記第1の集合の前記角度分布とベクトル前記第2の集合の前記角度分布との間で、及び/又は
前記第1の1次元アレイと前記第2の1次元アレイとの間で、及び/又は
前記第1の2次元アレイと前記第2の2次元アレイとの間で、
前記同じ特定のタイプのベクトルの部分集合間の一致度がタイプ毎に計算され、任意の平行移動又は回転角度での前記一致度が、前記それぞれの特定のタイプの前記一致度の組合せであり、前記組合せが平均又は加重平均である、
請求項1から12のいずれかに記載の装置。 - 前記共通座標系で画定された3つの回転軸のうちの1つ以上でベクトルの前記第2の集合の前記第1の集合に対するどの回転角度で、ベクトルの前記第1の集合の前記角度分布とベクトルの前記第2の集合の角度分布との最大一致度が得られるのかを発見することが、
ベクトルの前記第1の集合及び第2の集合の前記ベクトルに共通基点を帰することと、
前記共通基点を中心とした概念的な球体を表面領域又はボリューム領域に分割することと、
前記共通座標系に画定された前記3つの回転軸のうちの前記1つ以上のそれぞれでベクトルの前記第2の集合の前記第1の集合に対する回転のどの角度で、ベクトルの前記第1の集合からのベクトルの前記ベクトルポイント分布と、前記表面領域又はボリューム領域の中のベクトルの前記第2の集合からのベクトルの前記ベクトルポイント分布との最善の一致が得られるのかを発見することと、
を含む、前記請求項のいずれかに記載の装置。 - 前記回転アライメントプロセッサが、ベクトルの前記第1の集合と前記第2の集合の前記角度分布間で前記最善の一致を発見する前に、
両方の集合で、テンプレート形状の1つを表す面法線単位ベクトルを認識し、前記それぞれの集合から、前記テンプレート形状の1つを表すとして認識されていない面法線単位ベクトルを削除することによってベクトルの前記第1の集合及び第2の集合をフィルタにかけるようにさらに構成される、
請求項1から14のいずれかに記載の装置。 - 前記認識することが、それぞれ面法線単位ベクトルの前記第1の集合上で、及び面法線単位ベクトルの前記第2の集合上でセグメント化アルゴリズムを実行することによって実施される、
請求項8又は15に記載の装置。 - システムであって、
第1の3Dデータセットであって、第1のときの第1の空間の前記第1の3Dデータセットを、第1の位置及び向きで生成するように構成された第1の撮像装置と、
第2の3Dデータセットであって、第2のときの第2の空間の前記第2の3Dデータセットを、第2の位置及び向きで生成するように構成された第2の撮像装置であって、前記第2の空間及び前記第1の空間が重複し、前記第2の撮像装置が前記第1の撮像装置であり、前記第2のときが前記第1のときとは異なる、又は前記第2の撮像装置が前記第1の撮像装置とは異なるのどちらかである、第2の撮像装置と、
前記第1の3Dデータセットであって、三次元での第1のポイントクラウドであり、前記第1のポイントクラウドの各ポイントが前記撮像装置による前記第1の空間の中の測定値を表す前記第1の3Dデータセットを前記第1の撮像装置から入手し、
前記第2の3Dデータセットであって、三次元での第2のポイントクラウドであり、前記第2のポイントクラウドの各ポイントが、前記撮像装置による前記第2の空間の中の測定値を表す前記第2の3Dデータセットを前記第2の撮像装置から入手する
ように構成された3Dデータ取得部と、
前記第1の3Dデータセット及び前記第2の3Dデータセットを、それぞれのポイントのクラウドとして共通座標系に記憶するように構成された記憶部と、
ベクトルの第1の集合の各要素又はベクトルの第2の集合の各要素が、前記それぞれのポイント及び近傍ポイントを表す、前記記憶されている第1のポイントクラウドをベクトルの前記第1の集合に変換し、前記記憶されている第2のポイントクラウドをベクトルの前記第2の集合に変換し、
前記共通座標系で画定された3つの回転軸の1つ以上でベクトルの前記第2の集合の前記第1の集合に対するどの回転角度で、ベクトルの前記第1の集合の前記角度分布とベクトルの前記第2の集合の角度分布との最大一致度が得られるのかを発見し、
前記計算された一致度が最大となる前記1つの回転軸若しくは複数の回転軸のそれぞれの回りでの前記回転角度を出力する、又は
前記共通座標系での前記それぞれの1つ以上の回転軸の回りでの前記記憶された回転角度分、前記第2のポイントクラウドを回転させ、前記共通座標系で前記回転した第2のポイントクラウドを出力する
ように構成される回転アライメントプロセッサと、
を備える、システム。 - 方法であって、
第1のときの第1の空間の第1の3Dデータセットであって、三次元での第1のポイントクラウドであり、前記第1のポイントクラウドの各ポイントが撮像装置による前記第1の空間の中の測定値を表す前記第1の3Dデータセットを入手することと、
第2のときの第2の空間の第2の3Dデータセットであって、前記第2の空間及び前記第1の空間が重複し、三次元での第2のポイントクラウドであり、前記第2のポイントクラウドの各ポイントが、撮像装置による前記第2の空間の中の測定値を表す前記第2の3Dデータセットを入手することと、
前記第1の3Dデータセット及び前記第2の3Dデータセットを、それぞれのポイントのクラウドとして共通座標系に記憶することと、
ベクトルの第1の集合の各要素又はベクトルの第2の集合の各要素が、前記それぞれのポイント及び近傍ポイントを表す、前記記憶されている第1のポイントクラウドをベクトルの前記第1の集合に変換し、前記記憶されている第2のポイントクラウドをベクトルの前記第2の集合に変換することと、
前記共通座標系で画定された3つの回転軸の1つ以上でベクトルの前記第2の集合の前記第1の集合に対するどの回転角度で、ベクトルの前記第1の集合の前記角度分布とベクトルの前記第2の集合の角度分布との最大一致度が得られるのかを発見することと、
前記計算された一致度が最大となる前記1つの回転軸若しくは複数の回転軸のそれぞれの回りでの前記回転角度を記憶することと、又は
前記共通座標系での前記それぞれの1つ以上の回転軸の回りでの前記記憶された回転角度分、前記第2のポイントクラウドを回転させ、前記共通座標系で前記回転した第2のポイントクラウドを出力することと、
を含む方法。 - 前記出力することが、前記回転された第2のポイントクラウド及び共通座標系に画定された前記記憶されている第1のポイントクラウド及び/又は1つ以上の記憶された回転角度を有するそのそれぞれの座標系での前記第1の及び第2のポイントクラウドを出力することを含む、
請求項18に記載の方法。 - 3本以上の線の中からの線の各対が平行ではなく、前記3本以上の線の中からの線の少なくとも1つの対が同一平面上ではない、前記共通座標系の前記3本以上の線のそれぞれに対して、
前記第1のポイントクラウドの中の各ポイントの前記線の上への投影の、任意の起点に対する前記位置を記録することと、
前記記録された位置を第1の1次元アレイとして記憶する、及び/又は前記それぞれの記録された位置での各ポイントの1つ以上の特性又は測定値を前記第1の1次元アレイとして記憶することと、
前記回転された第2のポイントクラウドの中の各ポイントの前記線上への前記投影の、前記任意の起点に対する前記位置を記録することと、
前記記録された位置を第2の1次元アレイとして記憶する、及び/又は前記それぞれの記録された位置での各ポイントの1つ以上の特性又は測定値を前記第2の1次元アレイとして記憶することと、
前記第1の1Dアレイと前記第2の1Dアレイとの最大一致度が計算される、前記第1の1次元アレイに対する前記第2の1次元アレイの前記線に沿った平行移動を発見し、前記最大の一致度が計算される前記平行移動を記録することと、
前記回転された第2のポイントクラウドが、前記それぞれの記録された平行移動により、前記共通座標系の前記3本以上の線のそれぞれに沿って並進される、前記共通座標系のマージされたポイントクラウドとしての前記第1のポイントクラウド及び前記回転された第2のポイントクラウド、並びに/又は
前記3本以上の線、及び前記3本以上の線のそれぞれに沿った記録された平行移動のベクトル表示、並びに前記3つの回転軸及び前記及びそれぞれの記憶されている回転角度のベクトル表示、並びに/又は
前記それぞれの記録された平行移動により前記共通座標系の前記3本以上の線のそれぞれに沿って並進された前記回転された第2のポイントクラウド
のどちらかを出力することと
を含む、並進アライメントプロセス
をさらに含む、請求項18又は19に記載の方法。 - 方法であって、
被写体のそれぞれの部分を表す複数の個々の3Dデータセットを入手することであって、前記複数の個々の3Dデータセットの間での前記並進及び回転の関係が未知である、入手することと、
前記複数の個々の3Dデータセットの間の1対の個々の3Dデータセットの組合せごとに、
請求項18に記載の前記方法の前記記憶するステップ、変換するステップ、発見するステップ、及び記憶するステップ、並びに前記それぞれの1つ以上の回転軸の回りの前記回転角度に加えて、ベクトルの前記第1の集合の前記角度分散とベクトルの前記第2の集合の前記角度分散との間の前記対応する最大一致度の前記大きさを記憶することを実行することと、
前記複数の個々の3Dデータセットの間の個々の3Dデータセットごとに、
前記個々の3Dデータセットを前記対の要素として含むすべての対のうち、前記記憶されている最大一致度が最大である前記対、及び任意選択で前記記憶されている最大一致度が前記最大の定められた範囲内にある任意の対を識別し、前記識別された対又は各識別された対に対して請求項20に記載の前記並進アライメントプロセスを実行することと、
前記第1の及び第2の3Dデータセットとして前記識別された対又は各識別された対で請求項18に記載の前記入手するステップを実行し、前記対について記憶された前記それぞれの1つ以上の回転軸の回りの前記回転角度で前記識別された対に対して請求項18に記載の前記回転させるステップを実行し、前記回転された第2のポイントクラウドが、請求項20に記載の前記並進アライメントプロセスから前記それぞれの記録された平行移動によって前記共通座標系の前記3本以上の線のそれぞれに沿って並進され、それによって前記対の間の固定された回転及び並進関係を有する個々の3Dデータセットの前記対の対ポイントクラウド表現を入手することと、
を含む、請求項18に記載の前記方法を実行することと
前記対ポイントクラウド表現のうちの2つ以上に出現する前記同じ個々の3Dデータセットのインスタンスを同一場所に配置することによって、前記対の前記対ポイントクラウド表現を単一のポイントクラウドにマージすることを含む、方法。 - 請求項18から21のいずれかに記載の前記方法により入手される共通座標系に画定された1対のポイントクラウド。
- 装置であって、
第1のときの関心のある被写体の第1の部分を表す第1のデータセットであって、n次元スキャンデータである前記第1のデータセットを入手し、
第2のときの関心のある前記被験者の第2の部分を表す第2のデータセットであって、m次元スキャンデータセットである前記第2のデータセットを入手し、
前記入手されたデータセットの示された1つ以上の軸回転アライメントがその回りで要求される、三次元座標系の1つ以上の軸の表示を入手する
ように構成されたデータ取得部であって、
前記第1の部分及び前記第2の部分が重複するフィーチャを備え、m及びnのそれぞれが2又は3に等しい、データ取得部と、
前記第1のデータセットを表す第1のポイントクラウド及び前記第2のデータセットを表す第2のポイントクラウドを生成し、記憶するように構成されたポイントクラウド生成プロセッサであって、前記第1のポイントクラウド及び第2のポイントクラウドが前記三次元座標系で画定される、ポイントクラウド生成プロセッサと、
前記軸の回りで、又は各軸の角度の組合せの回りで前記ポイントクラウドの一方を他方に対して反復して回転させ、前記三次元座標系の1本以上の特定の線のそれぞれに対して、各反復時、
前記第1のポイントクラウド及び第2のポイントクラウドを前記線上に投影し、
前記2つの投影の間の最大相関を発見するために前記線に沿って互いに対して前記投影を移動させ、
前記最大相関を記録し
上限の最大相関が記録される前記ポイントクラウドの前記一方の回転角度若しくは回転角度の組合せを識別し、
前記識別された回転角度を前記第1の記憶されたポイントクラウド及び第2の記憶されたポイントクラウドの前記それぞれの示された軸の回りの回転アライメントの前記角度として出力する、又は前記第1の記憶されたポイントクラウド及び第2の記憶されたポイントクラウドの前記それぞれの示された軸の回りの回転角度の前記組合せを出力する
ように構成されるアライメントプロセッサと、
を備える、装置。 - 前記アライメントプロセッサが、前記示された1つ以上の前記軸又は各軸について、前記それぞれの識別された回転角度分、前記ポイントクラウドの前記一方を他方に対して回転させることによって前記記憶されている第1のポイントクラウド及び第2のポイントクラウドを修正し、前記修正された第1のポイントクラウド及び第2のポイントクラウドを回転で位置合わせされたポイントクラウドとして記憶するようにさらに構成される、
請求項23に記載の装置。 - 前記アライメントプロセッサが、
各反復時、前記2つの投影の間で前記最大相関が発見される前記1本又は複数の線に沿って前記投影の平行移動を記録し、
前記示された1つ以上の前記軸又は各軸について、上限の最大相関が記録される前記識別された回転角度について記録された前記平行移動を識別し、前記識別された平行移動の量及び方向分、前記それぞれの特定の1本又は複数の線に沿って、前記ポンとクラウドを互いに対して移動させることによって前記記憶されている第1の及び第2のポイントクラウドを修正し、
前記修正された第1のポイントクラウド及び第2のポイントクラウドを単一のマージされたポイントクラウドとして記憶する
ようにさらに構成される、
請求項24に記載の装置。 - 前記アライメントプロセッサが、
各反復時、前記2つの投影の間で前記最大相関が発見される前記1本又は複数の線に沿って前記投影の平行移動を記録し、
前記示された1つ以上の前記軸又は各軸について、上限の最大相関が記録される前記識別された回転角度について記録された前記平行移動を識別し、
前記示された1つ以上の軸のそれぞれについて前記平行移動を出力する
ようにさらに構成される、
請求項25に記載の装置。 - 前記2つの投影の間で最大相関を発見することが、各投影を1次元ポイント密度分布として表し、前記2つの1次元ポイント密度分布の間の相関を反復して計算することであって、前記1次元ポイント密度分布の一方が各反復時に他方に対して前記1本又は複数の線に沿って移動する、計算することと、前記1本又は複数の線に沿った一連の移動の間の最大相関を識別することとを含む、
請求項23から26のいずれかに記載の装置。 - 前記2つの投影の間で最大相関を発見することが、
前記線を定められた長さの隣接する一連の別個のビンに分割することと、各投影に対して前記一連の別個のビンのそれぞれの中の前記投影のポイント数を計算することであって、各ビンの前記ポイント数が前記1次元ポイント密度分布である、計算すること
を含み、
ビン間の前記分割が一致するまで、前記1次元の一方が、他方に対して前記線に沿って各反復時に移動し、前記相関が、ビン内の一方の投影からの前記ポイント数及び前記一致するビン内の前記他方の投影からの前記ポイント数の前記積の、一連の別個のビン全体での和である、
請求項27に記載の装置。 - 方法であって、
第1のときの関心のある被写体の第1の部分を表す第1のデータセットであって、n次元スキャンデータセットである前記第1のデータセットを入手することと、
第2のときの関心のある前記被験者の第2の部分を表す第2のデータセットであって、m次元スキャンデータセットである前記第2のデータセットを入手することと、
示された1つ以上の軸の回りで前記入手されたデータセットの回転アライメントが要求される、三次元座標系の1つ以上の軸の表示を入手することであって、
前記第1の部分及び前記第2の部分が重複するフィーチャを備え、m及びnのそれぞれが2又は3に等しい、入手することと、
前記第1のデータセットを表す第1のポイントクラウド及び前記第2のデータセットを表す第2のポイントクラウドを生成し、記憶することであって、前記第1のポイントクラウド及び第2のポイントクラウドが前記三次元座標で画定される、生成し、記憶することと、
前記軸の回りで、又は各軸の角度の組合せの回りで前記ポイントクラウドの一方を他方に対して反復して回転させ、前記三次元座標系の1本以上の特定の線のそれぞれに対して、各反復時、
前記第1のポイントクラウド及び第2のポイントクラウドを前記線上に投影することと、
前記2つの投影の間の最大相関を発見するために前記線に沿って互いに対して前記投影を移動させることと、
前記最大相関を記録することと、
上限の最大相関が記録される前記ポイントクラウドの前記一方の前記回転角度若しくは回転角度の組合せを識別することと、
前記識別された回転角度を前記第1の記憶されたポイントクラウド及び第2の記憶されたポイントクラウドの前記それぞれの示された軸の回りの回転アライメントの前記角度として出力する、又は前記第1の記憶されたポイントクラウド及び第2の記憶されたポイントクラウドの前記それぞれの示された軸の回りの回転角度の前記組合せを出力することと、
を含む、方法。 - コンピューティング装置による実行時、前記コンピューティング装置に、請求項29に記載の前記方法を実行させるコンピュータプログラム。
- 画像処理方法であって、
被写体のポイントクラウド表現であって、複数の個々のスキャンから構成され、各スキャンが前記被験者の一部分のポイントクラウド表現であり、各スキャンが1つ以上の他のスキャンに重複し、前記1つ以上の他のスキャンに対する定められた回転及び並進関係を有し、前記スキャンの少なくとも1つで、2つ以上の他のスキャンが重複する、前記ポイントクラウド表現を入手することを含み、
被験者ポイントクラウドとしての前記複数の個々のスキャンのそれぞれに対して、前記被験者スキャンと重複する前記1つ以上の他のスキャンを基準ポイントクラウドとして設定することと、
前記基準ポイントクラウドのそれぞれの個別スキャンに対して、プロセスエラー基準が満たされるまで、前記被写体ポイントクラウドを前記基準ポイントクラウドの前記個々のスキャンに対して回転させ、並進させ、前記被写体ポイントクラウドと前記基準ポイントクラウドの前記個々のスキャンとの間の改訂された定められた回転及び並進関係を得るために、前記被写体ポイントクラウドと、前記被写体の前記ポイントクラウド表現の中の前記基準ポイントクラウドの前記個々のスキャンとの間の前記定められた回転及び並進関係を初期推定値として、前記被写体ポイントクラウド及び基準ポイントクラウドの前記個々のスキャンに対して回転アライメントアルゴリズム及び並進アライメントアルゴリズムを実行することと、
前記被写体ポイントクラウドと前記基準ポイントクラウドの前記個々のスキャンのそれぞれとの間の前記改訂された定められた回転及び並進関係を結合することと、
前記被写体ポイントクラウドと前記被写体の前記ポイントクラウドの前記基準ポイントクラウドとの間の前記結合された、改訂された定められた回転及び並進関係を実施することと、
を含むグローバルアライメントプロセスを実行することによって特徴付けられる、
画像処理方法。 - 各反復に対する漸次的により厳しくなるプロセスエラー基準により、1回以上、前記グローバルアライメントプロセスを繰り返すこと
をさらに含む、請求項31に記載の画像処理方法。 - 前記プロセスエラー基準が最大許容エラーである、請求項31又は32に記載の画像処理方法。.
- 前記回転アライメントアルゴリズム及び前記並進アライメントアルゴリズムが、ポイントの対、又はポイント及び平面を備える対のどちらかに対して実行される反復最接近点アルゴリズムであり、どちらの場合も、各対の1つの要素が、前記基準ポイントクラウド及び前記被験者ポイントクラウドからの前記個々のスキャンのそれぞれから、前記基準ポイントクラウド及び被験者ポイントクラウドからの前記個々のスキャンの前記重複するセクションからである、請求項31から33のいずれかに記載の画像処理方法。
- 前記グローバルアライメントプロセスによる改訂の前に、前記被験者の前記入手されたポイントクラウド表現のスキャンのそれぞれの重複する対の間の前記定められた回転関係が、請求項18から20若しくは29のいずれかの前記方法によって、又は請求項30に記載の前記コンピュータプログラムによって、請求項1から16又は23から28のいずれかに記載の装置で、請求項17に記載の前記システムで、第1の3Dデータセット及び第2の3Dデータセットとして、スキャンの前記対を回転で位置合わせすることによって入手され、
前記グローバルアライメントプロセスによる改訂の前に、前記被験者の前記入手されたポイントクラウド表現のそれぞれの重複する対の間の前記定められた並進関係が、スキャンの前記対を第1の3Dデータセット及び第2の3Dデータセットとして位置合わせすることによって入手され、請求項2に記載の前記装置若しくは請求項20に記載の前記方法で、前記記録された平行移動は前記定められた並進関係である、又は請求項25若しくは26に記載の前記装置で、前記平行移動は前記定められた並進関係である、
請求項31から34のいずれかに記載の画像処理方法。 - 前記回転アライメントアルゴリズムを実行することが、請求項1から16若しくは23から28のいずれかに記載の前記装置で、請求項17に記載の前記システムで、請求項18から20若しくは29のいずれかに記載の前記方法によって、又は請求項30に記載の前記コンピュータプログラムによって、第1の3Dデータセット及び第2の3Dデータセットとしてスキャンの前記対を回転で位置合わせすることを含み、
前記並進アライメントアルゴリズムを実行することが、第1の3Dデータセット及び第2の3Dデータセットとしてスキャンの前記対を位置合わせすることを含み、請求項2に記載の前記装置又は請求項20に記載の前記方法で、前記記録された平行移動が、前記定められた並進関係である、又は請求項25若しくは26に記載の前記装置で、前記平行移動が、前記定められた並進関係である、
請求項31から35のいずれかに記載の画像処理方法。 - コンピューティング装置による実行時、前記コンピューティング装置に請求項31から36のいずれかに記載の方法を実行させる、コンピュータプログラム。
- メモリハードウェア及びプロセッサハードウェアを備える画像処理装置であって、前記メモリハードウェアが、前記プロセッサハードウェアによる実行時、前記プロセッサに、
被写体のポイントクラウド表現であって、複数の個々のスキャンから構成され、各スキャンが前記被験者の一部分のポイントクラウド表現であり、各スキャンが1つ以上の他のスキャンに重複し、前記1つ以上の他のスキャンに対する定められた回転及び並進関係を有し、前記スキャンの少なくとも1つで、2つ以上の他のスキャンが重複する、前記ポイントクラウド表現を入手させ、
被験者ポイントクラウドとして次々に前記複数の個々のスキャンのそれぞれに対して、前記被験者スキャンと重複する前記1つ以上の他のスキャンを基準ポイントクラウドとして設定することと、
前記基準ポイントクラウドのそれぞれの個別スキャンに対して、プロセスエラー基準が満たされるまで、前記被写体ポイントクラウドを前記基準ポイントクラウドの前記個々のスキャンに対して回転させ、並進させ、前記被写体ポイントクラウドと前記基準ポイントクラウドの前記個々のスキャンとの間の改訂された定められた回転及び並進関係を得るために、前記被写体ポイントクラウドと、前記被写体の前記ポイントクラウド表現の中の前記基準ポイントクラウドの前記個々のスキャンとの間の前記定められた回転及び並進関係を初期推定値として、前記被写体ポイントクラウド及び基準ポイントクラウドの前記個々のスキャンに対して回転アライメントアルゴリズム及び並進アライメントアルゴリズムを実行することと、
前記被写体ポイントクラウドと前記基準ポイントクラウドの前記個々のスキャンのそれぞれとの間の前記改訂された定められた回転及び並進関係を結合することと、
前記被写体ポイントクラウドと前記被写体の前記ポイントクラウドの前記基準ポイントクラウドとの間の前記改訂された定められた回転及び並進関係を実施することと、
を含むグローバルアライメントプロセスを実行させる、
処理命令を記憶する、画像処理装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GB1701383.0 | 2017-01-27 | ||
GB1701383.0A GB2559157A (en) | 2017-01-27 | 2017-01-27 | Apparatus, method and system for alignment of 3D datasets |
PCT/GB2018/050233 WO2018138516A1 (en) | 2017-01-27 | 2018-01-26 | Apparatus, method, and system for alignment of 3d datasets |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020514876A true JP2020514876A (ja) | 2020-05-21 |
Family
ID=58462764
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019540645A Pending JP2020514876A (ja) | 2017-01-27 | 2018-01-26 | 3dデータセットのアライメントのための装置、方法、及びシステム |
Country Status (11)
Country | Link |
---|---|
US (1) | US11049267B2 (ja) |
EP (2) | EP3809370A1 (ja) |
JP (1) | JP2020514876A (ja) |
CN (1) | CN110574071B (ja) |
AU (1) | AU2018212700B2 (ja) |
CA (1) | CA3051795A1 (ja) |
GB (1) | GB2559157A (ja) |
IL (2) | IL268301B (ja) |
SG (1) | SG11201906824QA (ja) |
WO (1) | WO2018138516A1 (ja) |
ZA (1) | ZA201904933B (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102451797B1 (ko) * | 2021-06-01 | 2022-10-12 | 씨드로닉스(주) | 타겟 객체를 모델링하는 모델링 방법, 모델링 장치 및 모델링 시스템 |
Families Citing this family (136)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2240115B1 (en) * | 2007-12-21 | 2019-05-29 | 3M Innovative Properties Company | Orthodontic treatment monitoring based on reduced images |
US10265138B2 (en) * | 2017-09-18 | 2019-04-23 | MediVis, Inc. | Methods and systems for generating and using 3D images in surgical settings |
GB2567636B (en) * | 2017-10-17 | 2021-11-10 | Perspectum Diagnostics Ltd | Method and apparatus for imaging an organ |
US11682131B2 (en) * | 2017-10-27 | 2023-06-20 | Canon Kabushiki Kaisha | Image capturing apparatus and method of controlling image capturing apparatus |
CN108198145B (zh) * | 2017-12-29 | 2020-08-28 | 百度在线网络技术(北京)有限公司 | 用于点云数据修复的方法和装置 |
CN110313020A (zh) * | 2018-01-22 | 2019-10-08 | 深圳市大疆创新科技有限公司 | 图像处理方法、设备及计算机可读存储介质 |
DE102018206751A1 (de) * | 2018-05-02 | 2019-11-07 | Continental Automotive Gmbh | Konturerkennung eines fahrzeugs anhand von messdaten einer umfeldsensorik |
US10935378B2 (en) * | 2018-05-21 | 2021-03-02 | Tusimple, Inc. | System and method for angle measurement |
WO2019229913A1 (ja) * | 2018-05-30 | 2019-12-05 | 株式会社ニコン | 情報処理装置、情報処理方法、情報処理プログラム、及び顕微鏡 |
AU2019319766A1 (en) * | 2018-08-07 | 2021-02-25 | Groundprobe Pty Ltd | Wall visualisation from virtual point of view |
CN109146976B (zh) * | 2018-08-23 | 2020-06-02 | 百度在线网络技术(北京)有限公司 | 用于定位无人车的方法和装置 |
US11823461B1 (en) | 2018-09-28 | 2023-11-21 | Direct Current Capital LLC | Systems and methods for perceiving a scene around a mobile device |
SG11202102914PA (en) * | 2018-10-02 | 2021-04-29 | Panasonic Ip Corp America | Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device |
US11257199B2 (en) * | 2018-10-18 | 2022-02-22 | Wisconsin Alumni Research Foundation | Systems, methods, and media for detecting manipulations of point cloud data |
US11295532B2 (en) * | 2018-11-15 | 2022-04-05 | Samsung Electronics Co., Ltd. | Method and apparatus for aligning 3D model |
US11341409B2 (en) * | 2018-11-28 | 2022-05-24 | Servicenow Canada Inc. | Systems and methods for error reduction in materials casting |
WO2020138463A1 (ja) * | 2018-12-28 | 2020-07-02 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置 |
US11956478B2 (en) * | 2019-01-09 | 2024-04-09 | Tencent America LLC | Method and apparatus for point cloud chunking for improved patch packing and coding efficiency |
US11567497B1 (en) * | 2019-02-04 | 2023-01-31 | Direct Current Capital LLC | Systems and methods for perceiving a field around a device |
US11610337B2 (en) * | 2019-02-17 | 2023-03-21 | Purdue Research Foundation | Calibration of cameras and scanners on UAV and mobile platforms |
CN111582293B (zh) * | 2019-02-19 | 2023-03-24 | 曜科智能科技(上海)有限公司 | 平面几何一致性检测方法、计算机设备、及存储介质 |
US10891744B1 (en) | 2019-03-13 | 2021-01-12 | Argo AI, LLC | Determining the kinetic state of a body using LiDAR point cloud registration with importance sampling |
JP7239362B2 (ja) * | 2019-03-20 | 2023-03-14 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用画像処理装置及び医療用観察システム |
US11430206B1 (en) * | 2019-04-16 | 2022-08-30 | Apple Inc. | Branch-and-bound search algorithm for 4D camera localization |
EP3742398A1 (en) | 2019-05-22 | 2020-11-25 | Bentley Systems, Inc. | Determining one or more scanner positions in a point cloud |
US11080870B2 (en) | 2019-06-19 | 2021-08-03 | Faro Technologies, Inc. | Method and apparatus for registering three-dimensional point clouds |
US11270046B2 (en) * | 2019-06-25 | 2022-03-08 | Faro Technologies, Inc. | Conversion of point cloud data points into computer-aided design (CAD) objects |
EP3758351B1 (en) * | 2019-06-26 | 2023-10-11 | Faro Technologies, Inc. | A system and method of scanning an environment using multiple scanners concurrently |
EP3757826A1 (de) * | 2019-06-28 | 2020-12-30 | Aachener Grundvermögen Kapitalverwaltungsgesellschaft mbH | Analyseverfahren für die gebäudebewirtschaftung |
CN110728623B (zh) * | 2019-08-27 | 2024-04-19 | 深圳市重投华讯太赫兹科技有限公司 | 云点拼接方法、终端设备、计算机存储介质 |
CN111144211B (zh) * | 2019-08-28 | 2023-09-12 | 华为技术有限公司 | 点云显示方法和装置 |
SE543108C2 (en) * | 2019-10-23 | 2020-10-06 | Winteria Ab | Method and device for inspection of a geometry, the device comprising image capturing and shape scanning means |
US11182612B2 (en) * | 2019-10-28 | 2021-11-23 | The Chinese University Of Hong Kong | Systems and methods for place recognition based on 3D point cloud |
EP3825730A1 (en) | 2019-11-21 | 2021-05-26 | Bentley Systems, Incorporated | Assigning each point of a point cloud to a scanner position of a plurality of different scanner positions in a point cloud |
CN111047631B (zh) * | 2019-12-04 | 2023-04-07 | 广西大学 | 一种基于单Kinect加圆盒的多视角三维点云配准方法 |
US11380078B2 (en) * | 2019-12-13 | 2022-07-05 | Hover, Inc. | 3-D reconstruction using augmented reality frameworks |
CN110928312B (zh) * | 2019-12-16 | 2021-06-29 | 深圳市银星智能科技股份有限公司 | 机器人位置确定方法、非易失性计算机可读存储介质及机器人 |
TWI726569B (zh) * | 2020-01-06 | 2021-05-01 | 財團法人工業技術研究院 | 建立組合件之交界軌跡的系統及方法 |
US11574485B2 (en) * | 2020-01-17 | 2023-02-07 | Apple Inc. | Automatic measurements based on object classification |
US11860315B2 (en) * | 2020-01-20 | 2024-01-02 | Direct Cursus Technology L.L.C | Methods and systems for processing LIDAR sensor data |
RU2764708C1 (ru) | 2020-01-20 | 2022-01-19 | Общество с ограниченной ответственностью "Яндекс Беспилотные Технологии" | Способы и системы для обработки данных лидарных датчиков |
US11457200B2 (en) * | 2020-01-23 | 2022-09-27 | At&T Intellectual Property I, L.P. | Method of determining occlusion based visibility for volumetric video streaming |
CN111325779B (zh) * | 2020-02-07 | 2020-12-11 | 贝壳找房(北京)科技有限公司 | 点云配准方法和装置、电子设备和存储介质 |
GB2592440A (en) | 2020-02-28 | 2021-09-01 | Correvate Ltd | Object recognition via object data database and augmentation of 3D image data |
CN111462198B (zh) * | 2020-03-10 | 2023-03-24 | 西南交通大学 | 一种尺度、旋转和辐射不变性的多模态影像配准方法 |
US20230110609A1 (en) * | 2020-03-13 | 2023-04-13 | Chiba Institute Of Technology | Self-localization device |
US11164330B2 (en) * | 2020-03-13 | 2021-11-02 | Applied Research Associates, Inc. | Landmark configuration matcher |
US11668799B2 (en) * | 2020-03-20 | 2023-06-06 | Aptiv Technologies Limited | Histogram based L-shape detection of target objects |
CN111540001B (zh) * | 2020-04-09 | 2022-08-05 | 上海交通大学 | 航空发动机涡轮叶片气膜孔轴线方向检测方法 |
CN111611996B (zh) * | 2020-04-22 | 2023-06-20 | 青岛联合创智科技有限公司 | 一种点云特征点描述子的计算方法 |
CN111599016B (zh) * | 2020-05-14 | 2023-02-28 | 易思维(杭州)科技有限公司 | 点云误差计算方法 |
WO2021231828A1 (en) * | 2020-05-14 | 2021-11-18 | Taurex Drill Bits, LLC | Wear data quantification for well tools |
CN111462141B (zh) * | 2020-05-19 | 2024-01-12 | 北京爱笔科技有限公司 | 点云平面的获取方法及装置、设备、计算机可读存储介质 |
US11676406B2 (en) * | 2020-05-20 | 2023-06-13 | Applications Mobiles Overview Inc. | System and method of augmenting a three-dimensional objects training dataset |
DE102020206815A1 (de) * | 2020-05-29 | 2021-12-02 | Robert Bosch Gesellschaft mit beschränkter Haftung | Verfahren zum Klassifizieren von Messpunkten einer Punktwolke |
CN111666674B (zh) * | 2020-06-01 | 2022-05-10 | 西北工业大学 | 一种型腔通道最小尺寸计算方法 |
CN111681309B (zh) * | 2020-06-08 | 2023-07-25 | 北京师范大学 | 一种生成体素数据和边缘图像特征id矩阵的边缘计算平台 |
CN115968344A (zh) * | 2020-06-18 | 2023-04-14 | 联邦科学和工业研究组织 | 地下采矿机器的导航 |
KR20230052874A (ko) * | 2020-06-19 | 2023-04-20 | 커먼웰쓰 사이언티픽 앤 인더스트리알 리서치 오거니제이션 | 채굴용 데이터 모델 |
CN111754636B (zh) * | 2020-06-26 | 2023-07-25 | 北京百度网讯科技有限公司 | 三维点云处理方法、三维点云处理模型训练方法及装置 |
CN112102178A (zh) * | 2020-07-29 | 2020-12-18 | 深圳市菲森科技有限公司 | 一种点云保特征去噪方法、装置、电子设备及存储介质 |
CN111965726B (zh) * | 2020-08-12 | 2023-09-08 | 浙江科技学院 | 一种用于核电安全的进出场器物检查系统及方法 |
CN112132857B (zh) * | 2020-09-18 | 2023-04-07 | 福州大学 | 动态环境混合视觉系统的动态物检测和静态地图重建方法 |
CN112164101B (zh) * | 2020-09-29 | 2023-01-20 | 北京环境特性研究所 | 三维点云匹配方法和装置 |
US11557046B2 (en) * | 2020-09-30 | 2023-01-17 | Argyle Inc. | Single-moment alignment of imprecise overlapping digital spatial datasets, maximizing local precision |
CN112184736B (zh) * | 2020-10-10 | 2022-11-11 | 南开大学 | 一种基于欧式聚类的多平面提取方法 |
CN116406461B (zh) * | 2020-10-13 | 2023-10-20 | 弗莱瑞尔公司 | 通过自动分析传感器数据生成物理结构和环境的测量结果 |
CN112233233B (zh) * | 2020-10-15 | 2022-12-09 | 首都师范大学 | 一种隧道相对点云数据的三维线形恢复方法 |
US11170476B1 (en) | 2020-10-15 | 2021-11-09 | Aeva, Inc. | Techniques for fast point cloud filtering using a series cascaded filter |
CN114469046A (zh) * | 2020-10-23 | 2022-05-13 | 北京华睿博视医学影像技术有限公司 | 电阻抗成像方法、系统、存储介质以及电子设备 |
CN112258646B (zh) * | 2020-10-26 | 2024-03-12 | 上海汽车集团股份有限公司 | 一种三维线地标构建方法及装置 |
CN112233039B (zh) * | 2020-10-29 | 2022-09-13 | 中电建路桥集团有限公司 | 基于领域点空间特征的三维激光点云去噪方法 |
US11354286B1 (en) * | 2020-11-02 | 2022-06-07 | Workday, Inc. | Outlier identification and removal |
CN112363215B (zh) * | 2020-11-11 | 2022-10-28 | 西安石油大学 | 基于波原子分解自适应滤波的地震勘探信号增强方法 |
CN112365602B (zh) * | 2020-11-23 | 2022-09-27 | 哈尔滨工业大学 | 一种基于激光点云的路面三维重构误差计算方法 |
CN113298820B (zh) * | 2020-12-01 | 2022-08-26 | 湖南长天自控工程有限公司 | 一种料堆盘库的方法及系统 |
CN112289416B (zh) * | 2020-12-18 | 2021-03-23 | 南京佗道医疗科技有限公司 | 一种引导针置入精度评价方法 |
US20220229946A1 (en) * | 2021-01-20 | 2022-07-21 | Insurance Services Office, Inc. | Systems and Methods for Roof Area and Slope Estimation Using a Point Set |
CN112967308B (zh) * | 2021-02-26 | 2023-09-19 | 湖南南方水利水电勘测设计院有限公司 | 一种双极化sar影像的水陆边界提取方法及系统 |
CN112598668B (zh) * | 2021-03-02 | 2021-06-29 | 北京大成国测科技有限公司 | 基于三维图像的缺陷识别方法、装置及电子设备 |
US11798183B2 (en) * | 2021-03-08 | 2023-10-24 | Nvidia Corporation | Machine learning techniques for predicting depth information in image data |
CN113205547A (zh) * | 2021-03-18 | 2021-08-03 | 北京长木谷医疗科技有限公司 | 点云配准方法、骨头配准方法、装置、设备及存储介质 |
JP2022157660A (ja) * | 2021-03-31 | 2022-10-14 | 株式会社トプコン | 点群情報処理装置、点群情報処理方法、点群情報処理プログラム |
CN113052883B (zh) * | 2021-04-02 | 2024-02-02 | 北方工业大学 | 大尺度动态环境下融合现实手术导航配准系统及方法 |
KR102284196B1 (ko) * | 2021-04-05 | 2021-08-02 | 정승혁 | 라이다 데이터를 이용한 실내 맵 생성 방법 및 장치 |
KR102284197B1 (ko) * | 2021-04-05 | 2021-08-02 | 정승혁 | 라이다 데이터를 이용한 실내 맵 생성 방법 및 장치 |
ES2969640T3 (es) * | 2021-04-09 | 2024-05-21 | Beijing Xiaomi Mobile Software Co Ltd | Método y aparato para codificar/decodificar datos geométricos de nubes de puntos capturados por un cabezal desensor giratorio |
US11796565B2 (en) * | 2021-04-09 | 2023-10-24 | Bruker Nano, Inc. | AFM imaging with metrology-preserving real time denoising |
US11734883B2 (en) * | 2021-04-14 | 2023-08-22 | Lineage Logistics, LLC | Generating mappings of physical spaces from point cloud data |
US11403817B1 (en) | 2021-04-14 | 2022-08-02 | Lineage Logistics, LLC | Point cloud filtering |
CN113344990B (zh) * | 2021-04-27 | 2022-09-20 | 成都飞机工业(集团)有限责任公司 | 孔位表征投影系统及自适应拟合的孔位对齐方法 |
CN113251919B (zh) * | 2021-04-28 | 2023-04-07 | 中铁第四勘察设计院集团有限公司 | 一种基于坐标变换的圆柱体点云数据拟合方法及装置 |
CN113269242B (zh) * | 2021-05-18 | 2022-03-08 | 电子科技大学 | 一种基于峰值聚类的目标检测点迹凝聚方法 |
CN113177974B (zh) * | 2021-05-19 | 2024-07-12 | 上海商汤临港智能科技有限公司 | 一种点云配准方法、装置、电子设备及存储介质 |
EP4092559A1 (en) * | 2021-05-21 | 2022-11-23 | Dassault Systèmes | Material extrusion detection method |
US20220375162A1 (en) * | 2021-05-21 | 2022-11-24 | Illuscio, Inc. | Systems and Methods for Generating and Applying Depth Keys at Individual Point Cloud Data Points |
WO2022255912A1 (en) * | 2021-06-01 | 2022-12-08 | Telefonaktiebolaget Lm Ericsson (Publ) | Alignment of dense point clouds of a physical object |
JP2022184415A (ja) * | 2021-06-01 | 2022-12-13 | 株式会社エビデント | 3次元画像表示方法、3次元画像表示装置、およびプログラム |
JP2022186156A (ja) * | 2021-06-04 | 2022-12-15 | 富士通株式会社 | 特徴量算出プログラム、特徴量算出方法および情報処理装置 |
GB2607598A (en) | 2021-06-07 | 2022-12-14 | Correvate Ltd | Aligning 3D datasets |
CN113592922A (zh) * | 2021-06-09 | 2021-11-02 | 维沃移动通信(杭州)有限公司 | 图像的配准处理方法及装置 |
CN113112535B (zh) * | 2021-06-15 | 2021-11-02 | 四川大学 | 一种基于有向包围盒的尺度点云配准方法及装置 |
US11287529B1 (en) * | 2021-06-16 | 2022-03-29 | Aeva, Inc. | Techniques for doppler point set registration |
US11294059B1 (en) * | 2021-06-16 | 2022-04-05 | Aeva, Inc. | Techniques for doppler point set registration |
CN113378251B (zh) * | 2021-06-18 | 2023-12-08 | 上海东峻信息科技有限公司 | 适用多种连续曲面类型的单元结构曲面阵列铺设建模方法 |
CN113408916B (zh) * | 2021-06-28 | 2023-12-29 | 河南唐都科技有限公司 | 基于智能ai和移动app的消防设施检测及现场验收评定系统 |
US20230012905A1 (en) * | 2021-07-02 | 2023-01-19 | Canoo Technologies Inc. | Proximity detection for automotive vehicles and other systems based on probabilistic computing techniques |
CN113450461B (zh) * | 2021-07-23 | 2022-07-08 | 中国有色金属长沙勘察设计研究院有限公司 | 一种排泥库土工布点云提取方法 |
CN113593017A (zh) * | 2021-08-02 | 2021-11-02 | 中南大学 | 露天矿地表三维模型构建方法、装置、设备及存储介质 |
US11887271B2 (en) * | 2021-08-18 | 2024-01-30 | Hong Kong Applied Science and Technology Research Institute Company Limited | Method and system for global registration between 3D scans |
US11915436B1 (en) * | 2021-08-30 | 2024-02-27 | Zoox, Inc. | System for aligning sensor data with maps comprising covariances |
CN113470091B (zh) * | 2021-09-02 | 2021-11-30 | 深圳市信润富联数字科技有限公司 | 轮毂点云配准方法、装置、电子设备和存储介质 |
CN113837124B (zh) * | 2021-09-28 | 2023-12-05 | 中国有色金属长沙勘察设计研究院有限公司 | 一种排泥库土工布巡检航线的自动提取方法 |
CN113987631B (zh) * | 2021-10-18 | 2022-12-13 | 中山大学 | 一种基于对称性分析的建筑物受灾形变检测方法及系统 |
CN113724332B (zh) * | 2021-11-04 | 2022-01-18 | 贝壳技术有限公司 | 相机相对位姿的确定方法、电子设备和存储介质 |
CN114131293B (zh) * | 2021-11-25 | 2022-11-01 | 南京航空航天大学 | 一种飞机结构加强件自动化加工方法 |
CN114299079B (zh) * | 2021-12-07 | 2024-05-28 | 北京航空航天大学 | 一种面向稠密点云数据的发动机叶片截面线数据获取方法 |
US11367204B1 (en) * | 2021-12-16 | 2022-06-21 | Ecotron LLC | Multi-sensor spatial data auto-synchronization system and method |
EP4202837A1 (en) * | 2021-12-22 | 2023-06-28 | Aptiv Technologies Limited | A feature describing the shape of spatially distributed data set |
CN114271856B (zh) * | 2021-12-27 | 2022-10-11 | 开普云信息科技股份有限公司 | 三维超声影像生成方法、装置、存储介质及设备 |
EP4202749A1 (en) * | 2021-12-27 | 2023-06-28 | Visionx Inc. | Systems and methods for alignment and comparison of a reference drawing with images of a part |
CN114777668B (zh) * | 2022-04-12 | 2024-01-16 | 新拓三维技术(深圳)有限公司 | 一种桌面式弯管测量方法及装置 |
US11899114B1 (en) * | 2022-05-31 | 2024-02-13 | Zoox, Inc. | Secondary sensor data-based soft constraint optimization for pose graph and mapping refinement |
CN114998155B (zh) * | 2022-06-30 | 2024-06-11 | 浙江华展研究设计院股份有限公司 | 一种基于椭圆环状过滤器的隧道扫描点云噪点迭代过滤算法 |
US20240112396A1 (en) * | 2022-10-03 | 2024-04-04 | d3Labs Inc. | Display of Three-Dimensional Scenes with Changing Perspectives |
WO2024086123A1 (en) * | 2022-10-17 | 2024-04-25 | Innopeak Technology, Inc. | Decoding method, encoding method, decoder and encoder |
CN115423835B (zh) * | 2022-11-02 | 2023-03-24 | 中汽创智科技有限公司 | 杆状物点云数据处理方法、装置、电子设备及存储介质 |
CN115797423A (zh) * | 2022-12-07 | 2023-03-14 | 中国矿业大学(北京) | 基于描述子特征优化矿山点云临近迭代的配准方法、系统 |
CN115661552B (zh) * | 2022-12-12 | 2023-07-04 | 高德软件有限公司 | 一种点云处理、点云异常检测方法、介质及计算设备 |
CN116596755B (zh) * | 2023-03-13 | 2024-05-28 | 深圳优立全息科技有限公司 | 一种点云数据的拼接方法、装置、设备及存储介质 |
CN116330667B (zh) * | 2023-03-28 | 2023-10-24 | 云阳县优多科技有限公司 | 一种玩具的3d打印模型设计方法及系统 |
CN116524123B (zh) * | 2023-04-20 | 2024-02-13 | 深圳市元甪科技有限公司 | 一种三维电阻抗断层扫描图像重建方法及相关设备 |
CN116612132A (zh) * | 2023-05-25 | 2023-08-18 | 重庆茂侨科技有限公司 | 基于集料特征的3d点云目标分割方法 |
CN117086500B (zh) * | 2023-08-17 | 2024-06-25 | 深圳市大德激光技术有限公司 | 一种激光蚀刻设备电气控制系统 |
CN117315428B (zh) * | 2023-10-30 | 2024-04-05 | 燕山大学 | 一种跨模态特征对齐融合的人群计数系统及方法 |
CN117853666A (zh) * | 2024-03-07 | 2024-04-09 | 法奥意威(苏州)机器人系统有限公司 | 基于细分八叉树的点云圆柱体检测方法和装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006139713A (ja) * | 2004-11-15 | 2006-06-01 | Fuji Electric Systems Co Ltd | 3次元物体位置検出装置、プログラム |
WO2012141235A1 (ja) * | 2011-04-13 | 2012-10-18 | 株式会社トプコン | 三次元点群位置データ処理装置、三次元点群位置データ処理システム、三次元点群位置データ処理方法およびプログラム |
US20130127851A1 (en) * | 2011-11-22 | 2013-05-23 | Raytheon Company | Structure discovery in a point cloud |
JP2015153405A (ja) * | 2014-02-19 | 2015-08-24 | 株式会社リコー | 情報処理装置、情報処理プログラム、および情報処理システム |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7027642B2 (en) * | 2000-04-28 | 2006-04-11 | Orametrix, Inc. | Methods for registration of three-dimensional frames to create three-dimensional virtual models of objects |
US8885897B2 (en) | 2007-10-26 | 2014-11-11 | Koninklijke Philips N.V. | Closed loop registration control for multi-modality soft tissue imaging |
US20090232355A1 (en) * | 2008-03-12 | 2009-09-17 | Harris Corporation | Registration of 3d point cloud data using eigenanalysis |
US20090232388A1 (en) * | 2008-03-12 | 2009-09-17 | Harris Corporation | Registration of 3d point cloud data by creation of filtered density images |
WO2010127023A1 (en) * | 2009-05-01 | 2010-11-04 | Spicola Tool, Llc | Remote contactless stereoscopic mass estimation system |
US9410421B2 (en) * | 2009-12-21 | 2016-08-09 | Schlumberger Technology Corporation | System and method for microseismic analysis |
US9111444B2 (en) * | 2012-10-31 | 2015-08-18 | Raytheon Company | Video and lidar target detection and tracking system and method for segmenting moving targets |
CN104978549B (zh) * | 2014-04-03 | 2019-04-02 | 北京邮电大学 | 三维人脸图像特征提取方法和系统 |
CN104463894B (zh) * | 2014-12-26 | 2020-03-24 | 山东理工大学 | 一种多视角三维激光点云全局优化整体配准方法 |
US9818043B2 (en) * | 2015-06-24 | 2017-11-14 | Microsoft Technology Licensing, Llc | Real-time, model-based object detection and pose estimation |
CN105261061B (zh) * | 2015-09-07 | 2018-10-26 | 深圳市易尚展示股份有限公司 | 一种识别冗余数据的方法及装置 |
US20200183009A1 (en) * | 2016-05-17 | 2020-06-11 | Pioneer Corporation | Information output device, terminal device, control method, program and storage medium |
CN106204557A (zh) * | 2016-06-30 | 2016-12-07 | 扬州大学 | 一种基于扩展高斯球与m估计的非完备数据对称特征的提取方法 |
-
2017
- 2017-01-27 GB GB1701383.0A patent/GB2559157A/en not_active Withdrawn
-
2018
- 2018-01-26 EP EP20207318.5A patent/EP3809370A1/en active Pending
- 2018-01-26 CA CA3051795A patent/CA3051795A1/en active Pending
- 2018-01-26 JP JP2019540645A patent/JP2020514876A/ja active Pending
- 2018-01-26 EP EP18704582.8A patent/EP3574473B1/en active Active
- 2018-01-26 AU AU2018212700A patent/AU2018212700B2/en not_active Expired - Fee Related
- 2018-01-26 US US16/481,450 patent/US11049267B2/en active Active
- 2018-01-26 WO PCT/GB2018/050233 patent/WO2018138516A1/en active Search and Examination
- 2018-01-26 SG SG11201906824QA patent/SG11201906824QA/en unknown
- 2018-01-26 CN CN201880022383.9A patent/CN110574071B/zh active Active
-
2019
- 2019-07-26 ZA ZA2019/04933A patent/ZA201904933B/en unknown
- 2019-07-28 IL IL268301A patent/IL268301B/en unknown
-
2021
- 2021-07-25 IL IL285100A patent/IL285100A/en unknown
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006139713A (ja) * | 2004-11-15 | 2006-06-01 | Fuji Electric Systems Co Ltd | 3次元物体位置検出装置、プログラム |
WO2012141235A1 (ja) * | 2011-04-13 | 2012-10-18 | 株式会社トプコン | 三次元点群位置データ処理装置、三次元点群位置データ処理システム、三次元点群位置データ処理方法およびプログラム |
US20130127851A1 (en) * | 2011-11-22 | 2013-05-23 | Raytheon Company | Structure discovery in a point cloud |
JP2015153405A (ja) * | 2014-02-19 | 2015-08-24 | 株式会社リコー | 情報処理装置、情報処理プログラム、および情報処理システム |
Non-Patent Citations (5)
Title |
---|
HANGBIN WU ET AL.: ""Registration of Airborne LiDAR Point Clouds by Matching the Linear Plane Features of Building Roof", REMOTE SENSING, vol. 8, no. 6, JPN7022000060, 25 May 2016 (2016-05-25), CH, pages 1 - 17, XP055462689, ISSN: 0004679750, DOI: 10.3390/rs8060447 * |
LIANG ZHANG ET AL.: ""An improved RGB-D SLAM algorithm based on Kinect sensor"", 2015 IEEE INTERNATIONAL CONFERENCE ON ADVANCED INTELLIGENT MECHATRONICS (AIM), JPN6022000504, 7 July 2015 (2015-07-07), US, pages 555 - 562, XP033210561, ISSN: 0004679747, DOI: 10.1109/AIM.2015.7222594 * |
MAJA TEMERINAC-OTT ET AL.: ""Evaluation of a New Point Clouds Registration Method Based on Group Averaging Features"", 2010 20TH INTERNATIONAL CONFERENCE ON PATTERN RECOGNITION, JPN6022000499, 23 August 2010 (2010-08-23), US, pages 2452 - 2455, XP031770875, ISSN: 0004679751 * |
上田 優子、外3名: ""拡張自由視点画像生成を用いた遠隔移動ロボット操縦インタフェース"", 情報処理学会研究報告 コンピュータビジョンとイメージメディア(CVIM), JPN6022000501, 15 February 2013 (2013-02-15), JP, pages 1 - 6, ISSN: 0004679748 * |
石田 将吾、外2名: ""姿勢推定を用いた点群の位置合わせ"", 情報処理学会研究報告, vol. Vol.2014-CVIM-191, No.2, JPN6022000500, 24 February 2014 (2014-02-24), JP, pages 1 - 5, ISSN: 0004679749 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102451797B1 (ko) * | 2021-06-01 | 2022-10-12 | 씨드로닉스(주) | 타겟 객체를 모델링하는 모델링 방법, 모델링 장치 및 모델링 시스템 |
KR20220163306A (ko) * | 2021-06-01 | 2022-12-09 | 씨드로닉스(주) | 타겟 객체를 모델링하는 모델링 방법, 모델링 장치 및 모델링 시스템 |
KR102613257B1 (ko) | 2021-06-01 | 2023-12-14 | 씨드로닉스(주) | 타겟 객체를 모델링하는 모델링 방법, 모델링 장치 및 모델링 시스템 |
Also Published As
Publication number | Publication date |
---|---|
AU2018212700A1 (en) | 2019-08-29 |
IL268301A (en) | 2019-09-26 |
US11049267B2 (en) | 2021-06-29 |
AU2018212700B2 (en) | 2022-09-29 |
GB201701383D0 (en) | 2017-03-15 |
IL268301B (en) | 2021-08-31 |
SG11201906824QA (en) | 2019-08-27 |
CN110574071B (zh) | 2023-08-01 |
EP3574473B1 (en) | 2020-11-25 |
WO2018138516A1 (en) | 2018-08-02 |
CN110574071A (zh) | 2019-12-13 |
ZA201904933B (en) | 2020-03-25 |
CA3051795A1 (en) | 2018-08-02 |
EP3574473A1 (en) | 2019-12-04 |
EP3809370A1 (en) | 2021-04-21 |
US20200043186A1 (en) | 2020-02-06 |
GB2559157A (en) | 2018-08-01 |
IL285100A (en) | 2021-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11049267B2 (en) | Apparatus, method, and system for alignment of 3D datasets | |
US20230146134A1 (en) | Object recognition via object data database and augmentation of 3d image data | |
Kang et al. | Automatic targetless camera–lidar calibration by aligning edge with gaussian mixture model | |
CN104574406B (zh) | 一种360度全景激光与多个视觉系统间的联合标定方法 | |
US10762349B2 (en) | System for generating 3D images for image recognition based positioning | |
Eo et al. | Coregistration of terrestrial lidar points by adaptive scale-invariant feature transformation with constrained geometry | |
Hu et al. | An automatic 3D registration method for rock mass point clouds based on plane detection and polygon matching | |
JP2006214893A (ja) | 対象物測定方法及びコンピュータシステムを用いて対象物の三次元形状を計測するためのコンピュータソフトウエアプログラム | |
Lui et al. | Eye-full tower: A gpu-based variable multibaseline omnidirectional stereovision system with automatic baseline selection for outdoor mobile robot navigation | |
Özdemir et al. | A multi-purpose benchmark for photogrammetric urban 3D reconstruction in a controlled environment | |
Weinmann et al. | Geometric point quality assessment for the automated, markerless and robust registration of unordered TLS point clouds | |
Lalonde et al. | Automatic three-dimensional point cloud processing for forest inventory | |
Parmehr et al. | Automatic registration of optical imagery with 3d lidar data using local combined mutual information | |
Panday | Fitting of parametric building models to oblique aerial images | |
WO2022258947A1 (en) | Aligning 3d datasets | |
Guldur et al. | Laser-based automatic cross-sectional change detection for steel frames | |
Preuksakarn | Reconstructing plant architecture from 3D laser scanner data | |
Daghigh | Efficient automatic extraction of discontinuities from rock mass 3D point cloud data using unsupervised machine learning and RANSAC | |
Ahmed | Real-Time Interactive 3D Reconstruction of Indoor Environments With High Accuracy | |
Kissi | Automatic Fracture Orientation Extraction from SfM Point Clouds | |
Belton et al. | Automated Matching of Segmented Point Clouds to As-built Plans | |
Zhang et al. | OCM: an intelligent recognition method of rock discontinuity based on optimal color mapping of 3D Point cloud via deep learning | |
Zhang | Towards 3D matching of point clouds derived from oblique and nadir airborne imagery | |
Roy et al. | Workbench for 3D target detection and recognition from airborne motion stereo and ladar imagery | |
Price et al. | Point-cloud registration using 3D shape contexts |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190930 |
|
A529 | Written submission of copy of amendment under article 34 pct |
Free format text: JAPANESE INTERMEDIATE CODE: A529 Effective date: 20190926 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201221 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220111 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20220411 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220509 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20220621 |