JP6261489B2 - 3次元点群から平面を抽出する、方法、画像処理装置およびプログラムを記憶した非一次的なコンピュータ可読媒体 - Google Patents

3次元点群から平面を抽出する、方法、画像処理装置およびプログラムを記憶した非一次的なコンピュータ可読媒体 Download PDF

Info

Publication number
JP6261489B2
JP6261489B2 JP2014228683A JP2014228683A JP6261489B2 JP 6261489 B2 JP6261489 B2 JP 6261489B2 JP 2014228683 A JP2014228683 A JP 2014228683A JP 2014228683 A JP2014228683 A JP 2014228683A JP 6261489 B2 JP6261489 B2 JP 6261489B2
Authority
JP
Japan
Prior art keywords
plane
points
point
dimensional
mse
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014228683A
Other languages
English (en)
Other versions
JP2015108621A (ja
JP2015108621A5 (ja
Inventor
チェン・フェン
田口 裕一
裕一 田口
ビニート・アール・カマト
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JP2015108621A publication Critical patent/JP2015108621A/ja
Publication of JP2015108621A5 publication Critical patent/JP2015108621A5/ja
Application granted granted Critical
Publication of JP6261489B2 publication Critical patent/JP6261489B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/187Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/422Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation for representing the structure of the pattern or shape of an object therefor
    • G06V10/426Graphical representations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/457Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by analysing connectivity, e.g. edge linking, connected component analysis or slices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Geometry (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)
  • Computer Graphics (AREA)
  • Image Analysis (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)

Description

この発明は、包括的には3次元(3D)データを処理することに関し、より詳細には、3Dセンサーデータから平面特徴を抽出することに関する。
Microsoft Kinect(登録商標)等の低コストの奥行きカメラ及び3Dセンサーは、ロボット工学及びコンピュータービジョンの用途において用いることができる。通常、これらのセンサーはシーンの1組の3D点、すなわち3D点群を取得する。一般的に、これらの3D点群は雑音が多く冗長であり、シーンにおける高水準の意味論を特徴付けない。
通常、シーンをコンパクトにかつ意味論的にモデル化するようにプリミティブが3D点群から抽出される。特に、多くの人工構造物が平面の表面を有するので、平面は最も重要なプリミティブのうちの1つである。
平面抽出
点群から平面を抽出するのに用いられる通常の方法は、ランダムサンプルコンセンサス(RANSAC)に基づく。その方法はまず、平面の幾つかの候補を仮定する。それらの候補はそれぞれ、点群から3つの点をランダムにサンプリングし、3つの点によって定義される平面上にある1組の点(インライアと呼ばれる)を求めることによって生成される。次に、その方法は、候補から最多数のインライアによってサポートされる最適な平面を選択する。その方法は、点群からインライアを除去した後、プロセスを反復して複数の平面を抽出する。その方法は比較的長い時間を要するので、幾つかの変形形態、例えばハフ変換が知られており、プレセグメンテーションのために連結成分解析を点群に適用することができ、次に、セグメントのそれぞれにRANSACを適用することができる。RANSACは点群のローカル領域にも適用することができ、それに続いて、ローカル領域のそれぞれから平面上の連結点を見つける。これは領域成長と呼ばれる。
同様であるがはるかに低速な変形形態がボクセル成長である。領域は個々の走査線から抽出される線分から成長させることもできる。別の方法は、法線空間内の点をクラスター化し、原点に対する距離に従って更にクラスター化する。点ごとの法線推定を回避するために、自己適応閾値を用いたグラフベースのセグメンテーションを用いることができる。
平面を用いた応用形態
この方式において抽出される平面は、ロボット工学、コンピュータービジョン、拡張現実及び3Dモデル化等の様々な用途において用いられる。平面によって提供されるシーンのコンパクトで意味論的なモデル化は、屋内及び屋外の3D再構成、可視化、並びに建物情報のモデル化において有用である。主要な平面を抽出することは、ロボットを用いた卓上操作のための一般的な戦略である。なぜなら、平面は、卓上平面に配置された物体をセグメント化するのに役立つからである。平面は、位置推定及び地図作成の同時実行(SLAM)システム及び場所認識システムにも用いられている。これらのシステムでは、平面はシーンのランドマークとして用いることができる。
平面の形態における特徴は点特徴よりも一般的に正確であるが、そのようなSLAM及び場所認識システムにおいて6自由度(DoF)カメラ姿勢を求めるには、その法線が3D空間に広がる少なくとも3つの平面が必要とされる。平面の数が不十分であることに起因した縮退を回避するために、点及び平面はランドマークとしてともに用いることができる。
この発明の実施の形態は、3D点群から複数の平面をリアルタイムで同時に抽出する方法を提供する。
この方法は、領域成長に基づく方法として分類することができる。領域成長においてプリミティブとして一般的に点又は線を用いる従来技術の方法と対照的に、この方法はプリミティブとして領域を用いる。
点群は、組織化された点群と、組織化されていない点群とに分類することができる。組織化された点群では、例えば、近傍関係を記述する2Dグリッドを定義することができる奥行きマップから点が生成されるので、3D点間の近傍関係が知られている。他方で、組織化されていない点群では、近傍関係は未知であり、すなわち点はランダムな順で記憶される。
1つの実施の形態において、領域は奥行きマップの小さな2Dパッチであり、組織化された点群がそこから生成される。この場合、3D点はまず、奥行きマップにおいて定義された2Dグリッド構造に従って1組の互いに素な領域に分割される。グラフが定義され、このグラフにおいて、領域はグラフ内のノードに対応し、領域間の近傍関係はグラフにおけるエッジに対応する。2Dグリッド構造の一様な分割又は一様でない分割が可能である。
別の実施の形態において、領域は3D空間におけるボクセルであり、このボクセルにおいて組織化されていない点群が定義される。この場合、3D空間は1組の互いに素なボクセルに分割され、3D点のそれぞれが、点の位置に従ってボクセルに割り当てられる。少なくとも1つの3D点を含むボクセルが、グラフにおいてノードとして定義される。次に、2つのボクセルが3D空間において互いに隣り合っている場合、グラフ内のエッジが定義される。3D空間の一様な分割又は一様でない分割が可能である。
グラフが定義された後、凝集型階層的クラスタリング(AHC)がグラフに適用される。AHCは、「ボトムアップ」方式でクラスターの階層を構築する。すなわち、各ノードは最初にクラスターとして定義され、次に、クラスターの対が、一方が階層を上るときにマージされる。各クラスターは1組の3D点を含み、この1組の3D点に平面が当てはめられ、当てはめられた平面から3D点の平均二乗誤差(MSE)が求められる。クラスタリングはグラフ内の近傍クラスターを、マージされたクラスターが最小のMSEを有するように系統的にマージする。クラスタリングは、マージによって所定の閾値よりも小さいMSEが生じることができなくなるまで繰り返される。
クラスタリングによって生成される平面の境界は、それらの平面が1組の領域によって表されることに起因して粗い。必要に応じて、平面の境界は、個々の3D点をプリミティブとして用いることによって、領域成長により精緻化することができる。粗い境界を有するクラスタリング後の平面を、粗い平面と呼び、精緻な境界を有する精緻化後の平面を精緻な平面と呼ぶ。
この方法は、640×480の点を有する組織化された点群の場合、30Hz以上の有効フレームレートで平面を抽出することができ、これは従来技術の方法よりもかなり高速であり、リアルタイムでの適用を可能にする。
この発明の実施の形態による、3D点群から平面を抽出する方法の流れ図である。 この発明の実施の形態による、グラフの初期化の概略図である。 この発明の実施の形態による、凝集型階層的クラスタリングの概略図である。 この発明の実施の形態に従って抽出された粗い平面の概略図である。 この発明の実施の形態に従って抽出された精緻な平面の概略図である。 この発明の実施の形態による、線分の抽出の概略図である。 この発明の実施の形態による、例示的なグラフ初期化の概略図である。
図1に示すように、この発明の実施の形態は、3D点群101から複数の平面102をリアルタイムで同時に抽出する方法を提供する。3Dセンサーによって、データは画像として取得されるか、又はリアルタイムの継続動作のためにフレームシーケンスとして取得される。各画像又はフレームは順番に処理される。
点群は、1組の互いに素の領域111に分割される(110)。領域のために選択されるサイズは、用途の必要性に応じて、例えば、領域あたり約10個〜1000個の点の範囲で変動することができる。
ノード及びエッジのグラフ121が領域について構築される(120)。ノードは領域を表し、エッジは領域の空間関係を表し、互いに隣り合う領域はエッジによって連結されている。凝集型階層的クラスタリング(AHC)130がグラフに適用される。最初に、各ノードはクラスターであり、次に、クラスター対が系統的にマージされる。クラスタリング後のノードのクラスターは粗い平面131に対応する。粗い平面は、点ベースの領域成長を用いて精緻化し(140)、精緻な平面102を得ることができる。
この方法のステップは、当該技術分野において既知のように、バスによってメモリ及び入/出力インタフェースに接続されたプロセッサ100において実行することができる。
方法の概観
図2〜図5は、シーンの取得されたデータがどのように処理されるかを概略的に示している。ここでは、奥行きマップから生成された、組織化された点群を用いる方法を説明する。奥行きマップはピクセルの2Dグリッドを有し、各ピクセルは距離値を有する。組織化された点群は、内部カメラパラメーター(例えば焦点距離及び主点)に従って3D空間に対しピクセルを逆投影し、距離値を用いて3D点を求めることによって生成される。図面は、奥行きマップの2Dグリッド上にオーバーレイされたシーンを表している。図面において見てとることができるように、シーンは階段の近くに作業台を含み、作業台の下にバスケットを含む。
図2は、グラフの初期化を示している。この点群は、640×480ピクセルを有する奥行きマップによって生成される。点群は、例えば20×20ピクセル領域に一様に分割される。各領域の強度は、通常、領域内に当てはめられた平面の法線に対応する。同様の強度を有する領域は、おそらく同じ平面に対応する。線によって連結される黒い点は、グラフ内のノード及びエッジを表す。「×」、「○」及び「●」によってマーキングされた領域はそれぞれ、奥行き不連続性、欠落データ及び過剰平面当てはめMSEにおいて拒否された領域を表し、これらの領域はグラフに含まれない。
図3は、最小のMSEを有するクラスターAが位置特定され(301)、マージされる(302)、反復AHC300を示している。通常、エリア304内にある黒い線は、クラスターAから出る全てのエッジを示し、黒い太線303は、クラスターAを近傍クラスターとマージするときに最小の平面当てはめMSEを与える、クラスターAからクラスターBへのエッジを示している。図4及び図5はそれぞれ、粗い平面及び精緻な平面を示している。
組織化された点群を、2Dインデックスを付された3D点pi,jの組であると定義する。ここで、2Dインデックス(i,j)及び(i±1,j±1)は、点が同じ表面上にあるときの、点pi,jと点pi±1,j±1との間の3D近接性関係を反映する。このインデックス空間は画像空間と呼ぶことができ、通常、距離画像(time-of-flight)カメラ、構造化光走査システム等のデバイスによって、又は更にはレーザー測距器の走査平面を回転することによって生成される奥行きマップから得られる。
2D線分抽出
まず、1組の2D点から2D線分を抽出する例を用いてこの発明による方法を説明する。その後、1組の3D点から3D空間内の平面を抽出することへ説明を展開する。
図6に示すように、3Dセンサーから出力された1組の2D点601から線特徴を抽出する。ここで、1組の2D点が組織化され、すなわち近傍関係が知られ、このため、その組は一連の2D点として与えられる。ドットはシーケンス内の2D点を表す。文字をラベル付けされた円及びそれらの対応する括弧は、双方向連結リスト602においてクラスターを示している。
図6に示すように、シーケンス内の全てのW個の連続した点(例えばW=3)は、最初にノードとしてグループ化される。ノードは、近傍関係に従って、双方向連結リスト602に記憶される。「ノード」及び「クラスター」は、1組のデータ点を表すのに交換可能に用いられる。次に、この連結リストにおいて、以下のステップ、すなわち、
(a)最小線当てはめMSEを有するノードを見つけるステップと、
(b)このノードを、最小線当てはめMSEを与える左近傍又は右近傍とマージするステップと、
を反復することによってAHCが実行される。
例えば、示されるAHCの反復のうちの1つ603において、最小線当てはめMSEを有するノードgが発見される。太線は、ノードgをその左近傍efとマージすることによって、その右近傍hとマージするよりも小さな線当てはめMSEが得られることを示し、このため、ノードgはノードefとマージされ、ノードefg604が生成される。
最小マージMSEが所定の閾値よりも大きい場合(これは通常、センサーの雑音特性によって判定することができる)、マージはキャンセルされ、ノードgは線分として抽出することができる。2つのノードをマージし、結果として生じる線当てはめMSEを計算することは、積分画像を用いた一定時間動作(constant time operation)として行うことができる。積分画像は、例えば米国特許第7,020,337号に記載されている。
3D点群からの平面抽出に一般化するときの差異
シーケンス内の点の順序に隠された近傍情報の重大性を認識するために、2D線抽出から、組織化された点群における3D平面抽出に一般化を行う。ここで、近傍情報は2Dインデックスに記憶される。しかしながら、この一般化は自明でなく、全く明白でない。3Dの場合、2D線抽出では見られない2つの主要な差異が存在する。
ノード初期化:線分抽出と対照的に、初期ノード、したがってマージ中及びマージ後の任意の2つのノードは、ノード間で共有される同一の点を有するべきでない。
ノードマージ:線分抽出において、ノードをその近傍とマージすることは、左近傍又は右近傍への最大で2つのマージ試行を伴う一定時間動作である。3Dの場合、ノードはグラフを形成するように連結され、マージステップ後に可変数の近傍を有するので、多数のマージ試行が必要とされる可能性がある。
第1の差異の理由は、組織化された点群の画像空間において互いにマージされることになるノードについて、2つの可能な方向が存在することである。幾つかのマージステップ後、或る特定のノードBに属する3D点は、画像空間における初期の長方形形状を維持する代わりに不規則な形状を形成する。このため、異なるノードが同一の点を有することを許可される場合、積分画像の助けを借りても、2つのノードをマージするときに重複する点を効率的に処理することは非常に困難である。
線分抽出では、2つの近傍の線分をマージしても、点シーケンス内の開始インデックス及び終了インデックスにより表される線分が結果として得られる。これにより、重複するノードが実現可能になる。重複するノードによって、線分抽出が線分をそれらの境界において自動的に分割することが可能になることに気づくことが重要である。なぜなら、異なる線分における点を含むノードは、他のノード、例えば図6のノードc、d及びhよりも大きな線当てはめMSEを有する傾向があり、それによってそれらのノードのマージ試行はまず先延ばしになり、最終的に拒否されるためである。
第2の差異、すなわちノードの可変数の近傍によって、最小マージMSEを見つけるマージ試行数が増大する。しかしながら、マージ試行平均数は小さな数にとどまり、このため、クラスタリングを効率的に実行することができることが経験的にわかっている。
高速平面抽出方法
この発明による平面抽出方法は、以下の主要なステップ、すなわち、1)グラフ初期化、2)凝集型階層的クラスタリング(AHC)、3)境界精緻化を含む。用途が平面領域の粗いセグメンテーションしか必要としない場合、例えば用途が平面の法線を必要とするがそれらの境界情報を必要としない場合、境界精緻化ステップは省くことができ、これによって処理フレームレートを50Hzよりも高くまで増大させることができる。
グラフ初期化
上記で説明したように、この方法は、初期化中に互いに素な領域及び重複しないノードを生成する。図7に示すシーンを検討する。ここで、画像空間において定義される3D点は長方形領域701に一様に分割される。マークを一切有しない領域は初期ノードであり、グラフを形成する。他方で、幾つかのマークを有する領域は以下の理由により破棄されている。「○」は欠落データを有する領域を表し、「×」は奥行き不連続性を有する領域を表し、黒いドットは過度に大きな平面当てはめMSEを有する領域を表し、「B」は2つの連結平面間の境界領域に位置する領域を表す。
3Dセンサーにおける固有の制限に起因して、シーンの幾つかの領域は感知することができず、欠落データをもたらす。これは例えば雨戸の隣の窓ガラスである。欠落データ点を含む領域は検討されるべきでない。また、幾つかの領域は、領域が平面性の仮定に違反することに通常起因して、非常に大きな平面当てはめMSEを有する可能性があり、このため検討されるべきでない。
2つの他の異なるシナリオは、奥行き不連続性を含む領域、及び2つの平面間の境界における領域である。前者の場合、領域は3Dでは連結しないが、画像空間では視認方向に起因して互いに近くにある、2つの面上に位置する2組の点を含む。通常、一方の面が他方を部分的に遮蔽し、例えば、モニターがモニターの背後の壁Aを遮蔽する。
平面当てはめのために、この領域に属する点上で主成分解析(PCA)が実行される場合、当てはめられた平面は視認方向に対しほぼ平行であり、依然として小さなMSEを有する。この「アウトライア」領域をその近傍とマージすることは、最小二乗法におけるアウトライアの既知の過剰な重み付け問題に起因して、平面当てはめ結果に悪影響を有することになる。後者の場合、境界領域は3Dにおいて互いに近いが、2つの異なる面にある点、例えば部屋の隅を含み、これによってマージ後の平面当てはめ精度が減少する。このため、そのような領域を排除する。
凝集型階層的クラスタリング
図6に示す線抽出の場合のように双方向連結リストに対し動作する代わりに、この発明によるAHCはグラフに対し動作する。グラフ内の全てのノードの中から、現在、最小の平面当てはめMSEを有するノードvを求め、その近傍ノードのうちの、最小マージMSEを与える近傍ノードubestとマージすることを試みる。グラフ内の各ノードは、1組の点である領域を表し、このためマージMSEは、2つの組の和集合umergeの平面当てはめMSEであることを想起されたい。
この最小マージMSEが或る所定の閾値TMSEを超える場合、平面セグメントvが発見され、グラフから抽出される。そうでない場合、vとubestとの間のエッジ収縮によって、マージされたノードumergeがグラフに戻して加えられる。
実施態様の詳細
幾つかの実施態様の詳細によって、粗い平面抽出の速度及び精度が改善する。
1.各ノードvi,jのメンバーシップを追跡するために互いに素な組のデータ構造が用いられる。
2.最小平面当てはめMSEを有するノードを効率的に発見するために、最小ヒープデータ構造が用いられる。最小ヒープは、各ノード内に含まれるデータがそのノードの子におけるデータ以下であるような完全な二分木である。
3.全てのノードが、表される領域内の全ての点の一次統計及び二次統計、すなわち、
Σxi,j,Σyi,j,Σzi,j,Σx2 i,j,Σy2 i,j,Σz2 i,j,
Σxi,ji,j,Σyi,ji,j,Σzi,ji,j,
を維持し、それによって、2つのノードをマージし、PCAを通じてその平面方程式及びMSEを計算することが一定時間動作であるようにする。
4.奥行き不連続性は、ノードを拒否することを断定し(predicate)、セグメントを抽出するための閾値TMSEはセンサー雑音特性に依拠する。
境界精緻化
多くの用途にとって、粗い平面は、平面境界における鋸歯エッジ等のアーティファクト、遮蔽境界における用いられないデータ点、及び過剰なセグメンテーションに起因して不十分である場合がある。
そのようなアーティファクトは、境界領域の侵食と、それに続く、プリミティブとして個々の点を用いた領域成長とによって低減することができる。領域成長は全ての新たな境界点から開始し、全ての使用されていないデータ点を、以前に抽出された最も近い平面に割り当てる。
用途
この発明の方法によって抽出される平面は多くの用途において用いることができる。平面は、異なる座標系において定義された1組の3D点群を位置合わせするのに用いることができる。位置合わせは、その法線が3D空間に広がる3つ以上の平面が存在するときに行うことができ、そうでない場合、3D点は、平面と併せて位置合わせに用いることができる。
平面は、個々の点よりも3Dセンサー測定値の雑音によって受ける影響が少ない。このため、平面を用いることによって、3D点群における元の3D点を用いるよりも、3Dロケーションのより精緻な座標を求めることができる。
例えば、平面が図7に示す点群に当てはめられた後、モニターの角の3D座標を抽出することができる。3Dロケーションの座標は、平面の境界点として、又は平面の境界点に当てはめられた或る形状の特徴点(例えば、境界点に当てはめられた円の中心)として自動的に求めることができる。3D座標は、奥行きマップにおけるピクセルロケーションを選択することによって手作業で指定することもでき、そこから、ピクセルを平面上に逆投影することによって3D座標が求められる。

Claims (18)

  1. 3次元(3D)点から平面を抽出する方法であって、
    3次元(3D)センサーにより奥行きマップを取得するステップであって、前記奥行きマップはピクセルの二次元グリッドを有し、各ピクセルは奥行き値を有するものと、
    前記奥行きマップを逆投影して3次元(3D)点群を生成するステップと、
    前記3D点を互いに素な領域に分割するステップと、
    ノード及びエッジのグラフを構築するステップであって、前記ノードは前記領域を表し、前記エッジは前記領域の近傍関係を表し、各ノードは1組の3D点、前記1組の3D点に当てはめられた面および前記面に対する前記1組の3D点の平均二乗誤差(MSE)を含むものと、
    凝集型階層的クラスタリングを前記グラフに適用するステップであって、同じ平面に属する領域をマージし、前記凝集型階層的クラスタリングの各反復において、最小MSEを有するノードが選択されて近傍ノードの中から最小マージMSEを有する近傍ノードの1つとマージされるものと、
    を含み、
    前記ステップはプロセッサにおいて実行される、3次元点から平面を抽出する方法。
  2. 前記3D点は3Dセンサーによって取得される、請求項1に記載の方法。
  3. 前記平面の境界を精緻化するために領域成長を適用するステップを更に含む、請求項1に記載の方法。
  4. 前記平面は画像シーケンスからリアルタイムで抽出される、請求項1に記載の方法。
  5. 前記分割は一様であり、前記領域はサイズが等しい、請求項1に記載の方法。
  6. 前記3D点は組織化され、2Dインデックスを有する、請求項1に記載の方法。
  7. 前記2Dインデックスは、前記分割するステップ及び前記構築するステップのために用いられる、請求項6に記載の方法。
  8. 前記各領域内の全ての点の一次統計及び二次統計を維持するステップを更に含む、請求項1に記載の方法。
  9. 前記3D点は組織化されない、請求項1に記載の方法。
  10. 3D空間において1組のボクセルを定義するステップと、
    前記各3D点を該3D点の座標に従ってボクセルに割り当てるステップと、
    少なくとも1つの3D点を有するボクセルを前記ノードであると決定するステップと、
    2つのボクセルが前記3D空間において互いに隣り合っている場合に、該ボクセル間の前記エッジを定義するステップと、
    を更に含む、請求項9に記載の方法。
  11. 前記分割は一様でない、請求項1に記載の方法。
  12. 異なる座標系において定義された前記3D点の組を、前記3D点の前記各組から抽出された前記平面を用いることによって位置合わせするステップを更に含む、請求項1に記載の方法。
  13. 前記位置合わせするステップは前記3D点及び前記平面を用いる、請求項12に記載の方法。
  14. 前記平面は、3Dロケーションの座標を求めるのに用いられる、請求項1に記載の方法。
  15. 前記3Dロケーションは手作業で指定される、請求項14に記載の方法。
  16. 前記3Dロケーションは自動的に求められる、請求項14に記載の方法。
  17. 3次元(3D)点から平面を抽出する画像処理装置であって、前記画像処理装置は、
    奥行きマップを取得するように構成された3次元(3D)センサーであって、前記奥行きマップはピクセルの二次元グリッドを有し、各ピクセルは奥行き値を有するものと、
    前記3Dセンサーに動作的に接続され前記奥行きマップを受けるプロセッサと、
    を備え、前記プロセッサは、
    前記奥行きマップを逆投影して3次元(3D)点群を生成し、
    前記3D点群を互いに素な領域に分割し、
    ノード及びエッジのグラフを構築し、前記ノードは前記領域を表し、前記エッジは前記領域の近傍関係を表し、各ノードは1組の3D点、前記1組の3D点に当てはめられた面および前記面に対する前記1組の3D点の平均二乗誤差(MSE)を含み、
    凝集型階層的クラスタリングを前記グラフに適用し、同じ平面に属する領域をマージし、前記凝集型階層的クラスタリングの各反復において、最小MSEを有するノードが選択されて近傍ノードの中から最小マージMSEを有する近傍ノードの1つとマージされる、
    ように構成さている、
    3次元(3D)点から平面を抽出する画像処理装置。
  18. 3次元(3D)点から平面を抽出するために画像処理をプロセッサに実行させるプログラムを記憶した非一次的なコンピュータ可読媒体であって、前記画像処理は、
    3次元(3D)センサーにより奥行きマップを取得するステップであって、前記奥行きマップはピクセルの二次元グリッドを有し、各ピクセルは奥行き値を有するものと、
    前記奥行きマップを逆投影して3次元(3D)点群を生成するステップと、
    前記3D点を互いに素な領域に分割するステップと、
    ノード及びエッジのグラフを構築するステップであって、前記ノードは前記領域を表し、前記エッジは前記領域の近傍関係を表し、各ノードは1組の3D点、前記1組の3D点に当てはめられた面および前記面に対する前記1組の3D点の平均二乗誤差(MSE)を含むものと、
    凝集型階層的クラスタリングを前記グラフに適用するステップであって、同じ平面に属する領域をマージし、前記凝集型階層的クラスタリングの各反復において、最小MSEを有するノードが選択されて近傍ノードの中から最小マージMSEを有する近傍ノードの1つとマージされるものと、
    を含み、
    前記ステップは前記プロセッサにおいて実行される、プログラムを記憶した非一次的なコンピュータ可読媒体。
JP2014228683A 2013-12-04 2014-11-11 3次元点群から平面を抽出する、方法、画像処理装置およびプログラムを記憶した非一次的なコンピュータ可読媒体 Active JP6261489B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US14/096,378 US9412040B2 (en) 2013-12-04 2013-12-04 Method for extracting planes from 3D point cloud sensor data
US14/096,378 2013-12-04

Publications (3)

Publication Number Publication Date
JP2015108621A JP2015108621A (ja) 2015-06-11
JP2015108621A5 JP2015108621A5 (ja) 2017-09-21
JP6261489B2 true JP6261489B2 (ja) 2018-01-17

Family

ID=53265607

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014228683A Active JP6261489B2 (ja) 2013-12-04 2014-11-11 3次元点群から平面を抽出する、方法、画像処理装置およびプログラムを記憶した非一次的なコンピュータ可読媒体

Country Status (2)

Country Link
US (1) US9412040B2 (ja)
JP (1) JP6261489B2 (ja)

Families Citing this family (138)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9071740B1 (en) 2011-10-28 2015-06-30 Google Inc. Modular camera system
US9537968B1 (en) 2012-01-06 2017-01-03 Google Inc. Communication of socket protocol based data over a storage protocol based interface
US9197686B1 (en) 2012-01-06 2015-11-24 Google Inc. Backfill of video stream
US20150269436A1 (en) * 2014-03-18 2015-09-24 Qualcomm Incorporated Line segment tracking in computer vision applications
US9600892B2 (en) * 2014-11-06 2017-03-21 Symbol Technologies, Llc Non-parametric method of and system for estimating dimensions of objects of arbitrary shape
US9396554B2 (en) 2014-12-05 2016-07-19 Symbol Technologies, Llc Apparatus for and method of estimating dimensions of an object associated with a code in automatic response to reading the code
US9544485B2 (en) 2015-05-27 2017-01-10 Google Inc. Multi-mode LED illumination system
US9613423B2 (en) * 2015-06-12 2017-04-04 Google Inc. Using a depth map of a monitored scene to identify floors, walls, and ceilings
US9454820B1 (en) 2015-06-12 2016-09-27 Google Inc. Using a scene illuminating infrared emitter array in a video monitoring camera for depth determination
US9626849B2 (en) * 2015-06-12 2017-04-18 Google Inc. Using scene information from a security camera to reduce false security alerts
US9886620B2 (en) 2015-06-12 2018-02-06 Google Llc Using a scene illuminating infrared emitter array in a video monitoring camera to estimate the position of the camera
US9554063B2 (en) 2015-06-12 2017-01-24 Google Inc. Using infrared images of a monitored scene to identify windows
US9386230B1 (en) 2015-06-12 2016-07-05 Google Inc. Day and night detection based on one or more of illuminant detection, lux level detection, and tiling
US9489745B1 (en) 2015-06-12 2016-11-08 Google Inc. Using depth maps of a scene to identify movement of a video camera
US9235899B1 (en) 2015-06-12 2016-01-12 Google Inc. Simulating an infrared emitter array in a video monitoring camera to construct a lookup table for depth determination
US9858683B2 (en) * 2015-08-05 2018-01-02 Intel Corporation Method and system of planar surface detection objects in 3d space generated from captured images for image processing
CN105184855B (zh) * 2015-08-25 2018-09-11 广州市城市规划勘测设计研究院 基于三维点云的特征面构建方法及装置
ITUB20154043A1 (it) 2015-09-30 2017-03-30 Datalogic IP Tech Srl Sistema e metodo di lettura di informazioni codificate
US10268740B2 (en) 2015-10-14 2019-04-23 Tharmalingam Satkunarajah 3D analytics actionable solution support system and apparatus
CN105252532B (zh) * 2015-11-24 2017-07-04 山东大学 动作捕捉机器人协同柔性姿态控制的方法
CN108604301B (zh) * 2015-12-04 2022-03-25 欧特克公司 用于大rgb-d扫描的可缩放自动全局配准的基于关键点的点对特征
US9807365B2 (en) * 2015-12-08 2017-10-31 Mitsubishi Electric Research Laboratories, Inc. System and method for hybrid simultaneous localization and mapping of 2D and 3D data acquired by sensors from a 3D scene
US10352689B2 (en) 2016-01-28 2019-07-16 Symbol Technologies, Llc Methods and systems for high precision locationing with depth values
US10145955B2 (en) 2016-02-04 2018-12-04 Symbol Technologies, Llc Methods and systems for processing point-cloud data with a line scanner
US10721451B2 (en) 2016-03-23 2020-07-21 Symbol Technologies, Llc Arrangement for, and method of, loading freight into a shipping container
US9805240B1 (en) 2016-04-18 2017-10-31 Symbol Technologies, Llc Barcode scanning and dimensioning
GB201607639D0 (en) 2016-05-02 2016-06-15 Univ Leuven Kath Sensing method
EP3261071B1 (en) * 2016-06-22 2020-04-01 Outsight Methods and systems for detecting intrusions in a monitored volume
US10776661B2 (en) 2016-08-19 2020-09-15 Symbol Technologies, Llc Methods, systems and apparatus for segmenting and dimensioning objects
US10255720B1 (en) * 2016-10-13 2019-04-09 Bentley Systems, Incorporated Hybrid mesh from 2.5D and 3D point data
US10180615B2 (en) 2016-10-31 2019-01-15 Google Llc Electrochromic filtering in a camera
JP7061964B2 (ja) * 2016-11-01 2022-05-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ データ生成方法及びデータ生成装置
US11042161B2 (en) 2016-11-16 2021-06-22 Symbol Technologies, Llc Navigation control method and apparatus in a mobile automation system
US10451405B2 (en) 2016-11-22 2019-10-22 Symbol Technologies, Llc Dimensioning system for, and method of, dimensioning freight in motion along an unconstrained path in a venue
US10354411B2 (en) 2016-12-20 2019-07-16 Symbol Technologies, Llc Methods, systems and apparatus for segmenting objects
CN106644090B (zh) * 2016-12-29 2020-05-22 中南大学 一种基于kinect的求职仪态测试方法及其系统
DE102017201169A1 (de) 2017-01-25 2018-07-26 Siemens Aktiengesellschaft Rechnergestütztes Bildverarbeitungsverfahren
JP6501420B2 (ja) 2017-01-31 2019-04-17 株式会社トヨタマップマスター プローブ情報処理装置、プローブ情報処理方法、コンピュータプログラム及びコンピュータプログラムを記録した記録媒体
US10176589B2 (en) 2017-01-31 2019-01-08 Mitsubishi Electric Research Labroatories, Inc. Method and system for completing point clouds using planar segments
US10089750B2 (en) 2017-02-02 2018-10-02 Intel Corporation Method and system of automatic object dimension measurement by using image processing
WO2018204342A1 (en) 2017-05-01 2018-11-08 Symbol Technologies, Llc Product status detection system
US10663590B2 (en) 2017-05-01 2020-05-26 Symbol Technologies, Llc Device and method for merging lidar data
US10726273B2 (en) 2017-05-01 2020-07-28 Symbol Technologies, Llc Method and apparatus for shelf feature and object placement detection from shelf images
US10949798B2 (en) 2017-05-01 2021-03-16 Symbol Technologies, Llc Multimodal localization and mapping for a mobile automation apparatus
US11367092B2 (en) 2017-05-01 2022-06-21 Symbol Technologies, Llc Method and apparatus for extracting and processing price text from an image set
US11449059B2 (en) 2017-05-01 2022-09-20 Symbol Technologies, Llc Obstacle detection for a mobile automation apparatus
US11978011B2 (en) 2017-05-01 2024-05-07 Symbol Technologies, Llc Method and apparatus for object status detection
US10591918B2 (en) 2017-05-01 2020-03-17 Symbol Technologies, Llc Fixed segmented lattice planning for a mobile automation apparatus
US11600084B2 (en) 2017-05-05 2023-03-07 Symbol Technologies, Llc Method and apparatus for detecting and interpreting price label text
JP6907061B2 (ja) * 2017-07-21 2021-07-21 株式会社タダノ 測定対象物の上面推定方法、ガイド情報表示装置およびクレーン
JP6965050B2 (ja) * 2017-07-21 2021-11-10 株式会社タダノ ガイド情報表示装置およびこれを備えたクレーンおよびガイド情報表示方法
JP6845106B2 (ja) * 2017-07-21 2021-03-17 株式会社タダノ 点群データのクラスタリング方法、ガイド情報表示装置およびクレーン
US10521914B2 (en) 2017-09-07 2019-12-31 Symbol Technologies, Llc Multi-sensor object recognition system and method
US10572763B2 (en) 2017-09-07 2020-02-25 Symbol Technologies, Llc Method and apparatus for support surface edge detection
US11818401B2 (en) 2017-09-14 2023-11-14 Apple Inc. Point cloud geometry compression using octrees and binary arithmetic encoding with adaptive look-up tables
US10861196B2 (en) 2017-09-14 2020-12-08 Apple Inc. Point cloud compression
US11113845B2 (en) 2017-09-18 2021-09-07 Apple Inc. Point cloud compression using non-cubic projections and masks
US10909725B2 (en) 2017-09-18 2021-02-02 Apple Inc. Point cloud compression
EP3483629B1 (en) * 2017-11-09 2021-12-29 Veoneer Sweden AB Detecting a parking row with a vehicle radar system
US10607373B2 (en) 2017-11-22 2020-03-31 Apple Inc. Point cloud compression with closed-loop color conversion
KR102509823B1 (ko) * 2017-12-27 2023-03-14 삼성전자주식회사 그리드 기반의 평면 추정 방법 및 장치
JP7373700B2 (ja) * 2018-03-05 2023-11-06 株式会社アールティ 画像処理装置、ビンピッキングシステム、画像処理方法、画像処理プログラム、制御方法及び制御プログラム
US11327504B2 (en) 2018-04-05 2022-05-10 Symbol Technologies, Llc Method, system and apparatus for mobile automation apparatus localization
US10823572B2 (en) 2018-04-05 2020-11-03 Symbol Technologies, Llc Method, system and apparatus for generating navigational data
US10809078B2 (en) 2018-04-05 2020-10-20 Symbol Technologies, Llc Method, system and apparatus for dynamic path generation
US10740911B2 (en) 2018-04-05 2020-08-11 Symbol Technologies, Llc Method, system and apparatus for correcting translucency artifacts in data representing a support structure
US10832436B2 (en) 2018-04-05 2020-11-10 Symbol Technologies, Llc Method, system and apparatus for recovering label positions
US10909726B2 (en) 2018-04-10 2021-02-02 Apple Inc. Point cloud compression
US10939129B2 (en) 2018-04-10 2021-03-02 Apple Inc. Point cloud compression
US10909727B2 (en) 2018-04-10 2021-02-02 Apple Inc. Hierarchical point cloud compression with smoothing
US11010928B2 (en) 2018-04-10 2021-05-18 Apple Inc. Adaptive distance based point cloud compression
CN108629315B (zh) * 2018-05-07 2020-09-25 河海大学 一种针对三维点云的多平面识别方法
CN110533707B (zh) * 2018-05-24 2023-04-14 微软技术许可有限责任公司 照明估计
KR102170453B1 (ko) * 2018-06-25 2020-10-28 재단법인 실감교류인체감응솔루션연구단 3차원 평면추출 방법 및 그 장치
US11017566B1 (en) 2018-07-02 2021-05-25 Apple Inc. Point cloud compression with adaptive filtering
US11202098B2 (en) 2018-07-05 2021-12-14 Apple Inc. Point cloud compression with multi-resolution video encoding
US11012713B2 (en) 2018-07-12 2021-05-18 Apple Inc. Bit stream structure for compressed point cloud data
US10887574B2 (en) 2018-07-31 2021-01-05 Intel Corporation Selective packing of patches for immersive video
US10685476B2 (en) * 2018-07-31 2020-06-16 Intel Corporation Voxels sparse representation
US11212506B2 (en) 2018-07-31 2021-12-28 Intel Corporation Reduced rendering of six-degree of freedom video
US10893299B2 (en) 2018-07-31 2021-01-12 Intel Corporation Surface normal vector processing mechanism
US10762394B2 (en) 2018-07-31 2020-09-01 Intel Corporation System and method for 3D blob classification and transmission
US11178373B2 (en) 2018-07-31 2021-11-16 Intel Corporation Adaptive resolution of point cloud and viewpoint prediction for video streaming in computing environments
CN110827376A (zh) * 2018-08-09 2020-02-21 北京微播视界科技有限公司 增强现实多平面模型动画交互方法、装置、设备及存储介质
US11367224B2 (en) 2018-10-02 2022-06-21 Apple Inc. Occupancy map block-to-patch information compression
US11010920B2 (en) 2018-10-05 2021-05-18 Zebra Technologies Corporation Method, system and apparatus for object detection in point clouds
US11506483B2 (en) 2018-10-05 2022-11-22 Zebra Technologies Corporation Method, system and apparatus for support structure depth determination
US11057631B2 (en) 2018-10-10 2021-07-06 Intel Corporation Point cloud coding standard conformance definition in computing environments
US11090811B2 (en) 2018-11-13 2021-08-17 Zebra Technologies Corporation Method and apparatus for labeling of support structures
US11003188B2 (en) 2018-11-13 2021-05-11 Zebra Technologies Corporation Method, system and apparatus for obstacle handling in navigational path generation
US10902260B2 (en) 2018-11-29 2021-01-26 International Business Machines Corporation Estimating a height of a cloud depicted in an image
US11416000B2 (en) 2018-12-07 2022-08-16 Zebra Technologies Corporation Method and apparatus for navigational ray tracing
US11079240B2 (en) 2018-12-07 2021-08-03 Zebra Technologies Corporation Method, system and apparatus for adaptive particle filter localization
US11100303B2 (en) 2018-12-10 2021-08-24 Zebra Technologies Corporation Method, system and apparatus for auxiliary label detection and association
US11015938B2 (en) 2018-12-12 2021-05-25 Zebra Technologies Corporation Method, system and apparatus for navigational assistance
US10731970B2 (en) 2018-12-13 2020-08-04 Zebra Technologies Corporation Method, system and apparatus for support structure detection
CA3028708A1 (en) 2018-12-28 2020-06-28 Zih Corp. Method, system and apparatus for dynamic loop closure in mapping trajectories
US11057564B2 (en) 2019-03-28 2021-07-06 Apple Inc. Multiple layer flexure for supporting a moving image sensor
US11074749B2 (en) 2019-04-26 2021-07-27 Microsoft Technology Licensing, Llc Planar surface detection
US11176374B2 (en) 2019-05-01 2021-11-16 Microsoft Technology Licensing, Llc Deriving information from images
CN112017239B (zh) * 2019-05-31 2022-12-20 北京市商汤科技开发有限公司 确定目标对象朝向方法、智能驾驶控制方法和装置及设备
CN111684808A (zh) * 2019-05-31 2020-09-18 深圳市大疆创新科技有限公司 点云数据的编码方法、编码装置、解码方法与解码装置
US11402846B2 (en) 2019-06-03 2022-08-02 Zebra Technologies Corporation Method, system and apparatus for mitigating data capture light leakage
US11662739B2 (en) 2019-06-03 2023-05-30 Zebra Technologies Corporation Method, system and apparatus for adaptive ceiling-based localization
US11960286B2 (en) 2019-06-03 2024-04-16 Zebra Technologies Corporation Method, system and apparatus for dynamic task sequencing
US11151743B2 (en) 2019-06-03 2021-10-19 Zebra Technologies Corporation Method, system and apparatus for end of aisle detection
US11080566B2 (en) 2019-06-03 2021-08-03 Zebra Technologies Corporation Method, system and apparatus for gap detection in support structures with peg regions
US11341663B2 (en) 2019-06-03 2022-05-24 Zebra Technologies Corporation Method, system and apparatus for detecting support structure obstructions
US11200677B2 (en) 2019-06-03 2021-12-14 Zebra Technologies Corporation Method, system and apparatus for shelf edge detection
JP7395856B2 (ja) * 2019-07-01 2023-12-12 セイコーエプソン株式会社 印刷制御装置、印刷制御プログラム、及び、印刷物生産方法
US11711544B2 (en) 2019-07-02 2023-07-25 Apple Inc. Point cloud compression with supplemental information messages
CN110660053A (zh) * 2019-09-23 2020-01-07 北京华捷艾米科技有限公司 点云数据的平面检测方法及装置
US11627314B2 (en) 2019-09-27 2023-04-11 Apple Inc. Video-based point cloud compression with non-normative smoothing
US11562507B2 (en) 2019-09-27 2023-01-24 Apple Inc. Point cloud compression using video encoding with time consistent patches
US11538196B2 (en) 2019-10-02 2022-12-27 Apple Inc. Predictive coding for point cloud compression
US11895307B2 (en) 2019-10-04 2024-02-06 Apple Inc. Block-based predictive coding for point cloud compression
US11507103B2 (en) 2019-12-04 2022-11-22 Zebra Technologies Corporation Method, system and apparatus for localization-based historical obstacle handling
US11107238B2 (en) 2019-12-13 2021-08-31 Zebra Technologies Corporation Method, system and apparatus for detecting item facings
US11798196B2 (en) 2020-01-08 2023-10-24 Apple Inc. Video-based point cloud compression with predicted patches
US11475605B2 (en) 2020-01-09 2022-10-18 Apple Inc. Geometry encoding of duplicate points
US20210245047A1 (en) 2020-02-10 2021-08-12 Intel Corporation Continuum architecture for cloud gaming
US11941818B1 (en) * 2020-03-17 2024-03-26 Apple Inc. Edge locator
US11822333B2 (en) 2020-03-30 2023-11-21 Zebra Technologies Corporation Method, system and apparatus for data capture illumination control
US11615557B2 (en) 2020-06-24 2023-03-28 Apple Inc. Point cloud compression using octrees with slicing
US11620768B2 (en) 2020-06-24 2023-04-04 Apple Inc. Point cloud geometry compression using octrees with multiple scan orders
US11450024B2 (en) 2020-07-17 2022-09-20 Zebra Technologies Corporation Mixed depth object detection
US11593915B2 (en) 2020-10-21 2023-02-28 Zebra Technologies Corporation Parallax-tolerant panoramic image generation
CN112164145B (zh) * 2020-10-30 2022-04-29 武汉大学 基于点云数据快速提取室内三维线段结构的方法
US11392891B2 (en) 2020-11-03 2022-07-19 Zebra Technologies Corporation Item placement detection and optimization in material handling systems
US11847832B2 (en) 2020-11-11 2023-12-19 Zebra Technologies Corporation Object classification for autonomous navigation systems
WO2022126380A1 (zh) * 2020-12-15 2022-06-23 深圳市大疆创新科技有限公司 三维点云分割方法和装置、可移动平台
US11948338B1 (en) 2021-03-29 2024-04-02 Apple Inc. 3D volumetric content encoding using 2D videos and simplified 3D meshes
US11651533B2 (en) 2021-05-07 2023-05-16 Tencent America LLC Method and apparatus for generating a floor plan
US11954882B2 (en) 2021-06-17 2024-04-09 Zebra Technologies Corporation Feature-based georegistration for mobile computing devices
US11544419B1 (en) 2021-07-26 2023-01-03 Pointlab, Inc. Subsampling method for converting 3D scan data of an object for marine, civil, and architectural works into smaller densities for processing without CAD processing
US20230092198A1 (en) * 2021-09-23 2023-03-23 Aeye, Inc. Systems and methods of real-time detection of and geometry generation for physical ground planes
CN113920122B (zh) * 2021-12-15 2022-03-04 山东鹰联光电科技股份有限公司 一种基于人工智能的电缆缺陷检测方法及系统
GB2621906A (en) * 2023-03-30 2024-02-28 Gpc Systems Ltd A system and method for processing image data

Family Cites Families (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5961571A (en) * 1994-12-27 1999-10-05 Siemens Corporated Research, Inc Method and apparatus for automatically tracking the location of vehicles
US5988862A (en) * 1996-04-24 1999-11-23 Cyra Technologies, Inc. Integrated system for quickly and accurately imaging and modeling three dimensional objects
US5978504A (en) * 1997-02-19 1999-11-02 Carnegie Mellon University Fast planar segmentation of range data for mobile robots
US6650779B2 (en) * 1999-03-26 2003-11-18 Georgia Tech Research Corp. Method and apparatus for analyzing an image to detect and identify patterns
EP1444654A2 (de) * 2001-03-08 2004-08-11 Universite Joseph Fourier Quantitative analyse, visualisierung und bewegungskorrektur in dynamischen prozessen
US20030038802A1 (en) * 2001-08-23 2003-02-27 Johnson Richard K. Automatic delineation of heart borders and surfaces from images
JP4016180B2 (ja) * 2002-03-15 2007-12-05 ソニー株式会社 平面抽出方法、その装置、そのプログラム、その記録媒体及び撮像装置
US7129942B2 (en) * 2002-12-10 2006-10-31 International Business Machines Corporation System and method for performing domain decomposition for multiresolution surface analysis
KR20060015557A (ko) * 2003-04-28 2006-02-17 스티븐 제임스 크램톤 외골격을 구비한 cmm 암
US7978887B2 (en) * 2003-06-17 2011-07-12 Brown University Methods and apparatus for identifying subject matter in view data
US7643966B2 (en) * 2004-03-10 2010-01-05 Leica Geosystems Ag Identification of 3D surface points using context-based hypothesis testing
JP4636016B2 (ja) * 2004-03-17 2011-02-23 ソニー株式会社 平面検出装置、平面検出方法、及び平面検出装置を搭載したロボット装置
US7352369B2 (en) * 2004-04-29 2008-04-01 Landmark Graphics Corporation System and method for approximating an editable surface
WO2006083297A2 (en) * 2004-06-10 2006-08-10 Sarnoff Corporation Method and apparatus for aligning video to three-dimensional point clouds
US20060052943A1 (en) * 2004-07-28 2006-03-09 Karthik Ramani Architectures, queries, data stores, and interfaces for proteins and drug molecules
US8144921B2 (en) * 2007-07-11 2012-03-27 Ricoh Co., Ltd. Information retrieval using invisible junctions and geometric constraints
JP4509860B2 (ja) * 2005-05-25 2010-07-21 株式会社東芝 データ分割装置、データ分割方法およびプログラム
US8004517B1 (en) * 2005-06-24 2011-08-23 Geomagic, Inc. Methods, apparatus and computer program products that model three-dimensional surface structures
US7602990B2 (en) * 2005-09-29 2009-10-13 Mitsubishi Electric Research Laboratories, Inc. Matting using camera arrays
US8014590B2 (en) * 2005-12-07 2011-09-06 Drvision Technologies Llc Method of directed pattern enhancement for flexible recognition
WO2007137388A1 (en) * 2006-05-26 2007-12-06 Corporation Spg Data3D Photogrammetric system and techniques for 3d acquisition
US7881540B2 (en) * 2006-12-05 2011-02-01 Fujifilm Corporation Method and apparatus for detection using cluster-modified graph cuts
US20080294332A1 (en) * 2007-01-17 2008-11-27 3-D-V-U Israel (2000) Ltd. Method for Image Based Navigation Route Corridor For 3D View on Mobile Platforms for Mobile Users
US8005767B1 (en) * 2007-02-13 2011-08-23 The United States Of America As Represented By The Secretary Of The Navy System and method of classifying events
US8355552B2 (en) * 2007-06-20 2013-01-15 The Trustees Of Columbia University In The City Of New York Automated determination of lymph nodes in scanned images
JP4535096B2 (ja) * 2007-07-27 2010-09-01 ソニー株式会社 平面抽出方法、その装置、そのプログラム、その記録媒体及び撮像装置
JP4994256B2 (ja) * 2008-01-28 2012-08-08 株式会社ジオ技術研究所 経路案内データベースのデータ構造
EP2093699A1 (en) * 2008-02-19 2009-08-26 British Telecommunications Public Limited Company Movable object status determination
US8577115B2 (en) * 2008-03-04 2013-11-05 Tomotherapy Incorporated Method and system for improved image segmentation
US20140321756A9 (en) * 2008-05-27 2014-10-30 Samsung Electronics Co., Ltd. System and method for circling detection based on object trajectory
US8243988B1 (en) * 2008-07-31 2012-08-14 Google Inc. Clustering images using an image region graph
CN102112845B (zh) * 2008-08-06 2013-09-11 形创有限公司 用于表面特征自适应性三维扫描的系统
US8179393B2 (en) * 2009-02-13 2012-05-15 Harris Corporation Fusion of a 2D electro-optical image and 3D point cloud data for scene interpretation and registration performance assessment
US8823775B2 (en) * 2009-04-30 2014-09-02 Board Of Regents, The University Of Texas System Body surface imaging
US8340400B2 (en) * 2009-05-06 2012-12-25 Honeywell International Inc. Systems and methods for extracting planar features, matching the planar features, and estimating motion from the planar features
CN102770864B (zh) * 2010-01-29 2014-05-28 香港科技大学 基于图像的建筑物图案检测以及建模
US8199977B2 (en) * 2010-05-07 2012-06-12 Honeywell International Inc. System and method for extraction of features from a 3-D point cloud
US20110310088A1 (en) * 2010-06-17 2011-12-22 Microsoft Corporation Personalized navigation through virtual 3d environments
US8660365B2 (en) * 2010-07-29 2014-02-25 Honeywell International Inc. Systems and methods for processing extracted plane features
ES2392229B1 (es) * 2010-08-27 2013-10-16 Telefónica, S.A. Método de generación de un modelo de un objeto plano a partir de vistas del objeto.
US8908913B2 (en) * 2011-12-19 2014-12-09 Mitsubishi Electric Research Laboratories, Inc. Voting-based pose estimation for 3D sensors
CN103177254A (zh) * 2011-12-26 2013-06-26 鸿富锦精密工业(深圳)有限公司 量测元素提取系统及方法
US8983198B2 (en) * 2012-03-22 2015-03-17 The Charles Stark Draper Laboratory, Inc. Compressive sensing with local geometric features
US8600589B2 (en) * 2012-04-24 2013-12-03 Exelis, Inc. Point cloud visualization of acceptable helicopter landing zones based on 4D LIDAR
EP2680228B1 (en) * 2012-06-25 2014-11-26 Softkinetic Software Improvements in or relating to three dimensional close interactions.
US9183631B2 (en) * 2012-06-29 2015-11-10 Mitsubishi Electric Research Laboratories, Inc. Method for registering points and planes of 3D data in multiple coordinate systems
US9092692B2 (en) * 2012-09-13 2015-07-28 Los Alamos National Security, Llc Object detection approach using generative sparse, hierarchical networks with top-down and lateral connections for combining texture/color detection and shape/contour detection
US9076227B2 (en) * 2012-10-01 2015-07-07 Mitsubishi Electric Research Laboratories, Inc. 3D object tracking in multiple 2D sequences
US9558400B2 (en) * 2013-03-07 2017-01-31 Ricoh Company, Ltd. Search by stroke
JP6156922B2 (ja) * 2013-06-07 2017-07-05 Necソリューションイノベータ株式会社 三次元データ生成装置、三次元データ生成方法、及びプログラム
US10114823B2 (en) * 2013-11-04 2018-10-30 Ayasdi, Inc. Systems and methods for metric data smoothing

Also Published As

Publication number Publication date
US9412040B2 (en) 2016-08-09
JP2015108621A (ja) 2015-06-11
US20150154467A1 (en) 2015-06-04

Similar Documents

Publication Publication Date Title
JP6261489B2 (ja) 3次元点群から平面を抽出する、方法、画像処理装置およびプログラムを記憶した非一次的なコンピュータ可読媒体
CN109872397B (zh) 一种基于多目立体视觉的飞机零件的三维重建方法
JP7173772B2 (ja) 深度値推定を用いた映像処理方法及び装置
Cabral et al. Piecewise planar and compact floorplan reconstruction from images
Remondino et al. State of the art in high density image matching
JP7403528B2 (ja) シーンの色及び深度の情報を再構成するための方法及びシステム
KR102318023B1 (ko) 에지를 이용한 3차원 모델 생성
US10321112B2 (en) Stereo matching system and method of operating thereof
EP3326156B1 (en) Consistent tessellation via topology-aware surface tracking
Kuhn et al. Plane completion and filtering for multi-view stereo reconstruction
Alidoost et al. An image-based technique for 3D building reconstruction using multi-view UAV images
US20240127535A1 (en) Indoor structured reconstruction method, apparatus, and computer-readable storage medium
KR102393345B1 (ko) 3차원 점군 처리 시스템 및 방법
US20160232705A1 (en) Method for 3D Scene Reconstruction with Cross-Constrained Line Matching
Bebeselea-Sterp et al. A comparative study of stereovision algorithms
KR102158390B1 (ko) 영상 처리 방법 및 장치
CN112002007A (zh) 基于空地影像的模型获取方法及装置、设备、存储介质
Lazcano et al. Comparing different metrics on an anisotropic depth completion model
Lv et al. Semantically guided multi-view stereo for dense 3d road mapping
KR102220769B1 (ko) 깊이 지도 생성 방법, 깊이 지도 생성 장치, 영상 변환 방법 및 영상 변환 장치
JP6765653B2 (ja) デプスマップ生成装置、デプスマップ生成方法及びプログラム
Fan et al. Unsupervised depth completion and denoising for RGB-D sensors
US10480934B2 (en) Effective search for a silhouette cone to reconstruct a three dimensional shape of an object
Shi et al. Fast and effective integration of multiple overlapping range images
KR102648882B1 (ko) 3차원 지도에 대한 모델링 데이터의 경량화 방법

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170809

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170809

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20170809

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20170828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171212

R150 Certificate of patent or registration of utility model

Ref document number: 6261489

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250