JP6692464B2 - 点を有する入力点群を処理するシステム及び方法 - Google Patents

点を有する入力点群を処理するシステム及び方法 Download PDF

Info

Publication number
JP6692464B2
JP6692464B2 JP2018565895A JP2018565895A JP6692464B2 JP 6692464 B2 JP6692464 B2 JP 6692464B2 JP 2018565895 A JP2018565895 A JP 2018565895A JP 2018565895 A JP2018565895 A JP 2018565895A JP 6692464 B2 JP6692464 B2 JP 6692464B2
Authority
JP
Japan
Prior art keywords
point cloud
graph
points
point
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018565895A
Other languages
English (en)
Other versions
JP2019528500A (ja
Inventor
ティアン、ドン
チェン、シヘン
フェン、チェン
ヴェトロ、アンソニー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JP2019528500A publication Critical patent/JP2019528500A/ja
Application granted granted Critical
Publication of JP6692464B2 publication Critical patent/JP6692464B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/10Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/653Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Mathematics (AREA)
  • Algebra (AREA)
  • Multimedia (AREA)
  • Optics & Photonics (AREA)
  • Image Generation (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Medicines That Contain Protein Lipid Enzymes And Other Medicines (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本開示は、包括的には、点群の簡略化に関し、特に、編成されている点群も、編成されていない点群も簡略化することに関する。
3Dセンシング技術の近年の開発に伴って、3D点群は、多くの用途においてデータ点を表す実用的なフォーマットになってきた。センシングデバイスは、物体の表面上の多数の点を測定し、点群は、測定された点の集合を表す。点群は、通常、或る座標系における多数のデータ点を定める大量データセットを含む。例えば、物理物体のレーザースキャンは、通常、3D空間を表す直交座標(例えば、x,y,z)を用いた3タプルによってそれぞれ指定される数百万個のデータ点を含むデータセットを生成する。
そのような大規模な点群データセットの処理、解析及び報告は、困難である可能性がある。特に、点群データセットのサイズは、このデータを利用する必要があるシステムの設計能力及び動作能力を越えていることが多い。その結果、消費システムに適したレベルにデータの量を削減するために、点群データセットのサイズを削減する方法が重要な前処理ステップである。簡略化又は削減された点群データは、その後、より効率的に処理することができる。
点群データを簡略化する複数の関連技術手法がある。しかしながら、これらの関連技術手法は、物体の重要な特徴及び/又はデータによって表される表面等のデータを失う大きなリスクを伴っているか(例えば、サブサンプリング間引き、一様な空間クラスタリング)、又は、実施するのが複雑であり、したがって、計算的により多くに費用を要し、より多くの処理時間を要する。
したがって、この技術分野では、大量のデータから機械故障を検出及び/又は予測する改良された方法が必要とされている。
本開示の実施の形態は、点群を再サンプリングして重要な点(key point:キーポイント)の部分集合を保存することによって、編成されている点群も、編成されていない点群も簡略化することを対象としている。この手法は、当初の点のロケーションを変更することなく点の数を削減する。
本開示の実施の形態は、全てのアプリケーションに適したフォーマットで点群を表す必要がないという認識に基づいている。具体的には、点群は、特定のアプリケーション又は異なるアプリケーションごとに適応したフォーマットで表すことができ、点群は、異なるフォーマット/表現に再フォーマットすることができるようになっている。点群を異なるフォーマット/表現に再フォーマットすることによって、特定のアプリケーションに必要な点のみを保存するように、点群を再フォーマット又はプルーニングすることができる。少なくとも1つの目標は、特定の基本となるアプリケーションに応じて選択された情報を保存する、アプリケーションに応じた再サンプリングストラテジーを設計することである。例えば、点群内の輪郭検出のタスクでは、通常、これには、面法線の計算及び点の分類等の慎重で集約型の計算が必要とされる。点群全体を扱うのではなく、必要とされる輪郭情報の影響を受ける点の小さな部分集合を再サンプリングすることがより効率的であり、検出性能を失うことなく、その後の計算をより安価なものにする。他の例は、可視化アプリケーション及び/又は物体モデリングアプリケーションを含むことができ、特定の物体(他のものではない)の輪郭及び或るテクスチャを保存することができる。
本発明者らは、全ての目的に適した1つのバージョンの点群ではなく、特定の目的でプルーニングされた複数のバージョンの点群を記憶することがより効率的であることを認識している。これは、プルーニングされた異なる点群が同じ点を共有するときであっても当てはまる可能性がある。例えば、当初の点群内の100000個の点は、60000個の点に変えることもできるし、それぞれ5000個の点からなる5つの異なるプルーニングされた点グループにプルーニングすることもできる。したがって、異なるアプリケーションごとに点群をプルーニングして、異なるプルーニングされた点を生成し、対応するプルーニングされた点を用いて特定のアプリケーションを実行することによって、プルーニングは、重要な点に特有のアプリケーションの部分集合を保存することができる。他の利点は、点群全体を用いてアプリケーションを計算実行することを試みるときと比較して、計算量及び計算時間を削減するとともに特定のアプリケーションを実行する全コストを削減することを含むことができる。
本開示は、信号とグラフ構造(複数の場合もある)との間の相互作用に対する枠組みであるグラフ信号処理に根差した、点の部分集合を選択する技法を開示する。グラフを用いて、物体の表面の離散バージョンを表す点の間の局所依存関係が捕捉される。グラフを用いることの少なくとも1つの利点は、点群の局所構造及び大域構造の双方を捕捉することである。本開示の枠組みに基づくと、各点に関連した3D座標及び他の属性は、基本となるグラフのノードによってインデックス付けされたグラフ信号である。したがって、再サンプリング問題をグラフ信号のサンプリングとして定式化することが可能になる。しかしながら、グラフサンプリング技法は、通常、サンプルを逐次的に取得し、高価な計算を必要とする非凸最適化問題を解く決定論的な手法でサンプルを選択する。計算コストに影響を及ぼすために、本開示は、効率的なランダム化された再サンプリングストラテジーを用いて、入力点群から重要な点の部分集合を選ぶ。主要なアイデアは、高速であり、かつ、当初の入力点群内の情報を保存するのに著しく有用である或る特定のサンプリング分布に従ってサブサンプルを生成することである。
換言すれば、本開示は、特徴抽出ベースの再サンプリングの枠組みを検討する。すなわち、再サンプリングされた点は、特定のアプリケーションの特定のニーズに応じて選択された情報を保存する。その場合、一般的な特徴抽出演算子に基づいて、再構築誤差を用いることによって再サンプリングの質を定量化し、正確な形態を導出することが可能である。最適なサンプリング分布は、予想再構築誤差を最適化することによって得ることができる。本開示は、シフト不変及び回転不変であることが保証される最適なサンプリング分布を提供する。これは)、グラフフィルターであり(to be)、オールパスグラフフィルタリング、ローパスグラフフィルタリング及びハイパスグラフフィルタリングに基づく再サンプリングストラテジーを考慮した(study)特徴抽出演算子を提供する。いずれの場合にも、最適なサンプリング分布を導出し、模擬データ及びリアルデータの双方に対する性能を確認することが可能である。
この認識を説明する別の方法又はプルーニングをどのように行うことができるのかをより良く理解する別の方法として、本開示は、グラフの構造に従って、各ノードを、その近傍ノードの値に基づいてスコアリングすることによってグラフ上の各ノードを用いる。異なる各アプリケーションがそれら自身のスコアリング関数又は多数のスコアリング関数を有することができるように、スコアリング関数(複数の場合もある)を特定のアプリケーションに基づいて選択することができる。例えば、輪郭を求める場合、スコアリング関数は、近傍ノードの関数としてのノードの表現における誤差とすることができる。別の例は、ノードの異なる属性を考慮することができる異なるスコアリング関数とすることができる。本発明者らは、スコアリングが、同じ「スコア」値を有する点を扱うために「ランダム」な再サンプリングとともに用いることができるノードの確率を決定することができることを認識している。
入力点群の再サンプリング又は処理の解を求める際に、少なくとも1つのシステムは、まず、入力点群にアクセスすることから開始する。入力点群は点を含み、各点は2次元(2D)座標及び3次元(3D)座標並びに他の属性を含む属性の集合を含む。次のステップは、グラフ内のノードを表す入力点群内の各点に基づいて、入力点群を表すグラフを構築し(すなわち、グラフ頂点及びグラフエッジを構成する)、グラフ内の2つの近傍ノードを特定して接続し、グラフエッジを得ることである。
次に、構築されたグラフに基づいて、グラフフィルタリング関数が求められる。すなわち、入力点群内の或る特定の情報を促進(promote)又は維持する或る特定の基準に従ってグラフ演算子が求められる。入力点群からの属性の集合も、特定のアプリケーション要件に従って選択することができ、例えば、幾何学情報及び/又はテクスチャ構造を維持することができる。
次に、入力点群内の点の属性の部分集合を選択し、選択された属性の部分集合に対してグラフフィルタリング関数を適用することによって、入力点群内の各点をフィルタリングし、この入力点群内の各点の少なくとも1つの値が求められる。入力点群内の各点の少なくとも1つの値を用いて、各点の確率が、入力点群内の点の全ての値の総計と比較した当該点の少なくとも1つの値と、出力点群内の点の所定の数とに基づいて生成される。換言すれば、重要度スコアは、選択されたグラフ演算子を用いて点群内の各点について計算することができる。これらの重要度スコアに基づいて、各点の確率が生成される。
最後に、各点の確率のランダム評価を用いて、入力点群がサンプリングされ、出力点群である入力点群内の点の部分集合が得られる。これは、点の部分集合が確率に基づいて求められることを意味し、点の予想される総数を更なる使用のために出力することができる。例えば、出力点群は、メモリに記憶することもできるし、プロセッサと通信する出力インターフェースを介して出力することもできる。入力点群は、選択された出力点群、すなわち、システムからの重要な点の選択された部分集合と比較して、後に、より効率的に処理することができることに留意されたい。
例えば、大規模可視化の1つの実施の形態では、ハイパスグラフフィルタリングベースの再サンプリングを用いると、視認者が都市環境の点群内の重要な細部を捕捉することをより容易にすることができる。大規模可視化の1つの実施の形態について、本発明者らは、提案されたハイパスグラフフィルタリングベースの再サンプリングストラテジーを用いて、市街シーンにおける建物及び街路の輪郭を強調表示するように点の小さな部分集合を選択可能とすることができる。
別の例では、本開示は、提案されたローパスグラフフィルタリングベースの再サンプリングストラテジーを用いて点の小さな部分集合を選択すると、物体モデルパラメーターを特定することがより効率的かつ正確なものとすることができるようなロバストな形状モデリングの別の実施の形態を有することができる。そのようなモデリングは、雑音又は異常値が存在する点群において表面を見つけることを伴うことができ、本開示は、問題(複数の場合もある)を解くのに用いることができる。
本開示の一実施の形態によれば、点を有する入力点群を処理するシステムが提供される。各点は、2次元(2D)座標及び3次元(3D)座標並びに他の属性を含む属性の集合を含む。該システムは、シーンをセンシングし、コンピューター可読メモリと通信し、前記入力点群を生成するセンサーを備える。該システムは、出力インターフェースを備える。該システムは、コンピューター可読メモリと通信するプロセッサを備え、前記プロセッサは、前記入力点群にアクセスすることと、前記入力点群を表すグラフを、該グラフにおけるノードを表す前記入力点群内の各点に基づいて構築し、前記グラフにおける2つの近傍ノードを特定して接続し、グラフエッジを得ることとを行うように構成される。前記プロセッサは、前記構築されたグラフに基づいてグラフフィルタリング関数を求めるように構成される。前記プロセッサは、前記入力点群内の前記点の属性の部分集合を選択し、前記選択された属性の部分集合に対して前記グラフフィルタリング関数を適用することによって、前記入力点群内の各点をフィルタリングし、前記入力点群内の各点の少なくとも1つの値を求めるように構成される。前記プロセッサは、各点の確率を、前記入力点群内の前記点の全ての値の総計と比較した該点の前記少なくとも1つの値と、出力点群内の点の所定の数とに基づいて生成するように構成される。前記プロセッサは、各点の前記確率のランダム評価を用いて前記入力点群をサンプリングして、前記出力点群である前記入力点群内の点の部分集合を得るように構成される。最後に、前記プロセッサは、前記出力点群を前記コンピューター可読メモリに記憶するか、又は、前記プロセッサと通信する前記出力インターフェースを介して前記出力点群を出力するように構成される。前記出力点群は、その後の処理を支援するのに用いられ、前記入力点群データの管理を支援する。
本開示の別の実施の形態によれば、点を有する入力点群を処理する方法が提供される。各点は、2次元(2D)座標及び3次元(3D)座標並びに他の属性を含む属性の集合を含む。該方法は、コンピューター可読メモリと通信するセンサーを介してシーンをセンシングして前記入力点群を生成することを含む。該方法は、前記コンピューター可読メモリと通信するプロセッサを用いることを含み、前記プロセッサは、前記入力点群にアクセスすることと、前記入力点群を表すグラフを、該グラフにおけるノードを表す前記入力点群内の各点に基づいて構築し、前記グラフにおける2つの近傍ノードを特定して接続し、グラフエッジを得ることとを行うように構成される。前記プロセッサは、前記構築されたグラフに基づいてグラフフィルタリング関数を求めるように構成される。前記プロセッサは、前記入力点群内の前記点の属性の部分集合を選択し、前記選択された属性の部分集合に対して前記グラフフィルタリング関数を適用することによって、前記入力点群内の各点をフィルタリングし、前記入力点群内の各点の少なくとも1つの値を求めるように構成される。前記プロセッサは、各点の確率を、前記入力点群内の前記点の全ての値の総計と比較した該点の前記少なくとも1つの値と、出力点群内の点の所定の数とに基づいて生成するように構成される。前記プロセッサは、各点の前記確率のランダム評価を用いて前記入力点群をサンプリングして、前記出力点群である前記入力点群内の点の部分集合を得るように構成される。最後に、前記プロセッサは、前記出力点群を前記コンピューター可読メモリに記憶するか、又は、前記プロセッサと通信する前記出力インターフェースを介して前記出力点群を出力するように構成される。前記出力点群は、その後の処理を支援するのに用いられ、前記入力点群データの管理を支援する。
本開示の別の実施の形態によれば、方法を実行するコンピューターによって実行可能なプログラムを具現化した非一時的コンピューター可読記憶媒体が提供される。前記方法は、点を有する記憶された入力点群を処理するためのものであり、各点は、2次元(2D)座標及び3次元(3D)座標並びに他の属性を含む属性の集合を含む。前記方法は、該非一時的コンピューター可読記憶媒体と通信するセンサーを介してシーンをセンシングして前記入力点群を生成することを含む。前記方法は、前記入力点群を表すグラフを、該グラフにおけるノードを表す前記入力点群内の各点に基づいて構築し、前記グラフにおける2つの近傍ノードを特定して接続し、グラフエッジを得ることを含む。前記方法は、前記構築されたグラフに基づいてグラフフィルタリング関数を求めることを含む。前記方法は、前記入力点群内の前記点の属性の部分集合を選択し、前記選択された属性の部分集合に対して前記グラフフィルタリング関数を適用することによって、前記入力点群内の各点をフィルタリングし、前記入力点群内の各点の少なくとも1つの値を求めることを含む。前記方法は、各点の確率を、前記入力点群内の前記点の全ての値の総計と比較した該点の前記少なくとも1つの値と、出力点群内の点の所定の数とに基づいて生成することを含む。前記方法は、各点の前記確率のランダム評価を用いて前記入力点群をサンプリングして、前記出力点群である前記入力点群内の点の部分集合を得ることを含む。最後に、前記方法は、前記出力点群を前記非一時的コンピューター可読記憶媒体に記憶するか、又は、前記コンピューターと通信する出力インターフェースを介して前記出力点群を出力することを含む。前記出力点群は、その後の処理を支援するのに用いられ、前記入力点群データの管理を支援する。
ここに開示されている実施形態は、添付図面を参照して更に説明される。示されている図面は、必ずしも一律の縮尺というわけではなく、その代わり、一般的に、ここに開示されている実施形態の原理を示すことに強調が置かれている。
本開示の一実施形態による、点を有する入力点群を再サンプリング又は処理するシステムを示すブロック図である。 本開示の一実施形態による、入力点群を再サンプリング又は処理し、出力点群を再サンプリングして生成する図1Aのシステムを示すブロック図である。 本開示の実施形態による、局所変動をグラフ演算子によってどのように捕捉することができるのかを示すグラフ、すなわち、点2が点1及び点3の凸結合であり、したがって、点2の局所変動が0であることを示すグラフである。 本開示の実施形態による、局所変動をグラフ演算子によってどのように捕捉することができるのかを示す概略図、すなわち、全てのノードが円周上に均一に拡散し、点4から点線に延びる線として表された同じ量の改変を有することを示す概略図である。 本開示の実施形態による、ペアワイズ差ベースの局所変動が、2つの面のみが示されている立方体上の点を有する例についてどのように失敗するのかを示す概略図である。 本開示の実施形態による、提案された局所変動測定がペアワイズ差ベースの方法よりもどのように性能が優れているのかを示す概略図である。 本開示の実施形態による、ハイパスグラフフィルタリングベースの再サンプリングが幾何学的輪郭及びテクスチャエッジの双方を検出することを示す概略図である。 本開示の実施形態による、ローパス近似が点群の主な形状を表すことを示す概略図である。 本開示の実施形態による、一例の点群に対して提案された再サンプリング方法を用いることによる雑音除去性能を示す概略図である。 本開示の実施形態による、大規模な市街シーンを効率的に可視化する提案されたハイパスグラフフィルターベースの再サンプリングストラテジーの可視化結果を示す概略図である。 本開示の実施形態による、大規模な市街シーンを効率的に可視化する提案されたハイパスグラフフィルターベースの再サンプリングストラテジーの可視化結果の細部を示す概略図である。 本開示の実施形態による、フィットネスボールの点群に対する従来技術の物体当てはめ手法の結果を示す概略図である。 本開示の実施形態による、提案されたローパスフィルターベースの再サンプリングを用いたときの物体当てはめ結果を比較する表である。 本開示の実施形態による、立方物体の1つの面上におけるフローリング(flooring)を有しないグラフランダムウォーク(図13A)を用いたサンプリング結果と、フローリングを有するグラフランダムウォーク(図13B)を用いたサンプリング結果とを比較したグラフである。 本開示の実施形態による、提案されたローパスグラフフィルターベースの再サンプリングと統合することができる異なる次数を有するk−POLY(図14A)方法及びk−CG(図14B)方法のスペクトル応答を比較したグラフである。 本開示の実施形態による、提案された条件付き再サンプリングのフローチャートを示す表である。 本開示の実施形態による、提案された基準ベースの再サンプリングのフローチャートを示す表である。 図1の方法を示すブロック図である。
上記で明らかにされた図面は、ここに開示されている実施形態を記載しているが、この論述において言及されるように、他の実施形態も意図されている。この開示は、限定ではなく代表例として例示の実施形態を提示している。ここに開示されている実施形態の原理の範囲及び趣旨に含まれる非常に多くの他の変更及び実施形態を当業者は考案することができる。
以下の説明は、例示的な実施形態のみを提供し、本開示の範囲も、適用範囲も、構成も限定することを意図していない。そうではなく、例示的な実施形態の以下の説明は1つ以上の例示的な実施形態を実施することを可能にする説明を当業者に提供する。添付の特許請求の範囲に明記されているような開示された主題の趣旨及び範囲から逸脱することなく要素の機能及び配置に行うことができる様々な変更が意図されている。
以下の説明では、実施形態の十分な理解を提供するために、具体的な詳細が与えられる。しかしながら、当業者は、これらの具体的な詳細がなくても実施形態を実施することができることを理解することができる。例えば、開示された主題におけるシステム、プロセス、及び他の要素は、実施形態を不必要な詳細で不明瞭にしないように、ブロック図形式の構成要素として示される場合がある。それ以外の場合において、よく知られたプロセス、構造、及び技法は、実施形態を不明瞭にしないように不必要な詳細なしで示される場合がある。さらに、様々な図面における同様の参照符号及び名称は、同様の要素を示す。
また、個々の実施形態は、フローチャート、フロー図、データフロー図、構造図、又はブロック図として描かれるプロセスとして説明される場合がある。フローチャートは、動作を逐次的なプロセスとして説明することができるが、これらの動作の多くは、並列又は同時に実行することができる。加えて、これらの動作の順序は、再配列することができる。プロセスは、その動作が完了したときに終了することができるが、論述されない又は図に含まれない追加のステップを有する場合がある。さらに、特に説明される任意のプロセスにおける全ての動作が全ての実施形態において行われ得るとは限らない。プロセスは、方法、関数、手順、サブルーチン、サブプログラム等に対応することができる。プロセスが関数に対応するとき、その関数の終了は、呼び出し側関数又はメイン関数へのその機能の復帰に対応することができる。
さらに、開示された主題の実施形態は、少なくとも一部は手動又は自動のいずれかで実施することができる。手動実施又は自動実施は、マシン、ハードウェア、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語、又はそれらの任意の組み合わせを用いて実行することもできるし、少なくとも援助することができる。ソフトウェア、ファームウェア、ミドルウェア又はマイクロコードで実施されるとき、必要なタスクを実行するプログラムコード又はプログラムコードセグメントは、マシン可読媒体に記憶することができる。プロセッサ(複数の場合もある)が、それらの必要なタスクを実行することができる。
本開示の実施形態の概略
図1及び図2は、本開示の一実施形態による、点を有する入力点群を再サンプリング又は処理するシステム100を示すブロック図である。システム100は、シーン105、物体又はセンサー104から生成される他の或るデータの入力点群データを生成するセンサー104を備える。センサー104は、カメラ若しくはビデオカメラ、又は入力点群データを生成する他の或るデバイスとすることができる。コンピューター可読メモリ112は、センサー104によって生成された入力点群データを記憶及び/又は提供することができる。センサー(複数の場合もある)104は、シーン105の入力点群データを収集する。このデータは、任意選択で外部メモリ106に記憶することもできるし、入力インターフェース/プリプロセッサ108に直接送信することもでき、その後、プロセッサ114に送信することができる。このデータは、処理されると、メモリ112に記憶することもできるし、出力インターフェース116を介して出力することもできる。処理の間、プロセッサ114は、入力点群データの処理に関係した命令若しくは他のデータの記憶、又は、入力点群データの処理に関係した記憶された命令若しくは他のデータの取り出しを行うメモリ112と通信するすることができる。
本開示の実施形態は、入力点群を処理することを考慮したときに全てのアプリケーションに適したフォーマットで点群を表す必要がないという認識に基づいている。実際上、点群は、特定のアプリケーション又は異なるアプリケーションごとに適応したフォーマットで表すことができ、異なるフォーマット/表現に再フォーマットされる。入力点群を再フォーマット又は再サンプリングすることは、特定のアプリケーション又は複数のアプリケーションに必要な点のみを保存するために行われる。入力点群から保存される点は、特定のアプリケーションのニーズに固有の選択された情報である。例えば、可視化アプリケーション及び物体モデリングアプリケーションの場合、とりわけ、幾つかの特定の物体の輪郭及び或るテクスチャが保存される。具体的には、本発明者らは、特定の目的のために再フォーマット又は再サンプリングされた複数の点群バージョンを記憶する方が、全ての目的に適した1つの点群バージョンを記憶するよりも効率的であると認識している。異なるアプリケーションごとに点群を再サンプリングすることによって、本質的に、再サンプリングされた点の異なるグループ又は全入力点群の異なるサブグループが生成される。これらの生成は、その後、対応する再サンプリングされた点を有する特定のアプリケーションに対して実行される。この認識によって、入力点群全体を用いてアプリケーションを計算的に実行しようと試みることと比較して、計算量及び計算時間の低減及び特定のアプリケーションを実行する全コストの削減が確認されている。
点の部分集合を選択することは、信号とグラフ構造(複数の場合もある)との間の相互作用について知得する枠組みであるグラフ信号処理に根差したものである。本発明者らは、グラフを用いて点の間の局所依存関係を捕捉し、物体の表面の離散バージョンを表すことで、本開示は、点群の局所構造及び大域構造の双方を与えることができることを見出した。この枠組みに基づいて、各点に関連した3D座標及び他の属性は、基本となるグラフのノードによってインデックス付けされたグラフ信号である。これによって、本発明者らは、再サンプリング問題をグラフ信号のサンプリングとして定式化することが可能であることを発見した。この特徴抽出ベースの再サンプリング枠組み、すなわち、特定のアプリケーションごとの再サンプリング点保存選択情報(resampled points preserving selected information)は、本発明者らが正確な形態を導出する再構築誤差を用いて再サンプリングの質を定量化した一般的な特徴抽出演算子に基づいている。最適なサンプリング分布は、予想再構築誤差を最適化することによって得られる。提案された最適なサンプリング分布は、シフト不変及び回転不変であることが保証される。特徴抽出演算子がグラフフィルターとして提供され、再サンプリングストラテジーが、オールパスグラフフィルタリング、ローパスグラフフィルタリング及びハイパスグラフフィルタリングに基づいて解析される。いずれの場合にも、最適なサンプリング分布が得られ、模擬データ及びリアルデータの双方に対して性能の有効性が確認される。
入力点群の再サンプリング又はプルーニングの実現は、グラフ上の各ノードを用い、各ノードを、グラフの構造に従ってその近傍ノードの値に基づきスコアリングすることによって一般に説明することができる。本発明者らは、このスコアリングが、同じ「スコア」値を有する点を扱うために「ランダム」な再サンプリングとともに用いることができるノードの確率を決定することができるものと認識している。例えば、輪郭決定の場合、スコアリング関数は、近傍ノードの関数としてのノードの表現における誤差とすることもできるし、別の例は、ノードの異なる属性を考慮することができる異なるスコアリング関数とすることもできる。スコアリング関数(複数の場合もある)は、特定のアプリケーションに基づいて選択され、それぞれ異なるアプリケーションは、それ自身のスコアリング関数又は多数のスコアリング関数を有することができる。
図1及び図2を参照すると、入力点群の再サンプリングの解を求めることは、まず、メモリ112から又はセンサー104から直接のいずれかで入力点群にアクセスすることから開始する。入力点群は点を含み、各点は、2次元(2D)座標及び3次元(3D)座標並びに他の属性を含む属性の集合を含むことを想起されたい。次のステップは、グラフ内のノードを表す入力点群内の各点に基づいて、入力点群を表すグラフ120を構築、すなわち、グラフ頂点及びグラフエッジを構成し、グラフ内の2つの近傍ノードを特定して接続し、グラフエッジを得ることである。
次に、構築されたグラフ120に基づいて、グラフフィルタリング関数が求められる(125)。すなわち、入力点群内の或る特定の情報を促進又は維持する或る特定の基準に従ってグラフ演算子が求められる。入力点群からの属性の集合も、特定のアプリケーション要件に従って選択することができ(130)、例えば、幾何学情報及び/又はテクスチャ構造を維持することができる。
次に、各点の値が求められる(135)。入力点群内の各点をフィルタリングすることは、それらの点の属性の部分集合を選択する(130)ことと、属性の選択された部分集合に対してグラフフィルタリング関数を適用して(135)、入力点群内の各点の少なくとも1つの値を求める(135)こととによって行われる。入力点群内の各点135の少なくとも1つの値を用いて、入力点群内の点の全ての値の総計と比較した点135の少なくとも1つの値と、出力点群内の所定の数の点とに基づいて、各点の確率が生成される(140)。換言すれば、選択されたグラフ演算子を用いて、点群内の各点の重要度スコアを計算することができる。その結果、重要度スコアに基づいて、各点の確率が生成される。
最後に、図1及び図2を引き続き参照すると、各点の確率のランダム評価を用いて入力点群がサンプリングされ、入力点群内の点の部分集合が得られる(145)。点の部分集合145は、出力点群150である。これは、点の部分集合145が、確率と、更なる使用のために出力することができる点の予想総数とに基づいて求められることを意味する。例えば、出力点群150は、メモリ112に記憶することもできるし、プロセッサと通信する出力インターフェース155を介して出力することもできる。入力点群は、選択された出力点群150、すなわち、システムから選択された重要な点の部分集合145と比較して、後に、より効率的に処理することができることに留意されたい。
図2を参照すると、一例として、大規模可視化のための1つの実施形態では、ハイパスグラフフィルタリングベースの再サンプリングを用いると、視認者が、前処理された物体105又は都市環境の点群において重要な細部を捕捉することをより容易にすることができる。また、大規模可視化のための1つの実施形態の場合、提案されたハイパスグラフフィルタリングベースの再サンプリングストラテジーを用いて、点の小さな部分集合を選択し、処理された物体160又は都市若しくは市街シーンにおける建物及び街路の輪郭を強調表示することが可能である。
さらに、本開示の別の実施形態は、ロバストな形状モデリング用のものとすることができる。提案されたローパスグラフフィルタリングベースの再サンプリングストラテジーを用いて点の小さな部分集合を選択すると、物体モデルパラメーターを特定することは、より効率的で正確なものとすることができる。そのようなモデリングは、雑音又は異常値が存在する点群において表面を見つけることを伴うことができ、本開示は、問題(複数の場合もある)を解くのに用いることができる。
入力点群を再サンプリングするタスクの定式化
3D点群を再サンプリングするタスクの定式化をより良く理解するには、本開示の実施形態の方法及びシステムの基礎を覆うグラフ信号処理を導入する必要がある。
点群の再サンプリング
N個の点及びK個の属性を有する点群の以下の行列表現を考えることにする。
Figure 0006692464
ここで、s∈Rは第iの属性を表し、x∈Rは第iの点を表す。センシングデバイスに応じて、属性は、3D座標、RGBカラー、テクスチャ等とすることができる。3D座標と他の属性とを区別するために、X∈RN×3を用いて3D座標を表し、X∈RN×(K−3)を用いて他の属性を表すことにする。
点の数Nは、通常は非常に大きい。例えば、建物の3Dスキャンは、通常、数十億個の3D点を必要とする。記憶及びデータ解析の双方の観点からの大規模な点群を扱うことは困難である。しかしながら、多くのアプリケーションにおいて、本発明者らは、点群登録における重要な点及び輪郭検出における輪郭点等の特定の特性を有する3D点の部分集合に興味がある。記憶及び計算を利用するために、本発明者らは、当初の点群から代表的な点の部分集合をサンプリングして、スケールを削減することを検討する。当初の点群は、物体からサンプリングされるので、このタスクは再サンプリングと呼ばれる。再サンプリングの手順は、点群からのM(M<N)個の点を再サンプリングすること、又は、点群行列XからM個の行を選択することである。再サンプリングされた点群は、以下の式となる。
=ΨX∈RM×K (2)
ここで、M=(M,・,M)は、再サンプリングされたインデックスのシーケンスを示すか、又は再サンプリング集合と呼ばれ、M∈{1,・・・,N}及び|M|=Mであり、再サンプリング演算子Ψは、RからRへの線形写像であり、以下のように定義される。
Figure 0006692464
提案された再サンプリングストラテジーの効率性は極めて重要である。大規模な点群が扱われるので、費用を要する計算の回避が望まれる。効率的な方法での再サンプリングを実施するために、ランダム化された再サンプリングストラテジーを検討することにする。これは、再サンプリングされたインデックスがサンプリング分布に従って選ばれることを意味する。一連のサンプリング確率を{πi=1 とする。ここで、πは、各ランダム試行において第iのサンプルを選択する確率を示す。サンプリング分布が選ばれると、サンプルの生成が効率的である。ここでの目標は、当初の点群内の情報を保存するサンプリング分布を見つけることである。
提案された再サンプリングストラテジーの不変特性も極めて重要である。点群がシフト又は回転されても、3D点の固有分布は変化せず、提案された再サンプリングストラテジーは変化しないことになっている。
定義1 サンプリング分布πが点群X=[X,X]について設計され、さらに、同じサンプリング分布πがそのシフトされた点群[X+1a,X]について設計されているとき、再サンプリングストラテジーはシフト不変である。ここで、a∈Rである。
定義2 サンプリング分布πが点群X=[X,X]について設計され、さらに、同じサンプリング分布πがその回転された点群[XR,X]について設計されているとき、再サンプリングストラテジーは回転不変である。ここで、R∈R3×3は3D回転行列である。
提案された再サンプリングストラテジーは、シフト不変及び回転不変の双方であることが保証されるものとする。
点群のグラフ信号処理
グラフは、点群を表す自然かつ効率的な方法である。なぜならば、グラフは、物体の表面の離散表現であるからである。コンピューターグラフィックスでは、特定の接続制限を有するグラフのクラスとしてのポリゴンメッシュが、物体の形状を表すために広範に用いられている。信頼できるメッシュを構築するには、通常、面法線の計算等の高度な幾何解析が必要とされる。メッシュ表現は、可視化のための単純なツールであるが、点群の解析が得意でない場合がある。この点で、本発明者らは、接続制限を緩和することによって、ポリゴンメッシュを一般的なグラフに拡張することにする。そのようなグラフは、幾何情報を構築するのに効率的であるとともに、幾何情報を捕捉するのに柔軟である。
グラフ構築
局所的な幾何情報を隣接行列W∈RN×Nに符号化することによって、点群の一般的なグラフが構築される。第iの点の3D座標、すなわち、Xの第i行をx (c)∈Rとする。2つの点x (c)とx (c)との間のエッジ重みは、以下となる。
Figure 0006692464
ここで、分散σ及び閾値τはハイパーパラメーターである。式(4)は、2つの点のユークリッド距離が閾値τよりも小さいとき、これらの2つの点がエッジによって接続され、エッジ重みが3D空間における2つの点の類似度に依存することを示している。このタイプのグラフは、本発明ではτグラフと呼ばれる。重み付き次数行列Dは、第iの点の周囲の密度を反映した対角要素Di,j=Σi,jを有する対角行列である。このグラフは、当初の表面の近似的に離散表現であり、8分木等のツリーデータ構造を介して効率的に構築することができる。ここでは、3D座標のみを用いてグラフが構築されるが、他の属性も考慮に入れることが可能である(4)。このグラフが与えられると、点群の属性はグラフ信号と呼ばれる。例えば、(1)における属性sは、グラフによる信号インデックスである。明示的に述べないが、τグラフが用いられることを前提とする。
グラフ構築の別の例では、点はその或る特定の数の最も近い近傍に接続される。
グラフフィルタリング
グラフフィルターは、グラフ信号を入力として取り込み、別のグラフ信号を出力として生成するシステムである。最も基本的な非自明グラフフィルターであるグラフシフト演算子をA∈RN×Nとする。グラフシフト演算子の或る共通の選択は、隣接行列W(4)、遷移行列T=D−1W、グラフラプラシアン行列L=D―W、及び他の多くの構造関連行列である。グラフシフトは、ノードにおける信号値をその近傍における値の重み付き線形結合に置き換える。すなわち、y=As∈Rである。ここで、s∈Rは、入力グラフ信号(点群の属性)である。いずれの線形シフト不変グラフフィルターも、グラフシフトにおいては以下の多項式となる。
Figure 0006692464
ここで、hはフィルター係数であり、Lはこのグラフフィルターの長さである。その出力は、以下の行列ベクトル積によって与えられる。
y=h(A)s∈R
グラフフーリエ変換
グラフシフト演算子Aの固有値分解は以下となる。
A=V∧V (6)
ここで、Aの固有ベクトルは、行列Vの列を形成し、固有値行列∧∈RN×Nは、Aの対応する固有値λ,...,λの対角行列である(λ≧λ≧...,≧λ)。これらの固有値は、グラフ[?]上の周波数を表す。λは最低周波数であり、λは最高周波数である。これに対応して、vはグラフ上の最小変動を捕捉し、vはグラフ上の最高変動を捕捉する。Vは、グラフフーリエ基底とも呼ばれる。グラフ信号s∈Rのグラフフーリエ変換は以下となる。
Figure 0006692464
逆グラフフーリエ変換は以下となる。
Figure 0006692464
ここで、vはVの第k列であり、
Figure 0006692464
は、
Figure 0006692464
における第kの成分である。(7)におけるベクトル
Figure 0006692464
は、固有ベクトル基底における信号の拡張を表し、グラフ信号sの周波数成分を記述する。逆グラフフーリエ変換は、グラフ周波数成分を組み合わせることによってグラフ信号を再構築する。
特徴抽出に基づく再サンプリング
再サンプリングの間、点の数は削減され、点群内の情報は不可避的に失われる。ここでの本発明者らの目標は、特定のニーズに応じて選択された情報を保存する、アプリケーションに応じた再サンプリングストラテジーを設計することである。例えば、点群における輪郭検出のタスクでは、通常、面法線の計算及び点[?,?]の分類等の慎重で集約型の計算が必要とされる。多数の点を扱うのではなく、本発明者らは、必要とされる輪郭情報の影響を受けやすい点の小さな部分集合を効率的に再サンプリングすることを検討し、輪郭情報を失うことなく、その後の計算をより安価にする。
特徴抽出ベースの定式化
特定のニーズに従って点群からターゲット情報を抽出する特徴抽出演算子をf(・)とする。すなわち、特徴f(X)∈RN×Kが、点群X∈RN×Kから抽出される。点群は、M回再サンプリングされる。第j回目において、確率πを有する点M=iが独立に選ばれる。再サンプリング演算子(3)をΨ∈RM×Nとし、Si,i=1/√(Mπ)を有する対角再スケーリング行列をS∈RN×Nとする。再サンプリング演算子の性能は、以下のように定量化される。
f(X)(Ψ)=‖SΨΨf(X)−f(X)‖
ここで、‖・‖は、スペクトルノルムである。ΨΨ∈RN×Nは、ゼロパディング演算子であり、第iの点がサンプリングされたときは対角要素(ΨΨ)i,i=1を用いて対角行列がパディングされ、そうでない場合には0を用いて対角行列がパディングされる。このゼロパディング演算子ΨΨによって、再サンプリングされた点及び当初の点群が同じサイズを有することが確保される。Sは、再サンプリング中に非一様な重みを補償するのに用いられる。SΨΨf(X)は、再サンプリング後の保存された特徴をゼロパディング形式で表す。別の態様から、SΨは、当初の特徴f(X)をその再サンプリングバージョンΨf(X)から再構築する最も単純な(naive)補間演算子である。評価メトリックDf(X)(Ψ)は、再構築誤差の尺度、すなわち、どれだけの特徴情報が高度な補間演算子を用いない再サンプリング後に失われるのかの尺度を示す。Df(X)(Ψ)が小さいとき、再サンプリング後の保存された特徴は当初の特徴に近く、これは、情報がほとんど失われていないことを意味する。期待値EΨ:π(Df(X)(Ψ))は、再サンプリングによって引き起こされる予想誤差を提供し、サンプリング分布πの性能を定量化したものである。本発明者らの目標は、EΨ:π(Df(X)(Ψ))をπにわたって最小にして、特徴f(X)の保存の観点から最適なサンプリング分布を得ることである。次に、目的関数の平均二乗誤差の正確な形態が導出される。
補助定理1 保存された特徴の非重み付きバージョンは、当初の特徴に対するバイアス推定量である。
全てのf(X)∈RN×Kについて、EΨ:π(ΨΨf(X))∝πef(X)
ここで、eは、行ごとの乗算である。
保存された特徴の再重み付きバージョンは、当初の特徴に対する非バイアス推定量である。すなわち、
全てのf(X)∈RN×Kについて、EΨ:π(SΨΨf(X))=f(X)
である。
定理1 保存された特徴と当初の特徴との間の平均二乗誤差の正確な形態は、以下となる。
Ψ:π(Df(X)(Ψ))=Tr(f(X)Qf(X)) (9)
ここで、Q∈RN×Nは、Qi,i=1/π−1を有する対角行列である。
提案された再サンプリングストラテジーのシフト不変及び回転不変の十分条件は、評価メトリック(8)がシフト不変及び回転不変であることである。
定義3 点群から抽出された特徴及びそのシフトバージョンが同じであるとき、すなわち、f([X])=f([X+1a])であるとき、特徴抽出演算子f(・)はシフト不変である。ここで、シフトa∈Rである。
定義4 点群から抽出された特徴及びその回転バージョンが同じであるとき、すなわち、f([X])=f([XR X])であるとき、特徴抽出演算子f(・)は回転不変である。ここで、R∈R3×3は3D回転行列である。
f(・)がシフト/回転不変であるとき、(8)は、シフト又は回転を通じて変化せず、シフト/回転不変再サンプリングストラテジーが得られ、これは、EΨ:π(Df(X)(Ψ))を最小にして、再サンプリングストラテジーを得るのに十分である。一方、f(・)がシフト/回転可変であるとき、(8)は、シフト又は回転を通じて変化する場合があり、シフト/回転可変再サンプリングストラテジーが得られる。
シフト変動(shift variance)を扱うために、任意のプロセスの前に、点群を原点に常に中心決めし直すことができる。すなわち、3D点の平均座標は0に正規化される。f(・)の回転変動(rotation variance)を扱うために、以下の評価メトリックが考慮される。
Figure 0006692464
ここで、‖・‖は、スペクトルノルムであり、定数c=‖Xは、当初の3D座標のスペクトルノルムである。評価メトリックD(Ψ)は、回転の影響を取り除くために、回転によって引き起こされる可能な最悪の再構築誤差を考慮するものである。(??)において、3D座標は回転によって変数であると考える。回転行列は正規直交しており、3D座標のスペクトルノルムは回転中に変化しないので、3D座標のスペクトルノルムは制約される。次に、EΨ:π(D(Ψ))が最小にされ、f(・)が可変であるときであっても、不変再サンプリングストラテジーが得られる。
定理2 回転可変線形特徴抽出演算子をf(・)とする。ここで、f(X)=FXであり、F∈RN×Nである。EΨ:π(Ψ)の正確な形態は、
Ψ:π(D(Ψ))=cTr(FQF)+Tr(FXQ(FX
(10)
である。ここで、c=‖Xであり、Q∈RN×Nは、Qi,i=1/π−1を有する対角行列である。
最適なサンプリング分布
次に、予想再構築誤差を最小にすることによって、最適なサンプリング分布が導出される。
シフト不変及び回転不変特徴抽出演算子の場合、(8)が最小にされる。
定理3 シフト不変及び回転不変特徴抽出演算子をf(・)とする。対応する最適な再サンプリングストラテジーπは、以下となる。
π∝‖f(X)‖ (11)
ここで、f(X)∈Rは、f(X)の第i行である。
シフト可変及び回転可変特徴抽出演算子の場合、最小にされる。
定理4 シフト可変及び回転可変線形特徴抽出演算子をf(・)とする。ここで、f(X)=FXであり、F∈RN×Nである。対応する最適な再サンプリングストラテジーπは、以下となる。
Figure 0006692464
ここで、定数c=‖Xであり、Fは、Fの第i行であり、(FXは、FXの第i行である。
グラフフィルタリングに基づく再サンプリング
この節では、点群から正確な特徴へのグラフフィルターが設計される。
点群Xから抽出された特徴を
Figure 0006692464
とする。これは、グラフフィルターの定義(5)から得られる。従来の信号処理におけるフィルター設計と同様に、グラフフィルターは、グラフ頂点領域又はグラフスペクトル領域のいずれかにおいて設計される。
グラフ頂点領域では、各点について、グラフフィルターは、その局所的な点の属性を平均する。例えば、第iの点の出力
Figure 0006692464
は、第iの点からLホップ離れた範囲内にある点の属性の重み付き平均である。第lのグラフフィルター係数hは、第lのホップの近傍からの寄与度を定量化する。
フィルター係数は、重みを局所的な平均内に変更するように設計される。
グラフスペクトル領域では、まず、グラフスペクトル分布が設計され、次いで、グラフフィルター係数を用いて、この分布を適合させる。例えば、長さLを有するグラフフィルターは、以下となる。
Figure 0006692464
ここで、Vはグラフフーリエ基底であり、λは、グラフ周波数である(6)。第iのグラフ周波数の応答がcであるとき、
Figure 0006692464
が設定され、1組の線形方程式が解かれ、グラフフィルター係数hが得られる。チェビシェフ多項式を用いて、グラフフィルター係数を設計することも可能である[?]。次に、グラフフィルターの幾つかの特殊な場合を検討する。
オールパスグラフフィルタリング
h(λ)=1とする。すなわち、h(A)は、i=1,...,L−1についてh=1及びh=0を有する単位行列である。この設定の背後にある直感は、当初の点群が信頼できるものであり、全ての点が雑音を伴わずに物体から一様にサンプリングされ、物体の真の幾何学構造を反映しているということである。全ての情報を保存することが望まれ、したがって、特徴は当初の属性そのものである。f(X)=Xであるので、特徴抽出演算子f(・)は、シフト可変及び回転可変である。定理4に基づくと、最適な再サンプリングストラテジーは以下となる。
Figure 0006692464
ここで、(12)における特徴抽出行列Fは単位行列であり、Fの各行のノルムは1である。3D座標のみが保存されるとき、Xの項は無視され、各点の定サンプリング確率が得られる。これは、一様なサンプリングが全幾何情報を保存する最適な再サンプリングストラテジーであることを意味する。
ハイパスグラフフィルタリング
画像処理では、ハイパスフィルターが、エッジ及び輪郭を抽出するのに用いられる。
同様に、点群において輪郭を抽出するのにもハイパスグラフフィルターが用いられる。ここでは、3D座標のみが属性(X=X=RN×3)とみなされるが、提案された方法は、他の属性に容易に拡張することができる。
重要な問題は、点群における輪郭をどのように定義するのかである。輪郭点は、その近傍点によって形成された傾向を破壊し、改変をもたらすものと考えられる。これまでの多くの研究は、輪郭を検出するために、面法線等の高度な幾何学関連計算を必要とする[?]。本発明者らは、高度な幾何特性を測定するのではなく、ハイパスグラフフィルタリングの応答であるグラフ上の局所変動によって輪郭点である可能性を表す。第iの点の対応する局所変動は以下となる。
(X)=‖(h(A)X) (14)
ここで、h(A)はハイパスグラフフィルターである。局所変動f(X)∈Rは、ハイパスグラフフィルタリング後の応答のエネルギーを定量化する。この背後にある直感は、点の局所変動が大きいとき、その3D座標は、その近傍点の3D座標から良好に近似することができないということである。換言すれば、この点は、その近傍点によって形成された傾向を破壊することによって改変をもたらし、輪郭点である高い可能性を有する。
以下の定理は、局所変動が回転不変であるが、シフト可変であることを示している。
定理5
f(X)=diag(h(A)XXh(A))∈Rとする。ここで、diag(・)は対角要素を抽出する。f(X)は、h(A)1=0∈Rでない限り、回転不変及びシフト不変である。
局所変動がシフト不変及び回転不変の双方であることを保証するために、遷移行列が、グラフシフト演算子として用いられる。すなわち、A=D−1Wである。ここで、Dは対角次数行列である。この理由は、1∈Rが、遷移行列の固有ベクトルである、すなわち、A1=D−1W1=1であるからである。したがって、
Figure 0006692464
である。単純な設計は、以下の式のハールライク(Haar-like)ハイパスグラフフィルターである。
Figure 0006692464
グラフシフト演算子は遷移行列であるので、λmax=max│λ│=1であることに留意されたい。ここで、λはAの固有値である。この場合、h=1であり、h=−1であり、全てのi>1についてh=0であり、
Figure 0006692464
である。したがって、ハールライクハイパスグラフフィルターは、シフト不変及び回転不変の双方である。ハールライクハイパスグラフフィルターのグラフ周波数応答は、hHH(λ)=1−λである。固有値は降順に順序付けられているので、1−λ≦1−λi+1が得られ、これは、低周波数応答が相対的に減衰し、高周波数応答が相対的に増幅することを意味する。
グラフ頂点領域では、第iの点の応答は以下となる。
Figure 0006692464
Aは遷移行列であるので、Σj∈Nii,j=1及びhHH(A)は、点とその近傍の凸結合との間の差を比較する。提案された局所変動の幾何学解釈は、当初の点とその近傍の凸結合との間のユークリッド距離であり、この距離は、その近傍からの点についてどれだけの情報を知っているのかを反映する。点の局所変動が大きいとき、この点とその近傍の凸結合との間のユークリッド距離は長く、この点は、大量の改変をもたらす。
幾つかの単純な例に関する提案された局所変動を検証することができる。
例1 点群が3D線を形成するとき、2つの端点は輪郭に属する。
例2 点群が3Dポリゴン/多面体を形成するとき、頂点(コーナー点)及びエッジ(2つの隣接する頂点を接続する線分)は輪郭に属する。
例3 点群が3D円/球を形成するとき、輪郭は存在しない。
点が、画定された形状に沿って一様に拡散しているとき、提案された局所変動(14)は、幾何学観点から例1、例2及び例3を満たす。例えば、図3の部分図305において、点2は点1及び点3の凸結合であり、したがって、点2の局所変動は0である。一方、点4は、点3及び点5の凸結合ではなく、赤色の線の長さが、点4の局所変動(改変)を示す。点1、点4及び点7のみが非ゼロの局所変動を有することが分かり、これは、本発明者らが予想したものである。図3の部分図310において、全てのノードが、円周上に等間隔で拡散し、赤色の線として表される同じ量の改変を有する。同様の議論によって、提案された局所変動(14)が例1、例2及び例3を満たすことが示される。
特徴抽出演算子f(X)=‖hHH(A)X)‖ は、シフト不変及び回転不変である。
定理3に基づくと、最適なサンプリング分布は以下となる。
Figure 0006692464
ここで、A=D−1Wは遷移行列である。
グラフラプラシアン行列は、変動を測定するために共通に用いられることに留意されたい。グラフラプラシアン行列をL=D−W∈RN×Nとする。グラフラプラシアンベースの総変動は以下となる。
Figure 0006692464
ここで、Nは第iのノードの近傍であり、第iの点が寄与する変動は以下となる。
Figure 0006692464
ここでの変動は、ペアワイズ差の塁算に基づいて定義される。(18)はペアワイズ差ベースの局所変動と呼ばれる。
ペアワイズ差ベースの局所変動は、幾何変化を捕捉することができず、例2に違反する。図4に逆の例を示す。点は、立方体の面に沿って一様に拡散し、図4は、2つの面を示している。各点は、同じエッジ重みを有するその隣接する4つの点に接続している。全ての点のペアワイズ差ベースの局所変動は同じであり、これは、この点群に輪郭が存在しないことを意味する。しかしながら、注釈付きの点(黒色の矢印によって指し示されたもの)は輪郭点であるはずである。
図5は、ヒンジ、円錐、テーブル、椅子、ソファー及びごみ容器を含む点群の幾つかの例に関する局所変動ベースのサンプリングスコアを示している。第1行505は、当初の点群を示し、第2行510及び第3行515は、ペアワイズ差ベースの局所変動(18)及びハールライクハイパスグラフフィルタリングベースの局所変動(14)の2つの局所変動に関する再サンプリングバージョンを示している。2つの再サンプリングバージョンは、当初の点群内の点の10%である同じ数の点を有する。
ヒンジ及び円錐(最初の2つの行)の2つの模擬物体の場合、ペアワイズ差ベースの局所変動(18)は輪郭の検出に失敗し、ハールライクハイパスグラフフィルタリングベースの局所変動(14)は全ての輪郭を検出する。実際の物体の場合も、ハールライクハイパスグラフフィルタリングベースの再サンプリング(14)は、ペアワイズ差ベースの局所変動(18)よりも性能が優れている。要約すれば、ハールライクハイパスグラフフィルタリングベースの局所変動(14)は、10%の点のみを用いることによって物体の輪郭を示す。
ハイパスグラフフィルタリングベースの再サンプリングストラテジーは、他の属性の過渡変化を検出することに容易に拡張することができる。図6では、部分図605は、2つの異なるテクスチャを有するヒンジを模擬している。黒色の点は、値0を有する同じテクスチャを有し、緑色の円によって示される点は、値1を有する異なるテクスチャを有する。このテクスチャを新たな属性、及び最初の3列が3D座標であり、第4列がテクスチャである点群行列X∈RN×4として配置する。ハイパスグラフフィルタリングベースの局所変動(14)に基づいて点の10%が再サンプリングされる。図6では、部分図610が、幾何学的な輪郭及びテクスチャの輪郭の双方を明瞭に検出する再サンプリングされた点群を示している。
ローパスグラフフィルタリング
従来の信号処理では、ローパスフィルターが、平滑信号の主な形状を捕捉するとともに雑音を低減するのに用いられる。同様に、3D点を取得している間、ローパスグラフフィルターが、点群の主な形状を捕捉するとともにサンプリング雑音を低減するのに用いられる。点の3D座標を用いて、グラフ(4)が構築されるので、3D座標は、このグラフ上で必然的に平滑であり、これは、グラフ内の2つの隣接する点が、3D空間において類似の座標を有することを意味する。雑音及び異常値が発生すると、雑音除去演算子としてのローパスグラフフィルターが、局所近傍情報を用いて、各点の真の位置を近似する。ローパスグラフフィルタリング後の出力は、当初の点群の雑音除去バージョンであるので、当初の点よりも雑音除去された点から再サンプリングする方が、より魅力的であり得る。
理想的なローパスグラフフィルター
簡単な選択肢は、或る帯域幅を越える全てのグラフ周波数を完全に除去する一方、その帯域幅を下回るグラフ周波数を変化させずに通過させる理想的なローパスグラフフィルターである。帯域幅bを有する理想的なローパスグラフフィルターは、以下となる。
Figure 0006692464
ここで、V(b)は、Vの最初のb個の列であり、グラフ周波数応答は、
Figure 0006692464
である。
理想的なローパスグラフフィルターhILは、入力グラフ信号を帯域制限された部分空間に投影し、hIL(A)sは、当初のグラフ信号sに対する帯域制限された近似である。図7に一例を示す。部分図705は、当初の点群のティーポットであり、部分図710、715及び720は、ティーポットの3D座標に対する帯域制限された近似が、帯域幅bが増加するほどより良好になることを示している。10個のグラフ周波数では、ティーポットの粗い構造しか得られないが、帯域制限された近似がティーポットの形状を高速に変化させることが分かる。したがって、帯域制限された近似は、編集では、雑音除去よりも有用である。部分図725は、主なエネルギーがローパスグラフ周波数帯域内に集中していることを示している。
特徴抽出演算子f(X)=V(b)(b) Xはシフト可変及び回転可変である。定理4に基づくと、対応する最適な再サンプリングストラテジーは、以下となる。
Figure 0006692464
ここで、v∈RはV(b)の第i行である。
‖vを得る直接的な方法は、計算コストがO(Nb)であるトランケートされた固有値分解(7)を必要とする。ここで、bは帯域幅である。ランダム化された技法を用いて、固有値分解が回避され、計算コストがO(Nblog(N))である高速アルゴリズムを通じてレバレッジスコア(leverage score)を近似することが潜在的に可能である[?,?]。計算を利用する別の方法は、グラフを幾つかのサブグラフに分割し、各サブグラフにおいてレバレッジスコア得ることである。
この再サンプリングストラテジーは、近似的に帯域制限されたグラフ信号のサンプリング及び回復と類似しており、そのアイデアは、少数のノードにおいて信号係数をサンプリングし、他の全てのノードにおいてそれらの信号係数を近似的に回復することであることに留意されたい。ここでは、点群の属性はグラフ信号としてモデリングされ、少数の点の属性がサンプリングされ、他の全ての点の属性が近似的に回復される。
理想的なローパスグラフフィルタリングに基づく再サンプリングストラテジーは、近傍点が3D空間において高速に変動する点に対してより多くのサンプルを配置する傾向があることが分かる。なぜならば、小さな変動エリアは、多くの冗長情報を導入しており、多くのサンプルを取得する必要がないからである。グラフは、点群の空間分布を処理して、グラフフーリエ基底を介して各点の情報の量を解析する。グラフ周波数の数の増加に伴って、サンプリングスコアが一様になる傾向があることも分かる。これは、全情報を保存したいとき、重要度スコアがどこでも等しくなることを意味する。
ハールライクローパスグラフフィルター
別の単純な選択は、ハールライクローパスグラフフィルター、すなわち、以下である。
Figure 0006692464
ここで、λmax=max|λ|であり、λはAの固有値である。正規化係数λmaxは、大きさの増幅を回避するためのものである。簡単にするために、Anorm=A/|λmax|で示すことにする。
グラフ周波数応答は、hHL(λ)=1+λ/|λmax|である。固有値は降順に順序付けられているので、1+λ≧1+λi+1が得られ、これは、低周波数応答が相対的に増幅し、高周波数応答が相対的に減衰することを意味する。
グラフ頂点領域では、第iの点の応答は以下となる。
Figure 0006692464
ここで、Nは、第iの点の近傍である。hHL(A)は、各点及びその近傍の属性を平均して、平滑出力を提供する。
特徴抽出演算子f(X)=hHL(A)Xは、シフト可変及び回転可変である。定理4に基づくと、対応する最適な再サンプリングストラテジーは以下となる。
Figure 0006692464
この最適なサンプリング分布を得るには、O(N)を要する最大の大きさの固有値λmaxを計算するとともに、グラフシフト演算子における非ゼロの要素である‖vec(A)‖を有するO(‖vec(A)‖)を要する各行の‖(I+Anorm 及び‖((I+Anorm)X を計算する必要がある。正規化された隣接行列又は遷移行列をグラフシフト演算子として用いることによって最大の大きさを計算することを回避することができる。正規化された隣接行列は、D−1/2WD−1/2である。ここで、Dは対角次数行列である。遷移行列は、隣接行列の各行の和が1になるように正規化することによって得られる。すなわち、D−1Wである。いずれの場合も、遷移行列の最大固有値は1であり、したがって、A=Anormが得られる。
図8は、ウサギに対するハールライクローパスグラフフィルタリング(??)に基づく再サンプリングを用いることによる雑音除去性能を示している。ウサギの点群は、35947個の点を含む。各座標は、平均0及び分散0.002を有するガウス雑音によって汚染されている。図8において、部分図805は、雑音を有するウサギを示している。この雑音を有するウサギからの点の10%が一様に再サンプリングされ、再サンプリングされたものが部分図810に示されている。再サンプリングバージョンも雑音を有することが分かる。提案されたハールライクローパスグラフフィルタリングに基づくと、部分図815における雑音除去されたウサギが得られ、この雑音除去されたウサギからの最適なサンプリング分布(??)による点の10%が再サンプリングされる。雑音を有するウサギの再サンプリングバージョンは部分図820に示されている。同じ数の点を用いることによって、ハールライクローパスグラフフィルタリングに基づく再サンプリングバージョン820の方が、一様なサンプリングに基づく再サンプリングバージョン810よりも雑音が少なく、より代表的なものであることが分かる。
再サンプリングの性能を定量的に評価するために、各再サンプリングされた点と当初の無雑音の点群内の最も近い点との間のユークリッド距離が測定される。すなわち、以下の式が計算される。
Figure 0006692464
ここで、X∈RN×kは、無雑音の点群であり、X∈RM×kは、再サンプリングされた点群である。雑音を有する点群から再サンプリングが行われるので、再サンプリングされた点は、当初の点からシフトされている。(22)における誤差メトリックは、総シフトを定量化する。シフトが小さいほど、当初の点群をより良好に表現していることを意味する。例えば、部分図810における再サンプリングされた点群の誤差は6.1824であり、部分図820における再サンプリングされた点群の誤差は3.7077である。これによって、再サンプリング中にローパスグラフフィルタリングを用いることの利点が実証される。
別の実施形態
上記では、オールパスグラフフィルター、ローパスグラフフィルター及びハイパスグラフフィルターを含む幾つかの基本的なグラフフィルタリングベースの再サンプリングツールを提案したが、この節では、特殊な要件を満たすようにどのように適合されているのかを示す幾つかの変形形態の設計を提案する。
点密度の考慮
節3.2において提案したような純粋なハイパスグラフフィルターの場合、重要度スコアは、点群における局所変動に置かれる。例えば、興味のレベルに従って点密度を動的に割り当てる点群の場合、点密度を局所変動とともに併せて考慮することが望まれる。
1つの実施形態では、次数行列Dが、密度分布を表すものとすることができることを考慮すると、本発明者らは、式15におけるハールライクハイパスフィルターを以下のように変更することを提案する。
HH(A)=D(I−A)=D−W=L (23)
ここで、結果として得られるハイパスグラフ演算子は、実際には、グラフラプラシアン演算子Lである。上記次数行列Dは、別の密度表現に置き換えることができ、その結果の演算子はグラフラプラシアンである必要はないことに留意されたい。
点密度が考慮される場合、エッジエリアと平坦エリアとの間のサンプリング確率遷移はより平滑になる。この手法は、入力点群が、関心エリアを強調するように前処理されていると、より有利になり得る。
最小サンプリング確率保証
節3.2又は節3.4.1に提案されたハイパスグラフフィルターについて、幾つかの点に割り当てられた重要度スコアが、他の点の重要度スコアよりもはるかに小さい場合がある。通常、最も平滑なエリアからの点は、エッジ又はコーナーに近い点と比較して、ほぼ0のサンプリング確率を有することができる。その結果、平坦エリアからのそれらの点が再サンプリング中に選択される機会はほとんどない。
幾つかの従来の表面モデリング方法が点群から表面を作成するには、内部の表面をほぼ空にしたままでエッジ/コーナーエリアを過度に強調することが難題を提起する場合がある。これを克服するために、点群内の全幾何情報を維持することと、輪郭情報を維持することとの間でトレードオフを行う動機付けがある。点群全体にわたって最小サンプリング確率を確保するために、本発明者らは、最小サンプリング確率を実施することを提案する。
図13は、立方物体の1つの面上におけるフローリングを有しないグラフランダムウォークを用いたサンプリング結果と、フローリングを有するグラフランダムウォークを用いたサンプリング結果とを比較している。部分図1305は、純粋なグラフランダムウォークが用いられた場合のサンプリングロケーションである。部分図1310は、最小確率が実施された状態の対応する結果である。最小サンプリング確率を設定することによって、サンプリングされた点が平坦エリア及びエッジエリアを考慮するためにどのようにシフトされるのかを見て取ることができる。
疑似(nearly)ローパスグラフフィルタリング
高周波数成分を除去するために、点群に対してグラフスペクトルにローパスフィルターを適用したいと仮定すると、節3.3において提案された理想的なローパスグラフフィルターは、少なくとも幾つかの固有値及び固有ベクトルの対を計算する必要があり、これは、望ましくない計算量を引き起こす場合がある。この点で、本発明者らは、本発明の提案された枠組みにおいて利用されるk多項式フィルター又はk共役勾配フィルター[?]を提案する。次に、本発明者らは、他のグラフ演算子k−POLYを用いるという一般性を犠牲にすることなく、基本グラフ演算子が対称正規化グラフラプラシアン演算子Lであると仮定する。
例えば、計算上の考慮すべき事項のために、多項式フィルタリングに限定した場合、最適な多項式ローパスフィルターの問題を設定することができる。最適な多項式ローパスフィルターは、チェビシェフ多項式に基づいている。
具体的には、本発明者らは、l∈(0,2)から2に拡張した阻止帯域を有する区間[0,2]にわたって定義された次数kのチェビシェフ多項式hk−CHEBを用いることを提案する。グラフスペクトルは、対称正規化ラプラシアンLの固有空間に関して定義されるので、Lの全ての固有値は区間[0,2]にある。チェビシェフ多項式は、区間[−1,1]にわたって次数kのチェビシェフ多項式
Figure 0006692464
の根をi=1...kについて計算し、次いで、線形変換を介してそれらの根を区間[l,2]にシフトして多項式hk−CHEBの根rを取得し、そして、hk−CHEB(0)=1となるようにrを用いてこの多項式をスケーリングすることによって、容易に構築することができる。この結果、以下の式が得られる。
Figure 0006692464
チェビシェフ多項式は、ミニマックス最適であり、区間[l,2]上の全てのスペクトル成分を一様に抑圧し、[l,2]の外部の他のいずれの多項式よりも高速に増大する。
阻止帯域周波数lは、引き続き、フィルタリングk−CGの前に設定する必要がある設計パラメーターである。
さらに、k−CGローパスフィルター[?]も、本発明の提案された枠組みにおけるローパスフィルターを模倣するのに用いることができる。
図14は、k=1,2,3である場合のk−POLY(部分図1405)方法及びk−CG(部分図1410)方法を示している。
条件付きサンプリング
節3において提案された手法によると、各点に関連付けられた重要度スコアは、他のいずれの点からも独立しており、したがって、どの点がサンプリング手順中に選択されていても、スコアは同じままであると仮定される。この節では、点の重要度スコアが、サンプリング手順中に活発に更新されている場合を考える。すなわち、点の重要度スコアは、サンプリングされた点による影響を受ける。直感的には、重要度スコアは、既にサンプリングされた点については0になるはずである一方、サンプリングされた点に最も遠い点のスコアは変化しないままであるはずである。
サンプリング分布πは、この節では、重要度スコアの尺度として直接用いられる。
ここでは、本発明者らは、基準点rに対する点iのアクティブ重要度スコアπ i,rを提案する。
Figure 0006692464
ここで、xは、点xから最も遠い点である。新たなサンプリング点が求められた後、重要度スコアは以下のように更新される。
Figure 0006692464
不都合なことに、他の全ての点までの距離をカウントする必要があるので、πの計算、したがって、piの更新は、高い計算量を伴う。付随する計算量を制限する1つの方法は、あらゆる新たなサンプリング点が選択された後の重要度スコアの更新を回避することである。その代わりに、第1の点のグループがサンプリングされた後であって、第2の点のグループがサンプリングされる前にのみスコアを更新することができる。これは、更新が、かなり粗いステップで行われるので、より大きな性能低下をもたらすおそれがある。次に、本発明者らは、計算量の負担を高める2つの新規な方法を提案する。
ボクセル近似
あらゆる点について、正確な重要度スコア更新係数πを計算するのではなく、或る特定の近傍内の点についてこの係数を共有することができる。
Figure 0006692464
ここで、
Figure 0006692464
は、xが属するボクセルの重心点である。高速アルゴリズム、例えば、8分木分解を用いて点をボクセルに分割することができる。
mホップ近似
別の実施形態では、新たにサンプリングされた点から十分遠く離れた点には影響がないものと仮定される。半径τが、点群にわたってグラフを構築するのに用いられたものとして、重要度スコアを更新する必要がある範囲の近似半径をmτとする。
Figure 0006692464
不都合なことに、上記式を用いると、全ての距離を閾値に対して評価する必要があるので、距離の計算の数を削減することは簡単ではない。この問題を軽減する単純な方法は、この場合も、ボクセル重心を用いて、点ごとの距離を近似することである。この小節では、この単純な方法は別として、本発明者らは、より効率的に実施することができる図15に示すような新規な方法を提案する。
図15に示すように、点群は、各行が点に対応し、各列が属性に対応するXによって表される。Aは、求められたグラフ演算子(例えば、行列形式のもの)、又は基本グラフ演算子の関数である。事前にサンプリングされた点の集合は、Minによって示される。
目的は、mτの半径内のそれらの近傍上の以前のサンプリング点の影響を考慮することによって、n個の新たなサンプリング点を有する新たなサンプリング集合Moutを見つけることである。
ステップ1において、Aと同じ演算子Qを開始する。
ステップ2において、本発明者らは、Q内の行を、サンプリングされた点∀i∈Minの1に置き換えることを提案する。
ここで、行ベクトル1のエントリーは、第iのエントリーが1に等しいことを除いて全て0である。グラフ演算子における提案された変更は、(有向)グラフ構造における或る対応する変更、すなわち、既にサンプリングされた点に連結されたグラフエッジを除去し、既にサンプリングされた点に対して自己ループエッジを追加することを意味する。
ステップ3において、重要度スコアξ及びπが、PX−AXProwとして初期化される。ここで、P.Prowは、行ごとのノルム演算子である。初期重要度スコアは、基本となるグラフ構造に基づく局所情報の測定値とみなすことができる。
ステップ4において、重要度スコアξが、非サンプリング点に対応するそのエントリーが0にリセットされるように変更される。このとき、ξは、以前のサンプリング点集合Mによって担持されている局所情報を表す。
ステップ5の各反復において、局所情報は、以前のサンプリング点から、τの半径内のそれらの近傍に伝播される。ステップ5においてm回ループすることによって、そのような情報はmτの範囲内に伝播され、これはξによって表される。
ステップ6において、以前のサンプリング点集合によって担持された情報ξを、当初の点群からの全情報πから減算した後、新たな情報測定値πが得られる。
最後に、ステップ7において、本発明者らは、新たな情報測定値πに基づくn個の新たなサンプリング点を有する新たなサンプリング集合Moutを選択することができる。
上記で提案されたアルゴリズムを反復的に呼び出して、サンプリング集合の粒度を増大させ、非常に粗い表現に基づく当初の点群の階層表現を実現することができる。結果として得られた方法は、各層が生成された後、別の表現層の生成を待つことなく、各層の後続の処理を直ちに起動することができるので、「単一パス」分解手順である。
別の実施形態では、ステップ3においてノルム演算は実行されない場合があるが、X−AXをξ内に維持して、実際の局所情報を記憶することができる。ステップ6まで、πを更新する前に、最初にξに対してノルム演算が行われる。特に、局所情報が多次元であるとき、局所重要度スコアではなく、局所情報を伝播させることには利点がある。
基準ベースの再サンプリング
本発明者らは、大規模な点群から基準点の集合を再サンプリングすることを検討する。基準点は、点群の圧縮、インデックス付け、及び可視化において用いることができる他の点のロケーションを表すのに用いられる。このアイデアは、基準点の座標を最初に符号化し、次に、他の全ての点の最も近い基準点に対する相対座標を符号化することである。M∈{1,・・・,N}を有するK個の基準インデックスのシーケンスをM=(M,・,M)で示すことにする。目的は、以下の関数を最小にすることによって基準点の集合を見つけることである。
Figure 0006692464
ここで、
Figure 0006692464
は、各点の最も近い基準点を見つけるものであり、wは、第mの点の重みである。例えば、人間の眼は、3D点群を可視化したときに物体の輪郭により敏感に反応する。したがって、輪郭点により大きな重みが割り当てられる。
重みが一様であるとき、(28)は、クラスター中心が当初の点からのものであることを除いてK平均クラスタリングと同様である。(28)を、単に重み付きK平均クラスタリング問題と呼ぶことにする。ただし、大規模な3D点群に通常のクラスタリングアルゴリズムを用いることはできない。K平均クラスタリングは、計算的に困難(NP困難)であることが分かっている。ロイズアルゴリズム及びその変形形態等の効率的なヒューリスティックアルゴリズムは存在するが、これらのアルゴリズムは、クラスターを見つけるために反復を行い、各反復は、K個のクラスター中心のそれぞれと、N個のデータ点との間の距離の計算を伴う。Kが非常に大きいとき、総計算コストは非常に大きなものとなる。本発明者らは、大規模な点群及び数百万個の基準点を扱うので、反復を行うことなく基準点を見つけることを所望している。換言すれば、タスクは、重み付きK平均クラスタリングのシード点を効率的に選ぶことである。
K平均++[?]からインスピレーションを受けて、本発明者らのアイデアは、サンプリング分布を逐次更新するものである。第iの時点におけるサンプリング分布をπ(i)で示すことにする。各時点において、π(i)から1つのサンプルが生成され、この新たなサンプルに従ってサンプリング分布が更新される。サンプリング分布は、最も近い基準点までのユークリッド距離に基づいて更新される。局所エリアにおいて多くの点をサンプリングすることが回避される。提案された重み付きK平均++とオリジナルのK平均++との間の相違は、特徴の特性も考慮されるということである。このアルゴリズムは図16に示されている。
ステップ1において、基準インデックスの集合
Figure 0006692464
及びサンプリング分布πを開始する。ここで、第iのサンプルをサンプリングする確率は、特徴値、すなわち、π=w/Σに比例する。
ステップ2において、サンプリング分布πから1つの基準インデックスMが生成され、この基準インデックスは、集合Mに含められる。
ステップ3において、Mの濃度がKに達するまで、ステップ3.1及び3.2が繰り返される。
ステップ3.1において、π=w(x)/Σ(x)を割り当てることによって、サンプリング分布πが更新される。ここで、
Figure 0006692464
は、第iの点とその最も近い基準点との間のユークリッド距離である。
ステップ3.2において、サンプリング分布πから別の基準インデックスMが生成され、この別の基準インデックスは、集合Mに含められる。
オリジナルのK平均++と同様に、誤差の理論的限界を導出することができる。節4.1における同様の技法を用いて、計算量の負担を高めることができる。
アプリケーション
この節では、提案された再サンプリングストラテジーが、幾つかのアプリケーション、すなわち、大規模可視化、ロバストな形状モデリング、特徴解析、及び階層表現に応用される。
大規模可視化
このタスクでは、提案された再サンプリングストラテジーを用いて、大規模な市街シーンが効率的に可視化される。人は市街シーンにおける建物及び街路の輪郭に敏感に反応するので、点群全体を示すのではなく、点の選択された部分集合のみが示される。全部で30億個を越える点を有する幾つかの自然のシーンを伴い、様々な多様な市街シーン、すなわち、教会、街路、鉄道線路、広場、集落、サッカー場、城郭を対象に含む大規模なデータセットを考える。図9において、部分図905は、15105667個の点を含む「domfountain3」の点群を示している(地面の点は無視する)。一様なサンプリング及びハイパスグラフフィルタリングベースのサンプリングの2つの再サンプリングストラテジーに基づく再サンプリングされた点群が比較される。部分図910、915、920は、それぞれ151057個、15105個及び1510個(1%、0.1%及び0.01%)の点を有する一様なサンプリングに基づく再サンプリングされた点群を示している。部分図930、935、940は、それぞれ151057個、15105個及び1510個(1%、0.1%及び0.01%)の点を有するハイパスグラフフィルタリングベースのサンプリングに基づく再サンプリングされた点群を示している。部分図930、935及び940が、部分図910、915、及び920よりもはるかに明瞭な輪郭を示していることが分かる。これによって、ハイパスグラフフィルタリングベースの再サンプリングストラテジーが、大規模な市街シーンについて、視覚に適した結果を提供することの有効性が確証される。グラフ構築、局所変動計算及び再サンプリングを含む全計算プロセスは、デスクトップにおけるMatlab上で実行され、要した時間は200秒未満であった。
幾つかの細部を調べるために、それぞれ381903個及び1622239個の点を含む建物及び教会を含む2つのズームイン例が図10に示されている。部分図1005及び1010は、当初の点群を示している。部分図1015及び1020では、一様なサンプリングが用いられている。部分図1025及び1030では、ハイパスグラフフィルタリングに基づく提案された再サンプリングが用いられている。建物及び教会の双方の外形を輪郭として検出することに成功していることを確認することができた。建物の門及び窓並びに教会の時計及び屋根等の幾つかの細部も強調表示されている。これによって、提案された局所変動の有効性が確証される。第3列を第2列と比較すると、ハイパスグラフフィルタリングに基づく再サンプリングされた点は、輪郭を保存している。1015及び1020と比較すると、1025及び1030における再サンプリングされた点から建物の門及び窓の輪郭を認識することがより容易である。
ロバストな形状モデリング
このタスクでは、提案された再サンプリングストラテジーを用いて、ロバストな形状モデリングが実現される。
目標は、当初の点群内の全ての点を用いるのではなく、点の小さな部分集合を用いることによってモデルを効率的に取得することである。このモデルが、特に雑音を有する点群について、物体の真の表面を反映することが望まれる。
図11において、部分図1105は、62235個の点を含むフィットネスボールの点群を示している。この無雑音の場合には、フィットネスボールの表面は、球によってモデリングすることができる。部分図1110は、緑色の球をフィットネスボールに当てはめている。この球の半径及び3D中心点は、0.318238及び[0.0832627 0.190267 1.1725]である。計算を利用するために、点の部分集合を再サンプリングし、別の球を再サンプリングされた点に当てはめることができる。当初の点群及び再サンプリングされた点群によって生成されたこれらの2つの球は類似していることが望まれる。
多くの現実の場合には、当初の点は、雑音を伴って収集される。雑音を有する場合をシミュレーションするために、平均0及び分散0.02を有するガウス雑音が各点に加えられる。まず、一様に再サンプリングされた点群が取得される。次に、雑音除去された点群がローパスグラフフィルタリング(21)によって取得され、再サンプリングストラテジーが(20)に基づく。最後に、当初のボール(雑音を有しない)、雑音を有するボール(ガウス雑音が加えられている)、雑音を有するボールから一様に再サンプリングされたボール、及び提案されたローパスグラフフィルターを用いて再サンプリングされたボールの4つの点群からの球が当てはめられる。球の統計を図12に示す。雑音除去されたボール及びその再サンプリングバージョンは、雑音を有するボール及び一様にサンプリングされたバージョンよりも性能が優れている。なぜならば、推定された半径及び中心点が、当初の半径及び中心点により近いからである。これによって、ローパスグラフフィルタリングを用いた提案された再サンプリングストラテジーが、雑音を有する点群のロバストな形状モデリングを提供することの有効性が確証される。
特徴解析
提案されたハイパスグラフフィルターベースの再サンプリングを用いると、高い重要度スコアを有する点の小さな集合を求めることができる。そのような点の小さな部分集合は点群内のエッジ、コーナーに対応するので、それらは、当初の点群の重要な点とみなすことができる。
さらに、特徴記述子は、局所的な近傍内の点に関連付けられた幾つかの属性に関する局所記述子、例えば、ロケーション、勾配、方位及び縮尺を収集したものである当初の点群の選択された重要な点に関して定義することができる。
導出された特徴記述子に基づくと、或る点群解析タスクを行うことができる。例えば、点群データベースのクエリ点群が与えられると、同様の点群を検索し、取り出すことができる。2つの点群の間の類似度は、それらの特徴記述子の間の差を計算することによって測定することができる。
階層表現
限られた処理能力に起因して、点の母集団は、多くの場合、制御する必要がある。例えば、点群レンダリングデバイスは、或る特定の数の点までしか一時に表示することができない場合がある。或いは、点群から特徴を抽出するデバイスは、利用可能な計算リソースが限られていることから、限られたサイズの点集合しか扱うことができない場合がある。点の或る特定の密度は、点群の縮尺レベルに対応する。さらに、ズームイン/ズームアウトのような操作は、点群の階層表現を生成する要件をもたらす点群の一連の縮尺レベルを必要とする。
表現の高位層ほど、より多くの点で満たされていると仮定して、第iの層における点の集合をSとし、最も粗い層をi=1とし、最も微細な層をi=Mとする。
そのような階層表現を生成する単純な方法は、異なる縮尺における一連の点部分集合を生の点群から独立に生成し、上記に提案したような好ましい再サンプリングストラテジーを用いることである。そのような単純な方法を用いると、より粗い層にある点は、より微細な層に存在する必要がない。
一方、これは、k<lである限り、∀i∈Sl,i∈Sが成立すると仮定すると、利点を提供することができる。このように、より粗い層からの情報は、より微細な層に切り替わったときに廃棄されない。より微細な層からの新たな情報は、より粗い層に付加されて、精緻化された出力を生成する。換言すれば、より微細な層に移動するときに、より粗い層からの情報が廃棄される場合、これは、記憶空間又は伝送レートの浪費である。
以下に、本発明者らは、点群の階層表現を反復的な方法で生成する先進的手法を提案する。
最も微細な層Sは生の点群に等しいものとする。より微細な層Sj+1が利用可能であるとして、より粗い層Sを生成する必要があると仮定する。
上記で提案された再サンプリングストラテジーを点集合Sj+1に対して適用することが推奨される。
すなわち、独立した最も近い近傍グラフが点集合Si+1上に構築される。ここで、最も近い近傍は、現在の層j+1における点の密度を考慮することによって適切な半径を用いて既定される必要がある。半径は、より微細な層から粗い層に増加するものとする。その場合、好ましいランダムサンプリング方法が適用され、Si+1から部分集合Sが生成される。提案された手順を用いると、階層表現は、最も密な点集合(最も微細な解像度)から最も疎な点集合(最も粗い解像度)に向けて生成されていく。
視認者は、当初の点群を見るとき、そのような階層表現の異なる層の間をナビゲートすることによってズームイン操作、ズームアウト操作を行うことができる。
加えて、階層表現生成に続いて、空間スケーラブル符号化方式を設計することができる。好ましい空間スケーラブル符号化方式は2パス手順であり、第1のパスは、SからSへの階層表現を生成するものであり、第2のパスは、SからSへの実際の符号化のためのものである。すなわち、この符号化は、最も粗い層Sから開始する。Sが符号化されていると仮定すると、本発明者らは、余分な点
Figure 0006692464
をSに基づく予測的な方法で符号化することを提案する。
1つの実施態様では、既存の方法、例えば、8分木符号化方法が、最も粗い層Sを符号化するのに用いられる。次に、Si−1における点を点予測値として用いてより微細な層Sを符号化するために、本発明者らは、Si−1における点をユークリッド距離に基づく重心として用いて、Sにおける点をクラスタリングすることを提案する。そのような方法で、
Figure 0006692464
における新たな点を、Si−1における点によって効率的に予測することができる。
本開示では、本発明者らは、大規模な点群において重要な特徴を抽出し、その後の計算を利用するように点の部分集合を選択する再サンプリングの枠組みを提案した。シフト不変及び回転不変であることも保証される最適なサンプリング分布を取得する最適化問題が定式化された。さらに、グラフフィルターであり、オールパスグラフフィルタリング、ローパスグラフフィルタリング及びハイパスグラフフィルタリングに基づく再サンプリングストラテジーを考慮した特徴抽出演算子が指定された。大規模可視化、ロバストな形状モデリング、特徴記述子抽出、階層表現及び符号化を含む幾つかのアプリケーションが、提案された再サンプリング方法の有効性及び効率性を実証するために提示されている。
図17は、本開示の実施形態による、代替のコンピューター又はプロセッサを用いて実施することができる図1の方法を示すブロック図である。コンピューター1711は、プロセッサ1740と、コンピューター可読メモリ1712と、記憶装置1758と、ディスプレイ1752及びキーボード1751を有するユーザーインターフェース1749とを備える。これらは、バス1256を通じて接続されている。例えば、プロセッサ1740及びコンピューター可読メモリ1712と通信するユーザーインターフェース1264は、ユーザーによるユーザーインターフェース1764の表面であるキーボード表面1764からの入力を受け取ると、入力点群データを取得し、コンピューター可読メモリ1712に記憶する。
コンピューター1711は、用途に応じて、電力源1754を備えることができ、電力源1254は、任意選択でコンピューター1711の外部に配置されてもよい。バス1756を通じて、ディスプレイデバイス1748に接続するように構成されたユーザー入力インターフェース1757をリンクすることができ、ディスプレイデバイス1248は、とりわけ、コンピューターモニター、カメラ、テレビ、プロジェクター、又はモバイルデバイスを含むことができる。プリンターインターフェース1759も、バス1756を通じて接続することができ、印刷デバイス1732に接続するように構成することができる。印刷デバイス1732は、とりわけ、液体インクジェットプリンター、固体インクプリンター、大規模商用プリンター、感熱式プリンター、UVプリンター、又は昇華型プリンターを含むことができる。ネットワークインターフェースコントローラー(NIC)1234は、バス1756を通じてネットワーク1736に接続するように構成され、とりわけ、時系列データ又は他のデータは、コンピューター1711の外部の第三者ディスプレイデバイス、第三者画像デバイス、及び/又は第三者印刷デバイス上にレンダリングすることができる。
図17を更に参照すると、とりわけ、入力点群データ、出力点データ又は他のデータは、ネットワーク1736の通信チャネルを介して送信することができ、及び/又は、記憶及び/又は更なる処理のために記憶システム1758内に記憶することができる。さらに、入力点群データ、出力点データ又は他のデータは、受信機1746(又は外部受信機1738)から無線又は配線接続で受信することもできるし、送信機1747(又は外部送信機1739)を介して無線又は配線接続で送信することもでき、受信機1746及び送信機1747はともに、バス1756を通じて接続される。コンピューター1711は、入力インターフェース1708を介して外部センシングデバイス1744及び外部入力/出力デバイス1741に接続することができる。例えば、外部センシングデバイス1244は、機械の収集された時系列データの前後中においてデータを収集するセンサーを含むことができる。例えば、機械に接近した環境条件又は接近していない環境条件、すなわち、機械における温度又は機械の近くの温度、機械のロケーションの建物内の温度、機械の建物の外部の屋外の温度、機械自体のビデオ、機械に接近したエリアのビデオ、機械に接近していないエリアのビデオ、機械の態様に関係した他のデータ。コンピューター1711は、他の外部コンピューター1742に接続することができる。出力インターフェース1709は、プロセッサ1740からの処理されたデータを出力するのに用いることができる。
また、本明細書において略述された様々な方法又はプロセスは、様々なオペレーティングシステム又はプラットフォームのうちの任意の1つを用いる1つ以上のプロセッサ上で実行可能なソフトウェアとしてコード化することができる。加えて、そのようなソフトウェアは、複数の適したプログラミング言語及び/又はプログラミングツール若しくはスクリプティングツールのうちの任意のものを用いて記述することができ、実行可能機械語コード、又はフレームワーク若しくは仮想機械上で実行される中間コードとしてコンパイルすることもできる。通常、プログラムモジュールの機能は、様々な実施形態において所望に応じて組み合わせることもできるし、分散させることもできる。
また、本開示の実施形態は、方法として具現化することができ、この方法の一例が提供されている。この方法の一部として実行される動作は、任意の適した方法で順序付けることができる。したがって、例示したものと異なる順序で動作が実行される実施形態を構築することができ、この順序は、幾つかの動作が例示の実施形態では順次的な動作として示されていても、それらの動作を同時に実行することを含むことができる。さらに、請求項の要素を修飾する、特許請求の範囲における「第1」、「第2」等の序数の使用は、それ自体で、或る請求項の要素の別の請求項の要素に対する優先順位も、優位性も、順序も暗示するものでもなければ、方法の動作が実行される時間的な順序も暗示するものでもなく、請求項の要素を区別するために、単に、或る特定の名称を有する或る請求項の要素を、同じ(序数の用語の使用を除く)名称を有する別の要素と区別するラベルとして用いられているにすぎない。

Claims (20)

  1. 点を有する入力点群を処理するシステムであって、
    各点は、2次元(2D)座標及び3次元(3D)座標並びに他の属性を含む属性の集合を含み、
    該システムは、
    シーンをセンシングし、コンピューター可読メモリと通信し、前記入力点群を生成するセンサーと、
    出力インターフェースと、
    前記コンピューター可読メモリと通信するプロセッサであって、
    前記入力点群にアクセスすることと、
    前記入力点群を表すグラフを、該グラフにおけるノードを表す前記入力点群内の各点に基づいて構築し、前記グラフにおける2つの近傍ノードを特定して接続し、グラフエッジを得ることと、
    前記構築されたグラフに基づいてグラフフィルタリング関数を求めることと、
    前記入力点群内の前記点の属性の部分集合を選択し、前記選択された属性の部分集合に対して前記グラフフィルタリング関数を適用することによって、前記入力点群内の各点をフィルタリングし、前記入力点群内の各点の少なくとも1つの値を求めることと、
    各点の確率を、前記入力点群内の前記点の全ての値の総計と比較した該点の前記少なくとも1つの値と、出力点群内の点の所定の数とに基づいて生成することと、
    各点の前記確率のランダム評価を用いて前記入力点群をサンプリングして、前記入力点群内の点の部分集合を得ることであって、点の前記部分集合は前記出力点群である、ことと、
    前記出力点群を前記コンピューター可読メモリに記憶すること、又は、前記プロセッサと通信する前記出力インターフェースを介して前記出力点群を出力することと、
    を行うように構成され、
    前記出力点群は、その後の処理を支援するのに用いられ、入力点群データの管理を支援する、
    システム。
  2. 前記点の前記属性の部分集合は、ユーザー入力に基づいて選択される、
    請求項1に記載のシステム。
  3. 前記入力点群をサンプリングするための各点の前記確率を前記生成することは、前記入力点群内の前記点の全ての値の総計と比較した該点の前記少なくとも1つの値に、前記出力点群内の点の前記所定の数を乗算したものに基づいている、
    請求項1に記載のシステム。
  4. 前記出力点群内の点の前記所定の数は、前記出力点群内の点の前記所定の数としてユーザーの点の数を設定するために、前記プロセッサと通信するユーザー入力インターフェースの表面におけるユーザー入力によって決定される、
    請求項1に記載のシステム。
  5. 前記入力点群内の前記点は、編成されているか又は編成されていない、
    請求項1に記載のシステム。
  6. 各点の属性の前記集合内の前記他の属性は、色、温度、透明度又は反射率のうちの1つ又は組み合わせからなる群からのものである、
    請求項1に記載のシステム。
  7. 前記グラフエッジは、グラフノードからτの半径内にある全ての近傍グラフノードに接続される、
    請求項1に記載のシステム。
  8. 前記グラフエッジは、グラフノードからそのK個の最も近い近傍グラフノードに接続される、
    請求項1に記載のシステム。
  9. 前記選択された属性の部分集合は、前記出力点群を求めるときに用いられるような各点の3D座標を含む、
    請求項1に記載のシステム。
  10. 前記選択された属性の部分集合は、前記出力点群を求めるときに用いられるような各点に関連した色を含む、
    請求項1に記載のシステム。
  11. 各点の前記確率は、グラフノードごとの任意の既定の正の定数である、
    請求項1に記載のシステム。
  12. 各点の前記確率は、グラフランダムウォーク(遷移)行列、グラフラプラシアン行列又はグラフ隣接行列のうちの1つの関数によって表される前記グラフフィルタリング関数から計算される、
    請求項1に記載のシステム。
  13. 可視化、物体モデリング、階層表現又はレンダリングのうちの1つからなる群のために前記出力点群を出力すること、
    を更に含む、請求項1に記載のシステム。
  14. 前記入力点群を要約する前記出力点群内の各点の特徴記述子を生成することと、
    前記特徴記述子に基づいて物体を検出することと、
    を更に含む、請求項1に記載のシステム。
  15. 前記入力点群内の点の部分集合を前記求めることは、
    追加の点が選択され、前記求められた点の部分集合に加えられる第2の点の部分集合であって、前記入力点群の前記求められた点の部分集合の細部よりも詳細な前記入力点群の細部を提供するような第2の点の部分集合を求めること、
    を含む、請求項1に記載のシステム。
  16. 残りの点から前記求められた点の部分集合内の前記点までのユークリッド距離に比例する縮尺を用いて残りの点の前記確率の係数を更新すること、
    を更に含む、請求項15に記載のシステム。
  17. 前記点の部分集合内の前記点に連結され、それらに追加される自己ループグラフエッジを有する、除去される前記グラフエッジを有する当初のグラフフィルタリング関数から変更されたグラフ構造に基づいて第2のグラフフィルタリング関数を求めることと、
    前記点の部分集合内の前記点に関する前記特徴記述子と等しい要素と、0に等しい他の要素とを有する情報記述子を選択することと、
    幾つかの特定の時刻を有する前記選択された情報記述子に対して前記求められた第2のグラフフィルタリング関数を適用することによって更新された情報記述子を計算することと、
    前記更新された情報記述子に対応する前記第2のグラフフィルタリング関数を用いて前記出力点群内の各点について重要度スコアを計算することで前記重要度スコアを更新することと、
    を更に含む、請求項14に記載のシステム。
  18. 前記入力点群内の点の部分集合を前記求めることは、
    追加の点が選択され、前記求められた点の部分集合から除去される第2の点の部分集合であって、前記入力点群の前記求められた点の部分集合の細部よりも詳細でない前記入力点群の細部を提供するような第2の点の部分集合を求めることと、
    前記点の階層集合に基づいてスケーラブルな方法でより粗いレベルからより細かなレベルに前記入力点群を符号化することと、
    を含む、請求項1に記載のシステム。
  19. 点を有する入力点群を処理する方法であって、
    各点は、2次元(2D)座標及び3次元(3D)座標並びに他の属性を含む属性の集合を含み、
    該方法は、
    コンピューター可読メモリと通信するセンサーを介してシーンをセンシングして前記入力点群を生成することと、
    前記コンピューター可読メモリと通信するプロセッサを用いることと、
    を含み、
    前記プロセッサは、
    前記入力点群にアクセスすることと、
    前記入力点群を表すグラフを、該グラフにおけるノードを表す前記入力点群内の各点に基づいて構築し、前記グラフにおける2つの近傍ノードを特定して接続し、グラフエッジを得ることと、
    前記構築されたグラフに基づいてグラフフィルタリング関数を求めることと、
    前記入力点群内の前記点の属性の部分集合を選択し、前記選択された属性の部分集合に対して前記グラフフィルタリング関数を適用することによって、前記入力点群内の各点をフィルタリングし、前記入力点群内の各点の少なくとも1つの値を求めることと、
    各点の確率を、前記入力点群内の前記点の全ての値の総計と比較した該点の前記少なくとも1つの値と、出力点群内の点の所定の数とに基づいて生成することと、
    各点の前記確率のランダム評価を用いて前記入力点群をサンプリングして、前記入力点群内の点の部分集合を得ることであって、点の前記部分集合は前記出力点群である、ことと、
    前記出力点群を前記コンピューター可読メモリに記憶すること、又は、前記プロセッサと通信する出力インターフェースを介して前記出力点群を出力することと、
    を行うように構成され、
    前記出力点群は、その後の処理を支援するのに用いられ、入力点群データの管理を支援する、
    方法。
  20. 点を有する記憶された入力点群を処理する方法を実行するコンピューターによって実行可能なプログラムを具現化した非一時的コンピューター可読記憶媒体であって、
    各点は、2次元(2D)座標及び3次元(3D)座標並びに他の属性を含む属性の集合を含み、
    前記方法は、
    該非一時的コンピューター可読記憶媒体と通信するセンサーを介してシーンをセンシングして前記入力点群を生成することと、
    前記入力点群を表すグラフを、該グラフにおけるノードを表す前記入力点群内の各点に基づいて構築し、前記グラフにおける2つの近傍ノードを特定して接続し、グラフエッジを得ることと、
    前記構築されたグラフに基づいてグラフフィルタリング関数を求めることと、
    前記入力点群内の前記点の属性の部分集合を選択し、前記選択された属性の部分集合に対して前記グラフフィルタリング関数を適用することによって、前記入力点群内の各点をフィルタリングし、前記入力点群内の各点の少なくとも1つの値を求めることと、
    各点の確率を、前記入力点群内の前記点の全ての値の総計と比較した該点の前記少なくとも1つの値と、出力点群内の点の所定の数とに基づいて生成することと、
    各点の前記確率のランダム評価を用いて前記入力点群をサンプリングして、前記入力点群内の点の部分集合を得ることであって、点の前記部分集合は前記出力点群である、ことと、
    前記出力点群を該非一時的コンピューター可読記憶媒体に記憶すること、又は、前記コンピューターと通信する出力インターフェースを介して前記出力点群を出力することと、
    を含み、
    前記出力点群は、その後の処理を支援するのに用いられ、入力点群データの管理を支援する、
    非一時的コンピューター可読記憶媒体。
JP2018565895A 2016-11-03 2017-10-06 点を有する入力点群を処理するシステム及び方法 Active JP6692464B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201662417007P 2016-11-03 2016-11-03
US62/417,007 2016-11-03
US15/358,346 2016-11-22
US15/358,346 US10229533B2 (en) 2016-11-03 2016-11-22 Methods and systems for fast resampling method and apparatus for point cloud data
PCT/JP2017/037287 WO2018083963A1 (en) 2016-11-03 2017-10-06 System and method for processing input point cloud having points

Publications (2)

Publication Number Publication Date
JP2019528500A JP2019528500A (ja) 2019-10-10
JP6692464B2 true JP6692464B2 (ja) 2020-05-13

Family

ID=62020526

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018565895A Active JP6692464B2 (ja) 2016-11-03 2017-10-06 点を有する入力点群を処理するシステム及び方法

Country Status (9)

Country Link
US (1) US10229533B2 (ja)
EP (1) EP3535662B1 (ja)
JP (1) JP6692464B2 (ja)
KR (1) KR102216823B1 (ja)
CN (1) CN109964222B (ja)
AU (1) AU2017354183B2 (ja)
SG (1) SG11201902091YA (ja)
TW (1) TWI632487B (ja)
WO (1) WO2018083963A1 (ja)

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018176185A1 (zh) * 2017-03-27 2018-10-04 中国科学院深圳先进技术研究院 一种纹理合成方法及其装置
US10600199B2 (en) * 2017-06-27 2020-03-24 Toyota Research Institute, Inc. Extending object detection and identification capability for an object sensor device
US10776111B2 (en) * 2017-07-12 2020-09-15 Topcon Positioning Systems, Inc. Point cloud data method and apparatus
US10482628B2 (en) * 2017-09-30 2019-11-19 United States Of America As Represented By The Secretary Of The Army Photogrammetric point cloud compression for tactical networks
US11004202B2 (en) * 2017-10-09 2021-05-11 The Board Of Trustees Of The Leland Stanford Junior University Systems and methods for semantic segmentation of 3D point clouds
US11244502B2 (en) * 2017-11-29 2022-02-08 Adobe Inc. Generating 3D structures using genetic programming to satisfy functional and geometric constraints
US12051137B1 (en) * 2018-06-08 2024-07-30 Ioannis G Tollis Channel-based framework for hierarchical drawings
EP3807844A4 (en) 2018-06-15 2022-04-27 Geomni, Inc. MACHINE VISION SYSTEMS AND METHODS FOR MODELING ROOFS OF STRUCTURES USING TWO-DIMENSIONAL AND PARTIAL THREE-DIMENSIONAL DATA
EP3617999B1 (en) * 2018-09-01 2023-04-19 Tata Consultancy Services Limited Systems and methods for dense surface reconstruction of an object using graph signal processing
WO2020189876A1 (ko) * 2019-03-15 2020-09-24 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
CN109889840B (zh) * 2019-03-20 2022-11-22 北京大学深圳研究生院 点云编码和解码的方法、编码设备和解码设备
US10915779B2 (en) * 2019-04-26 2021-02-09 Unikie Oy Method for extracting uniform features from point cloud and system therefor
CN110310322B (zh) * 2019-07-06 2021-08-10 北方工业大学 一种10微米级高精度器件装配表面检测方法
CN112307809B (zh) * 2019-07-26 2023-07-25 中国科学院沈阳自动化研究所 一种基于稀疏特征点云的主动目标识别方法
WO2021016891A1 (zh) * 2019-07-30 2021-02-04 深圳市大疆创新科技有限公司 处理点云的方法和装置
US11132834B2 (en) * 2019-08-09 2021-09-28 Facebook Technologies, Llc Privacy-aware artificial reality mapping
CN110807774B (zh) * 2019-09-30 2022-07-12 九天创新(广东)智能科技有限公司 一种点云分类与语义分割方法
US11348285B2 (en) * 2019-12-10 2022-05-31 Sony Group Corporation Mesh compression via point cloud representation
CN113021333A (zh) * 2019-12-25 2021-06-25 沈阳新松机器人自动化股份有限公司 一种物体的抓取方法、系统及终端设备
CN111242997B (zh) * 2020-01-13 2023-11-10 北京大学深圳研究生院 一种基于滤波器的点云属性预测方法及设备
US11580140B2 (en) * 2020-01-22 2023-02-14 International Institute Of Information Technology, Hyderabad System of visualizing and querying data using data-pearls
CN111429494B (zh) * 2020-04-13 2023-04-07 中国空气动力研究与发展中心超高速空气动力研究所 一种基于生物视觉的点云高精度自动配准方法
WO2021246796A1 (ko) * 2020-06-05 2021-12-09 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
CN112241676A (zh) * 2020-07-07 2021-01-19 西北农林科技大学 一种地形杂物自动识别的方法
CN112348921B (zh) * 2020-11-05 2024-03-29 上海汽车集团股份有限公司 一种基于视觉语义点云的建图方法及系统
CN112529010B (zh) * 2020-12-04 2023-03-24 浙江大学计算机创新技术研究院 一种基于在线局部特征提取的点云识别方法
CN113361558B (zh) * 2021-01-29 2024-04-02 南京航空航天大学 基于ihpso-kmsvdd的航空发动机故障检测方法
CN112819960B (zh) * 2021-02-01 2022-06-24 电子科技大学 一种对抗性点云生成方法、存储介质和终端
CN113052955B (zh) * 2021-03-19 2023-06-30 西安电子科技大学 一种点云补全方法、系统及应用
CN112991557A (zh) * 2021-04-25 2021-06-18 广东工业大学 应用于点云分析模型的局部中心最近点采样方法及装置
CN113761238B (zh) * 2021-08-27 2022-08-23 广州文远知行科技有限公司 点云存储方法、装置、设备及存储介质
US20230119568A1 (en) * 2021-10-19 2023-04-20 International Business Machines Corporation Pattern detection and prediction using time series data
CN114462493B (zh) * 2021-12-29 2024-05-10 浙江大华技术股份有限公司 聚类方法、聚类装置及计算机可读存储介质
GB202207459D0 (en) * 2022-05-20 2022-07-06 Cobra Simulation Ltd Content generation from sparse point datasets
WO2024072856A1 (en) * 2022-09-27 2024-04-04 Visa International Service Association Method, system, and computer program product for universal depth graph neural networks
WO2024100708A1 (ja) * 2022-11-07 2024-05-16 日本電信電話株式会社 グラフ信号処理装置、グラフ信号処理方法及びプログラム
CN116342666B (zh) * 2023-02-10 2024-03-19 西安电子科技大学 基于多形式优化的三维点云配准方法及电子设备
CN115984827B (zh) * 2023-03-06 2024-02-02 安徽蔚来智驾科技有限公司 点云感知方法、计算机设备及计算机可读存储介质
CN116994071A (zh) * 2023-09-25 2023-11-03 云南联合视觉科技有限公司 一种基于自适应光谱残差的多光谱激光雷达点云分类方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5345535A (en) * 1990-04-04 1994-09-06 Doddington George R Speech analysis method and apparatus
KR100450823B1 (ko) * 2001-11-27 2004-10-01 삼성전자주식회사 깊이 이미지 기반 3차원 물체의 표현을 위한 노드 구조
US8145759B2 (en) * 2002-11-04 2012-03-27 Oracle America, Inc. Dynamically configurable resource pool
US8972329B2 (en) * 2008-05-02 2015-03-03 The Board Of Trustees Of The Leland Stanford Junior University Systems and methods for ranking nodes of a graph using random parameters
US20130144135A1 (en) * 2011-08-02 2013-06-06 Mohamed R. Mahfouz Method and apparatus for three dimensional reconstruction of a joint using ultrasound
US9965821B2 (en) * 2012-03-09 2018-05-08 Nvidia Corporation Fully parallel in-place construction of 3D acceleration structures in a graphics processing unit
JP2013186464A (ja) * 2012-03-12 2013-09-19 Aisin Aw Co Ltd 写真データ提供システム
US9846960B2 (en) * 2012-05-31 2017-12-19 Microsoft Technology Licensing, Llc Automated camera array calibration
US8989037B2 (en) * 2012-06-01 2015-03-24 Broadcom Corporation System for performing data cut-through
US9460553B2 (en) * 2012-06-18 2016-10-04 Dreamworks Animation Llc Point-based global illumination directional importance mapping
CN104822429A (zh) * 2012-11-28 2015-08-05 辉达公司 掌上游戏机
CN104298971B (zh) * 2014-09-28 2017-09-19 北京理工大学 一种3d点云数据中的目标识别方法
CN104463922B (zh) * 2014-12-03 2017-09-08 天津大学 一种基于集成学习的图像特征编码及识别方法

Also Published As

Publication number Publication date
TWI632487B (zh) 2018-08-11
SG11201902091YA (en) 2019-05-30
EP3535662A1 (en) 2019-09-11
JP2019528500A (ja) 2019-10-10
AU2017354183A1 (en) 2019-03-21
US10229533B2 (en) 2019-03-12
KR20190057361A (ko) 2019-05-28
WO2018083963A1 (en) 2018-05-11
KR102216823B1 (ko) 2021-02-17
EP3535662B1 (en) 2023-03-22
AU2017354183B2 (en) 2020-01-30
CN109964222A (zh) 2019-07-02
TW201818197A (zh) 2018-05-16
US20180122137A1 (en) 2018-05-03
CN109964222B (zh) 2023-04-18

Similar Documents

Publication Publication Date Title
JP6692464B2 (ja) 点を有する入力点群を処理するシステム及び方法
Berger et al. A survey of surface reconstruction from point clouds
Touati et al. An energy-based model encoding nonlocal pairwise pixel interactions for multisensor change detection
Limberger et al. Real-time detection of planar regions in unorganized point clouds
US20190354832A1 (en) Method and system for learning on geometric domains using local operators
Jenke et al. Bayesian point cloud reconstruction
Carlsson et al. On the local behavior of spaces of natural images
Athawale et al. Isosurface visualization of data with nonparametric models for uncertainty
Paulsen et al. Markov random field surface reconstruction
Giachetti et al. Radial symmetry detection and shape characterization with the multiscale area projection transform
TW200828176A (en) Apparatus and method for processing video data
Ben-Chen et al. On the optimality of spectral compression of mesh data
Sahu et al. A Bayesian multiresolution approach for noise removal in medical magnetic resonance images
Chen et al. Contour-enhanced resampling of 3D point clouds via graphs
Wu et al. High-volume point cloud data simplification based on decomposed graph filtering
Unnikrishnan et al. Robust extraction of multiple structures from non-uniformly sampled data
AU2015218184A1 (en) Processing hyperspectral or multispectral image data
Favorskaya et al. Image inpainting based on self-organizing maps by using multi-agent implementation
JP4434868B2 (ja) 画像分割処理システム
Wei Graph spectral point cloud processing
Distante et al. Data organization
Shi et al. Fast and effective integration of multiple overlapping range images
CN114998990B (zh) 一种工地人员安全行为识别方法及装置
CN114821013B (zh) 基于点云数据的基元检测方法、装置和计算机设备
Yu et al. Virtual image multi feature matching algorithm based on 3D scene reconstruction

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200317

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200414

R150 Certificate of patent or registration of utility model

Ref document number: 6692464

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250