JP2019211466A - 3次元シーンを再構成するための方法、装置、機器及びコンピュータ可読記憶媒体 - Google Patents

3次元シーンを再構成するための方法、装置、機器及びコンピュータ可読記憶媒体 Download PDF

Info

Publication number
JP2019211466A
JP2019211466A JP2019047110A JP2019047110A JP2019211466A JP 2019211466 A JP2019211466 A JP 2019211466A JP 2019047110 A JP2019047110 A JP 2019047110A JP 2019047110 A JP2019047110 A JP 2019047110A JP 2019211466 A JP2019211466 A JP 2019211466A
Authority
JP
Japan
Prior art keywords
point cloud
cloud data
data frame
subset
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019047110A
Other languages
English (en)
Other versions
JP6771059B2 (ja
Inventor
ユイ,リー
Li Yu
ソン,シユ
Shiyu Song
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu Online Network Technology Beijing Co Ltd
Original Assignee
Baidu Online Network Technology Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu Online Network Technology Beijing Co Ltd filed Critical Baidu Online Network Technology Beijing Co Ltd
Publication of JP2019211466A publication Critical patent/JP2019211466A/ja
Application granted granted Critical
Publication of JP6771059B2 publication Critical patent/JP6771059B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/04Texture mapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/38Registration of image sequences
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20072Graph-based image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30184Infrastructure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/56Particle system, point based geometry or rendering

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Traffic Control Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Instructional Devices (AREA)
  • Navigation (AREA)
  • Image Generation (AREA)

Abstract

【課題】GNSS信号の欠失で、システムが正しく機能できない場合でも3次元シーンを再構成することが可能な3次元シーンを再構成するための方法を提供する。【解決手段】3次元シーンを再構成するための方法は、3次元シーンについての点群データフレームセットを取得するステップを含み、点群データフレームセット内の点群データフレームそれぞれは、姿勢パラメータを有する。点群データフレームセットから3次元シーンの一部に対応するサブセットを確定するステップを更に含む。サブセット内の点群データフレームの姿勢パラメータを調整して、調整後のサブセットを取得するステップであって、調整後のサブセットは、マッチするオーバーラップ部分を有する少なくとも2つの点群データフレームを含む、ステップを更に含む。調整後のサブセットを使用して点群データフレームセットを更新するステップを更に含む。【選択図】図1

Description

本発明の実施形態は、通常に、点群データの処理に関し、より詳細に、3次元シーンを再構成するための方法、装置、機器及びコンピュータ可読記憶媒体に関する。
高精度地図は、自動運転技術の重要な構成部分で、自動運転車の経路計画及び決定制御の基礎であり、車両の高精度自体位置推定にもコアデータを提供する。車載レーザレーダに基づく高精度シーンの再構成は、高精度地図を生成するための前提条件である。全地球航法衛星システム(GNSS、例えば全地球測位システム(GPS))信号が良好である環境では、差動GPS/慣性航法装置を介して正確なレーダ姿勢を得ることができ、得られた点群データをレーダ姿勢に従って世界座標系に投影することによって、高精度3次元シーンを再構成することができる。しかし、都市における高層ビルやトンネルなどのシーンでは、GNSS信号の欠失で、システムが正しく機能できない。したがって、上記技術的問題を少なくとも部分的に解決する、3次元シーンを再構成するための技術的解決策を提供することが必要となる。
本発明の実施形態により、3次元シーンを再構成するための技術案が提供される。
本発明の第1の態様において、3次元シーンを再構成するための方法が提供される。当該方法は、前記3次元シーンについての点群データフレームセットを取得するステップであって、前記点群データフレームセット内の点群データフレームそれぞれは、姿勢パラメータを有する、ステップと、前記点群データフレームセットから前記3次元シーンの一部に対応するサブセットを確定するステップと、前記サブセット内の点群データフレームの姿勢パラメータを調整して、調整後のサブセットを取得するステップであって、前記調整後のサブセットは、マッチするオーバーラップ部分を有する少なくとも2つの点群データフレームを含む、ステップと、調整後のサブセットを使用して前記点群データフレームセットを更新するステップと、を含む。
本発明の第2の態様において、3次元シーンを再構成するための装置が提供される。当該装置は、前記3次元シーンについての点群データフレームセットを取得するように配置される点群取得モジュールであって、前記点群データフレームセット内の点群データフレームそれぞれは、姿勢パラメータを有する、点群取得モジュールと、前記点群データフレームセットから前記3次元シーンの一部に対応するサブセットを確定するように配置されるサブセット確定モジュールと、前記サブセット内の点群データフレームの姿勢パラメータを調整して、調整後のサブセットを取得するように配置される姿勢調整モジュールであって、前記調整後のサブセットは、マッチするオーバーラップ部分を有する少なくとも2つの点群データフレームを含む、姿勢調整モジュールと、調整後のサブセットを使用して前記点群データフレームセットを更新するように配置される点群更新モジュールと、を備える。
本発明の第3の態様において、電子機器が提供される。当該電子機器は、1つ以上のプロセッサと、1つ以上のプログラムを記憶するためのメモリとを備え、前記1つ以上のプログラムが前記1つ以上のプロセッサによって実行されると、電子機器に本発明の第1の態様に記載の方法を実現させる。
本発明の第4の態様において、コンピュータプログラムが記憶されているコンピュータ可読(記憶)媒体であって、当該プログラムがプロセッサによって実行されると、本発明の第1の態様に記載の方法を実現させるコンピュータ可読(記憶)媒体が更に提供される。
発明の開示に記載された内容は、本発明の実施形態の決定的な又は重要な特徴を限定することを意図するものではなく、本発明の範囲を限定するものでもない。本発明の他の特徴は、以下の説明によって容易に理解されるであろう。
添付図面と組み合わせて以下の詳細な説明を参照すれば、本発明の各実施形態の上述したもの並びに他の特徴、利点及び態様は、より明らかになるであろう。添付図面において、同一又は類似の参照番号は、同一又は類似の要素を表す。
図1は、本発明の実施形態を実施可能な例示的な環境を示す概略図である。 図2は、本発明の実施形態に係る3次元シーンを再構成するための方法を示すフローチャートである。 図3は、本発明の実施形態に係る3次元シーンの一部に対応する点群データフレームサブセットを確定するための方法を示すフローチャートである。 図4は、本発明の実施形態に係る姿勢パラメータを調整するための方法を示すフローチャートである。 図5は、本発明の実施形態に係る3次元シーンを再構成するための装置を示すブロック図である。 図6は、本発明の実施形態を実施可能な電子機器を示すブロック図である。
以下、添付図面を参照しながら本発明の実施形態を更に詳しく説明する。本発明のいくつかの実施形態が図面に示されているが、本発明は様々な形態で具現化されてもよく、本明細書に記載の実施形態に限定されると解釈されるべきではなく、逆に、これらの実施形態は、本発明をより明確かつ完全に理解するために提供されていることを理解されたい。なお、本発明の図面及び実施形態は例示的なものにすぎず、本発明の保護範囲を限定するものではない。
上述したように、自動運転の分野では、従来の地図作成方法は、主に、全地球航法衛星システム(GNSS)/慣性航法装置(SINS)からなるナビゲーションシステムによって提供される高精度全地球測位結果に応じて、地図を作成することであり、当該システムは、遮るもののない高速道路などの場所では確かにセンチメートルレベルの精度を提供することができる。しかしながら、高層ビルが密集している場所やトンネルなどの一般的な都市のシーンでは、GPS信号が弱くなったり完全に欠落したりして、慣性航法エラーが急速に蓄積され、正確なレーザレーダ姿勢を得ることができず、その結果、シーンの再構成精度は自動運転の要求を満たすことができない。加えて、GPS信号の欠失は、特に大規模な都市の道路の場合、点群データフレームのスプライシングにおける高計算量につながり、高い計算効率及び計算精度を達成することが困難である。
前記問題について、本発明の実施形態は、3次元シーンを再構成するための技術案を提供する。当該技術案は、3次元シーンを複数の独立した部分に分割し、各部分に対して点群データフレームの姿勢パラメータを最適化する。次に、最適化された各部分を組み合わせる。このようにして、3次元シーンの再構成と高精度地図の作成に関する分散処理を実現することができ、複雑なシーンに対する処理効率や計算精度を向上させることができる。
以下、本発明の実施形態に対して、図1〜図7を参照しながら具体的に説明する。
図1は、本発明の実施形態を実施可能な例示的な環境100を示す概略図である。環境100では、レーザーレーダを搭載した収集エンティティ116(例えば、車両)が道路120上を移動して、収集エンティティ116が配置されているシーン102に関連するデータを収集する。
本発明のコンテキストでは、「収集エンティティ」という用語は、点群、データ、及び/又は他の適切なデータを収集可能なエンティティであり、例えば、車両、人、又は他の移動可能なデバイスなどが挙げられる。レーザーレーダは、シングルラインレーザーレーダ、マルチラインレーザーレーダ、3Dレーザーレーダなどであってもよい。上記実施形態は、本発明の単なる例示であり、本発明の実施形態の範囲を限定することを意図しないと理解されるべきである。
収集エンティティ116の移動中、レーザーレーダは、収集エンティティ116が配置されているシーン102の3次元情報を記述する点群を取得する。図1に示すように、シーン102は、収集エンティティ116が現在位置している道路120、収集エンティティ116の両側の木112、及び収集エンティティ116の前の建築物114などを含む。収集された点群データは、道路120、木114、及び建築物114上の各点の空間座標などの3次元情報を記述することが可能である。また、シーン102は、車両118のようないくつかの移動物体をさらに含む。したがって、取得された点群データは、車両118などの移動物体を記述する空間座標などの3次元情報を含んでもよい。
マルチラインレーザーレーダを一例として、1回のスキャンによって得られる点群は、一フレームの点群又は1つの点群データフレームという。例えば、64ラインのレーザーレーダが0.1秒で360°スキャンすると、当該レーザーレーダは、1秒間に10フレームの点群を取得することができる。当業者は、レーザーレーダのようなセンサの位置(例えば、3次元座標)及び方向(例えば、姿勢角)をそのようなセンサの姿勢ともいうことを理解するであろう。例えば、センサは、3Dデータを取得するときに姿勢パラメータによって定義される姿勢を有すると考えることができる。例えば、姿勢パラメータは、座標及びピッチ角などの6つのパラメータを含んでもよい。
収集エンティティ116は、移動中に収集された点群をクラウドストレージデバイスにアップロードすることができる。当業者であれば、点群をクラウドストレージデバイスに格納することに限定せず、他のストレージデバイスに格納することもできることを理解するであろう。例えば、点群は、例えば収集エンティティ116などに配置可能なハードディスクのような従来のメモリに格納することもできる。
コンピューティングデバイス104は、クラウドストレージデバイス又は他のストレージデバイスから、収集エンティティ116によって収集されたデータを取得することができる。コンピューティングデバイス104は、大規模データ処理の計算性能を向上させるための並列計算能力を有する分散型コンピューティングデバイスであってもよい。コンピューティングデバイス104は、点群データを処理し、図1に示すシーン106のような3次元シーンを再構成して出力することができる。再構成されるシーン106には、道路126、木122、及び建築物124が示される。道路126には、車線の情報が含まれてもよい。再構成されるシーン106は、更に、自動運転などの応用に使用するように高精度地図の作成に利用可能である。
なお、図1に示す様々な構成要素の数、構造、接続関係、及びレイアウトは、限定的なものではなく例示的なものであり、構成要素の一部は所望により選択できる。当業者は、本発明の範囲内で、数、構造、接続関係及びレイアウトなどに関して調整を行うことができる。
図2は、本発明のいくつかの実施形態に係る3次元シーンを再構成するための方法200を示すフローチャートである。方法200は、図1に示すコンピューティングデバイス104によって実行することができる。前述のように、コンピューティングデバイス104は、複数のコンピューティングノードを含む分散型コンピューティングデバイスであってもよい。
ブロック202において、コンピューティングデバイス104は、3次元シーンを対象とする点群データフレームセットを取得し、点群データフレームセット内の点群データフレームそれぞれは姿勢パラメータを有する。例えば、点群データフレームセットは、収集エンティティによって都市道路上でレーザーレーダを用いて取得することができる。上述した通り、点群データフレームを取得するとき、レーザーレーダなどのセンサの位置及びポジションは、当該点群データフレームに対応する姿勢パラメータと呼ばれることができる。例えば、姿勢パラメータは、座標及びピッチ角などの6つのパラメータを含んでもよい。収集エンティティは、全地球航法衛星システム(GNSS)及び/又は慣性計測装置(IMU)を更に含んでもよい。GNSSは、全地球測位システム(GPS)、北斗システム、ガリレオシステム、GLONASSなどを含む。
ブロック204において、コンピューティングデバイス104は、点群データフレームセットから、3次元シーンの一部に対応するサブセットを確定する。このようにして、3次元シーンを複数の部分に分割することができ、各部は、対応点群データフレームのサブセットに対応する。コンピューティングデバイス104が分散型コンピューティングデバイスである場合、異なるコンピューティングノードが点群データフレームサブセットを並列に処理して計算効率を向上させることができるように、異なる点群データフレームサブセットを異なるコンピューティングノードに送信することができる。これにより、都市の大規模シーンの地図作成の最適化計算に時間がかかるという問題が効果的に解決される。
本発明の実施形態によれば、様々な方法により、シーンの確定の部分に対応するサブセットを点群データフレームセットから確定することができる。図3は、本発明のいくつかの実施形態に係る、点群データフレームサブセットを確定するための方法300を示すフローチャートである。方法300は、図1に示すコンピューティングデバイス104によって実行されることができる。
ブロック302において、コンピューティングデバイス104は、点群データフレームセットに対応する軌跡に基づいて、3次元シーン内の交差点の位置を確定する。点群データフレームセットに対応する軌跡は、点群データフレームの初期姿勢に基づいて確定可能である。例えば、点群データフレームの初期姿勢は、全地球航法衛星システム(GNSS)及び/又は慣性計測装置(IMU)によって確定可能である。いくつかの実施形態では、収集エンティティの開始点に良好なGNSS信号があり、収集エンティティの位置も正確に確定可能である。収集エンティティが移動するにしたがって、GNSS信号は遮蔽されるにより弱まるか又は消える可能性があり、初期姿勢はIMUによって増分的に確定可能である。
いくつかの実施形態では、一部の道路上で複数回の点群データ収集が実行された可能性があるので、これらの道路は複数の軌跡を有する可能性がある。したがって、軌跡画像を拡大処理することで、複数の軌跡に対応する道路を1本の線に結合することができる。例えば、1本の道路は10本の軌跡線を有することが可能であり、これらの10本の軌跡線を拡大することで1本の線に結合することができる。拡大処理後の画像に対して、コーナー検出法により交差点のコーナー点を確定することができる。当業者であれば、交差点のコーナー点は、現在知られているか又は将来開発されるコーナー検出法によって確定可能であり、本発明はここで限定しないことを理解するであろう。コーナー検出法により、1つの交差点に対応する1つ以上のコーナー点を検出可能である。例えば、1つの交差点で2つの点又は4つの点を検出可能である。1つの交差点で複数のコーナー点が検出された場合、当該交差点の位置はクラスタリング法によって確定可能である。当該位置のグローバル座標系における平面座標は、画像の画素から逆算可能である。
ブロック304において、交差点の位置に基づいて、交差点を接続する接続図を作成する。例えば、軌跡の接続性に応じて、確定された交差点を接続して交差点の接続図を形成することができる。
ブロック306において、接続図に基づいて閉経路を3次元シーンの前記一部として決定することができる。例えば、抽出された交差点と、レーザーレーダによって収集された軌跡のシーケンスとを通じて、各交差点の座標の相互接続性が得られ、各閉経路(閉ループ又はループバックともいう)が確定される。この場合、誤差のドリフトを減らし、最適化の精度を向上させるために、閉ループ検出(ループバック検出ともいう)は点群のスプライシングプロセス中に実行されてもよい。当業者は、閉ループ検出が現在知られているか又は将来開発される任意の適切な閉ループ検出法によって実行されることを理解するであろう。
ここで、図2を再び参照し、ブロック206において、サブセット内の点群データフレームの姿勢パラメータを調整して、調整後のサブセットを取得する。調整後のサブセットは、マッチするオーバーラップ部分を有する少なくとも2つの点群データフレームを含む。例えば、各点群データフレームのオーバーラップ部分のゴーストを減らすために、点群データフレームサブセット内の各点群データフレームをスプライシングすることが可能である。
姿勢パラメータは、様々な方法で調整可能である。図4は、本発明のいくつかの実施形態に係る姿勢パラメータを調整するための方法400を示すフローチャートである。方法400は、コンピューティングデバイス104によって実行されることができる。例えば、コンピューティングデバイス104が分散型コンピューティングデバイスである場合、方法400は、分散型コンピューティングデバイスのうちの1つのコンピューティングノードによって実行可能である。更に、図4は、方法400が複数のステップを順に含むことを示すが、本発明の範囲から逸脱しない限り、これらのステップのうちの1つまたは複数が省略可能であり、しかもこれらのステップの順序が適切に調整可能であることを当業者は理解するであろう。
ブロック402において、コンピューティングデバイス104は、動的オブジェクトに関連付けられたデータ点を、点群データフレームサブセットの点群データフレームから削除する。図1に示すように、3次元シーン102は、車両118、歩行者(図示せず)などのような動的オブジェクトを含んでもよい。3次元シーン102の再構成について、動的オブジェクトはノイズと見なされてもよい。したがって、動的オブジェクトの影響を排除するために、まず、動的オブジェクトを表すデータ点を点群データフレームから削除することができる。
いくつかの実施形態では、地面検出及びバウンディングボックスに基づく方法によって、動的オブジェクトを検出することができる。この方法では、点群データフレームから地面を抽出可能である。例えば、ランダムサンプルコンセンサス(RANSAC)、平面フィッティングなどの方法を用いて地面を抽出することができる。当業者は、現在知られているか又は将来開発される画像処理方法によって、地面を抽出することが可能であり、本発明はここで限定しないことを理解するであろう。地面が抽出された後、地面を表すデータ点を点群データフレームから削除することができる。
実際の適用シナリオでは、非地上データ点は、建築物の壁、植物(例えば、木)などを含んでもよい。地面を表すデータ点が除去された後、地面による接続がないので、これらのオブジェクトの空間分布は、離散性と不連続性を示す可能性がある。このような状況において、オブジェクトを表すデータ点は、クラスタリングによって複数のグループに分割されることができ、各グループは、対応するオブジェクトを表すことができる。例えば、各車両、木などをグループにクラスタリングすることができる。
車両などのオブジェクトの属性(例えば、幾何学的特性)に基づいて動的オブジェクトをマッチング及び抽出することができる。例えば、バウンディングボックス法によって動的オブジェクトをマッチング及び抽出することができる。例えば、車両を例として、車両のサイズ(例えば、長さ、幅、高さ)とマッチするバウンディングボックスを使用して車両を検出することができる。動的オブジェクトが抽出された後、動的オブジェクトを表すデータ点を点群データフレームから削除し、地面を表すデータ点を追加することができる。
異なる点群データフレームにおける動的オブジェクトの位置が異なるので、点群スプライシング中で誤差が発生する。点群データフレームから動的オブジェクトを表すデータ点を削除することで、このような誤差の発生が低減、又は排除し、マッチング精度及び安定性を向上させることができる。以上、地面検出及びバウンディングボックスに基づく方法を参照しながら動的オブジェクトに対する処理を説明した。しかしながら、当業者は、ルールに基づく検出、学習に基づく検出などのような、現在知られているか又は将来開発される他の検出方法によって、動的オブジェクトを除去することが可能であることを理解するであろう。
ブロック404では、コンピューティングデバイス104は、点群データフレームから静的オブジェクトを抽出することができ、例えば、点群データフレーム内の平面(地面、壁など)及び柱状物(トランク、街灯など)を抽出し、強く構造化された情報を有するデータのみを残して、その後のマッチング精度を向上するようにする。コンピューティングデバイス104は、平面特徴及び/又は線形特徴を抽出することができる。例えば、ポイントクラウドライブラリ(PCL)を用いて地面などの平面を抽出することができ、領域成長法を使用してトランクなどの柱状物を抽出することができる。当業者であれば、静的オブジェクトを抽出するために現在知られているか又は将来開発される任意の適切な方法を使用できることを理解するであろう。
ブロック406において、コンピューティングデバイス104は、オーバーラップを有する点群データフレーム内の対応オブジェクト間の特徴距離に基づいて、姿勢パラメータを調整することができる。例えば、2つの点群データフレームに対して共通領域がスキャンされた場合、これらの2つの点群データフレームは、オーバーラップを有する点群データフレームを形成することができる。例えば、第1の点群データフレームと第2の点群データフレームがオーバーラップを有する場合、第1の点群データフレームと第2の点群データフレームにおける対応オブジェクト間の特徴距離を確定することができ、当該特徴距離に基づいて姿勢パラメータを調整可能である。オブジェクトは、ブロック404で確定された平面特徴(例えば、地面又は壁など)又は線形特徴(例えば、トランク又は街灯など)であってもよい。点群データフレームサブセット内のこれらすべてのオブジェクト間の特徴距離を合計することができ、特徴距離の和を最小化することによって姿勢パラメータを調整することができる。例えば、最小二乗法を使用して求解することができ、現在知られているか又は将来開発される任意の適切な方法を使用して求解することができることを当業者は理解するであろう。
上述したように、点群データを収集する際に、道路上で複数回の収集を行ってもよい。例えば、各道路上で5回往復で収集を行ってもよい。したがって、点群データフレームに対して、当該点群データフレームとオーバーラップを有する点群データフレームは、時間的に連続して収集された1つまたは複数の点群データフレームと、当該位置(例えば、当該位置から一定の距離以内に)が何度も通過するときに収集された点群データフレームとを含んでもよい。したがって、1つの点群データフレームを複数の点群データフレームとペアにすることができる。
点群データフレームサブセット内のすべての点群データフレームの姿勢パラメータを最適化することは、大量の計算を必要とするので、独立した計算ノードで処理する場合、より有利である。また、平面特徴及び線形特徴を抽出し、平面特徴及び線形特徴に基づいてマッチングを実行することによって、ノイズが低減され、マッチング精度及び計算効率が向上可能である。
いくつかの実施形態では、抽出された平面及び円柱体(円柱体は、中心を通る直線と見なすことができる)に対して、
Figure 2019211466

と表すことができる。ここで、
Figure 2019211466

は中心座標を表し、
Figure 2019211466

は平面の法線ベクトル又は直線の方向を表す。点群がマッチする場合、P点から平面特徴までの特徴距離は、式(1)に従って計算され、P点から直線特徴までの特徴距離は、式(2)に従って算出されることができる。
Figure 2019211466
Figure 2019211466
レーザーレーダの事前姿勢は、
Figure 2019211466

であり、2つのフレームのレーザ点群は、それぞれ
Figure 2019211466

(上記の抽出された平面特徴及び法線ベクトルを含む)である。点群をマッチングする目的は、
Figure 2019211466

をマッチングすることによって最適な姿勢差
Figure 2019211466
を確定することである。このようにして、レーザーレーダの事後姿勢は、
Figure 2019211466

として導出され得る。
上述のように、オーバーラップ領域を有する点群データフレームの対応する特徴(例えば、平面特徴及び/又は線形特徴)が確定されることができ、それらの特徴に対して線間距離及び平面間距離が計算され、オーバーラップ領域を有する全ての点群データフレームの線間距離及び平面間距離を最適化対象関数として合計し、式(3)に示すように、前記対象関数を最小化することによって、最適な姿勢差
Figure 2019211466

を求める。
Figure 2019211466
ここで、i及びjは2つの点群データフレームを表し、kはデータ点を表す。
以上、式(1)〜(3)を参照しながら本発明のいくつかの実施形態による姿勢パラメータ最適化方法を説明した。上記の式を提供する目的は、本発明の実施形態をより明確に説明することであり、限定することではないことを当業者は理解するであろう。
現在、図2を再び参照し、コンピューティングデバイス104は、調整されたサブセットを使用して、点群データフレームセットを更新する。各部分は別々に最適化されるので、グローバルの姿勢調整は、共同参加の姿勢の制約を通して実行される。例えば、点群データフレームサブセット内の全ての点群データフレームの姿勢パラメータを全体的に最適化することができる。具体的には、3次元シーンの他の部分を確定することができ、他の部分は3次元シーンの一部と重なる。例えば、2つの閉経路が部分的に重なり合う経路を有する可能性がある。3次元シーンの他の部分に対して、他の部分に対応する点群データフレームサブセットを確定することができ、これはブロック206または図3に示す方法300によって処理されたものであってもよい。2つのサブセットの点群データフレームの姿勢パラメータを調整することによって、3次元シーンのオーバーラップ部分の対応する点群データフレームは互いに重なり合うか、または対応する点群データフレームの姿勢パラメータは等しくなる。
例えば、各点群データフレームサブセットは、例えば回転行列A及び並進ベクトルbなどの対応する姿勢調整パラメータを有する。例えば、第iのシーン部分と第jのシーン部分とにオーバーラップがある場合、オーバーラップ部分に対して、点群データフレームが繰り返して使用されたので、対応する点群データフレームの姿勢パラメータは、同等のものである必要がある。例えば、対応する点群データフレームは、関係Aii+bi=Ajj+bjを満たす必要がある。ここで、Ai、bi、Aj、bjは、第iの点群データフレームサブセット及び第jの点群データフレームサブセットの回転行列と並進ベクトルをそれぞれ表す。点群データフレームサブセットの姿勢は、点群データフレームのうちの1つの姿勢として定義することができ、当該サブセット内の他の点群データフレームの姿勢は、当該点群データフレームの姿勢の相対姿勢として理解することができる。例えば、2つのシーン部分で繰り返して使用される点群データフレームの姿勢は、対応するサブセットの姿勢として定義することができる。
いくつかの実施形態では、GNSS(例えば、GPS)が信頼度を提供し得る場合、全体的なレーザーレーダ姿勢を最適化するために、GNSS信号が良質である姿勢を固定することができる。例えば、対応する点群データフレームの姿勢パラメータはGNSSによって確定されてもよく、点群データフレームセットは当該点群データフレームの姿勢パラメータに基づいて更新される。例えば、Ai*SH i+bi=^SHの場合、GNSSの信頼度の高い姿勢(SH)は最適化の前後で変化しない。例えば、点群データフレームサブセット内の1つの点群データフレームが、良好なGNSS信号に対応する場合、当該点群データフレームの姿勢パラメータは、ブロック206で最適化された後に元の姿勢パラメータから外れる可能性があり、元の姿勢パラメータは、信頼度の高いGNSS信号によって確定されるものである。したがって、当該点群データフレームの姿勢パラメータを元の姿勢パラメータに変更することができ、当該点群データフレームのサブセット内の他の点群データフレームの姿勢パラメータも同様に調整される。高い信頼度を有するGNSS信号によって、点群のスプライシングの精度を更に向上させることができる。
図5は、本発明のいくつかの実施形態に係る3次元シーンを再構成するための装置500を示すブロック図である。装置500は、図1のコンピューティングデバイス104内に含まれ、又はコンピューティングデバイス104として実現されてもよい。図5に示すように、装置500は、3次元シーンを対象とする点群データフレームセットを取得するように配置される点群取得モジュール502を備え、点群データフレームセット内の点群データフレームそれぞれは、姿勢パラメータを有する。装置500は、点群データフレームセットから、3次元シーンの一部に対応するサブセットを確定するように配置されるサブセット確定モジュール504を更に備える。装置502は、サブセット内の点群データフレームの姿勢パラメータを調整して、調整後のサブセットを取得するように配置される姿勢調整モジュール506を更に備え、調整後のサブセットは、マッチするオーバーラップ部分を有する少なくとも2つの点群データフレームを含む。また、装置500は、調整後のサブセットを使用して、点群データフレームセットを更新するように配置される点群更新モジュール508を更に備える。
いくつかの実施形態では、サブセット確定モジュール504は、点群データフレームセットに対応する軌跡に基づいて、3次元シーン内の交差点の位置を確定するように配置される交差点確定モジュールと、交差点の位置に基づいて、交差点を接続する接続図を形成するように配置される接続図形成モジュールと、接続図に基づいて3次元シーンの一部として閉経路を確定するように配置される部分確定モジュールとを備える。
いくつかの実施形態では、交差点確定モジュールは、軌跡を拡大することによって、道路を表す経路を決定するように配置される経路確定モジュールと、経路に基づいて交差点内の少なくとも1つの点を確定するように配置されるコーナー点確定モジュールと、交差点内の少なくとも1つの点に基づいて交差点の位置を確定するように配置される位置確定モジュールと、を備える、
いくつかの実施形態では、姿勢調整モジュール506は、サブセット内の点群データフレームから動的オブジェクトに関連するデータ点を削除して、サブセットを更新するように配置される動的オブジェクト除去モジュールと、更新されたサブセット内の点群データフレームの姿勢パラメータを調整するように配置される第1の姿勢パラメータ調整モジュールと、を備える。
いくつかの実施形態では、動的オブジェクト除去モジュールは、点群データフレームから、地面を表すデータ点を削除するように配置される地面除去モジュールと、点群データフレーム内の動的オブジェクトを識別するように配置される動的オブジェクト識別モジュールと、点群データフレームから動的オブジェクトを表すデータ点を削除するように配置されるデータ点削除モジュールと、地面を表すデータ点を点群データフレームに追加するように配置される地面追加モジュールと、を備える。
いくつかの実施形態では、動的オブジェクト識別モジュールは、点群データフレーム内の点群データフレームをクラスタリングして、点群データフレーム内で複数のグループを決定するように配置されるクラスタリングモジュールと、複数のグループから動的オブジェクトの属性にマッチするグループを確定するように配置されるマッチングモジュールと、を備える。
いくつかの実施形態では、姿勢調整モジュール506は、複数の点群データフレームから静的オブジェクトを表すデータ点を抽出して、サブセットを更新するように配置されるデータ点抽出モジュールと、更新されたサブセット内の点群データフレームの姿勢パラメータを調整するように配置される第1の姿勢パラメータ調整モジュールと、を備える。
いくつかの実施形態では、少なくとも2つの点群データフレームは、第1の点群データフレームと第2の点群データフレームとを含み、姿勢調整モジュール506は、第1の点群データフレームと第2の点群データフレーム内の対応するオブジェクト間の特徴距離を確定するように配置される特徴距離確定モジュールと、特徴距離に基づいて姿勢パラメータを調整するように配置される第2の姿勢パラメータ調整モジュールと、を備える。
いくつかの実施形態では、点群更新モジュール508は、3次元シーンの一部と重なる3次元シーンの他の部分を確定するように配置される他の部分確定モジュールと、点群データフレームセットから、3次元シーンの他の部分に対応する他のサブセットを確定するように配置されるサブセット確定モジュールと、サブセット内の第3の点群データフレームが他のサブセット内の第4の点群データフレームと重なるように、サブセット及び他のサブセット内の点群データフレームの姿勢パラメータを調整するように配置される第3の姿勢パラメータ調整モジュールと、を備える。
いくつかの実施形態では、点群更新モジュール508は、全地球航法衛星システムによって一部における第5の点群データフレームの姿勢パラメータを確定するように配置される姿勢パラメータ確定モジュールと、第5の点群データフレームに基づいて点群データフレームセットを更新するように配置される点群データ更新モジュールと、を備える。
図6は、本発明の実施形態を実施するために使用可能な装置600を示す概略ブロック図である。装置600は、図1のコンピューティングデバイス104を実施するために使用可能である。図に示すように、装置600は、読み出し専用メモリ(ROM)602に記憶されているコンピュータプログラム命令又は記憶ユニット608からランダムアクセスメモリ(RAM)603にロードされたコンピュータプログラム命令によって様々な適当な動作及び処理を実行することができる中央処理装置(CPU)601を備える。RAM603には、装置600の動作に必要な様々なプログラム及びデータが更に記憶されることが可能である。CPU601、ROM602及びRAM603は、バス604を介して互いに接続されている。入力/出力(I/O)インターフェース605もバス604に接続されている。
装置600内の複数の構成要素は、キーボード、マウスなどの入力ユニット606と、様々なタイプのディスプレイ、スピーカなどの出力ユニット607と、磁気ディスク、光ディスクなどの記憶ユニット608と、ネットワークカード、モデム、無線通信送受信機などの通信ユニット609とを備えるI/Oインターフェース605に接続されている。通信ユニット609は、装置600がインターネットなどのコンピュータネットワーク及び/又は様々な電気通信ネットワークを介して他の装置と情報/データを交換することを可能にする。
上述の様々なプロセス及び処理は、例えば方法200〜400など、処理ユニット601によって実行可能である。例えば、いくつかの実施形態では、方法200〜400は、記憶ユニット608などの機械可読媒体に有形に実施されるコンピュータソフトウェアプログラムとして実現されてもよい。いくつかの実施形態では、コンピュータプログラムの一部又は全部は、ROM602及び/又は通信ユニット609を介して装置600にロード及び/又はインストールされてもよい。コンピュータプログラムがRAM603にロードされ、CPU601によって実行されると、上述の方法200〜400のうちの1つまたは複数のステップを実行可能である。あるいは、他の実施形態では、CPU601は、他の任意の適切な手段によって(例えば、ファームウェアによって)方法200〜400を実行するように配置されてもよい。
本発明は、方法、装置、システム、及び/又はコンピュータプログラム製品であってもよい。コンピュータプログラム製品は、本発明の各態様を実行するためのコンピュータ可読プログラム命令がロードされたコンピュータ可読記憶媒体を含んでもよい。
コンピュータ可読記憶媒体は、命令実行装置によって使用される命令を保持し格納することが可能な有形の装置であってもよい。コンピュータ可読記憶媒体は、例えば、電気記憶装置、磁気記憶装置、光記憶装置、電磁記憶装置、半導体記憶装置、又はこれらの任意の適切な組み合わせであることができるが、これらに限定されない。コンピュータ可読記憶媒体のより具体的な例(非網羅的リスト)には、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、消去可能プログラマブル読み取り専用メモリ(EPROM又はフラッシュメモリ)、スタティックランダムアクセスメモリ(SRAM)、携帯用コンパクトディスク読み取り専用メモリ(CD−ROM)、デジタル多用途ディスク(DVD)、メモリースティック、フロッピーディスク、機械的符号化装置、例えば命令が格納されたパンチカード又はスロットの凸起構造及び上記の任意の適切な組み合わせが含まれる。本明細書で使用されるコンピュータ可読記憶媒体は、例えば、電波又は他の自由に伝搬する電磁波、導波路又は他の伝送媒体を介して伝搬する電磁波(例えば、光ファイバケーブルを通る光パルス)、又は電線を介して伝送する電気信号などの過渡信号自体として解釈されるべきではない。
本明細書に記載のコンピュータ可読プログラム命令は、コンピュータ可読記憶媒体から様々なコンピューティング/処理装置にダウンロードすること、又はインターネット、ローカルエリアネットワーク、ワイドエリアネットワーク、及び/又は無線ネットワークなどのネットワークを介して外部コンピュータ又は外部記憶装置にダウンロードすることが可能である。ネットワークは、銅線伝送ケーブル、光ファイバ伝送、無線伝送、ルータ、ファイアウォール、スイッチ、ゲートウェイコンピュータ及び/又はエッジサーバを含んでもよい。各コンピューティング/処理装置内のネットワークアダプタカード又はネットワークインタフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、各コンピューティング/処理装置内のコンピュータ可読記憶媒体に格納するために該コンピュータ可読プログラム命令を転送する。
本発明の動作を実施するためのコンピュータプログラム命令は、アセンブリ命令、命令セットアーキテクチャ(ISA)命令、機械命令、機械関連命令、マイクロコード、ファームウェア命令、状態設定データ、又は、1種以上のプログラミング言語の任意の組み合わせで書かれたソースコード又はターゲットコードであってもよい。前記プログラミング言語は、オブジェクト指向プログラミング言語(例えば、Smalltalk及びC++)並びに一般的手続き型プログラミング言語(例えば、「C」言語又は同様のプログラミング言語)を含む。コンピュータ可読プログラム命令は、完全にユーザのコンピュータ上で実行され、部分的にユーザのコンピュータ上で実行され、独立したソフトウェアパッケージとして実行され、一部がユーザのコンピュータ上で一部がリモートコンピュータ上で実行され、又は完全にリモートコンピュータ又はサーバ上で実行されてもよい。リモートコンピュータに関わる場合、リモートコンピュータは、ローカルエリアネットワーク(LAN)又はワイドエリアネットワーク(WAN)を含む任意の種類のネットワークを介してユーザのコンピュータに接続されることができ、又は外部のコンピュータに接続されることができる(例えば、インターネットサービスプロバイダによりインターネットで接続される)。いくつかの実施形態では、コンピュータ可読プログラム命令の状態情報を使用することによって、電子回路(例えば、プログラマブルロジック回路、フィールドプログラマブルゲートアレイ(FPGA)又はプログラマブルロジックアレイ(PLA))がカスタマイズされる。該電子回路は、コンピュータ可読プログラム命令を実行することによって本発明の各態様を実施することができる。
ここでは、本発明の各態様は、本発明の実施形態による方法、装置(システム)及びコンピュータプログラム製品のフローチャート及び/又はブロック図を参照しながら説明された。フローチャート及び/又はブロック図の各ブロック、並びにフローチャート及び/又はブロック図内の各ブロックの組み合わせは、いずれもコンピュータ可読プログラム命令によって実施可能であることを理解されよう。
これらのコンピュータ可読プログラム命令が汎用コンピュータ、特殊用途コンピュータ、又は他のプログラマブルデータ処理装置の処理ユニットに提供されることによって、機械を構成することができ、それによって、これらの命令がコンピュータまたは他のプログラマブルデータ処理装置の処理ユニットによって実行されると、フローチャート及び/又はブロック図の1つ以上のブロックで規定されている機能/動作を実施するためのデバイスを形成可能である。これらのコンピュータ可読プログラム命令がコンピュータ可読記憶媒体に記憶されてもよく、これらの命令によって、コンピュータ、プログラマブルデータ処理装置及び/又は他の装置が確定の方法で動作可能となり、それによって、命令が記憶されているコンピュータ可読媒体は、フローチャート及び/又はブロック図の1つ以上のブロックで規定されている機能/動作を実施するための様々な態様の命令を含む製品を備える。
コンピュータ実施プロセスを達成するために、コンピュータ可読プログラム命令を、コンピュータ、他のプログラマブルデータ処理装置又は他の装置にロードすることで、コンピュータ、他のプログラマブルデータ処理装置又は他の装置が一連の動作ステップを実行することができ、それによって、コンピュータ、他のプログラマブルデータ処理装置又は他の装置上で実行される命令は、フローチャート及び/又はブロック図の1つ以上のブロックで規定されている機能/動作を実施する。
図面におけるフローチャート及びブロック図は、本発明の複数の実施形態に係るシステム、方法及びコンピュータプログラム製品により実現可能なアーキテクチャ、機能及び動作を示す。ここで、フローチャート又はブロック図における各枠は、1つのモジュール、プログラムセグメント又は命令の一部を表してもよく、前記モジュール、プログラムセグメント、又は命令の一部は、規定されたロジック機能を達成するための1つ以上の実行可能な命令を含む。いくつかの代替実施態様において、枠内に示された機能は、図面に示された順番とは異なるもので実行されてもよい。例えば、2つの連続枠は、実際には関連する機能に応じて、ほぼ並行に実行されてもよく、逆の順番で実行されてもよい。なお、ブロック図及び/又はフローチャートにおける各枠、並びに、ブロック図及び/又はフローチャートにおける枠の組み合わせは、規定された機能又は動作を実行する、ハードウェアに基づく専用システムで実現されてもよく、又は、専用ハードウェアとコンピュータ命令との組み合わせで実行されてもよい。
以上、本発明の各実施形態について説明したが、上記の説明は例示的なものであって網羅的なものではなく、開示された各実施形態に限定されるものではない。当業者には、説明された各実施形態の範囲及び精神から逸脱することなく行われた多数の補正及び変更が明らかであろう。本明細書で使用される用語の選択は、各実施形態の原理、実際の用途、又は市場における技術の改善を最もよく説明すること、又は他の当業者が本明細書で開示される各実施形態を理解できるようにすることを意図する。

Claims (22)

  1. 3次元シーンを再構成するための方法であって、
    前記3次元シーンについての点群データフレームセットを取得するステップであって、前記点群データフレームセット内の点群データフレームそれぞれは、姿勢パラメータを有する、ステップと、
    前記点群データフレームセットから前記3次元シーンの一部に対応するサブセットを確定するステップと、
    前記サブセット内の点群データフレームの姿勢パラメータを調整して、調整後のサブセットを取得するステップであって、前記調整後のサブセットは、マッチするオーバーラップ部分を有する少なくとも2つの点群データフレームを含む、ステップと、
    調整後のサブセットを使用して前記点群データフレームセットを更新するステップと、を含む、
    3次元シーンを再構成するための方法。
  2. 前記サブセットを確定するステップは、
    前記点群データフレームセットに対応する軌跡に基づいて、前記3次元シーン内の交差点の位置を確定するステップと、
    前記交差点の位置に基づいて、前記交差点を接続する接続図を作成するステップと、
    前記接続図に基づいて、前記3次元シーンの前記一部として閉経路を決定するステップと、を含む、
    請求項1に記載の方法。
  3. 前記交差点の位置を確定するステップは、
    前記軌跡を拡大することによって、道路を表す経路を確定するステップと、
    前記経路に基づいて、前記交差点内の少なくとも1つの点を確定するステップと、
    前記交差点内の少なくとも1つの点に基づいて前記交差点の位置を確定するステップと、を含む、
    請求項2に記載の方法。
  4. 前記姿勢パラメータを調整するステップは、
    前記サブセット内の点群データフレームから、動的オブジェクトに関連するデータ点を削除して前記サブセットを更新するステップと、
    更新された前記サブセット内の点群データフレームの姿勢パラメータを調整するステップと、を含む、
    請求項1に記載の方法。
  5. 前記データ点を削除するステップは、
    前記点群データフレームから、地面を表すデータ点を削除するステップと、
    前記点群データフレーム内の動的オブジェクトを識別するステップと、
    前記点群データフレームから、前記動的オブジェクトを表すデータ点を削除するステップと、
    前記地面を表すデータ点を前記点群データフレームに追加するステップと、を含む、
    請求項4に記載の方法。
  6. 前記動的オブジェクトを識別するステップは、
    前記点群データフレーム内の点群データフレームをクラスタリングして、前記点群データフレーム内で複数のグループを決定するステップと、
    前記複数のグループから、前記動的オブジェクトの属性にマッチするグループを確定するステップと、を含む、
    請求項5に記載の方法。
  7. 前記姿勢パラメータを調整するステップは、
    前記複数の点群データフレームから、静的オブジェクトを表すデータ点を抽出して前記サブセットを更新するステップと、
    更新された前記サブセット内の点群データフレームの姿勢パラメータを調整するステップと、を含む、
    請求項1に記載の方法。
  8. 前記少なくとも2つの点群データフレームは、第1の点群データフレームと第2の点群データフレームとを含み、前記姿勢パラメータを調整するステップは、
    前記第1の点群データフレームと前記第2の点群データフレーム内の対応するオブジェクト間の特徴距離を確定するステップと、
    前記特徴距離に基づいて前記姿勢パラメータを調整するステップと、を含む、
    請求項1に記載の方法。
  9. 前記点群データフレームセットを更新するステップは、
    前記3次元シーンの前記一部と重なる前記3次元シーンの他の部分を確定するステップと、
    前記点群データフレームセットから、前記3次元シーンの前記他の部分に対応する他のサブセットを確定するステップと、
    前記サブセット内の第3の点群データフレームが前記他のサブセット内の第4の点群データフレームと重なるように、前記サブセット及び前記他のサブセット内の点群データフレームの姿勢パラメータを調整するステップと、を含む、
    請求項1に記載の方法。
  10. 前記点群データフレームセットを更新するステップは、
    全地球航法衛星システムによって前記一部における第5の点群データフレームの姿勢パラメータを確定するステップと、
    前記第5の点群データフレームの姿勢パラメータに基づいて前記点群データフレームセットを更新するステップと、を含む、
    請求項1に記載の方法。
  11. 3次元シーンを再構成するための装置であって、
    前記3次元シーンについての点群データフレームセットを取得するように配置される点群取得モジュールであって、前記点群データフレームセット内の点群データフレームそれぞれは、姿勢パラメータを有する、点群取得モジュールと、
    前記点群データフレームセットから前記3次元シーンの一部に対応するサブセットを確定するように配置されるサブセット確定モジュールと、
    前記サブセット内の点群データフレームの姿勢パラメータを調整して、調整後のサブセットを取得するように配置される姿勢調整モジュールであって、前記調整後のサブセットは、マッチするオーバーラップ部分を有する少なくとも2つの点群データフレームを含む、姿勢調整モジュールと、
    調整後のサブセットを使用して前記点群データフレームセットを更新するように配置される点群更新モジュールと、を備える、
    3次元シーンを再構成するための装置。
  12. 前記サブセット確定モジュールは、
    前記点群データフレームセットに対応する軌跡に基づいて、前記3次元シーン内の交差点の位置を確定するように配置される交差点確定モジュールと、
    前記交差点の位置に基づいて、前記交差点を接続する接続図を作成するように配置される接続図作成モジュールと、
    前記接続図に基づいて、前記3次元シーンの前記一部として閉経路を決定するように配置される部分確定モジュールと、を備える、
    請求項11に記載の装置。
  13. 前記交差点確定モジュールは、
    前記軌跡を拡大することによって、道路を表す経路を確定するように配置される経路確定モジュールと、
    前記経路に基づいて、前記交差点の少なくとも1つの点を確定するように配置されるコーナー点確定モジュールと、
    前記交差点の少なくとも1つの点に基づいて前記交差点の位置を確定するように配置される位置確定モジュールと、を備える、
    請求項12に記載の装置。
  14. 前記姿勢調整モジュールは、
    前記サブセット内の点群データフレームから、動的オブジェクトに関連するデータ点を削除して前記サブセットを更新するように配置される動的オブジェクト除去モジュールと、
    更新された前記サブセット内の点群データフレームの姿勢パラメータを調整するように配置される第1の姿勢パラメータ調整モジュールと、を備える、
    請求項11に記載の装置。
  15. 前記動的オブジェクト除去モジュールは、
    前記点群データフレームから、地面を表すデータ点を削除するように配置される地面除去モジュールと、
    前記点群データフレーム内の動的オブジェクトを識別するように配置される動的オブジェクト識別モジュールと、
    前記点群データフレームから、前記動的オブジェクトを表すデータ点を削除するように配置されるデータ点削除モジュールと、
    前記地面を表すデータ点を前記点群データフレームに追加するように配置される地面追加モジュールと、を備える、
    請求項14に記載の装置。
  16. 前記動的オブジェクト識別モジュールは、
    前記点群データフレーム内の点群データフレームをクラスタリングして、前記点群データフレーム内で複数のグループを決定するように配置されるクラスタリングモジュールと、
    前記複数のグループから、前記動的オブジェクトの属性にマッチするグループを確定するように配置されるマッチングモジュールと、を備える、
    請求項15に記載の装置。
  17. 前記姿勢調整モジュールは、
    前記複数の点群データフレームから、静的オブジェクトを表すデータ点を抽出して前記サブセットを更新するように配置されるデータ点抽出モジュールと、
    更新された前記サブセット内の点群データフレームの姿勢パラメータを調整するように配置される第1の姿勢パラメータ調整モジュールと、を備える、
    請求項11に記載の装置。
  18. 前記少なくとも2つの点群データフレームは、第1の点群データフレームと第2の点群データフレームとを含み、前記姿勢調整モジュールは、
    前記第1の点群データフレームと前記第2の点群データフレーム内の対応するオブジェクト間の特徴距離を確定するように配置される特徴距離確定モジュールと、
    前記特徴距離に基づいて前記姿勢パラメータを調整するように配置される第2の姿勢パラメータ調整モジュールと、を備える、
    請求項11に記載の装置。
  19. 前記点群更新モジュールは、
    前記3次元シーンの前記一部と重なる前記3次元シーンの他の部分を確定するように配置される他の部分確定モジュールと、
    前記点群データフレームセットから、前記3次元シーンの前記他の部分に対応する他のサブセットを確定するように配置されるサブセット確定モジュールと、
    前記サブセット内の第3の点群データフレームが前記他のサブセット内の第4の点群データフレームと重なるように、前記サブセット及び前記他のサブセット内の点群データフレームの姿勢パラメータを調整するように配置される第3の姿勢パラメータ調整モジュールと、を備える、
    請求項11に記載の装置。
  20. 前記点群更新モジュールは、
    全地球航法衛星システムによって前記一部における第5の点群データフレームの姿勢パラメータを確定するように配置される姿勢パラメータ確定モジュールと、
    前記第5の点群データフレームの姿勢パラメータに基づいて前記点群データフレームセットを更新するように配置される点群データ更新モジュールと、を備える、
    請求項11に記載の装置。
  21. 電子機器であって、
    1つ以上のプロセッサと、
    1つ以上のプログラムを記憶するためのメモリとを備え、
    前記1つ以上のプログラムが前記1つ以上のプロセッサによって実行されると、前記電子機器に請求項1〜10のいずれか一項に記載の方法を実現させる、電子機器。
  22. コンピュータプログラムが記憶されているコンピュータ可読記憶媒体であって、
    当該プログラムがプロセッサによって実行されると、請求項1〜10のいずれか一項に記載の方法を実現させる、コンピュータ可読記憶媒体。
JP2019047110A 2018-06-04 2019-03-14 3次元シーンを再構成するための方法、装置、機器及びコンピュータ可読記憶媒体 Active JP6771059B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201810565152.4A CN108765487B (zh) 2018-06-04 2018-06-04 重建三维场景的方法、装置、设备和计算机可读存储介质
CN201810565152.4 2018-06-04

Publications (2)

Publication Number Publication Date
JP2019211466A true JP2019211466A (ja) 2019-12-12
JP6771059B2 JP6771059B2 (ja) 2020-10-21

Family

ID=64002592

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019047110A Active JP6771059B2 (ja) 2018-06-04 2019-03-14 3次元シーンを再構成するための方法、装置、機器及びコンピュータ可読記憶媒体

Country Status (4)

Country Link
US (1) US11080919B2 (ja)
EP (1) EP3579188B1 (ja)
JP (1) JP6771059B2 (ja)
CN (1) CN108765487B (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021108184A (ja) * 2020-06-28 2021-07-29 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッドBeijing Baidu Netcom Science Technology Co., Ltd. 高精度マップの作成方法及び装置
KR20210120816A (ko) * 2020-03-27 2021-10-07 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 3차원 재구성 방법, 3차원 재구성 장치 및 전자 기기
JP2022548441A (ja) * 2020-08-17 2022-11-21 チョーチアン センスタイム テクノロジー デベロップメント カンパニー,リミテッド 位置姿勢決定方法、装置、電子機器、記憶媒体及びコンピュータプログラム
JP7448945B2 (ja) 2020-05-22 2024-03-13 国立大学法人金沢大学 3次元マップ生成方法及び3次元マップ生成装置

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109271893B (zh) * 2018-08-30 2021-01-01 百度在线网络技术(北京)有限公司 一种仿真点云数据的生成方法、装置、设备及存储介质
US10839530B1 (en) * 2018-09-04 2020-11-17 Apple Inc. Moving point detection
CN109903330B (zh) * 2018-09-30 2021-06-01 华为技术有限公司 一种处理数据的方法和装置
CN111327902B (zh) 2018-12-13 2022-11-22 华为技术有限公司 点云的编解码方法及装置
CN109657031B (zh) * 2018-12-28 2020-08-04 国汽(北京)智能网联汽车研究院有限公司 一种基于智能网联汽车的高精度动态地图生成与应用方法
CN109714421B (zh) * 2018-12-28 2021-08-03 国汽(北京)智能网联汽车研究院有限公司 基于车路协同的智能网联汽车运行系统
US11520331B2 (en) * 2018-12-28 2022-12-06 Intel Corporation Methods and apparatus to update autonomous vehicle perspectives
CN113748314B (zh) * 2018-12-28 2024-03-29 北京嘀嘀无限科技发展有限公司 交互式三维点云匹配
CN110060322B (zh) * 2019-03-11 2023-03-03 北京旷视科技有限公司 平面提取方法、装置、系统和存储介质
CN110111374B (zh) * 2019-04-29 2020-11-17 上海电机学院 基于分组阶梯式阈值判断的激光点云匹配方法
CN113874681A (zh) * 2019-05-23 2021-12-31 北京嘀嘀无限科技发展有限公司 点云地图质量的评估方法和系统
CN110276317B (zh) * 2019-06-26 2022-02-22 Oppo广东移动通信有限公司 一种物体尺寸检测方法、物体尺寸检测装置及移动终端
CN112747756B (zh) * 2019-10-30 2023-04-07 北京地平线机器人技术研发有限公司 一种地图构建方法及装置
US11521329B2 (en) * 2019-11-22 2022-12-06 Baidu Usa Llc Updated point cloud registration pipeline based on ADMM algorithm for autonomous vehicles
CN110910493B (zh) * 2019-11-29 2021-05-14 广州极飞科技股份有限公司 三维重建方法、装置及电子设备
CN113359148B (zh) * 2020-02-20 2024-05-28 百度在线网络技术(北京)有限公司 激光雷达点云数据处理方法、装置、设备及存储介质
CN111461980B (zh) * 2020-03-30 2023-08-29 北京百度网讯科技有限公司 点云拼接算法的性能估计方法和装置
CN111461981B (zh) * 2020-03-30 2023-09-01 北京百度网讯科技有限公司 点云拼接算法的误差估计方法和装置
CN111681163A (zh) * 2020-04-23 2020-09-18 北京三快在线科技有限公司 构建点云地图的方法、装置、电子设备和存储介质
WO2021212477A1 (zh) * 2020-04-24 2021-10-28 华为技术有限公司 校正点云数据的方法和相关装置
CN111553975B (zh) * 2020-04-27 2022-04-22 武汉易维晟医疗科技有限公司 一种手持式三维扫描系统的实时回环检测方法
CN111553844B (zh) 2020-04-29 2023-08-29 阿波罗智能技术(北京)有限公司 用于更新点云的方法及装置
CN113759369B (zh) * 2020-06-28 2023-12-05 北京京东乾石科技有限公司 基于双多线雷达的建图方法和装置
CN111833447A (zh) * 2020-07-13 2020-10-27 Oppo广东移动通信有限公司 三维地图构建方法、三维地图构建装置及终端设备
CN111860358B (zh) * 2020-07-23 2021-05-14 浙江赛慕威供应链管理有限公司 基于工业互联网的物料验收方法
CN112329547A (zh) * 2020-10-15 2021-02-05 北京三快在线科技有限公司 一种数据处理方法及装置
CN112258647B (zh) * 2020-11-12 2024-04-02 Oppo广东移动通信有限公司 地图重建方法及装置、计算机可读介质和电子设备
CN112419414B (zh) * 2020-12-07 2023-03-07 河南科技大学 一种获取奶畜乳房区域三维点云的装置
CN112704877B (zh) * 2021-01-21 2022-05-24 博智安全科技股份有限公司 空中侦察的通视范围确定方法、终端设备和可读存储介质
CN112837241A (zh) * 2021-02-09 2021-05-25 贵州京邦达供应链科技有限公司 建图重影去除方法、设备及存储介质
CN113066009B (zh) * 2021-03-24 2023-08-25 北京斯年智驾科技有限公司 港口高精度地图集的构建方法、装置、系统和存储介质
CN113077544A (zh) * 2021-03-31 2021-07-06 商汤集团有限公司 一种点云生成的方法、装置、电子设备及存储介质
US11796670B2 (en) 2021-05-20 2023-10-24 Beijing Baidu Netcom Science And Technology Co., Ltd. Radar point cloud data processing method and device, apparatus, and storage medium
CN113516772B (zh) * 2021-06-30 2023-09-15 同济大学 三维场景重建方法及装置、bim模型的优化方法及装置
CN113568997A (zh) * 2021-07-30 2021-10-29 京东鲲鹏(江苏)科技有限公司 点云地图更新方法、装置、电子设备和计算机可读介质
CN113450457B (zh) * 2021-08-31 2021-12-14 腾讯科技(深圳)有限公司 道路重建方法、装置、计算机设备和存储介质
CN113936085B (zh) * 2021-12-17 2022-05-20 荣耀终端有限公司 三维重建方法和装置
CN115034000B (zh) * 2022-05-13 2023-12-26 深圳模德宝科技有限公司 一种工艺设计的方法
CN114966793B (zh) * 2022-05-25 2024-01-26 苏州天硕导航科技有限责任公司 三维测量系统、方法及gnss系统
CN115439331B (zh) * 2022-09-02 2023-07-07 北京百度网讯科技有限公司 角点的校正方法和元宇宙中三维模型的生成方法、装置
CN115712298B (zh) * 2022-10-25 2023-05-09 太原理工大学 基于单线激光雷达的机器人在通道中行驶的自主导航方法
CN115984489B (zh) * 2023-03-21 2023-09-19 广东数字生态科技有限责任公司 一种输电线路的三维重建方法、装置及处理设备
CN116310262B (zh) * 2023-05-23 2023-08-01 山东省国土测绘院 面状实体与倾斜三维模型融合方法、系统、介质及设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016519757A (ja) * 2013-03-15 2016-07-07 ファロ テクノロジーズ インコーポレーテッド 三次元座標スキャナと操作方法
JP2017530343A (ja) * 2014-08-15 2017-10-12 エイアイ インコーポレイテッドAEYE, Inc. Ladar伝送のための方法及びシステム
CN109466548A (zh) * 2017-09-07 2019-03-15 通用汽车环球科技运作有限责任公司 用于自主车辆操作的地面参照确定
US20190102913A1 (en) * 2017-09-30 2019-04-04 United States Of America As Represented By The Secretary Of The Army Photogrammetric point cloud compression for tactical networks
JP2019168417A (ja) * 2018-03-26 2019-10-03 株式会社デンソー 物体認識装置、及び物体認識方法
JP2019536035A (ja) * 2016-11-29 2019-12-12 ブラックモア センサーズ アンド アナリティクス インク. 点群データセット内において物体を分類する方法およびシステム
JP2019211264A (ja) * 2018-06-01 2019-12-12 日立Geニュークリア・エナジー株式会社 構造物差分抽出装置、構造物差分抽出方法およびプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102508257B (zh) * 2011-09-27 2013-09-11 北京航空航天大学 一种车载移动测图装置的工作方法
FR3033973A1 (fr) * 2015-03-16 2016-09-23 Univ Pierre Et Marie Curie Paris 6 Procede de reconstruction 3d d'une scene
CN105069842A (zh) * 2015-08-03 2015-11-18 百度在线网络技术(北京)有限公司 道路三维模型的建模方法和装置
CN105139445B (zh) * 2015-08-03 2018-02-13 百度在线网络技术(北京)有限公司 场景重建方法及装置
US11085775B2 (en) * 2016-09-28 2021-08-10 Tomtom Global Content B.V. Methods and systems for generating and using localisation reference data
US10482340B2 (en) * 2016-12-06 2019-11-19 Samsung Electronics Co., Ltd. System and method for object recognition and ranging by deformation of projected shapes in a multimodal vision and sensing system for autonomous devices
CN106846392A (zh) * 2016-12-12 2017-06-13 国网北京市电力公司 三维建模的方法和装置
CN107452062B (zh) * 2017-07-25 2020-03-06 深圳市魔眼科技有限公司 三维模型构建方法、装置、移动终端、存储介质及设备

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016519757A (ja) * 2013-03-15 2016-07-07 ファロ テクノロジーズ インコーポレーテッド 三次元座標スキャナと操作方法
JP2017530343A (ja) * 2014-08-15 2017-10-12 エイアイ インコーポレイテッドAEYE, Inc. Ladar伝送のための方法及びシステム
JP2019536035A (ja) * 2016-11-29 2019-12-12 ブラックモア センサーズ アンド アナリティクス インク. 点群データセット内において物体を分類する方法およびシステム
CN109466548A (zh) * 2017-09-07 2019-03-15 通用汽车环球科技运作有限责任公司 用于自主车辆操作的地面参照确定
US20190102913A1 (en) * 2017-09-30 2019-04-04 United States Of America As Represented By The Secretary Of The Army Photogrammetric point cloud compression for tactical networks
JP2019168417A (ja) * 2018-03-26 2019-10-03 株式会社デンソー 物体認識装置、及び物体認識方法
JP2019211264A (ja) * 2018-06-01 2019-12-12 日立Geニュークリア・エナジー株式会社 構造物差分抽出装置、構造物差分抽出方法およびプログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
SHIRATORI TAKAAKI ET AL: ""Efficient Large-Scale Point Cloud Registration Using Loop Closures"", 2015 INTERNATIONAL CONFERENCE ON 3D VISION, JPN6020015294, 19 October 2015 (2015-10-19), pages 232 - 240, XP032819141, ISSN: 0004259522, DOI: 10.1109/3DV.2015.33 *
YU FISHER ET AL: ""Semantic Alignment of LiDAR Data at City Scale"", 2015 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION (CVPR), JPN6020015295, 7 June 2015 (2015-06-07), pages 1722 - 1731, XP032793629, ISSN: 0004259523, DOI: 10.1109/CVPR.2015.7298781 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210120816A (ko) * 2020-03-27 2021-10-07 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. 3차원 재구성 방법, 3차원 재구성 장치 및 전자 기기
KR102505768B1 (ko) 2020-03-27 2023-03-06 아폴로 인텔리전트 드라이빙 테크놀로지(베이징) 컴퍼니 리미티드 3차원 재구성 방법, 3차원 재구성 장치 및 전자 기기
JP7448945B2 (ja) 2020-05-22 2024-03-13 国立大学法人金沢大学 3次元マップ生成方法及び3次元マップ生成装置
JP2021108184A (ja) * 2020-06-28 2021-07-29 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッドBeijing Baidu Netcom Science Technology Co., Ltd. 高精度マップの作成方法及び装置
JP7166383B2 (ja) 2020-06-28 2022-11-07 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 高精度マップの作成方法及び装置
US11668831B2 (en) 2020-06-28 2023-06-06 Beijing Baidu Netcom Science Technology Co., Ltd. High-precision mapping method and device
JP2022548441A (ja) * 2020-08-17 2022-11-21 チョーチアン センスタイム テクノロジー デベロップメント カンパニー,リミテッド 位置姿勢決定方法、装置、電子機器、記憶媒体及びコンピュータプログラム
JP7236565B2 (ja) 2020-08-17 2023-03-09 チョーチアン センスタイム テクノロジー デベロップメント カンパニー,リミテッド 位置姿勢決定方法、装置、電子機器、記憶媒体及びコンピュータプログラム

Also Published As

Publication number Publication date
JP6771059B2 (ja) 2020-10-21
EP3579188A2 (en) 2019-12-11
US20190371044A1 (en) 2019-12-05
EP3579188A3 (en) 2020-03-25
US11080919B2 (en) 2021-08-03
CN108765487B (zh) 2022-07-22
CN108765487A (zh) 2018-11-06
EP3579188B1 (en) 2022-05-11

Similar Documents

Publication Publication Date Title
JP6771059B2 (ja) 3次元シーンを再構成するための方法、装置、機器及びコンピュータ可読記憶媒体
KR102126724B1 (ko) 포인트 클라우드 데이터를 복구하기 위한 방법 및 장치
US10267635B2 (en) Incremental updates of pose graphs for generating high definition maps for navigating autonomous vehicles
JP7166383B2 (ja) 高精度マップの作成方法及び装置
KR20200121274A (ko) 전자 지도를 업데이트하기 위한 방법, 장치 및 컴퓨터 판독 가능한 저장 매체
US20190301873A1 (en) Log trajectory estimation for globally consistent maps
CN113906414A (zh) 用于生成导航自主车辆用的高清晰度地图的位姿图的分布式处理
US20230175862A1 (en) Distributed Device Mapping
JP7440005B2 (ja) 高精細地図の作成方法、装置、デバイス及びコンピュータプログラム
WO2021003487A1 (en) Training data generation for dynamic objects using high definition map data
EP4116935B1 (en) High-definition map creation method and device, and electronic device
CN111680747A (zh) 用于占据栅格子图的闭环检测的方法和装置
CN114549738A (zh) 无人车室内实时稠密点云重建方法、系统、设备及介质
AU2020375559B2 (en) Systems and methods for generating annotations of structured, static objects in aerial imagery using geometric transfer learning and probabilistic localization
EP4194807A1 (en) High-precision map construction method and apparatus, electronic device, and storage medium
CN113325389A (zh) 一种无人车激光雷达定位方法、系统及存储介质
JP7431320B2 (ja) デジタル地図データを使用する方法およびシステム
CN113129422A (zh) 一种三维模型构建方法、装置、存储介质和计算机设备
CN115239899B (zh) 位姿图生成方法、高精地图生成方法和装置
CN113227713A (zh) 生成用于定位的环境模型的方法和系统
CN115937449A (zh) 高精地图生成方法、装置、电子设备和存储介质
Guo et al. Research on 3D geometric modeling of urban buildings based on airborne lidar point cloud and image
Skarlatos et al. Investigating influence of UAV flight patterns in multi-stereo view DSM accuracy
CN111461982B (zh) 用于拼接点云的方法和装置
CN113776530A (zh) 一种点云地图构建方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190322

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200807

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200908

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200928

R150 Certificate of patent or registration of utility model

Ref document number: 6771059

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250