JP7167397B2 - 点群データを処理するための方法及び装置 - Google Patents

点群データを処理するための方法及び装置 Download PDF

Info

Publication number
JP7167397B2
JP7167397B2 JP2018247315A JP2018247315A JP7167397B2 JP 7167397 B2 JP7167397 B2 JP 7167397B2 JP 2018247315 A JP2018247315 A JP 2018247315A JP 2018247315 A JP2018247315 A JP 2018247315A JP 7167397 B2 JP7167397 B2 JP 7167397B2
Authority
JP
Japan
Prior art keywords
candidate object
candidate
point cloud
frame
cloud data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018247315A
Other languages
English (en)
Other versions
JP2019149150A (ja
Inventor
湛逸飛
閻ミャオ
周旺
段雄
朗咸朋
馬常杰
Original Assignee
アポロ インテリジェント ドライビング テクノロジー(ペキン)カンパニー リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アポロ インテリジェント ドライビング テクノロジー(ペキン)カンパニー リミテッド filed Critical アポロ インテリジェント ドライビング テクノロジー(ペキン)カンパニー リミテッド
Publication of JP2019149150A publication Critical patent/JP2019149150A/ja
Application granted granted Critical
Publication of JP7167397B2 publication Critical patent/JP7167397B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/50Systems of measurement based on relative movement of target
    • G01S17/58Velocity or trajectory determination systems; Sense-of-movement determination systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/49Segmenting video sequences, i.e. computational techniques such as parsing or cutting the sequence, low-level clustering or determining units such as shots or scenes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Description

本開示は、主にデータ処理の技術分野に関するもので、より具体的には、点群データを処理するための方法及び装置に関するものである。
3次元スキャンニング技術とデジタル地図技術の発展に伴い、現在は採集エンティティ(例えば、採集車)を利用して採集装置(例えば、レーザースキャナ)を搭載し都市の3次元データを採集し、3次元モデルを構成する技術方案が提案されている。例えば建築物、道路、樹木などの静止対象物について、現在はすでに採集された点群データに基づいて相応する3次元モデルを構成することができるようになっている。しかし、都市の道路において、例えば移動中の車両、自転車や歩行者などの大量の移動対象物が存在し、この際、採集装置に採集された点群データは、これらの移動対象物に関連するが希望していないデータも含んでしまう。
従来の点群データ処理方法は、モデリングスタッフによる人間による処理に依存する場合が多い。また、点群データに関連付けられた画像データに対して画像認識を行うことで、移動対象物を確定する技術方案が提案されている。しかし、従来の技術方案は、ほとんどが人間による処理に依存し、複雑な演算が必要のみならず、移動対象物を正確に認識することができなかった。
本開示に係る例示的な実施形態によれば、点群データを処理するための方案を提供する。
第一の局面として、点群データを処理するための方法を提供する。具体的に、前記方法は、前記点群データから第1のフレームと第2のフレームとをそれぞれ取得するステップと、前記第1のフレーム及び前記第2のフレームから、第1の候補対象物と、前記第1の候補対象物に対応する第2の候補対象物とをそれぞれ抽出するステップと、前記第1の候補対象物及び前記第2の候補対象物の前記点群データの座標系における第1の位置及び第2位置をそれぞれ確定するステップと、前記第1の位置と前記第2の位置との間にオフセットが存在することに応答して、前記第1の候補対象物と前記第2の候補対象物のうちの何れか一つを移動対象物として標識するステップとを含む。
第二の局面として、点群データを処理するための装置を提供する。具体的に、前記装置は、前記点群データから第1のフレームと第2のフレームとをそれぞれ取得するように構成された取得モジュールと、前記第1のフレーム及び前記第2のフレームから、第1の候補対象物と、前記第1の候補対象物に対応する第2の候補対象物とをそれぞれ抽出するように構成された抽出モジュールと、前記第1の候補対象物及び前記第2の候補対象物の前記点群データの座標系における第1の位置及び第2位置をそれぞれ確定するように構成された確定モジュールと、前記第1の位置と前記第2の位置との間にオフセットが存在することに応答して、前記第1の候補対象物と前記第2の候補対象物のうちの何れか一つを移動対象物として標識するように構成された標識モジュールとを含む。
第三の局面として、1つまたは複数のプロセッサと、1つまたは複数のプログラムを記憶するための記憶手段とを含む装置であって、前記1つまたは複数のプログラムが前記1つまたは複数のプロセッサによって実行されると、第一の局面に記載の方法が実現される装置を提供する。
第四の局面として、コンピュータプログラムが格納されているコンピュータ読み取り可能な記憶媒体であって、前記コンピュータプログラムがプロセッサによって実行されると、第一の局面の方法が実現されるコンピュータ読み取り可能な記憶媒体を提供する。
発明の概要の部分で説明した内容は、本開示に係る実施形態のポイントまたは重要な特徴を限定するものではなく、本開示に係る内容の範囲を限定するためのものでもないことを理解されるべきである。本開示に係る他の特徴は、次の説明により理解が容易になる。
以下の図面による非限定的な実施例についての詳細な説明を読み、参照することにより、本開示に係る他の特徴、目的及び利点がより明らかになる。
図1は、本開示の例示的実施形態に係る応用シーンの図面を概略的に示す。 図2は、一技術方案に基づいて取得した点群データの図面を概略的に示す。 図3は、本開示の例示的実施形態に係る点群データを処理するための方案のブロック図を概略的に示す。 図4は、本開示の例示的実施形態に係る処理された点群データの結果の図面を概略的に示す。 図5は、本開示の例示的実施形態に係る点群データを処理するための方法のフローチャートを概略的に示す。 図6Aは、本開示の例示的実施形態に係る第1の候補対象物に対応する第2の候補対象物を確定するための方法の図を概略的に示す。 図6Bは、本開示の例示的実施形態に係る第1の候補対象物に対応する第2の候補対象物を確定するための方法の図を概略的に示す。 図7は、本開示の例示的実施形態に係る点群データのうち、第1のフレーム、第2のフレームと第3のフレームを処理するための方法の図を概略的に示す。 図8は、本開示の例示的実施形態に係る点群データのうち、第1のフレームと第3のフレームを処理するための方法の図を概略的に示す。 図9は、本開示の例示的実施形態に係る予測位置に基づいて移動対象物を標識するための方法のフローチャートを概略的に示す。 図10は、本開示の例示的実施形態に係る移動対象物に関連するポイントセットを確定するための方法のブロック図を概略的に示す。 図11は、本開示の例示的実施形態に係る点群データを処理するための装置のブロック図を概略的に示す。 図12は、本開示に係る複数の実施形態を実施できるコンピューティング機器のブロック図を示す。
以下、図面を参照しながら本開示に係る実施形態をより詳細に説明する。図面には、本開示の内容に係る一部の実施形態を示すが、本開示の内容は、さまざまな態様により実施することができ、ここで述べた内容に限定されるものとして解釈されるべきではないことを理解されるべきである。逆に、本開示に係る様々な実施形態を、徹底的に、全面的に理解するために、これらの実施形態を提供したわけである。本開示の内容に係る図及び実施形態は、例示的なものであるとし、本開示の内容に係る範囲を制限するためのものではない。
本開示に係る実施形態を説明することにおいて、用語「含む」及び似ている用語は、開放的な「含む」と理解すべきである。つまり、「...を含むが、これらに限定されない」と理解すべきである。用語「に基づいて」は、「少なくとも部分的に...に基づいて」と理解すべきである。用語「一実施形態」または「当該実施形態」は、「少なくとも一つの実施形態」として理解すべきである。用語「第1」、「第2」などは、異なる又は同じ対象物を示すことができる。以下の記載では、他の明確な定義と暗黙的定義を含める可能性もある。
図1は、本開示に係る例示的実施形態に係る応用シーン100の図面を概略的に示し、ここで、点群データを取得する概略プロセスを示す。具体的に、都市環境に関連する実際の対象物は、静止対象物と移動対象物とを含むことができる。例えば、静止対象物は、図1に示すような都市の道路130、樹木140及び建築物150を含むことができる。また、実際の対象物は、例えば、道路130上に走行される車両120、自転車122などの移動対象物をさらに含むことができる。例えば、図1に図示されていないが、例えば歩行者等の他の移動対象物を含むこともできる。
図1に示すように、採集装置110は、採集エンティティ112上に固定されることができる。採集エンティティ112が道路130に沿って都市環境で走行する場合に、採集装置110は、外部にレーザービームを出射し、各静止対象物と移動対象物から返された信号を受信することにより、各静止対象物と移動対象物に関連付けられた3次元データを取得することができる。これらの実現において、3次元データは点群データであってもよい。
なお、採集装置110は、所定の時間間隔で3次元データを採集することができる。ビデオカメラで撮影したビデオ信号と同様に、これらの採集装置110で取得した点群データは、複数のフレームを含むことができ、ここで、フレームごとに採集装置110により当該フレームの対応する時点で採集した点群データが含まれている。採集装置110のメーカーと型番、およびその他のパラメータに応じて、取得した点群データの採集頻度は多少異なってもよい。例えば、一のタイプの採集装置110による点群データの採集頻度は1秒当たり10フレームとすることができ、他のタイプの採集装置110による点群データの採集頻度は、1秒当たり5フレームとすることができる。
図2を参照すると、採集された点群データ中の各フレームを直接につなぎ合わせて、都市環境を記述する最終の点群データを形成する場合、点群データの移動対象物に関連付けられた部分にゴーストイメージ(ghosting)が形成されてしまう。図2は、一技術方案に基づいて取得した点群データ200の図面を概略的に示す。図示されたように、例えば、道路、樹木や建物などのような静止対象物に対して、点群データおける各フレームにおいて、静止対象物の点群データの座標系における位置は同じである。したがって、最終的な点群データ200において、静止対象物に関連付けられた部分230、240、250は正常である。
しかし、採集エンティティ112が道路130に沿って走行する場合、車両120と自転車122などの移動対象物が移動状態になっているので、採集装置110で取得した点群データにおける各フレームにおいて、車両120と自転車122の点群データの座標系における位置は異なる。これにより、最終的な点群データ200から車両の自転車などの移動対象物に関連付けられた部分220、222にゴーストイメージが発生してしまう。
従来の技術方案は、人による手作業に依存して点群データ中のゴーストイメージを除去している。現在では他の技術方案が提案されているが、これらの技術方案は、複雑な演算が必要であり、移動対象物を正確に認識することができず、ゴーストイメージを正確に除去することができなかった。したがって、如何にしてより効率的で便利な方法で点群データを処理し、点群データの移動対象物に関連付けられた部分を認識して除去することは研究のホット課題の一つになっている。
本開示に係る例示的実施形態によれば、点群データを処理するための方法及び装置を提供する。以下、図3を参照して、本開示に係る概要を概略的に説明する。図3は、本開示の例示的実施形態に係る点群データを処理するための方案300のブロック図を概略的に示す。図3に示すように、点群データ310は、採集装置110からのデータであることを示し、その点群データ310には複数のフレームを含むことができる。点群データ310から第1のフレーム320と第2のフレーム330とを取得することができる。
続いて、第1のフレーム320及び第2のフレーム330から、第1の候補対象物322とこの第1の候補対象物322に対応する第2の候補対象物332とをそれぞれ抽出することができる。なお、本開示に係る「対応する」とは、2つの候補対象物が実空間における同一の物理対象物(例えば、同一の車両)から由来した点群データであることを指す。例えば、図3に図示された第1の候補対象物322と第2の候補対象物332は、それぞれ2つのフレームから由来した車両120に対する点群データである。
図3において、第1の候補対象物322と第2の候補対象物332の点群データの座標系における位置は、それぞれ第1の位置(X1、Y、Z)と第2の位置(X2、Y、Z)である。なお、座標系は、点群データの座標系を指し、当該座標系と実際の空間は、相互に対応しており、点群データにおける各フレームの座標系の定義は一致している。本開示に係る例示的実施形態によれば、異なる方法で座標系を定義することができる。例えば、その座標系は、実際の空間の一つの基準位置(例えば、採集エンティティ112が採集プロセスを開始する開始位置)を座標系の原点とし、進行方向をX軸方向とし、デカルト座標系の規定に基づいて定義することができる。オプション的に、他の場所を座標原点として定義し、他の方向に沿ってX軸方向を定義することもできる。
車両120が移動状態にあるので、当該車両120が点群データ310の異なるフレームでの位置は異なっているため、座標系中のX1の数値はX2に等しいというわけではない。本実施形態において、第1の位置(X1、Y、Z)と第2の位置(X2、Y、Z)との間にオフセットが存在することが検出されたことに基づいて、第1の候補対象物322を移動対象物として標識することができる。第2の候補対象物332と第1の候補対象物322とが相互に対応しているため、第2の候補対象物332も移動対象物として標識することができる。言い換えると、第1の候補対象物と第2の候補対象物のうちの何れか一つを移動対象物として標識することができる。本開示に係る例示的実施形態によれば、移動対象物は、人による作業を必要とせずに点群データから自動的に認識することができる。
さらに、本開示に係る例示的実施形態によれば、点群データから認識された移動対象物を除去することもできる。図4に示すように、本開示の例示的実施形態に係る処理された点群データ400の結果の図面を概略的に示す。図2に示された点群データ200に対して本開示に係る方法を実行した後、図4に示すような処理された点群データ400を取得することができる。図4において、車両及び自転車に関連付けられたゴーストイメージ部分220、222は、既に認識されて除去されているので、処理された点群データ400には、道路、樹木及び建築物に関連付けられた部分230、240、250しか含まれていない。
以下、図5を参照して、本開示内容による方法の具体的なステップについて詳細に説明する。図5は、本開示の例示的実施形態に係る点群データを処理するための方法500のフローチャートを概略的に示す。ブロック510において、点群データから第1のフレームと第2のフレームとをそれぞれ取得する。なお、ビデオデータと同様に、点群データは、フレーム単位で格納することができる。このステップでは、点群データのフォーマットの定義に基づいて、各フレームをそれぞれ取得するようにすることができる。
ブロック520において、第1のフレーム及び第2のフレームから、第1の候補対象物と第1の候補対象物に対応する第2の候補対象物とをそれぞれ抽出する。本実施形態において、まず、各フレームにおけるポイントの位置に対してクラスタリングを行うことにより、各フレームでそれぞれの潜在的な対象物を認識することができる。続いて、対象物のさまざまな特徴に基づいて、第1の候補対象物に対応する第2の候補対象物を選択することができる。
具体的には、本開示に係る例示的実施形態によれば、点群データの座標系において、まず、第1のフレーム及び第2のフレームにおけるポイントに対してクラスタリングを行うことで、第1の候補対象物セット及び第2の候補対象物セットをそれぞれ形成することができる。ここで、第1の候補対象物セット及び第2の候補対象物セットは、移動対象物を含むことができ、静止対象物を含むこともできる。続いて、第1候補対象物セットから第1の候補対象物を選択し、第2の候補対象物セットから第1の候補対象物に対応する第2の候補対象物を選択することができる。ここでいう候補対象物は、潜在的な移動対象物を指すものである。後続のステップで候補対象物が移動するものなのか、静止しているものなのかを更に判断することもできる。本実施形態において、各フレームにおけるポイントに対してクラスタリングを行い、それから対応する候補対象物を選択することができる。このような過程において、人による作業を必要としないので、点群データを処理する速度を大きく速めることができる。
なお、場所だけによって点群データにおけるポイントに対してクラスタリングを行う場合に、大量の対象物が認識される可能性があり、後続のステップにおいて識別された各対象物に対して逐一処理を行わなければならない必要があることを注意すべきである。後続の処理の演算量を低減させるために、移動対象物の候補対象物になる可能性のあるものを見つけるために、認識された対象物に対してフィルタリングを行うことができる。
本開示に係る例示的実施形態によれば、まず、第1のフレーム及び第2のフレームからそれぞれ地面対象物を検出し、ここで、地面対象物は、点群データのうち、実際の地面に関連付けられた部分を指す。第1のフレーム及び第2のフレームにおいて、地面対象物とつながっている1つまたは複数の対象物に基づいて、第1の候補対象物セット及び第2の候補対象物セットをそれぞれ形成する。点群データは都市環境から由来するものであるため、本実施形態では、地面と接触する対象物(例えば、車両、自転車、歩行者など)だけを考慮することにし、例えば飛行機などの空中の移動対象物は考慮しない。これらの簡略化された手段により、移動対象物を認識する効率を大きく向上させることができる。
本実施形態において、簡単な方法で一つの対象物が地面とつながっているか否かを判断することができる。地面対象物が既に検出された場合、地面対象物の各位置における座標(x、y、z)を取得することができる。そのため、対象物のz座標と対象物の各位置における座標との関係を比較することにより、その対象物が地面対象物と接続するか否かを確定することができる。
具体的に、点群データの1つの対象物に関連付けられた部分が既に認識されたと仮定する。この時、当該部分の高さの値が最も小さい部分と、地面対象物の相応の位置における高さの値とを比較することにより、当該部分が地面対象物と接触しているか否かを判断する。認識された対象物が樹木である場合、樹木の根の部分のz座標と対応する位置における地面対象物のz座標とを比較するこれにより、当該対象物が地面対象物につながっているか否かを判断することができる。この方法で、各フレームにおける車両、自転車及び歩行者等に関連付けられた候補対象物を便利でかつ迅速に認識することができる。
さらに、各フレームにおいて認識された候補対象物に対して、逐一処理を行うことができる。例えば、第1候補対象物セットの一つの候補対象物に対して、第2の候補対象物セットから候補対象物に対応する候補対象物を見つけることができる。
本開示に係る例示的実施形態によれば、候補対象物の複数の特徴のうち少なくとも一つに基づいて、第1の候補対象物に対応する第2の候補対象物を選択する。具体的には、特徴は、第1の候補対象物及び第2の候補対象物のサイズの比率、平滑度、反射強度、位置、および点群密度を含むことができる。なお、各対象物は、前記特徴において異なる表現を有することができることに注意すべきである。例えば、車両などの移動対象物の表面は、通常、相対的に滑らかで、樹木などの静止対象物の表面は、通常粗い。したがって、上述した特徴を基に、第1の候補対象物に対応する第2の候補対象物を区別することにより、第2の候補対象物をより正確に選択することができる。
本実施形態において、候補対象物の各特徴を演算し、第2の候補対象物セットから第1の候補対象物と類似した特徴を有する対象物を第2の候補対象物として選択することができる。ここで、まず、各特徴の具体的な意味を紹介する。図6Aは、本開示の例示的実施形態に係る第1の候補対象物に対応する第2の候補対象物を確定するための方法600Aの図面を概略的に示す。
本実施形態において、サイズの比率は認識された対象物の境界ボックス中の3次元サイズの割合を指す。図6Aを参照すると、図面符号「610A」は、車両120の境界ボックスを表示する。点群データにより当該車両120の横方向の距離が4メートル、高さが1.5メートルであることを示すと仮定すると、この時の当該車両120のサイズの比率は、4:1.5で示すことができる。図面符号620Aは、樹木140の境界ボックスを示す。点群データにより当該樹木140の横方向の距離が4メートル、高さが6メートルであることを表示すると仮定すると、この時の当該樹木140のサイズの比率は4:6で示すことができる。数値比較によって分かるように、車両120及び樹木140のサイズの比率は、差異が大きくなっている。
第1の候補対象物のサイズの比率は4:1.5であり、第2の候補対象物セットに複数の候補対象物が含まれると仮定すると、この場合、第2の候補対象物セットから第2の候補対象物としてサイズの比率が4:1.5である候補対象物を選択すべきであり、サイズの比率が4:6である候補対象物を選択すべきでない。なお、図6Aから2次元の方法でサイズの比率の例を示したが、実際の応用シーンにおいて、サイズの比率は、3次元形式であることに注意すべきである。3次元形式で、車両120及び樹木140のサイズの比率は、それぞれ4:1.7:1.5(x、y、z方向)及び4:4:6で示すことができる。
図6Bは、本開示に係る例示的実施形態に係る第1の候補対象物に対応する第2の候補対象物を確定するための方法600Bの図面を概略的に示す。本実施形態において、反射強度は、対象物の表面が採集装置110に対して出射したレーザー光への反射の強さを指す。例えば、車両120の金属表面は、採集装置110からのレーザー光を受けた後、矢印610Bに示されたように、大部分のレーザー光を反射することができる。採集装置110が出射したデータ及び採集された「エコー」のデータに基づいて、反射強度の大きさを確定することができる。矢印620Bは、樹木140が採集装置110から出射したレーザー光に対する反射強度を示す。樹木140の葉の間に通常多くの隙間が含まれているので、反射強度は、車両120の反射強度よりもはるかに小さくなっている。
第1の候補対象物の反射強度が大きく、第2の候補対象物セットに複数の候補対象物が含まれると仮定すると、この場合、第2の候補対象物セットから第2の候補対象物としての反射強度が大きい候補対象物を選択すべきであり、反射強度が小さい候補対象物を選択すべきでない。なお、図6Bで2次元の方法で反射強度の例示を示したが、実際の応用シーンでの反射は、3次元空間における反射であることを留意すべきである。当該技術分野における当業者は、採集装置110の種類に基づいて、各種のデータ構造を定義し、反射強度の大きさを記述することができる。
本開示に係る例示的実施形態によれば、平滑度は対象物の表面の平滑度を表示することができる。例えば、高、中、低の複数の評価を利用して、平滑度を記述することができ、この場合、車両120の平滑度は、「高」と定義することができ、樹木140の平滑度は、「低」と定義することができる。代替的に、連続した数値の方法を利用して、平滑度を記述することもできる。本開示に係る例示的実施形態によれば、[0、100]の連続区間で平滑度を定義することができ、数値が小さいほど、対象物の表面が粗く、数値が大きいほど、対象物の表面がより滑らかであると定義することができる。この場合、車両120の平滑度を「90」として定義し、樹木140の平滑度を「20」として定義することができる。
本開示に係る例示的実施形態によれば、点群密度は、採集されたポイントの密度を指す。例えば車両120などの表面が平滑な対象物から採集された点群密度は高いが、例えば樹木140などの対象物に対して、採集装置110から出射したレーザー光の一部が葉の間の隙間を通り抜けてしまい、反射信号を採集することができなくなる。したがって、樹木140などの対象物の点群密度は低くなってしまう。本実施形態において、点群密度の大きさによって、その点群密度が第1の候補対象物の点群密度とマッチングする対象物を第2の候補対象物として選択することもできる。
本開示に係る例示的実施形態によれば、位置は、対象物に関連付けた各ポイントが点群データの座標系における位置を指す。例えば、対象物の中心の位置を対象物の位置に利用することができる。なお、本開示に係る例示的実施形態により、対象物が複数のフレーム間での位置オフセットに基づいて、その対象物が移動対象物であるか否かを判断するが、位置オフセットが合理的な範囲内にある対象物を第2の候補対象物として選択する必要があることに注意すべきである。
第1のフレーム及び第2のフレームが2つの連続したフレームであり、採集時間間隔が0.1秒であると仮定する。第1のフレームにおいて見つけた候補対象物1の位置が(X1、Y、Z)であり、第2のフレームから見つけた候補対象物2の位置が(X2、Y、Z)であるとする。2つの候補対象物のサイズの比率、平滑度、反射強度と点群密度はいずれも近く、位置(X1とX2)との間の距離が10メートルに達するとする。この場合、候補対象物1と候補対象物2がいずれも同一の車両に対応する場合、当該車両の速度は、10メートル/0.1秒(つまり、360キロメートル/時間)に達することになる。都市の道路についていうと、車両速度が360キロメートル/時間に達する状況が現れる可能性がなく、候補対象物2は、候補対象物1に対応することができないことを確定することができる。このような方法で、第1の候補対象物に対応する第2の候補対象物を選択する場合に、位置が合理的な範囲内にある対象物を第2の候補対象物として選択することができる。
なお、上述複数の異なる実施形態において、サイズの比率、平滑度、反射強度、位置、および点群密度のような複数の特徴の具体的な意味及び関連の動作を詳細に説明したが、本開示に係る例示的実施形態によると、上述した特徴を組み合わせることができ、例えば、対象物の特徴をより全面的に反映するように、各特徴について相応の重み係数を設定することができることに注意すべきである。さらに、第1の候補対象物に対応する第2の候補対象物を選択する場合に、各々の特徴がいずれもマッチングされている対象物を第2の候補対象物として選択することができる。
本開示に係る例示的実施形態によれば、画像に基づいて、第2の候補対象物を選択することに協力することもできる。具体的に、第1のフレーム及び第2のフレームに関連付けられた第1の画像と第2の画像をそれぞれ取得することができる。さらに、第2の候補対象物を選択する場合、選択された対象物の第2の画像における結像が第1の候補対象物の第1の画像における結像とマッチングするように、対象物を第2の候補対象物として選択することができる。本実施形態において、各フレームに関連付けられる画像を参照することにより、第2の候補対象物を選択する精度を更に向上させることができる。
なお、採集装置110は、画像採集装置がさらに配置されることができ、当該イメージ採集装置は、点群データ中のフレームに対応する画像を採集するために、採集装置110中のレーザー採集装置と連携して動作できることに注意すべきである。この場合、画像における内容に基づいて、第2の候補対象物を選択することもできる。画像採集装置及びレーザー採集装置の位置は、近似しており、向きが一致している。画像採集装置は、各フレームの画像においてすべて赤い色の車を撮れたと仮定すると、この場合、点群データの第1のフレーム及び第2のフレームから、赤い色の車に対応する対象物を第1の候補対象物と第2の候補対象物としてそれぞれ選択することができる。
本開示に係る例示的実施形態によれば、第1のフレーム及び第2のフレームは、点群データのうちの2つの連続したフレームであるとすることができる。本開示に係る例示的実施形態によれば、各フレームの番号又はその他の属性によって各フレームの時間的順序と時間間隔を判断することができれば、第1のフレーム及び第2のフレームは、点群データにおける2つの不連続なフレームであってもよい。
図5に戻って図5を参照すると、ブロック530において、第1の候補対象物と第2の候補対象物の点群データの座標系における第1の位置及び第2位置をそれぞれ確定する。本開示に係る例示的実施形態によれば、各候補対象物の中心の位置を、その候補対象物の位置とすることができる。なお、中心の位置は、様々な方法で計算することができる。例えば、その対象物に関連付けられたすべてのまたは一部のポイントを取得することができ、これらの点の座標系における位置に基づいて、中心の位置を算出することができる。オプション的に、点群密度などのパラメータに基ついて、各ポイントの位置に重み付けを行うこともでき、または、その他の統計方法に基づいて対象物の他の場所を対象物の位置とすることもできる。
図5中のブロック540において、第1の位置と第2位置との間にオフセットが存在する場合に、第1の候補対象物を移動対象物と標識する。本実施形態において、2つのフレームの中の2つの候補対象物の位置を確定する前に、オフセットが存在するか否かを確定することができる。オフセットが存在する場合に、第1の候補対象物を移動対象物として標識することができ、そうでなければ、当該第1の候補対象物を静止対象物に標識することができる。本開示に係る文脈で第1の候補対象物を移動対象物として標識することで説明したが、第2の候補対象物がその第1の候補対象物と互いに対応しており、両者は同一の物理的な対象物の点群データの2つのフレームにおける表現なので、この場合、第2の候補対象物も移動対象物として標識されることができることに注意すべきである。
図7を参照すると、第1のフレーム710Aと第2のフレーム710Bでそれぞれ第1の候補対象物714Aと第2の候補対象物714Bを抽出し、2つの候補対象物の位置は、第1位置716Aと第2の位置716Bに確定した。図示されたように、2つの位置の間にオフセットDが存在するので、第1の候補対象物と第2の候補対象物のうちの何れか一つを移動対象物として標識することができる。
以下のような状況が存在し得る。すなわち、2つの候補対象物の間にオフセットが存在するが、該オフセットは、いくつかのノイズまたはその他の要因の干渉による可能性がある。したがって、連続的、又は時間間隔が非常に近接する2つのフレームからのオフセットを検出するだけで、第1の候補対象物と第2の候補対象物を移動対象物として確定することはできない。さらに、移動対象物をより正確に判断するために、複数のフレームの内容を監視することもできる。
本開示に係る例示的実施形態によれば、点群データから第3のフレームを取得することができ、ここで、第3のフレームは、第2のフレームに隣接する後続のフレームまたは第2のフレームの後の他の不連続的なフレームであることができる。続いて、上述の方法に従って、第3のフレームで第1の候補対象物に対応する第3の候補対象物を抽出することができる。第3の候補対象物の座標系における第3の位置がオフセットに関連付けられた場合に、第1の候補対象物を移動対象物と標識する。
本実施形態において、点群データのうち、より多くのフレームを更に参照することにより、わずか2つのフレームのデータに依存することによる誤判断をフィルタリングすることができる一方、他方では移動対象物が多くのフレームで現れることを更に確定することができ、点群データから移動対象物に関連付けられた部分を除去するのに有利である。
以下、図7を参照して、当該実施形態よりも多くの詳細事項を説明する。図7は、本開示の例示的実施形態に係る点群データのうち、第1のフレーム、第2のフレーム及び第3のフレームを処理するための方法700の図面を概略的に示す。図7に示すように、図面記号「710A、710Bと710C」は、点群データのうち、3つの連続したフレームをそれぞれ示す。この例において、各フレーム710A、710B、710Cは、時間順に配列されている。説明の便宜上、図7には、抽出された各候補対象物だけを示し、その他のデータは図示しないことにする。
図7を参照すると、ここで、第1のフレーム710A、第2のフレーム710B及び第3のフレーム710Cで既に第1の候補対象物714A、第2の候補対象物714B及び第3の候補対象物714Cを抽出し、3つの候補対象物が点群データの座標系における位置は、それぞれ「716A」、「716B」と「716C」になっている。この場合、それぞれの場所の間のオフセットに基づいて、各候補対象物が移動対象物に関連付けられた点群データであるか否かを確定することができる。
図7を参照すると、第1の位置716Aと第2の位置716Bとの間のオフセットはDであり、第2の位置716Bと第3の位置716Cとの間のオフセットもDである。この場合、第3の候補対象物714Cの座標系における第3の位置716Cと、前に確定したオフセットD(すなわち、第2の位置716Bと第1の位置716Aとの間のオフセット)とが関連付けられたものとすることができる。したがって、第1の候補対象物714A、第2の候補対象物714B及び第3の候補対象物714Cが同一の移動中の実体的対象物に関連付けられたものと確定することができる。さらに、各候補対象物を移動対象物として標識することができる。
なお、図7に座標系の中のx軸方向に沿ったオフセットが示されたが、本開示に係る例示的実施形態によれば、座標系の中のx、y、z軸方向のいずれにもオフセットが存在してもよいことに注意すべきである。
本開示に係る例示的実施形態によれば、第3の候補対象物の第3のフレームにおける予測位置を確定することができる。予測位置と第3の位置とが一致する場合に、第1の候補対象物を移動対象物と標識する。本実施形態において、簡単な位置判断だけで第3の候補対象物が、第1候補対象物のような移動対象物にも対応するか否かを判断することができるので、認識の精度を向上させる。
続いて、図7の例を参照すると、採集エンティティ112が等速で移動するとすると、第1のフレーム710Aと第2のフレーム710Bとの間のオフセットに基づいて、第3の候補対象物の第3のフレーム710Cでの予測位置を予測することができる。
続いて、予測位置と実際の検出された第3の候補対象物714Cの第3の位置716Cが一致しているか否かに基づいて、第1の候補対象物714A、第2の候補対象物714B及び第3の候補対象物714Cを移動対象物として標識するか否かを確定することができる。本実施形態において、第2の位置716Bに基づいて、オフセットDを追加して予測位置を確定することができる。この場合、予測位置と実際に検出された第3の位置716Cとが一致している。したがって、第1の候補対象物714A、第2の候補対象物714B及び第3の候補対象物714Cは、移動対象物として標識することができる。
本開示に係る例示的実施形態によれば、第1の候補対象物の対象物速度を確定することができ、さらに、対象物速度に基づいて予測位置を確定することができる。本実施形態において、第1のフレームと第2のフレームとの間の時間間隔は、すでに知られているもの(例えば、0.1秒)なので、オフセットが既に知られている場合、オフセットの時間間隔に基づいて対象物速度を確定することができる。上述した例の続きとして、対象物速度=D/0.1=10Dである。言い換えると、この場合、対象物速度は10D/秒である。
採集装置110は、採集エンティティ112上に固定されるので、採集エンティティ112が移動する場合、その採集装置110が第1のフレーム及び第2のフレームを採集するときの位置は異なることをさらに注意すべきである。したがって、第2の候補対象物の座標系における第2の位置を確定する場合、採集エンティティ112の移動速度を考慮することもできる。採集エンティティ112の移動速度は、すでに知られているので、簡単な演算により、第2の候補対象物の座標系における第2の位置を確定することができる。同様に、第3の候補対象物714Cの第3のフレーム710Cでの第3の位置716Cも確定することができる。
以上、第1のフレーム及び第2のフレームが2つの連続したフレームである場合について説明したが、本開示に係る例示的実施形態によれば、2つのフレームが不連続的なフレームであってもよいことに注意すべきである。以下、図8を参照して、2つの不連続的なフレームに基づいて移動対象物を如何に確定するかについて説明する。図8は、本開示の例示的実施形態に係る点群データのうち、第1のフレームと第3のフレームを処理するための方法800の図面を概略的に示す。
図8の例示において、第2のフレーム710Bが破棄され、なんらかの原因で破損しており、この場合、第1のフレーム710A及び第3のフレーム710Cは、2つの不連続的なフレームになる。フレームの番号またはタイムスタンプデータに基づいて、第1のフレーム710Aと第3のフレーム710Cとの間の時間間隔を確定することができる。例えば、時間間隔が0.2秒の場合には、上述した方法に基づいて、第1の候補対象物714Aの第1の位置716Aと第3の候補対象物714Cの第3の位置716Cとの間のオフセットが2Dになることを確定することができる。上述したオフセットに基づいて、第1の候補対象物と第2の候補対象物のうちの何れか一つを移動対象物として標識することができる。
図9は、本開示の例示的実施形態に係る予測位置に基づいて移動対象物を標識するための方法900のフローチャートを概略的に示す。図9に示すように、ブロック910において、オフセットに基づいて、第1の候補対象物の対象物速度を確定する。具体的には、上述した方法に基づいて、オフセット値と2つのフレーム間の時間間隔に基づいて対象物速度を確定することができる。ブロック920において、対象物速度に基づいて、第3の候補対象物の座標系における予測位置を確定することができる。この場合は、第3のフレームと第2のフレームとの間の時間間隔を考慮する必要もある。
例えば、第3のフレームを第2のフレームの後に隣接するフレームに仮定すると、この場合、時間間隔は0.1秒であり、予測位置は第2の位置をもとにDを追加することになる。また、例えば、第3のフレームを第1のフレーム後の5つのサイクルの後のフレームであると仮定すると、この場合、時間間隔は0.5秒であり、予測位置は第2の位置をもとに5Dを追加することになる。ブロック930において、予測位置と第3の位置とが一致することに応答して、第1の候補対象物を移動対象物と標識する。
本開示に係る例示的実施形態によれば、第1の候補対象物と第2の候補対象物とに基づいて点群データ中の移動対象物に関連付けられたポイントセットを確定することができる。さらに、静止対象物のみ含む点群データを生成するために、原始の点群データから移動対象物に関連付けられたポイントセットを除去することもできる。移動対象物を既に認識した場合に、点群データから当該移動対象物に関連付けられた部分を除去することができる。この方法において、原始採集された点群データにおける不要な部分を除去し、他の目的に用いられる「クリーンな」都市環境の点群データを生成することができる。
以下、図10を参照して、移動対象物に関連付けられたポイントセットを如何に確定するかについて説明する。図10は、本開示の例示的実施形態に係る移動対象物に関連するポイントセットを確定するための方法1000のブロック図を概略的に示す。前述した例の続きとして、第1のフレーム710A、第2のフレーム710B及び第3のフレーム710Cにおける第1の候補対象物714A、第2の候補対象物714B、第3の候補対象物714Cは、すでに移動対象物として標識されている。この場合、これらの3つの候補対象物におけるポイントは、いずれも移動対象物に関連付けられたポイントであるので、点群データから除去すべきである。
本開示に係る例示的実施形態によれば、異なる方法を使用して点群データから不要な部分を除去することができる。例えば、最初の点群データの各フレームから相応の対象物のポイントをそれぞれ除去し、更新された各フレームのデータに基づいて最終的な点群データを生成することができる。また、例えば、移動対象物があるフレームの中のデータに基づいて、移動対象物に対してモデリングを行うことにより、点群データから当該移動対象物に該当する部分を除去することもできる。
本開示に係る例示的実施形態によれば、点群データにおける複数のフレームにおいて、移動対象物に関連付けられたフレームセットを確定する。通常、一定の時間帯に移動対象物は、採集装置110の近くに位置するので、一のフレームセット内でいずれも移動対象物を検出することができる。移動対象物の一のフレームセットにおける位置に基づいて、移動対象物の移動軌跡を確定した後、移動軌跡に基づいて移動対象物に関連付けられたポイントセットを確定することができる。この方法により、移動対象物が現れる位置をより正確に確定することができ、各フレームでの移動対象物に関連付けられた部分を確定するのに有利になる。
具体的には、上述した原理に基づいて、点群データの各フレームでの移動対象物に関連付けられた一のフレームセットを見つけることができる。例えば、図7を参照して、上述した例示に続いて、第2のフレームの後の各連続フレームで移動対象物に関連付けられた候補対象物が存在するか否かを、絶えずに探すことができる。存在する場合、次のフレームに移動対象物に関連付けられた候補対象物が存在しなくなるまで探し続ける。
続いて、移動対象物が一のフレームセットにおける各フレームでの位置を確定し、移動の軌跡を形成することができる。この場合、移動軌跡は、点群データを採集する期間に移動対象物が通過した軌跡が記述されているため、当該移動軌跡に基づいて移動対象物に関連付けられたポイントのセットを取得することができる。なお、従来技術で最終の点群データ中のゴーストイメージは当該セット(集合)におけるポイントによるもので、この場合、点群データから当該セットにおけるポイントを除去すると、ゴーストイメージ現象を除去することができることに注意すべきである。
図11は、本開示の例示的実施形態に係る点群データを処理するための装置1100のブロック図を概略的に示す。具体的には、当該装置1100は、点群データから第1のフレーム及び第2のフレームをそれぞれ取得するように構成された取得モジュール1110と、第1のフレーム及び第2のフレームから、第1の候補対象物と第1の候補対象物に対応する第2の候補対象物とをそれぞれ抽出するように構成された抽出モジュール1120と、第1の候補対象物と、第2の候補対象物の点群データの座標系における第1の位置及び第2位置をそれぞれ確定するように構成された確定モジュール1130と、第1の位置及び第2位置との間にオフセットが存在することに応答して、第1の候補対象物と第2の候補対象物のうちの何れか一つを移動対象物として標識するように構成された標識モジュール1140とを含む。
本開示に係る例示的実施形態によれば、抽出モジュール1120は、クラスタリングモジュールと選択モジュールとを含む。具体的には、クラスタリングモジュールは、第1のフレーム及び第2のフレームにおけるポイントを、座標系でクラスタリングを行い、第1の候補対象物セット及び第2の候補対象物セットをそれぞれ形成するように構成される。選択モジュールは、第1候補対象物セットから第1の候補対象物を選択して、第2の候補対象物セットから第1の候補対象物に対応する第2の候補対象物を選択するように構成される。
本開示に係る例示的実施形態によれば、抽出モジュール1120は、地面検出モジュールと形成モジュールとを含む。具体的には、地面検出モジュールは、第1のフレーム及び第2のフレームからそれぞれ地面対象物を検出するように構成される。形成モジュールは、第1のフレーム及び第2のフレームから、地面対象物につながっている1つまたは複数の対象物に基づいて、第1の候補対象物セット及び第2の候補対象物セットをそれぞれ形成するように構成される。
本開示に係る例示的実施形態によれば、抽出モジュール1120は、特徴に基づく選択モジュールを含む。特徴に基づく選択モジュールは、第1の候補対象物及び第2の候補対象物のサイズの比率、平滑度、反射強度、位置、および点群密度のうち少なくとも一つに基づいて、第1の候補対象物に対応する第2の候補対象物を選択するように構成される。
本開示に係る例示的実施形態によれば、抽出モジュール1120は、画像取得モジュールと、画像に基づく選択モジュールを含む。具体的には、画像取得モジュールは、第1のフレーム及び第2のフレームに関連付けられた第1の画像と第2の画像をそれぞれ取得するように構成される。画像に基づく選択モジュールは、第2の候補対象物の第2の画像における結像が第1の候補対象物の第1の画像における結像とマッチングするように、第2の候補対象物を選択するように構成される。
本開示に係る例示的実施形態によれば、取得モジュール1110は、さらに点群データから第3のフレームを取得するように構成される。抽出モジュール1120は、第3のフレームからさらに第1の候補対象物に対応する第3の候補対象物を抽出するように構成される。標識モジュール1140は、第3の候補対象物の座標系における第3の位置がオフセットと関連付けられたことに応答して、さらに第1の候補対象物を移動対象物として標識するように構成される。
本開示に係る例示的実施形態によれば、標識モジュールは、予測モジュールと移動対象物標識モジュールをさらに含む。具体的には、予測モジュールは、第3の候補対象物の座標系における予測位置を確定するように構成される。移動対象物標識モジュールは、予測位置と第3の位置が一致することに応答して、第1の候補対象物、第2の候補対象物及び第3の候補対象物のうちの何れか一つを移動対象物として標識するように構成される。
本開示に係る例示的実施形態によれば、予測モジュールは、速度確定モジュールと位置確定モジュールとを含む。速度確定モジュールは、オフセットに基づいて、第1の候補対象物の対象物速度を確定するように構成される。位置確定モジュールは、対象物速度に基づいて予測位置を確定するように構成される。
本開示に係る例示的実施形態によれば、装置1100は、セット確定モジュールと削除モジュールとをさらに含む。具体的には、セット確定モジュールは、第1の候補対象物と第2の候補対象物とに基づいて点群データ中の移動対象物に関連付けられたポイントセットを確定するように構成される。除去モジュールは、点群データからポイントセットを除去するように構成される。
本開示に係る例示的実施形態によれば、セット確定モジュールは、フレーム確定モジュールと、軌跡確定モジュールと、軌跡に基づくセット確定モジュールとを含む。具体的に、フレーム確定モジュールは、点群データ中の複数のフレームにおいて、移動対象物に関連するフレームセットを確定するように構成される。軌跡確定モジュールは、移動対象物のフレームセットにおける位置に基づいて、移動対象物の移動軌跡を確定するように構成される。軌跡に基づくセット確定モジュールは、移動軌跡に基づいて、移動対象物に関連付けられたポイントセットを確定するように構成される。
図12は、本開示に係る複数の実施形態を実施することができるコンピューティング機器1200のブロック図を示す。機器1200は、図11の点群データを処理するための装置1100を実現するのに使用することができる。図示されたように、機器1200は、中央処理装置1201(CPU)を含み、CPU1201は、読み取り専用メモリ1202(ROM)に記憶されたコンピュータプログラム指令、または記憶手段1208からランダムアクセスメモリ1203(RAM)にロードされたコンピュータプログラム指令に基づいて、各種の適切な動作と処理を実行することができる。RAM1203には、機器1200の動作に必要な各種のプログラムやデータが記憶されることができる。CPU1201、ROM1202とRAM1203、バス1204を介して互いに接続される。入力/出力(I/O)インターフェース1205もバス1204に接続される。
機器1200中のI/Oインターフェース1205に接続されている複数の部品として、キーボード、マウスなどの入力手段1206と、様々なタイプの表示装置、スピーカーなどの出力手段1207と、磁気ディスク、コンパクトディスクなどの記憶手段1208と、LANカード、モデム、無線通信トランシーバなどの通信手段1209が含まれる。通信手段1209は、機器1200がインターネットなどのコンピュータネットワークおよび/または各種の電気通信網を介して他の機器と情報/データを交換することを可能にする。
中央処理装置1201は、前述した各方法と処理、例えば、方法500および/または方法900を実行する。例えば、いくつかのの実施形態において、方法500および/または方法900は、コンピュータソフトウェアプログラムとして実現されることができ、これは機器可読媒体(例えば、記憶手段1208)に含まれている。一部の実施形態において、コンピュータプログラムの一部または全部は、ROM1202、および/または通信手段1209を経由して機器1200上にロードおよび/またはインストールすることができる。コンピュータプログラムは、RAM1203にロードされてCPU1201により実行される場合、前述した方法500および/または方法900の1つまたは複数のステップを実行することができる。選択可能に、その他の実施形態において、CPU1201は、ギターの任意の適切な方法で(例えば、ファームウェアの助けを借りて)方法500および/または方法900を実行するように構成することができる。
本明細書に説明されて複数の機能は、少なくとも部分的に1つまたは複数のハードウェアロジック部材で実行することができる。例えば、使用可能な模式的なタイプのハードウェアロジック部材は、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、オンデマンド標準製品(ASSP)、システム-オン-チップシステム(SOC)、複合プログラマブルロジック素子(CPLD)などを含むが、これに限定されない。
本開示に係る方法を実施するためのプログラムコードは、1つまたは複数のプログラマブル言語の任意の組み合わせを利用してプログラミングすることができる。これらのプログラムコードは、汎用コンピュータ、オンデマンドコンピュータ又はその他のプログラマブルデータ処理装置のプロセッサまたは制御装置に提供されることができ、プログラムコードがプロセッサまたは制御装置により実行される場合には、フローチャート、および/またはブロック図に規定された機能/操作が実施される。プログラムコードは、完全に機器で実行されるか、または部分的に機器で実行されるか、または独立したソフトウェアパッケージとして部分的に機器で実行されて、または部分的にリモートマシンで実行され、または完全にリモートマシンまたはサービスで実行されることができる。
本開示に係る文脈において、機器可読媒体は、あるタイプの媒体であることができ、コマンドを実行するシステム、装置又は機器によって使用されるか、またはコマンドの実行システム、装置または機器と組み合わせて使用されるプログラムを含むまたは記憶することができる。機器可読媒体は、機器可読信号媒体または機器可読記憶媒体であることができる。機器可読媒体は、電子、磁気、光学、電磁、赤外線または半導体システム、装置、または機器、または前述した内容の任意の適切な組み合わせを含むことができるが、これに限定されない。機器可読記憶媒体のより具体的な例は、1つまたは複数のワイヤベースの電気的接続、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去およびプログラム可能な読み取り専用メモリ(EPROMまたはフラッシュメモリ)、光ファイバ、ポータブルコンパクトディスク読み取り専用メモリ(CD-ROM)、光学ストレージ装置、磁気記憶装置、または前述した内容の任意の適切な組み合わせを含むことができるが、これに限定されない。
また、特定の順序で、各操作を説明したが、これはこのような操作が図示された特定の順序またはシーケンスで実行されることを要求し、目的の結果を実現するために図示されたすべての操作が実行されることを要求すると理解してはならない。一定の環境において、マルチタスクと並列処理は、有利であることができる。同様に、上記説明に様々な具体的な実現の詳細が含まれているが、これらは本開示の範囲の限定と解釈してはならない。別の実施形態の文脈で説明されたいくつかの特徴は、組み合わせの方法で単一の実現に実現されることができる。逆に、単一の実現の文脈で説明された各種の特徴も個別にまたは任意の適切なサブ組み合わせの方法で複数の実現に実現されることもできる。
構造の特徴および/または方法のロジックの動作に固有の言語を使用して本主題を説明したが、特許請求の範囲に特定された主題は、必ずしも前述した特定の特徴または動作に限定されるべきではないことを理解すべきである。逆に、前述した特定の特徴または動作は、単に特許請求の範囲を実現する例示的なものである。
110 採集装置
120 車両
122 自転車
130 道路
230、240、250 道路、樹木と建築物に関連する部分
710A 第1のフレーム
710B 第2のフレーム
710C 第3のフレーム
716A 第1の位置
716B 第2の位置
716C 第3の位置
1201 CPU
1202 ROM
1203 RAM
1204 バス
1205 入力/出力(I/O)インターフェース
1206 入力手段
1207 出力手段
1208 記憶手段
1209 通信手段

Claims (19)

  1. 点群データを処理するための方法であって、
    前記点群データから第1のフレームと第2のフレームとをそれぞれ取得する取得ステップと、
    前記第1のフレームから第1の候補対象物を抽出し、前記第2のフレームから、前記第1の候補対象物に対応する第2の候補対象物を抽出する抽出ステップと、
    前記第1の候補対象物及び前記第2の候補対象物の前記点群データの座標系における第1の位置及び第2の位置をそれぞれ確定する確定ステップと、
    前記座標系において、前記第1の位置と前記第2の位置との間に位置オフセットが存在することに応答して、前記第1の候補対象物及び前記第2の候補対象物のうちの何れか一つを移動対象物として標識する標識ステップと、
    を含み、
    前記抽出ステップは、
    前記座標系において、前記第1のフレーム及び前記第2のフレームにおけるポイントに対してクラスタリングを行い、第1の候補対象物セット及び第2の候補対象物セットをそれぞれ形成するクラスタリングステップと、
    前記第1の候補対象物セットから前記第1の候補対象物を選択し、前記第2の候補対象物セットから前記第1の候補対象物に対応する前記第2の候補対象物を選択する選択ステップと
    をさらに含み、
    前記クラスタリングステップは、
    前記第1のフレーム及び前記第2のフレームからそれぞれ地面対象物を検出する地面の検出ステップと、
    前記検出した地面対象物の高さと、相応するフレームにおける対象物の高さとを比較することにより、前記地面対象物とつながっている1つまたは複数の対象物を特定するステップと、
    前記第1のフレーム及び前記第2のフレームにおいて、前記地面対象物とつながっている1つまたは複数の対象物に基づいて、前記第1の候補対象物セット及び前記第2の候補対象物セットをそれぞれ形成する形成ステップと
    をさらに含む、点群データを処理するための方法。
  2. 前記選択ステップは、
    前記第1の候補対象物及び前記第2の候補対象物のサイズの比率、平滑度、反射強度、位置、および点群密度のうち少なくとも一つに基づいて、前記第1の候補対象物に対応する第2の候補対象物を選択するステップをさらに含むことを特徴とする請求項1に記載の点群データを処理するための方法。
  3. 前記選択ステップは、
    前記第1のフレーム及び前記第2のフレームに関連付けられた第1の画像及び第2の画像をそれぞれ取得する画像取得ステップと、
    前記第2の候補対象物の前記第2の画像における結像と、前記第1の候補対象物の前記第1の画像における結像とをマッチングするように、前記第2の候補対象物を選択する画像に基づく選択ステップと
    をさらに含むことを特徴とする請求項1に記載の点群データを処理するための方法。
  4. 前記標識ステップは、
    前記点群データから第3のフレームを取得するステップと、
    前記第3のフレームから前記第1の候補対象物に対応する第3の候補対象物を抽出するステップと、
    前記第3の候補対象物の前記座標系における第3の位置と前記位置オフセットとが関連付けられたことに応答して、前記第1の候補対象物、第2の候補対象物及び前記第3の候補対象物のうちの何れか一つを、前記移動対象物として標識する第1移動対象物標識ステップと
    をさらに含むことを特徴とする請求項1乃至請求項3のうちの何れか1項に記載の点群データを処理するための方法。
  5. 前記第1移動対象物標識ステップは、
    前記第3の候補対象物の前記座標系における予測位置を確定する予測ステップと、
    前記予測位置と前記第3の位置が一致することに応答して、前記第1の候補対象物、第2の候補対象物及び前記第3の候補対象物のうちの何れか一つを、前記移動対象物として標識する第2移動対象物標識ステップと
    をさらに含むことを特徴とする請求項4に記載の点群データを処理するための方法。
  6. 前記予測ステップは、
    前記位置オフセットに基づいて前記第1の候補対象物の対象物速度を確定する速度確定ステップと、
    前記対象物速度に基づいて、前記予測位置を確定する位置確定ステップと
    をさらに含むことを特徴とする請求項5に記載の点群データを処理するための方法。
  7. 前記点群データを処理するための方法には、
    前記第1の候補対象物及び前記第2の候補対象物に基づいて、前記点群データ中の前記移動対象物に関連付けられたポイントセットを確定するセット確定ステップと、
    前記点群データから前記ポイントセットを除去する除去ステップと
    をさらに含むことを特徴とする請求項1乃至請求項3のうちの何れか1項に記載の点群データを処理するための方法。
  8. 前記セット確定ステップは、
    前記点群データ中の複数のフレームから、前記移動対象物に関連付けられた一のフレームセットを確定するフレーム確定ステップと、
    移動対象物の前記一のフレームセットにおける位置に基づいて、前記移動対象物の移動軌跡を確定する軌跡確定ステップと、
    前記移動軌跡に基づいて、前記移動対象物に関連付けられたポイントセットを確定する軌跡のセットに基づく確定ステップと
    をさらに含むことを特徴とする請求項7に記載の点群データを処理するための方法。
  9. 点群データを処理するための装置であって、
    前記点群データから第1のフレームと第2のフレームとをそれぞれ取得するように構成された取得モジュールと、
    前記第1のフレームから第1の候補対象物を抽出し、前記第2のフレームから、前記第1の候補対象物に対応する第2の候補対象物を抽出するように構成された抽出モジュールと、
    前記第1の候補対象物及び前記第2の候補対象物の前記点群データの座標系における第1の位置及び第2の位置をそれぞれ確定するように構成された確定モジュールと、
    前記座標系において、前記第1の位置と前記第2の位置との間に位置オフセットが存在することに応答して、前記第1の候補対象物と前記第2の候補対象物のうちの何れか一つを移動対象物として標識するように構成された標識モジュールと
    を含み、
    前記抽出モジュールは、
    前記座標系において、前記第1のフレーム及び前記第2のフレームにおけるポイントに対してクラスタリングを行い、第1の候補対象物セット及び第2の候補対象物セットをそれぞれ形成するように構成されたクラスタリングモジュールと、
    前記第1の候補対象物セットから前記第1の候補対象物を選択し、前記第2の候補対象物セットから前記第1の候補対象物に対応する前記第2の候補対象物を選択するように構成された選択モジュールと
    をさらに含み、
    前記抽出モジュールは、
    前記第1のフレーム及び前記第2のフレームからそれぞれ地面対象物を検出するように構成された地面の検出モジュールと、
    前記検出した地面対象物の高さと、相応するフレームにおける対象物の高さとを比較することにより、前記地面対象物とつながっている1つまたは複数の対象物を特定するように構成されたモジュールと、
    前記第1のフレーム及び前記第2のフレームにおいて、前記地面対象物と相互接続された1つまたは複数の対象物に基づいて、前記第1の候補対象物セット及び前記第2の候補対象物セットをそれぞれ形成するように構成された形成モジュールと、
    をさらに含む、点群データを処理するための装置。
  10. 前記抽出モジュールは、
    前記第1の候補対象物及び前記第2の候補対象物のサイズの比率、平滑度、反射強度、位置、および点群密度のうち少なくとも一つに基づいて、前記第1の候補対象物に対応する第2の候補対象物を選択するように構成された特徴に基づく選択モジュールをさらに含むことを特徴とする請求項9に記載の点群データを処理するための装置。
  11. 前記抽出モジュールは、
    前記第1のフレーム及び前記第2のフレームに関連付けられた第1の画像及び第2の画像をそれぞれ取得するように構成された画像取得モジュールと、
    前記第2の候補対象物の前記第2の画像における結像と、前記第1の候補対象物の前記第1の画像における結像とをマッチングするように、前記第2の候補対象物を選択するように構成された画像に基づく選択モジュールと
    をさらに含むことを特徴とする請求項9に記載の点群データを処理するための装置。
  12. 前記取得モジュールは、前記点群データから第3のフレームを取得し、
    前記抽出モジュールは、前記第3のフレームから前記第1の候補対象物に対応する第3の候補対象物を抽出し、
    前記標識モジュールは、前記第3の候補対象物の前記座標系における第3の位置と前記位置オフセットとが関連付けられたことに応答して、前記第1の候補対象物、第2の候補対象物及び前記第3の候補対象物のうちの何れか一つを、前記移動対象物として標識することを特徴とする請求項9乃至請求項11のうちの何れか1項に記載の点群データを処理するための装置。
  13. 前記標識モジュールは、
    前記第3の候補対象物の前記座標系における予測位置を確定するように構成された予測モジュールと、
    前記予測位置と前記第3の位置が一致することに応答して、前記第1の候補対象物、第2の候補対象物及び前記第3の候補対象物のうちの何れか一つを、前記移動対象物として標識するように構成された移動対象物標識モジュールと
    をさらに含むことを特徴とする請求項12に記載の点群データを処理するための装置。
  14. 前記予測モジュールは、
    前記位置オフセットに基づいて前記第1の候補対象物の対象物速度を確定するように構成された速度確定モジュールと、
    前記対象物速度に基づいて、前記予測位置を確定するように構成された位置確定モジュールと
    を含むことを特徴とする請求項13に記載の点群データを処理するための装置。
  15. 前記点群データを処理するための装置には、
    前記第1の候補対象物及び前記第2の候補対象物に基づいて、前記点群データ中の前記移動対象物に関連付けられたポイントセットを確定するように構成されたセット確定モジュールと、
    前記点群データから前記ポイントセットを除去するように構成された除去モジュールと
    をさらに含む請求項9乃至請求項11のうちの何れか1項に記載の点群データを処理するための装置。
  16. 前記セット確定モジュールは、
    前記点群データ中の複数のフレームから、前記移動対象物に関連付けられた一のフレームセットを確定するように構成されたフレーム確定モジュールと、
    移動対象物の前記一のフレームセットにおける位置に基づいて、前記移動対象物の移動軌跡を確定するように構成された軌跡確定モジュールと、
    前記移動軌跡に基づいて、前記移動対象物に関連付けられたポイントセットを確定するように構成された軌跡のセットに基づく確定モジュールと
    をさらに含むことを特徴とする請求項15に記載の点群データを処理するための装置。
  17. 1つまたは複数のプロセッサと、
    1つまたは複数のプログラムを格納するための記憶手段とを含む装置であって、
    前記1つまたは複数のプログラムが前記1つまたは複数のプロセッサによって実行されると、請求項1乃至請求項8のうちのいずれか1項に記載の方法が実現される装置。
  18. コンピュータプログラムが格納されているコンピュータ読み取り可能な記憶媒体であって、
    前記コンピュータプログラムがプロセッサによって実行されると、請求項1乃至請求項8のうちのいずれか1項に記載の方法が実現されるコンピュータ読み取り可能な記憶媒体。
  19. コンピュータプログラムであって、
    前記コンピュータプログラムがプロセッサにより実行されると、請求項1乃至請求項8のうちのいずれか1項に記載の方法が実現されるコンピュータプログラム。
JP2018247315A 2017-12-29 2018-12-28 点群データを処理するための方法及び装置 Active JP7167397B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201711477530.5A CN108460791A (zh) 2017-12-29 2017-12-29 用于处理点云数据的方法和装置
CN201711477530.5 2017-12-29

Publications (2)

Publication Number Publication Date
JP2019149150A JP2019149150A (ja) 2019-09-05
JP7167397B2 true JP7167397B2 (ja) 2022-11-09

Family

ID=63220514

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018247315A Active JP7167397B2 (ja) 2017-12-29 2018-12-28 点群データを処理するための方法及び装置

Country Status (5)

Country Link
US (1) US11037305B2 (ja)
EP (1) EP3505962B1 (ja)
JP (1) JP7167397B2 (ja)
KR (1) KR102198724B1 (ja)
CN (1) CN108460791A (ja)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109285220B (zh) * 2018-08-30 2022-11-15 阿波罗智能技术(北京)有限公司 一种三维场景地图的生成方法、装置、设备及存储介质
WO2020071703A1 (ko) * 2018-10-01 2020-04-09 엘지전자 주식회사 포인트 클라우드 데이터 전송 장치, 포인트 클라우드 데이터 전송 방법, 포인트 클라우드 데이터 수신 장치 및/또는 포인트 클라우드 데이터 수신 방법
CN111273314A (zh) * 2018-11-16 2020-06-12 北京四维图新科技股份有限公司 点云数据处理方法、装置和存储介质
CN111771229B (zh) * 2019-01-30 2023-11-21 百度时代网络技术(北京)有限公司 用于自动驾驶车辆的点云重影效果检测系统
CN109782015A (zh) * 2019-03-21 2019-05-21 同方威视技术股份有限公司 激光测速方法、控制装置和激光测速仪
CN111986472B (zh) * 2019-05-22 2023-04-28 阿里巴巴集团控股有限公司 车辆速度确定方法及车辆
CN112017202A (zh) * 2019-05-28 2020-12-01 杭州海康威视数字技术股份有限公司 点云标注方法、装置及系统
CN112327308A (zh) * 2019-07-19 2021-02-05 阿里巴巴集团控股有限公司 物体检测方法、装置、系统及设备
KR102267277B1 (ko) * 2019-08-29 2021-06-21 (주)오토노머스에이투지 라이다 센서의 포인트 데이터를 클러스터링하는 방법 및 이를 이용한 컴퓨팅 장치
CN112652062B (zh) * 2019-10-10 2024-04-05 北京京东乾石科技有限公司 一种点云地图构建方法、装置、设备和存储介质
KR102381163B1 (ko) * 2020-01-07 2022-04-01 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
JP7433442B2 (ja) * 2020-01-07 2024-02-19 エルジー エレクトロニクス インコーポレイティド ポイントクラウドデータ送信装置、送信方法、処理装置および処理方法
CN115280780A (zh) * 2020-03-16 2022-11-01 Lg电子株式会社 点云数据发送装置、发送方法、处理装置和处理方法
WO2021187737A1 (ko) * 2020-03-18 2021-09-23 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
KR102406845B1 (ko) * 2020-04-13 2022-06-10 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
CN111523475B (zh) * 2020-04-23 2023-12-19 江苏黑麦数据科技有限公司 3d点云中物体的识别方法、装置、存储介质和处理器
CN111539326B (zh) * 2020-04-23 2023-10-10 江苏黑麦数据科技有限公司 运动信息的确定方法、确定装置、存储介质和处理器
CN111514587B (zh) 2020-04-27 2021-05-11 网易(杭州)网络有限公司 信息处理方法、装置、设备及存储介质
WO2022005159A1 (ko) * 2020-06-29 2022-01-06 엘지전자 주식회사 포인트 클라우드 데이터 전송 장치, 전송 방법, 처리 장치 및 처리 방법
WO2022060176A1 (ko) * 2020-09-17 2022-03-24 엘지전자 주식회사 포인트 클라우드 데이터 전송 방법, 포인트 클라우드 데이터 전송 장치, 포인트 클라우드 데이터 수신 방법 및 포인트 클라우드 데이터 수신 장치
US20230388557A1 (en) * 2020-10-07 2023-11-30 Lg Electronics Inc. Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method
US20230419552A1 (en) * 2020-10-16 2023-12-28 Lg Electronics Inc. Point cloud data transmission method, point cloud data transmission device, point cloud data reception method, and point cloud data reception device
CN112484738B (zh) * 2020-11-24 2023-04-28 深圳市优必选科技股份有限公司 机器人建图方法、装置、计算机可读存储介质及机器人
CN113537417B (zh) * 2021-09-17 2021-11-30 南京隼眼电子科技有限公司 基于雷达的目标识别方法、装置、电子设备及存储介质
WO2023068754A1 (ko) * 2021-10-18 2023-04-27 엘지전자 주식회사 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법
WO2023145043A1 (ja) * 2022-01-31 2023-08-03 日本電信電話株式会社 対象設備を検出する装置、方法及びプログラム
WO2023153758A1 (ko) * 2022-02-08 2023-08-17 엘지전자 주식회사 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 수신 방법 및 포인트 클라우드 데이터 수신 장치
CN114748099B (zh) * 2022-06-15 2022-11-01 深圳瀚维智能医疗科技有限公司 偏移检测方法、装置、设备以及计算机可读存储介质
CN115790441B (zh) * 2022-11-10 2023-08-25 重庆数字城市科技有限公司 一种市政部件数据提取方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9086481B1 (en) 2013-01-18 2015-07-21 Google Inc. Methods and systems for estimating vehicle speed
JP2016529475A (ja) 2013-06-14 2016-09-23 ウーバー テクノロジーズ,インコーポレイテッド ライダに基づいたオブジェクト移動の分類
JP2017194787A (ja) 2016-04-19 2017-10-26 東芝テリー株式会社 画像処理装置および領域追跡プログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2678156C (en) 2007-02-16 2013-10-08 Mitsubishi Electric Corporation Measurement apparatus, measurement method, and feature identification apparatus
CN101615291B (zh) * 2008-06-27 2012-10-10 睿致科技股份有限公司 一种反馈式对象侦测方法
CN101621629B (zh) * 2008-06-30 2011-09-14 睿致科技股份有限公司 自动曝光的方法
US8260539B2 (en) * 2010-05-12 2012-09-04 GM Global Technology Operations LLC Object and vehicle detection and tracking using 3-D laser rangefinder
WO2012141235A1 (ja) * 2011-04-13 2012-10-18 株式会社トプコン 三次元点群位置データ処理装置、三次元点群位置データ処理システム、三次元点群位置データ処理方法およびプログラム
CN104050712B (zh) * 2013-03-15 2018-06-05 索尼公司 三维模型的建立方法和装置
EP3092603B1 (en) * 2014-01-07 2022-05-11 ML Netherlands C.V. Dynamic updating of composite images
US9767572B2 (en) * 2015-05-01 2017-09-19 Raytheon Company Systems and methods for 3D point cloud processing
JP6430907B2 (ja) 2015-07-17 2018-11-28 株式会社Soken 運転支援システム
CN105260988B (zh) * 2015-09-09 2019-04-05 百度在线网络技术(北京)有限公司 一种高精地图数据的处理方法和装置
US9576185B1 (en) * 2015-09-14 2017-02-21 Toyota Motor Engineering & Manufacturing North America, Inc. Classifying objects detected by 3D sensors for autonomous vehicle operation
US10527730B2 (en) * 2015-10-22 2020-01-07 Toyota Motor Engineering & Manufacturing North America, Inc. Object detection system
US10611495B2 (en) * 2016-04-08 2020-04-07 Sikorsky Aircraft Corporation Sea state estimation
CN106250863B (zh) * 2016-08-09 2019-07-26 北京旷视科技有限公司 对象追踪方法和装置
US10445928B2 (en) * 2017-02-11 2019-10-15 Vayavision Ltd. Method and system for generating multidimensional maps of a scene using a plurality of sensors of various types
US10365650B2 (en) * 2017-05-25 2019-07-30 GM Global Technology Operations LLC Methods and systems for moving object velocity determination

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9086481B1 (en) 2013-01-18 2015-07-21 Google Inc. Methods and systems for estimating vehicle speed
JP2016529475A (ja) 2013-06-14 2016-09-23 ウーバー テクノロジーズ,インコーポレイテッド ライダに基づいたオブジェクト移動の分類
JP2017194787A (ja) 2016-04-19 2017-10-26 東芝テリー株式会社 画像処理装置および領域追跡プログラム

Also Published As

Publication number Publication date
US20190206063A1 (en) 2019-07-04
EP3505962B1 (en) 2022-11-09
JP2019149150A (ja) 2019-09-05
CN108460791A (zh) 2018-08-28
US11037305B2 (en) 2021-06-15
KR20190082065A (ko) 2019-07-09
KR102198724B1 (ko) 2021-01-05
EP3505962A1 (en) 2019-07-03

Similar Documents

Publication Publication Date Title
JP7167397B2 (ja) 点群データを処理するための方法及び装置
CN108256506B (zh) 一种视频中物体检测方法及装置、计算机存储介质
JP6514192B2 (ja) ライダに基づいたオブジェクト移動の分類
US9846946B2 (en) Objection recognition in a 3D scene
US10614324B2 (en) Method and apparatus for identifying static obstacle
JP4429298B2 (ja) 対象個数検出装置および対象個数検出方法
JP5822255B2 (ja) 対象物識別装置及びプログラム
Balali et al. Multi-class US traffic signs 3D recognition and localization via image-based point cloud model using color candidate extraction and texture-based recognition
US20060262857A1 (en) Moving object detection device and moving object detection method
JP2007527569A (ja) 立体視に基づく差し迫った衝突の検知
CN112825192B (zh) 基于机器学习的对象辨识系统及其方法
Czerniawski et al. Automated removal of planar clutter from 3D point clouds for improving industrial object recognition
CN110110678B (zh) 道路边界的确定方法和装置、存储介质及电子装置
JP6361313B2 (ja) 車両検出方法及び装置
CN113689393A (zh) 一种基于图像和点云实例匹配的三维目标检测算法
CN113129249A (zh) 基于深度视频的空间平面检测方法及其系统和电子设备
KR20200087296A (ko) 라이다 센서 데이터 기반 장애물 검출 3차원 뷰어 시스템
Sharma et al. Automatic vehicle detection using spatial time frame and object based classification
CN113189610A (zh) 地图增强的自动驾驶多目标追踪方法和相关设备
JP4918615B2 (ja) 対象個数検出装置および対象個数検出方法
Börcs et al. Dynamic 3D environment perception and reconstruction using a mobile rotating multi-beam Lidar scanner
KR101117235B1 (ko) 교통사고 인식 장치 및 방법
JP2019174910A (ja) 情報取得装置及び情報集計システム並びに情報集計装置
CN115272392A (zh) 目标跟踪方法、装置、设备及存储介质
CN112131904B (zh) 基于图匹配的多目标跨镜追踪方法、装置、设备和介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190424

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190424

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201104

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210908

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210908

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210921

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210928

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20211029

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20211224

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20211228

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20220207

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20220318

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220412

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220809

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20220906

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220906

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221004

R150 Certificate of patent or registration of utility model

Ref document number: 7167397

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150