JP2021077018A - 点群データ処理装置 - Google Patents

点群データ処理装置 Download PDF

Info

Publication number
JP2021077018A
JP2021077018A JP2019202383A JP2019202383A JP2021077018A JP 2021077018 A JP2021077018 A JP 2021077018A JP 2019202383 A JP2019202383 A JP 2019202383A JP 2019202383 A JP2019202383 A JP 2019202383A JP 2021077018 A JP2021077018 A JP 2021077018A
Authority
JP
Japan
Prior art keywords
point cloud
cloud data
processor
distance
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019202383A
Other languages
English (en)
Other versions
JP7393184B2 (ja
Inventor
渡邉 功一
Koichi Watanabe
功一 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2019202383A priority Critical patent/JP7393184B2/ja
Priority to US16/899,736 priority patent/US11244465B2/en
Publication of JP2021077018A publication Critical patent/JP2021077018A/ja
Application granted granted Critical
Publication of JP7393184B2 publication Critical patent/JP7393184B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/70
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/10Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument
    • G01C3/14Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument with binocular observation at a single point, e.g. stereoscopic type
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Abstract

【課題】効率的な点群データを生成することができる点群データ処理装置を提供する。【解決手段】点群データ処理装置1は、通信インタフェースと、プロセッサと、を具備する。通信インタフェースは、距離センサから距離データを取得する。プロセッサは、前記距離データに基づく第1の点群データの座標に対して予め設定された単位セル毎に1つの点を採用して第2の点群データを生成する。【選択図】図4

Description

本発明の実施形態は、点群データ処理装置に関する。
棚を有する什器に置かれた商品(物品)を距離センサにより撮像し、距離データを取得し、距離データに基づき点群データを生成する装置(点群データ処理装置)がある。点群データは、奥行方向、幅方向、及び高さ方向からなる空間(三次元空間)中における点の集合を示すデータである。各点は、座標(x,y,z)により表すことができる。
このように生成された点群データに基づき、棚に並べられた商品を検出することができる。しかしながら、点群データを棚の全域に亘って生成すると、データ量が膨大になるという課題がある。
特開2018−206038号公報
本発明が解決しようとする課題は、効率的な点群データを生成することができる点群データ処理装置を提供することである。
一実施形態に係る点群データ処理装置は、通信インタフェースと、プロセッサと、を具備する。通信インタフェースは、距離センサから距離データを取得する。プロセッサは、前記距離データに基づく第1の点群データの座標に対して予め設定された単位セル毎に1つの点を採用して第2の点群データを生成する。
図1は、一実施形態に係る点群データ処理装置の概略的な構成の例について説明する為の図である。 図2は、一実施形態に係る点群データ処理装置の制御装置の構成の例について説明する為の図である。 図3は、一実施形態に係る点群データ処理装置の動作の例について説明する為の図である。 図4は、一実施形態に係る点群データ処理装置の動作の例について説明する為の図である。 図5は、一実施形態に係る点群データ処理装置の動作の例について説明する為の図である。 図6は、一実施形態に係る点群データ処理装置の他の動作の例について説明する為の図である。 図7は、一実施形態に係る点群データ処理装置の他の動作の例について説明する為の図である。
以下、実施の形態について図面を参照して説明する。
図1は、一実施形態に係る点群データ処理装置1の概略的な構成の例について説明するための説明図である。
点群データ処理装置1は、店舗、倉庫などの所定の場所に設置された陳列用の什器2と、什器2に置かれた商品(物品)3などを撮像する。
什器2は、バックボード11と、バックボード11から突出した棚12とを備える。
バックボード11は、什器2を構成する部材である。バックボード11は、例えば、垂直方向に起立した板状に構成される。
棚12は、商品3を支持する棚板である。棚12は、例えばバックボード11から水平方向に突出するように構成される。また、棚12のバックボード11と逆側の端部には、例えば商品名、価格、または他の種々の商品情報が記載された棚札が設けられていてもよい。
例えば、什器2は、所定間隔離されて配置された他の什器2、または壁などとともに通路を構成する。棚12は、バックボード11から通路側に突出するように構成される。即ち、棚札は、通路に向けて設けられている。また、棚12に並べられた商品3は、商品3の正面(所謂フェイス)が通路に向かうように陳列される。
なお、図1において、棚12がバックボード11から突出した方向をX方向(奥行方向)と称する。また、X方向(奥行方向)と直交し、且つバックボード11と平行な方向をY方向(幅方向)と称する。また、X方向(奥行方向)とY方向(幅方向)とに直交する方向を、Z方向(高さ方向)と称する。即ち、X方向とY方向とZ方向とは、互いに直交する。
点群データ処理装置1は、X方向においてバックボード11に対して所定の距離を維持した状態で、Y方向に移動しつつ撮像(距離データの取得)を行う。
次に、点群データ処理装置1の詳細な構成について説明する。
点群データ処理装置1は、距離センサ21、移動機構22、及び制御装置23を備える。
距離センサ21は、対象物までの距離を計測するセンサである。距離センサ21は、対象物との距離を示す距離データを生成する。距離センサ21は、距離データを、制御装置23に供給する。
距離センサ21は、例えば異なる2点(瞳位置)から対象物を撮像した際の視差に基づいて対象物までの距離を計測するステレオカメラとして構成される。即ち、距離センサ21は、レンズ(光学系)と、レンズにより結像された光を画像に変換する撮像素子とが組み合わされたカメラを2つ以上備える。なお、通常、光学系の光軸は、撮像素子の撮像面に直交するように構成される。
上記の構成によると、距離センサ21は、撮像素子の撮像面と直交する方向を検出方向として、検出方向と直交する方向に配列された複数の点(座標)ごとに、対象物との距離を測定する。即ち、距離センサ21は、対象物と距離センサ21との検出方向における距離を、座標ごとに距離値として示す距離データを生成する。
また、距離センサ21は、例えばレーザーレンジファインダーとして構成されていてもよい。レーザーレンジファインダーは、測定対象にレーザを照射し、反射光が入射するまでの時間に基づいて、測定対象までの距離を測定する。
距離センサ21は、例えば、毎秒30フレームの距離データを取得するように構成されている。1フレームの距離データ(距離画像)は、距離センサ21の検出範囲内から検出されたデータ(例えば640x480画素)である。
移動機構22は、制御装置23の制御に基づいて、距離センサ21を移動させる装置である。移動機構22は、例えば距離センサ21が固定される台車(基部)と、台車の車輪を回転駆動させるモータとを備える。例えば距離センサ21は、光学系の光軸が水平になるように台車に固定される。移動機構22は、モータにより車輪を駆動することにより、台車に固定された距離センサ21を移動させる。なお、移動機構22は、クランクを利用した可動脚、またはプロペラなど、如何なる手段によって基部を移動させる構成であってもよい。
制御装置23は、距離センサ21の動作の制御、及び移動機構22の動作の制御を行う装置である。さらに、制御装置23は、距離センサ21により取得した距離データに基づく種々の処理を行う。
図2は、点群データ処理装置1の制御装置23の構成例について説明する為の説明図である。
制御装置23は、システムコントローラ31、通信インタフェース32、移動機構コントローラ33、及び距離センサコントローラ34を備える。
システムコントローラ31は、点群データ処理装置1の制御を行う。システムコントローラ31は、例えば、プロセッサ41及びメモリ42を備える。
プロセッサ41は、演算処理を実行する演算素子である。プロセッサ41は、例えばCPUである。プロセッサ41は、メモリ42に記憶されているプログラムなどのデータに基づいて種々の処理を行う。プロセッサ41は、メモリ42に格納されているプログラムを実行することにより、種々の動作を実行可能な制御部として機能する。
メモリ42は、プログラム及びプログラムで用いられるデータなどを記憶する記憶媒体である。また、メモリ42は、ワーキングメモリとしても機能する。すなわち、メモリ42は、プロセッサ41の処理中のデータ、及びプロセッサ41が実行するプログラムなどを一時的に格納する。
通信インタフェース32は、他の機器と通信する為のインターフェースである。通信インタフェース32は、例えば、上位装置(外部機器)との通信に用いられる。通信インタフェース32は、Bluetooth(登録商標)またはWi−fi(登録商標)などの規格に従って他の機器と無線通信を行う。また、例えば、通信インタフェース32は、LANコネクタなどとして構成されてもよい。
移動機構コントローラ33は、移動機構22の制御を行う。移動機構コントローラ33は、システムコントローラ31の制御に基づき、移動機構22による距離センサ21の移動を実行させる。
また、移動機構22は、地図上の点群データ処理装置1の位置(絶対位置)、什器2のバックボード11に対する相対的な位置(相対位置)、または什器2の棚12に対する相対的な位置(相対位置を検出する図示されない位置検出手段を有する。また、移動機構22は、位置検出手段により台車の向いている方向を認識することができる。位置検出手段は、例えばレーザーレンジファインダー、GPS、カメラにより撮像された画像に基づく画像処理など如何なるものであってもよい。点群データ処理装置1の位置は、例えばX方向及びY方向における座標として認識される。
台車上の距離センサ21の位置及び距離センサ21の検出方向は基地である為、移動機構コントローラ33またはプロセッサ41は、位置検出手段の検出結果に基づいて、距離センサ21の位置と、距離センサ21の検出方向とをそれぞれ特定することができる。
距離センサコントローラ34は、距離センサ21の制御を行う。距離センサコントローラ34は、システムコントローラ31の制御に基づき、距離センサ21に撮像を実行させる。
次に、点群データ処理装置1の動作について説明する。
図3は、点群データ処理装置1の動作について説明する為のフローチャートである。
点群データ処理装置1のシステムコントローラ31のプロセッサ41は、使用する走行ルートを決定する(ACT11)。複数の走行ルートがメモリ42または移動機構コントローラ33に予め保存されているとする。また、メモリ42または移動機構コントローラ33は、店舗または倉庫などの所定の場所の地図を予め記憶している。地図は、什器2の位置(X方向及びY方向における座標)を示す。各走行ルートは、それぞれ距離センサ21による撮像を開始する位置から、撮像を終了する位置までのルートを示す情報である。また、各走行ルートは、距離センサ21により撮像を行う複数の測定対象位置の情報を含む。各走行ルートは、店舗フロアの地図上の位置を基準とした情報であってもよいし、什器2または他の設置物の位置を基準とした情報であってもよいし、GPSなどに基づく情報であってもよい。プロセッサ41は、メモリ42の複数の走行ルートのうち、図示されない操作インタフェースの操作に応じて1つの走行ルートを決定する構成であってもよい。また、プロセッサ41は、メモリ42の複数の走行ルートのうち、予め設定された順番で走行ルートを決定していく構成であってもよい。
プロセッサ41は、決定した走行ルートに基づき走行を開始するように、移動機構22及び移動機構コントローラ33を制御する(ACT12)。プロセッサ41は、距離センサ21が什器2のバックボード11と平行且つ水平方向に移動するように、移動機構22及び移動機構コントローラ33を制御する。この場合、プロセッサ41は、距離センサ21の検出方向(即ち距離センサ21のカメラの光軸)と什器2のバックボード11とが直交するように、距離センサ21の向きを移動機構22及び移動機構コントローラ33により制御する。また、距離センサ21の向きを調整する機構が移動機構22の台車に設けられていてもよい。
プロセッサ41は、決定した走行ルートに基づき点群データ処理装置1が移動させるように、移動機構コントローラ33を制御する(ACT13)。
プロセッサ41は、位置検出手段により点群データ処理装置1の距離センサ21の位置及び検出方向を確認しつつ、決定した走行ルートを距離センサ21が移動するように、移動機構コントローラ33を制御する(ACT14)。この場合、プロセッサ41は、検出方向が什器2のバックボード11に直交する方向に近くなるように制御する。
プロセッサ41は、点群データ処理装置1が決定した走行ルート上の測定対象位置に到達したか否か判断する(ACT15)。プロセッサ41は、点群データ処理装置1が決定した走行ルート上の測定対象位置に到達していないと判断した場合(ACT15、NO)、ACT13に移行し、移動機構22による移動を継続するように移動機構コントローラ33を制御する。
プロセッサ41は、点群データ処理装置1が決定した走行ルート上の測定対象位置に到達したと判断した場合(ACT15、YES)、1フレーム分の(1つの)距離データを取得するように、距離センサ21を制御する(ACT16)。距離センサ21は、対象物と距離センサ21との検出方向における距離を、座標ごとに距離値として示す距離データを生成する。距離データの座標は、距離センサ21の検出方向(光軸)に直交する平面上の座標である。即ち、距離データは、距離センサ21の検出方向に直交する方向に並んだ座標ごとに、距離センサ21の検出方向における距離センサ21と対象物との距離値を示すデータである。
プロセッサ41は、距離センサ21により取得した距離データを、点群データ(第1の点群データ)に変換する(ACT17)。
点群データは、奥行方向(バックボード11に対する直交方向)、幅方向、及び高さ方向からなる空間(三次元空間)中における点の集合を示すデータである。即ち、本例における点群データは、X方向、Y方向、Z方向からなる三次元空間中に配置された点の集合を示すものである。各点は、それぞれ座標(x,y,z)により表すことができる。
プロセッサ41は、ACT14で取得した距離センサ21の位置に基づいて、什器2のバックボード11に対する距離センサ21の相対的な位置を算出する。これにより、プロセッサ41は、距離センサ21の検出方向とバックボード11に対する直交方向との差を算出する。さらに、プロセッサ41は、算出した離センサ21の検出方向とバックボード11に対する直交方向との差、及び什器2のバックボード11に対する距離センサ21の相対的な位置などに基づいて、距離データを点群データ(第1の点群データ)に変換する。即ち、プロセッサ41は、距離データの各座標ごとの距離値を、X方向、Y方向、Z方向からなる三次元空間中の座標に変換する。即ち、プロセッサ41は、Y方向及びZ方向に配列された各座標ごとに、距離データの各距離値に応じたX方向の位置に点をプロットすることにより、第1の点群データを生成する。これにより、バックボード11を基準とした第1の点群データが生成される。
図4は、点群データ処理装置1の走行方向と、距離センサ21の検出方向及び検出範囲について説明する為の説明図である。なお、図4の例では、距離センサ21の検出方向とバックボード11に対する直交方向(X方向)とが一致しているものと仮定して説明する。
図4の例によると、点群データ処理装置1は、バックボード11と平行かつ水平なY方向に移動しつつ、連続して距離データの取得を行う。なお、距離センサ21の距離データの取得可能な範囲(検出範囲)は、距離センサ21を構成する光学系及び撮像素子などにより決定される。
次に、プロセッサ41は、1フレームの距離データに基づき生成された第1の点群データに対して孤立点除去を行う(ACT18)。第1の点群データにおけるノイズを除去する処理である。例えば、プロセッサ41は、第1の点群データにおいて、他の点との距離が予め設定された閾値以上である点(孤立点)を特定し、第1の点群データから孤立点を除去する。具体的には、プロセッサ41は、第1の点群データの各点ごとに、所定の半径により内に他の点が存在するか否か判断し、他の点が存在しない点を孤立点と特定する。また、プロセッサ41は、第1の点群データのX方向の座標に基づいてヒストグラムを生成し、生成したヒストグラムにおける頻度が所定値未満の点を孤立点と特定してもよい。
上記のように生成された第1の点群データは、距離センサ21の分解能に応じた解像度に基づく為、情報量が膨大である。しかしながら、棚に並べられた商品を検出するためには、すくなくとも商品ごとにX方向における位置がわかればよい。この為、点群データ処理装置1は、用途に応じて第1の点群データの情報量を圧縮し、第2の点群データを生成する。
まず、プロセッサ41は、単位セル毎に、奥行の値(X方向の座標)を決定する(ACT19)。プロセッサ41は、第1の点群データ上の座標に対して予め設定された単位セル毎に、1つの点を採用して第2の点群データを生成する。例えば、プロセッサ41は、第1の点群データ中の点のうち、バックボード11に対する直交方向において、最もバックボード11との距離が大きい(X方向の座標が大きい)点を、単位セル毎に採用する。また、プロセッサ41は、単位セル内の他の点を削除する。
単位セルは、第1の点群データにおいて複数の座標を有し、且つ第1の点群データのX方向(奥行方向)の全域に亘って形成された空間である。即ち、単位セルは、バックボード11に平行な領域が、第1の点群データのX方向(奥行方向)の全域に延長された空間である。例えば、単位セルは、Y方向及びZ方向の面の2点の座標から決まる領域が、第1の点群データのX方向(奥行方向)の全域に延長された空間である。また、例えば、単位セルは、Y方向及びZ方向の面上の任意の形状の領域が、第1の点群データのX方向(奥行方向)の全域に延長された空間であってもよい。単位セルは、予め設定されていてもよい。
図5は、単位セルの設定の例について説明する為の説明図である。例えば、単位セルは、棚12及び値札などの位置を避けて配置される。例えば、単位セルは、下側の棚板より所定の長さだけ上の位置から、上側の棚板より所定の長さだけ下の位置までの範囲で配置される。また、プロセッサ41は、距離データに基づいて棚12を検出し、検出した棚12の位置に基づいて、単位セルの位置を逐次決定する構成であってもよい。
プロセッサ41は、全ての単位セルの処理が完了したか否か判断する(ACT20)。プロセッサ41は、全ての単位セルの処理が完了していないと判断した場合(ACT20、NO)、ACT19の処理に移行し、次の単位セルについて、採用する点を決定する処理を実行する。即ち、プロセッサ41は、全ての単位セルについて、採用する点を決定する処理を実行する。なお、プロセッサ41は、第1の点群データにおいて、単位セルに含まれない点を除去してもよい。
さらに、プロセッサ41は、全ての単位セルの処理が完了したと判断した場合(ACT20、YES)、走行ルートに基づく走行を終了するか否か判断する(ACT21)。プロセッサ41は、走行ルートに基づく走行を終了しないと判断した場合(ACT21、NO)、ACT13に移行し、移動機構22による移動を継続するように移動機構コントローラ33を制御する。これにより、プロセッサ41は、移動しつつ什器2の全域から第1の点群データを取得する。
プロセッサ41は、走行ルートに基づく走行を終了すると判断した場合(ACT21、YES)、距離センサ21による距離データの取得を終了し、第2の点群データを生成し(ACT22)、図3の処理を終了する。
プロセッサ41は、移動しつつ取得した複数のフレームの距離データに基づいて生成された、複数の第1の点群データを合成して第2の点群データを生成する。例えば、プロセッサ41は、それぞれの距離データの取得時の距離センサ21の位置の差に応じて、Y方向の座標をずらして複数の第1の点群データを重ねる。さらに、プロセッサ41は、Y方向及びZ方向の座標ごとに(または単位セル毎に)複数の点が存在する場合、X方向の座標が大きな点を採用し、他方の点を除去することにより、第2の点群データを生成する。これにより、プロセッサ41は、什器2の棚12の全面に亘る第2の点群データを生成することができる。
プロセッサ41は、生成した第2の点群データに基づいて、棚12に並べられた商品が十分であるか否か判断する。例えば、プロセッサ41は、第2の点群データに基づいて、バックボード11が見えている状態(商品が棚12に並べられていない状態)を検出し、他の機器に結果を出力する。また、プロセッサ41は、奥行の値が予め設定された閾値未満である場合、棚12に並べられた商品が残り少ないことを検出し、他の機器に結果を出力する。また例えば、プロセッサ41は、上記の処理の前に、奥行の値(X方向の座標)が近い単位セルを結合するラベリング処理を行ってもよい。また、プロセッサ41は、棚12に並べられた商品が十分であるか否か判断する機器に対して、第2の点群データを出力する構成であってもよい。
上記したように、点群データ処理装置1のプロセッサ41は、第1の点群データにおける座標に対して予め設定された単位セル毎に、バックボード11からの距離が最も大きい点を採用して第2の点群データを生成する。これにより、プロセッサ41は、棚に並べられた商品を検出することができ、且つデータ量を抑えた点群データを生成することができる。この結果、点群データ処理装置1は、効率的な点群データを生成することができる。
また、点群データ処理装置1は、距離センサ21と、距離センサ21を移動させる移動機構22と、をさらに備える。この場合、プロセッサ41は、移動機構22により移動しつつ距離センサ21により取得した距離データを、第1の点群データに変換する。さらに、プロセッサ41は、第1の点群データに対して単位セルに基づくデータの削減を行い、複数の第1の点群データを合成することにより、第2の点群データを生成する。これにより、点群データ処理装置1は、棚12の全面に亘って第2の点群データを生成することができる。
次に、距離データの取得及び第1の点群データの生成に関する他の例について説明する。
上記の例では、プロセッサ41は、距離センサ21により取得した距離データを第1の点群データに変換し、変換した第1の点群データを合成すると説明したが、この構成に限定されない。プロセッサ41は、距離センサ21により取得した距離データを第1の点群データに変換し、変換した第1の点群データの一部分を合成する構成であってもよい。
一般的に、カメラの光学系は、光学系を構成するレンズの種々の収差によって、解像度(コントラスト)が低下する。コントラストの低下は、光軸からの距離に応じて大きく成る傾向がある。この為、カメラにより得られた画像の隅では、十分な解像度が得られない可能性がある。
図6は、距離センサ21の検出範囲よりも狭い有効範囲(クリッピング領域)について説明する為の説明図である。図6の例によると、点群データ処理装置1は、バックボード11と平行かつ水平なY方向に移動しつつ、連続して距離データの取得を行う。なお、距離センサ21は、距離データの有効範囲の内側に相当するデータをシステムコントローラ31に供給する。即ち、距離センサ21は、距離データの一部を除去するクリッピングを行い、システムコントローラ31に供給する。
この場合、プロセッサ41は、距離センサ21から供給された有効範囲内の距離データに基づいて、第1の点群データを生成する。即ち、プロセッサ41は、距離センサ21が取得した距離データの一部を用いて第1の点群データを生成し、複数の第1の点群データに対して上記の単位セルを用いたデータ除去を行い、合成し、棚12の全面の第2の点群データを生成する。このような構成によると、点群データの精度を向上させることができる。
なお、プロセッサ41は、距離センサ21が取得した距離データを全て用いて第1の点群データを生成し、生成した第1の点群データから、有効範囲外の距離データに相当する点を除去する構成であってもよい。
さらに、点群データ処理装置1の距離センサ21は、距離データをダウンサンプリングした上で、システムコントローラ31に供給する構成であってもよい。
図7は、有効範囲の設定及びダウンサンプリングを行う場合の点群データ処理装置1の動作について説明するためのフローチャートである。
点群データ処理装置1のシステムコントローラ31のプロセッサ41は、使用する走行ルートを決定する(ACT31)。
プロセッサ41は、決定した走行ルートに基づき走行を開始するように、移動機構22及び移動機構コントローラ33を制御する(ACT32)。
プロセッサ41は、決定した走行ルートに基づき点群データ処理装置1を移動させるように移動機構コントローラ33を制御する(ACT33)。
プロセッサ41は、位置検出手段により点群データ処理装置1の距離センサ21の位置及び検出方向を確認しつつ、決定した走行ルートを距離センサ21が移動するように、移動機構コントローラ33を制御する(ACT34)。この場合、プロセッサ41は、検出方向が什器2のバックボード11に直交する方向に近くなるように制御する。
プロセッサ41は、点群データ処理装置1が決定した走行ルート上の測定対象位置に到達したか否か判断する(ACT35)。プロセッサ41は、点群データ処理装置1が決定した走行ルート上の測定対象位置に到達していないと判断した場合(ACT35、NO)、ACT33に移行し、移動機構22による移動を継続するように移動機構コントローラ33を制御する。
プロセッサ41は、点群データ処理装置1が決定した走行ルート上の測定対象位置に到達したと判断した場合(ACT35、YES)、1フレーム分の(1つの)距離データを取得するように、距離センサ21を制御する(ACT36)。
距離センサ21は、取得した距離データをクリッピングする(ACT37)。即ち、距離センサ21は、有効範囲に相当する一部を残し、他のデータを除去する。
距離センサ21は、クリッピングした距離データをダウンサンプリングし、システムコントローラ31のプロセッサ41に供給する(ACT38)。例えば、距離センサ21は、システムコントローラ31からの制御に基づいて、ダウンサンプリング後の解像度を決定する。具体的に、距離センサ21の垂直解像度が1080pであり、ダウンサンプリング後の水平解像度が320pとして設定されているとする。この場合、距離センサ21は、垂直解像度が1080pの距離データを、垂直解像度が320pの距離データに変換する。
プロセッサ41は、距離センサ21から供給された距離データを、点群データ(第1の点群データ)に変換する(ACT39)。
次に、プロセッサ41は、1フレームの距離データに基づき生成された第1の点群データに対して孤立点除去を行う(ACT40)。
プロセッサ41は、第1の点群データの座標に対して予め設定された単位セル毎に、奥行の値(X方向の座標)を決定する(ACT41)。
プロセッサ41は、全ての単位セルの処理が完了したか否か判断する(ACT42)。プロセッサ41は、全ての単位セルの処理が完了していないと判断した場合(ACT42、NO)、ACT41の処理に移行し、次の単位セルについて、奥行の値を決定する処理を実行する。即ち、プロセッサ41は、全ての単位セルについて、奥行の値を決定する処理を実行する。なお、プロセッサ41は、第1の点群データにおいて、単位セルに含まれない点を除去してもよい。
プロセッサ41は、全ての単位セルについて、奥行の値を決定する処理が完了したと判断した場合(ACT42、YES)、走行ルートに基づく走行を終了するか否か判断する(ACT43)。プロセッサ41は、走行ルートに基づく走行を終了しないと判断した場合(ACT43、NO)、ACT33に移行し、移動機構22による移動を継続するように移動機構コントローラ33を制御する。これにより、プロセッサ41は、移動しつつ什器2の全域から第1の点群データを取得する。
プロセッサ41は、走行ルートに基づく走行を終了すると判断した場合(ACT43、YES)、距離センサ21による距離データの取得を終了し、第2の点群データを生成し(ACT44)、図7の処理を終了する。
上記したように、点群データ処理装置1は、距離データにおいて精度の低い領域を採用せず、且つダウンサンプリングして第1の点群データを生成する。これにより、精度が不十分な点群データを生成することを防ぐことができるとともに、孤立点除去及び単位セルの奥行の設定などの処理の負荷を軽減させることができる。この結果、効率的な点群データを生成することができる点群データ処理装置を提供することができる。
なお、上記の実施形態では、点群データ処理装置は、ダウンサンプリングした距離データを第1の点群データに変換すると説明したが、この構成に限定されない。点群データ処理装置は、距離データを第1の点群データに変換した上で、ダウンサンプリングする構成であってもよい。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1…点群データ処理装置、2…什器、3…商品、11…バックボード、12…棚、21…距離センサ、22…移動機構、23…制御装置、31…システムコントローラ、32…通信インタフェース、33…移動機構コントローラ、34…距離センサコントローラ、41…プロセッサ、42…メモリ。

Claims (6)

  1. 距離センサから距離データを取得する通信インタフェースと、
    前記距離データに基づく第1の点群データの座標に対して予め設定された単位セル毎に1つの点を採用して第2の点群データを生成するプロセッサと、
    を具備する点群データ処理装置。
  2. 前記距離センサと、
    前記距離センサを移動させる移動機構と、をさらに具備し、
    前記プロセッサは、前記移動機構により移動しつつ前記距離センサにより取得した複数の前記第1の点群データに基づいて、前記第2の点群データを生成する請求項1に記載の点群データ処理装置。
  3. 前記プロセッサは、前記第1の点群データ中の点のうち、バックボードと前記バックボードから突出し物品を支持する棚とを有する什器の、前記バックボードに対する直交方向において、最も前記バックボードとの距離が大きい点を前記単位セル毎に採用する請求項2に記載の点群データ処理装置。
  4. 前記プロセッサは、前記複数の第1の点群データのそれぞれの一部を前記第2の点群データの生成に用いる請求項2または3に記載の点群データ処理装置。
  5. 前記単位セルは、前記バックボードに平行な領域が、前記バックボードに対する直交方向の全域に延長された空間である請求項3に記載の点群データ処理装置。
  6. 前記プロセッサは、前記第1の点群データ中の孤立点を除去し、孤立点を除去した前記第1の点群データを前記第2の点群データの生成に用いる請求項1乃至5のいずれか1項に記載の点群データ処理装置。
JP2019202383A 2019-11-07 2019-11-07 点群データ処理装置 Active JP7393184B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019202383A JP7393184B2 (ja) 2019-11-07 2019-11-07 点群データ処理装置
US16/899,736 US11244465B2 (en) 2019-11-07 2020-06-12 Point cloud data processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019202383A JP7393184B2 (ja) 2019-11-07 2019-11-07 点群データ処理装置

Publications (2)

Publication Number Publication Date
JP2021077018A true JP2021077018A (ja) 2021-05-20
JP7393184B2 JP7393184B2 (ja) 2023-12-06

Family

ID=75846740

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019202383A Active JP7393184B2 (ja) 2019-11-07 2019-11-07 点群データ処理装置

Country Status (2)

Country Link
US (1) US11244465B2 (ja)
JP (1) JP7393184B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7393184B2 (ja) * 2019-11-07 2023-12-06 東芝テック株式会社 点群データ処理装置
CN114627020B (zh) * 2022-03-18 2023-06-20 易思维(杭州)科技有限公司 一种曲面工件反光噪点去除方法

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5259286B2 (ja) 2008-07-16 2013-08-07 株式会社日立製作所 3次元物体認識システム及びそれを用いた棚卸システム
JP5624394B2 (ja) * 2010-07-16 2014-11-12 キヤノン株式会社 位置姿勢計測装置、その計測処理方法及びプログラム
CN102609912A (zh) 2012-01-16 2012-07-25 黑龙江科技学院 一种搜索三维点云数据轮廓噪声点的方法
JP2014056506A (ja) 2012-09-13 2014-03-27 Toyota Central R&D Labs Inc 障害物検出装置及びそれを備えた移動体
JP2016156702A (ja) 2015-02-24 2016-09-01 シャープ株式会社 撮像装置および撮像方法
JPWO2017154705A1 (ja) * 2016-03-09 2018-12-27 株式会社ニコン 撮像装置、画像処理装置、画像処理プログラム、データ構造、及び撮像システム
US11087272B2 (en) 2016-03-29 2021-08-10 Bossa Nova Robotics Ip, Inc. System and method for locating, identifying and counting items
JP6786264B2 (ja) 2016-05-27 2020-11-18 株式会社東芝 情報処理装置、情報処理方法、および車両
JP6691837B2 (ja) * 2016-06-27 2020-05-13 株式会社キーエンス 測定装置
CN107822400B (zh) 2016-09-15 2020-12-15 东芝泰格有限公司 库存管理装置及控制方法、终端设备
US10339656B1 (en) * 2016-09-29 2019-07-02 Amazon Technologies, Inc. Inferring count of items using image
US10699421B1 (en) * 2017-03-29 2020-06-30 Amazon Technologies, Inc. Tracking objects in three-dimensional space using calibrated visual cameras and depth cameras
JP7032062B2 (ja) 2017-06-02 2022-03-08 株式会社Ihi 点群データ処理装置、移動ロボット、移動ロボットシステム、および点群データ処理方法
US10740911B2 (en) * 2018-04-05 2020-08-11 Symbol Technologies, Llc Method, system and apparatus for correcting translucency artifacts in data representing a support structure
JP2019185664A (ja) * 2018-04-17 2019-10-24 トヨタ自動車株式会社 制御装置、物体検出システム、物体検出方法及びプログラム
JP6988704B2 (ja) * 2018-06-06 2022-01-05 トヨタ自動車株式会社 センサ制御装置、物体探索システム、物体探索方法及びプログラム
US11573574B2 (en) * 2018-08-30 2023-02-07 Canon Kabushiki Kaisha Information processing apparatus, information processing method, information processing system, and storage medium
CN109270544A (zh) 2018-09-20 2019-01-25 同济大学 基于杆状物识别的移动机器人自定位系统
US10706587B1 (en) * 2018-09-25 2020-07-07 Amazon Technologies, Inc. Calibration of multiple cameras
US11010920B2 (en) * 2018-10-05 2021-05-18 Zebra Technologies Corporation Method, system and apparatus for object detection in point clouds
JP6511681B1 (ja) 2018-10-15 2019-05-15 株式会社Mujin 形状情報生成装置、制御装置、積み降ろし装置、物流システム、プログラム、及び、制御方法
US10731970B2 (en) * 2018-12-13 2020-08-04 Zebra Technologies Corporation Method, system and apparatus for support structure detection
JP7393184B2 (ja) * 2019-11-07 2023-12-06 東芝テック株式会社 点群データ処理装置

Also Published As

Publication number Publication date
US11244465B2 (en) 2022-02-08
US20210142499A1 (en) 2021-05-13
JP7393184B2 (ja) 2023-12-06

Similar Documents

Publication Publication Date Title
US11243072B2 (en) Method for the three dimensional measurement of moving objects during a known movement
JP6623044B2 (ja) ステレオカメラ装置
JP5469216B2 (ja) バラ積みされた物品をロボットで取出す装置
JP7034640B2 (ja) 物品管理装置
JP6636042B2 (ja) 床の処理方法
JP6743171B2 (ja) 自動車両の道路付近の物体を検出するための方法、コンピュータデバイス、運転者支援システム、及び、自動車両
WO2015125298A1 (ja) 自己位置算出装置及び自己位置算出方法
CA3136601A1 (en) System and method for associating products and product labels
US11244465B2 (en) Point cloud data processing device
JP2017517727A (ja) 三次元情報の規模測定
Beltran et al. A comparison between active and passive 3d vision sensors: Bumblebeexb3 and Microsoft Kinect
US10339661B2 (en) Movement direction determination method and movement direction determination device
JP6699323B2 (ja) 電車設備の三次元計測装置及び三次元計測方法
CN110766646A (zh) 展示架遮挡检测方法、装置以及存储介质
US10792817B2 (en) System, method, and program for adjusting altitude of omnidirectional camera robot
CN112449106B (zh) 架板拍摄装置及信息处理装置
WO2021131351A1 (ja) カメラ自動検査システム
KR102002228B1 (ko) 동적 객체 검출 장치 및 방법
US20220196394A1 (en) Imaging device, control method therefor, measuring device, and storage medium
US11417025B2 (en) Information processing apparatus, article identification apparatus, and article identification system
KR102088280B1 (ko) 깊이 정보 추출 장치 및 방법
JP7481468B2 (ja) ロボットシステム及び制御方法
JP2008157780A (ja) 3次元データ生成装置、画像取得装置、3次元データ生成方法、画像取得方法およびプログラム
JP6369898B2 (ja) 自己位置算出装置及び自己位置算出方法
JP2023023348A (ja) 携帯端末、寸法計測システム及び寸法計測方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221019

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230822

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231013

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231124

R150 Certificate of patent or registration of utility model

Ref document number: 7393184

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150