JP2021196691A - 算出方法、算出プログラムおよび情報処理装置 - Google Patents

算出方法、算出プログラムおよび情報処理装置 Download PDF

Info

Publication number
JP2021196691A
JP2021196691A JP2020100785A JP2020100785A JP2021196691A JP 2021196691 A JP2021196691 A JP 2021196691A JP 2020100785 A JP2020100785 A JP 2020100785A JP 2020100785 A JP2020100785 A JP 2020100785A JP 2021196691 A JP2021196691 A JP 2021196691A
Authority
JP
Japan
Prior art keywords
point cloud
target
point
sensors
indicating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2020100785A
Other languages
English (en)
Inventor
洋士 日高
Yoji Hidaka
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2020100785A priority Critical patent/JP2021196691A/ja
Priority to EP21165877.8A priority patent/EP3923240A3/en
Priority to US17/220,184 priority patent/US20210389122A1/en
Priority to CN202110393902.6A priority patent/CN113781572A/zh
Publication of JP2021196691A publication Critical patent/JP2021196691A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/17Function evaluation by approximation methods, e.g. inter- or extrapolation, smoothing, least mean square method
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/75Determining position or orientation of objects or cameras using feature-based methods involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computational Mathematics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Algebra (AREA)
  • Optics & Photonics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】複数のセンサ間の位置関係を推定する精度を向上させることができる算出方法を提供する。【解決手段】算出方法は、複数のセンサを用いて測定される、各時点でのターゲットの点群を取得しS104、複数のセンサのうち第1センサを用いて測定されたターゲットの点群を示す第1点群と、複数のセンサのうち第2センサを用いて測定されたターゲットの点群を示す第2点群とを基にして、第1点群の中心と第2点群の中心との距離を示す距離値を算出し、第1点群および第2点群と、球の表面との乖離具合を示す誤差値とを算出しS106、各時点において算出した距離値および誤差値を基にして、各時点でのターゲットの点群から、除外する点群を示す除外対象点群を特定しS108、除外対象点群を除外した点群を示す対象点群を用いて、複数のセンサ間の位置関係を示す情報を算出するS105。【選択図】図14

Description

本発明は、算出方法等に関する。
レーザセンサ等の距離測定装置を用いて、被写体の3次元点群を測定する従来技術がある。以下の説明では、レーザセンサ等の距離測定装置を「センサ」と表記する。たとえば、被写体の周囲に配置した、複数のセンサを使って、各方向から被写体をセンシングし、各センサの測定結果となる3次元点群を統合することで、被写体を立体的に再現することができる。
図17は、複数のセンサに測定された3次元点群を統合した結果を示す図である。図17に示す例では、センサ10A,10B,10C,10Dが被写体1の周囲(前後)に配置されて、センサ10A〜10Dは、被写体1を測定し、3次元点群を得る。
3次元点群11Aは、センサ10Aの測定結果を基にしたデータである。3次元点群11Bは、センサ10Bの測定結果を基にしたデータである。3次元点群11Cは、センサ10Cの測定結果を基にしたデータである。3次元点群11Dは、センサ10Dの測定結果を基にしたデータである。3次元点群11A〜11Dを統合することで、3次元点群12が生成される。3次元点群12は、被写体1を立体的に再現している。
ここで、複数の3次元点群を統合する場合には、外部パラメータが用いられる。外部パラメータは、複数のセンサの互いの位置関係を示す情報である。外部パラメータを算出する従来技術として、たとえば、従来技術1、2がある。
従来技術1について説明する。従来技術1は、ベクトルマーカを利用してセンサの外部パラメータを算出する外部キャリブレーションの技術である。図18は、ベクトルマーカの一例を示す図である。ユーザは、各センサの測定範囲が重複する位置に、ベクトルマーカ5を移動させ、ベクトルマーカの各印5aの位置が、各センサで一致するように、外部パラメータを算出する。
従来技術1では、ベクトルマーカ5が重いため、ユーザの負担が大きい。また、従来技術1によって算出された外部パラメータの精度が悪く、外部パラメータを推定した後に、ユーザが手作業で外部パラメータの微調整を行うことで、対応している。従来技術1の課題に対して、従来技術2がある。
従来技術2について説明する。従来技術2は、軽量な球体ターゲットを利用して、センサの外部パラメータを算出する外部キャリブレーションの技術である。従来技術2では、一つの球体ターゲットを移動させつつ、複数のセンサで、球体ターゲットを複数回、観測する。
図19は、従来技術2を説明するための図である。図19に示す例では、センサ10A,10B,10C,10Dが配置されており、センサ10A〜10Dの外部キャリブレーションが実行される。ユーザは、手持ち棒の先に取り付けた球体ターゲット15を演技領域内で動かす。
センサ10A〜10Dはそれぞれ、一定の時間間隔で、球体ターゲット15の3次元点群を測定する。図20は、各センサで測定した球体ターゲットの例を示す図である。たとえば、センサ10Aが時点t1,t2,t3,t4において球体ターゲット15を測定した3次元点群の分布を、分布da1,da2,da3,da4とする。センサ10Bが時点t1,t2,t3,t4において球体ターゲット15を測定した3次元点群の分布を、分布db1,db2,db3,db4とする。
センサ10Cが時点t1,t2,t3,t4において球体ターゲット15を測定した3次元点群の分布を、分布dc1,dc2,dc3,dc4とする。センサ10Dが時点t1,t2,t3において球体ターゲット15を測定した3次元点群の分布を、分布dd1,dd2,dd3とする。なお、時点t4において、センサ10Dの測定可能範囲に、球体ターゲット15が含まれていないものとする。
従来技術2では、センサ10A〜10Dが各時点で測定した球体ターゲット15の中心を捉えて、センサ10A〜10Dの間で、マッチングさせることにより、外部パラメータを算出する。図21は、従来技術2によるマッチングを説明するための図である。図21に示すように、従来技術2は、時点t1の分布da1,db1,dc1,dd1を組み合わせた「t1分布」、時点t2の分布da2,db2,dc2,dd2を組み合わせた「t2分布」を生成する。また、従来技術2では、時点t3の分布da3,db3,dc3,dd3を組み合わせた「t3分布」、時点t4の分布da4,db4,dc4を組み合わせた「t4分布」を生成する。
従来技術2では、t1〜t4分布の形状が、球体ターゲット15の形状に近づくように、センサ10A〜10Dの外部パラメータを調整することで、外部キャリブレーションを実行する。
図22は、外部キャリブレーションの実行結果を示す図である。図22では一例として、6台のセンサについて外部キャリブレーションを実行し、一定時間毎に、各センサが測定した3次元点群の分布を組み合わせて球を表現している。また、図22では、球体を標準座標系で表現している。
特開2019−086476号公報
従来技術2では、軽量な球体ターゲット15を移動させればよいため、従来技術1のように、ベクトルマーカ5を移動させる場合と比較して、ユーザにかかる負担が小さい。また、従来技術2では、従来技術1のように、手作業で外部パラメータを微調整しなくも、ある程度の精度で、外部パラメータを算出することができる。
しかしながら、各センサのセンシング結果そのものに、センサ固体差、センサ特性、環境に依存する3次元点群の歪みが含まれていると、従来技術2を用いても、外部パラメータの推定精度が低下するという問題がある。
図23は、従来技術の問題を説明するための図(1)である。図23では、外部キャリブレーションを行ったセンサの測定結果を基にして、一定時間毎に、球体を標準座標系で表現したものである。
たとえば、センサに受光歪みがあると、測定範囲の端において、ターゲットに歪みが発生する場合や、貼り合わせのずれが発生する。3次元点群20aでは、ターゲットに歪みが発生している。3次元点群20bでは、ターゲットに貼り合わせのずれが発生している。
センサの受光素子特性によって、検出物体端にノイズが乗りやすい。たとえば、3次元点群20dでは、ノイズが発生している。
環境に依存するものとして、障害物の影響を受ける場合や、検出物体が測定範囲の端に位置すると、データの欠損が発生する。3次元点群20cでは、点群欠損が発生している。
図24は、従来技術の問題を説明するための図(2)である。たとえば、ノイズ歪みの影響を除外するために、測定範囲の端のターゲットを除外することが考えられる。図24に示すセンサ10A〜10Dの配置の場合、領域A2が、センサ10A〜10Dの測定範囲共通の領域となる。このような場合、領域A2は、センサ10A〜10Dの測定領域の端となるが、かかる領域A2のターゲットを単純に除外すると、サンプルが減少することにより、外部パラメータの推定精度がかえって低下する場合があり得た。
1つの側面では、本発明は、複数のセンサ間の位置関係を推定する精度を向上させることができる算出方法、算出プログラムおよび情報処理装置を提供することを目的とする。
第1の案では、コンピュータが次の処理を実行する。コンピュータは、複数のセンサを用いて測定される、各時点でのターゲットの点群を取得する。コンピュータは、複数のセンサのうち第1センサを用いて測定されたターゲットの点群を示す第1点群と、複数のセンサのうち第2センサを用いて測定された前記ターゲットの点群を示す第2点群とを基にして、第1点群の中心と第2点群の中心との距離を示す距離値を算出し、第1点群および第2点群と、球の表面との乖離具合を示す誤差値とを算出する処理を、各時点において実行する。コンピュータは、各時点において算出した距離値および誤差値を基にして、各時点でのターゲットの点群から、除外する点群を示す除外対象点群を特定する。コンピュータは、各時点でのターゲットの点群から、除外対象点群を除外した点群を示す対象点群を用いて、複数のセンサ間の位置関係を示す情報を算出する。
複数のセンサ間の位置関係を推定する精度を向上させることができる。
図1は、本実施例に係る情報処理システムの一例を示す図である。 図2は、距離値および誤差値を説明するための図(1)である。 図3は、距離値および誤差値を説明するための図(2)である。 図4は、距離値および誤差値を説明するための図(3)である。 図5は、距離値および誤差値を説明するための図(4)である。 図6は、各時点の点群データにおける距離値と誤差値との関係を示す図である。 図7は、外部パラメータを更新する際に利用する点群データの変化を説明するための図である。 図8は、本実施例に係る情報処理装置の構成を示す機能ブロック図である。 図9は、背景画像テーブルのデータ構造の一例を示す図である。 図10は、検出結果テーブルのデータ構造の一例を示す図である。 図11は、外部パラメータテーブルのデータ構造の一例を示す図である。 図12は、本実施例に係る取得部の処理を説明するための図である。 図13は、算出部が誤差値ermsを算出する処理を説明するための図である。 図14は、本実施例に係る情報処理装置が、外部キャリブレーションを実行する処理の処理手順を示すフローチャートである。 図15は、各時点の点群データに情報処理装置の処理を適用した例を示す図である。 図16は、情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。 図17は、複数のセンサに測定された3次元点群を統合した結果を示す図である。 図18は、ベクトルマーカの一例を示す図である。 図19は、従来技術2を説明するための図である。 図20は、各センサで測定した球体ターゲットの例を示す図である。 図21は、従来技術2によるマッチングを説明するための図である。 図22は、外部キャリブレーションの実行結果を示す図である。 図23は、従来技術の問題を説明するための図(1)である。 図24は、従来技術の問題を説明するための図(2)である。
以下に、本願の開示する算出方法、算出プログラムおよび情報処理装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。
図1は、本実施例に係る情報処理システムの一例を示す図である。図1に示すように、本実施例に係る情報処理システムは、センサ10A,10B,10C,10Dと、情報処理装置100とを有する。センサ10A〜10Dと、情報処理装置100とは、有線または無線によってそれぞれ接続されている。図1では、センサ10A〜10Dを示すが、情報処理システムは、他のセンサを有していてもよい。
センサ10Aは、被写体(あるいはターゲット2)を構成する点群とセンサ10Aとの距離を測定する測定装置(レーザーセンサ)である。センサ10Aは、測定結果となる距離画像のデータを、情報処理装置100に出力する。距離画像のデータには、各画素と距離値とをそれぞれ対応付けた情報が含まれる。距離画像のデータは、情報処理装置100によって、3次元の点群データに変換される。3次元の点群データは、点群について、点と、3次元直交座標系の座標とをそれぞれ対応付けた情報である。以下の説明では、3次元の点群データを「点群データ」と表記する。
センサ10B〜10Dに関する説明は、センサ10Aに関する説明と同様である。以下の説明では、適宜、センサ10A〜10Dをまとめて「センサ10」と表記する。ここで、点群データは、センサ10が測定した距離画像のデータを変換したデータであるが、適宜、センサ10が測定した点群データと表記し、距離画像のデータを点群データに変換する旨の記載を省略する。
本実施例に係る情報処理システムは、センサ10を用いて被写体(図示略)を測定し、被写体が行う演技を評価するシステムであるが、前処理として、ターゲット2を用いて、外部キャリブレーションを実行し、外部パラメータを生成する。情報処理システムは、生成した外部パラメータに基づいて、センサ10に測定された点群データを統合し、被写体全体の点群データを生成し、被写体が行う演技を評価する。
情報処理システムの情報処理装置100が、外部パラメータを算出する処理の一例について説明する。情報処理装置100は、センサ10によって測定されたターゲットの点群データについて、「距離値」と「誤差値」とを算出し、算出結果を基にして、外部キャリブレーションで採用する点群データを特定することで、外部パラメータの精度を向上させる。
図2は、距離値および誤差値を説明するための図(1)である。図2に示す例では、センサ10Aが測定した点群データには、点d1−1〜d1−6が含まれる。センサ10Bが測定した点群データには、点d2−1〜d2−7が含まれる。点d1−1〜d1−6、点d2−1〜d2−7は、説明のために、点群データ21aを簡略化したものである。
なお、情報処理装置100は、センサ10によって測定された点群データを用いて、外部キャリブレーションを実行しておき、外部パラメータの初期値を算出しておく。このため、点d1−1〜d1−6の位置、点d2−1〜d2−7の位置は、外部パラメータの初期値によって、調整されているものとする。
情報処理装置100は、センサ10Aが測定した点群データ(点d1−1〜d1−6)から推定される球の中心位置Pを算出する。情報処理装置100は、センサ10Bが測定した点群データ(点d2−1〜d2−6)から推定される球の中心位置Pを算出する。情報処理装置100は、中心位置Pと、中心位置Pとの距離を、距離値egapとして算出する。
情報処理装置100は、センサ10Aが測定した点群データと、センサ10Bが測定した点群データとを基にして、真球16をフィッティングする。情報処理装置100は、点群データ(点d1−1〜d1−6、点d2−1〜d2−6)と、真球16の表面との距離の平均二乗誤差平方根を、誤差値ermsとして算出する。
情報処理装置100は、距離値egapが条件R1を満たし、かつ、誤差値ermsが条件R2を満たす場合に、点群データ(点d1−1〜d1−6、点d2−1〜d2−6)を、外部キャリブレーションで用いる点群データとして特定する。一方、情報処理装置100は、距離値egapが条件R1を満たさない、または、誤差値ermsが条件R2を満たさない場合に、点群データ(点d1−1〜d1−6、点d2−1〜d2−6)を、外部キャリブレーションで用いない点群データとして特定する。eth1、eth1は、予め設定される閾値である。以下の説明では、外部キャリブレーションで用いない点群データを、「除外対象点群データ」と表記する。除外対象点群データは、「除外対象点群」の一例である。
距離値egap<eth1・・・条件R1
誤差値erms<eth2・・・条件R2
ここで、距離値egapが条件R1を満たさない場合、または、誤差値ermsが条件R2を満たさない場合には、センサ10のセンシング結果そのものに、センサ固体差、センサ特性、環境に依存する点群データの歪みが存在していると言える。
たとえば、図2に示した点群データ(点d1−1〜d1−6、点d2−1〜d2−6)の場合、距離値egapが条件R1を満たさず、また、誤差値ermsが条件R2を満たさない。図2の点群データ21aには、センサ10A,10Bの受光レンズ歪みによって、点群データで形成するターゲット2に歪みが発生している。
図3は、距離値および誤差値を説明するための図(2)である。図3に示す例では、センサ10Aが測定した点群データには、点d3−1〜d3−7が含まれる。センサ10Bが測定した点群データには、点d4−1〜d4−7が含まれる。点d3−1〜d3−7、点d4−1〜d4−7は、説明のために、点群データ21bを簡略化したものである。
情報処理装置100は、図2の場合と同様にして、点群データ(点d3−1〜d3−7、点d4−1〜d4−7)を基にして、距離値egapおよび誤差値ermsを算出する。たとえば、図3に示した点群データ(点d3−1〜d3−7、点d4−1〜d4−7)の場合、距離値egapが条件R1を満たさず、また、誤差値ermsが条件R2を満たさない。図3の点群データ21bには、センサ10A,10Bの受光レンズ歪みによって、点群データで形成するターゲット2に貼り合わせズレが発生している。
図4は、距離値および誤差値を説明するための図(3)である。図4に示す例では、センサ10Aが測定した点群データには、点d5−1〜d5−5が含まれる。センサ10Bが測定した点群データには、点d6−1〜d6−8が含まれる。点d5−1〜d5−5、点d6−1〜d6−8は、説明のために、点群データ21cを簡略化したものである。
情報処理装置100は、図2の場合と同様にして、点群データ(点d5−1〜d5−5、点d6−1〜d6−8)を基にして、距離値egapおよび誤差値ermsを算出する。たとえば、図4に示した点群データ(点d5−1〜d5−5、点d6−1〜d6−8)の場合、距離値egapが条件R1を満たさない。図4の点群データ21cには、センサ10A,10Bの受光素子特性等によって、点群データで形成するターゲット2に点群欠損が発生している。
図5は、距離値および誤差値を説明するための図(4)である。図5に示す例では、センサ10Aが測定した点群データには、点d7−1〜d7−8が含まれる。センサ10Bが測定した点群データには、点d8−1〜d8−7が含まれる。点d7−1〜d7−8、点d8−1〜d8−7は、説明のために、点群データ21dを簡略化したものである。
情報処理装置100は、図2の場合と同様にして、点群データ(点d7−1〜d7−8、点d8−1〜d8−7)を基にして、距離値egapおよび誤差値ermsを算出する。たとえば、図5に示した点群データ(点d7−1〜d7−8、点d8−1〜d8−7)の場合、距離値ermsが条件R2を満たさない。図5の点群データ21dには、環境要因等によって、点群データで形成するターゲット2にノイズが発生している。
情報処理装置は、各時点でセンサ10が測定したターゲット2の点群データに対して、距離値egapおよび誤差値ermsを算出する処理を繰り返し実行する。
図6は、各時点の点群データにおける距離値と誤差値との関係を示す図である。図6のグラフG1において、横軸は、誤差値ermsに対応する軸であり、縦軸は、距離値egapに対応する軸である。グラフG1に示す点は、ある時点に計測されたターゲット2の点群データを基に算出される距離値egapと誤差値ermsとの関係を示すものである。
距離値egapと誤差値ermsとの関係を示す点が、領域A1に含まれる場合には、該当する点群データが、条件R1または条件R2を満たさないことを意味する。たとえば、領域A1−1の領域に点が含まれる場合、かかる点に対応する点群データは、図2、図3に示した点群データ21a,21bのように、ターゲットの歪み、貼り合わせズレが発生している。
領域A1−2の領域に点が含まれる場合、かかる点に対応する点群データは、図4に示した点群データ21cのように、点群欠損が発生している。領域A1−3の領域に点が含まれる場合、かかる点に対応する点群データは、図5に示した点群データ21dのように、ノイズが発生している。
情報処理装置100は、距離値egapと誤差値ermsとの関係を示す点(点群データ)が、領域A1に含まれない点群データを用いて、外部キャリブレーションを実行することで、外部パラメータを更新する処理を繰り返し実行する。
図7は、外部パラメータを更新する際に利用する点群データの変化を説明するための図である。図7に示すように、情報処理装置100は、センサ10が測定した点群データを用いて、外部パラメータ(外部パラメータの初期値)を算出する(ステップS10)。情報処理装置100は、外部パラメータを基にして、各時点の点群データの位置調整を行い、距離値および誤差値を算出する(ステップS11)。各時点の点群データの距離値および誤差値の関係は、グラフG1−1に示すものとなる。グラフG1−1の横軸は、誤差値ermsに対応する軸であり、縦軸は、距離値egapに対応する軸である。後述するグラフG1−2,G1−3の横軸、縦軸に関する説明は、グラフG1−1の横軸、縦軸に関する説明と同様である。
情報処理装置100は、各時点の点群データの距離値および誤差値を基にして、閾値判定を行う(ステップS12)。たとえば、閾値eth1を30mmとし、閾値eth2を20mmとする。情報処理装置100は、閾値外(領域A1)の点に対応する除外対象点群データを除外する(ステップS13)。
情報処理装置100は、残りの点群データを用いて、再度、外部パラメータを推定する(ステップS14)。情報処理装置100は、更新した外部パラメータを基にして、各時点の点群データの位置調整を行い、距離値および誤差値を算出する(ステップS15)。各時点の点群データの距離値および誤差値の関係は、グラフG1−2に示すものとなる。
情報処理装置100は、各時点の点群データの距離値および誤差値を基にして、閾値判定を行う(ステップS16)。たとえば、閾値eth1を30mmとし、閾値eth2を20mmとする。情報処理装置100は、閾値外(領域A1)の点に対応する除外対象点群データを除外する(ステップS17)。
情報処理装置100は、残りの点群データを用いて、再度、外部パラメータを推定する(ステップS18)。情報処理装置100は、更新した外部パラメータを基にして、各時点の点群データの位置調整を行い、距離値および誤差値を算出する(ステップS19)。各時点の点群データの距離値および誤差値の関係は、グラフG1−3に示すものとなる。
情報処理装置100は、閾値外(領域A1)に点が存在しないため(ステップS21)、外部パラメータの算出を終了する(ステップS22)。
上記のように、本実施例に係る情報処理装置100は、各時点において、センサ10に測定された点群データから、除外対象点群データを取り除いた点群データを用いて、外部キャリブレーションを実行することで、外部パラメータを更新する。情報処理装置は、更新した外部パラメータを用いて、点群データの位置を調整し、除外対象点群データが検出されなくなるまで、上記処理を繰り返し実行する。これによって、センサ固体差、センサ特性、環境に依存する点群データを除外した点群データを用いて、外部キャリブレーションを実行でき、複数のセンサ間の位置関係を推定する精度を向上させることができる。
次に、図1に示した情報処理装置100の構成について説明する。図8は、本実施例に係る情報処理装置の構成を示す機能ブロック図である。図8に示すように、この情報処理装置100は、通信部110と、入力部120と、表示部130と、記憶部140と、制御部150とを有する。
通信部110は、図1に示したセンサ10から距離画像のデータを受信する処理部である。通信部110は、受信した距離画像のデータを、制御部150に出力する。通信部110は、通信装置の一例である。
入力部120は、各種の情報を情報処理装置100に入力する入力装置である。入力部120は、キーボードやマウス、タッチパネル等に対応する。
表示部130は、制御部150から出力される情報を表示する表示装置である。たとえば、表示部130は、各種競技の技認定、採点結果等を表示する。表示部130は、液晶ディスプレイ、有機EL(Electro-Luminescence)ディスプレイ、タッチパネル等に対応する。
記憶部140は、背景画像テーブル141と、検出結果テーブル142と、外部パラメータテーブル143とを有する。記憶部140は、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子や、HDD(Hard Disk Drive)などの記憶装置に対応する。
背景画像テーブル141は、ターゲット2が存在しない状態で、各センサ10A〜10Dによってそれぞれ測定された背景画像のデータ(距離画像のデータ)を格納するテーブルである。図9は、背景画像テーブルのデータ構造の一例を示す図である。図9に示すように、この背景画像テーブル141は、センサ識別情報と、背景画像のデータとを対応付ける。センサ識別情報は、センサを一意に識別する情報である。
たとえば、センサ識別情報「SE10A」は、センサ10Aを示す。センサ識別情報「SE10B」は、センサ10Bを示す。センサ識別情報「SE10C」は、センサ10Cを示す。センサ識別情報「SE10D」は、センサ10Dを示す。
検出結果テーブル142は、センサ10の測定結果に基づき、各時点で検出されたターゲット2の点群および位置を格納するテーブルである。図10は、検出結果テーブルのデータ構造の一例を示す図である。図10に示すように、この検出結果テーブル142は、センサ識別情報と、各時点における、ターゲット2の点群データを格納する。センサ識別情報は、センサを一意に識別する情報である。
ターゲットの点群データには、該当する時点tにおいて、ターゲット2の点群と、点群に含まれる点の3次元の座標との関係を示すデータである。なお、該当するセンサ識別情報、時点において、ターゲットが検出されていない場合には、「ターゲット無し」が格納される。
外部パラメータテーブル143は、後述する外部パラメータ算出部153によって算出される外部パラメータを格納するテーブルである。図11は、外部パラメータテーブルのデータ構造の一例を示す図である。図11に示すように、この外部パラメータテーブル143は、センサ識別情報と、外部パラメータとを対応付ける。センサ識別情報は、センサ10を識別する情報である。外部パラメータは、基準となるセンサ10との相対的な位置および姿勢を示すデータである。本実施例では、基準となるセンサをセンサ10Aとする。
外部パラメータTBAは、センサ10Aを基準とするセンサ10Bの相対的な位置および姿勢を示すデータである。外部パラメータTCAは、センサ10Aを基準とするセンサ10Cの相対的な位置および姿勢を示すデータである。外部パラメータTDAは、センサ10Aを基準とするセンサ10Dの相対的な位置および姿勢を示すデータである。
図3の説明に戻る。制御部150は、取得部151と、変換部152と、外部パラメータ算出部153と、算出部154と、特定部155と、統合部156と、フィッティング処理部157と、評価部158とを有する。制御部150は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などのハードワイヤードロジック等によって実現される。
取得部151は、通信部110を介して、センサ10から、距離画像のデータを取得する処理部である。取得部151は、事前に、ターゲット2が配置されていない状態で、センサ10から距離画像のデータを取得し、取得した距離画像のデータを、背景画像のデータとして、背景画像テーブル141に登録する。取得部151は、センサ識別情報と、背景画像のデータとを対応付けて、背景画像テーブル141に登録するものとする。
また、取得部151は、外部キャリブレーションを実行する場合に、センサ10から、連続する複数の距離画像のデータを取得し、一定間隔おきに、距離画像のデータを抽出する。ユーザは、外部キャリブレーションを実行する旨を、入力部120を操作して、情報処理装置に通知した後に、ターゲット2を移動させる。
図12は、本実施例に係る取得部の処理を説明するための図である。ユーザが、演技領域に沿ってターゲット2を動かしている間、センサ10は、所定のフレームレート(FPS:Frames Per Second)で、複数の距離画像(フレーム)を測定し、時系列で、複数の距離画像のデータを情報処理装置100(取得部151)に出力する。複数の距離画像のデータには、フレーム番号が昇順で付与されおり、センサ10A〜10Dにおいて、フレーム番号は同期しているものとする。フレーム番号は、距離画像を識別する番号である。
たとえば、取得部151は、センサ10Aから、フレーム番号f1〜f22の距離画像データを順に取得する。以下の説明では、フレーム番号fn(nは自然数)の距離画像のデータを、距離画像fnと表記する。取得部151は、一定間隔おきに、距離画像f3,f7,f11,f15,f19を抽出する。取得部151は、センサ10B〜10Dについても同様にして、一定間隔おきに、距離画像f3,f7,f11,f15,f19を抽出する。
取得部151は、センサ10から一定間隔おきに抽出した距離画像のデータを、変換部152に出力する。
変換部152は、取得部151から受け付ける距離画像のデータを基にして、各時点の点群データを生成する処理部である。変換部152は、センサ識別情報と対応付けて、各時点の点群データを、検出結果テーブル142に登録する。
変換部152は、受け付けた距離画像のデータと、背景画像テーブル141に格納された背景画像のデータとの差分をとり、背景差分画像データを生成する。
変換部152は、画素の位置および距離値と、点および直交座標系の座標との関係を定義した変換テーブルを保持しているものとする。変換部152は、変換テーブルを基にして、背景差分画像データに含まれるターゲット2に対応する画素を、点群データに変換する。
センサ10Aから送信される複数の距離画像のデータから、距離画像f3,f7,f11,f15,f19を抽出した場合の、変換部152の処理について説明する。変換部152は、距離画像f3と、センサ識別情報「SE10A」の背景画像のデータとの差分をとり、時点t=1の背景差分画像データを生成する。変換部152は、時点t=1の背景差分画像と、変換テーブルとを基にして、時点t=1の点群データを生成する。変換部152は、センサ10Aのセンサ識別情報「SE10A」と対応付けて、時点t=1の点群データを、検出結果テーブル142に登録する。
変換部152は、抽出した他の距離画像fnについても、上記処理を繰り返し実行することで、各時点の点群データを生成し、検出結果テーブル142に登録する。
変換部152は、センサ10B〜10Cから複数の距離画像データから、距離画像f3,f7,f11,f15,f19を抽出した場合においても、センサ10Aと同様にして、各時点の点群データを生成し、検出結果テーブル142に登録する。
外部パラメータ算出部153は、検出結果テーブル142に含まれる各時点の点群データを基にして、外部パラメータTBA,TCA、TDAを算出し、外部パラメータテーブル143に登録する。外部パラメータ算出部153は、外部パラメータテーブル143に外部パラメータTBA,TCA、TDAが既に登録されている場合には、新たに算出した外部パラメータTBA,TCA、TDAによって更新する。
外部パラメータ算出部153は、各時点においてセンサ10が測定した点群データを、検出結果テーブル142から取得し、各時点の点群データの形状が球の形状に近づくような外部パラメータTBA,TCA、TDAを算出する。外部パラメータTBA,TCA、TDAの変更に応じて、点群データの点の位置が調整される。外部パラメータ算出部153が、各時点の点群データを用いて外部パラメータを算出する処理は、どのような技術を用いてもよい。
外部パラメータ算出部153は、変換部152によって、検出結果テーブル142に各時点の点群データが登録された場合に、外部パラメータの初期値を算出する。外部パラメータ算出部153は、後述する特定部155によって、検出結果テーブル142の点群データから、除外対象点群データが除外される度に、外部パラメータを算出する処理を繰り返し実行し、外部パラメータテーブル143を更新する。
外部パラメータ算出部153が、外部パラメータTBA,TCA、TDAを基にして、検出結果テーブル142に格納された点群データの位置を調整してもよい。外部パラメータ算出部153は、検出結果テーブル142の点群データから、点群データが除外されなくなった場合に、外部パラメータを算出する処理を終了する。
算出部154は、図2〜図5で説明した距離値egapおよび誤差値ermsを算出する処理部である。算出部154は、各時点の点群データから算出した距離値egapおよび誤差値ermsの情報を、特定部155に出力する。以下において、算出部154の処理の一例について説明する。
算出部154は、検出結果テーブル142を参照し、時点t=nに対応するセンサ10の点群データを取得し、外部パラメータTBA,TCA、TDAを基にして、点群データの位置調整を行う。算出部154は、位置調整を行った点群データを基にして、距離値を算出する。
図2を用いて、算出部154が距離値を算出する処理について説明する。図2では、センサ10Aとセンサ10Bとの組み合わせを用いて説明を行うが、かかる組み合わせに限定されるものではない。算出部154は、センサ10Aが測定した点群データ(点d1−1〜d1−6)から推定される球の中心位置Pを算出する。情報処理装置100は、センサ10Bが測定した点群データ(点d2−1〜d2−6)から推定される球の中心位置Pを算出する。算出部154は、中心位置Pと、中心位置Pとの距離を、距離値egapとして算出する。
図13は、算出部が誤差値ermsを算出する処理を説明するための図である。図13では、センサ10A,10Bに測定された点群データを示すが、これに限定されるものではない。算出部154は、式(1)に基づいて、誤差値ermsを算出する。式(1)において、eは、真球16の真球面から点までの距離を示す。球面外部をプラスとし、球面内部をマイナスとする。式(1)では、e〜eの平均二乗誤差平方根を誤差値ermsとして、算出している。
Figure 2021196691
なお、式(1)の例では、算出部154は、平均二乗誤差平方根を誤差値ermsとして、算出しているが、これに限定されるものではない。算出部154は、式(2)を基にして、平均二乗誤差を誤差値ermsとして算出してもよいし、式(3)を基にして絶対値平均を誤差値ermsとして算出してもよい。
Figure 2021196691
Figure 2021196691
算出部154は、外部パラメータテーブル143に格納された外部パラメータが更新される度に、各時点の距離値egapおよび誤差値ermsを算出する処理を繰り返し実行し、特定部155に出力する。
特定部155は、各時点の距離値egapおよび誤差値ermsを基にして、除外対象点群データを特定する処理部である。特定部155は、特定した除外対象点群データを、検出結果テーブル142から削除する。以下において、特定部155の処理の一例について説明する。検出結果テーブル142の点群データから、除外対象点群データを除去した残りの点群データは、「対象点群」に対応する。
特定部155は、各時点の点群データから算出された距離値egapおよび誤差値ermsを基にして、除外対象点群データを特定する処理部である。
特定部155は、時点t=nの点群データから算出された距離値egapおよび誤差値ermsについて、条件R1および条件R2を満たす場合には、時点t=nの点群データを、除外対象点群データとして特定しない。
一方、特定部155は、時点t=nの点群データから算出された距離値egapおよび誤差値ermsについて、条件R1を満たさない場合、または、条件R2を満たさない場合には、時点t=nの点群データを、除外対象点群データとして特定する。
特定部155は、各時点の点群データについて、上記処理を繰り返し実行することで、各時点の点群データから、除外対象点群データを特定する。特定部155は、除外対象点群データを、検出結果テーブル142から除外する。
特定部155は、各時点の点群データから、除外対象点群データを特定した場合には、除外対象点群データが含まれる旨を、外部パラメータ算出部153に通知する。特定部155は、新たに、各時点の点群データから算出された距離値egapおよび誤差値ermsを、算出部154から取得する度に、上記処理を繰り返し実行する。
続いて、統合部156、フィッティング処理部157、評価部158について説明する。統合部156、フィッティング処理部157、評価部158は、取得部151、変換部152、外部パラメータ算出部153、算出部154、特定部155による、外部キャリブレーションが終了し、被写体が演技を開始した場合に処理を実行する。
統合部156は、変換部152から、センサ10に対応する点群データを取得する。統合部156は、センサ10Aの位置および姿勢に合わせて、センサ10B〜10Cの点群データを調整する。たとえば、統合部156は、外部パラメータTBAを用いて、センサ10Bの点群データを、センサ10Aの位置および姿勢に合わせる。統合部156は、外部パラメータTCAを用いて、センサ10Cの点群データを、センサ10Aの位置および姿勢に合わせる。統合部156は、外部パラメータTDAを用いて、センサ10Dの点群データを、センサ10Aの位置および姿勢に合わせる。統合部156は、各外部パラメータを、外部パラメータテーブル143から取得する。
統合部156は、センサ10Aの点群データと、センサ10Aの位置および姿勢に合わせたセンサ10B〜10Dの点群データとを統合して、一つの点群データを生成する。統合部156は、生成した点群データを、フィッティング処理部157に出力する。
統合部156は、変換部152から、センサ10A〜10Dの点群データを取得する度に、上記処理を繰り返し実行する。
フィッティング処理部157は、点群データに対して、被写体の3次元モデルデータを当てはめるフィッティングを実行する処理部である。フィッティング処理部157は、フィッティング結果を基にして、被写体の骨格モデルデータを特定する。骨格モデルデータには、各関節の位置情報が含まれる。フィッティング処理部は、骨格モデルデータを、評価部158に出力する。フィッティング処理部は、統合部156から、点群データを取得する度に、上記処理を繰り返し実行する。
評価部158は、時系列に骨格モデルデータを取得し、骨格モデルデータの各関節座標の遷移を基にして、被写体の演技を評価する処理部である。たとえば、評価部158は、各関節座標の遷移と、技の種別、技の成立不成立を定義したテーブル(図示略)を用いて、被写体の演技を評価し、評価結果を表示部130に出力して表示させる。
なお、評価部158が実行する技の評価は、各種の採点競技に適用可能である。採点競技には、体操演技の他に、トランポリン、水泳の飛び込み、フィギュアスケート、空手の型、社交ダンス、スノーボード、スケートボード、スキーエアリアル、サーフィンを含む。また、クラシックバレエ、スキージャンプ、モーグルのエアー、ターン、野球、バスケットボールのフォームチェック等にも適用してもよい。また、剣道、柔道、レスリング、相撲などの競技にも適用してもよい。更に、ウェイトリフティングのバーベルが上がったか否かの評価にも用いることができる。
次に、本実施例に係る情報処理装置100が、外部キャリブレーションを実行する処理手順の一例について説明する。図14は、本実施例に係る情報処理装置が、外部キャリブレーションを実行する処理の処理手順を示すフローチャートである。図14に示すように、情報処理装置100の取得部151は、センサ10から、距離画像のデータ(背景画像のデータ)を取得し、背景画像テーブル141に格納する(ステップS101)。
取得部151は、センサ10から、一定間隔おきに、距離画像のデータ(背景およびターゲットを含む)を取得する(ステップS102)。情報処理装置100の変換部152は、背景画像のデータと、距離画像のデータとを基にして、背景差分のデータを生成する(ステップS103)。変換部152は、各時点の点群データを生成する(ステップS104)。
情報処理装置100の外部パラメータ算出部153は、検出結果テーブルの点群データを基にして、外部パラメータを算出し、外部パラメータテーブル143に登録する(ステップS105)。
情報処理装置100の算出部154は、ターゲットを構成する各時点の点群データについて、距離値egapおよび誤差値ermsを算出する(ステップS106)。情報処理装置100の特定部155は、ターゲットを構成する各点群データに除外対象点群データが存在するか否かを判定する(ステップS107)。
特定部155は、ターゲットを構成する各点群データに除外対象点群データが存在する場合には(ステップS107,Yes)、検出結果テーブルから、除外対象点群データを削除し(ステップS108)、ステップS105に移行する。
情報処理装置100は、ターゲットを構成する各点群データに除外対象点群データが存在しない場合には(ステップS107,No)、外部キャリブレーションを終了する。
次に、本実施例に係る情報処理装置100の効果について説明する。情報処理装置100は、各時点において、センサ10に測定された点群データから、除外対象点群データを取り除いた点群データを用いて、外部キャリブレーションを実行することで、外部パラメータを更新する。情報処理装置100は、更新した外部パラメータを用いて、点群データの位置を調整し、除外対象点群データが検出されなくなるまで、上記処理を繰り返し実行する。これによって、センサ固体差、センサ特性、環境に依存する点群データを除外した点群データを用いて、外部キャリブレーションを実行でき、複数のセンサ間の位置関係を推定する精度を向上させることができる。
図15は、各時点の点群データに情報処理装置の処理を適用した例を示す図である。図15において、各点群データ50aに対して、情報処理装置100が処理を実行することで、点群21a,21b,21cが、除外対象点群データとして特定され、各点群データ50bが残る。各点群データ50bを用いて、外部キャリブレーションを実行することで、外部パラメータの推定精度が向上する。
なお、上記の情報処理装置100は、除外対象点群データを特定する場合に、条件R1および条件R1の双方を用いて、除外対象点群データを特定していたが、これに限定されるものではない。情報処理装置100は、各時点の点群データの距離値egapのみを算出して、条件R1を満たすか否か判定し、条件R1を満たさない点群データを、除外対象点群データとして特定してもよい。
また、情報処理装置100は、各時点の点群データの誤差値ermsのみを算出して、条件R2を満たすか否か判定し、条件R2を満たさない点群データを、除外対象点群データとして特定してもよい。
次に、上記実施例に示した情報処理装置100(200)と同様の機能を実現するコンピュータのハードウェア構成の一例について説明する。図16は、情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。
図16に示すように、コンピュータ300は、各種演算処理を実行するCPU301と、ユーザからのデータの入力を受け付ける入力装置302と、ディスプレイ303とを有する。また、コンピュータ300は、センサ10から距離画像のデータを受信する通信装置304と、各種の装置と接続するインタフェース装置305とを有する。コンピュータ300は、各種情報を一時記憶するRAM306と、ハードディスク装置307とを有する。そして、各装置301〜307は、バス308に接続される。
ハードディスク装置307は、取得プログラム307a、変換プログラム307b、外部パラメータ算出部プログラム307c、算出プログラム307d、特定プログラム307eを有する。ハードディスク装置307は、統合プログラム307d、フィッティング処理プログラム307e、評価プログラム307fを有する。CPU301は、取得プログラム307a、変換プログラム307b、外部パラメータ算出部プログラム307c、算出プログラム307d、特定プログラム307e、統合プログラム307d、フィッティング処理プログラム307e、評価プログラム307fを読み出してRAM306に展開する。
取得プログラム307aは、取得プロセス306aとして機能する。変換プログラム307bは、変換ロセス306bとして機能する。外部パラメータ算出プログラム307cは、外部パラメータ算出プロセス306cとして機能する。算出プログラム307dは、算出プロセス306dとして機能する。特定プログラム307eは、特定プロセス306eとして機能する。統合プログラム307fは、統合プロセス306fとして機能する。フィッティング処理プログラム307fは、フィッティング処理プロセス306fとして機能する。評価プログラム307fは、評価プロセス306fとして機能する。
取得プロセス306aの処理は、取得部151の処理に対応する。変換プロセス306bは、変換部152の処理に対応する。外部パラメータ算出プロセス306cの処理は、外部パラメータ算出部153の処理に対応する。算出プロセス306dの処理は、算出部154の処理に対応する。特定プロセス306eの処理は、特定部155の処理に対応する。統合プロセス306dの処理は、統合部156の処理に対応する。フィッティング処理プロセス306eの処理は、フィッティング処理部157の処理に対応する。評価プロセス306fの処理は、評価部158の処理に対応する。
なお、各プログラム307a〜307fについては、必ずしも最初からハードディスク装置307に記憶させておかなくてもよい。例えば、コンピュータ300に挿入されるフレキシブルディスク(FD)、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に各プログラムを記憶させておく。そして、コンピュータ300が各プログラム307a〜307fを読み出して実行するようにしてもよい。
以上の各実施例を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)コンピュータが実行する算出方法であって、
複数のセンサを用いて測定される、各時点でのターゲットの点群を取得し、
前記複数のセンサのうち第1センサを用いて測定された前記ターゲットの点群を示す第1点群と、前記複数のセンサのうち第2センサを用いて測定された前記ターゲットの点群を示す第2点群とを基にして、前記第1点群の中心と前記第2点群の中心との距離を示す距離値を算出し、前記第1点群および前記第2点群と、球の表面との乖離具合を示す誤差値とを算出する処理を、各時点において実行し、
各時点において算出した前記距離値および前記誤差値を基にして、各時点でのターゲットの点群から、除外する点群を示す除外対象点群を特定し
各時点でのターゲットの点群から、前記除外対象点群を除外した点群を示す対象点群を用いて、前記複数のセンサ間の位置関係を示す情報を算出する
処理を実行することを特徴とする算出方法。
(付記2)前記位置関係を示す情報を基にして、前記対象点群の位置を調整する処理を更に実行し、前記距離値を算出する処理は、調整後の対象点群を基にして、前記距離値を再度算出し、前記誤差値を算出する処理は、調整後の対象点群を基にして、前記誤差値を再度算出することを特徴とする付記1に記載の算出方法。
(付記3)前記除外対象点群を特定する処理は、再度算出された前記距離値および前記誤差値を基にして、前記対象点群から、除外する点群を示す除外対象点群を再度特定することを特徴とする付記2に記載の算出方法。
(付記4)前記位置関係を示す情報を算出する処理は、再度特定された前記除外対象点群を、前記対象点群から除外した対象点群を用いて、前記複数のセンサ間の位置関係を示す情報を再度算出することを特徴とする付記3に記載の算出方法。
(付記5)各時点でのターゲットの点群を基にして、前記複数のセンサ間の位置関係の初期値を算出する処理を更に実行し、前記距離値を算出する処理は、前記初期値を基に調整された各時点でのターゲットの点群を基にして、前記距離値を算出し、前記誤差値を算出する処理は、前記初期値を基に調整された各時点でのターゲットの点群を基にして、前記誤差値を算出することを特徴とする付記1〜4のいずれか一つに記載の算出方法。
(付記6)前記誤差値を算出する処理は、前記第1点群および前記第2点群と、真球の表面との平均二乗誤差、平均二乗誤差、絶対値平均のうち、いずれか一つを、前記誤差値として算出することを特徴とする付記1〜5のいずれか一つに記載の算出方法。
(付記7)コンピュータに、複数のセンサを用いて測定される、各時点でのターゲットの点群を取得し、
前記複数のセンサのうち第1センサを用いて測定された前記ターゲットの点群を示す第1点群と、前記複数のセンサのうち第2センサを用いて測定された前記ターゲットの点群を示す第2点群とを基にして、前記第1点群の中心と前記第2点群の中心との距離を示す距離値を算出し、前記第1点群および前記第2点群と、球の表面との乖離具合を示す誤差値とを算出する処理を、各時点において実行し、
各時点において算出した前記距離値および前記誤差値を基にして、各時点でのターゲットの点群から、除外する点群を示す除外対象点群を特定し
各時点でのターゲットの点群から、前記除外対象点群を除外した点群を示す対象点群を用いて、前記複数のセンサ間の位置関係を示す情報を算出する
処理を実行させることを特徴とする算出プログラム。
(付記8)前記位置関係を示す情報を基にして、前記対象点群の位置を調整する処理を更に実行し、前記距離値を算出する処理は、調整後の対象点群を基にして、前記距離値を再度算出し、前記誤差値を算出する処理は、調整後の対象点群を基にして、前記誤差値を再度算出することを特徴とする付記7に記載の算出プログラム。
(付記9)前記除外対象点群を特定する処理は、再度算出された前記距離値および前記誤差値を基にして、前記対象点群から、除外する点群を示す除外対象点群を再度特定することを特徴とする付記8に記載の算出プログラム。
(付記10)前記位置関係を示す情報を算出する処理は、再度特定された前記除外対象点群を、前記対象点群から除外した対象点群を用いて、前記複数のセンサ間の位置関係を示す情報を再度算出することを特徴とする付記9に記載の算出プログラム。
(付記11)各時点でのターゲットの点群を基にして、前記複数のセンサ間の位置関係の初期値を算出する処理を更に実行し、前記距離値を算出する処理は、前記初期値を基に調整された各時点でのターゲットの点群を基にして、前記距離値を算出し、前記誤差値を算出する処理は、前記初期値を基に調整された各時点でのターゲットの点群を基にして、前記誤差値を算出することを特徴とする付記7〜10のいずれか一つに記載の算出プログラム。
(付記12)前記誤差値を算出する処理は、前記第1点群および前記第2点群と、真球の表面との平均二乗誤差、平均二乗誤差、絶対値平均のうち、いずれか一つを、前記誤差値として算出することを特徴とする付記7〜11のいずれか一つに記載の算出プログラム。
(付記13)複数のセンサを用いて測定される、各時点でのターゲットの点群を取得し、前記複数のセンサのうち第1センサを用いて測定された前記ターゲットの点群を示す第1点群と、前記複数のセンサのうち第2センサを用いて測定された前記ターゲットの点群を示す第2点群とを基にして、前記第1点群の中心と前記第2点群の中心との距離を示す距離値を算出し、前記第1点群および前記第2点群と、球の表面との乖離具合を示す誤差値とを算出する処理を、各時点において実行する算出部と、
各時点において算出した前記距離値および前記誤差値を基にして、各時点でのターゲットの点群から、除外する点群を示す除外対象点群を特定する特定部と、
各時点でのターゲットの点群から、前記除外対象点群を除外した点群を示す対象点群を用いて、前記複数のセンサ間の位置関係を示す情報を算出する外部パラメータ算出部と
を有することを特徴とする情報処理装置。
(付記14)前記外部パラメータ算出部は、前記位置関係を示す情報を基にして、前記対象点群の位置を調整する処理を更に実行し、前記算出部は、調整後の対象点群を基にして、前記距離値を再度算出し、調整後の対象点群を基にして、前記誤差値を再度算出することを特徴とする付記13に記載の情報処理装置。
(付記15)前記特定部は、再度算出された前記距離値および前記誤差値を基にして、前記対象点群から、除外する点群を示す除外対象点群を再度特定することを特徴とする付記14に記載の情報処理装置。
(付記16)前記外部パラメータ算出部は、再度特定された前記除外対象点群を、前記対象点群から除外した対象点群を用いて、前記複数のセンサ間の位置関係を示す情報を再度算出することを特徴とする付記15に記載の情報処理装置。
(付記17)前記外部パラメータ算出部は、各時点でのターゲットの点群を基にして、前記複数のセンサ間の位置関係の初期値を算出する処理を更に実行し、前記算出部(154)は、前記初期値を基に調整された各時点でのターゲットの点群を基にして、前記距離値を算出し、前記初期値を基に調整された各時点でのターゲットの点群を基にして、前記誤差値を算出することを特徴とする付記13〜16のいずれか一つに記載の情報処理装置。
(付記18)前記算出部は、前記第1点群および前記第2点群と、真球の表面との平均二乗誤差、平均二乗誤差、絶対値平均のうち、いずれか一つを、前記誤差値として算出することを特徴とする付記13〜17のいずれか一つに記載の情報処理装置。
10A,10B,10C,10D センサ
100 情報処理装置
110 通信部
120 入力部
130 表示部
140 記憶部
141 背景画像テーブル
142 検出結果テーブル
143 外部パラメータテーブル
150 制御部
151 取得部
152 変換部
153 外部パラメータ算出部
154 算出部
155 特定部
156 統合部
157 フィッティング処理部
158 評価部

Claims (8)

  1. コンピュータが実行する算出方法であって、
    複数のセンサを用いて測定される、各時点でのターゲットの点群を取得し、
    前記複数のセンサのうち第1センサを用いて測定された前記ターゲットの点群を示す第1点群と、前記複数のセンサのうち第2センサを用いて測定された前記ターゲットの点群を示す第2点群とを基にして、前記第1点群の中心と前記第2点群の中心との距離を示す距離値を算出し、前記第1点群および前記第2点群と、球の表面との乖離具合を示す誤差値とを算出する処理を、各時点において実行し、
    各時点において算出した前記距離値および前記誤差値を基にして、各時点でのターゲットの点群から、除外する点群を示す除外対象点群を特定し
    各時点でのターゲットの点群から、前記除外対象点群を除外した点群を示す対象点群を用いて、前記複数のセンサ間の位置関係を示す情報を算出する
    処理を実行することを特徴とする算出方法。
  2. 前記位置関係を示す情報を基にして、前記対象点群の位置を調整する処理を更に実行し、前記距離値を算出する処理は、調整後の対象点群を基にして、前記距離値を再度算出し、前記誤差値を算出する処理は、調整後の対象点群を基にして、前記誤差値を再度算出することを特徴とする請求項1に記載の算出方法。
  3. 前記除外対象点群を特定する処理は、再度算出された前記距離値および前記誤差値を基にして、前記対象点群から、除外する点群を示す除外対象点群を再度特定することを特徴とする請求項2に記載の算出方法。
  4. 前記位置関係を示す情報を算出する処理は、再度特定された前記除外対象点群を、前記対象点群から除外した対象点群を用いて、前記複数のセンサ間の位置関係を示す情報を再度算出することを特徴とする請求項3に記載の算出方法。
  5. 各時点でのターゲットの点群を基にして、前記複数のセンサ間の位置関係の初期値を算出する処理を更に実行し、前記距離値を算出する処理は、前記初期値を基に調整された各時点でのターゲットの点群を基にして、前記距離値を算出し、前記誤差値を算出する処理は、前記初期値を基に調整された各時点でのターゲットの点群を基にして、前記誤差値を算出することを特徴とする請求項1〜4のいずれか一つに記載の算出方法。
  6. 前記誤差値を算出する処理は、前記第1点群および前記第2点群と、真球の表面との平均二乗誤差、平均二乗誤差、絶対値平均のうち、いずれか一つを、前記誤差値として算出することを特徴とする請求項1〜5のいずれか一つに記載の算出方法。
  7. コンピュータに、複数のセンサを用いて測定される、各時点でのターゲットの点群を取得し、
    前記複数のセンサのうち第1センサを用いて測定された前記ターゲットの点群を示す第1点群と、前記複数のセンサのうち第2センサを用いて測定された前記ターゲットの点群を示す第2点群とを基にして、前記第1点群の中心と前記第2点群の中心との距離を示す距離値を算出し、前記第1点群および前記第2点群と、球の表面との乖離具合を示す誤差値とを算出する処理を、各時点において実行し、
    各時点において算出した前記距離値および前記誤差値を基にして、各時点でのターゲットの点群から、除外する点群を示す除外対象点群を特定し
    各時点でのターゲットの点群から、前記除外対象点群を除外した点群を示す対象点群を用いて、前記複数のセンサ間の位置関係を示す情報を算出する
    処理を実行させることを特徴とする算出プログラム。
  8. 複数のセンサを用いて測定される、各時点でのターゲットの点群を取得し、前記複数のセンサのうち第1センサを用いて測定された前記ターゲットの点群を示す第1点群と、前記複数のセンサのうち第2センサを用いて測定された前記ターゲットの点群を示す第2点群とを基にして、前記第1点群の中心と前記第2点群の中心との距離を示す距離値を算出し、前記第1点群および前記第2点群と、球の表面との乖離具合を示す誤差値とを算出する処理を、各時点において実行する算出部と、
    各時点において算出した前記距離値および前記誤差値を基にして、各時点でのターゲットの点群から、除外する点群を示す除外対象点群を特定する特定部と、
    各時点でのターゲットの点群から、前記除外対象点群を除外した点群を示す対象点群を用いて、前記複数のセンサ間の位置関係を示す情報を算出する外部パラメータ算出部と
    を有することを特徴とする情報処理装置。
JP2020100785A 2020-06-10 2020-06-10 算出方法、算出プログラムおよび情報処理装置 Withdrawn JP2021196691A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020100785A JP2021196691A (ja) 2020-06-10 2020-06-10 算出方法、算出プログラムおよび情報処理装置
EP21165877.8A EP3923240A3 (en) 2020-06-10 2021-03-30 Calculation method, calculation program, and information processing apparatus
US17/220,184 US20210389122A1 (en) 2020-06-10 2021-04-01 Calculation method, non-transitory computer-readable storage medium, and information processing apparatus
CN202110393902.6A CN113781572A (zh) 2020-06-10 2021-04-13 计算方法、计算程序和信息处理设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020100785A JP2021196691A (ja) 2020-06-10 2020-06-10 算出方法、算出プログラムおよび情報処理装置

Publications (1)

Publication Number Publication Date
JP2021196691A true JP2021196691A (ja) 2021-12-27

Family

ID=75302302

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020100785A Withdrawn JP2021196691A (ja) 2020-06-10 2020-06-10 算出方法、算出プログラムおよび情報処理装置

Country Status (4)

Country Link
US (1) US20210389122A1 (ja)
EP (1) EP3923240A3 (ja)
JP (1) JP2021196691A (ja)
CN (1) CN113781572A (ja)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6164679B2 (ja) * 2012-10-30 2017-07-19 株式会社Halデザイン研究所 カメラのキャリブレーション方法及びカメラのキャリブレーション装置
WO2016135985A1 (ja) * 2015-02-27 2016-09-01 富士通株式会社 情報提供方法、情報提供プログラム、情報提供装置、情報処理装置及び情報提供システム
JP6480824B2 (ja) * 2015-07-27 2019-03-13 株式会社日立製作所 距離画像センサのパラメータ調整方法、パラメータ調整装置、およびエレベータシステム
CN107214692B (zh) * 2016-03-22 2020-04-03 泰科电子(上海)有限公司 机器人系统的自动标定方法
WO2018048353A1 (en) * 2016-09-09 2018-03-15 Nanyang Technological University Simultaneous localization and mapping methods and apparatus
JP2018132319A (ja) * 2017-02-13 2018-08-23 キヤノン株式会社 情報処理装置、及び、情報処理装置の制御方法、コンピュータプログラム、記憶媒体
JP2019086476A (ja) 2017-11-09 2019-06-06 キヤノン株式会社 画像処理装置、画像処理方法、プログラムおよびキャリブレーション用具
JP7097709B2 (ja) * 2018-02-01 2022-07-08 株式会社トプコン 測量システム
JP6857161B2 (ja) * 2018-08-27 2021-04-14 朝日航洋株式会社 有効距離取得方法、及び、レーザ計測方法

Also Published As

Publication number Publication date
EP3923240A3 (en) 2022-03-16
US20210389122A1 (en) 2021-12-16
CN113781572A (zh) 2021-12-10
EP3923240A2 (en) 2021-12-15

Similar Documents

Publication Publication Date Title
WO2018070414A1 (ja) 運動認識装置、運動認識プログラムおよび運動認識方法
TWI417769B (zh) 用於檢測觸碰點的方法與設備
CN113164098A (zh) 人类步态分析系统和方法
CN107543530B (zh) 用于测量球的旋转的方法、系统及非暂时性计算机可读记录介质
US20200286286A1 (en) Tracking rigged polygon-mesh models of articulated objects
CN109448025B (zh) 视频中短道速滑运动员的自动跟踪与轨迹建模方法
KR101733116B1 (ko) 고속 스테레오 카메라를 이용한 구형 물체의 비행 정보 측정 시스템 및 방법
JP2017055913A (ja) 動作フォーム判定装置、判定方法、判定プログラム、判定システム
JP2017510427A (ja) 放射線画像の肺野セグメンテーション技術及び骨減弱技術
US10587797B2 (en) Method, system and non-transitory computer-readable recording medium for compensating brightness of ball images
CN114081536B (zh) 鼻咽拭子采样方法、装置、电子设备及存储介质
CN107014396A (zh) 精确测量视频中目标人的鞋长与步幅的方法
CN114360043B (zh) 模型参数标定方法、视线追踪方法、装置、介质及设备
TWI591514B (zh) 手勢創建系統及方法
KR20210123177A (ko) 압력을 이용한 운동 자세 구분 방법 및 장치
JP2021196691A (ja) 算出方法、算出プログラムおよび情報処理装置
CN102034248B (zh) 单目图像序列的运动分割和3d表达方法
JP6676785B2 (ja) バーチャル環境表示における視方向の設定方法
CN105512691B (zh) 一种目标分类器自适应更新方法及装置
US20210228943A1 (en) Skill level determination and management system and method
US20200008713A1 (en) Walking support system, walking support method, and program
WO2021064925A1 (ja) 生成方法、生成プログラムおよび情報処理装置
JP6710961B2 (ja) ゴルフスイングの解析方法
JP2005251123A (ja) 画像処理装置および画像処理方法
JP7268754B2 (ja) 評価方法、評価プログラムおよび情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230309

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20240129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240131