JP2015137887A - 変化形状測定装置、変化形状測定方法、および変化形状測定装置用プログラム - Google Patents
変化形状測定装置、変化形状測定方法、および変化形状測定装置用プログラム Download PDFInfo
- Publication number
- JP2015137887A JP2015137887A JP2014008497A JP2014008497A JP2015137887A JP 2015137887 A JP2015137887 A JP 2015137887A JP 2014008497 A JP2014008497 A JP 2014008497A JP 2014008497 A JP2014008497 A JP 2014008497A JP 2015137887 A JP2015137887 A JP 2015137887A
- Authority
- JP
- Japan
- Prior art keywords
- error
- change shape
- shape
- target object
- camera unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【課題】測定中に形状が変化するような物体の三次元測定の誤差及び変化形状を時間軸に沿って測定、可視化する変化形状測定装置を提供する。
【解決手段】周囲の物体までの距離を測定するためのカメラ部12を備え、対象物体30の三次元形状を測定する際の誤差を測定する変化形状測定装置は、前記カメラ部12から、周囲の物体の各点までの距離を、距離画像として生成するとともに、現在の前記カメラ部の姿勢を推定し、前記推定された姿勢を基準に推定された前記対象物体の形状と、前記距離画像から抽出された対象物体の形状とを比較し、誤差を検出し、前記誤差を画像として生成し、表示部に表示する。
【選択図】図1
【解決手段】周囲の物体までの距離を測定するためのカメラ部12を備え、対象物体30の三次元形状を測定する際の誤差を測定する変化形状測定装置は、前記カメラ部12から、周囲の物体の各点までの距離を、距離画像として生成するとともに、現在の前記カメラ部の姿勢を推定し、前記推定された姿勢を基準に推定された前記対象物体の形状と、前記距離画像から抽出された対象物体の形状とを比較し、誤差を検出し、前記誤差を画像として生成し、表示部に表示する。
【選択図】図1
Description
本発明は、三次元の物体の計測において、計測の誤差及び計測対象物体の変化形状をリアルタイムに測定し、可視化する変化形状測定装置、変化形状測定方法、および変化形状測定装置用プログラムに関する。
近年、リモコンの動作を検知したり、手足の身振りを入力として検知したりといった、三次元測定技術が家庭にも普及し始めている。入力装置の一例として、赤外線カメラと赤外線を出力する赤外線源を搭載する装置が普及している。赤外線源から出力された赤外線が物体によって反射し、赤外線カメラによって検知されることで、物体の三次元的な位置や形状を把握することができる。
そこで、物体の形状を把握するに際し、より精度よく測定したいという需要が高まっている。そのような課題に対して、複数の赤外線カメラを利用することで衣服を着用したまま被測定者の寸法を測定する方法が開示されている。
特許文献1によれば、衣服を着用した被測定者10を背景とともに複数の赤外線カメラ20で撮影し、得られた物体画像からPC30を用いて視点の異なる複数の輪郭画像を生成し、これらの輪郭画像から被測定者10のボクセルデータを抽出する。被測定者10が着用している衣服及び背景は、被測定者10の体温より低いので輪郭画像を生成すると被測定者10自身の輪郭を抽出することができる。結果、衣服を着用したままで被測定者10の寸法を測定することができる。
しかしながら、特許文献1の構成は、物体の周囲を囲うようにカメラを設置する必要があり、例えば建造物のように大きな物体を三次元スキャンする場合には、カメラを数十、数百台の単位で並べる必要があるため、現実的でないという課題がある。また、特許文献1において開示されているように、物体を回転させながら一台のカメラで計測する場合にも、回転台に乗せられる対象物に限られるという課題があり、例えば建造物のように大きな物体を三次元スキャンする場合は、何らかの方法で対象とカメラとの位置関係を計測又は推定する必要があるという課題がある。
そこで、対象の大小に関わらず、一台のカメラで三次元スキャンするという課題に対して、カメラから得られた画像を元に、対象とカメラとの位置関係とカメラとの位置関係を逐次推定する方法が開示されている。
特許文献2によれば、撮影した一連の画像を重ね合わせながら、重複部分の誤差が最少になるように整合性を取ることで、対象とカメラの位置関係の推定及び三次元形状を復元することができる。
しかしながら、スキャン開始からの時間経過により、対象が変形してしまったり、対象以外の物体がカメラに映り込んでしまったり、又は環境光の強度や入射角度が変わってしまったなどの影響で、スキャン開始当初に撮影した画像との辻褄が合わなくなってしまった場合、画像の重ね合わせでは解消できない誤差が残り、スキャン精度の悪化につながるという課題がある。
本課題は、対象が大きいほど、又はスキャン作業の期間が長くなるほど、顕著な課題となる。そこで本発明の発明者は、カメラの姿勢推定時の誤差を、物体の変化形状とセンサノイズに区別することで、解消できない誤差を取り除き、誤差の無い画像の重ね合わせが可能となるとともに、カメラと対象の位置関係の推定精度が向上し、より高精度な三次元形状の復元が可能となる点に着目した。
また、本発明の発明者は、カメラと対象の位置関係の推定精度が上がることで、誤差の原因となる変化について、より高精度な三次元形状の復元が可能となる点に着目した。さらに、変化形状を別途復元することで、対象の変化なのか、環境の変化なのかを分析できるようになり、対象の部分的な再スキャンの実施や、またはスキャン環境の改善が可能になる点にも着目した。
本発明は、これらの課題に鑑み、三次元の物体の計測において、解消できない誤差を検出し、予め撮影画像から打ち消すために、解消できない誤差の原因となる変化形状を測定する変化形状測定装置、変化形状測定方法、および変化形状測定装置用プログラムを提供することを目的とする。
本発明では、以下のような解決手段を提供する。
第1の特徴に係る発明は、周囲の物体までの距離を測定するためのカメラ部を備え、対象物体の三次元形状を測定する際の誤差を測定する変化形状測定装置であって、
前記カメラ部から、周囲の物体の各点までの距離を、距離画像として生成する距離画像生成手段と、
現在の前記カメラ部の姿勢を推定するカメラ姿勢推定手段と、
前記推定された前記カメラ部の姿勢を基準に推定された前記対象物体と、前記距離画像に基づく対象物体の形状とを比較し、誤差を検出する誤差検出手段と、
を備える変化形状測定装置を提供する。
前記カメラ部から、周囲の物体の各点までの距離を、距離画像として生成する距離画像生成手段と、
現在の前記カメラ部の姿勢を推定するカメラ姿勢推定手段と、
前記推定された前記カメラ部の姿勢を基準に推定された前記対象物体と、前記距離画像に基づく対象物体の形状とを比較し、誤差を検出する誤差検出手段と、
を備える変化形状測定装置を提供する。
第1の特徴に係る発明によれば、周囲の物体までの距離を測定するためのカメラ部を備え、対象物体の三次元形状を測定する際の誤差を測定する変化形状測定装置は、前記カメラ部から、周囲の物体の各点までの距離を、距離画像として生成し、現在の前記カメラ部の姿勢を推定し、前記推定された前記カメラ部の姿勢を基準に推定された前記対象物体と、前記距離画像に基づく対象物体の形状とを比較し、誤差を検出する。
第1の特徴に係る発明は、変化形状測定装置のカテゴリであるが、変化形状測定方法、及び変化形状測定装置用プログラムであっても、カテゴリに応じた同様の作用、効果を奏する。
第2の特徴に係る発明は、前記算出した誤差を、位置情報に基づきクラスタリングすることで、各点のまとまりとして捉える誤差クラスタリング手段と、
前記まとまりを前記距離画像から差し引いた後、前記誤差を検出できなくなった場合は、当該まとまりを誤差の原因となった変化の形状であると確定する変化形状確定手段と、
を備えることを特徴とした第1の特徴に係る発明である変化形状測定装置を提供する。
前記まとまりを前記距離画像から差し引いた後、前記誤差を検出できなくなった場合は、当該まとまりを誤差の原因となった変化の形状であると確定する変化形状確定手段と、
を備えることを特徴とした第1の特徴に係る発明である変化形状測定装置を提供する。
第2の特徴に係る発明によれば、第1の特徴に係る発明である変化形状測定装置は、前記算出した誤差を、位置情報に基づきクラスタリングすることで、各点のまとまりとして捉え、前記まとまりを前記距離画像から差し引いた後、前記誤差を検出できなくなった場合は、当該まとまりを誤差の原因となった変化の形状であると確定する。
第3の特徴に係る発明は、前記カメラ部の姿勢を基準として、前記確定した変化形状の三次元形状を正規格子上の立方体の集合として復元する変化形状復元手段と、
を備えることを特徴とした第2の特徴に係る発明である変化形状測定装置を提供する。
を備えることを特徴とした第2の特徴に係る発明である変化形状測定装置を提供する。
第3の特徴に係る発明によれば、第2の特徴に係る発明である変化形状測定装置は、前記カメラ部の姿勢を基準として、前記確定した変化形状の三次元形状を正規格子上の立方体の集合として復元する。
第4の特徴に係る発明は、前記誤差の算出基準となる三次元データを読み込む基準データ読み込み手段と、
所定の頻度以上で測定された誤差を、基準データからの変化形状であるとして検出する形状変化検出手段と、
を備えることを特徴とした第1から第3のいずれかの特徴に係る発明である変化形状測定装置を提供する。
所定の頻度以上で測定された誤差を、基準データからの変化形状であるとして検出する形状変化検出手段と、
を備えることを特徴とした第1から第3のいずれかの特徴に係る発明である変化形状測定装置を提供する。
第4の特徴に係る発明によれば、第1から第3のいずれかの特徴に係る発明である変化形状測定装置は、前記誤差の算出基準となる三次元データを読み込み、所定の頻度以上で測定された誤差を、基準データからの変化形状であるとして検出する。
第5の特徴に係る発明は、前記検出した誤差又は変化形状を、変形のタイミングに係る情報とともに出力し、又は記憶部に記憶させる検出内容出力手段と、
を備えることを特徴とした第1から第4のいずれかの特徴に係る発明である変化形状測定装置を提供する。
を備えることを特徴とした第1から第4のいずれかの特徴に係る発明である変化形状測定装置を提供する。
第5の特徴に係る発明によれば、第1から第4のいずれかの特徴に係る発明である変化形状測定装置は、前記検出した誤差又は変化形状を、変形のタイミングに係る情報とともに出力し、又は記憶部に記憶させる。
第6の特徴に係る発明は、周囲の物体までの距離を測定するためのカメラ部を備え、対象物体の三次元形状を測定する際の誤差を測定する変化形状測定装置が実行する変化形状測定方法であって、
前記カメラ部から、周囲の物体の各点までの距離を、距離画像として生成するステップと、
現在の前記カメラ部の姿勢を推定するステップと、
前記推定された前記カメラ部の姿勢を基準に推定された前記対象物体と、前記距離画像に基づく対象物体の形状とを比較し、誤差を検出するステップと、
を備える変化形状測定方法を提供する。
前記カメラ部から、周囲の物体の各点までの距離を、距離画像として生成するステップと、
現在の前記カメラ部の姿勢を推定するステップと、
前記推定された前記カメラ部の姿勢を基準に推定された前記対象物体と、前記距離画像に基づく対象物体の形状とを比較し、誤差を検出するステップと、
を備える変化形状測定方法を提供する。
第7の特徴に係る発明は、周囲の物体までの距離を測定するためのカメラ部を備え、対象物体の三次元形状を測定する際の誤差を測定する変化形状測定装置に、
前記カメラ部から、周囲の物体の各点までの距離を、距離画像として生成するステップ、
現在の前記カメラ部の姿勢を推定するステップ、
前記推定された前記カメラ部の姿勢を基準に推定された前記対象物体と、前記距離画像に基づく対象物体の形状とを比較し、誤差を検出するステップ、
を実行させるための変化形状測定装置用プログラムを提供する。
前記カメラ部から、周囲の物体の各点までの距離を、距離画像として生成するステップ、
現在の前記カメラ部の姿勢を推定するステップ、
前記推定された前記カメラ部の姿勢を基準に推定された前記対象物体と、前記距離画像に基づく対象物体の形状とを比較し、誤差を検出するステップ、
を実行させるための変化形状測定装置用プログラムを提供する。
本発明によれば、三次元の物体の計測において、解消できない誤差を検出し、予め撮影画像から打ち消すために、解消できない誤差の原因となる変化形状を測定する変化形状測定装置、変化形状測定方法、および変化形状測定装置用プログラムを提供することが可能となる。
以下、本発明を実施するための最良の形態について図を参照しながら説明する。なお、これはあくまでも一例であって、本発明の技術的範囲はこれに限られるものではない。
[変化形状測定装置10の概要]
図1は、本発明の好適な実施形態である変化形状測定装置10の概要を説明するための図である。この図1に基づいて、変化形状測定装置10の概要を説明する。
図1は、本発明の好適な実施形態である変化形状測定装置10の概要を説明するための図である。この図1に基づいて、変化形状測定装置10の概要を説明する。
変化形状測定装置10は、制御・記憶部11と、カメラ部12と、出力部13により構成される。図1においては、制御・記憶部11は省略されている。変化形状測定装置10は、測定の対象となる対象物体30に相対して設置されている。
はじめに、変化形状測定装置10は、変化形状測定の基準となるデータを作成するため、対象物体30の三次元構造を測定する(ステップS01)。測定の基本原理としては、特定のパターンで赤外線を送信し、対象物にぶつかって跳ね返ってきた赤外線をカメラで受信する過程を通じ、受信時のパターンと受信までにかかる時間とで、物体までの三次元距離を推定することができる。
また、対象物体30はカメラに対して移動が可能である。そのため、カメラは、物体を正面からのみならず、様々な角度から測定することが可能である。もちろん、カメラ自体を動かしてもよく、相対的に移動が発生すればよい。
対象物体30が移動や回転をした後に測定を行うと(ステップS02)、カメラから見た物体の距離は著しく変化することになる。そこで、カメラは直前の測定と、今回の測定との間で、各点同士を仮に対応させ、その三次元距離の総和が最も小さくなるようなカメラの姿勢を推定する。
その結果、今回の測定で、推定されたカメラの位置から測定した各点と、直前の測定との間で、各点には差異が生じることになる。本発明はこの変化を、測定誤差であるとして検出する。
次に、変化形状測定装置10は検出した誤差を可視化し、画面表示する(ステップS03)。そうすることで、行われた処理によりどこの部分の体積が増加し、どこの部分の体積が減少したのか、容易に把握可能となる。
また、ステップS01とS02を繰り返す事で、測定誤差はリアルタイムに更新され、画面表示もリアルタイムで切り替えることが可能となる(ステップS05)。一方で、所定の頻度を超えて検出される誤差については、誤差ではなく対象物体30そのものの変化であるとして、出力を行う。
なお、一度目の測定を行わず、三次元データを直接読み込んでもよい。例えば、工場で生産される部品の、設計図となる三次元モデルを読み込んだとする。その後、実際に生産された部品を測定し、設計図との誤差を算出することで、製品の異常を発見したり、生産機械の精度を推定したりすることがリアルタイムで可能となる。以上が、変化形状測定装置10の概要である。
[変化形状測定装置10のシステム構成]
図2は、変化形状測定装置10の全体構成図である。前述のとおり、変化形状測定装置10は、制御・記憶部11と、カメラ部12と、出力部13によって構成される。
図2は、変化形状測定装置10の全体構成図である。前述のとおり、変化形状測定装置10は、制御・記憶部11と、カメラ部12と、出力部13によって構成される。
[各機能の説明]
図3は、変化形状測定装置10の機能ブロックと各機能の関係を示す図である。
図3は、変化形状測定装置10の機能ブロックと各機能の関係を示す図である。
変化形状測定装置10は、制御・記憶部11として、CPU(Central Processing Unit),RAM(Random Access Memory),ROM(Read Only Memory)等を備えるとともに、ハードディスクや半導体メモリによる、データのストレージ部を備える。また、変化形状測定装置10は、カメラ部12として、物体までの三次元距離を測定可能なカメラを備える。カメラは、例えば、特定のパターンで赤外線を送信する赤外線送信部と、少し離れて設置された赤外線受信部とで構成される。また、変化形状測定装置10は、例えば画面やスピーカーといった各種出力が可能な出力部13を備える。
変化形状測定装置10において、制御・記憶部11が所定のプログラムを読み込むことで、カメラ部12と協働して、基準データ読み込みモジュール14、距離画像生成モジュール15、対象物体抽出モジュール16、カメラ姿勢推定モジュール17、誤差検出モジュール18、誤差クラスタリングモジュール19、変化形状確定モジュール20、変化形状復元モジュール21、形状変化検出モジュール22を実現する。また、変化形状測定装置10において、制御・記憶部11が所定のプログラムを読み込むことで、出力部13と協働して、誤差画像表示モジュール23、検出内容出力モジュール24を実現する。
[変化形状測定処理]
図4は、変化形状測定装置10が実行する変化形状測定処理のフローチャートである。上述した各装置のモジュールが行う処理について、本処理にて併せて説明する。
図4は、変化形状測定装置10が実行する変化形状測定処理のフローチャートである。上述した各装置のモジュールが行う処理について、本処理にて併せて説明する。
初めに、変化形状測定装置10の基準データ読み込みモジュール14は、変化形状測定の基準となる基準データを読み込む(ステップS11)。なお、基準データの読み込みが必要ない場合には、データを読み込まず一度目の測定を行い、それを基準データとしてもよい。
次に、基準データ読み込みモジュール14は、読み込んだデータをボクセルと呼ばれるデータ構造に変換する(ステップS12)。ボクセルは、ピクセルを三次元に拡張した概念であり、空間内における座標を持たないものの、三次元正規直行座標を相対的に表すことができる。例えば、物体の表面の形状をボクセルで表すことができる。
次に、変化形状測定装置10の距離画像生成モジュールは、物体までの距離画像を生成する(ステップS13)。これは、赤外線送信部が特定のパターンで赤外線を送信し、物体の表面に当たり跳ね返ってきたところをカメラ部が受信することで、パターンと受信までにかかった時間から、物体までの距離を測定し、カメラから見た距離を色の濃さとして画像に表したものである。しかしながら、この状態では、単にカメラから見た深度マップに過ぎず、物体と物体の境界は定かではない。
図6は、作成された距離画像の一例である。辺61の側は濃く、辺62の側は色が薄くなっている。ここから、相対的に下側が手前に位置することが分かる。円63は、球か円柱かは不明であるが、非常に手前に位置していることが分かる。一方で四角形64は、円63よりもかなり遠くに位置している事が分かる。四角形64は、立方体を真正面から見ているかもしれないし、地面に垂直に立った張りぼてであるかもしれないが、遠くにあることだけが分かる。実際には、距離画像は更に複雑で重なり合っており、物体を背景から分離して認識することが困難であることも多い。
その下で、対象物体抽出モジュール16は、距離画像から対象物体を抽出する(ステップS14)。具体的な処理の一例として、初めに、距離画像の各ピクセルを周囲のピクセルの平均値としてスムージングすることにより、ノイズを除去する。その後、blob処理を行うことで、背景と前景とが分離でき、最もカメラの正面に近い物体を対象物体30とすることで、背景と対象物体30との境界を明らかにすることができる。
また、計測対象である対象物体30の特徴が予め分かっている場合には、それを用いて抽出することも可能である。例えば、対象物体30が顔である場合には、顔認識のアルゴリズムを適用することで、対象物体30を背景から抽出することが可能である。
なお、対象物体30のおおよその場所が分かった後は、距離画像を「対象物体30」と「背景」に分けてラベリングするとともに、対象画像にエッジ検出処理をかけ、輪郭を抽出してよい。そして、前景及び背景をそれぞれ縮退し、対象物体の輪郭が、前景でも背景でもない「未定義(ラベルなし)」となるようにした後に、セグメンテーション処理により、「未定義」領域を前景又は背景に決定することで、前景と背景の境界線を対象物体の輪郭として確定する。
次に、カメラ姿勢推定モジュール17は、カメラ姿勢の推定を試みる(ステップS15)。ここで姿勢を推定できない場合は、姿勢の推定が可能になるまでステップS13からステップS15までの処理を試みる(ステップS15:「NO」の場合)。一方、カメラの姿勢が推定できる場合(ステップS15:「YES」の場合)にはそのまま変化形状復元処理を実行する(ステップS16)。
図7は、カメラの姿勢推定を説明する為の概要図である。点71を含み、左側に位置する点群が基準データであり、点72を含み、右側に位置する点群が最新の計測データであるとする。ここで、基準データを基準とした計測データを計測した時のカメラの姿勢を回転行列R76と並進ベクトルt77により推定する。ここで、この図においては物体の方が回転、並進していることに注意する。ただし、移動は相対的なものなので、本質的には同じ考えが適用される。
すなわち、点71を点72に移動させ、点73を点74に移動させるRとtを考える。ここでは、点群の裏にも点があるものとし、点73は点75ではなく点74に移動したものと考える。移動の前は、カメラの向きと位置は紙面と垂直な位置であり、図を見る人の目と同じ向きである。一方、移動後は、点78のような向きになっている。このような移動をおこさせるRとtを推定する方法について考える。
ここで、カメラの姿勢推定には種々のアルゴリズムがあるが、中でもICPと呼ばれるアルゴリズムが広く用いられている。ここでICPについて簡単に説明すると、基準となるモデルデータにおける対象物体30の各点と、今回測定した距離画像から抽出された対象物体30の各点を、点yと点xとして、仮に対応させる。このとき、yとxの対応が正しければ、カメラの回転行列Rと並進ベクトルtを用いて、各点iについてyi=Rxi+tと書ける。
ICPアルゴリズムでは、適切なRとtを求めるために、(yi-Rxi+t)の二乗を各点iについて足し合わせた総和の最小化問題を解く。これは単なる最適化問題に過ぎないので、例えばx,yを行列で表現した上でLagrangeの未定乗数法を使えば、求めるRとtが算出できる。ただし、求められたRは必ずしも真なるカメラの回転行列とは限らず、なぜならxとyの対応は必ずしも正しいとは限らないためである。よって、例えば、最小化される目的関数に閾値を設け、最小値が所定の閾値より小さくなった場合には、Rとtが正しく推定され、カメラの姿勢の推定に成功したものと見なせばよい(ステップS15:「YES」の場合)。
[変化形状復元処理]
図5は、変化形状測定装置10が実行する変化形状復元処理のフローチャートである。上述した各装置のモジュールが行う処理について、本処理にて併せて説明する。
図5は、変化形状測定装置10が実行する変化形状復元処理のフローチャートである。上述した各装置のモジュールが行う処理について、本処理にて併せて説明する。
前提として、本処理が実行されるときは変化形状測定処理において、カメラ位置の推定が成功しているものとする。ここで、誤差検出モジュール18は、推定されたカメラ位置から推定した対象物体30の各点が、基準となる対象物体30の各点から所定の閾値以上離れていた場合には、それを誤差として検出する(ステップS21)。これは先述の点yと点xを比較することに他ならない。
一方で、誤差の検出は、推定されたカメラの位置からの推定距離画像を生成し、実測の距離画像と差分を取る事によって行ってもよい。その場合は、各ピクセルにおける距離を表す色濃度の差を算出するだけでよい。
次に、誤差クラスタリングモジュール19は、先ほど誤差として検出した各点をクラスタリングする(ステップS22)。クラスタリングにも様々なアルゴリズムがあるが、例えばK-means法を用いてよい。ここでは、所定の個数以下のクラスタはノイズとして無視する。また、K-meansにおけるK値はこの所定の個数と、検出された誤差となる点の数に基づいて決定されてよい。
クラスタリングの結果、孤立した誤差は無視され、ある程度のまとまりを持った各点が誤差として検出されることになる。この後、当該誤差が計測誤差であるか、あるいは変化形状であるかの判断を行うにあたり、二種類の処理について説明する。
初めに、フローチャート右側に分岐した場合について説明する。ここで、変化形状確定モジュール20は、撮影された距離画像から、先ほどのクラスタリングの結果である点のまとまりそれぞれについて、距離を減算する(ステップS23)。結果、まとまりを構成する点が撮影された部分の点については、距離がゼロとして扱われるため、誤差の算出ににおいて除外されることとなる。
ここで、減算処理の後で誤差がなおも検出される場合(ステップS24:「YES」の場合)には、カメラ姿勢が確定されないため、今回は復元を行わず処理を終了する。一方、誤差が検出されなくなった場合(ステップS24:「NO」の場合)には、減算したまとまりを、誤差の原因となった変化形状として確定する。
そして、変化形状復元モジュール21は、確定した変化形状をボクセルとして復元する(ステップS25)。ここで、ボクセルとはピクセルを三次元に拡張した概念であり、立体を表すための三次元の立方格子である。以上の処理により、変化形状の復元が成される。
なお、このボクセルの変化は、測定対象の変化と、環境の変化により構成されており、それぞれにおいて数値的特徴が異なる。すなわち、測定対象の変化の場合、カメラとの位置関係が変化しないため、特定のボクセルに誤差が格納される。また、対象を超えるサイズの変化はありえないため、面積は小さくなり、対象とその変化は隣接する。
具体的には、測定対象の変化の場合、ボクセル密度については、一ボクセル当たりに含まれる点の数が測定対象と同等であって、ボクセル面積については、まとまりを構成するボクセルの総数が対象よりも小さく、ボクセル位置については、まとまりを構成するボクセルが、対象表面に隣接すると考えられる。
次に、フローチャート左側に分岐した場合について説明する。
誤差画像表示モジュール23は、前記検出し、クラスタリングした誤差を出力部に表示する(ステップS26)。例えば、元データに重ね合わせて、誤差部分が表示されてよい。ここでは、カメラの距離センサーの焦点距離fが分かれば、1ピクセルが1mmに相当する距離が分かるので、距離画像を基に各点の3次元位置情報を得ることが可能となる。このとき、誤差部分の3次元位置情報を利用することで、当該誤差部分の体積が算出されてもよい。
誤差画像表示モジュール23は、前記検出し、クラスタリングした誤差を出力部に表示する(ステップS26)。例えば、元データに重ね合わせて、誤差部分が表示されてよい。ここでは、カメラの距離センサーの焦点距離fが分かれば、1ピクセルが1mmに相当する距離が分かるので、距離画像を基に各点の3次元位置情報を得ることが可能となる。このとき、誤差部分の3次元位置情報を利用することで、当該誤差部分の体積が算出されてもよい。
ここで、変化形状測定装置10の検出内容出力モジュール24は、誤差の検出を行った際のタイミングに関する情報を特定する(ステップS27)。タイミングに関する情報とは、誤差が検出された瞬間を、例えば時刻のように絶対的な指標で特定したり、測定開始からの経過秒数といった相対的な指標で特定したりする。その結果、三次元データである検出内容と、時間軸の情報との組み合わせにより、変化形状測定装置10が扱う情報は四次元のデータとなる。
ところで、同じような誤差が、短時間に同じ場所に繰り返し検出されるような場合には、それはもはや誤差ではなく、対象物体30自体の形状が変化したものと考えた方が自然である。そこで、形状変化検出モジュール22は、誤差が所定の頻度以上で検出されるか否かを判断する(ステップS28)。この判断は、クラスタリングに含まれる誤差各点について行ってもよいし、クラスタ単位で行っても良い。
誤差の検出が所定の頻度以下である場合(ステップS28:「NO」の場合)には、変化形状測定装置10の検出内容出力モジュール24は、検出した誤差を、先ほど特定したタイミングに関する情報とともに出力し、又は記憶部に記憶させる(ステップS29)。ここで出力とは、画面上に立体図やグラフで可視化する場合のみならず、別の端末やサーバのAPIと通信を行う等、目に見えない形式で出力を行う場合も含まれる。また、記憶部に記憶させる場合も、得られたデータをそのまま記憶させてもよいし、可視化等の加工を加えた上で記憶させてもよい。
一方で、誤差の検出が所定の頻度以上である場合(ステップS28:「YES」の場合)には、それを対象物体30の変化形状であるとみなし、変化形状測定装置10の検出内容出力モジュール24は、特定したタイミングに関する情報とともに、誤差と同様変化形状として出力し、又は記憶部に記憶させる(ステップS30)。出力の形式については、誤差の場合と同様である。
以上が、変化形状復元処理の手順である。変化形状測定処理に戻り、測定を継続するか否かを判断する(ステップS17)。測定を終了する場合(ステップS17:「NO」の場合)には、そのまま変化形状測定処理を終了する。一方、測定を継続する場合(ステップS17:「YES」の場合)には、ステップS13の直前に戻り、距離画像の生成から処理を再開する。
以上のループにより、誤差の測定及び可視化は連続で行われることになる。そうすることで、出力部において、誤差や対象物体30の変化をリアルタイムで可視化、確認することが可能となる。以上が、変化形状測定処理の手順である。
上述した手段、機能は、コンピュータ(CPU,情報処理装置,各種端末を含む)が、所定のプログラムを読み込んで、実行することによって実現される。プログラムは、例えば、フレキシブルディスク、CD(CD−ROMなど)、DVD(DVD−ROM、DVD−RAMなど)等のコンピュータ読取可能な記録媒体に記録された形態で提供される。この場合、コンピュータはその記録媒体からプログラムを読み取って内部記憶装置または外部記憶装置に転送し記憶して実行する。また、そのプログラムを、例えば、磁気ディスク、光ディスク、光磁気ディスク等の記憶装置(記録媒体)に予め記録しておき、その記憶装置から通信回線を介してコンピュータに提供するようにしてもよい。
以上、本発明の実施形態について説明したが、本発明は上述したこれらの実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。
10 変化形状測定装置、30 対象物体
Claims (7)
- 周囲の物体までの距離を測定するためのカメラ部を備え、対象物体の三次元形状を測定する際の誤差を測定する変化形状測定装置であって、
前記カメラ部から、周囲の物体の各点までの距離を、距離画像として生成する距離画像生成手段と、
現在の前記カメラ部の姿勢を推定するカメラ姿勢推定手段と、
前記推定された前記カメラ部の姿勢を基準に推定された前記対象物体と、前記距離画像に基づく対象物体の形状とを比較し、誤差を検出する誤差検出手段と、
を備える変化形状測定装置。 - 前記算出した誤差を、位置情報に基づきクラスタリングすることで、各点のまとまりとして捉える誤差クラスタリング手段と、
前記まとまりを前記距離画像から差し引いた後、前記誤差を検出できなくなった場合は、当該まとまりを誤差の原因となった変化の形状であると確定する変化形状確定手段と、
を備えることを特徴とした請求項1に記載の変化形状測定装置。 - 前記カメラ部の姿勢を基準として、前記確定した変化形状の三次元形状を正規格子上の立方体の集合として復元する変化形状復元手段と、
を備えることを特徴とした請求項2に記載の変化形状測定装置。 - 前記誤差の算出基準となる三次元データを読み込む基準データ読み込み手段と、
所定の頻度以上で測定された誤差を、基準データからの変化形状であるとして検出する形状変化検出手段と、
を備えることを特徴とした請求項1乃至3のいずれか一項に記載の変化形状測定装置。 - 前記検出した誤差又は変化形状を、変形のタイミングに係る情報とともに出力し、又は記憶部に記憶させる検出内容出力手段と、
を備えることを特徴とした請求項1乃至4のいずれか一項に記載の変化形状測定装置。 - 周囲の物体までの距離を測定するためのカメラ部を備え、対象物体の三次元形状を測定する際の誤差を測定する変化形状測定装置が実行する変化形状測定方法であって、
前記カメラ部から、周囲の物体の各点までの距離を、距離画像として生成するステップと、
現在の前記カメラ部の姿勢を推定するステップと、
前記推定された前記カメラ部の姿勢を基準に推定された前記対象物体と、前記距離画像に基づく対象物体の形状とを比較し、誤差を検出するステップと、
を備える変化形状測定方法。 - 周囲の物体までの距離を測定するためのカメラ部を備え、対象物体の三次元形状を測定する際の誤差を測定する変化形状測定装置に、
前記カメラ部から、周囲の物体の各点までの距離を、距離画像として生成するステップ、
現在の前記カメラ部の姿勢を推定するステップ、
前記推定された前記カメラ部の姿勢を基準に推定された前記対象物体と、前記距離画像に基づく対象物体の形状とを比較し、誤差を検出するステップ、
を実行させるための変化形状測定装置用プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014008497A JP2015137887A (ja) | 2014-01-21 | 2014-01-21 | 変化形状測定装置、変化形状測定方法、および変化形状測定装置用プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014008497A JP2015137887A (ja) | 2014-01-21 | 2014-01-21 | 変化形状測定装置、変化形状測定方法、および変化形状測定装置用プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015137887A true JP2015137887A (ja) | 2015-07-30 |
Family
ID=53768988
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014008497A Pending JP2015137887A (ja) | 2014-01-21 | 2014-01-21 | 変化形状測定装置、変化形状測定方法、および変化形状測定装置用プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015137887A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018048890A (ja) * | 2016-09-21 | 2018-03-29 | 株式会社日立製作所 | 姿勢推定システム、姿勢推定装置、及び距離画像カメラ |
-
2014
- 2014-01-21 JP JP2014008497A patent/JP2015137887A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018048890A (ja) * | 2016-09-21 | 2018-03-29 | 株式会社日立製作所 | 姿勢推定システム、姿勢推定装置、及び距離画像カメラ |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7495546B2 (ja) | 畳み込み画像変換を使用して同時位置特定およびマッピングを実施する方法およびシステム | |
US11727661B2 (en) | Method and system for determining at least one property related to at least part of a real environment | |
US10288418B2 (en) | Information processing apparatus, information processing method, and storage medium | |
US9525862B2 (en) | Method for estimating a camera motion and for determining a three-dimensional model of a real environment | |
EP1960970B1 (en) | Stereo video for gaming | |
Shen et al. | Virtual mirror rendering with stationary rgb-d cameras and stored 3-d background | |
TW201923713A (zh) | 點雲網格化方法、裝置、設備及電腦儲存介質 | |
EP3533035A1 (en) | Augmented scanning of 3d models | |
JP5484133B2 (ja) | 鏡面反射物体の3d姿勢を推定する方法 | |
KR20170008638A (ko) | 3차원 컨텐츠 생성 장치 및 그 3차원 컨텐츠 생성 방법 | |
CN103562934B (zh) | 脸部位置检测 | |
JP2013089252A (ja) | 映像処理方法及び装置 | |
JP7103357B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
US9727776B2 (en) | Object orientation estimation | |
US11488354B2 (en) | Information processing apparatus and information processing method | |
US11823394B2 (en) | Information processing apparatus and method for aligning captured image and object | |
WO2016133697A1 (en) | Projection transformations for depth estimation | |
Rekik et al. | 3d face pose tracking using low quality depth cameras | |
US20200211275A1 (en) | Information processing device, information processing method, and recording medium | |
KR102538685B1 (ko) | 다시점 정보를 이용하여 3d 정보를 복원하는 방법 및 이를 위한 장치 | |
JP2015137887A (ja) | 変化形状測定装置、変化形状測定方法、および変化形状測定装置用プログラム | |
Zhang et al. | Algorithm modification approach to improve the Kinect’s performance in point cloud processing | |
US20220230342A1 (en) | Information processing apparatus that estimates object depth, method therefor, and storage medium holding program therefor | |
CN118071968B (zh) | 一种基于ar技术的智能交互深展示方法及系统 | |
Almeida et al. | Incremental reconstruction approach for telepresence or ar applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171101 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171031 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20180427 |