JP7067479B2 - 変位計測装置、変位計測システム、変位計測方法及びプログラム - Google Patents

変位計測装置、変位計測システム、変位計測方法及びプログラム Download PDF

Info

Publication number
JP7067479B2
JP7067479B2 JP2018541042A JP2018541042A JP7067479B2 JP 7067479 B2 JP7067479 B2 JP 7067479B2 JP 2018541042 A JP2018541042 A JP 2018541042A JP 2018541042 A JP2018541042 A JP 2018541042A JP 7067479 B2 JP7067479 B2 JP 7067479B2
Authority
JP
Japan
Prior art keywords
image
displacement
camera
photographing means
displacement measuring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018541042A
Other languages
English (en)
Other versions
JPWO2018056206A1 (ja
Inventor
慶明 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2018056206A1 publication Critical patent/JPWO2018056206A1/ja
Application granted granted Critical
Publication of JP7067479B2 publication Critical patent/JP7067479B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/292Multi-camera tracking
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/16Measuring arrangements characterised by the use of optical techniques for measuring the deformation in a solid, e.g. optical strain gauge
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/26Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30184Infrastructure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Description

本開示は、変位計測に関する。
特許文献1は、カメラ装置の移動による誤差分を差し引くことによる変位計測時の補正方法を開示する。また、特許文献2は、被検体と、被検体以外の不動点とを同時に撮影することによって被検体の変位等を算出する方法を開示する。なお、非特許文献1、2は、画像から物体の3次元形状を復元するためのバンドル調整について開示する。
特開2007-240218号公報 特開2007-322407号公報
小浜隼人、ほか5名「Affine-SIFTアルゴリズムを用いたバンドル調整法に基づく3次元形状復元」、火の国情報シンポジウム2012論文集、情報処理学会、2012年3月 岩元祐輝、ほか2名「3次元復元のためのバンドル調整の実装と評価」、情報処理学会研究報告、Vol.2011-CVIM-175、No.19、情報処理学会、2011年1月
特許文献1、2は、いずれも、撮影画像を用いた変位計測において、カメラの移動の影響を抑制する方法を開示している。しかし、特許文献1、2に記載された方法には、カメラの解像度が十分に高くないと、計測対象物の変位を高精度に計測することが困難であるという課題が存在する。
本開示の例示的な目的は、計測対象物の変位を高精度に計測するための技術を提供することである。
一の態様において、撮影手段により第1の時期に撮影された、第1の位置を含む画像及び第2の位置を含む画像と、当該撮影手段により第2の時期に撮影された、当該第1の位置を含む画像及び当該第2の位置を含む画像とを取得する取得手段と、前記取得された複数の画像と、前記撮影手段の構成情報に基づいて算出される関連付け情報とを用いて、前記第1の位置を基準とした場合の前記第1の時期における前記第2の位置と前記第2の時期における前記第2の位置との差を算出する算出手段とを含む変位計測装置が提供される。
別の態様において、第1の位置を含む画像と第2の位置を含む画像とを、第1の時期と第2の時期とに撮影する撮影手段と、前記取得された複数の画像と前記撮影手段の構成情報に基づいて算出される関連付け情報とを用いて、前記第1の位置を基準とした場合の前記第1の時期における前記第2の位置と前記第2の時期における前記第2の位置との差を算出する算出手段とを含む変位計測システムが提供される。
さらに別の態様において、撮影手段により第1の時期に撮影された、第1の位置を含む画像及び第2の位置を含む画像と、当該撮影手段により第2の時期に撮影された、当該第1の位置を含む画像及び当該第2の位置を含む画像とを取得し、前記取得された複数の画像と前記撮影手段の構成情報に基づいて算出される関連付け情報とを用いて、前記第1の位置を基準とした場合の前記第1の時期における前記第2の位置と前記第2の時期における前記第2の位置との差を算出する
変位計測方法が提供される。
さらに別の態様において、コンピュータに、撮影手段により第1の時期に撮影された、第1の位置を含む画像及び第2の位置を含む画像と、当該撮影手段により第2の時期に撮影された、当該第1の位置を含む画像及び当該第2の位置を含む画像とを取得する処理と、前記取得された複数の画像と前記撮影手段の構成情報に基づいて算出される関連付け情報とを用いて、前記第1の位置を基準とした場合の前記第1の時期における前記第2の位置と前記第2の時期における前記第2の位置との差を算出する処理とを実行させるためのプログラムが提供される。
本開示によれば、計測対象物の変位が高精度に計測される。
図1は、変位計測装置の構成の一例を示すブロック図である。 図2Aは、算出部により算出される変位を説明するための概念図である。 図2Bは、算出部により算出される変位を説明するための別の概念図である。 図3は、変位計測装置により実行される変位計測方法の一例を示すフローチャートである。 図4は、変位計測システムの構成の一例を示すブロック図である。 図5は、カメラの位置関係を例示する図である。 図6は、計測対象物と撮影位置を例示する図である。 図7は、同次変換行列を算出するためのキャリブレーションの実行方法の一例を示す説明図である。 図8は、変位計測装置が実行する変位計測処理の一例を示すフローチャートである。 図9は、変位計測システムの構成の別の例を示すブロック図である。 図10Aは、変位計測装置の構成の別の例を示すブロック図である。 図10Bは、変位計測装置の構成のさらに別の例を示すブロック図である。 図10Cは、変位計測装置の構成のさらに別の例を示すブロック図である。 図11は、変位計測システムの構成のさらに別の例を示すブロック図である。 図12は、変位計測システムの構成のさらに別の例を示すブロック図である。 図13は、コンピュータ装置のハードウェア構成の一例を示すブロック図である。
[第1実施形態]
図1は、一の実施形態に係る変位計測装置100の構成を示すブロック図である。変位計測装置100は、計測対象物における変位を計測するための装置である。変位計測装置100は、取得部110と、算出部120とを少なくとも含む。
ここでいう計測対象物は、例えば、ビル、橋梁等の建造物である。いくつかの態様において、計測対象物は、その大きさに比して高精度な変位計測が要求される物体である。ただし、計測対象物は、後述される方法による変位計測が可能であれば、特定の物体に限定されない。また、計測対象物の変位は、時間(劣化等)、温度(熱膨張等)、負荷(荷重の有無等)などの要因によって生じ得るが、特定の要因に限定されない。
取得部110は、撮影部により撮影された画像を取得する。ここでいう撮影部は、例えば、CCD(Charge-coupled device)イメージセンサ、CMOS(Complementary metal-oxide-semiconductor)イメージセンサなど、光を画素毎の画像情報に変換するための撮像素子を有するカメラを1又は複数含んで構成される。撮影部は、車両、航空機等の移動体に搭載されてもよい。
取得部110は、例えば、所定のフォーマットで表現された画像データの入力を受け付けることによって画像を取得する。取得部110により取得される画像は、可視画像であってもよいが、近赤外光等の不可視領域の波長の情報を含む画像であってもよい。また、取得部110により取得される画像は、モノクロ画像とカラー画像のいずれであってもよく、画素数や階調数(色深度)も特に限定されない。取得部110による取得は、通信回線を介した取得であってもよいし、自装置又は他の装置に含まれる記録媒体からの読み出しであってもよい。
取得部110は、第1の位置を含む画像と、第2の位置を含む画像とを取得する。第1の位置は、変位計測において基準とする位置である。一方、第2の位置は、第1の位置と異なる位置であり、変位計測の対象となる位置である。例えば、第1の位置は、変位が実質的に生じないか、第2の位置と比較して変位が無視できる程度に少ない位置である。第2の位置は、例えば、変位が生じやすい位置や、変位の計測が容易な位置である。以下においては、第1の位置を含む画像を「第1の画像」ともいい、第2の位置を含む画像を「第2の画像」ともいう。
第1の位置及び第2の位置は、他の位置と区別可能であれば、どのような位置であってもよい。第1の位置及び第2の位置は、いわゆるマーカのような光学的な識別を容易にする標識が設けられた位置であってもよい。あるいは、例えば計測対象物に標識を設置することが困難な場合、第1の位置及び第2の位置は、物体表面の凹凸や色の微細な相違によって光学的に識別されてもよい。
第2の位置は、計測対象物の一部である。一方、第1の位置は、計測対象物の一部であってもそうでなくてもよい。例えば、第1の位置は、計測対象物よりも変位が少ない(又は変位しない)別の物体の一部であってもよい。すなわち、第1の位置と第2の位置とは、単一の物体に含まれることを必ずしも要しない。
取得部110は、第1の時期に撮影された第1の画像及び第2の画像と、第2の時期に撮影された第1の画像及び第2の画像とを取得する。換言すれば、取得部110は、撮影されたタイミングが異なる複数の第1の画像及び第2の画像を取得する。第2の時期は、例えば、第1の時期よりも後であり、計測対象物に変位が生じている(又はその可能性がある)期間である。第1の画像及び第2の画像は、第1の時期及び第2の時期のそれぞれに複数枚撮影されてもよい。
第1の画像及び第2の画像は、例えば、特定のタイミングにおいて撮影された画像のペアである。取得部110は、撮影部から動画を取得し、取得された動画の特定の時点の静止画を抽出することで第1の画像及び第2の画像を取得することも可能である。例えば、取得部110は、複数のカメラにより撮影された複数の動画から、同一の時刻に撮影された静止画をそれぞれ抽出し、抽出されたそれぞれの静止画を第1の画像及び第2の画像として用いてもよい。あるいは、取得部110は、同一のタイミングで撮影されるように制御された複数のカメラで撮影された静止画のそれぞれを第1の画像及び第2の画像として用いてもよい。
算出部120は、計測対象物の変位を算出する。算出部120は、取得部110により取得された画像と、撮影部の構成情報に基づいて算出される関連付け情報とを用いて、第1の位置を基準とする第2の位置の変位を算出する。ここでいう変位は、第1の時期と第2の時期とで比較した場合における第2の位置の差である。
ここでいう構成情報は、例えば、第1の画像と第2の画像の撮影方向の違いや、第1の画像と第2の画像のそれぞれの撮影倍率を表す情報である。例えば、第1の画像と第2の画像とが異なるカメラにより撮影される場合、構成情報は、複数のカメラの撮影条件を表してもよい。ここでいう撮影条件は、例えば、複数のカメラの相対的な位置又は角度を含む。構成情報は、変位計測装置100にあらかじめ記憶されていてもよいし、取得部110を介して第1の画像及び第2の画像とともに取得されてもよい。
関連付け情報は、例えば、同次変換行列、オイラー角、クォータニオンなどによって記述される。関連付け情報は、第1の画像の座標と第2の画像の座標とを共通の座標系を用いて記述することを可能にする。関連付け情報は、変位計測装置100で算出されてもよいが、変位計測装置100と異なる装置で事前に算出されてもよい。
関連付け情報は、第1の画像と第2の画像とを関連付ける。より詳細には、関連付け情報は、同一の時期に撮影された第1の画像と第2の画像とを関連付ける。関連付け情報による関連付けは、第1の画像に含まれる第1の位置と第2の画像に含まれる第2の位置とを関連付けることであるともいえる。算出部120は、関連付け情報を用いることにより、撮影範囲が重複していない複数の画像を関連付けることが可能である。
図2A及び図2Bは、算出部120により算出される変位を説明するための概念図である。図2A及び図2Bに示される例において、計測対象物200は、2つのカメラによって第1の位置201と第2の位置202とが別々に撮影されるものとする。これらのカメラは、剛体等によって互いの位置関係が変化しないように固定されているものとする。図2Aは、第1の時期における撮影を例示する。また、図2Bは、第2の時期における撮影を例示する。
第1のカメラは、第1の時期において第1の画像211を撮影し、第2の時期において第1の画像221を撮影する。第1の画像211、221は、第1の位置201を含む点において共通するが、その撮影範囲は必ずしも一致していなくてもよい。また、第2のカメラは、第1の時期において第2の画像212を撮影し、第2の時期において第2の画像222を撮影する。
第1のカメラと第2のカメラの相対的な位置関係は、第1の時期と第2の時期とにおいて変化していない。そうすると、計測対象物200が変形していないと仮定した場合、第2の時期の第2の画像222において計測対象物200が現れる位置は、図2Bにおいて二点鎖線で示されるように、第2の時期の第1の画像221と構成情報とから一意的に特定可能である。
しかし、計測対象物200が実際には変形していたとすると、第2の画像222において計測対象物200が現れる位置は、二点鎖線で示された位置と異なる位置になる。算出部120は、第2の画像222における第2の位置202の実際の位置と、第1の画像221と関連付け情報とから想定される位置との相違に基づいて、変位Dを算出することができる。
図3は、変位計測装置100により実行される変位計測方法を例示するフローチャートである。変位計測装置100は、図3の例に従って処理を実行する。
ステップS310において、取得部110は、第1の時期に撮影された第1の画像及び第2の画像と、第2の時期に撮影された第1の画像及び第2の画像とを取得する。なお、取得部110は、第1の時期に撮影された画像と第2の時期に撮影された画像とを同時に取得してもよいし、異なるタイミングで取得してもよい。ステップS320において、算出部120は、ステップS310において取得された第1の画像及び第2の画像と、関連付け情報とを用いて、計測対象物の変位を算出する。
以上のとおり、変位計測装置100は、撮影部の構成情報に基づいて算出される関連付け情報を用いて計測対象物の変位を算出する構成を有する。この構成は、計測対象物の全体を撮影することなく、計測対象物の局所的な撮影による変位計測を可能にする。したがって、変位計測装置100によれば、計測対象物の全体を撮影する場合に比べ、計測対象物を含む画像の単位面積当たりの解像度を向上させることができるため、計測対象物の変位を高精度に計測することが可能である。あるいは、変位計測装置100は、イメージセンサの解像度を向上させなくても計測対象物の変位を高精度に計測することが可能である、ともいえる。
[第2実施形態]
図4は、別の実施形態に係る変位計測システム400の構成を示すブロック図である。変位計測システム400は、UAV(Unmanned Aerial Vehicle)410と、変位計測装置420とを含む。UAV410と変位計測装置420とは、データを無線で通信できるように構成されている。
UAV410は、飛行しながら計測対象物を撮影する。UAV410は、変位計測装置420又は他の遠隔操作機器によって遠隔操作されてもよいが、画像認識によって計測対象物の特定の位置を撮影するように構成されてもよい。また、UAV410は、ホバリングしながら計測対象物の特定の位置を一定期間撮影し続けるように構成されてもよい。UAV410は、撮影部411と、通信部412とを有する。
撮影部411は、カメラ411a、411b及び411cをさらに有する。撮影部411は、カメラ411a、411b及び411cにより撮影された画像を表す画像データを生成し、生成された画像データを通信部412に供給する。撮影部411は、変位計測装置420における演算処理を容易にするための周知の画像処理を実行してもよい。また、撮影部411は、静止画ではなく動画を撮影してもよい。
図5は、カメラ411a、411b及び411cの位置関係を例示する図である。カメラ411a、411b及び411cは、特定の位置関係を維持するように固定されている。例えば、図5に示される例において、カメラ411a、411b及び411cは、撮影方向が角度θずつ異なる状態でUAV410に搭載される。カメラ411a、411b及び411cは、UAV410の飛行に伴う振動によって位置関係が変化しないよう、剛体等で堅固に固定される。
通信部412は、撮影部411から供給された画像データを変位計測装置420に送信する。通信部412は、撮影部411から供給された画像データに対して符号化等の処理を実行し、画像データを所定の通信方式に従って変位計測装置420に送信する。
変位計測装置420は、通信部421と、算出部422とを有する。通信部421は、UAV410から画像データを受信する。通信部421は、通信部412を介して送信された画像データを算出部422に供給する。算出部422は、同次変換行列を算出する第1算出部422aと、計測対象物の変位を算出する第2算出部422bとをさらに含む。同次変換行列は、第1実施形態における関連付け情報の一例に相当する。第2算出部422bは、通信部421から供給された画像データと、第1算出部422aにより算出された同次変換行列とを用いて、計測対象物の変位を算出する。
本実施形態において、通信部421は、第1実施形態の変位計測装置100における取得部110の一例に相当する。また、算出部422は、第1実施形態の変位計測装置100における算出部120の一例に相当する。
なお、変位計測装置420は、算出部422により算出された変位を記録する構成を含んでもよい。例えば、変位計測装置420は、算出部422により算出された変位を日時(撮影日時)とともに記録媒体に記録する記録装置を有してもよい。あるいは、変位計測装置420は、算出部422により算出された変位に応じた情報を表示する表示装置を有してもよい。
変位計測システム400は、以上の構成の下、計測対象物を撮影し、計測対象物の変位を算出する。具体的には、変位計測システム400は、次のように動作することで計測対象物の変位を算出することができる。一例として、以下においては、計測対象物が橋梁であるとする。
図6は、計測対象物と撮影位置を例示する図である。この例において、変位計測システム400は、車両の走行に伴う橋梁600の変位、特に床版(しょうばん)の撓みを計測する。橋梁600において、UAV410により撮影される位置は、P1、P2及びP3である。位置P1及びP3は、橋脚の近傍のような、車両の走行に伴う変位がないものとみなせる位置である。位置P1及びP3は、カメラ411a、411cにより撮影される。これに対し、位置P2は、橋脚と橋脚の中間地点のような、車両の走行に伴う変位が比較的大きい位置である。位置P2は、カメラ411bにより撮影される。
いくつかの態様において、位置P1、P2及びP3は、特徴点等の基準点の抽出が容易な位置である。より詳細には、位置P1、P2及びP3は、他の領域との区別が容易な特定の模様又は物体を含む位置である。例えば、位置P1、P2及びP3は、文字や記号が描かれていたり、ある部材と別の部材の境界を含んでいたりしてもよい。
以下においては、位置P1及びP3のことを「基準位置」ともいう。基準位置は、第1実施形態における第1の位置の一例に相当する。また、以下においては、位置P2のことを「計測位置」ともいう。計測位置は、第1実施形態における第2の位置の一例に相当する。基準位置及び計測位置は、ある程度のサイズを有する領域であり、後述される特徴点を複数含み得る。
図6の例において、変位計測システム400は、車両が走行しているタイミングと車両が走行していないタイミングとにおいて橋梁600を撮影し、床版の変位を計測する。換言すれば、変位計測システム400は、橋梁600に対して荷重が与えられているタイミングと与えられていないタイミングとにおける床版の変位を計測する。
変位計測に際し、変位計測装置420は、カメラ411a、411b及び411cの内部パラメータをあらかじめ取得する。内部パラメータは、例えば、光軸中心及び焦点距離である。内部パラメータは、カメラメーカから提供されてもよいが、内部パラメータを計算するためのキャリブレーションによってあらかじめ求められてもよい。また、変位計測装置420は、カメラ411a、411b及び411cの相対的な位置及び角度を示すパラメータをあらかじめ取得する。このパラメータは、第1実施形態における構成情報の一例に相当する。
また、本実施形態において、算出部422は、変位計測を実行する前に、同次変換行列をあらかじめ算出する。なお、算出部422は、変位計測の実行中(例えば、後述のステップS810とステップS820の間)に同次変換行列を算出してもよい。算出部422は、例えば、以下に示されるキャリブレーションを実行することによって同次変換行列を算出することができる。
図7は、同次変換行列を算出するためのキャリブレーションの実行方法を示す説明図である。この例において、パターン710、720及び730は、互いの相対的な位置関係が既知である複数の標識である。パターン710、720及び730は、壁面に貼付されるなどして、キャリブレーションの実行時には動かないように設けられる。パターン710、720及び730は、特定の模様を含む画像であり、例えば、いわゆるチェスボードパターン(チェッカーボードパターンともいう。)である。
パターン710は、カメラ411aによって撮影される。パターン720は、カメラ411bによって撮影される。パターン730は、カメラ411cによって撮影される。パターン710、720及び730は、位置決めされたカメラ411a、411b及び411cが同時に撮影することができる位置に設けられる。
算出部422は、カメラ411a、411b及び411cのいずれかを基準とし、基準のカメラと他のカメラの関係を示す同次変換行列を算出する。ここでは、カメラ411aを基準とする。この場合、算出部422は、カメラ411aとカメラ411bの関係を3次元的に示す4行4列の同次変換行列(以下「M12」という。)と、カメラ411aとカメラ411cの関係を3次元的に示す4行4列の同次変換行列(以下「M13」という。)とをそれぞれ算出する。算出部422は、同次変換行列を算出する一般的かつ周知な手法のいずれかを用いて、同次変換行列M12、M13を算出することができる。
図8は、変位計測装置420が実行する変位計測処理を示すフローチャートである。ステップS810において、通信部421は、第1の画像に対応する第1の画像データと第2の画像に対応する第2の画像データとをUAV410から受信する。これらの画像データは、橋梁600に特定の負荷が与えられていない時期と当該負荷が与えられている時期とにおいて、位置P1、P2及びP3のそれぞれを、複数の異なる撮影方向から撮影した画像を表す。UAV410は、例えば、橋梁600上を車両が走行している期間と車両が走行していない期間とにおいて撮影を実行する。これらの期間は、第1実施形態における「第1の時期」と「第2の時期」とに相当する。
例えば、UAV410は、飛行中、位置P1、P2及びP3のそれぞれが撮影範囲から外れないように上昇又は下降することにより、複数の撮影位置において位置P1、P2及びP3を撮影する。換言すれば、UAV410は、複数の視点から位置P1、P2及びP3を撮影しているともいえる。例えば、UAV410は、撮影された画像の間に上昇又は下降による歪みが生じるように位置P1、P2及びP3のそれぞれを撮影する。
ステップS810において、通信部421は、カメラの数とその撮影回数の積に相当する枚数分の画像データを取得する。例えば、本実施形態の場合、UAV410が有するカメラの数は、「3」である。したがって、ステップS810において取得される第1の画像及び第2の画像の総数は、撮影回数が「M」回であるとすると、「3M」である。
ステップS820において、算出部422は、ステップS810において受信された複数の画像データが表す第1の画像及び第2の画像のそれぞれから特徴点を抽出する。より詳細には、算出部422は、それぞれの画像に含まれる位置P1、P2又はP3から特徴点を抽出する。ステップS820において利用可能な特徴量は、例えば、FAST(Features from Accelerated Segment Test)特徴量、SIFT(Scale-Invariant Feature Transform)特徴量といった、画像の局所的な特徴を表す特徴量である。
ステップS830において、算出部422は、ステップS820において抽出された特徴点を用いて、基準位置を含む第1の画像と計測位置を含む第2の画像とを関連付ける。本実施形態において、算出部422は、バンドル調整を拡張したアルゴリズムを用いて特徴点の3次元形状を復元することにより、第1の画像と第2の画像とを3次元的に関連付けることができる。
バンドル調整は、同一の位置を撮影した複数の画像に含まれる基準点に基づいて、撮影されたシーンの3次元形状を復元(推定)する手法である。バンドル調整は、SfM(Structure from Motion)の要素技術の一つである。バンドル調整において、撮影された映像は、以下の(1)式の透視投影でモデル化される。
Figure 0007067479000001
(1)式において、x、yは、ある点の画像における位置、すなわち2次元の座標を示す。また、X、Y、Zは、この点の空間における3次元の座標を示す。s、f0は、0でない任意の比例係数である。Pは、投影行列と呼ばれる3行4列の行列である。
投影行列Pは、焦点距離をf、光軸中心を(u0,v0)、ワールド座標系におけるレンズの中心位置をt=(xt,yt,zt)、向きを表す回転行列をR、単位行列をIとしたとき、以下の(2)式によって表される。(2)式において、Kは、カメラに関する内部行列(内部パラメータ行列ともいう。)である。(I-t)は、単位行列Iとtとを列方向に並べた行列であり、(2)式においては、3行4列の行列となる。
Figure 0007067479000002
投影行列Pの第i行第j列の要素をpijと表記すると、x、yは、以下の(3)式によってそれぞれ表される。
Figure 0007067479000003
ここで、シーン中のN個の点(Xα,Yα,Zα)を互いに異なる位置からM回撮影したとき、これらが第κ画像の位置(xα,yα)において観測されたとする(κ=1,2,・・・,M、α=1,2,・・・,N)。第κ画像に対する投影行列をPκとするとき、各点の投影されるべき位置と観測位置のずれの二乗和を全点について総和したものは、以下の(4)式によって表される。この(4)式で表されるEを再投影誤差という。
Figure 0007067479000004
ここにおいて、Iακは、可視化指標である。可視化指標Iακは、点(Xα,Yα,Zα)が第κ画像に映っている場合に「1」、そうでない場合に「0」である。また、画像上のずれは、比例係数f0を「1」とする距離で測ると、以下の(5)式によって表される。ここにおいて、Pκ ijは、投影行列Pκの第i行第j列の要素を表す。
Figure 0007067479000005
一般的なSfMは、1台のカメラに対して(4)式の再投影誤差を最小化する点(Xα,Yα,Zα)と投影行列Pκとを推定することがシーンの3次元形状を復元する手法であった。これに対し、本実施形態においては、複数のカメラが用いられる。本実施形態のSfMは、複数のカメラが用いられることに鑑み、同次変換行列M1γ(γはカメラの台数)を用いて一般的なSfMを拡張する点に特徴を有する。
具体的には、本実施形態の投影行列Pγ(γ=1,2,・・・,L)は、以下の(6)式のように表される。すなわち、(カメラ毎に異なる)投影行列Pγは、同次変換行列M1γによって互いに関連付けられる。ただし、M11は、単位行列であるとする。
Figure 0007067479000006
また、本実施形態の再投影誤差Eは、以下の(7)式のように表される。(7)式において、pαγκ、qαγκ、rαγκは、以下の(8)式のように表される。ここにおいて、Pγκ ijは、投影行列Pγκの第i行第j列の要素を表す。投影行列Pγκは、画像毎及びカメラ毎に求められる。また、Iαγκは、Iακと同様の可視化指標である。
Figure 0007067479000007

Figure 0007067479000008
本実施形態において、算出部422は、観測された(xαγκ,yαγκ)に対して(7)式の再投影誤差を最小化する点(Xα,Yα,Zα)と投影行列Pγκとを算出する。(7)式は、複数台のカメラにより撮影された画像を一つの再投影誤差式によって評価することを可能にする。なお、算出部422は、非特許文献2に記載された周知の方法を応用することで点(Xα,Yα,Zα)及び投影行列Pγκを算出することができる。
ステップS830の処理は、以上のとおりである。このようにして第1の画像又は第2
の画像に含まれる特徴点のそれぞれが関連付けられたら、算出部422は、ステップS840において計測位置の変位を算出する。このとき、算出部422は、RANSAC(Random Sample Consensus)などの周知のロバスト推定手法により、第1の時期(負荷がない状態)と第2の時期(負荷がある状態)とにおいて抽出された特徴点の対応関係を検索する。
なお、ステップS820において抽出された特徴点には、正対応(inlier)だけでなく誤対応(outlier)が含まれていてもよい。誤対応であると判断された特徴点は、ステップS840において、撮影されたシーンを構成する特徴点から除外される。以下においては、正対応、すなわち対応関係が正しいと判断された特徴点を「対応点」ともいう。
算出部422は、第1の時期において抽出されて3次元形状が推定された特徴点と、第2の時期において抽出されて3次元形状が推定された特徴点とに対して位置合わせを実行する。これらの点群同士の位置合わせには、ICP(Iterative Closest Point)アルゴリズムなどの周知の手法が適用可能である。算出部422は、位置合わせ後の誤差を最小化する特徴点の組み合わせを反復的に計算する。
この位置合わせにおいて、算出部422は、第1の時期と第2の時期とにおいて第1の画像から抽出された対応点の間には変位がないものと仮定する。換言すれば、算出部422は、第1の時期と第2の時期とにおいて第1の画像から抽出された対応点の間の誤差が、これらの時期において第2の画像から抽出された対応点の間の誤差よりも十分に(すなわち無視できる程度に)小さいことを前提条件とする。このように仮定すると、計測位置の変位は、位置合わせ後に残る誤差(すなわち残差)として表すことが可能である。
以上のとおり、変位計測システム400は、複数台のカメラ(411a、411b、411c)により撮影された画像を一つの再投影誤差式によって評価する構成を有する。この構成は、画像から3次元形状を復元する際に用いるカメラが1台であるという一般的なSfMにおける制限を回避することを可能にする。変位計測において複数のカメラが利用可能であると、計測対象物の計測したい位置のみを局所的に撮影することが可能である。したがって、変位計測システム400によれば、計測対象物が橋梁600のような大きな物体であっても、計測対象物を含む画像の単位面積当たりの解像度を向上させることができるため、計測対象物の変位を高精度に計測することが可能である。
[第3実施形態]
図9は、さらに別の実施形態に係る変位計測システム900の構成を示すブロック図である。変位計測システム900は、UAV910の構成を除き、第2実施形態の変位計測システム400(図4参照)と同様の構成を有する。本実施形態において、第2実施形態と共通する構成の説明は、適宜省略される。
UAV910は、撮影部911及び通信部912に加え、モーション制御部913を含む。カメラ911a、911b及び911cは、互いの位置関係が可変に構成されている点において、第2実施形態のカメラ411a、411b及び411cと相違する。
モーション制御部913は、カメラ911a、911b及び911cの動きを制御する。モーション制御部913は、カメラ911a、911b及び911cの位置又は撮影方向を制御することができる。モーション制御部913の制御により、カメラ911a、911b及び911cは、互いの相対的な位置又は角度を変化させる。モーション制御部913は、例えば、サーボモータや直動式アクチュエータを駆動することによりカメラ911a、911b及び911cの動きを制御する。
モーション制御部913による制御は、遠隔制御、すなわち変位計測装置420又は他の遠隔操作機器による制御であってもよい。あるいは、モーション制御部913による制御は、カメラ911a、911b及び911cにより撮影された画像に基づく制御であってもよい。例えば、モーション制御部913は、計測対象物の特定の位置を撮影し続けるようにカメラ911a、911b及び911cの位置又は撮影方向を制御してもよい。
モーション制御部913は、構成情報を通信部912に供給する。本実施形態の構成情報は、カメラ911a、911b及び911cの撮影条件(相対的な位置、角度など)を示す情報を含む。例えば、構成情報は、基準とする位置からのカメラ911a、911b及び911cの変位や回転角度を示す情報を含む。モーション制御部913は、構成情報を通信部912に常時供給する必要はなく、構成情報に変化が生じた場合のみに通信部912に供給してもよい。
なお、カメラ911a、911b及び911cは、光学ズーム機能を有してもよい。すなわち、カメラ911a、911b及び911cは、画像を光学的に拡大(又は縮小)して撮影する機構を有してもよい。この場合、カメラ911a、911b及び911cによる撮影倍率は、独立に(すなわち他のカメラの撮影倍率によらずに)設定可能である。この場合、構成情報は、カメラ911a、911b及び911cの撮影倍率を示す情報を含んでもよい。
通信部912は、画像データに加え、モーション制御部913から供給された構成情報を変位計測装置920に送信する。構成情報は、例えば、画像データのメタデータとして画像データに埋め込まれてもよい。構成情報は、カメラ911a、911b及び911cの直前の状態からの差分を示す情報であってもよい。
変位計測装置920は、通信部921と、算出部922とを有する。通信部921は、画像データのほかに構成情報を受信する点において、第2実施形態の通信部421と相違する。算出部922は、通信部921により受信された構成情報に基づいて同次変換行列を算出(すなわち変更)する点において、第2実施形態の算出部422と相違する。
算出部922は、想定され得るカメラ911a、911b及び911cの位置関係の全ての組み合わせに関して、図7のようなキャリブレーションをあらかじめ複数回実行し、当該組み合わせ毎の同次変換行列をあらかじめ算出してもよい。あるいは、算出部922は、構成情報の直前の状態からの変化に基づいて、変更後の同次変換行列を推定してもよい。算出部922は、例えば、ロボット工学におけるマニピュレータの順運動学及び逆運動学に基づいて同次変換行列を算出することが可能である。
なお、算出部922が実行する変位計測処理は、構成情報の変化に応じて(6)式の同次変換行列Mが変更され得る点のほかは、第2実施形態の変位計測処理(図8参照)と同様である。すなわち、本実施形態の同次変換行列は、モーション制御部913によるカメラ911a、911b及び911cの動きの変化に応じて変更され得る。
以上のとおり、変位計測システム900は、カメラ911a、911b及び911cの動きを制御し、カメラ911a、911b及び911cの動きに応じた同次変換行列を用いて計測対象物の変位を算出する構成を有する。変位計測システム900は、第2実施形態の変位計測システム400と同様の効果を奏することが可能である。加えて、変位計測システム900は、カメラ911a、911b及び911cが動かないように固定された構成でなくても計測対象物の変位を算出することが可能である。
[変形例]
本開示は、上述された第1実施形態~第3実施形態に限定されない。例えば、本開示は、以下に記載される変形例を含む。また、本開示は、本明細書に記載された事項を必要に応じて適宜に組み合わせ、又は置換した形態を含み得る。例えば、特定の実施形態を用いて説明された事項は、矛盾を生じない範囲において、他の実施形態に対しても適用され得る。さらに、本開示は、これらに限らず、いわゆる当業者が把握し得る変形又は応用を適用した実施の形態を含み得る。
(変形例1)
UAV410は、角速度又は加速度を計測するための構成を有してもよい。例えば、UAV410は、いわゆるIMU(Inertial Measurement Unit)を含んで構成されてもよい。IMUにより計測される角速度及び加速度は、積分によってUAV410の角度及び
位置の変化を算出可能である。
(7)式の計算は、シーン中の点(Xα,Yα,Zα)と投影行列Pγκに含まれるレンズの中心位置t及び回転行列Rとを求める、未知数が比較的多い最適化演算である。しかし、IMUを用いると、UAV410の角度及び位置の変化からレンズの中心位置t及び回転行列Rが算出可能であるため、これらを既知の値として扱うことが可能である。
(変形例2)
一般に、SfMにより求められたシーンの3次元位置、すなわち点(Xα,Yα,Zα)には、実世界の3次元位置とのスケールの不定性が存在する。ここでいう不定性とは、(1)式の比例係数sを(4)式又は(7)式の再投影誤差Eから一意的に特定できない性質をいう。この不定性ゆえに、算出部422により算出された変位は、メートル等の絶対的な長さを表す単位で記述することができず、基準となる位置との相対的な割合で表される。
算出部422は、絶対的な長さを表す単位で変位を表現するために、SfMにより求められるカメラの移動量と実際の移動量の比を計算してもよい。カメラの実際の移動量は、例えば、慣性センサや気圧センサを用いて求めることができる。
算出部422は、複数のカメラのうちの特定のカメラ(ここではカメラ411aとする。)の位置を記録する。以下においては、このカメラ411aの第κ画像の撮影時の位置を「tκ’」とする。また、(7)式の再投影誤差Eを最小化することにより求められるレンズの中心位置tκは、第κ画像の撮影時のカメラ411aの位置に相当する。したがって、位置tκ’、中心位置tκ及び比例係数sの間には、以下の(9)式が成り立つ。
Figure 0007067479000009
算出部422は、(9)式から比例係数sを算出することにより、例えばメートル単位の変位を算出することが可能である。具体的には、算出部422は、(7)式の再投影誤差Eを最小化することにより求められる変位に比例係数sを乗じることによって、変位を絶対的な長さを表す単位によって記述することが可能である。
(変形例3)
変位計測装置420は、複数の対応点の中から基準となる点(以下「不動点」という。)を設定してもよい。不動点は、第1の画像、すなわち基準位置を含む画像に含まれる対応点から選択される。変位計測装置420は、この不動点を基準としたカメラの位置を計算し、計算されたカメラの位置に基づいて、不動点でない対応点(以下「可動点」という。)の位置を計測してもよい。可動点は、第2の画像、すなわち計測位置を含む画像に含まれる対応点から選択される。
変位計測装置420は、不動点の位置から予想される可動点の位置と、実際に計測された可動点の位置との差分に基づいて計測対象物の変位を算出してもよい。このようにすれば、変位計測装置420は、可動点の変位をリアルタイムに算出することが可能である。
変位計測装置420において実行される処理は、具体的には以下のとおりである。まず、算出部422は、第1の時期において撮影された画像に基づいて、あらかじめ対応点の位置(Xα,Yα,Zα)を取得し、それぞれの位置関係を特定する(ただし、α=1,2,・・・,N)。次に、算出部422は、これらの対応点の中から不動点(X,Y,Z)と可動点(X,Y,Z)とを設定する。ここにおいて、f及びmは、αがとり得る値のうちの互いに重複しない値の集合である。すなわち、不動点と可動点の総和は、不動点の総数と等しい。
可動点の変位をリアルタイムに算出する場合、算出部422は、以下の(10)式及び(11)式を用いて、不動点及び可動点のそれぞれの再投影誤差E、Eを最小化し、それぞれのレンズの中心位置t及び回転行列Rを推定する。このとき、対応点の位置(Xα,Yα,Zα)は既知であるため、これらの値は固定値として扱われる。
Figure 0007067479000010

Figure 0007067479000011
(10)式及び(11)式の再投影誤差を最小化すると、不動点を基準とした中心位置及び回転行列と可動点を基準とした中心位置及び回転行列とを求めることができる。以下においては、不動点を基準とした中心位置及び回転行列を、それぞれ「t」、「R」と表記する。また、可動点を基準とした中心位置及び回転行列を、それぞれ「t」、「R」と表記する。
これらの中心位置及び回転行列は、可動点の変位に起因する差分をそれぞれΔt、ΔRとすると、以下の(12)式のように表すことができる。これらの行列は、レンズの中心位置と回転を表す3行4列の行列((2)式参照)に対し、逆行列を計算できるように第4行を追加して同次変換行列表現としたものである。
Figure 0007067479000012
(12)式に対し、可動点を基準とした中心位置及び回転行列を元とした同次変換行列の逆行列を左から乗じると、以下の(13)式に示されるように、中心位置及び回転行列の差分の同次変換行列を求めることができる。
Figure 0007067479000013
(13)式のΔt及びΔRは、不動点を基準とした可動点の変位を表している。すなわち、算出部422は、対応点の位置(Xα,Yα,Zα)を事前に取得し、以上のように動作することにより、第2の時期において撮影を複数回実行することなく可動点の変位を算出することが可能である。それゆえ、算出部422は、撮影位置を変えることなく、計測対象物を1回撮影するだけで、計測対象物の変位を算出することが可能である。
(変形例4)
本開示に係る基準点は、特徴量に基づく特徴点に限定されない。例えば、3次元形状を復元する手法には、特徴量ではなく画素の輝度や色を用いる手法も知られている。本開示に係る変位計測方法は、このような手法に対しても適用することが可能である。本開示に係る変位計測方法は、例えば、PTAM(Parallel Tracking and Mapping for Small AR Workspaces)やLSD-SLAM(Large-Scale Direct Monocular Simultaneous Localization and Mapping)を用いた位置推定にも適用可能である。本開示に係る基準点は、このような手法において用いられる特定の画素であってもよい。
(変形例5)
図10A、図10B及び図10Cは、第1実施形態に係る変位計測装置100の変形例を示すブロック図である。図10Aに示される変位計測装置100Aは、取得部1010と、第1算出部1020と、第2算出部1030とを含む。図10Bに示される変位計測装置100Bは、取得部1010と、記憶部1040と、算出部1050とを含む。図10Cに示される変位計測装置100Cは、記憶部1060と、算出部1050とを含む。なお、取得部1010は、第1実施形態の取得部110と同様の構成及び機能を有する。また、算出部1050は、第1実施形態の算出部120と同様の構成及び機能を有する。
変位計測装置100Aにおいて、第1算出部1020は、関連付け情報を算出する。関連付け情報の具体的な算出方法は、第1実施形態~第3実施形態と同様でよい。第2算出部1030は、取得部1010により取得された第1の画像及び第2の画像と、第1算出部1020により算出された関連付け情報とを用いて、第2の位置(計測位置)の変位を算出する。第2の位置の具体的な算出方法は、第1実施形態~第3実施形態と同様でよい。
変位計測装置100Bにおいて、記憶部1040は、関連付け情報を記憶する。記憶部1040は、他の装置によりあらかじめ(すなわち計測対象物の撮影前に)算出された関連情報を記憶する。したがって、変位計測装置100Bは、関連付け情報を算出する必要がない。
変位計測装置100Cにおいて、記憶部1060は、変位計測に必要な画像の全てと関連付け情報とを記憶する。記憶部1060は、他の装置によりあらかじめ算出された関連情報を記憶する。また、記憶部1060は、事前に撮影された画像を記憶する。変位計測装置100Cは、変位計測装置100Bと同様に、関連付け情報を算出する必要がない。
(変形例6)
本開示に係る変位計測システムは、第2実施形態又は第3実施形態の構成に限定されない。例えば、本開示に係る変位計測システムは、必ずしもUAVを含まなくてもよい。
図11は、本開示に係る変位計測システムの別の例を示すブロック図である。変位計測システム1100は、撮影部1110と、算出部1120とを含んで構成される。変位計測システム1100は、撮影部1110及び算出部1120が単一の装置に含まれていてもよい。あるいは、変位計測システム1100は、変位計測システム400と同様に、撮影部1110を含む移動可能な第1の装置(デジタルカメラ等)と、算出部1120を含む第2の装置(パーソナルコンピュータ等)とによって構成されてもよい。第1の装置と第2の装置は、無線ではなく有線で接続されてもよい。
撮影部1110は、第1の位置を含む第1の画像と第2の位置を含む第2の画像とを、第1の時期と第2の時期とに撮影する。算出部1120は、第1の画像及び第2の画像と、撮影部1110の構成情報に基づいて算出される関連付け情報とを用いて、第1の位置を基準とする第2の位置の変位を算出する。
図12は、本開示に係る変位計測システムのさらに別の例を示すブロック図である。変位計測システム1200は、UAV1210と、変位計測装置1220とを含む。UAV1210は、通信部412に代えてライタ部1211を有する点において第2実施形態のUAV410と相違する。変位計測装置1220は、通信部421に代えてリーダ部1221を有する点において第2実施形態の変位計測装置420と相違する。UAV1210及び変位計測装置1220は、これらの点を除き、第2実施形態のUAV410及び変位計測装置420と共通の構成を有する。
ライタ部1211は、撮影部411から供給された画像データを着脱可能な記録媒体に記録する。この記録媒体は、例えば、いわゆるUSB(Universal Serial Bus)メモリやメモリカードである。リーダ部1221は、ライタ部1211により画像データが記録された記録媒体から画像データを読み出す。ライタ部1211及びリーダ部1221は、例えば、メモリカードのリーダライタである。
UAV1210及び変位計測装置1220は、画像データを送受信する必要がない。ユーザは、UAV1210による撮影が終了したら、画像データが記録された記録媒体をUAV1210から取り出し、変位計測装置1220に取り付ける。変位計測装置1220は、ユーザにより取り付けられた記録媒体から画像データを読み出し、変位を算出する。
(変形例7)
本開示に係る変位計測装置の具体的なハードウェア構成は、さまざまなバリエーションが含まれ、特定の構成に限定されない。例えば、本開示に係る変位計測装置は、ソフトウェアを用いて実現されてもよく、複数のハードウェアを用いて各種処理を分担するように構成されてもよい。
図13は、本開示に係る変位計測装置を実現するコンピュータ装置1300のハードウェア構成の一例を示すブロック図である。コンピュータ装置1300は、CPU(Central Processing Unit)1301と、ROM(Read Only Memory)1302と、RAM(Random Access Memory)1303と、記憶装置1304と、ドライブ装置1305と、通信インタフェース1306と、入出力インタフェース1307とを含んで構成される。本開示に係る変位計測装置は、図13に示される構成(又はその一部)によって実現され得る。
CPU1301は、RAM1303を用いてプログラム1308を実行する。プログラム1308は、ROM1302に記憶されていてもよい。また、プログラム1308は、メモリカード等の記録媒体1309に記録され、ドライブ装置1305によって読み出されてもよいし、外部装置からネットワーク1310を介して送信されてもよい。通信インタフェース1306は、ネットワーク1310を介して外部装置とデータをやり取りする。入出力インタフェース1307は、周辺機器(入力装置、表示装置など)とデータをやり取りする。通信インタフェース1306及び入出力インタフェース1307は、データを取得又は出力するための構成要素として機能することができる。
なお、本開示に係る変位計測装置の構成要素は、単一の回路(プロセッサ等)によって構成されてもよいし、複数の回路の組み合わせによって構成されてもよい。ここでいう回路(circuitry)は、専用又は汎用のいずれであってもよい。例えば、本開示に係る変位計測装置は、一部が専用のプロセッサによって実現され、他の部分が汎用のプロセッサによって実現されてもよい。
上述された実施形態において単体の装置として説明された構成は、複数の装置に分散して設けられてもよい。例えば、変位計測装置100、420又は920は、クラウドコンピューティング技術などを用いて、複数のコンピュータ装置の協働によって実現されてもよい。
この出願は、2016年9月21日に出願された日本出願特願2016-184451を基礎とする優先権を主張し、その開示の全てをここに取り込む。
100、420、920、100A、100B、100C、1220 変位計測装置
110、1010 取得部
120、422、922、1050、1120 算出部
400、900、1100、1200 変位計測システム
410、910、1210 UAV
411、911、1110 撮影部
411a、411b、411c、911a、911b、911c カメラ
913 モーション制御部
422a、1020 第1算出部
422b、1030 第2算出部
1300 コンピュータ装置

Claims (10)

  1. 撮影手段に含まれている複数のカメラのうちの第1のカメラにより第1の時期に撮影された、変位計測において基準とする位置である第1の位置を含む画像及び当該撮影手段に含まれている前記複数のカメラのうちの第2のカメラにより前記第1の時期に撮影された、変位計測において基準とされない位置である第2の位置を含み、前記第1の位置を含まない画像と、当該撮影手段の前記第1のカメラにより第2の時期に撮影された、当該第1の位置を含む画像及び当該撮影手段の前記第2のカメラにより前記第2の時期に撮影された、当該第2の位置を含む画像とを取得する取得手段と、
    前記取得された複数の画像と、前記撮影手段の構成情報に基づいて算出される関連付け情報とを用いて、前記第1の位置を基準とした場合の前記第1の時期における前記第2の位置と前記第2の時期における前記第2の位置との差を算出する算出手段と
    を備える変位計測装置。
  2. 前記撮影手段は、UAV(Unmanned Aerial Vehicle)に搭載される
    請求項1に記載の変位計測装置。
  3. 前記構成情報は、前記第1のカメラ及び前記第2のカメラの撮影条件を示す情報を含む
    請求項1または請求項2に記載の変位計測装置。
  4. 前記構成情報は、前記第1のカメラ及び前記第2のカメラの相対的な位置又は角度を示す情報を含む
    請求項3に記載の変位計測装置。
  5. 複数のカメラを含む撮影手段と、
    前記撮影手段に含まれている前記複数のカメラのうちの第1のカメラにより第1の時期に撮影された、変位計測において基準とする位置である第1の位置を含む画像及び当該撮影手段に含まれている前記複数のカメラのうちの第2のカメラにより前記第1の時期に撮影された、変位計測において基準とされない位置である第2の位置を含み、前記第1の位置を含まない画像と、当該撮影手段の前記第1のカメラにより第2の時期に撮影された、当該第1の位置を含む画像及び当該撮影手段の前記第2のカメラにより前記第2の時期に撮影された、当該第2の位置を含む画像とを取得する取得手段と、
    前記取得された複数の画像と前記撮影手段の構成情報に基づいて算出される関連付け情報とを用いて、前記第1の位置を基準とした場合の前記第1の時期における前記第2の位置と前記第2の時期における前記第2の位置との差を算出する算出手段と
    を備える変位計測システム。
  6. 前記撮影手段は、UAV(Unmanned Aerial Vehicle)に搭載される
    請求項5に記載の変位計測システム。
  7. 撮影手段に含まれている複数のカメラのうちの第1のカメラにより第1の時期に撮影された、変位計測において基準とする位置である第1の位置を含む画像及び当該撮影手段に含まれている前記複数のカメラのうちの第2のカメラにより前記第1の時期に撮影された、変位計測において基準とされない位置である第2の位置を含み、前記第1の位置を含まない画像と、当該撮影手段の前記第1のカメラにより第2の時期に撮影された、当該第1の位置を含む画像及び当該撮影手段の前記第2のカメラにより前記第2の時期に撮影された、当該第2の位置を含む画像とを取得し、
    前記取得された複数の画像と前記撮影手段の構成情報に基づいて算出される関連付け情報とを用いて、前記第1の位置を基準とした場合の前記第1の時期における前記第2の位置と前記第2の時期における前記第2の位置との差を算出する
    変位計測方法。
  8. 前記撮影手段は、UAV(Unmanned Aerial Vehicle)に搭載される
    請求項7に記載の変位計測方法。
  9. コンピュータに、
    撮影手段に含まれている複数のカメラのうちの第1のカメラにより第1の時期に撮影された、変位計測において基準とする位置である第1の位置を含む画像及び当該撮影手段に含まれている前記複数のカメラのうちの第2のカメラにより前記第1の時期に撮影された、変位計測において基準とされない位置である第2の位置を含み、前記第1の位置を含まない画像と、当該撮影手段の前記第1のカメラにより第2の時期に撮影された、当該第1の位置を含む画像及び当該撮影手段の前記第2のカメラにより前記第2の時期に撮影された、当該第2の位置を含む画像とを取得する処理と、
    前記取得された複数の画像と前記撮影手段の構成情報に基づいて算出される関連付け情報とを用いて、前記第1の位置を基準とした場合の前記第1の時期における前記第2の位置と前記第2の時期における前記第2の位置との差を算出する処理と
    を実行させるためのプログラム。
  10. 前記撮影手段は、UAV(Unmanned Aerial Vehicle)に搭載される
    請求項9に記載のプログラム。
JP2018541042A 2016-09-21 2017-09-15 変位計測装置、変位計測システム、変位計測方法及びプログラム Active JP7067479B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016184451 2016-09-21
JP2016184451 2016-09-21
PCT/JP2017/033438 WO2018056206A1 (ja) 2016-09-21 2017-09-15 変位計測装置、変位計測システム、変位計測方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2018056206A1 JPWO2018056206A1 (ja) 2019-07-04
JP7067479B2 true JP7067479B2 (ja) 2022-05-16

Family

ID=61690460

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018541042A Active JP7067479B2 (ja) 2016-09-21 2017-09-15 変位計測装置、変位計測システム、変位計測方法及びプログラム

Country Status (3)

Country Link
US (1) US20210295540A1 (ja)
JP (1) JP7067479B2 (ja)
WO (1) WO2018056206A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11519780B2 (en) * 2017-11-14 2022-12-06 Nec Corporation Measurement system, correction processing apparatus, correction processing method, and computer-readable recording medium
KR102180872B1 (ko) * 2019-05-17 2020-11-19 주식회사 누림 레이저와 광학 영상을 접목한 3차원 변위측정계

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000295602A (ja) 1999-04-05 2000-10-20 Nec Corp 被写体監視方法、被写体追跡方法及び装置
JP2007225423A (ja) 2006-02-23 2007-09-06 Basic Engineering:Kk 変位測定装置
US20120257792A1 (en) 2009-12-16 2012-10-11 Thales Method for Geo-Referencing An Imaged Area
JP2015224949A (ja) 2014-05-27 2015-12-14 株式会社アイティーティー 対象物計測装置及び対象物計測方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0763406B1 (de) * 1995-09-15 2000-02-23 Ersü, Enis Verfahren zum Bestimmen der Lage eines Körpers im Raum
US7496226B2 (en) * 2003-09-19 2009-02-24 University Of Miami Multi-camera inspection of underwater structures
US20150294496A1 (en) * 2014-04-14 2015-10-15 GM Global Technology Operations LLC Probabilistic person-tracking using multi-view fusion
US9704266B2 (en) * 2014-12-11 2017-07-11 Rdi, Llc Non-contacting monitor for bridges and civil structures
US10796425B1 (en) * 2016-09-06 2020-10-06 Amazon Technologies, Inc. Imagery-based member deformation gauge

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000295602A (ja) 1999-04-05 2000-10-20 Nec Corp 被写体監視方法、被写体追跡方法及び装置
JP2007225423A (ja) 2006-02-23 2007-09-06 Basic Engineering:Kk 変位測定装置
US20120257792A1 (en) 2009-12-16 2012-10-11 Thales Method for Geo-Referencing An Imaged Area
JP2015224949A (ja) 2014-05-27 2015-12-14 株式会社アイティーティー 対象物計測装置及び対象物計測方法

Also Published As

Publication number Publication date
JPWO2018056206A1 (ja) 2019-07-04
US20210295540A1 (en) 2021-09-23
WO2018056206A1 (ja) 2018-03-29

Similar Documents

Publication Publication Date Title
JP6576945B2 (ja) 較正装置、較正方法、光学装置、撮影装置、投影装置、計測システムおよび計測方法
JP6675478B2 (ja) 較正装置、較正方法、光学装置、撮影装置、投影装置、計測システムおよび計測方法
JP6465789B2 (ja) デプスカメラの内部パラメータを算出するプログラム、装置及び方法
JP6363863B2 (ja) 情報処理装置および情報処理方法
CN110782496B (zh) 标定方法、装置、航拍设备和存储介质
CN113841384B (zh) 校准装置,用于校准的图表和校准方法
US20090141043A1 (en) Image mosaicing apparatus for mitigating curling effect
CN103841297B (zh) 一种适用于合成运动摄像载体的电子稳像方法
WO2021139176A1 (zh) 基于双目摄像机标定的行人轨迹跟踪方法、装置、计算机设备及存储介质
JP6641729B2 (ja) ラインセンサカメラのキャリブレーション装置及び方法
JP2015090298A (ja) 情報処理装置、情報処理方法
CN110419208B (zh) 成像系统、成像控制方法、图像处理设备和计算机可读介质
CN107809610A (zh) 摄像头参数集算出装置、摄像头参数集算出方法以及程序
JP2019032218A (ja) 位置情報記録方法および装置
WO2020181409A1 (zh) 拍摄装置参数标定方法、设备及存储介质
JP7067479B2 (ja) 変位計測装置、変位計測システム、変位計測方法及びプログラム
JP2020038550A (ja) ラインセンサカメラのキャリブレーション装置及び方法
KR101634283B1 (ko) 단일영상에서의 3차원 카메라교정을 통한 3차원 공간모델링 형성제어장치 및 방법
CN113330487A (zh) 参数标定方法及装置
KR101673144B1 (ko) 부분 선형화 기반의 3차원 영상 정합 방법
CN113052974A (zh) 物体三维表面的重建方法和装置
JP2017059998A (ja) 画像処理装置およびその方法、並びに、撮像装置
JP5925109B2 (ja) 画像処理装置、その制御方法、および制御プログラム
JP6355206B2 (ja) カメラキャリブレーション方法、カメラキャリブレーション装置及びカメラキャリブレーションプログラム
JP2019032660A (ja) 撮像システム、撮像方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190304

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210406

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210604

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20211021

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220411

R151 Written notification of patent or utility model registration

Ref document number: 7067479

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151